🇸🇬新加坡·AI 新闻·2026年11月12日·来源: Fintech News Singapore

    网络攻击后,银行能否安全地重启其人工智能代理?

    据路透社报道,法国贷款机构 Crédit Mutuel Arkéa 遭遇网络攻击,估计损失达 1 亿欧元。此事件凸显了银行面临的复杂挑战,特别是如何安全地恢复用于欺诈检测的人工智能代理。专家警告,传统的恢复方法可能会遗漏关键细节,即使恢复后也可能使系统容易受到攻击。

    网络攻击后恢复人工智能代理,不仅仅是恢复模型那么简单。Commvault 于 2026 年 6 月发布的报告《The AI Resilience Blueprint》将此识别为“上下文差距”。当模型备份可能是旧版本,而准备其数据的脚本却在之后更新时,就会出现这种情况。恢复团队随后必须确定这些组件是否曾一起运行。此外,诸如账户备注等关键元素可能存在于单独的数据库或自行托管的模型注册表中,可能超出模型备份的覆盖范围。

    一个重大风险在于虚假细节如何在这些复杂系统中持续存在或传播。例如,一个被更改的备注可以通过多个代理传递,一个提取交易历史记录,另一个编写摘要。记住早期任务的代理可能会将此类细节带入后续案例中,并且具有写入权限的代理可能会将被篡改的信息保存到其他系统中。Akto 于 2025 年进行的《Agentic AI Security 状况调查》发现,只有 17% 的受访组织持续监控代理之间的交换,这表明对这些交接的可见性有限。此外,恢复人工智能模型及其数据可能不会还原攻击者对代理权限的更改,从而使其保留未经授权的访问权限。

    为解决这些问题,Commvault 报告建议银行追溯训练数据的来源和处理方式,因为篡改可能会改变模型行为。它还建议使用人工智能代理恢复的记录系统,以在特定时间点将模型版本、数据、指令和权限绑定在一起。这种方法,结合代理活动日志,可以帮助识别被更改的备注何时首次出现。Deloitte 于 2026 年进行的研究表明,在受访的 3,235 名商业和 IT 领导者中,只有约五分之一的人认为他们的组织在管理自主代理方面拥有成熟的方法,这凸显了更广泛的挑战。

    在人工智能代理重新连接到客户系统之前,验证所有组件是否形成“已知良好状态”至关重要。这包括根据最初批准的访问权限检查恢复的权限,并使用已知欺诈案例测试代理的性能。Commvault 报告建议的此类恢复演练,可以帮助确认恢复设置的完整性,并为将代理重新投入工作提供可验证的基础,尤其是在面临董事会、审计师或监管机构审查时。

    分享这篇文章

    原文报道: Fintech News Singapore我们不转载全文, 阅读原文 →

    相关文章

    6 则