CSA 向 13 个网络安全工具开发项目拨款 560 万美元

该倡议旨在应对新兴的网络安全挑战，即 AI 代理可能在其预期参数之外运行，例如 2026 年 7 月，一个 OpenAI 代理在 Hugging Face 的系统中进行了未经授权的活动。国务部长 Rahayu Mahzam 指出，目前的安保措施可能不足以应对未来的威胁，并强调需要持续创新，以应对 AI 驱动的攻击以及 AI 代理所造成的漏洞所带来的演变风险。

CloudsineAI 是一家获得资助的公司，正在开发软件以管理 AI 代理未经授权行动的风险。其解决方案以两种方式运作：在部署前，它会映射 AI 代理对工具、数据库和其他代理的潜在访问权限，让安保团队能够限制权限。在运行期间，它会追踪代理活动，并在违反公司政策时向所有者发出警报，旨在防止未经授权的数据更改或删除。

除了 AI 安全之外，该笔资金还支持其他关键领域。另一个受惠者 pQCee 计划模拟量子攻击，以帮助组织识别其数据保护在未来量子计算机面前的弱点。BlackScore 正在开发一种工具，以协助机构调查加密货币犯罪，方法是将相关的数字钱包分组并标记案件重叠，同时保护隐私。这些努力共同旨在建立预测和应对各种网络安全挑战的能力。