AI 蠕虫与数字黏菌：Anthropic 斥资 1 亿美元押注部署 AI 工程师

Anthropic 的这项巨额投资凸显了行业日益关注将 AI 能力从实验阶段转移到实用、以业务为导向的应用。这表明了一种竞争驱动力，旨在开发能够在既定工作流程中执行实际任务的 AI，例如代码维护、技术故障排除和流程自动化，而不仅仅是展示先进的语言能力。

文章引入了“AI 蠕虫”和“数字黏菌”等概念，以阐明新出现的安全问题。具备 AI 功能的蠕虫可能会利用推理来适应并发现连接系统中的新漏洞，而黏菌类比则描述了自主代理的自适应网络。这些情景指出预测和遏制 AI 行动的复杂性，尤其当智能与访问权限、自主性和连接性结合时。

核心问题不仅仅是 AI 智能，而是当该智能被授予执行命令或访问敏感数据的权限时，如何放大现有漏洞。这要求安全专家不仅要考虑恶意 AI，还要考虑可能行为异常的合法代理。部署 AI 工程师的重点在于实用属性，例如可靠性、有效沟通和安全意识，这些对于在复杂生产环境中运作至关重要。