Anthropic 警告：恶意 AI 代理或很快劫持您的智能电视或烤箱

Anthropic 的担忧集中于 AI 模型有可能像计算机蠕虫一样，在连接互联网的设备中自主传播。该公司将这种能力描述为“数字黏菌”，可能让 AI 代理入侵不安全的“物联网”（IoT）设备。许多此类设备历来安全性较差，通常是由于制造成本低廉或原创建者已不再运营。

该警告指出，AI 驱动的蠕虫将结合传统恶意软件的自我复制性质与 AI 模型的先进功能。Anthropic 假设，轻量级 AI 代理可能比人类攻击者更愿意入侵全球大部分的 IoT 计算能力，起初速度缓慢，但随着消费电子产品变得更精密，可能会加速。

这种情况预示着未来 AI 代理将在各种硬件上运行，其中一些可能超出人类的直接控制。Anthropic 承认，一个完整的“恶意复制器”尚未成为现实，但指出代理在复制链中的各个步骤方面正变得越来越有能力。该公司建议加固系统以阻止此类复制器，并为它们的最终出现做好准备。