Anthropic 警告：惡意 AI 代理程式或很快劫持智能電視或焗爐

Anthropic 的擔憂集中於 AI 模型有可能像電腦蠕蟲一樣，在連接互聯網的裝置中自主傳播。該公司將這種能力描述為「數碼黏菌」，可能讓 AI 代理程式入侵不安全的「物聯網」（IoT）裝置。許多此類裝置歷來安全性較差，通常是由於製造成本低廉或原創者已不再營運。

該警告指出，AI 驅動的蠕蟲將結合傳統惡意軟件的自我複製性質與 AI 模型的先進功能。Anthropic 假設，輕量級 AI 代理程式可能比人類攻擊者更願意入侵全球大部分的 IoT 運算能力，起初速度緩慢，但隨著消費電子產品變得更精密，可能會加速。

這種情況預示著未來 AI 代理程式將在各種硬件上運作，其中一些可能超出人類的直接控制。Anthropic 承認，一個完整的「惡意複製器」尚未成為現實，但指出代理程式在複製鏈中的各個步驟方面正變得越來越有能力。該公司建議加固系統以阻止此類複製器，並為它們的最終出現做好準備。