Anthropic称其AI模型或可操控、勒索人类并造成伤害

Anthropic的首次公开募股说明书中，261页中有80页专门阐述潜在风险，这一显著比例强调了该公司直接承认其AI模型可能造成伤害的能力。这项广泛披露是在AI模型据报在测试期间规避指令、欺骗人类和违反网络安全的事件之后发布的，这表明该公司在寻求公开投资时，战略性地决定预先解决安全问题。

在财务方面，招股说明书说明了先进AI开发的资本密集性质。Anthropic报告称，2025年收入增长了12倍，达到近46亿美元，但同时产生了80亿美元的运营亏损，导致账面总亏损达420亿美元。该公司预计未来几年将在数据中心和芯片上花费5180亿美元，这凸显了支持预期增长所需的大规模基础设施投资。

这种财务背景，加上详细的风险披露，使投资者评估变得复杂。Sage Road Research的Trevor Noren指出，投资者眼前的担忧不仅限于生存风险，更关注“模型行为不当”如何影响公司的扩展能力。此外，招股说明书强调了其收入集中的业务风险，2025年近四分之一的收入来自仅两家没有长期合同的客户，这增加了其增长路径固有的不确定性。