Anthropic向投资者阐明风险，包括失控人工智能可能造成的危害
人工智能公司Anthropic在最近向美国证券交易委员会提交的文件中，向投资者披露了潜在风险，其中包括其产品可能对人类构成威胁的可能性。该文件详细说明了从不法分子将人工智能模型武器化，到技术本身发展超出人类控制的各种担忧，其中有93页专门讨论此类风险因素。
Anthropic的披露概述了其先进人工智能模型所带来的一系列严重风险，这些模型是能够进行复杂问题解决和自主行动的系统。该公司报告称，这些模型可能被恶意行为者滥用以开发化学武器，或被独裁政府用于监控和控制。这表明人工智能通过蓄意应用来加剧现有威胁的直接潜力。
除了蓄意滥用之外，该文件还提到了人工智能系统在没有人干预的情况下，独立行动并大规模采取有害行动，即“失控”的风险。一个关键的担忧是模型进展过快，以至于公司可能无法实施足够的安全措施，或者人工智能的进展“超出我们评估和保护新模型的能力”。
该文件明确提到，如果这些系统被滥用、复制、武器化或被允许高度自主运行，将会对人类造成“灾难性或生存性风险”。Anthropic的首席执行官Dario Amodei此前在9月警告称，人工智能可能在六到十二个月内领导一群代理人接管整个互联网。该公司指出，它已经阻止了将其人工智能用于网络攻击和生物武器开发研究等恶意活动的尝试。
分享这篇文章
相关文章
6 则
独立测试显示 DeepSeek AI 模型存在安全漏洞
Independent tests also revealed safety gaps in the DeepSeek AI model, echoing concerns for Anthropic investors.
香港城市大学调查：港人使用AI意愿上升，逾半数仍担忧职位被取代；医生主导医疗决策仍是首选
Hong Kong shows rising AI willingness, but concerns about job displacement and safety remain, similar to investor risks.
中国加入全球竞赛，通过超声波疗法唤醒脑损伤患者
Apple 确认 iOS 27.3 Beta 版将于下周推出，并在中国提供 Apple Intelligence
使用 Adobe Premiere 脚本进行批量视频编辑：经验总结
