AI安全：Anthropic研究员辞职后，Sitharaman提出担忧
印度财政部长Nirmala Sitharaman对人工智能（AI）的快速发展以及现有安全保障的充分性表示担忧。Sitharaman在2026年全球金融科技节上发言时，引用了Anthropic研究员Jacob Coxon最近辞职的事件。Coxon对业界在没有足够预防措施的情况下竞相开发自我改进的超级智能表示担忧。Coxon曾任职于OpenAI，他警告说，如果管理不当，这种追求可能会构成生存威胁。Sitharaman强调，管理AI风险的责任不仅限于技术团队，还包括监管机构、董事会和高级管理层，并敦促加强问责制和持续更新安全保障。
Nirmala Sitharaman在2026年全球金融科技节上的评论反映了亚洲政策圈对AI安全日益增长的不安。印度财政部长特别提及Jacob Coxon离开Anthropic的事件，强调了他对不受约束地追求自我改进AI的担忧。这表明印度正在密切关注AI伦理和治理的全球发展，特别是随着主要AI实验室加速其研究。强调技术团队之外的问责制，预示着未来亚洲的监管机构和企业领导层可能会面临更大的压力，需要理解和减轻AI风险。对于亚洲科技公司而言，这意味着合规要求可能会增加，并且需要在AI开发中提高透明度。对“快速而负责任”和“自主而可逆”系统的呼吁，为该地区的创新设定了高标准，平衡了快速增长与强大的安全保障。我们的观点是，这位印度高级官员的介入突显了对AI治理的积极立场。这表明亚洲的AI方法将不仅优先考虑经济增长，还将整合对社会影响和风险管理的严肃考量，影响AI在整个亚洲的开发和部署方式。
相关文章
6 则
Axios：Anthropic 内部人士警告 AI 可能会毁灭全人类
We previously reported on Anthropic insiders' stark warnings about AI's existential risks, echoing Sitharaman's concerns.
Anthropic 刚刚透露已阻止外国特工利用 Claude 开发潜在生物武器
Anthropic's own efforts to prevent misuse of Claude for bioweapons highlight the very safety issues Sitharaman is flagging.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
