Anthropic 行政總裁呼籲美國人工智能公司放慢前沿模型開發
Anthropic 行政總裁 Dario Amodei 提出了一項三階段計劃,旨在讓美國人工智能公司放慢前沿模型開發。該計劃包括在人工智能公司內部安插第三方評估員,讓他們擁有類似員工的權限。OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 和 Elon Musk 公開表示同意這項提案。此前,一名前員工曾指控 Anthropic 在開發速度上「拿生命冒險」。
儘管 Amodei 曾表示偏好政府監管,Anthropic 關於安插第三方評估員的提案是邁向行業自律的重要一步。OpenAI、Google DeepMind 和 Elon Musk 的公開同意顯示了主要參與者之間罕見的共識。然而,Microsoft 行政總裁 Satya Nadella 更為審慎的立場,強調廣泛代表性,預示著在誰控制開發進度方面可能存在潛在摩擦。
對於中東地區而言,這場辯論直接影響企業人工智能工具的部署和監管方式。阿聯酋和沙特阿拉伯的政策制定者正在平衡主權人工智能抱負與治理框架。任何由美國主導的關於評估員或開發限制的協調,都將塑造從杜拜到利雅得的企業合規預期,影響多年的 AI 投資和供應商盡職調查。
值得關注的是,這些自願性的行業承諾是否會在未來 12 個月內轉化為監管。參議員 Bernie Sanders 呼籲踩剎車,而不僅僅是放鬆,反映了日益增長的政治壓力。如果美國的監管強制要求第三方評估員,這將為人工智能治理樹立全球先例,影響 G42 和 Saudi Aramco 等公司的人工智能項目。
相關文章
6 則
Anthropic 阻止俄羅斯開發自主無人機蜂群
Anthropic's role in AI safety and its impact on global security is further explored in this past report.

《人民日報》駁斥美國惡意AI蒸餾指控,警告將採取反制措施

Databricks 將在新加坡投資逾 3.5 億美元,員工人數翻倍

Personetics 推出適用於客戶關係經理的 AI 銀行控制台

Anthropic 計劃十月在新加坡設立辦事處並進行本地招聘

