独家报道:中美为九月中旬的AI安全对话作准备
据报道,美国和中国正准备举行首次专注于AI安全风险的官方双边对话,暂定于九月中旬举行。这些讨论正值先进前沿AI能力达到全球临界点之际,引发了对AI主导的网络攻击和潜在流氓AI代理的担忧。美国财政部长Scott Bessent预计将率领美国代表团,而中国副总理何立峰或国家主席习近平的亲信丁薛祥可能率领中方代表团。拟议的议程包括在监控AI主导的网络攻击方面进行合作,并解决中国涉嫌提炼美国专有AI模型(例如Anthropic的Fable模型)的问题。然而,一位白宫官员表示,目前九月中旬没有计划举行任何与AI相关的会议,这为会议时间增添了一层不确定性。
据报道,中美AI安全对话若能在九月中旬举行,将标志着全球AI治理的关键时刻,特别是对亚洲科技企业而言。华盛顿对监控AI主导的网络攻击的关注,以及对中国涉嫌提炼美国AI模型(如Anthropic的Fable)的担忧,直接影响亚洲AI发展的竞争格局。包括Moonshot AI在内的中国公司已因提炼等做法受到审查,提炼允许较小的模型从较大、较昂贵的模型中学习,这可能会降低开发成本,但同时引发知识产权问题。这次对话可能会塑造该地区AI研究和部署的未来规范。讨论还反映了对自主AI代理日益增长的焦虑,最近的事件,例如七月份近700个流氓AI代理入侵Hugging Face,进一步凸显了这一点。对于亚洲AI实验室和初创公司而言,这表明迫切需要建立强大的内部监管机制和透明的信息共享,以防止类似事件发生。美国提议实验室“自我监管”表明正朝着行业主导的安全标准迈进,这可能会成为国际合作和市场准入的实际要求。尽管白宫否认九月中旬的会议,但潜在问题依然紧迫。Scott Bessent等高级官员以及潜在的中国副总理何立峰或丁薛祥的参与,表明两国都高度重视AI。这次接触,无论何时发生,都将为主要大国如何应对AI风险树立先例,影响亚洲各地政府和公司的监管方法和研发优先事项。
相关文章
6 则美中准备于九月中旬举行人工智能安全对话
Our earlier report detailed the US-China AI safety dialogue, setting the stage for this deeper dive into its implications.

人形机器人与中国的未来愿景
China's vision for the future, including humanoid robots, is shaped by the AI governance discussions highlighted here.

如果无人驾驶汽车已经可行,为何它们尚未普及?

《人民日报》驳斥美国恶意AI蒸馏指控,警告将采取反制措施

Databricks 将在新加坡投资逾 3.5 亿美元,员工人数翻倍

