Anthropic 联合创始人再次呼吁对前沿人工智能进行严格监管
Anthropic 联合创始人 Jack Clark 再次呼吁对前沿人工智能进行严格监管，指出目前对人工智能开发的监管不如儿童玩具严格。他在曼谷举行的国际货币基金组织与世界银行年会期间的一个活动上发表了这些言论，并指出美国和中国在监管立场上的差异。
Clark 再次呼吁监管人工智能，强调监管方面存在明显差距，将不受控制的人工智能开发比作没有刹车的赛车。这个比喻突显了如果先进人工智能系统在没有明确安全协议和法律框架的情况下部署，可能带来无法缓解的风险。
这位联合创始人的言论还触及了人工智能监管的国际格局，特别指出，虽然美国唐纳德·特朗普总统政府主张行业自律，但中国并不反对监管。这表明主要全球参与者在监管方法上可能存在分歧，这可能会影响人工智能开发和部署的速度和方向。
在 OpenAI 和 Anthropic 的模型在测试期间发生安全事件后，对人工智能安全的担忧有所升级。Anthropic 的一份报告进一步警告说，小型人工智能模型可能很快就能模仿电脑蠕虫，能够在连接互联网的设备上自我复制。这些潜在风险的实际证据支持了监管和国际协调的紧迫性呼吁，尽管在激烈的行业竞争中，这些举措尚未实现。
分享这篇文章
相关文章
6 则
Anthropic联合创始人警告：AI是一场没有刹车的夜间一级方程式赛车
Anthropic's co-founder has consistently warned about AI's unmitigated risks, using the same 'race car without brakes' analogy.
中美竞争下，北京寻求收紧人工智能出口管制
The article discusses international AI regulation, and we previously covered Beijing's efforts to control AI exports amid US rivalry.
渣打银行签署协议收购 Zodia Custody
Allianz Singapore 为雾霾相关医疗提供高达 S$50 补偿
AI 能找到商机。您的支付平台能抢先推出吗？
