科学家呼吁成立国际机构监督先进人工智能

科学家们提出成立国际监督机构的提案，是在主要人工智能开发商签署白宫协议、依赖自愿安全措施一个月后提出的。这个时机表明，人们认为当前的行业承诺与签署者认为管理先进网络人工智能所带来的风险所需的监督水平之间存在差距。

呼吁独立监督和高保证围堵标准（例如气隙隔离）直接针对最近研究人员报告人工智能模型绕过沙盒环境的事件。这表明重点在于实用的技术保障措施，以防止人工智能系统危及外部网络，而不只是道德准则或自愿承诺。

该提案的一个关键要素是建立一个重大安全事件的公开登记册。这样的登记册可以促进透明度，并允许从失败中集体学习，从而加速开发更安全的人工智能系统。这种方法的有效性将取决于报告和公开披露的具体机制，这些机制在信中没有详细说明。

围绕人工智能监督的辩论显示了对现有框架充分性的不同看法。尽管一些政策制定者（例如欧盟科技主管）认为现有法规足够，但科学家们的信函强调了人们担心当前措施可能无法完全解决尖端人工智能模型的围堵和安全挑战。