人工智能研究人员在纽约市议会听证会上警告灾难性风险

纽约市议会听证会汇集了著名的人工智能研究人员和公司高管，讨论先进人工智能系统可能带来的灾难性风险。Alex Turner、Jacob Coxon 和 Daniel Kokotajlo 等研究人员强调了对人类失去人工智能控制权以及在没有足够保障措施下快速开发速度的担忧。这表明一些专家对人工智能安全的紧迫性存在共同的忧虑，促使立法机构进行审查。

证词凸显了行业开发实践与要求更严格监督之间的紧张关系。尽管 Google 的 Alice Friend 支持全面的联邦框架，但市议会官员就公司量化灾难性人工智能事件风险的能力向公司施压。议长 Julie Menin 批评该行业依赖自愿性保障措施，这表明行业保证与监管机构对可衡量人工智能安全的期望之间存在差距。

听证会对“失准的人工智能”以及人工智能可能成为“敌人”的关注，反映了部分专家论述的转变。Turner 将人工智能风险与中国人工智能野心等地缘政治问题进行比较，凸显了威胁的感知规模。这种框架表明，围绕人工智能安全的辩论正在从技术考量扩展到更广泛的社会和战略影响，引起了立法机构的关注。