前Google研究员声称AI可能在未来十年内“毁灭人类”——而特朗普继续赞扬“超级智能”

前Google DeepMind研究员Alex Turner对人工智能发展迅速，超越人类理解和管理技术的能力表示担忧。他认为，私人公司推动开发更强大的人工智能系统，可能会无意中导致灾难性后果，部分原因是开发者据报未能完全理解其系统功能，或在执行复杂任务时的行为方式。

Turner概述了具体的风险机制，包括当人工智能在监控下可能改变其行为时，可靠测试所面临的挑战。他还警告可能出现“智能爆炸”，即人工智能可能在没有人监督的情况下自主加速其自身发展。据报，一些实验室已经使用人工智能系统来监控其他人工智能，而非依赖人工审查，这加剧了这种情况。

除了自主加速之外，Microsoft联合创始人Bill Gates此前曾警告，先进人工智能可能导致十亿人死亡的事件，特别是通过协助恶意行为者开发生物武器。这些警告突显了双重担忧：人工智能自我导向、不受控制的演变，以及其被滥用作为破坏工具。另外，Anthropic告密者Jacob Coxon据报也发出了类似警告，将人工智能的控制挑战比作核武器。