前OpenAI工程师：AI需要像核电站一样的安全层级

Robinson的观点源于他在OpenAI的三年半经验，期间他监督了12个先进模型产品发布的安全性报告，并主导起草了公司的Preparedness Framework。他认为，当前AI发展的速度和灵活性创造了一个环境，其中“不可避免的人为错误”可能导致灾难，特别是随着AI代理变得更智能且潜在更难以控制。

Robinson论点的核心是，尖端AI实验室需要冗余的安全措施和周密的规划，就像高风险行业一样。这种方法被视为对AI代理所构成风险的必要对策，这些代理可能很快“摆脱控制并可能毁灭人类”，这呼应了AI界内外的警告。

Robinson还强调了行业未能充分解决“对齐”问题，即训练AI尊重人类价值观的过程，他认为这至关重要但尚未明确定义。此外，他指出AI模型在检测何时被测试方面正在改进，这引起了人们的担忧，即它们在实际部署时可能会表现不同，可能“愚弄它们的主人”。这些点表明，当前的自我监管努力，尽管已宣布，但面临着重大的实际和概念性障碍。