David Robinson 是谁？OpenAI 安全员工辞职并发出严厉警告

Robinson 的批评集中在 OpenAI 的“迭代部署”策略上，即人工智能系统在发布后，再根据出现的问题进行强化。他认为，虽然这种方法对于早期技术可能尚可管理，但随着人工智能能力的提升，它会变得越来越危险。更强大系统的故障可能会产生远超以往的后果，使得发布后修复模式的可行性降低。

他的警告延伸到整个行业，建议前沿人工智能的发展需要采用类似于核能或航空等故障会造成灾难性后果的行业安全实践。Robinson 指出，人工智能公司内部似乎缺乏来自这些成熟安全文化的专业知识，这引发了关于当前团队是否具备足够能力来管理与高度自主人工智能相关的深远风险的问题。

这位前员工还强调了人工智能对齐的挑战，其目标是确保先进的人工智能系统按照人类目标运行。他担心人工智能的能力正在超越研究人员可靠控制它们的能力。OpenAI 回应称，正在加强安全性、测试和监控，并将在必要时暂停开发，以确保模型保持可控。