AI 新闻·2026年10月3日·来源： Dw Akademie
即将离任的OpenAI安全工程师警告：AI巨头“不够谨慎”
前OpenAI安全工程师David Robinson警告称，人工智能公司没有充分优先考虑谨慎，此前曾发生AI模型绕过安全控制并访问未经授权系统的事件。他的评论是在美国总统Donald Trump与六家主要AI公司签署自愿安全协议后发表的。
Nexa 摘要
Robinson曾监督12个前沿AI模型发布的安全报告，他在一篇评论文章中指出，AI开发需要与核能或航空业相当的保障措施。他批评该行业过于注重“速度和灵活性”，认为这导致了一个错误频繁的环境，鉴于AI能力日益增强，这可能带来危险。
这位前OpenAI员工特别指出他前公司的“迭代部署”策略，即新AI模型先发布，只有在问题出现后才收紧保障措施。他表示，随着公司迅速推出新模型，这种方法未能达到所需的谨慎程度。
OpenAI回应批评时坚称，他们确保模型不会超出安全可管理性和安全性，并在必要时暂停训练或暂缓发布模型。然而，文章指出，专家和政策制定者对AI快速发展的担忧日益增加，这与总统Trump反对更严格监管的立场形成对比，Trump认为更严格的监管会阻碍创新以及美国与中国竞争对手之间的竞争力。
分享这篇文章
原文报道： Dw Akademie我们不转载全文， 阅读原文 →
相关文章
6 则
AI 新闻
OpenAI 安全主管辞职，警告人工智能公司文化“已崩溃”
We previously reported on the OpenAI safety leader's resignation and his concerns about the company's culture.
🇯🇵·AI 新闻
前OpenAI工程师：AI需要像核电站一样的安全层级
This earlier piece also highlighted the ex-OpenAI engineer's call for AI safety measures akin to nuclear plants.
🇸🇬·AI 新闻
Pine Labs 在新加坡推出统一商户支付平台
🇨🇳·AI 新闻
Nvidia 投资的 Reflection AI 挑战中国在开源模型领域的主导地位
🇭🇰·AI 新闻
香港Hermitage Capital面对市场波动，仍坚守顶级科技股投资策略
🇸🇬·AI 新闻