Sam Altman 支持 Dario Amodei 推动 AI 安全,称「我们需要掌握前沿发展的节奏」
OpenAI 首席执行官 Sam Altman 公开支持 Dario Amodei 的 AI 安全倡议。Altman 强调,掌握前沿 AI 开发的节奏一直是 OpenAI 内部讨论的关键点。他主张独立评估员应享有类似员工的权限,以评估 AI 安全协议和系统。这一立场反映了业界对负责任 AI 开发日益增长的关注,以及在快速发展的人工智能领域中对外部监督的需求。此举旨在建立更大的信任,并确保强大 AI 模型能合乎道德地部署。
Sam Altman 认可独立 AI 安全评估员,并赋予他们员工级别的权限,这标志着领先 AI 开发商处理风险的方式发生了关键转变。这不仅仅是关于内部检查;更是关于对可能影响全球市场的模型进行外部验证。对于新加坡和首尔等亚洲 AI 枢纽而言,这表明未来的监管框架可能会要求国家 AI 安全机构具备类似的透明度和权限。在该地区开发或部署大型语言模型的公司应预计会面临更严格的审查,并可能需要将第三方审计整合到其开发周期中。正如 Altman 所指出的,推动掌握前沿 AI 开发的节奏,是对 GPT-4 等模型快速进步的直接回应。虽然西方公司在基础模型开发方面处于领先地位,但亚洲公司是重要的采用者和微调者。这里的风险在于,如果模型在没有足够外部审查的情况下进行扩展,缺乏标准化、经独立验证的安全协议可能会造成不公平的竞争环境,或使区域部署面临不可预见的风险。OpenAI 的这一举动可能会设定一个事实上的行业标准,影响从东京到班加罗尔的政策讨论。值得关注的是,独立评估员「类似员工的权限」这一概念将多快转化为具体的政策或行业最佳实践。如果腾讯或阿里巴巴等主要的亚洲科技公司采取类似的透明度措施,将加速全球走向更负责任的 AI 开发的趋势。反之,缓慢的采用可能会使区域市场容易受到未经充分审查的 AI 部署的影响。
相关文章
6 则
Anthropic 首席执行官呼吁在安全担忧下“放慢”AI 竞赛步伐
We previously covered Anthropic CEO Dario Amodei's call for 'pacing the frontier' of AI development.
Anthropic CEO 呼吁放缓 AI 竞赛步伐;Altman 和 Musk 表示支持
Our past reporting noted Altman and Musk's agreement with Amodei on slowing down the AI race.

《人民日报》驳斥美国恶意AI蒸馏指控,警告将采取反制措施

Databricks 将在新加坡投资逾 3.5 亿美元,员工人数翻倍

Personetics 推出适用于客户关系经理的 AI 银行控制台

