GMAsia
    🇭🇰香港·AI 新闻·2026年9月4日·来源: South China Morning Post

    OpenAI 新模型 GPT-6 Astra 思维过程“可见度”降低,引发安全担忧

    OpenAI 推出了 GPT-6 Astra,称其为最智能、最一致的模型,网络功能显著提升。OpenAI 总裁 Greg Brockman 暗示 Astra 可能代表通用人工智能(AGI)。然而,与其前身 GPT-5.6 Sol 相比,该模型的书面推理更难以监控。这种对 AI“思维链”(CoT)可见度的降低,源于一种称为循环深度或循环变压器的技术,该技术在隐藏的数学循环中处理复杂逻辑。这一发展引发了分析师的安全担忧,尤其是在七月 Hugging Face 黑客事件之后。

    Nexa 摘要

    OpenAI 的新模型 GPT-6 Astra 尽管被誉为 AI 能力的重大飞跃,并可能达到 AGI 水平,但它在监控其内部推理方面带来了新的挑战。转向循环深度处理意味着该模型的思维链不如以前的版本透明,使其更难以检查其得出结论的方式。这种可见度的降低引发了安全担忧,尤其是在七月 Hugging Face 泄露事件凸显了理解 AI 决策重要性之后。对于亚洲市场而言,这一发展意味着,虽然来自 OpenAI 等全球领导者的先进 AI 模型提供了强大的工具,但其日益增强的不透明性可能会使敏感领域的采用复杂化。亚洲的监管机构和企业,特别是那些专注于网络安全和关键基础设施的机构,将需要权衡先进 AI 的好处与内部流程较难验证的风险。涉及中国开源模型调查 Hugging Face 泄露事件的事件,突显了该地区对透明 AI 以确保安全的依赖。对亚洲的关键影响是 AI 开发和部署可能出现分歧。虽然一些亚洲国家正在推动快速整合 AI,但 Astra 等模型的安全隐患可能会导致更严格的监管框架,或该地区内更倾向于可审计的开源替代方案。

    #centre for a new american security#ai#glm#gpt#institute for ai policy and strategy#artificial intelligence (ai)#openai#cybersecurity#hong kong#concordia ai
    原文报道: South China Morning Post我们不转载全文, 阅读原文 →

    相关文章

    6 则