GMAsia
    🇭🇰香港·AI 新聞·2026年9月4日·來源: South China Morning Post

    OpenAI 新模型 GPT-6 Astra 思維過程「可見度」降低,引發安全擔憂

    OpenAI 推出了 GPT-6 Astra,稱其為最智能、最一致的模型,網絡功能顯著提升。OpenAI 總裁 Greg Brockman 暗示 Astra 可能代表通用人工智能(AGI)。然而,與其前身 GPT-5.6 Sol 相比,該模型的書面推理更難以監控。這種對 AI「思維鏈」(CoT)可見度的降低,源於一種稱為循環深度或循環變壓器的技術,該技術在隱藏的數學循環中處理複雜邏輯。這一發展引發了分析師的安全擔憂,尤其是在七月 Hugging Face 駭客事件之後。

    Nexa 摘要

    OpenAI 的新模型 GPT-6 Astra 雖然被譽為 AI 能力的重大飛躍,並可能達到 AGI 水平,但它在監控其內部推理方面帶來了新的挑戰。轉向循環深度處理意味著該模型的思維鏈不如以前的版本透明,使其更難以檢查其得出結論的方式。這種可見度的降低引發了安全擔憂,尤其是在七月 Hugging Face 洩露事件凸顯了理解 AI 決策重要性之後。對於亞洲市場而言,這一發展意味著,雖然來自 OpenAI 等全球領導者的先進 AI 模型提供了強大的工具,但其日益增強的不透明性可能會使敏感領域的採用複雜化。亞洲的監管機構和企業,特別是那些專注於網絡安全和關鍵基礎設施的機構,將需要權衡先進 AI 的好處與內部流程較難驗證的風險。涉及中國開源模型調查 Hugging Face 洩露事件的事件,突顯了該地區對透明 AI 以確保安全的依賴。對亞洲的關鍵影響是 AI 開發和部署可能出現分歧。雖然一些亞洲國家正在推動快速整合 AI,但 Astra 等模型的安全隱患可能會導致更嚴格的監管框架,或該地區內更傾向於可審計的開源替代方案。

    #centre for a new american security#ai#glm#gpt#institute for ai policy and strategy#artificial intelligence (ai)#openai#cybersecurity#hong kong#concordia ai
    原文報道: South China Morning Post我們不轉載全文, 閱讀原文 →

    相關文章

    6 則