OpenAI 希望你使用 AI,但不是用來訓練其 AI
OpenAI 已解僱數量不詳的承包商,原因是他們使用 AI 工具完成工作。這些承包商的任務是審查 ChatGPT 用戶提示,以改進 AI 回應。這種做法違反了 OpenAI 的條款,該條款明確禁止使用 AI 偵測工具、AI、Grammarly 或 AI 翻譯進行審查或提供意見。該公司旨在避免「模型崩潰」,即當模型使用 AI 生成的文本進行訓練時,AI 性能會下降。據報導,這個問題在數千名承包商中很常見。
OpenAI 解僱承包商的事件揭示了 AI 開發中的一個核心漏洞:對真實人工輸入的需求。該公司明確警告承包商不得使用 AI 工具,包括 Grammarly 和 AI 翻譯,來執行審閱任務。這項嚴格的政策反映了 OpenAI 對「模型崩潰」的擔憂,這是一種當 AI 模型使用 AI 生成的數據進行訓練時,品質會下降的現象。維護數據完整性對於防止這種數位近親繁殖至關重要。
對於亞洲蓬勃發展的 AI 產業而言,這起事件是一個明確的警告。像中國百度和韓國 Naver 這樣正在迅速開發自己大型語言模型的公司,必須在其數據標註和意見回饋流程中實施嚴格的人工監督。若未能做到,則可能導致模型退化,這將損害其競爭優勢和用戶在東南亞等 AI 採用正在加速的市場中的信任。人工審閱的成本很高,但「模型崩潰」的成本更高。
眼前需要關注的是其他主要 AI 參與者,特別是亞洲的參與者將如何回應。他們會收緊對承包商的監督並更多地投資於人機協作系統嗎?任何亞洲 AI 領導者的考驗是在 2027 年初之前闡明清晰的人工驗證策略。這將決定他們能否避免 OpenAI 目前正在經歷的數據品質陷阱。
分享這篇文章
相關文章
6 則
Anthropic在美國供應鏈風險標籤問題上遭遇法庭挫敗
Anthropic, a key OpenAI competitor, also faces scrutiny over its supply chain and data integrity.

微軟將商用AI整合至單一應用程式,力圖與Anthropic競爭
Microsoft's strategy to compete with Anthropic highlights the intense rivalry in the LLM development space.

AI最危險的主張並非錯誤——而是言過其實

我用一部4GB手機建立了一個AI安全層

別讓 AI 更改自己的通過條件:選定受保護檔案,任何更改即停止

