OpenAI 希望你使用 AI,但不是用来训练其 AI
OpenAI 已解雇数量不详的承包商,原因是他们使用 AI 工具完成工作。这些承包商的任务是审查 ChatGPT 用户提示,以改进 AI 回应。这种做法违反了 OpenAI 的条款,该条款明确禁止使用 AI 检测工具、AI、Grammarly 或 AI 翻译进行审查或提供反馈。该公司旨在避免“模型崩溃”,即当模型使用 AI 生成的文本进行训练时,AI 性能会下降。据报道,这个问题在数千名承包商中很常见。
OpenAI 解雇承包商的事件揭示了 AI 开发中的一个核心漏洞:对真实人工输入的需求。该公司明确警告承包商不得使用 AI 工具,包括 Grammarly 和 AI 翻译,来执行审阅任务。这项严格的政策反映了 OpenAI 对“模型崩溃”的担忧,这是一种当 AI 模型使用 AI 生成的数据进行训练时,质量会下降的现象。维护数据完整性对于防止这种数字近亲繁殖至关重要。
对于亚洲蓬勃发展的 AI 产业而言,这起事件是一个明确的警告。像中国百度和韩国 Naver 这样正在迅速开发自己大型语言模型的公司,必须在其数据标注和反馈流程中实施严格的人工监督。若未能做到,则可能导致模型退化,这会损害其竞争优势和用户在东南亚等 AI 采用正在加速的市场中的信任。人工审阅的成本很高,但“模型崩溃”的成本更高。
眼前需要关注的是其他主要 AI 参与者,特别是亚洲的参与者将如何回应。他们会收紧对承包商的监督并更多地投资于人机协作系统吗?任何亚洲 AI 领导者的考验是在 2027 年初之前阐明清晰的人工验证策略。这将决定他们能否避免 OpenAI 目前正在经历的数据质量陷阱。
分享这篇文章
相关文章
6 则
Anthropic在美国供应链风险标签问题上遭遇法庭挫败
Anthropic, a key OpenAI competitor, also faces scrutiny over its supply chain and data integrity.

微软将商用AI整合至单一应用程序,力图与Anthropic竞争
Microsoft's strategy to compete with Anthropic highlights the intense rivalry in the LLM development space.

AI最危险的主张并非错误——而是言过其实

我用一部4GB手机构建了一个AI安全层

别让 AI 更改自己的通过条件:选定受保护文件,任何更改即停止

