OpenAI 详述适用于 ChatGPT、Codex 及 API 的全新文本水印系统

OpenAI 的全新文本水印系统 textGrain 旨在通过巧妙地影响词语选择，使其具有统计学上的可检测性，从而识别人工智能生成的内容。这种方法与 Anthropic 早前为其 Claude 模型采用的方法相似，表明主要人工智能提供商之间日益增长的趋势，以应对人工智能输出的可识别性问题，特别是为了回应欧盟人工智能法案等监管要求。

textGrain 的推出将分阶段进行，最初允许全球 API 客户选择性地启用某些模型。对于 ChatGPT 和 Codex，水印将首先应用于欧盟境内的合格用户。OpenAI 还开放了其文本水印检测器的申请，该检测器最初将仅限于经批准的研究人员和专家组织使用，因为该公司正在评估和改进该技术。

然而，OpenAI 对其检测技术目前的局限性持开放态度。它承认存在误报和漏报的可能性，特别是对于较短的文本或词语选择受限的内容，例如数学领域。此外，该公司指出编辑会显著削弱水印；对 400 个词元段落的评估发现，替换 10% 的词语会使检测率从约 92% 降至 66%，替换 25% 则降至 17%。这表明，虽然水印是迈向透明化的一步，但它并非识别人工智能作者身份或防止错误归因的最终解决方案。