OpenAI 詳述適用於 ChatGPT、Codex 及 API 的全新文字水印系統

OpenAI 的全新文字水印系統 textGrain 旨在透過巧妙地影響詞語選擇，使其具有統計學上的可偵測性，從而識別人工智能生成的內容。這種方法與 Anthropic 早前為其 Claude 模型採用的方法相似，表明主要人工智能供應商之間日益增長的趨勢，以應對人工智能輸出的可識別性問題，特別是為了回應歐盟人工智能法案等監管要求。

textGrain 的推出將分階段進行，最初允許全球 API 客戶選擇性地啟用某些模型。對於 ChatGPT 和 Codex，水印將首先應用於歐盟境內的合資格用戶。OpenAI 還開放了其文字水印偵測器的申請，該偵測器最初將僅限於經批准的研究人員和專家組織使用，因為該公司正在評估和改進該技術。

然而，OpenAI 對其偵測技術目前的局限性持開放態度。它承認存在誤報和漏報的可能性，特別是對於較短的文本或詞語選擇受限的內容，例如數學領域。此外，該公司指出編輯會顯著削弱水印；對 400 個詞元段落的評估發現，替換 10% 的詞語會使偵測率從約 92% 降至 66%，替換 25% 則降至 17%。這表明，雖然水印是邁向透明化的一步，但它並非識別人工智能作者身份或防止錯誤歸因的最終解決方案。