AI 新聞·2026年10月6日·來源： Digital Watch Observatory·獲 4 個來源報道

OpenAI 根據《歐盟人工智能法案》推出文字水印功能

OpenAI 於 2026 年 10 月 5 日開始分階段部署其文字水印技術 textGrain。該系統將不可見的水印嵌入到人工智能生成的文字中，以便內部檢測內容來源。根據《歐盟人工智能法案》，自動標記僅限於歐洲地區，而全球 API 客戶則可選擇啟用水印配置。

Nexa 摘要

OpenAI 的 textGrain 系統旨在符合《歐盟人工智能法案》第 50 條的規定，該條款要求生成式人工智能供應商標記合成輸出。這次分階段的推出為機器生成的文字引入了統計來源追蹤，初期重點放在歐盟，同時為全球企業 API 客戶提供可選功能。

然而，統計水印的有效性在受控環境之外面臨重大挑戰。OpenAI 的內部測試表明，對於較短的文字樣本、數學等結構化內容，甚至輕微的改動，檢測準確性都會大幅下降。僅用同義詞替換 10% 的詞語，檢測率就可能從 92% 降至 66%；替換 25% 則降至 17%。

人工智能檢測工具，特別是統計水印固有的不準確性，帶來了操作上的問題。儘管《歐盟人工智能法案》強制要求機器可讀的來源，但自然語言檢測的概率性質在法律要求和技術現實之間造成了矛盾。依賴封閉的商業檢測工具也引發了關於公共透明度標準的質疑，因為其內部評估過程仍未經審計。

分享這篇文章

6 則