GMAsia
    AI 新闻·2026年10月6日·来源: Digital Watch Observatory·由 4 个来源报道

    OpenAI 根据《欧盟人工智能法案》推出文本水印功能

    OpenAI 于 2026 年 10 月 5 日开始分阶段部署其文本水印技术 textGrain。该系统将不可见的水印嵌入到人工智能生成的文本中,以便内部检测内容来源。根据《欧盟人工智能法案》,自动标记仅限于欧洲地区,而全球 API 客户则可选择启用水印配置。

    Nexa 摘要

    OpenAI 的 textGrain 系统旨在符合《欧盟人工智能法案》第 50 条的规定,该条款要求生成式人工智能供应商标记合成输出。这次分阶段的推出为机器生成的文本引入了统计来源追踪,初期重点放在欧盟,同时为全球企业 API 客户提供可选功能。

    然而,统计水印的有效性在受控环境之外面临重大挑战。OpenAI 的内部测试表明,对于较短的文本样本、数学等结构化内容,甚至轻微的改动,检测准确性都会大幅下降。仅用同义词替换 10% 的词语,检测率就可能从 92% 降至 66%;替换 25% 则降至 17%。

    人工智能检测工具,特别是统计水印固有的不准确性,带来了操作上的问题。尽管《欧盟人工智能法案》强制要求机器可读的来源,但自然语言检测的概率性质在法律要求和技术现实之间造成了矛盾。依赖封闭的商业检测工具也引发了关于公共透明度标准的质疑,因为其内部评估过程仍未经审计。

    分享这篇文章

    原文报道: Digital Watch Observatory我们不转载全文, 阅读原文 →

    相关文章

    6 则