北京
根据欧盟《人工智能法案》，OpenAI将在欧洲为ChatGPT和Codex引入隐形文本水印。
OpenAI将开始为欧盟境内ChatGPT和Codex生成的文本添加隐形水印。此次推出旨在满足欧盟《人工智能法案》的透明度要求。
该系统在模型生成的文字中嵌入一种隐藏的统计信号。读者看不到水印，但OpenAI的检测器可以分析文本以寻找该信号的痕迹。
这项技术出台之际，各大AI公司正面临越来越大的压力，要求它们识别合成内容。两个月前，Anthropic宣布为Claude文本推出全球水印系统。
一些Claude用户对这一举措表示反对。他们认为，是用户提供指令、背景和决策，而AI仍然只是一种工具。
OpenAI此前也曾开发过文本水印技术，但推迟了发布。据报道，该公司担心用户可能会转向没有类似限制的竞争服务。
OpenAI瞄准欧盟用户
OpenAI将其系统称为textGrain。它通过微妙地改变生成过程中所选词汇的统计模式来发挥作用。该公司预计，未来几周内，水印将覆盖所有欧盟套餐中符合条件的ChatGPT和Codex用户。
全球API客户将获得一个单独的选项。他们可以为选定模型启用带水印的输出，而默认设置仍为关闭。
我们正在扩展内容溯源方法，以将文本纳入其中，以回应欧盟监管要求，同时我们也认识到当前文本水印技术的重大局限性。
我们的工具已经可以帮助验证图像或音频文件是否由我们的……
——OpenAI（@OpenAI）2026年10月5日
OpenAI也已开放其文本水印检测器的申请。研究人员和专家组织将率先获得访问权限。
这种谨慎的推出反映了当前检测技术的弱点。OpenAI表示，其检测器可能产生误报，也可能漏掉真正的水印。
编辑会削弱检测
OpenAI的测试表明，较长的段落让检测器更有机会找到该信号。在200个token的心理学段落中，它检测到水印的比例约为80%。
对于400个token的段落，这一数字达到约95%。在数学领域，结果显著下降，因为作者在措辞上的选择更少。
人工编辑带来更大的挑战。将10%的词语替换为同义词，会使检测率从约92%降至66%。
替换25%的词语会使检测率降至约17%。翻译和大量改写也会削弱该信号。
这意味着水印无法确定整段文字是由AI生成的。它也无法衡量最终文本中有多少人类工作。
阳性检测结果不会识别出文本背后的用户、账户或对话。它也无法说明准确性、所有权或责任。
水印缺失同样说明不了太多。短文本、编辑、翻译以及不受支持的模型都可能产生未被检测到的内容。
溯源有多种形式
OpenAI计划将textGrain作为开源技术发布，并继续测试其性能。该公司还希望研究翻译和编辑如何影响水印的持久性。
这项工作契合围绕AI溯源的更广泛行业趋势。Anthropic、谷歌、Meta、微软和OpenAI已承诺遵守欧盟针对AI生成内容的行为准则。
OpenAI已为支持的图像和音频使用内容凭证（Content Credentials）和隐形水印。文本则是一个更困难的工程问题，因为人们可以在不改变底层含义的情况下改写词语。
该公司表示，随着可靠性提高，将扩大检测器的访问权限。它还将随着技术证据和监管标准的发展调整其方法。
如果朋友们喜欢，敬请关注“知新了了”！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
