果核Pulse
AIOpenAI内容安全

欧盟AI输出将被自动加隐形水印,API可选用但默认关

mjtsai.com

从今天起,全球API客户可以为部分模型选择开启文本水印功能。功能默认关闭,开发者能在真实使用场景中检验它是否会影响文本输出。

未来几周内,欧盟地区的ChatGPT和Codex输出会被自动加上不可见水印。欧盟用户是否会被通知、能否选择退出,OpenAI没有明确说明。

该技术名为textGrain,目标假阳性率1%。在心理学等内容上,检测器对200个token的段落能识别约80%。对400个token段落,识别率约95%。短文本更难识别。

不过,目前没有一家公司公开提供可访问的水印检测器。技术评论者John Gruber对此持怀疑态度。这些措施在现实世界中可能不会像宣传的那样有效。他怀疑这只是为了合规欧盟AI法案做的表面功夫——没有提供任何实际可用的东西。

OpenAI计划将水印技术开源,以便其他人基于此构建。水印默认关闭,检测器不公开,技术即将开源。这套体系目前更像一个框架,离实际可用的验证工具还有距离。

相关话题 # OpenAI
原文来源 mjtsai.com

📬 订阅 果核Pulse

每日早间更新,不错过重要信号

▲ 回到顶部