欧盟AI输出将被自动加隐形水印,API可选用但默认关
mjtsai.com
从今天起,全球API客户可以为部分模型选择开启文本水印功能。功能默认关闭,开发者能在真实使用场景中检验它是否会影响文本输出。
未来几周内,欧盟地区的ChatGPT和Codex输出会被自动加上不可见水印。欧盟用户是否会被通知、能否选择退出,OpenAI没有明确说明。
该技术名为textGrain,目标假阳性率1%。在心理学等内容上,检测器对200个token的段落能识别约80%。对400个token段落,识别率约95%。短文本更难识别。
不过,目前没有一家公司公开提供可访问的水印检测器。技术评论者John Gruber对此持怀疑态度。这些措施在现实世界中可能不会像宣传的那样有效。他怀疑这只是为了合规欧盟AI法案做的表面功夫——没有提供任何实际可用的东西。
OpenAI计划将水印技术开源,以便其他人基于此构建。水印默认关闭,检测器不公开,技术即将开源。这套体系目前更像一个框架,离实际可用的验证工具还有距离。
相关话题
# OpenAI
原文来源
mjtsai.com