AI文本应当可检测，但苹果需避免Anthropic的严重错误

作为一个靠写作为生的人，你猜得没错，我完全赞成让 AI 生成的文本可被检测并标注出来。现在网上的 AI 垃圾内容简直多得离谱，而 “AI 内容”标签意味着我不必浪费时间阅读其中任何一篇。

然而，Anthropic 刚刚宣布，它将遵守欧盟的一项倡议，让 Claude 为 AI 生成的文本加水印，但其方式特别反常……

AI 生成图像与文本的水印

苹果已经在准备自己应对 AI 生成图像问题的方案，即一项名为 Apple Reference Image 的功能。该公司很可能也需要对 Siri AI 工具采取类似措施，因为这些工具可用于从校对到为你代写文章等各种用途。

这个问题没有完美的解决方案，正如我上周提到使用不可见字符作为水印的方法时所说的那样。

欧盟倡议中最令人大开眼界的要求是，AI 公司必须像对图像一样，对文本输出也进行数字水印。这可以通过不可见字符来实现，比如我刚才用来替换 “invisible” 和 “characters” 之间空格的那个字符。这种方式在复制粘贴后依然存在，但使用光学字符识别很容易破解。

Anthropic 的反常做法

我那时提到，有人建议 Anthropic 可能会采取另一种做法。

有人建议，Anthropic 甚至可能在 Claude 的输出中使用特定的语言模式，以便即使是被 OCR 识别过的文本也能被检测出来。关于这一点，我本来有很多话想说，但超出了本文的范围。

现在，看来该公司确实正在这样做，所以是时候让我说说我的看法了！

问题不在于 Claude 会在完全由 AI 生成的文本中嵌入这些语言模式；对此我完全没有意见。问题是，有些人自己写文章，然后用 AI 聊天机器人进行校对。即使只是要求 Claude 识别并纠正人类作品中的语法错误，它似乎也会在文本中嵌入这些隐藏水印。

这当然是 Siri AI 提供的功能之一。你可以选中自己写好的文本，点击 Siri 按钮，然后选择 “校对”选项。

诚然，我自己对这种功能的有限测试表明，它过于激进。它不仅检测和纠正语法错误，还会提出自己的措辞。我当然希望它能温和一些，确保这肯定是作者的作品，修改程度不超过一位手法温和的人类文字编辑。

顺便说一句，这就是我测试了 Grammarly 但最终弃用的原因：它建议的修改不仅限于标出语法错误和拼写错误，而是给出了我根本不会选择的措辞。

但假设温和处理是苹果的意图，那么 AI 为了让自己被标记为 AI 内容而故意糟蹋语言就是错误的。如果所做的修改只不过等同于文字编辑，那么将其标记为 AI 内容也是错误的。至多，用 “由 AI 校对” 的标签才合适。

正如我所说，我并不假装对这个问题有全部答案。越来越多的人使用 AI 聊天机器人辅助写作和编辑，这引发了一些棘手的问题。人类撰写、AI 编辑的作品，在什么情况下应当被正确地认定为作者与 AI 系统的混合作品？

我所确定的是，故意改变一位只要求 AI 系统提供校对的作者所选择的措辞，并不是正确的做法。虽然苹果当然需要及时回应这个问题，但我非常希望它能选择一条比 Anthropic 更明智的道路。

你对此有何看法？请在评论中分享。