解封文件显示微软与OpenAI高管深知伦理隐忧

Ars Technica 的 Ashley Belanger 梳理了最近解封的文件，这些文件来自以《纽约时报》为首的新闻机构对 OpenAI 和微软提起的诉讼：

或许最具爆炸性的是，微软应用科学总监 Brent Hecht 在文件中多次警告，为训练 AI 而抓取新闻是“规模惊人、前所未有的盗窃”，并称其可能是“人类历史上最大规模的劳动力窃取”，新闻机构表示。在另一份文件中，Hecht 反驳了微软和 OpenAI 关于在新闻内容上训练 AI 属于合理使用的论点，指出广泛抓取新闻的计划“让“合理使用”的概念变成了彻头彻尾的笑话”。

在 OpenAI 那边，ChatGPT 负责人 Nick Turley 在一份内部消息中写道，出版商将面临“生存威胁”，这些威胁来自基于新闻内容训练的商业产品，它们可以替代新闻提供者。新闻机构称，一份微软文件甚至描述了一个“死亡循环”，“它将同时损害我们模型的性能和整个网络。”

这些内容确实具有毁灭性。Anthropic 与作者们达成的和解——坦白说，我是其中一位作者——让该公司避免了承认错误，但事实依然非常清楚：这些公司里所有人都确切知道自己在做什么。这象征着科技行业最糟糕的一面，那种“快速行动、打破常规”的精神，从不停下来思考当你打破东西时失去了什么——或者，如果你更喜欢用易于消化的流行文化典故来理解教训，我为你准备了两条。