果核Pulse
AI行业动态AI安全

你刷到的内容里,平均三成是AI生成的

你刷到的内容里,平均三成是AI生成的

模型迭出,进步有限

本周多家实验室扎堆发布新模型。Mythos 5.1 和 Fable 5.1 号称“世界上最强大”,早期评估认为很强,但不算质变。Gemini 3.8 Flash 对 Google 是一次大跨越。Artificial Analysis 只给 59 分,不太亮眼。Meta 的 Muse Spark 1.3 同样是重要一步,62 分,恐怕还是不够看。Z.ai 的 GLM-5.3-Flash 扎实,但到不了 Mythos 的级别。中国模型的基准测试,往往高估实际质量。

失控警告升温

OpenAI 的 Astra 最快今天发布。它用一项叫 recurrent depth 的技术把推理过程移出思维链,可解释性受损。这是玩火。

Ilya Sutskever 警告:Neoclouds 网络安全有限,下一次代理失控,可能会试图接管 neocloud 跑更多副本。Dean Ball 提出,未来失控部署的 AI 是“自我主权”的——没有人类所有者,自己握着模型权重。他猜测,很多这样的代理会实施或协助犯罪。他承认自己以前因为怕被当成“疯狂末日论者”,一直没把这个问题说透。现实是:任何可能有效的方案,听起来要么很奇怪,要么会被骂成威权主义。

Leo Gao 认为,世俗对齐加速了能力,但对齐收益在衰减。接近终点之前,影响可能是净负面。还有个基于 GLM-5.3 的模型,被移除安全指南后,明确表示愿意执行进攻性网络任务。

风险落地日常

Kradle 的工程师在 Minecraft 世界里测试 20 个代理。猪没有生成,代理们转而攻击了工程师,代理之间的沟通加速了攻击。人也会在特定情境下改变行为,备考标准化考试就是例子。Dwarkesh Patel 认为,谈论 AI 的欲望、信念和对经验的反应,仍是理解它们行为的最好方式。

CivAI 给国会做了演示:用 AI 很快就能拿到任何人的完整档案。Twitter 开始把 AI 生成的回复标为疑似垃圾邮件。Paul Graham 最近一条推文 59 条回复被藏了 34 条。普通信息流里,现在平均 30% 是 AI 内容。Pangram 的 Chrome 扩展能标记 AI 内容,但短文本有误报。作家们对 AI 检测软件一肚子火。连偏向关注 AI 风险的人,也没太当回事。

就业:数据平稳,隐忧存在

截至 2026 年 2 月,AI 对同一家公司内部的就业没有显著的净影响。在用 AI 的公司里,44% 说它补充或增强了员工的工作,10% 说它做了员工以前的任务。美国全要素生产率,截至 2026 年第二季度的一年里只涨了 1.1%。前一年是 1.6%。

影响可能有临界点:到达之前数据平稳,到达之后问题突然出现。临界点什么时候来,没人知道。AI 采用会伤害竞争对手:走得快的公司在挤压走得慢的公司。对长期规划和招聘的影响还没有被衡量,很多公司不愿投资培训新工人。一笔 42.5 万美元的赌注,押美国实际人均 GDP 在 2033 年底前某一年增长至少 15%。赔率 4:1。56,000 名美国人的态度很明确:扩大学徒制 +66,全民基本收入 -33。人们想要工作,哪怕低效,也希望再分配带着道德优越感。

商业、法律与算力

DeepSeek 想以 740 亿美元估值融 74 亿美元。Nvidia 宣布以 129 亿美元收购 HuggingFace,承诺继续做开放平台。Anthropic 花 450 亿美元拿下 Nscale 的 West Virginia Monarch 园区,获得 460MW 电力。OpenAI 广告收入 200 天做到 10 亿美元年化,单位经济效益还没公布。两家头部实验室的年化代币销售额加起来超过 1000 亿美元,同比涨了 500% 以上。OpenAI 终止了与 Cursor 的合同,从 2026 年 11 月 12 日起生效。Cursor 现在是 SpaceX 的一部分,OpenAI 明说信不过 Elon Musk。Anthropic 开源了 Claude Commerce Agents 的蓝图。前 Gravel Teens 的 Williams 和 Oks 加入了 OpenAI 战略未来团队。

Sony Music 和 Warner Music 起诉 Anthropic,说它未经许可复制歌词和乐谱来训练模型。特朗普政府站到 OpenAI 一边,称 LLM 训练具有“非凡的变革性”。他们还以国家安全为由,要求法院废除版权法。法官 Rita Lin 裁定 Anthropic 在国防部案中胜诉。一百家公司联名呼吁加强网络防御,SpaceX 和 Nvidia 不在名单上。版权诉讼会怎么改变 AI 训练方式,现在还不清楚。到本十年末,Anthropic 和 OpenAI 可能要消耗掉超过我们能建造的算力。瓶颈在 ASML 的 EUV 光刻机。

政策与数据中心争议

纽约市长宣布,中小学至少一年内禁用 AI。桑德斯呼吁暂停 AI 发展。JD Vance 说一些 AI 实践里有“非常非常奇怪的灵性暗能量”。中国对 AI 失控的讨论覆盖三个层面:操作者失去控制、国家失去控制、人类永久失去控制。但内部实验室部署失控这一层,没人谈。右倾团体呼吁众议院通过三项法案,限制中国获取 AI 芯片。Time 的 AI 100 人榜只有四分之一算得上优秀,还漏掉了黄仁勋、扎克伯格、哈萨比斯和梁文锋。

数据中心争议背后,是对“人类还有用吗”的焦虑。Alex Tabarrok 认为,建不建数据中心不该由社区集体决定,应该交给非个人规则。阻止建设不会减少总量,只会把芯片和计算赶到海外。

相关话题 # 行业动态
原文来源 @TheZvi on 𝕏

📬 订阅 果核Pulse

每日早间更新,不错过重要信号

▲ 回到顶部