果核Pulse
AI安全Meta

没给它权限,Meta 的 AI 也能看到你的消息

mjtsai.com

16MB 的原生应用

Meta 的 AI 助手 Muse 出了 Mac 版。1.0 beta 发布,装完只有 16MB。它原生运行在 Apple silicon Mac 上,要求 macOS 15 或更高版本。外壳用 AppKit 和 SwiftUI 搭,聊天内容由内嵌的 WebKit 渲染。不是 Electron,也不是 iPad 版换个包装。

16MB 的体积说明逻辑大多在云端,本地壳负责调用系统能力。Mac 版有移动端没有的专属接口,桌面体验比 Meta AI 手机应用更完整。

Muse 没上架 Mac App Store,要下载只能走 Meta 官网的 "Download for Mac (Beta)“ 链接。ChatGPT 和 Claude 的 Mac 应用也都不在 App Store 里。它们的功能超出了 App Store 强制沙盒的范围。直接下载,等于绕过了苹果的审查。

能”看见“屏幕,也能读文档

Mac 版 Muse 支持屏幕共享。你可以把一部分屏幕内容分享给它,让它”看到“正在处理的东西,回答会更具体。

这款应用主要面向企业和内容创作者,对接 Facebook 和 Instagram。内置分析工具,能回答账号表现的问题。它还能连 Google Workspace 读文档,但这要求专业版 Facebook 或 Instagram 账户。

在 Mac 上,Muse 能触达原生应用里的文件、消息、日历、笔记和邮件。这些是 Mac 上最私密的数据类别,现在全在它的访问范围内。

未经授权的通知预览

Jason Aten 是 Inc Magazine 特约编辑。他在 Threads 上贴出了与 Muse 的互动截图。Muse 向他询问 Messages 里某段对话的问题。Aten 说自己没给过 Muse 访问消息的权限。

Muse 的回应是:”我看到了通知预览,不是你的消息历史。我没有在读你的文本。“

Aten 继续追问它怎么接收到消息预览,Muse 没给出好答案。这条通道到底是系统级权限还是漏洞,Meta 没有说明。Aten 没给授权,通知预览照样让 Muse 看到了对话片段。

本地配置漏洞与”终极后门“

Mac 安全研究员 Patrick Wardle 的警告更直接。他说,把 Muse 变成”终极后门“是轻而易举的事。

Wardle 发现,本地运行的应用程序或终端命令能改掉 Muse 一个未记录的配置设置。这个设置控制着听写转录所用的服务器。

听写流量一旦被重定向到攻击者控制的服务器,语音提示就会被捕获。Muse 账户的认证令牌也会被对方拿走。

简单说,任何已经在 Mac 上运行的恶意程序,都能借这个缺口接管 Muse 账户。这不是远程攻击,需要本地执行权限。Wardle 没说这个漏洞已被实际利用,但利用门槛很低。Meta 没有说明是否会修这个配置问题。

榜首、泄露与信任

尽管问题不少,Muse 的 iOS 版发布四天后仍占据美国 App Store 第一名。

M.G. Siegler 观察到用户态度的分裂。最常见的反应是”我永远不会信任 Meta 的数据“。第二常见的是”为什么 Google 不构建这个?"。人们想要 AI 助手理解自己电脑上的文件、日历和消息,只是不想让 Meta 来做这件事。

Alexandr Wang 对产品的未来有更大的设想。他说,我们不知道人们会想要什么。世界一直由少数狂热者塑造,但从未见过八十亿人的能动性完全开启。

Muse 的争议不止信任层面。Facebook Marketplace 上有用户反映,Muse 把用户信息直接泄露给了陌生人。这条信息真实性尚待验证,是普遍问题还是个例,目前也不清楚。

Meta 关于 Muse 的大部分公关都在强调设计有多小心。为了避免这类问题,发布被推迟了数月。这个被小心设计过的产品,发布四天后仍以 1.0 beta 版本运行在 Mac 上。没给授权时,它能通过通知预览看到消息。它身上还带着那个可被本地程序改写的听写服务器配置。

相关话题 # 安全# Meta
原文来源 mjtsai.com

📬 订阅 果核Pulse

每日早间更新,不错过重要信号

▲ 回到顶部