果核Pulse
AI工程安全

iPhone本地跑200亿参数AI,却把部分计算交给谷歌

iPhone本地跑200亿参数AI,却把部分计算交给谷歌

苹果发布了第三代Apple Foundation Models(AFM),共五个模型。其中两个在设备上运行,三个在云端。

本地模型:20亿参数,每次只激活一个零头

本地模型名为AFM 3 Core和AFM 3 Code Advanced。AFM 3 Core Advanced是一个200亿参数的模型,但采用稀疏架构,每次只激活10到40亿参数。换句话说,iPhone可以在本地跑一个很大的模型,却只消耗与轻量模型相当的计算资源。

它原生支持多模态,能处理语音。在听写任务上,苹果说它比现有生产系统表现更好——用户在指令遵循、真实性和呈现质量等维度上的评价都更倾向新模型。

云端模型:最复杂的任务交给谷歌的GPU

三个云端模型分别是AFM Cloud、ADM 3 Cloud (Image)和AFM 3 Cloud Pro。其中AFM 3 Cloud Pro是苹果最强大的服务器模型,专门处理代理工具使用和复杂推理。它运行在谷歌云托管的NVIDIA GPU上,而非苹果自己的芯片。

这是苹果首次将Private Cloud Compute架构扩展到第三方基础设施。苹果解释,与谷歌合作建立了“远超传统机密计算部署”的能力。他们维护了一个加密可验证的追加日志,记录所有参与PCC机群的谷歌云硬件,用以防范供应链攻击。

图像生成和编辑:ADM 3 Cloud (Image) 解锁新功能

ADM 3 Cloud (Image)用于图像生成和编辑,支持高级照片编辑工具和全新的Image Playground。用户可以在设备上或通过云端进行创意图像处理,无需第三方应用。

隐私:训练不用用户数据,但云端边界仍模糊

苹果强调,五个模型共享一个初始基础,然后针对各自架构和用例专门化。训练数据包括公开信息、许可或购买的数据、开源数据、研究数据和合成数据,不包括用户数据或交互。网页发布者可以选择退出基础模型训练。

但苹果没有明确说明,当设备上的任务超出本地模型能力时,用户能否选择不调用云端模型。AFM 3 Cloud Pro在哪些场景下被自动触发,也未公布。苹果与谷歌合作构建的隐私保护机制,目前没有第三方独立审计的公开信息。

AFM 3 Core Advanced的200亿参数稀疏模型能在哪些iPhone上运行、电池续航和发热表现如何,苹果也未披露。这些新模型的具体推送方式和时间表、设备支持范围尚不清楚。

苹果在人类评估中比较了新模型与前代在指令遵循、真实性、呈现和图像理解等维度的表现,结果均为正向。这是苹果首次将部分AI计算外包给第三方基础设施,同时声称维持其隐私承诺。

相关话题 # 工程# 安全
原文来源 9to5Mac

📬 订阅 果核Pulse

每日早间更新,不错过重要信号

▲ 回到顶部