苹果联手PrismML：270亿参数大模型压缩进iPhone，本地AI时代来了？

苹果正在与硅谷初创公司PrismML进行早期洽谈，后者宣称能将大型AI模型压缩至可在iPhone上本地运行。若技术验证成功，这将强化苹果的隐私主张，并为其进展缓慢的Siri升级提供关键支撑。

PrismML是什么来头？

PrismML孵化自加州理工学院研究团队，并获得Khosla Ventures（硅谷知名风投，Vinod Khosla创立）支持。这家公司的核心能力就是AI模型压缩——将原本需要数据中心级硬件才能运行的大模型，压缩到手机、笔记本上直接运行。

PrismML首席执行官表示，苹果已开始评估其技术。洽谈尚处于早期阶段，但”进展顺利”。

压缩效果有多惊人？

PrismML于本周二公开发布了阿里巴巴开源模型Qwen的压缩版：

• 原始模型：约54GB
• 压缩后：不足4GB
• 参数规模：270亿参数全部保留
• 运行设备：iPhone 15及更新机型可直接运行

这意味着，原本需要8块GPU运行的云端模型，现在缩减到仅需1块GPU甚至手机就能跑。PrismML已免费发布两个压缩版本，兼容iPhone、MacBook及搭载英伟达芯片的PC。

公司表示，下一个压缩目标是谷歌的开源模型Gemma，随后还将处理需数据中心硬件才能运行的更大规模前沿模型。

为什么苹果需要这个？

消息发布正值苹果推出iOS 27公测版次日——这是苹果大幅改版Siri后首次面向公众的广泛测试，旨在与OpenAI和Anthropic的AI助手展开竞争。

对苹果而言，将更多AI运算留在设备本地意味着：

• 更低响应延迟：无需等待云端响应
• 更少云计算成本：减少服务器开支
• 无需联网即可使用：飞机、地下室等无网场景也能用
• 更强的隐私保护：敏感数据不出设备

这与苹果的核心隐私定位高度契合。Counterpoint分析师Pathak总结道：”云端与设备端AI的组合，能够提供更完整、更高效、更注重隐私的AI体验——复杂任务交由云端处理，敏感、时延敏感及隐私相关的任务则在设备端执行。”

模型压缩≠算力需求下降

需要指出的是，虽然PrismML的压缩方案能降低单一AI任务所需的内存或算力，但这不必然导致整体芯片需求下降。随着更多AI应用落地，总体算力需求可能反而上升。

模型压缩技术的真正意义在于 democratize AI（民主化AI）——让普通用户也能在消费级设备上体验大模型的能力，而不必依赖昂贵的云端服务。

结语

如果苹果与PrismML的合作成真，iPhone用户或许很快就能在手机上运行270亿参数的AI模型，Siri的智能化水平也将迎来质的飞跃。本地AI时代，可能比我们想象的更近。