站点图标 AI Siri-苹果智能资讯网

苹果研发AI模型压缩技术:270亿参数大模型可装入iPhone

苹果研发AI模型压缩技术:270亿参数大模型可装入iPhone

苹果正在悄悄布局一场“瘦身革命”。据多家科技媒体报道,这家库比蒂诺巨头正在与硅谷初创公司PrismML进行早期接触。这家初创公司掌握着一项核心技艺:把动辄几十GB的庞大大模型,压缩到能在iPhone本地流畅运行的水平。如果技术验证成功,这将是苹果在AI时代的“防弹衣”——既加固了隐私护城河,也给了那个踟蹰不前的Siri一副真正的AI大脑。

PrismML的CEO证实,苹果已经开始评估其技术了。尽管洽谈尚在早期,结局不明,但“进展很顺”。这则消息出现的时间点很有意味——恰逢苹果推出iOS 27公测版的第二天。这是苹果大幅改版Siri后,首次面向公众的大规模压力测试,目的很明确:正面迎战OpenAI和Anthropic的AI助手。

对苹果来说,把AI计算尽可能留在设备本地,是一笔精明的账。这意味着更低的响应延迟、更少的云服务费用,以及——最关键的是——无需联网也能体验部分智能功能。这恰恰与苹果一贯高举的“隐私至上”大旗严丝合缝。

PrismML的公开亮相,给了外界一个检验其技术含金量的机会。这家孵化自加州理工学院、由Khosla Ventures捧场的初创公司,最近公开发布了一个压缩版的阿里开源模型Qwen。原来54GB的庞然大物,被它硬生生压到不足4GB。这意味着,一个拥有270亿参数的大模型,现在可以直接在iPhone 15及后续机型上运行了。

目前PrismML放出了两个免费压缩版本,兼容iPhone、MacBook以及搭载英伟达芯片的PC。据公司透露,下一个目标是谷歌的开源模型Gemma,随后会挑战一些原本只能依赖数据中心服务器才能跑得动的超大模型。

PrismML的方案听起来很诱人:原本需要8块GPU才能带动的云端模型,现在一块GPU足矣;原本绑死在服务器上的算力,现在能移植到你的手机或笔记本里。当然,这并不意味着AI总芯片需求会断崖式下降——它更多是在降低单次任务的门槛。

正如Counterpoint分析师Pathak所言,最理想的模型应该是“云端掌舵,端侧划桨”:复杂推理交给无处不在的云,敏感、延迟隐私相关的工作留在手里。苹果正在搭建的,正是这座连接本地与云端的桥梁。

苹果研发AI模型压缩技术:把270亿参数大模型装进iPhone

退出移动版