凯明格资讯网凯明格资讯网

苹果很感兴趣!美初创公司将阿里270亿参数量模型压进iphone

财联社7月10日讯(编辑 史正丞)对于坚定推行“端侧AI”战略的苹果苹果而言,一家美国初创公司的感兴公司最新技术突破,有望彻底打破iPhone在“AI智能”领域的趣美性能瓶颈。

最新消息指出,初创参数美国初创企业 PrismML宣布,将阿进已成功将阿里巴巴开源大语言模型 Qwen 3.6的亿量模270亿参数版本进行极致压缩,使其能够在 iPhone 17 Pro上流畅运行。型压该公司透露,苹果这款专为iPhone优化的感兴公司“压缩模型”具备处理复杂对话、逻辑推理、趣美完全自主执行智能任务以及软件编程等高阶能力。初创参数该开源模型预计将于下周二正式开放下载。将阿进

参数量是亿量模衡量大模型处理复杂问题能力的关键指标。目前,型压受限于处理器算力与移动设备显存容量的苹果双重制约,绝大多数智能手机和笔记本电脑仅能运行数十亿参数量的轻量级模型。

PrismML源自 加州理工学院的技术分拆,该校电气工程教授 哈西比(Hasibi)带领团队完成了实现“大模型压缩”所需的底层数学研究。加州理工学院持有相关核心技术的专利,并独家授权给哈西比创立的PrismML公司。

据悉,PrismML已将千问3.6大模型的体积从原本的 54GB大幅压缩至不足4GB。通常情况下,模型体积的剧烈缩减会导致性能显著下降,但该公司强调,其采用的压缩技术能够在保持模型体积大幅缩小的同时,完全不影响模型的实际性能表现

这种“在本地设备上运行AI”的技术路径,正是苹果公司近年来核心AI战略的关键所在。作为消费电子巨头,苹果在耗资巨大的云端数据中心建设竞争中保持低调,始终倡导将尽可能多的AI功能部署在终端设备本地,以保障隐私与效率。

然而,苹果在此领域的自主开发成果一直面临挑战。在今年的全球开发者大会(WWDC)上,苹果公布了基于谷歌Gemini模型的Siri升级方案,但其最复杂的功能依然依赖云端算力,需借助运行在谷歌云上的英伟达芯片支持。此前亦有报道指出,苹果曾尝试将模型压缩至可装入iPhone的程度,但发现模型能力出现严重退化。

横向对比来看,苹果新推出的某款本地AI模型虽宣称拥有200亿参数,但采用的是 稀疏架构(Sparse Architecture),即同一时刻仅有10亿至40亿个参数处于活跃状态。相比之下,PrismML声称其开发的本地模型能让 全部270亿个参数同时处于活跃状态,从而提供更强大的推理能力。

据熟悉相关谈判情况的消息人士透露,苹果公司已经与PrismML就技术合作与应用进行了深入沟通

PrismML首席执行官哈西比向媒体表示,他预测未来绝大多数人工智能处理流程将最终由本地设备完成。将模型缩小至可在本地运行的规模,将从根本上重塑人工智能的商业模式。

他说:“试想,也许三年后,你所需要的95%的智能服务都能在本地获取——无论是手机、笔记本电脑还是各类家用设备,而只有那最后5%的高端功能才需要依赖云端。”

哈西比还透露,PrismML计划继续挑战更大规模的AI模型压缩技术,目标直指 万亿参数级别的模型。这将使其技术能力进入OpenAI的GPT、Anthropic的Claude等前沿大模型所在的顶级竞争领域。

赞(393)
未经允许不得转载:>凯明格资讯网 » 苹果很感兴趣!美初创公司将阿里270亿参数量模型压进iphone