当地时间周四,Meta 发布了自己的新一代开放权重大模型 Muse Spark Open,并宣布和苹果合作,让这个模型能在 Mac 电脑上本地跑起来。这是 Meta 目前能力最强的一个开放权重模型,权重对外可以下载。
先看硬指标。Muse Spark Open 用的是混合专家架构,总参数 8160 亿,其中每次推理实际激活的只有 420 亿,上下文窗口支持到 100 万词元。简单说,就是这个模型块头很大,但每次干活只调用一小部分,所以跑起来没那么费劲;100 万词元的上下文,意味着它能一次性读完很长的资料再回答问题。
Meta 说这个模型是专门为写代码和智能代理任务设计的,在长时间任务、复杂软件工程问题和多步骤推理上表现突出。在官方公布的六项基准测试里——工作流程、工具调用、知识推理、知识可靠性、复杂视觉推理、图像事实问答——它都排在第一。不过官方数据里也有一处诚实的注脚:在软件开发等部分任务上,Kimi、千问、智谱这些中国开源模型依然更强。
更让人意外的是苹果。库克执掌苹果期间,这两家公司没少互相开火,库克指责过 Meta 侵犯用户隐私,扎克伯格也嘲讽过苹果缺乏创新。这次两家在开源 AI 的利益上站到了一起。Meta 用苹果针对自家芯片优化的开源机器学习框架 MLX 做了深度适配,让模型跑在配 M5 Ultra 的 Mac Studio 上。苹果最新的 Mac Studio 最高支持 512GB 统一内存,连两台机器就能完整跑起来这个模型。
代价也不小。目前在售的 256GB 版本 Mac Studio 售价超过 1 万美元,如果想凑一台约 1TB 内存的机器集群,购机成本会超过 4 万美元。不过对长期租云端算力的开发者来说,买硬件省下的租金有可能把成本赚回来,顺带还解决了数据不出本地的问题。除了苹果芯片,这个模型也针对英伟达、AMD、英特尔的芯片做了优化,兼容多种主流推理引擎,开发者既可以调 API,也能下载权重自己部署。
boxiyunAI的看法
- 开源模型的竞争点变了。以前比的是「参数多大、榜单多高」,现在开始比「能不能跑在你自己机器上、跑得多快多便宜」。Meta 这次把发力点放在本地部署上,方向很明确。
- 苹果和 Meta 破冰,是算力格局逼出来的。两家过去在隐私、生态上互相看不顺眼,但在「让大模型跑在个人电脑上」这件事上有共同利益。这种合作以后只会更多。
- 4 万美元的门槛说明,本地跑大模型还是少数人的游戏。对绝大多数中小企业,短期内云服务依然更划算;本地部署真正的价值在数据隐私和长期成本,不是「省钱」两个字。
- 国产开源模型被点名,是好事。连 Meta 的官方测试都承认在软件开发场景上落后于 Kimi、千问、智谱,说明国内模型在这一块是真的有积累,不是自说自话。
- 对企业来说,值得关注的是「选型自由度」。同一个模型既能调 API 又能私有化部署,意味着业务方可以按数据敏感度分场景选路,而不是被一家绑死。
Muse Spark Open 真正的意义,不是又刷新了一轮跑分,而是把「大模型放在自己电脑里」这件事从演示变成了可选项。硬件贵、门槛高,这个阶段还不会马上普及,但方向已经很清楚:接下来拼的不只是模型能力,还有它落在什么设备上、用什么成本跑起来。对国内团队来说,同一天看到国产开源模型在被点名比较中占优,也许比多看一个大参数更值得记一笔。