等等,AI实验室采购Mac mini,竟然是以“吨”为计量单位?!
据The Information最新披露,OpenAI已购入数万台Mac mini和Mac Studio,目前仍在催促苹果持续供货。
Anthropic则采取了不同策略,从亚马逊AWS租赁Mac算力。根据网友估算,每台每小时约一美元出头,每月费用在五百到九百多美元之间。
租赁并不便宜,购买也不划算。从算力性价比来看,苹果芯片无法与英伟达抗衡,这一点几乎没有争议。
那么,目的何在?
这些设备被用于强化学习,训练的是能够自主操作电脑的Computer-use Agent。
数万台金属小盒,涌入AI实验室
训练Agent,需要让模型在真实电脑上实践。
成千上万台机器同时运行,模型在其中点击鼠标、打开应用、观察屏幕、犯错、重新尝试。
算力可以购买任何品牌的显卡,但有些任务只有Mac能胜任。
苹果的规定如下:
- macOS虚拟机只能在苹果自家硬件上运行
- 在Apple芯片的Mac上,一台设备最多同时开启两个macOS虚拟机
- AWS的EC2 Mac至今仍以“专用主机”形式提供服务,一租就是一整台物理Mac,最少按24小时计费,文档中给出的理由是苹果的许可协议如此要求
因此,要获取一万个macOS环境,就需要部署数千台真实设备。
苹果芯片产品高级经理Doug Brooks对此曾给出解释。
Agent需要一台完全由自己掌控、与主力电脑分离、且能连续运行数日不关机的机器。而Mac mini正是这样一套绝佳的系统。
这股需求有多强劲,从财报中可见一斑。
苹果最新一季Mac营收达到104亿美元,同比上涨29%,在所有产品线中增速领先。推动增长的,正是这款小巧的方盒子。
代价是供应短缺,最受AI开发者欢迎的几款配置已断货数月。
X平台上已有人庆幸自己的Mac Studio订单下得较早。
统一内存,加一颗不降频的风扇
仅有macOS环境还不够,设备本身必须能流畅运行大模型。
苹果芯片无法与英伟达GPU匹敌,但统一内存这一架构是其他厂商短期内难以模仿的。
CPU和GPU共享一个内存池,无需将大模型分割后塞入多张显卡再进行数据搬运。
在运行大模型时,“装得下”往往比“跑得快”更为关键。
M5 Ultra最高支持512GB统一内存,带宽达1.2TB/s。M6 Mac mini在LM Studio中的大模型提示处理速度,苹果称是M4的4.8倍、M1的13.5倍。
第二个优势是能承受长时间满载运行。
轻薄MacBook运行几十分钟后便会降频,而Agent执行的是7×24小时的任务,一跑就是好几天。
散热在这里直接决定了设备能否正常工作。
EXO Labs的开源方案能将多台Mac串联成集群,本地运行671B量级的模型。
社区中“Mac mini作为常驻家庭服务器”的教程层出不穷,甚至出现了按小时出租Mac算力的服务。
用Mac跑Agent,实际体验如何
大型企业购买它是为了堆叠机房。
普通人买回去,则是真要拿它干活的。
开发者Octavio Herrera花费一周时间,在他M4 Mac mini 32GB基础款上连续实测了6款模型。
- Qwen3-30B-A3B,MoE、Q4量化:24-30 tok/s,占用17.3GB
- GPT-OSS-20B:28-29 tok/s,占用11.3GB
- Gemma 4 26B-A4B:20-22 tok/s,占用14.6GB
- 稠密的Qwen3.8-27B:4.4 tok/s
- 对照组,DeepSeek v4-flash通过API调用:约57 tok/s
结果显而易见。使用入门级设备运行本地模型,MoE几乎是必然选择。
芯片算力是一方面,另一个限制因素是内存。
JetBrains那个完全在本地运行的编程Agent,仅自带的27B量化模型就要求64GB起步。
PCWorld的配置指南更直接,64GB就是最低标准。
X平台上有人对每一档配置进行了计算。
- 3499美元,M5 Max 64GB:Qwen3.6-27B跑30-40 tok/s。4K提示词约5秒处理完毕,修改一处500 token的补丁需13-17秒,端到端20秒。同样的任务在mini上需37秒
- 5099美元,M5 Max 128GB:带宽不变,模型池翻倍,MLX上运行80B的Qwen3-Coder-Next能达到75-90 tok/s
- 5499美元,M5 Ultra 96GB:内存未增加,芯片更快,同一个27B模型提升到48-80 tok/s,端到端压缩到10秒
- 11299美元,M5 Ultra 256GB:第一台能将DeepSeek V4 Flash完整4-bit装入单机的Mac,预计80-90 tok/s
根据Artificial Analysis的数据,GPT-5.6 Sol从云端服务是75-79 tok/s,Opus 4.8约58。
也就是说,一台放在桌上的Mac,输出速度已经追平最快的领先模型服务。
最近,库克在财报会上表示,“我们正处在内存定价的百年一遇洪水里,价格在指数级上涨”。
国行Mac mini一年多前那台性价比神机,售价是4499元。
现在的M6 Mac mini,起售价已升至6999元。
苹果不接单,老黄已站在门口
面对数万台的订单,苹果并未接单。
它近年来一直在退出企业市场。
2011年砍掉Xserve服务器,2022年停掉macOS Server,今年3月连Mac Pro都停产了。
它自己也用Mac芯片制造服务器,但仅供Private Cloud Compute使用。
有企业上门想购买这套算力,被拒绝了。
The Information还挖掘到一个更扎眼的细节:苹果根本没有一支专门服务企业客户的工程团队,也没有专人负责开发者关系。
今年4月离职的前苹果企业AI产品营销经理Todd Dailey直接批评。
他说,苹果有任何团队真有拥抱企业AI的计划,这是个笑话。
最热门的AI需求,最终被外包给了两家创业公司:webAI和由前OpenAI算力基础设施员工Peter Voell创办的Mount Thor。其中一家连官网都还没写完。
既然如此,那就别怪老黄不客气了——DGX Spark正是冲着Mac的软肋来的。
今年1月的CES上,它又发布了一版软件更新,性能比发布时最高提升2.5倍,甚至能挂在MacBook Pro旁边作为外接加速器。
企业和开发者反复提及它,理由很简单:随时有货。
而苹果这才有了反应。
往年Mac的年底更新安排在10月或11月,今年8月25日就推出了新Mac mini和Mac Studio,宣传语首次直接针对本地运行领先大模型和多机集群。
如今,AI实验室将Mac mini视为基础设施,而苹果仍将其当作台式机。
话说,你家那台mini,现在跑着什么?
参考资料:
https://www.theinformation.com/articles/apple-stumbled-ai-hardware-success-mac?rc=epv9gi
本文来自微信公众号“新智元”,作者:摩西,36氪经授权发布。
乐鱼体育专注乐鱼真人,为用户提供专业可靠的体验。