苹果M5 Ultra版Mac Studio交付 支持本地跑万亿参数模型
苹果M5 Ultra版Mac Studio于9月22日开始交付,最高支持512GB统一内存,并可通过多机集群运行分布式推理任务。苹果此前已演示四台Mac Studio联合运行一个万亿参数模型。苹果硬件主管Johny Srouji表示,企业买断设备后无需为每次推理请求支付按令牌计费的云端费用,对工作负载稳定的团队而言,本地算力的经济性可能优于长期租用云端GPU。
苹果最新发布的M5 Ultra版Mac Studio于9月22日开始交付,该产品最高支持512GB统一内存,并可多机集群运行分布式推理任务。苹果此前已演示四台Mac Studio联合运行一个万亿参数模型。
苹果硬件主管Johny Srouji向路透社表示,企业一旦买断设备,便无需为每一次推理请求支付按令牌计费的云端费用;对于工作负载稳定的团队而言,本地算力的经济性或优于长期租用云端GPU。
苹果对Mac Studio的定位发生根本性变化,从卖“能使用AI”的机器,转向卖“能运行AI”的机器。这一切换的核心是推理成本的结构差异:iPhone和Mac用户已经为芯片付过费,本地处理的任务不再需要额外的云端推理请求,而同样的逻辑正向企业端延伸。
M5 Ultra Mac Studio最高支持512GB统一内存,这一配置将于10月下旬到货。大内存让用户可以加载单块常规GPU装不下的模型,多台机器集群则能分担万亿参数模型的权重。苹果此前演示的4台Mac Studio运行万亿参数模型,使本地推理在技术上具备了替代部分云端GPU集群的可行性。不过,苹果演示之外的真正考验在于推理速度、并发用户数与总拥有成本相对云租赁的对比,这三项才是企业采购决策的关键变量。
Mac Studio不会在所有工作负载上取代数据中心GPU,苹果自身也在谷歌云上为部分高要求AI任务使用英伟达GPU。但英伟达不必失去现有订单,其相对叙事就可能改变:一旦更多推理跑在设备端或企业自有机器上,英伟达在增量AI活动中的份额就可能低于市场假设。
英伟达股价仍无中期趋势,困于宽幅区间并交易在区间顶部附近,而隐含波动率处于疫情前以来最低。低波动率通常反映市场对未来走势的高度确定,但推理叙事的潜在转变恰恰是一个变数,当前期权定价几乎没有为“推理向本地迁移”预留风险溢价。正因如此,高盛认为在盈利预期被下修之前,买入英伟达看跌期权是用低成本表达这一转变的方式;相对视角上,其偏好苹果看涨对英伟达看跌。
分析认为后续可关注10月下旬512GB配置到货后的实测推理速度与总拥有成本数据,以及企业客户对本地推理方案的采购反馈。
为什么重要苹果以本地推理切入AI硬件竞争,若推理任务向终端与企业自有机器迁移,英伟达在AI推理增量中的份额叙事可能生变,牵动相关产业链关注。
订阅《读懂财经》
每早 8 点一封,昨天国际财经大事一次读完。免费。