新闻正文
多年对手因AI找到合作契机。苹果(AAPL-US)与Meta(META-US)周四(15日)宣布携手,让开发者能在高端Mac电脑上运行Meta新推出的开放权重模型Muse Spark Open,直接在自己的设备上写程序、分析视频及运行AI代理任务,不必将模型运算交给云端。不过,要把这套大型模型搬上桌面,现阶段硬件投入超过4万美元。
综合外媒报导,这项历经数月筹备的合作,出现在特纳斯(John Ternus)上月接替库克出任苹果首席执行官之后,也反映AI竞争正在改变硅谷长年的合作与对立关系。双方均未透露,这是否代表未来将展开更深入的合作。
大型AI搬上Mac 开发者不必全靠云端
Muse Spark Open采用混合专家架构,拥有8,160亿个参数,主要针对程序开发与AI代理任务设计。开放权重代表开发者可下载模型参数,在自己的硬件上运行,但仍须遵守授权条件;Meta表示,这款模型允许有限度的商业使用。
为配合合作,苹果更新MLX机器学习工具,让模型能跨多台Mac分摊运算,并公布相关技术文档与芯片性能测试。开发者可从Hugging Face等平台下载适用版本,不必再为苹果芯片额外调整设置,模型也已针对Mac硬件优化运行速度。
Meta AI主管汪滔(Alexandr Wang)表示,许多强大的开放权重模型体积太大,不适合多数个人电脑,但Mac Studio提供的内存容量,让运行Muse Spark Open变得可行。
双方表示,让模型直接在用户设备上运作,可增加数据安全保障,并降低对云端算力租用的依赖。这也让开发者在研究、应用程序开发与视频制作上,多了一项美国业者提供的模型选择。
免租云端有代价 硬件投入超过4万美元
要运行这款模型,用户须串联2至4台Mac Studio,整组设备合计至少具备1TB内存,并非一般单台Mac就能负荷。
目前搭载M5 Ultra芯片与256GB内存的Mac Studio,每台售价至少10,799美元;配备512GB内存的版本则预定本月稍晚推出。以目前配置计算,整套硬件成本超过4万美元,入手门槛并不低。
不过,对长期需要大量算力的应用程序开发者或企业而言,租用相近规模的云端运算资源,每月可能花费数千美元,因此自购设备仍可能随使用时间拉长而回本,实际效益则取决于使用需求。
Mac的优势之一,是芯片之间可共用大容量内存,搭配MLX串联多台设备,处理单机难以容纳的模型。Meta今年稍早也购买数百台Mac,供超级智能团队测试在电脑上运行AI与代理任务。
多年对手找到交集 Meta扩大开放模型布局
苹果与Meta长年关系紧张,尤其苹果2021年推出隐私政策变更,限制广告追踪能力后,双方冲突加深。Meta曾估计,这项改变将使其2022年营收减少约100亿美元。
汪滔表示,双方如今找到具有建设性的合作方式,并提到曾任苹果主管的Meta研究员格罗斯(Daniel Gross),是促成合作的重要人物之一。
对Meta而言,这也是去年重整AI团队后,第二款开放权重模型。公司8月先推出较小型的Muse Glimmer,本周稍早则发表专有模型Muse Wonder,持续同时布局开放与封闭模型。
不过,Muse Spark Open并非Meta最先进的产品,能力仍不及Muse Wonder。Meta也承认,中国开放模型在软件开发及部分其他任务上依然领先。汪滔表示,开放模型将在全球扮演重要角色,美国业者也应参与其中。
他并期待,企业与开发者先以这款模型进行小规模测试,之后再扩大使用。对苹果而言,这项合作则强化了Mac作为AI开发设备的吸引力,也让其芯片在大型数据中心之外,找到更多AI运算应用。