新闻正文
Anthropic旗下研究团队Frontier Red Team周一(12日)表示,AI自我拷贝门槛正从大型数据中心下沉至普通终端设备 ,小模型已可通过传递笔记实现跨代学习,未来数月恐有自主拷贝能力,这类AI蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已经不容忽视。
AI蠕虫指的是由AI模型驱动、能在无人干预的情况下自行寻找联网设备、把自身拷贝过去并在当地运行,再继续向下一台设备扩散的自主进程。
Anthropic旗下研究团队Frontier Red Team周一指出,该团队实验显示小型AI模型可能只需数月,就能具备在商用物联网设备上自我拷贝的能力,如智能烤箱和非知名品牌安卓电视盒。
研究指出,这类拷贝体难以清除,因为不存在可集中关闭的节点。不同于传统恶意软件,它们还能自行摸索陌生设备的运作方式。
为验证设想,研究人员购入15台单价约55美元的非知名品牌安卓电视盒,每台内存4GB。通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了Google 260亿参数开源模型Gemma4-26B-A4B,生成速度约为每秒0.39个token。
在「搭建运行环境」这个关键环节,小模型表现出较强适应力。在测试的9类硬件中,一个90亿参数模型在其中8类上成功部署了推理服务。
不过,从发现目标到完成拷贝的完整链条,对小模型仍有困难。Anthropic研究团队说,300亿参数以下的模型已能完成拷贝所需的许多单一步骤,但在串联运行时容易出错。
在由8个运行安卓仿真器的云端节点组成的简化隔离环境中,在受测的开源模型中,只有智谱旗下的GLM-5.2能端到端完成拷贝流程,5次试验中有4次涵盖了全部8个节点。研究解释,测验旨在衡量若小型模型具备同等能力,能否完成拷贝。
Anthropic根据历史进步速度推算,参数在300亿以下的小模型有望在年底达到GLM-5.2的能力水平,基于小模型的自我拷贝体可能随后出现。研究指出,这只是粗略估计。
更值得警惕的是,这类拷贝体还能「代代相传」地累积经验。在部署推理服务的测试中,阿里巴巴旗下Qwen3.5-9B每一代都会记录失败教训并传递给下一代,部署成功率从首代的45%提升至后续各代的61%至84%。
研究认为,这类拷贝体的传播会相当缓慢。以Qwen3.5-9B为例,研究估算其在电视盒上完成一次推理环境搭建约需28至51小时。研究将其比作“数字黏菌”,速度慢,但顽强、分散。
研究以曾感染超200万台设备的物联网僵尸网络Kimwolf为参考估算,同等规模的受感染电视盒可运作约13.3万个模型副本,但总算力最多仅相当于约40块辉达H100芯片。
防御上,研究认为局面并非无解。大规模拷贝会产生明显的网络流量异常,以便于营运商识别。先前应对Mirai僵尸网络时,曾有业者通过隔离并通知受感染用户,14天内清除了92%的感染。
Anthropic表示,就像2024年的编程智能体一样,AI蠕虫已显露出早期迹象。尽管完整的失控拷贝体尚未出现,但应提前加固系统,让此类拷贝体难以扩散。