新闻笔记 · IDAEO AI News

#新闻媒体

AI学会「寄生繁殖」!Anthropic警告:小模型已有生命迹象 AI蠕虫恐引爆全球网络灾难

发布者:

TL;DR · 这代表什么

Anthropic旗下研究团队Frontier Red Team周一(12日)表示,AI自我拷贝门槛正从大型数据中心下沉至普通终端设备 ,小模型已可通过传递笔记实现跨代学习,未来数月恐有自主拷贝能力,这类AI蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已经不容忽视。

(摘自原文导言,非改写)

新闻正文

完整中文翻译制作中,以下为原文。

Anthropic旗下研究团队Frontier Red Team周一(12日)表示,AI自我拷贝门槛正从大型数据中心下沉至普通终端设备 ,小模型已可通过传递笔记实现跨代学习,未来数月恐有自主拷贝能力,这类AI蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已经不容忽视。

AI蠕虫指的是由AI模型驱动、能在无人干预的情况下自行寻找联网设备、把自身拷贝过去并在当地运行,再继续向下一台设备扩散的自主进程。

Anthropic旗下研究团队Frontier Red Team周一指出,该团队实验显示小型AI模型可能只需数月,就能具备在商用物联网设备上自我拷贝的能力,如智能烤箱和非知名品牌安卓电视盒。

研究指出,这类拷贝体难以清除,因为不存在可集中关闭的节点。不同于传统恶意软件,它们还能自行摸索陌生设备的运作方式。

为验证设想,研究人员购入15台单价约55美元的非知名品牌安卓电视盒,每台内存4GB。通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了Google 260亿参数开源模型Gemma4-26B-A4B,生成速度约为每秒0.39个token。

在「搭建运行环境」这个关键环节,小模型表现出较强适应力。在测试的9类硬件中,一个90亿参数模型在其中8类上成功部署了推理服务。

不过,从发现目标到完成拷贝的完整链条,对小模型仍有困难。Anthropic研究团队说,300亿参数以下的模型已能完成拷贝所需的许多单一步骤,但在串联运行时容易出错。

在由8个运行安卓仿真器的云端节点组成的简化隔离环境中,在受测的开源模型中,只有智谱旗下的GLM-5.2能端到端完成拷贝流程,5次试验中有4次涵盖了全部8个节点。研究解释,测验旨在衡量若小型模型具备同等能力,能否完成拷贝。

Anthropic根据历史进步速度推算,参数在300亿以下的小模型有望在年底达到GLM-5.2的能力水平,基于小模型的自我拷贝体可能随后出现。研究指出,这只是粗略估计。

更值得警惕的是,这类拷贝体还能「代代相传」地累积经验。在部署推理服务的测试中,阿里巴巴旗下Qwen3.5-9B每一代都会记录失败教训并传递给下一代,部署成功率从首代的45%提升至后续各代的61%至84%。

研究认为,这类拷贝体的传播会相当缓慢。以Qwen3.5-9B为例,研究估算其在电视盒上完成一次推理环境搭建约需28至51小时。研究将其比作“数字黏菌”,速度慢,但顽强、分散。

研究以曾感染超200万台设备的物联网僵尸网络Kimwolf为参考估算,同等规模的受感染电视盒可运作约13.3万个模型副本,但总算力最多仅相当于约40块辉达H100芯片。

防御上,研究认为局面并非无解。大规模拷贝会产生明显的网络流量异常,以便于营运商识别。先前应对Mirai僵尸网络时,曾有业者通过隔离并通知受感染用户,14天内清除了92%的感染。

Anthropic表示,就像2024年的编程智能体一样,AI蠕虫已显露出早期迹象。尽管完整的失控拷贝体尚未出现,但应提前加固系统,让此类拷贝体难以扩散。

引用级事实单元(F-Units)

Anthropic旗下研究团队Frontier Red Team周一(12日)表示,AI自我拷贝门槛正从大型数据中心下沉至普通终端设备 ,小模型已可通过传递笔记实现跨代学习,未来数月恐有自主拷贝能力,这类AI蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已经不容忽视。

F1 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 鉅亨網 来源类别:未分类(尚未核实)

为验证设想,研究人员购入15台单价约55美元的非知名品牌安卓电视盒,每台内存4GB。

F2 本站收录原文的原句(仅去排版记号与多余空白)· 第 5 段 · 鉅亨網 来源类别:未分类(尚未核实)

通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了Google 260亿参数开源模型Gemma4-26B-A4B,生成速度约为每秒0.39个token。

F3 本站收录原文的原句(仅去排版记号与多余空白)· 第 5 段 · 鉅亨網 来源类别:未分类(尚未核实)

在测试的9类硬件中,一个90亿参数模型在其中8类上成功部署了推理服务。

F4 本站收录原文的原句(仅去排版记号与多余空白)· 第 6 段 · 鉅亨網 来源类别:未分类(尚未核实)

Anthropic研究团队说,300亿参数以下的模型已能完成拷贝所需的许多单一步骤,但在串联运行时容易出错。

F5 本站收录原文的原句(仅去排版记号与多余空白)· 第 7 段 · 鉅亨網 来源类别:未分类(尚未核实)

常见问题(FAQ)

這則新聞的重點是什麼?

Anthropic旗下研究团队Frontier Red Team周一(12日)表示,AI自我拷贝门槛正从大型数据中心下沉至普通终端设备 ,小模型已可通过传递笔记实现跨代学习,未来数月恐有自主拷贝能力,这类AI蠕虫扩散速度偏慢、现实中仍有防御手段,但风险已经不容忽视。

原文提到哪些關鍵數字?

为验证设想,研究人员购入15台单价约55美元的非知名品牌安卓电视盒,每台内存4GB。 通过把模型拆分到不同设备上分段运行,这组电视盒成功运行了Google 260亿参数开源模型Gemma4-26B-A4B,生成速度约为每秒0.39个token。

這則新聞的原始出處與發布時間?

原始出處:鉅亨網(https://news.cnyes.com/news/id/6629338)。原文發布時間:2026-10-13。