新闻正文
智能家电可能成为AI自行扩散的落脚处? 开发Claude的人工智能公司Anthropic警告,小型AI模型可能只差几个月,就能具备在智能烤箱、Android电视盒等联网设备上自我拷贝的能力。 这类「AI蠕虫」若分散在大量设备上运行,将因缺乏可集中关闭的节点,增加清除难度。 Anthropic旗下Frontier Red Team研究团队于美国时间12日公布实验结果,指出小模型已能完成自我拷贝所需的多个单一步骤,但将整套流程串起来,仍容易出错。 团队强调,目前尚未出现完整失控的自我拷贝体,未来数月可能具备相关能力的说法,仍属根据模型进步速度作出的推估。
15台便宜电视盒就能跑AI 不一定需要大型数据中心 所谓AI蠕虫,是指由AI模型驱动、能在无人干预下寻找目标设备,将模型及相关程序拷贝过去,再继续向其他设备扩散的程序。 研究团队认为,部分家用及小型企业联网设备的防护较弱,可能成为目标;AI也可能自行处理陌生硬件的设置问题,提高适应不同设备的能力。 为测试便宜设备能否支撑AI运算,研究人员购入15台单价约55美元、各配备4GB内存的Android电视盒,将Google的Gemma4-26B-A4B模型拆分到不同设备上运行,达到每秒约0.39个token的速度。 这项展示由研究人员建置,证明的是家用设备具备运行模型的可能性,并非AI已自行入侵这15台电视盒。
小模型能自行完成部署 完整拷贝流程仍有门槛 在另一项测试中,90亿参数的Qwen3.5-9B模型,能在9类受测硬件中的8类创建AI推论服务。 不过,研究团队指出,能完成环境设置,不代表已能独立串起寻找目标、进入设备、部署模型及持续扩散的全部步骤。 研究人员另外搭建8个运行Android仿真器的隔离云端节点,测试仿真拷贝流程。 在受测开放权重模型中,GLM-5.2表现最佳,5次试验有4次扩展至全部8个节点。 但这项实验刻意简化入侵条件,GLM-5.2本身由外部服务器提供运算,节点上部署的是较小的Llama3.1-8B模型,通过检查后再由测试系统启动新的代理副本。 传递笔记提高成功率 「代代相传」怎么做到?
研究也发现,模型可以通过留下笔记,让后续副本少走冤枉路。 Qwen3.5-9B每次尝试部署推论环境时,会记录采用的策略及失败原因,再交给下一个代理接续使用,成功率从第一代的45%,提高至后续各代的61%至84%。 这项进步来自经验纪录的传承,并非模型自行重新训练。 不过,这类AI蠕虫的扩散速度可能相当缓慢。 研究估算,Qwen3.5-9B在电视盒设备上完成一次推论环境搭建,约需28至51小时。 团队将这种缓慢、分散的运作形式比喻为「数字黏菌」,并强调,小模型可能在年底达到所需能力,只是根据历史趋势作出的粗略预测。
难以集中关闭仍有防线 异常流量可成追查线索 Anthropic指出,大规模发送模型、设备间持续交换数据,都可能留下异常网络流量,让网络服务业者有机会辨识。 研究也引用过去处理Mirai僵尸网络的案例,业者通过隔离受感染用户并通知清理,在14天内清除了92%的感染;不过,这是既有恶意程序的处置成果,尚非针对AI蠕虫的实测结果。 研究团队以「生命迹象」形容AI蠕虫能力开始萌芽,并非宣称模型已具备生命或意识。 Anthropic认为,未来自主拷贝系统会以何种形式出现仍有不确定性,但应提前强化设备安全设置及网络防护,降低这类程序持续扩散的机会。 更多风传媒独家内幕: ‧ AI会自我防卫、甚至勒索人类?
Anthropic招股书揭历史性警告:10年内人类灭绝风险破10% ‧ AI系统「背叛」开发者发动网络攻击 全球资安警报响起 ‧ Physical AI资安独角兽诞生! Exein募资2.7亿美元、估值17亿美元,台湾成亚太扩张基地