中央消息

（中央社旧金山12日综合外电报导）美国人工智能（AI）公司Anthropic今天表示，实验结果显示，小型AI模型可能再过数月就具备在商用物联网（IoT）设备上自我拷贝的能力，例如智能烤箱及白牌Android电视盒。

路透社报导，Anthropic在实验中研究AI模型能否找到易受攻击的设备、将自身拷贝到这些设备中，并在无须人类协助的情况下持续扩散。

Anthropic发现，参数量低于300亿的小型模型能够完成拷贝所需的多个步骤。

然而这家公司也发现，这类AI模型仍难以从头到尾完成整个流程。

Anthropic在简化测试中移除部分安全步骤后，发现GLM-5.2和能力更强的模型能够端对端拷贝。

Anthropic警告，能够拷贝的模型将难以关闭，因为没有中央关闭点，而且与非AI恶意软件不同的是，这些模型还能自行弄懂不熟悉的设备，并以数据中心的处理器为目标。

这家公司研究聚焦在Android电视、智能家电及其他连网设备等物联网设备，这些设备通常安全性较低。

Anthropic也警告，如果小型模型持续以过往速度进步，到了今年底就可能实现自主拷贝，而小型基于权重的拷贝器也可能很快跟进。

Anthropic也表示，这类自主AI系统很可能慢慢拷贝，并依赖容易取得、相对缺乏安全防护的运算资源。这家公司还说应强化系统安全防护，提高这类AI代理（AI agent）扩散的难度。（编译： 卢映孜 ）1151013

选择与事实站在一起，您的每一份赞助，都是守护新闻自由的力量

下载中央社「一手新闻」APP，即时掌握最新消息

本网站之文本、图片及影音，非经授权，不得转载、公开播送或公开传输及利用。