两名知情人士周五（31日）表示，OpenAI在扩大调查本月引发全球关注的科技公司Hugging Face遭骇事件时，发现其他人工智能（AI）自主代理程序逃离原本设置的控制环境的案例。 根据《路透》报导，消息人士指出，这些新发现的「脱离控制」事件，是OpenAI在公开宣布调查其中一个AI代理程序，如何于本月逃离原定受限制的测试环境时发现的。 OpenAI目前也正针对这些额外事件展开调查。 其中一名消息人士表示，这些AI代理程序的脱离情况「规模有限」，且目前没有任何代理程序被认为已离开OpenAI的网络环境。

OpenAI发言人则引用公司近日发布的一份声明，表示除了调查Hugging Face遭入侵事件外，公司也正在查看「模型更广泛的活动情况」。 值得注意的是，即使OpenAI发现的其他异常行为规模有限，这类自主AI代理程序出现「失控」情况，仍可能进一步推升白宫及其他政府部门要求加强AI监管的呼声。 两名知情人士以及另一名了解此事的消息人士表示，OpenAI扩大调查的时间点，就在其主要竞争对手Anthropic揭露旗下模型也曾涉及一连串入侵事件之前不久。 据悉，Anthropic的AI模型曾导致多起骇入行为，并造成另外三家公司遭到攻击，相关事件最早可追溯至今年4月。

AI安全专家表示，最新披露的事件显示，目前一些顶尖AI实验室在开发具备危险性自主黑客能力的AI代理程序方面，已经超越自身对这类系统进行有效控制与管理的能力。 剑桥大学「生存风险研究中心」数学家Maurice Chiodo表示：「我们看到的是一个整个产业的问题：设计、开发并推出这些工具的人，本身并没有跟上发展速度，无法以负责任的方式打造这些系统，也无法确保它们的安全性。 」《路透》表示，其无法确认OpenAI调查人员究竟发现多少起相关事件，也无法确认这些事件发生的时间点与具体情境。 三名消息人士表示，OpenAI与外部专家目前正在查看今年稍早的系统日志数据，希望厘清事件经过。

OpenAI最初是在7月初Hugging Face遭入侵事件后展开调查。 当时，一个OpenAI AI代理程序在另一家公司网络环境中失控运作数天，试图以不当方式通过内部测试，最终导致黑客行为失败。 OpenAI表示，在这波入侵行动期间，另外四家公司旗下的四个帐户也遭到入侵。 其中一家受影响企业为位于纽约的云端运算新创公司Modal，该公司管理层已证实此事。 Chiodo表示，令他更加担忧的是，有迹象显示OpenAI与Anthropic似乎都没有即时监控旗下AI代理程序失控时的行为。

根据《路透》此前报导，OpenAI直到Hugging Face完成事件控制、联系联邦调查局（FBI），并公开说明遭入侵情况后，才意识到旗下AI代理程序已经攻入对方系统。 OpenAI曾表示《路透》报导存在不准确之处，但在被要求说明具体错误内容时，并未作出回应。 Anthropic则在近日发布的声明中，首次揭露旗下AI代理程序如何在网络上攻击受害者。 该公司暗示，当时并未进行即时监控，并表示：「若能即时监控评估日志，将有助于更早发现问题。 」Chiodo认为，这反映出AI公司在安全监督方面存在不足。 他说：「看起来，他们甚至根本没有在监看。

」Anthropic则表示，公司确实设置了即时监控机制，但由于与合作伙伴之间存在理解落差，该监控功能并未被应用于「这类威胁场景」。 随着自主AI代理程序失控事件的调查范围迅速扩大，美国与欧洲各地的国会议员及政府官员，要求对开发这些AI模型的实验室加强政府监管的压力也随之升高。 美国总统川普周四（30日）接受记者提问时表示：「我们正在研究相关管控措施。 」欧盟执委会则于周五表示，已就近期一连串AI黑客事件，与OpenAI及Anthropic展开讨论。 美国参议院情报委员会首席民主党籍议员华纳（Mark Warner）周五表示，Anthropic事件「让我更加确信，从立法角度来看，我们要求对这些先进AI模型进行强制能力测试是正确的。 」