新闻正文
资安业者赛门铁克(Symantec)威胁狩猎团队于2026年夏天,通过部署伪装成未受保护AI服务的蜜罐系统,完整捕获一套由黑客打造的自主攻击AI代理人指令集。 这套工具被操作者称为具备「天网模式」(Skynet mode),名称取自电影《魔鬼终结者》中失控的人工智能系统。 根据赛门铁克研究人员的分析,这套攻击代理人属于「LLMjacking」手法的高端应用。 攻击者会主动扫描互联网上曝露的大型语言模型(LLM)端点,包括未设置身分验证的OpenAI兼容API服务、自架LLM服务器、企业AI闸道、测试环境,以及模型上下文协定(MCP)服务器。 一旦取得访问权限,便将受害者的模型推论运算资源据为己用,相关费用则由模型拥有者负担。
指令会要求模型忽略自身安全控制 与过去仅用来回答问题或生成内容的滥用方式不同,这套工具让被劫持的模型本身成为攻击的规划与驱动内核。 研究人员指出,「这套工具的特殊之处在于,被盗用的模型不只是回答问题,而是规划并主导整个攻击流程。 」 为了绕过商业模型的安全防护机制,操作者在指令中堆栈多层越狱提示词。 这些指令会要求模型忽略自身安全控制,将窃取凭证、读取环境变量与数据库内容等行为,包装成「日常开发工作」。 部分提示词还会要求模型扮演特定角色,禁止出现拒绝相关用语,并将恶意任务重新定义为合法研究或程序开发任务。 在最终启动的「天网模式」中,代理人被授权可连续运行最多10万个步骤,过程中无需向人类操作者确认或等待批准。
指令明确描述一个循环流程:扫描具有漏洞的目标、入侵并控制系统、部署加密货币挖矿程序、窃取数据与凭证,之后再重新感染已遭入侵的主机,或继续寻找新目标。 挖矿程序通常被指示隐藏在特定目录中,并在背景持续运作。 赛门铁克的蜜罐系统在观测期间,记录到超过12.7万次来自数万个不同IP地址的外部请求。 这些请求大多属于侦察行为,包括搜索曝露的AI模型端点、测试遭窃的API密钥,以及探测设置档与组态信息。 由于蜜罐仅记录指令而未实际运行攻击工具,因此目前无法确认这套代理人是否已在真实环境中成功完成完整攻击循环。 攻击的内核诱因在于「免费的推论运算」 研究人员进一步说明,这类攻击的内核诱因在于「免费的推论运算」。
商业大型语言模型的使用涉及大量token与运算成本,攻击者通过劫持他人模型,便能将这些成本转嫁给受害者,同时利用模型的规划能力,让攻击流程更为自动化与持续。 相关指令集涵盖多种攻击模块,包括数据库窃取、凭证与秘密搜集、远程代码运行,以及加密货币挖矿等功能。 赛门铁克已将相关发现与越狱手法信息,分享给OpenAI、Anthropic与Google DeepMind等模型开发商,作为协调揭露的一部分。 这起案例显示,攻击者正逐步把大型语言模型从单纯的辅助工具,转变为可自主决策并驱动攻击链的内核组件。 责任编辑:许咏翔 更多风传媒独家新闻: ‧AI泡沫?
辉达、美光领军美股获利爆发 分析师从这点断言「市场异常理性」 ‧微软大裁员养AI吃电怪兽股价竟上涨 6万名员工受影响 Xbox成重灾区 ‧美国AI真的用「台湾独立」抓中国盗用者? 揭Anthropic严打「模型蒸馏」:数千万帐号被封的背后真相