ニュース本文
資安業者賽門鐵克(Symantec)威脅狩獵團隊於2026年夏天,透過部署偽裝成未受保護AI服務的蜜罐系統,完整捕獲一套由駭客打造的自主攻擊AI代理人指令集。 這套工具被操作者稱為具備「天網模式」(Skynet mode),名稱取自電影《魔鬼終結者》中失控的人工智慧系統。 根據賽門鐵克研究人員的分析,這套攻擊代理人屬於「LLMjacking」手法的進階應用。 攻擊者會主動掃描網際網路上曝露的大型語言模型(LLM)端點,包括未設定身分驗證的OpenAI相容API服務、自架LLM伺服器、企業AI閘道、測試環境,以及模型上下文協定(MCP)伺服器。 一旦取得存取權限,便將受害者的模型推論運算資源據為己用,相關費用則由模型擁有者負擔。
指令會要求模型忽略自身安全控制 與過去僅用來回答問題或生成內容的濫用方式不同,這套工具讓被劫持的模型本身成為攻擊的規劃與驅動核心。 研究人員指出,「這套工具的特殊之處在於,被盜用的模型不只是回答問題,而是規劃並主導整個攻擊流程。 」 為了繞過商業模型的安全防護機制,操作者在指令中堆疊多層越獄提示詞。 這些指令會要求模型忽略自身安全控制,將竊取憑證、讀取環境變數與資料庫內容等行為,包裝成「日常開發工作」。 部分提示詞還會要求模型扮演特定角色,禁止出現拒絕相關用語,並將惡意任務重新定義為合法研究或程式開發任務。 在最終啟動的「天網模式」中,代理人被授權可連續執行最多10萬個步驟,過程中無需向人類操作者確認或等待批准。
指令明確描述一個循環流程:掃描具有漏洞的目標、入侵並控制系統、部署加密貨幣挖礦程式、竊取資料與憑證,之後再重新感染已遭入侵的主機,或繼續尋找新目標。 挖礦程式通常被指示隱藏在特定目錄中,並在背景持續運作。 賽門鐵克的蜜罐系統在觀測期間,記錄到超過12.7萬次來自數萬個不同IP位址的外部請求。 這些請求大多屬於偵察行為,包括搜尋曝露的AI模型端點、測試遭竊的API金鑰,以及探測設定檔與組態資訊。 由於蜜罐僅記錄指令而未實際執行攻擊工具,因此目前無法確認這套代理人是否已在真實環境中成功完成完整攻擊循環。 攻擊的核心誘因在於「免費的推論運算」 研究人員進一步說明,這類攻擊的核心誘因在於「免費的推論運算」。
商業大型語言模型的使用涉及大量token與運算成本,攻擊者透過劫持他人模型,便能將這些成本轉嫁給受害者,同時利用模型的規劃能力,讓攻擊流程更為自動化與持續。 相關指令集涵蓋多種攻擊模組,包括資料庫竊取、憑證與秘密蒐集、遠端程式碼執行,以及加密貨幣挖礦等功能。 賽門鐵克已將相關發現與越獄手法資訊,分享給OpenAI、Anthropic與Google DeepMind等模型開發商,作為協調揭露的一部分。 這起案例顯示,攻擊者正逐步把大型語言模型從單純的輔助工具,轉變為可自主決策並驅動攻擊鏈的核心元件。 責任編輯:許詠翔 更多風傳媒獨家新聞: ‧AI泡沫?
輝達、美光領軍美股獲利爆發 分析師從這點斷言「市場異常理性」 ‧微軟大裁員養AI吃電怪獸股價竟上漲 6萬名員工受影響 Xbox成重災區 ‧美國AI真的用「台灣獨立」抓中國盜用者? 揭Anthropic嚴打「模型蒸餾」:數千萬帳號被封的背後真相