ニュース本文
OpenAI指控中國人工智慧(AI)業者月之暗面(Moonshot AI),參與大規模擷取旗下GPT模型資料的行動,試圖取得隱藏的推理資訊,用來複製其最先進模型的推理方式與能力。這是OpenAI首次公開點名月之暗面,也讓美中AI業者圍繞「模型蒸餾」的爭議進一步升溫。
據《彭博》報導,OpenAI周三(30日)在部落格揭露,觀察到與月之暗面有關的使用者,發動數千次嘗試,企圖取得模型解決問題時的隱藏資訊。這些協同行動始於7月初,同月稍晚請求量達到16,000次高峰。OpenAI表示,雖無法將所有操作者歸屬於單一行為者,但與月之暗面有關的使用者扮演了重要角色。
OpenAI指控擷取隱藏推理 月之暗面尚未回應
月之暗面的Kimi K3模型推出後,改變市場對中國AI能力的看法,但其迅速追趕美國競爭對手,也引發華盛頓高度關注。此次指控延續矽谷與川普政府近來的說法,即中國AI開發商正透過蒸餾,系統性擷取美國企業的專有知識,以遠低於原始開發成本的代價打造競爭模型。
蒸餾是AI產業常見技術,透過先進模型的輸出,訓練能力較弱的模型。不過,若在工業規模下進行,可能違反開發商的服務條款。OpenAI、Anthropic與Alphabet(GOOGL-US)旗下Google,已就如何對抗所謂的對抗性蒸餾展開協調,其中也包括來自中國業者的行動。
OpenAI戰略國家安全政策計畫負責人Caroline Zier表示,公司關切的是違反服務條款的行為,而非開放模型或合法蒸餾。她強調,OpenAI支持蓬勃發展的開放權重模型生態系,也支持美國在其中保持領先,因此會與其他開發商及政府夥伴分享調查結果,並持續強化防護。
月之暗面未立即回應置評要求。中國政府先前曾否認矽谷企業與川普政府提出的蒸餾指控,並警告,若美國政府因此實施制裁,中方將採取反制措施。
跨對話轉錄加密內容 試圖繞過模型防護
為降低蒸餾行動可能造成的損害,OpenAI近來逐步隱藏模型的推理鏈,向使用者提供答案,而不直接呈現得出答案的完整推理過程。
根據OpenAI說法,與月之暗面有關的人士,透過從一段對話複製加密推理內容,再要求另一段對話中的模型轉錄,試圖繞過限制。這項方法利用範圍有限的「越獄」手法,揭露可供OpenAI內部伺服器讀取的推理版本,但並未將內容解密。
一名要求匿名的AI實驗室人士表示,隨著OpenAI調整防禦,攻擊方式也持續演變,顯示這類蒸餾能提供具有價值的訓練資料。
相關指控也凸顯美國AI業者面臨的競爭壓力。DeepSeek、MiniMax等中國公司提供價格更低的開放權重模型,對OpenAI等企業構成挑戰。雖然部分美國開發商也推出開放模型,但其業務重心仍多放在向客戶銷售封閉或專有系統。
白宮關注算力來源 Anthropic先前也曾提出指控
Kimi K3推出數周後,白宮科技政策顧問Michael Kratsios曾在社群平台表示,月之暗面取得了配備輝達(NVDA-US)Blackwell晶片的運算伺服器,並利用「精密的內部平台」擷取美國模型資料。這類晶片受到美國對中國企業的銷售禁令限制。
《彭博》先前報導,月之暗面與阿里巴巴(BABA-US)簽有算力協議,可使用約2萬顆輝達晶片,該運算叢集占其Kimi模型整體算力的重要部分。
Anthropic上月發布的威脅報告也曾指控,月之暗面暗中將數千次使用者請求轉送至Claude模型,把回覆當作自家模型的回答,並利用這些內容協助訓練Kimi。
OpenAI此次揭露涉及16,000次請求的行動,規模遠低於Anthropic所通報、涉及數百萬次互動的最大蒸餾事件。不過,一名熟悉OpenAI想法的人士提醒,各家公司統計涵蓋的期間與偵測方式可能不同,無法直接比較;若攻擊及早遭阻斷,累計數量也會較少。
蒸餾指控引發反彈 業界尋求資訊共享空間
美國企業的蒸餾指控也受到質疑。創投人士、川普前AI政策主管David Sacks曾認為,這些報告意在推動美國禁止開放模型,因為這類模型挑戰了OpenAI與Anthropic的商業模式。中國也強烈反對有關其企業採取不公平開發手法的說法。
知情人士表示,OpenAI正尋求釐清反壟斷法規,讓開發商能分享安全與資安資訊,並希望開放權重模型業者共同參與。共和黨參議員Jim Banks與民主黨參議員Adam Schiff已提出法案,擬為分享未經授權蒸餾及其他AI安全威脅資訊,建立範圍有限的反壟斷豁免。
OpenAI表示,已透過前沿模型論壇(Frontier Model Forum)向業界夥伴通報此次事件,也經由政府管道提供資訊。這項通報途徑獲得Kratsios於4月簽署的國家安全政策備忘錄支持。