新聞正文
前Google(GOOGL-US)DeepMind AI安全研究員Alex Turner近日發布長文,公開說明他今年6月辭職的原因,直指Google與美國國土安全部(五角大廈)簽署的一份軍事AI合約「毫無限制」,並批評多位業界重量級人物在關鍵時刻選擇沉默,未能阻止協議簽署。 Turner在文中表示,事件的起點是美國國土安全部(DHS)特工今年稍早在街頭槍殺兩名平民一案。 當時,他在得知Google雲端服務屬於DHS供應鏈的一環後深感不安,進而展開一場希望終止相關合作的內部倡議行動,其後將關注焦點擴大至五角大廈當時正對各大AI公司施壓、要求簽下不設任何限制的軍事AI合約一事。
Turner認為,一旦簽下該合約,就代表這些公司的模型將用於製造致命自主武器,或建立大規模AI監控網路。 Anthropic就曾因拒絕類似條款,面臨供應鏈遭切斷的威脅。 為了說服公司管理層,Turner撰寫了一份長達25頁的軍事AI監督框架,內容涵蓋人為監控機制,主張AI不應被用於無人類控制的致命武器系統或大規模監控。 他表示,該提案曾獲軍事與監控法專家的高度評價,並在公司內部發起連署,取得約250名DeepMind與Google研究部門員工的支持。 儘管如此,Turner指出,他與Google高層的溝通最終未能取得實質進展。
他曾直接聯繫DeepMind執行長哈薩比斯(Demis Hassabis),對方回覆會請兩名資深政策負責人評估方案,但後續溝通陷入停滯,該提案據稱始終未獲高層正式回應。 Turner在文中提到,他曾將希望寄託在Google首席科學家Jeff Dean身上,因Dean曾在2018年公開連署反對致命自主武器的聲明。 Turner表示,自己原本盼望迪恩能以自身影響力向公司施壓,甚至不惜以辭職為籌碼要求管理層讓步。 根據Turner的說法,Dean確實採取了部分行動,包括公開連署支持Anthropic對抗五角大廈施壓的相關文件,此舉一度讓五角大廈對Google的立場有所顧慮。
但Dean最終並未進一步動用其影響力阻止合約簽署,使Turner感到失望。 Turner還進一步表示,自己曾在巴黎一場由「國際安全與倫理AI協會」(IASEAI)主辦的會議上,當面尋求該協會主席Stuart Russell與圖靈獎得主Yoshua Bengio公開表態支持。 然而,Bengio辦公室後續卻回覆將不會發表聲明;Russell則曾在台上承諾推動全體會員投票、發表聲明,但Turner指出,會議結束後,該項投票承諾並未兌現,協會方面此後也未再回應他多次的聯繫請求。 Google合約簽署與後續爭議Turner表示,Google於4月底正式與五角大廈簽署軍事AI合約,且並未對外公開宣布此事。
他特別指出,合約中涉及限制自主武器與大規模監控的條文,使用的是不具法律約束力的措辭。 面對外界質疑,哈薩比斯在受訪時曾表示公司的AI原則「並未改變」。 事實上,Google於2014年收購DeepMind時的協議原本明訂AI不得用於軍事與武器用途,但該項條款已在2025年2月的原則修訂中遭到哈薩比斯移除。 Turner並提出技術層面的疑慮。 他指出,由於相關AI系統伺服器被實體部署於軍方獨立的資料中心內,Google實際上已喪失對模型「思維鏈」運作的監控能力,而軍方內部未必配置具備AI對齊訓練背景的工程師進行即時監督,他認為這在安全上存在風險。
Turner在文末表示,得知合約簽署當下感到難以置信,並形容自己重返辦公室時,如同回到已不再屬於自己的地方。 Turner辭職後並未如部分業界人士般轉往其他公司任職,而是選擇暫時獨立於業界之外。 他說:「每當我想退縮時,我就會看看手機裡存著的那張照片,那個被DHS特工在街頭無辜槍殺的平民。 」