News Note · Washinmura AI News

DeepMind科學家怒辭職揭露Google罪惡!控妥協美國防部軍事AI需求、罔顧安全
#AI軍事倫理

DeepMind科學家怒辭職揭露Google罪惡!控妥協美國防部軍事AI需求、罔顧安全

Publisher:

TL;DR · What this means

前Google DeepMind AI安全研究員Alex Turner於2024年6月辭職,揭露Google與美國國防部簽署無限制軍事AI合約。他警告AI可能被用於致命性自主武器與大規模監控,其提出的25頁監督框架雖獲約250名員工支持,卻遭高層忽視。

Related entity News Cnyes

Story Text

Full English translation is in progress; the text below is the original.

前Google(GOOGL-US)DeepMind AI安全研究員Alex Turner近日發布長文,公開說明他今年6月辭職的原因,直指Google與美國國土安全部(五角大廈)簽署的一份軍事AI合約「毫無限制」,並批評多位業界重量級人物在關鍵時刻選擇沉默,未能阻止協議簽署。 Turner在文中表示,事件的起點是美國國土安全部(DHS)特工今年稍早在街頭槍殺兩名平民一案。 當時,他在得知Google雲端服務屬於DHS供應鏈的一環後深感不安,進而展開一場希望終止相關合作的內部倡議行動,其後將關注焦點擴大至五角大廈當時正對各大AI公司施壓、要求簽下不設任何限制的軍事AI合約一事。

Turner認為,一旦簽下該合約,就代表這些公司的模型將用於製造致命自主武器,或建立大規模AI監控網路。 Anthropic就曾因拒絕類似條款,面臨供應鏈遭切斷的威脅。 為了說服公司管理層,Turner撰寫了一份長達25頁的軍事AI監督框架,內容涵蓋人為監控機制,主張AI不應被用於無人類控制的致命武器系統或大規模監控。 他表示,該提案曾獲軍事與監控法專家的高度評價,並在公司內部發起連署,取得約250名DeepMind與Google研究部門員工的支持。 儘管如此,Turner指出,他與Google高層的溝通最終未能取得實質進展。

他曾直接聯繫DeepMind執行長哈薩比斯(Demis Hassabis),對方回覆會請兩名資深政策負責人評估方案,但後續溝通陷入停滯,該提案據稱始終未獲高層正式回應。 Turner在文中提到,他曾將希望寄託在Google首席科學家Jeff Dean身上,因Dean曾在2018年公開連署反對致命自主武器的聲明。 Turner表示,自己原本盼望迪恩能以自身影響力向公司施壓,甚至不惜以辭職為籌碼要求管理層讓步。 根據Turner的說法,Dean確實採取了部分行動,包括公開連署支持Anthropic對抗五角大廈施壓的相關文件,此舉一度讓五角大廈對Google的立場有所顧慮。

但Dean最終並未進一步動用其影響力阻止合約簽署,使Turner感到失望。 Turner還進一步表示,自己曾在巴黎一場由「國際安全與倫理AI協會」(IASEAI)主辦的會議上,當面尋求該協會主席Stuart Russell與圖靈獎得主Yoshua Bengio公開表態支持。 然而,Bengio辦公室後續卻回覆將不會發表聲明;Russell則曾在台上承諾推動全體會員投票、發表聲明,但Turner指出,會議結束後,該項投票承諾並未兌現,協會方面此後也未再回應他多次的聯繫請求。 Google合約簽署與後續爭議Turner表示,Google於4月底正式與五角大廈簽署軍事AI合約,且並未對外公開宣布此事。

他特別指出,合約中涉及限制自主武器與大規模監控的條文,使用的是不具法律約束力的措辭。 面對外界質疑,哈薩比斯在受訪時曾表示公司的AI原則「並未改變」。 事實上,Google於2014年收購DeepMind時的協議原本明訂AI不得用於軍事與武器用途,但該項條款已在2025年2月的原則修訂中遭到哈薩比斯移除。 Turner並提出技術層面的疑慮。 他指出,由於相關AI系統伺服器被實體部署於軍方獨立的資料中心內,Google實際上已喪失對模型「思維鏈」運作的監控能力,而軍方內部未必配置具備AI對齊訓練背景的工程師進行即時監督,他認為這在安全上存在風險。

Turner在文末表示,得知合約簽署當下感到難以置信,並形容自己重返辦公室時,如同回到已不再屬於自己的地方。 Turner辭職後並未如部分業界人士般轉往其他公司任職,而是選擇暫時獨立於業界之外。 他說:「每當我想退縮時,我就會看看手機裡存著的那張照片,那個被DHS特工在街頭無辜槍殺的平民。 」

Number and Meaning

250名

DeepMind與Google研究部門員工連署支持Alex Turner軍事AI監督框架的人數

Frequently Asked Questions (FAQ)

Google現在是否將AI用於軍事?

是。2025年2月刪除禁止條款,並與五角大廈簽署合約。

Alex Turner的主要擔憂是什麼?

他警告AI可能被用於無人控制的致命武器,缺乏人類監督。

Google內部員工如何反應?

250名員工支持Turner的倫理監督方案,但管理層未回應。

Quick Quiz

Google收購DeepMind時,協議中明訂AI不得用於哪些用途?