新闻正文
前Google(GOOGL-US)DeepMind AI安全研究员Alex Turner近日发布长文,公开说明他今年6月辞职的原因,直指Google与美国国土安全部(五角大厦)签署的一份军事AI合约「毫无限制」,并批评多位业界重量级人物在关键时刻选择沉默,未能阻止协议签署。 Turner在文中表示,事件的起点是美国国土安全部(DHS)特工今年稍早在街头枪杀两名平民一案。 当时,他在得知Google云端服务属于DHS供应链的一环后深感不安,进而展开一场希望终止相关合作的内部倡议行动,其后将关注焦点扩大至五角大厦当时正对各大AI公司施压、要求签下不设任何限制的军事AI合约一事。
Turner认为,一旦签下该合约,就代表这些公司的模型将用于制造致命自主武器,或创建大规模AI监控网络。 Anthropic就曾因拒绝类似条款,面临供应链遭切断的威胁。 为了说服公司管理层,Turner撰写了一份长达25页的军事AI监督框架,内容涵盖人为监控机制,主张AI不应被用于无人类控制的致命武器系统或大规模监控。 他表示,该提案曾获军事与监控法专家的高度评价,并在公司内部发起连署,取得约250名DeepMind与Google研究部门员工的支持。 尽管如此,Turner指出,他与Google高层的沟通最终未能取得实质进展。
他曾直接联系DeepMind首席执行官哈萨比斯(Demis Hassabis),对方回复会请两名资深政策负责人评估方案,但后续沟通陷入停滞,该提案据称始终未获高层正式回应。 Turner在文中提到,他曾将希望寄托在Google首席科学家Jeff Dean身上,因Dean曾在2018年公开连署反对致命自主武器的声明。 Turner表示,自己原本盼望迪恩能以自身影响力向公司施压,甚至不惜以辞职为筹码要求管理层让步。 根据Turner的说法,Dean确实采取了部分行动,包括公开连署支持Anthropic对抗五角大厦施压的相关文档,此举一度让五角大厦对Google的立场有所顾虑。
但Dean最终并未进一步动用其影响力阻止合约签署,使Turner感到失望。 Turner还进一步表示,自己曾在巴黎一场由「国际安全与伦理AI协会」(IASEAI)主办的会议上,当面寻求该协会主席Stuart Russell与图灵奖得主Yoshua Bengio公开表态支持。 然而,Bengio办公室后续却回复将不会发表声明;Russell则曾在台上承诺推动全体会员投票、发表声明,但Turner指出,会议结束后,该项投票承诺并未兑现,协会方面此后也未再回应他多次的联系请求。 Google合约签署与后续争议Turner表示,Google于4月底正式与五角大厦签署军事AI合约,且并未对外公开宣布此事。
他特别指出,合约中涉及限制自主武器与大规模监控的条文,使用的是不具法律约束力的措辞。 面对外界质疑,哈萨比斯在受访时曾表示公司的AI原则「并未改变」。 事实上,Google于2014年收购DeepMind时的协议原本明订AI不得用于军事与武器用途,但该项条款已在2025年2月的原则修订中遭到哈萨比斯移除。 Turner并提出技术层面的疑虑。 他指出,由于相关AI系统服务器被实体部署于军方独立的数据中心内,Google实际上已丧失对模型「思维链」运作的监控能力,而军方内部未必配置具备AI对齐训练背景的工程师进行即时监督,他认为这在安全上存在风险。
Turner在文末表示,得知合约签署当下感到难以置信,并形容自己重返办公室时,如同回到已不再属于自己的地方。 Turner辞职后并未如部分业界人士般转往其他公司任职,而是选择暂时独立于业界之外。 他说:「每当我想退缩时,我就会看看手机里存着的那张照片,那个被DHS特工在街头无辜枪杀的平民。 」