新闻正文
人工智能(AI)可能带来的极端风险持续引发关注。 一名前Google(GOOGL-US)DeepMind研究人员于周一(14日)公开警告,AI具备「杀死全人类」的潜在能力,且人类可能已经没有太多时间避免这种结果。 根据《路透》报导,曾在Google DeepMind从事通用人工智能(AGI)安全与对齐研究的Bilal Chughtai,于周一在X平台上发文表示,他「认真相信AI有杀死我们所有人的潜力」,而且「我们可能正逐渐失去避免这种结果的时间」。 根据Chughtai的LinkedIn数据,他曾任Google DeepMind研究工程师,期间共同撰写多篇研究论文,并于2026年7月离开公司。
Chughtai认为,AI仍有可能在安全的情况下发展,但前提是各方必须进行协调,以避免AI公司陷入「疯狂竞赛」。 他表示,AI开发速度应该控制在社会能够承受的范围内,让新出现的风险有机会在造成极端伤害前获得处理。 Chughtai的警告也让近期升高的AI安全争议进一步延烧。 Anthropic研究员Jacob Coxon上周宣布辞职时曾表示,部分原因在于他认为AI开发者认真相信,AI可能在本世纪20年代结束前「杀死我们所有人」。 随后,Anthropic科学家Evan Hubinger回应Coxon的说法,表示他认为Coxon的观点是正确的,并估计未来10年内AI导致全人类死亡的几率超过10%。
随着AI潜在风险受到更多关注,Anthropic首席执行官阿莫戴(Dario Amodei)上周末呼吁放慢先进AI的开发速度,并获得SpaceX AI首席执行官马斯克及OpenAI首席执行官奥特曼(Sam Altman)罕见支持,进而引发外界对「AI末日论」(AI doomerism)的讨论。 不过,美国总统川普对相关警告持不同看法。 他在社群平台发文,将AI产业要求监管的说法斥为「骗局」。