新聞正文
人工智慧(AI)可能帶來的極端風險持續引發關注。 一名前Google(GOOGL-US)DeepMind研究人員於週一(14日)公開警告,AI具備「殺死全人類」的潛在能力,且人類可能已經沒有太多時間避免這種結果。 根據《路透》報導,曾在Google DeepMind從事通用人工智慧(AGI)安全與對齊研究的Bilal Chughtai,於週一在X平台上發文表示,他「認真相信AI有殺死我們所有人的潛力」,而且「我們可能正逐漸失去避免這種結果的時間」。 根據Chughtai的LinkedIn資料,他曾任Google DeepMind研究工程師,期間共同撰寫多篇研究論文,並於2026年7月離開公司。
Chughtai認為,AI仍有可能在安全的情況下發展,但前提是各方必須進行協調,以避免AI公司陷入「瘋狂競賽」。 他表示,AI開發速度應該控制在社會能夠承受的範圍內,讓新出現的風險有機會在造成極端傷害前獲得處理。 Chughtai的警告也讓近期升高的AI安全爭議進一步延燒。 Anthropic研究員Jacob Coxon上週宣布辭職時曾表示,部分原因在於他認為AI開發者認真相信,AI可能在本世紀20年代結束前「殺死我們所有人」。 隨後,Anthropic科學家Evan Hubinger回應Coxon的說法,表示他認為Coxon的觀點是正確的,並估計未來10年內AI導致全人類死亡的機率超過10%。
隨著AI潛在風險受到更多關注,Anthropic執行長阿莫戴(Dario Amodei)上週末呼籲放慢先進AI的開發速度,並獲得SpaceX AI執行長馬斯克及OpenAI執行長奧特曼(Sam Altman)罕見支持,進而引發外界對「AI末日論」(AI doomerism)的討論。 不過,美國總統川普對相關警告持不同看法。 他在社群平台發文,將AI產業要求監管的說法斥為「騙局」。