微軟共同創辦人比爾．蓋茲警告，人工智慧 (AI) 的力量已強大到足以奪走 10 億條人命，特別是當惡人掌握最新 AI 工具，可能形成前所未見的強大武器。他強調，科技公司自律不足以控制相關風險，呼籲美國政府「絕對」有必要立法監管。

NBC News 週五 (25 日) 公布蓋茲接受《Meet the Press》節目專訪的部分片段。主持人問及 AI 從業人員提出的警告，也就是這項技術最終可能消滅人類，蓋茲回應，AI「確實強大到足以推動造成 10 億人死亡的事件」。

蓋茲表示，雖然很難讓人類滅亡的機率達到 100%，但過去從未出現過像「懷有惡意者結合最新 AI 工具」如此強大的武器。

蓋茲的說法正值 AI 安全與監管爭議迅速升溫之際。Anthropic 執行長阿莫戴 (Dario Amodei) 最近撰文呼籲前沿 AI 實驗室放慢技術推進速度，並自願合作制定安全標準，以降低先進 AI 可能帶來的風險。

針對是否可由科技公司自行約束，蓋茲直言，沒人會認為只靠業界自律便已足夠。

他表示，美國「絕對」需要制定 AI 監管法律，執法機關與政治人物也必須加入討論，共同決定安全防護、監控及問責機制應如何設計。

阿莫戴同樣支持政府介入，但也坦言，立法程序通常需要一段時間，AI 技術卻正以極快速度進步。這種時間落差已成為監管爭議的核心：在國會完成立法前，尖端 AI 模型的能力可能已大幅提升。

蓋茲一向被視為科技業最具代表性的樂觀派之一，因此他近來逐步提高對 AI 風險的示警力度，格外受到關注。

他今年 8 月發布備忘錄，將 AI 形容為人類史上影響最深遠的技術之一。

蓋茲當時表示，AI 可能成為人類發明過最強大的平等工具，也可能成為最嚴重的不公平來源。如果依照目前的發展方向與速度前進，最終出現整體負面結果的機率非常高。他當時即呼籲政府與各政黨立即合作，找出防止 AI 失控的方法。

不過，美國聯邦政府最終會對 AI 採取何種監管政策，目前仍不明朗。

美國總統川普近期公開表示反對為人工智慧設置安全護欄，並斥責相關的安全擔憂與末日論為一場「騙局」。共和黨國會領袖也尚未展現迅速推動 AI 立法的意願。

據多家媒體報導，川普預計下週二 (29日) 與眾議院議長強生及 AI 企業高層舉行會議，但具體議程及出席名單仍未公布。

強生先前表示，希望川普與 AI 執行長們進入同一個房間，關起門來把問題談清楚。他上週也說，各方應審慎討論科技公司維護 AI 安全的責任，以及政府是否應介入、應扮演何種角色。

這場會議召開前，馬斯克與 OpenAI 執行長奧特曼週四曾出席白宮國宴。目前尚不清楚兩人或其他主要 AI 公司高層是否會參加下週二的會議。

在國會方面，參議院多數黨領袖圖恩(John Thune) 長期主張監管 AI，也曾於 2023 年提出相關法案，但近期並未積極要求國會立即處理。他 9 月中旬表示，參議院能否在年底前通過 AI 法案仍「有待觀察」，並坦言，國會還有其他事務必須處理，短期內要推動任何法案都相當困難。

不過，圖恩本週三向 Axios 表示，曾與他共同提出法案的民主黨參議員 Amy Klobuchar，正爭取更多民主黨議員支持，之後才會在國會重新提出相關法案。

依照 2023 年版本，法案將要求關鍵 AI 系統接受認證，生成式 AI 產製的內容須符合透明度規範，並強制企業進行 AI 風險評估。法案也要求政府進一步研究如何辨識 AI 生成內容，以及 AI 產業應建立哪些安全護欄。

目前尚不確定這項法案或其他 AI 監管措施能否在國會過關，即使通過，也可能面臨川普否決。不過，圖恩認為，川普私下對 AI 安全護欄的接受程度，可能高於他公開表現出的態度。

AI 安全爭議近幾週快速升溫。Anthropic 前研究員 Jacob Coxon 9 月 9 日宣布辭職，並聲稱負責開發 AI 的人確實相信，這項技術可能在本世紀末前殺死所有人。

Anthropic 對齊科學主管 Evan Hubinger 隨後公開支持 Coxon 的說法，表示 AI 從業人員確實真誠相信這項技術可能導致全人類死亡。他估計，未來十年 AI 消滅人類的機率超過 10%。

Hubinger還警告，Anthropic 尚未提出解決超級智慧「對齊」問題的方案，目前也沒有明確跡象顯示公司即將找到答案。所謂對齊，是指確保 AI 系統的行為符合人類設定的目標及安全要求。

相關警告引發更多公眾反彈，也使要求政府監管的聲浪升高。Google、Anthropic 與 OpenAI 已在爭議擴大後展開合作，著手規畫成立 AI 安全組織。

OpenAI 執行長阿特曼 (Sam Altman)與阿莫戴本週也在聯合國強調，AI 治理需要全球合作及國際共同標準。阿莫戴表示，影響 AI 發展方向的重大決策，必須透過民主程序形成，並由向人民負責的政府參與。

蓋茲的立場並非反對發展 AI，而是主張政府治理速度必須追上技術進展。在 AI 公司持續推出能力更強的模型之際，他警告，若各國未及早建立法律、安全防護與監控制度，AI 帶來的風險可能遠超科技業自行控制的範圍。