新闻正文
《華爾街日報》週一(28日)獨家報導指出,OpenAI、Anthropic、Meta與微軟的研究負責人呼籲政策制定者審查各公司在AI研究自動化方面的進展。
在週一發表的論文中,OpenAI首席科學家Jakub Pachocki、Anthropic共同創始人Jack Clark、微軟首席科學官Eric Horvitz及Meta AI研究副總裁Dawn Song等研究人員警告,AI研究的自動化可能引發「智慧爆炸」。這種發展態勢恐將原本需時數年取得的進展,壓縮至數月甚至更短時間,導致技術演進速度超出人類理解能力。
論文還詳述智慧爆炸的潛在機制:當AI系統能自動設計更高效的演算法並自我迭代時,進步速度將呈指數級增長,人類可能無法及時理解或干預這一過程,從而失去對技術發展方向的控制權。
論文作者以個人名義撰文指出,政策制定者應緊急要求企業提高透明度,了解各公司在模型開發自動化方面已達到的程度。他們強調,缺乏對自動化進度的清晰認知,監管機構將難以應對潛在風險。
近年來,隨著生成式AI的突破,AI技術正快速滲透各領域,同時也引發關於就業、隱私、安全等廣泛擔憂。此次多位業界領袖的聯合呼籲,顯示AI研究社群內部對技術失控風險的警惕日益升高。
上述專家指出,智慧爆炸雖仍屬理論情境,但若發生恐導致AI系統在短時間內超越人類控制,對社會、經濟與倫理造成深遠衝擊。因此,建立國際監管框架與透明度機制,已成為確保AI安全發展的當務之急。