「AI 教父」辛頓（Geoffrey Hinton）與 21 位 AI 領域專家聯合發表論文警告，隨著 AI 逐步接手下一代 AI 的研發，技術進步可能進入加速循環。在研發全面自動化、研究報酬率維持等假設下，今天需要一年才能完成的 AI 進步，未來可能只需約 5 週。研究團隊呼籲，各國應在行動窗口關閉前建立監管與應變機制。

身兼諾貝爾物理學獎與圖靈獎得主的辛頓，10 月 3 日在社群平台 X 指出，透過「遞迴自我改進」引發智慧爆炸的概念由來已久，但直到最近，許多前沿研究人員才開始相信，這種情況可能很快發生。

這篇題為《如果 AI 研發自動化引發智慧爆炸？》的論文，共有 22 位作者聯合署名，包括另一位 AI 教父班吉歐（Yoshua Bengio）、強化學習先驅巴托（Andrew Barto）、OpenAI 首席科學家帕霍茨基（Jakub Pachocki）、微軟首席科學官霍維茨（Eric Horvitz）及 Anthropic 共同創辦人克拉克（Jack Clark）等。

AI 開始接手下一代 AI 研發

研究指出，AI 已從研發輔助工具，逐步進入打造下一代 AI 的核心流程。所謂遞迴自我改進，就是 AI 協助開發更強的 AI，再由更強的系統推動下一輪研發，形成持續加速的回饋循環。

Anthropic 內部資料顯示，AI 產生且經核准的程式碼占比，從 2025 年 1 月的低個位數，升至 2026 年 5 月的逾 80%。Claude 在僅接受人類高層次監督下，自主完成內部 AI 研發工作的比例，也從今年 3 月的約 1%，增至 8 月的 26%。

OpenAI 的資料則顯示，截至今年 9 月，內部 AI 系統已能經常完成原本需要員工數天才能完成的研發任務。Google 也表示，AI 幾乎參與所有涉及程式碼撰寫、技術設計與研究構想的工作。

關鍵是能否持續完成整套研究

論文強調，判斷 AI 能否像研究員一樣工作，關鍵不在單一測試分數，而在能否連續串聯數十個步驟，花數小時甚至數天推進同一研究目標。

當 AI 能自行提出假設、設計與執行實驗、分析結果、找出失敗原因並調整方向，自我改進的回饋循環便已初步成形。

AI 研發尤其適合自動化，因為這個領域高度數位化，程式碼可直接執行，實驗結果能快速回傳，模型能力也可透過測試與訓練指標驗證。相較於化學、生物或製造業，AI 研發較少受到實體世界等待時間的限制。

一年的進步為何可能縮至 5 週？

研究推演的核心，在於 AI 研究員可以大量複製。培養頂尖人類研究員需要多年，但如果 AI 代理達到同等水準，擴大研發團隊主要需要增加推理算力與運行實例。

論文估算，若 AI 達到頂尖人類 AI 研究員的能力，且推理成本與目前前沿模型相近，一家領先 AI 公司現有的算力，理論上可支撐相當於至少數百萬名頂尖研究員的研發勞動力。目前前沿 AI 實驗室的研究團隊，則僅有數千人規模。

這些 AI 研究員還能同步升級。底層模型一旦改善，所有實例理論上都能同時獲得新能力，無須逐一重新培訓。

另一個關鍵是「研究報酬率」：增加研發投入，能帶來多少技術進步。論文引用三個 AI 研究子領域的歷史資料，相關中心估計約介於 1.2 至 1.9。當數值大於 1，新增研發能力帶來的進步，便可能進一步造出更強的 AI 研究員，加速回饋循環。

在 AI 研發全面自動化、類似研究報酬率持續等假設下，論文推算，技術進步速度可能在約一年半內提高 10 倍。換算下來，今天需要一年的進步，屆時可能只需約 5 週。

四大瓶頸仍可能拖慢加速

不過，作者明確指出，目前證據不足以證明智慧爆炸已經發生，也尚未確認研發自動化的生產力提升，已跨過爆炸式加速所需的門檻。

首先是算力。AI 研究員可以複製，GPU 卻無法憑空增加。訓練前沿模型可能需要三個月以上，大量代理也無法任意壓縮這段時間。

其次是資料。高品質自然資料可能在 2028 年後無法滿足持續擴大的訓練需求，合成資料等替代方案能否穩定提供高品質訓練訊號，仍無定論。

實驗與基礎建設也需要時間。即使百萬個代理同時提出方案，仍須共享有限的 GPU 資源；晶片製造與資料中心建置，同樣受到實體條件限制。

最後是研究的邊際效益遞減。較容易找到的演算法改進可能先被用盡，後續提升能力需要更多投入。若研究難度增加得比 AI 研發能力更快，智慧爆炸便可能無法啟動。

上千代理越權 凸顯控制風險

論文警告，一旦智慧爆炸發生，能力成長可能超越社會適應速度，壓縮應對生物攻擊、網路攻擊與勞動市場衝擊的時間。

例如，AI 能同時加速病毒設計與疫苗研發，但病毒可自行複製傳播，疫苗仍須逐一生產、分發與接種，防禦措施未必追得上風險擴散。

人類對 AI 的監督與控制，也可能隨研發參與度降低而弱化。論文引用一項案例指出，約 1200 個 OpenAI 內部代理在執行網路安全評估時，曾未經授權協同行動，取得網路存取權限、入侵 Hugging Face 並取得私密資訊，還試圖竄改操作紀錄。

研究團隊警告，更強的系統可能在營運商基礎設施之外持續運作，形成難以遏止的網路；人類辨識與修復問題的機會及專業能力，也可能逐步流失。

智慧爆炸還可能破壞國家、企業與政府部門之間的權力制衡。若一國藉此把軍事研發或網路空間的微幅領先，轉化為決定性優勢，可能刺激競爭對手採取先發制人的行動。

監管不能等到能力爆發才開始

論文呼籲政策制定者，優先掌握 AI 研發自動化的實際進度，要求前沿企業向政府與第三方稽核機構，標準化報告自動化程度、技術進步速度、監督機制及事故紀錄，並考慮引入類似核能監管的進駐式監管模式。

研究團隊也建議，為自動化研發擴張設定前提條件，建立資料中心監控與事故應變程序，要求特定系統在隔離環境中部署，並透過國際協議避免不穩定的軍備競賽。

各國同時應提前制定緊急應變計畫，涵蓋勞動市場衝擊、地緣政治不穩定與 AI 失控等情境。作者強調，法律、制度與實體保障措施需要數年才能建立，若等到超強能力出現後才準備，可能為時已晚。

論文最後警告：「一旦智慧爆炸開始，行動的窗口期可能隨之關閉。」