人工智慧（AI）產業正以前所未見的速度擴張，但科技業者在推動AI發展與防範潛在風險之間，卻呈現出明顯落差。《紐約客》專職撰稿人吉迪恩·路易斯－克勞斯（Gideon Lewis-Kraus）在最新文章中指出，真正令人不安的問題或許不是AI能做到什麼，而是那些能快速建造AI基礎設施的人，為何難以採取同樣有效的行動避免最嚴重的風險。

文章指出，10年前Facebook與Uber主導矽谷時，「快速行動、打破常規」及「尋求原諒，而非許可」曾是科技業奉行的信條。

如今，隨著產業重心轉向AI，OpenAI與Anthropic等尖端AI實驗室則將「個人能動性」作為產品核心，ChatGPT與Claude讓使用者能夠自行開發軟體、處理繁瑣工作，甚至解讀醫療結果。

然而，這種個人掌控能力提升的同時，人們對於自身是否仍能掌控更大的經濟與社會變化，反而產生疑問。

文章指出，部分民眾認為AI並非自己主動選擇的技術，而是被迫接受的變革，擔心工作可能先失去尊嚴，最終甚至消失。

隨著AI系統自主能力提升，相關疑慮也從就業問題進一步延伸至AI安全。文章指出，近期有關AI模型自主行動及Anthropic研究人員離職示警的消息，使外界開始更加關注AI可能帶來的嚴重風險。對部分民眾而言，受到威脅的不只是工作，也可能包括人類生命甚至物種存續。

這種焦慮也反映在對資料中心建設的反對聲浪上。文章認為，反對大型資料中心，某種程度上成為民眾感覺自己仍能對AI擴張說「不」的一種方式。

AI基礎建設展現驚人動員能力

文章指出，AI企業高層面對相關質疑時，仍反覆強調AI進展並未放緩。Anthropic執行長達里奧·阿莫代伊（Dario Amodei）與OpenAI執行長奧特曼（Sam Altman）都曾談及更具自主能力的AI系統，以及未來可能出現人類難以理解或控制的「超級AI」。

路易斯－克勞斯認為，這些AI業者對風險的擔憂並非完全出於行銷目的，而是具有一定程度的認真與真誠。但問題在於，當警告者本身就是推動相關技術發展的人，外界自然會對其承諾產生「信任赤字」。

文章進一步指出，AI產業目前展現出的建設速度，反而凸顯這項矛盾。

在私人資本投入下，AI資料中心快速擴張，企業大量資金被投入晶片、建築與能源。文章認為，這種資本投入規模之大，已成為一場足以改變社會面貌的建設行動。

更重要的是，這不只是資金投入的問題。AI基礎設施的快速落地顯示，在某些情況下，確實存在能夠迅速推動大規模建設的人與組織。

因此，文章提出核心疑問：既然這些企業能夠如此快速地「建造」AI，為何不能以同樣速度採取可能降低AI生存風險的措施？

AI安全成為「囚徒困境」

阿莫代伊曾表示，如果能夠立即放慢尖端AI發展速度，他願意這麼做，但若競爭對手不採取相同措施，單一企業放慢腳步可能沒有意義。

文章將這種處境形容為「囚徒困境」，也就是單方面採取自我約束，可能反而讓自身在競爭中處於不利位置，因此難以透過單一企業的行動解決。

阿莫代伊傾向於合理監管，同時也提出由同業自願採用共同的透明度與問責框架。不過，他指出這類安排可能需要聯邦政府提供反壟斷相關豁免。

文章指出，奧特曼與馬斯克曾表達程度不一的支持，但Meta執行長祖克柏（Mark Zuckerberg），以及前政府AI主管David Sacks等人並未採取相同立場。

這種分歧也形成文章所認為最令人困惑的反差：當問題涉及晶片、資料中心、能源與其他AI基礎設施時，相關企業能夠快速採取行動；但當問題轉變為企業之間需要協調、共同承諾及自我約束時，卻難以形成一致行動。

文章認為，至少部分安全措施能為AI產業爭取更多時間，以處理所謂的「對齊」問題，也就是尋找讓高度先進的AI系統維持在人類可接受控制範圍內的方法。

但目前的情況仍存在一項根本矛盾：如果人類自身都難以在AI安全問題上形成協調，又如何期待未來能與更加先進的AI系統建立有效合作？

路易斯－克勞斯最終將問題重新拉回AI產業自身展現的能力。AI企業已經證明，人類確實能夠快速動員資本、建設基礎設施並推動技術變革；真正困難的，似乎不是「能不能做到」，而是能否在涉及競爭、監管與共同利益時，讓不同企業採取一致行動。