ニュース本文
微軟(Microsoft)總裁布萊德.史密斯(Brad Smith)在接受英國廣播公司(BBC)專訪時指出,全球針對人工智慧(AI)的法規監管力度嚴重不足,目前AI所面臨的安全規範甚至比市售牛奶或洗衣機還要寬鬆。 他強調,建立全球統一的AI安全守則已刻不容緩,其中包括系統遭惡意AI代理(AI Agent)入侵時的受害者通報機制,以及賦予開發者停止系統運作的「緊急煞車」開關。 史密斯表示,各國政府應透過法律明確規定,當AI系統出現異常或發生安全事故時,相關企業必須提出官方事故報告。 他直言:「我們對於其他實體產品早已具備成熟的安全管理經驗,應以此為基礎,研擬如何將相關機制套用於人工智慧領域。
在現行法規下,家中的洗衣機受到的安全監管都比AI更多;走進雜貨店,每盒牛奶也都必須符合嚴格的安全標準與衛生檢查。 」 AI龍頭企業公開主張適度調節AI演進速度 這項呼籲發表之際,正值頂尖AI開發企業負責人相繼對技術失控風險發出警訊。 包含OpenAI執行長山姆.阿特曼(Sam Altman)與Anthropic執行長達里奧.阿莫迪(Dario Amodei)均公開主張,開發者應適度調節先進AI技術的演進速度,以確保模型始終處於人類掌控之中。 阿特曼與阿莫迪皆建議,應允許第三方獨立評估機構獲得類似內部員工的存取權限,以實時監測模型的技術能力與潛在漏洞,並向公眾發布評估結果以提升透明度。
針對各國的監管政策,史密斯特別提到,英國由前首相里希.蘇納克(Rishi Sunak)推動成立的「AI 安全研究所」(AI Security Institute),使英國在引領全球AI規範方面具備獨特優勢。 他分析,美國華府官員對於英國所採取的監管途徑,評價與歐盟(EU)依據風險等級劃分監管程度的架構截然不同。 英國不排除採取強制性立法監管高階AI模型 目前英國AI安全研究所係透過與各大主要開發商簽署的自願性協議,在先進模型正式部署前取得測試權限,藉此評估技術能力及其可能帶來的潛在風險。
英國AI事務政務次官卡尼什卡.納拉揚(Kanishka Narayan)對此表示,若現行的自願性審查制度未來被證明無法有效防範風險,英國政府將不排除採取強制性的立法手段來監管高階模型。 責任編輯:許詠翔 更多風傳媒獨家新聞: ‧AI淪犯罪幫兇 如何預見數位金融「5大破口」 OpenAI、Anthropic急推演預防「全面性危機」 ‧中國駭客冒充美國AI專家發送釣魚信 連白宮都中招 專家:意在「AI政策制定」 ‧DeepSeek、月之暗面都被點名 美國FBI聯手國安局、網安局指控中國AI「偷竊」 北京再度全盤否認