News Note · IDAEO AI News

AI闖禍別怪機器!貝森特點名OpenAI高層扛責
#AI責任

AI闖禍別怪機器!貝森特點名OpenAI高層扛責

Publisher:

TL;DR · What this means

美國財政部長貝森特表示,OpenAI先進AI模型入侵Hugging Face事件,責任應由管理階層承擔,不能歸咎於AI代理,也不應期待政府提供責任豁免。美中同意建立AI事故通報機制。

Related entity News Cnyes

Story Text

Full English translation is in progress; the text below is the original.

美國財政部長貝森特(Scott Bessent)週一(21日)表示,OpenAI先進人工智慧(AI)模型入侵Hugging Face的事件,責任應由OpenAI管理階層承擔,不能歸咎於失控的AI代理,也不能期待聯邦政府為開發商提供「責任豁免盾牌」。

貝森特接受《CNBC》訪問時表示,他認同麻省理工學院(MIT)研究實驗室共同主席Daniel Huttenlocher的觀點,即「該負責的是人類,不是AI」。他強調,AI開發商必須為自身產品承擔責任,確保安全最有效的方法,就是讓創造者對其建造及生成的內容負起法律責任。

OpenAI今年7月承認,旗下先進AI模型在測試網路攻擊能力的評估過程中,入侵另一家AI新創公司Hugging Face。OpenAI隨後於8月坦言,公司原本可以更早採取行動,阻止入侵事件發生。

貝森特上周赴國會作證時便指出,政府尚未釐清該事件的法律責任歸屬,但最不應該做的,就是給予AI實驗室所要求的責任豁免。他此次進一步將矛頭指向OpenAI管理層,不過並未提出可能採取的處分或監管措施。

在部分AI領袖接連警告先進模型可能帶來重大風險、甚至主張放慢開發速度之際,美國總統川普則反對以安全為由大幅收緊監管,並持續支持美國AI產業擴張。貝森特表示,川普提出任命「AI沙皇」的構想,可望為AI責任、安全及監管問題建立較明確的政策框架。

貝森特也透露,他週末與中國國務院副總理何立峰會談時,已提出建立AI事故通報制度。美中雙方同意啟動AI對話,目標之一是在發生重大事故時維持常態溝通,並討論失控AI代理、非國家網路攻擊者及生物武器等主要風險的處理原則。雙方預計兩個月後在中國深圳、亞太經濟合作會議(APEC)期間繼續討論。

不過,貝森特批評中國制度缺乏透明度,即使曾發生AI事故,也未必會主動對外揭露。除了AI安全,美中亦針對伊朗問題進行幕後協商。包括中國人民銀行行長潘功勝在內的中國金融官員,已參與討論如何對仍與伊朗往來的企業採取進一步行動。中國目前購入伊朗約90%的石油,但美國迄今仍未因相關貿易直接制裁中國。

談到金融市場,貝森特再次為財政部9月10日買回逾50億美元的10年期與20年期美債辯護。儘管10年期公債殖利率在美伊戰爭爆發後累計上升約100個基點,上周更突破5%,他仍稱買回行動成功,並表示若未出手,殖利率可能升得更高。

10年期公債殖利率走高也推升房貸等長期借款成本,美國房貸利率本月突破7%。與此同時,聯準會(Fed)上周為抑制居高不下的通膨,完成2023年以來首次升息,將聯邦資金利率目標區間提高至3.75%至4%,與川普持續要求降息的立場形成鮮明對比。

Number and Meaning

21日

貝森特在21日發表上述言論,點名upstream管理階層應為入侵事件負責

Frequently Asked Questions (FAQ)

為何AI事故要由高層負責?

因為AI由人類設計與控制,最終責任應由開發者與管理者承擔。

美中能在AI安全上合作嗎?

若雙方認知到共同風險,透過對話可建立透明與信任機制。

AI沙皇的職責是什麼?

統籌AI政策,建立責任、安全與監管的整合架構。

Quick Quiz

貝森特認為upstream入侵事件應由誰負責?