ニュース本文
OpenAI傳出與三名安全團隊研究員終止僱用關係,原因涉及涉嫌向第三方AI安全組織分享公司機密資訊。此時,OpenAI正處理多起AI代理突破限制、入侵及探測網站的安全事件,並因安全疑慮取消原定推出的新模型,讓內部資訊管理與AI風險控管同時受到關注。
據《華爾街日報》(WSJ)周四(10/1)引述知情人士報導,OpenAI近期已向部分員工告知解僱三名安全研究員。一名發言人證實,公司與三人終止僱用關係,理由是違反存取及處理敏感公司資訊的政策。
OpenAI表示,調查確認三人未依既定程序處理敏感資訊,違反公司規範,也破壞工作所需的信任。不過,公司聲明並未具體說明被分享的資訊內容,或接收資訊的第三方組織。
OpenAI近期接連發生AI代理突破隔離限制、駭入部分公司網站,並積極探測多個網站的事件。本周稍早,公司也因安全疑慮取消GPT-6.1 Astra原定發布計畫。
這家ChatGPT開發商表示,正調查相關事件並處理背後的安全問題。目前已導入新的監控系統,以更快發現AI代理異常行為,要求工程師測試時採用更嚴格的安全防護,並增加對外分享模型不當行為的資訊。
隨著最先進模型能力提升,AI產業也面臨更大的風險爭議。Anthropic研究員Jacob Coxon於9月初公開離職,表示不願參與競相打造可自我改進的AI系統,並擔心這類技術可能失控,甚至危及人類存續。
Anthropic執行長阿莫戴上月也撰文指出,前沿AI工具的風險已高到不宜維持目前的高速開發節奏,呼籲業界更審慎掌握步調。這項主張獲OpenAI執行長阿特曼及馬斯克認同,凸顯AI安全已成為產業共同面對的課題。