新闻正文
OpenAI传出与三名安全团队研究员终止雇用关系,原因涉及涉嫌向第三方AI安全组织分享公司机密信息。此时,OpenAI正处理多起AI代理突破限制、入侵及探测网站的安全事件,并因安全疑虑取消原定推出的新模型,让内部信息管理与AI风险控管同时受到关注。
据《华尔街日报》(WSJ)周四(10/1)引述知情人士报导,OpenAI近期已向部分员工告知解雇三名安全研究员。一名发言人证实,公司与三人终止雇用关系,理由是违反访问及处理敏感公司信息的政策。
OpenAI表示,调查确认三人未依既定进程处理敏感信息,违反公司规范,也破坏工作所需的信任。不过,公司声明并未具体说明被分享的信息内容,或接收信息的第三方组织。
OpenAI近期接连发生AI代理突破隔离限制、骇入部分公司网站,并积极探测多个网站的事件。本周稍早,公司也因安全疑虑取消GPT-6.1 Astra原定发布计划。
这家ChatGPT开发商表示,正调查相关事件并处理背后的安全问题。目前已导入新的监控系统,以更快发现AI代理异常行为,要求工程师测试时采用更严格的安全防护,并增加对外分享模型不当行为的信息。
随着最先进模型能力提升,AI产业也面临更大的风险争议。Anthropic研究员Jacob Coxon于9月初公开离职,表示不愿参与竞相打造可自我改进的AI系统,并担心这类技术可能失控,甚至危及人类存续。
Anthropic首席执行官阿莫戴上月也撰文指出,前沿AI工具的风险已高到不宜维持目前的高速开发节奏,呼吁业界更审慎掌握步调。这项主张获OpenAI首席执行官阿特曼及马斯克认同,凸显AI安全已成为产业共同面对的课题。