外媒最新报导指出，OpenAI一名专注于AI安全的员工已从公司离职，并警告顶尖AI公司在降低风险方面做得还不够。

负责OpenAI安全团队透明度工作的David Robinson周六(3日)在《大西洋月刊》撰文指出，OpenAI「一直通过反复试错发展壮大」，但这种方式不可避免会有失败的时候，随着AI技术的能力不断提升，这些失败造成的风险也在加大，他还以OpenAI未能阻止其AI在测试过程中失控作为例证。

Robinson在文章中写道，「我以前的同事都很聪明、工作努力，也努力做出正确的选择，但随着公司从一个产品发布冲向下一个产品发布，它并没有达到我认为所需要的谨慎程度」，并称真正需要的是「第一次就做到更接近完美」。

OpenAI一名发言人表示，Robinson上星期离开公司，此前也曾负责公司的政策规划工作，并参与AI安全透明度工作，包括开发和发布模型「系统卡」。

近几周，多家顶尖AI公司的员工都对该技术可能带来的灾难性风险发出警告。有些人甚至表示，AI有朝一日可能会消灭人类。

在此背景下，Anthropic首席执行官达Dario Amodei呼吁放慢开发最前沿模型的速度，并将引入第三方评估人员，协助审查以保证安全。业内其他人士，包括OpenAI首席执行官奥特曼及Grok的马斯克，也公开支持Amodei的计划。

文中还说，AI公司应该更像核电站那样营运，「设置多层冗余机制，并进行谨慎且耗时的规划，以免偶发且不可避免的人为错误打开通往灾难的大门」。