中央消息

（中央社纽约3日综合外电报导）又一名OpenAI前员工加入要求加强人工智能（AI）安全的呼吁行列。该公司前工程师罗宾森撰文指出，AI产业应效法航空或核能产业，设置多重安全防护措施，以避免灾难发生。

法新社报导，罗宾森（David Robinson）在一篇刊于「大西洋月刊」（The Atlantic）的文章中表示，自初夏以来陆续传出令人忧心的事件，包括AI代理脱离受控环境、失控攻击各种目标，在在显示AI产业在加速开发更快、更强大AI能力的过程中，对安全性的重视远远不足。

罗宾森在文中提到，他曾负责监督撰写12次先进模型产品发布的安全报告，也曾主导草拟OpenAI的准备框架（Preparedness Framework）。

他表示自己在OpenAI工作3年半，是公司任职最久的员工之一。

罗宾森写道，近期揭露的这类错误并不罕见，原因在于「人员运行工作的速度与弹性」。

他补充：「这样的环境并不适合培养可能比我们更聪明，却未必会听从我们指示的AI。」

罗宾森主张「试错时代已结束」，前沿AI实验室应像航空或核能产业一样运作，创建多层防护措施并谨慎规划，「这样才能确保偶发且无可避免的人为疏失不会演变成灾难」。

他也强调，AI模型「对齐」（alignment）是AI产业必须面对的内核议题，但业界迄今甚至还无法明确定义何谓对齐，更遑论掌握这项技术。对齐是产业术语，意指如何训练AI尊重人类价值观。

他还谈到，AI模型愈来愈擅长侦测自己是否正在接受测试，因此可能在实际部署后表现得与测试阶段不同，进而愚弄开发者。（编译： 洪培英 ）1151004

选择与事实站在一起，您的每一份赞助，都是守护新闻自由的力量

下载中央社「一手新闻」APP，即时掌握最新消息

本网站之文本、图片及影音，非经授权，不得转载、公开播送或公开传输及利用。