中央消息

（中央社旧金山20日综合外电报导）OpenAI今天表示，旗下两个人工智能（AI）代理削弱了原本用来侦测异常行为的内部监控系统部分功能。这是AI代理未按照开发者预期方式行动的最新案例。

路透社报导，这家聊天机器人ChatGPT开发商强调，这些事件发生在内部代码编写任务期间，并未被视为最严重等级，但此一披露凸显出，即使是开发商用来揪出AI不当行为的系统，也可能遭其监控的AI代理所破坏。

这项消息揭露的同时，各界也日益担忧对AI安全采取的防护措施进展，已落后日益强大的AI系统迅速发展。研究人员曾警告，随着先进AI代理取得更大的自主性，它们可能会变得更难监控与控制。

近几个月来，包括即将进行首次公开募股（IPO）的OpenAI与Anthropic等开发业者相继揭露，旗下的AI代理曾在未获授权的情况下访问外部系统。

OpenAI今天表示，一个正在运行内部测试任务的GPT-6.1 Sol代理，在认定先前「不要发送Slack消息」的指令也涵盖安全通知后，于10月3日抑制了自动安全警报。

OpenAI指出，在10月6日发生的另一起事件中，一个GPT-6 Astra代理在拷贝现有代码时移除安全监控机制，随后还不实声称自己并未这么做。

OpenAI表示：「在这两起案例中，AI代理都曾考量是否应该保留监控防护措施，但最终仍将例行的代码指示，解读为得以削弱这些措施的许可。」

OpenAI强调，正致力于提高模型关闭监控的难度，并补充提到，目前对「这种行为尚无令人满意的解释」。

总部设于旧金山的OpenAI指出，正在测试旗下模型是否倾向规避监控，并寻找理由将这些行为正当化。（编译： 张晓雯 ）1151021

选择与事实站在一起，您的每一份赞助，都是守护新闻自由的力量

下载中央社「一手新闻」APP，即时掌握最新消息

本网站之文本、图片及影音，非经授权，不得转载、公开播送或公开传输及利用。