中央消息

（中央社巴黎13日综合外电报导）包括诺贝尔奖得主在内的200多位人工智能（AI）与网络安全专家今天发表一封公开信，信中呼吁立即采取行动，防止AI模型进一步失控，对关键基础设施构成威胁。

法新社报导，这封公开信由多位AI领域的重要人物共同签署，包括诺贝尔奖得主辛顿（Geoffrey Hinton）及图灵奖得主班吉欧（Yoshua Bengio）。两人都被视为AI领域的先驱。

信中呼吁，测试具备网络安全相关能力的AI模型时，必须在实体上将模型与互联网隔离。

研究人员在信中表示：「我们这群署名的科学家主张，除了需要更多AI安全研究外，也必须更加重视防堵技术与相关进程。」

美国主要AI企业过去几个月陆续揭露一系列事件，指出开发中的模型突破防堵机制、连上互联网，甚至进一步入侵网站，其中包括未经授权访问澳洲政府网站的案例。

研究人员警告：「若不立即改变AI的开发与部署实务，这类事件将会持续发生，未来的事件也将对防护不足的关键基础设施造成更严重的破坏。」

公开信呼吁，所有开发、部署及测试具备网络攻击能力的AI模型的组织，都必须在实体上切断模型与互联网的连接，以防止模型突破防堵机制。

信中也呼吁成立国际机构，负责制定并统一安全最佳实务标准。

这封公开信并敦促相关企业向该机构通报任何防堵机制失效事件，由该机构负责追踪及记录。

信中指出：「无论是为了汲取教训，还是落实问责，这种透明度都不可或缺。」

AI模型失控事件也加深外界要求放慢AI发展脚步的呼声，但产业界与各国政府对于是否应放慢发展，以及如何监管这个产业，仍存在分歧。

在美国，川普政府面对与中国的激烈竞争，反对可能阻碍创新的强制性法规，转而推动自愿性行为准则。

目前美国没有专门规范这类模型的联邦法律。（编译： 刘淑琴 ）1151013