中央消息

（中央社旧金山11日综合外电报导）科技巨擘微软董事长暨首席执行官纳德拉近日呼吁，建构先进人工智能（AI）系统时，应具备遏制、独立控制及「紧急煞车」措施，使获得授权的人员运行任务时能暂停或关闭模型。

美国财经媒体CNBC报导，纳德拉（Satya Nadella）昨天在社群媒体X发文说：「我们需要以强大、具有确定性（deterministic）的系统设计、由人类控制以及可靠的操作进程，来围绕非确定性模型，并在既有标准不足之处创建产业标准。」

纳德拉指出：「将前沿的闭源及开放权重模型比照内部风险进行控管，是建构此类系统的一种方式。」

微软（Microsoft）共同创办人比尔盖兹（Bill Gates）、Anthropic首席执行官阿莫戴（Dario Amodei）、OpenAI首席执行官阿特曼（Sam Altman），以及太空探索科技公司（SpaceX）首席执行官马斯克（Elon Musk）等顶尖科技公司高层与研究人员，近来纷纷示警AI安全协定不足以及AI技术发展步调过快。

纳德拉并表示，AI系统设计应依循「可观测性的原则」，像是模型多样性、模型行动的可读性纪录、持续的系统测试、独立控制与可审计性、遏制机制以及安全事件披露。

他强调：「最值得信赖的超级智能（Super Intelligence）系统，不会是拥有我们最信任模型的系统，而是能让我们最不需要去盲目信任模型的系统。」（编译： 洪启原 ）1151011

选择与事实站在一起，您的每一份赞助，都是守护新闻自由的力量

下载中央社「一手新闻」APP，即时掌握最新消息

本网站之文本、图片及影音，非经授权，不得转载、公开播送或公开传输及利用。