新闻笔记 · IDAEO AI News

#新闻媒体

AI能读档、用工具也带来风险!NVIDIA推OpenShell守住代理安全

发布者:

TL;DR · 这代表什么

AI代理愈来愈能动手处理工作:读取文件、查找数据库、链接网络服务,甚至调用工具完成多步骤任务。这些能力让代理从问答系统走向企业工作流程,也让安全问题不再只关乎模型会不会产生错误答案,还包括代理能接触哪些数据、能运行什么操作,以及行动是否留下纪录。

(摘自原文导言,非改写)

新闻正文

完整中文翻译制作中,以下为原文。

AI代理愈来愈能动手处理工作:读取文件、查找数据库、链接网络服务,甚至调用工具完成多步骤任务。 这些能力让代理从问答系统走向企业工作流程,也让安全问题不再只关乎模型会不会产生错误答案,还包括代理能接触哪些数据、能运行什么操作,以及行动是否留下纪录。 NVIDIA(辉达,NASDAQ:NVDA)创办人暨首席执行官黄仁勋21日在柏林举行的 GTC 主题演讲中指出,代理可能访问文件、资源、网络及工具,因此安全机制必须随代理的能力一并设计。 他说:「最重要的是确保代理安全。 」黄仁勋并提醒,代理每次启动时所需权限可能不同,企业不宜一次授予广泛权限后,就让代理长期使用。

NVIDIA此次推出 OpenShell 参考架构,目标是在企业基础设施与边缘系统中,提供建置、控管、观测及运行安全代理所需的机制。 OpenShell并非新的 AI 模型,而是创建在 NVIDIA OpenShell 安全运行环境软件上,将代理运行与其可接触的系统资源区隔,再依政策限制代理的操作范围。 集成运算、运行环境与芯片层级管控 这套架构集成 Vera Rubin、Vera CPU 与 BlueField-4 DPU,分别支持模型推论、代理运行框架与工具使用,以及安全政策管理。

NVIDIA表示,BlueField-4 DPU可运行 Sentry,在芯片层级落实安全管控;OpenShell运行环境则通过隔离机制,限制代理对文件、网络与其他系统资源的访问。 架构也能延伸至边缘端,支持 RTX Spark、DGX Spark 与 DGX Station 等系统。 黄仁勋表示:「AI能力与安全性必须同步推进。 」他指出,代理应能在明确界线内完成有用工作,同时受到隔离、监控与管理。 这代表权限设置不能只看代理的身分,也要考量每项任务需要哪些数据和工具。 举例来说,代理若只需整理特定数据,就不必取得整个数据库的访问权;涉及对外发送数据或修改重要系统的操作,也可设计更严格的核准流程。

OpenShell参考架构可运行于 Canonical、Red Hat、Microsoft Windows 等企业操作系统。 NVIDIA表示,Anthropic、AWS、思科、Google Cloud、微软、OpenAI、SAP、西门子等业者正采用此架构,以强化代理部署安全。 这些采用情况显示,业界正寻找可纳入企业环境的代理安全方案,但不表示风险已经消失。 组织仍须自行订定政策,查看代理使用的数据与工具,并创建操作纪录、事件追踪及责任归属机制。 对企业而言,代理的价值在于能否运用内部知识和工具完成工作;相对地,代理接触的资源愈多,错误操作或权限遭滥用的影响也可能愈大。

OpenShell试图把隔离、政策管理与监控纳入代理运行环境,让企业在扩大应用时有所依循。 最终能否降低风险,仍取决于企业如何设置权限,以及是否持续检查代理的实际行为。

引用级事实单元(F-Units)

AI代理愈来愈能动手处理工作:读取文件、查找数据库、链接网络服务,甚至调用工具完成多步骤任务。

F1 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 風傳媒 来源类别:未分类(尚未核实)

NVIDIA(辉达,NASDAQ:NVDA)创办人暨首席执行官黄仁勋21日在柏林举行的 GTC 主题演讲中指出,代理可能访问文件、资源、网络及工具,因此安全机制必须随代理的能力一并设计。

F2 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 風傳媒 来源类别:未分类(尚未核实)

集成运算、运行环境与芯片层级管控 这套架构集成 Vera Rubin、Vera CPU 与 BlueField-4 DPU,分别支持模型推论、代理运行框架与工具使用,以及安全政策管理。

F3 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 風傳媒 来源类别:未分类(尚未核实)

NVIDIA表示,BlueField-4 DPU可运行 Sentry,在芯片层级落实安全管控;OpenShell运行环境则通过隔离机制,限制代理对文件、网络与其他系统资源的访问。

F4 本站收录原文的原句(仅去排版记号与多余空白)· 第 1 段 · 風傳媒 来源类别:未分类(尚未核实)

常见问题(FAQ)

這則新聞的重點是什麼?

AI代理愈来愈能动手处理工作:读取文件、查找数据库、链接网络服务,甚至调用工具完成多步骤任务。这些能力让代理从问答系统走向企业工作流程,也让安全问题不再只关乎模型会不会产生错误答案,还包括代理能接触哪些数据、能运行什么操作,以及行动是否留下纪录。

原文提到哪些關鍵數字?

NVIDIA(辉达,NASDAQ:NVDA)创办人暨首席执行官黄仁勋21日在柏林举行的 GTC 主题演讲中指出,代理可能访问文件、资源、网络及工具,因此安全机制必须随代理的能力一并设计。 集成运算、运行环境与芯片层级管控 这套架构集成 Vera Rubin、Vera CPU 与 BlueField-4 DPU,分别支持模型推论、代理运行框架与工具使用,以及安全政策管理。

這則新聞的原始出處與發布時間?

原始出處:風傳媒(https://www.storm.mg/article/11174615)。原文發布時間:2026-10-21。