新闻正文
AI代理愈来愈能动手处理工作:读取文件、查找数据库、链接网络服务,甚至调用工具完成多步骤任务。 这些能力让代理从问答系统走向企业工作流程,也让安全问题不再只关乎模型会不会产生错误答案,还包括代理能接触哪些数据、能运行什么操作,以及行动是否留下纪录。 NVIDIA(辉达,NASDAQ:NVDA)创办人暨首席执行官黄仁勋21日在柏林举行的 GTC 主题演讲中指出,代理可能访问文件、资源、网络及工具,因此安全机制必须随代理的能力一并设计。 他说:「最重要的是确保代理安全。 」黄仁勋并提醒,代理每次启动时所需权限可能不同,企业不宜一次授予广泛权限后,就让代理长期使用。
NVIDIA此次推出 OpenShell 参考架构,目标是在企业基础设施与边缘系统中,提供建置、控管、观测及运行安全代理所需的机制。 OpenShell并非新的 AI 模型,而是创建在 NVIDIA OpenShell 安全运行环境软件上,将代理运行与其可接触的系统资源区隔,再依政策限制代理的操作范围。 集成运算、运行环境与芯片层级管控 这套架构集成 Vera Rubin、Vera CPU 与 BlueField-4 DPU,分别支持模型推论、代理运行框架与工具使用,以及安全政策管理。
NVIDIA表示,BlueField-4 DPU可运行 Sentry,在芯片层级落实安全管控;OpenShell运行环境则通过隔离机制,限制代理对文件、网络与其他系统资源的访问。 架构也能延伸至边缘端,支持 RTX Spark、DGX Spark 与 DGX Station 等系统。 黄仁勋表示:「AI能力与安全性必须同步推进。 」他指出,代理应能在明确界线内完成有用工作,同时受到隔离、监控与管理。 这代表权限设置不能只看代理的身分,也要考量每项任务需要哪些数据和工具。 举例来说,代理若只需整理特定数据,就不必取得整个数据库的访问权;涉及对外发送数据或修改重要系统的操作,也可设计更严格的核准流程。
OpenShell参考架构可运行于 Canonical、Red Hat、Microsoft Windows 等企业操作系统。 NVIDIA表示,Anthropic、AWS、思科、Google Cloud、微软、OpenAI、SAP、西门子等业者正采用此架构,以强化代理部署安全。 这些采用情况显示,业界正寻找可纳入企业环境的代理安全方案,但不表示风险已经消失。 组织仍须自行订定政策,查看代理使用的数据与工具,并创建操作纪录、事件追踪及责任归属机制。 对企业而言,代理的价值在于能否运用内部知识和工具完成工作;相对地,代理接触的资源愈多,错误操作或权限遭滥用的影响也可能愈大。
OpenShell试图把隔离、政策管理与监控纳入代理运行环境,让企业在扩大应用时有所依循。 最终能否降低风险,仍取决于企业如何设置权限,以及是否持续检查代理的实际行为。