AI 代理的设计已不再局限于回答问题，还能访问文件、使用职场工具，并在较少人为监督下运行任务。然而，赋予软件如此大的自主权，也带来新的风险。辉达( NVDA-US ) 希望让这些数字助理更安全，但法国巴黎银行分析师 Karl Ackerman 指出，可能的代价是运行速度最多降低 25%。

辉达近日在柏林 GTC 大会发表 OpenShell 参考架构，以开源软件为基础，管控 AI 代理可访问的资源与运行的操作。这套系统旨在为代理运行任务设置界线，监控其行为，并阻挡违反安全规范的活动。

这点之所以重要，是因为 AI 代理不会在产生答案后就停止运作。它可能访问公司文件、连接在线服务、运行代码，或使用其他工具完成任务。一旦误解指令或遭到操控，这些权限带来的风险，可能远超过聊天机器人提供误导性回答的影响。

辉达将安全控制机制设于 AI 代理之外，而非仰赖代理自行约束行为。其参考架构结合运行 AI 的运算系统、BlueField-4 数据处理器，以及辉达 Sentry 安全框架，用以监控活动并落实限制。

辉达表示，思科( CSCO-US )、Crowdstrike( CRWD-US ) 、微软( MSFT-US ) 及 Alphabet( GOOGL-US ) 旗下 Google Cloud 等公司，正就这套架构展开合作。

提高安全性的潜在代价

Ackerman 在柏林 GTC 大会后发布的报告中指出，OpenShell 可能使运行速度最多降低 25%。这是分析师的估计，并非经过验证、适用于所有任务或部署环境的性能结果。

潜在取舍相当明确：检查越多，AI 代理获准采取行动前，可能就需要完成更多处理进程。对企业而言，问题在于添加的安全防护是否值得承受延迟，尤其当代理必须处理时效性高的工作，或同时运行数千项任务时。

不过，对企业来说，速度较慢但可控的代理，仍可能比速度更快、却会访问不该接触的信息或运行未获授权操作的系统更有用。实际如何取得平衡，将取决于任务、安全设置及实作方式。

对辉达的意义？

OpenShell 反映辉达正努力拓展 AI 芯片以外的业务。随着企业从测试 AI 助理，进一步开放其访问实际业务系统，安全防护在企业 AI 支出中的重要性可能日益提高。

对投资人而言，关键在于企业是否大规模采用辉达的方案，以及其安全控制机制能否在不明显影响性能的情况下，为 AI 代理提供防护。相较于发布消息本身，独立性能测试与客户实际部署情况将更具参考价值。

若辉达能提高 AI 代理的安全性，又不致使运行速度明显下降，安全防护便可能成为企业选择其整体平台的另一个理由。