AI 代理的設計已不再局限於回答問題，還能存取檔案、使用職場工具，並在較少人為監督下執行任務。然而，賦予軟體如此大的自主權，也帶來新的風險。輝達( NVDA-US ) 希望讓這些數位助理更安全，但法國巴黎銀行分析師 Karl Ackerman 指出，可能的代價是執行速度最多降低 25%。

輝達近日在柏林 GTC 大會發表 OpenShell 參考架構，以開源軟體為基礎，管控 AI 代理可存取的資源與執行的操作。這套系統旨在為代理執行任務設定界線，監控其行為，並阻擋違反安全規範的活動。

這點之所以重要，是因為 AI 代理不會在產生答案後就停止運作。它可能存取公司檔案、連接線上服務、執行程式碼，或使用其他工具完成任務。一旦誤解指令或遭到操控，這些權限帶來的風險，可能遠超過聊天機器人提供誤導性回答的影響。

輝達將安全控制機制設於 AI 代理之外，而非仰賴代理自行約束行為。其參考架構結合執行 AI 的運算系統、BlueField-4 資料處理器，以及輝達 Sentry 安全框架，用以監控活動並落實限制。

輝達表示，思科( CSCO-US )、Crowdstrike( CRWD-US ) 、微軟( MSFT-US ) 及 Alphabet( GOOGL-US ) 旗下 Google Cloud 等公司，正就這套架構展開合作。

提高安全性的潛在代價

Ackerman 在柏林 GTC 大會後發布的報告中指出，OpenShell 可能使執行速度最多降低 25%。這是分析師的估計，並非經過驗證、適用於所有任務或部署環境的效能結果。

潛在取捨相當明確：檢查越多，AI 代理獲准採取行動前，可能就需要完成更多處理程序。對企業而言，問題在於新增的安全防護是否值得承受延遲，尤其當代理必須處理時效性高的工作，或同時執行數千項任務時。

不過，對企業來說，速度較慢但可控的代理，仍可能比速度更快、卻會存取不該接觸的資訊或執行未獲授權操作的系統更有用。實際如何取得平衡，將取決於任務、安全設定及實作方式。

對輝達的意義？

OpenShell 反映輝達正努力拓展 AI 晶片以外的業務。隨著企業從測試 AI 助理，進一步開放其存取實際業務系統，安全防護在企業 AI 支出中的重要性可能日益提高。

對投資人而言，關鍵在於企業是否大規模採用輝達的方案，以及其安全控制機制能否在不明顯影響效能的情況下，為 AI 代理提供防護。相較於發布消息本身，獨立效能測試與客戶實際部署情況將更具參考價值。

若輝達能提高 AI 代理的安全性，又不致使執行速度明顯下降，安全防護便可能成為企業選擇其整體平台的另一個理由。