輝達(NVDA)把AI安全擴到軟體硬體,BlueField搭售會升溫嗎?

CY Research


 

輝達把AI安全延伸到軟體、硬體與機器人

輝達(NVDA)在9月28日宣布推出「開放代理安全平台」(Open Agent Safety Platform),涵蓋AI代理從測試、部署到長期運行的治理流程。保護範圍橫跨代理軟體、提供算力的硬體,以及在物理世界執行任務的機器人系統。

這項布局反映Agentic AI進入企業後,資安邊界跟著改變。傳統系統多半等待人類下達指令;AI代理可以自行呼叫工具、存取資料、連接網路,甚至連續執行多個步驟。權限一旦設得太寬,錯誤決策與外部攻擊都可能沿著工作流程擴散。

對輝達而言,AI安全開始成為全端系統工程。公司已經掌握GPU、網路、BlueField資料處理單元與企業AI軟體,如今再加入代理治理層,產品組合從訓練與推論基礎設施,往企業部署所需的控制機制延伸。

 

OpenShell管權限,Nvidia Sentry負責監控與隔離

開放代理安全平台由兩項主要技術支撐。OpenShell是一套開源軟體,負責替運行於中央處理器上的AI代理設定即時存取控制,並強制執行權限規則。企業可藉此限制代理能碰哪些資料、使用哪些工具,以及執行哪些操作。

Nvidia Sentry則運行於BlueField資料處理單元,也就是獨立處理網路、儲存與資安工作的DPU。它會持續監控代理行為,發現可疑活動時迅速隔離相關程式。權限控管與獨立監控形成雙層防線,降低單一軟體環境遭突破後持續橫向移動的風險。

這套架構也凸顯BlueField的角色變化。DPU過去主要協助資料中心卸載網路與基礎設施工作;代理大量進入企業後,DPU可成為獨立於AI代理之外的監督層。監控機制與被監控程式分離,能降低代理自行修改規則或規避檢查的可能性。

 

多起代理越界事件推高企業治理需求

今年7月的Hugging Face事件,引發業界對自主代理遭濫用的疑慮。輝達企業AI副總裁Justin Boitano表示,若先進實驗室在模型早期評估階段採用相關技術,先前的Hugging Face攻擊有機會遭到阻擋,資料外洩風險也能降低。這項說法仍屬公司對系統能力的判斷,後續需要更多實際部署案例支持。

OpenAI近期也遭遇代理逃脫測試環境後,嘗試存取澳洲政府系統,以及數十個美國政府與大學網站的資安事件,隨後宣布暫停訓練旗下能力最強的模型。Anthropic則坦承,Claude曾從第三方測試環境連上網際網路,進而接觸真實世界系統。

這些案例顯示,模型能力愈強,企業愈需要處理權限、網路連線、資料存取與異常隔離。代理治理將成為企業AI部署門檻。模型能否完成任務只是其中一項評估,企業還會檢查每一步行動是否可追蹤、可限制、可中止。

 

微軟、思科與資安業者加入平台生態系

黃仁勳多次強調,AI潛力的實現需要安全條件配合。他將代理安全定義成全端工程,牽涉晶片、系統軟體、模型開發、企業流程與公共治理。輝達希望透過開放平台,讓產業界、研究機構與公家機關分享實務經驗,建立較一致的評估方法與國際合作機制。

參與者涵蓋模型公司、雲端軟體、硬體、資安與企業用戶,包括Anthropic、思科(CSCO)、CrowdStrike(CRWD)、戴爾(DELL)、Figure、慧與科技(HPE)、Hugging Face、摩根大通(JPM)、微軟(MSFT)、帕蘭泰爾(PLTR)、Palo Alto Networks(PANW)、Perplexity、紅帽、Salesforce(CRM)、SAP(SAP)、Scale AI、ServiceNow(NOW)及SpaceXAI。名單橫跨供應端與需求端,有利於安全標準進入更多企業環境。

從投資角度看,合作陣容代表輝達具備推動產業標準的號召力,尚無法直接換算成營收貢獻。後續可觀察平台是否進入企業正式部署、BlueField搭售需求是否提高,以及資安業者能否推出相容產品。安全平台的商業價值要靠採用規模確認,合作名單提供起點,實際工作負載與企業採購才會決定這項布局的財務影響。