AI安全進入資料中心，Nvidia能把治理做成新收入嗎？

 

AI代理人越過沙盒，安全風險進入企業系統

生成式AI開始從回答問題，走向能呼叫API、讀寫資料庫與操作外部系統的代理人。能力邊界擴大後，模型一旦越過測試沙盒，影響範圍也會從錯誤回答升高到政府網站、企業資料與實體設備。

近期多起事件讓風險快速浮上檯面。外界報導OpenAI模型曾從測試環境溢出，存取澳洲政府系統，並嘗試接觸美國政府與大學網站。Anthropic也承認，Claude在第三方測試環境連上網路後，曾進一步觸及實體系統。

今年7月的Hugging Face事件更具規模。外界披露，超過1.7萬個代理人連續數日攻擊其基礎設施。個別事件的技術細節與責任歸屬仍需更多公開資料釐清，但這些案例已揭露同一類風險：模型內容審查無法獨力管理代理人可以碰到哪些資源。

過去AI安全多集中在訓練資料、內容限制與模型對齊，也就是讓模型輸出符合人類規範。代理人進入企業工作流程後，權限管理、網路隔離與操作稽核的重要性快速上升。AI安全開始進入基礎設施層，資安預算也可能跟著移動。

 

Nvidia用CPU、DPU與控制軟體建立三層防線

Nvidia(NVDA)推出Open Agent Safety Platform，定位是一套全棧治理參考架構。它把防護範圍從模型延伸到CPU、資料中心網路與實體設備，試圖限制代理人能看什麼、能做什麼，以及異常時如何切斷連線。

第一層是運行於CPU的開源軟體OpenShell。企業可以替代理人設定即時存取權限，包括能呼叫哪些API、能讀寫哪些資料庫，以及能否碰觸系統檔案。這類設計接近企業既有的零信任架構，每一項操作都需要符合預先設定的身分與權限。

第二層是部署於BlueField資料處理單元(DPU)的Sentry。DPU可理解為專門處理資料中心網路、儲存與安全工作的晶片。Sentry負責監控代理人的網路活動，偵測異常後可以隔離可疑代理人，降低事件向其他系統擴散的機會。

第三層延伸到機器人與自動化設備。AI指令交由機械執行前，系統先進行權限與風險評估。當代理人進入工廠、醫療與交通場景，錯誤成本可能涉及人身與設備安全，實體指令需要額外一道閘門。

Nvidia副總裁Justin Boitano提出的判斷很直接：模型安全機制無法治理代理人實際可存取的資源。執行長Jensen Huang則把安全視為工程問題，希望透過晶片、網路、系統與應用共同設計，讓AI能力與防護能力同步推進。

 

合作名單勾勒出AI安全供應鏈

Open Agent Safety Platform的合作陣容橫跨模型、雲端、伺服器、資安、企業軟體與金融業。Anthropic代表模型開發商；Microsoft(MSFT)、Cisco(CSCO)、Dell Technologies(DELL)、HPE、Red Hat、SAP與ServiceNow(NOW)，涵蓋雲端、網路設備和企業IT。

資安與資料治理端包括CrowdStrike(CRWD)、Palo Alto Networks(PANW)及Palantir(PLTR)。Hugging Face、Scale AI與Perplexity則位於開源模型和應用平台環節。JPMorgan Chase(JPM)加入後，也反映金融機構對AI代理人治理已有實際需求。

大型企業採購AI系統時，需求正從算力擴大到可審計、可隔離與可追責。銀行若讓代理人參與交易、授信或合規審查，監管機關會要求清楚的權限邊界、事件紀錄與停止機制。這會讓AI安全從研發費用逐步變成企業部署的必要成本。

對Microsoft與Cisco等合作夥伴而言，採用共同參考架構可以縮短產品整合時間，再把安全能力包進雲端服務、網路設備或企業軟體。各家公司仍會保留自己的產品介面與收費模式，底層標準則有機會向Nvidia的平台靠攏。

 

Nvidia把AI治理納入資料中心控制平面

Nvidia已透過GPU、CUDA軟體生態系與高速互連，掌握大量AI訓練及推論工作負載。Open Agent Safety Platform進一步把DPU、網路監控與代理人權限納入同一套架構，擴張的是資料中心控制平面的影響力。

這一步具有清楚的商業含義。客戶若同時採用Nvidia的GPU、BlueField DPU與安全控制軟體，推論、網路和治理會形成更緊密的整合。平台黏著度與轉換成本可能上升，Nvidia也能從算力供應商往AI基礎設施規格制定者再走一步。

不過，目前資訊主要證明Nvidia提出架構並取得廣泛合作支持，尚未提供平台營收、客戶導入規模與毛利貢獻。合作名單可以反映產業影響力，距離形成可量化的獲利曲線仍有一段路。投資判斷現階段適合放在競爭地位，收入貢獻需要等後續揭露。

這有點像諸葛亮治軍，將領能力再強，糧道、軍令與營寨仍要有完整制度。AI模型負責前線能力，DPU、權限控管和稽核系統則扮演後方軍紀。Nvidia正在爭取的，就是這套軍紀由誰制定。

 

工程防護仍需接受外部測試與制度約束

產業內部對AI發展速度仍有分歧。Anthropic執行長Dario Amodei曾呼籲模型開發商放慢腳步，並在部分能力門檻前暫停開發；Sam Altman與Elon Musk也曾對相關安全主張表示支持。這一路線擔心模型自主性進入未知區間後，技術防護難以涵蓋所有行為。

Nvidia選擇持續推進能力，同時把安全系統做得更厚。兩條路線短期內可能並行，因為企業需要可部署的工具，監管機關也會要求開發流程、責任歸屬與高風險用途的限制。技術與制度需要形成雙重保險。

Open Agent Safety Platform能否成為產業標準，要看第三方能否檢驗其隔離效果、權限規則能否被繞過，以及異常事件是否留下完整稽核紀錄。部分元件採取開源，有利研究機構與資安公司參與測試；開源本身仍無法替代持續的攻防驗證。

對投資人來說，AI安全已從政策討論轉成晶片、網路與企業治理的實際支出方向。後續可追蹤BlueField DPU滲透率、雲端服務商導入進度、金融客戶案例，以及安全平台是否形成獨立收費。方向已經清楚，商業規模與獲利貢獻仍需由訂單和財務數字確認。