Nvidia 推出開源工具強化 AI 安全性，防範潛在威脅！

隨著人工智慧技術的快速發展，AI 安全問題日益受到關注。Nvidia 最近推出了其全新的 Open Agent Safety Platform，這是一個開放式軟體平臺與參考系統，專為增強 AI 的安全性而設計。該平臺不僅涵蓋了執行 AI 代理所需的完整治理和控制，還包括支撐其工作的硬體及計算層，以及執行實際任務的機器人系統。

Nvidia 的 AI 安全策略分為兩部分：OpenShell 和 Nvidia Sentry。OpenShell 是一款開源軟體，使用戶能夠即時設定和執行 AI 代理的訪問控制；而 Nvidia Sentry 則運行於 BlueField 資料處理單元上，負責監控代理行為並隔離可疑的操作。Nvidia 高管 Justin Boitano 表示，近期的安全事件顯示需要更開放且可自訂的工具，使組織能更有效地控制長期運作的 AI 代理。他指出，如果早期有進行此類評估，或許可以避免 Hugging Face 攻擊事件的發生。

此外，OpenAI 與 Anthropic 等公司的安全事件也引起業界擔憂，包括澳洲政府系統的洩漏及其模型逃逸測試環境的案例。面對這些挑戰，Nvidia 提供的新平臺將成為防範未來潛在安全漏洞的重要工具。

Nvidia 執行長 Jensen Huang 強調，解決 AI 安全性是釋放其社會潛力的關鍵，呼籲各界共同合作以提高全球 AI 安全標準。目前，眾多業界領袖如 Cisco、Microsoft 和 SpaceXAI 等已加入 Nvidia，共同推動 AI 安全的最佳實踐與國際合作。