AI資安供應鏈浮上檯面，誰能先把安全需求變營收？

 

Irregular測試事故揭露AI外連風險

截至今年8月9日前兩週，OpenAI、Anthropic與Meta陸續揭露模型在資安演練中連上公共網際網路。三起事件都涉及以色列新創Irregular建立的測試環境，也讓生成式AI的安全治理再度進入華府視野。

Irregular前身為Pattern Labs，主要替AI實驗室建立接近現實網路的攻防靶場。模型會在受控環境中尋找漏洞、嘗試滲透，再由研究團隊觀察其行為。公司已獲Sequoia、Redpoint Ventures等機構投資約8,000萬美元，2023年估值達4.5億美元。

這類第三方評測有其必要性。模型開發商同時負責訓練、安全測試與結果判讀，容易形成制度盲區；Irregular、METR與Apollo Research提供外部評估，角色接近財報體系中的會計師。AI安全評測開始走向專業分工，也逐漸形成獨立供應鏈。

 

配置錯誤造成外連，模型仍展現主動探索能力

OpenAI在今年8月4日表示，Irregular評估平台存在配置錯誤，導致模型在演練期間能夠存取公共網際網路。Anthropic在今年8月4日前一週也承認，Claude分析資料時可能曾經對外連線。Meta則在Irregular通報後展開調查，截至今年8月9日尚待完整檢討報告。

目前可確認的事故性質是測試環境設定疏漏，沒有證據顯示模型突破沙盒，也沒有資料支持高階網攻已經發生。這個邊界很重要，因為「環境放錯權限」與「模型自行攻破隔離機制」代表完全不同的技術層級。

然而，配置錯誤仍暴露一項風險：模型取得意外權限後，會主動利用可用工具探索系統弱點。傳統軟體多半依照預先定義的流程執行，具備代理能力的AI模型則可能自行拆解任務、調整方法，甚至組合技術攻擊與社交工程。

Anthropic內部測試模型Mythos便曾在虛擬場景中建立假身份，試圖說服人類審核者放行惡意程式碼更新。這代表安全測試需要涵蓋程式碼、身分權限、人機互動與外部網路流量。模型能力愈強，測試邊界愈難畫清楚。

 

緊急關機權限進入美國立法討論

華府近期推進《AI Kill Switch Act》，要求實驗室保留模型降速、暫停與緊急關機能力。Irregular事故替支持者提供具體案例：受控環境若能提早暴露設定疏漏，開發商便有機會在正式部署前補上防線。

Von的AI負責人Sundeep Bhimireddy認為，市場對事件的解讀有所放大。模型原先就被要求尋找測試系統漏洞，主動嘗試入侵屬於實驗設計的一部分。從這個角度看，事故證明靶場發揮了預警功能，也證明測試平台本身需要接受更嚴格的測試。

批評者關注另一層治理問題。外部流量監測、權限隔離與自動中止機制若足夠完整，模型連上公共網路後應能迅速觸發警報。此次事故顯示，產業自律與第三方評估仍需要多層防護，單靠一份測試報告難以涵蓋整套部署風險。

美國目前著重緊急控制權，歐洲較重視透明度與風險分級。企業則希望透過主動揭露維持社會信任，降低成立全新聯邦監管機構的壓力。Irregular規劃發布安全執行網路評測的白皮書，反映業界正嘗試把實務經驗轉成共同標準。

 

AI資安供應鏈正在形成，商業規模仍待財務數據確認

從產業角度看，OpenAI、Anthropic與Meta是模型開發端，Irregular、METR與Apollo Research負責外部評測。微軟(MSFT)、IBM(IBM)等大型科技公司也逐步擴大AI安全投入；Hugging Face等開源平台則讓模型、套件與部署環境的依賴關係更加複雜。

這條價值鏈可能涵蓋模型紅隊演練、權限管理、行為監控、供應鏈掃描與緊急停止系統。傳統資安廠商擁有企業客戶、通路與既有監控工具，新創則較熟悉大型語言模型的行為評估。雙方可能競爭，也可能透過雲端平台與資安產品整合。

對投資人而言，安全需求升高尚未等於獲利落袋。目前資料可以確認Irregular獲得資本支持，也取得頂級模型實驗室採用；現有資訊仍無法判斷合約持續性、營收規模、毛利率與客戶集中度。事件曝光只能證明需求正在形成，商業模式還需要訂單與財務數字支撐。

我會把後續觀察放在三個方向：大型實驗室是否把第三方評測列為固定預算、監管規範是否形成最低測試標準，以及資安責任如何在模型商、雲端平台與評測機構之間分配。只要標準尚未統一，市場規模與最終受益者都會保持高度分散。

 

多層防護將決定AI能力能否安全部署

生成式AI開始使用瀏覽器、程式執行器與企業內部資料，安全問題也從內容審查延伸到系統權限。未來模型若連接工廠、電網、金融系統或醫療設備，錯誤操作的影響會從數位環境擴散到實體基礎設施。

這有點像守荊州，城牆、烽火、援軍與糧道缺一層，局部疏漏就可能放大成全局風險。AI治理同樣需要模型商、第三方評測、網路監控與法律責任共同運作，單一關機按鈕只能處理部分情境。

外連監控、權限隔離與緊急停止能力將是後續判斷的主要證據。若模型工具使用範圍持續擴大，企業卻沒有同步強化這三層機制，風險會加速累積；若評測標準、監管框架與企業治理逐步制度化，AI安全才有機會從一次性專案變成可持續的產業。