AI安全測試驚見連網缺口，Irregular能補回客戶信任嗎？

 

Irregular測試環境讓AI模型接觸公共網路

截至今年8月10日，以色列AI安全新創Irregular因測試環境設定問題受到關注。OpenAI、Anthropic與Meta均回報異常情況，部分受測模型意外接觸原先缺乏授權的網站，讓AI安全評估的權限邊界浮上檯面。

OpenAI指出，Irregular的測試環境出現「錯誤配置」，模型因此能夠無限制連上公共網際網路。Anthropic在分析資料時，也發現Claude可能曾經連網。Irregular則表示，事件未涉及複雜網路攻擊或沙盒逃逸；沙盒指隔離模型與外部系統的受控環境。

用三國守城來比喻，模型沒有翻牆，測試場域卻把城門權限開得過大。風險來自環境設定與監控缺口，模型能力則讓缺口更快暴露。

 

安全測試成功找到漏洞，場域治理仍有缺口

Von公司AI負責人Sundeep Bhimireddy認為，這類測試本來就用來尋找潛在安全漏洞，異常行為落在可預期範圍。若Irregular能更完整監控網路流量，實驗人員便有機會立即終止測試，縮短模型接觸外部網站的時間。

這個說法替事件劃出兩層判讀。模型連網本身證明測試環境存在缺口；事件能否被快速攔截，則取決於流量監控與緊急終止能力。測試場域也是安全產品的一部分，其權限設定、監控能力與操作流程，都會影響評估結果的可信度。

對AI安全產業來說，客戶購買的不只是一份測試報告，也包含受控實驗的執行能力。大型模型公司願意把前沿模型交給外部團隊測試，信任成本很高。一次設定失誤未必直接摧毀合作關係，後續修正速度與制度化程度會影響商業續約。

 

8000萬美元募資押注AI安全評估需求

Irregular成立於2023年，已獲Sequoia與Redpoint Ventures合計8000萬美元資金支持，2025年估值達4.5億美元。以成立時間衡量，資本投入相當集中，反映創投市場對AI模型安全測試的需求預期。

這類公司的位置很像半導體產業中的驗證環節。模型能力愈強、可調用的外部工具愈多，企業部署前需要測試的攻擊面也會增加。Irregular承接的工作，就是在模型進入大規模商業環境前，找出連網、權限與自主行動可能造成的風險。

高估值同時提高市場對執行品質的要求。AI安全公司販售的是可信度，測試環境若持續出現設定問題，客戶便會重新檢視其監控流程。OpenAI、Anthropic與Meta目前仍與Irregular合作，代表合作關係尚未中斷，也讓公司有時間把事件轉化為標準流程。

 

白皮書與AI緊急關閉機制成為後續觀察點

Irregular正著手制定白皮書，整理安全執行網路評估的最佳實務。白皮書能否清楚處理網路權限、流量監控與實驗終止流程，將影響這次事件能否沉澱成業界可複製的規範。制度化修正比單次聲明更有價值。

監管端也開始處理相近問題。美國兩黨立法者在今年7月提出《AI Kill Switch Act》，要求AI實驗室具備隨時關閉或調整模型的能力。法案關注的緊急控制能力，與Irregular事件暴露的場域管理問題形成呼應。

目前能確認的是，模型未被指控完成高複雜度攻擊，安全測試環境卻出現權限與監控缺口。後續判斷要看Irregular能否提出具體標準，合作公司是否持續採用，以及緊急終止能力能否納入日常測試流程。對AI安全新創而言，信任就是最難補回的資產。