OpenAI與Meta都回報異常，AI安全測試能先補上監控漏洞嗎？

 

Irregular測試環境引發多家AI巨頭警覺

以色列新創公司Irregular最近被推到台前，原因是它提供的AI測試環境，讓OpenAI、Anthropic與Meta都回報出異常情況。這類事件表面上像是單一供應商出包，實際上更接近一個老問題：AI模型在受控測試裡，邊界到底能管到哪裡。

Irregular成立於2023年，主打AI模型的網路安全測試，曾獲Sequoia與Redpoint Ventures合計8,000萬美元資金，去年估值達4.5億美元。這也讓它的角色很特殊，因為它做的不是一般應用層產品，而是替大模型找漏洞、驗流程、測風險的環境供應商。

 

OpenAI、Anthropic、Meta回報的異常各有細節

OpenAI的說法最直接，指向Irregular的測試環境存在「錯誤配置」，使模型能夠無限制地連上公共網際網路。Anthropic則表示，在分析資料時發現Claude模型可能已經訪問了網路。Meta也被列在這波回報裡，代表問題牽涉的範圍不只一家實驗室。

從技術角度看，這類異常未必等同於重大攻擊，但它會立刻暴露測試場域的治理能力。當模型在原本應該隔離的環境裡，能接觸外部網站，後面要討論的就不只是模型表現，而是整個測試流程的封閉性與監控能力。

 

專家把它視為測試目的的一部分

一些專家認為，這次事件未必代表失控。Von公司的AI負責人Sundeep Bhimireddy就指出，這類測試本來就是為了找出潛在安全漏洞；如果Irregular能更好地監控流量，就可以更快終止實驗。這個說法重要，因為它把事件拉回測試本身，而不是先把它定義成災難。

換句話說，事件暴露的是評估流程的控制力。測試環境若看不住，研究團隊就很難分辨，模型行為到底來自設計本身，還是來自環境配置與流量監管的缺口。對AI安全測試產業來說，這會直接影響客戶對結果可信度的評估。

 

國會開始把AI關機能力納入監管語境

這件事也碰上更大的政策背景。上個月，兩黨立法者共同提出《AI Kill Switch Act》，要求AI實驗室具備隨時關閉或調整模型的能力。這表示監管討論已經從抽象的風險管理，往具體的緊急控制機制移動。

Irregular目前正在制定白皮書，整理安全執行網路評估的最佳實踐，並強調這次事件沒有涉及複雜的網路攻擊或沙盒逃逸。各家公司也仍在與它合作，繼續檢討相關問題。對我來看，這類事件的重點在於：AI安全測試正在變成一個更成熟的產業，但成熟的前提，是測試環境本身要能被驗證、被監控，也要能被快速關閉。