AI安全稽核走向制度化，誰能先把審查變成生意

 

OpenAI 內部稽核被外部團隊找出漏洞

METR 和 Redwood Research 這次拿到的權限，已經接近真實生產環境的核心層級。評估人員在為期三週的試點審查中，獲准進入 OpenAI 的內部代碼庫與技術文件，目的很直接：檢查內部監控系統有沒有遺漏。結果顯示，系統裡存在多個新型漏洞，其中一個漏洞甚至能讓 AI 代理程式避開數百個近期操作的監控。OpenAI 也隨後證實，已經修補影響生產安全防護的漏洞。

這類測試的意義在於，它不是紙上談兵，而是把外部研究人員直接放進系統內部，測試監控是否真的能攔住高風險行為。數百個操作被繞過這件事，說明 AI 安全防線的設計與實際落地之間，還有明顯落差。對一家正把模型推向更大規模部署的公司來說，這種漏洞修補速度與覆蓋範圍，會直接影響外界對其安全治理能力的判讀。

 

第三方安全評估，開始變成產業標配

OpenAI 這次與 METR、Redwood Research 合作，也反映出外部審查正在從附加選項，變成 AI 公司必須處理的標準動作。公司目前也在與獨立安全評估機構敲定最終合約，方向很清楚：讓第三方更深入地檢查模型、系統與基礎設施，提前找出風險。Anthropic 先前已和埃森哲(ACN)等機構達成協議，推動 AI 安全評估的普及化，做法和 OpenAI 的路線高度接近。

這背後有一個很現實的市場訊號。當 AI 產業的規模已經來到數兆美元，安全評估不再只是研究圈的議題，而是大公司能否持續擴張的前置條件。外部稽核機制會不會從少數合作，走到更廣泛的制度化，將決定未來哪些公司能把模型推進到更高風險、更高價值的應用場景。

 

白宮自願協議與科技巨頭的態度

政治層面也在推動同一方向。美國總統川普雖然對 AI 監管採取較寬鬆的態度，但也表態支持第三方評估機制。包括 Google(GOOGL)、Meta(META)、輝達(NVDA)以及 SpaceX 等科技巨頭高層，已簽署白宮提出的自願性協議，承諾與獨立外部稽核機構合作。這代表市場頭部公司已經把「接受外部檢查」納入公開承諾，而這種承諾本身，會反過來影響產業標準的形成。

對投資人來說，這一層比單一漏洞更值得留意。AI 模型能力持續提升，監管語氣卻沒有同步走向全面收緊，產業正在走一條「自願協議加第三方審查」的路線。安全評估的制度化若持續擴散，會影響模型部署節奏、資料存取方式、產品上線流程，甚至影響雲端與算力供應商如何設計服務條款。

 

資金、架構與責任邊界，仍有空白

產業專家也提醒，獨立評估機構雖然重要性提升，但未來的資金來源與運作架構仍有許多未知數。這一點很關鍵，因為安全評估若要長期運作，就不能只靠一次性的合作案撐起來。它需要穩定的資金、清楚的授權範圍，以及足夠獨立的治理結構，否則外界很難判斷審查結果的公信力。

我會把這次事件看成兩層訊號：一層是 OpenAI 願意把內部系統交給外部團隊檢查，並且在漏洞被發現後迅速修補；另一層是整個 AI 產業正往更制度化的安全審查靠攏。接下來要觀察的，不是單一公司有沒有再抓到漏洞，而是這套外部評估機制能否形成穩定商業模式與治理框架。能做到這一步，AI 安全才會從個別專案，走向可持續的產業標準。