AI評估機構拿到7,100萬美元承諾，審查能變成穩定生意嗎？

 

AI模型評估機構從邊緣角色走向產業治理層

兩個月前，獨立模型評估機構在數兆美元的AI產業中仍少有人關注。隨著Anthropic與OpenAI同時面對模型安全、產品推出速度與商業成長壓力，模型評估與威脅研究機構(METR)、Apollo Research等第三方團體，開始進入先進模型的審查流程。

這類機構主要測試模型是否具備欺騙、規避監督、網路攻擊或自主完成複雜任務的能力。當模型能力持續提高，企業內部測試容易受到產品時程與營收目標牽制，外部評估因此成為新的治理環節。

美國聯邦層級仍缺乏完整AI監管架構，讓多數採非營利模式的小型機構承接更多責任。AI治理需求正在轉成實際預算，但產業仍處於制度建立初期，服務範圍、責任歸屬與收費方式都尚未定型。

 

資金來源決定第三方審查的公信力

目前最棘手的問題是誰支付評估費用。Anthropic與OpenAI等模型開發商擁有充足資本，也最了解模型架構；同時，這些企業又是接受審查的一方。資金、技術與資訊都集中在大型實驗室手中，容易形成球員兼裁判的疑慮。

OpenAI近期以違反存取及處理機密公司資訊政策為由解雇員工。部分前員工認為，事件可能與他們和第三方評估機構溝通有關。現有資訊尚無法確認完整因果，但事件凸顯一項治理缺口：員工與外部審查員能否在免於報復的環境下揭露安全疑慮。

因此，第三方評估的價值無法只靠測試技術建立。財務獨立、資訊存取與吹哨者保護，都會影響審查結果能否取得市場信任。

 

METR獲得7,100萬美元承諾，審核生態圈快速擴張

AI評估市場已從小型非營利組織延伸至大型專業服務公司，埃森哲(ACN)等審計業者也進入相關業務。METR在過去六個月取得約7,100萬美元資金承諾，規模遠高於過往，顯示資本已開始押注AI安全測試與驗證需求。

資金增加可以擴充研究人員、運算資源與測試工具，卻無法立即消除權力差距。許多評估機構僅有數十名員工，面對的AI實驗室則擁有數千名員工與數百億美元資金。模型開發商還掌握模型權重、訓練資料、系統日誌與內部部署環境。

這種差距會直接限制審查深度。若外部團隊只能使用公開版本或受限介面，評估結果很難涵蓋模型在完整權限下的行為。存取權限將決定審查品質上限，設備與人力規模則決定測試能否持續更新。

從投資角度看，AI審核有機會發展成新的專業服務市場。現階段尚無足夠數據估算可服務市場規模，也缺少成熟的續約率、收費模式與利潤率資料。7,100萬美元資金承諾證明需求升溫，距離形成穩定商業模式仍有一段距離。

 

加州註冊制度與白宮協議形成兩條治理路徑

為降低評估機構依賴大型客戶的風險，部分政策倡議者推動獨立驗證組織(IVO)框架，希望透過制度建立資格、責任與利益衝突規範。加州已簽署相關法案，建立AI審計員的州級註冊制度，並獲Anthropic與OpenAI支持。

聯邦層級則先採自願合作。川普總統近期在白宮午餐會提出具道德約束力的協議，鼓勵企業與外部獨立審查員合作。輝達(NVDA)、Google(GOOGL)與Meta(META)等科技公司高層皆簽署文件。

州級註冊制度提供較明確的資格框架，自願協議則有利於快速擴大企業參與。兩條路徑能否提高安全標準，仍取決於執行細節，包括審查員可接觸哪些系統、企業需揭露多少測試結果，以及發現重大風險後是否需要延後產品部署。

 

公開市場計畫讓AI安全成為商業化門檻

OpenAI與Anthropic近期提高對外部評估的支持，背後帶有清楚的商業考量。兩家公司持續開發能力更強的模型，也在尋求更大規模融資與潛在公開市場機會。當估值朝兆美元等級推進，監管風險、聲譽風險與產品事故都可能影響資本成本。

大型企業與政府客戶採用先進模型時，也需要安全測試、責任歸屬與稽核紀錄。第三方評估因此可能逐漸成為模型採購與部署流程的一部分，類似雲端服務中的資安認證與合規審查。

目前企業已承諾提供外部審查員必要設備與權限，具體標準及透明度仍未確立。評估機構要求審查人員獲得免於報復的保障，並取得接近企業內部高權限員工的系統存取能力。

大眾信任已成為模型商業化條件。接下來需要追蹤的，是自願承諾能否轉成可稽核的存取規則、公開標準與穩定資金來源。缺少這三項條件，AI評估市場即使快速吸收資本，也很難建立足以約束大型實驗室的制度力量。