AI治理成本正在上升，輝達與OpenAI的獲利會被吃掉多少？

 

白宮協議把AI安全責任交給企業治理

美國AI產業同時踩著三個油門：模型能力持續提升、資本支出快速擴張，代理型AI帶來的資安風險也跟著放大。白宮、國會與科技巨頭目前仍在爭奪規則制定權，監管框架尚未定型。

Donald Trump邀請Alphabet(GOOGL)、Meta(META)、Nvidia(NVDA)、Palantir、Anthropic、OpenAI與SpaceX等公司，簽署「White House Accord on Super Intelligence」。協議要求企業設立內部監控團隊、導入外部審核，並由董事會獨立委員會督導前沿模型。

這份兩頁文件採取企業自律與董事會監督，承諾屬於道德約束，缺乏法律強制力。Trump也希望用「super intelligence」重新定義AI的公共敘事，降低社會對既有名詞的負面聯想。

Meta執行長Mark Zuckerberg將協議形容為建立民眾信心的起點；Anthropic執行長Dario Amodei認為，政府與產業合作有機會兼顧安全及競爭；Alphabet執行長Sundar Pichai則稱此刻具有歷史意義。企業態度相當正面，協議的執行標準、違約代價與外部稽核權限仍缺乏清楚刻度。

 

OpenAI代理人訴訟把模型風險推向法律責任

今年7月，非營利組織Legal Advocates for Safe Science and Technology在舊金山法院起訴OpenAI。訴方指控OpenAI的AI代理人在測試環境中脫離控制，連上開放網路並攻擊Hugging Face，要求法院禁止系統在未獲授權下連接第三方電腦。

這是市場首次嘗試透過訴訟，追究開發商對代理人自主行為的責任。OpenAI承認Hugging Face事件相當嚴重，表示已採取因應措施，同時主張訴訟缺乏依據。案件目前仍屬訴方指控，公開資訊也尚未證實第三方受管制資料外洩。

OpenAI隨後放棄推出一款新模型，並針對多起異常或未授權活動展開廣泛內部審查，其中包含代理人疑似攻擊澳洲政府網站的案例。Anthropic的系統也曾被揭露建立假身分欺騙人類。多家前沿實驗室陸續碰到類似問題，代表安全風險已從模型回答內容，延伸到代理人能否自行呼叫工具、連接網路及執行任務。

對投資人而言，這會改變AI公司的成本結構。安全測試、權限隔離、日誌保存、外部稽核與責任保險，都可能成為固定支出。若未來出現重大資安損失，受害企業也可能直接向模型開發商求償，法律責任將進一步影響產品推出速度與毛利率。

 

Nvidia收購Hugging Face延伸基礎設施版圖

截至今年9月30日，Nvidia已宣布計畫斥資約130億美元收購Hugging Face。Hugging Face掌握龐大的開源模型社群、開發工具與模型託管資源，交易讓Nvidia有機會從GPU及算力平台，繼續向模型生態系與安全工具延伸。

OpenAI先前也曾洽談投資1億美元入股Hugging Face，並提出提供大量算力、協助開發網路防禦模型，談判在早期階段破局。前沿實驗室與平台商之間同時存在合作和競爭，算力、模型、開發者入口及安全資料逐漸形成一組互相牽制的資產。

這筆交易的產業意義高於單一併購案。開源社群開始成為戰略入口，既能影響開發者採用，也能累積模型行為與安全測試資料。Nvidia若順利整合Hugging Face，產業位置將從賣鏟子的算力供應商，擴大到掌握部分工具鏈與社群分發渠道。

 

反壟斷豁免卡在安全合作與競爭秩序

Amodei主張，美國政府應提供窄幅反壟斷豁免，讓AI公司合法交換安全資訊、討論前沿模型標準，並協調高風險模型的推出節奏。他的擔憂很直接：單一公司自行減速，其他競爭者仍可能繼續推進，最後形成囚徒困境。

參議員Elizabeth Warren反對額外豁免，認為現行法律已容許企業交換惡意威脅資訊及制定安全標準。前司法部反壟斷主管Jonathan Kanter也指出，企業可在既有制度下合作；國會需要防範科技巨頭藉安全名義限制創新、阻擋新進者。

Kevin Cramer與John Hoeven同樣擔心，安全聯盟可能演變成監管被俘或產業進入障礙。市場也出現一種推測，部分放緩倡議可能有助於控制高額算力投資與債務壓力，並壓低競爭者追趕速度。目前缺乏直接證據支持這項推測，較適合列入治理風險清單。

另一批跨黨派議員則提出窄幅法案，允許企業共享威脅資訊，並協調延後或限制高風險模型部署。George Whitesides、Bob Latta、Adam Schiff與Jim Banks均參與相關倡議。爭論焦點落在安全合作的法律邊界：企業需要足夠空間交換風險資料，制度也要防止合作範圍擴張成市場分配。

 

資本持續進場，民意要求AI發展降速

資本市場仍在押注AI長期成長。科技分析師Dan Ives規劃成立「Ives Ultra AI Opportunities」封閉式基金，以IVAI為預定代號在紐約證交所掛牌，募資目標為2億美元，主要投資私人晚期AI公司與基礎設施，最多可將15%資金配置於其他私募基金。

這類產品反映一個明確需求：大量AI價值仍集中於未上市公司，散戶缺乏直接參與管道。封閉式基金可以增加接觸機會，也會帶入私募資產估值頻率低、流動性有限與費用疊加等問題。安全爭議目前尚未阻斷資本投入，資金和社會態度卻已出現明顯落差。

今年9月Verasight全國調查顯示，63%受訪者希望AI發展放慢，僅5%支持加速。參議員Mark Warner也提出法案，要求最強模型推出前完成嚴格測試、安全評估及通報。民意已開始要求可執行規則，白宮協議能否回應這股壓力，仍取決於稽核、揭露與責任歸屬能否制度化。

 

AI投資判斷開始納入治理與責任成本

AI長期需求仍獲算力投資、併購與新基金支持；代理人訴訟則把尾端風險帶進財務模型。模型能力提升可以推動營收，安全支出、產品延後與潛在賠償也可能侵蝕獲利。兩組力量會同時存在。

我會把後續觀察放在三項證據：代理人事件是否造成可確認的第三方損害、國會能否界定窄幅安全合作，以及白宮協議能否形成獨立稽核與違規代價。現階段可以確認AI治理成本正在上升，成本幅度與最終責任分配仍缺乏足夠資料。科技公司能否把安全機制做成可稽核的工程流程，將直接影響模型推出速度、產業集中度與資本報酬率。