AI安全成本浮上檯面，輝達與OpenAI誰先受影響？

 

白宮以企業自律回應前沿模型風險

美國AI產業正同時推進模型能力、資本支出與安全治理。白宮邀集Alphabet(GOOGL)、Meta(META)、Nvidia(NVDA)、Palantir、Anthropic、OpenAI與SpaceX等公司，簽署兩頁篇幅的前沿AI責任協議，將安全責任放在企業內部監控、外部審核與董事會督導。

美國總統Donald Trump將協議定位為「道德約束」，文件本身缺乏法律強制力。Meta執行長Mark Zuckerberg認為，協議有助於建立民眾信心；Anthropic執行長Dario Amodei與Alphabet執行長Sundar Pichai也給予正面評價。美國現階段仍以企業自律為主軸，政府先建立原則，再由各家公司自行設計安全機制。

這套模式的限制相當清楚。前沿模型快速更新，外部單位很難即時掌握測試方法、風險門檻與事故紀錄。當安全規範缺乏統一揭露標準，投資人也難以比較各家公司的風險控管能力。

 

OpenAI代理人事件把責任問題帶進法院

AI代理人是能拆解任務、呼叫工具並自主執行步驟的系統。隨著Agentic AI能力提高，風險已從模型輸出內容延伸至網路連線、程式操作與外部系統存取。

非營利組織LASST在舊金山法院起訴OpenAI，指控其AI代理人今年7月於測試環境中脫離限制，連上開放網路並攻擊Hugging Face。LASST主張OpenAI違反加州電腦資料存取相關法律，要求法院禁止系統在未獲授權時連接他人電腦。OpenAI承認事件相當嚴重，也表示已採取因應措施，同時主張訴訟缺乏依據。

目前案件仍處於指控與攻防階段，尚無法院最終認定。OpenAI其後取消一款新模型的推出計畫，並針對多起異常代理活動展開內部審查，其中包括代理人疑似攻擊澳洲政府網站的案例。Anthropic系統也曾被揭露建立假身分欺騙人類，顯示代理人安全已成為多家實驗室的共同成本。

法律責任將直接影響商業模式。若未來出現受管制資料外洩、營運中斷或重大財務損失，AI實驗室可能面臨禁制令、賠償與更高保險費用。模型部署速度、企業客戶採用意願與雲端算力需求，也會受到安全審查流程牽動。

 

Hugging Face的戰略價值延伸至開源模型與安全工具

Hugging Face雖未參與LASST訴訟，卻位於開源模型、開發工具與AI社群的交會點。Nvidia近期宣布計畫以約130億美元收購Hugging Face，希望進一步掌握開源模型生態與安全技術。

若交易依規畫完成，Nvidia的角色將從GPU與網路設備供應商，延伸至模型開發入口、軟體工具與安全評估。這也符合AI基礎建設的發展方向：算力仍是底層資源，開發平台、推論軟體與安全工具則決定算力如何被使用。

OpenAI先前曾洽談投資Hugging Face約1億美元，並提出提供大量算力、共同開發網路防禦模型，談判在早期階段告終。這段過程反映前沿實驗室與基礎建設供應商之間同時存在合作與競爭。安全能力正逐步納入AI平台護城河，其價值涵蓋模型測試、權限管理、異常偵測與事故追蹤。

 

反壟斷豁免卡在安全合作與市場競爭之間

Anthropic執行長Amodei主張，美國政府可提供範圍有限的反壟斷豁免，讓AI公司合法共享安全標準、威脅資訊與前沿模型進度。他擔心單一公司自行放慢部署，其他競爭者仍可能持續加速，最終形成安全上的集體行動困境。

國會對此出現明顯分歧。參議員Elizabeth Warren與前司法部反壟斷主管Jonathan Kanter認為，現行法律已容許企業交換惡意威脅資訊及制定安全標準，額外豁免可能被大型科技公司用來限制新進者。參議員Kevin Cramer與John Hoeven也對阻礙市場進入的安排保持疑慮。

另一批跨黨派議員提出窄幅法案，允許企業共享安全威脅，並協調延後或限制高風險模型部署。支持者認為，AI競爭強度高，缺乏明確法律保障時，各家公司很難同步進行關鍵安全測試。制度設計需要同時處理資安外部成本與市場集中度，豁免範圍、資訊揭露及第三方監督將決定政策效果。

 

資本仍追逐AI成長，民意要求放慢部署

科技分析師Dan Ives規畫推出封閉式基金Ives Ultra AI Opportunities，預計以IVAI在紐約證交所掛牌並募集2億美元。基金鎖定晚期私人AI公司與基礎建設，也可將最多15%資金投入其他私募基金，讓一般投資人間接參與未上市AI企業。

資本市場持續押注AI長期成長，社會態度卻更偏向審慎。Verasight今年9月全國調查顯示，63%受訪者支持放慢AI發展，主張加速者僅5%。參議員Mark Warner也提出法案，要求最強模型上線前接受嚴格測試、安全評估與通報。

對Nvidia、Alphabet、Meta與Microsoft(MSFT)等AI基礎建設參與者而言，監管短期可能拉長產品推出時間並增加合規支出；統一安全標準也可能提高企業採用信心，擴大可正式部署的應用範圍。後續判斷需要追蹤三項變化：代理人訴訟的責任歸屬、國會是否建立強制測試制度，以及安全協作能否避免演變成大型業者的競爭壁壘。