企業AI支出從少數大戶轉向擴散,主權AI專案能否變正式部署?

柏宇 KD 獲利模式


 

頂端1% AI支出回落,企業採用仍向更多層級擴散

企業AI預算開始出現分化。Ramp AI Index顯示,今年8月支出排名前1%的企業,每名員工月均AI支出約7,200美元,較今年7月8,000美元的高峰下降約10%。統計範圍涵蓋大型語言模型訂閱、程式碼代理工具、API代幣與GPU雲端支出,反映企業從模型到算力的完整帳單。

這項回落顯示高支出客戶開始重新計算投入效益。Ramp首席經濟學家Ara Kharazian將原因指向模型價格競爭與產品組合調整。企業逐步採用成本較低的標準版、輕量版模型,昂貴的前沿模型則集中在少數高價值工作負載,帶動單位使用成本下降。

企業AI市場因此出現一個重要變化:用量擴張與帳單下降可以同時發生。模型推論價格下滑,加上企業可選擇的模型增加,讓採用範圍持續擴大,最高支出群體的平均費用則先行降溫。

 

前10%與中位數企業持續增加AI預算

支出排名前10%的企業,今年8月每名員工月均AI支出約680美元,仍高於年初。中位數企業約14美元,絕對金額有限,趨勢同樣向上。從2024年1月至2026年8月,三個企業分組的支出曲線大致走高,明顯回落集中在最頂端1%。

這組數據提供兩層訊息。早期大量採購前沿模型與GPU資源的企業,正進入成本管理與投報率檢查階段;更多一般企業則開始把AI納入日常軟體預算。AI支出成長的來源,逐步從少數大型客戶擴散至更廣泛的企業用戶。

每名員工支出仍有巨大落差。7,200美元、680美元與14美元,代表企業採用深度仍處於不同階段。部分公司已將AI放進研發與營運流程,更多企業仍停留在個人助理、程式工具或小規模測試。接下來的市場規模,將取決於中間層企業能否把試用轉成持續部署。

 

Nvidia與Palantir把AI導入供應鏈流程

企業開始精算模型成本之際,Nvidia(NVDA)與Palantir Technologies(PLTR)將合作範圍推進至供應鏈。雙方計畫把Nvidia的Nemotron開源模型導入Palantir Foundry與Artificial Intelligence Platform(AIP),並以Ontology作為資料底層。Ontology可理解為把企業資料、資產與作業關係整理成統一架構,讓模型能依照企業規則執行工作。

這套「主權AI作業系統」參考架構,首個應用場域是Nvidia自身供應鏈。涵蓋範圍從晶圓製造一路延伸至模型產生第一個token,目標是把製程、物流、庫存與交付資訊接入AI決策流程。

Nvidia使用自家供應鏈作為示範,有助於呈現AI如何進入高複雜度營運環境。對大型製造商與關鍵基礎設施業者來說,聊天機器人帶來的效益較容易量化;供應鏈排程、異常處理與庫存最佳化,才可能形成更大的企業預算。AI工作負載正從辦公工具走向營運系統,也會提高資料治理與系統整合的重要性。

 

Rackspace補上主權AI的代管與治理環節

Rackspace Technology(RXT)加入Nvidia Cloud Partner Program,切入AI主權託管市場。主權AI指企業能掌握資料、模型、部署位置與治理規則,並保留稽核及控制權。這項需求在金融、政府、國防與關鍵基礎設施領域尤其明確。

整體架構由三個環節組成。Nvidia提供Blackwell加速運算平台,Palantir Foundry與AIP負責資料及應用骨幹,Rackspace則透過Institutional Sovereign Pod提供具治理機制的AI基礎設施,以及前線工程與代管營運服務。

客戶可以選擇公有雲、指定資料中心或自有機房,同時保留模型與資料控制權。Rackspace的角色涵蓋概念驗證、部署、維運與規模化,協助法規敏感機構縮短導入時間。晶片、資料平台與代管服務形成完整堆疊,商業機會也從單次GPU採購延伸至長期軟體與服務收入。

 

成本、供應商綁定與投報率仍是限制

頂端1%企業支出下降,也可能反映部分早期採用者重新檢查昂貴試驗的效益。主權AI方案需要GPU基礎設施、資料平台、資安治理與代管服務,總成本依然可觀。應用場景尚未成熟的企業若過早採用深度整合架構,後續更換模型、雲端或資料平台的成本可能升高。

開源模型與低價標準模型快速進步,也會壓縮高階方案的溢價。企業可將一般工作負載交給輕量模型,只在高敏感度、高複雜度任務使用高價架構。這種混合配置有利於AI採用擴散,供應商則需要證明治理、可靠度與導入效率足以支撐額外費用。

目前可以確認的是,企業AI支出正進入模型組合最佳化階段。頂端客戶開始控管單位成本,前10%與中位數企業仍增加使用;Nvidia、Palantir與Rackspace則嘗試把算力、資料與治理整合成可長期營運的基礎設施。

下一階段的觀察重點會落在兩項證據:中間層企業的AI支出能否持續提高,以及主權AI專案能否從概念驗證轉成正式部署。兩項數據若同步走強,AI投資循環的支撐將從模型熱度進一步轉向企業營運效益。