AI資本支出還在衝，裝置端運算會分走多少需求？

 

AI資本支出開始面臨工作負載分流

截至今年8月26日，全球資金仍大量投入AI超級資料中心。Panmure Liberum董事總經理Joachim Klement提出警告，企業可能高估集中式算力的長期需求，未來數年恐浪費數百億甚至上千億美元。

他的判斷建立在工作負載如何分流。大型語言模型需要龐大的參數、GPU叢集與雲端基礎設施；小型語言模型則可直接在PC、手機等消費級硬體運行。若大量日常工作移往裝置端，雲端算力需求曲線就可能低於市場當前預期。

這項觀點仍屬路徑推演。資料中心產能過剩尚未獲得連續數季的利用率、訂單或資本支出下修確認，但它指出AI基礎建設投資的一項主要風險：市場可能用大型模型的算力需求，推估所有AI工作負載。

 

小型模型已能處理多數日常任務

Klement引用史丹佛大學在2024年5月發表的研究。部分可於消費級硬體執行的小型模型，已能正確回答超過80%的日常任務與問題。這個比例支持裝置端AI的可行性，也需要保留適用範圍。

日常問答、文字摘要、基本文件處理與個人助理功能，對推理深度與模型規模的要求較低。企業若只需要足夠準確的結果，就未必會為每項任務支付頂規GPU與雲端推論成本。

高複雜度推理、大規模訓練及高度敏感的企業工作，仍可能依賴集中式運算。80%的日常任務也無法直接推導成80%的企業算力需求，因為不同任務的運算量、使用頻率及商業價值差異很大。

 

企業開始按成本與效能配置模型

企業採用行為已出現多模型並存的方向。AT&T表示，會根據任務需求，在不同模型間動態配置工作，主要考量成本與效能。JPMorgan也預期，大型與小型、開源與封閉模型將同時存在，企業再依使用情境選擇。

Thomson Reuters則自行建置系統，採用阿里巴巴開源的Qwen模型。該公司強調，運行成本僅為同級前沿模型的一小部分。這些案例顯示，企業資訊長開始把每次API呼叫，也就是軟體向模型提出一次服務要求的成本，納入架構設計。

Klement估算，以每GB RAM的初始資本支出衡量，本地端運行AI模型的成本約低於資料中心80%。即使使用零售電價，本地端電費仍低約70%至80%。若成本差距能在企業實際部署中維持，成本與效能匹配將推動更多工作移向PC與手機。

 

Apple與Dell承接裝置端AI價值

Klement點名Apple(AAPL)與Dell(DELL)，視為裝置端AI轉向下具代表性的交易標的。若多數常用功能可在本地完成，裝置品牌商便有機會透過硬體更新、記憶體升級與整合式AI功能，取得更多價值。

Apple掌握手機、電腦、作業系統與晶片整合，Dell則直接面對企業PC更新週期。兩家公司能否受惠，仍取決於裝置端功能是否足以推動換機，以及企業是否願意為AI PC支付更高價格。技術可行性與營收轉換之間，還需要出貨量及產品組合確認。

NVIDIA(NVDA)也已布局本地端運算。桌上型AI系統DGX Spark可讓開發者與企業在較小規模環境部署模型，降低公司對單一資料中心成長路徑的依賴。Klement表示，截至今年8月26日，NVIDIA的邊緣運算相關營收仍低於總營收一成，edge營收低於一成也代表短期財務貢獻有限。

 

Arm、Qualcomm與DRAM需求可能受惠

裝置端模型普及也會改變晶片需求組合。Arm Holdings(ARM)與Qualcomm(QCOM)長期深耕低功耗處理器及行動裝置，能效與本地推論能力將成為產品競爭的一部分。

記憶體需求也可能從資料中心常用的高頻寬記憶體(HBM)，增加對PC DRAM等一般規格的拉動。這代表AI記憶體需求可能分散至更多裝置，供應鏈受惠範圍也會改變。資料中心需求若只是增速放慢，HBM與DRAM仍可能同步成長，只是成長速度與資本配置將重新分配。

本地運算的另一項優勢是資料可留在裝置內，適合部分重視延遲、隱私與離線能力的應用。大型模型則能提供更高的通用能力與複雜推理。兩種架構各自對應不同工作負載，企業部署方向更可能形成分層配置。

 

混合架構將決定資料中心投資回報

Klement認為，新資料中心已有過度建置風險。這項判斷仍需透過雲端業者資本支出、GPU利用率、推論價格與企業工作負載分布持續確認。單靠小型模型能力提升，尚不足以判定大型算力需求將全面降溫。

未來兩至三年若形成雲端加邊緣混合架構，投資影響將集中在算力比例變化。複雜訓練與高階推理留在雲端，大量日常推論移往PC與手機，資料中心仍會成長，但成長曲線可能低於最樂觀預期。

後續判斷可追蹤三組證據：企業API支出是否下降、AI PC與手機是否帶動換機，以及NVIDIA邊緣運算營收占比能否持續提高。這些數據將決定AI價值鏈停留在超級資料中心，或逐步分散到每一台終端裝置。