AI伺服器與機器人同步推進，供應鏈營收何時開始入帳？

 

Vera Rubin資料吞吐量達GB300 NVL 72的30倍

輝達(Nvidia)在Hot Chips 2026大會更新雲端伺服器與邊緣機器人產品進度。Vera Rubin平台的資料吞吐量達前代GB300 NVL 72的30倍，並降低每詞元的運算成本。吞吐量與推論成本同步改善，代表輝達正把AI基礎建設競爭延伸至系統效率。

生成式AI進入大規模商用後，企業每天處理的詞元數量持續增加。模型回應速度與單位成本，會直接影響雲端業者及大型企業的服務毛利。Vera Rubin若能把效能數據轉化成實際部署成果，超大規模雲端業者便有更強的硬體升級誘因。

這也會改變資本支出的評估方式。Microsoft、Amazon、Google與Meta投入AI伺服器時，除了追求總算力，也會計算每次推論的電力、延遲及折舊成本。輝達目前揭露的是硬體效能進展，後續仍需搭配客戶採購、機櫃交付與資料中心上線速度觀察。

 

Groq 3 LPX量產推進低延遲AI推論

搭載256顆Groq 3 LPU推論晶片的Groq 3 LPX機櫃已進入全面量產。系統結合Vera CPU與Rubin GPU，主要任務是提升低延遲的詞元生成速度。搭載Gemma 4 31B模型時，實測速度達每秒3,400個Token。

這項設計反映AI工作負載逐漸細分。GPU負責大量平行運算，LPU則針對語言模型推論與即時回應進行優化。對企業客戶來說，每秒輸出速度會影響服務體驗，尤其客服代理、程式生成及即時互動應用，延遲往往會決定產品能否進入日常營運。

每秒3,400個Token提供了具體效能參考，但單一模型測試仍有適用範圍。不同模型規模、記憶體配置、軟體最佳化程度及實際併發量，都可能改變部署結果。市場接下來可觀察量產機櫃的出貨規模，以及客戶是否願意為低延遲能力增加資本支出。

 

台積電與伺服器代工廠承接硬體分工

Groq晶片內建500MB SRAM，也就是直接配置在晶片附近的高速靜態記憶體，由三星生產；GPU則交由台積電(2330)代工。伺服器機櫃的組裝、驗證與生產，由鴻海(2317)、廣達(2382)及緯創(3231)推進。

這套分工涵蓋晶圓製造、記憶體與整機系統，顯示AI伺服器的競爭已延伸到整座機櫃。系統整合能力影響交付速度，代工廠需要處理散熱、電力、網路及驗證等環節，單一晶片效能無法涵蓋全部部署成果。

對台灣供應鏈而言，機會來自平台升級與機櫃複雜度提高。實際獲利貢獻仍要看訂單規模、產品組合、量產良率及客戶議價。產品進入量產能確認供應鏈開始運轉，營收與EPS貢獻仍需等待後續出貨數據。

 

Jetson Orin Nano 2切入無人機與機械手臂

輝達預計在2027年上半年推出入門級邊緣AI與機器人開發模組Jetson Orin Nano 2。該模組配置八核心CPU，具備78 TOPS的INT8算力；TOPS代表每秒兆次運算。其運算效能為前代兩倍，耗電量減少40%。

效能與功耗同時改善，有利於無人機、機械手臂等受電力與空間限制的設備。邊緣AI把部分運算放在裝置端，可縮短資料往返雲端的時間，也能支援需要快速反應的自動化場景。

輝達同時維持高階Jetson產品布局，並與研華(2395)、新漢(8234)等硬體廠合作。這讓產品線涵蓋入門開發到高階應用，協力廠商則負責把模組整合進工業設備與機器人系統。實體AI仍處於生態系擴張階段，大規模商業採用仍需軟體、設備認證與終端訂單配合。

 

AI基礎建設擴張仍要追蹤資本支出回收

Vera Rubin、Groq 3 LPX與Jetson Orin Nano 2分別對應雲端推論、低延遲生成及邊緣運算。輝達正沿著資料中心到終端設備擴大硬體覆蓋，台積電、三星與台灣伺服器代工廠則分別承接製造及系統整合。

我會把後續觀察集中在三個方向：雲端客戶的AI資本支出能否維持、量產機櫃能否轉化為營收與EPS，以及實體AI訂單能否從開發套件走向批量部署。技術進展已經清楚，需求廣度仍需確認。當市場獲利預期高度集中於少數AI平台與供應鏈公司，任何交付延後、資本支出降溫或推論需求低於預期，都可能放大費城半導體與那斯達克的波動。