AI推論晶片多出新路線,2028年量產能否撼動Nvidia?

柏宇 KD 獲利模式


 

Samsung入股Euclyd,AI推論晶片多了一條新路線

Samsung參與荷蘭AI晶片新創Euclyd的A輪募資,讓AI基礎建設競爭再往底層推進。Euclyd成立於2024年,本輪募得2億歐元,約2.31億美元,由Samsung與多家歐洲基金共同領投。

Euclyd聚焦AI推論,也就是模型完成訓練後,實際產生文字、影像與決策的運算階段。公司規劃同時設計處理器與記憶體架構,希望降低大型基礎模型的耗電量與運算成本。目前產品仍處於開發期,距離大規模商業驗證還有一段距離。

這項投資反映雲端業者面臨的兩項壓力:晶片採購支出持續升高,資料中心電力供應也愈來愈吃緊。當推論使用量隨企業導入AI而擴大,每次查詢的成本、每瓦可完成的運算量,以及機櫃內的記憶體頻寬,都會直接影響AI服務的獲利模式。

推論成本開始主導晶片選擇。訓練大型模型追求最高運算效能,推論工作負載則更重視單位成本、延遲與能源效率。Euclyd選擇從推論切入,正好對準雲端業者下一階段需要處理的成本問題。

 

雲端巨頭自研晶片,降低供應與成本集中度

Nvidia(NVDA)依然主導高階AI加速器市場。CUDA軟體生態、成熟的開發工具,以及大規模部署經驗,共同形成很高的轉換門檻。大型模型訓練需要跨越數千至數萬顆晶片協同運算,硬體效能只是其中一環,網路、軟體與系統穩定度同樣重要。

雲端巨頭也在擴大自研晶片布局。Google(GOOG)持續推進TPU產品,Amazon(AMZN)旗下AWS以Trainium處理訓練、Inferentia處理推論,Meta(META)也在開發自有AI加速器。今年8月,OpenAI公布首款AI晶片Jalapeño,並強調速度與能源效率。

這些公司擁有大量且相對固定的內部工作負載,可以針對模型、資料格式與資料中心環境設計專用晶片。自研方案若能達到足夠效能,便有機會降低每次推論成本,同時增加供應鏈控制能力。

自研晶片需要規模支撐。晶片設計、先進製程、封裝、記憶體與軟體工具都需要龐大投入。大型雲端平台具備使用量與資本支出條件;一般企業更可能透過雲端租用,或採用成熟供應商提供的完整系統。

 

Samsung補上記憶體、系統整合與量產能力

Samsung對Euclyd的價值涵蓋記憶體製造、系統工程、供應鏈管理與全球通路。AI推論愈來愈受到記憶體容量、頻寬與資料搬移能耗限制,處理器與記憶體之間的系統設計,會直接影響每瓦效能。

Euclyd執行長Bernardo Kastrup表示,Samsung能提供從記憶體製造到系統整合的完整網絡。對仍在開發架構的新創而言,這能縮短從設計走向量產的距離,也有助於取得企業客戶對供應穩定度的信任。

Euclyd規劃兩種營收模式。第一種是銷售晶片、硬體系統與整機機櫃,鎖定希望自行託管AI推論的企業;第二種是授權智慧財產權,讓客戶在既有技術上設計專用晶片。

硬體銷售與IP授權雙線並行,可以擴大潛在客戶範圍。硬體模式帶來較高單位營收,也需要承擔量產、庫存與售後服務;IP授權的資本負擔較低,商業成果則取決於客戶導入速度與授權條件。

 

2028年量產時程,留下三到五年的執行風險

Euclyd預計2028年推出實體晶片系統,並在2030年前服務數以千計的企業客戶。這段時程代表目前投資案仍以技術與商業承諾為主,後續還要經過流片、封裝、軟體適配、客戶驗證與量產爬坡。

新架構面臨的主要限制來自軟體相容性。企業已投入大量資源建立GPU開發流程,工程團隊也熟悉既有工具。替代晶片若要求重寫程式、調整模型或更換部署架構,節省的電力與硬體成本可能被遷移成本抵銷。

企業採購還有信任門檻。關鍵AI工作負載通常要求長時間穩定運作,也需要供應商提供維護、資安與版本支援。Nvidia及成熟供應商累積的大規模部署紀錄,仍是新創短期難以複製的優勢。

因此,技術能效需要轉成可驗證的總持有成本。晶片測試數據、客戶試用結果、軟體工具成熟度與量產良率,會比募資規模更能判斷Euclyd能否進入主流市場。

 

AI晶片市場將形成訓練集中、推論多元的格局

未來三到五年,AI晶片市場可能沿著三條路線發展:Nvidia維持高階訓練與通用加速器優勢,雲端巨頭擴大自研晶片,新創則從推論能效、特定工作負載與IP授權切入。

Nvidia的生態優勢仍然深厚,短期市占變化更可能先出現在推論領域。製造、金融、醫療與政府機構導入AI後,資料安全、在地部署與成本控制會提高專用推論系統的吸引力。市場規模可以成長,多種晶片架構也能同時取得需求。

對AI基礎建設供應鏈而言,競爭範圍已涵蓋運算、記憶體、互連、散熱、電力與軟體。單顆晶片的峰值效能仍有參考價值,資料中心更在意整個系統能否穩定交付,以及每一度電可以完成多少有效運算。

Samsung入股Euclyd提供了一個早期訊號:記憶體廠、雲端平台與晶片新創正重新組合AI供應鏈。這場競爭會先在推論每瓦效能、軟體遷移成本與量產交付能力上分出高下,2028年前的客戶驗證進度將是判斷Euclyd商業可行性的主要依據。