【產業戰報】相信潘董,年底就懂?

產業隊長 張捷


【產業戰報】相信潘董,年底就懂?

前言:AI從訓練到推論,存儲需求年複成長56%

  • 美光股價創新高:不到一年大漲8倍

  • 資料來源:XQ

  • 《MarketWatch》報導,人工智慧 (AI) 時代正改變記憶體產業,儘管投資人已逐漸理解推動記憶體與儲存裝置業者股價創高的因素,包括更高價值產品與長期合約增加,D.A. Davidson 總經理 Gil Luria 指出,許多投資人「仍停留在記憶體屬於景氣循環產業的舊觀念」,因此「低估了 AI 時代下記憶體產業的新算式」。

  • 隨著 AI 模型規模愈來愈大,為支援更長的上下文視窗、也就是一次能處理更多資料量,市場對記憶體的需求正快速增加。這也進一步推升「鍵值快取 (key-value cache)」等效率機制需求,而這些技術同樣需要大量記憶體支援。

  • AI需求正從訓練擴展到推理、代理型AI以及通用存儲。代理型AI、RAG(檢索增強生成)、企業知識庫、邊緣AI、物理AI、日誌、模型記憶以及檢索層都需要大規模存儲、訪問、刷新和移動數據。AI系統生成的token越多,需要保留和檢索的數據就越多。在這個意義上,「每秒token數」和「每美元token數」正成爲存儲需求的指標,而不僅僅是GPU效率的指標。

  • 來自Kioxia的圖表顯示,AI推理需求將從2025年的86 EB增長到2031年的1,251 EB,意味着複合年增長率爲56%。到2031年,AI推理在圖中約佔數據中心NAND總需求的74%。

  • 資料來源:moomoo

請登入以查看完整文章

閱讀VIP文章請先登入理財寶會員

文章相關標籤