今年 AI SSD 採購容量估破 45EB,NAND Flash 供應商加速升級製程

作者 | 發布日期 2024 年 08 月 12 日 14:25 | 分類 AI 人工智慧 , 儲存設備 , 半導體 line share Linkedin share follow us in feedly line share
今年 AI SSD 採購容量估破 45EB,NAND Flash 供應商加速升級製程


TrendForce 最新企業級 SSD 研究報告,由於 AI 需求大幅升溫,最近兩季 AI 伺服器客戶向供應商要求加單企業級 SSD。上游供應商為了滿足 SSD 的 AI 應用供給,加速升級製程,開始規劃 2YY 產品,2025 年量產。

TrendForce表示,AI伺服器客戶對供應商加單,導致企業級SSD合約價2023年第四季至2024年第三季累積漲幅超過80%。SSD對AI發展扮演重要角色,除了AI模型訓練SSD主要負責儲存模型參數,含不斷演變的權重和偏差,另一項重要應用是創建檢查點(check point),以定期保存AI模型訓練進度,即使訓練中斷也能從特定點恢復。上述功能都相當依賴高速傳輸以及寫入耐用度,客戶主要選擇4TB / 8TB TLC SSD產品,以滿足嚴苛的訓練需求。

TrendForce指出,SSD用於AI推理伺服器,可推理時協助調整最佳化AI模型,尤其SSD可即時更新數據,以便微調推論模型成果。AI推理提供檢索增強生成(RAG,Retrieval-Augmented Generation)和大型語言模型(LLM, Large Language Model),SSD可儲存RAG和LLM參考的文件和知識庫,以生成更豐富資訊的回應。有更多生成資訊是以影片或相片顯示,資料存儲量也跟著增加,因此TLC / QLC 16TB以上等大容量SSD便成為AI推理主流產品。

AI SSD需求位元年增率超過60%,供應商加速開發大容量產品

今年AI伺服器SSD需求市場除了16TB以上產品需求自第二季大幅上升,NVIDIA H100、H20和H200等系列產品到貨,客戶開始增加TLC 4、8TB企業級SSD訂單動能。TrendForce預估,今年AI相關SSD採購容量超過45EB,幾年內AI伺服器可望推動SSD需求年增率平均超過60%,AI SSD需求佔全部NAND Flash有機會自今年5%上升至2025年9%。

供給市場面,推理伺服器採大容量SSD產品趨勢不變,供應商著手加速升級製程,規劃從2025年第一季起開始量產2YY / 3XX層,量產120TB企業級SSD產品。

(首圖來源:shutterstock)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》