AI 伺服器市場起飛，HBM 和 2.5D 封裝扮演什麼樣的關鍵角色 |
作者
TrendForce 集邦科技|發布日期
2023 年 06 月 27 日 10:15 |
|
AIGC 迅速崛起，在 ChatGPT、Midjourney 兩大指標應用帶動下，有更多超大型語言模型蓄勢待發，也替高速運算平台（HPC）揭開嶄新的一頁。 繼續閱讀..
大型雲端業者積極建置 AI 伺服器，加速推升 AI 晶片與 HBM 需求，預估 2024 年先進封裝產能將提升三到四成 |
|
作者
TechNews|發布日期
2023 年 06 月 21 日 15:20 |
|
根據 TrendForce 研究指出，2023 年由 ChatBOT 等生成式 AI 應用帶動 AI 伺服器成長熱潮，又以大型雲端業者最積極投入，包含 Microsoft、Google、AWS 或其他中系業者如 Baidu、ByteDance 等陸續採購高階 AI 伺服器，以持續訓練及優化其 AI 分析模型。高階 AI 伺服器需採用的高階 AI 晶片，將推升 2023-2024 年高頻寬記憶體（HBM）的需求，並驅動先進封裝產能 2024 年將成長三到四成。
2022~2026 年 AI 伺服器出貨量年複合成長率可達 10.8% |
|
作者
TechNews|發布日期
2023 年 03 月 08 日 14:18 |
|
TrendForce 觀察到始自 2018 年新興應用題材帶領，自駕車、AIoT 與邊緣運算，許多大型雲端業者大量投資 AI 相關設備建置，截至 2022 年，搭載 GPGPU（General Purpose GPU）的 AI 伺服器年出貨量占整體伺服器比重近 1%，2023 年預估 ChatBot 相關應用加持下，可望再度刺激 AI 領域活絡，出貨量年成長可達 8%；2022~2026 年複合成長率達 10.8%。 繼續閱讀..
AI 發展驅動高效能運算需求提升，仰賴 HBM 與 CXL 優化硬體效能 |
|
作者
TechNews|發布日期
2021 年 11 月 15 日 14:10 |
|
根據 TrendForce 最新發表的伺服器報告指出，近幾年受到新興應用的激勵，加速了人工智慧及高效能運算的發展，且伴隨著仰賴機器學習及推論的需求提升，建構出的模型複雜度隨著需求的精細程度有所增加，因此在計算時需處理的資料量隨之增大。在此情境下，龐大的資料處理量受硬體效能侷限， 導致使用者在設備的建置面臨了效能、容量、延遲度以及成本間的取捨問題，刺激 HBM（High Bandwidth Memory）及 CXL（Compute Express Link）的出現。功能上來說，HBM 為新型態記憶體， 主要協助更多元、高複雜運算而需要的I/O輔助，而 CXL 則為使記憶體資源共享的協定，提供 xPU 更為便捷的應用。
