AI 發展驅動高效能運算需求提升，仰賴 HBM 與 CXL 優化硬體效能 |
作者
TechNews|發布日期
2021 年 11 月 15 日 14:10 |
|
根據 TrendForce 最新發表的伺服器報告指出，近幾年受到新興應用的激勵，加速了人工智慧及高效能運算的發展，且伴隨著仰賴機器學習及推論的需求提升，建構出的模型複雜度隨著需求的精細程度有所增加，因此在計算時需處理的資料量隨之增大。在此情境下，龐大的資料處理量受硬體效能侷限， 導致使用者在設備的建置面臨了效能、容量、延遲度以及成本間的取捨問題，刺激 HBM（High Bandwidth Memory）及 CXL（Compute Express Link）的出現。功能上來說，HBM 為新型態記憶體， 主要協助更多元、高複雜運算而需要的I/O輔助，而 CXL 則為使記憶體資源共享的協定，提供 xPU 更為便捷的應用。
