AI 將為商業市場帶來廣大效益，使大廠積極投入 AI 訓練，推動硬體設備需求。ChatGPT 用戶數量和使用頻率持續成長下，推動更多推理算力消耗；同時模型更新，訓練資料增加亦造成更多算力消耗，使 AI 訓練無止境進行。由於模型成長速度遠高於硬體成長速度，推動 AI 伺服器零組件發展，並隨著硬體效能增加而提高成本。
本篇文章將帶你了解 :AI模型發展快速更新，推動伺服器組件演進 現階段AI伺服器以訓練型為主，GPU為關鍵主力
科技新報粉絲團
加入好友
訂閱免費電子報
機器數據時代：AI 伺服器的訓練與推理應用分析 |
作者
TrendForce 集邦科技 |
發布日期
2023 年 05 月 22 日 7:30 |
分類
AI 人工智慧
, GPU
, 伺服器
|
AI 將為商業市場帶來廣大效益，使大廠積極投入 AI 訓練，推動硬體設備需求。ChatGPT 用戶數量和使用頻率持續成長下，推動更多推理算力消耗；同時模型更新，訓練資料增加亦造成更多算力消耗，使 AI 訓練無止境進行。由於模型成長速度遠高於硬體成長速度，推動 AI 伺服器零組件發展，並隨著硬體效能增加而提高成本。
