最近因 AI 旋風,帶動資料中心產業成焦點,即使 AI 可用在各行各業,似乎成為解決人類困境的救世主,但科學家表示,資料中心是新工廠,碳足跡比航空業還大,未來 AI 更融入經濟,龐大運算會讓資料中心碳排放量倍增,造成更大環境負擔。 繼續閱讀..
資料中心是新工廠,碳排放超過航空業 |
| 作者 黃 嬿|發布日期 2023 年 05 月 31 日 11:09 | 分類 Big Data , 會員專區 , 淨零減碳 |
機器數據時代:AI 伺服器的訓練與推理應用分析 |
| 作者 TrendForce 集邦科技|發布日期 2023 年 05 月 22 日 7:30 | 分類 AI 人工智慧 , GPU , 伺服器 | edit |
AI 將為商業市場帶來廣大效益,使大廠積極投入 AI 訓練,推動硬體設備需求。ChatGPT 用戶數量和使用頻率持續成長下,推動更多推理算力消耗;同時模型更新,訓練資料增加亦造成更多算力消耗,使 AI 訓練無止境進行。由於模型成長速度遠高於硬體成長速度,推動 AI 伺服器零組件發展,並隨著硬體效能增加而提高成本。 繼續閱讀..
從 AIGC 看 AI 伺服器發展趨勢 |
| 作者 拓墣產研|發布日期 2023 年 04 月 10 日 7:20 | 分類 AI 人工智慧 , 伺服器 , 會員專區 | edit |
自 2022 年 11 月 OpenAI 公布聊天機器人 ChatGPT 後,例如 Google、Meta、百度等大廠陸續公布自家大型模型,意味生成式 AI(AIGC)走向大規模商用時代。Microsoft、Google 與百度皆以 AIGC 與自家生態系結合,透過 AI 加值旗下的產品與服務;Meta 則以相對小型的基礎模型形式面向研究單位。大型模型除了展現各自 AI 實力,並透過善用雲端資源提高運算效率,同時基於預訓練模型可直接微調後快速進入產業,為開發者節省時間,讓各式各樣的 AIGC 持續問世。 繼續閱讀..
2022~2026 年 AI 伺服器出貨量年複合成長率可達 10.8% |
| 作者 TechNews|發布日期 2023 年 03 月 08 日 14:18 | 分類 AI 人工智慧 , 伺服器 , 半導體 | edit |
TrendForce 觀察到始自 2018 年新興應用題材帶領,自駕車、AIoT 與邊緣運算,許多大型雲端業者大量投資 AI 相關設備建置,截至 2022 年,搭載 GPGPU(General Purpose GPU)的 AI 伺服器年出貨量占整體伺服器比重近 1%,2023 年預估 ChatBot 相關應用加持下,可望再度刺激 AI 領域活絡,出貨量年成長可達 8%;2022~2026 年複合成長率達 10.8%。 繼續閱讀..
