馬斯克(Elon Musk)旗下 xAI 開始運用位於美國田納西州曼菲斯所謂「曼菲斯超級叢集」,訓練強大的語言模型。
馬斯克 xAI 打造 AI 訓練叢集,輝達、美超微助攻十萬顆液冷 H100 |
| 作者 陳 冠榮|發布日期 2024 年 07 月 23 日 8:16 | 分類 AI 人工智慧 , GPU , 伺服器 |
全球 AI 伺服器需求高漲,有望帶動 2024 年產值達 1,870 億美元、占市場比重約 65% |
| 作者 TechNews|發布日期 2024 年 07 月 17 日 14:20 | 分類 AI 人工智慧 , 伺服器 , 電腦 | edit |
TrendForce 最新《AI Server(伺服器)產業分析報告》指出,2024 年大型 CSPs 及品牌客戶等對於高階 AI 伺服器高度需求未歇,加上 CoWoS 原廠 TSMC 及 HBM 原廠如 SK 海力士、三星及美光逐步擴產下,第二季後短缺大幅緩解,連帶使 NVIDIA 主力方案 H100 的交貨前置時間(Lead Time)從先前動輒 40~50 週降至不到 16 週,TrendForce 預估 AI 伺服器第二季出貨量季增近 20%,全年出貨量上修至 167 萬台,年增率達 41.5%。
Edge AI 催化邊緣運算革新,伺服器產業迎新成長動能 |
| 作者 TrendForce 集邦科技|發布日期 2024 年 07 月 17 日 7:30 | 分類 AI 人工智慧 , 伺服器 , 技術分析 | edit |
邊緣運算已於許多場景使用,如工業、安防監控、城市交通與汽車(含自動駕駛、車載電腦)等,透過高效能資料運算,實現 IoT 設備即時數據處理;然而廠商邊緣 AI 範疇擴大,特別是高精度、高專業性任務,為減少運算延遲並快速返回處理後資料,面對龐大終端數據和運算條件越加嚴苛,不僅加速伺服器產品更新,也擴大存量市場需求。 繼續閱讀..
