Tag Archives: H200

稱霸 AI 推理性能,NVIDIA B200 晶片海放 AMD MI300X

作者 |發布日期 2024 年 09 月 02 日 16:26 | 分類 AI 人工智慧 , GPU , 伺服器

由產業人士和學術界組成的開放工程聯盟(MLCommons)自 2018 年推出 MLPerf 產業基準,是衡量機器學習性能、提高科技透明度的常見指標。隨著科技大廠針對 MLPerf Inference 4.1 提出測試資料,尤其 NVIDIA 下一代 Blackwell GPU 首次參與測試,讓業界看出各家晶片性能提升至什麼程度。

繼續閱讀..

MLPerf 測試結果公佈,輝達 B200 推理性能達 AMD MI300X 四倍

作者 |發布日期 2024 年 08 月 30 日 9:20 | 分類 AI 人工智慧 , GPU , 伺服器

輝達 (NVIDIA) 發表 Blackwell 架構 AI 晶片 B200 首個 Llama 2 70B 大模型 MLPerf Inference 4.1 測試結果,顯示 B200 性能較上代 Hopper H100 提升四倍,即性能提升 300%。AMD 也公佈八個 MI300X GPU 在相同測試成績,整合八個 H100 與輝達 DGX H100 相當的成績,這也顯示了 AI 晶片市場的競爭激烈。

繼續閱讀..

新舊產品交接與供應瓶頸舒緩,中國 H100 AI 晶片伺服器價格驟跌

作者 |發布日期 2024 年 04 月 30 日 10:50 | 分類 AI 人工智慧 , GPU , 中國觀察

人工智慧 (AI) 市場蓬勃發展,企業購建運算需求大增,AI 晶片一直供不應求,除了產能面臨瓶頸,搶貨也是重要原因之一。輝達 (NVIDIA ) H100 晶片最搶手,但經歷大量掃貨後,後續算力更強大的 H200 晶片即將上市,H100 晶片伺服器近期中國傳出價格下跌消息。

繼續閱讀..