Tag Archives: MI300X

稱霸 AI 推理性能,NVIDIA B200 晶片海放 AMD MI300X

作者 |發布日期 2024 年 09 月 02 日 16:26 | 分類 AI 人工智慧 , GPU , 伺服器

由產業人士和學術界組成的開放工程聯盟(MLCommons)自 2018 年推出 MLPerf 產業基準,是衡量機器學習性能、提高科技透明度的常見指標。隨著科技大廠針對 MLPerf Inference 4.1 提出測試資料,尤其 NVIDIA 下一代 Blackwell GPU 首次參與測試,讓業界看出各家晶片性能提升至什麼程度。

繼續閱讀..

MLPerf 測試結果公佈,輝達 B200 推理性能達 AMD MI300X 四倍

作者 |發布日期 2024 年 08 月 30 日 9:20 | 分類 AI 人工智慧 , GPU , 伺服器

輝達 (NVIDIA) 發表 Blackwell 架構 AI 晶片 B200 首個 Llama 2 70B 大模型 MLPerf Inference 4.1 測試結果,顯示 B200 性能較上代 Hopper H100 提升四倍,即性能提升 300%。AMD 也公佈八個 MI300X GPU 在相同測試成績,整合八個 H100 與輝達 DGX H100 相當的成績,這也顯示了 AI 晶片市場的競爭激烈。

繼續閱讀..

AI 晶片市場趨勢

作者 |發布日期 2024 年 04 月 22 日 7:30 | 分類 AI 人工智慧 , 半導體 , 技術分析

TrendForce 研究顯示,現階段提供算力的主要來源以 NVIDIA AI 加速器為大宗,全球市占率約八成,但龐大需求量導致 AI 加速器供不應求,不僅微軟、Google、AWS、Meta 等全球大型雲端服務廠商(CSP)避免再被緊缺供應箝制,紛紛加速自研 AI 加速器,就連 OpenAI 也打算自行開發晶片,甚至欲透過全球籌資建立晶圓廠因應 AI 發展需求。 繼續閱讀..

昂貴 Nvidia 對決便宜 AMD!Nvidia 兩大買家決定購買 AMD 最新 AI GPU

作者 |發布日期 2023 年 12 月 12 日 15:24 | 分類 AI 人工智慧 , GPU , Microsoft

長久以來,AMD 一直希望旗下 AI 晶片能獲得更多買家的青睞,進而在 Nivida 獨占的 AI 晶片市場上取得更好成績。對於 Meta、OpenAI 及微軟等 AI 晶片大買家而言,也莫不希望市場有更多的 AI 晶片供應來源,既可避免廠商鎖定問題,也可藉此降低成本。隨著 AMD 最新 AI 晶片 Instinct MI300X 預計明年初大量出貨,上述大買家已公開表示將會下單採購,以做為更符合經濟效益的替代方案。  繼續閱讀..

微軟宣布 Azure 雲端虛擬設備將使用 AMD Instinct MI300X 加速器

作者 |發布日期 2023 年 11 月 17 日 9:20 | 分類 AI 人工智慧 , GPU , IC 設計

微軟與 AMD 攜手宣布,微軟的雲端運算服務將率先採用 Instinct MI300X 加速器,配合第四代 EPYC 伺服器處理器,打造了全新 Azure 雲端虛擬設備。這些新設備將用在雲端運算和生成式人工智慧領域,並進行相關的優化,提供更強的性能、更新的服務和額外的計算能力。

繼續閱讀..