AMD 推出 Instinct MI300X GPU、MI300A APU，稱速度比 Nvidia 產品快 1.6 倍 |
作者
Emma stein|發布日期
2023 年 12 月 07 日 8:01 |
|
AMD 於美國時間 6 日在加州舉行的 Advancing AI 活動期間，推出備受期待的 MI300 系列產品 ，包括 MI300X（AI 加速器）和 MI300A（全球首款資料中心 APU）等新品與配套軟體，前者據稱運行 AI 軟體速度將比競爭對手 Nvidia 產品更快。 繼續閱讀..
Hot Chips 2023》來自中國的墨芯英騰 AI 推論加速器 |
|
作者
痴漢水球|發布日期
2023 年 10 月 03 日 7:50 |
|
歷屆 Hot Chips 總不乏中國廠商身影，人工智慧晶片戰場也不例外。創立於 2018 年、總部位於深圳的墨芯（Moffett），2022 年 3 月 22 日發表兩款雲端資料中心 AI 推論計算卡：SparseOne S100 和 SparseMegatron S300，搭載墨芯首顆處理器英騰（Antoum），是全球首款高達 4~32 倍稀疏率的 AI 計算晶片。墨芯創始團隊來自卡內基美隆大學頂尖 AI 科學家，Moffett 是矽谷校區地名，中文名稱「墨芯」是致敬中國科學家鼻祖墨子。 繼續閱讀..
從人工智慧的大型語言模型，回顧記憶體匱乏症與可能解藥 |
|
作者
痴漢水球|發布日期
2023 年 05 月 10 日 8:00 |
|
人工智慧訓練的浮點運算量（Flops）每年都大幅增長，自然語言處理（NLP）、機器視覺（CV）和語音識別學習過去十年，以 2 年 15 倍速度攀升。自從 Google 在 2017 年推出 Transformer 模型，更激增到「2 年 750 倍」。但瓶頸並非運算能力，而是記憶體的「容量」（Capacity）、「頻寬」（Bandwitdh）與「延遲」（Latency），無論晶片內、晶片之間還是人工智慧加速器間通訊。 繼續閱讀..
