Tag Archives: AI 加速器

仿效輝達推個人 AI 超級電腦?Google:沒有類似計畫

作者 |發布日期 2025 年 01 月 16 日 11:00 | 分類 AI 人工智慧 , Google , 晶片

輝達(NVIDIA)日前發表 Project Digits 個人 AI 超級電腦,外界揣測是為進軍桌機 CPU 市場鋪路,由於 Google 也專注開發 AI 加速器,引發市場聯想,不過 Google 高層 15 日明確表示,Google 不是以晶片為主的公司,一切都是為了滿足客戶需求,不會推動類似計畫。 繼續閱讀..

AMD 推出 Instinct MI300X GPU、MI300A APU,稱速度比 Nvidia 產品快 1.6 倍

作者 |發布日期 2023 年 12 月 07 日 8:01 | 分類 AI 人工智慧 , GPU , 半導體

AMD 於美國時間 6 日在加州舉行的 Advancing AI 活動期間,推出備受期待的 MI300 系列產品 ,包括 MI300X(AI 加速器)和 MI300A(全球首款資料中心 APU)等新品與配套軟體,前者據稱運行 AI 軟體速度將比競爭對手 Nvidia 產品更快。 繼續閱讀..

Hot Chips 2023》來自中國的墨芯英騰 AI 推論加速器

作者 |發布日期 2023 年 10 月 03 日 7:50 | 分類 IC 設計 , 半導體 , 處理器

歷屆 Hot Chips 總不乏中國廠商身影,人工智慧晶片戰場也不例外。創立於 2018 年、總部位於深圳的墨芯(Moffett),2022 年 3 月 22 日發表兩款雲端資料中心 AI 推論計算卡:SparseOne S100 和 SparseMegatron S300,搭載墨芯首顆處理器英騰(Antoum),是全球首款高達 4~32 倍稀疏率的 AI 計算晶片。墨芯創始團隊來自卡內基美隆大學頂尖 AI 科學家,Moffett 是矽谷校區地名,中文名稱「墨芯」是致敬中國科學家鼻祖墨子。 繼續閱讀..

攻 IC 設計 AI 推論運算!英業達發表「嵌入式神經網路處理器 IP」

作者 |發布日期 2023 年 06 月 06 日 11:05 | 分類 AI 人工智慧 , IC 設計 , 半導體

英業達今日發表「VectorMesh」AI 加速器系列,支援先進人工智慧推論運算,擁有低功耗、高效能、高彈性架構三大優勢,並推出從模型訓練、設計及 SoC 整合到晶片量產階段,一條龍客製化的整合服務,大幅縮短客戶產品開發時程,今年第一季推出至今,已吸引數家台灣前十大 IC 設計廠洽談。

繼續閱讀..

從人工智慧的大型語言模型,回顧記憶體匱乏症與可能解藥

作者 |發布日期 2023 年 05 月 10 日 8:00 | 分類 AI 人工智慧 , 半導體 , 會員專區

人工智慧訓練的浮點運算量(Flops)每年都大幅增長,自然語言處理(NLP)、機器視覺(CV)和語音識別學習過去十年,以 2 年 15 倍速度攀升。自從 Google 在 2017 年推出 Transformer 模型,更激增到「2 年 750 倍」。但瓶頸並非運算能力,而是記憶體的「容量」(Capacity)、「頻寬」(Bandwitdh)與「延遲」(Latency),無論晶片內、晶片之間還是人工智慧加速器間通訊。 繼續閱讀..