記憶體大廠美光科技 (Micron) 今日發表兩款全新固態硬碟(SSD)6500 ION NVMe SSD 及 XTR NVMe SSD,可因應數據快速增長,降低營運成本和改善儲存效能,使資料中心大步前進。
Category Archives: 記憶體

從人工智慧的大型語言模型,回顧記憶體匱乏症與可能解藥 |
| 作者 痴漢水球|發布日期 2023 年 05 月 10 日 8:00 | 分類 AI 人工智慧 , 半導體 , 會員專區 |
人工智慧訓練的浮點運算量(Flops)每年都大幅增長,自然語言處理(NLP)、機器視覺(CV)和語音識別學習過去十年,以 2 年 15 倍速度攀升。自從 Google 在 2017 年推出 Transformer 模型,更激增到「2 年 750 倍」。但瓶頸並非運算能力,而是記憶體的「容量」(Capacity)、「頻寬」(Bandwitdh)與「延遲」(Latency),無論晶片內、晶片之間還是人工智慧加速器間通訊。 繼續閱讀..



