中國 AI 業又一「創新」：幫 NVIDIA GeForce RTX 40 系列顯卡增加記憶體容量 |
作者
TechNews 編輯台|發布日期
2024 年 08 月 12 日 17:00 |
|
近日中國 AI 市場出現引人注目的現象：NVIDIA GeForce RTX 40 系列顯卡遭大幅改裝，顯卡記憶體（VRAM）容量翻倍，以滿足日益增長的 AI 計算需求。這顯示中國企業的「改裝實力」，也反映全球 AI 產業對高性能硬體的迫切需求。 繼續閱讀..
從人工智慧的大型語言模型，回顧記憶體匱乏症與可能解藥 |
|
作者
痴漢水球|發布日期
2023 年 05 月 10 日 8:00 |
|
人工智慧訓練的浮點運算量（Flops）每年都大幅增長，自然語言處理（NLP）、機器視覺（CV）和語音識別學習過去十年，以 2 年 15 倍速度攀升。自從 Google 在 2017 年推出 Transformer 模型，更激增到「2 年 750 倍」。但瓶頸並非運算能力，而是記憶體的「容量」（Capacity）、「頻寬」（Bandwitdh）與「延遲」（Latency），無論晶片內、晶片之間還是人工智慧加速器間通訊。 繼續閱讀..
