輝達 GPU 降速影響?專家:中國 AI 訓練兩三年後撞牆

作者 | 發布日期 2023 年 08 月 22 日 13:40 | 分類 AI 人工智慧 , GPU , 中國觀察 line share follow us in feedly line share
輝達 GPU 降速影響?專家:中國 AI 訓練兩三年後撞牆


受到華盛頓當局祭出出口管制影響,輝達(Nvidia Corp.)決定將 AI 晶片降級,供應中國所需。分析人士直指,輝達 AI 晶片雖降級,效能依舊優於其他替代品,因此中國市場依舊需求若渴,但美國出口管制未來恐會產生更為重大的影響。

英國金融時報21日報導,輝達科學長Bill Dally指出,最先進AI系統的訓練要求大概每6~12個月就會加倍,也就是說,中國與全球其他地區販售的晶片差距會迅速拉大。

華盛頓當局2022年發布的出口管制對晶片運算、傳輸資料的速率設限,此乃訓練大型AI模型的關鍵。訓練AI模型需要大量數據,得將許多晶片連結在一起。輝達決定調降當時最先進GPU「A100」的資料傳輸速度因應、專為中國推出「A800」,今年也推「H100」中國降級版「H800」,傳輸資料速率僅400 GB/s、低於美國設定的600 GB/s上限。H100資料傳輸速率高達900 GB/s。

傳輸速率下降,意味著中國晶片用戶須花費更長的時間才能訓練好AI系統,這會消耗更多電力、增加成本。然而,即便面臨這些限制,H800在中國的銷售依舊火熱。許多中國科技業者依舊處於大型語言模型(LLM)的預訓練(pre-training)階段,這要消耗許多GPU算力、對資料傳輸的要求也高。中國AI工程師透露,輝達800系列GPU的傳輸速率雖降級,卻依舊領先其他替代品。

業界專家相信,中國企業可能很快就會面臨800系列晶片的互聯速率限制,讓他們無法應付訓練AI益發龐大的數據量。86Research上海分析師Charlie Chai表示,這就好像在壅塞的公路旁興建大量工廠,即便企業能設法適應降級版晶片,也將在接下來兩三年遇到問題。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:shutterstock)

延伸閱讀: