輝達 H100 難取代,Naver 應用英特爾 CPU 範圍有限?

作者 | 發布日期 2023 年 11 月 07 日 9:00 | 分類 AI 人工智慧 , 半導體 , 數位內容 line share follow us in feedly line share
輝達 H100 難取代,Naver 應用英特爾 CPU 範圍有限?


南韓著名入口搜尋引擎網站 Naver 上週宣布,旗下 Naver Place 店家與餐廳搜尋推薦服務,決定將推論(inference)過程 AI 伺服器晶片供應商輝達(Nvidia Corp.)改成英特爾(Intel Corp.),主要是因供貨吃緊及漲價。分析人士相信,雖然可行,但應用範圍有限,賽局並未出現重大變化。

Seeking Alpha、Investing.com報導,Bernstein由Bokyung Suh帶領的分析師團隊6日研究報告指出,Naver以英特爾Sapphire Rapids CPU及AI加速器取代輝達H100雖然可行,卻非「理想」狀態,因訓練大型語言模型(LLM)等AI任務成本非常高。

Bernstein指出,截至目前,輝達H100依舊是全世界效能最佳AI晶片,執行推論任務效果比前代A100提升1.5~4.5倍,推論測試結果也優於Google、高通(Qualcomm)、英特爾旗下Habana Labs的AI加速器。

報告稱把GPU改換成CPU並非理想選擇,因AI任務成本非常高,尤其LLM模型訓練方面。即便H100售價貴許多,且面臨生產與供給窘境,但「訓練」(training)與「推論」的總成本依舊較低。

該證券相信,中長期而言,Naver恐怕無法以英特爾CPU代替GPU訓練微調LLM模型。結論是,Naver英特爾合作案雖可行,但應用範圍相當窄,或許只能推論用或參數(parameter)調得夠低,這樣就無法改變賽局(definitely not the game changer yet)。

報告指出,Naver生成式AI LLM模型參數約200B,但Naver Place LLM參數僅占整個模型不到5%,不是訓練或微調用途。

輝達6日聞訊上漲1.66%,收457.51美元,創10月16日以來收盤新高;年初迄今飆漲213.06%。輝達預定11月21日美股盤後公布財報。

Barron′s 6日報導,FactSet統計顯示,分析師普遍預測輝達今年營收有望成長接近一倍至525億美元,每股盈餘有望成長近三倍。FactSet預測,拜未來幾年雲端支出雙位數成長之賜,輝達五年內每年營收可望成長超過20%,2028年達近1,500億美元,使每股盈餘年成長率逼近30%。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:Naver

延伸閱讀: