輝達 H100 難取代,Naver 應用英特爾 CPU 範圍有限?

作者 | 發布日期 2023 年 11 月 07 日 9:00 | 分類 AI 人工智慧 , 半導體 , 數位內容 line share Linkedin share follow us in feedly line share
Loading...
輝達 H100 難取代,Naver 應用英特爾 CPU 範圍有限?

南韓著名入口搜尋引擎網站 Naver 上週宣布,旗下 Naver Place 店家與餐廳搜尋推薦服務,決定將推論(inference)過程 AI 伺服器晶片供應商輝達(Nvidia Corp.)改成英特爾(Intel Corp.),主要是因供貨吃緊及漲價。分析人士相信,雖然可行,但應用範圍有限,賽局並未出現重大變化。

Seeking Alpha、Investing.com報導,Bernstein由Bokyung Suh帶領的分析師團隊6日研究報告指出,Naver以英特爾Sapphire Rapids CPU及AI加速器取代輝達H100雖然可行,卻非「理想」狀態,因訓練大型語言模型(LLM)等AI任務成本非常高。

Bernstein指出,截至目前,輝達H100依舊是全世界效能最佳AI晶片,執行推論任務效果比前代A100提升1.5~4.5倍,推論測試結果也優於Google、高通(Qualcomm)、英特爾旗下Habana Labs的AI加速器。

報告稱把GPU改換成CPU並非理想選擇,因AI任務成本非常高,尤其LLM模型訓練方面。即便H100售價貴許多,且面臨生產與供給窘境,但「訓練」(training)與「推論」的總成本依舊較低。

該證券相信,中長期而言,Naver恐怕無法以英特爾CPU代替GPU訓練微調LLM模型。結論是,Naver英特爾合作案雖可行,但應用範圍相當窄,或許只能推論用或參數(parameter)調得夠低,這樣就無法改變賽局(definitely not the game changer yet)。

報告指出,Naver生成式AI LLM模型參數約200B,但Naver Place LLM參數僅占整個模型不到5%,不是訓練或微調用途。

輝達6日聞訊上漲1.66%,收457.51美元,創10月16日以來收盤新高;年初迄今飆漲213.06%。輝達預定11月21日美股盤後公布財報。

Barron′s 6日報導,FactSet統計顯示,分析師普遍預測輝達今年營收有望成長接近一倍至525億美元,每股盈餘有望成長近三倍。FactSet預測,拜未來幾年雲端支出雙位數成長之賜,輝達五年內每年營收可望成長超過20%,2028年達近1,500億美元,使每股盈餘年成長率逼近30%。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:Naver

延伸閱讀:

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》