全球首富、知名創業家馬斯克(Elon Musk)確認,xAI 次世代大型語言模型(LLM)「Grok 3」即將問世。
馬斯克6日在社交平台X表示,Grok 3已完成預訓練(Pretraining)即將發表,算力比Grok 2高十倍多。
Cool!
And Grok 3 is coming soon. Pretraining is now complete with 10X more compute than Grok 2. https://t.co/54j81EEOF5
— Elon Musk (@elonmusk) January 4, 2025
Tom′s Hardware 6日報導,從時間和脈絡看,確認xAI打造Colossus超級電腦是為了加速推進大規模AI專案。馬斯克提到Grok 3算力「比Grok 2高十倍」,進一步證明Grok 3運用Colossus這個龐大運算建設進行預訓練。Grok 3使用X用戶資料。
xAI計劃一段時間後部署超過100萬顆GPU支援的超級電腦。這版Colossus將訓練涵蓋數兆參數的大型語言模型,屆時遠比Grok 3或GPT-4o準確。除了更龐大參數,新模型也許會具備更先進推論能力,朝通用人工智慧(artificial general intelligence,AGI,指等於或超越人類的AI)靠攏。