知名創業家馬斯克(Elon Musk)宣布,集結十萬顆 H100 GPU 的「Colossus」訓練叢集正式上線。
馬斯克3日透過社交平台X指出,xAI團隊「Colossus」上週末成功啟用,專案從開始到結束僅花122天。
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
馬斯克表示,Colossus是全世界最強大AI訓練系統,規模接下來幾個月內倍增至20萬顆(包括五萬顆H200)。感謝xAI團隊、輝達及許多夥伴供應商的出色工作。
TweakTown報導,xAI旗艦大型語言模型(LLM)「Grok 2」是以15,000顆AI GPU訓練,如今加上Colossus十萬顆AI GPU,次世代LLM表現有望更優秀。
(本文由 MoneyDJ新聞 授權轉載;首圖來源:Flickr/Steve Jurvetson CC BY 2.0)