![馬斯克展示 Dojo D1 超級電腦叢集,算力相當於 8,000 顆 H100](https://img.technews.tw/wp-content/uploads/2023/01/11172211/shutterstock_1901397307-624x416.jpg)
xAI 開始運用所謂「曼菲斯超級叢集」訓練更強大的 Gork 模型,馬斯克(Elon Musk)也在 X(前身為 Twitter)分享採用自研 Dojo 晶片的超級電腦照片。
除在美國田納西州曼菲斯建置 xAI 的超級電腦外,馬斯克表示 2024 年底前將啟用 Dojo D1 晶片,預估整體將提供約 8,000 個 NVIDIA H100 GPU 的處理能力。
馬斯克 2021 年首次發表 Dojo D1 晶片,其性能目標為 322 TeraFLOPS 的算力。2023 年 8 月,特斯拉被發現正在招聘一名資料中心資深工程專案經理,這通常是一個組織在規劃自家資料中心時先採取的重要步驟。特斯拉也在接下來一個月將 Dojo D1 訂單增加一倍,可見對新晶片性能具有信心。
到了 2024 年 5 月,台積電證實特斯拉次世代 Dojo 訓練模組開始生產。如今看來 Dojo 晶片似乎已經運抵美國,馬斯克在 X 分享自家資料中心的 Dojo 超級電腦照片。
Dojo pics pic.twitter.com/Lu8YiZXo8c
— Elon Musk (@elonmusk) July 23, 2024
▲ 馬斯克分享自家資料中心的 Dojo 超級電腦照片。
特斯拉設計的 Dojo 超級電腦,將 25 顆 Dojo D1 晶片排列為 5×5 矩陣,晶片使用 7 奈米製程,能容納 500 億顆電晶體,提供 362 TeraFLOPS 的算力;並使用台積電的整合扇出型(Integrated Fan-Out,InFO)封裝技術互連,比起類似的多處理器機器執行上更有效率。
曼菲斯所建置的超級電腦由 xAI 擁有,主要用於訓練 Grok 模型。而 Dojo 晶片更適合 AI 機器學習和影像訓練,特別是將電動車收集而來的影像資料,訓練特斯拉的全自動駕駛技術。
馬斯克曾在特斯拉財報電話會議表示,由於 NVIDIA GPU 定價高,他將加倍投入 Dojo 晶片開發和部署。
馬斯克指出,當旗下公司所有晶片結合起來時,預計 2024 年底,他將擁有 90,000 個 NVIDIA H100 GPU、40,000 個 AI4(Artificial Intelligence 4),以及自研 Dojo 晶片。
(首圖來源:shutterstock)