挖礦轉 AI 伺服器,這家公司拿 NVIDIA H100 抵押借了 23 億美元

作者 | 發布日期 2023 年 08 月 08 日 18:58 | 分類 AI 人工智慧 , GPU , 晶片 line share follow us in feedly line share
挖礦轉 AI 伺服器,這家公司拿 NVIDIA H100 抵押借了 23 億美元


聽過汽車融資、房屋二胎跟珠寶古董典當抵押吧?只要物品有價值就可以拿來抵押借錢,而現在這世界上最值錢的資產之一不是別人,就是 NVIDIA H100 GPU,這家以挖礦起家的公司,以此為抵押品,竟然借到 23 億美元。

這宗罕見的借貸案來自 CoreWeaver,一家雲運算供應商,他們以手上的 NVIDIA H100 處理器為抵押品,向 Magnetar Capital 和 Blackstone、BlackRock、PIMCO 等借入 23 億美元,約新台幣 730 億元,據公司表示,他們將利用這筆資金購入更多 NVIDIA H100 和 HGX H100 運算平台,並預計在今年底前將 AI 資料中心數量擴增到 14 座。

CoreWeaver 是一家默默無聞的公司,2017 年成立時核心業務是利用 GPU(影像處理單元)參與以太幣挖礦,在 2018 年第一次礦難後,他們開始嘗試「雲運算」服務,利用類似礦池的架構,串連不同用戶的算力,來加速影像處理速度,就這樣錯過了 2020 年以太幣的暴漲暴跌後,2022 年他們的年營收約 2,500 萬美元,不好不壞。

想不到在 2023 年,隨著生成式 AI 大爆發,CoreWeaver 成為炙手可熱的服務供應商,他們利用雲端架構,串連影像處理器算力,打造 AI 伺服器,提供雲端運算服務,據官網說法,其成本比傳統廠商低了 80%。強大的競爭優勢,吸引到那個男人的眼光。

NVIDIA 執行長黃仁勳用行動支持著 CoreWeaver,當全世界都在搶最強 AI 處理器 NVIDIA H100 時,黃仁勳決定優先供貨給 CoreWeaver,讓他們能夠持續擴大優勢,背後有兩個原因。

左手投資,右手賺錢的雙刀流

事實上,NVIDIA 是 CoreWeaver 的主要投資人之一,除了先前的 1 億美元投資,2023 年 4 月 NVIDIA 和 Magnetar 又參與了他們的 B 輪融資,總金額高達 4.2 億美元。手握著 Amazon 和 Google 都覬覦的 H100,老黃當然要優先供貨給自己投資的孩子。

NVIDIA 供應給 CoreWeaver 越多 GPU,他們就越能在算力和服務價格上擴大優勢,進而購入更多 GPU,這個生生不息的獲利循環,成了兩家公司緊密連結的紐帶。

▲ 使用 A100 需要 7 天的訓練時間,換成 H100 只需 20 個小時。

第二個原因則在外部,雖然說各大雲運算服務商都想要 H100,但同時他們也都在開發自己的晶片,像是 Google Cloud TPU 和 Amazon 的 Graviton,希望透過軟硬整合的優勢擺脫 NVIDIA 主宰。在這個態勢下,NVIDIA 自然更不願意供貨給這些潛在競爭者。

不只是 CoreWeaver,NVIDIA 力挺的另一家新創 Inflection AI,也比這些科技巨頭更容易取得 H100,在上個月他們就使用 2 萬 2 千顆 H100 GPU,打造了超級電腦。

NVIDIA H100 堪稱是當今最強的 AI 特化運算單元,採用台積電 4 奈米製程,每個 GPU 提供每秒 3 TB 記憶體頻寬,在人工智慧訓練上,速度比前一代 A100 快上 9 倍,在最大的 Megatron 聊天機器人推論(5,300 億個參數)模型上,速度從 16 倍提升到 30 倍。

現在我們不僅知道它的運算能力強大,甚至可以很明確的知道,這些處理器已經值錢到可以成為動產抵押品。許多企業也發現,搶不到 H100 的情況下,搶雲服務頻寬也是一個辦法。微軟就在 2023 年 6 月宣佈,和 CoreWeaver 簽約,保證未來數十億美元的投資,協助建設基礎建設,以確保 OpenAI 的算力足夠。

(圖片來源:NVIDIA