AI 晶片新創 Cerebras 上市後的首份財報表現未達市場預期,股價單日崩跌近 20%,摜破 IPO 發行價,也讓上市後買進的投資者損失慘重。談到 Cerebras 近期上市表現,晶片大神 Jim Keller 表示,Cerebras IPO 對 Tenstorrent 是件好事,公司在所有方面擊敗 Cerebras。
談到 Cerebras IPO 近況,Jim Keller 表示,「完全沒有感受到壓力,Cerebras 的 IPO 及隨之而來的估值對公司反而是好事,尤其因為我們將在所有方面擊敗他們」。
Tenstorrent 近期發表最新 BlackHole Galaxy AI 伺服器,該系統被視為有望顛覆整個 AI 運算市場,效能足以大幅超越競爭對手。該公司上個月展示 BlackHole Galaxy 時,宣稱其整體擁有成本(TCO)最多可比 NVIDIA GB300 低五倍。
Cerebras 的核心產品是一顆叫做WSE– 3(晶圓級引擎)的處理器,執行 Kimi K2.6 模型時,可達到每秒近 1,000 個 Token 的輸出速度。Jim Keller 認為,Tenstorrent 透過大規模部署 BlackHole 伺服器,不僅能輕鬆超越這項效能,更能以遠低於 Cerebras 的整體系統成本達成相同甚至更好的表現。
談到 KV 快取的處理方式,Jim Keller 表示,相較 NVIDIA 等對手開發專用解決方案,Tenstorrent 採用更直接的架構設計,即將 KV 快取儲存在與解碼(decode)運算位於同一顆晶片的 DRAM 中,使得整體設計相當簡單。
Jim Keller 說明,KV 快取可透過 Tenstorrent 的 Tensor 晶片進行擴展,優先將資料儲存在本地 SRAM 中;若 SRAM 容量不足,再將資料串流至 DRAM。雖然這種做法會帶來一定的效能損失,但整體表現仍優於缺乏 DRAM 支援的 NVIDIA 與 Cerebras 解決方案。
市場近期盛傳高通與英特爾考慮收購 Tenstorrent,Jim Keller 未正面回應,僅表示確實曾與兩家公司執行長會面,並表示希望能與其中一家達成大型合作,尤其是在 RISC-V CPU IP 授權方面。
此外,Jim Keller 透露,已有一家超大型雲端服務業者主動接洽,希望採用 Tenstorrent 的 AI IP,開發一款小型 AI 晶片,「希望和其中一家談成一筆大生意,因為公司的 RISC-V CPU IP 非常出色。另外,也有一家 Hyperscaler 正在評估採用 AI IP,開發一款小型晶片」。
目前 Tenstorrent 正積極推動首次公開募股(IPO)。Jim Keller 表示,投資人對此抱持高度熱情,公司也努力擴大全球市場布局與供應鏈體系。Tenstorrent 的 AI 伺服器與加速器產品需求正快速攀升。其中,一家海外客戶已下訂 96 套 Galaxy Pod,總計搭載 3,072 顆 BlackHole 晶片,成為代表性的大型訂單之一。
Jim Keller 認為,訂單快速成長的原因之一,在於競爭對手無法滿足所有客戶需求,加上 Tenstorrent 具明顯的成本優勢。若採購 NVIDIA 方案需要 1 億美元,改採 Tenstorrent 的解決方案成本可能僅約 2,000 萬美元,憑藉極具競爭力的價格,公司即使自身需求持續增加,仍有能力如期交貨。
目前 Tenstorrent 正生產 1,000 台 Galaxy AI 伺服器,其中已有約一半產能完成銷售。
(首圖來源:科技新報)






