半導體創新企業 Cerebras 宣布，推出第三代晶圓級晶片 WSE-3，以相同功耗比較，比上代 WSE-2 晶片性能翻倍成長。
Cerebras 指 WSE-3 採台積電 5 奈米，容納 4 億個電晶體於單一晶片，並 90 萬個 AI 運算核心。44GB 暫存記憶體，可搭配 1.5TB / 12TB / 1.2PB 外接儲存方案，最高 125PFLOPS AI 算力。
WSE-3 的 CS-3 系統憑最高 1.2PB 外接記憶體，可訓練比 GPT-4 和 Gemini 大十倍的下代人工智慧模型，單邏輯記憶體空間容納 24,000T 的參數規模模型，大大簡化開發人員工作。
CS-3 也適合超大規模 AI 運算需求，四系統叢集架構可一天內微調 70B 模型，最大規模 2,048 個 CS-3 系統叢集時，一天內可訓練 Llama 70B 模型。
Cerebras CS-3 系統有卓越易用性，大模型訓練代碼較 GPU 減少 97%，僅需 565 行代碼就可達成 GPT-3 模型標準。阿拉伯聯合大公國 G42 財團表示將打造 Cerebras CS-3 組成的 Condor Galaxy 3 超級電腦，含 64 個系統，可提供 8exaFLOP 的 AI 算力。
(首圖來源：Cerebras)
科技新報粉絲團
加入好友
訂閱免費電子報
