身為輝達（Nvidia Corp.）對手的 AI 晶片新創商 Cerebras Systems 宣布攜手法國開源 AI 新創獨角獸 Mistral AI，讓 AI 助理的推論速度躍居全球之冠，擊敗 OpenAI 和中國 AI 新創 DeepSeek。
路透社、Finimize報導，Mistral週四（2月6日）釋出一款AI聊天機器人Le Chat，宣稱能以每秒1,000字的速度回答用戶問題。
Mistral挑戰的是同樣推出開源AI模型的Meta Platforms及DeepSeek。其中，DeepSeek 1月推出號稱成本極低的先進AI模型，震撼全球市場。Mistral、Meta和DeepSeek都與ChatGPT開發者OpenAI競爭。
根據Cerebras 6日發布的新聞稿，Cerebras支援Le Chat最新的「Flash Answers」功能，可為用戶快速提供回應。Le Chat的推論速度每秒超過1,100個符元（token），比ChatGPT 4o、Claude Sonnet 3.5和DeepSeek R1等熱門AI模型快十幾倍，成為全球速度最快的AI助理。根據計算，ChatGPT 4o、Gemini 2.0 Flash、Sonnet 3.5和DeepSeek R1的推論速度分別為每秒168、115、71、58個符元。
（Source：Cerebras）
Cerebras背後是總部位於阿拉伯聯合大公國（UAE）的AI科技集團Group 42（G42）。Cerebras已申請首次公開發行（IPO），但因為美國政府還在審視G42跟Cerebras的關係，使得IPO遭到延遲。
Cerebras是輝達在AI模型訓練領域的少數挑戰者之一。不過，Cerebras週四宣布的Mistral合作案，主要著重於AI模型的推論（inference），即以模型為用戶提供應用服務。
Cerebras執行長Andrew Feldman指出，隨著競爭者與OpenAI的模型逐漸縮小差距，回應使用者的速度成為更加優先的考量，他說，「若想要更加優質的答案，就得在推論時間投入更多算力」。
科技新報粉絲團
加入好友
訂閱免費電子報
