
想像一下,有沒有一個可以與桌上型電腦用的 GPU 相媲美、但功耗僅為其百分之一的晶片?這就是 EnCharge AI 的目標:一種新型的 AI 加速器,能夠以極低的功耗實現媲美或超越的效能。
AI 晶片新創 EnCharge AI 正在使用突破性的新技術,透過模擬運算加速器來實現人工智慧推理。他們聲稱,他們的架構將比傳統的數位加速器高出 20 倍的每瓦效能優勢。
根據執行長 Naveen Verma 介紹,EnCharge AI 的推理晶片僅需一瓦的功率就能以 8 位元精度提供 150 TOPS 的 AI 運算。擴展到 4.5 瓦,Verma 聲稱它可以與桌上型電腦 GPU 匹敵,但功耗僅為其百分之一。
▲ EnCharge AI 執行長 Naveen Verma(中)。(Source:EnCharge AI)
EnCharge AI 的晶片由普林斯頓大學的 Verma 實驗室製造而成,並得到了美國國防高級研究計劃局(DARPA)和台積電的支持。
應用前景:行動裝置、個人電腦和工作站
EnCharge AI 的關鍵創新,在於他們採用了模擬電容器取代了傳統的電晶體。他們將類比電容器用於類比計算,提高效率和精確度。此外,EnCharge AI 的設計是在記憶體中進行計算,記憶體計算的概念早已存在,但 EnCharge AI 的方法是使用模擬電容器來執行計算。
EnCharge AI 的晶片將在今年稍後推出,用於行動裝置、個人電腦和工作站。Verma 聲稱,真正的區別在於晶片如何處理計算。EnCharge AI 的晶片支援各種 AI 工作負載,從卷積神經網路到大型語言和擴散模型背後的變壓器架構。
由於推理晶片的設計將根據目標工作負載而有所不同,EnCharge AI 正在根據不同的應用程式調整其設計。例如,對於大型語言模型,記憶體容量和頻寬的影響可能比原始計算更大。
另外,EnCharge AI 宣布已獲得超過 1 億美元的 B 輪融資。此輪超額認購融資使 EnCharge AI 的總融資額超過 1.44 億美元,將推動其首款以客戶端運算為主的 AI 加速器產品,並在 2025 年實現商業化。
- The future of AI is … analog? Upstart bags $100M to push GPU-like brains on less juice
- EnCharge AI Closes Oversubscribed $100M Series B Funding Round Led by Tiger Global
(首圖來源:shutterstock)