耐能智慧推出 KL730 AI 晶片,帶動輕量級 GPT 方案大規模應用

作者 | 發布日期 2023 年 08 月 15 日 17:30 | 分類 AI 人工智慧 , IC 設計 , 半導體 line share follow us in feedly line share
耐能智慧推出 KL730 AI 晶片,帶動輕量級 GPT 方案大規模應用


耐能智慧 15 日宣布,推出整合了車規級 NPU 和影像訊號處理器(ISP)的 KL730 晶片,將安全而低耗能的 AI 能力賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中。

耐能智慧表示,KL730 做為耐能最新款晶片,從設計之初就以實現 AI 功能為目的,並更新了多項節能及安全的技術創新。該晶片具備多通道介面,可無縫接入圖像、影片、聲音和毫米波等各種數位訊號,支持各產業的人工智慧應用開發。

另外,該晶片還解決了目前人工智慧普遍的瓶頸,就是低效能硬體導致的系統高成本。在這個晶片的開發工作中,KL730 在效能方面取得極大的進步,效能比相較於過往耐能的晶片提升了 3 至 4 倍,且比主要產業同等產品提高了 150% 至 200%。

耐能智慧創辦人兼執行長劉峻誠表示,運行 AI 功能需要專用 AI 晶片,其體系架構與我們以前了解的晶片完全不同。簡單地重新使用相鄰技術(如圖形處理專用的 GPU 晶片),不能很好地勝任這項工作。KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和對 Transformer 等框架的支持,我們正在為各行各業提供強大的 AI 能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。

耐能智慧強調,公司長期專注於邊緣 AI,並研發了一系列輕量且可擴展的 AI 晶片,以安全地推動 AI 能力的發展。2021 年,耐能發布了首款支援 Transformer 神經網路架構的邊緣 AI 晶片 KL530。而 Transformer 神經網路架構是所有 GPT(Generative Pre-trained Transformer)模型的基礎。KL730 晶片進一步豐富該產品系列,提供每秒 0.35 – 4 tera 有效計算能力,擴展了支援最先進的輕量級 GPT 大型語言模型(如 nanoGPT)的能力。

KL730 具有獨特的定位,可以改變 AIoT 領域的安全性,進而使用戶能夠部分或完全離線地在終端運行 GPT 模型。該晶片配合耐能的私有安全邊緣 AI 網路 KNEO,讓 AI 運行在用戶的邊緣設備上,從而讓他們更好地保護資料隱私。這些應用是全行業的:從企業伺服器解決方案到智慧駕駛車輛再到以 AI 驅動的醫療設備,所增加的安全性允許設備之間進行更大的協作,同時保護資料的安全。例如,工程師可以設計新的半導體晶片,而無需與大型雲端公司營運的資料中心共用機密數據。

(首圖來源:耐能智慧提供)