陽明交大與工研院合作,開發全世界最高能效記憶體內運算加速晶片

作者 | 發布日期 2021 年 10 月 25 日 12:01 | 分類 AI 人工智慧 , 晶片 , 記憶體 Telegram share ! follow us in feedly


陽明交通大學電子研究所教授侯拓宏領導的團隊深耕記憶體內運算技術多年,透過記憶體元件、記憶體電路、人工智慧演算法的跨層級共同設計,一步步提升記憶體內運算的效能,以商用化的 28 奈米製程技術,發表全世界最高能效的三元卷積神經網路(ternary CNN)記憶體內運算加速晶片。

記憶體是各種電腦系統中儲存數據不可或缺的硬體單元,但現在新一代的智慧記憶體有更多的應用,可以儲存數據,並進行龐大的數據運算,能如人腦一般結合儲存與運算於一體,這樣的記憶體內運算(in-memory computing)架構模仿人腦神經網路的架構,是未來實現高效能、低耗電人工智慧的希望所在。

今年的 IEEE 亞洲固態電路會議(IEEE A-SSCC)中,陽明交大與工研院電光系統所團隊共同合作,以商用化的 28 奈米製程技術,發表目前全世界最高能效的三元卷積神經網路(ternary CNN)記憶體內運算加速晶片。

▲ 全世界最高能效的三元卷積神經網路記憶體內運算加速晶片。(Source:陽明交大)

三元卷積神經網路記憶體內運算加速晶片,每瓦功耗每秒可進行超過兩萬兆次的運算(20943 TOPS/W),較過去的技術大幅提升 3.7 倍,面積使用效率也提升 4.5 倍,樹立全新的記憶體內運算性能里程碑。

透過跨層級共同設計技術,三元卷積神經網路記憶體內運算加速晶片,克服記憶體內運算中存在的計算誤差,展示極低耗電且高準確的語音關鍵字辨識能力,目前與工研院的團隊正積極將該技術導入商業用「即呼即醒」的智慧藍牙耳機中。

侯拓宏表示,人工智慧的瓶頸之一在於運算硬體的效能,也是人工智慧運算無法由資料中心全面普及到個人行動裝置的主要原因,記憶體內運算因為其高能效的特性,是目前全世界各大 IC 設計公司與記憶體公司關注的破壞性技術,但真正的潛力仍未被完整的實現。

侯拓宏強調,這次的研發成果充分展現記憶體內運算的進步性,而使用商業化的半導體技術,讓該技術的商品化導入更加容易,相信再經過幾年的努力,打造如人腦一般高效的人工智慧運算硬體將不再是遙不可及的夢想。

(首圖來源:陽明交大)