用憶組器打造大腦啟發式運算系統,能效高出電晶體 AI 硬體上千倍

作者 | 發布日期 2020 年 08 月 30 日 21:59 | 分類 AI 人工智慧 , 零組件 Telegram share ! follow us in feedly


倫敦大學學院(UCL)研究人員的一項研究發現了一種提高大腦啟發式(Brain-inspired)運算系統精準度的方法,這使得極其節能的AI人工智慧愈來愈接近現實。該系統使用憶阻器(Memristor)建立人工神經網路,其能源效率比傳統基於電晶體的 AI 硬體至少高出 1, 000 倍,但迄今為止卻更容易出錯。 

現有的 AI 極其耗能,訓練一個 AI 模型可以產生 284 噸二氧化碳,相當於 5 輛汽車的終身排碳量。用憶阻器(一種首度於 2008 年製造的新型電子裝置)取代構建所有數位裝置的電晶體,可以將二氧化碳減少到幾分之一噸,相當於開了一整個下午車程所產生的排碳量。

憶阻器在未來 3 年內將被用來開發 AI 系統

由於憶阻器比現有運算系統具有更好的節能表現,因此它們有可能將大量運算能力打包到手持裝置中,因而免除了非連接 Internet 不可的需要。這一點特別重要,因為隨著資料需求的不斷增長,以及資料傳輸容量超過某個程度後的困難性,預計將來對 Internet 的過度依賴將成為問題。

在發表於《自然通訊》(Nature Communications)期刊上的一項新研究中,UCL 工程師發現,透過讓憶阻器在神經網路的多個子群組中協同運作,並平均分配他們的運算,可以大大提高準確性,這意味著可以消除每個網路中的缺陷。

憶阻器因為它們即使在被關閉之後,仍能記住流經它們的電荷量,所以被描述為「具有記憶體的電阻」,憶阻器在十多年前首次製造時被認為極具時代革命性,是電子元件中補充電阻、電容和電感的「缺失環節」。自那時以來,它們已經用於記憶體元件的商業生產,但是研究團隊表示,在未來 3 年內,它們可望被用來開發 AI 系統。

如今憶阻器的工作效率大幅提升,因為它們不僅可以 0 與 1 的二進制碼運行,而且可同時在 0 與 1 之間的多個階層上運行,這意味著可以將更多資訊打包到每個位元中。此外,憶阻器通常被描述為一種神經形態(大腦啟發式)的運算形式,因為它就跟大腦一樣,處理和記憶是在同一個自適應性基本組成要素中實現的,反觀當前電腦系統在資料移動上會浪費大量能量。

將神經網路配置成多個較小網路可有效提升精準度

在這項研究中,UCL 電子電機工程所 Adnan Mehonic 博士、Dovydas Joksas 博士生,以及來自英國和美國的同儕,測試了幾種不同類型憶阻器上的新方法,結果發現不論材料或特定的憶阻器技術如何,這些方法都能提高準確性。它還解決了可能影響憶阻器準確性的許多不同問題。研究人員發現,他們的方法將典型 AI 任務的神經網路準確性,提高到與傳統數位硬體上所運行軟體工具相當的水平。

這項研究的負責人 Mehonic 博士指出:「我們希望可能會有更多通用的方法來改進系統級而不是裝置級的行為,我們相信我們找到了一種。我們的方法表明了,對於憶阻器來說,多個「大腦」會比一個「大腦」好。將神經網路配置成幾個較小型的網路,而不是單一大型網路,可以提高整體精準度更高。」

Dovydas Joksas 進一步解釋指出:「我們借用了電腦科學中的一門流行技術,並將其應用到憶阻器之中。它真的發揮作用了!透過過初步模擬,我們發現即使是簡單的平均分工也可以顯著提高憶阻神經網路的準確性。」

該研究共同作者 Tony Kenyon 教授補充指出:「我們相信,在 IoT 物聯網裝置和邊緣運算(Edge Computing)的能源永續時代裡,該是我們研究多年之憶阻器發揮主導作用的時候了。」

(首圖來源:Tony Kenyon