科普:AI、邏輯運算與都看好!被視為第四種被動元件的「電阻式記憶體」是未來嗎?

作者 | 發布日期 2022 年 05 月 04 日 9:00 | 分類 晶片 , 記憶體 , 零組件 Telegram share ! follow us in feedly


隨著半導體產業持續朝更小的技術節點邁進,現行記憶體元件已面臨微縮極限,並在進階應用上遭遇阻礙。而次世代記憶體技術中,為何「電阻式記憶體」目前是取代現有記憶體應用技術最具吸引力的方案?其在邏輯運算和智慧運算又為何值得期待?(本文出自國立成功大學微電子工程研究所王永和教授,於閎康科技「科技新航道 | 合作專欄」介紹「新興 3D RRAM 架構及其應用」文稿,經科技新報修編為下兩篇,此篇為下篇。)

半導體製程持續微縮,推動新興記憶體發展

人工智慧、物聯網、5G 崛起的數位時代下,資料處理需求量暴增,半導體業者皆加大對新興記憶體技術的研發與投資力道,開始尋求成本更佳、速度更快、效能更好的儲存解決方案。記憶體在整個半導體產業中佔據極重要的地位,目前全球記憶體市場仍是以 DRAM 與 NAND Flash 為主流,其在記憶體應用領域的佔比超過 90%。

近年來隨著半導體產業持續朝更小的技術節點邁進,DRAM 與 NAND Flash 嚴重面臨到尺寸微縮挑戰,DRAM 目前已接近微縮極限、而 NAND Flash 則全力朝 3D 架構轉型;除此之外,此兩者在高速運算的進階應用上也遭遇到阻礙。

目前已開發的次世代記憶體例如 FRAM、PRAM、MRAM、及 RRAM 等,無論是在尺寸縮微、操作能耗、讀寫速度、運作次數等方面,皆完勝現今穩固的 DRAM 及 NAND Flash 存儲架構。

與 DRAM 相比,其可以降低至少 20% 的功耗,並且由於它們都可以在不擦除資料的情況下直接覆蓋舊數據,此可節省快閃記憶體(Flash Memory)所需的高擦除能耗、及因擦除資料導致的時間延遲,並減少或消除了其對電荷泵的需求。

而所有新記憶體技術都能夠對於儲存位址的資料隨機存取,也無須如目前記憶體的架構作法,採用個別保留兩個數據副本在快閃記憶體及 DRAM 的動作來實現單次存取目的。上述這些功能特點,都將帶來顯著的功率節省以及性能提升效果。

此外,新興記憶體技術也具有實現晶片內嵌設計的潛力,可將邏輯 IC 與記憶體元件整合在同一顆晶片中。這樣的設計不僅可以達成最佳的傳輸性能,同時也縮小了晶片體積。以單一晶片就能達成運算與儲存的功能,這對於物聯網或人工智慧裝置、經常需要大量數據運算與資料儲存來說,非常具有吸引力。

次世代新興記憶體技術的發展現況與阻礙

然而,儘管有許多新興的存儲元件技術已經研發出來,但在這競爭激烈的規模產業中,只有極少數有機會成功。就目前次世代記憶體的發展現況來看,仍沒有一種新型記憶體速度可以像 SRAM 及 DRAM 那樣快。

並且,在未來幾年之內,也沒有任何一款設計架構可以在成本上與 NAND Flash 競爭。在具有經濟規模的供需基礎下,NAND Flash 製造價格非常便宜,此將致使多數晶片供應商願意接受快閃記憶體複雜的寫入過程與高耗能代價來換取低成本優勢,以滿足消費者的期望。因此,如何在低成本前提下來實現小尺寸、高計算能力、以及超低功耗等目標,將是次世代記憶體在激烈的市場競爭中勝出之關鍵。

「電阻式記憶體」(RRAM)目前是取代現有記憶體應用技術最具吸引力的方案。相對於其它新興存儲技術而言,電阻式記憶體除了在功耗與速度方面有相當的優勢之外,由於其結構特別簡單,而電阻材料也可採用半導體製程通用的二元金屬氧化物例如二氧化鈦、氧化鉿、氧化鎳等來製作,因此也能具有低成本的產品特點。

實現記憶體內運算的第四種基本被動元件 RRAM

現今電腦均採用范紐曼型架構(von Neumann),即資訊處理和存儲為分立架構(圖23),這樣的方式使匯流排傳送速率限制了資料的存儲和運算速度。而電腦邏輯運算的實現係基於互補式金屬氧化物半導體(Complementary Metal-Oxide-Semiconductor, CMOS)架構,邏輯電路的輸入與輸出係依賴電壓的高或低電位來執行運作,但是邏輯運算結果通常需仰賴外加電路或裝置才能進行儲存。

而利用非范紐曼型架構(Non von Neumann)計算架構,可以實現記憶體內運算(Computing in Memory),實際運算過程是經過記憶體的數據資料,直接在記憶體內先行運算,再將結果傳送至處理器進行後續分析,能以低功耗、高效率的方式,提升電腦運作效能 [40]。

▲圖 23 范紐曼型架構與記憶體內運算之系統架構 [38]

除了電阻、電感與電容元件外,RRAM 被視為是第四種基本被動元件(圖 24)[41],RRAM 元件兼具非揮發特性與類神經運算的功能,使其可在單一元件上結合計算與儲存之功能,實現記憶體內計算(In-Memory Computing)架構,因此非常有機會做為范紐曼(Non-von-Neumann)計算架構之核心元件(如圖 25)。

▲圖 24 RRAM 是第四種被動元件 [41]

▲圖 25 非范紐曼計算架構可單一元件結合計算與儲存功能(如右圖)。

利用 RRAM 元件取代邏輯電路中的電晶體,可以有效節省元件面積。以 RRAM 做為邏輯元件運算時,分別以 HRS 與 LRS 代表數位訊號的 0 與 1,透過操作元件的 HRS 或 LRS 狀態改變來實現邏輯運算。

而在多 R 陣列元件中,即可將元件阻值狀態改變做為參數以實現邏輯運算(圖26),並將結果直接儲存在 RRAM 元件中,這種兼具數位訊號存儲與邏輯計算的功能,省去了一般傳統電腦架構之暫存器功能,可以有效降低數據傳輸的負荷,得以提高處理速度和效率,且具備低功耗的優點 [42-43]。

但是相較於傳統 CMOS 電路,如何基於不同的 RRAM 元件結構,完整實現邏輯運算中的邏輯完整性(Functional completeness)、計算複雜度(Computation complexity)以及邏輯的可重構性(Reconfigurability),關係著 RRAM 元件是否能運用於范紐曼計算架構,值得相關的研究人員持續深入研究、探討其他可能的運用(圖 27)。

▲圖 26 利用 RRAM 元件高低阻值狀態做為輸入端,可運用於布林邏輯運算

▲圖 27 CMOS 電路基於電晶體架構實現邏輯運算,而 RRAM 元件可利用 1T1R 結構實現邏輯運算

具備 AI 龐大應用潛力,看好成未來通用記憶體

RRAM 可以藉由交叉陣列的形態實現記憶體陣列架構,以極低功耗實現記憶體內計算技術,在各種 AI 技術發展龐大的應用潛力,極有機會整合目前已面臨發展瓶頸的各式記憶體元件,成為未來通用記憶體。

目前傳統浮動閘極結構(Floating-Gate Structure)記憶體遭遇到微縮的困境,對此各方開始極力發展次世代記憶體,期能透過全新的儲存方式或記憶體結構取代 Flash 記憶體。除了希望能提升元件操作的頻寬及可靠度之外,同時也希望能透過簡單的交點式結構(Cross-point Structure)達成高度元件微縮,增加記憶體儲存容量(如圖 28 所示)。

而 RRAM 元件擁有低操作電壓、低功耗、操作速度較 NAND Flash 快 1000 倍以上的特性,還兼具低成本、非揮發性及高度可微縮性的優點 [44],除可作為工作記憶體(Working Memory)外,還有製作高密度記憶體潛力。

除了上述優點外,RRAM 的材料與製程與目前 CMOS 後段製程(Back end of line, BEOL)具有高度相容性,所以 RRAM 相當具有實際產品化潛力與可行性(圖 29)[45],極有機會整合目前已面臨發展瓶頸的各式記憶體元件,成為通用記憶體(Universal Memory)(圖 30)。

▲圖 28 不同新興記憶體的操作頻寬以及記憶體的存儲容量 [44]

▲圖 29 RRAM 未來的發展趨勢 [45]

▲圖 30 RRAM 有機會整合記憶體成為通用記憶體

近年利用 RRAM 元件結合人工智慧運算的應用受到廣泛矚目,AI 即是基於 ANN 結構運用在圖像識別、語音辨識等場合,不同的神經網絡(如卷積神經網絡 CNN、循環神經網絡 RNN )亦可用於人工智慧核心,提供如智能監控、智慧駕駛等相關應用。在大多數情況下,ANN 能在外界資訊基礎上改變內部結構,是一種具備學習(Learning)功能的自適應系統。

AI 的運作就是基於 ANN 架構模仿人類大腦神經進行學習動作,透過輸入大量已知答案資料對電腦進行訓練,若結果出現錯誤則調整突觸間權重(Weight),重覆進行直到輸出結果接近於正確答案,最終使電腦在接受輸入訊息後,能夠根據先前的學習經驗做出判斷結果。為了得到正確的輸出結果,ANN 系統需進行大量反覆矩陣乘法運算(Iterative Matrix Multiplication Operation),故如何使電腦進行快速運算且得到正確結果,同時又能降低能量消耗,這對未來人工智慧系統發展至關重要。

未來幾年將是 RRAM 發展的關鍵期

現代電腦架構主要採用范紐曼架構(Von Neumann Architecture)中央處理器負責運算,CPU 從儲存資料的記憶體中取得資料進行運算,再將結果回傳至記憶體儲存。由於記憶體讀寫速度遠較 CPU 運算來得慢,故於處理大量的資料運算時,不斷地來回讀取會大幅限制電腦的處理速度(如圖 31 所示)。

近年來基於非揮發性記憶體的人工神經網路運算引起了許多關注,RRAM 可以藉由交叉陣列(Crossbar)的形態實現記憶體陣列架構,並以極低功耗進行運算,而陣列結構更可用於向量與矩陣乘法運算,實現記憶體內計算(In-memory Computing)技術,在未來對於各種 AI 技術發展有很大的應用潛力 [46](圖 32)。

▲圖 31 范紐曼計算架構之瓶頸 [40]

▲圖 32 范紐曼計算架構有機會突破計算與儲存間的架構瓶頸 [46]

一個新興記憶體技術的興起,將帶動全球的 IT 產業,影響的產業層面相當廣(圖 33),從產業鏈上游的 Microprocessor Unit、Fabless Companies 與 Integrated Device Manufacturers(IDM)公司,到中間的半導體製造產業(Foundries),最後至應用端,而其中還包含了很多設備產業的參與。

根據市調機構 GII 預測,全球電阻式記憶體市場自 2018 至 2023 年期間成長率 CAGR 將高達29.9%。就市場投入的情形來看,晶圓代工大廠台積電和三星的競爭,近年來由邏輯晶片快速擴及到記憶體市場,兩家公司皆將電阻式記憶體列為重點技術開發目標。

而半導體設備大廠美商應用材料公司(Applied Materials Inc.)也於 2019 年發佈其 Endura Impulse PVD 平台,可精確沉積並控制電阻式記憶體中使用的多種材料。此外,2020 年初電阻式記憶體製造商 Crossbar 和其他幾家公司也共同成立了一個名為 SCAiLE 的 AI 聯盟,致力於提供高速且節能的 AI 平台。

該聯盟的主要工作是將電阻式記憶體、先進的計算機硬體、以及最佳化的神經網路演算法作結合,用以提供低功耗的智慧運算解決方案。隨著眾多半導體廠及設備供應商相繼投入推動,相信電阻式記憶體勢必會快速崛起,成為次世代記憶體的市場主流技術。

未來幾年是 RRAM 發展最關鍵的時期,各國際大廠與新興公司都分別針對 MCU、Mass Data Storage 以及以記憶體為中心的全新運算架構等運用,制定出明確的 RRAM 開發Roadmap(圖 34)。

而大數據結合 AI 科技的應用持續推動記憶體技術,需要更密切結合系統運算資源,無論是從性能或效率方面來看,當今多核心處理架構已無法滿足未來即時運算需求。在這個關鍵時期,利用 1T1R 元件陣列的仿生特性與邏輯運算,拓展元件在智慧運算的發展與實際運用價值已顯而易見(圖 35)。

▲圖 33 新興記憶體技術所影響的諸多產業鏈 [45]

▲圖 34 相關半導體大廠對 RRAM 的開發 Roadmap [45]

▲圖 35 基於 1T1R 元件陣列架構基礎上實現智慧運算功能 [38]

本篇文章針對電阻式記憶體的技術架構及其應用提供了全面性介紹,同時也清楚闡述了該元件運作時電阻非線性變化的物理機制,可有效幫助讀者快速地學習了解此最具市場潛力的前瞻技術。

原文作者成大王永和教授的研究領域十分廣泛,包括半導體元件及物理、微波積體電路、及光電元件等,其團隊發表的學術期刊及會議論文超過 400 篇、獲證的相關專利超過 100 件。此外,王教授於 2007 年至 2020 年期間,曾先後擔任科技部國家實驗研究院的副院長及院長,對於建構國內的研發平台、支援學術研究、推動前瞻科技、及培育科技人才等,也都有極大的貢獻。

目前閎康科技也與王教授進行產學合作,以閎康完備的檢測設備與專業技術經驗,提供該團隊在電阻式記憶體及 III-V HEMT 元件研究上所需之完整分析服務,一起推動電阻式記憶體的發展。

參考資料:

[40] Yan, Bonan, et al. “Resistive Memory‐Based In‐Memory Computing: From Device and Large‐Scale Integration System Perspectives." Advanced Intelligent Systems 1.7 (2019): 1900068.
[41] Chua, Leon. “Memristor-the missing circuit element." IEEE Transactions on circuit theory 18.5 (1971): 507-519.
[42] Zhou, Yaxiong, et al. “16 Boolean logics in three steps with two anti-serially connected memristors." Applied Physics Letters 106.23 (2015): 233502.
[43] Wang, Zhuo-Rui, et al. “Functionally complete Boolean logic in 1T1R resistive random access memory." IEEE Electron Device Letters 38.2 (2017): 179-182.
[44] Daly, Denis C. et al. “Through the looking glass-the 2018 edition: trends in solid-state circuits from the 65th ISSCC." IEEE Solid-State Circuits Magazine 10.1 (2018): 30-46.
[45] Audrey Bastard, and Nicolas Baron, Resistive Memories- ReRAM and Memristor Patent Landscape 2015
[46] https://www.purdue.edu/newsroom/releases/2019/Q1/boosting-the-brains-of-computers-with-less-wasted-energy.htm

(首圖來源:Shutterstock;資料來源:閎康科技)