AI 浪潮帶動伺服器記憶體 HBM DDR,哪些台廠最受惠?

作者 | 發布日期 2023 年 06 月 17 日 7:45 | 分類 AI 人工智慧 , 伺服器 , 半導體 line share follow us in feedly line share
AI 浪潮帶動伺服器記憶體 HBM DDR,哪些台廠最受惠?


ChatGPT 引爆全球 AI 浪潮,過去市場關注度不高的系統組裝廠,為何能在這波浪潮中重獲青睞?

這場人工智慧的工業革命,足以影響人類未來百年以上產業發展,台灣因長年在硬體上從半導體、零件廠到系統組裝廠建立完整的上下游供應鏈,加上最大競爭對手中國廠商因中美貿易戰的關係無法取得美國訂單,台灣成為當然最受惠者,台股劍指兩萬點企圖心極強,市場關注度都在系統廠與IP廠商──今年度規格最大的跳升在於HBM DDR(High Bandwidth Memory)。

DDR 規格分類 DDR/LPDDR/HBM2

  • 標準型DDR(Double Data Rate Synchronous Dynamic Random Access Memory)
  • 行動型LPDDR(Low Power Memory)
  • 高頻型HBM DDR (High Bandwidth Memory)

大致上而言標準型DDR應用在消費性電子產品,行動型LPDDR應用在車用產品上,而高頻型HBM DDR則是應用在資料中心與AI伺服器上,而這次ChatGPT引發的人工智慧工業革命的焦點就是在HBM DDR。

何謂 HBM DDR?

HBM DDR就是所謂的「高實用頻寬記憶體雙資料速率」(High Bandwidth Memory Double Data Rate)縮寫,而這項高效能記憶體技術主要用在高度運算和大型資料處理,具有高頻寬和低功耗的特點,極其適合應用在圖形處理、人工智慧、機器學習等領域。

伴隨著資料傳輸與AI學習需要更強大的運算能力, HBM DDR就成為AI伺服器中不可或缺的重要角色。HBM DDR的演進過過程從2013年HBM出現後,至今已經發展到HBM2即將進入HBM3,這個差距在於需要更加高頻高速的運算由原本的256GB/s進入到1075GB/s,

HBM DDR 創意電子矽智財 IP 技術成為最大受益者

研調機構集邦科技指出,2022年三大HBM DDR市占率為:SK海力士50%、三星40%、美光10%。HBM DDR因受到AI伺服器的訂單需求暴增,讓整體的需求隨之而起,而上述做HBM DDR皆為南韓與美國廠商(SK海力士加上三星幾乎壟斷九成市占)。科技新報製圖

而隨著高速運算進階到HBM3 DDR的技術,台積電、創意電子與SK海力士三方合作成就HBM3 CoWoS平台,運用HBM3實體層及控制器,GLink-2.5D晶粒對晶粒(Die-to-Die)介面等矽智財(IP)技術,架構設計SoC,中介層(Interposer)和DFT、實體布局、高功率且高速的封裝,搭配SK海力士的HBM3,以及台積電7奈米先進製程和CoWoS(Chip On Wafer On Substrate)先進封裝技術,打造此頻寬最高可達7.2Gbps的HBM3 CoWoS平台。

因次在這次AI浪潮中,最受惠的是創意電子的GLink-2.5D晶粒對晶粒(Die-to-Die)介面等矽智財(IP)運用在HBM3 DDR上面。

高頻高速連接器業「嘉澤電子」與「優群電子」成為最大受惠者

高頻高速連接器與一般連接器最大的差異在於高頻連接器屬於電子機構件,需要通曉高速高頻技術與非常昂貴高頻高速測試儀器(例如:TDR和網路分析儀等儀器)進行測試,並非一般連接器廠商能夠做到,因此進入高頻領域的連接器廠商屈指可數,而這類型廠商將在未來成為贏家全拿的局面,國內目前在高頻連接器大斬獲的就屬嘉澤電子與優群電子。

嘉澤電子自從與Intel合作切入CPU連接器後再精進每年繳出亮麗成績單,並且在未來高頻高速時代占據一席之地,優群電子長久以來專注於DDR記憶體連接器多年,從原本專注在DDR標準型與行動型,已經發展到伺服器用的HBM DDR連接器,優群將暨嘉澤之後為台廠另一具競爭力DDR socket,伴隨著高速高頻應用不斷地提升規格,在連接器端也須相對應的提升,由下圖可以看到各種規格提升讓連接器已經進入Gen5速度大幅躍進的世代。

而優群電子原本在連接器上早已獲的包含美國蘋果電腦訂單與認證外,近期更打進SuperMicro供應鏈取得AI伺服器HBM DDR連接器訂單,並且在廣達、技嘉等國內AI伺服器的HMB DDR連接器上大有斬獲,這兩家公司也將成為AI伺服器中的連接器最大贏家。賴馬克配圖

(Source:優群電子)

(首圖來源:shutterstock)

延伸閱讀: