AI PC 設備端人工智慧開啟客製化記憶體,有望成為搖錢樹

作者 | 發布日期 2023 年 11 月 14 日 11:50 | 分類 AI 人工智慧 , Samsung , 半導體 line share follow us in feedly line share
AI PC 設備端人工智慧開啟客製化記憶體,有望成為搖錢樹


南韓媒體報導,ChatGPT 引領的生成式人工智慧的興起,設備端人工智慧市場正在開展。由於設備端人工智慧是在智慧型手機等資訊科技設備中達到人工智慧功能,而不依賴伺服器和雲端的技術。所以,在過程中記憶體就扮演著很重要的角色,這也引起廠商對新型記憶體的關注。

三星正在開發低延遲頻寬 IO(LLW)DRAM,2024 年底量產。LLW DRAM 是特殊 DRAM,與傳統行動記憶體 LPDDR 相較,以擴展輸入/輸出 (I/O) 路徑增加頻寬。頻寬與傳輸速度成正比,故處理即時產生資料時效顯著提高。

三星 2020 年開始開發輕量級 On-Device AI 演算法,用於系統單晶片 (SoC)、記憶體和感測器,以增強 On-Device AI 領域競爭力。預定 2024 年量產,先部署至生成式 AI 產品 Gauss。

另一韓國記憶體大廠 SK 海力士也準備為蘋果 2024 年初上市 VisionPro 提供特殊 DRAM,與 VisionPro R1 晶片結合,支援即時高解析度視訊處理。蘋果 R1 晶片暫時採 SK 海力士 HBM DRAM,持續合作。

設備端人工智慧在智慧手機、自動駕駛汽車和擴增實境等 IT 設備中廣泛執行各種功能,例如對話識別、文件擷取、位置識別和操作控制等,與需透過雲端伺服器處理的複雜性人工智慧不同,設備端人工智慧直接在設備上執行數億次操作。因此,為了快速處理大量數據而不消耗過多電量,增強輔助計算的 DRAM 的性能成為了關鍵。

市場消息表示,繼 HBM DRAM 後,LLW DRAM 市場的發展將預告著客製化記憶體時代的來臨。由於配備 On-Device AI 的設備差異很大,並且每種設備需要不同的功能,因此需要從開發階段與客戶密切合作,以確定生產方法和性能。記憶體製造商不再大規模生產少量品種的產品,而是可以採用基於訂單的業務模式,保持定價能力並確保穩定的性能。

(首圖來源:Pixabay)