半導體矽智財(IP)龍頭 Arm 今(13 日)舉辦技術 AI 領袖峰會「Arm Unlocked Taipei 論壇」。Arm 資深副總裁暨物聯網事業部總經理 Paul Williamson 指出,AI 是新的發展和新的使用者介面,它正迅速改變整個產業,並重新定義「運算」。
Williamson 認為,隨著技術採用加速,世界正進入「代理 AI」(Agentic AI)新時代,AI 不再只是提供搜尋或輔助,而是主動決策並採取行動。這些系統結合感測器與致動器,具備影響現實世界的能力,而推動對低延遲與即時反應的強烈需求。這些 AI 體驗迫使要重新思考硬體設計,因此需要加速運算的解決方案。此外,物理極限也成為瓶頸。如今最大的資料中心正受能源消耗與發電能力的限制,難以支撐不斷上升的運算需求,因此 Arm 必須推動高效能、低功耗的運算創新。
Williamson 表示,AI 也正在徹底改變人機互動方式,下一代使用者將以「語音」做為主要介面,直接以自然語言與裝置互動,而非透過繁瑣的應用操作。換言之,人類將從「觸控介面」邁向「自然語音介面」,這也意味智慧將具備更廣泛的「全域脈絡」,能理解環境、情境,並安全地運作,這種即時、直覺、以自然語言為主的互動將成為主流。
同時,信任也相當重要。Williamson 認為,必須信任這些裝置、攝影鏡頭與感測器能安全運作,確保個人資料受保護。AI 須能在理解使用者的同時,保障隱私與安全,讓使用者能放心依賴這些智慧裝置。目前自然語言介面已開始出現在汽車上,但未來它將廣泛應用於更多領域,如機器人領域。即使在傳統產業,例如零售與銷售點(POS)系統,也會看到人機介面再度轉型,從單純的觸控操作,變成能理解使用者意圖、提供個人化互動的智慧介面。
為何 AI 走向邊緣?Arm 看「五大關鍵因素」驅動運算新時代
接著 Williamson 引述研調機構的數據,表示到 2030 年,AI 將驅動的高效能系統單晶片(SoC)市場規模將突破 1,000 億美元;到 2028 年,AI 會成為物聯網(IoT)專案中最主要採用的核心技術;邊緣 AI 基礎設施投資也將在 2028 年前增加 60%。
這也代表越來越多人將在邊緣部署 AI 裝置與硬體,那究竟是什麼在推動 AI 走向邊緣?Williamson 表示,有許多關鍵因素共同促使轉變發生,首先,推動 AI 往邊緣發展的第一個關鍵因素是「延遲」。在需要即時決策的場景中,資料若必須往返雲端再處理,會導致反應遲緩,因此決策必須在本地端裝置上完成;其次是「隱私與信任」,當智慧裝置進入家庭或工作場域,唯有確保資料能在本地端加密、處理與儲存,才能保障個資安全並建立使用者信任。
第三是「能源效率」,雖然雲端資料中心具備強大算力,但傳輸大量影像與語音資料的能耗極高,因此需要讓資料在邊緣完成處理,以提升能源效率與反應速度;第四是「經濟模式」,大型模型開發商與公司不願獨自承擔龐大推理成本,希望能分散運算到使用者裝置,使其更具成本效益,形成新的經濟生態;最後是「韌性」,在這個看似無所不連的世界,往往理所當然地以為網路永遠穩定,但若要將 AI 部署到全球,並非每個地區都有完善的連線環境或政府基礎設施,因此必須讓系統具備「在地運算能力」,能在部署環境中自行運作。
邊緣 AI 轉向低功耗、常時運作的新架構
Williamson 也認為,隨著 AI 應用普及,並非所有人工智慧都仰賴雲端運算,許多裝置其實是「常時啟動」(always-on AI computing)的 AI 運算系統。例如,具有前向監測功能的智慧攝影機到能主動理解使用者行為的智慧手機,AI 正從單純事件偵測,進化為具備情境理解能力的系統。
這樣的演進讓系統設計重心轉向「低功耗、常時運作」的運算模式。這類裝置需要處理各種感測資料,如影像(辨識人員身分)、動作(理解行為與位置),甚至其他環境訊號,並在互動發生時喚醒高功耗模組,以更強算力完成即時推論與決策。這種具備「情境層次」的 AI 架構,能在節能與效能之間取得平衡,支撐未來裝置長時間運作的需求。
他也認為,未來裝置的設計必須明確分區,如常時啟動子系統負責低功耗監測與感知,而高功耗區塊則專注於複雜模型推論。兩者的切換須無縫進行,讓使用者體驗自然流暢。這種分層架構將成為邊緣 AI 裝置的主流方向,也為智慧終端帶來更高的效率與智慧化體驗。
(首圖來源:科技新報)






