追加矩陣乘法加速單元，蘋果 M 系列晶片將成 AI 開發者新寵？

在 iPhone 17 Pro 的產品發布會上，除了光鮮亮麗的新裝置，從 A19 處理器架構圖中看似一項看似不起眼的技術升級卻在 AI 業界引發熱議。蘋果首次在自家 GPU 中加入矩陣乘法加速單元（Matrix Multiplication Acceleration Units），此舉被視為對現有 AI 算力瓶頸的重大突破，更預示著蘋果將正面迎戰 NVIDIA 在 AI 領域的主導地位。

長期以來，蘋果自研的 GPU 與 NVIDIA 顯示卡最大的差異之一，就是缺乏像 NVIDIA Tensor Core 這類專為張量運算設計的硬體加速核心。這也是 NVIDIA 在深度學習和大型語言模型（LLM）運算上能遙遙領先的關鍵。最新的 Tensor Core 不僅運算速度驚人，更原生支援多種浮點精度（如 FP64、TF32、BF16、FP16 等），能與各式大模型訓練及推論引擎完美配合。

雖然蘋果這次的 GPU 升級包含了矩陣乘法加速單元，但這並不等同於 NVIDIA 的 Tensor Core。Tensor Core 是一個更為複雜且全面的運算核心，它不僅能執行矩陣乘法，更針對多種低精度浮點運算（如 FP8、FP6）進行了深度優化，這些都是現代大模型訓練與推論的關鍵。換言之，蘋果的 GPU 雖然補上了矩陣運算這塊短板，但其原生支援的精度和運算效率，仍有待後續的技術發展來追趕。

矩陣乘法：AI 運算的核心

在深度學習的世界裡，無論是訓練還是推論，最核心且最頻繁的運算就是矩陣乘法（Matrix Multiplication）。你可以把一個神經網路想像成一系列複雜的數學運算，其中每個神經元之間的連接權重，都可以用一個巨大的矩陣來表示。當輸入數據（例如一張圖片、一段文字）進入這個網路時，它會與這些權重矩陣進行連串的乘法運算，以產生最終的輸出。

這就是為什麼「矩陣乘法」的運算速度，直接決定了 AI 模型訓練與推論的快慢。一個好的 AI 晶片，其效能高低很大程度上取決於它處理這些巨型矩陣乘法的能力。

擁抱 GPU 核心算力

過去，蘋果曾大力推廣其自家的「神經網絡引擎（ANE）」，試圖透過專用硬體來處理 AI 任務。然而，實際應用卻不如預期。

首先，ANE 的使用體驗極不友善，開發者必須將模型轉換成特定格式才能運行，過程繁瑣。其次，也是最重要的，ANE 的效能遠遠落後時代。由於蘋果最初並未預料到以 Transformer 架構為基礎的大型語言模型（LLM）會迅速崛起，這類模型對記憶體頻寬的需求極高，而 ANE 的頻寬效能卻表現平平。根據實測，ANE 的最大頻寬僅約 120GB/s，甚至不及 2016 年推出的 NVIDIA GTX 1060 顯示卡。這導致在現實應用中，幾乎沒有開發者會選擇使用 ANE 來運行大型模型。