
蘋果(Apple Inc.)透露,兩款支持「Apple Intelligence」的 AI 模型,都是以 Google 設計的客製化「張量處理單元」(TPU)在雲端進行訓練。
CNBC報導,蘋果週一(7月29日)釋出的技術文件顯示,蘋果基礎模型(Apple Foundation Model,AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。
這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示,「該系統讓我們得以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器),以及規模更大的模型」。
蘋果文件中顯示,AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p是最先進的TPU,首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個切片訓練。
根據Google官網,旗下最先進TPU若提前三年預定,則每使用一小時的成本不到2美元。Google是在2015年首次發布TPU、供內部作業使用,2017年才對外推出。TPU如今是最成熟的AI客製化晶片之一。
不過,Google仍是輝達(Nvidia Corp.)首要客戶之一,不但同時運用輝達GPU及自家TPU訓練AI系統,也在自家雲端平台販售使用輝達科技的服務。
Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節目訪問時透露,雖然業界也許對AI基礎建設投資過度,但假使進度落後,則未來10~15年將無法在這個最重要的科技市場占有一席之地。