蘋果技術文件揭密:AI 模型以 Google 客製晶片訓練

作者 | 發布日期 2024 年 07 月 30 日 9:25 | 分類 AI 人工智慧 , Apple , Google line share Linkedin share follow us in feedly line share
Loading...
蘋果技術文件揭密:AI 模型以 Google 客製晶片訓練

蘋果(Apple Inc.)透露,兩款支持「Apple Intelligence」的 AI 模型,都是以 Google 設計的客製化「張量處理單元」(TPU)在雲端進行訓練。

CNBC報導,蘋果週一(7月29日)釋出的技術文件顯示,蘋果基礎模型(Apple Foundation Model,AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。

這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示,「該系統讓我們得以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器),以及規模更大的模型」。

蘋果文件中顯示,AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p是最先進的TPU,首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個切片訓練。

根據Google官網,旗下最先進TPU若提前三年預定,則每使用一小時的成本不到2美元。Google是在2015年首次發布TPU、供內部作業使用,2017年才對外推出。TPU如今是最成熟的AI客製化晶片之一。

不過,Google仍是輝達(Nvidia Corp.)首要客戶之一,不但同時運用輝達GPU及自家TPU訓練AI系統,也在自家雲端平台販售使用輝達科技的服務。

Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節目訪問時透露,雖然業界也許對AI基礎建設投資過度,但假使進度落後,則未來10~15年將無法在這個最重要的科技市場占有一席之地。

(本文由 MoneyDJ新聞 授權轉載;首圖來源:蘋果

延伸閱讀:

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》