為隱私、處理速度，彭博：iOS 18 AI 功能將由本地端 LLM 提供支援

外界大多預期，蘋果會在今年 6 月的 WWDC 大會時，推出搭載生成式 AI 功能的 iOS 18 作業系統。

據《彭博社》記者 Mark Gurman 最新的專欄文章中指出，預計 iPhone AI 功能將完全由蘋果開發的離線大型語言模型（LLM）提供支援，可以預期蘋果會議「隱私」與「速度優勢」來宣傳這樣的做法。

《9to5mac》早先也在 iOS 17.4 作業系統中，發現一個名為「Ajax」的裝置端模型程式碼引用，蘋果也同時在開發 Ajax 的伺服器託管版本。

設備端 LLM 的缺點是無法與其他雲端 LLM 運行的模型一樣強大，因為後者擁有數百億個參數，且也會不斷更新其背後的資料。

但這點蘋果工程師或許可以利用其平台的全端垂直整合，透過針對其設備內的蘋果晶片來調整軟體，充分利用設備上的方式。設備端模型的響應速度通常會比雲端服務來得快許多，而且設備端 LLM 還具備能在沒有連線或連線能力有限地方運作的優勢。

雖然設備端的 LLM 可能沒有像是 ChatGPT 那樣的豐富資料庫來回應各種隨機瑣碎的問題，但設備端 LLM 可以調整、以更有能力來完成許多任務。例如設備上的 LLM 可以生成複雜的自動回覆訊息，會升級許多常見 SIri 請求的問題。

設備端的模型還可以依據提示來執行生成式 AI 任務，例如建立文件或圖像，並取得不錯的成果。另一方面，蘋果仍可與像是 Google 這樣的公司合作，從伺服器上回退到 Gemini 之類的技術來完成某些任務。

（首圖來源：Unsplash）