AI 語言 LLaMA 成功於 Raspberry Pi 執行，比 ChatGPT 更親民、個人裝置獨立運作

ChatGPT 是熱門科技話題，許多人希望整合至自己的電腦或手機，以便處理繁瑣的文字工作。也有人期望將 GPT-3.5 模型能嵌入裝置，無網路時有人陪聊。

Meta 近日宣布，研發的 130 億參數版本 LLaMA 能以更低算力勝過有 1,750 億參數的 GPT-3 模型。LLaMA 是最先進大型語言模型之一，Meta 希望協助研究人員加速其工作程序。ChatGPT 基於 GPT-3.5 模型，也是大型語言模型代表作，新 Bing 採用的「Prometheus 普羅米修斯」則是以 OpenAI 模型為基礎開發的下一代大型語言模型。儘管 GPT-3.5 模型尚未成功終端化，Meta 同級大型 LLaMA 已成功嵌入各裝置。

外媒報導，許多人成功將 LLaMA 語言模型裝到個人電腦、Pixel 6 手機和 Raspberry Pi 等裝置。LLaMA 是以公開資料訓練語言模型，成果也相對開放，因此擔心過度公開會引發惡意利用，如垃圾郵件或釣魚式攻擊等問題，資訊安全研究員 Jeffrey Ladish 直接表示：「開源此模型頗為糟糕。」

以下是一個軟體工程師的發文，雖然沒有實機影片作證，不過該工程師表示 LLaMA 已成功在他的 iPhone、Pixel 手機上執行。

🚀New Update! 🚀
I found 5 ways to not get LLaMA working on iOS

This NextJS app was a by-product from one of those 5 ways: pic.twitter.com/HyqSLiBgbg

— anishmaxxing (@thiteanish) March 14, 2023

@ggerganov‘s LLaMA works on a Pixel 6!

LLaMAs been waiting for this, and so have I pic.twitter.com/JjEhdzJ2B9

— anishmaxxing (@thiteanish) March 13, 2023