人工智慧（AI）浪潮正席捲全球，而邊緣 AI（Edge AI）也逐漸成為推動產業變革的重要力量。高通產品管理資深總監 Paul Torres 在首屆「高通台灣 AI 黑客松」中指出，未來「混合 AI」（Hybrid AI）和「多模態 AI」（Multimodal AI）將成為邊緣 AI 的兩大趨勢。
「事實上，『邊緣 AI』與『雲端 AI』並非二選一的選項，兩者都有各自優勢，也能作為相輔相成的效果。」Torres 認為未來發展目標可能走向「混合 AI」，即雲端、裝置端的 AI 模型協同合作，發揮各自優勢。另隨著應用情境與裝置多樣化，「多模態 AI」根據不同情境連結各種裝置，相輔相成，並提供更即時、更個人化的智慧體驗，也將是一大趨勢。
至於邊緣 AI 為何扮演如此重要的角色，Torres 也點出幾項關鍵優勢。首先是「低延遲」，由於邊緣 AI 是在裝置端運行，適合放在需要低延遲、即時反應的應用；其次是網路「可靠度」，並非所有場景都能隨時連線，必須考慮裝置即使在離線情況下也能獨立運行；第三點是「隱私」，如金融資料或個人敏感資訊，許多使用者更希望這些資料留存在自己的裝置，而不是上傳雲端。
第四點是「個人化」，當個人資料留在自家設備，邊緣 AI 可根據使用者所處的脈絡與情境來調整服務。Torres 表示高通 Sensing Hub 即為一例，能整合多種感測器，理解使用者的位置、習慣的應用程式與行為模式，進而建立專屬 AI 體驗；最後是處理「效率」，有些任務若能直接在裝置端完成，反而比上傳雲端更有效率。雖然大型語言模型仍多在雲端運行，但因成本高昂，也逐漸出現能在裝置端執行的「Local Model」（本地模型），讓效能與成本取得平衡。
邊緣 AI 要生態系共同推動，高通硬體、技術雙支援
由於 AI 進步快速，經常有新的雲端模型問世，但同時也有許多公司在開發能在裝置端運行的小型模型。這也意味將出現更多混合型的解決方案，同時結合雲端與裝置端的優勢。
目前每個人的手機上常需要安裝多個銀行應用程式，且不只有一種銀行帳戶，若要查詢不同帳戶的資訊，這些應用程式必須連回雲端才能取得數據。但在未來，Torres 認為可以透過「AI 代理人」提供協助，直接從雲端抓取並幫忙整合資料，再將整合後的資訊留存在使用者自己的手機上，也是混合式 AI 產生綜效的解決方案。
至於「多模態 AI」（multimodal AI）中的「多模態」，是指每個人同時擁有很多裝置，如手機、電腦、車子或IoT 物聯網裝置，它們都能蒐集個人相關資訊。而多模態 AI 則是透過 AI 依照情境理解使用者需求，進而整合各種裝置與數據，提供更智慧、更貼近個人化的服務。
不過，要發展邊緣 AI，仍需要整個生態系統共同推動。Torres 表示，除了裝置必須具備足夠的硬體能力外，開發人員也扮演關鍵角色，因此高通持續提供創新技術，讓硬體具備更強的運算能力，期盼提供給開發人員運用，作為推動的起點，而這也是舉辦「高通 AI 黑客松」的初衷。
高通 AI 黑客松全球多點舉辦，激發開發人員靈感和創新
高通已經在全球舉辦 AI 黑客松活動，透過旗下 Snapdragon X系列平台帶來同類型最佳的CPU和強大的NPU，並搭配 Qualcomm AI Hub 多元資源，為開發者提供堅實的開發工具與平台。Torres 表示，因為高通有相關技術，希望看到技術實際上的應用以及應用面的創新，並將這個活動更加推廣出去。
高通 AI 黑客松已經陸續在印度、加拿大、美國、韓國等地方舉辦，Torres 笑稱這個活動最有趣的地方在於能看見多元應用。例如，印度的開發人員提出將 AI 應用在 VR 頭戴式裝置上，使用者玩槌球時能即時聽到不同語言的翻譯，因為印度有多樣方言，並套用名人等不同聲音；韓國的開發人員則出現運用裝置端 AI 處理郵件的案例，透過高通 NPU 進行郵件摘要、分類，甚至整合聊天機器人來自動回覆郵件；而這次台灣的冠軍隊伍，則運用 AI 協助使用者對龐雜檔案迅速進行分類，大幅縮短使用者尋找正確檔案的時間，相當具有創意。
Torres 表示，高通 AI 黑客松的核心精神在於，讓開發人員面對真實世界時遇到的問題並嘗試解決，雖然 24 小時的挑戰時間有限，許多作品還需要後續的修正與優化，但高通會持續鼓勵團隊繼續發展，並挑選出最具潛力、最適合商業化的方案給予更多支持。
最後 Torres 也強調，AI 黑客松不只是競賽，更像一個交流與啟發的平台。參賽者透過觀摩其他團隊的解決方案，激發出新的靈感，或者從既有作品延伸出新的應用。例如，一個聊天機器人的原型除了既定功能外，也能改造、延伸到其他具有潛力的領域。這種互相啟發的過程不僅幫助團隊突破思維框架，也加速裝置端 AI 多元應用的出現。
（首圖來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
