
2025 年巴塞隆納世界行動通訊大會(MWC)揭開序幕前,高通與 IBM 宣布擴大合作,推動企業級生成式 AI 解決方案實現於邊緣與雲端裝置,旨在提供更高的即時性、隱私性、可靠性、更個人化的體驗,同時降低成本和功耗。
雙方計劃將 watsonx.governance 整合至搭載高通平台的生成式 AI 解決方案,透過高通 AI 推論套組(Qualcomm AI Inference Suite)和 Qualcomm AI Hub 支援 IBM 的 Granite 模型。
高通資深副總裁暨技術規劃與邊緣解決方案總經理 Durga Malladi 表示,很高興與 IBM 合作,為邊緣與雲端裝置提供尖端的企業級生成式 AI 解決方案。這項合作讓企業能夠部署快速且個人化的 AI 解決方案,還具備強大的治理、監控與決策能力,能進一步提升從邊緣到雲端的 AI 整體可靠性。
IBM 資料與 AI 部門總經理 Ritika Gunnar 指出,透過將 IBM 的 watsonx.governance 及 Granite 模型進行最佳化,以適用於 Snapdragon 和 Qualcomm Dragonwing平台,使企業無論資料位於何處都能充分發揮AI的顛覆性力量。
目前高通與 IBM 計劃在 Snapdragon 8 Elite 參考設計、以及配備高通 AI 推論套組的 Qualcomm Dragonwing AI 本地應用裝置解決方案(On-Prem Appliance Solution)上運行 watsonx.governance、Granite Guardian 8B 和 Granite 3.1 8B 模型。這些模型協同運作,為邊緣端提供端到端的生成式 AI 解決方案,其中包含支援模型部署與運行、監控、強化決策能力的防護機制。
透過這項合作,高通技術公司和 IBM 將裝置上推理、低功耗和隱私保護特性,與 watsonx 的強大效能進行結合,以協助企業因應 AI 解決方案在安全性、效率、可靠性及治理方面的問題。
高通已針對 Qualcomm AI Hub最佳化 IBM Granite 3.1,幫助開發人員和企業在邊緣端充分利用AI 的潛力。雙方將擴展 Qualcomm AI Hub 與 IBM watsonx 的合作,透過 watsonx.governance 功能,為裝置模型提供治理與負責任的防護機制。此外,高通雲端 AI 加速器系列已獲得 Red Hat OpenShift認證,實現真正的混合雲端部署。
(首圖來源:高通)