
曾獲 Google、NVIDIA 兩大公司資源挹注的台灣新創 APMIC(Accelerate Private Machine Intelligence Company),二度參與 NVIDIA GTC 大會(GPU Technology Conference,GTC 2025),更首度公開全新的企業私有化 AI 解決方案「PrivAI」,為企業提供高隱私性且易於部署的解決方案。
看準企業部署自主 AI 的需求,APMIC 自 2017 年以來持續投入企業地端 AI 研究,2023 年加入 NVIDIA Inception 新創計畫。如今 APMIC 再度參與 GTC 大會,成為現場展示成果的台灣新創之一。
APMIC 展示兩大核心產品,包含首度亮相的「PrivAI」解決方案,以及一站式 AI 聊天機器人建置平台「CaiGunn」。大型企業可採地端 AI 私有化部署的 PrivAI,確保企業資料安全、降低風險,小規模專案可以率先導入 CaiGunn,提升企業客服、知識管理及業務效率,同時累積市場經驗與 AI 應用的成功經驗,達成 AI 轉型。
不只如此,APMIC 分別與正崴集團建置的全台最大運算中心友崴超級運算(Ubilink)、新創公司康斯特科技(Glows.ai)合作,推出創新 AI 軟體即享租賃模式,包括「PrivAI Basic RAG」、「PrivAI R1-Distill(70B)」、「PrivAI R1」三個版本,協助租賃友崴超算的 NVIDIA H100 AI 伺服器和康斯特平台租賃 GPU 算力的客戶,以更低成本的方式快速建立企業自主 AI 並投入應用開發。
進一步看,根據不同版本,APMIC 的方案能夠支援從最基本的文字 RAG(Retrieval-Augmented Generation,檢索增強生成)到最新 DeepSeek-R1,並提供數據預處理、微調(Fine-tuning)以及多模態推論等功能,幫助企業以低成本、高效能的方式快速建立 AI 應用,能夠使用 4 張 H100 且最低 1 小時花費不到 15 美元,挑戰全球市場結合 AI 工具與 GPU 算力的最低價。
APMIC 與正崴集團的合作不限於超算中心,更延伸至多個 AI 應用發展計畫。雙方積極合作開發企業專用 AI 模型、機器人語言模型及影像辨識系統,這些合作利用正崴集團在硬體製造和運算資源的優勢,與 APMIC 在 AI 軟體解決方案的專長結合,為多個產業提供創新的 AI 解決方案。
「我們非常榮幸再次前往 GTC 大會,讓世界看到台灣在軟體領域的實力,進一步加速全球企業 AI 轉型。」APMIC 創辦人暨執行長吳柏翰表示,APMIC 持續推廣企業發展自主 AI 的重要性,除已具市場知名度的 CaiGunn 框架外,還推出基於 NVIDIA NeMo 端對端平台、可隨時開發專屬生成式 AI 的「PrivAI」,期待能讓更多擁有高度隱私需求的產業如金融、國防、醫療等,也能部署自主 AI。
▲ APMIC 二度參與 NVIDIA GTC 大會。
(首圖為 APMIC 創辦人暨執行長吳柏翰,圖片來源:APMIC)