先後獲得 Google、NVIDIA 兩大公司資源挹注的台灣新創 APMIC（Accelerate Private Machine Intelligence Company），宣布進軍美國，將自行研發的 CaiGunn 大型語言模型引進北美市場。
今年台北國際電腦展（COMPUTEX 2024）掀起黃仁勳炫風，他在主題演講簡報提及 APMIC 三次之多，讓 APMIC 知名度大增。這家新創 2017 年創立，以自然語言理解技術出發、由 Google 開發者專家（Google Developer Experts，GDE）認證的吳柏翰及一群對 AI 充滿熱情的團隊組成。
▲ 黃仁勳簡報提及台廠供應鏈，APMIC 出現在這面台灣牆右上角。（Source：影片截圖）
CaiGunn（開講，取自「聊天」的台語發音）是 APMIC 自行打造的在地化大型語言模型和平台框架，可做企業「知識管理」。企業人員只要將現有文章、網站或文件等資料上傳，不需撰寫任何程式，就能打造企業 AI 大腦，所有員工能以 chatbot、對話方式使用，協助提高客戶服務、文字分析、文件審查等各方面處理效率。CaiGunn 已獲得 Google、台北市政府、NEC、台塑生醫、中國信託銀行等超過 800 家企業採用。
CaiGunn 是 2023 年台灣唯一上榜開源語言模型平台 Hugging Face 百大排名的模型，APMIC 今年首發專為台灣人打造的繁體中文大型語言模型「CaiGunn-TaME」，採用 NVIDIA NIM 推論微服務，除提供快速擴展服務外，同時支援獨家研發的 CaiGunn 檢索增強生成（C-RAG），讓 AI 更符合台灣人的語境和文化脈絡，支援相關應用。
APMIC 研究顯示，小模型加上 RAG 只能達到 83.9% 準確率，要達 90% 需要滿足多個條件。為此 APMIC 主推 70B 以上模型，甚至可達 405B 的模型；選用運算硬體從 H100、H200、B100、B200 GPU 都有相容，希望協助企業客戶達到 90% 以上準確率。
AI 模型透過系統整合真正落地將成時代所需，APMIC 看好企業將大型語言模型導入地端的龐大市場，攜手 Dell、HPE 等硬體合作夥伴，將 CaiGunn 和 AI 伺服器軟硬體整合，加上 NVIDIA 提供如 H100、H200 GPU 等算力，持續協助客戶深入使用 AI。客戶能夠租賃、買斷這些 AI 伺服器，而且不需要煩惱如何設定。
NVIDIA 大力支持，APMIC 進軍北美市場
APMIC 是 NVIDIA 唯一指名為生成式 AI 獨立軟體供應商（ISV）策略合作夥伴，也是 Google 機器學習個案中唯一獲選的台灣團隊。透過 NVIDIA 及全球經銷夥伴的支持，APMIC 進軍北美市場，與生態圈夥伴共同為企業客戶發展自主的大型語言模型。
▲ APMIC 執行長吳柏翰宣布進軍北美市場。
經過業務拓展 APMIC 更了解自身定位方向，宣布品牌更名「Accelerate Private Machine Intelligence company」，著眼全球企業自主 AI 解決方案領導品牌，並希望外界對其認識不再像是鎖定亞太市場的「Asia Pacific Machine Intelligence Company」（亞太智能機器）。
值得一提的是，APMIC 今年 3 月獲得 100 萬美元 Pre-A 輪資金挹注，預計 9 月啟動新一輪募資計畫。資金計劃用於海外市場布局、強化在地化大型語言模型的資料輸入、訓練、驗證及部署能力，並招募優秀人才、擴大團隊規模。
根據研究機構 P&S Intelligence 資料顯示，自然語言理解 2024 年全球市場規模 189 億美元，到了 2030 年預估可達 803 億美元，複合增長率高達 27.2%，其中北美市場將成需求最大市場。APMIC 鎖定美國做為下個重點市場全力投入，帶著來自台灣的技術和服務打國際賽。
（首圖左起 APMIC 共同創辦人暨產品負責人林益弛、共同創辦人暨執行長吳柏翰、AI 生態圈策略夥伴總監蔡宜潔，來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
