繁中支援！台智雲結合 Meta 開源技術，新推出 FFM-Llama 2 模型

華碩旗下台智雲在今年 5 月台灣 AI 超算年會，以開源大型語言模型 BLOOM 為基礎推出「福爾摩沙大語言模型」（FFM-176B 和 FFM-7B），現在進一步全球首發「繁體中文強化版 FFM-Llama 2 大語言模型」。

台智雲 FFM-Llama 2 以 Meta 旗下開源的 Llama 2 模型為基礎，包括參數量 70B、13B、7B 全系列，支援 Code Llama 程式開發與 Embedding 增強語意搜尋模型，提供雲端、地端以及 AI PC 等多模態大型語言模型，還有完整 AFS（AI Foundry Service）服務。

藉由 AIHPC（AI and High Performance Computing）、高效平行運算環境以及大型語言模型切割技術，台智雲 FFM-Llama 2 訓練大量台灣在地語料，大幅提升其繁體中文能力。全系列模型可進行微調、部署、推論，企業用戶也能以自訂系統提示詞，讓 AI 模型思考更在地化、更精準回應企業需求。

▲ 台智雲 FFM-Llama 2 使用大量繁中語料進行訓練，中文能力更好。

台智雲 AFS 推出全參數和高效率模型微調（Parameter-Efficient Fine-Tuning，PEFT）功能，在 GPTQ 4-bit 高性能壓縮技術支持下，提供經濟實惠的雲端或地端模型推論方案。

值得一提的是，「福爾摩沙大模型」發布至今已服務超過 70 個大型企業，電信業者如台灣大哥大便將智能客服導入生成式 AI 應用，未來可望擴展至集團不同產業面，以精進客服效率。

「台智雲以開放模式提供可信賴大型語言模型，累積 AI 超算功能和完整 AI 工具平台，降低企業進入門檻，加速 AI 2.0 應用」，華碩雲端暨台智雲總經理吳漢章表示，期待華碩能與合作夥伴延續台灣產業優勢，實現普惠 AI、發展以人為本的智慧科技。

（首圖為華碩雲端暨台智雲總經理吳漢章，圖片來源：華碩）

延伸閱讀：

• 華碩發表福爾摩沙大語言模型，GPT-3.5 同級、強化繁中語料