國泰金以「生成式AI技術發展框架 GAIA」為核心，以及 AI 即服務（AI as a service, AIaaS）策略，持續探索生成式 AI 在金融場景的應用，繼金融大型語言模型（LLM）的實證成果後，國泰金近日再一次發表前瞻概念性驗證研究成果，運用開源小型語言模型（SLM）精準進行客戶意圖判斷。
國泰金表示，這次實證是以開源模型作為訓練目標，初步驗證結果顯示，經過測試條件，可降低對複雜 Prompt Engineering 或向量檢索模組的依賴，有助於簡化系統架構、降低後續維運複雜度。
國泰金指出，結果顯示，若能結合適當的金融場景資料設計與模型微調，將有機會提升模型穩定度、推論效率與應用可控性，而經微調後的 SLM 在客戶意圖判斷任務，可達到接近主流閉源 LLM 的表現，作為企業未來選用 AI 語言模型進行訓練的參考。
資料治理與隱私保護方面，國泰金指出，這次概念性驗證採用「全合成資料」，避免使用真實客戶資料訓練設計，透過相似功能聚類、單意圖與多意圖資料設計、台灣語境優化及關鍵字擴充等方法，強化模型對本地金融服務語境、專有名詞與模糊提問的理解能力。
國泰金指分享，應用情境涵蓋房貸餘額查詢、信用卡繳費、分行服務導引等常見需求，作為未來智慧搜尋與服務分流的技術基礎，未來將持續以兼顧合規、安全、穩健的方式推動AI在長文本判斷、金融文件深度理解與跨場景應用等的實證研究，推動智慧金融服務創新。
（首圖來源：國泰金）
科技新報粉絲團
加入好友
訂閱免費電子報
