在金融科技的快速發展中，「人類參與循環」（Human-In-The-Loop，HITL）成為一個關鍵概念，尤其是在銀行業務中。根據 IBM 的定義，HITL 系統是指人類在自動化系統的運作、監督或決策中積極參與，以確保準確性、安全性、責任感和道德決策。對於金融服務業的高層管理者來說，這意味著必須在 AI 系統與合規性、客戶信任及監管審查交匯的關鍵時刻，融入人類的判斷。
鑑於監管要求日益複雜，單靠自動化檢查清單已不足以應付。人類審核者必須驗證AI生成的決策，以確保合規性和即時的適應能力。因此，應在關鍵決策點嵌入人類審核者，並確保完整的審計追蹤。
在詐騙檢測方面，數據模式變化迅速且數據稀缺。人類專家能夠修正AI的錯誤，顯著提高模型的準確性和韌性。建立人類反饋迅速融入模型再訓練或異常規則的管道，將有助於提升整體效能。
研究顯示，當人類顧問擁有最終決策權時，客戶更傾向於遵循投資建議，並獲得更好的結果。因此，應將AI視為助手，而非仲裁者，並在面向客戶的決策中保留人性化的觸感。
在金融等高風險領域，人們往往對演算法輸出持懷疑態度。允許最終用戶或代理人審查、調整或覆蓋AI輸出，可以減少抵抗感並建立信心。提供界面讓人類能輕鬆調整AI建議，並清楚看到推理或風險評分。
培訓領導層如何解讀AI行為
雖然AI可以簡化例行任務，如撰寫合規報告或投資組合提案，但高層管理者仍需了解決策的過程及原因。因此，實施可解釋性工具，揭示AI決策背後的邏輯，建立明確的責任框架，並培訓領導層如何解讀AI行為，都是至關重要的。
綜合以上步驟，形成了一個有效採用HITL的路線圖。高層管理者應在合規檢查點嵌入人類，將專家反饋納入詐騙模型更新，保持客戶互動中的人類最終決策權，提供透明的界面以減少對演算法的抵觸，並部署可解釋性儀表板以支持高層監督。每一項措施都能增強信任、改善韌性，並確保AI的承諾能夠負責任地實現。
金融服務公司面臨獨特的監管負擔、客戶期望和聲譽風險。人類在迴路中並非一種備選方案，而是一種戰略必要性。透過在最重要的地方整合人類洞察，領導者可以在不犧牲信任、合規性或適應性的情況下，充分利用AI的效率。
未來，金融科技將進一步朝向智慧與安全並重的方向發展，企業應加強HITL培訓、建置透明AI決策介面，並建立跨部門合規與技術協作，以確保AI運用負責任且高效。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
