要運算快還得會說人話,美特戰司令部加速開發可解釋 AI 協助作戰

作者 | 發布日期 2022 年 06 月 06 日 15:24 | 分類 AI 人工智慧 , 自動化 , 軍事科技 line share follow us in feedly line share
要運算快還得會說人話,美特戰司令部加速開發可解釋 AI 協助作戰


近期在佛羅里達州召開的國際特種部隊工業會議中,美國特戰司令部數據長表示,將與國防高等研究計劃署合作,加速開發可解釋 AI 系統,讓系統在協助特種部隊作戰時,能符合倫理規範外,還能夠清楚解釋系統進行決策和溝通的所有過程。

從烏俄戰爭戰況可知,無人機和人工智慧(Artificial Intelligence, AI)已不可避免成為未來戰爭的重要腳色,隨著半導體技術飛速發展,AI 的決策速度與精細程度也成倍數增長,但國際間對於 AI 控制武器,或稱致命性自動武器系統(Lethal Autonomous Weapon Systems, LAWS)仍然有許多疑慮。

而可解釋性 AI(Explainable AI, XAI) 便是一種讓 AI 在進行運算決策時,同時將複雜的過程數據、程式和機械語言,翻譯成可讓一般人理解的文字敘述,美軍特種作戰司令部(USSOCOM)數據長肯尼(Thomas Kenney)表示,XAI 可讓演算法在運作同時,告訴所有人它是如何做出決定。

如此能讓指揮中心和研發單位了解 AI 的決策過程是否出現誤差,也可在機器產出不符道德規範的決策時進行修正。

美國國防高等研究計劃署(DARPA)已在 XAI 領域研究多年,在 2018 年時曾經發佈過 XAI 的初期實驗結果,可在指定戰區內快速地搜集敵我雙方所有已知的戰鬥和補給資源數據,並呈現給指揮中心,對加速部隊反應時間有很大的幫助。

肯尼進一步指出,由於美軍往後的 AI 系統會越來越多,勢必將有許多決策是由不同的 AI 系統之間,彼此溝通和運算過後得出,因此 XAI 的技術對於人類指揮官理解 AI 單位行動相當重要,就如同進入戰場的海豹或綠扁帽特種部隊,須隨時向指揮官報告行動決策一樣,是避免 AI 系統暴衝的保險栓。

在會議中,SOCOM 資訊長泰勒(Mark Taylor)也指出,XAI 的開發與目前美軍進行中的聯合戰鬥雲端能力(Joint Warfighting Cloud Capability, JWCC)也需要進行整合,才能發揮最大功用並讓所有軍種都能具備同等能力。

烏俄戰爭讓美軍加速推進自身的資訊整合能力,縮短前線與指揮單位之間的資訊誤差,而特種作戰對於時間控制的要求特別嚴苛,因此全新 XAI 和 JWCC 系統預計將會先以特種部隊進行實戰測試,並逐漸普及到其他單位。

(首圖來源:US Army