中國研發 AI 檢查官,號稱可以透過口述定罪

作者 | 發布日期 2021 年 12 月 29 日 13:42 | 分類 AI 人工智慧 , 中國觀察 , 軟體、系統 Telegram share ! follow us in feedly


人類希望人工智慧 (AI) 可代工繁瑣工作,並提高決策精準度,但 AI 可做到什麼程度還有爭議。現在中國科學家開發 AI 檢察官工具,號稱可在 AI 幫助下,據案件口頭描述以超過 97% 的準確率指控嫌犯,減輕檢察官工作量,讓他們專注更困難的案件。

中國科學家 2015~2020 年使用約 1.7 萬件真實案例訓練這套工具,現稱 System 206,中國最大區檢察院上海浦東人民檢察院測試,號稱可辨識起訴上海最常見的八種犯罪行為,信用卡詐騙、經營賭博、危險駕駛、故意傷害、妨礙公務、盜竊、欺詐和尋釁滋事,並相信 AI 工具只會更強大,能辨識不常見的罪行,並對一名嫌犯提出多項指控。

中國科學院大數據與知識管理實驗室主任兼專案首席科學家表示,儘管德國等國家使用圖像辨識和數位取證等 AI 技術提高案件處理速度和準確性,但這些工具作用有限,因不參與提出指控和建議判決的決策過程,但中國系統可一定程度取代檢察官的作用。

AI 輔助判決行之多年,今年初美國俄克拉荷馬州一名男子被控開槍殺死鄰居,就是根據模糊的監控影像和名為 ShotSpotter 演算法分析鏡頭雜訊定罪。ShotSpotter 技術目前約 110 個美國城市使用,每平方英里覆蓋成本可能高達 95,000 美元。

但這些都是輔助判決,要幫檢察官做決定,中國科學家說機器需要執行更複雜的任務,如需不提取有用資訊的前提下,自動辨識和刪除與犯罪無關的案件內容,並將複雜語言轉換為電腦可理解的格式。

其他檢察官看待上海採用這技術表示,雖然 97% 準確率可能很高,但總有出錯的可能。AI 直接參與決策也可能影響人類檢察官的自主權,儘管 AI 有缺陷,中國仍繼續幾乎每部門使用 AI 提高效率、減少腐敗和加強控制。中國法院也一直使用 AI 幫助法官處理案件檔案,並做是否接受或拒絕上訴等決定。大多數中國監獄還採用 AI 技術追踪囚犯身心狀態,以減少暴力。

麻省理工學院技術評論也指出,人類的訊息解釋,通常會將相關見解轉化為因果評分機制,譬如低收入與高犯罪風險有關,因而扭曲現實,使用歷史數據訓練風險評估工具,可能讓機器複製過去的錯誤,是危險的陷阱。

黑人民權運動家就在麻省理工學院媒體實驗室舉行的會議表示,數據驅動的風險評估是種淨化和合法化壓迫系統的方法,是種將人們注意力從影響低收入和少數族群社區的實際問題轉移的方式,例如學校資金短缺和醫療保健機會不足等更深層問題。長期以來 AI 執法使用一直受政治活動家和工程師等批評,認為現有技術的細微差別並不足以伸張正義,直言這是連人類都尚未掌握的領域。

(首圖來源:Flickr/Alexander C. Kafka CC BY 2.0)