錯抓好人、逮不到小偷,防盜 AI 讓沃爾瑪員工怒了

作者 | 發布日期 2020 年 06 月 08 日 15:30 | 分類 AI 人工智慧 , 軟體、系統 Telegram share ! follow us in feedly


AI 能做很多事,也有很多事做不好,這沒什麼,但如果有人宣稱 AI 能做某件事,還拿來賺錢,結果反而造成很多麻煩,那就是大問題了。

沃爾瑪目前就面臨這種問題。

從 2017 年開始,一些沃爾瑪門市員工每隔幾天就要和自助結帳的顧客道歉:因為防盜 AI 總是錯抓好人,公司卻沒有暫停使用系統或改善的打算。

《Wired》近日報導,阿肯色州沃爾瑪總部的員工近日實在受不了公司完全沒反應,製作一支影片給各家媒體,展示門市使用的防盜 AI 到底有多雷。

出於保護爆料者,影片沒有公開。不過根據媒體說明,影片展示沃爾瑪採用的防盜 AI,不但經常放過漏網之魚,還會因顧客將個人財物放在結帳台上再平常不過的事,發出偷竊警示。

影片其中一幕展示防盜 AI 連續 3 次犯錯:

測試者拿了兩大罐花生醬疊在一起,自助收銀台只掃到一罐,試驗者把兩罐裝進袋子──AI 沒有示警。

試驗者又拎著兩罐牛奶,在條碼掃描機前晃了一下,同樣只掃到一罐,測試者成功把兩罐都裝走,AI 還是沒有示警。

接著測試者又把自己的手機放在機器上,沒有碰到掃描區域,AI 立刻報警。

最後一次錯誤最讓沃爾瑪爆料員工擔憂,因會導致誠實的消費者無端遭受偷竊指控。儘管員工可以很快知道是誤會,但仍是非常糟糕的體驗。

接受媒體採訪的沃爾瑪員工指出,這套防盜 AI 系統會「頻繁將無辜行為誤認為可能的偷竊」。「這就是那種煩人的科技,假裝有保護財產的假 AI」,某員工表示。

過度行銷的 AI 防盜

沃爾瑪的防盜 AI 技術供應商是愛爾蘭公司 Everseen 開發的技術,能在超市結帳區根據每台機器的掃描,再結合電腦視覺等先進技術,即時辨識潛在的偷竊行為。

具體來說,系統可分析鏡頭拍到的畫面,如果發現有問題,會直接傳送通知到員工智慧手錶或手機等電子裝置,讓他們立刻抓住小偷,或解決顧客結帳遇到的困難。

且 Everseen 還提供全面資料監控面板,為超市管理者和企業主生成細到門市、結帳通道和個別員工的即時報告,藉助數據和 AI 的力量,更精確打擊偷竊,降低零售業損耗(shrinkage,即不明原因庫存減少)。

據美國國家零售聯合會報告,偷竊在 2018 年美國零售業損耗占比高達 35.7%,造成損失 167 億美元,等於每分鐘近 3 萬美元商品被偷。

沃爾瑪是美國零售業巨頭,最大連鎖超市之一,每年偷竊導致損耗高達 30 億美元,占全產業近五分之一。可想而知,沃爾瑪打擊偷竊的意志會有多強烈。

宣傳影片中 Everseen 宣稱:「這是全世界第一個基於雲端的智慧 POS 分析解決方案。我們的數位眼睛擁有完美視力,且完全不必休息或請假。」Everseen 還宣稱,系統能辨識 95% 的結帳區異常行為。

但一些沃爾瑪員工認為,Everseen 實際上是「瞎子」。因 AI 總是漏掉真的偷竊者,他們幫它取了個外號:NeverSeen。

這些員工對《Wired》表示,已多次指出 Everseen 所謂的防盜 AI 技術漏洞,卻被管理層否認,最後實在受不了,才決定向媒體爆料。

▲ Everseen 防盜 AI 宣傳影片截圖。

員工意見得不到回應

這樣的問題,在美國未擺脫新冠病毒的當下尤其令人擔憂,因為員工必須在 AI 每次偵測到異常行為時介入,也就不得不違反 6 英尺的社交距離政策。

據美國媒體報導,由於疫情影響,沃爾瑪已有相當多員工感染,至少 20 人死亡。Everseen 防盜 AI 的錯誤會繼續造成員工突破安全距離,提高他們受感染的風險。

沃爾瑪回應媒體,經過大範圍使用和偵測 Everseen 的系統,相信防盜 AI 達到公司的標準,並表示已全面升級系統,警示次數總體有減少。

至於爆料員工說的誤報問題,沃爾瑪表示這並非普遍現象。Everseen 也表示,警報系統在沃爾瑪員工介入只占不到一成,並不會在疫情期間提高員工的感染風險。

不過爆料員工指出,他們對 Everseen 防盜 AI 系統的不滿早在疫情開始前就有了。他們將信件給《Wired》看,顯示在 2017 和 2018 年都在內部提過 Everseen 系統的問題,但一直得不到積極回應。

更令他們不解的是,明明有更可靠的解決方案擺在公司面前,但公司就是不聽。

沃爾瑪收銀台開發商 NCR 在 2018 年收購另一家防盜 AI 公司 StopLift。爆料員工無法理解,為什麼在整合難度更低的前提下,沃爾瑪不願嘗試 NCR 的解決方案。

且沃爾瑪旗下的尖端技術研發團隊「智慧零售實驗室」(IRL)也有開發防盜解決方案。總部負責防盜技術的員工收到的訊息是,IRL 方案的準確率比 Everseen 好多了。但據《華爾街郵報》報導,IRL 方案並沒有大規模推廣,截至今年 2 月只在約 50 家門市測試。

關於 Everseen 的防盜 AI,沃爾瑪總體上拒絕承認問題的嚴重性。因此,未來一段時間內,吃虧的將是大增感染風險的基層員工,以及被錯怪的無辜消費者。

(本文由 PingWest 授權轉載;首圖來源:shutterstock)

延伸閱讀: