如果你經常跟 AI 對話，應該會發現「不懂裝懂」是各家人工智慧的通病，但如果自動駕駛系統也搞這招，恐怕會是可怕的安全疑慮，Amazon 最近申請的新專利就是要逼 AI 承認，路上真的有沒看過的東西。
AI 聊天機器人經常會先丟出一個錯誤答案，等到人類糾正時才說「真抱歉，剛才是我搞錯了，要我再幫你整理一次嗎？」在手機跟電腦上出這樣的錯，只是讓人心煩，但在時速 60 公里的道路上，這個錯誤可能要付出人命為代價。
在特斯拉或是賓士最新的行車電腦上，可以看到電腦對周遭環境的辨識，它可以分辨出行人、汽車、機車、腳踏車和大卡車，特斯拉則額外可以辨識出交通錐。但現實世界中，馬路上不只有這些東西，滑板車、正要去夜市擺攤的餐車、奇形怪狀的移動式廣告，電腦很可能把他們全都辨識成腳踏車。
Amazon 旗下自駕事業 Zoox 申請的專利，就是要避免這種情況，在系統內增加了一個特別的 AI 「反問」模型，當主要模型在瞎猜路上物件是什麼之前，這個「反問」模型會問一個問題：這個東西曾經出現在訓練資料庫內嗎？如果答案為否，它就會幫這個物件增加標註，再讓自駕 AI 去判斷要怎麼應對。
當然它不會對路上所有東西都進行深刻的反思，系統內設置了一個「熟悉度特徵計量」，先將物件拆散成一大堆特徵，就可以簡單比對訓練庫資料，如果大部分特徵都有出現過，那就會得到一個較高的熟悉度分數，不必進一步比對。反之，分數過低，就會再確認，並避免行車 AI 太快做出判斷。
在人類學術研究中，有一個著名的悖論，即「你不知道你不知道的事」，Amazon 這項專利等於是強迫 AI 認知並注記「它不知道的事」。從自動駕駛角度來說，這是一層安全守護，也是邁向完全無人駕駛的一種進步，但從人工智慧發展來說，這是否幫 AI 補上了一個「自我思考、不斷進步」的啟動機？
（首圖來源：Zoox）
科技新報粉絲團
加入好友
訂閱免費電子報
