能預約餐廳的 Duplex 沒說自己是 AI,這會是人工智慧的道德困境嗎?

作者 | 發布日期 2018 年 11 月 28 日 13:05 | 分類 AI 人工智慧 , Google follow us in feedly

最近遭受道德困境的不只是基因編輯,還有人工智慧。在今年夏天的 Google I/O 大會上,Google 向大眾展示了一項名為 Duplex 的 AI 新功能──代替你預約理髮或餐廳訂位。




這項功能之所以這麼受人關注和讓人激動,最大的原因是接近以假亂真讓 AI 用自然語言和人類交流,而人類甚至完全沒意識到電話另一頭並不是真人,而是 Google 的 AI。

最近,這個服務終於在 Pixel 用戶群組小範圍測試了。根據 VentureBeat 報導,目前 Google 正緩慢推送這項服務,不是直接正式開放,目前只在「精選城市」中的 Pixel「精選用戶」測試,凡是支援這個服務的人上輩子大概都是被選召的孩子吧。

此外。這個服務目前功能也非常有限──哪怕跟 Google I/O 的展示版比。因為目前測試並不支援理髮預訂(Google I/O 專門展示一段預約理髮的影片),只集中在餐廳預訂,此外,一些餐廳也因一些不明原因無法支援。

向大眾開放 Duplex 是非常好的事,我們終能親自檢驗人工智慧領域的佼佼者究竟達到何種地步。但最近一些測試,Google Duplex 卻讓人產生擔憂,當然這不是說它在智慧方面超出大眾預計,而是整個對話過程,Duplex 都沒有告訴對方自己只是 AI 服務。

當 Duplex 預約時只告訴對方「這個電話來自 Google,並可能會被記錄」,僅此而已,之後它就按部就班預約餐廳,並在處理完成後掛斷電話。

(Source:影片截圖)

這顯然跟之前的宣傳不符,The Verge 表示,Google 今年 6 月 YouTube 的宣傳影片,Duplex 會清楚表示是人工智慧服務,表示這通電話是透過 Google Assistant 打來並為客戶預訂。

對於為何會出現不同的處理,The Verge 表示根據熟悉早期測試的人士說,這個測試並不完全由 AI 構成,即一部分來自 Google 員工,其他部分是 Google 的 AI。所以 Google 沒有透露人工智慧助理的資訊。

顯然,人和 AI 的界線被模糊了,因為 Duplex 聽起來和真人非常接近,它有停頓、會有各式各樣語調和語氣詞。但對大眾來說,這測試會理解為完全使用 AI 進行,而在人和 AI 的對話中,人們非常需要 AI 表明自己的身分。

Venturebeat 表示 Google 需要找到完美的平衡:

準確而智慧,透明而誠實。

另外,Google 也在部落格展示 Duplex 如何工作的。

Google 表示,這是一項透過手機來執行「真實世界」任務的新技術,核心就是面對自然語言的挑戰:自然語言難以理解,自然行為難以建模,需要快速處理以及使用恰當的語調進行自然語言發聲,都是難點所在。

Google 也明確表示透明度是重要的部分,Google 需要明確告知意圖而對方理解前後文,未來幾個月 Google 會在這方面繼續調整。

(Source:Google

而讓 Google Duplex 的對話聽起來很自然要歸功於遞迴神經網路(RNN),為了應對這些挑戰採用 TensorFlow Extended(TFX)構建。為了提高精準度,Google 還透過匿名電話的會話數據在資料庫訓練 Duplex 的遞迴神經網路;他們還為每個場景專門對理解模型進行了訓練,最後透過理解、互動和時間完成 Duplex「口語」的進步。

最後 Google 表示,Google Duplex 朝著像人類和他人互動一樣與技術互動邁出了一步,自然語言與人工智慧的交流在特定場景成為現實。Google 希望這些技術進步最終有助於改善人們與電腦日常互動的體驗。

但就像開頭說的,與真人界線的模糊更需要 AI 先驗明正身,而不是裝作和真人無異,這對人類來說是一件很重要的事,或說需要這種儀式感。隨著技術演化前進,AI 可能很快就在大部分語音領域達到接近人類的水準,屆時關於人工智慧的倫理問題,將更直白地擺到桌上。

從結果講,人類並不願意和與真人幾近無異的 AI 對話,這會給我們不安全感,類似的事情其實也發生在外貌,著名的恐怖谷理論看來不僅可用在外貌,其實語音也有相似狀況。

Oxford Internet Institute 的數位道德實驗室博士 Thomas King 就直接表示,Google 這項測試其實就是騙局,假定人類和 AI 已無法區分,那對總機來說,會認為自己一直在和一群機器對話(所以總機也換成 AI 不就好了?),他還能保持和以前一樣的溝通方式嗎?沒有禮貌和更粗魯是不是也沒關係?哪怕接到一通真人的電話,但這種想法或許已在他腦中揮之不去了。

對人類來說,如何思考人與科技的關係已是日常話題,我們也不缺乏相關科幻電影的想像,比如阿諾·史瓦辛格主演的《魔鬼複製人》就討論人與複製人的倫理衝突,2004 年《機械公敵》把艾西莫夫三定律帶進大眾視野,電影《雲端情人》則進一步探討人類和人工智慧的情感問題。

但等到 Duplex 把人類與人工智慧的關係在現實中擺出來時,人類可能才發現自己有多麼敏感和自我保護。對 AI 沒有標明身分這件事,我們已衍生出很多問題和想法,在人與人工智慧產生聯繫的過程中,雙方的地位、責任及更多事都會變得難以認定。

某些時候,如果我們忽略一些 Bug,其實電腦是比人類更完美的形態,它們能確實反映出你的行為和如實給你要的結果,但隨著人工智慧模擬真人越來越像,我們可能更容易和 AI 產生矛盾和摩擦,導致與預期結果不符或受到其他損失。

因為,人類就是如此不完美的生物啊。

(本文由 愛范兒 授權轉載;首圖來源:shutterstock)

延伸閱讀:

關鍵字: , ,