是工人智慧而非人工智慧,多家新創公司被爆用真人假扮成 AI

作者 | 發布日期 2018 年 07 月 09 日 11:35 | 分類 AI 人工智慧 , 人力資源 , 職場 follow us in feedly

如何建立一家人工智慧創業公司?一,請一群領最低工資的人假裝成 AI;二,等真正的 AI 創造出來。



Readme.io 創始人 Gregory Koberger 曾在 Twitter 這樣說。雖然這評論是 2016 年發表,但如今仍有不少公司這樣做。

上週,《華爾街日報》爆料 Google 的 Gmail 事件,指出 Google 允許部分合作方閱讀用戶 Gmail 的內容。披露郵件安全問題同時,這篇報導也暴露不少科技創業公司的黑暗面──聘請人類員工假裝人工智慧/算法。

報導指出,加州聖荷西的新創公司 Edison Software 承諾為消費者提供「智慧回覆」功能,主要基於用戶原有郵件內容,透過演算法生成建議回覆。問題是,由於訓練演算法的資料不足,演算法表現不佳。

於是,這家公司讓兩位 AI 工程師開始大量閱讀用戶郵件(用戶個人資訊經過編輯),並調整修改演算法生成的回覆。

《衛報》指出Edison Software 並非第一家被爆用人工代替機器/人工智慧的公司。

2008 年,名為 SpinVox 的公司被 BBC 爆料用人類員工聽語音留言,轉錄成文字,並沒有像他們宣傳的,用機器和技術辨識。

2016 年,彭博社報導,每天,一大群人都會花費 12 個小時假扮成 X.ai Clara 公司的聊天機器人,透過和用戶聊天,為他們提供行程安排等服務。

據報導,由於工作無聊至極,這些假裝成聊天機器人的員工說,他們真希望機器能取代他們。

你能模擬特定產品的終極體驗。很多時候,當你遇到聲稱是 AI 的產品時,背後其實都坐著真正的人類員工,而不是演算法。

Alison Darcy 說。她是心理健康輔助聊天機器人公司 Woebot 的創始人。在她看來,要訓練一個可用度高的人工智慧,往往需要超大量的資料。但在投入資本前,設計師會想知道這產品到底有沒有市場,所以就用人類來代替。

Gregory Koberger 的話來說,這就是「用人類建造的人工智慧原型」。

不過,Darcy 堅持自己公司並沒有像其他公司會隱瞞用戶,因為身為心理諮詢師,有對病人坦誠的職業原則。

對大部分人來說,科技公司用人類代替原本承諾的機器服務,最大隱憂在於個人隱私安全。

2017 年,一家為用戶提供業務支出管理的公司 Expensify 承認,他們的確聘請人類員工來幫忙辨識並轉錄一些收據內容,即便他們一直聲稱這是公司「智慧辨識技術」(smartscan technology)的功勞。

據悉,Expensify 透過亞馬遜 AWS 的眾包平台 Amazon Mechanical Turk 把這些活兒外包出去。

不知道 Expensify SmartScan 的用戶知不知道是我們在轉錄他們的收據呢?我現在正看著某人的 Uber 收據,上面寫著他的全名、起點和終點地址。

Rochelle LaPlante 在推特說。他是「零工經濟」(gig economy)倡導者,同時,也是接到 Expensify 工作的其中一人。

LaPlante 認為這對零工來說,也會有情緒上的抵觸:「我們感覺自己被推到幕後,而且我們的勞動還被用來欺騙其他消費者。」他對這種欺騙消費者的公司很反感,認為他們「不誠實和滿口謊言,我可不想要這種公司的服務。」

畢竟,誰會願意使用一家騙你的公司的服務?

(本文由 愛范兒 授權轉載;首圖來源:shutterstock)

延伸閱讀: