Siri 被爆錄下使用者私密對話,如今的語音助理依然需要人工干預

作者 | 發布日期 2019 年 07 月 30 日 14:25 | 分類 AI 人工智慧 , Apple , iPhone follow us in feedly


繼亞馬遜、Google 爆出使用者與語音助理的對話可能會被其他人偷聽後,這次輪到蘋果 Siri 了。

近日,有蘋果供應商員工向《衛報》爆料,他們評級和改進 Siri 語音助理時,會聽到 Siri 錄下的使用者語音,這些錄音包括毒品交易、醫病交談、親密關係等敏感內容。

蘋果的回覆是:只有少於 1% 的 Siri 對話會被分析,這樣做是為了提高 Siri 的使用者體驗。這些對話並不會連結到使用者的 Apple ID,審查員須嚴格遵守蘋果嚴厲的保密規定,審查也會在安全環境進行。

蘋果這些年來一直打造「重視隱私」的形象。雖然這些錄音會在蘋果的技術範圍內一定程度的匿名處理,但蘋果並沒有在隱私政策明確表示,使用者與 Siri 的對話可能會被其他人聽到​​。當然,亞馬遜、Google 也沒有明確披露。

這些審查 Siri 語音對話的人,主要任務是標記一些 Siri 語音對話是否為誤觸、Siri 與人對話能否提供幫助、Siri 的回應是否恰當等。

爆料者表示,他們處理的錄音並不排除使用者誤觸 Siri 情況,因此這些錄音也許並不是使用者想被 Siri 聽到的。這些錄音還附有位置、裝置類型等重要資訊。

誤觸發起 Siri 對話的情況並不少見,爆料者表示很多誤觸錄音來自 Apple Watch 和 HomePod,尤其 Apple Watch 的 Siri 誤觸時,可錄下長達 30 秒的語音。

蘋果鼓勵審查員報告標記這些誤觸錄音,但一般只是當成技術問題(technical problem)標記,蘋果並沒有為這些敏感錄音設置特定處理流程。

也就是說,即使審查員聽到涉嫌犯罪或涉及使用者隱私的錄音,也被鼓勵以「技術問題」標記。蘋果認為這類標記並沒有什麼意義。

蘋果並不是第一家被爆語音助理對話錄音會被其他人聽到​​的科技公司,當然也不會是最後一家。

(Source:Unsplash

今年 4 月,彭博社消息顯示,亞馬遜在全球僱用數千名員工,他們會聽到某些來自 Echo 智慧喇叭的使用者語音請求,並負責註釋標記這些轉錄語音,以提高 Alexa 辨識人類語言的能力。

7 月 11 日,Google 證實於全球各地聘請人員收聽一小部分錄音,並表示收集的部分音檔用於開發語音辨識系統,以更適應各種語言,提升使用者體驗。

這些科技巨頭的語音助理,這些年來,從查天氣、問非所答,已經逐漸進化到能跟使用者尬聊,以及執行某些命令。

語音助理想「掌握」一門語言,需要解決兩個問題:聲音辨識和聲音合成。其中聲音辨識是對機器輸入資訊,又分為兩步,分別是:

  • 第一步,將語音轉成文字的語音辨識。
  • 第二步,語義理解,這裡就需要用到自然語言處理技術。

但就目前而言,就算各家宣傳把語音助理、智慧音箱吹噓得功能強大,它們依然只是初級人工智慧。想讓機器聽懂人類語言,並準確「聰明」回應,依然需要大量人工介入。如果想把語音助理當成樹洞,也要注意保護自己的隱私資訊。

(本文由 愛范兒 授權轉載;首圖來源:Flickr/iphonedigital CC BY 2.0)

延伸閱讀: