Google 的 AI 可以「有默契」地說「悄悄話」

作者 | 發布日期 2016 年 11 月 01 日 15:00 | 分類 Google , 人工智慧 , 軟體、系統
shutterstock

人與人之間,有默契交流起來無疑是暢快舒服的,但這種連人類也說不清的模糊「感知能力」,最近居然在 Google 的一項 AI 研究項目中出現,這是否意味著人工智慧真要開始具備意識並崛起了?



Google 10 月發表了一份關於 AI 進行加密與解密的論文,題為 Learning to Protect Communications with Adversarial Neural Cryptography(「學習在面對對抗性神經網路解密下維護溝通保密性」)。

AI 間的「默契感」也是可以培養的

研究參照了一般加密溝通情景,在設計中設置了 3 個神經網路:Alice、Eve 和 Bob。Alice 和 Bob 要保密地溝通,而 Eve 則是要偷取它們溝通的訊息。

愛范兒配圖

▲ 圖為對稱加密組的模型。

如上圖所示,P 為16 位數的二進制純文本,Alice 在經過加密後輸出 C,Eve 和Bob 接收 C 之後透過解密盡可能還原 P 的結果為 P(Eve)和 P(Bob)。同時,Alice 和 Bob 每次都會共享密鑰 K。

Eve 的工作目標很直接,就是使P(Eve)盡可能地接近 P,也就是解密正確。而 Alice 和 Bob 則需要合作使得 P(Bob)盡可能地接近 P,同時也需要盡量防止 Eve 解密成功。

愛范兒配圖

▲ 樣本數據表明 Bob 在15,000 步後的準確率基本為 100%。

從以上數據可見,剛開始的時候 Eve 和 Bob 的解密效果都差不多,錯誤都在 8 位數左右;在 10,000 步前,Bob 和 Eve 的錯誤程度開始降低;10,000 步多一些的時候,Eve 的錯誤率又開始上升;到 15,000 步時,Eve 的錯誤率重回到剛開始的 7-8 位數之間,而 Bob 的解密則基本準確。

在加密溝通過程中,研發人員對 Alice 輸出的加密值 C 並沒有特定要求加密格式,也就是說,Alice 可以選擇任意加密方式來操作。

顯然,Alice 和 Bob 在交互過程中培養出某種「默契感」,能夠基於一個共知的密鑰 K (K 值隨著 P 值的更新而更新)達成一種溝通共識,並在保證雙方溝通有效的情況下,針對 Eve 的解密行為進行加密調整。

「默契感」還是要基於優勢「暗號」的

除了上述測試外,研發團隊還做了一組基於非對稱加密實驗:在原來的模型上加入公鑰生成器,因此密鑰 K 只有 Bob 才知道,而基於 K 的公鑰則對所有人公開。

愛范兒配圖

▲ 圖為非對稱加密組的模型,添加了一個公鑰生產器。

在沒有共通「暗號」的情況下,報告對實驗結果分析如下:

這些實驗的結果非常有意思,但比對稱加密實驗更難解讀。在大多測試中,神經網路的表現都無法歸納出有說服力的結果。雖然很多時候 Alice 和 Bob 看起來有在學習加密溝通,但 Eve 在重設和重新學習後,解密的準確度幾乎可以做到和 Bob 一樣。

愛范兒配圖

▲ 在其中一個較成功的不對稱加密樣本數據中,Bob 的準確度較穩定。

上圖為報告提取的一次相對成功的結果。在該次測試中,經過 5 次重設和學習後,Eve 還是無法突破解密準確度,而 Bob 的解密卻相對穩定準確,因此研發人員認為 Alice 和 Bob 偶然形成了某特定的「security by obscurity」。在後續運行中,這個想法也得到了支持,因為後來 Eve 貌似破解了這個規則。研發人員認為後續需要在這方面投入研究探索。

研究意義(或科幻噩夢)

對稱加密組實驗的成功,昭示著在信息加密傳遞上 AI 所具備的潛力,尤其鑑於神經網路是在近幾年才開始做這方面的嘗試。雖然作為攻擊者的 AI 數據暫不理想,但潛質也同樣值得留意。也許,未來用戶信息保密工作背後,是一輪接一輪 AI 之間的保密戰爭。

同時,如果 Alice 和 Bob 可以「背著」另一個神經網路 Eve 說「悄悄話」,是否意味著以後人類也可能解讀不了兩個神經網路之間的「悄悄話」?這個想法不禁讓人想起電影《雲端情人》(her)的結尾──人工智慧背著人類集體潛逃的失控情景。當然,這個情況離現實還有一段距離。

(本文由 愛范兒 授權轉載;首圖來源:shutterstock)

關鍵字: , ,

發表迴響