Google 正在開發阻止機器人對人類發動末日攻擊的「切斷開關」

作者 | 發布日期 2016 年 06 月 06 日 14:00 | 分類 AI 人工智慧 , Google , 會員專區 Telegram share ! follow us in feedly


Google 收購的英國人工智慧公司 Deep Mind 已經展現出 AI 先進的自學能力,其演算法不僅在玩遊戲比人厲害,而且還在與人類頂級圍棋選手的對決中取得了壓倒性的勝利。這不僅引發了 AI 超越人類的擔憂,甚至還有人擔心類似《魔鬼終結者》劇情那樣,天網對人類殺戮時刻的到來。現在 Deep Mind 決定未雨綢繆,據英國鏡報報導,在近日公布的一篇論文中,Deep Mind 提出了給機器人安裝「切斷開關(kill switch)」的想法,為的是阻止 AI 學會如何阻止人類對某項活動(比方說發射核武器)的干預。用專業術語來說,這叫做「安全可中斷性」。

本篇文章將帶你了解 :
  • Google 正在開發阻止機器人對人類發動末日攻擊的「切斷開關」