灌輸黑暗素材,麻省理工首創精神變態 AI

作者 | 發布日期 2018 年 06 月 12 日 16:30 | 分類 AI 人工智慧 , 數位內容 follow us in feedly

美國麻省理工學院一組研究團隊,向人工智慧(AI)灌輸社群網站上描寫死亡的素材,製造出首個宛如患有神經病的 AI,名為諾曼(Norman)。



法新社報導,研究團隊之所以創造諾曼,是盼以通俗語言,解釋演算法的運作方式,並藉此讓人們意識到 AI 潛在的危險。

美國知名學府麻省理工學院(MIT)表示,諾曼代表正在學習演算法的機器讀取偏倚資訊,導致 AI 出錯的危險案例。

研究團隊的其中 3 名成員透過電子郵件表示:「機器在學習時,有一點至關重要:當教導機器學習演算法時,灌輸機器的資訊會對其行為造成顯著影響。」他們說:「所以當我們談到 AI 演算法出現偏差不公時,罪魁禍首通常不是演算法本身,而是餵給演算法的偏倚資訊。」

而諾曼這個名字的靈感,來自驚悚片宗師希區考克(Alfred Hitchcock)1960年的電影《驚魂記》(Psycho)中,名為諾曼貝茲(Norman Bates)的精神變態殺手。

研究團隊只灌輸諾曼社群網站 Reddit 上描述人類死狀的短文。研究人員接著對諾曼進行羅夏克(Rorschach)墨跡心理測驗,以判定諾曼眼中的景象,並將諾曼的答案與受傳統訓練的 AI 答案比較,不料產生駭人的對比結果。

當傳統 AI 看到「兩個人緊靠對方站著」,諾曼卻看到「一名男子跳出窗戶」;而諾曼看到「男子被尖叫的妻子射殺」時,其他 AI 則看到「一人手持雨傘」。

(譯者:鍾佑貞;圖片來源:麻省理工學院

關鍵字: , , ,