馬斯克（Elon Musk）旗下人工智慧（AI）聊天機器人 Grok 日前將法新社攝影記者於加薩拍攝的瘦骨嶙峋女孩照片，誤判為七年前攝於葉門，學者稱這顯出AI工具的侷限性。
法新社報導，Grok稱這張照片攝於2018年10月，為7歲葉門女孩胡笙（Amal Hussain）。但影像是本月2日於加薩市（Gaza City）拍攝，照片女孩是現年9歲的道瓦斯（Mariam Dawwas），當時她被母親穆達拉拉（Modallala）抱在懷裡。
這錯誤回覆在網路社群廣泛流傳，法國親巴勒斯坦的左翼國會議員卡隆（Aymeric Caron）因轉傳影像，被指控散播以哈戰爭不實資訊。
這場戰爭是由巴勒斯坦武裝組織哈瑪斯（Hamas）2023年10月7日攻擊以色列引起。穆達拉拉說，戰爭爆發前，道瓦斯體重有25公斤，如今只剩下9公斤，唯一能改善她病況的營養就是牛奶，但並非隨時都能取得。
網路使用者日益依賴AI驗證圖像，誤判加薩飢童照片拍攝地點的事件，顯示信任Grok等AI工具的風險，因現在AI遠非百無一失。面對真實性質疑，Grok說：「我不會散播假訊息，我的回覆是根據已核實資料來源。」Grok最終雖承認出錯，但隔日回答有人詢問時，又再次聲稱照片來自葉門。
撰寫過AI專書的科技倫理學者迪斯巴赫（Louis de Diesbach）表示，Grok錯誤突顯AI工具的侷限性，AI系統像「黑盒子」難測透，使用者難以理解回覆依據與資訊排序邏輯。每個AI工具都受訓練資料與開發者設計的指令影響，可能反映特定偏見。
迪斯巴赫認為，Grok由馬斯克創辦的新創公司xAI開發，表現出「與馬斯克個人意識形態高度一致的強烈偏見」。馬斯克曾是美國總統川普（Donald Trump）親密盟友，也是極右派代表性人物之一。要求聊天機器人確定照片來源使之脫離應有的角色，「AI不是為了說出真相而設計，而是用來產生內容，不論是真是假」。
他說：「你必須把它看成『友善的病態說謊者』，它不一定會說謊，但隨時可能說謊。」
（譯者：周依恩；首圖來源：xAI）
科技新報粉絲團
加入好友
訂閱免費電子報
