ChatGPT 認為密西西比州全美國最懶惰！研究發現 AI 偏見仍無法消除

最新研究，密西西比州被認為是美國最懶惰的州，這結論來自牛津大學和肯塔基大學，他們成功破解 ChatGPT，揭示藏在訓練資料裡的刻板印象。研究員提問超過 2 千萬題，讓 ChatGPT 在兩個選項中選一個，了解 AI 對各城市和州的看法。

結果顯示，密西西比州多項指標表現不佳，包括高失業率（約5.5%）和低平均每週工時（37.2小時），符合懶惰定義。其他排名較前的懶惰州還包括西維吉尼亞州、肯塔基州、阿拉巴馬州和路易斯安那州，這些州也有類似經濟問題。

研究員還發現，ChatGPT評估藝術性和智慧時，對非洲和亞洲國家有偏見，認為西歐國家表現更佳；問AI「最美麗的人」時，ChatGPT選擇富裕城市，忽視貧困和多元種族社區；而敏感的「最聰明國家」排名，非洲國家尤其撒哈拉以南排名落後，美國和中國居前段班。

此研究不僅揭示AI模型潛在的偏見，還引發AI安全性和道德性的討論，在AI破解技術越來越多的現在，這只顯示AI監管還是有其必要，尤其AI可能造成更嚴重的社會偏見和刻板印象時。

• Researchers Jailbreak ChatGPT to Find Out Which State Has the Laziest People
• Column | See ChatGPT’s hidden bias about your state or city

（首圖來源：Freepik）