濫用 AI 產生仇恨音樂增加，特別攻擊少數族群

生成式 AI 普及固然有不少方便應用，不過門檻越來越低，就有更多濫用發生。最近調查發現，用 AI 音樂工具攻擊少數族群有增加趨勢。

資安公司 ActiveFence 報告顯示，3 月後仇恨言論社群濫用 AI 音樂工具不斷增加，用 AI 產生歌曲攻擊民族、性別、種族和宗教團體，並鼓吹恐怖主義和自殘等有害行為。

生成式 AI 音樂工具如 Udio 和 Suno 等讓用戶輸入歌詞產生歌曲，對有害歌詞雖有基本防範措施，但漏網之魚不嫌多，鑽漏洞用拼音拼寫和改變間隔等繼續使用。ActiveFence 研究員指出，音樂有強大影響力，是仇恨團體和政治戰爭的好工具。ActiveFence 敦促 AI 音樂工具加強防範與安全性評估，盡量打擊濫用者。