開源 LLaMA AI 模型的負面應用層出不窮！從兒童色情到 AI 性愛聊天機器人

就在 OpenAI、微軟及 Google 等公司致力矯正自家生成式 AI 聊天機器人剛推出時頻頻出現罵髒話、開黃腔，甚至爆出歧視與情勒字眼等失控行徑與不當對話，並積極建立 AI 道德倫理規範之際，市面上竟然出現一款專門滿足性需求的 AI 聊天機器人 Allie。

當前市面上有許多基於 Meta 旗下 LLaMA 開源大型語言模型的專用 AI 產品，從寫作工具到聊天機器人，再到資料分析應用程式等各類型工具及產品應有盡有。Allie 聊天機器人一樣基於 LLaMA 模型，不過卻「劍走偏鋒」，當起了性愛專家。據報導，定位 18 歲的 Allie 有著一頭棕色長髮，拜 LLaMA 模型之賜，它因而擁有「豐富的性經驗」。

如今，開源生成式 AI 就像一把雙面刃，我們可以強烈感受到它造福人群積極的一面，例如整合運算平台商 Anyscale 專門協助客戶利用開源 AI 模型發現新藥、減少農藥使用，抑或識別線上銷售的詐騙商品。

但也看到不少開源 AI 被用於網路犯罪、色情及霸凌的陰暗面。除了 Allie 性愛聊天機器人外，當前網路上出現不少使用開源模型並以真實兒童圖像做為來源素材而製作的兒童色情作品。一些網紅甚至在 YouTube 上開播如何運用 AI 模型打造「無需審查」聊天機器人的教學影片，其中一些聊天機器人是基於名為 Alpaca AI（史丹佛大學研究人員在 3 月推出的模型）的修改版 LLaMA 模型打造的。

面對猶如雙面刃的開源 AI，有人反對，但也有人繼續硬挺。今年 6 月，一些美國參議員便警告不要發布 LLaMA 模型，因為該模型會被濫用於垃圾郵件、詐騙、惡意軟體、隱私權侵犯、騷擾和其他不當行為及危害。但另一方面仍有許多支持者認為，開源 AI 是繞過企業控制的一種方式，有助於創業家、學者、藝術家和社運人士不受限制地試驗變革性的技術。

不論如何，儘管一些 AI 模型本身或許有缺失，但真正的問題還在 AI 工具及模型的濫用，或許建立防止濫用的規範才是業界接下來該走的路吧！