歐洲刑警組織警告，歹徒利用 ChatGPT 升級犯案手法

AI 將為人類社會帶來進步，卻也能助長犯罪行為。歐洲刑警組織（Europol）表示，歹徒正利用 ChatGPT 來犯案。

歐洲刑警組織的最新報告詳細說明像是 ChatGPT 這種大型語言模型（Large Language Models，LLM）如何被濫用在非法目的上，助長詐欺、網路犯罪、恐怖主義等問題。

「這些 AI 模型對執法工作可能產生的影響已能預見」，歐洲刑警組織透過報告表示，歹徒通常願意利用新技術，也很快就被發現具體犯行，像是 ChatGPT 發表數週後就有第一起相關的案例。

ChatGPT 雖會拒絕可能有害的文字提示，但有人已經找出繞過內容過濾機制的方法。比方說，有人試著讓 ChatGPT 説出如何製作管狀炸彈或古柯鹼的方法，還有人向 ChatGPT 詢問如何犯案，並要求詳細的步驟說明。

「如果歹徒對特定犯罪領域一無所知，透過 ChatGPT 提供的關鍵資訊將能加速犯案過程。因此人們可能利用 ChatGPT 接觸事先不了解的犯罪領域，從如何闖入住家，再到兒童性虐待、網路犯罪、恐怖主義」，歐洲刑警組織警告，這些資訊已經公開在網路上，在 AI 模型幫助下更容易取得資訊。而且 AI 模型可能被用來假冒他人，助長詐欺和網路釣魚，或產生虛假消息支持恐怖主義。

「對不懂程式開發的歹徒而言，AI 模型如同是寶貴的資源。與此同時，已有程式能力的人能夠利用 AI 模型進一步完善網路犯罪手法」，歐洲刑警組織指出，ChatGPT 依照人們的提示指令能夠產生程式碼，降低開發惡意軟體所需的技能，進而增加網路犯罪的風險。

大型語言模型處於起步階段，隨著大型科技公司紛紛投入資源進行開發，能夠推出更多 AI 服務和功能，同時卻也轉變成犯案的新途徑，使做案手法手法更複雜。