OpenAI 25 日公開《遏止惡意使用人工智慧》（Disrupting malicious uses of AI）報告，深入掌握威脅者如何濫用 AI 模型，打壓異議人士、生成不實言論及建立詐騙網路等。
這份報告中的案例研究以及過往紀錄均顯示，威脅者通常會將 AI 與其他較為傳統的工具結合使用，例如網站、社群帳號等。威脅行動很少僅侷限於單一平台，也未必只用單一模型，而是在不同階段使用不同的模型。
值得關注的是，這份報告有相當大的篇幅談論中國製造的威脅，包括由中國執法部門主導的「網絡特戰」行動、針對美國官員的虛擬鎖定與社交工程，以及由中國主導的跨國詐騙網路。
OpenAI 封鎖了一個與中國執法部門有關的 ChatGPT 帳號，與海內外祕密影響力行動「網絡特戰」有關。該帳號被用來編輯和潤飾行動報告，經 OpenAI 分析才揭露行動的全貌。這項行動動員至少數百人，橫跨數十個平台並運作數千個假帳號，還系統性地使用中國本土的開源模型（如 DeepSeek-R1、Qwen2.5）進行目標監控、分析、翻譯與內容生成，目的是要反制中共認為的敵對勢力，並在海內外、線上與線下全面打壓異議人士。
帳號使用者聲稱擁有超過 100 種的戰術腳本來辨識、施壓並破壞目標，手段不僅包含操弄輿論與大量發表貼文，還有發動惡意檢舉以封鎖異議人士的社群帳號，為異議人士製造假訃聞與墓碑照並在網路上散布，偽造美國法院文件或冒充移民官員以恐嚇在美異議人士。
針對日本首相高市早苗的抹黑，也是「網絡特戰」行動執行目標之一。雖然 ChatGPT 拒絕協助規劃，但帳號使用者事後要求 ChatGPT 幫忙潤飾行動的執行狀態報告，記錄下在社群上發起新標籤（如 #右翼の共生者 等）。
「網絡特戰」行動也將知名的異議人士 X 帳號「李老師不是你老師」列為攻擊目標之一，李老師回應此事點出，希望如 X、YouTube、Bluesky 等社群平台應意識到，其自動化內容審核系統被中共當做武器使用，AI 則是中共打壓異議人士的新工具，整個產業必須正視這個問題。
（首圖來源：Unsplash）
科技新報粉絲團
加入好友
訂閱免費電子報
