OpenAI 報告示警，中方利用 AI 搞惡意行動

OpenAI 5 日發表的一份報告顯示，越來越多中國團體正在使用 AI 技術進行惡意行動。

ChatGPT 2022 年末問世以來，人類擔憂生成式 AI 技術帶來的後果，因為它能快速產出類似人類使用的文字、音訊、影像等。OpenAI 定期發表報告，說明平台上偵測到的惡意行動，例如用於建立惡意程式，或產出虛假內容透過網站和社群平台散布。

OpenAI 報告指出，儘管進行惡意行動的中國團體範圍和策略有所擴大，但被發現的行動通常規模較小，且針對的受眾有限。

報告舉出一個案例，OpenAI 封鎖多個 ChatGPT 帳號，這些帳號用於生成與中國有關的地緣政治內容並寫成社群媒體的貼文，包括批評台灣一款反抗中國共產黨、名為「逆統戰」的遊戲，誣陷巴基斯坦激進人士，以及有關美國關閉國際開發署（USAID）的內容。

有些內容還批評美國總統川普（Donald Trump）近來的關稅政策，並寫成 X 平台貼文，例如「關稅使進口商品變得如此昂貴，政府卻在國外金援上揮霍。」

在另一個案例，與中國有關的惡意分子運用 AI 在網路攻擊行動上，包括開源研究、腳本修改、排除系統配置故障、暴力破解密碼和社群媒體自動化的工具開發等。

OpenAI 發現的第三個案例是一個源自中國的網路影響力行動，生成分化美國政治、帶來對立的社交媒體貼文，包括文字內容和 AI 生成的個人檔案照片。

OpenAI 報告無疑向與中國關係緊繃的國家、甚至是所有人提出警告，AI 技術迅速發展，其雙面刃特性也日益凸顯。人類享受 AI 帶來效率和創新的同時，也必須正視惡意濫用、影響國家安全的風險。

• OpenAI Says Significant Number of Recent ChatGPT Misuses Likely Came From China
• OpenAI finds more Chinese groups using ChatGPT for malicious purposes
• OpenAI takes down covert operations tied to China and other countries

（首圖來源：shutterstock）