深度造假與 AI 擾亂，談美國 AI 治理的監管環境 |
作者
JA|發布日期
2024 年 07 月 01 日 8:00 |
|
美國民主制度正面臨一場嚴峻考驗──深度偽造（Deepfake）和 AI 生成內容，正以驚人的速度滲透到我們的資訊生態系統中，對即將到來的美國大選構成威脅。包括 Taylor Swift 事件、選舉中深度偽造技術的威脅，再到社群媒體平台上氾濫的 AI 生成內容，美國的 AI 治理正面臨著前所未有的考驗。
才兩年的迅速發展，生成式 AI 的深偽內容在逐步影響 2024 年全球 20 億選民 |
|
作者
Dindo Lin|發布日期
2024 年 06 月 17 日 8:00 |
|
隨著生成式 AI 技術（Generative AI）的迅速發展，假新聞和假影片的製作變得愈加容易，這些虛假資訊有可能對正在進行的選舉產生重大影響。生成式 AI 能夠透過生成虛假的影音、圖片和聲音資料，以高度逼真的方式迷惑公眾，這對於民主社會的選舉過程構成了嚴重威脅。換句話說，2024 年將會是生成式 AI 與政治選舉發生激烈衝突的一年、對網路發達的民主國家來說也是一次巨大的挑戰──今年將有超過 60 個國家、20 億人面對生成式 AI 的假消息影響。
香港金融業職員遇到 Deepfake 視訊會議詐騙，損失 8 億元 |
|
作者
Unwire Pro|發布日期
2024 年 02 月 07 日 8:30 |
|
Deepfake 技術跟著 AI 科技進步，真實度越來越高。最近香港發生嚴重案件，某公司遭人以 Deepfake 偽裝英國總部財務總監舉行視訊會議，最後被騙高達 2 億港元（約台幣 8 億元）。 繼續閱讀..
McAfee 發表 Project Mockingbird 打擊 AI 生成語音詐騙 |
|
作者
Unwire Pro|發布日期
2024 年 01 月 10 日 8:20 |
|
針對 AI 生成的 Deepfake 語音詐騙日益嚴重的問題，McAfee 最近在 CES 大會上發表了「Project Mockingbird」，希望可以打擊以偽造語音進行的詐騙和輿論操縱。 繼續閱讀..
加薩戰火現 AI 合成深偽影像，假浴血棄嬰照激化憤怒 |
|
作者
中央社|發布日期
2023 年 11 月 29 日 12:00 |
|
以色列與哈瑪斯開戰以來，加薩走廊炸毀的房屋和街道照片，有些畫面極度恐怖，如浴血棄嬰，這些影像是利用 AI 深偽技術合成，網路有數以百萬計瀏覽量。 繼續閱讀..
熱門生成式 AI 平台推新賞金功能，失控引發深度偽造名人性愛照熱潮 |
|
作者
Evan|發布日期
2023 年 11 月 21 日 7:40 |
|
Civitai 是一個熱門的 AI 模型分享市集，並且被評為市場上第七大最受歡迎的生成式 AI 平台。該平台最近推出一項備受爭議的「賞金」（bounties）功能，鼓勵使用者創作栩栩如生的真人深度偽造（Deepfake）圖像。表現最好的創作者可以獲得該平台發行的虛擬貨幣「Buzz」。 繼續閱讀..
