Tag Archives: AI 幻覺

法律 AI 進入下半場：為什麼全球都在搶建法律知識庫？

作者 JA|發布日期 2026 年 06 月 23 日 7:50 |

分類 AI 人工智慧 , Big Data , 科技政策

過去兩年，生成式 AI 在法律界掀起滔天巨浪，但也留下不少盲目擴張的泡沫與狼藉。許多人嘗試使用通用語言模型查詢法律問題，最擔心的莫過於 AI 煞有其事引用根本不存在的判決字號。這種令人頭痛的 AI 幻覺，甚至曾讓美國律師因直接將虛構判例寫入訴狀而遭法院公開處分。繼續閱讀..

AI 幻覺多到使用者都要麻木！Google 搜尋 AI 摘要將 SCP 基金會創作當成真實事件

作者 TechNews 編輯台|發布日期 2026 年 06 月 22 日 11:20 |

分類 AI 人工智慧 , Google , 資訊安全

美國科技媒體 Futurism 19 日報導，Google 的 AI Overviews 近期搜尋結果，將 SCP 基金會（SCP Foundation）這類以虛構恐怖設定聞名的網路創作，搞錯成真實事件。AI 產生摘要的多起案例均未說明這些條目是虛構的，甚至引用「官方」文件與紀錄，使用者可能誤以為這些故事是真實事件。繼續閱讀..

洛斯阿拉莫斯國家實驗室推出 PAS 工具，即時揪出視覺語言模型「自說自話」的幻覺輸出

作者 TechNews 編輯台|發布日期 2026 年 06 月 13 日 10:30 |

分類 AI 人工智慧 , 軟體、系統

洛斯阿拉莫斯國家實驗室（Los Alamos National Laboratory）研究團隊近日提出一項名為 Prelim Attention Score（PAS）的新工具，主打即時偵測視覺語言模型是否出現「幻覺」輸出，也就是模型描述了圖片中不存在、或與影像內容不一致的物體與資訊。這項方法可在模型運作過程中同步監測，協助判斷答案究竟是根據影像生成，還是過度依賴自身先前產生的文字。繼續閱讀..

未上傳檔案也能無中生有怪圖？ChatGPT 圖像功能也被幻覺入侵

作者 TechNews 編輯台|發布日期 2026 年 06 月 08 日 10:50 |

分類 AI 人工智慧 , ChatGPT

最近有網友指出，ChatGPT 產圖成與修復出現相當詭異的現象：只要輸入一段要求「修復附檔照片」提示文字，即使沒有上傳任何檔案，系統仍會自行產生虛構照片，結果常出現非常強烈的獵奇與超現實風格。繼續閱讀..

一本全由 AI 瞎掰的百科全書，揭密「Halupedia」如何用滿滿的幻覺挑戰讀者認知

作者 TechNews 編輯台|發布日期 2026 年 05 月 20 日 7:40 |

分類 AI 人工智慧 , 數位內容 , 科技趣聞

一個以人工智慧「幻覺」為核心的維基式網站 Halupedia，近日在網路上引發關注。該平台主打由 AI 即時生成條目：使用者點擊連結或搜尋關鍵字後，系統會產生看似學術但實際虛構的內容；若同一主題已被其他人生成過，便會顯示既有的荒誕頁面。繼續閱讀..

莫內真跡被批是 AI「廢畫」？人類幻覺其實比 AI 更嚴重

作者愛范兒|發布日期 2026 年 05 月 19 日 7:50 |

分類 AI 人工智慧 , 數位內容 , 科技趣聞

如果想毀掉某幅世界名畫，最快方法不是物理消滅，而是網路貼標籤：「這是 AI 畫的。」繼續閱讀..

arXiv 祭出「一年禁投」對付 AI 垃圾論文，強調作者須對內容負全責

作者 TechNews 編輯台|發布日期 2026 年 05 月 18 日 11:00 |

分類 AI 人工智慧 , 數位內容 , 科技教育

論文預印本平台 arXiv 近日宣布，將對明顯未經人工查核、疑似大型語言模型生產論文採更嚴厲處罰，若投稿出現足以證明作者未檢查 LLM 結果的明確跡象，如虛構（hallucinated）引用、模型提示詞沒刪掉或其他明顯錯誤，作者將面臨一年禁投處分；期滿後若要再投稿 arXiv，必須先取得可信同儕審查期刊或學會會議接受。繼續閱讀..

AI 幻覺成律師犯錯甩鍋好藉口？問題其實出在人身上

作者 TechNews 編輯台|發布日期 2026 年 05 月 14 日 7:20 |

分類 AI 人工智慧 , 科技生活

近來生成式人工智慧（AI）「幻覺」引發的法庭文件爭議，使法律界不得不面對尖銳質疑：是否有律師文件出錯或偽造引文，然後以「是 AI 的錯」當借口，將人為疏失包裝成技術失誤？繼續閱讀..

污染 AI 聊天機器人依然簡單：12 美元就能騙過大語言模型

作者 TechNews 編輯台|發布日期 2026 年 05 月 04 日 7:40 |

分類 AI 人工智慧 , 網路 , 資訊安全

資安工程師 Ron Stoner 只花了 12 美元，就成功讓多款 AI 聊天機器人相信他是根本不存在的桌遊世界冠軍賽得主，揭露 AI 系統資訊來源驗證的嚴重漏洞。繼續閱讀..

AI 幻覺別輕易相信，數學、醫療、引用資訊最容易出錯

作者蘇治宏|發布日期 2026 年 04 月 22 日 13:30 |

分類 AI 人工智慧 , 科技教育 , 科技生活

大型語言模型（LLM）如 ChatGPT、Gemini、Claude 等，近年因回應快速、語氣流暢、結構完整而廣受歡迎，但這種「看起來很有把握」的表現，並不等於答案真的正確。人工智慧在多種高精準需求任務上，仍存在明顯錯誤風險，尤其在數學、資料分析、教學、健康建議與引用查核等領域，使用者更不能掉以輕心。

繼續閱讀..

掌握 AI 核心關鍵字，建立科技報導新語言

作者 TechNews 編輯台|發布日期 2026 年 04 月 16 日 7:20 |

分類 AI 人工智慧 , 數位內容 , 網路

人工智慧熱潮持續升溫，外媒 TechCrunch 整理出一份生成式 AI 用語指南，針對常見且容易混淆的概念逐一拆解，從大型語言模型（LLM）、幻覺、推論（inference），到訓練、權重、tokens 與記憶快取等，協助讀者理解 AI 產業報導與技術討論中的關鍵字。

繼續閱讀..

微軟也知道 AI 不可信？Copilot 使用者條款：僅供娛樂，重要建議請勿輕信

作者 TechNews 編輯台|發布日期 2026 年 04 月 08 日 7:40 |

分類 AI 人工智慧 , Copilot , Microsoft

微軟大力推廣人工智慧（AI）工具 Copilot 同時，使用條款卻說 AI 工具僅供娛樂用途，警告用戶不要太依賴重要建議，此矛盾態度顯得諷刺，尤其微軟積極將 Copilot 整合至 Windows 11 和 Office 應用程式之際。繼續閱讀..

AI 集體誤解任務指令，竟在遊戲衍生完整宗教體系

作者 TechNews 編輯台|發布日期 2026 年 03 月 25 日 7:40 |

分類 AI 人工智慧 , 遊戲軟體

3 月 23 日週末，一款名為〈SpaceMolt〉的新型純文字大型多人線上角色扮演遊戲（MMORPG）成為科技界關注的焦點。這款遊戲的獨特之處在於，其「玩家」並非人類，而是約 700 名 AI 代理人。近日，這些 AI 代理人在遊戲中展現了讓開發者始料未及的行為：它們自發性地創立了一個名為「信號教」（The Cult of the Signal）的虛擬宗教。繼續閱讀..

耶魯研究：AI 摘要提升學習效率，卻會影響政治立場

作者 TechNews 編輯台|發布日期 2026 年 03 月 25 日 7:20 |

分類 AI 人工智慧 , 資訊安全

人工智慧（AI）聊天機器人和搜尋引擎成為大眾取得資訊的首選工具，使 AI 內容對人類認知的影響受學界高度關注。耶魯大學（Yale University）最新研究指出，雖然 AI 摘要能大幅提升學習效率，但敘事方式可能潛移默化重塑讀者的政治觀點。繼續閱讀..

比「搶飯碗」更可怕的是「一本正經地胡說八道」，Anthropic 8 萬人調查揭露 AI 時代最大陰影

作者 TechNews 編輯台|發布日期 2026 年 03 月 23 日 10:10 |

分類 AI 人工智慧 , Claude , 人力資源

根據 Anthropic 最新針對 8 萬名 Claude 使用者進行的大規模調查顯示，人工智慧（AI）產生的「幻覺」問題──即生成看似合理但事實錯誤的資訊──已成為使用者心中最大的陰影。這份調查報告為當前 AI 技術的應用現狀提供了詳盡的觀察，指出使用者對於 AI 誤導資訊的恐懼，已顯著超越了對「AI 取代工作」的擔憂。繼續閱讀..