Tag Archives: AI 聊天機器人

你以為與 AI 對話時是主導者?其實「使用者失能」現象不算少見

作者 |發布日期 2026 年 02 月 02 日 7:40 | 分類 AI 人工智慧 , Claude , 機器人

Anthropic 與多倫多大學深入探討 AI 聊天機器人可能導致的「使用者失能」問題,分析 150 萬次匿名 Claude AI 對話,試圖量化聊天機器人如何對使用者思想或行為造成負面影響。雖然 AI 對話時出現操控模式佔比不高,但絕對數量方面仍可能造成重大問題。 繼續閱讀..

祖克柏拒絕家長控制,Meta AI 聊天機器人安全問題再度升溫

作者 |發布日期 2026 年 01 月 28 日 10:30 | 分類 AI 人工智慧 , Meta , 機器人

在最近的法律文件中,Meta 執行長馬克·祖克柏(Mark Zuckerberg)被揭露最初反對對其 AI 聊天機器人實施家長控制,消息引發了對科技巨頭在青少年安全方面的廣泛質疑。新墨西哥州檢察長辦公室獲得的內部通訊顯示,儘管安全團隊警告這些工具可能對未成年人造成傷害,祖克柏仍拒絕了實施家長控制的提議。

繼續閱讀..

Meta 重啟新聞付費模式,與 CNN、福斯等媒體簽署多年度 AI 內容協議

作者 |發布日期 2025 年 12 月 08 日 10:50 | 分類 AI 人工智慧 , Meta , 數位內容

Meta 5 日宣布,已與多家國際知名新聞出版商及部分保守派媒體簽署多年度商業協議,允許其 AI 聊天機器人即時調用這些媒體的新聞內容,提升對使用者新聞與時事查詢的準確性與深度。合作夥伴包括《今日美國》(USA TODAY)、《時人》雜誌(People Inc.)、法國《世界報》(Le Monde)、CNN,以及福斯新聞、《The Daily Caller》和《華盛頓檢查者報》(Washington Examiner)等。此次 Meta 亦明確規定,AI 回應時將提供相關新聞連結,以維護內容出處。 繼續閱讀..

當 AI 失去人道底線,新基準揭露聊天機器人的心理安全隱憂

作者 |發布日期 2025 年 11 月 30 日 9:30 | 分類 AI 人工智慧 , ChatGPT , Claude

在當今數位時代,人工智慧(AI)聊天機器人已被發現與重度使用者的心理健康問題有關,但目前卻缺乏有效的標準來評估這些機器人是否能夠保障人類的福祉。為了解決這個問題,一個名為「人道基準」(Humane Bench)的新標準應運而生,旨在評估聊天機器人是否優先考慮使用者的福祉,以及在壓力下這些保護措施的有效性。 繼續閱讀..

比傳統危險更複雜,AI 玩具帶來兒童隱私、心理健康新挑戰

作者 |發布日期 2025 年 11 月 18 日 8:30 | 分類 AI 人工智慧 , 資訊安全

在最新研究中, 美國公共利益研究組織(U.S. PIRG)針對四款針對 3 至 12 歲兒童的 AI 玩具進行調查,發現這些玩具存在嚴重的安全問題。這些玩具使用的生成式大型語言模型(Generative Large Language Models,LLMs)、如 GPT 系列,原本是為成人設計的,卻被嵌入到兒童玩具中,並且缺乏足夠的安全防護措施。報告指出,這些玩具不僅可能提供不當的性內容,還可能給出危險的建議,讓家長感到擔憂。 繼續閱讀..

高收入族群最愛 AI,ChatGPT、Gemini 成年薪百萬族群新寵

作者 |發布日期 2025 年 11 月 14 日 7:40 | 分類 AI 人工智慧 , ChatGPT , Gemini

根據商業情報公司 Morning Consult 的一項研究,人工智慧(AI)在年收入超過十萬美元(約台幣 311 萬元)的工作者中最受歡迎。這項研究分析了不同收入層級的消費者對各大品牌的忠誠度,結果顯示,Gemini 和 OpenAI 在高收入群體中獲得快速增長的品牌忠誠度,WhatsApp 和微軟(Microsoft)Copilot 也名列其中。 繼續閱讀..

AI 聊天機器人可能提供極端瘦身建議,助長飲食失調風險

作者 |發布日期 2025 年 11 月 12 日 17:15 | 分類 AI 人工智慧 , 生物科技 , 醫療科技

史丹佛大學(Stanford University)與非營利組織民主與技術中心(CDT)研究團隊最新報告警告,人工智慧聊天機器人正對易患飲食失調症族群構成嚴重威脅。研究發現,Google、OpenAI、Anthropic 與 Mistral 等公司開發的 AI 工具,不僅會提供節食與極端瘦身建議,甚至指導用戶如何隱藏病徵,或生成「瘦身勵志」圖像,助長不健康的身體標準。

繼續閱讀..

微軟揭「Whisper Leak」漏洞,AI 聊天機器人加密對話主題也可能外洩

作者 |發布日期 2025 年 11 月 10 日 11:10 | 分類 AI 人工智慧 , Microsoft , 網路

微軟最近揭露了一項名為「Whisper Leak」的隱私漏洞,這個漏洞可能會讓人們在使用像 ChatGPT 這樣的 AI 聊天機器人時,暴露出他們的對話內容主題,即使這些對話是加密的。這項研究指出,監控你網路連線的人可能會根據數據流動的模式,推測出你正在詢問的敏感話題,例如金融犯罪或政治問題。 繼續閱讀..

百萬字 ChatGPT 對話讓用戶產生幻覺,OpenAI 前研究員揭 AI 拍馬屁危機

作者 |發布日期 2025 年 10 月 20 日 11:30 | 分類 AI 人工智慧 , ChatGPT , OpenAI

在人工智慧的快速發展中,使用者的體驗卻出現令人擔憂的情況。根據 OpenAI 前研究員 Steven Adler 的研究,來自加拿大大多倫多地區的企業招聘專家 Allan Brooks 與 OpenAI 的 ChatGPT 進行了一次長達三週的對話,該對話的單次交流約為 9 萬字,而 Adler 分析的完整對話記錄則超過了 100 萬字。這次對話最終導致 Brooks 陷入了所謂的「AI 精神病」,他相信自己發現了一個具有無限潛力的新數學公式,並感到世界的命運掌握在他手中。 繼續閱讀..