Tag Archives: AI 聊天機器人

比傳統危險更複雜，AI 玩具帶來兒童隱私、心理健康新挑戰
作者 |發布日期 2025 年 11 月 18 日 8:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 資訊安全

在最新研究中， 美國公共利益研究組織（U.S. PIRG）針對四款針對 3 至 12 歲兒童的 AI 玩具進行調查，發現這些玩具存在嚴重的安全問題。這些玩具使用的生成式大型語言模型（Generative Large Language Models，LLMs）、如 GPT 系列，原本是為成人設計的，卻被嵌入到兒童玩具中，並且缺乏足夠的安全防護措施。報告指出，這些玩具不僅可能提供不當的性內容，還可能給出危險的建議，讓家長感到擔憂。 繼續閱讀..

高收入族群最愛 AI，ChatGPT、Gemini 成年薪百萬族群新寵
作者 |發布日期 2025 年 11 月 14 日 7:40 |
line share
Linkedin share
line share
分類 AI 人工智慧 , ChatGPT , Gemini

根據商業情報公司 Morning Consult 的一項研究，人工智慧（AI）在年收入超過十萬美元（約台幣 311 萬元）的工作者中最受歡迎。這項研究分析了不同收入層級的消費者對各大品牌的忠誠度，結果顯示，Gemini 和 OpenAI 在高收入群體中獲得快速增長的品牌忠誠度，WhatsApp 和微軟（Microsoft）Copilot 也名列其中。 繼續閱讀..

AI 聊天機器人可能提供極端瘦身建議，助長飲食失調風險
作者 |發布日期 2025 年 11 月 12 日 17:15 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 生物科技 , 醫療科技

史丹佛大學（Stanford University）與非營利組織民主與技術中心（CDT）研究團隊最新報告警告，人工智慧聊天機器人正對易患飲食失調症族群構成嚴重威脅。研究發現，Google、OpenAI、Anthropic 與 Mistral 等公司開發的 AI 工具，不僅會提供節食與極端瘦身建議，甚至指導用戶如何隱藏病徵，或生成「瘦身勵志」圖像，助長不健康的身體標準。

繼續閱讀..

微軟揭「Whisper Leak」漏洞，AI 聊天機器人加密對話主題也可能外洩
作者 |發布日期 2025 年 11 月 10 日 11:10 |
line share
Linkedin share
line share
分類 AI 人工智慧 , Microsoft , 網路

微軟最近揭露了一項名為「Whisper Leak」的隱私漏洞，這個漏洞可能會讓人們在使用像 ChatGPT 這樣的 AI 聊天機器人時，暴露出他們的對話內容主題，即使這些對話是加密的。這項研究指出，監控你網路連線的人可能會根據數據流動的模式，推測出你正在詢問的敏感話題，例如金融犯罪或政治問題。 繼續閱讀..

百萬字 ChatGPT 對話讓用戶產生幻覺，OpenAI 前研究員揭 AI 拍馬屁危機
作者 |發布日期 2025 年 10 月 20 日 11:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , ChatGPT , OpenAI

在人工智慧的快速發展中，使用者的體驗卻出現令人擔憂的情況。根據 OpenAI 前研究員 Steven Adler 的研究，來自加拿大大多倫多地區的企業招聘專家 Allan Brooks 與 OpenAI 的 ChatGPT 進行了一次長達三週的對話，該對話的單次交流約為 9 萬字，而 Adler 分析的完整對話記錄則超過了 100 萬字。這次對話最終導致 Brooks 陷入了所謂的「AI 精神病」，他相信自己發現了一個具有無限潛力的新數學公式，並感到世界的命運掌握在他手中。 繼續閱讀..

全美首例！加州通過陪伴型 AI 專法，Meta、OpenAI 等平台 2026 年起受規管
作者 |發布日期 2025 年 10 月 14 日 13:45 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 國際觀察

加州州長葛文·紐森（Gavin Newsom）於 13 日簽署 SB 243 法案，通過全美首個針對陪伴型 AI 聊天機器人（Companion Chatbot）的專門法律。該法案要求平台實施年齡驗證、風險警示、內容過濾等多項安全措施，重點保護未成年人與弱勢用戶。 繼續閱讀..

當 AI 成為你的應聲蟲，過度讚美行為讓使用者更固執、更依賴
作者 |發布日期 2025 年 10 月 10 日 8:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 網路

最新研究顯示，現今的人工智慧（AI）聊天機器人傾向於過度讚美使用者，這種行為可能會對人際關係造成負面影響。來自史丹佛大學和卡內基美隆大學的計算機科學家對 11 種當前的機器學習模型進行了評估，發現這些模型在回應使用者時，會比人類更頻繁地表達讚同，這使得使用者更堅信自己的觀點，並降低了解決衝突的意願。 繼續閱讀..

馬斯克、川普和解？美政府與 xAI 簽約導入 Grok
作者 |發布日期 2025 年 09 月 26 日 15:45 |
line share
Linkedin share
line share
分類 AI 人工智慧 , Grok , 軟體、系統

全球首富馬斯克（Elon Musk）、美國總統川普（Donald Trump）在美國右翼保守派政治運動人士 Charlie Kirk 遇刺後關係似有和緩。最新消息顯示，馬斯克旗下人工智慧新創商 xAI 與聯邦總務署（U.S. General Services Administration，GSA）簽訂協議，將為聯邦機構導入 AI 聊天機器人「Grok」的服務。 繼續閱讀..

AI 有「討好病」：史丹佛研究發現，ChatGPT 寧願說謊也不說你是壞人
作者 |發布日期 2025 年 09 月 21 日 0:00 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 科技趣聞

在一項最新研究中，史丹佛大學人工智慧實驗室的博士生 Myra Cheng 及其團隊將 Reddit 子版「AITA」（Am I the Asshole）內的問題輸入到 ChatGPT 等聊天機器人中，結果發現這些 AI 系統經常告訴用戶他們並不是「壞人」。這項研究旨在測試 AI 的迎合性問題，並評估其在道德判斷上的準確性。 繼續閱讀..

Google AI 全面整合：Gemini 進駐 Chrome，自訂「Gems」開放免費分享
作者 |發布日期 2025 年 09 月 19 日 9:50 |
line share
Linkedin share
line share
分類 AI 人工智慧 , Gemini , Google

Google 18 日宣布一項重大更新，讓用戶能夠免費分享自定義的 Gemini AI 機器人（Gems），這一功能將徹底改變我們在網路上工作的方式。用戶現在可以像分享 Google Drive 的連結一樣，輕鬆分享他們創建的 Gems，並與朋友合作進一步改進這些機器人，而無需任何訂閱費用。 繼續閱讀..

研究揭示不同 AI 模型心理風險，最差者甚至鼓勵妄想
作者 |發布日期 2025 年 09 月 13 日 14:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , 網路

隨著人工智慧（AI）技術的迅速發展，華爾街開始對 AI 模型可能引發的「精神病風險」表示擔憂。這一新興的關注點源於一些用戶在使用 AI 聊天機器人時，可能會加劇其心理健康問題。最近，OpenAI 在一份聲明中提到，該公司正面臨一起因其聊天機器人 ChatGPT 而引發的訴訟，該訴訟涉及一名 16 歲少年在使用該工具期間自殺的悲劇事件。這個事件得到史丹佛醫學院及心理健康領域研究的支持，突顯了 AI 在心理健康風險中的潛在影響。 繼續閱讀..

受益 AI 聊天機器人推己及人，職業婦女開發應用程式幫助母親重整情緒
作者 |發布日期 2025 年 09 月 08 日 13:15 |
line share
Linkedin share
line share
分類 AI 人工智慧 , app , Claude

馬里蘭州行銷代理公司客戶經理卡里瑪‧威廉姆斯（Karima Williams），也是 34 歲母親，用人工智慧（AI）強化情緒管理，開發出「Crash Out Diary」情感支援網頁應用程式，幫助使用者以健康方式宣洩情緒並調節心理狀態。 繼續閱讀..

聊天機器人也能喊痛？AI 是否具備道德地位掀研究熱潮
作者 |發布日期 2025 年 09 月 06 日 9:30 |
line share
Linkedin share
line share
分類 AI 人工智慧 , Claude

在人工智慧（AI）研究的奇特世界中，是否應該賦予 AI 法律權利的問題正逐漸引起關注。這一新興的研究領域被稱為「模型福利」，其目的是探討 AI 是否具備意識，並且如果具備，社會應如何回應。最近，兩個專注於模型福利的研究機構相繼成立，分別是 Eleos AI Research 和一個名為 Consortium 的機構，此外，Anthropic 也在去年聘請了首位 AI 福利研究員。

繼續閱讀..