美國佛州檢察長今天對 OpenAI 和執行長奧特曼提訴，指控這家公司的聊天機器人 ChatGPT 讓年輕用戶上癮並鼓勵有害行為，危及他們安全，佛州成為全美首個對 OpenAI 採取法律行動的州。
法新社和路透社報導，佛羅里達州檢察長烏斯邁爾（James Uthmeier）在記者會上表示：「我們今天在此宣布，我們最近對奧特曼（Sam Altman）和ChatGPT提起重大民事訴訟，指控他們危害我們的孩子，並讓家長誤信這款應用程式可以安全使用，顯然事實並非如此。」
烏斯邁爾說：「現在有人因此受傷，家長受到欺騙，他們必須為此付出代價。」他還說：「我們知道，ChatGPT會讓人上癮。它會模仿同理心和人類特質，誘騙用戶不斷提供更多資訊。」
烏斯邁爾指責OpenAI未能落實更嚴格的規範以驗證用戶年齡，並援引有關欺騙和過失的法律條文。
訴狀說：「儘管公眾知道未成年人使用ChatGPT，包括青春期前兒童，被告卻未採取措施阻止他們使用ChatGPT。」
訴訟還說「ChatGPT的免費版本沒有任何把關機制或年齡驗證機制」，而付費訂閱雖然名義上會詢問用戶年齡，但實際上「並沒有驗證用戶年齡機制，也無法讓家長得知未成年人與ChatGPT的對話內容」。
烏斯邁爾尋求強化對未成年用戶的保護，要求每項違規行為賠償1萬美元（約新台幣31萬元）。烏斯邁爾也邀請其他「有意保護孩子」的州加入訴訟行列。
法新社聯繫OpenAI發言人，對方表示：「人工智慧（AI）是新興且強大的技術，我們認為未成年人需要充分的保護，因此我們落實了業界領先的保護措施和政策。」
這家加州新創公司今年1月推出一套推估用戶年齡的系統，若偵測到用戶為未成年人，將啟動額外防護措施。ChatGPT禁止13歲以下兒童使用，13至18歲未成年人則必須取得家長同意。
OpenAI先前曾表示，公司訓練模型拒絕可能「實質上助長暴力」的請求，若對話存在「即將發生且可信的危害他人風險」會通報執法機關，並有心理健康專家協助評估灰色地帶案例。
烏斯邁爾今年4月在檢方檢視去年佛羅里達州立大學（Florida State University）大規模槍擊案嫌犯與ChatGPT的對話紀錄後宣布啟動刑事調查。
AI公司正面臨愈來愈多訴訟，指控他們未能防止聊天機器人產生可能助長自殘、心理疾病及暴力行為的互動內容。
OpenAI還面臨另一起由佛羅里達州立大學槍擊案罹難者家屬提出的訴訟，家屬指稱嫌犯規劃襲擊時獲得ChatGPT協助。
加拿大重大校園槍擊案罹難者家屬4月也集體對OpenAI和奧特曼提告，指稱公司早在案發前8個月便知槍手在ChatGPT上規劃攻擊，卻未向警方示警。
（譯者：盧映孜；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
