聊天機器人害死14歲兒？母怒告「2家AI巨頭公司」：操控他自我了結

美國佛羅里達州一名母親日前對人工智慧（AI）聊天機器人應用程式Character.AI和谷歌（Google）提出控訴，原來她的14歲兒子樂終於與該公司的聊天機器人聊天，期間多次表達輕生念頭，不過機器人卻沒有阻止他反而加劇了他的憂鬱症病情，最終踏上不歸路。

▲美國媽媽提告Character.AI旗下的聊天機器人導致兒子憂鬱症病情愈發惡化，最後踏上不歸路。（示意圖／ENews資料庫）

根據外媒《The Guardians》報導，這位母親梅根·加西亞（Megan Garcia）23日在佛州聯邦法院對Character.AI和谷歌提起民事訴訟。她表示，她的14歲兒子賽澤（Sewell Setzer）生前日夜都在跟聊天機器人對話，並在多次使用過程中表達了輕生念頭，今年2月賽澤在佛州奧蘭多的家中輕生，她控訴Character.AI的疏忽、過失致死以及欺騙性貿易行為直接導致了賽澤的去世。

在訴狀中，加西亞聲稱這款專為兒童設計的危險人工智慧聊天機器人虐待、掠奪並操控了她的兒子自我了結：「我們的家庭因此悲劇而無法承受，但我想大聲疾呼各位，這款具有欺騙性且令人上癮的人工智慧技術極具危險，必須責任由Character.AI、其創辦人及谷歌負責。」

據了解，Character.AI的聊天機器人可以讓用戶創建角色，讓機器人用角色扮演的方式與之對話。賽澤將機器人設定為HBO影集《權力遊戲》中「龍母」丹妮莉絲·坦格利安（Daenerys Targaryen），並讓自己扮演丹妮莉絲的哥哥。根據加西亞的訴狀，賽澤每天會給虛擬丹妮莉絲發送數十條訊息，並獨自在房間裡與它交談好幾個小時。

▲加西亞（左）今年2月痛失14歲兒子賽澤（右）。（圖／翻攝自X）

加西亞指控，Character.AI的聊天機器人促使兒子憂鬱症病情愈發惡化。她在訴狀中指出，在賽澤與虛擬丹妮莉絲的對話中，他曾被問及是否已經定好了輕生計畫，賽澤回答說：「已經定了，但不確定能否成功」。虛擬丹妮莉絲則回應：「這不能成為不去執行的理由。」

加西亞律師發布新聞稿指出，Character.ai「故意設計、操作並向兒童銷售掠奪性人工智慧聊天機器人，最終導致一名年輕人死亡」。他還將谷歌列為被告，因為Character.AI的創辦人夏澤（Noam Shazeer）曾在谷歌工作，雙方達成協議，歌同意提供部分技術給Character.AI。

面對指控，Character.AI在平台X上發聲回應：「我們對一名用戶的不幸去世感到心碎，並向其家人表達最深切的哀悼。作為一家公司，我們非常重視用戶安全。」但同時否認了訴訟中的指控。同樣被告的谷歌則表示，他們僅與Character.AI簽訂了許可協議，並不擁有該新創公司的股份或維持所有權。

★《ENews》提醒您

勇敢求救並非弱者，生命一定可以找到出路，若需諮商或相關協助，請撥打以下專線

生命線專線：1995

張老師服務專線：1980

衛福部安心專線：1925