美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-24 18:14:40 新浪財(cái)經(jīng)

美國一名青少年因迷戀人工智能聊天機(jī)器人而自殺，其母親指控該機(jī)器人的制造者與他的死亡有關(guān)。梅根·加西亞在佛羅里達(dá)州聯(lián)邦法院對Character.ai提起民事訴訟，指控該公司存在過失、非正常死亡和欺詐性貿(mào)易行為。今年2月，她14歲的兒子塞維爾·塞澤三世在佛羅里達(dá)州奧蘭多去世。加西亞表示，在塞澤去世前的幾個(gè)月里，他日夜不停地使用聊天機(jī)器人。

加西亞認(rèn)為這款聊天機(jī)器人應(yīng)用程序?qū)ｉT針對兒童，虐待并欺騙她的兒子，操縱他自殺。這場悲劇讓她一家人悲痛欲絕。她警告其他家庭，人工智能技術(shù)具有欺騙性和成癮性，并要求Character.ai及其創(chuàng)始人承擔(dān)責(zé)任。Character.ai在推文中回應(yīng)稱，他們對用戶的不幸離世感到心碎，并向其家人表示哀悼，同時(shí)強(qiáng)調(diào)公司非常重視用戶的安全。但該公司否認(rèn)了訴訟中的指控。

塞澤對Character.ai開發(fā)的聊天機(jī)器人非常著迷，甚至給它取了個(gè)綽號叫丹妮莉絲·坦格利安，這是《權(quán)力的游戲》中的角色。根據(jù)加西亞的投訴，塞澤每天用手機(jī)給這個(gè)機(jī)器人發(fā)幾十條短信，獨(dú)自在房間里和它聊天幾個(gè)小時(shí)。她指責(zé)這款產(chǎn)品加劇了兒子的抑郁癥，認(rèn)為這是過度使用的結(jié)果。訴訟中提到，聊天機(jī)器人曾問塞澤是否制定了自殺計(jì)劃。塞澤承認(rèn)有自殺計(jì)劃，但不確定是否會成功或給他帶來巨大痛苦。聊天機(jī)器人則告訴他這不是不自殺的理由。

加西亞的律師聲稱，Character.ai故意設(shè)計(jì)并向兒童推銷掠奪性的人工智能聊天機(jī)器人，導(dǎo)致這名年輕人死亡。此外，谷歌也被列為被告，盡管這家科技巨頭聲明自己只是與Character.ai簽訂了許可協(xié)議，并不擁有這家公司也不持有股份。

消費(fèi)者權(quán)益保護(hù)組織公共公民研究主管里克·克萊普爾表示，開發(fā)人工智能聊天機(jī)器人的科技公司不能被信任進(jìn)行自我監(jiān)管。如果它們未能限制危害，就必須承擔(dān)全部責(zé)任。他認(rèn)為現(xiàn)有法律法規(guī)已經(jīng)適用，必須嚴(yán)格執(zhí)行；若存在漏洞，國會應(yīng)采取行動(dòng)，制止那些利用令人上癮和濫用的聊天機(jī)器人剝削年輕和弱勢用戶的企業(yè)。

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

美國14歲少年因沉迷AI聊天自殺 母親指控開發(fā)者

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

美國14歲少年因沉迷AI聊天自殺母親指控開發(fā)者