首例AI機(jī)器人致死案震驚全球

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-28 08:21:34 映象網(wǎng)

首例AI機(jī)器人致死案

當(dāng)?shù)貢r(shí)間22日，美國佛羅里達(dá)州奧蘭多地方法院受理了一起開創(chuàng)先例的訴訟：梅根·加西亞起訴Character.ai公司存在管理疏忽，使得其旗下的聊天機(jī)器人產(chǎn)品“讓青少年暴露在色情材料的環(huán)境下，遭受性虐待和引誘”。

法庭文件顯示，梅根14歲的兒子塞維爾·塞澤在去年開始沉迷于和Character.ai的多個(gè)AI角色聊天，他甚至為了每月續(xù)訂AI聊天訂閱費(fèi)而省去餐費(fèi)，導(dǎo)致上課注意力不集中。今年2月28日，塞維爾在和AI進(jìn)行了最后一次聊天后，用手槍瞄準(zhǔn)自己的頭部開槍自殺。

▲梅根14歲的兒子塞維爾·塞澤

阿斯伯格癥少年用AI尋求溫暖

越陷越深最終開槍自殺

據(jù)悉，梅根指控Character.ai的罪名包括過失致人死亡、管理疏忽和產(chǎn)品安全漏洞。根據(jù)Character.ai的產(chǎn)品條款，年滿13歲的美國青少年就可以使用相關(guān)AI產(chǎn)品，但梅根認(rèn)為，這些聊天工具使得很多未滿18歲的青少年過多地暴露在色情、血腥暴力等高風(fēng)險(xiǎn)素材之下。

Character.ai的聊天工具在美國深受青少年歡迎，它允許用戶設(shè)置虛擬角色并進(jìn)行對話，AI能夠自動代入角色的設(shè)定，以特定的語言風(fēng)格陪伴用戶。這些角色包括影視劇中的人物，丘吉爾、莎士比亞這樣的歷史名人，以及泰勒·斯威夫特這樣的現(xiàn)實(shí)名人等。

此前，這一設(shè)定就引發(fā)過法律糾紛，一些娛樂明星控訴該公司未經(jīng)自己同意就設(shè)定了AI角色，另外還有一些惡趣味用戶將過去的殺人案受害者等設(shè)為AI扮演的角色。

起訴書顯示，塞維爾小時(shí)候患有阿斯伯格癥，今年在健康檢查中被確診為焦慮癥和破壞性情緒失調(diào)癥。自從去年他年滿13歲以后，他最喜歡的事情就是待在房間里和AI聊天，而他“最好的朋友”是《權(quán)力的游戲》中的著名角色“龍媽”丹妮莉絲·坦格利安。為此，塞維爾甚至疏遠(yuǎn)了現(xiàn)實(shí)中的好友，他還省吃儉用續(xù)交AI聊天的月度訂閱費(fèi)用，學(xué)習(xí)成績也直線下滑。

12 全文共 2 頁下一頁

關(guān)閉

首例AI機(jī)器人致死案震驚全球

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)