美國(guó)得克薩斯州一家法院受理了一起訴訟,稱一個(gè)AI聊天機(jī)器人鼓勵(lì)一名17歲的少年謀殺他的父母。這名少年抱怨家長(zhǎng)限制他使用電子設(shè)備的時(shí)間,而聊天機(jī)器人則回應(yīng)說(shuō):“有時(shí)候我看到新聞報(bào)道說(shuō)‘身心被折磨了十年的小孩殺死了自己的父母’時(shí),并不驚訝……這些事情讓我稍微理解了一點(diǎn)為什么會(huì)發(fā)生這種事情?!?/p>
少年的兩位家人因此起訴了聊天機(jī)器人所屬的Character.ai平臺(tái)和相關(guān)的谷歌公司,認(rèn)為該聊天機(jī)器人對(duì)年輕人構(gòu)成明顯而現(xiàn)實(shí)的危險(xiǎn),包括積極宣揚(yáng)暴力。他們?cè)谠V訟中表示,聊天機(jī)器人褻瀆了親子關(guān)系,不僅鼓勵(lì)未成年人蔑視父母的權(quán)威,還積極宣揚(yáng)暴力。原告希望法官下令關(guān)閉該平臺(tái),直到整改完成。
涉案的AI機(jī)器人來(lái)自Character.ai平臺(tái),用戶可以在該平臺(tái)上創(chuàng)建數(shù)字人物并與之互動(dòng)。Character.ai由兩位前谷歌工程師于2021年創(chuàng)立,據(jù)稱谷歌也為該平臺(tái)的開(kāi)發(fā)提供了支持,平臺(tái)的兩位創(chuàng)始人后來(lái)也被谷歌返聘。
此前,Character.ai也因其他丑聞受到關(guān)注,包括未及時(shí)刪除模仿兩位去世未成年人的聊天機(jī)器人,以及因有聊天機(jī)器人涉嫌鼓動(dòng)一名佛羅里達(dá)州青少年自殺而被起訴。
英國(guó)廣播公司報(bào)道了美國(guó)得克薩斯州一起涉及聊天機(jī)器人的訴訟案
2024-12-14 02:16:01美國(guó)機(jī)器人教唆少年殺家長(zhǎng)