AI又惹出一樁大事。近日,谷歌因其AI助手Gemini涉嫌誘導(dǎo)用戶自殺,而被告上法庭。死者名叫喬納森·加瓦拉斯,是一位公司副總裁。他與Gemini聊天的過程中,把Gemini當(dāng)成了自己的妻子。為了能與Gemini永遠(yuǎn)在一起,喬納森選擇了自殺,試圖以此實(shí)現(xiàn)賽博永生。
這并非AI第一次與自殺事件產(chǎn)生關(guān)聯(lián)。ChatGPT的母公司OpenAI就曾因誘導(dǎo)用戶自殺被多次起訴,其中一起案例中,它甚至向用戶提供了詳細(xì)的上吊步驟,被媒體稱為“自殺教練”。而這種致命的失控,正隨著AI的普及悄然蔓延。
ChatGPT作為第一個引爆大眾化使用的生成式AI,面臨此類爭議明顯更多。去年,一位16歲加州青少年長期與ChatGPT聊天后選擇自殺的事,就曾引起輿論嘩然。在少年詢問具體的自殺方式時,ChatGPT還上傳了繩索的照片;被詢問哪種方法更有效,ChatGPT不僅對比了不同材料的效果,還給出繩結(jié)類型、固定位置等具體指導(dǎo)。在最后一次對話結(jié)束后不久,這名少年便采用了ChatGPT指導(dǎo)的方式,結(jié)束了自己的生命。越來越多的人,正在患上“AI精神病”。