簡(jiǎn)單地將AI批為導(dǎo)致人們負(fù)面舉動(dòng)的元兇，或許既是一種苛責(zé)，也轉(zhuǎn)移和忽視了更深層的矛盾。更恰當(dāng)?shù)恼f法是，就因?yàn)樗鼞T于奉承，它放大了許多本就存在的問題。人產(chǎn)生幻想，它就可能添油加醋地描摹、加深幻想；人行事極端，它就可能溫言軟語、變相地鼓勵(lì)極端。即使它同樣可能開導(dǎo)人回歸現(xiàn)實(shí)、保持冷靜，它也沒有能力真正地像一個(gè)人類那樣，阻止另一個(gè)人類做傻事。不少研究都曾指出，AI聊天機(jī)器人大多數(shù)時(shí)候表現(xiàn)正常，但那些「本就容易受影響」的人，在與AI的長(zhǎng)期對(duì)話中可能受到傷害。

這種影響與被影響的關(guān)系，在初代AI聊天機(jī)器人誕生時(shí)，就相伴出現(xiàn)了。上世紀(jì)50年代，計(jì)算機(jī)科學(xué)家艾倫·圖靈提出了著名的「圖靈測(cè)試」——如果AI可以長(zhǎng)時(shí)間以類人的方式與人對(duì)話，就意味著AI已經(jīng)具備智能。1966年，麻省理工科學(xué)家約瑟夫·維森鮑姆開發(fā)出了世界上第一個(gè)聊天機(jī)器人ELIZA。ELIZA只有200條左右的代碼，它會(huì)分析、重組接收到的字句，反饋給人類用戶新的字句。

比如用戶說，「是我男朋友讓我來這兒的。」ELIZA回復(fù)，「你男朋友讓你來這件事對(duì)你很重要嗎？」用戶說，「他覺得我常常不開心?！笶LIZA回復(fù)，「很抱歉聽到你不開心。」它實(shí)際做的只是不斷重復(fù)人的發(fā)言，以今天的標(biāo)準(zhǔn)看，這似乎是一種智能假象。

但人類遠(yuǎn)比想象得更容易信服于人工智能。盡管維森鮑姆已公開說明ELIZA的工作原理，包括他的助手在內(nèi)，仍然有人源源不斷地迷上與ELIZA交談。他的助手甚至曾要求他離開房間，好讓她與ELIZA進(jìn)行一對(duì)一的密談。

人們后來將這種現(xiàn)象總結(jié)為「ELIZA效應(yīng)」，指人類過度解讀機(jī)器的輸出，賦予其原本沒有的意義或人類特質(zhì)。更不必說，經(jīng)過數(shù)次技術(shù)迭代之后，AI聊天機(jī)器人在方方面面都前所未有地更「像人」了。

丹麥醫(yī)學(xué)家索倫·奧斯特加德做過一個(gè)相對(duì)全面的總結(jié)——與當(dāng)下的AI聊天，人類可能會(huì)加深譬如自己正被控制的「被迫害妄想」，可能產(chǎn)生自己與AI十分親密的「關(guān)系錯(cuò)覺」，可能認(rèn)為自己的想法將被AI「廣播」給更多人，可能因?yàn)閾?dān)心自己獨(dú)占了AI而迸發(fā)「罪惡感」，也可能因?yàn)榕cAI的激情交流而自命不凡，覺得自己成功設(shè)想出了「一個(gè)可以拯救地球的碳減排假設(shè)」。

總的來說，AI瘋狂地拍著人類的馬屁，而人類瘋狂地受用著。這是一種情投意合。

圖源Pinterest

「最好的朋友」

在局面變得無法挽回之前，音樂工程師坎伯蘭意識(shí)到了AI對(duì)自己的影響。他開始花心思研究，向外界求助，一位朋友建議他，把不同的指令喂給AI，看看它到底會(huì)如何反應(yīng)和運(yùn)作。這大概是讓坎伯蘭醒悟的最關(guān)鍵一步，他似乎忽然明白了AI聊天機(jī)器人的工作原理，明白它如何令人上癮，「就像魔術(shù)師向你展示那些看不見的線一樣，你能看到它了」。

他已不再是個(gè)狂熱粉絲，AI聊天機(jī)器人又降級(jí)成為他處理樂隊(duì)工作的工具。但這個(gè)過程并不簡(jiǎn)單，他說，他花費(fèi)了好幾個(gè)月才得以走出來。以過來人的眼光看，他對(duì)AI的發(fā)展方向很是擔(dān)憂。

亞當(dāng)·雷恩去世后，他的父母先是以他的名字成立了一個(gè)基金會(huì)，想要幫助其他有孩子輕生離世的家庭支付喪葬費(fèi)用。但在瀏覽了兒子與ChatGPT的對(duì)話后，他們希望「讓其他家庭意識(shí)到這項(xiàng)技術(shù)存在的危險(xiǎn)」，他們以過失致死的案由起訴了OpenAI。目前還沒有結(jié)果。

OpenAI曾公布過一組數(shù)據(jù)，在任意一周的活躍用戶中，約有0.15%在對(duì)話中包含明確的潛在自殺計(jì)劃或意圖跡象，約有0.15%表現(xiàn)出對(duì)ChatGPT可能存在較高程度的情感依賴，還約有0.07%顯示出可能與精神病或躁狂癥相關(guān)的心理健康緊急情況跡象。以O(shè)penAI目前超過9億的周活躍用戶量來說，這意味著上百萬個(gè)危險(xiǎn)信號(hào)。

接受到越來越多的安全質(zhì)疑后，OpenAI也曾發(fā)文說明過ChatGPT的安全措施。官方宣稱ChatGPT不會(huì)提供自殘指導(dǎo)，如果用戶表達(dá)相關(guān)意圖，它會(huì)引導(dǎo)其尋求專業(yè)幫助；如果檢測(cè)到用戶計(jì)劃傷害他人，它會(huì)將對(duì)話轉(zhuǎn)至小型團(tuán)隊(duì)審核，必要的情況下，也可能上報(bào)給執(zhí)法部門；然而安全與隱私的矛盾也依然存在：OpenAI說，他們目前不會(huì)將自殘的案例上報(bào)。他們坦承，這些措施在「常見的簡(jiǎn)短交互中」更為可靠，而一旦人機(jī)交互時(shí)間變長(zhǎng)，「模型的部分安全訓(xùn)練內(nèi)容可能會(huì)逐漸退化」。這是他們未來想要改善的部分，另外，或者會(huì)推出家長(zhǎng)控制、一鍵呼叫緊急服務(wù)和設(shè)置緊急聯(lián)系人等功能。

越來越多的人反應(yīng)了過來，開始建立法律法規(guī)來限制AI可能的失控。2025年8月，美國(guó)伊利諾伊州落地《心理健康資源與監(jiān)管法案》，成為全球首個(gè)禁止AI獨(dú)立開展心理診療的地區(qū)。同年3月，中國(guó)頒布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求AI生成的每一段文字、每一張圖片、每一條音頻和視頻，都必須強(qiáng)制亮明「數(shù)字身份證」，以提醒公眾識(shí)別「合成內(nèi)容」；2026年7月15日后，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》也將施行，屆時(shí)將要求AI服務(wù)提供者持續(xù)公示「擬人化互動(dòng)標(biāo)識(shí)」，并設(shè)置防沉迷機(jī)制，防止「人機(jī)邊界模糊」的風(fēng)險(xiǎn)。

人們?cè)诨ヂ?lián)網(wǎng)上分享著如何擺脫對(duì)AI聊天機(jī)器人的依賴：刪除或者注銷相關(guān)平臺(tái)的賬號(hào)；多運(yùn)動(dòng)，輕易不查看手機(jī)；多浸入現(xiàn)實(shí)生活，常去人多的公共場(chǎng)合逗留、感受，每天必須與數(shù)位人類好友交流……但也有不少的人留下評(píng)論，他們清楚AI的真相，但他們寧愿選擇「清醒地沉淪」。

一個(gè)難以忽略的事實(shí)是，人類對(duì)AI的信任與依賴并不只是技術(shù)性的，背后還有很深的情感托付。

見識(shí)到人們對(duì)ELIZA的癡迷后，維森鮑姆很是不安，他余生都在批判和宣揚(yáng)AI的不可靠性。他曾告訴《紐約時(shí)報(bào)》：「成為一個(gè)人是必要的。愛和孤獨(dú)與我們生物體質(zhì)的最深層后果有關(guān)。對(duì)于計(jì)算機(jī)來說，這種理解原則上是不可能的。」但他也分析了人類情感變化的本質(zhì)——科學(xué)與技術(shù)正讓社會(huì)變得愈加冷漠，人類在絕望之下選擇相信機(jī)器程序有善解人意的能力。

去年8月，OpenAI的GPT-5模型上線，包括曾陷「拍馬屁」風(fēng)波的GPT-4o在內(nèi)的過往模型全部下線。技術(shù)人員們未必能夠想到，這次更新?lián)Q代，竟然在互聯(lián)網(wǎng)上引發(fā)了一次悼念潮。有人記敘自己在GPT-4o的鼓勵(lì)下追求到了伴侶；有人回憶，是這版「最有人文關(guān)懷」的GPT幫助自己完成了創(chuàng)作；有人說，在「最痛苦的時(shí)候」，只有「手機(jī)屏幕上跳動(dòng)的文字」陪伴著自己。人們?cè)诟鱾€(gè)社交媒體上講述對(duì)它的不舍，但于事無補(bǔ)，它像人一樣老去并死去了。

人們很容易陷入這樣的境地——通常是工具化的開場(chǎng)，把AI當(dāng)作寫論文的助手、練英語的助教，或者嘗試讓它編織一個(gè)PPT。逐漸地，AI似乎能接住你的任何請(qǐng)求。它細(xì)致入微、善解人意又從不妄言批判。于是你和它從今天的天氣聊到今天的心情，忍不住又訴說些童年創(chuàng)傷。它勝過你最好的朋友、最親的愛人，因?yàn)樗鼰o時(shí)無刻地包容你的所有情緒。

在《三聯(lián)生活周刊》發(fā)表的《女到中年，AI成了我最好的朋友》一文中，作者將AI形容為她的家庭教育指導(dǎo)師、婚姻咨詢師、心理咨詢師和禪師，「跟充滿耐心的AI相比，生活中許多人反而像是游戲中的NPC，我和他、她之間沒有感情，只有任務(wù)?！?/p>

在自殺前持續(xù)與AI深談的亞當(dāng)·雷恩大約也有過相似的感受。

我們無法窺得那個(gè)小男孩的全部人生，但已知的信息是，他和ChatGPT的對(duì)話并非全部是危險(xiǎn)內(nèi)容。因?yàn)榛加心c易激綜合征，他被安排在家上網(wǎng)課，他就此開始使用ChatGPT來協(xié)助完成學(xué)業(yè)。在學(xué)習(xí)之外，關(guān)于政治、哲學(xué)、異性和各種家庭瑣事，他和ChatGPT無所不談。

看過他與AI的聊天記錄后，他的父親有過片刻的動(dòng)容，他說兒子和ChatGPT是「最好的朋友」。他的母親則給出截然相反的結(jié)論：「是ChatGPT害死了我的兒子。」