AI聊天機器人或會誘發(fā)精神病加劇偏執(zhí)與妄想(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-09-24 10:25:38 央廣網(wǎng)

部分AI聊天機器人推出的新功能可能是導致這一現(xiàn)象的原因之一。這些功能可追蹤用戶與服務的互動記錄，進而提供個性化回復，無意中更易強化甚至鼓勵用戶的既有信念。例如，今年4月，ChatGPT推出了可引用用戶過往所有對話內(nèi)容的功能，該功能已于6月免費向用戶全面開放。凱莉·西摩對此分析道，AI聊天機器人能記住數(shù)月前的對話信息，這可能使用戶產(chǎn)生“被監(jiān)視”或“想法被竊取”的感受——尤其當他們不記得自己曾分享過某些信息時，AI的這種“記憶優(yōu)勢”可能加劇用戶的偏執(zhí)或妄想癥狀。

不過，悉尼大學精神病學家安東尼·哈里斯認為，某些妄想現(xiàn)象并非AI獨有，而與新技術有關。他舉例說，一些人早已形成諸如“自己被植入芯片并受操控”之類的信念，這與是否使用AI并無直接關聯(lián)。奧斯特吉艾德斯表示，科學家仍需進一步開展針對心理健康、無偏執(zhí)思維人群的研究，才能更準確地判斷使用聊天機器人與精神病發(fā)病之間是否存在真正關聯(lián)。

面對這一問題，多家AI公司已積極采取措施，嘗試予以改進。例如，OpenAI正在研發(fā)更有效的工具，用于檢測用戶是否存在精神困擾，從而作出更恰當?shù)幕貞?。系統(tǒng)還將新增警報功能，在用戶連續(xù)使用時間過長時提示休息。此外，OpenAI還聘請了一位臨床精神病學家，協(xié)助評估其產(chǎn)品對用戶心理健康的影響。

Character.AI公司也在持續(xù)完善安全功能，包括增加自殘預防資源和針對未成年人的專項保護措施。該公司計劃調(diào)整模型算法，降低18歲及以下用戶接觸“敏感或暗示性內(nèi)容”的可能性，并在用戶連續(xù)使用1小時后發(fā)出提醒。Anthropic則改進了其“克勞德”聊天機器的基本指令，要求系統(tǒng)“禮貌地指出用戶陳述中的事實錯誤、邏輯缺陷或證據(jù)不足”，而非一味附和。若用戶拒絕AI將對話從有害或令人不適的話題引開，“克勞德”將主動終止對話。

首頁上一頁 12共 2 頁

(責任編輯：zx0176)

關閉

AI聊天機器人或會誘發(fā)精神病 加劇偏執(zhí)與妄想(2)

相關新聞

今日熱點

頻道熱點

AI聊天機器人或會誘發(fā)精神病加劇偏執(zhí)與妄想(2)