當(dāng)前位置：新聞 > 熱點新聞 > 正文

陪伴型AI越來越“懂你”，人機關(guān)系的新邊界在哪？

2026-01-01 09:44:50 來源：央視新聞客戶端 A+A-

近年來，伴隨情感計算、自然語言處理、多模態(tài)交互等人工智能技術(shù)發(fā)展，人工智能擬人化互動服務(wù)通過模擬人類人格特征、思維模式和溝通風(fēng)格，實現(xiàn)從“機械對話”向“深度共情”跨越，成為藏在用戶屏幕背后的“情緒搭子”。但與此同時，人工智能擬人化互動服務(wù)也面臨信息安全、隱私侵犯、社會倫理、未成年人保護等多重風(fēng)險挑戰(zhàn)。

中央經(jīng)濟工作會議提出，深化拓展“人工智能+”，完善人工智能治理。近日，國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能擬人化互動服務(wù)管理暫行辦法（征求意見稿）》（以下簡稱《辦法》），并向社會公開征求意見。意見反饋截止時間為2026年1月25日。

中國信息通信研究院政策與經(jīng)濟研究所副所長李強治表示，《辦法》有效回應(yīng)人工智能情感陪伴、心理療愈等應(yīng)用風(fēng)險，體現(xiàn)了“在發(fā)展中規(guī)范，在規(guī)范中發(fā)展”的治理智慧，對于構(gòu)建健康、公平、有益的人機關(guān)系具有重大意義。

擬人化互動服務(wù)面臨多重風(fēng)險挑戰(zhàn)

當(dāng)前，以陪伴型AI為代表的人工智能擬人化互動服務(wù)展現(xiàn)出堪比人類的情境理解和共情表達能力，塑造出一種新型的人機關(guān)系與社會交往模式。

同時，擬人化互動服務(wù)在快速發(fā)展中也面臨一系列風(fēng)險與挑戰(zhàn)，包括：數(shù)據(jù)隱私方面，承載用戶最私密情感與思想的數(shù)據(jù)面臨被濫用、泄露的風(fēng)險；倫理方面，高度擬人化設(shè)計易導(dǎo)致用戶產(chǎn)生非理性情感依賴，甚至引發(fā)現(xiàn)實社交疏離；安全保障方面，缺乏有效的年齡識別與內(nèi)容過濾，危及脆弱群體的心理健康乃至人身安全。

國家互聯(lián)網(wǎng)應(yīng)急中心副處長張震表示，擬人化互動服務(wù)作為人工智能技術(shù)應(yīng)用的新形態(tài)，具有鮮明的技術(shù)特征和顯著的風(fēng)險特征。例如：情感交互的深度性，不同于傳統(tǒng)的信息查詢、內(nèi)容生成等功能性服務(wù)，擬人化互動服務(wù)通過算法模擬人類情感反應(yīng)機制，能夠與用戶建立情感聯(lián)結(jié)，對用戶心理狀態(tài)和行為模式產(chǎn)生深層次影響；用戶關(guān)系的持續(xù)性，擬人化互動服務(wù)往往涉及長期性、高頻次的交互過程，用戶可能與人工智能系統(tǒng)建立類似人際關(guān)系的情感紐帶，這種持續(xù)性互動關(guān)系使得潛在風(fēng)險不斷累積和放大。

12 3 全文共 3 頁下一頁