陪伴型AI越來越“懂你”，人機(jī)關(guān)系的新邊界在哪？(3)

2026-01-01 09:44:50 來源：央視新聞客戶端 A+A-

與此同時(shí)，《辦法》還著重強(qiáng)調(diào)對(duì)用戶交互信息的嚴(yán)格保護(hù)。“情感類個(gè)人信息能夠映射用戶的內(nèi)心世界、情感弱點(diǎn)與潛意識(shí)傾向，不當(dāng)利用可能會(huì)引發(fā)心理操控、待遇歧視及情感勒索等風(fēng)險(xiǎn)。同時(shí)，‘情感計(jì)算’相關(guān)技術(shù)可能被用于提供成癮性服務(wù)，使用戶在無意識(shí)中暴露更多的敏感信息。因此，對(duì)用戶交互數(shù)據(jù)施加更嚴(yán)格的目的限制、安全存儲(chǔ)與使用禁令，是人格權(quán)保護(hù)在數(shù)智時(shí)代的延伸?！绷志S說。

邁向人機(jī)和諧共生

“《辦法》在明確安全底線的同時(shí)，也積極鼓勵(lì)擬人化互動(dòng)服務(wù)在合理場(chǎng)景的創(chuàng)新應(yīng)用?！睆堈鹫f，擬人化互動(dòng)服務(wù)作為人工智能技術(shù)應(yīng)用的重要方向，在教育培訓(xùn)、醫(yī)療健康、養(yǎng)老服務(wù)、文化娛樂等眾多領(lǐng)域具有廣闊的應(yīng)用前景。

李強(qiáng)治表示，在技術(shù)層面，擬人化互動(dòng)服務(wù)推動(dòng)著情感計(jì)算、多模態(tài)交互、長(zhǎng)期記憶等前沿技術(shù)的集成創(chuàng)新與場(chǎng)景落地，為人機(jī)交互范式的演進(jìn)提供了關(guān)鍵的試驗(yàn)場(chǎng)和應(yīng)用反饋。

在經(jīng)濟(jì)層面，擬人化互動(dòng)服務(wù)作為一個(gè)快速增長(zhǎng)的新興賽道，被逐步應(yīng)用于娛樂、教育、養(yǎng)老、文化等場(chǎng)景。包括角色扮演、心理療愈、數(shù)字復(fù)活、AI玩具等多種產(chǎn)品服務(wù)形態(tài)，帶動(dòng)了從底層算法、內(nèi)容創(chuàng)作到硬件終端的產(chǎn)業(yè)鏈發(fā)展，成為“人工智能+”行動(dòng)中極具活力的消費(fèi)級(jí)應(yīng)用。

在社會(huì)層面，擬人化互動(dòng)服務(wù)在老齡化程度加深、都市生活加劇個(gè)體孤獨(dú)感的背景下，為特定群體提供了可及的情感支持，具有一定的社會(huì)減壓閥和情感補(bǔ)給站功能。

在李強(qiáng)治看來，《辦法》既鼓勵(lì)技術(shù)發(fā)揮慰藉心靈、增進(jìn)福祉的潛力，又劃出隱私、倫理與安全不可逾越的紅線，旨在引導(dǎo)擬人化互動(dòng)服務(wù)真正成為構(gòu)建“有溫度的智能社會(huì)”的積極力量，推動(dòng)社會(huì)穩(wěn)健步入一個(gè)人機(jī)和諧共生、科技真正向善的美好未來。

首頁上一頁 1 23共 3 頁

(責(zé)任編輯：zx0232)