陪伴型AI越來越“懂你”，人機(jī)關(guān)系的新邊界在哪？(2)

2026-01-01 09:44:50 來源：央視新聞客戶端 A+A-

“值得一提的是，未成年人處于認(rèn)知發(fā)展階段，老年人面臨數(shù)字鴻溝挑戰(zhàn)，這些群體在使用擬人化互動(dòng)服務(wù)時(shí)，更需要適當(dāng)?shù)囊龑?dǎo)和保護(hù)機(jī)制，以防止產(chǎn)生過度依賴。此外，擬人化互動(dòng)服務(wù)在交互過程中往往較直接地輸出內(nèi)容，價(jià)值觀傳遞更加隱蔽和潛移默化，對(duì)用戶世界觀、人生觀、價(jià)值觀的影響更為深遠(yuǎn)?！睆堈鹫f。

西南政法大學(xué)校長(zhǎng)、中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)林維表示，在此背景下，制定《辦法》，有利于促進(jìn)人工智能擬人化互動(dòng)服務(wù)有序開展，引領(lǐng)人工智能“負(fù)責(zé)任創(chuàng)新”，為構(gòu)建“以人為本”的人工智能治理體系提供重要的制度支撐。

構(gòu)建多維度風(fēng)險(xiǎn)防控體系

在林維看來，《辦法》精準(zhǔn)識(shí)別并系統(tǒng)回應(yīng)了由“擬人化”和“情感交互”兩大核心特征所衍生的突出風(fēng)險(xiǎn)，以“人機(jī)邊界模糊”為治理重點(diǎn)，構(gòu)建多維度風(fēng)險(xiǎn)防控體系。

《辦法》提出，建立身份透明制度，劃定擬人化安全紅線，精準(zhǔn)防范人機(jī)邊界模糊引發(fā)的認(rèn)知混淆、信任侵蝕、人格權(quán)侵害及倫理越界等風(fēng)險(xiǎn)。“以顯著標(biāo)識(shí)義務(wù)為核心的身份透明制度重在保障用戶知情權(quán)與選擇權(quán)，為法律追責(zé)提供清晰起點(diǎn)，能夠有效遏制技術(shù)濫用的匿名性庇護(hù)，從源頭降低認(rèn)知混淆與信任侵蝕風(fēng)險(xiǎn)。”林維說。

擬人化互動(dòng)服務(wù)因其高度情感回應(yīng)性與陪伴特性，具有天然的沉迷風(fēng)險(xiǎn)。《辦法》提出，服務(wù)提供者應(yīng)當(dāng)顯著提示用戶正在與人工智能而非自然人進(jìn)行交互。在用戶初次使用、重新登錄時(shí)，應(yīng)以彈窗等方式動(dòng)態(tài)提醒用戶交互內(nèi)容為人工智能生成。事中階段，要求設(shè)置中斷冷卻提醒功能。要求用戶連續(xù)使用服務(wù)超過一定時(shí)長(zhǎng)時(shí)，應(yīng)以彈窗等形式提醒用戶休息，旨在周期性打破算法營(yíng)造的沉浸式幻覺。

在加強(qiáng)特殊群體保護(hù)方面，《辦法》提出，擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)建立應(yīng)急響應(yīng)機(jī)制，發(fā)現(xiàn)用戶明確提出實(shí)施自殺、自殘等極端情境時(shí)，由人工接管對(duì)話，并及時(shí)采取措施聯(lián)絡(luò)用戶監(jiān)護(hù)人、緊急聯(lián)系人。針對(duì)未成年人、老年人用戶，提供者應(yīng)當(dāng)在注冊(cè)環(huán)節(jié)要求填寫用戶監(jiān)護(hù)人、緊急聯(lián)系人等信息。