短視頻平臺(tái)上,西裝革履、多金深情的“AI霸總”層出不窮,他們用甜膩的稱(chēng)呼和曖昧的告白吸引觀眾,單膝下跪求婚、豪擲千金許諾等橋段不斷上演。這些虛擬形象通過(guò)AI換臉和擬聲技術(shù)合成,打著“高端成功人士”的旗號(hào),以公益陪伴、情感關(guān)懷為幌子,實(shí)際上瞄準(zhǔn)的是老年群體的“情感殺豬盤(pán)”。
此類(lèi)賬號(hào)批量生成,話術(shù)模板化,通過(guò)算法精準(zhǔn)推送給空巢老人,誘導(dǎo)他們打賞、消費(fèi)甚至套取個(gè)人信息實(shí)施詐騙。這種行為不僅侵害了老年人的權(quán)益,還擾亂了網(wǎng)絡(luò)空間秩序。
“AI霸總”圍獵老年人,危害深遠(yuǎn)且觸及多重底線。對(duì)個(gè)人而言,溫情話術(shù)擊穿心理防線,掏空老人養(yǎng)老積蓄,加劇孤獨(dú)抑郁等心理問(wèn)題,同時(shí)泄露個(gè)人隱私,埋下詐騙隱患。對(duì)行業(yè)來(lái)說(shuō),低成本批量制造虛假內(nèi)容,踐踏了AI技術(shù)向善初衷,破壞了網(wǎng)絡(luò)內(nèi)容生態(tài),劣幣驅(qū)逐良幣,擠壓了正規(guī)內(nèi)容生存空間。對(duì)社會(huì)而言,嚴(yán)重違背公序良俗,挑戰(zhàn)法律紅線,消解尊老敬老的傳統(tǒng)美德;更透支社會(huì)信任,削弱公眾對(duì)數(shù)字經(jīng)濟(jì)與網(wǎng)絡(luò)治理的信心,沖擊民生保障與公共秩序,是對(duì)政策善意與公共利益的公然漠視。
亂象滋生的原因是多方面的。首先,情感供需失衡,深度老齡化導(dǎo)致空巢老人增多,情感陪伴需求強(qiáng)烈,而家庭陪伴不足和社會(huì)適老服務(wù)短缺給情感操控留下可乘之機(jī)。其次,AI合成技術(shù)成本低廉、操作簡(jiǎn)便,批量生成虛擬形象與話術(shù)毫無(wú)難度,且隱蔽性強(qiáng)、取證困難。此外,平臺(tái)審核缺位,部分平臺(tái)為了逐利放任亂象,AI內(nèi)容標(biāo)識(shí)模糊不清,算法持續(xù)推送同類(lèi)內(nèi)容,審核流于形式,未履行主體責(zé)任。監(jiān)管方面也存在漏洞,涉老AI詐騙界定模糊、法條適配滯后,跨部門(mén)聯(lián)動(dòng)不足,打擊力度偏弱,難以形成持續(xù)震懾。最后,老年人對(duì)AI技術(shù)認(rèn)知有限,辨別虛擬與現(xiàn)實(shí)能力薄弱,防范意識(shí)不足,易被情感話術(shù)迷惑。
治理“情感殺豬盤(pán)”圍獵亂象需要多方聯(lián)動(dòng)、標(biāo)本兼治,構(gòu)建全鏈條治理體系。前端源頭管控,監(jiān)管部門(mén)應(yīng)完善法律法規(guī),明確AI內(nèi)容生成與傳播規(guī)范,強(qiáng)制AI內(nèi)容標(biāo)注醒目化,并將利用AI圍獵老年人納入從重處罰范疇。壓實(shí)平臺(tái)責(zé)任,建立涉老內(nèi)容專(zhuān)項(xiàng)審核機(jī)制,優(yōu)化算法推送,阻斷違規(guī)內(nèi)容傳播鏈條,清理違規(guī)賬號(hào)與內(nèi)容。后端從嚴(yán)打擊,公安、網(wǎng)信、市場(chǎng)監(jiān)管等部門(mén)應(yīng)聯(lián)動(dòng)開(kāi)展專(zhuān)項(xiàng)整治,深挖黑產(chǎn)鏈條,從嚴(yán)查處批量制作、傳播、變現(xiàn)的不法分子,形成高壓態(tài)勢(shì)。
斬?cái)嗉夹g(shù)黑產(chǎn)的圍獵之手,可以從“AI內(nèi)容強(qiáng)制標(biāo)注”開(kāi)始,讓網(wǎng)絡(luò)空間更加清朗潔凈。技術(shù)向善才能行穩(wěn)致遠(yuǎn),法治護(hù)航才能守護(hù)夕陽(yáng)。“AI霸總”圍獵老年人既是技術(shù)濫用的警鐘,也是社會(huì)治理的考題。守護(hù)老年群體的合法權(quán)益與情感凈土,離不開(kāi)制度監(jiān)管的利劍、行業(yè)自律的堅(jiān)守,更離不開(kāi)公眾參與的合力。讓每一位老年人都能安享幸福晚年,彰顯社會(huì)溫度與法治尊嚴(yán)。