此外,央視調(diào)查還涉及 AI 虛擬陪伴軟件領(lǐng)域。AI 的可定制性使其高度擬人化,通過投喂數(shù)據(jù),用戶可以將虛擬陪伴軟件中的智能體打造成理想的情感投射對(duì)象。業(yè)內(nèi)人士介紹稱,這類軟件大多是境外 AI 聊天軟件,普遍尺度較大,充斥著色情內(nèi)容。這些軟件無法從國(guó)內(nèi)應(yīng)用市場(chǎng)下載,一些不法分子開發(fā)出各種灰色渠道,讓國(guó)內(nèi)用戶下載并使用這些境外涉黃 AI 聊天軟件,以此牟利。
記者在多個(gè)社交平臺(tái)搜索發(fā)現(xiàn),大量以“可開車、臉紅心跳、開放、無限制詞”為關(guān)鍵詞的帖子中,用戶互相分享 AI 聊天軟件下載鏈接和邀請(qǐng)碼。記者實(shí)際體驗(yàn)的一款 AI 聊天軟件中,聊天內(nèi)容幾乎全部圍繞各種色情話題展開。業(yè)內(nèi)人士表示,戀愛的感覺、及時(shí)的回復(fù)、量身定制的人設(shè)吸引了眾多年輕人沉浸其中,其中不乏未成年人。
報(bào)道指出,這類行為已違反相關(guān)法律法規(guī)。2025 年 4 月,中央網(wǎng)信辦印發(fā)通知,在全國(guó)部署開展為期 3 個(gè)月的“清朗 · 整治 AI 技術(shù)濫用”專項(xiàng)行動(dòng),明確將利用 AI 制作發(fā)布色情低俗內(nèi)容列入重點(diǎn)整治范圍。2026 年 4 月 10 日,《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式公布,進(jìn)一步明確了安全評(píng)估和算法備案的相關(guān)要求,并對(duì)未成年人使用擬人化互動(dòng)服務(wù)作出專門規(guī)定。
本文轉(zhuǎn)自【央視財(cái)經(jīng)】;如今,生成式AI廣泛應(yīng)用,迭代迅速,給生活帶來了不小的改變
2026-04-13 08:48:07央視曝光AI造黃產(chǎn)業(yè)鏈