近日,一位母親反映,她6歲的兒子常趁她不注意,用家人的手機(jī)觀看一些令人毛骨悚然的視頻。這些視頻中,擬人化的玩偶被喂糞、肢解、扔進(jìn)火鍋,甚至上演玩偶媽媽食子的情節(jié)。
記者調(diào)查發(fā)現(xiàn),這類視頻均為AI生成,通常標(biāo)注為“略向”,主要圍繞“anon犬、soyo貍、天素羅”三個(gè)擬人化角色,在抖音和嗶哩嗶哩兩大視頻平臺廣泛流傳,小紅書、百度等平臺也零星出現(xiàn)。多年來,邪典視頻對少年兒童的侵?jǐn)_一直受到各界高度關(guān)注,但為何這些視頻依然屢禁不絕?
11月底,記者接到網(wǎng)友來信,稱在網(wǎng)絡(luò)視頻平臺上出現(xiàn)大量以動畫人物形象為原型的玩偶AI視頻與圖片,部分內(nèi)容涉嫌呈現(xiàn)血腥暴力、低俗辱虐、恐怖等不當(dāng)要素,并通過玩偶外觀包裝提升點(diǎn)擊率。評論區(qū)有反饋稱幼兒園兒童沉迷觀看。
記者在嗶哩嗶哩和抖音兩大視頻平臺確實(shí)發(fā)現(xiàn)了大量相關(guān)視頻,這些視頻均為AI生成,內(nèi)容圍繞三個(gè)擬人化的虛擬角色“anon犬、soyo貍、天素羅”,標(biāo)題常標(biāo)注為“略向”。一條名為“anon犬的觀察實(shí)驗(yàn)(略向,慎入)”的視頻在嗶哩嗶哩播放量已達(dá)141萬。視頻內(nèi)容顯示,擬人化的anon犬和soyo貍淪為“實(shí)驗(yàn)對象”,遭受各種虐待情節(jié)。據(jù)不完全統(tǒng)計(jì),僅在嗶哩嗶哩,此類視頻就有至少數(shù)百條,在抖音平臺也有上百條,小紅書、百度等平臺亦有零星出現(xiàn)。
這些視頻中,三個(gè)虛擬角色經(jīng)歷著各式各樣的虐待。評論區(qū)時(shí)常出現(xiàn)“還不夠虐”、“好想虐殺它們”等言論。記者還注意到,在多個(gè)“虐向”視頻播放頁面中,出現(xiàn)了AI產(chǎn)品的商業(yè)廣告。
鄧女士講述了自己6歲的兒子趁其不備,用家人的手機(jī)觀看這些令人毛骨悚然的視頻。鄧女士曾在數(shù)個(gè)視頻下留言批評制作者,但留言幾乎都被刪除?!拔乙膊幌胱尯⒆油耆挥檬謾C(jī),但這些內(nèi)容又防不住。”這讓她感到十分無奈和兩難。