這種留在公開評論區(qū)或者對話框里的聯(lián)系方式,可能會引來更多垂涎。有網(wǎng)友小雪透露,她79歲的奶奶就關(guān)注了很多AI帥哥并且經(jīng)常刷他們的視頻。一些AI帥哥會誘導(dǎo)老人留下聯(lián)系方式,奶奶就曾在評論區(qū)留下過手機號,后續(xù)就有一些人陸續(xù)加上她的微信,先是關(guān)心老人噓寒問暖,接著就開始賣保健品和網(wǎng)課。小雪奶奶最近遇到的騙局就是花2000元報名了直播網(wǎng)課,學(xué)習(xí)電商賣貨?!拔夷棠桃仓乐百I的那些保健品沒用,還想著通過電商賣掉回本,結(jié)果只是一個新圈套罷了?!?/p>
制作前述風(fēng)格和難度的視頻幾乎是沒有門檻和成本的。deepseek、豆包等軟件可以生成詳細(xì)的數(shù)字人提示詞,將它們輸入AI視頻生成軟件,就能夠根據(jù)場景、文本需求產(chǎn)出較為逼真的視頻——整個過程不過幾分鐘。這樣看來,在AI工具的輔助下,一天制造100個AI霸總完全不成問題。
網(wǎng)絡(luò)上同時存在大量低至幾毛幾塊的短視頻起號教程,瞄準(zhǔn)中老年情感賽道。其中,生肖、AI萌娃、AI帥哥等是最熱門的細(xì)分內(nèi)容,常見的變現(xiàn)方式是櫥窗帶貨、直播等。有導(dǎo)師在課程中透露,“賬號是消耗品,違規(guī)了就換號,多做幾個號每月賺個八千一萬不成問題。”
在此背景下,相關(guān)部門和平臺正在進(jìn)一步推進(jìn)AI內(nèi)容的治理規(guī)范。四部門聯(lián)合出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》,其中要求人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識,新規(guī)自當(dāng)年9月1日起施行。即便用戶不主動聲明“內(nèi)容由AI生成”,平臺也會在視頻左下角補上聲明提醒用戶。然而,該機制在實踐中可能存在一些漏洞,部分AI生成視頻仍無標(biāo)注。網(wǎng)絡(luò)上不少“秘籍”會傳授繞過平臺“AI打標(biāo)”的經(jīng)驗,有的還會售賣預(yù)配置的鏡像文件,用其生成的虛擬人形象可規(guī)避平臺的AI內(nèi)容強制標(biāo)注機制。
相關(guān)治理仍在完善中。這些套路奏效的背后,的確存在真實陪伴的缺失與數(shù)字素養(yǎng)的短板。因此技術(shù)設(shè)防之外,更重要的是讓真實的關(guān)心填補這些情感空白。