央視曝光AI造假引流新套路虛假內(nèi)容泛濫隱患多

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-05-13 10:25:49 央視新聞

隨著人工智能技術(shù)的普及，AIGC技術(shù)正在改變社交媒體生態(tài)。有了創(chuàng)意，它可以生成文字；有了文字，它還能生成圖片，進(jìn)而制作視頻。然而，一些人利用這一工具批量生產(chǎn)虛假內(nèi)容來積累粉絲。

多個社交平臺上出現(xiàn)了大量“AI起號秘籍”相關(guān)內(nèi)容，這些內(nèi)容多以俊男靚女、育兒百科、健康養(yǎng)生為主，大都低俗獵奇。有些AI生成的人物形象能做到以假亂真，還有人傳授繞過平臺“AI打標(biāo)”的經(jīng)驗。

一旦起號成功，這些賬號會隱藏AI引流內(nèi)容，開始帶貨、賣課。有的賬號被明碼標(biāo)價放到賬號交易網(wǎng)站上，形成了一條“起號、轉(zhuǎn)型、轉(zhuǎn)賣”的灰色產(chǎn)業(yè)鏈。

一個育兒短視頻賬號上，大量類似內(nèi)容打著“外國幼兒教育專家”旗號輸出觀點。實際上，這些所謂“外國專家”是AI生成的虛擬形象。在一堂AI數(shù)字人視頻教學(xué)課程中，這個育兒賬號是導(dǎo)師口中的成功起號案例：一個人物是AI數(shù)字人、虛擬人，不是真人，但很像真人。不僅嘴動頭動，身體也在動。該賬號已經(jīng)做到了39萬粉絲，賣貨21萬的戰(zhàn)績。

打造優(yōu)質(zhì)自媒體賬號通常需要耗費大量時間，從創(chuàng)意到文案腳本再到拍攝制作，每一個作品都需要創(chuàng)作者親力親為?，F(xiàn)在，各大社交平臺上出現(xiàn)了大量“AI起號”相關(guān)分享，宣稱零門檻、易操作、漲粉快、可變現(xiàn)。這些教程教授的思路基本一致：僅需借助兩三個AI工具，按標(biāo)準(zhǔn)化流程，幾分鐘就能制作一段時長五秒的美女跳舞視頻，盡管虛擬人動作略有僵硬，但形象逼真。

一位主打“顏值博主人設(shè)”的博主表示，自己選用了一張相貌平平的男生照片，AI工具在此基礎(chǔ)上生成了一張高顏值男生照片。多數(shù)網(wǎng)友并未察覺這是AI生成的虛擬形象。目前，各平臺已普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品進(jìn)行顯著標(biāo)注。這位博主花了900元學(xué)費學(xué)習(xí)AI起號技術(shù)，主要為了購買老師在AI工具中預(yù)配置的鏡像文件，用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺的AI內(nèi)容強制標(biāo)注機制。

12 全文共 2 頁下一頁

關(guān)閉

央視曝光AI造假引流新套路 虛假內(nèi)容泛濫隱患多

相關(guān)新聞

今日熱點

頻道熱點

央視曝光AI造假引流新套路虛假內(nèi)容泛濫隱患多