“應(yīng)建立負(fù)樣本庫。”

有個上市公司老總手捧鮮花，說這輩子沒啥遺憾，就等我，問我愿不愿意跟他走。翁瑤的媽媽興奮地跟她分享這段經(jīng)歷。這種“霸道總裁愛上我”的橋段已經(jīng)困擾翁瑤數(shù)月。翁瑤的媽媽今年68歲，二十多年前離異，平日消遣愛刷短視頻。起初，翁瑤并未過多干預(yù)，但去年11月起，她逐漸發(fā)現(xiàn)媽媽不對勁。媽媽總是頻繁提及有富商想跟她在一起，接過手機(jī)后才發(fā)現(xiàn)，媽媽的短視頻賬號已被“AI霸總”攻陷。

檢索多個短視頻平臺發(fā)現(xiàn)，這類“AI霸總”實(shí)質(zhì)上是AI數(shù)字人。在視頻中，他們通常身處富麗堂皇的會客廳、辦公室，展現(xiàn)出儒雅、深情款款的形象。這些視頻通過添加“帥氣大叔”“黃昏戀”等標(biāo)簽，被精準(zhǔn)推送給缺乏情感關(guān)照的中老年女性。這些“AI霸總”瞄準(zhǔn)老年群體，背后藏著帶貨、詐騙等多重陷阱。全國人大代表李秋建議，為推動銀發(fā)經(jīng)濟(jì)高質(zhì)量發(fā)展，應(yīng)嚴(yán)打欺詐、誘導(dǎo)老年人下單等行為。

“姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸著良心說，我到底帥不帥”。類似的臺詞不斷從姜小星奶奶的手機(jī)中傳出，一度讓姜小星覺得“腦殼疼”。但姜小星的奶奶卻樂此不疲?！皫洠闾珟浟??！苯⌒悄棠虒χ謾C(jī)屏幕里的“AI霸總”，隔空比出“點(diǎn)贊”的手勢。姜小星說，奶奶關(guān)注了三四十位畫風(fēng)雷同的“AI霸總”。這樣的視頻，奶奶可以從早刷到晚。

老年人對于“AI霸總”的癡迷程度不止停留在“養(yǎng)眼”。在這類視頻中，“AI霸總”往往會釋放出求偶信號，“共度余生”“找個疼你的人”等都是常見的話術(shù)。視頻的評論區(qū)則匯集了大量老年人的真誠回應(yīng)。有人會回復(fù)“好啊，等你來找我”，也有人實(shí)誠地表示“帥弟弟，我是普通人，年紀(jì)很大了，配不上你”。盡管已向奶奶多次解釋視頻的公共屬性，但每當(dāng)奶奶刷到“AI霸總”視頻，她總會認(rèn)為那些話術(shù)是“AI霸總”向自己釋放的專屬愛意。一個月前，奶奶還提到要去外地與一位“AI霸總”奔現(xiàn)，被家人及時勸止。

用AI當(dāng)著她的面做了一個視頻，但還是勸阻無效。羅珊珊告訴《中國新聞周刊》，兩個月前，她的奶奶刷到了一條“AI霸總”的視頻。“AI霸總”在視頻里說，禮物到門口了要去拿。老人大半夜的就去了。老人本身有基礎(chǔ)病，后來得了重感冒。想要澆滅“AI霸總”與老年人之間的“火花”并不容易。羅珊珊給《中國新聞周刊》提供的截圖顯示，短視頻平臺首頁給奶奶推薦的4條視頻中，有3條都是“AI霸總”視頻。羅珊珊嘗試過取消關(guān)注、刷到視頻就點(diǎn)“不感興趣”等方法，但效果不佳。

北京紅颯律師事務(wù)所主任律師黃啟瑞指出，這類視頻本質(zhì)是利用AI合成的霸總形象，給中老年女性提供情緒價值，然后激發(fā)這一群體非理性消費(fèi)或投資行為，進(jìn)而實(shí)現(xiàn)騙財、斂財。

《中國新聞周刊》在短視頻平臺檢索發(fā)現(xiàn)，為積累私域流量，部分“AI霸總”賬號會建立專屬粉絲群。記者進(jìn)入了4個百人以上的粉絲群，這些群聊消息更新頻率很快，“AI霸總”每天都會在粉絲群中分享直播鏈接，諸多中老年女性在其中踴躍互動。記者點(diǎn)進(jìn)一個名為“建國情感”的“AI霸總”直播間后發(fā)現(xiàn)，該直播正打著“AI霸總給你送禮物”的名義，推銷一款售價為59.9元的“武財神招財令掛件”，商品銷量已達(dá)3.9萬件。

還有“AI霸總”直接在商品銷售頁面的視頻中演起苦情戲。在一個售價99元的女士手鐲銷售頁面中，一位“AI霸總”動情地講述道：“姐姐你快過來，我們差點(diǎn)就陷入陰謀，萬劫不復(fù)……如果不是我開公司，想接你回家過好日子，我媽和小海也不會吃這些苦，受這些罪……”

這類以帶貨為目的的“AI霸總”視頻，通常由商家外包給專業(yè)視頻制作團(tuán)隊生產(chǎn)。某電商平臺上的某視頻制作團(tuán)隊成員告訴記者，團(tuán)隊專業(yè)接商單，包括與跨境電商合作。報價方面，1分鐘以內(nèi)的視頻，代做1個50元；代做50個，每個視頻40元；代做100個視頻則單價降到30元。

不少“AI霸總”背后由婚戀機(jī)構(gòu)運(yùn)作。記者以中老年女性身份，按照鏈接卡的提示添加了貴州某婚戀服務(wù)公司的企業(yè)微信。對方回復(fù)：“姐姐，我們是大哥的紅娘，你要在我們這邊花980元辦會員，才能跟大哥聯(lián)系。”

為了進(jìn)一步了解這類“AI霸總”視頻的生成、發(fā)布流程，記者用生成式AI創(chuàng)作平臺先后制作了3個10秒的“AI霸總”視頻。在某平臺上傳“AI霸總”角色圖片后，系統(tǒng)自動識別匹配了“成熟總裁”的音色。設(shè)定完說話內(nèi)容、動作描述，6小時后，記者得到了一個像模像樣的“AI霸總”視頻。另一App生成的“AI霸總”視頻，耗時短至2—3小時。

隨后，記者在某短視頻平臺注冊了一個全新賬號，用以測試制作好的3個“AI霸總”視頻。不到18小時，賬號收獲了500多位粉絲，3個視頻中，瀏覽量最高的達(dá)1.2萬，較低的也已超過5000。同時，記者收到了中老年女性的大量評論、私信，有的在私信中向記者透露了生日、年齡等信息。

實(shí)際上，記者發(fā)布的“AI霸總”視頻并不完美。在其中一個視頻的制作過程中，記者設(shè)置了“緩緩掏出鉆戒”的精細(xì)指令，而生成的“AI霸總”在完成這一動作時僅拿起鉆石，將戒托留在了戒指盒中。但視頻發(fā)布后，這一不合常理之處并未被指出。

依據(jù)多位受訪家屬的講述，在老齡化社會，中老年人的情感需求普遍存在。羅珊珊說，沒能約束奶奶看短視頻的原因也較令人心酸，奶奶不識字，在農(nóng)村的娛樂活動非常有限。家里的年輕人也沒有經(jīng)常陪伴在身邊?？炊桃曨l是她和爺爺為數(shù)不多的消遣方式。

數(shù)據(jù)也佐證了這一點(diǎn)。2024年10月，由民政部等共同組織發(fā)布的《第五次中國城鄉(xiāng)老年人生活狀況抽樣調(diào)查基本數(shù)據(jù)公報》顯示，2021年，我國老年人生活在空巢家庭（包括獨(dú)居家庭、僅與配偶居住家庭）的比例為59.7%，較2010年上升10.4個百分點(diǎn)。

一些場合下，“AI霸總”的出現(xiàn)只是“主打一個陪伴”。日前，記者點(diǎn)進(jìn)某個“AI霸總”直播間，看到一位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音，其音色是一個帶地方口音的中年真人男聲，與此前發(fā)布的AI視頻里的聲音完全不一樣，但此時，“AI霸總”是誰似乎已不重要。

為什么中老年人容易“中招”？快思慢想研究院院長田豐分析稱，一方面，中老年人作為AI時代下的“弱勢群體”，更容易相信“眼見為實(shí)”；另一方面，2023年起，AI數(shù)字人在短視頻賽道被大量運(yùn)用，當(dāng)其被濫用于黑灰產(chǎn)，在評論區(qū)不斷有人造勢的情況下，老年人出于從眾心理更容易上當(dāng)受騙。

黃啟瑞指出，因相信“AI霸總”視頻遭遇財產(chǎn)損害，維權(quán)困難的原因在于當(dāng)前生成式AI的技術(shù)門檻較低。一旦被騙，受害者因缺乏取證技術(shù)及工具，難以獨(dú)立完成證據(jù)收集，證據(jù)鏈無法形成閉環(huán)。如果委托律師維權(quán)，又要承受高昂的維權(quán)成本。

檢索短視頻平臺發(fā)現(xiàn)，當(dāng)前大多數(shù)“AI霸總”視頻都標(biāo)有“內(nèi)容由AI生成”字樣，但仍有少量視頻缺乏標(biāo)識。值得注意的是，這類標(biāo)識往往通過一行小字的形式出現(xiàn)在視頻左下角，難以對用戶起到顯著提示作用。

依據(jù)國家網(wǎng)信辦2022年11月頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，深度合成服務(wù)提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務(wù)時，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識。

田豐告訴《中國新聞周刊》，當(dāng)前，仍存在一些不法團(tuán)隊通過對國外的開源工具進(jìn)行修改，使生成的視頻產(chǎn)品缺乏AI標(biāo)識。黃啟瑞認(rèn)為，在這一問題上，短視頻平臺應(yīng)加強(qiáng)對視頻內(nèi)容的監(jiān)測過濾。

近日，記者向某短視頻平臺客服咨詢“AI霸總”視頻管理、屏蔽相關(guān)事宜?？头貞?yīng)稱，平臺會持續(xù)優(yōu)化推薦和標(biāo)注機(jī)制，若刷到不喜歡的視頻，用戶可通過長按視頻，點(diǎn)擊“不感興趣”按鈕，或通過“屏蔽設(shè)置”為不喜歡的內(nèi)容添加屏蔽詞，系統(tǒng)會根據(jù)用戶反饋減少相關(guān)內(nèi)容推薦。

田豐建議，AI視頻生成模型應(yīng)建立負(fù)樣本庫。希望這類模型去預(yù)訓(xùn)練一些負(fù)面樣本，使模型能第一時間識別詐騙、黑灰產(chǎn)等用途的不良素材和指令，直接從源頭上阻止不良視頻的生成。