“霸總”圍獵中老年女性代表急了 AI騙局頻現(xiàn)(4)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-03-08 18:12:08 大河報

一些場合下，“AI霸總”的出現(xiàn)只是“主打一個陪伴”。日前，記者點進某個“AI霸總”直播間，看到一位奶奶邊包餃子，邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音，其音色是一個帶地方口音的中年真人男聲，與此前發(fā)布的AI視頻里的聲音完全不一樣，但此時，“AI霸總”是誰似乎已不重要。

為什么中老年人容易“中招”？快思慢想研究院院長田豐分析稱，一方面，中老年人作為AI時代下的“弱勢群體”，更容易相信“眼見為實”；另一方面，2023年起，AI數(shù)字人在短視頻賽道被大量運用，當其被濫用于黑灰產，在評論區(qū)不斷有人造勢的情況下，老年人出于從眾心理更容易上當受騙。

黃啟瑞指出，因相信“AI霸總”視頻遭遇財產損害，維權困難的原因在于當前生成式AI的技術門檻較低。一旦被騙，受害者因缺乏取證技術及工具，難以獨立完成證據收集，證據鏈無法形成閉環(huán)。如果委托律師維權，又要承受高昂的維權成本。

檢索短視頻平臺發(fā)現(xiàn)，當前大多數(shù)“AI霸總”視頻都標有“內容由AI生成”字樣，但仍有少量視頻缺乏標識。值得注意的是，這類標識往往通過一行小字的形式出現(xiàn)在視頻左下角，難以對用戶起到顯著提示作用。

依據國家網信辦2022年11月頒布的《互聯(lián)網信息服務深度合成管理規(guī)定》，深度合成服務提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務時，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識。

田豐告訴《中國新聞周刊》，當前，仍存在一些不法團隊通過對國外的開源工具進行修改，使生成的視頻產品缺乏AI標識。黃啟瑞認為，在這一問題上，短視頻平臺應加強對視頻內容的監(jiān)測過濾。

近日，記者向某短視頻平臺客服咨詢“AI霸總”視頻管理、屏蔽相關事宜?？头貞Q，平臺會持續(xù)優(yōu)化推薦和標注機制，若刷到不喜歡的視頻，用戶可通過長按視頻，點擊“不感興趣”按鈕，或通過“屏蔽設置”為不喜歡的內容添加屏蔽詞，系統(tǒng)會根據用戶反饋減少相關內容推薦。

田豐建議，AI視頻生成模型應建立負樣本庫。希望這類模型去預訓練一些負面樣本，使模型能第一時間識別詐騙、黑灰產等用途的不良素材和指令，直接從源頭上阻止不良視頻的生成。

首頁上一頁 1 2 34共 4 頁

(責任編輯：zhangxiaohua)

關閉

“霸總”圍獵中老年女性 代表急了 AI騙局頻現(xiàn)(4)

相關新聞

今日熱點

頻道熱點

“霸總”圍獵中老年女性代表急了 AI騙局頻現(xiàn)(4)