一些場合下,“AI霸總”的出現(xiàn)只是“主打一個陪伴”。日前,記者點進某個“AI霸總”直播間,看到一位奶奶邊包餃子,邊與“AI霸總”連麥聊天。直播間的“AI霸總”開了語音,其音色是一個帶地方口音的中年真人男聲,與此前發(fā)布的AI視頻里的聲音完全不一樣,但此時,“AI霸總”是誰似乎已不重要。
為什么中老年人容易“中招”?快思慢想研究院院長田豐分析稱,一方面,中老年人作為AI時代下的“弱勢群體”,更容易相信“眼見為實”;另一方面,2023年起,AI數(shù)字人在短視頻賽道被大量運用,當其被濫用于黑灰產,在評論區(qū)不斷有人造勢的情況下,老年人出于從眾心理更容易上當受騙。
黃啟瑞指出,因相信“AI霸總”視頻遭遇財產損害,維權困難的原因在于當前生成式AI的技術門檻較低。一旦被騙,受害者因缺乏取證技術及工具,難以獨立完成證據收集,證據鏈無法形成閉環(huán)。如果委托律師維權,又要承受高昂的維權成本。
檢索短視頻平臺發(fā)現(xiàn),當前大多數(shù)“AI霸總”視頻都標有“內容由AI生成”字樣,但仍有少量視頻缺乏標識。值得注意的是,這類標識往往通過一行小字的形式出現(xiàn)在視頻左下角,難以對用戶起到顯著提示作用。
依據國家網信辦2022年11月頒布的《互聯(lián)網信息服務深度合成管理規(guī)定》,深度合成服務提供者提供人臉生成、姿態(tài)操控等人物圖像、視頻生成編輯服務時,可能導致公眾混淆或者誤認的,應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識。
田豐告訴《中國新聞周刊》,當前,仍存在一些不法團隊通過對國外的開源工具進行修改,使生成的視頻產品缺乏AI標識。黃啟瑞認為,在這一問題上,短視頻平臺應加強對視頻內容的監(jiān)測過濾。
近日,記者向某短視頻平臺客服咨詢“AI霸總”視頻管理、屏蔽相關事宜??头貞Q,平臺會持續(xù)優(yōu)化推薦和標注機制,若刷到不喜歡的視頻,用戶可通過長按視頻,點擊“不感興趣”按鈕,或通過“屏蔽設置”為不喜歡的內容添加屏蔽詞,系統(tǒng)會根據用戶反饋減少相關內容推薦。
田豐建議,AI視頻生成模型應建立負樣本庫。希望這類模型去預訓練一些負面樣本,使模型能第一時間識別詐騙、黑灰產等用途的不良素材和指令,直接從源頭上阻止不良視頻的生成。
聊天時,遇到“疑似沒招”“臉給我氣雀紫”“聽取爸聲一片”這樣的梗,你能接住嗎?作為全國人大代表,在履職的一年間,我注意到隨著網絡新媒體的迅猛發(fā)展,青少年的語言表達趨于碎片化
2026-03-03 14:00:36代表呼吁別讓網絡爛梗圍獵青少年作者 | 寶珠(發(fā)自鄭州)編輯 | 江江視覺 | 諾言“近日,顧氏集團……”一名身著白色正裝的“記者”舉著話筒,鏗鏘有力地念著臺詞。在她身后,四個戴墨鏡的保鏢簇擁著一位西裝革履的男子走了過來
2025-11-14 19:00:03短劇拍攝救活鄭州爛尾樓