“你是溫崢嶸,那我是誰?”最近演員溫崢嶸在直播間的靈魂質(zhì)問,把AI深度合成的亂象又推到了大眾眼前。央視特意發(fā)文提醒:現(xiàn)在的AI換臉換聲已經(jīng)逼真到讓人難辨真假,不少名人都成了被“盜臉”的受害者,普通消費者更得提高警惕。
事情得從溫崢嶸偶然刷到的直播間說起。屏幕里的“她”梳著標志性發(fā)型,聲音也和自己幾乎一模一樣,正熱情地向觀眾推薦護膚品,嘴里還說著一套套“親測有效”的話術(shù)。身為當事人的溫崢嶸又氣又懵,立刻進入直播間連麥質(zhì)問,結(jié)果還沒等對方回應(yīng),自己就被火速拉黑了?!拔腋緵]接這個推廣,這些AI合成的我,不僅騙消費者,還砸我招牌!”溫崢嶸在后續(xù)視頻里的憤怒,說出了不少被侵權(quán)名人的心聲。
不光是溫崢嶸,娛樂圈和直播圈里“AI分身”早就不是新鮮事。有網(wǎng)友發(fā)現(xiàn),某帶貨平臺上能同時刷到好幾個“劉濤”“楊冪”,都在賣著不同品牌的日用品;甚至有已故藝人的AI形象被用來直播帶貨,家屬維權(quán)時還被平臺以“技術(shù)難以識別”搪塞。更讓人揪心的是,普通網(wǎng)友也難逃魔爪,有人發(fā)現(xiàn)自己的照片被AI合成到不雅視頻里,有人的聲音被截取后做成詐騙語音,真假難辨的AI內(nèi)容正在制造越來越多的麻煩。
“現(xiàn)在用AI換張臉、仿個聲,門檻低得嚇人?!睆氖翧I技術(shù)開發(fā)的工程師小張透露,網(wǎng)上隨便就能找到開源的換臉工具,花幾十塊錢就能買到教程,對著名人的公開視頻學(xué)習(xí)幾小時,就能做出以假亂真的合成內(nèi)容。而這些“AI分身”一旦進入直播間,帶貨效果還真不少錯——觀眾以為是明星本人推薦,信任感直線上升,商家靠著這種“蹭流量”的方式,單場直播銷售額能輕松破萬。
央視近期曝光多起假冒深海魚油案件,揭露了保健品行業(yè)存在的系統(tǒng)性造假和虛假宣傳問題
2025-06-16 09:00:32央視曝光假冒深海魚油