新型AI換臉盜號案細(xì)節(jié)曝光 身份認(rèn)同危機(jī)浮現(xiàn)!演員溫崢嶸近日闖入一個冒充她的AI直播間,質(zhì)問對方:“你是溫崢嶸,那我是誰?”然而,回應(yīng)她的是拉黑與禁言。這一幕揭示了AI時代身份認(rèn)同的危機(jī)——當(dāng)你的面容、聲音和神態(tài)被技術(shù)輕易復(fù)制時,你還能證明自己是誰嗎?
溫崢嶸同時“現(xiàn)身”三個不同直播間,推廣不同產(chǎn)品,動作神態(tài)與本人高度相似。這些直播間通過錄屏摳圖或盜用她過往的直播素材,經(jīng)過深度合成與語音重塑,嵌入直播間模擬互動。盡管她在4月已公開聲明并維權(quán),但AI冒充行為依舊泛濫。
AI換臉技術(shù)基于深度學(xué)習(xí)算法和計算機(jī)視覺技術(shù),能夠精準(zhǔn)地進(jìn)行面部特征轉(zhuǎn)移。這種技術(shù)具有高度擬真性,能捕捉并復(fù)現(xiàn)面部細(xì)節(jié),使得合成結(jié)果與真實人臉極為相似,肉眼難以分辨。隨著技術(shù)普及,許多手機(jī)應(yīng)用或在線工具都能實施一鍵換臉,使用門檻大大降低。
溫崢嶸團(tuán)隊曾在一天內(nèi)集中舉報50個假冒賬號,有的造假賬號被下架,有的剛被下架就又換殼重生。工作人員表示,部分商家只需截取一段影像,用簡易工具就能生成虛假內(nèi)容,而他們?nèi)∽C卻要花費很大精力。
根據(jù)民法典與個人信息保護(hù)法,未經(jīng)授權(quán)使用他人肖像進(jìn)行AI合成涉嫌侵犯肖像權(quán)與個人信息權(quán)益。但在司法實踐中,多數(shù)案件賠償金額不足萬元,遠(yuǎn)低于商家非法收益。因此,侵權(quán)成本遠(yuǎn)低于維權(quán)成本,使侵權(quán)者有恃無恐。
抖音副總裁李亮發(fā)文稱,平臺上確實存在利用AI仿冒名人帶貨的短視頻內(nèi)容。此類行為嚴(yán)重?fù)p害創(chuàng)作者、商家及平臺信譽,不符合平臺長期利益。抖音非常重視并已開展專項治理。AI內(nèi)容侵權(quán)識別屬于行業(yè)技術(shù)難題,惡意仿冒賬號持續(xù)進(jìn)行技術(shù)對抗,平臺將加大投入應(yīng)對挑戰(zhàn)。