新型AI換臉盜號(hào)案細(xì)節(jié)曝光 身份認(rèn)同危機(jī)浮現(xiàn)!演員溫崢嶸近日闖入一個(gè)冒充她的AI直播間,質(zhì)問(wèn)對(duì)方:“你是溫崢嶸,那我是誰(shuí)?”然而,回應(yīng)她的是拉黑與禁言。這一幕揭示了AI時(shí)代身份認(rèn)同的危機(jī)——當(dāng)你的面容、聲音和神態(tài)被技術(shù)輕易復(fù)制時(shí),你還能證明自己是誰(shuí)嗎?

溫崢嶸同時(shí)“現(xiàn)身”三個(gè)不同直播間,推廣不同產(chǎn)品,動(dòng)作神態(tài)與本人高度相似。這些直播間通過(guò)錄屏摳圖或盜用她過(guò)往的直播素材,經(jīng)過(guò)深度合成與語(yǔ)音重塑,嵌入直播間模擬互動(dòng)。盡管她在4月已公開聲明并維權(quán),但AI冒充行為依舊泛濫。

AI換臉技術(shù)基于深度學(xué)習(xí)算法和計(jì)算機(jī)視覺(jué)技術(shù),能夠精準(zhǔn)地進(jìn)行面部特征轉(zhuǎn)移。這種技術(shù)具有高度擬真性,能捕捉并復(fù)現(xiàn)面部細(xì)節(jié),使得合成結(jié)果與真實(shí)人臉極為相似,肉眼難以分辨。隨著技術(shù)普及,許多手機(jī)應(yīng)用或在線工具都能實(shí)施一鍵換臉,使用門檻大大降低。

溫崢嶸團(tuán)隊(duì)曾在一天內(nèi)集中舉報(bào)50個(gè)假冒賬號(hào),有的造假賬號(hào)被下架,有的剛被下架就又換殼重生。工作人員表示,部分商家只需截取一段影像,用簡(jiǎn)易工具就能生成虛假內(nèi)容,而他們?nèi)∽C卻要花費(fèi)很大精力。
