數(shù)字人市場(chǎng)存在亂象,部分公司利用AI技術(shù)進(jìn)行深度偽造欺詐。對(duì)此,抖音等平臺(tái)已出臺(tái)相關(guān)規(guī)范,嚴(yán)厲打擊利用AI生成虛擬人物進(jìn)行虛假宣傳、造謠傳謠等行為。抖音要求虛擬主播形象和內(nèi)容須提前備案,直播過(guò)程中需顯著標(biāo)識(shí)虛擬身份,以區(qū)分虛擬與現(xiàn)實(shí)。對(duì)于違規(guī)使用AI生成虛擬人物從事犯罪活動(dòng)的黑產(chǎn)團(tuán)伙,平臺(tái)將配合警方進(jìn)行打擊。
面對(duì)數(shù)字人直播這一新興業(yè)態(tài),各方看法不一。一方面,合規(guī)數(shù)字人產(chǎn)品被認(rèn)為具有較大商用潛力,眾多互聯(lián)網(wǎng)巨頭已展開相關(guān)研發(fā);另一方面,行業(yè)中的欺詐行為引發(fā)關(guān)注,亟待加強(qiáng)監(jiān)管與規(guī)范。公眾對(duì)數(shù)字人直播的態(tài)度各異,有人期待其創(chuàng)新價(jià)值,有人擔(dān)憂技術(shù)濫用帶來(lái)的風(fēng)險(xiǎn)。