AI視頻制作服務(wù)80元起步。有提供AI數(shù)字人制作軟件的商家稱,購買軟件可以教操作方法,明星以及張雪峰等人都可以生成。購買該軟件月卡188元,永久版288元。
實際上,隨著技術(shù)的進(jìn)步和開源,聲音克隆的門檻并不高。在一個開源軟件中上傳了一段3分鐘的本人錄音,訓(xùn)練出了聲音模型,雖然效果在生成長語句時偶有瑕疵,但對于一些較短的語句來說,幾乎識別不出為合成的語音。
一視頻平臺相關(guān)負(fù)責(zé)人表示,利用AI技術(shù)進(jìn)行虛假宣傳已成為互聯(lián)網(wǎng)廣告安全治理的重要挑戰(zhàn)。為保障用戶權(quán)益,平臺制定嚴(yán)格的管控規(guī)則,如要求廣告內(nèi)容中不得含有虛構(gòu)人設(shè),不得自稱或描述存在某某身份/姓名/職位人設(shè),為產(chǎn)品或服務(wù)做背書。若發(fā)現(xiàn)違規(guī)問題,將對廣告主采取限制投放、封禁賬戶甚至清退等處置。
中國人民大學(xué)人口與發(fā)展研究中心召開“數(shù)字時代老年人短視頻使用與網(wǎng)絡(luò)安全”研討會,并聯(lián)合抖音發(fā)布《老年人短視頻健康使用指南》,涵蓋了幾類短視頻平臺上的典型欺詐案例,其中一類新型騙局是利用 AI 技術(shù)偽造老年人信任的身份,如名人、企業(yè)家、公職人員,或杜撰與養(yǎng)老金發(fā)放、家人健康、子女運(yùn)勢等相關(guān)的信息,誘導(dǎo)老年人點贊、關(guān)注、轉(zhuǎn)發(fā)。一旦這些賬號借“情感釣魚”積累了真實用戶互動,便被包裝成“優(yōu)質(zhì)賬號”,進(jìn)而用于賬號倒賣或參與黑灰產(chǎn)業(yè)活動牟利。
姜萬東指出,使用AI合成“假專家”或權(quán)威人士進(jìn)行帶貨或直播帶貨的行為可能觸及多項法律法規(guī)。根據(jù)《中華人民共和國民法典》,侵犯肖像權(quán)、聲音權(quán),需承擔(dān)停止侵權(quán)、賠償損失等責(zé)任;根據(jù)《中華人民共和國消費者權(quán)益保護(hù)法》,構(gòu)成欺詐的,消費者可要求“退一賠三”;根據(jù)《中華人民共和國刑法》,若涉及詐騙、虛假宣傳等情節(jié)嚴(yán)重的行為,可能構(gòu)成詐騙罪、虛假廣告罪等。使用AI技術(shù)時,需嚴(yán)格遵守法律法規(guī),取得授權(quán)并確保內(nèi)容合法合規(guī)。