大家好,我是你們的嬋寶,今天有事請大家?guī)兔ΑN蚁霂椭鷭寢尭纳萍依锏纳?,并把老家的土雞蛋分享給粉絲們嘗嘗。
據(jù)央視新聞報(bào)道,在互聯(lián)網(wǎng)上,不少奧運(yùn)冠軍的聲音突然開始推銷農(nóng)產(chǎn)品,知名演員的聲音24小時不間斷在直播間與粉絲互動。這些以假亂真的AI克隆聲音正成為部分自媒體博主的流量密碼。
在短視頻平臺上,一個網(wǎng)名為“我是小助理吖”的賬號利用AI仿冒全紅嬋,帶貨“老家的土雞蛋”。已發(fā)布的17件作品中,有的點(diǎn)贊量高達(dá)1.1萬。評論區(qū)顯示,大量粉絲誤以為這就是全紅嬋本人,紛紛下單購買鏈接中的雞蛋,該商品鏈接顯示已售出4.7萬件。而今年4月,全紅嬋家人曾向媒體證實(shí),全紅嬋并未給相關(guān)農(nóng)產(chǎn)品代言或授權(quán)。
利用AI模仿名人聲音、形象進(jìn)行直播帶貨的情況并不罕見,奧運(yùn)冠軍孫穎莎和王楚欽等也遭遇了同樣的仿冒。
根據(jù)民法典,對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的規(guī)定。未經(jīng)當(dāng)事人同意擅自利用AI模仿其聲音帶貨的行為,侵犯了名人的肖像權(quán)。如果公眾對這個AI模仿聲音信以為真,并因帶貨行為對該名人產(chǎn)生不良印象,致其形象受損,那么博主等相關(guān)當(dāng)事人還侵犯了該名人的名譽(yù)權(quán)。
此外,利用AI模仿他人聲音對消費(fèi)者構(gòu)成了誤導(dǎo),損害了消費(fèi)者的知情權(quán)和選擇權(quán),擾亂了正常的市場秩序和網(wǎng)絡(luò)空間生態(tài)。如果推銷的商品有問題,還涉嫌欺詐,違反廣告法,情節(jié)嚴(yán)重的或觸及刑法。
對于這種用AI克隆名人的聲音、形象帶貨的行為,社會呼吁必須對制作人、使用人及平臺方進(jìn)行嚴(yán)肅治理。由于AI技術(shù)的快速發(fā)展和應(yīng)用的復(fù)雜性,法律存在一定的滯后性,需要不斷改進(jìn)和完善現(xiàn)有法律法規(guī),強(qiáng)化執(zhí)行力度,提升治理的針對性和有效性,對違法者依法嚴(yán)懲。
平臺層面要切實(shí)履行監(jiān)管責(zé)任,建立健全對AI模仿聲音的審核和侵權(quán)舉報(bào)機(jī)制,通過檢測工具對深度合成內(nèi)容進(jìn)行標(biāo)識,及時發(fā)現(xiàn)和攔截侵權(quán)、虛假、違法等不良內(nèi)容。對被侵權(quán)人的訴求,如要求平臺刪除偽造內(nèi)容、主張侵權(quán)賠償?shù)?,?yīng)及時受理。
AI模仿名人聲音等現(xiàn)象的出現(xiàn),也應(yīng)當(dāng)引起人們的深度思考:在AI的研發(fā)和應(yīng)用中,如何尊重人的尊嚴(yán)和權(quán)益,將“智能向善原則”“尊嚴(yán)原則”和“責(zé)任原則”貫穿始終,確保AI始終服務(wù)于人的發(fā)展方向上。
快速進(jìn)化的AI生成技術(shù),讓生成假照片、假圖像,甚至視頻換臉都更加容易,且真假難辨。尤其是AI合成的假視頻甚至冒充名醫(yī)、名人進(jìn)行虛假宣傳,對公眾實(shí)施詐騙。
2025-03-16 11:36:26院士帶貨竟是AI偽造!新技術(shù)如何才能用在正道上?