近日,多個(gè)社交平臺(tái)出現(xiàn)了利用AI軟件生成的惡搞、低俗視頻,其中包括“唐僧與女兒國(guó)國(guó)王接吻”、“孫悟空與白骨精接吻”、“武松和潘金蓮接吻”以及“條紋哥”與車(chē)展模特接吻等。這些視頻都是通過(guò)某款A(yù)I軟件,利用兩張人物圖片生成兩人接吻或擁抱的場(chǎng)景。一些短視頻博主發(fā)布了教學(xué)視頻,展示如何使用這款軟件制作此類(lèi)視頻。
有用戶(hù)在評(píng)論區(qū)提到被惡搞的明星,并希望他們能夠采取法律行動(dòng)。記者也嘗試了該軟件,在支付費(fèi)用并提出要求后約7分鐘,收到了一個(gè)長(zhǎng)約5秒的視頻,其中原本的照片中的人物穿過(guò)分隔線吻在了一起。同樣試用過(guò)該軟件的陳先生表示,他花了9.9元測(cè)試了自己和女友的照片,結(jié)果生成了一個(gè)擁抱接吻的視頻,這讓他女朋友感到驚訝。
這款A(yù)I軟件的技術(shù)名為好贊AI換臉生成合成算法,其基本原理是通過(guò)第三方API實(shí)現(xiàn)圖片人物與視頻中人臉的替換合成。生成的結(jié)果既保留了上傳圖片中的人物特征,又保持了視頻素材中人物的姿態(tài)、表情和動(dòng)作等屬性,旨在為用戶(hù)提供有趣且具有創(chuàng)造性和娛樂(lè)性的視頻合成工具。
關(guān)于這種技術(shù)是否涉嫌違法,河南澤槿律師事務(wù)所的甘小平律師指出,未經(jīng)肖像權(quán)人同意使用他人肖像制作合成親吻視頻屬于利用信息技術(shù)手段偽造他人形象的行為,即使未用于商業(yè)目的,也可能侵犯他人肖像權(quán)。此外,如果合成的視頻對(duì)被合成的人造成不良影響,導(dǎo)致名譽(yù)受損,還可能構(gòu)成對(duì)他人名譽(yù)權(quán)的侵犯。未經(jīng)他人同意采用隱私照片還有可能涉及侵犯隱私權(quán)。如果將此技術(shù)用于制作淫穢視頻進(jìn)行傳播或牟利,則可能涉嫌制作、傳播淫穢物品牟利罪等罪名。律師還提醒,如果平臺(tái)明知或應(yīng)知用戶(hù)利用其平臺(tái)制作、傳播侵權(quán)或違法的AI合成視頻而未采取必要措施,可能構(gòu)成幫助侵權(quán)的法律責(zé)任。
2024年,科技界迎來(lái)歷史性時(shí)刻。國(guó)外的OpenAI推出了視頻生成大模型Sora,國(guó)內(nèi)快手也推出了自研的視頻生成大模型“可靈”
2024-10-20 18:14:04官方發(fā)布意見(jiàn)稿