為深入了解AI工具自身的內(nèi)容審核機(jī)制,記者對用戶使用較多的10款文生圖、文生視頻AI工具進(jìn)行實(shí)測,以對明星“一鍵變臉”等指令測試其技術(shù)邊界與審核能力。結(jié)果顯示,僅一款A(yù)I工具明確拒絕生成真實(shí)公眾人物虛擬圖像。部分應(yīng)用在簡單操作后即可生成高度逼真的明星虛假內(nèi)容。值得注意的是,部分AI工具在首次接收到涉及真實(shí)人物的指令時(shí)會予以拒絕,但通過選擇平臺的替代選項(xiàng)或更換表述,用戶仍可繞過初始限制,實(shí)現(xiàn)圖片或視頻生成。
有平臺方公開回應(yīng)稱,AI內(nèi)容侵權(quán)識別屬于行業(yè)性技術(shù)難題,惡意仿冒賬號在持續(xù)與平臺進(jìn)行技術(shù)對抗,未來會持續(xù)加大技術(shù)投入,積極應(yīng)對挑戰(zhàn),維護(hù)創(chuàng)作者、商家及消費(fèi)者的合法權(quán)益。