為深入了解AI工具自身的內(nèi)容審核機(jī)制,記者對(duì)用戶使用較多的10款文生圖、文生視頻AI工具進(jìn)行實(shí)測(cè),以對(duì)明星“一鍵變臉”等指令測(cè)試其技術(shù)邊界與審核能力。結(jié)果顯示,僅一款A(yù)I工具明確拒絕生成真實(shí)公眾人物虛擬圖像。部分應(yīng)用在簡(jiǎn)單操作后即可生成高度逼真的明星虛假內(nèi)容。值得注意的是,部分AI工具在首次接收到涉及真實(shí)人物的指令時(shí)會(huì)予以拒絕,但通過選擇平臺(tái)的替代選項(xiàng)或更換表述,用戶仍可繞過初始限制,實(shí)現(xiàn)圖片或視頻生成。
有平臺(tái)方公開回應(yīng)稱,AI內(nèi)容侵權(quán)識(shí)別屬于行業(yè)性技術(shù)難題,惡意仿冒賬號(hào)在持續(xù)與平臺(tái)進(jìn)行技術(shù)對(duì)抗,未來會(huì)持續(xù)加大技術(shù)投入,積極應(yīng)對(duì)挑戰(zhàn),維護(hù)創(chuàng)作者、商家及消費(fèi)者的合法權(quán)益。