春節(jié)臨近,合成短視頻在各大社交平臺(tái)走紅,AI技術(shù)以一種前所未有的娛樂(lè)化姿態(tài)介入了傳統(tǒng)節(jié)日。專(zhuān)家指出,正規(guī)的大型AI服務(wù)平臺(tái)和專(zhuān)業(yè)視頻合成工具已經(jīng)開(kāi)始嘗試加入防止濫用的機(jī)制。例如,強(qiáng)制添加AI生成標(biāo)識(shí)或水印,讓觀(guān)眾能夠輕易分辨出這是合成內(nèi)容。此外,用戶(hù)協(xié)議中也明確禁止未經(jīng)授權(quán)使用他人的形象和聲音。部分平臺(tái)還建立了后臺(tái)內(nèi)容檢測(cè)和過(guò)濾機(jī)制,利用AI自身識(shí)別疑似深度合成的視頻。
然而,實(shí)際情況是,許多工具仍然缺乏足夠的防護(hù)機(jī)制,特別是開(kāi)源模型或小型應(yīng)用,可能根本沒(méi)有添加標(biāo)識(shí)或監(jiān)管限制,這為濫用提供了空間。