不少AI虛擬人創(chuàng)作者為避免作品被平臺限流,會在發(fā)布時主動標注內(nèi)容由AI生成。但各平臺也有一部分未主動標注的作品沒有被系統(tǒng)識別出來。有從業(yè)者坦言,隨著各平臺監(jiān)測升級,“不標注等于高風險”。
AI賬號起號成功后大都會隱藏此前引流內(nèi)容,改頭換面成為帶貨賬號;有的順勢打出“AI起號實戰(zhàn)”噱頭,將自身包裝成“成功案例”售賣起號課程;還有一部分賬號被明碼標價進行售賣。實際上,在AI的加持下,起號的成本和門檻被降低,大量此類賬號進入了賬號交易市場。
多數(shù)社交平臺明確禁止賬號轉(zhuǎn)賣。以抖音賬號為例,抖音平臺規(guī)定,賬號僅限本人使用,禁止以任何形式贈予、借用、出租、轉(zhuǎn)讓、售賣或以其他方式許可他人使用該賬號。對此,中國政法大學傳播法研究中心副主任朱巍表示,轉(zhuǎn)讓賬號法律風險非常高,以前可能有一些違法違規(guī)的情況,一旦出現(xiàn)問題要承擔相關責任。
當前,人工智能技術帶來便利的同時,也帶來不少風險挑戰(zhàn)。為了促進人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標識,四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》,要求人工智能生成合成內(nèi)容標識包括顯式標識和隱式標識。新規(guī)自2025年9月1日起施行。朱巍表示,新規(guī)正式落地后,此類亂象將得到遏制。顯式標識就是那些被編輯的音視頻、文檔等帶有明確提示的內(nèi)容。而隱式標識則意味著在肉眼上看不到任何標識,但在人工智能審核時會被發(fā)現(xiàn)。這意味著以后再起號時,即便做得再好,強制性的標記也會存在,很難做到以假亂真。