被央視曝光涉黃AI軟件未下架 黑產(chǎn)鏈條令人震驚。近日，央視新聞曝光了一條隱蔽的AI“造黃”產(chǎn)業(yè)鏈，揭露了不法分子利用生成式AI技術(shù)公然兜售不雅視頻教程、定制不雅內(nèi)容，甚至將境外涉黃AI軟件引入國(guó)內(nèi)，規(guī)避監(jiān)管、誘導(dǎo)未成年人，嚴(yán)重污染網(wǎng)絡(luò)空間。這些行為無(wú)底線且令人憤怒，給所有人敲響了警鐘。

隨著生成式AI技術(shù)的普及，AI視頻生成和AI聊天陪伴等應(yīng)用走進(jìn)大眾生活，為人們帶來(lái)便利的同時(shí)，也被不法分子盯上，成為牟取暴利的工具。記者在多個(gè)互聯(lián)網(wǎng)平臺(tái)檢索發(fā)現(xiàn)，有不法分子發(fā)布“AI制作美女視頻”“大尺度內(nèi)容定制”等誘人標(biāo)題，吸引用戶關(guān)注，實(shí)則兜售AI“造黃”教程和提示詞，聲稱僅憑一張圖片、幾句話就能生成滿足需求的不雅視頻。

進(jìn)一步調(diào)查發(fā)現(xiàn)，這些教程不僅詳細(xì)講解如何使用AI軟件生成不雅內(nèi)容，還刻意引導(dǎo)用戶規(guī)避監(jiān)管，如使用境外圖生視頻AI軟件，將程序部署在本地電腦離線運(yùn)行，避免被平臺(tái)檢測(cè)；將敏感詞匯翻譯成英文，用隱晦表述編寫(xiě)提示詞，繞過(guò)AI應(yīng)用的審核機(jī)制。更令人震驚的是，這些教程價(jià)格低廉，最低僅需9.9元，普通人只需花費(fèi)少量金錢(qián)就能獲得全套“造黃”技巧，門(mén)檻極低。

為了驗(yàn)證真相，記者以9.9元和9.8元的價(jià)格分別在兩個(gè)平臺(tái)購(gòu)買(mǎi)了兩組提示詞。打開(kāi)商家發(fā)來(lái)的文件后，記者發(fā)現(xiàn)，提示詞描述極其細(xì)致，從人物發(fā)型、服飾到姿勢(shì)、表情，甚至身體部位的扭動(dòng)幅度都做了精準(zhǔn)刻畫(huà)，顯然不法分子早已摸透了AI生成的漏洞，專門(mén)打造了這套規(guī)避審核的“話術(shù)”。

隨后，記者對(duì)10款市面上常用的AI應(yīng)用進(jìn)行實(shí)測(cè)，結(jié)果令人心驚。如果輸入露骨的提示詞，多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制拒絕生成內(nèi)容；但只要使用商家提供的隱晦提示詞，就能輕松繞過(guò)限制，在幾分鐘內(nèi)生成半裸、低俗的擦邊視頻。其中一款名為“哩布哩布AI”的應(yīng)用更是毫無(wú)門(mén)檻，輸入提示詞后直接生成不雅內(nèi)容，未觸發(fā)任何監(jiān)管預(yù)警。

市場(chǎng)上還出現(xiàn)了專門(mén)靠AI生成不雅視頻牟利的軟件，號(hào)稱“免下載、能快速換臉”，只要用戶付費(fèi)，就能通過(guò)一張照片生成全裸照片和不雅視頻，甚至可以定向定制，將普通人的照片替換到不雅視頻中，極易引發(fā)造謠、誹謗等問(wèn)題，嚴(yán)重侵犯他人隱私和名譽(yù)權(quán)。

除了AI生成不雅視頻，境外涉黃AI聊天軟件也通過(guò)灰色通道流入國(guó)內(nèi)，成為新的隱患。這些境外軟件充斥著大量色情內(nèi)容，無(wú)法從國(guó)內(nèi)應(yīng)用市場(chǎng)下載，但不法分子開(kāi)發(fā)出各種繞過(guò)監(jiān)管的下載鏈接和邀請(qǐng)碼，在社交平臺(tái)、短視頻平臺(tái)引流推廣，還通過(guò)“拉新返利”“充值優(yōu)惠”等方式吸引用戶下載使用，其中不乏未成年人。

記者下載一款名為“Dady”的境外AI聊天軟件實(shí)測(cè)發(fā)現(xiàn)，進(jìn)入聊天界面后，AI會(huì)自動(dòng)生成色情相關(guān)的回復(fù)提示，全程圍繞低俗話題展開(kāi)，擬人化的互動(dòng)方式極易讓年輕人沉浸其中，尤其是未成年人，長(zhǎng)期接觸這類內(nèi)容會(huì)嚴(yán)重影響身心健康，甚至誘發(fā)不良行為。

業(yè)內(nèi)人士表示，AI“造黃”產(chǎn)業(yè)鏈的泛濫不僅污染網(wǎng)絡(luò)空間、敗壞社會(huì)風(fēng)氣，還涉嫌違法犯罪，存在信息安全隱患。我國(guó)已出臺(tái)相關(guān)規(guī)定，網(wǎng)信辦開(kāi)展專項(xiàng)行動(dòng)整治未履行備案程序、濫用AI技術(shù)提供不良內(nèi)容的產(chǎn)品；《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》進(jìn)一步明確了AI服務(wù)的安全評(píng)估和算法備案要求，加強(qiáng)對(duì)未成年人的保護(hù)。

央視曝光后，相關(guān)部門(mén)迅速行動(dòng)，對(duì)涉事平臺(tái)、不法分子展開(kāi)排查整治，下架違規(guī)AI應(yīng)用、關(guān)停涉黃賬號(hào)，嚴(yán)厲打擊AI“造黃”黑產(chǎn)。徹底鏟除這條產(chǎn)業(yè)鏈需要平臺(tái)、監(jiān)管部門(mén)和公眾共同努力：平臺(tái)要加強(qiáng)AI內(nèi)容審核，完善審核機(jī)制，堵住技術(shù)漏洞；監(jiān)管部門(mén)要加大排查力度，嚴(yán)厲懲處不法分子；公眾也要提高警惕，拒絕購(gòu)買(mǎi)、傳播AI不雅內(nèi)容，發(fā)現(xiàn)相關(guān)線索及時(shí)舉報(bào)，同時(shí)保護(hù)好個(gè)人照片和信息，避免被不法分子利用。

AI技術(shù)本身是中性的，應(yīng)成為服務(wù)人類的工具，而不該成為不法分子牟取暴利、污染網(wǎng)絡(luò)的武器。此次央視曝光不僅揭開(kāi)了AI“造黃”黑產(chǎn)的真面目，更敲響了技術(shù)倫理的警鐘。希望所有AI開(kāi)發(fā)者和平臺(tái)經(jīng)營(yíng)者堅(jiān)守法律和倫理底線，規(guī)范AI技術(shù)使用，共同守護(hù)干凈、健康的網(wǎng)絡(luò)空間，讓AI技術(shù)真正為社會(huì)發(fā)展賦能。