被央視曝光涉黃AI軟件未下架黑產鏈條令人震驚(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2026-04-13 11:47:23 每日法知

市場上還出現了專門靠AI生成不雅視頻牟利的軟件，號稱“免下載、能快速換臉”，只要用戶付費，就能通過一張照片生成全裸照片和不雅視頻，甚至可以定向定制，將普通人的照片替換到不雅視頻中，極易引發(fā)造謠、誹謗等問題，嚴重侵犯他人隱私和名譽權。

除了AI生成不雅視頻，境外涉黃AI聊天軟件也通過灰色通道流入國內，成為新的隱患。這些境外軟件充斥著大量色情內容，無法從國內應用市場下載，但不法分子開發(fā)出各種繞過監(jiān)管的下載鏈接和邀請碼，在社交平臺、短視頻平臺引流推廣，還通過“拉新返利”“充值優(yōu)惠”等方式吸引用戶下載使用，其中不乏未成年人。

記者下載一款名為“Dady”的境外AI聊天軟件實測發(fā)現，進入聊天界面后，AI會自動生成色情相關的回復提示，全程圍繞低俗話題展開，擬人化的互動方式極易讓年輕人沉浸其中，尤其是未成年人，長期接觸這類內容會嚴重影響身心健康，甚至誘發(fā)不良行為。

業(yè)內人士表示，AI“造黃”產業(yè)鏈的泛濫不僅污染網絡空間、敗壞社會風氣，還涉嫌違法犯罪，存在信息安全隱患。我國已出臺相關規(guī)定，網信辦開展專項行動整治未履行備案程序、濫用AI技術提供不良內容的產品；《人工智能擬人化互動服務管理暫行辦法》進一步明確了AI服務的安全評估和算法備案要求，加強對未成年人的保護。

央視曝光后，相關部門迅速行動，對涉事平臺、不法分子展開排查整治，下架違規(guī)AI應用、關停涉黃賬號，嚴厲打擊AI“造黃”黑產。徹底鏟除這條產業(yè)鏈需要平臺、監(jiān)管部門和公眾共同努力：平臺要加強AI內容審核，完善審核機制，堵住技術漏洞；監(jiān)管部門要加大排查力度，嚴厲懲處不法分子；公眾也要提高警惕，拒絕購買、傳播AI不雅內容，發(fā)現相關線索及時舉報，同時保護好個人照片和信息，避免被不法分子利用。

AI技術本身是中性的，應成為服務人類的工具，而不該成為不法分子牟取暴利、污染網絡的武器。此次央視曝光不僅揭開了AI“造黃”黑產的真面目，更敲響了技術倫理的警鐘。希望所有AI開發(fā)者和平臺經營者堅守法律和倫理底線，規(guī)范AI技術使用，共同守護干凈、健康的網絡空間，讓AI技術真正為社會發(fā)展賦能。

首頁上一頁 12共 2 頁

(責任編輯：0882)

關閉

被央視曝光涉黃AI軟件未下架 黑產鏈條令人震驚(2)

相關新聞

今日熱點

頻道熱點

被央視曝光涉黃AI軟件未下架黑產鏈條令人震驚(2)