AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 13:14:08 新京報

韓國再次面臨“N號房”類型的丑聞，這一次與“深度偽造犯罪”緊密相連。這種犯罪形式利用先進的人工智能技術(shù)創(chuàng)造出高度逼真的虛假內(nèi)容，導致女性受害者數(shù)目激增，相關(guān)色情材料的傳播范圍和影響力遠超以往。受害者們不得不跨越國界，在包括中國微博在內(nèi)的多個社交平臺上發(fā)聲，尋求更廣泛的關(guān)注與幫助。

深度偽造技術(shù)核心在于生成對抗網(wǎng)絡(luò)（GANs）和深度學習，通過算法的不斷迭代，使生成的虛假內(nèi)容幾乎可以亂真。這一技術(shù)不僅限于視頻和圖像，聲紋偽造同樣成為可能。隨著AI技術(shù)的發(fā)展，一些旨在創(chuàng)造真實圖像的模型意外地促進了AI換臉和AI生成不當內(nèi)容的現(xiàn)象，盡管部分功能已被調(diào)整，但技術(shù)的開源性讓這類濫用難以徹底遏制。

在黑灰產(chǎn)領(lǐng)域，這些技術(shù)被用來謀取利益，如在Telegram平臺上，存在大量以AI色情為誘餌的群組。一個公開可加入的群聊，專注于利用AI技術(shù)偽造知名網(wǎng)絡(luò)紅人的色情圖片，成員規(guī)模竟達1.5萬人，而通過付費，用戶還能進入更為私密、內(nèi)容更為露骨的群組。Telegram的加密特性和特定功能為這些非法活動提供了隱蔽空間，虛擬貨幣的使用進一步增加了監(jiān)管難度。

韓國成為深度偽造犯罪重災區(qū)，部分原因在于法律執(zhí)行可能存在不足，但更深層次的問題在于性別歧視文化。盡管韓國已有相關(guān)法律應(yīng)對，如《Telegram“N號房”事件防治法》，并計劃加大對深度偽造性犯罪的懲處力度，但社會對女性的性物化態(tài)度不改，使得問題持續(xù)發(fā)酵。尤其令人擔憂的是，這種技術(shù)在年輕群體中被當作娛樂工具般濫用，反映出社會價值觀的扭曲。

針對防范和監(jiān)管，專家建議從控制技術(shù)擴散著手，比如AI平臺應(yīng)加強對使用者的審核，打擊提供黑產(chǎn)技術(shù)支持的工具和網(wǎng)站。同時，探索推廣數(shù)字水印等防偽技術(shù)，確保內(nèi)容的真實可追溯性，內(nèi)容平臺也應(yīng)增強對深度偽造內(nèi)容的識別能力。盡管完全阻止技術(shù)濫用不切實際，但通過這些措施可以在一定程度上減少其負面影響。

(責任編輯：張蕾)

關(guān)閉

AI換臉為什么韓國最泛濫 性別歧視與技術(shù)濫用下的危機

相關(guān)新聞

今日熱點

頻道熱點

AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機