AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 13:14:08 新京報(bào)

韓國再次面臨“N號(hào)房”類型的丑聞，這一次與“深度偽造犯罪”緊密相連。這種犯罪形式利用先進(jìn)的人工智能技術(shù)創(chuàng)造出高度逼真的虛假內(nèi)容，導(dǎo)致女性受害者數(shù)目激增，相關(guān)色情材料的傳播范圍和影響力遠(yuǎn)超以往。受害者們不得不跨越國界，在包括中國微博在內(nèi)的多個(gè)社交平臺(tái)上發(fā)聲，尋求更廣泛的關(guān)注與幫助。

深度偽造技術(shù)核心在于生成對(duì)抗網(wǎng)絡(luò)（GANs）和深度學(xué)習(xí)，通過算法的不斷迭代，使生成的虛假內(nèi)容幾乎可以亂真。這一技術(shù)不僅限于視頻和圖像，聲紋偽造同樣成為可能。隨著AI技術(shù)的發(fā)展，一些旨在創(chuàng)造真實(shí)圖像的模型意外地促進(jìn)了AI換臉和AI生成不當(dāng)內(nèi)容的現(xiàn)象，盡管部分功能已被調(diào)整，但技術(shù)的開源性讓這類濫用難以徹底遏制。

在黑灰產(chǎn)領(lǐng)域，這些技術(shù)被用來謀取利益，如在Telegram平臺(tái)上，存在大量以AI色情為誘餌的群組。一個(gè)公開可加入的群聊，專注于利用AI技術(shù)偽造知名網(wǎng)絡(luò)紅人的色情圖片，成員規(guī)模竟達(dá)1.5萬人，而通過付費(fèi)，用戶還能進(jìn)入更為私密、內(nèi)容更為露骨的群組。Telegram的加密特性和特定功能為這些非法活動(dòng)提供了隱蔽空間，虛擬貨幣的使用進(jìn)一步增加了監(jiān)管難度。

韓國成為深度偽造犯罪重災(zāi)區(qū)，部分原因在于法律執(zhí)行可能存在不足，但更深層次的問題在于性別歧視文化。盡管韓國已有相關(guān)法律應(yīng)對(duì)，如《Telegram“N號(hào)房”事件防治法》，并計(jì)劃加大對(duì)深度偽造性犯罪的懲處力度，但社會(huì)對(duì)女性的性物化態(tài)度不改，使得問題持續(xù)發(fā)酵。尤其令人擔(dān)憂的是，這種技術(shù)在年輕群體中被當(dāng)作娛樂工具般濫用，反映出社會(huì)價(jià)值觀的扭曲。

針對(duì)防范和監(jiān)管，專家建議從控制技術(shù)擴(kuò)散著手，比如AI平臺(tái)應(yīng)加強(qiáng)對(duì)使用者的審核，打擊提供黑產(chǎn)技術(shù)支持的工具和網(wǎng)站。同時(shí)，探索推廣數(shù)字水印等防偽技術(shù)，確保內(nèi)容的真實(shí)可追溯性，內(nèi)容平臺(tái)也應(yīng)增強(qiáng)對(duì)深度偽造內(nèi)容的識(shí)別能力。盡管完全阻止技術(shù)濫用不切實(shí)際，但通過這些措施可以在一定程度上減少其負(fù)面影響。

(責(zé)任編輯：張蕾)

關(guān)閉

AI換臉為什么韓國最泛濫 性別歧視與技術(shù)濫用下的危機(jī)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI換臉為什么韓國最泛濫性別歧視與技術(shù)濫用下的危機(jī)