1元就能買到富豪人設(shè)？起底社交平臺(tái)人設(shè)造假產(chǎn)業(yè)鏈 AI技術(shù)助長(zhǎng)低成本造假。央視調(diào)查揭露，朋友圈“富豪人設(shè)”已形成完整的灰色產(chǎn)業(yè)鏈。只需1元就能買到多張富豪人設(shè)照片，甚至可以花費(fèi)數(shù)千元拼單拍攝頂級(jí)奢華場(chǎng)景素材。隨著AI技術(shù)的普及，這種網(wǎng)絡(luò)元素變得更加豐富且容易獲取。

現(xiàn)實(shí)中，虛假富豪人設(shè)已經(jīng)引發(fā)真實(shí)詐騙案例。2024年，上海一名擁有百萬(wàn)粉絲的女主播被騙80余萬(wàn)元。騙子通過(guò)網(wǎng)購(gòu)豪車、豪宅和資產(chǎn)存款截圖來(lái)包裝自己，博取信任后以戀愛(ài)名義實(shí)施詐騙。警方查實(shí)，這名偽裝成富豪的人實(shí)際上是一名無(wú)業(yè)人員，所有高端人設(shè)都是通過(guò)低成本造假實(shí)現(xiàn)的。

然而，并非所有購(gòu)買人設(shè)素材、偽造社交形象的人都是為了詐騙牟利。背后的心態(tài)多樣復(fù)雜，包括獵奇玩梗、應(yīng)付社交和消解尷尬等。例如，“95后”廣西上班族梁先生受網(wǎng)絡(luò)熱梗影響，購(gòu)買了一些非普遍性場(chǎng)景的照片發(fā)在朋友圈，引發(fā)親友熱議。他剪輯成短視頻發(fā)布，還意外收獲了高流量，全程僅作娛樂(lè)，并無(wú)騙人意圖。剛?cè)肼毜?0后小林則出于社交心理選擇“偽裝”，計(jì)劃五一留守值班錯(cuò)峰出游，但不想長(zhǎng)假期間朋友圈被出游刷屏顯得自己“落單”，于是提前備好旅游素材圖片，營(yíng)造出外出度假的假象。

此外，不少中下層級(jí)網(wǎng)紅和自媒體為博眼球、漲粉帶貨，刻意打造富豪世家、農(nóng)業(yè)達(dá)人、養(yǎng)殖大戶等人設(shè)，靠身份制造話題引流。這類行為雖多被視為營(yíng)銷手段，但實(shí)際上已屬于刻意身份造假。

AI技術(shù)的應(yīng)用進(jìn)一步影響了這一產(chǎn)業(yè)鏈。如今，有了AI生成式工具，這些所謂人設(shè)的圖片和場(chǎng)景加工變得更加容易獲取。記者在二手交易平臺(tái)和電商平臺(tái)搜索發(fā)現(xiàn)，目前依然能夠在平臺(tái)上搜到各類場(chǎng)景素材包，價(jià)格多集中在1～8元，少量定制素材則是數(shù)百元到數(shù)千元不等。商家通過(guò)網(wǎng)盤與購(gòu)買者交易，鏈接中包含上千張實(shí)況照片，內(nèi)容涵蓋國(guó)內(nèi)外旅游風(fēng)景、購(gòu)物美食等生活日常，以及高爾夫、滑雪等運(yùn)動(dòng)的實(shí)況照片。照片自然隨意，與社交媒體上刷到的日常分享幾乎無(wú)異。

多名從事AI應(yīng)用的技術(shù)人員介紹，AI生成式工具讓素材生產(chǎn)擺脫了實(shí)景依賴，無(wú)需實(shí)地打卡，只需輸入簡(jiǎn)單關(guān)鍵詞，就能一鍵生成游艇出海、豪車出行、高端商務(wù)等各類場(chǎng)景的圖片和視頻。這大幅降低了人設(shè)打造的技術(shù)門檻和時(shí)間成本。過(guò)去需要專業(yè)團(tuán)隊(duì)耗時(shí)數(shù)天完成的素材制作，現(xiàn)在普通人借助AI工具幾分鐘就能生成；過(guò)去需要花費(fèi)數(shù)千元的定制服務(wù)，現(xiàn)在幾十元、幾百元就能買到全套AI生成素材，甚至9.9元就能打包上千套高端生活素材。商家借助AI實(shí)現(xiàn)了素材的批量生產(chǎn)和人設(shè)的標(biāo)準(zhǔn)化定制，產(chǎn)業(yè)鏈運(yùn)營(yíng)成本大幅下降，價(jià)格隨之走低，也讓更多人有能力參與其中，推動(dòng)產(chǎn)業(yè)鏈快速擴(kuò)張。

盡管“買圖造人設(shè)”現(xiàn)象被曝光，但在不同平臺(tái)仍能買到同類素材包。用戶購(gòu)買的照片多為盜圖或批量素材包，商品名常用“實(shí)況圖”“素材包”等中性詞，AI難以精準(zhǔn)判定。賣家還用“網(wǎng)盤發(fā)貨”“暗號(hào)”規(guī)避關(guān)鍵詞，且圖片量大、更新快，人工審核根本覆蓋不過(guò)來(lái)。有電商相關(guān)人士表示，目前平臺(tái)在治理方面相對(duì)被動(dòng)，多采用“通知—?jiǎng)h除”等方式，即權(quán)利人投訴才處理。如果用戶發(fā)現(xiàn)商家有違規(guī)侵權(quán)問(wèn)題，可以通過(guò)舉報(bào)推動(dòng)平臺(tái)清理，這是目前比較直接有效的處理辦法。

律師指出，如果AI生成的圖片包含與現(xiàn)實(shí)中自然人高度相似的虛擬形象，或者直接套用他人肖像元素，構(gòu)成侵犯肖像權(quán)、姓名權(quán)。未經(jīng)授權(quán)搬運(yùn)他人社交平臺(tái)照片售賣，還構(gòu)成侵犯著作權(quán)，情節(jié)嚴(yán)重可能觸犯刑法，面臨刑事追責(zé)。根據(jù)《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》第四十四條，網(wǎng)絡(luò)交易平臺(tái)提供者明知或應(yīng)知銷售者利用其平臺(tái)侵害消費(fèi)者合法權(quán)益，未采取必要措施的，依法與該銷售者承擔(dān)連帶責(zé)任。如果平臺(tái)對(duì)足以誤導(dǎo)消費(fèi)者的商品信息沒(méi)有采取必要措施，可推定其存在誘使消費(fèi)者陷入錯(cuò)誤認(rèn)識(shí)的行為，構(gòu)成欺詐。

針對(duì)朋友圈AI偽造富豪人設(shè)、虛假生活素材泛濫亂象，國(guó)家網(wǎng)信辦等部門已有明確監(jiān)管規(guī)則與識(shí)別指引。普通市民可通過(guò)四招有效規(guī)避、識(shí)別AI造假：一是看標(biāo)識(shí)，留意圖片角落是否有“AI 生成”標(biāo)注；二是查元數(shù)據(jù)，查看圖片屬性信息；三是反向識(shí)圖，借助識(shí)圖工具比對(duì)；四是辨行為邏輯，只炫富不分享日常、快速誘導(dǎo)借錢投資、曖昧交友的“虛擬富豪”，涉嫌詐騙風(fēng)險(xiǎn)極高，應(yīng)及時(shí)拉黑舉報(bào)。中央網(wǎng)信辦清朗專項(xiàng)行動(dòng)已重點(diǎn)整治AI人設(shè)造假灰產(chǎn)，平臺(tái)需落實(shí)智能巡查、關(guān)鍵詞攔截和事后追責(zé)，對(duì)違規(guī)素材包、暗語(yǔ)交易從嚴(yán)下架封號(hào)，形成長(zhǎng)效治理。1元就能買到富豪人設(shè)？起底社交平臺(tái)人設(shè)造假產(chǎn)業(yè)鏈 AI技術(shù)助長(zhǎng)低成本造假。