电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

AI“復(fù)活”緬懷逝者暗藏哪些風(fēng)險(xiǎn) 溫情背后的爭(zhēng)議與風(fēng)險(xiǎn)

關(guān)鍵詞:
2025-04-05 15:11:56  央廣網(wǎng)

清明節(jié)前一天,浙江嘉興的朱女士在某電商平臺(tái)找到一商家,提供了逝世母親的照片和一些信息,委托商家使用AI技術(shù)制作視頻,“復(fù)活”了去世多年的母親。朱女士說(shuō),視頻中,母親的容貌再次出現(xiàn)眼前,并對(duì)她說(shuō)著一些鼓勵(lì)話,雖然這只是一個(gè)虛擬的視頻,卻讓她感受到了久違的溫暖。

今年清明節(jié)期間,利用AI技術(shù)“復(fù)活”親人再次成為熱議話題。在多個(gè)電商平臺(tái),只需輸入AI“復(fù)活”關(guān)鍵詞,就能找到大量相關(guān)商家和方案,僅需一張照片和文字信息,即可實(shí)現(xiàn)讓照片中的人動(dòng)起來(lái),不僅開(kāi)口說(shuō)話,還能復(fù)活原聲。售價(jià)從幾元、幾十元到上百元不等。

清華大學(xué)國(guó)家信息研究中心副研究員王東稱,AI“復(fù)活”是利用人工智能技術(shù)模擬生成逝者數(shù)字形象的應(yīng)用,通過(guò)輸入逝者的圖片、視頻和文字、聲音資料,生成具備逝者特征的數(shù)字形象。該技術(shù)初衷是幫助人們緬懷和紀(jì)念親人,通過(guò)模擬生成數(shù)字形象實(shí)現(xiàn)音容再現(xiàn),滿足人們與逝去親人再次見(jiàn)面的渴望,提供一種具象的追憶方式。然而,技術(shù)背后也暗藏爭(zhēng)議,甚至帶來(lái)隱私泄露和侵權(quán)的風(fēng)險(xiǎn)。需要明確的是,對(duì)技術(shù)應(yīng)用和人機(jī)邊界的把握始終是關(guān)鍵,相關(guān)部門需加強(qiáng)監(jiān)管,避免技術(shù)濫用。

不久前,山東青島市的劉女士出于對(duì)已去世奶奶的思念,提供了奶奶的照片和生前一段語(yǔ)音,嘗試AI“復(fù)活”,沒(méi)想到收獲了一場(chǎng)跨越時(shí)空的溫暖重逢。視頻中,熟悉的聲音在她耳邊響起,就好像奶奶還在身邊一樣。有人可能認(rèn)為這是一種虛假的安慰,會(huì)讓人沉迷于過(guò)去無(wú)法自拔。但是,正是因?yàn)榉謩e如此痛苦,才需要一些安慰和情感寄托來(lái)幫助我們更好地走下去。劉女士表示,雖然AI“復(fù)活”視頻讓人在情感上得到一定滿足,但真正的治愈還是來(lái)自內(nèi)心深處的自我修復(fù)過(guò)程,而不是外部手段的介入。

河北衡水市的于先生和山西臨汾市的郭女士均表示,出于對(duì)逝去親人的尊重和傳統(tǒng),他們不會(huì)選擇用AI“復(fù)活”親人。但他們對(duì)此做法表示理解,因?yàn)锳I“復(fù)活”能為生者帶來(lái)心靈慰藉,重振生活信心,讓思念有處表達(dá),發(fā)揮了技術(shù)的積極作用。應(yīng)理性看待這項(xiàng)技術(shù),既要珍惜它帶來(lái)的正面影響,也要警惕潛在風(fēng)險(xiǎn)。

六六是一名AI技術(shù)愛(ài)好者。近兩年,他利用AI幫上千人“復(fù)活”親人。他表示,輸入一張已逝親人的照片和一段生前的錄音,不但可以讓照片動(dòng)起來(lái),還可以模擬親人的聲音和語(yǔ)氣講話。如果生前的視頻資料更豐富,還可以定制親人的“數(shù)字人”,他希望能發(fā)揮技術(shù)的正面作用,用這種方式更好地療愈有需要的普通人。

人工智能專家郭濤表示,“AI復(fù)活親人”現(xiàn)象的興起得益于技術(shù)、心理需求與社會(huì)趨勢(shì)的共同推動(dòng)。在技術(shù)上,深度學(xué)習(xí)、NLP和GANs等AI技術(shù)的成熟,使語(yǔ)音、外貌和對(duì)話模擬成為可能,且商業(yè)化服務(wù)價(jià)格低至幾元,形成了情感消費(fèi)市場(chǎng)。在心理層面,人類對(duì)親情延續(xù)的渴望,尤其是喪失親人后的心理創(chuàng)傷,促使技術(shù)成為情感代償工具,幫助生者緩解思念之苦。在社會(huì)趨勢(shì)方面,殯葬行業(yè)引入AI數(shù)字人服務(wù),電商平臺(tái)推出低價(jià)套餐,加速了技術(shù)的普及。這一現(xiàn)象既滿足了人們對(duì)科技進(jìn)步的好奇,也探索了生命、記憶與情感之間的深厚聯(lián)系。用戶心理呈現(xiàn)顯著的雙面性。在積極層面,技術(shù)為喪親者提供“未竟對(duì)話”的情感出口;在消極層面,部分用戶陷入“虛擬依賴癥”,過(guò)度沉溺虛擬互動(dòng)導(dǎo)致現(xiàn)實(shí)社交障礙,更有不法分子利用AI偽造親人影像實(shí)施詐騙。這種心理本質(zhì)是人類對(duì)親情延續(xù)的本能渴望,卻也暗藏逃避現(xiàn)實(shí)、混淆虛實(shí)的風(fēng)險(xiǎn),需警惕技術(shù)從“情感橋梁”異化為“心理牢籠”。

據(jù)了解,當(dāng)前一些殯葬服務(wù)公司正利用“AI創(chuàng)造性內(nèi)容”的風(fēng)口,把對(duì)逝者的愛(ài)和懷念轉(zhuǎn)化為數(shù)字產(chǎn)品,使家屬能夠與逝去親人的數(shù)字化形象進(jìn)行對(duì)話,幫助他們?cè)诒粗姓业揭唤z安慰。多地陵園也引入AI技術(shù)“復(fù)活”逝者,使親屬與AI數(shù)字親人實(shí)現(xiàn)實(shí)時(shí)對(duì)話。在多個(gè)電商平臺(tái)和社交平臺(tái),AI“復(fù)活”已形成了一門生意。記者以AI“復(fù)活”為關(guān)鍵詞,在電商平臺(tái)進(jìn)行搜索后,部分商家展示了多種“AI復(fù)活親人”產(chǎn)品,這些產(chǎn)品包括圖片、視頻等,價(jià)格在幾元、幾十元到上百元不等。據(jù)商家介紹,消費(fèi)者只需提供一張照片即可,對(duì)于視頻語(yǔ)音,可由客戶提供,也可由商家提供。一些商家還出售“AI制作代復(fù)活親人視頻教程”,或者備注“收徒”,并標(biāo)明了“短視頻新賽道輕松火爆全平臺(tái)副業(yè)項(xiàng)目”等字眼。在一些短視頻平臺(tái),也出現(xiàn)類似服務(wù)。在一些AI“復(fù)活”內(nèi)容和商家視頻下面,不少網(wǎng)友留言表示愿意花錢購(gòu)買這項(xiàng)服務(wù),并紛紛下單。

王東介紹,AI“復(fù)活”親人背后的技術(shù)原理可以歸結(jié)為兩點(diǎn),一是個(gè)性特征提取,二是生成式音視頻模型。“個(gè)性特征”是指人的臉部和聲音特征,這些特征可以區(qū)別不同的人臉和不同的聲音。生成式音視頻模型基于這些個(gè)性化特征,加上所有人共有的動(dòng)作和發(fā)音內(nèi)容,就可以生成惟妙惟肖的視頻和音頻,將人的個(gè)性化特征和共性化的語(yǔ)言動(dòng)作進(jìn)行分離并重組,這是AI“復(fù)活”親人的基本原理。如果讓親人和人對(duì)話,那就需要應(yīng)用語(yǔ)音識(shí)別和語(yǔ)言理解能力,這種能力目前已經(jīng)比較成熟,特別多模態(tài)大模型技術(shù)的發(fā)展讓這種對(duì)話能力變得越來(lái)越強(qiáng)大。

郭濤介紹,當(dāng)前新技術(shù)路徑按復(fù)雜度與成本分為三級(jí):基礎(chǔ)層利用AI開(kāi)源工具實(shí)現(xiàn)照片動(dòng)態(tài)化,收費(fèi)幾十元甚至低于10元,但效果生硬;進(jìn)階層結(jié)合語(yǔ)音克?。ㄐ?0秒以上音頻)與虛擬形象驅(qū)動(dòng),收費(fèi)500-2000元,可實(shí)現(xiàn)簡(jiǎn)單對(duì)話;高級(jí)層依托大模型訓(xùn)練構(gòu)建數(shù)字人交互系統(tǒng),需1分鐘視頻及生活語(yǔ)料,收費(fèi)超萬(wàn)元,能模擬逝者“記憶”并進(jìn)行深度互動(dòng)。不同層級(jí)技術(shù)的成熟度與成本差異,形成了從基礎(chǔ)到高階的服務(wù)矩陣。

科技博主黃海峰說(shuō),目前,雖然AI“復(fù)活”在語(yǔ)音合成上可打造高度逼真自然的聲音,圖像生成可呈現(xiàn)逼真的動(dòng)態(tài)人物形象,對(duì)話交互能模擬特定人物語(yǔ)言風(fēng)格對(duì)話,但在復(fù)雜邏輯和深度知識(shí)上尚存不足。合適的深度學(xué)習(xí)算法只是起點(diǎn),還需要專業(yè)團(tuán)隊(duì)進(jìn)行針對(duì)性調(diào)優(yōu)。

此前媒體報(bào)道,一些網(wǎng)絡(luò)博主使用AI技術(shù)“復(fù)活”逝世明星的做法引發(fā)爭(zhēng)議。郭濤表示,AI“復(fù)活”現(xiàn)象帶來(lái)了倫理和法律的雙重挑戰(zhàn)。倫理上,未經(jīng)授權(quán)的“復(fù)活”可能侵犯逝者人格權(quán),尤其是公眾人物易被濫用。此外,虛擬形象與逝者真實(shí)意志的沖突,可能模糊生死界限,引發(fā)身份認(rèn)同問(wèn)題。法律上,根據(jù)《中華人民共和國(guó)民法典》第九百九十四條規(guī)定,擅自使用死者肖像需近親屬同意,否則需承擔(dān)民事責(zé)任。傳播平臺(tái)也需對(duì)侵權(quán)內(nèi)容承擔(dān)連帶責(zé)任,但當(dāng)前標(biāo)注規(guī)范執(zhí)行不足。同時(shí),構(gòu)建數(shù)字人涉及大量敏感信息,存在泄露風(fēng)險(xiǎn),且用戶與數(shù)字人交互產(chǎn)生的行為數(shù)據(jù)可能被不當(dāng)利用。

中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心特約研究員趙占領(lǐng)律師表示,AI“復(fù)活”主要涉及到民法典所規(guī)定的肖像權(quán)以及聲音相關(guān)的權(quán)益。自然人在已經(jīng)去世情況下,其肖像和聲音的利益由其法定繼承人來(lái)繼承。未經(jīng)其法定繼承人的同意,不能使用AI軟件或其他方式去合成其肖像或聲音,否則構(gòu)成侵權(quán)。此外,平臺(tái)商家未經(jīng)他人同意將他人的AI“復(fù)活”資料案例作為展示宣傳使用,同樣構(gòu)成侵權(quán)。趙占領(lǐng)還表示,使用AI合成的圖片或視頻進(jìn)行詐騙,還涉及刑事犯罪。對(duì)于這種情況,一般受眾和用戶可能很難辨別真假,因此群眾更需警惕和防范,如遇到類似借款等請(qǐng)求,一定要通過(guò)可靠的方式進(jìn)行核實(shí)驗(yàn)證。

王東認(rèn)為,AI“復(fù)活”親人展現(xiàn)了AI技術(shù)的強(qiáng)大,也是AI技術(shù)正面應(yīng)用的一個(gè)典范。然而,同樣的技術(shù)如果不當(dāng)使用,可能還會(huì)帶來(lái)極大風(fēng)險(xiǎn)。有不法分子可能會(huì)用虛假生成的音視頻進(jìn)行勒索、詐騙,會(huì)給受害人帶來(lái)經(jīng)濟(jì)損失。虛假音視頻也會(huì)侵犯?jìng)€(gè)人隱私,損害個(gè)人名譽(yù)。之前有報(bào)道稱韓國(guó)多個(gè)女性公眾人物的臉部被替換到色情視頻上,這些視頻被廣泛傳播,導(dǎo)致受害者遭受嚴(yán)重的心理傷害和名譽(yù)損失。這類虛假視頻不僅侵犯了個(gè)人隱私,還會(huì)對(duì)受害者的生活和職業(yè)生涯造成巨大沖擊。此外,虛假音視頻的傳播還可能引起社會(huì)混亂。比如有人偽造公眾人物的講話視頻,傳播不實(shí)消息,引發(fā)混亂與恐慌。

王東表示,偽造音視頻資料對(duì)人來(lái)說(shuō)很難判斷真假,但也并非無(wú)跡可尋。最有希望的方式是用AI對(duì)抗AI,用人工智能技術(shù)來(lái)檢測(cè)音視頻的真實(shí)性。例如,可以通過(guò)識(shí)別圖像或音頻在細(xì)節(jié)上的失真來(lái)判斷視頻是否合成。比如,清華大學(xué)和北京郵電大學(xué)合作的一項(xiàng)鑒偽工作,通過(guò)考察音頻和視頻的同步性(如嘴唇和聲音是否匹配),也可以將一些偽造視頻檢測(cè)出來(lái)。面對(duì)虛假音視頻的泛濫成災(zāi),多個(gè)科技公司和研究機(jī)構(gòu)正在研發(fā)和推廣鑒偽技術(shù)。

除了技術(shù)手段,加強(qiáng)公眾對(duì)虛假信息的認(rèn)識(shí)也很重要,要提醒公眾不要盲目相信網(wǎng)絡(luò)上的視頻和音頻信息。此外,防范音視頻偽造不只是技術(shù)上的問(wèn)題,也需要法律約束。多個(gè)國(guó)家(包括我國(guó))已經(jīng)強(qiáng)制要求對(duì)AI生成的內(nèi)容做明確標(biāo)識(shí),嚴(yán)懲使用音視頻合成技術(shù)進(jìn)行犯罪活動(dòng)的人。只有將合成音視頻的非法使用變成高壓線,才能杜絕濫用現(xiàn)象。

郭濤認(rèn)為,目前,具身智能、情感智能等相關(guān)技術(shù)還不成熟,未來(lái)隨著相關(guān)技術(shù)的成熟,或許將實(shí)現(xiàn)數(shù)字人永生,以數(shù)字人的形式生活在元宇宙里面。因此,需通過(guò)法律規(guī)制、行業(yè)自律和技術(shù)倫理標(biāo)準(zhǔn)協(xié)同治理,確保技術(shù)應(yīng)用符合倫理道德和法律規(guī)范。

趙占領(lǐng)表示,技術(shù)本身并無(wú)善惡之分,關(guān)鍵在于使用它的人。在實(shí)際操作中,一些商家或個(gè)人打著情感慰藉的幌子,未經(jīng)逝者親屬允許,擅自利用這一技術(shù),甚至將生成的影像和聲音用于商業(yè)活動(dòng)。這不僅是對(duì)逝者的不尊重,更是對(duì)親屬情感的二次傷害。必須明確的是,無(wú)論是“復(fù)活”親人還是“復(fù)活”明星,AI應(yīng)用應(yīng)當(dāng)遵循一定的倫理,嚴(yán)守法律紅線,不能侵害他人的合法權(quán)益,不能用于違法或者犯罪活動(dòng)。此外,AI“復(fù)活”逝者是把雙刃劍,需審慎使用。這項(xiàng)技術(shù)雖能彌補(bǔ)情感缺憾,但也可能加深離別之痛。因此應(yīng)明確技術(shù)邊界,尊重逝者與親屬的權(quán)益。從促進(jìn)市場(chǎng)規(guī)范發(fā)展的立場(chǎng)看,監(jiān)管部門也需要及早研判,擬定合理標(biāo)準(zhǔn),督促商家有序經(jīng)營(yíng),保護(hù)數(shù)據(jù)安全,避免技術(shù)濫用,確保AI“復(fù)活”逝者技術(shù)能夠在合法、合規(guī)的前提下健康發(fā)展。

(責(zé)任編輯:張小花 TT1000)
關(guān)閉

為這個(gè)女警隊(duì)點(diǎn)贊!她們是200多個(gè)孩子的緊急聯(lián)系人

她們是200多個(gè)孩子的緊急聯(lián)系人2025-04-27 12:05:18

車展內(nèi)外齊發(fā)力 帶火汽車消費(fèi)熱 政策補(bǔ)貼助推市場(chǎng)活力

車展內(nèi)外齊發(fā)力帶火汽車消費(fèi)熱2025-04-27 12:03:33

兒子瞞著父母考上北大研究生 媽媽得知后震驚 驚喜讓媽媽笑醒

兒子瞞著父母考上北大研究生媽媽得知后震驚2025-04-27 12:03:16

航拍中國(guó)黃巖島絕美風(fēng)景 碧海藍(lán)天詩(shī)意畫(huà)卷

航拍中國(guó)黃巖島絕美風(fēng)景2025-04-27 11:46:15

美國(guó)嚴(yán)格執(zhí)行人類清除計(jì)劃 芬太尼提案引爭(zhēng)議

美國(guó)嚴(yán)格執(zhí)行人類清除計(jì)劃2025-04-27 11:09:33

出現(xiàn)在上海小區(qū)的狐貍已死亡 身份成謎引發(fā)討論

出現(xiàn)在上海小區(qū)的狐貍已死亡2025-04-27 12:00:32

特朗普:讓加拿大加入美沒(méi)開(kāi)玩笑 言論引發(fā)爭(zhēng)議

特朗普,讓加拿大加入美沒(méi)開(kāi)玩笑2025-04-27 11:54:03

韓國(guó)殘運(yùn)會(huì)盒飯只有海苔泡菜 簡(jiǎn)陋餐食引爭(zhēng)議

韓國(guó)殘運(yùn)會(huì)盒飯只有海苔泡菜2025-04-27 11:57:44

美關(guān)稅政策重創(chuàng)美電商行業(yè) 跨境電商面臨嚴(yán)峻考驗(yàn)

美關(guān)稅政策重創(chuàng)美電商行業(yè)2025-04-27 11:49:21

印巴一旦打起來(lái)后果有多嚴(yán)重 中國(guó)角色成關(guān)鍵

印巴一旦打起來(lái)后果有多嚴(yán)重2025-04-27 11:38:00

伊朗最大港口爆炸是以色列干的嗎 事件蒙上神秘面紗

伊朗最大港口爆炸是以色列干的嗎2025-04-27 11:52:59

太揪心!浙江高速突發(fā),高速交警嘶吼喊話司機(jī):“別睡,家人在等你!”

太揪心,浙江高速突發(fā),高速交警嘶吼喊話司機(jī),別睡,家人在等你2025-04-27 11:55:53

普京為何匆忙宣布庫(kù)爾斯克解放 勝利日臨近壓力大

普京為何匆忙宣布庫(kù)爾斯克解放2025-04-27 11:52:43

中美未來(lái)關(guān)稅戰(zhàn)的局勢(shì)將如何發(fā)展 或?qū)⒂瓉?lái)大結(jié)局

中美未來(lái)關(guān)稅戰(zhàn)的局勢(shì)將如何發(fā)展2025-04-27 11:50:07

84斤女子稱買百件衣服穿不上 網(wǎng)購(gòu)尺碼困擾多

84斤女子稱買百件衣服穿不上2025-04-27 12:00:00

超市老板投資賺千萬(wàn)全給員工 兌現(xiàn)承諾分享幸福

超市老板投資賺千萬(wàn)全給員工2025-04-27 12:00:45

看似周日,實(shí)則周一!

看似周日 實(shí)則周一2025-04-27 12:01:28

馬斯克稱5月起工作重心將轉(zhuǎn)回企業(yè) 專注特斯拉項(xiàng)目

馬斯克稱5月起工作重心將轉(zhuǎn)回企業(yè)2025-04-27 11:31:01

車展內(nèi)外齊發(fā)力 帶火汽車消費(fèi)熱 政策補(bǔ)貼助推市場(chǎng)活力

車展內(nèi)外齊發(fā)力帶火汽車消費(fèi)熱2025-04-27 12:03:33

菲律賓能選出親華總統(tǒng)嗎?中美都在等結(jié)果

菲律賓能選出親華總統(tǒng)嗎2025-04-27 11:23:13

美玩具公司因關(guān)稅政策起訴美政府 中小企業(yè)維權(quán)之戰(zhàn)

美玩具公司因關(guān)稅政策起訴美政府2025-04-27 11:58:17

金正恩攜女兒出席朝鮮人民軍新型驅(qū)逐艦入水儀式 稱“將一刻不停地建設(shè)海軍”

金正恩攜女兒出席朝鮮人民軍新型驅(qū)逐艦入水儀式稱將一刻不停地建設(shè)海軍2025-04-27 11:14:09

為這個(gè)女警隊(duì)點(diǎn)贊!她們是200多個(gè)孩子的緊急聯(lián)系人

她們是200多個(gè)孩子的緊急聯(lián)系人2025-04-27 12:05:18

五一期間南方30℃以上區(qū)域擴(kuò)張 多地將現(xiàn)高溫天氣

五一期間南方30℃以上區(qū)域擴(kuò)張2025-04-27 12:00:03

印度未通知開(kāi)閘泄洪,巴基斯坦多地水位大幅上升面臨洪災(zāi)風(fēng)險(xiǎn)

印度未通知開(kāi)閘泄洪,巴基斯坦多地水位大幅上升2025-04-27 11:16:09

董明珠“海歸間諜論”引起爭(zhēng)議 海歸價(jià)值再審視

董明珠海歸間諜論引起爭(zhēng)議2025-04-27 12:00:15

和澤連斯基見(jiàn)面后 特朗普質(zhì)疑普京 是否真心結(jié)束沖突

和澤連斯基見(jiàn)面后特朗普質(zhì)疑普京2025-04-27 11:24:47

?;鸾Y(jié)束戰(zhàn)爭(zhēng)繼續(xù),普京宣布恢復(fù)攻勢(shì) 雙方互指違反協(xié)議

?;鸾Y(jié)束戰(zhàn)爭(zhēng)繼續(xù),普京宣布恢復(fù)攻勢(shì)2025-04-27 11:30:45

兒子瞞著父母考上北大研究生 媽媽得知后震驚 驚喜讓媽媽笑醒

兒子瞞著父母考上北大研究生媽媽得知后震驚2025-04-27 12:03:16

47歲劉燁現(xiàn)身上海,暴瘦成紙片人!此前已許久未在公眾視野露面 硬漢男神判若兩人

47歲劉燁現(xiàn)身上海,暴瘦成紙片人,此前已許久未在公眾視野露面2025-04-27 11:56:17

美國(guó)對(duì)烏不愿接受領(lǐng)土讓步感到憤怒 會(huì)談破裂引發(fā)關(guān)注

美國(guó)對(duì)烏不愿接受領(lǐng)土讓步感到憤怒2025-04-27 11:13:57

美軍戰(zhàn)略轟炸機(jī)進(jìn)駐日本想演給誰(shuí)看 加劇亞太安全困境

美軍戰(zhàn)略轟炸機(jī)進(jìn)駐日本想演給誰(shuí)看2025-04-27 11:21:07

鄧卓翔:全力以赴對(duì)待與津門虎的比賽 積極備戰(zhàn)迎接挑戰(zhàn)

鄧卓翔,全力以赴對(duì)待與津門虎的比賽2025-04-27 11:55:37

相關(guān)新聞