一通奶奶救我來電 AI換聲假孫子設(shè)局 騙局盯上養(yǎng)老錢！“奶奶，我不小心撞了人，千萬別讓爸媽知道，你快救救我！”聽到電話那頭“孫子”的聲音，湖南的劉奶奶慌了神，立即按照對方的指示去銀行取了3萬元現(xiàn)金，并根據(jù)約定在村口將錢親手交給了“所長親戚”。一通奶奶救我來電 AI換聲假孫子設(shè)局 騙局盯上養(yǎng)老錢！

這只是“AI詐騙”的一個案例。在這個數(shù)字化時代，AI技術(shù)如同一把雙刃劍，在帶來便捷與創(chuàng)新的同時，也為老年人埋下了新型風(fēng)險隱患。隨著聲音與視頻偽造技術(shù)的門檻大幅降低，一些黑灰產(chǎn)從業(yè)者瞄準了老年人對新技術(shù)不熟悉、信息獲取渠道有限以及情感上容易依賴親人的弱點，展開了“圍獵”行動。

調(diào)查發(fā)現(xiàn)，這些騙術(shù)主要依靠AI深度偽造技術(shù)。針對老年人的AI“陷阱”主要包括通過偽裝成老人的親屬子女進行錢款詐騙，以及通過偽造醫(yī)生、專家身份進行直播賣貨。他們通過精心制作的虛假宣傳視頻和文案，夸大產(chǎn)品功效，甚至編造出一些子虛烏有的“治愈案例”，讓老人們深信不疑。

在多個平臺上搜索發(fā)現(xiàn)，不少人對換臉/克隆聲進行“打包出售”，價格低至1元，這在一定程度上降低了詐騙門檻。境外平臺上的黑灰產(chǎn)從業(yè)者也提供從換聲到換臉的“一條龍服務(wù)”，標價僅十幾元至百元不等。

北京盈科（合肥）律師事務(wù)所合伙人姜萬東表示，隨著人工智能技術(shù)越來越成熟，AI換臉已經(jīng)沒有什么難度，甚至成為一種新的商業(yè)模式。但在使用AI換臉時，必須嚴格遵守法律法規(guī)，在未經(jīng)許可前提下使用他人的照片或者聲音素材進行換臉或換聲、在網(wǎng)上提供AI換臉或換聲服務(wù)并收取費用、使用AI合成或換臉假冒權(quán)威人士視頻等行為，可能侵犯他人肖像權(quán)、聲音權(quán)，甚至構(gòu)成刑事犯罪。

“孫子惹禍，急需用錢”的騙局往往經(jīng)過精心策劃。騙子利用AI換聲、換臉冒充親友實施詐騙的對象多為老年人，套路普遍為用戶的隱私信息泄露后，詐騙分子通過AI技術(shù)偽造身份，再以類似“孫子惹禍，急需用錢”等理由向親屬、朋友特別是老人進行詐騙。

從事互聯(lián)網(wǎng)安全的反詐專家吳明指出，這類詐騙手段的起點往往是用戶的隱私信息遭到了泄露。用戶在下載未知來源App時給予了手機權(quán)限，導(dǎo)致手機的通訊錄、照片、短信等數(shù)據(jù)被上傳到了詐騙分子的后臺。通過用戶泄露或在社交平臺公開分享的聲音或視頻數(shù)據(jù)，詐騙分子就可以通過AI技術(shù)偽造用戶的聲音，從而進行詐騙。

國內(nèi)外的交易、社交平臺上，AI換臉、換聲相關(guān)服務(wù)、教程隨處可見。平臺上，AI一鍵替換視頻中人物的教程，標價低至1元。這類教程通常提供軟件或工作流的下載地址及安裝說明。至于AI聲音克隆，標價同樣最低可至1元，針對需要現(xiàn)場克隆的聲音則貴20元。

不少提供視頻和聲音制作的黑灰產(chǎn)賣家并不在意相關(guān)視頻的用途，只是根據(jù)客戶需求難度進行明碼標價：“換臉換聲視頻”制作以虛擬幣結(jié)算，折合人民幣463元，只換聲音約為228元，且可以“定制話術(shù)”。

個別黑灰產(chǎn)交易頻道還兜售配合這些技術(shù)的專業(yè)詐騙軟件?！安捎梦覀兪謾C端軟件的功能，甚至可以用手機直接撥打視頻電話，可配合市面上各種換臉軟件，讓你的‘客戶’找不到破綻，你還可以拿手機隨便走動?！庇泻诨耶a(chǎn)賣家表示。

不少AI克隆服務(wù)或教程賣家的目標客戶主要是為了冒充名人直播賣貨或?qū)Ξa(chǎn)品進行背書。為了增加相關(guān)產(chǎn)品的可信度，一些賣家曬出了包括郭富城、鞏俐、齊秦等明星為一些公司或產(chǎn)品發(fā)表的“代言視頻”或“祝福視頻”，其中一些視頻涉及的公司和產(chǎn)品指向金融詐騙。

AI視頻制作服務(wù)80元起步。有提供AI數(shù)字人制作軟件的商家稱，購買軟件可以教操作方法，明星以及張雪峰等人都可以生成。購買該軟件月卡188元，永久版288元。

實際上，隨著技術(shù)的進步和開源，聲音克隆的門檻并不高。在一個開源軟件中上傳了一段3分鐘的本人錄音，訓(xùn)練出了聲音模型，雖然效果在生成長語句時偶有瑕疵，但對于一些較短的語句來說，幾乎識別不出為合成的語音。

一視頻平臺相關(guān)負責(zé)人表示，利用AI技術(shù)進行虛假宣傳已成為互聯(lián)網(wǎng)廣告安全治理的重要挑戰(zhàn)。為保障用戶權(quán)益，平臺制定嚴格的管控規(guī)則，如要求廣告內(nèi)容中不得含有虛構(gòu)人設(shè)，不得自稱或描述存在某某身份/姓名/職位人設(shè)，為產(chǎn)品或服務(wù)做背書。若發(fā)現(xiàn)違規(guī)問題，將對廣告主采取限制投放、封禁賬戶甚至清退等處置。

中國人民大學(xué)人口與發(fā)展研究中心召開“數(shù)字時代老年人短視頻使用與網(wǎng)絡(luò)安全”研討會，并聯(lián)合抖音發(fā)布《老年人短視頻健康使用指南》，涵蓋了幾類短視頻平臺上的典型欺詐案例，其中一類新型騙局是利用 AI 技術(shù)偽造老年人信任的身份，如名人、企業(yè)家、公職人員，或杜撰與養(yǎng)老金發(fā)放、家人健康、子女運勢等相關(guān)的信息，誘導(dǎo)老年人點贊、關(guān)注、轉(zhuǎn)發(fā)。一旦這些賬號借“情感釣魚”積累了真實用戶互動，便被包裝成“優(yōu)質(zhì)賬號”，進而用于賬號倒賣或參與黑灰產(chǎn)業(yè)活動牟利。

姜萬東指出，使用AI合成“假專家”或權(quán)威人士進行帶貨或直播帶貨的行為可能觸及多項法律法規(guī)。根據(jù)《中華人民共和國民法典》，侵犯肖像權(quán)、聲音權(quán)，需承擔(dān)停止侵權(quán)、賠償損失等責(zé)任；根據(jù)《中華人民共和國消費者權(quán)益保護法》，構(gòu)成欺詐的，消費者可要求“退一賠三”；根據(jù)《中華人民共和國刑法》，若涉及詐騙、虛假宣傳等情節(jié)嚴重的行為，可能構(gòu)成詐騙罪、虛假廣告罪等。使用AI技術(shù)時，需嚴格遵守法律法規(guī)，取得授權(quán)并確保內(nèi)容合法合規(guī)。

基層民警、反詐專家、平臺監(jiān)管部門表示，通過偽造老人親屬身份進行“定向”詐騙，詐騙流程相對煩瑣、成本更高，雖然個案金額往往較大，但總體來看案件數(shù)量不及刷單、投資等詐騙案例多。

另一方面，隨著AIGC標識新規(guī)的出臺以及視頻平臺對用戶身份核驗流程的完善、對AI欺詐行為的打擊，AI冒充“假專家”也會更加困難。

9月1日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》施行，其中要求在相關(guān)平臺上上傳的視頻內(nèi)容，若使用AI制作的需添加標識。這將讓一些“冒充專家”的AI視頻失去傳播空間。

如今，平臺能否檢測出視頻為AI生成正成為一大挑戰(zhàn)。中國信通院人工智能研究中心安全與元宇宙部主任石霖表示，目前深度偽造技術(shù)與檢測技術(shù)正在相互博弈，“它們就像殺毒與造毒一樣，是長期攻防對抗的過程?，F(xiàn)在來看，偽造的技術(shù)確實越來越真實有效，檢測技術(shù)在一定程度上可能有一定滯后性，對于新的算法需要樣本積累和過濾?！?/p>

針對“假孫子”“假專家”類騙局，海淀金融管理局建議老年人提高警惕，采取防范措施：在接到陌生來電或視頻通話時，要仔細核實對方身份?？梢酝ㄟ^撥打親友的常用電話、視頻通話中詢問一些私密問題等方式進行驗證；不要輕易將個人信息、銀行賬戶、密碼等敏感信息透露給陌生人。同時，要定期更換密碼、開啟雙重驗證等安全措施；對于任何承諾高收益的投資或醫(yī)療產(chǎn)品，都要保持警惕。記住“天上不會掉餡餅”，高收益往往伴隨著高風(fēng)險。

“數(shù)字時代老年人短視頻使用與網(wǎng)絡(luò)安全”研討會的與會專家一致認為，應(yīng)對風(fēng)險需多管齊下，既需從老年人自身層面提升反詐意識、了解數(shù)字技術(shù)，也需從家庭層面、社會支持層面為老年人提供心理與技術(shù)雙重支持。

北京東方老年研修學(xué)院院長、北京市石景山區(qū)老年大學(xué)原校長楊文霞鼓勵老年人勇于接觸網(wǎng)絡(luò)、保持終身學(xué)習(xí)。中國人民大學(xué)人口與健康學(xué)院教授唐丹認為，家庭仍是幫助老年人防范網(wǎng)絡(luò)風(fēng)險的第一道防線，但構(gòu)建家庭防線需細水長流，不能急于求成，只要老人的短視頻使用行為未對其身心健康造成實質(zhì)傷害，子女就應(yīng)當給老人保留自由探索的空間，并在日常交流中適時進行風(fēng)險提示和技能科普。