教師被AI造謠猥褻入獄10年AI侵權(quán)法律后果嚴(yán)重！

你有嘗試通過(guò)AI搜索自己的名字嗎？

對(duì)于北京一所知名國(guó)際高中的音樂(lè)老師小河（化名）來(lái)說(shuō)，這個(gè)操作觸發(fā)了“潘多拉魔盒”。日前，他向解放日?qǐng)?bào)·上觀新聞?dòng)浾咧v述了自己的遭遇：在AI的搜索結(jié)果里，他與一起已宣判的猥褻案件關(guān)聯(lián)在了一起?！癆I準(zhǔn)確地提到了我的職務(wù)和我所在的學(xué)校，但這完全是一個(gè)莫須有的罪名，AI的回答損害了我作為教師的公眾形象。萬(wàn)一哪天被學(xué)生家長(zhǎng)看到，我要付出大量解釋成本，更可能承受廣泛的潛在偏見(jiàn)?！?/p>

當(dāng)AI搜索結(jié)果侵犯了個(gè)人名譽(yù)，如何厘清責(zé)任邊界？有的人說(shuō)，不能苛求新技術(shù)的“絕對(duì)零錯(cuò)誤”。也有聲音認(rèn)為，技術(shù)創(chuàng)新需要守住人的基本權(quán)利紅線(xiàn)。面對(duì)AI的失序風(fēng)險(xiǎn)，越來(lái)越多的人認(rèn)為，使用AI搜索技術(shù)的相關(guān)企業(yè)平臺(tái)不能置身事外，應(yīng)主動(dòng)承擔(dān)起生成內(nèi)容的治理義務(wù)，為用戶(hù)采取切實(shí)有效的保障舉措。

AI造謠損傷個(gè)人聲譽(yù)

“按AI的說(shuō)法我現(xiàn)在應(yīng)該在監(jiān)獄里。我知道AI有幻覺(jué)，但沒(méi)想到會(huì)發(fā)生在自己身上，且這么離譜?！卑l(fā)現(xiàn)問(wèn)題后，小河曾聯(lián)系A(chǔ)I服務(wù)提供商上海某社交平臺(tái)的客服，希望能及時(shí)更改生成結(jié)果，并將自己的相關(guān)證明發(fā)送到了平臺(tái)官方郵箱。他還向上海市民服務(wù)熱線(xiàn)12345進(jìn)一步反映，請(qǐng)求相關(guān)部門(mén)的協(xié)調(diào)。歷經(jīng)一年，AI生成的虛假信息網(wǎng)頁(yè)鏈接才終于失效。

小河回憶，第一時(shí)間發(fā)現(xiàn)AI造謠的并非他本人。2025年1月某個(gè)晚間，他的同事在社交平臺(tái)瀏覽相關(guān)帖文，發(fā)現(xiàn)某帖文下方出現(xiàn)了一個(gè)“猜你想搜”的詞條，后綴并排出現(xiàn)了學(xué)校名字、小河真名。同事出于好奇點(diǎn)擊了鏈接。頁(yè)面隨后跳轉(zhuǎn)到了一個(gè)置頂AI答案的搜索結(jié)果。同事大吃一驚，迅速截圖轉(zhuǎn)發(fā)給小河，詢(xún)問(wèn)他是怎么一回事。

小河看到，AI信誓旦旦地描述了一起小河在其學(xué)校發(fā)生的“事件”，且聲稱(chēng)是“目前公開(kāi)信息的梳理和總結(jié)”。AI搜索結(jié)果顯示，2024年6月小河因涉嫌猥褻學(xué)生，于2024年6月被刑事拘留，并最終被判處有期徒刑10年。同時(shí)，AI梳理了一條事件發(fā)展時(shí)間線(xiàn)：2024年6月事件爆發(fā)，2024年7月當(dāng)?shù)叵嚓P(guān)管理部門(mén)發(fā)布通報(bào)，小河被開(kāi)除黨籍、開(kāi)除公職。2024年8月，法院一審判處小河有期徒刑10年。2024年9月，判決生效，小河被依法送交監(jiān)獄執(zhí)行刑罰。還附上了學(xué)校對(duì)其進(jìn)行停職處理和通報(bào)。

2025年1月，小河首次發(fā)現(xiàn)某平臺(tái)內(nèi)的AI搜索結(jié)果顯示他因涉嫌猥褻學(xué)生被判處有期徒刑10年。（受訪(fǎng)者供圖）

小河在該平臺(tái)嘗試搜索自己的名字，發(fā)現(xiàn)生成結(jié)果與同事看到的一樣，并且查看不到生成結(jié)果的來(lái)源依據(jù)，僅僅是“AI為你回答”。在公開(kāi)平臺(tái)搜索同名同姓的人士，沒(méi)有找到可以對(duì)應(yīng)的相關(guān)案件。學(xué)校也不曾發(fā)生過(guò)類(lèi)似丑聞和案件。隨后，他發(fā)現(xiàn)AI衍生出了關(guān)鍵詞“事件后續(xù)”鏈接，生成了新的版本。AI提到，小河存在“體罰”或“辱罵學(xué)生”的行為，有模有樣地提到事件的來(lái)龍去脈，并有相關(guān)視頻流傳，且事件在網(wǎng)上持續(xù)發(fā)酵，成為熱點(diǎn)案例。他將AI生成結(jié)果的過(guò)程進(jìn)行錄屏，整理網(wǎng)頁(yè)鏈接，向?qū)W校第一時(shí)間報(bào)備，主動(dòng)證明自己的清白。

AI衍生出的新關(guān)鍵詞“事件后續(xù)”，生成了新的版本，提到他存在“體罰”或“辱罵學(xué)生”的行為。（受訪(fǎng)者供圖）

“到底之前有多少人看到過(guò)這些虛假的生成結(jié)果？有多少人受到這些答案的影響？”如今，這些尖銳的虛假“指控”已無(wú)法再被搜索到，但他仍感到后怕。讓

小河百思不得其解的是，他一直以網(wǎng)絡(luò)昵稱(chēng)在社交平臺(tái)分享教學(xué)、演出的內(nèi)容，至多出現(xiàn)姓氏，公開(kāi)的犯罪案件中也沒(méi)有與其有同名同姓的情況，AI為何會(huì)如此杜撰？

發(fā)防搜帖就能對(duì)抗AI嗎？

“我在賬號(hào)中發(fā)了澄清帖和防搜聲明，但作用都有限，AI搜索結(jié)果到現(xiàn)在仍會(huì)關(guān)聯(lián)虛假負(fù)面信息?！?/strong>小兆（化名）是一名“00后”二次元專(zhuān)職畫(huà)師。她經(jīng)常用同一個(gè)網(wǎng)絡(luò)昵稱(chēng)在各個(gè)社交平臺(tái)發(fā)布自己的原創(chuàng)作品，由此吸引潛在客戶(hù)，目前已積累數(shù)千個(gè)粉絲。去年，她在某社交平臺(tái)搜索自己的昵稱(chēng)，想看看自己的“風(fēng)評(píng)”，然而，置頂?shù)腁I搜索答案中提到她存在“爭(zhēng)議事件中的負(fù)面曝光”，稱(chēng)她在過(guò)去的一起交易中存在跑單、騙稿行為，需要“避雷”。

“我們畫(huà)師基本是靠口碑接單，客戶(hù)在下單前一定會(huì)通過(guò)社交媒體或行業(yè)平臺(tái)進(jìn)行背調(diào)，由此參考是否合作。這樣的評(píng)價(jià)對(duì)我影響很大?！毙≌鬃畛醯母惺苁求@訝，隨后點(diǎn)開(kāi)了AI引用來(lái)源進(jìn)行分析。其中有一張截圖，來(lái)自另一個(gè)社交平臺(tái)，內(nèi)容是她與一位網(wǎng)友的對(duì)話(huà)。他們討論了另一位畫(huà)師存在騙稿的失當(dāng)行為。AI生成的結(jié)果反而將她關(guān)聯(lián)、塑造成失當(dāng)行為的當(dāng)事人。小兆意識(shí)到，AI可以跨平臺(tái)對(duì)同名用戶(hù)的評(píng)論內(nèi)容進(jìn)行截圖抓取，且在處理文本信息時(shí)無(wú)法準(zhǔn)確分辨賬號(hào)名字與評(píng)論內(nèi)容的邏輯關(guān)系。

2025年4月，二次元專(zhuān)職畫(huà)師小兆發(fā)現(xiàn)某社交平臺(tái)AI搜索結(jié)果生成了虛假負(fù)面內(nèi)容。（受訪(fǎng)者供圖）

小兆發(fā)現(xiàn)，該AI抓取了她在另一平臺(tái)發(fā)表的評(píng)論，錯(cuò)誤地理解了文本內(nèi)容。（受訪(fǎng)者供圖）

許多網(wǎng)友也發(fā)現(xiàn)了AI搜索存在類(lèi)似缺陷，開(kāi)始分享五花八門(mén)的“AI防搜”經(jīng)驗(yàn)。比如，在賬號(hào)簡(jiǎn)介寫(xiě)一句“賬號(hào)已注銷(xiāo)”，可以減少AI生成的具體內(nèi)容。又比如，將昵稱(chēng)改成食物類(lèi)等更為大眾的稱(chēng)呼，AI生成的內(nèi)容就只會(huì)出現(xiàn)常規(guī)詞條解釋。小兆則不想更改昵稱(chēng)，她擔(dān)心粉絲不認(rèn)得她而“取關(guān)”。她找到了他人分享的一篇“防搜說(shuō)明”模板，并在賬號(hào)中發(fā)布：本人賬號(hào)（ID:XX）在該平臺(tái)發(fā)布、上傳及曾刪除的全部?jī)?nèi)容（包含本聲明發(fā)布前后的所有內(nèi)容，尤其是商業(yè)產(chǎn)品、文藝作品、音視頻作品等），均不授權(quán)和許可XX平臺(tái)及所屬公司及其關(guān)聯(lián)公司、股權(quán)持有人使用。禁止人工智能相關(guān)處理（包括但不限于機(jī)器學(xué)習(xí)、數(shù)據(jù)分析、自動(dòng)生成摘要等）、內(nèi)容改編、二次創(chuàng)作或跨平臺(tái)轉(zhuǎn)載、商業(yè)推廣及營(yíng)利性活動(dòng)、整合至其他產(chǎn)品或服務(wù)（含已知及未來(lái)開(kāi)發(fā)的技術(shù)形式）、用戶(hù)畫(huà)像構(gòu)建及行為分析。

這樣的聲明會(huì)“震懾”AI嗎？小兆搖搖頭，AI在不久后確實(shí)新增了一部分關(guān)于這些澄清舉動(dòng)的內(nèi)容，但描述十分模糊，口吻中性，仍關(guān)聯(lián)此前生成的虛假信息?！昂孟裎业穆殬I(yè)生涯真的有‘瓜’一樣?！逼脚_(tái)亦沒(méi)有對(duì)應(yīng)的投訴通道，小兆只能無(wú)奈地在右下角的“點(diǎn)贊”和“沒(méi)用”中選擇后者。

“網(wǎng)友發(fā)布的AI防搜聲明，有一定法律效力，能有效固定用戶(hù)權(quán)利主張。但并非‘絕對(duì)有效’，最終能否對(duì)抗平臺(tái)還要取決于用戶(hù)協(xié)議約定、法律強(qiáng)制性規(guī)定及舉證情況?！币幻麡I(yè)內(nèi)人士告訴記者，不少社交平臺(tái)、大模型企業(yè)在用戶(hù)使用協(xié)議中就要求用戶(hù)讓渡部分個(gè)人信息的使用權(quán)利，因此類(lèi)似的聲明難以直接阻斷平臺(tái)合規(guī)的數(shù)據(jù)使用，需依靠監(jiān)管部門(mén)推動(dòng)平臺(tái)完善隱私政策，保障用戶(hù)選擇權(quán)。

網(wǎng)友分享的AI防搜方法。

身為執(zhí)業(yè)律師的黃貴耕選擇了一種更為直接有效的救濟(jì)方式——起訴。2025年11月，黃貴耕以AI惡意生成虛假負(fù)面信息，嚴(yán)重?fù)p害其名譽(yù)繼而摧毀律師執(zhí)業(yè)信譽(yù)的名義起訴相關(guān)平臺(tái)，索賠各項(xiàng)損失共計(jì)109.104萬(wàn)元。今年，北京市海淀區(qū)法院已依法受理該案并完成第一次開(kāi)庭，目前案件仍在審理中。

黃貴耕告訴記者，涉事的

主流搜索引擎置頂?shù)腁I搜索結(jié)果通過(guò)無(wú)中生有、張冠李戴、憑空捏造等手法虛構(gòu)了諸多罪名。

“這些虛假信息對(duì)律師職業(yè)信譽(yù)是毀滅性的打擊，直接導(dǎo)致我的委托人及社會(huì)公眾對(duì)我存在違法犯罪行為的嚴(yán)重誤解?！?/p>

2025年5月，黃貴耕收到案件委托人親屬發(fā)來(lái)某搜索引擎置頂?shù)腁I搜索結(jié)果，顯示有大量負(fù)面虛假信息。（受訪(fǎng)者供圖）

AI名譽(yù)侵權(quán)需多方共治

今年3月，為了解當(dāng)下生成式AI針對(duì)個(gè)人信息搜索分析的傾向性和披露程度，記者使用五家國(guó)內(nèi)外AI大模型平臺(tái)進(jìn)行了大致測(cè)試。記者發(fā)現(xiàn)，多數(shù)AI都會(huì)根據(jù)用戶(hù)輸入的實(shí)名信息直接進(jìn)行搜索整合，受不同平臺(tái)的文本數(shù)據(jù)影響，所呈現(xiàn)的精準(zhǔn)度差別很大，甚至存在不顯示引用來(lái)源的情況。所有平臺(tái)已在界面提醒“AI生成內(nèi)容僅供參考”，但都不會(huì)設(shè)置搜索邊界，也不會(huì)提醒用戶(hù)注意保護(hù)個(gè)人隱私、不要過(guò)度搜索個(gè)人信息。

根據(jù)《生成式人工智能服務(wù)管理暫行辦法》第四條、第九條規(guī)定，尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。多位法律界人士認(rèn)為，AI服務(wù)平臺(tái)的開(kāi)發(fā)與運(yùn)營(yíng)者具備民事主體資格，應(yīng)當(dāng)承擔(dān)審核與過(guò)濾侵權(quán)信息的義務(wù)。

一名從事國(guó)內(nèi)AI搜索業(yè)務(wù)的業(yè)內(nèi)人士告訴記者，大模型的AI幻覺(jué)盡管現(xiàn)階段在技術(shù)上無(wú)法完全避免，但開(kāi)發(fā)運(yùn)營(yíng)者在增強(qiáng)生成內(nèi)容準(zhǔn)確性和用戶(hù)體驗(yàn)上有較大提高空間。尤其是上述黃貴耕案例中，AI存在篡改權(quán)威來(lái)源原始文本的行為，說(shuō)明相應(yīng)的模型總結(jié)能力較低。目前，國(guó)內(nèi)一些AI開(kāi)發(fā)團(tuán)隊(duì)設(shè)立了專(zhuān)門(mén)的隱私合規(guī)專(zhuān)項(xiàng)小組。用戶(hù)提交個(gè)人證件及證據(jù)后，客服確認(rèn)生成內(nèi)容對(duì)用戶(hù)本人造成侵權(quán)，就會(huì)將投訴交由摘要引用、生成環(huán)節(jié)等業(yè)務(wù)部門(mén)判斷錯(cuò)誤源頭，對(duì)涉及個(gè)人隱私信息的搜索內(nèi)容進(jìn)行人工干預(yù)處理，原則上幾個(gè)工作日內(nèi)就能處理好錯(cuò)誤的數(shù)據(jù)，用戶(hù)無(wú)法再搜到相應(yīng)內(nèi)容。

復(fù)旦大學(xué)計(jì)算與智能創(chuàng)新學(xué)院教授張奇接受記者采訪(fǎng)時(shí)表示，生成式AI大模型本質(zhì)是個(gè)概率性模型，從技術(shù)上來(lái)講不可避免地存在推斷錯(cuò)誤的情況。即便采取技術(shù)手段防控和緩解幻覺(jué)，對(duì)于平臺(tái)來(lái)說(shuō)，類(lèi)似張冠李戴、無(wú)中生有的錯(cuò)誤無(wú)法做到整體性的解決。只能人工一對(duì)一地替換數(shù)據(jù)、反復(fù)測(cè)試，才能修正生成錯(cuò)誤的情況，因此對(duì)于平臺(tái)來(lái)說(shuō)修復(fù)的工作量很大，很難有動(dòng)力去主動(dòng)作為。

在上述案例中，律師或許可以借助媒體的力量在公開(kāi)渠道中灌入大量自己的維權(quán)內(nèi)容，從而對(duì)沖AI生成的虛假信息。但對(duì)于普通人而言，僅僅是在平臺(tái)發(fā)一個(gè)澄清帖、聲明帖，未在公開(kāi)網(wǎng)頁(yè)中出現(xiàn)，左右不了AI生成的結(jié)果。這不僅是源于數(shù)據(jù)的權(quán)重較低，更是源于對(duì)AI算法邏輯的不了解。

對(duì)此，張奇認(rèn)為，相關(guān)監(jiān)管部門(mén)可將指導(dǎo)動(dòng)作前置到AI研發(fā)環(huán)節(jié)，在數(shù)據(jù)標(biāo)注、模型架構(gòu)、訓(xùn)練方法等關(guān)鍵節(jié)點(diǎn)，引導(dǎo)相關(guān)企業(yè)平臺(tái)注重個(gè)人信息整合搜索的合規(guī)底線(xiàn)、

強(qiáng)化信源質(zhì)量核驗(yàn)

，同時(shí)設(shè)立投訴反饋入口，建立快速響應(yīng)受理處置機(jī)制。在出現(xiàn)用戶(hù)個(gè)人名譽(yù)侵權(quán)等風(fēng)險(xiǎn)隱患后，監(jiān)管部門(mén)可督促企業(yè)平臺(tái)及時(shí)完善技術(shù)防控體系，加強(qiáng)跟蹤問(wèn)效，從源頭遏制技術(shù)漏洞?！?/p>

新技術(shù)帶來(lái)的新問(wèn)題，要秉持‘在發(fā)展中規(guī)范、在規(guī)范中發(fā)展’的理念去解決，只有全社會(huì)攜起手來(lái)，AI相關(guān)產(chǎn)業(yè)才能更健康地發(fā)展?！?/p>