小河看到,AI信誓旦旦地描述了一起小河在其學校發(fā)生的“事件”,且聲稱是“目前公開信息的梳理和總結(jié)”。AI搜索結(jié)果顯示,2024年6月小河因涉嫌猥褻學生,于2024年6月被刑事拘留,并最終被判處有期徒刑10年。同時,AI梳理了一條事件發(fā)展時間線:2024年6月事件爆發(fā),2024年7月當?shù)叵嚓P(guān)管理部門發(fā)布通報,小河被開除黨籍、開除公職。2024年8月,法院一審判處小河有期徒刑10年。2024年9月,判決生效,小河被依法送交監(jiān)獄執(zhí)行刑罰。還附上了學校對其進行停職處理和通報。
2025年1月,小河首次發(fā)現(xiàn)某平臺內(nèi)的AI搜索結(jié)果顯示他因涉嫌猥褻學生被判處有期徒刑10年。(受訪者供圖)
小河在該平臺嘗試搜索自己的名字,發(fā)現(xiàn)生成結(jié)果與同事看到的一樣,并且查看不到生成結(jié)果的來源依據(jù),僅僅是“AI為你回答”。在公開平臺搜索同名同姓的人士,沒有找到可以對應的相關(guān)案件。學校也不曾發(fā)生過類似丑聞和案件。隨后,他發(fā)現(xiàn)AI衍生出了關(guān)鍵詞“事件后續(xù)”鏈接,生成了新的版本。AI提到,小河存在“體罰”或“辱罵學生”的行為,有模有樣地提到事件的來龍去脈,并有相關(guān)視頻流傳,且事件在網(wǎng)上持續(xù)發(fā)酵,成為熱點案例。他將AI生成結(jié)果的過程進行錄屏,整理網(wǎng)頁鏈接,向?qū)W校第一時間報備,主動證明自己的清白。
AI衍生出的新關(guān)鍵詞“事件后續(xù)”,生成了新的版本,提到他存在“體罰”或“辱罵學生”的行為。(受訪者供圖)
“到底之前有多少人看到過這些虛假的生成結(jié)果?有多少人受到這些答案的影響?”如今,這些尖銳的虛假“指控”已無法再被搜索到,但他仍感到后怕。讓
小河百思不得其解的是,他一直以網(wǎng)絡昵稱在社交平臺分享教學、演出的內(nèi)容,至多出現(xiàn)姓氏,公開的犯罪案件中也沒有與其有同名同姓的情況,AI為何會如此杜撰?
近日,湖南耒陽市公安局偵辦的一起利用人工智能工具編造傳播惡性謠言案件宣判。犯罪嫌疑人陽某因犯尋釁滋事罪被法院依法判處有期徒刑六個月。該案成為湖南省首例因利用AI制造謠言被追究刑事責任的案件
2026-04-03 09:00:22男子用AI編造謠言獲刑