在湖北省大悟縣人民法院審理的一起房屋租賃合同糾紛案中,原告董某提交的水電表照片帶有“AI生成”的水印。在法官質(zhì)詢下,董某承認(rèn)自己利用AI技術(shù)偽造證據(jù),并受到訓(xùn)誡。這并非個例,多地法院也遇到類似情況。隨著生成式人工智能技術(shù)融入法律行業(yè),其帶來的“AI幻覺”陷阱,即生成看似真實(shí)、合理但實(shí)則虛假、錯誤的內(nèi)容,也在侵入法庭。
“AI幻覺”在法律領(lǐng)域已造成多層面沖擊,最常見的是生成虛假或錯誤的案例和法條。北京市通州區(qū)人民法院審理的一起商事糾紛中,承辦法官鄭吉喆發(fā)現(xiàn)原告代理律師提交的兩個案例與實(shí)際案件情況不符。在法官追問下,律師承認(rèn)這些案例是AI工具根據(jù)檢索生成的。北京市第二中級人民法院推動落實(shí)全員、全面、全程“三全”釋法說理機(jī)制,在一起繼承糾紛案件中,當(dāng)事人發(fā)來的裁判依據(jù)沒有一條是準(zhǔn)確的現(xiàn)行法律規(guī)定。上海市第二中級人民法院受理的各類二審案件中,也出現(xiàn)當(dāng)事人直接使用AI工具擬寫訴狀、援引虛構(gòu)法條的情況。更嚴(yán)峻的是,“AI幻覺”還可能被用于惡意取證、偽造證據(jù)、虛構(gòu)事實(shí)。
在上海市青浦區(qū)人民法院審理的一起侵害商標(biāo)權(quán)糾紛中,原告四川全某餐飲文化管理有限公司聲稱被告上海世某食品股份有限公司購買搜索引擎廣告服務(wù),并選用“全某冒”商標(biāo)相近的搜索關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)推廣,構(gòu)成侵權(quán)。世某公司辯稱未曾主動添加含“全某冒”字樣的關(guān)鍵詞。北京某網(wǎng)訊科技有限公司經(jīng)后臺數(shù)據(jù)核查,確認(rèn)世某公司未主動添加相關(guān)關(guān)鍵詞。而原告取證前存在多次頻繁重復(fù)搜索卻不點(diǎn)擊搜索結(jié)果的行為,人為制造了“侵權(quán)”假象。原告以此手法取得400余份“證據(jù)”,向全國各地法院提起或準(zhǔn)備提起商標(biāo)侵權(quán)訴訟。