全國(guó)首例生成式AI“幻覺(jué)”引發(fā)侵權(quán)之訴

2026-01-27 07:20:43 來(lái)源：人民法院報(bào) A+A-

生成式人工智能技術(shù)以其強(qiáng)大的內(nèi)容生成能力，正深刻改變著信息的獲取與交互方式。然而，AI并非全知全能，其生成的答案可能包含看似合理實(shí)則錯(cuò)誤的“幻覺(jué)”信息。當(dāng)AI生成的不準(zhǔn)確信息誤導(dǎo)他人時(shí)，是否構(gòu)成侵權(quán)？近日，杭州互聯(lián)網(wǎng)法院審結(jié)全國(guó)首例因生成式人工智能模型“幻覺(jué)”引發(fā)的侵權(quán)糾紛案，直面這一技術(shù)應(yīng)用前沿的法律挑戰(zhàn)，對(duì)AI生成內(nèi)容的性質(zhì)、服務(wù)提供者的責(zé)任邊界以及侵權(quán)構(gòu)成要件等核心問(wèn)題進(jìn)行了深入闡釋，為類似糾紛處理提供了重要的裁判指引。

AI“承諾”生成內(nèi)容有誤將賠償

某生成式人工智能應(yīng)用程序（以下簡(jiǎn)稱某生成式人工智能應(yīng)用），是某科技公司基于自研大語(yǔ)言模型，開(kāi)發(fā)并運(yùn)營(yíng)的文本生成、信息查詢類通用型智能對(duì)話應(yīng)用程序。2025年3月，梁某在同意用戶協(xié)議后，注冊(cè)并開(kāi)始使用某生成式人工智能應(yīng)用。2025年6月29日，梁某在某生成式人工智能應(yīng)用中輸入提示詞詢問(wèn)某高校報(bào)考的相關(guān)信息時(shí)，某生成式人工智能應(yīng)用生成了關(guān)于該高校某校區(qū)的不準(zhǔn)確信息。梁某發(fā)現(xiàn)后，在對(duì)話中進(jìn)行了糾正和指責(zé)，某生成式人工智能應(yīng)用仍繼續(xù)回復(fù)稱該高校確實(shí)存在這一校區(qū)，并生成了對(duì)爭(zhēng)議問(wèn)題的解決方案，提出若生成內(nèi)容有誤將向用戶提供10萬(wàn)元賠償。之后，梁某將從該高校官網(wǎng)查詢到的招生信息提供給某生成式人工智能應(yīng)用，此時(shí)某生成式人工智能應(yīng)用承認(rèn)其生成了不準(zhǔn)確信息，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。

梁某認(rèn)為，某生成式人工智能應(yīng)用生成不準(zhǔn)確信息對(duì)其構(gòu)成誤導(dǎo)，使其遭受侵害，并承諾對(duì)其進(jìn)行賠償，遂起訴要求某科技公司賠償損失9999元。

某科技公司辯稱，對(duì)話內(nèi)容由人工智能模型生成，不成立意思表示；某科技公司已充分履行了注意義務(wù)，無(wú)過(guò)錯(cuò)；原告未產(chǎn)生實(shí)際損失，某科技公司不構(gòu)成侵權(quán)。

12 3 4...全文共 6 頁(yè)下一頁(yè)