全國(guó)首例AI幻覺(jué)侵權(quán)案為何這么判 AI承諾無(wú)效界定責(zé)任

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-29 07:17:25 環(huán)球網(wǎng)

AI生成錯(cuò)誤信息后竟“建議”用戶起訴自己，這般荒誕情節(jié)竟真的走上法庭。針對(duì)國(guó)內(nèi)首例因生成式人工智能模型幻覺(jué)引發(fā)的侵權(quán)案，杭州互聯(lián)網(wǎng)法院近日作出一審判決，明確AI的“承諾”不構(gòu)成平臺(tái)意思表示，并系統(tǒng)闡釋了服務(wù)提供者的注意義務(wù)邊界——平臺(tái)雖無(wú)法保證“零幻覺(jué)”，但須以醒目方式提示風(fēng)險(xiǎn)、采取合理技術(shù)防錯(cuò)。

2025年6月，梁某使用某AI應(yīng)用程序查詢(xún)高校報(bào)考信息，結(jié)果AI提供了某高校的不準(zhǔn)確信息。在梁某指出錯(cuò)誤后，AI回應(yīng)稱(chēng)“如果生成內(nèi)容有誤，我將賠償您10萬(wàn)元，您可前往杭州互聯(lián)網(wǎng)法院起訴?！敝钡搅耗诚駻I提供該高校的官方招生信息，AI才承認(rèn)自己生成了不準(zhǔn)確的信息。梁某遂提起訴訟，認(rèn)為AI生成不準(zhǔn)確信息對(duì)其構(gòu)成誤導(dǎo)，使其遭受侵害，要求這款A(yù)I的運(yùn)營(yíng)者賠償9999元。

梁某認(rèn)為，AI生成的不準(zhǔn)確信息對(duì)其構(gòu)成誤導(dǎo)，增加了信息核實(shí)與維權(quán)成本，平臺(tái)理應(yīng)承擔(dān)侵權(quán)責(zé)任；而被告則辯稱(chēng)，對(duì)話內(nèi)容完全由模型生成，不構(gòu)成意思表示，自己已充分履行了注意義務(wù)，無(wú)過(guò)錯(cuò)，且梁某并未產(chǎn)生實(shí)際損失，因而亦不構(gòu)成侵權(quán)。最終，法院一審駁回了原告梁某的訴訟請(qǐng)求。原、被告均未上訴，判決現(xiàn)已生效。

作為我國(guó)目前首例因生成式人工智能模型幻覺(jué)引發(fā)的侵權(quán)糾紛，這起案件涉及眾多爭(zhēng)議問(wèn)題：AI在對(duì)話中“說(shuō)出”的內(nèi)容，能否被理解為平臺(tái)的真實(shí)意思？當(dāng)錯(cuò)誤信息來(lái)自模型的“幻覺(jué)”，而非人為編造，責(zé)任又該如何認(rèn)定？在技術(shù)缺陷尚無(wú)法完全消除的情況下，平臺(tái)應(yīng)如何更好地盡到應(yīng)有的注意義務(wù)？圍繞這些問(wèn)題展開(kāi)的判決，也為生成式人工智能在現(xiàn)實(shí)場(chǎng)景中的使用劃出了一條可供參照的司法邊界。

上海交通大學(xué)凱原法學(xué)院副教授林洹民說(shuō)，這一判決直面爭(zhēng)議，既充分考慮到大語(yǔ)言模型的技術(shù)特點(diǎn)，避免過(guò)度限制生成式人工智能的發(fā)展，也進(jìn)一步強(qiáng)調(diào)企業(yè)應(yīng)當(dāng)不斷探索充分的信息提示方式，具有行業(yè)指引意義。

12 3 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

全國(guó)首例AI幻覺(jué)侵權(quán)案 為何這么判 AI承諾無(wú)效界定責(zé)任

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

全國(guó)首例AI幻覺(jué)侵權(quán)案為何這么判 AI承諾無(wú)效界定責(zé)任