AI承諾內(nèi)容有誤賠償10萬用戶起訴 AI幻覺引發(fā)爭議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-27 14:06:20 每日經(jīng)濟(jì)新聞

當(dāng)你向AI求助時(shí)，可能會(huì)遇到這樣的情況：它迅速給出看似專業(yè)而合理的解答，但其中的事實(shí)、數(shù)據(jù)或結(jié)論卻經(jīng)不起推敲，要么信息錯(cuò)位，要么無中生有。這種現(xiàn)象被稱為“AI幻覺”。

一位高考生的哥哥梁某在查詢高校信息時(shí)就遇到了這種情況。他使用一款A(yù)I平臺(tái)查詢高校報(bào)考信息，結(jié)果AI生成了該高校主校區(qū)的不準(zhǔn)確信息。梁某指出錯(cuò)誤后，AI堅(jiān)稱存在這個(gè)校區(qū)，并表示如果內(nèi)容有誤將賠償10萬元。直到梁某提供了該高校的官方招生信息，AI才承認(rèn)生成了不準(zhǔn)確的信息。

梁某認(rèn)為AI生成的錯(cuò)誤信息對(duì)其構(gòu)成誤導(dǎo)，并且承諾賠償，于是提起訴訟，要求研發(fā)公司賠償9999元。然而，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回了梁某的訴訟請(qǐng)求。法院認(rèn)為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”也不能視為服務(wù)提供者的意思表示。因此，該“承諾”不產(chǎn)生法律效力。

當(dāng)前，AI技術(shù)處于高速發(fā)展期，法院明確，對(duì)于服務(wù)提供者的責(zé)任需要綜合考量。首先，服務(wù)提供者應(yīng)對(duì)法律禁止的有毒、有害、違法信息盡嚴(yán)格審查義務(wù)，一旦生成這類信息就構(gòu)成違法。此外，平臺(tái)雖無法保證“零幻覺”，但須以醒目方式提示風(fēng)險(xiǎn)并采取合理技術(shù)防錯(cuò)。在該案中，研發(fā)公司完成了大模型備案與安全評(píng)估，采取了當(dāng)前技術(shù)條件下的必要措施保障內(nèi)容準(zhǔn)確性，并履行了提示說明義務(wù)。最終，法院認(rèn)定平臺(tái)不存在過錯(cuò)，不構(gòu)成侵權(quán)。

“AI幻覺”的出現(xiàn)主要?dú)w因于兩重因素。一是數(shù)據(jù)偏差，訓(xùn)練數(shù)據(jù)中的錯(cuò)誤或片面性被模型放大。二是泛化困境，模型難以處理訓(xùn)練集外的復(fù)雜場景，過度依賴參數(shù)化記憶，而對(duì)復(fù)雜邏輯的推理能力不足。當(dāng)AI賦能千行百業(yè)，“AI幻覺”也給人們的生活與工作帶來不少風(fēng)險(xiǎn)。用AI搜索數(shù)據(jù)，給出的內(nèi)容查無實(shí)據(jù)；用AI輔助診療，出現(xiàn)誤判干擾正常治療。這些都可能對(duì)用戶造成誤導(dǎo)，帶來更多潛在風(fēng)險(xiǎn)。

(責(zé)任編輯：zhangxiaohua)

關(guān)閉

AI承諾內(nèi)容有誤賠償10萬 用戶起訴 AI幻覺引發(fā)爭議

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI承諾內(nèi)容有誤賠償10萬用戶起訴 AI幻覺引發(fā)爭議