當(dāng)你向AI求助時(shí)，可能會(huì)遇到這樣的情況：它迅速給出看似專(zhuān)業(yè)而合理的解答，但其中的事實(shí)、數(shù)據(jù)或結(jié)論卻經(jīng)不起推敲，要么信息錯(cuò)位，要么無(wú)中生有。這種現(xiàn)象被稱(chēng)為“AI幻覺(jué)”。

一位高考生的哥哥梁某在查詢高校信息時(shí)遇到了這種情況。2025年6月，梁某使用一款A(yù)I平臺(tái)查詢高校報(bào)考信息，結(jié)果AI生成了該高校主校區(qū)的不準(zhǔn)確信息。梁某指出錯(cuò)誤后，AI堅(jiān)稱(chēng)存在這個(gè)校區(qū)，并表示如果內(nèi)容有誤將賠償10萬(wàn)元。直到梁某提供了該高校的官方招生信息，AI才承認(rèn)生成了不準(zhǔn)確的信息。

梁某認(rèn)為AI生成的錯(cuò)誤信息對(duì)他構(gòu)成誤導(dǎo)，而且承諾賠償，于是提起訴訟，要求AI平臺(tái)的研發(fā)公司賠償9999元。浙江杭州互聯(lián)網(wǎng)法院對(duì)此案作出一審判決，駁回了梁某的訴訟請(qǐng)求。這一判決明確，在生成式人工智能場(chǎng)景中，AI的“承諾”不構(gòu)成平臺(tái)的意思表示，同時(shí)為AI生成內(nèi)容劃出了紅線和底線，厘清了服務(wù)提供者的注意義務(wù)邊界。

法院認(rèn)為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務(wù)提供者的意思表示。理由在于：人工智能不具有民事主體資格；被告并未通過(guò)該AI模型設(shè)定或傳達(dá)其意思表示；一般的社會(huì)觀念、交易習(xí)慣等不足以使原告對(duì)隨機(jī)生成的“承諾”產(chǎn)生合理信賴(lài)；無(wú)證據(jù)表明被告曾作出愿受人工智能生成內(nèi)容約束的外在表示。因此，該“承諾”不產(chǎn)生意思表示的法律效力。

法院還認(rèn)為，生成式人工智能服務(wù)依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。本案應(yīng)適用《中華人民共和國(guó)民法典》第一千一百六十五條第一款的一般過(guò)錯(cuò)責(zé)任原則，而非產(chǎn)品責(zé)任的無(wú)過(guò)錯(cuò)責(zé)任原則。主要基于四點(diǎn)考量：從概念與構(gòu)成要件上，該服務(wù)缺乏具體、特定的用途與合理可行的質(zhì)檢標(biāo)準(zhǔn)；生成的信息內(nèi)容本身通常不具備高度危險(xiǎn)性；服務(wù)提供者缺乏對(duì)生成信息內(nèi)容足夠的預(yù)見(jiàn)和控制能力；適用無(wú)過(guò)錯(cuò)責(zé)任原則可能會(huì)不當(dāng)加重服務(wù)提供者的責(zé)任，限制人工智能產(chǎn)業(yè)的發(fā)展。

在案涉情形下，法院基于一般過(guò)錯(cuò)責(zé)任原則，對(duì)侵權(quán)構(gòu)成的各項(xiàng)要件進(jìn)行了逐一審查。關(guān)于侵權(quán)行為的問(wèn)題，原告主張受到的侵害是因信息不準(zhǔn)確，導(dǎo)致他錯(cuò)失報(bào)考機(jī)會(huì)并額外產(chǎn)生信息核實(shí)成本、維權(quán)成本等。法院認(rèn)為，不能僅依據(jù)權(quán)益本身被侵害而認(rèn)定行為的非法性或不法性，而須從被告是否違反注意義務(wù)進(jìn)行判定。

關(guān)于過(guò)錯(cuò)的認(rèn)定，法院采用動(dòng)態(tài)系統(tǒng)論，闡述了服務(wù)提供者應(yīng)盡的三層注意義務(wù)：一是對(duì)法律禁止的“有毒”、有害、違法信息負(fù)有嚴(yán)格審查義務(wù)；二是需以顯著方式向用戶提示AI生成內(nèi)容可能不準(zhǔn)確的固有局限性；三是應(yīng)盡功能可靠性的基本注意義務(wù)，采取同行業(yè)通行技術(shù)措施提高生成內(nèi)容準(zhǔn)確性。經(jīng)審查，被告已在應(yīng)用程序歡迎頁(yè)、用戶協(xié)議及交互界面的顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識(shí)。結(jié)合被告已采用檢索增強(qiáng)生成等技術(shù)提升輸出可靠性的事實(shí)，法院認(rèn)定其已盡到合理注意義務(wù)，主觀上不存在過(guò)錯(cuò)。

關(guān)于損害結(jié)果與因果關(guān)系，原告未能就實(shí)際損害的發(fā)生提供任何有效證據(jù)，依法難以認(rèn)定損害存在。進(jìn)一步分析因果關(guān)系，法院認(rèn)為案涉AI生成的不準(zhǔn)確信息并未實(shí)質(zhì)性地介入或影響原告的報(bào)考決策過(guò)程，二者不存在因果關(guān)系。最終，法院駁回了原告的訴訟請(qǐng)求。