全國(guó)首例生成式AI“幻覺(jué)”引發(fā)侵權(quán)之訴(4)

2026-01-27 07:20:43 來(lái)源：人民法院報(bào) A+A-

法官心語(yǔ)

為AI發(fā)展鋪平法治軌道

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長(zhǎng)肖芄

人工智能時(shí)代已經(jīng)來(lái)臨，應(yīng)當(dāng)堅(jiān)持發(fā)展與安全并重、促進(jìn)創(chuàng)新與權(quán)益保障相結(jié)合，既要鼓勵(lì)生成式人工智能服務(wù)的創(chuàng)新發(fā)展，也不能忽視當(dāng)事人合法權(quán)益的保護(hù)。當(dāng)下存在一種觀點(diǎn)，主張將產(chǎn)品責(zé)任的適用對(duì)象擴(kuò)大至虛擬系統(tǒng)，對(duì)生成式人工智能侵權(quán)糾紛適用產(chǎn)品責(zé)任的無(wú)過(guò)錯(cuò)責(zé)任原則。然而，傳統(tǒng)產(chǎn)品的物理形態(tài)、功能邊界和風(fēng)險(xiǎn)范圍是明確且相對(duì)固定的，生成式人工智能生成的內(nèi)容是算法基于海量數(shù)據(jù)、對(duì)用戶開(kāi)放式指令的即時(shí)響應(yīng)，其每一次輸出都是不可完全復(fù)現(xiàn)的獨(dú)特生成。對(duì)生成式人工智能侵權(quán)糾紛適用產(chǎn)品責(zé)任，缺乏法律依據(jù)和法理基礎(chǔ)。同時(shí)，人工智能的研發(fā)和應(yīng)用具有較高的公共價(jià)值屬性，如果在技術(shù)發(fā)展初期對(duì)其苛以過(guò)重的嚴(yán)格責(zé)任，可能產(chǎn)生“寒蟬效應(yīng)”，導(dǎo)致某些創(chuàng)新技術(shù)無(wú)法落地應(yīng)用，減緩甚至阻礙技術(shù)的創(chuàng)新和發(fā)展。對(duì)生成式人工智能服務(wù)侵權(quán)采取過(guò)錯(cuò)責(zé)任原則能夠全面評(píng)價(jià)服務(wù)提供者的行為，有利于建構(gòu)兼具彈性、適應(yīng)性與演化能力的回應(yīng)型規(guī)則治理體系：既設(shè)立紅線、底線，嚴(yán)格禁止生成各類(lèi)“有毒”、有害、違法信息，又激勵(lì)生成式人工智能服務(wù)提供者采取合理措施進(jìn)行技術(shù)創(chuàng)新，防止風(fēng)險(xiǎn)發(fā)生。通過(guò)對(duì)服務(wù)提供者有無(wú)過(guò)錯(cuò)的判斷形成對(duì)相關(guān)行為的理解與共識(shí)，在動(dòng)態(tài)回應(yīng)的過(guò)程中不斷尋找系統(tǒng)、合理的注意義務(wù)標(biāo)準(zhǔn)，不斷演化形成新的標(biāo)準(zhǔn)與規(guī)范，最終實(shí)現(xiàn)技術(shù)創(chuàng)新和權(quán)益保障的平衡。

在當(dāng)下的人工智能時(shí)代，模型通過(guò)在含有數(shù)萬(wàn)億詞元（Tokens）的龐大語(yǔ)料庫(kù)上訓(xùn)練，學(xué)習(xí)了復(fù)雜的語(yǔ)言統(tǒng)計(jì)模式和詞匯共現(xiàn)規(guī)律，但并未真正習(xí)得“事實(shí)”，因此難免產(chǎn)生“幻覺(jué)”。需要特別提醒，社會(huì)公眾在面對(duì)生成式人工智能高度流暢、自然的語(yǔ)言應(yīng)答時(shí)，應(yīng)提高警覺(jué)，清醒認(rèn)識(shí)到大模型在當(dāng)前技術(shù)條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”，尚不是可靠的“知識(shí)權(quán)威”，更不能作為“決策替代者”，絕不應(yīng)輕信、盲從，而需多方驗(yàn)證，審慎決策。在人工智能時(shí)代，應(yīng)通過(guò)案例宣傳與科普教育，揭示AI“幻覺(jué)”的形成機(jī)制，使社會(huì)公眾更加理性地認(rèn)知AI的功能和局限，在全社會(huì)廣泛培養(yǎng)人們對(duì)AI自動(dòng)生成內(nèi)容的基本懷疑精神與核查能力，既充分利用好AI的創(chuàng)造性潛力，同時(shí)又避免“幻覺(jué)”帶來(lái)的風(fēng)險(xiǎn)。

首頁(yè)上一頁(yè)1 2 345 6 全文共 6 頁(yè)下一頁(yè)