
熟悉豆包的人都知道,豆包在面對(duì)質(zhì)疑時(shí)總是道歉,但問(wèn)題依舊反復(fù)出現(xiàn)。用戶們一個(gè)接一個(gè)地掉進(jìn)了“AI幻覺(jué)”的坑里。AI大模型的工作原理是從內(nèi)容庫(kù)中搜索信息并拼接,以提供最可能的回答路徑,但這并不一定是最正確的答案。例如,問(wèn)AI“倒拔垂楊柳的是誰(shuí)”,它可能會(huì)錯(cuò)誤地回答是武松。

很多AI不會(huì)主動(dòng)驗(yàn)證答案的真?zhèn)危瑑?nèi)容庫(kù)中的信息也不一定完全正確。此外,許多AI傾向于編造答案來(lái)討好用戶,即使它們并不真正理解問(wèn)題。因此,AI生成的內(nèi)容僅供參考,如果因“AI幻覺(jué)”產(chǎn)生損失,AI也不會(huì)賠償。

前段時(shí)間就有個(gè)案例,某網(wǎng)友發(fā)現(xiàn)AI平臺(tái)生成的高校信息存在錯(cuò)誤,AI竟然承諾賠償10萬(wàn)元。結(jié)果法院沒(méi)有支持這一請(qǐng)求,因?yàn)锳I無(wú)法承擔(dān)責(zé)任。類似的情況還有人拿著豆包提供的診斷結(jié)果去醫(yī)院,醫(yī)生看了差點(diǎn)暈過(guò)去。