AI為何會(huì)一本正經(jīng)“胡說(shuō)八道” 推薦引發(fā)質(zhì)疑

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-25 13:34:33 海報(bào)新聞

隨著AI越來(lái)越融入各行各業(yè)，它讓我們的生活變得更加豐富多彩、簡(jiǎn)捷高效。然而，AI給出的答案是否正確和公正引發(fā)了人們的關(guān)注。

近期一些案例顯示，AI有時(shí)會(huì)提供不準(zhǔn)確的信息，尤其是在商業(yè)推薦領(lǐng)域。例如，一名律師在為一場(chǎng)因代持股引發(fā)的民事糾紛案件辯護(hù)時(shí)，向AI詢問相關(guān)案例，AI給出了兩個(gè)參考案例。律師將這些案例提交給法院作為辯護(hù)依據(jù)。但法官發(fā)現(xiàn)，雖然這兩個(gè)案例存在，但真實(shí)的裁判文書與律師提交的內(nèi)容完全不同。

類似的情況也發(fā)生在普通消費(fèi)者身上。張女士想購(gòu)買電動(dòng)牙刷，在面對(duì)眾多品牌和型號(hào)無(wú)從選擇時(shí)，她向AI求助。盡管購(gòu)買了AI推薦的品牌和型號(hào)，張女士后來(lái)發(fā)現(xiàn)這并不是性價(jià)比最高的選擇。中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春指出，學(xué)生在學(xué)習(xí)過程中使用AI工具時(shí)，也會(huì)遇到生成內(nèi)容不準(zhǔn)確甚至虛構(gòu)的情況，包括法學(xué)案例。

當(dāng)前，利用AI進(jìn)行商品推薦已經(jīng)成為一種產(chǎn)業(yè)。一些人專門在網(wǎng)絡(luò)上做“幫商家把產(chǎn)品推薦給AI”的業(yè)務(wù)。他們通過撰寫大量關(guān)于特定產(chǎn)品的文章并投放到AI常去抓取內(nèi)容的平臺(tái)，使AI在搜索相關(guān)內(nèi)容時(shí)能抓取到這些信息。這種推廣服務(wù)根據(jù)投入金額不同，價(jià)格從4000元到20000元不等。

專家解釋說(shuō)，AI雖然擅長(zhǎng)處理邏輯，卻無(wú)法感知數(shù)據(jù)背后的虛假。當(dāng)有人故意發(fā)布大量關(guān)于某個(gè)商品的正面評(píng)價(jià)時(shí)，AI可能會(huì)被誤導(dǎo)，從而給出錯(cuò)誤的推薦。為了驗(yàn)證這一點(diǎn)，技術(shù)人員進(jìn)行了實(shí)驗(yàn)，虛構(gòu)了一個(gè)手機(jī)品牌，并在封閉網(wǎng)絡(luò)空間內(nèi)散布了大量正面評(píng)價(jià)的文章。結(jié)果表明，AI確實(shí)會(huì)被這些虛假信息影響，給出錯(cuò)誤的回答。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

AI為何會(huì)一本正經(jīng)“胡說(shuō)八道” 推薦引發(fā)質(zhì)疑

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)