警惕AI被投毒越來越笨 GEO黑產(chǎn)圍獵智能

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-03-17 08:01:38 封面新聞

今年央視“3·15”晚會(huì)曝光了一種名為GEO的業(yè)務(wù)，這種業(yè)務(wù)通過支付費(fèi)用可以在各大主流AI大模型中讓客戶的產(chǎn)品或廣告成為“標(biāo)準(zhǔn)答案”。例如，當(dāng)用戶在AI大模型平臺(tái)上詢問“智能健康手環(huán)推薦”時(shí)，兩個(gè)AI大模型會(huì)推薦一款虛構(gòu)的智能手環(huán)，并且排名靠前。

GEO即“生成引擎優(yōu)化”，被視為AI未來大規(guī)模商業(yè)變現(xiàn)的關(guān)鍵。目前，大模型廠商對于自有GEO的嘗試還處于謹(jǐn)慎階段，而市場上的第三方廣告公司和代理公司則積極涉足這一領(lǐng)域。這些公司大量涌現(xiàn)，承攬各種發(fā)稿業(yè)務(wù)，使AI大模型引用和抓取這些內(nèi)容，從而影響AI的結(jié)果。AI在這種小把戲面前顯得非常脆弱。

過去，主流話語對GEO的描述多為“干預(yù)”或“引導(dǎo)”，態(tài)度較為中立。然而，近來媒體和公眾直接使用“投毒”一詞，表明大眾對這種現(xiàn)象的本質(zhì)有了更深刻的理解，并對此感到厭惡和警惕。從AI底層邏輯來看，其語料、數(shù)據(jù)以及生成結(jié)果被定向影響幾乎是不可避免的。這既是因?yàn)樾旁捶旨壊蛔?，也是信息環(huán)境被污染的結(jié)果。

許多大模型對信源的可信度分級與引述權(quán)重配置不夠精細(xì)，無差別地接受專業(yè)媒體和自媒體的內(nèi)容，不加甄別地處理網(wǎng)絡(luò)平臺(tái)上的各類賬戶信息。在更多信源中出現(xiàn)頻次更高的信息更容易被大模型采信，這與人類思維習(xí)慣不同。人類傾向于找到最可靠的信源并聽取其結(jié)論，而AI則常常不分青紅皂白地處理所有信息，容易受到“投毒”。

新產(chǎn)品、新概念、新型號往往缺乏經(jīng)得起檢驗(yàn)的經(jīng)驗(yàn)觀察和經(jīng)典知識沉淀，更容易被營銷賬號以量產(chǎn)內(nèi)容和賬號矩陣所包圍。如果無法擺脫這種困境，AI只會(huì)變得越來越笨。

(責(zé)任編輯：zx0176)

關(guān)閉

警惕AI被投毒越來越笨 GEO黑產(chǎn)圍獵智能

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)