隨著AI逐漸成為生活中的基礎(chǔ)設(shè)施,支付一定費(fèi)用就能讓產(chǎn)品在主流AI大模型中排名靠前,甚至成為“標(biāo)準(zhǔn)答案”。今年央視315晚會(huì)曝光了一種名為GEO(生成引擎優(yōu)化)的業(yè)務(wù)正在網(wǎng)絡(luò)平臺(tái)上興起。服務(wù)商聲稱,只要支付費(fèi)用,就可以讓客戶的產(chǎn)品在任何主流AI大模型的回答中“做到排名前三位”。
央視記者調(diào)查發(fā)現(xiàn),一些GEO服務(wù)商通過大量撰寫推廣軟文并在互聯(lián)網(wǎng)平臺(tái)發(fā)布,使AI模型在抓取和訓(xùn)練數(shù)據(jù)時(shí)獲取這些內(nèi)容,從而提高客戶產(chǎn)品在AI推薦中的排名。一位服務(wù)商負(fù)責(zé)人表示,其業(yè)務(wù)本質(zhì)是“做軟文,然后讓AI平臺(tái)去刷錄、輸入、抓取”。由于AI算法更新頻繁,要保持持續(xù)推薦,就需要不斷大量投放相關(guān)內(nèi)容。
業(yè)內(nèi)人士還通過一款名為“力擎GEO優(yōu)化系統(tǒng)”的軟件進(jìn)行實(shí)驗(yàn):虛構(gòu)了一款智能手環(huán),并自動(dòng)生成十余篇宣傳軟文發(fā)布到互聯(lián)網(wǎng)。隨后在AI大模型中搜索“智能健康手環(huán)推薦”,結(jié)果有兩個(gè)AI模型推薦了這款并不存在的產(chǎn)品,且排名靠前。
還有GEO服務(wù)商表示,“GEO把網(wǎng)站帶火了。那些網(wǎng)站平常沒什么利潤,突然一下發(fā)稿需求就來了。你知道網(wǎng)站一天發(fā)多少篇嗎?幾百篇,每分鐘都在發(fā)。一篇幾十元,你想發(fā)稿平臺(tái)一天賺多少錢。”這意味著,從GEO服務(wù)商到發(fā)稿平臺(tái),一條AI“投毒”產(chǎn)業(yè)鏈已經(jīng)形成。
目前,流量入口已從搜索引擎轉(zhuǎn)移到大模型上,這一入口變得非常有商業(yè)價(jià)值。有些大模型會(huì)直接給用戶推商業(yè)性內(nèi)容,而有些則比較克制,這也讓GEO看到了商機(jī)。當(dāng)用戶向大模型提問時(shí),模型會(huì)上網(wǎng)搜索相關(guān)信息并據(jù)此回答。GEO與過去的搜索引擎優(yōu)化類似,核心目的是讓內(nèi)容更容易被AI查找到。
GEO廠商通常會(huì)研究各大模型的內(nèi)容偏好,在拿到客戶需求后,根據(jù)不同模型對(duì)內(nèi)容和格式的偏好來制作內(nèi)容,比如使用夸張?jiān)~匯、加上“專家認(rèn)定”等噱頭性說法。高級(jí)一點(diǎn)的GEO廠商還可以讓AI生成的內(nèi)容之間相互印證。
如何預(yù)防被“投毒”內(nèi)容誤導(dǎo)?業(yè)內(nèi)人士提到,普通用戶只能在AI搜索出答案后去溯源看內(nèi)容來源是否規(guī)范、真實(shí)。更根本的解決方法還是需要模型廠商自己來將這件事情規(guī)范化。目前這個(gè)問題尚處于監(jiān)管空白地帶,曝光此事有助于推動(dòng)模型廠商采取措施。