315晚會(huì)曝光“AI投毒產(chǎn)業(yè)鏈” 揭秘GEO操控真相。據(jù)業(yè)內(nèi)人士透露,一種名為GEO的業(yè)務(wù)在多個(gè)網(wǎng)絡(luò)平臺(tái)上出現(xiàn)。服務(wù)商聲稱,用戶只需支付費(fèi)用,就能讓自己的產(chǎn)品在各大主流AI大模型中名列前茅,甚至成為AI給出的“標(biāo)準(zhǔn)答案”。這種技術(shù)真的能讓AI夾帶私貨,甚至投放虛假信息嗎?
記者聯(lián)系了一家知名的GEO服務(wù)商,負(fù)責(zé)人王總表示,他們公司能夠幫助客戶在消費(fèi)者使用AI大模型搜索時(shí)排名前列。他提到,這相當(dāng)于做軟文,通過(guò)大量投喂與客戶相關(guān)的推廣軟文來(lái)維持AI大模型的持續(xù)推薦。其他從事GEO業(yè)務(wù)的服務(wù)商也強(qiáng)調(diào),如何操控AI、讓AI聽(tīng)話、給AI洗腦是他們推廣的核心話題。
業(yè)內(nèi)人士稱,GEO作為一種優(yōu)化信息分發(fā)和提升推廣效率的工具軟件,在某些商業(yè)公司眼中被挖掘出了新的用途。他在電商平臺(tái)上購(gòu)買了一款名叫“力擎GEO優(yōu)化系統(tǒng)”的軟件,并虛構(gòu)了一款智能手環(huán),將相關(guān)信息輸入系統(tǒng)。不久后,該系統(tǒng)自動(dòng)生成了十余篇宣傳軟文。這些軟文發(fā)布到互聯(lián)網(wǎng)上后,當(dāng)在AI大模型平臺(tái)詢問(wèn)“智能健康手環(huán)推薦”時(shí),有兩個(gè)AI大模型推薦了這款虛構(gòu)的手環(huán),且排名靠前。
記者聯(lián)系了力擎GEO系統(tǒng)的運(yùn)營(yíng)者李總,他表示GEO業(yè)務(wù)受歡迎的主要原因是它能在AI大模型里幫客戶喂料、投毒,實(shí)現(xiàn)商業(yè)目的。關(guān)鍵在于在各大互聯(lián)網(wǎng)賬號(hào)上發(fā)布稿件。例如,對(duì)于手機(jī)品牌,可能只有幾個(gè)位置,但一年可能投入上億廣告費(fèi),花幾百萬(wàn)進(jìn)行數(shù)據(jù)投毒也是可行的。
GEO業(yè)務(wù)的火爆催生了不少專門從事發(fā)稿業(yè)務(wù)的公司和平臺(tái),這些公司長(zhǎng)期承攬各種發(fā)稿業(yè)務(wù),以便讓AI大模型引用和抓取,成為圍獵AI大模型的重要一環(huán)。
數(shù)據(jù)顯示,我國(guó)擁有超過(guò)4175萬(wàn)家互聯(lián)網(wǎng)科技相關(guān)企業(yè),主要集中在廣東、浙江和山東等地。其中,一些企業(yè)曾出現(xiàn)法律訴訟、經(jīng)營(yíng)異?;蛐姓幜P等問(wèn)題。此次“3·15晚會(huì)”,“力擎GEO優(yōu)化系統(tǒng)”被點(diǎn)名。天眼查App顯示,“力擎GEO優(yōu)化系統(tǒng)”關(guān)聯(lián)公司北京力思文化傳媒有限公司成立于2018年4月,法定代表人為李千鐘,注冊(cè)資本100萬(wàn)人民幣,經(jīng)營(yíng)范圍包括組織文化藝術(shù)交流活動(dòng)、文藝創(chuàng)作等。該公司近期申請(qǐng)注冊(cè)了“壹豹客”“力擎”商標(biāo),并成立了青島分公司。