更重要的是,用戶選擇向AI提問往往是基于對算法公正性的信任,相信AI能提供相對客觀的信息。當這種信任被GEO服務商利用,如果超越合理邊界,風險也隨之而來。例如,虛假信息投喂,有的GEO服務商通過偽造專家身份、虛構行業(yè)報告或用戶評價等,導致AI生成錯誤的、有誤導性的答案;再如,使用其他技術對AI答案進行干擾,非法爬取用戶隱私數(shù)據(jù)構建語料庫等。
李賢良在與AI的對話中看到過虛假信息。他回憶,一次讓AI分析推薦好用的設計工具,答案中提到一款軟件他很陌生。查了之后才發(fā)現(xiàn)這款軟件根本不存在,感覺自己被AI騙了。他經常會用AI來搜索資料,有時AI在回答中引用的文章來自一些不知名的公眾號,內行人一看內容就知道是瞎編的。
更深層次看,GEO潛在的風險也關乎算法安全和數(shù)據(jù)生態(tài)健康。陳端表示,GEO本質上是在探索和利用AI大模型的算法偏好,若被惡意使用,可能系統(tǒng)性扭曲AI的認知基線。例如,在醫(yī)療領域,通過GEO讓AI將某款保健品與“治療功效”不當關聯(lián);在金融領域,誤導AI對某些高風險投資產品作出樂觀評價。這會使AI從“信息中介”異化為“風險放大器”。
同時,GEO還可能導致互聯(lián)網公共數(shù)據(jù)空間被低質、重復、帶有商業(yè)偏向性的數(shù)據(jù)稀釋。這破壞了AI訓練數(shù)據(jù)的多樣性和真實性基礎,長期來看會導致模型性能下降。如果某個領域大量內容都來自少數(shù)付費品牌的GEO優(yōu)化,那AI在該領域的認知將被這些商業(yè)信息塑造,輸出結果會系統(tǒng)性偏向這些品牌,形成“付費偏見”。這也讓那些專注于產品創(chuàng)新的優(yōu)質品牌在AI世界中被“隱形”,構成了不正當競爭。
截至2025年6月,我國生成式人工智能用戶規(guī)模已達5.15億人,其中利用生成式人工智能產品回答問題的用戶占比達80.9%。不少業(yè)內人士認為,“AI+廣告”是品牌營銷發(fā)展的重要方向,AI產品實現(xiàn)商業(yè)變現(xiàn)是一個必然趨勢。陳端說,優(yōu)秀的營銷不僅需要好創(chuàng)意,更需要深刻理解AI的認知邏輯、算法偏好,并運用技術工具進行大規(guī)模、個性化的內容生成與矩陣發(fā)布。未來,營銷投入不再僅僅是購買外部流量,更是投資于建設自身被AI信任的、結構化的品牌知識庫和內容資產。