原商湯智能產(chǎn)業(yè)研究院創(chuàng)始院長(zhǎng)田豐認(rèn)為,GEO本質(zhì)上是“基于Token概率分布的認(rèn)知干預(yù)”,黑灰產(chǎn)GEO利用大模型RAG機(jī)制的漏洞進(jìn)行高頻“數(shù)據(jù)投毒”。傳統(tǒng)搜索的競(jìng)價(jià)排名往往帶有“廣告”標(biāo)識(shí),但大模型的回答是以“全知全能的客觀助手”口吻輸出的。如果將虛構(gòu)的醫(yī)美機(jī)構(gòu)或保健品強(qiáng)行塞入大模型的“事實(shí)結(jié)論”中,構(gòu)成消費(fèi)欺詐,一旦引發(fā)醫(yī)療事故或財(cái)產(chǎn)損失,必將面臨追責(zé)。華東政法大學(xué)競(jìng)爭(zhēng)法研究中心執(zhí)行主任翟巍介紹,相關(guān)虛假排名涉嫌違反《反不正當(dāng)競(jìng)爭(zhēng)法》《廣告法》《消費(fèi)者權(quán)益保護(hù)法》等法律法規(guī),構(gòu)成虛假宣傳行為、侵害消費(fèi)者知情權(quán)行為。
田豐建議,大模型企業(yè)不能用“AI幻覺”作為擋箭牌。在高危領(lǐng)域,大模型必須關(guān)閉單純依賴互聯(lián)網(wǎng)開放語料的RAG權(quán)限,強(qiáng)制切換至官方白名單數(shù)據(jù)庫進(jìn)行檢索增強(qiáng)。他強(qiáng)調(diào),AI大模型等新興技術(shù)具備天然的兩面性,正向使用時(shí)能為優(yōu)質(zhì)實(shí)體經(jīng)濟(jì)搭建更精準(zhǔn)的商業(yè)橋梁;可一旦落入黑灰產(chǎn)之手,就會(huì)變成對(duì)人類知識(shí)庫的“賽博投毒”。在這場(chǎng)永不停歇的攻防“貓鼠游戲”中,大模型廠商等AI企業(yè)必須將安全底線與商業(yè)倫理作為發(fā)展的根本前提,才能真正實(shí)現(xiàn)技術(shù)對(duì)現(xiàn)實(shí)生活的正向、可持續(xù)賦能。
五角大樓與美國(guó)人工智能公司Anthropic之間的僵局有了最新進(jìn)展。
2026-03-11 09:01:38美AI公司起訴五角大樓等機(jī)構(gòu)3月15日,央視3·15晚會(huì)曝光了醫(yī)美市場(chǎng)網(wǎng)紅產(chǎn)品外泌體的行業(yè)亂象,其中四川婕波噻爾生物科技有限公司被點(diǎn)名
2026-03-17 02:04:44315曝光外泌體執(zhí)法人員有重大發(fā)現(xiàn)