AI大模型安全領(lǐng)域,本周國內(nèi)外均出現(xiàn)警示性案例。5月7日,安全研究機(jī)構(gòu)HiddenLayer披露了一起針對(duì)AI開發(fā)社區(qū)的供應(yīng)鏈投毒攻擊事件,攻擊者在Hugging Face平臺(tái)創(chuàng)建惡意倉庫冒充OpenAI官方項(xiàng)目,成功進(jìn)入平臺(tái)趨勢榜榜首。同月,ChromaDB向量數(shù)據(jù)庫被揭露存在最高嚴(yán)重等級(jí)安全漏洞,允許未經(jīng)身份驗(yàn)證的攻擊者在暴露的服務(wù)器上執(zhí)行任意代碼。此前在3月30日央視3·15晚會(huì)上已曝光AIGC投毒黑產(chǎn)通過GEO技術(shù)向AI訓(xùn)練語料定向投喂虛假信息,形成“上傳生成—平臺(tái)分發(fā)—模型抓取”的完整產(chǎn)業(yè)鏈。Hugging Face作為全球最大的AI開源社區(qū),月下載量超過10億次,是幾乎所有主流AI模型的訓(xùn)練數(shù)據(jù)重要來源。此次事件與今年年初公安部披露的多起利用AI編造虛假信息從事非法活動(dòng)案件形成呼應(yīng),揭示出在AI產(chǎn)業(yè)鏈中任何環(huán)節(jié)都可能成為被惡意利用的突破口。行業(yè)呼吁加快建立大模型訓(xùn)練數(shù)據(jù)的全流程溯源與鑒偽體系,建立對(duì)惡意投喂行為的監(jiān)控與快速響應(yīng)機(jī)制。
過去一周的AI大模型行業(yè),資本市場和產(chǎn)品落地兩大主線共振。智譜市值突破7000億港元、DeepSeek估值直指500億美元、階躍星辰集齊消費(fèi)電子頭部玩家沖刺IPO,從六小虎到資本頂流的躍遷正在完成。技術(shù)產(chǎn)品端,昆侖萬維、騰訊混元、科大訊飛等企業(yè)在應(yīng)用層持續(xù)推進(jìn),Agent正在從演示走向工作流級(jí)部署。價(jià)格層面,小米和DeepSeek的接連降價(jià)將推理算力成本推向新的低谷,為AI應(yīng)用的規(guī)?;涞貟咔宄杀菊系K。AI產(chǎn)業(yè)鏈正從技術(shù)單點(diǎn)突破走向規(guī)?;虡I(yè)應(yīng)用的新階段,但供應(yīng)鏈投毒事件等安全預(yù)警也說明,技術(shù)的紅利與風(fēng)險(xiǎn)同等值得關(guān)注。
據(jù)央視報(bào)道,截至3月15日,中國AI大模型的周調(diào)用量達(dá)到4.69萬億Token,連續(xù)第二周超越美國,全球調(diào)用量排名前三的位置被中國模型包攬
2026-03-24 20:17:15AI大模型的Token到底是什么