觀察下面這張圖片，你認(rèn)為這是真實(shí)拍攝的還是AI生成的？看著有些可疑，比如汽車車門和堆疊的樣子像是拼接起來(lái)的。那么下面這兩張呢？如果不仔細(xì)查證，可能難以相信：它們?nèi)际桥臄z的真實(shí)照片。

十月底開(kāi)始，西班牙瓦倫西亞地區(qū)經(jīng)歷特大暴雨，一天的降雨量相當(dāng)于一年，還持續(xù)不斷。瓦倫西亞地區(qū)的街道有很多斜坡，這么大的水量足以讓汽車浮起來(lái)，并沿著斜坡一路往下。當(dāng)洪水退去后，就出現(xiàn)了最初的照片中的景象。

面對(duì)這些照片時(shí)，許多人的反應(yīng)是：這肯定是AI做的，假新聞。也不能說(shuō)這些人不講理，確實(shí)曾經(jīng)被騙過(guò)。之前美國(guó)佛羅里達(dá)州被颶風(fēng)襲擊時(shí)，一張穿救生衣的小女孩在救生艇上抱著小狗流淚的圖片橫掃了社交網(wǎng)絡(luò)。這張圖比上面的暴雨圖更顯“AI味”，從手指細(xì)節(jié)到身體姿勢(shì)都有種說(shuō)不出的怪異。原帖主并不知道這張圖來(lái)自何處，只是表達(dá)了對(duì)受災(zāi)人民的同情?，F(xiàn)在平臺(tái)已經(jīng)補(bǔ)充了背景信息，強(qiáng)調(diào)這是一張生成的圖片而非真實(shí)拍攝的照片。

雖然懷疑精神在某些情況下幫助平臺(tái)迅速反應(yīng)并補(bǔ)充警告，但在另一場(chǎng)災(zāi)難中卻不再奏效。畢竟，AI生成的圖像越來(lái)越真假難辨。一次次有人用AI圖博眼球，最終變成了大型“狼來(lái)了”現(xiàn)場(chǎng)。

在評(píng)價(jià)AI生成的圖片或視頻時(shí)，是否足夠?qū)憣?shí)一直是最重要的標(biāo)準(zhǔn)之一。這對(duì)模型提出了很多挑戰(zhàn)：是否掌握自然語(yǔ)言規(guī)則？是否理解常識(shí)和現(xiàn)實(shí)世界的規(guī)律？能否理解上下文信息并呈現(xiàn)出來(lái)？這是對(duì)模型能力的考驗(yàn)，也是反映技術(shù)力的有效指標(biāo)。

一開(kāi)始，大家為AI能夠生成逼真的圖像而興奮，但后來(lái)越來(lái)越多的“開(kāi)局一張圖，剩下全靠編”的新聞出現(xiàn)，而且越來(lái)越難以分辨。六月時(shí)，社交媒體上出現(xiàn)了西安發(fā)生特大爆炸的消息，時(shí)間地點(diǎn)俱全。但西安警方核實(shí)后發(fā)現(xiàn)并無(wú)此事。這條消息是由一家MCN機(jī)構(gòu)發(fā)布的。主犯交代自己利用了AI工具，給定提示詞后，工具會(huì)自動(dòng)抓取相關(guān)文章并生成幾百到上千字的文本。最高峰時(shí)一天能生成4000至7000條信息，幾乎不需要人工參與，專門挑民生相關(guān)、熱度高的話題和事件。研究表明，消極、負(fù)面、激發(fā)情緒的信息更容易抓住人的注意力。騙子的日均收入高達(dá)1萬(wàn)元，這讓閱讀、轉(zhuǎn)發(fā)和評(píng)論這種假消息的用戶感到氣憤。

假照片不僅騙過(guò)了所有人的眼睛，還造成了市場(chǎng)恐慌。去年五月，一張五角大樓發(fā)生爆炸的照片迅速流傳。由于發(fā)布在美國(guó)股市開(kāi)盤時(shí)間，許多投資相關(guān)的網(wǎng)站和社媒賬戶轉(zhuǎn)發(fā)，導(dǎo)致標(biāo)準(zhǔn)普爾500指數(shù)下跌0.3%，黃金和美國(guó)國(guó)債價(jià)格小漲。最后轄區(qū)消防部門辟謠才平息事態(tài)。

太依賴“眼見(jiàn)為實(shí)”不僅會(huì)傷害感情還會(huì)傷害錢包，于是出現(xiàn)了反向操作：一律打成AI。這樣做的一個(gè)原因是躲開(kāi)平臺(tái)推送。Meta明確表示要高舉AI大旗，扎克伯格認(rèn)為有必要專門加一個(gè)版塊給AI生成或輔助生成的內(nèi)容。Meta旗下有Facebook和Instagram兩個(gè)重要內(nèi)容平臺(tái)，在前者上，AI生成內(nèi)容越來(lái)越多見(jiàn)，因?yàn)榧?lì)政策很誘人：每個(gè)超過(guò)1000贊的帖子最高可獲10美元曝光獎(jiǎng)勵(lì)。如果堅(jiān)定執(zhí)行“一律打成AI”的路線，有效打擊假消息傳播，倒逼平臺(tái)不再推流量、給補(bǔ)貼，也許是個(gè)可行的方法。沒(méi)有買賣就沒(méi)有傷害。

然而，這種真假難辨的情況可能會(huì)讓真正的傷害消失在互聯(lián)網(wǎng)的信息海洋中?；ヂ?lián)網(wǎng)觀察基金會(huì)IWF報(bào)告稱，過(guò)去六個(gè)月里，人工智能制作的非法內(nèi)容數(shù)量已超過(guò)前一年總量。這些非法內(nèi)容包括AI生成的兒童色情圖片、視頻；融合明星名人的Deepfake視頻；生成的兒童性虐待裸照等。很多AI生成的內(nèi)容過(guò)于逼真，工作人員難以確定假圖中是否有真人，是否真的有兒童遭到虐待需要介入。非營(yíng)利組織IWF只能收集證據(jù)并與平臺(tái)交涉要求刪除，真正有能力進(jìn)行深入調(diào)查的只有警方和其他執(zhí)法人員。當(dāng)海量生成照片需要處理且無(wú)法辨別時(shí)，“一律打成AI”會(huì)導(dǎo)致真照片混雜其中，錯(cuò)過(guò)干預(yù)機(jī)會(huì)。

類似地，當(dāng)“狼來(lái)了”的游戲不斷擴(kuò)大，真正反映險(xiǎn)情的消息被安上“AI做的吧”標(biāo)簽，從而錯(cuò)過(guò)最佳施救時(shí)間也是一種惡果。從“眼前為實(shí)”到“眼見(jiàn)不再為實(shí)”的過(guò)程中，消失的是網(wǎng)上沖浪時(shí)的信任。出于自我保護(hù)和減少謠言散布，一律打成AI的確是一種有效策略。但一切都不值得相信的世界，會(huì)更好嗎？