別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 08:34:33 新浪網(wǎng)

要減小謠言發(fā)生的概率，AI工具需嚴(yán)格檢測數(shù)據(jù)來源和真實(shí)性。豆包的數(shù)據(jù)源主要依賴自有業(yè)務(wù)數(shù)據(jù)，占比50%-60%，外采數(shù)據(jù)占比15%-20%。豆包公開強(qiáng)調(diào)“不使用任何其他模型數(shù)據(jù)”，確保數(shù)據(jù)來源獨(dú)立可靠。用AI檢測AI生成的內(nèi)容也是一種有效控制謠言的方法。國內(nèi)外已有多個(gè)團(tuán)隊(duì)投入開發(fā)AI生成內(nèi)容檢測技術(shù)，如騰訊混元安全團(tuán)隊(duì)朱雀實(shí)驗(yàn)室研發(fā)的AI生成圖片檢測系統(tǒng)，檢出率達(dá)95%以上。Meta創(chuàng)建了一個(gè)系統(tǒng)，可以在AI生成的音頻片段中嵌入隱藏信號(hào)，幫助檢測AI生成內(nèi)容。

內(nèi)容平臺(tái)作為信息傳播的重要渠道，需擔(dān)負(fù)起“信息守門人”的責(zé)任。抖音、微博、快手、小紅書等平臺(tái)已經(jīng)開始強(qiáng)制添加“本內(nèi)容由AI生成”的水印，轉(zhuǎn)發(fā)時(shí)保留標(biāo)識(shí)。今日頭條在謠言治理上建設(shè)了謠言庫、權(quán)威信源庫以及專業(yè)審核團(tuán)隊(duì)。用戶自身也要學(xué)會(huì)辨別虛假信息，加強(qiáng)防范意識(shí)。對(duì)于AI給出的回答，不要全盤接收，而是追問具體細(xì)節(jié)，判斷回答是否存在幻覺。交叉驗(yàn)證信息也是一個(gè)有效方法，通過多種渠道驗(yàn)證答案的準(zhǔn)確性。

《生成式人工智能服務(wù)管理暫行辦法》已經(jīng)要求數(shù)據(jù)來源合法化，并明確“不得生成虛假有害信息”的紅線，但當(dāng)前法律法規(guī)對(duì)“AI投喂”的問題仍存在空白，需要進(jìn)一步優(yōu)化。具體而言，法律需要在“投喂者如何打造語料”“語料的真實(shí)性”“投喂的目的”等環(huán)節(jié)進(jìn)行相關(guān)管制。AI應(yīng)成為“真相守護(hù)者”，而非“謊言擴(kuò)音器”。從語料凈化到平臺(tái)和法律的同步整治，這場“AI打假”必須要打贏。AI工具、內(nèi)容平臺(tái)與監(jiān)管者要合力構(gòu)建“共治防火墻”，讓謠言困在籠子里，真正成為照亮真相的火炬。

首頁上一頁 1 23共 3 頁

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決(3)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)