新華社評警惕“AI污染”亂象：信息垃圾泛濫

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-10-28 08:38:07 新京報傳媒研究

新華社評警惕“AI污染”亂象

近日，新華社發(fā)文對AI提出批評，指出生成式人工智能在全球范圍內掀起熱潮，為許多行業(yè)和網(wǎng)民帶來益處。然而，這種技術也引發(fā)了一些負面問題，尤其是由“信息垃圾”導致的“AI污染”越來越突出。

隨著AI技術迅速發(fā)展，互聯(lián)網(wǎng)內容生產力經歷了革命性變化，但也帶來了一系列問題。在某些熱門社交平臺上，大量AI生成的虛假賬號充斥其中；某小說平臺上的賬號依靠AI創(chuàng)作，一天可更新50部小說，月更字數(shù)上千萬，但行文常常邏輯不通、辭藻空洞；甚至在學術界，某頂尖高校學者在SCI發(fā)表的論文因插圖為AI生成且錯誤百出，僅發(fā)表三天就被撤稿，成為學界笑柄。

AI帶來的負面影響越來越多，特別是在新聞和信息傳播領域。AI可以生成、偽造或篡改文本、圖片、音頻和視頻，產生大量粗制濫造、真假難辨的信息垃圾，這需要進行全面審視。

AI的發(fā)展為新聞領域帶來了翻天覆地的變化，從傳統(tǒng)的人工采編模式逐漸向智能化、高效化的方向轉變。然而，人工智能可能會復制或放大現(xiàn)有數(shù)據(jù)中的錯誤，生成虛假信息和宣傳，新聞機構在使用AI時面臨保持真實性和公信力的重大挑戰(zhàn)。一些MCN機構為了博取流量，通過AI軟件生成虛假新聞，導致大量網(wǎng)絡謠言病毒式傳播。今年6月中旬，一家MCN機構的實際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播，擾亂公共秩序，被警方行政拘留。據(jù)警方通報，王某某共經營5家MCN機構，運營賬號842個，自今年1月以來，王某某通過AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇。

清華大學新聞與傳播學院新媒體研究中心今年4月發(fā)布的一份研究報告顯示，近一年來，經濟與企業(yè)類AI謠言量增速達99.91%。美國調查機構“新聞守衛(wèi)”稱，生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來激增1000%以上，涉及15種語言。一些專家認為，AI制造的信息垃圾產量龐大，辨別難度較大，篩選成本較高。

12 全文共 2 頁下一頁

關閉

新華社評警惕“AI污染”亂象：信息垃圾泛濫

相關新聞

今日熱點

頻道熱點