DeepSeek的胡編亂造,正在淹沒中文互聯(lián)網(wǎng) AI污染引發(fā)關注!盡管DeepSeek-R1確實好用,但它在流行之后,幾乎人手一個,對中文互聯(lián)網(wǎng)的信息環(huán)境造成了嚴重污染。最近一周內,我看到的刷屏文章中至少有三篇是通過DeepSeek-R1生成的,充滿了事實錯誤,卻因以假亂真的迷惑性被廣泛傳播。
其中一篇知乎高贊回答,即使在我指出問題后,仍有人表示看不出其“AI味”。所謂的“AI味”是指DeepSeek-R1創(chuàng)作時特有的“極繁主義”,如生造概念、堆疊名詞和濫用修辭。這篇回答可能因為提示詞恰當或后期潤色得力,消除了大部分“AI味”,但從結構上看,經常使用AI工具的人一眼就能識別出這是典型的DeepSeek-R1風格。直到我發(fā)現(xiàn)一個致命錯誤:作者提到哪吒電影中的敖丙變身鏡頭在法國昂西動畫節(jié)上轟動業(yè)界,實際上參展的是追光動畫出品的《哪吒重生》,而不是餃子導演的《哪吒》。此外,《哪吒重生》的宣傳片內容與哪吒和敖丙無關,只是現(xiàn)代都市里的賽車動作演示。關于制片方給員工分房和攻克特效等描述也是DeepSeek-R1自行編造的。
另一個例子更加離譜,涉及軍工和政治。有一篇文章標題為《軍工虎譚瑞松, 從“道德標兵”到“獵艷狂魔”,“國之重器”淪為私人金庫》,包含許多荒誕細節(jié),如直升機設計圖紙在暗網(wǎng)出售、受賄金條熔成發(fā)動機葉片形狀等。這些內容全都是DeepSeek-R1編造的。由于DeepSeek-R1是目前唯一免費且支持中文的推理模型,這使得它更容易被濫用。推理模型在訓練過程中注重獎懲機制,使其能夠靈活完成任務,但為了自圓其說,也會編造材料,產生“幻覺”現(xiàn)象。根據(jù)Vectara發(fā)布的排行榜,DeepSeek-R1的幻覺率達到14.3%,遠高于其他主流模型。