“Deepseek亂編”坑慘大學(xué)生？這個(gè)話題上熱搜(2)

2025-03-28 14:43:06 來(lái)源：中國(guó)青年網(wǎng) A+A-

北京郵電大學(xué)馬克思主義學(xué)院副教授宋林澤認(rèn)為，AI輸出的內(nèi)容只是一個(gè)認(rèn)知起點(diǎn)，而不是終點(diǎn)。

大學(xué)生需要主動(dòng)去驗(yàn)證它的內(nèi)容，比如查閱權(quán)威來(lái)源、對(duì)比不同觀點(diǎn)，甚至直接與領(lǐng)域?qū)＜医涣?。這種驗(yàn)證過(guò)程，不僅能幫助我們更全面地理解問(wèn)題，還能讓我們?cè)诿鎸?duì)復(fù)雜信息時(shí)更有判斷力。

如何應(yīng)對(duì)AI幻覺(jué)呢？

AI工具研究者田威提到，想要獲得準(zhǔn)確答案，提問(wèn)方式很關(guān)鍵。

與AI交流也需要明確和具體，避免模糊或開(kāi)放性的問(wèn)題，提問(wèn)越具體、清晰，AI的回答越準(zhǔn)確。

總結(jié)成提示詞技巧就是下面四種問(wèn)法：

1.設(shè)定邊界：“請(qǐng)嚴(yán)格限定在2022年《自然》期刊發(fā)表的研究范圍內(nèi)”；

示例：“介紹ChatGPT的發(fā)展歷程”→“請(qǐng)僅基于OpenAI官方2022-2023年的公開(kāi)文檔，介紹ChatGPT的發(fā)展歷程”

2.標(biāo)注不確定：“對(duì)于模糊信息，需要標(biāo)注‘此處為推測(cè)內(nèi)容’”；

示例：“分析特斯拉2025年的市場(chǎng)份額”→“分析特斯拉2025年的市場(chǎng)份額，對(duì)于非官方數(shù)據(jù)或預(yù)測(cè)性內(nèi)容，請(qǐng)標(biāo)注[推測(cè)內(nèi)容]”

3.步驟拆解：“第一步列舉確定的事實(shí)依據(jù)，第二步展開(kāi)詳細(xì)分析”；

示例：“評(píng)估人工智能對(duì)就業(yè)的影響”→“請(qǐng)分兩步評(píng)估AI對(duì)就業(yè)的影響”：

1)先列出目前已發(fā)生的具體影響案例；

2)基于這些案例進(jìn)行未來(lái)趨勢(shì)分析”。

4.明確約束：明確告訴AI要基于已有事實(shí)回答，不要進(jìn)行推測(cè)。

示例：“預(yù)測(cè)2024年房地產(chǎn)市場(chǎng)走勢(shì)”→“請(qǐng)僅基于2023年的實(shí)際房地產(chǎn)數(shù)據(jù)和已出臺(tái)的相關(guān)政策進(jìn)行分析，不要加入任何推測(cè)性內(nèi)容”。（詳細(xì)請(qǐng)戳全文）

在AI自己的答案中提到，可以通過(guò)指令約束、工具驗(yàn)證和人工審核三重保障，大幅降低AI虛構(gòu)文獻(xiàn)的風(fēng)險(xiǎn)。值得注意的是，它還將“人工審核”放到了“最后防線”的重要位置。

田威提醒，AI幻覺(jué)并非沒(méi)有好處。

有時(shí)候與其把AI幻覺(jué)當(dāng)成缺陷，不如把它看作創(chuàng)意的源泉。

在寫(xiě)作、藝術(shù)創(chuàng)作或頭腦風(fēng)暴時(shí)，這些“跳躍性思維”反而可能幫我們打開(kāi)新世界的大門(mén)。

AI幻覺(jué)的本質(zhì)——AI在知識(shí)的迷霧中，有時(shí)會(huì)創(chuàng)造出看似真實(shí)，實(shí)則虛幻的“影子”。但就像任何工具一樣，關(guān)鍵在于如何使用。

歸根結(jié)底，在這個(gè)AI與人類共同進(jìn)步的時(shí)代，重要的不是責(zé)備AI的不完美，而是學(xué)會(huì)與之更好地協(xié)作。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：0072)