媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-27 10:30:05 新浪財(cái)經(jīng)

媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診！近日，“帶著DeepSeek看病”的話題引起了廣泛關(guān)注。有人分享了使用AI問診的經(jīng)歷，稱AI給出的建議與醫(yī)生一致，甚至在醫(yī)院檢查報告未出結(jié)果時，AI已經(jīng)完成了初步分析。

人工智能的發(fā)展正在改變醫(yī)療行業(yè)，許多醫(yī)院引入了DeepSeek，并將其應(yīng)用于臨床、科研和行政管理等多個領(lǐng)域。然而，AI能否完全替代醫(yī)生仍值得懷疑。

湖南省醫(yī)保局最近發(fā)布通知，明確規(guī)定禁止接收由人工智能自動生成的處方。一些醫(yī)生也指出，AI的診斷結(jié)果只能作為參考，在處理復(fù)雜病例和考慮患者個體差異方面存在局限性。最終診斷仍需依賴醫(yī)生的專業(yè)判斷。盡管AI有時看起來很準(zhǔn)確，但普通大眾在使用AI問診時，仍需警惕“AI幻覺”帶來的虛假信息。

當(dāng)向AI提問時，人們可能會得到詳細(xì)且邏輯嚴(yán)密的回答，但進(jìn)一步核實(shí)后發(fā)現(xiàn)這些信息可能是虛構(gòu)或編造的。這種現(xiàn)象稱為“AI幻覺”。由于訓(xùn)練數(shù)據(jù)可能存在偏差或不全面，AI容易生成不準(zhǔn)確的結(jié)果。此外，AI模型基于概率生成，缺乏對個案的真實(shí)感知和深度理解，導(dǎo)致其生成的內(nèi)容可能看似合理實(shí)則荒謬。

已有不少網(wǎng)友發(fā)現(xiàn)了AI幻覺現(xiàn)象。例如，在進(jìn)行文獻(xiàn)分析時，AI會引用不存在的文獻(xiàn)；將一本書的作者錯誤地歸于他人；或者給出上下文不符、邏輯不一致的答案。這提醒我們，AI生成的內(nèi)容并不總是可靠的，特別是在醫(yī)療等嚴(yán)肅領(lǐng)域，不能完全依賴AI，以免對健康造成危害。

雖然要警惕AI幻覺，但這并不意味著要放棄使用AI技術(shù)。相反，應(yīng)在技術(shù)層面不斷改進(jìn)，并在倫理和規(guī)范上做好準(zhǔn)備。只有這樣，才能讓AI成為推動社會進(jìn)步的有力工具，而不是隱患之源。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

媒體：警惕AI幻覺帶來的虛假編造 理性看待AI問診

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診