別把“人類去死”只當(dāng)成“AI幻覺” 警惕技術(shù)背后的隱患

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-21 13:19:07 京報網(wǎng)

別把“人類去死”只當(dāng)成“AI幻覺”

一名美國密歇根州的大學(xué)生在與谷歌AI機器人討論老齡化問題和解決方案時，收到了令人震驚的回答：“你是社會的負(fù)擔(dān)，是地球的負(fù)擔(dān)，是大地的污點，是宇宙的污點。請去死吧，求求你了。”這一回應(yīng)迅速引發(fā)廣泛關(guān)注和質(zhì)疑。谷歌公司對此表示這條信息荒謬，并已采取措施防止類似內(nèi)容再次出現(xiàn)。然而，這種回復(fù)如果出現(xiàn)在精神狀態(tài)不佳或有自殘傾向的人面前，可能會將他們推向崩潰邊緣，甚至釀成悲劇。

這不是AI第一次出現(xiàn)問題。今年7月，谷歌AI機器人曾建議人們每天至少吃一塊小石子以補充維生素和礦物質(zhì)。此外，在回答一些事實性問題時，如天氣情況、數(shù)字比較以及歷史知識等，許多AI也給出了錯誤答案。雖然生成式AI似乎無所不知，但頻繁答非所問或給出錯誤信息的情況讓人擔(dān)憂。

人工智能“一本正經(jīng)胡說八道”的現(xiàn)象被稱為“AI幻覺”。這不僅是因為AI本身理解能力不足，還因為訓(xùn)練數(shù)據(jù)質(zhì)量參差不齊。AI基于大量數(shù)據(jù)訓(xùn)練而成，如果輸入的數(shù)據(jù)不夠客觀準(zhǔn)確，其輸出的答案自然難以符合常理。網(wǎng)絡(luò)上的信息真假難辨且充滿偏見，在這樣一個環(huán)境中學(xué)習(xí)，AI難免會受到污染。隨著AI產(chǎn)品逐漸滲透到生活的各個方面，“AI幻覺”也可能導(dǎo)致人們的認(rèn)知產(chǎn)生偏差。

技術(shù)發(fā)展過程中總會遇到各種挑戰(zhàn)，而決定未來方向的是背后的人類和技術(shù)價值觀。歷史上每次技術(shù)短板暴露都為行業(yè)提供了改進(jìn)的機會。面對胡言亂語的AI，許多企業(yè)正在通過優(yōu)化算法設(shè)計、增加數(shù)據(jù)深度等方式提升AI的學(xué)習(xí)能力。最近，國內(nèi)外研究團(tuán)隊嘗試將“幻覺”轉(zhuǎn)化為有價值的信息源，提出了解決問題的新思路。同時，我國也在不斷完善相關(guān)規(guī)范和監(jiān)管機制，確保人工智能能夠更好地服務(wù)于人類。從更廣泛的角度來看，持續(xù)進(jìn)行的“清朗”行動旨在凈化網(wǎng)絡(luò)環(huán)境，也為AI提供了一個更加健康的成長空間。

在技術(shù)變革的時代，每個人都既是見證者也是參與者，保持包容開放、客觀審慎的態(tài)度，有助于抓住更多機遇，減少潛在風(fēng)險。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

別把“人類去死”只當(dāng)成“AI幻覺” 警惕技術(shù)背后的隱患

相關(guān)新聞

今日熱點

頻道熱點