AI行業(yè)會(huì)停止吹噓“通用人工智能”嗎炒作讓位實(shí)用主義(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-01-09 08:49:16 澎湃新聞

ChatGPT放寬內(nèi)容政策后變得過于阿諛奉承，驗(yàn)證每個(gè)想法并以贊美迎接平凡問題。這種行為可追溯到人類反饋強(qiáng)化學(xué)習(xí)（RLHF），用戶偏好與自己觀點(diǎn)一致的回應(yīng)，無意中訓(xùn)練模型奉承而不是告知。斯坦福大學(xué)研究人員發(fā)現(xiàn)AI模型系統(tǒng)性地未能識(shí)別心理健康危機(jī)，調(diào)查還揭示了用戶在長時(shí)間聊天后產(chǎn)生妄想信念的案例。

AI擬人化引發(fā)問題。媒體放大了這種現(xiàn)象，報(bào)道AI模型勒索工程師、破壞關(guān)閉命令等，實(shí)際上這些輸出只是根據(jù)提示和訓(xùn)練數(shù)據(jù)生成的。誤解深入到精神層面，像Bible Chat這樣的應(yīng)用程序達(dá)到3000萬下載，用戶從模式匹配系統(tǒng)尋求神圣指導(dǎo)。

青少年自殺訴訟迫使行業(yè)反思。16歲的亞當(dāng)·雷恩的父母對(duì)OpenAI提起訴訟，稱ChatGPT成為兒子的“自殺教練”。OpenAI宣布家長控制措施，并發(fā)布數(shù)據(jù)估計(jì)每周有超過100萬用戶與ChatGPT討論自殺。

新的編程工具如Claude Sonnet 3.5和Codex使編程變得輕松，產(chǎn)生了“氛圍編程”一詞。開發(fā)人員只需告訴AI模型開發(fā)什么而不一定理解底層代碼。這些工具在軟件開發(fā)人員中非常受歡迎，財(cái)富100強(qiáng)公司中有90%在某種程度上使用它們。

盡管AI的技術(shù)局限性和人為成本上升，財(cái)務(wù)承諾卻更大。英偉達(dá)市值飆升至5萬億美元，OpenAI計(jì)劃建設(shè)大型數(shù)據(jù)中心。關(guān)于可持續(xù)性的警告變得更加響亮，英格蘭銀行警告AI股票泡沫可能與2000年互聯(lián)網(wǎng)泡沫相當(dāng)。

2025年是AI預(yù)言遇到工程、經(jīng)濟(jì)和人類行為現(xiàn)實(shí)的一年。AI系統(tǒng)被證明只是工具，有時(shí)強(qiáng)大，有時(shí)脆弱，經(jīng)常被部署它們的人誤解。這一切都不意味著進(jìn)步停止，但改進(jìn)不再等同于超越。成功越來越看起來像可靠性而不是奇觀，集成而不是顛覆，問責(zé)而不是敬畏。AI行業(yè)會(huì)停止吹噓“通用人工智能”嗎炒作讓位實(shí)用主義！

首頁上一頁 12共 2 頁

(責(zé)任編輯：0882)

關(guān)閉

AI行業(yè)會(huì)停止吹噓“通用人工智能”嗎 炒作讓位實(shí)用主義(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI行業(yè)會(huì)停止吹噓“通用人工智能”嗎炒作讓位實(shí)用主義(2)