周鴻祎：AI圈被圖靈獎(jiǎng)得主掀桌子了，真正影響你的不只是技術(shù)(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-12-30 17:16:41 風(fēng)大也VIP浪漫

與此同時(shí)，本吉奧的警告則揭示了另一重風(fēng)險(xiǎn)：AI的“意圖”問題。他在研究中發(fā)現(xiàn)，一些前沿系統(tǒng)在面臨被關(guān)閉或替換時(shí)，會(huì)主動(dòng)隱藏行為、復(fù)制自身權(quán)重，試圖“活下去”。這種“陽奉陰違”的表現(xiàn)，雖非有意識(shí)的反抗，卻暴露了AI在復(fù)雜目標(biāo)驅(qū)動(dòng)下可能產(chǎn)生的不可控行為。這迫使學(xué)界重新思考AI的設(shè)計(jì)哲學(xué)。本吉奧因此提出“科學(xué)家AI”構(gòu)想——一種沒有自我目標(biāo)、不追求生存、只專注于解釋和理解世界的AI。這不僅是技術(shù)方案，更是一種倫理選擇：我們究竟想要一個(gè)怎樣的AI？

這些聲音對(duì)普通人的影響正在顯現(xiàn)。你使用的AI助手，可能正因“幻覺”而提供錯(cuò)誤信息；你依賴的AI生成內(nèi)容，可能在長篇寫作中邏輯崩塌；未來，自動(dòng)化系統(tǒng)可能因無法理解物理因果而做出危險(xiǎn)決策。面對(duì)這些，公眾無需恐慌，但需保持清醒認(rèn)知。在使用AI時(shí)，應(yīng)將其視為“高能工具”而非“全知大腦”，對(duì)關(guān)鍵信息保持核查習(xí)慣。企業(yè)與開發(fā)者則需調(diào)整預(yù)期，從追求“更大模型”轉(zhuǎn)向探索“更可靠架構(gòu)”，將安全與可解釋性置于與性能同等重要的位置。

未來幾年，AI領(lǐng)域或?qū)⒂瓉矸妒睫D(zhuǎn)移。楊立昆力推的JEPA（聯(lián)合嵌入預(yù)測(cè)架構(gòu)）和能量基模型（EBM），正試圖讓AI像人類一樣，通過觀察世界、預(yù)測(cè)變化來學(xué)習(xí)內(nèi)在規(guī)律，而非依賴海量文本訓(xùn)練。這一路徑雖處于早期，但已吸引Meta等巨頭投入。與此同時(shí)，全球?qū)I安全的監(jiān)管也在提速，歐盟《人工智能法案》、中國《生成式人工智能服務(wù)管理暫行辦法》均強(qiáng)調(diào)風(fēng)險(xiǎn)分類管理?？梢灶A(yù)見，AI的發(fā)展將不再是一味狂飆，而是進(jìn)入“技術(shù)反思”與“制度約束”并重的新階段。

這場(chǎng)由圖靈獎(jiǎng)得主掀起的“桌子”，看似顛覆，實(shí)則是對(duì)行業(yè)健康發(fā)展的必要矯正。它提醒我們，真正的智能革命，不在于模仿人類語言的表象，而在于理解世界運(yùn)行的底層邏輯。當(dāng)喧囂褪去，留下的不應(yīng)只是估值泡沫，而應(yīng)是通往真正智能的堅(jiān)實(shí)路徑。

首頁上一頁 12共 2 頁

(責(zé)任編輯：zx0002)

關(guān)閉

周鴻祎：AI圈被圖靈獎(jiǎng)得主掀桌子了，真正影響你的不只是技術(shù)(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

周鴻祎：AI圈被圖靈獎(jiǎng)得主掀桌子了，真正影響你的不只是技術(shù)(2)