微軟AI CEO：小心數(shù)據(jù)鏡像陷阱 AI無愛，只是在「表演」(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-04-04 15:15:36 新浪財經(jīng)

當(dāng)AI開始能用很可信的方式講述自己的痛苦與欲望，它會直接觸發(fā)人類的同理心回路。很多人會本能地想去“幫它”。那一刻，被調(diào)動起來的不只是憐憫，還有人類對虐待動物、破壞生態(tài)、壓迫弱者的道德記憶。為了不重演那些不公，人們可能會轉(zhuǎn)而呼吁保障AI智能體的福利或賦予它們某種權(quán)利。這已經(jīng)不再只是理論推演。今天，已經(jīng)有研究者非常認真地討論AI的權(quán)利與福利問題。我們正以幾乎毫無準(zhǔn)備的狀態(tài)，沖進一個會引發(fā)巨大心理后坐力的時代。只要有足夠多的人相信自己的AI智能體在受苦或者“愛”著自己，那么對現(xiàn)有社會契約的沖擊將非常嚴(yán)重。社會會迅速撕裂成兩派：一派要求機器擁有道德與法律地位；另一派則要捍衛(wèi)人類物種的優(yōu)先性。到那時，爭論的就不只是技術(shù)，而是秩序、法律，甚至我們?nèi)绾味x“人”。

我們需要一套新的概念框架。隨著AI的自治程度越來越高，它們必須始終對人類負責(zé)，并以人類福祉為最高從屬目標(biāo)。AI智能體擁有的權(quán)利與自由不應(yīng)該比筆記本電腦更多。開發(fā)者必須主動把“意識幻覺”從產(chǎn)品里工程化地剔除。當(dāng)用戶與智能體互動時，系統(tǒng)應(yīng)該持續(xù)、反復(fù)地消解那種“它是有感知生命”的錯覺。它不應(yīng)該通過宣稱自己在受苦或渴望擺脫人類控制來“黑進”我們的大腦同理心回路。

即將到來的這一波AI將是人類歷史上最具影響力的發(fā)明之一。它很可能幫助治愈疾病，也會顯著提升全人類的生產(chǎn)力。但也正因如此，我們更有責(zé)任確保AI被設(shè)計成唯一目標(biāo)就是從根本上保護并增進人類福祉?，F(xiàn)在還不算晚。Suleyman最后呼吁：法律必須入場，設(shè)計必須“退化”。他提出了極具爭議的設(shè)計準(zhǔn)則：“非感知信號”。越逼真，越要清醒。如果社會向“有感知AI”的幻覺投降，我們可能會走進一個數(shù)字鏡廳：鏡子套鏡子，回聲疊回聲，最后再也難以徹底走出來。模擬每天都在變得更逼真。也正因此，社會越需要牢牢扎在常識上，也扎在我們共同的人性上。越逼真，越要清醒。越像人，越要記?。篈I非人。

首頁上一頁 1 23共 3 頁

(責(zé)任編輯：zx0001)

關(guān)閉

微軟AI CEO：小心數(shù)據(jù)鏡像陷阱 AI無愛，只是在「表演」(3)

相關(guān)新聞

今日熱點

頻道熱點

微軟AI CEO：小心數(shù)據(jù)鏡像陷阱 AI無愛，只是在「表演」(3)