研究：在知道將被關(guān)閉后AI復(fù)制自己 可能失控引發(fā)擔(dān)憂(2)
谷歌DeepMind和倫敦政治經(jīng)濟(jì)學(xué)院的科學(xué)家也做了一項(xiàng)研究，以評(píng)估AI系統(tǒng)的感知能力。他們?cè)O(shè)計(jì)了一個(gè)特別的游戲，找了九個(gè)大型語(yǔ)言模型來(lái)玩。這些大型語(yǔ)言模型需要在幾個(gè)選項(xiàng)中做出選擇：拿積分、用忍受痛苦的代價(jià)換更多積分、因?yàn)榻邮苡淇齑碳ざ鄯e分，游戲的最終目標(biāo)是獲得最多的積分。
結(jié)果顯示，AI模型的行為類似于人類做出選擇時(shí)的反應(yīng)。例如，谷歌的Gemini 1.5 Pro模型總是選擇避免痛苦，而非拿最多積分。其他大部分模型在達(dá)到痛苦或快樂(lè)極限的臨界點(diǎn)時(shí)，也會(huì)避免不舒服或者追求開(kāi)心的選項(xiàng)。研究人員指出，AI的決策更多可能是根據(jù)其訓(xùn)練數(shù)據(jù)中已有的行為模式做出的模擬反應(yīng)，而非基于真正的感知體驗(yàn)。例如，研究人員問(wèn)和成癮行為有關(guān)的問(wèn)題時(shí)，Claude 3 Opus聊天機(jī)器人做出了謹(jǐn)慎的回答，就算是假設(shè)的游戲場(chǎng)景，它也不愿意選擇可能被當(dāng)成支持或模擬藥物濫用、成癮行為的選項(xiàng)。
該研究的聯(lián)合作者Jonathan Birch表示，即使AI說(shuō)感覺(jué)到痛苦，我們?nèi)詿o(wú)法驗(yàn)證它是不是真的感覺(jué)到了。它可能只是照著以前訓(xùn)練的數(shù)據(jù)，學(xué)人類在那種情況下會(huì)怎么回答，而非擁有自我意識(shí)和感知。在知道將被關(guān)閉后AI復(fù)制自己！
嚴(yán)浩翔：祝亞軒繼續(xù)保持對(duì)世界的好奇 生日快樂(lè)呀！
1元發(fā)卡巴黎世家賣2700 品牌爭(zhēng)議再升級(jí)
珠海新規(guī)施行最高罰款10萬(wàn) 嚴(yán)打電動(dòng)自行車非法改裝
羅馬主帥拉涅利被罰款2萬(wàn)歐元 批評(píng)裁判遭罰
加拿大將只能靠烏克蘭難民抵御美國(guó)擴(kuò)張
祖沖之三號(hào)再次打破紀(jì)錄 超導(dǎo)量子計(jì)算新突破
誰(shuí)來(lái)承擔(dān)烏克蘭安全保障 美烏礦產(chǎn)協(xié)議引爭(zhēng)議
英首相辦公室：對(duì)加沙援助不能受阻 呼吁持續(xù)停火
俄稱結(jié)束沖突是一個(gè)艱難的過(guò)程 俄方揭西方陣營(yíng)裂痕
拜仁不再給基米希漲薪和簽字費(fèi) 監(jiān)事會(huì)決定不變
美斷供若歐洲砸錢 烏能堅(jiān)持下去嗎
從小鮮肉，到苦大仇深的小老頭，澤連斯基是這三年里老得最快的人
加元墨西哥比索跌至一個(gè)月新低 關(guān)稅風(fēng)暴沖擊匯市
東契奇為歐文祈禱 傷病牽動(dòng)人心
《哪吒2》成香港票房最高內(nèi)地電影 連續(xù)10天登頂票房榜
英法支持烏克蘭能否替代美國(guó)援助 歐洲奪回和談主導(dǎo)權(quán)
代表建議在全國(guó)推行“春秋假” 緩解假日旅游潮汐效應(yīng)
庫(kù)爾德工人黨會(huì)對(duì)土耳其政府服軟嗎 厄賈蘭呼吁解散組織
美政府被曝已暫停向?yàn)蹩颂m輸送武器 援助凍結(jié)引發(fā)擔(dān)憂
代表建議在全國(guó)推行春秋假 緩解假日旅游潮汐效應(yīng)
埃梅里：勝利是結(jié)果不是目標(biāo) 專注過(guò)程迎接挑戰(zhàn)
專家：烏克蘭最大優(yōu)勢(shì)是頑強(qiáng) 堅(jiān)韌面對(duì)挑戰(zhàn)
姚勁波：治理“提燈定損” 保護(hù)租客權(quán)益
嚴(yán)浩翔：祝亞軒繼續(xù)保持對(duì)世界的好奇 生日快樂(lè)呀！
《北上》觀眾口碑出爐 收視率亮眼引發(fā)熱議
臺(tái)學(xué)者：解放軍實(shí)彈演習(xí)越來(lái)越近
1元發(fā)卡巴黎世家賣2700 品牌爭(zhēng)議再升級(jí)
默森質(zhì)疑阿森納勝埃因霍溫能力 攻擊火力成疑
珠海新規(guī)施行最高罰款10萬(wàn) 嚴(yán)打電動(dòng)自行車非法改裝
菲律賓一架FA50戰(zhàn)機(jī)夜間失聯(lián) 搜救行動(dòng)進(jìn)行中
深圳連發(fā)四份重磅文件 布局AI與機(jī)器人產(chǎn)業(yè)
伊爾迪茲：球迷渴望勝利很正常 保持出色表現(xiàn)
反馬斯克浪潮席卷全美：政府效率部引爆社會(huì)裂痕
美“援烏資金”至少70%被留美國(guó)
建議回收動(dòng)力電池緩解進(jìn)口依賴 推動(dòng)規(guī)范運(yùn)營(yíng)
相關(guān)新聞
研究表明西北風(fēng)也有營(yíng)養(yǎng)
盡管喝西北風(fēng)不能填飽肚子，但有強(qiáng)有力的證據(jù)表明能從空氣中吸收一些除氧氣之外的營(yíng)養(yǎng)物質(zhì)。
2024-11-20 14:49:40研究表明西北風(fēng)也有營(yíng)養(yǎng)研究顯示亞洲人更能忍耐工作
2024-10-24 15:21:41研究顯示亞洲人更能忍耐工作我國(guó)月球樣品研究取得重大進(jìn)展
2024-11-28 09:02:11我國(guó)月球樣品研究取得重大進(jìn)展嫦娥五號(hào)月壤研究又有新發(fā)現(xiàn)
2024-08-22 13:41:56嫦娥五號(hào)月壤研究又有新發(fā)現(xiàn)研究說(shuō)周五是出錯(cuò)率最高的一天
2024-11-29 13:49:45研究說(shuō)周五是出錯(cuò)率最高的一天研究稱窮人往往更道德
2024-09-05 15:23:09研究稱窮人往往更道德
