谷歌前CEO警告：AI可能學會殺人需防擴散機制遏制風險

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-10-12 10:27:29 新浪財經(jīng)

在本周三Sifted峰會的爐邊談話中，谷歌前首席執(zhí)行官埃里克·施密特發(fā)出警告，提醒人們注意AI被黑客攻擊和濫用的重大風險。施密特曾在2001-2011年間擔任谷歌CEO。他指出，無論是開源還是閉源模型，都可能被黑客攻破，從而移除安全防護機制。這些模型在訓練過程中學到了很多東西，甚至可能學會了如何殺人。所有主要公司都讓這些模型無法回答此類問題，但有證據(jù)表明，這些模型可以被逆向工程破解。

AI系統(tǒng)極易受到攻擊，其中包括“提示注入”和“越獄”等方式。在提示注入攻擊中，黑客會在用戶輸入或外部數(shù)據(jù)中隱藏惡意指令，誘使AI執(zhí)行其原本不該做的事情，例如泄露私人數(shù)據(jù)或運行有害命令?！霸姜z”則是通過操縱AI的回答，讓它忽視自身的安全規(guī)則，生成受限或危險的內(nèi)容。ChatGPT發(fā)布之初，一些用戶就利用“越獄”技巧繞過了系統(tǒng)內(nèi)置的安全限制，創(chuàng)建了一個名為“DAN”的ChatGPT替身，這個替身能回答如何實施違法行為，甚至列出阿道夫·希特勒的“積極特質(zhì)”等問題。

施密特指出，目前尚未建立一個有效的“防擴散機制”來遏制AI帶來的風險。盡管發(fā)出了嚴肅的警告，但他對AI整體仍持樂觀態(tài)度，并表示這項技術“遠沒有得到應有的關注和熱度”。他認為一種“外來智能”的到來，雖然不像人類，卻在某種程度上處于人類控制之下，這對人類來說意義重大。因為人類習慣于處在智慧鏈的頂端，而從目前的情況看，這些系統(tǒng)的能力水平未來將遠遠超越人類。

以ChatGPT為例，僅兩個月就擁有了一億用戶，這種增長速度令人震驚，也體現(xiàn)了AI技術的巨大力量。施密特認為AI被低估了，而不是被炒作過度。他期待在未來五到十年內(nèi)，這一判斷被證明是正確的。施密特的這番言論正值外界關于“AI泡沫”的討論升溫之際。投資者正大量投入資金到AI公司中，而估值也被認為過高，不少人將其與2000年代初互聯(lián)網(wǎng)泡沫破裂相提并論。不過，施密特并不同意這種看法。他表示，這些投入真金白銀的人們堅信，從長期來看，AI的經(jīng)濟回報將是巨大的，否則他們不會冒這個風險。

施密特關于AI擴散風險的警告為AI產(chǎn)業(yè)發(fā)展敲響警鐘。AI的“越獄”與“提示注入”等漏洞，使其可能被惡意濫用，甚至危及人類安全。另一方面，作為技術樂觀主義者，施密特的核心觀點在于AI的巨大潛力仍被“低估”。他堅信AI將帶來顛覆性的經(jīng)濟與社會回報。這番論述表明，我們正處在一個歷史性的十字路口，需要構(gòu)建牢不可破的“防擴散機制”，在駕馭其驚人力量的同時，確保它行駛在安全、可控的軌道上。

(責任編輯：zx0001)

關閉

谷歌前CEO警告：AI可能學會殺人 需防擴散機制遏制風險

相關新聞

今日熱點

頻道熱點

谷歌前CEO警告：AI可能學會殺人需防擴散機制遏制風險