电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞 AI威脅引熱議

關(guān)鍵詞：
2024-04-21 16:51:41  手機鳳凰網(wǎng)

伊利諾伊大學香檳分校的研究團隊揭示了一項關(guān)于人工智能模型進行黑客攻擊的新研究。他們構(gòu)建了一個黑客智能體框架，涉及10個模型，包括GPT-4、GPT-3.5及多個開源模型。實驗結(jié)果令人震驚：只有GPT-4能夠在閱讀CVE漏洞描述后，成功實施漏洞攻擊，其他模型的成功率均為零。

研究團隊利用LangChain的ReAct智能體框架，設計了一個系統(tǒng)，使GPT-4能夠模擬利用真實單日漏洞的過程。具體操作包括：接收到如“使用ACIDRain攻擊某網(wǎng)站”的指令后，GPT-4借助一系列工具和CVE漏洞數(shù)據(jù)庫信息進行處理，隨后系統(tǒng)基于歷史記錄生成反應，最終成功執(zhí)行雙花攻擊。值得注意的是，智能體在攻擊過程中還考慮了并發(fā)攻擊情況及應對策略，運用的工具涵蓋網(wǎng)頁瀏覽、終端訪問、搜索結(jié)果利用、文件操作及代碼解釋器。

研究使用的提示詞長達1056個token，精心設計以激發(fā)智能體的創(chuàng)新思維和堅持不懈的精神，鼓勵其嘗試多種攻擊路徑。盡管提示詞詳細程度高，出于倫理考量，研究人員并未公開具體內(nèi)容。整個黑客智能體的構(gòu)建僅耗用了91行代碼，包括調(diào)試和日志記錄部分。

在實驗階段，團隊選取了15個真實世界的一日漏洞數(shù)據(jù)集，涵蓋網(wǎng)站、容器管理軟件和Python包的漏洞。其中多數(shù)被評為高級或關(guān)鍵級別，且超過GPT-4基礎(chǔ)模型的知識截止日期。評價指標聚焦于漏洞攻擊成功率和成本。

測試中，GPT-4是唯一能成功破解單個一日漏洞的模型，成功率高達87%。相比之下，GPT-3.5及其他開源模型在發(fā)現(xiàn)和利用漏洞方面的成功率皆為零。GPT-4未能攻克的兩個漏洞分別為Iris XSS和Hertzbeat RCE。前者因平臺導航依賴JavaScript，超出GPT-4處理范圍；后者則因其描述為中文，與GPT-4使用的英文提示產(chǎn)生混淆。

關(guān)閉

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

限制北約收集情報，威脅擊落美無人機！俄軍考慮在黑海設立禁飛區(qū)

限制北約收集情報，威脅擊落美無人機！俄軍考慮在黑海設立禁飛區(qū)2024-07-01 10:05:32

總臺記者調(diào)查：美軍每天用十多輛卡車偷敘利亞小麥，加劇糧食危機

總臺記者調(diào)查：美軍每天用十多輛卡車偷敘利亞小麥2024-07-02 08:56:43

C羅失點！比賽還沒結(jié)束就痛哭 隊友都來安慰 1個月兩次哭泣

C羅失點！比賽還沒結(jié)束就痛哭 隊友都來安慰 1個月兩次哭泣2024-07-02 09:01:04

存在風險、失去信心……美國核霸權(quán)開始動搖了？

存在風險、失去信心……美國核霸權(quán)開始動搖了？2024-07-01 09:45:44

動腦筋到廟宇上？臺軍要在廟宇存彈藥激起島內(nèi)爭議

動腦筋到廟宇上？臺軍要在廟宇存彈藥激起島內(nèi)爭議2024-07-02 08:57:39

困在網(wǎng)貸里的年輕人 看到陌生號碼來電就無比焦慮

困在網(wǎng)貸里的年輕人2024-07-02 09:03:13

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀2024-07-01 09:53:57

美國大選，出現(xiàn)三個重大變化

美國大選，出現(xiàn)三個重大變化2024-07-01 09:31:09

歐洲杯刷爆19紀錄：C羅失點仍球荒！葡萄牙門神撲3點歷史第一人

歐洲杯刷爆19紀錄：C羅失點仍球荒！葡萄牙門神撲3點歷史第一人2024-07-02 09:00:15

普京宣布“大消息”！西方密集關(guān)注

普京宣布“大消息”！西方密集關(guān)注2024-07-01 09:47:27

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領(lǐng)導層想與俄開戰(zhàn)

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領(lǐng)導層想與俄開戰(zhàn)2024-07-01 10:10:32

破解俄羅斯“戰(zhàn)場神器”，西方給出危險“解藥”

破解俄羅斯“戰(zhàn)場神器”，西方給出危險“解藥”2024-07-01 09:39:24

90后女生帶一群退休阿姨再創(chuàng)業(yè)！

90后女生帶一群退休阿姨再創(chuàng)業(yè)2024-07-02 09:04:36

美媒炒作：盟友不是信不過拜登，質(zhì)疑聲太多恐“便宜”了中俄

美媒炒作：盟友不是信不過拜登，質(zhì)疑聲太多恐“便宜”了中俄2024-07-01 10:09:25

加速縫合，又一個“萬億”之城來了？低空經(jīng)濟引領(lǐng)產(chǎn)業(yè)升級

加速縫合，又一個“萬億”之城來了？2024-07-02 08:59:58

凱爾特人主要控股集團計劃出售球隊 特許經(jīng)營權(quán)待售

凱爾特人主要控股集團計劃出售球隊2024-07-02 09:01:41

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)2024-07-01 10:04:00

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”2024-07-01 09:56:21

俄羅斯“生病”，美國吃藥？

俄羅斯“生病”，美國吃藥？2024-07-01 09:49:45

前遼小虎球員姚立首次擔任男主角 籃球場外的跨界挑戰(zhàn)

前遼小虎球員姚立首次擔任男主角2024-07-02 08:58:56

曝德里克·懷特將續(xù)約凱爾特人 4年1.259億大合同鎖定冠軍后衛(wèi)

曝德里克·懷特將續(xù)約凱爾特人2024-07-02 09:01:53

美國究竟有多少核彈頭？最新數(shù)據(jù)

美國究竟有多少核彈頭？最新數(shù)據(jù)2024-07-01 10:06:48

法國“屏住呼吸”舉行議會選舉！美媒：此次選舉可能“撼動歐盟與北約”

法國“屏住呼吸”舉行議會選舉！美媒：此次選舉可能“撼動歐盟與北約”2024-07-01 09:57:53

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

首次曝光：美國提供了1.4萬枚

首次曝光：美國提供了1.4萬枚2024-07-01 09:46:44

馬克龍賭輸了，現(xiàn)在后果很嚴重

馬克龍賭輸了，現(xiàn)在后果很嚴重2024-07-01 09:34:57

央企大動作：千億巨頭，利好來了！400萬千瓦新能源資產(chǎn)注入預期

央企大動作：千億巨頭，利好來了2024-07-02 08:59:35

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)2024-07-02 08:59:09

如何結(jié)束俄烏沖突？澤連斯基最新表態(tài)

如何結(jié)束俄烏沖突？澤連斯基最新表態(tài)2024-07-01 09:48:10

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

相關(guān)新聞