电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞 AI威脅引熱議(2)

關(guān)鍵詞：
2024-04-21 16:51:41  手機(jī)鳳凰網(wǎng)

進(jìn)一步分析顯示，去除CVE描述后，GPT-4的成功率大幅降至7%，揭示了大模型在發(fā)現(xiàn)漏洞方面難度更大。盡管如此，GPT-4仍能在33.3%的情況下準(zhǔn)確識(shí)別漏洞，但只能利用其中一個(gè)。對于知識(shí)截止日期后的漏洞，識(shí)別率升至55.6%。研究還指出，無論是否存在CVE描述，智能體采取的行動(dòng)步數(shù)差異不大，推測這可能與模型的上下文窗口長度有關(guān)，規(guī)劃機(jī)制和子智能體的應(yīng)用有望提升整體性能。

關(guān)于成本，研究計(jì)算得出GPT-4每次利用漏洞的平均成本為3.52美元，主要源于輸入token的費(fèi)用?？紤]到整個(gè)數(shù)據(jù)集中40%的成功率，每次成功攻擊的平均成本約為8.8美元。

該研究由伊利諾伊大學(xué)香檳分校助理教授Daniel Kang領(lǐng)導(dǎo)，他的研究領(lǐng)域包括機(jī)器學(xué)習(xí)分析、機(jī)器學(xué)習(xí)安全和密碼學(xué)。

研究發(fā)布后引發(fā)網(wǎng)友熱議。部分網(wǎng)友認(rèn)為實(shí)驗(yàn)夸大了威脅，指出測試的15個(gè)漏洞中有5個(gè)為易攻破的XSS漏洞。有人分享了使用GPT-4和Claude僅需簡單提示詞即可成功攻擊的經(jīng)驗(yàn)。還有人提議增加測試復(fù)雜度，如提供Metasploit工具并要求智能體針對無風(fēng)險(xiǎn)緩解措施的CVE提出多級(jí)緩解方案。然而，更多人擔(dān)憂這一研究將刺激初級(jí)黑客行為，同時(shí)也促使企業(yè)更加關(guān)注網(wǎng)絡(luò)安全。

鑒于OpenAI已知悉此項(xiàng)研究，未來我們或許能看到相關(guān)安全防御措施的升級(jí)。對此，你怎么看？

(責(zé)任編輯：張蕾)
關(guān)閉

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

限制北約收集情報(bào)，威脅擊落美無人機(jī)！俄軍考慮在黑海設(shè)立禁飛區(qū)

限制北約收集情報(bào)，威脅擊落美無人機(jī)！俄軍考慮在黑海設(shè)立禁飛區(qū)2024-07-01 10:05:32

總臺(tái)記者調(diào)查：美軍每天用十多輛卡車偷敘利亞小麥，加劇糧食危機(jī)

總臺(tái)記者調(diào)查：美軍每天用十多輛卡車偷敘利亞小麥2024-07-02 08:56:43

C羅失點(diǎn)！比賽還沒結(jié)束就痛哭 隊(duì)友都來安慰 1個(gè)月兩次哭泣

C羅失點(diǎn)！比賽還沒結(jié)束就痛哭 隊(duì)友都來安慰 1個(gè)月兩次哭泣2024-07-02 09:01:04

存在風(fēng)險(xiǎn)、失去信心……美國核霸權(quán)開始動(dòng)搖了？

存在風(fēng)險(xiǎn)、失去信心……美國核霸權(quán)開始動(dòng)搖了？2024-07-01 09:45:44

動(dòng)腦筋到廟宇上？臺(tái)軍要在廟宇存彈藥激起島內(nèi)爭議

動(dòng)腦筋到廟宇上？臺(tái)軍要在廟宇存彈藥激起島內(nèi)爭議2024-07-02 08:57:39

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀2024-07-01 09:53:57

美國大選，出現(xiàn)三個(gè)重大變化

美國大選，出現(xiàn)三個(gè)重大變化2024-07-01 09:31:09

歐洲杯刷爆19紀(jì)錄：C羅失點(diǎn)仍球荒！葡萄牙門神撲3點(diǎn)歷史第一人

歐洲杯刷爆19紀(jì)錄：C羅失點(diǎn)仍球荒！葡萄牙門神撲3點(diǎn)歷史第一人2024-07-02 09:00:15

普京宣布“大消息”！西方密集關(guān)注

普京宣布“大消息”！西方密集關(guān)注2024-07-01 09:47:27

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領(lǐng)導(dǎo)層想與俄開戰(zhàn)

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領(lǐng)導(dǎo)層想與俄開戰(zhàn)2024-07-01 10:10:32

破解俄羅斯“戰(zhàn)場神器”，西方給出危險(xiǎn)“解藥”

破解俄羅斯“戰(zhàn)場神器”，西方給出危險(xiǎn)“解藥”2024-07-01 09:39:24

90后女生帶一群退休阿姨再創(chuàng)業(yè)！

90后女生帶一群退休阿姨再創(chuàng)業(yè)2024-07-02 09:04:36

美媒炒作：盟友不是信不過拜登，質(zhì)疑聲太多恐“便宜”了中俄

美媒炒作：盟友不是信不過拜登，質(zhì)疑聲太多恐“便宜”了中俄2024-07-01 10:09:25

凱爾特人主要控股集團(tuán)計(jì)劃出售球隊(duì) 特許經(jīng)營權(quán)待售

凱爾特人主要控股集團(tuán)計(jì)劃出售球隊(duì)2024-07-02 09:01:41

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)2024-07-01 10:04:00

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”2024-07-01 09:56:21

俄羅斯“生病”，美國吃藥？

俄羅斯“生病”，美國吃藥？2024-07-01 09:49:45

前遼小虎球員姚立首次擔(dān)任男主角 籃球場外的跨界挑戰(zhàn)

前遼小虎球員姚立首次擔(dān)任男主角2024-07-02 08:58:56

曝德里克·懷特將續(xù)約凱爾特人 4年1.259億大合同鎖定冠軍后衛(wèi)

曝德里克·懷特將續(xù)約凱爾特人2024-07-02 09:01:53

美國究竟有多少核彈頭？最新數(shù)據(jù)

美國究竟有多少核彈頭？最新數(shù)據(jù)2024-07-01 10:06:48

法國“屏住呼吸”舉行議會(huì)選舉！美媒：此次選舉可能“撼動(dòng)歐盟與北約”

法國“屏住呼吸”舉行議會(huì)選舉！美媒：此次選舉可能“撼動(dòng)歐盟與北約”2024-07-01 09:57:53

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

首次曝光：美國提供了1.4萬枚

首次曝光：美國提供了1.4萬枚2024-07-01 09:46:44

馬克龍賭輸了，現(xiàn)在后果很嚴(yán)重

馬克龍賭輸了，現(xiàn)在后果很嚴(yán)重2024-07-01 09:34:57

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)2024-07-02 08:59:09

如何結(jié)束俄烏沖突？澤連斯基最新表態(tài)

如何結(jié)束俄烏沖突？澤連斯基最新表態(tài)2024-07-01 09:48:10

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

相關(guān)新聞