對(duì)于相關(guān)風(fēng)險(xiǎn),Anthropic內(nèi)部也心知肚明。負(fù)責(zé)Anthropic前沿“紅隊(duì)”測(cè)試實(shí)驗(yàn)室模型的洛根·格雷厄姆表示:“有人可能會(huì)利用Mythos以自動(dòng)化方式快速大規(guī)模發(fā)掘漏洞,而全球大多數(shù)組織,包括技術(shù)最先進(jìn)的機(jī)構(gòu)都無(wú)法及時(shí)修補(bǔ)。”
各國(guó)政府也意識(shí)到AI大模型發(fā)掘系統(tǒng)漏洞所帶來(lái)的風(fēng)險(xiǎn)。近日美國(guó)財(cái)政部長(zhǎng)斯科特·貝森特和美聯(lián)儲(chǔ)主席杰伊·鮑威爾召集了美國(guó)一些最大的銀行,討論Mythos大模型帶來(lái)的網(wǎng)絡(luò)威脅。英國(guó)人工智能部負(fù)責(zé)人卡尼什卡·納拉揚(yáng)告訴《金融時(shí)報(bào)》,“我們應(yīng)該擔(dān)心”該模型的能力。德國(guó)聯(lián)邦銀行行長(zhǎng)約阿希姆·納格爾提出,Mythos大模型應(yīng)向相關(guān)受影響機(jī)構(gòu)開(kāi)放使用權(quán)限,以此保障行業(yè)公平競(jìng)爭(zhēng)環(huán)境。
中國(guó)也要具備相應(yīng)能力
美國(guó)《紐約時(shí)報(bào)》稱,Anthropic將對(duì)Mythos的訪問(wèn)權(quán)限控制在很小范圍內(nèi)。該公司目前重點(diǎn)與40多家為互聯(lián)網(wǎng)、電網(wǎng)等全球關(guān)鍵基礎(chǔ)設(shè)施提供技術(shù)的組織分享該大模型,Anthropic公布了11家機(jī)構(gòu)的名單,包括亞馬遜、蘋果和微軟,承諾幫助其開(kāi)發(fā)針對(duì)大模型發(fā)現(xiàn)的系統(tǒng)漏洞的安全修復(fù)方案。
韓國(guó)《每日經(jīng)濟(jì)》網(wǎng)站注意到,Mythos發(fā)掘系統(tǒng)漏洞的能力與其他AI帶來(lái)的進(jìn)步不同,涉及國(guó)家級(jí)“網(wǎng)絡(luò)安全”問(wèn)題,未來(lái)不具備相應(yīng)能力的國(guó)家將面臨困境。Anthropic聯(lián)合11家科技公司啟動(dòng)的Glasswing項(xiàng)目,只向少數(shù)美國(guó)大科技和金融公司提供技術(shù)支持,而韓國(guó)企業(yè)不在該名單中。
作為全球遭受網(wǎng)絡(luò)攻擊最嚴(yán)重的國(guó)家之一,中國(guó)該如何應(yīng)對(duì)這種新挑戰(zhàn)呢?新加坡《聯(lián)合早報(bào)》23日稱,中國(guó)網(wǎng)絡(luò)安全公司360集團(tuán)近日透露,該公司開(kāi)發(fā)了一款A(yù)I驅(qū)動(dòng)的“漏洞挖掘智能體”,發(fā)現(xiàn)了近1000個(gè)此前未知的漏洞,其中50余個(gè)被認(rèn)定為高危漏洞,覆蓋Windows內(nèi)核、Microsoft Office組件、OpenClaw以及多類物聯(lián)網(wǎng)設(shè)備等關(guān)鍵基礎(chǔ)設(shè)施軟件。這意味著漏洞發(fā)現(xiàn)正式進(jìn)入智能體自動(dòng)化、規(guī)?;a(chǎn)的新階段。