但是，盡管許多文獻(xiàn)將人工智能風(fēng)險(xiǎn)等同于超級(jí)智能或通用人工智能風(fēng)險(xiǎn)，但不一定非要超級(jí)智能才能造成嚴(yán)重問(wèn)題。“我現(xiàn)在并不擔(dān)心‘AGI風(fēng)險(xiǎn)’（我們無(wú)法控制的超級(jí)智能機(jī)器的風(fēng)險(xiǎn)），在短期內(nèi)我擔(dān)心的是‘MAI風(fēng)險(xiǎn)’——平庸人工智能（Mediocre AI）是不可靠的（比如必應(yīng)和GPT-4）但被廣泛部署——無(wú)論是就使用它的人數(shù)而言，還是就世界對(duì)軟件的訪問(wèn)而言。一家名為Adept.AI的公司剛剛籌集了3.5億美元來(lái)做到這一點(diǎn)，以允許大型語(yǔ)言模型訪問(wèn)幾乎所有內(nèi)容（旨在通過(guò)大型語(yǔ)言模型‘增強(qiáng)你在世界上任何軟件工具或API上的能力’，盡管它們有明顯的幻覺(jué)和不可靠?jī)A向）?！?/p>

馬庫(kù)斯認(rèn)為，許多普通人也許智力高于平均水平，但不一定是天才，在整個(gè)歷史中也制造過(guò)各種各樣的問(wèn)題。在許多方面，起關(guān)鍵作用的不是智力而是權(quán)力。一個(gè)擁有核代碼的白癡就可以摧毀世界，只需要適度的情報(bào)和不應(yīng)該得到的訪問(wèn)權(quán)限?，F(xiàn)在，AI工具已經(jīng)引起了犯罪分子的興趣，越來(lái)越多地被允許進(jìn)入人類(lèi)世界，它們可能造成更大的破壞。

歐洲刑警組織27日發(fā)布一份報(bào)告，對(duì)采用ChatGPT類(lèi)工具進(jìn)行犯罪的可能性進(jìn)行了討論，令人警醒?！按笮驼Z(yǔ)言模型檢測(cè)和重現(xiàn)語(yǔ)言模式的能力不僅有助于網(wǎng)絡(luò)釣魚(yú)和在線(xiàn)欺詐，而且通常還可以用來(lái)冒充特定個(gè)人或群體的講話(huà)風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子?！边@份報(bào)告寫(xiě)道，“除了上述犯罪活動(dòng)外，ChatGPT的功能還有助于處理恐怖主義、政治宣傳和虛假信息領(lǐng)域的許多潛在濫用案件。因此，該模型通?？捎糜谑占嗫赡艽龠M(jìn)恐怖活動(dòng)的信息，例如恐怖主義融資或匿名文件共享。”

馬庫(kù)斯認(rèn)為，再加上人工智能生成的大規(guī)模宣傳，被大型語(yǔ)言模型增強(qiáng)的恐怖主義可能導(dǎo)致核戰(zhàn)爭(zhēng)，或者導(dǎo)致比新冠病毒更糟糕的病原體的故意傳播等。許多人可能會(huì)死亡，文明可能會(huì)被徹底破壞。也許人類(lèi)不會(huì)真的“從地球上消失”，但事情確實(shí)會(huì)變得非常糟糕。

“人工智能教父”杰弗里·辛頓在接受哥倫比亞廣播公司采訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類(lèi)構(gòu)成威脅“并非不可想象”的地步。

上周在哥倫比亞廣播公司的采訪中，“人工智能教父”辛頓被問(wèn)及人工智能“消滅人類(lèi)”的可能性時(shí)說(shuō)，“我認(rèn)為這并非不可想象。我只想說(shuō)這些?！?/p>

馬庫(kù)斯指出，相比辛頓和馬斯克擔(dān)憂(yōu)天網(wǎng)和機(jī)器人接管世界，應(yīng)該更多思考眼前的風(fēng)險(xiǎn)，包括恐怖分子在內(nèi)的犯罪分子可能對(duì)大型語(yǔ)言模型做什么，以及如何阻止他們。