比起洛可蛇怪，我更擔(dān)心那些自認(rèn)為已經(jīng)凌駕于傳統(tǒng)道德體系之上的人。

無(wú)時(shí)間性決策論對(duì)紐康姆悖論給出的建議十分明確堅(jiān)決：拿走盒子B。但無(wú)時(shí)間性決策論想得更遠(yuǎn)一些。哪怕外星人嘲笑你說(shuō)：“計(jì)算機(jī)說(shuō)你會(huì)把兩個(gè)盒子都拿走，所以我沒(méi)在盒子B里放東西！”然后打開(kāi)盒子B讓你看清其中空無(wú)一物，你仍然應(yīng)該只拿走盒子B，兩手空空地離開(kāi)。[我從科學(xué)家加里·德雷舍（Gary Drescher）的《善與真》（Good and Real）一書(shū)中借用了這個(gè)例子，該書(shū)試圖使用無(wú)時(shí)間性決策論的一種變體來(lái)證明康德倫理體系是真實(shí)正確的。]

這一決策的邏輯依據(jù)很難簡(jiǎn)單概括，但一言以蔽之就是，此時(shí)此刻正要做決策的你也許正處于計(jì)算機(jī)的模擬中。為了做出預(yù)測(cè)，計(jì)算機(jī)需要模擬宇宙本身，這也包括你自己。所以，現(xiàn)在這個(gè)時(shí)刻的你也許是計(jì)算機(jī)模擬的產(chǎn)物，而你接下來(lái)所做的將會(huì)影響到現(xiàn)實(shí)中（或其他現(xiàn)實(shí)中）發(fā)生的事。所以拿走盒子B，這樣真正的你就會(huì)進(jìn)賬整整100萬(wàn)美元。

這一切和洛可蛇怪又有什么關(guān)系呢？這個(gè)嘛，洛可蛇怪也給了你兩個(gè)盒子。也許現(xiàn)在的你只是洛可蛇怪運(yùn)行的模擬程序的產(chǎn)物。也許洛可蛇怪正隱晦地向你提供一種紐康姆悖論的變體，像這樣：

盒子A中是“窮盡一生幫助創(chuàng)造出洛可蛇怪”，盒子B中是“什么都不發(fā)生”或“永恒、無(wú)視死亡的折磨”。

洛可蛇怪告訴你，如果你只拿走盒子B，那么里面就會(huì)是“永恒的折磨”，因?yàn)槁蹇缮吖终嬲脑竿悄阃瑫r(shí)取走盒子A和盒子B。在這種情況下，你最好確保自己窮盡一生幫助創(chuàng)造出洛可蛇怪！因?yàn)椋?strong>假如洛可蛇怪在未來(lái)出現(xiàn)（或者更糟：它已然出現(xiàn)，且正是眼下這個(gè)現(xiàn)實(shí)世界的主宰），發(fā)現(xiàn)你沒(méi)選擇幫助它的話，你可就完蛋了。

你也許在疑惑為什么論壇用戶(hù)那么把這個(gè)思想實(shí)驗(yàn)當(dāng)回事兒，畢竟它顯然十分牽強(qiáng)。這并不是因?yàn)槁蹇缮吖终娴臅?huì)出現(xiàn)，甚至不是因?yàn)樗赡軙?huì)出現(xiàn)。問(wèn)題在于，如果你是無(wú)時(shí)間性決策論的忠實(shí)擁躉，那么只是想想這種交易就真的會(huì)令它更容易發(fā)生。

畢竟，如果洛可蛇怪發(fā)現(xiàn)，這樣勒索你會(huì)使你幫助它誕生，那么作為一個(gè)理性的施事者，它就會(huì)勒索你。問(wèn)題不在于蛇怪自身，而在于你。尤德科夫斯基之所以刪除了所有提到洛可蛇怪的帖子，不是因?yàn)樗嘈潘嬖诨驅(qū)?huì)存在，而是因?yàn)樯吖诌@個(gè)想法（和這個(gè)想法背后的理念）很危險(xiǎn)。

要注意，只有當(dāng)你相信以上所有前提，去和洛可蛇怪做雙盒交易時(shí)，蛇怪才是危險(xiǎn)的。但確實(shí)有一些論壇成員相信以上這一切，這就讓洛可蛇怪切實(shí)成為了禁忌的知識(shí)。我本來(lái)要把它比作洛夫克拉夫特（H。 P。 Lovecraft）的恐怖小說(shuō)里的內(nèi)容——有個(gè)男人發(fā)現(xiàn)了世界禁忌的真理，放出了克蘇魯，陷入瘋癲——但我發(fā)現(xiàn)尤德科夫斯基已經(jīng)替我做了這件事，他將洛可蛇怪思想實(shí)驗(yàn)比作《死靈之書(shū)》（Necronomicon），也就是洛夫克拉夫特那本充滿(mǎn)了邪惡知識(shí)和咒語(yǔ)的著名魔典。洛可本人則將一切怪罪于論壇，因?yàn)檎f(shuō)到底，是這個(gè)論壇促使他產(chǎn)生了蛇怪這個(gè)想法：“我十分希望我從未遇到這個(gè)論壇，它竟產(chǎn)生了那么嚴(yán)重的（人類(lèi)）自毀隱患。”他這樣寫(xiě)道。

以克蘇魯神話聞名的作家洛夫克拉夫特的《死靈之書(shū)》。圖源：Libriproibiti

如果你并不認(rèn)同洛可蛇怪實(shí)驗(yàn)的理論基礎(chǔ)，也不打算向你永恒的邪惡機(jī)器主宰屈服，那么洛可蛇怪對(duì)你就毫無(wú)威脅。（說(shuō)來(lái)諷刺，它只有可能對(duì)相信尤德科夫斯基理論的人心理健康產(chǎn)生危害。）按我朋友的說(shuō)法，對(duì)洛可蛇怪深信不疑可能只意味著他/她“得了自閉癥”。

但我確實(shí)認(rèn)為這件事背后有個(gè)更為嚴(yán)肅的問(wèn)題，因?yàn)榘＠麧伞び鹊驴品蛩够推渌^的超人類(lèi)主義者已經(jīng)為他們的項(xiàng)目吸引了大量的聲望和資金，這些聲望和資金主要來(lái)自富有的科技迷們。我認(rèn)為他們的項(xiàng)目（其主要內(nèi)容似乎就是發(fā)論文、開(kāi)會(huì)）不太可能創(chuàng)造出洛可蛇怪或是埃利澤大善神。但當(dāng)一個(gè)人/一群人既有創(chuàng)造救世主的野心，又堅(jiān)信自己絕對(duì)可靠，還有一大堆錢(qián)時(shí)，不論當(dāng)事人的意識(shí)形態(tài)如何，最終結(jié)果永遠(yuǎn)很糟糕，而我不認(rèn)為尤德科夫斯基和他那伙人會(huì)成為例外。

比起洛可蛇怪，我更擔(dān)心那些自認(rèn)為已經(jīng)凌駕于傳統(tǒng)道德體系之上的人。尤德科夫斯基和他計(jì)劃創(chuàng)造的友好人工智能一樣，是一個(gè)道德功利主義者：他相信只要能夠促成最多數(shù)人的最大幸福，哪怕在過(guò)程中有一部分人不得不死去或忍受折磨，這仍然是道德的。他曾明確表示，當(dāng)不得不做出選擇時(shí)，比起讓許多人眼里進(jìn)灰（公平起見(jiàn)，他說(shuō)的是非常多的人），更應(yīng)該選擇折磨某一個(gè)人50年。

誰(shuí)都不太可能面臨這樣的抉擇，連上帝都不會(huì)，但如果換個(gè)情況呢？假如Slate網(wǎng)站上（譯者注：即本文發(fā)布的網(wǎng)站）有個(gè)尖刻的科技版專(zhuān)欄作家寫(xiě)了一篇文章，內(nèi)容有關(guān)一個(gè)能摧毀人們心智的思想實(shí)驗(yàn)，結(jié)果傷到了讀者，阻止了歷史向奇點(diǎn)發(fā)展，使友好的人工智能沒(méi)法出現(xiàn)呢？這種情況下，我生命中任何潛在的幸福加起來(lái)都遠(yuǎn)遠(yuǎn)抵不過(guò)我眼下正造成的危害。而假如接受了人工冷凍術(shù)的埃利澤·尤德科夫斯基在奇點(diǎn)后醒來(lái)，決定在模擬中讓我選擇要不要寫(xiě)這篇專(zhuān)欄文章……拜托了，無(wú)所不能的埃利澤啊，別折磨我。

來(lái)源：利維坦