特朗普“封殺”Anthropic AI限制之爭升級！美國國防部與人工智能初創(chuàng)公司Anthropic的談判破裂，雙方圍繞AI模型使用限制問題僵持不下。美國總統(tǒng)特朗普于2月27日宣布，將指示所有聯(lián)邦機(jī)構(gòu)立即停止使用Anthropic的所有技術(shù)。

五角大樓要求Anthropic完全開放對AI模型“克勞德”的使用限制，允許軍方將其用于所有合法用途。然而，該公司堅(jiān)決反對將其技術(shù)用于完全自主武器系統(tǒng)和對美國公民的大規(guī)模國內(nèi)監(jiān)控。在談判截止時(shí)間前，雙方均未讓步。特朗普在社交平臺上發(fā)文介入爭端，表示將決定國家的命運(yùn)，并給予聯(lián)邦機(jī)構(gòu)六個(gè)月時(shí)間逐步停止使用Anthropic的技術(shù)。他還威脅稱，如果Anthropic不配合，將動用總統(tǒng)權(quán)力迫使他們服從。

談判破裂后，美國國防部長赫格塞斯表示已指示五角大樓將Anthropic認(rèn)定為國家安全的“供應(yīng)鏈風(fēng)險(xiǎn)”，并稱該公司的立場與美國原則不相容。這種認(rèn)定通常用于外國對手，可能危及該公司與其他企業(yè)的合作關(guān)系。這場沖突在硅谷與華盛頓之間制造了新的裂痕。谷歌和OpenAI的500多名員工簽署公開信支持Anthropic的立場，并呼吁各自公司的領(lǐng)導(dǎo)層拒絕五角大樓的要求。

許多從事人工智能研究的科學(xué)家和工程師長期以來都擔(dān)憂他們的技術(shù)被用于武器或監(jiān)控。Anthropic與五角大樓之間的沖突再次喚醒了整個(gè)行業(yè)的這些擔(dān)憂。過去幾十年里，美國科技巨頭往往避免與國防部合作，但近年來這種情況有所改變。Anthropic由OpenAI前高管成立于2021年，定位為“安全優(yōu)先”的AI公司，但也積極與美國軍方和情報(bào)機(jī)構(gòu)合作。在拜登政府時(shí)期，該公司與亞馬遜和數(shù)據(jù)分析公司Palantir達(dá)成合作，成為首批進(jìn)入美國政府機(jī)密系統(tǒng)的AI公司之一。

特朗普上臺后，Anthropic獲得了一份價(jià)值2億美元的五角大樓合同，并同意以象征性的1美元價(jià)格向民用機(jī)構(gòu)提供“克勞德”模型。今年1月初，赫格塞斯發(fā)布備忘錄，呼吁AI公司移除對其技術(shù)的限制。他認(rèn)為現(xiàn)在是加速AI整合的時(shí)刻，并希望在戰(zhàn)爭規(guī)劃和武器研發(fā)中大規(guī)模應(yīng)用AI。他的立場與特朗普一致，后者已將AI擴(kuò)張作為其政策核心之一。

據(jù)《紐約時(shí)報(bào)》報(bào)道，Anthropic為美國政府提供了限制更少的Claude特別版本，但在合同細(xì)節(jié)談判時(shí)提出了兩個(gè)條件：防止人工智能被用于對美國人的大規(guī)模監(jiān)控，或被部署到完全沒有人類參與的自主武器中。否則公司將面臨損害其“安全優(yōu)先”聲譽(yù)的風(fēng)險(xiǎn)。五角大樓發(fā)言人肖恩·帕內(nèi)爾表示，國防部要求Anthropic允許其AI用于所有合法目的，并稱這是一個(gè)“常識性的要求”。

作為回應(yīng)，Anthropic首席執(zhí)行官達(dá)里奧·阿莫代伊表示，五角大樓的威脅不會改變公司的立場，公司已準(zhǔn)備好失去這份政府合同，并協(xié)助五角大樓過渡到其他公司的技術(shù)。分析認(rèn)為，特朗普政府采取強(qiáng)硬干預(yù)措施的影響可能不僅限于美政府與Anthropic的關(guān)系，還可能使政府與其他人工智能開發(fā)商的合作變得更加復(fù)雜，尤其是在國防領(lǐng)域。

硅谷與華盛頓之間的關(guān)系此前也曾惡化。2017年，谷歌與美國國防部合作開展了一項(xiàng)名為Maven的AI項(xiàng)目，但隨著越來越多員工提出反對意見，谷歌最終退出合作，并制定了禁止將其AI技術(shù)用于武器或監(jiān)控的內(nèi)部政策。喬治城大學(xué)人工智能政策專家海倫·托納表示，Anthropic與五角大樓的爭端揭示了一種根本性的認(rèn)知脫節(jié)。在華盛頓，官員們將AI視為一種可被用于特定目標(biāo)的新工具；而在硅谷，技術(shù)創(chuàng)造者則越來越將其視為一種具備復(fù)雜推理能力的“實(shí)體”，如果缺乏監(jiān)督和校準(zhǔn)，可能以不可預(yù)測且危險(xiǎn)的方式行事。

最終的贏家可能是馬斯克旗下的xAI。美國國防官員表示，xAI已同意五角大樓在機(jī)密系統(tǒng)合作方面提出的條件。但近幾個(gè)月來，美國多個(gè)聯(lián)邦機(jī)構(gòu)的官員對xAI人工智能工具的安全性和可靠性表示擔(dān)憂，這凸顯了美國政府內(nèi)部在部署哪些人工智能模型方面持續(xù)存在的分歧。

隨著俄烏沖突進(jìn)入第五年，無人機(jī)戰(zhàn)爭時(shí)代已經(jīng)開啟并在戰(zhàn)場上持續(xù)演化，使自主武器從未來的可能性變成了近在眼前的現(xiàn)實(shí)。紅十字國際委員會首席律師科杜拉·德羅格呼吁在全球范圍內(nèi)限制人工智能武器，她表示，在戰(zhàn)場上引入大量自主武器所帶來的暴力風(fēng)險(xiǎn)在更廣泛的辯論中被忽視了。