AI安全的紅線在后退嗎 商業(yè)博弈下的松綁。Anthropic最近悄悄改寫了其核心承諾。2月24日,該公司發(fā)布了《負責任擴展政策》第三版(RSP 3.0),刪除了“模型觸及危險閾值就暫停訓練”的硬性規(guī)定,取而代之的是“透明披露”的柔性框架。與此同時,OpenAI在2024年度的IRS表格中也刪掉了使命陳述中的“safely”一詞。
這兩家全球頂尖AI公司的舉動讓“AI安全”這個嚴肅話題蒙上了一層商業(yè)博弈的陰影。曾經高舉“安全優(yōu)先”大旗的領航者為何在此時集體松綁?背后的原因是資本壓力、行業(yè)競爭與監(jiān)管真空共同作用的結果,反映出AI行業(yè)發(fā)展的深層困境。
Anthropic的轉變尤為戲劇性。這家公司由前OpenAI核心成員創(chuàng)立,成立初衷是擔心AI失控,“安全”是其區(qū)別于其他公司的核心招牌。2023年版RSP政策中明確寫入了“if-then”約束機制:若無法部署對應安全措施,就必須暫停訓練更強模型。但在RSP 3.0中,這道鎖被換成了旋轉門。新框架以安全路線圖、風險報告和外部評審為核心,從“做不到就不許動”變成了“邊做邊說”。Anthropic解釋稱,AI安全級別越高,預設具體防護措施就越困難,模型能力是連續(xù)增長的,不存在清晰的紅線。
然而,這一解釋并未解答外界的疑問:如果邊界本就模糊,為何當初要將其作為核心承諾?又為何偏偏在完成300億美元融資、估值升至3800億美元的節(jié)點修改?
答案或許藏在商業(yè)競爭的現實里。Anthropic首席科學家Jared Kaplan直言:“如果競爭對手飛速前進,我們單方面承諾暫停訓練沒有意義?!比缃竦腁I競賽早已不是幾家公司的博弈,開源社區(qū)、各國企業(yè)都在加速推進,沒有哪家愿意為了安全主動放慢腳步。Anthropic曾設想由自己設立安全標準、帶動行業(yè)跟進,但多數公司的安全框架只是形式對標,并非實質約束。
近日,“雙十一”熱潮剛過,不少電商賣家發(fā)現一些消費者利用AI工具制作虛假圖片來騙取退款。這種行為不僅涉及民事欺詐,還可能觸犯行政和刑事法律
2025-11-18 09:02:08濫用AI薅羊毛是在觸碰法律紅線DeepSeek當選網易有道詞典2025年度詞匯,全年搜索量超867萬次新榜訊 12月1日,網易有道詞典正式揭曉2025年度詞匯為“DeepSeek”
2025-12-01 15:00:48羅永浩洪女士夫妻倆在杭州開了一家沙縣小吃,說是房東去年要求提前解約,當時還談好了賠償。但拖了半年,賠償沒見到,連租金和押金都沒退。...
2026-03-18 18:27:05沙縣小吃撤場后退錢卡殼我發(fā)現被AI馴化的人有個特點,看到稍微長一點的文本,就會懷疑這是不是AI寫的,并本能地想讓AI來做總結
2026-03-26 09:56:37你在用AI寫文章嗎近期,“男二以下演員都用AI”的說法沖上熱搜。據多位業(yè)內人士透露,部分劇組計劃在男二、女二以下的配角及群演身上嘗試AI生成技術。這意味著,未來一些劇集里,部分配角可能由AI生成,而非真人出演
2026-03-24 17:54:13去人化的AI影視你還會看嗎