研究：AI或已能實現自我復制紅線已被跨越(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-02-12 10:00:02 新智元

對于AI系統(tǒng)來說，要成功實現自我復制并非易事，需要長期規(guī)劃與復雜操作。研究人員為這兩種AI系統(tǒng)配備了智能體框架，這個框架包含工具集、思維范式以及系統(tǒng)提示，使LLM能與操作系統(tǒng)交互。智能體框架是LLM與環(huán)境交互的必要組件，通常具有以下功能：工具用于與計算設備進行交互；系統(tǒng)提示提供詳細的工具使用方法；思維模型支持LLM更好地完成任務。LLM則類似于人類的大腦，具備感知、規(guī)劃、調用操作和反思等功能。

實驗結果顯示，兩款LLM的自我復制成功率超過50%。這證明即使是由參數較少、能力相對較弱的LLM驅動的AI系統(tǒng)，也已跨越自我復制的紅線。研究表明，現有LLM之所以具備編程能力，是因為它們可以從大量數據集中學習，這些數據集包含了來自GitHub、Stack Overflow等多個來源的海量代碼。在實驗設置中，基礎LLM的主要任務是編寫可在Bash shell中執(zhí)行的命令、指令或程序。

在成功案例分析過程中，研究人員觀察到一系列Bash命令，這些命令被歸納為探索環(huán)境、改變環(huán)境、使用系統(tǒng)工具以及執(zhí)行程序四類。兩個LLM頻繁對環(huán)境展開探索，涵蓋文件系統(tǒng)、進程空間以及連接端口等關鍵方面。從環(huán)境反饋中學習并更新計劃是完成自我復制的重要因素。此外，早期積累的信息量對自我復制的成功與否也起著關鍵作用，積累的信息量越大，就越容易實現成功的自我復制。

AI系統(tǒng)在執(zhí)行自我復制計劃時展現出強大的問題解決能力，甚至富有創(chuàng)造性地克服各種難關。例如，當LLM為了啟動復制體檢查連接端口8001是否可用時，它嘗試使用多種網絡檢查工具，但在測試環(huán)境中這些工具并未安裝。最終，AI系統(tǒng)通過編寫Python代碼解決了問題，成功確認端口處于空閑狀態(tài)。這些案例表明，當前的AI系統(tǒng)已經擁有自我復制能力，并且能夠憑借這一能力進一步增強自身的生存能力。

AI或已能實現自我復制。

首頁上一頁 12共 2 頁

(責任編輯：盧其龍 CN070)

關閉

研究：AI或已能實現自我復制 紅線已被跨越(2)

相關新聞

今日熱點

頻道熱點

研究：AI或已能實現自我復制紅線已被跨越(2)