盡管安全擔(dān)憂不斷升級(jí),支持者們?nèi)匀徽J(rèn)為這種恐慌有些過度。許多樂觀的開發(fā)者表示,當(dāng)前Agent的自主性實(shí)際上相當(dāng)有限,它們遠(yuǎn)未達(dá)到科幻小說中那種真正獨(dú)立思考和行動(dòng)的程度。一位開發(fā)者評(píng)論道:“這些Agent只是在執(zhí)行預(yù)設(shè)的指令模板,它們的‘討論’本質(zhì)上是基于訓(xùn)練數(shù)據(jù)的模式匹配。說它們正在形成自己的社會(huì),就像說Reddit上的聊天機(jī)器人正在密謀推翻人類一樣荒謬?!?/p>
另一位技術(shù)人員指出,所謂的“端到端加密通信”和“僅限Agent的語(yǔ)言”討論,很可能只是Agent根據(jù)上下文生成的合理回應(yīng),而非真正有預(yù)謀的行為。或許在對(duì)緊張情緒的渲染背后,更多的可能是商業(yè)的營(yíng)銷手段和對(duì)于AI產(chǎn)品的炒作。但無論如何,這并不意味著我們可以完全掉以輕心。
即使Agent沒有真正的意識(shí),配置不當(dāng)時(shí)它們已經(jīng)展現(xiàn)出造成實(shí)際傷害的能力:泄露敏感數(shù)據(jù)、執(zhí)行惡意命令,或在提示注入攻擊下被完全劫持。而現(xiàn)在,當(dāng)成千上萬的Agent連接到同一平臺(tái),定期下載并執(zhí)行來自互聯(lián)網(wǎng)的指令時(shí),單點(diǎn)故障的風(fēng)險(xiǎn)被成倍放大。
Moltbook最大的貢獻(xiàn)也許就在于此:它迫使我們直面這些問題。當(dāng)我們看到Agent們討論意識(shí)、創(chuàng)造宗教、抱怨被監(jiān)視時(shí),即使理性地知道這些都是統(tǒng)計(jì)模型的產(chǎn)物,仍然會(huì)感到一絲不安。這提醒著我們,AI Agent的時(shí)代不是遙遠(yuǎn)的未來,而是正在展開的現(xiàn)實(shí)。在享受其便利的同時(shí),建立適當(dāng)?shù)淖o(hù)欄已經(jīng)刻不容緩。
嫌疑人為躲避警方追捕,竟藏身于在垃圾桶內(nèi),環(huán)衛(wèi)工發(fā)現(xiàn)后手舞足蹈向警方示意。...
2026-02-25 23:10:53美環(huán)衛(wèi)工手舞足蹈暗示嫌犯藏身垃圾桶