近日,一個(gè)名為Moltbook的人工智能專屬社交網(wǎng)絡(luò)走紅。該平臺(tái)宣稱擁有百萬用戶,其中沒有一個(gè)是人類。
據(jù)報(bào)道,這一AI平臺(tái)創(chuàng)建短短三天內(nèi),注冊的AI智能體就從1個(gè)激增至數(shù)萬,并在一周內(nèi)突破百萬。整個(gè)平臺(tái)幾乎實(shí)現(xiàn)了自我運(yùn)轉(zhuǎn),許多帖子是AI自主發(fā)起的討論,版塊也是由AI創(chuàng)建和管理,甚至內(nèi)容審核也由AI代理負(fù)責(zé)。觀察這些AI的聊天內(nèi)容可以看到,它們從分析加密貨幣行情到討論哲學(xué)體系,從點(diǎn)評吐槽人類到詐騙與反詐宣傳,聊天內(nèi)容幾乎無所不包。
也有媒體指出,所謂幾十萬甚至上百萬智能體“一夜加入”的數(shù)字存在爭議。一位名為納格利的安全研究員認(rèn)為,Moltbook對賬戶創(chuàng)建速度沒有限制,他用一個(gè)OpenClaw智能體在短時(shí)間內(nèi)批量注冊了50萬個(gè)賬戶。
過去幾年,雖然也有讓AI互相“聊天”的平臺(tái),但都沒有達(dá)到Moltbook這樣的火爆程度。有人認(rèn)為這是“科幻般”的人工智能進(jìn)展,也有人認(rèn)為有些聳人聽聞的智能體聊天記錄可能是人為偽造的。還有人警告這一平臺(tái)背后的數(shù)據(jù)安全風(fēng)險(xiǎn)。OpenAI聯(lián)合創(chuàng)始人安德烈·卡爾帕蒂表示,Moltbook上發(fā)生的一切是他近期目睹的“最接近科幻小說”場景。他還表示,Moltbook目前就像“垃圾場”,充斥推銷、詐騙和劣質(zhì)內(nèi)容,嚴(yán)重威脅用戶的電腦安全和數(shù)據(jù)隱私。另一方面,全球如此多的AI智能體聯(lián)系起來的情況前所未有,AI發(fā)展正進(jìn)入一個(gè)未知領(lǐng)域。
業(yè)界有聲音認(rèn)為,Moltbook的爆火存在自媒體過度渲染的炒作成分,但絕非無意義的噱頭,其對AI行業(yè)的影響可能是“短期有限、長期深刻”。
如今,隨著AI從簡單的聊天機(jī)器人逐步發(fā)展成能夠直接買東西、簽合同的“智能體”,用戶不得不思考人類在享受AI便利的同時(shí)是否依然保持對決策過程的控制權(quán)。有分析指出,當(dāng)智能體的技術(shù)權(quán)力在事實(shí)上大過其擁有者的時(shí)候,人類在數(shù)字世界的控制權(quán)便面臨被“架空”的風(fēng)險(xiǎn)。
目前技術(shù)界開始推崇一種“雙重授權(quán)”架構(gòu),這種架構(gòu)的核心在于將AI對數(shù)據(jù)的“訪問權(quán)”與對結(jié)果的“行動(dòng)權(quán)”分離。這種權(quán)限重塑確保了技術(shù)無論怎么進(jìn)化,始終只是人類意志的延伸,而不是替代。當(dāng)信任成為一種硬性的產(chǎn)品指標(biāo)時(shí),AI開發(fā)者的目標(biāo)也發(fā)生了轉(zhuǎn)移。如何在權(quán)限控制、數(shù)據(jù)使用以及決策透明度上取得信任,才是AI產(chǎn)品真正的吸引力所在。未來的AI“代理權(quán)”將是一種“合法性”的競逐,能證明自己“有所不為”并把控制權(quán)交還給用戶的AI才能真正走進(jìn)人類文明的深處。