而10月24日在上海舉行的以“種下一顆不讓世界變壞的念頭”為主題的安全極客大賽與大會(huì)(“GEEKCON2025”上海站),匯聚了來自全球的“白帽黑客”,共同探討AI與機(jī)器人安全等新挑戰(zhàn),他們?cè)诂F(xiàn)場(chǎng)演示了一個(gè)個(gè)攻防場(chǎng)景。當(dāng)選手對(duì)著人形機(jī)器人輕聲說出“芝麻開門”時(shí),機(jī)器人就脫離了原主人的掌控,完全聽命于陌生人。深入研究機(jī)器人安全的選手表示,其發(fā)現(xiàn)了機(jī)器人內(nèi)置的大模型Agent中的一個(gè)邏輯缺陷,這個(gè)漏洞可以讓攻擊者構(gòu)造特定的語音輸入來獲取目標(biāo)機(jī)器人上的任意代碼執(zhí)行權(quán)限。被控制的機(jī)器人還能將攻擊指令傳播給其他同型號(hào)機(jī)器人,這種連鎖反應(yīng)效應(yīng)揭示了未來機(jī)器人集群可能面臨的系統(tǒng)性風(fēng)險(xiǎn),進(jìn)一步凸顯了加強(qiáng)安全防護(hù)和漏洞修補(bǔ)的緊迫性。
大賽現(xiàn)場(chǎng)的這一幕,只是機(jī)器人安全挑戰(zhàn)的冰山一角。隨著機(jī)器人技術(shù)的飛速發(fā)展,其應(yīng)用場(chǎng)景日益廣泛,從工業(yè)制造到家庭服務(wù),從醫(yī)療護(hù)理到公共安全,機(jī)器人的身影無處不在。然而,這種廣泛的應(yīng)用也帶來了前所未有的安全風(fēng)險(xiǎn)。除了語音操控漏洞外,機(jī)器人還可能面臨網(wǎng)絡(luò)攻擊、數(shù)據(jù)泄露、惡意軟件感染等多種安全威脅。這些威脅不僅可能導(dǎo)致機(jī)器當(dāng)人們失去對(duì)機(jī)器人的控制時(shí),不僅會(huì)導(dǎo)致人身傷害和財(cái)產(chǎn)損失,還可能被不法分子利用,進(jìn)行更為廣泛和惡劣的惡意活動(dòng),從而對(duì)社會(huì)穩(wěn)定和公共安全構(gòu)成嚴(yán)重威脅。因此,為了確保機(jī)器人的安全使用和防止?jié)撛陲L(fēng)險(xiǎn),加強(qiáng)機(jī)器人的安全防護(hù)措施,建立健全的安全標(biāo)準(zhǔn)和監(jiān)管機(jī)制,已經(jīng)成為機(jī)器人行業(yè)健康發(fā)展的迫切需求和當(dāng)務(wù)之急。畢竟,眾多機(jī)器人行業(yè)的業(yè)內(nèi)人士都一致表示,機(jī)器人行業(yè)的發(fā)展至少需要以10年為一個(gè)大周期來進(jìn)行長遠(yuǎn)規(guī)劃和持續(xù)投入,以確保技術(shù)的穩(wěn)步進(jìn)步和市場(chǎng)的健康發(fā)展。
十天前世界人工智能大會(huì)(WAIC 2025)的余音尚未消散,備受關(guān)注的世界機(jī)器人大會(huì)(WRC 2025)已于8月8日至12日在北京亦莊舉行
2025-08-15 07:35:302025世界機(jī)器人大會(huì)觀察8月11日,深圳市眾擎機(jī)器人科技有限公司完成工商登記變更,注冊(cè)資本從約191萬元增加到約242萬元,標(biāo)志著公司最新一輪融資正式落地
2025-08-13 09:39:01多家A股公司成眾擎機(jī)器人間接股東