針對(duì)“龍蝦”典型應(yīng)用場景下的安全風(fēng)險(xiǎn),工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)(NVDB)組織智能體提供商、漏洞收集平臺(tái)運(yùn)營單位、網(wǎng)絡(luò)安全企業(yè)等研究提出了一些建議。
在智能辦公場景中,“龍蝦”通過對(duì)接企業(yè)已有管理系統(tǒng),實(shí)現(xiàn)智能化數(shù)據(jù)分析、文檔處理、行政管理、財(cái)務(wù)輔助和知識(shí)管理等功能。然而,這可能導(dǎo)致供應(yīng)鏈攻擊和企業(yè)內(nèi)網(wǎng)滲透的風(fēng)險(xiǎn)。引入異常插件或技能包可能引發(fā)供應(yīng)鏈攻擊,網(wǎng)絡(luò)安全風(fēng)險(xiǎn)在內(nèi)網(wǎng)橫向擴(kuò)散,導(dǎo)致敏感信息泄露或丟失,缺乏審計(jì)和追溯機(jī)制還可能引發(fā)合規(guī)風(fēng)險(xiǎn)。為應(yīng)對(duì)這些風(fēng)險(xiǎn),建議獨(dú)立網(wǎng)段部署,與關(guān)鍵生產(chǎn)環(huán)境隔離運(yùn)行,禁止使用未審批的終端,并進(jìn)行充分的安全測試,采取最小化權(quán)限授予,禁止非必要的跨網(wǎng)段訪問,同時(shí)留存完整操作和運(yùn)行日志以滿足審計(jì)要求。
在開發(fā)運(yùn)維場景中,“龍蝦”將自然語言轉(zhuǎn)化為可執(zhí)行指令,輔助進(jìn)行代碼編寫、設(shè)備巡檢、系統(tǒng)監(jiān)控等任務(wù)。這一過程中存在系統(tǒng)設(shè)備敏感信息泄露和被劫持控制的風(fēng)險(xiǎn),如非授權(quán)執(zhí)行系統(tǒng)命令、設(shè)備遭網(wǎng)絡(luò)攻擊劫持、系統(tǒng)賬號(hào)和端口信息暴露等。為減少這些風(fēng)險(xiǎn),建議避免在生產(chǎn)環(huán)境中直接部署,優(yōu)先在虛擬機(jī)或沙箱中運(yùn)行,進(jìn)行充分的安全測試,采取最小化權(quán)限授予,建立高危命令黑名單,并啟用重要操作的人工審批機(jī)制。
個(gè)人助手場景下,“龍蝦”通過個(gè)人即時(shí)通訊軟件遠(yuǎn)程接入本地化部署,提供個(gè)人信息管理、日常事務(wù)處理等服務(wù)。但這也帶來個(gè)人信息被竊和敏感信息泄露的風(fēng)險(xiǎn),如惡意讀寫文件、遭受網(wǎng)絡(luò)攻擊入侵、誤執(zhí)行危險(xiǎn)命令等。為了防范這些問題,應(yīng)加強(qiáng)權(quán)限管理,僅允許訪問必要目錄,禁止訪問敏感目錄,優(yōu)先通過加密通道接入,禁止非必要互聯(lián)網(wǎng)訪問,嚴(yán)格通過加密方式存儲(chǔ)API密鑰和個(gè)人重要信息。