在智能體應(yīng)用落地過程中,個(gè)人信息保護(hù)與數(shù)據(jù)安全意識(shí)不強(qiáng)的問題依然存在,部分企業(yè)將產(chǎn)品創(chuàng)新凌駕于個(gè)人隱私與數(shù)據(jù)安全保護(hù)之上。尤其是部分終端智能體以截屏方式過量搜集用戶數(shù)據(jù)、敏感數(shù)據(jù)上云,不僅威脅用戶數(shù)據(jù)安全,更影響大模型產(chǎn)業(yè)的國(guó)際化發(fā)展。中美人工智能競(jìng)爭(zhēng)不僅限于國(guó)內(nèi)市場(chǎng),更要在全球市場(chǎng)中搶占話語(yǔ)權(quán)和主導(dǎo)地位。由于海外主流市場(chǎng)普遍對(duì)隱私、安全高度審慎,一些依托于未授權(quán)截屏形態(tài)的智能體應(yīng)用極有可能難以出海。
張?jiān)迫粲鯊?qiáng)化底線監(jiān)管,筑牢安全可控的發(fā)展基礎(chǔ)防線。建議行業(yè)主管部門參照國(guó)際治理通行做法,將終端智能體納入監(jiān)管范圍,落實(shí)《個(gè)人信息保護(hù)法》中對(duì)數(shù)據(jù)處理者的安全主體責(zé)任要求,制定細(xì)化監(jiān)管標(biāo)準(zhǔn)或指南,明確大模型企業(yè)、終端廠商、應(yīng)用企業(yè)等主體在數(shù)據(jù)安全上的責(zé)任邊界。他還建議規(guī)范數(shù)據(jù)采集和使用邊界,禁止無差別讀取手機(jī)、電腦等屏幕內(nèi)容,確保采集范圍與具體功能相匹配。構(gòu)建端云協(xié)同場(chǎng)景下的數(shù)據(jù)安全屏障,形成覆蓋端側(cè)、云側(cè)處理及兩者協(xié)同全過程的系統(tǒng)性安全設(shè)計(jì),并推動(dòng)建立第三方獨(dú)立檢測(cè)與核查機(jī)制,對(duì)廠商的端云協(xié)同架構(gòu)進(jìn)行周期性安全評(píng)估。