專家：若中國輸?shù)鬉I代價是什么？數(shù)據(jù)安全成首要挑戰(zhàn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-22 20:50:20 每日經(jīng)濟(jì)新聞

在最近舉行的一次數(shù)字安全盛會上，一個展位通過騎行者的現(xiàn)場體驗，展示了數(shù)據(jù)保護(hù)的過程。隨著參與者踏上自行車，心率、速度等個人信息被各種設(shè)備捕捉并實時顯現(xiàn)在屏幕上，以此說明數(shù)據(jù)分類與傳輸中如何防范潛在的信息泄露和惡意攻擊。

近期，人工智能技術(shù)，特別是大型模型的應(yīng)用，引發(fā)了廣泛關(guān)注。它們在帶來高效與便利的同時，也引發(fā)了人們對隱私和數(shù)據(jù)安全的憂慮。人們在享受AI對話的便利時，不禁擔(dān)憂個人及商業(yè)敏感信息的安全。這一話題成為了包括院士、學(xué)者和網(wǎng)絡(luò)安全領(lǐng)域領(lǐng)頭企業(yè)代表在內(nèi)的眾多專家在大會上探討的焦點。

浙江大學(xué)金小剛副教授指出，在與大模型互動過程中，用戶數(shù)據(jù)如位置、偏好可能被收集，因此選擇信譽(yù)良好的平臺至關(guān)重要。中國科學(xué)技術(shù)大學(xué)左曉棟教授則強(qiáng)調(diào)，生成式AI除了面臨數(shù)據(jù)安全挑戰(zhàn)，還需考慮其生成內(nèi)容是否合規(guī)，以及如何保障涉及個人信息和商業(yè)秘密的數(shù)據(jù)權(quán)益。

針對AI技術(shù)的雙刃劍特性，專家們提出，安全技術(shù)需與大模型同步發(fā)展并緊密結(jié)合，以應(yīng)對不斷涌現(xiàn)的安全威脅?，F(xiàn)實中，不僅大模型的訓(xùn)練和使用存在隱患，AI深度偽造技術(shù)已被不法分子用于詐騙等非法活動，如“黑模型”的出現(xiàn)大大降低了犯罪的技術(shù)門檻。

對于這些挑戰(zhàn)，中國工程院院士鄔江興建議采用不同AI模型相互驗證的方法來提升安全性。安恒信息董事長范淵則強(qiáng)調(diào)以AI管理AI的趨勢，指出通過AI技術(shù)能顯著提高數(shù)據(jù)處理效率和安全防護(hù)能力，盡管目前仍有一些難題待解。

面對AI安全風(fēng)險，鄔江興院士提倡采用多維度、多種AI系統(tǒng)交叉驗證的策略，避免單一模型的局限性和潛在欺騙性。胡瑞敏則呼吁對智能技術(shù)實施必要約束，并提升對深度偽造的檢測能力，同時表示已有易于普及的鑒別技術(shù)供公眾使用。

總而言之，隨著AI技術(shù)的飛速發(fā)展，構(gòu)建安全、可靠的智能環(huán)境成為緊迫課題，需各界共同努力，既要充分利用AI的正面潛力，也要積極防范伴隨而來的安全隱患。

(責(zé)任編輯：張蕾)

關(guān)閉

專家：若中國輸?shù)鬉I代價是什么？數(shù)據(jù)安全成首要挑戰(zhàn)

相關(guān)新聞

今日熱點

頻道熱點

專家：若中國輸?shù)鬉I代價是什么？數(shù)據(jù)安全成首要挑戰(zhàn)