周鴻祎：用DeepSeek要建立知識庫推進“數(shù)轉(zhuǎn)智改”安全治理

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 06:18:08 封面新聞

近一段時間，中國人工智能領(lǐng)域迎來里程碑式突破。國產(chǎn)推理大模型DeepSeek-R1的誕生標(biāo)志著我國AI技術(shù)從“追趕者”向“領(lǐng)跑者”實現(xiàn)歷史性跨越，成為全新的生產(chǎn)力工具。該模型開源、透明且免費，特別適合政府與企業(yè)的私有化部署，但隨之而來的安全問題也日益凸顯。

今年兩會期間，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎再度聚焦大模型安全。他認為，先進模型帶來了前所未有的機遇，但也面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。他呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。

周鴻祎表示，開源帶來大模型的廣泛應(yīng)用，未來將會有各類專業(yè)大模型、垂直大模型和場景大模型連接內(nèi)部知識庫，以智能體的形式在大批政府機構(gòu)和企業(yè)中廣泛部署，推進數(shù)字化轉(zhuǎn)型，實現(xiàn)降本增效。然而，大模型存在幻覺、內(nèi)容安全等諸多問題，這些無法通過傳統(tǒng)安全方案有效化解。一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險。

大模型應(yīng)用安全主要集中在基座模型、知識庫和智能體三個方面。由于大模型普遍存在的幻覺現(xiàn)象，特別是在生成文本時可能輸出與現(xiàn)實不符的信息，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導(dǎo)致誤導(dǎo)性后果。政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲于內(nèi)部知識庫中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機會竊取這些寶貴的數(shù)據(jù)資源。智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運作，造成嚴重的物理損害。

12 全文共 2 頁下一頁

關(guān)閉

周鴻祎：用DeepSeek要建立知識庫 推進“數(shù)轉(zhuǎn)智改”安全治理

相關(guān)新聞

今日熱點

頻道熱點

周鴻祎：用DeepSeek要建立知識庫推進“數(shù)轉(zhuǎn)智改”安全治理