电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

周鴻祎談DeepSeek時代的AI安全難題 新挑戰(zhàn)需新解法

關(guān)鍵詞:
2025-03-07 20:32:47  21世紀(jì)經(jīng)濟(jì)報道

今年年初,DeepSeek的崛起在全球范圍內(nèi)掀起了一股熱潮。由于其免費、開源等特性,政府和企業(yè)紛紛采用DeepSeek降本增效,加速了中國AI產(chǎn)業(yè)革命的爆發(fā)。

然而,作為基座模型,DeepSeek也存在幻覺、提示注入攻擊等問題。大模型要在企業(yè)內(nèi)部真正發(fā)揮作用,還需連接企業(yè)的專業(yè)知識庫、打造智能體,并調(diào)用各種IT系統(tǒng),這進(jìn)一步加劇了安全風(fēng)險。周鴻祎指出,隨著大模型滲透率提升,應(yīng)用安全問題變得迫在眉睫。他建議應(yīng)由既懂安全又懂AI的企業(yè)牽頭,通過打造安全大模型來解決這些問題。

DeepSeek的成功不僅在于低成本實現(xiàn)高性能,更在于其開源策略推動了AI平權(quán)。許多過去堅持閉源的大模型也開始反思并逐步走向開源。周鴻祎認(rèn)為,開源與閉源之爭不僅是技術(shù)路線的分歧,更是兩種產(chǎn)業(yè)模式的較量。美國企業(yè)試圖通過閉源壟斷構(gòu)建技術(shù)壁壘,而中國正在用開源生態(tài)打破這種局面。

通過開源,中國企業(yè)不僅降低了全球開發(fā)者使用大模型的門檻,還成為AI技術(shù)標(biāo)準(zhǔn)的制定者。全球最優(yōu)秀的開發(fā)者開始使用DeepSeek后,會形成“生物大爆炸”效應(yīng),許多基于DeepSeek的成果將加速涌現(xiàn),并回饋到社區(qū)。即使OpenAI推出了能力更強(qiáng)的模型,用戶也不會輕易更換,因為DeepSeek免費且開源,更值得信任。

開源讓DeepSeek在全球范圍內(nèi)獲得廣泛支持,甚至在美國市場上也有擁護(hù)者。任何企業(yè)都可以把DeepSeek部署在自己的服務(wù)器上,實現(xiàn)數(shù)據(jù)安全可控。周鴻祎表示,人工智能要引發(fā)工業(yè)革命,必須讓技術(shù)進(jìn)入各行各業(yè)。目前來看,DeepSeek的開源策略對中國產(chǎn)業(yè)升級具有杠桿效應(yīng)。過去企業(yè)自建大模型需要投入高昂成本購買算力和數(shù)據(jù),如今只需一臺服務(wù)器就能部署本地化的DeepSeek。這種成本優(yōu)勢讓中國數(shù)百萬中小企業(yè)迅速用上頂尖AI技術(shù),形成“全民AI”的產(chǎn)業(yè)基礎(chǔ)。

盡管DeepSeek快速發(fā)展,但幻覺問題依然存在。周鴻祎認(rèn)為,幻覺是大模型具備真智能的體現(xiàn),也是走向AGI的基礎(chǔ)。它讓大模型體現(xiàn)出更多的創(chuàng)造性和想象力,未來能夠在科研領(lǐng)域發(fā)揮重要作用。但在醫(yī)療、金融等對準(zhǔn)確性要求極高的行業(yè),幻覺確實會帶來嚴(yán)重問題?,F(xiàn)階段,人們已經(jīng)探索出多種方案來糾正幻覺,如多個大模型交叉驗證、搜索矯正以及企業(yè)知識庫比對等。

周鴻祎提出,在大模型產(chǎn)業(yè)高速發(fā)展的過程中,不發(fā)展是最大的不安全,不能因噎廢食。AI安全問題可以分為四個層面:基座模型安全、用戶端安全、知識庫安全和智能體安全。他建議用專門的“安全大模型”來管理這些安全問題。

DeepSeek的一個重要價值是讓中國AI產(chǎn)業(yè)重新找到自己的定位。過去一窩蜂地搞“百模大戰(zhàn)”,實際上是在重復(fù)造輪子。而DeepSeek的出現(xiàn),讓許多大模型廠商意識到,既然DeepSeek基座模型做得好,那就讓它做AGI,自己則轉(zhuǎn)向模型應(yīng)用。許多擁有自研大模型的互聯(lián)網(wǎng)廠商都開始接入DeepSeek,標(biāo)志著大模型分工時代的到來。

周鴻祎表示,DeepSeek最利好的肯定是大模型應(yīng)用生態(tài)。過去許多創(chuàng)業(yè)者或小公司因資源有限,難以自建模型。開源模型性能不足,高性能模型又價格昂貴,導(dǎo)致許多企業(yè)遲遲不敢應(yīng)用大模型。但DeepSeek解決了這些困擾,因此今年會有大量AI應(yīng)用出現(xiàn)。對于擁有足夠算力的頭部廠商,他們肯定會繼續(xù)研發(fā)AGI。

周鴻祎建議企業(yè)首先要找好場景,然后結(jié)合知識庫形成專業(yè)大模型,接著基于專業(yè)大模型打造智能體,最后將智能體接入企業(yè)工作流程。找場景是最關(guān)鍵的第一步。大模型應(yīng)用應(yīng)走垂直化道路,企業(yè)需在特定場景中明確大模型能解決的具體問題,這樣才能真正做好大模型應(yīng)用。

(責(zé)任編輯:張蕾)
關(guān)閉

男子早樓上看狗從窩里出來透氣,出來沒有半分鐘就被凍回去

狗子出窩透氣不到半分鐘被凍回去2025-04-01 10:40:12

吃出多條蠕動的活蟲!網(wǎng)友:頭皮發(fā)麻 山姆蓮霧事件引熱議

吃出多條蠕動的活蟲,網(wǎng)友,頭皮發(fā)麻2025-04-01 10:39:54

海關(guān)查獲130塊走私手表!綁膠帶上演“人體貨架”

海關(guān)查獲130塊走私手表2025-04-01 10:38:58

明晚油價大漲!今日油價!抓緊時間加油

明晚油價大漲,今日油價2025-04-01 10:33:24

有觀點稱中方正在對外資展開魅力攻勢 外交部回應(yīng)

有觀點稱中方正在對外資展開魅力攻勢 外交部回應(yīng)2025-04-01 10:32:07

特朗普對普京非常憤怒有何意味 可能征收二級關(guān)稅

特朗普對普京非常憤怒有何意味2025-04-01 10:25:14

四川雅安發(fā)生4.6級地震?謠言 網(wǎng)絡(luò)謠言被舉報

四川雅安發(fā)生4,6級地震,謠言2025-04-01 10:28:46

黃金漲至新紀(jì)錄高位 高攀不起了

黃金漲至新紀(jì)錄高位2025-04-01 10:38:17

特朗普對俄發(fā)出制裁威脅有何影響 全球市場震動不安

特朗普對俄發(fā)出制裁威脅有何影響2025-04-01 10:25:31

美方不許中方阻止港口交易影響幾何 地緣政治博弈升級

美方不許中方阻止港口交易影響幾何2025-04-01 10:27:45

臺媒稱7艘解放軍艦艇在臺海周邊活動 持續(xù)戰(zhàn)備警巡

臺媒稱7艘解放軍艦艇在臺海周邊活動2025-04-01 10:32:29

中國海油重大發(fā)現(xiàn):南海東部驚現(xiàn)億噸級油田,助力能源安全

中國海油重大發(fā)現(xiàn),南海東部驚現(xiàn)億噸級油田2025-04-01 10:23:21

東部戰(zhàn)區(qū)發(fā)布動漫《殼》 借殼毒臺警示錄

東部戰(zhàn)區(qū)發(fā)布動漫殼2025-04-01 10:38:41

評論員談“攝像頭”新規(guī)施行 平衡安全與隱私權(quán)

評論員談攝像頭新規(guī)施行2025-04-01 10:30:47

曼城官宣哈蘭德傷情 預(yù)計賽季末復(fù)出

曼城官宣哈蘭德傷情2025-04-01 10:33:05

胖東來與盒馬奔赴不同的戰(zhàn)場 各自征戰(zhàn)新領(lǐng)域

胖東來與盒馬奔赴不同的戰(zhàn)場2025-04-01 10:27:14

海關(guān)查獲130塊走私手表!綁膠帶上演“人體貨架”

海關(guān)查獲130塊走私手表2025-04-01 10:38:58

臺軍事專家北京旅行歸來后感嘆萬千:大陸最美的風(fēng)景是人

臺軍事專家北京旅行歸來后感嘆萬千:大陸最美的風(fēng)景是人2025-04-01 10:30:17

男子早樓上看狗從窩里出來透氣,出來沒有半分鐘就被凍回去

狗子出窩透氣不到半分鐘被凍回去2025-04-01 10:40:12

7艘解放軍艦艇在臺海周邊活動 持續(xù)戰(zhàn)備警巡

7艘解放軍艦艇在臺海周邊活動2025-04-01 10:29:39

消防回應(yīng)廣東一工廠突發(fā)火災(zāi):全力控制處置中,無人員傷亡

消防回應(yīng)廣東一工廠突發(fā)火災(zāi)2025-04-01 10:35:17

毛不易參加聚餐一味炫飯不說話

毛不易聚餐 一味炫飯不說話2025-04-01 10:28:20

俄戰(zhàn)機(jī)投3噸級炸彈轟炸烏軍 無掩護(hù)的士兵基本無法存活

俄戰(zhàn)機(jī)投3噸級炸彈轟炸烏軍2025-04-01 10:33:40

吃出多條蠕動的活蟲!網(wǎng)友:頭皮發(fā)麻 山姆蓮霧事件引熱議

吃出多條蠕動的活蟲,網(wǎng)友,頭皮發(fā)麻2025-04-01 10:39:54

遼寧艦山東艦福建艦呼叫81192返航 國已強(qiáng),請返航!

遼寧艦山東艦福建艦呼叫81192返航2025-04-01 10:24:55

短發(fā)凡真的好颯,有霸總那味兒了

短發(fā)張藝凡好颯2025-04-01 10:34:31

涉家門口裝攝像頭 新規(guī)施行 規(guī)范安裝保護(hù)隱私

涉家門口裝攝像頭新規(guī)施行2025-04-01 10:34:55

全球股市大跳水 黃金大漲再創(chuàng)新高 特朗普關(guān)稅令引發(fā)市場動蕩

全球股市大跳水黃金大漲再創(chuàng)新高2025-04-01 10:30:37

特朗普成“大空頭”:美國“對等關(guān)稅”來襲,納指30個交易日已跌3000點 全球股市受挫

特朗普成大空頭,美國對等關(guān)稅來襲,納指30個交易日已跌3000點2025-04-01 10:22:50

緬甸地震的危害究竟有多大 次生災(zāi)害更令人擔(dān)憂

緬甸地震的危害究竟有多大2025-04-01 10:32:51

相關(guān)新聞