周鴻祎談DeepSeek時(shí)代的AI安全難題新挑戰(zhàn)需新解法(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 20:32:47 21世紀(jì)經(jīng)濟(jì)報(bào)道

盡管DeepSeek快速發(fā)展，但幻覺問題依然存在。周鴻祎認(rèn)為，幻覺是大模型具備真智能的體現(xiàn)，也是走向AGI的基礎(chǔ)。它讓大模型體現(xiàn)出更多的創(chuàng)造性和想象力，未來能夠在科研領(lǐng)域發(fā)揮重要作用。但在醫(yī)療、金融等對準(zhǔn)確性要求極高的行業(yè)，幻覺確實(shí)會帶來嚴(yán)重問題?，F(xiàn)階段，人們已經(jīng)探索出多種方案來糾正幻覺，如多個(gè)大模型交叉驗(yàn)證、搜索矯正以及企業(yè)知識庫比對等。

周鴻祎提出，在大模型產(chǎn)業(yè)高速發(fā)展的過程中，不發(fā)展是最大的不安全，不能因噎廢食。AI安全問題可以分為四個(gè)層面：基座模型安全、用戶端安全、知識庫安全和智能體安全。他建議用專門的“安全大模型”來管理這些安全問題。

DeepSeek的一個(gè)重要價(jià)值是讓中國AI產(chǎn)業(yè)重新找到自己的定位。過去一窩蜂地搞“百模大戰(zhàn)”，實(shí)際上是在重復(fù)造輪子。而DeepSeek的出現(xiàn)，讓許多大模型廠商意識到，既然DeepSeek基座模型做得好，那就讓它做AGI，自己則轉(zhuǎn)向模型應(yīng)用。許多擁有自研大模型的互聯(lián)網(wǎng)廠商都開始接入DeepSeek，標(biāo)志著大模型分工時(shí)代的到來。

周鴻祎表示，DeepSeek最利好的肯定是大模型應(yīng)用生態(tài)。過去許多創(chuàng)業(yè)者或小公司因資源有限，難以自建模型。開源模型性能不足，高性能模型又價(jià)格昂貴，導(dǎo)致許多企業(yè)遲遲不敢應(yīng)用大模型。但DeepSeek解決了這些困擾，因此今年會有大量AI應(yīng)用出現(xiàn)。對于擁有足夠算力的頭部廠商，他們肯定會繼續(xù)研發(fā)AGI。

周鴻祎建議企業(yè)首先要找好場景，然后結(jié)合知識庫形成專業(yè)大模型，接著基于專業(yè)大模型打造智能體，最后將智能體接入企業(yè)工作流程。找場景是最關(guān)鍵的第一步。大模型應(yīng)用應(yīng)走垂直化道路，企業(yè)需在特定場景中明確大模型能解決的具體問題，這樣才能真正做好大模型應(yīng)用。

首頁上一頁 12共 2 頁

(責(zé)任編輯：張蕾)

關(guān)閉

周鴻祎談DeepSeek時(shí)代的AI安全難題 新挑戰(zhàn)需新解法(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

周鴻祎談DeepSeek時(shí)代的AI安全難題新挑戰(zhàn)需新解法(2)