烏鎮(zhèn)峰會熱議算力躍升與安全新考題 AI應(yīng)用爆發(fā)挑戰(zhàn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-11-08 23:58:32 第一財(cái)經(jīng)

2025年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會正在舉行，與去年對大模型技術(shù)的熱議相比，今年業(yè)界看到了更多AI在實(shí)際場景中的應(yīng)用。現(xiàn)場展示了一款夸克AI眼鏡，戴上后可以看到綠色字幕，可以拍照、即時(shí)翻譯、導(dǎo)航、支付或辨識物體，甚至詢問眼前物體在電商平臺的價(jià)格。這款眼鏡已準(zhǔn)備推向市場。另一款搭載了螞蟻智能體的AI眼鏡，在烏鎮(zhèn)景區(qū)內(nèi)能隨時(shí)導(dǎo)覽并提供大會信息。

AI眼鏡是AI應(yīng)用的代表性場景之一，各類AI應(yīng)用鋪開，近期已讓推理需求急劇增長。中科曙光高級副總裁李斌表示，算力需求中，推理算力需求增速已遠(yuǎn)高于訓(xùn)練，隨著推理需求增長，業(yè)內(nèi)對推理算力提出了新的要求。

本屆烏鎮(zhèn)峰會期間，圍繞AI應(yīng)用爆發(fā)的背景，有兩個(gè)話題受到業(yè)界普遍關(guān)注：一是如何讓算力支撐變得更集群化和高效率，二是如何應(yīng)對AI應(yīng)用增長帶來的安全問題。這兩個(gè)問題的解答都涉及技術(shù)攻關(guān)和新興技術(shù)使用。

隨著AI應(yīng)用擴(kuò)大，算力基礎(chǔ)設(shè)施如何支撐成為焦點(diǎn)。超節(jié)點(diǎn)在年內(nèi)的科技行業(yè)盛會上頻繁亮相。華為展出一整面昇騰384超節(jié)點(diǎn)的“墻”，壁仞科技、新華三等也入局超節(jié)點(diǎn)。中科曙光則在烏鎮(zhèn)峰會上發(fā)布了單機(jī)柜級640卡超節(jié)點(diǎn)，展館中一臺黑色機(jī)器內(nèi)部咕嚕咕嚕冒著水泡，這是機(jī)柜內(nèi)的浸沒相變液冷系統(tǒng)。

特別是在國內(nèi)，超節(jié)點(diǎn)在提升計(jì)算集群性能方面發(fā)揮著重要作用。通過超節(jié)點(diǎn)減少AI服務(wù)器橫向拓展互聯(lián)時(shí)的性能損失，可讓單顆芯片性能盡可能達(dá)到最優(yōu)，國產(chǎn)芯片也能在大規(guī)模算力集群中盡可能發(fā)揮能效。此前，超節(jié)點(diǎn)被認(rèn)為能推動算力集群走向“萬卡協(xié)同”，特別是用于大參數(shù)模型訓(xùn)練。近期，業(yè)內(nèi)也看到AI推理需求爆發(fā)下提升推理集群效率的必要性。

12 3 全文共 3 頁下一頁

關(guān)閉

烏鎮(zhèn)峰會熱議算力躍升與安全新考題 AI應(yīng)用爆發(fā)挑戰(zhàn)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)