隨著DeepSeek的爆火,個人用戶部署AI大模型迅速走紅。例如,“80塊打造個人語音助手”、“150塊DIY豆包智能機器人”等低成本方案吸引了眾多關(guān)注??萍冀鐕@AI降本的努力已持續(xù)多時。DeepSeek在算法層面的優(yōu)化降低了推理成本,為國產(chǎn)算力芯片和計算集群網(wǎng)絡(luò)的發(fā)展爭取了更多空間。軟硬件成本的減少也促進了國內(nèi)AI應(yīng)用的發(fā)展,形成了正向循環(huán)。
越來越多的個人開發(fā)者嘗試低成本AI模型部署,使公眾意識到AI普惠時代已經(jīng)到來,端側(cè)AI落地迫在眉睫。PC產(chǎn)品被認為是端側(cè)AI模型落地的第一站。供應(yīng)鏈人士認為,更大的潛力在于智能眼鏡、AI玩具等應(yīng)用中。DeepSeek帶來的輕量化模型將對智能終端行業(yè)產(chǎn)生積極影響。
“80塊買一塊開發(fā)板,按照教程進行硬件連接和固件燒錄,就能接入DeepSeek等大模型,打造個人語音助手系統(tǒng)?!奔夹g(shù)社群中有開發(fā)者分享了這樣的實踐。此外,花150元還能自行搭建一個豆包智能機器人,358元則能搭建具備手勢識別和觸摸交互功能的機器人。這些方案大多基于樂鑫科技的ESP系列芯片。淘寶上搜索ESP32關(guān)鍵詞,可以找到多個商家售賣開發(fā)板或套件,價格從20元到340元不等。一套80元的聊天機器人ESP32-S3開發(fā)套件全網(wǎng)銷量已超1000件,而40元的ESP32-S3開發(fā)板月售超過1萬件。消費者以個人開發(fā)者為主,購買商品后,商家會提供教學(xué)視頻和技術(shù)支持。
樂鑫科技的ESP32-S3芯片支持高性能圖像識別、語音喚醒和識別等應(yīng)用。開發(fā)者稱,該芯片可在本地離線運行一些AI模型,如語音識別、人臉識別和移動檢測,但大部分自然語言對話仍需線上接入大語言模型。恒玄科技、中科藍訊、炬芯科技等公司的SoC芯片也在終端AI部署中有所應(yīng)用。例如,恒玄科技的BECO嵌入式AI協(xié)處理器與主CPU核心配合工作,完成基于神經(jīng)網(wǎng)絡(luò)AI算法的音頻處理,保持低功耗。炬芯科技在其最新一代產(chǎn)品中整合了低功耗AI加速引擎,采用基于SRAM的存內(nèi)計算技術(shù),并逐步升級為CPU、DSP加NPU的三核異構(gòu)計算架構(gòu),打造低功耗端側(cè)AI算力。