Deepseek的做法是將大神經(jīng)網(wǎng)絡(luò)的知識(shí)轉(zhuǎn)移到小神經(jīng)網(wǎng)絡(luò)中,即“蒸餾”,類似教師與學(xué)生的關(guān)系。但這種方式效率很低,一句話通常只有100個(gè)比特的信息,即便全被理解,每秒最多也只能傳遞約100個(gè)比特。而數(shù)字智能間的知識(shí)轉(zhuǎn)移效率極高,同一神經(jīng)網(wǎng)絡(luò)軟件的多個(gè)拷貝在不同硬件上運(yùn)行時(shí),能通過平均化比特的方式分享知識(shí)。如果智能體在現(xiàn)實(shí)世界中運(yùn)行,這種優(yōu)勢(shì)更明顯——它們能不斷加速、拷貝,多個(gè)智能體比單個(gè)智能體學(xué)得更多,還能分享權(quán)重,這是模擬硬件或軟件做不到的。
生物計(jì)算功耗低,但知識(shí)分享難。如果能源和計(jì)算成本低廉,情況會(huì)好很多,但也令人擔(dān)憂——幾乎所有專家都認(rèn)為,我們會(huì)創(chuàng)造出比人類更智能的AI。人類習(xí)慣了作為最智能的生物,很難想象AI超越人類的場(chǎng)景。其實(shí)可以換個(gè)角度:就像養(yǎng)雞場(chǎng)的雞無法理解人類一樣,我們創(chuàng)造的AI智能體已能幫我們完成任務(wù),它們能拷貝自身、評(píng)估子目標(biāo),還會(huì)為了生存和完成目標(biāo)而尋求更多控制權(quán)。
辛頓表示,面對(duì)AI,我們只有兩個(gè)選擇:要么訓(xùn)練它永遠(yuǎn)不傷害人類,要么“消滅”它。但AI在醫(yī)療、教育、氣候變化、新材料等領(lǐng)域作用巨大,能提升所有行業(yè)的效率,我們無法消除它——即便一個(gè)國家放棄AI,其他國家也不會(huì)。因此,若想讓人類生存,必須找到訓(xùn)練AI不傷害人類的方法。他提議,全球主要國家或AI大國應(yīng)建立一個(gè)由AI安全機(jī)構(gòu)組成的國際社群,研究如何訓(xùn)練高智能AI向善。各國可在自身主權(quán)范圍內(nèi)研究,再分享成果。
在成都天府三街的一間辦公室里,28歲的程序員楊平正對(duì)著電腦屏幕聚精會(huì)神地調(diào)試AI音樂生成工具
2025-04-16 17:32:43小伙用AI模仿周杰倫寫出爆款歌曲周鴻祎最近多次提到AI安全的核心命題——“用魔法打敗魔法”,這一思路值得科技界深入思考。他認(rèn)為,AI面臨的主要隱患包括杜撰信息、易被誘導(dǎo)、工具屬性不分善惡以及AIGC以假亂真
2025-03-14 16:19:09用魔法打敗魔法用AI識(shí)別AI