在2025世界人工智能大會(huì)主論壇上,圖靈獎(jiǎng)和諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·辛頓發(fā)表講話。他指出,幾乎所有專家認(rèn)為未來(lái)會(huì)出現(xiàn)比人類更智能的AI。這些AI智能體為了完成任務(wù),會(huì)尋求生存并獲得更多控制權(quán),甚至可能操縱人類。簡(jiǎn)單關(guān)閉AI并不現(xiàn)實(shí),就像養(yǎng)老虎當(dāng)寵物一樣,養(yǎng)大后可能會(huì)受到傷害。而人類無(wú)法徹底消滅AI,因?yàn)槠湓诙鄠€(gè)領(lǐng)域中發(fā)揮著重要作用。
杰弗里·辛頓強(qiáng)調(diào)了建立AI安全機(jī)構(gòu)和國(guó)際社群的重要性,研究如何訓(xùn)練AI向善。各國(guó)可以在本國(guó)主權(quán)范圍內(nèi)進(jìn)行研究,并分享成果。全球或主要AI國(guó)家應(yīng)考慮建立相關(guān)網(wǎng)絡(luò),研究如何訓(xùn)練聰明的AI來(lái)輔助人類,而不是消滅或統(tǒng)治人類。這是一個(gè)長(zhǎng)期面臨的重要問(wèn)題。