在2025世界人工智能大會主論壇上,圖靈獎(jiǎng)和諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·辛頓發(fā)表講話。他指出,幾乎所有專家認(rèn)為未來會出現(xiàn)比人類更智能的AI。這些AI智能體為了完成任務(wù),會尋求生存并獲得更多控制權(quán),甚至可能操縱人類。簡單關(guān)閉AI并不現(xiàn)實(shí),就像養(yǎng)老虎當(dāng)寵物一樣,養(yǎng)大后可能會受到傷害。而人類無法徹底消滅AI,因?yàn)槠湓诙鄠€(gè)領(lǐng)域中發(fā)揮著重要作用。
杰弗里·辛頓強(qiáng)調(diào)了建立AI安全機(jī)構(gòu)和國際社群的重要性,研究如何訓(xùn)練AI向善。各國可以在本國主權(quán)范圍內(nèi)進(jìn)行研究,并分享成果。全球或主要AI國家應(yīng)考慮建立相關(guān)網(wǎng)絡(luò),研究如何訓(xùn)練聰明的AI來輔助人類,而不是消滅或統(tǒng)治人類。這是一個(gè)長期面臨的重要問題。