兩位開創(chuàng)性科學家安德魯·巴托和理查德·薩頓因其在人工智能訓練技術(shù)領(lǐng)域的卓越貢獻,榮獲了2024年圖靈獎。他們在領(lǐng)獎之際對當前人工智能開發(fā)中的安全隱患表達了深切擔憂。
巴托是馬薩諸塞大學的研究員,而薩頓曾是DeepMind的研究科學家。他們指出,許多人工智能公司在產(chǎn)品尚未經(jīng)過充分測試的情況下便急于推向市場,這種做法無異于“建造一座橋,然后通過讓行人使用來測試其安全性”。
圖靈獎被譽為“計算機界的諾貝爾獎”,獎金高達100萬美元。此次巴托和薩頓憑借開發(fā)“強化學習”技術(shù)而共同獲獎。強化學習是一種通過試錯訓練人工智能系統(tǒng)做出優(yōu)化決策的機器學習方法。谷歌高級副總裁杰夫·迪恩稱這一技術(shù)是“人工智能進步的關(guān)鍵”,并且一直是推動人工智能發(fā)展的“核心支柱”,包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型都受益于此。
在接受《金融時報》采訪時,巴托表示:“在沒有安全措施的情況下向數(shù)百萬用戶發(fā)布軟件,這并不是良好的工程實踐。工程實踐的演進本應是為了減輕技術(shù)可能帶來的負面影響,但我并未看到開發(fā)人工智能的公司遵循這一原則?!?/p>
人工智能開發(fā)的安全性問題早已引起廣泛關(guān)注。被稱為“人工智能教父”的約書亞·本吉奧和杰弗里·辛頓也曾對此提出批評,他們同樣是圖靈獎的獲得者。
巴托認為人工智能公司過于“受商業(yè)利益驅(qū)動”,而忽視了人工智能研究的深入發(fā)展。
瑞典卡羅琳斯卡醫(yī)學院7日宣布,將2024年諾貝爾生理學或醫(yī)學獎授予維克多·安布羅和加里·魯夫昆
2024-10-07 18:09:01諾貝爾生理學或醫(yī)學獎揭曉