OpenAI AGI安全團隊已流失近半成員 AI安全性警鐘敲響
OpenAI AGI安全團隊已流失近半成員
8月30日，有報道稱OpenAI在追求人工智能技術(shù)發(fā)展以惠及全球的同時，正面臨一個不容忽視的問題：大約一半專注于超級智能AI長期風(fēng)險研究的專家已從該公司離職。這一情況引發(fā)了外界對OpenAI可能輕視AI安全性問題的關(guān)注。
據(jù)前治理研究員Daniel Kokotajlo透露，近期OpenAI內(nèi)部負(fù)責(zé)AGI（通用人工智能）安全的團隊成員流失近半。這些研究人員的職責(zé)是確保未來誕生的AGI系統(tǒng)不會對人類生存構(gòu)成潛在危險。伴隨OpenAI業(yè)務(wù)重心向產(chǎn)品開發(fā)與商業(yè)化傾斜，安全研究團隊規(guī)模的縮減令人擔(dān)憂。
Kokotajlo指出，自2024年起，該安全團隊的成員數(shù)已從約30人縮減至16人左右，他相信這一變化源于個人層面的信心缺失而非有組織的行動。
針對上述擔(dān)憂，OpenAI官方發(fā)言人強調(diào)，公司致力于提供高效且安全的人工智能解決方案，并自信具備科學(xué)應(yīng)對相關(guān)風(fēng)險的能力。
另外，值得注意的是，OpenAI的聯(lián)合創(chuàng)始人及首席科學(xué)家Ilya Sutskever今年早些時候宣布離職，其領(lǐng)導(dǎo)的專注于安全挑戰(zhàn)的“超級對齊”團隊也隨之解散，進一步加劇了外界對于OpenAI內(nèi)部安全研究方向變動的猜測。
警方通報租車公司惡意劃車訛人 部分嫌疑人已到案
漫步北京胡同感受城市煙火氣 老舍筆下的秋日童話
長沙首套房商業(yè)貸款利率降至3.15% 最低首付比統(tǒng)一15%
赴黎維和多功能工兵分隊堅守戰(zhàn)位 衛(wèi)和平于硝煙彌漫間
中國海軍“破浪”號風(fēng)帆訓(xùn)練艦訪問斯里蘭卡，印媒破防了？
黎真主黨警告以色列：若繼續(xù)襲擊黎巴嫩，將加強對以打擊
日本梅毒病例激增 東京市政府出手 色情行業(yè)成監(jiān)管重點
以防長稱對伊朗的打擊將會“致命、精確且出人意料”
NASA證實國際空間站存在空氣泄漏 緊急撤離計劃啟動
第一批炒股賺錢的人，已經(jīng)開始買黃金和古玩了 股市盈余激活高端消費
上證指數(shù)收漲1.32%，中字頭板塊引領(lǐng)漲勢
拳壇新聞5則！4則有關(guān)貝特比耶夫VS比沃爾，山雨欲來風(fēng)滿樓 輕重量級巔峰對決
警方通報租車公司惡意劃車訛人 部分嫌疑人已到案
美媒：內(nèi)塔尼亞胡“最后一刻”否決以防長訪美行程，再次表明“雙方關(guān)系緊張”
朝鮮切斷朝韓公路及鐵路連接，韓軍方首度回應(yīng)
漫步北京胡同感受城市煙火氣 老舍筆下的秋日童話
心疼！孫穎莎蹲坐角落，身體逼近極限，邱貽可無奈卻身不由己 國乒19年來首丟冠
被爆與伊朗“秘密談判”以達(dá)成地區(qū)?；饏f(xié)議，美方否認(rèn)
以色列已作出關(guān)鍵決定
伊朗外長敏感時刻訪問沙特，將討論地區(qū)問題并制止以色列“罪行”
拜登退出“四方會晤”，澤連斯基“勝利計劃”峰會生變？
美軍工復(fù)合體如何在菲操弄對華認(rèn)知？
12306回應(yīng)男子爬上火車頂部 事件正調(diào)查處理中
美國一市長發(fā)颶風(fēng)警告：留下是等死——史上最強颶風(fēng)逼近佛州
法防長：援烏“幻影2000”明年初交付
英軍情五處負(fù)責(zé)人稱俄伊威脅日增，但中國“不一樣”
拉塞爾：詹姆斯和濃眉都打了奧運 能理解長途旅行給其帶來的負(fù)擔(dān) ——賽季伊始，湖人眾將心態(tài)各異
美媒：美官員透露，近幾周拜登政府愈加不信任以方涉軍事和外交計劃言論
百年最強颶風(fēng)"成美國大選博弈場：政治游戲升級
長沙首套房商業(yè)貸款利率降至3.15% 最低首付比統(tǒng)一15%
飯圈滲透難根治，調(diào)整期的國乒更需要“粉絲自覺” 理性支持成關(guān)鍵
定了？美以領(lǐng)導(dǎo)人討論對伊報復(fù)計劃
以總理提議將以軍“鐵劍”行動改名為“復(fù)興戰(zhàn)爭”
再見大師，再見伊涅斯塔！足壇傳奇謝幕
以色列持續(xù)擴大攻勢令多方憂慮，內(nèi)塔尼亞胡放話：將像摧毀加沙一樣摧毀黎巴嫩
相關(guān)新聞
OpenAI聯(lián)合創(chuàng)始人中的兩人將辭職 團隊核心流失加劇
2024-08-06 13:37:49OpenAI聯(lián)合創(chuàng)始人中的兩人將辭職OpenAI五級AGI戰(zhàn)略遭吐槽 分級標(biāo)準(zhǔn)引爭議
OpenAI最近公布了一項關(guān)于通往人工通用智能(AGI)的五級路線圖，這一舉措被視為人工智能領(lǐng)域的一個重要進展。
2024-07-25 17:49:21OpenAI五級AGI戰(zhàn)略遭吐槽OpenAI被曝解散超級智能對齊團隊 宮斗劇揭示安全與商業(yè)化的抉擇
2024-05-19 13:24:29OpenAI被曝解散超級智能對齊團隊馬斯克“炮轟”蘋果與OpenAI的合作 安全警報響起
2024-06-13 07:22:10馬斯克“炮轟”蘋果與OpenAI的合作OpenAI面臨多個挑戰(zhàn) 人才流失與安全爭議加劇
2024-08-19 11:34:54OpenAI面臨多個挑戰(zhàn)OpenAI連丟3高管，光桿司令奧特曼緊急扶持華人上位，半年流失15員大將
OpenAI近期經(jīng)歷了高層的重大變動，一天之內(nèi)三位高管宣布離職。CTO Mira的離職公告后，緊接著是研究主管Bob McGrew和研究副總裁Barret Zoph也將離開公司
2024-09-27 22:38:02光桿司令奧特曼緊急扶持華人上位
