專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-07-04 16:02:55 文匯

專家：探索人工智能45°平衡律

7月4日，2024世界人工智能大會(huì)與人工智能全球治理高級別會(huì)議在上海拉開帷幕。會(huì)上，上海人工智能實(shí)驗(yàn)室的主任及首席科學(xué)家周伯文教授發(fā)表了重要演講，他同時(shí)也是清華大學(xué)惠妍講席教授及銜遠(yuǎn)科技的創(chuàng)始人。周教授在演講中提出了一個(gè)新穎的技術(shù)理念——探索人工智能45°平衡律（Towards AI-45°Law），旨在強(qiáng)調(diào)AI安全的重要性，同時(shí)確保技術(shù)性能的持續(xù)發(fā)展。專家：探索人工智能45°平衡律！

周伯文指出，盡管基于大模型的生成式AI正迅速進(jìn)步，但其能力和應(yīng)用的拓展也引發(fā)了對潛在風(fēng)險(xiǎn)的關(guān)注。這些風(fēng)險(xiǎn)涵蓋了數(shù)據(jù)隱私泄露、惡意使用導(dǎo)致的虛假信息傳播、算法偏見，乃至對就業(yè)市場和社會(huì)系統(tǒng)的長遠(yuǎn)影響。在科幻影視作品中，AI失控的情景更是屢見不鮮，加劇了公眾的憂慮。

他強(qiáng)調(diào)，防范AI風(fēng)險(xiǎn)需社會(huì)各界通力合作，科研界尤應(yīng)承擔(dān)起責(zé)任。去年，眾多國際AI專家與公眾人物聯(lián)名簽署《Statement of AI Risk》，表達(dá)了對AI潛在威脅的警惕，并提議將其防控上升至全球優(yōu)先級。

周教授分析稱，當(dāng)前AI發(fā)展失衡，性能提升顯著，而安全措施卻相對滯后且分散，形成“跛腳”狀態(tài)。他將此形容為Crippled AI，背后的原因在于安全領(lǐng)域相較于AI能力的發(fā)展，在研究體系、人才、資金和算力投入上均有顯著差距。

因此，他提倡追求Trustworthy AGI（可信的通用人工智能），主張?jiān)诒Ｕ习踩那疤嵯麓龠M(jìn)性能提升，即AI-45°平衡律。這一理念鼓勵(lì)在AI發(fā)展中采取技術(shù)驅(qū)動(dòng)、全面優(yōu)化、多方協(xié)作及靈活管理的策略，確保安全與性能的長期均衡發(fā)展。

上海人工智能實(shí)驗(yàn)室正在探索一條以因果關(guān)系為核心的技術(shù)路徑——“因果之梯”，旨在分階段實(shí)現(xiàn)可信AGI的泛對齊、可干預(yù)和能反思，每一階段都對應(yīng)著不同的安全技術(shù)與性能提升策略，旨在逐步邁向安全與高效并重的AI未來。

周教授展望，通過深入探索AI的內(nèi)在機(jī)理和因果邏輯，AI技術(shù)有望如可控核聚變般，為人類社會(huì)帶來正面且深遠(yuǎn)的影響。他呼吁全球合作，加強(qiáng)AI安全技術(shù)共享、人才培養(yǎng)與國際合作，共同塑造一個(gè)開放且安全的AI生態(tài)環(huán)境。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)