王利華建議,出臺(tái)專門針對AI生成虛假信息的司法解釋,盡快明確AI“黃謠”的定義、制作、傳播、平臺(tái)的責(zé)任劃分,提高罰款金額、刑期等處罰標(biāo)準(zhǔn)。強(qiáng)化技術(shù)監(jiān)管能力,由政府牽頭建立“AI黃謠監(jiān)測預(yù)警平臺(tái)”,整合各平臺(tái)數(shù)據(jù),對全網(wǎng)AI“黃謠”內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測、溯源和攔截;同時(shí),鼓勵(lì)企業(yè)研發(fā)AI內(nèi)容識(shí)別技術(shù),提升“黃謠”檢測準(zhǔn)確率。要求互聯(lián)網(wǎng)平臺(tái)、AI技術(shù)企業(yè)簽訂《AI內(nèi)容治理承諾書》,建立“黑名單”制度,對多次制作、傳播AI“黃謠”的賬號(hào)、企業(yè)進(jìn)行跨平臺(tái)聯(lián)合懲戒。
吉冠浩提出,針對工具源頭可設(shè)置下列防控方法:首先在硬件上,顯卡廠商應(yīng)植入“倫理協(xié)議芯片”,進(jìn)行二手顯卡交易時(shí)需驗(yàn)證其用戶的真實(shí)身份,并承諾禁止用于生成違法內(nèi)容。其次在軟件上,向開源模型注入“倫理污染數(shù)據(jù)”,針對“脫衣”“換臉”等關(guān)鍵詞,植入干擾標(biāo)簽,使模型輸出失真。最后在平臺(tái)上,建立“AI生成內(nèi)容防火墻”,網(wǎng)絡(luò)平臺(tái)應(yīng)部署多模態(tài)檢測引擎,結(jié)合生成痕跡與語義分析,實(shí)現(xiàn)精準(zhǔn)攔截。
“可以設(shè)立‘AI黃謠維權(quán)援助中心’,為受害者提供免費(fèi)的法律咨詢、證據(jù)存證、司法協(xié)助等服務(wù)。同時(shí)通過媒體宣傳普及維權(quán)流程,鼓勵(lì)受害者主動(dòng)報(bào)案、發(fā)聲,減少‘沉默效應(yīng)’?!蓖趵A說。
周鴻祎最近多次提到AI安全的核心命題——“用魔法打敗魔法”,這一思路值得科技界深入思考。他認(rèn)為,AI面臨的主要隱患包括杜撰信息、易被誘導(dǎo)、工具屬性不分善惡以及AIGC以假亂真
2025-03-14 16:19:09用魔法打敗魔法用AI識(shí)別AI9月22日,AI市場再次傳出重磅消息。英偉達(dá)和OpenAI宣布簽署意向書,建立戰(zhàn)略合作伙伴關(guān)系
2025-09-26 08:47:24英偉達(dá)不想長期只賣芯片