全國(guó)人大代表、天能控股集團(tuán)董事長(zhǎng)張?zhí)烊蜗蚴膶萌珖?guó)人大三次會(huì)議提交議案，建議制定“人工智能管理法”。他認(rèn)為，人工智能在帶來(lái)巨大機(jī)遇的同時(shí)，也可能引發(fā)一系列社會(huì)經(jīng)濟(jì)和道德倫理問(wèn)題。啟動(dòng)立法研究、制定專門的綜合性法律勢(shì)在必行。

AI技術(shù)正呈現(xiàn)爆發(fā)式增長(zhǎng)態(tài)勢(shì)，應(yīng)用場(chǎng)景不斷拓展，但也出現(xiàn)了錯(cuò)綜復(fù)雜的問(wèn)題。部分企業(yè)利用AI技術(shù)進(jìn)行虛假宣傳或夸大宣傳；AI系統(tǒng)高度依賴海量數(shù)據(jù)，在數(shù)據(jù)收集、存儲(chǔ)和使用過(guò)程中，隱私泄露的風(fēng)險(xiǎn)很高。算法歧視可能損害社會(huì)公平，在招聘、貸款審批、司法量刑等決策環(huán)節(jié)，基于有偏差數(shù)據(jù)訓(xùn)練的算法可能對(duì)特定群體造成不公平。當(dāng)人工智能系統(tǒng)引發(fā)事故、造成損害時(shí)，責(zé)任界定的模糊性可能使受害者難以尋求有效救濟(jì)。

我國(guó)已出臺(tái)一些法律法規(guī)和政策文件，如《生成式人工智能服務(wù)管理暫行辦法》，但這些規(guī)定較為零散，無(wú)法涵蓋AI領(lǐng)域各類問(wèn)題和應(yīng)用場(chǎng)景。張?zhí)烊谓ㄗh，“人工智能管理法”應(yīng)以提高新質(zhì)生產(chǎn)力、建設(shè)數(shù)字中國(guó)為目標(biāo)，統(tǒng)籌規(guī)范與促進(jìn)、保護(hù)與創(chuàng)新、發(fā)展與安全、當(dāng)下與長(zhǎng)遠(yuǎn)、國(guó)際合作與競(jìng)爭(zhēng)。內(nèi)容包括總則、研發(fā)管理、產(chǎn)品與服務(wù)管理、應(yīng)用管理、責(zé)任劃分與保險(xiǎn)制度、保障和監(jiān)督、國(guó)際合作與資源共享、法律責(zé)任等。

他強(qiáng)調(diào)要建立科技倫理規(guī)范體系，為研發(fā)設(shè)計(jì)人員制定道德規(guī)范和行為守則，構(gòu)建人機(jī)協(xié)作的倫理框架，推動(dòng)人工智能朝通用、可信、負(fù)責(zé)任的方向發(fā)展。設(shè)立專門的監(jiān)管機(jī)構(gòu)或明確現(xiàn)有監(jiān)管機(jī)構(gòu)的職責(zé)，加強(qiáng)對(duì)人工智能行業(yè)的監(jiān)督檢查。提升模型技術(shù)和數(shù)據(jù)源的透明度，讓用戶深入了解模型運(yùn)行機(jī)制，提升信任度。制訂并落實(shí)人工智能備案制度，強(qiáng)化審查，定期評(píng)估，確保利益相關(guān)者的合法權(quán)益得到及時(shí)法律救濟(jì)。

鑒于人工智能技術(shù)的全球化發(fā)展趨勢(shì)，應(yīng)將在我國(guó)境內(nèi)運(yùn)營(yíng)或?qū)ξ覈?guó)用戶產(chǎn)生影響的外國(guó)主體納入備案管理范疇，確保其遵守我國(guó)關(guān)于人工智能發(fā)展的法律法規(guī)和監(jiān)管要求。在責(zé)任判定中，應(yīng)綜合考慮行為人和人工智能服務(wù)提供商在侵權(quán)行為及損害后果中的實(shí)際作用，明確人工智能提供者的高度注意義務(wù)，根據(jù)不同違法行為或損害后果，制定相應(yīng)的責(zé)任承擔(dān)方式和程度。

此外，需建立健全數(shù)據(jù)保護(hù)與安全機(jī)制，規(guī)范人工智能收集數(shù)據(jù)的使用范圍，僅限授權(quán)范圍內(nèi)用于特定的研發(fā)、優(yōu)化和應(yīng)用場(chǎng)景。建立數(shù)據(jù)共享審批機(jī)制，明確條件和流程，確保接收方具備相應(yīng)數(shù)據(jù)保護(hù)能力，并簽訂數(shù)據(jù)保護(hù)協(xié)議。對(duì)跨境數(shù)據(jù)傳輸進(jìn)行更嚴(yán)格的審查監(jiān)管，保障國(guó)家數(shù)據(jù)主權(quán)和公民隱私安全。建立審計(jì)制度，對(duì)數(shù)據(jù)的收集、使用、共享等全過(guò)程進(jìn)行審計(jì)記錄，確保安全管理的可問(wèn)責(zé)性。