王建安委員指出,人工智能正在深刻重塑醫(yī)療健康生態(tài)。然而,醫(yī)療領(lǐng)域具有高專業(yè)性和強(qiáng)倫理屬性,一旦安全底線失守,輕則影響診療質(zhì)量,重則危及患者生命。作為全國政協(xié)委員、中國科學(xué)院院士和浙江大學(xué)醫(yī)學(xué)院附屬第二醫(yī)院院長,他今年最關(guān)注的是加強(qiáng)人工智能醫(yī)療健康應(yīng)用安全保障體系建設(shè)的問題。他認(rèn)為,AI賦能醫(yī)療是我國衛(wèi)生健康事業(yè)換道超車、引領(lǐng)國際的必爭之地。我國以公立醫(yī)院為主體的醫(yī)療服務(wù)體系具備鮮明的體制機(jī)制優(yōu)勢,在單點(diǎn)應(yīng)用領(lǐng)域基礎(chǔ)扎實(shí),有望在AI加持下向“領(lǐng)跑”躍升。權(quán)威機(jī)構(gòu)預(yù)測,全球人工智能醫(yī)療市場在2030年前后將達(dá)到3萬億元規(guī)模,年復(fù)合增長率保持30%以上。
王建安在調(diào)研中發(fā)現(xiàn),當(dāng)前醫(yī)療AI面臨多重安全隱患。算法可解釋性不足,決策過程“黑箱化”,醫(yī)生難以判斷AI結(jié)論是否符合臨床實(shí)際,這制約了其在高風(fēng)險(xiǎn)診療領(lǐng)域的推廣。數(shù)據(jù)安全與隱私保護(hù)壓力加大,存在重識(shí)別風(fēng)險(xiǎn)。模型運(yùn)行階段缺乏持續(xù)監(jiān)測,存在監(jiān)管盲區(qū)。此外,AI系統(tǒng)已成為黑客攻擊的高價(jià)值目標(biāo),通過植入對(duì)抗樣本或篡改算法參數(shù),可能直接干擾診斷結(jié)果,危及患者生命安全。
為解決這些問題,王建安認(rèn)為必須建立醫(yī)療AI安全可追溯性強(qiáng)制標(biāo)準(zhǔn),將“可解釋性、可追溯性、可審核性”作為高風(fēng)險(xiǎn)產(chǎn)品準(zhǔn)入的核心要求。同時(shí),需要強(qiáng)化醫(yī)療數(shù)據(jù)全鏈條安全治理,完善數(shù)據(jù)分類分級(jí)管理,推廣聯(lián)邦學(xué)習(xí)、差分隱私等技術(shù)實(shí)現(xiàn)“數(shù)據(jù)可用不可見”。他還建議構(gòu)建醫(yī)療AI全生命周期安全監(jiān)管體系,將醫(yī)療AI納入基礎(chǔ)設(shè)施重點(diǎn)保護(hù)范圍。他表示,要堅(jiān)持以患者為中心,為AI醫(yī)療高質(zhì)量發(fā)展筑牢底座,讓技術(shù)創(chuàng)新真正造福百姓健康。
2026年全國兩會(huì),正當(dāng)“十四五”圓滿收官、“十五五”揚(yáng)帆啟航,繼往開來,氣象萬千。銳始者必圖其終,成功者先計(jì)于始。
2026-03-13 09:19:50習(xí)近平總書記同人大代表、政協(xié)委員共商國是紀(jì)實(shí)