德國關(guān)于如何實施歐盟人工智能監(jiān)管法案《人工智能法案》的討論已經(jīng)持續(xù)了幾個月，現(xiàn)在德國的立法計劃終于敲定。聯(lián)邦內(nèi)閣批準(zhǔn)了名為《人工智能市場監(jiān)管和創(chuàng)新促進法》的法律草案。隨著AI監(jiān)管法律制度逐漸健全，倫理問題也引起了更多關(guān)注。例如，AI未來是否以美國視角看待世界。

根據(jù)新法案，開發(fā)AI的公司必須評估其風(fēng)險，應(yīng)用風(fēng)險越高，法律要求越嚴(yán)格。高風(fēng)險的AI應(yīng)用將被禁止發(fā)行，如工作場所自動情緒識別和大范圍面部識別。違反法規(guī)的企業(yè)可能面臨最高3500萬歐元或全球年營業(yè)額7%的罰款。媒體機構(gòu)使用AI系統(tǒng)時，州媒體監(jiān)管機構(gòu)將監(jiān)督其合規(guī)情況，這意味著新聞編輯室中的AI文本生成器、個性化新聞推送和算法廣告系統(tǒng)也將受到監(jiān)管審查。

該法案明確了聯(lián)邦網(wǎng)絡(luò)管理局作為國家AI監(jiān)管中央機構(gòu)的角色，負(fù)責(zé)監(jiān)督AI法規(guī)的遵守情況。任何人都可以舉報違規(guī)行為，為此，聯(lián)邦網(wǎng)絡(luò)管理局將新增43個職位。聯(lián)邦數(shù)字化和國家現(xiàn)代化部長卡斯滕·維爾德貝格爾宣布，將創(chuàng)建一個精簡的人工智能監(jiān)管機構(gòu)，專注于滿足經(jīng)濟需求。

對于該法案的實行，各方反應(yīng)總體積極。支持者贊揚了法案在平衡監(jiān)管與創(chuàng)新方面的努力。聯(lián)邦網(wǎng)絡(luò)管理局需運營至少一個AI實際應(yīng)用實驗室，用于在AI系統(tǒng)上市前進行監(jiān)督測試。中小企業(yè)、初創(chuàng)公司、研究機構(gòu)和大學(xué)將享有優(yōu)先使用權(quán)，這一條款被認(rèn)為有利于鼓勵創(chuàng)新。維爾德貝格爾表示，新法律以盡可能開放創(chuàng)新的方式實施了歐盟法規(guī)。

批評主要集中在一些實施細(xì)節(jié)上，如各機構(gòu)內(nèi)部的資源分配、職責(zé)劃分以及新程序的實際執(zhí)行。有聲音認(rèn)為，法規(guī)過于嚴(yán)厲，可能會減少歐洲的AI紅利。AI支持的信用評估、定價模型、欺詐檢測和風(fēng)險評估將受到雙重官方審查。但該法案被認(rèn)為是落實歐盟AI法規(guī)務(wù)實且及時的方案。

除了AI企業(yè)違法行為，還有一個值得關(guān)注的問題是偏見。許多常見的AI模型來自美國科技公司，使用的數(shù)據(jù)幾乎無法反映其他國家的語言、傳統(tǒng)和歷史。這導(dǎo)致AI在回答問題時傾向于提及富裕的西方國家。研究人員將這種現(xiàn)象稱為“硅谷凝視”，即硅谷的視角。牛津互聯(lián)網(wǎng)研究所的一項研究表明，大型語言模型的訓(xùn)練數(shù)據(jù)集受美國視角內(nèi)容的影響，“偏見”成為不少生成式AI的結(jié)構(gòu)性特征。帶有偏見的AI系統(tǒng)可能導(dǎo)致少數(shù)族裔在醫(yī)保系統(tǒng)中得不到更好的照顧，或者對其就業(yè)能力做出不準(zhǔn)確的預(yù)測。

為改變“硅谷凝視”的現(xiàn)狀，智利推出了名為LatamGPT的AI軟件，由來自拉丁美洲各國的30位科學(xué)家開發(fā)。研究人員收集了超過8TB的信息來訓(xùn)練LatamGPT，旨在打破偏見，防止拉丁美洲在世界上的形象被單一化。此外，東南亞的SEA-LION和非洲的UlizaLlama等AI模型也相繼涌現(xiàn)，專注于各自的文化背景。語言模型長期以來一直在影響我們看待世界的方式，訓(xùn)練數(shù)據(jù)和模型來源的多樣性或許有助于部分抵消當(dāng)今世界的不平等現(xiàn)象。