另外是算法本身的影響?！斑@可能是無(wú)法完全避免的，由深度學(xué)習(xí)算法本身的缺陷決定，它存在內(nèi)在對(duì)抗性?！蓖踅饦虮硎荆壳白盍餍械纳窠?jīng)網(wǎng)絡(luò)不同于人腦的生物計(jì)算，模型由數(shù)據(jù)驅(qū)動(dòng)，和人類(lèi)的認(rèn)知不具有一致性?；谏疃葘W(xué)習(xí)的框架，必須通過(guò)當(dāng)前訓(xùn)練數(shù)據(jù)擬合到目標(biāo)函數(shù)。在這個(gè)框架之下，如果機(jī)器要識(shí)別狗，它會(huì)通過(guò)狗的眼睛、鼻子、耳朵等局部特征進(jìn)行可視化識(shí)別，而這些可視化特征卻能給想利用深度學(xué)習(xí)漏洞的人機(jī)會(huì)，后者可以通過(guò)偽造數(shù)據(jù)來(lái)欺騙機(jī)器。

除了人訓(xùn)練機(jī)器的數(shù)據(jù)本身有偏差以外，機(jī)器通過(guò)對(duì)抗性神經(jīng)網(wǎng)絡(luò)合成的數(shù)據(jù)也可能有問(wèn)題。由于機(jī)器不可能“見(jiàn)過(guò)”所有東西(比如識(shí)別桌子，機(jī)器不可能學(xué)習(xí)所有長(zhǎng)短寬窄各異的桌子)，人也不可能標(biāo)記所有數(shù)據(jù)。如果研究者輸入一個(gè)隨機(jī)的噪音，機(jī)器可以向任何方向?qū)W習(xí)。這是一把雙刃劍，機(jī)器也可能合成一些有問(wèn)題的數(shù)據(jù)，學(xué)習(xí)時(shí)間長(zhǎng)了，機(jī)器就“跑偏”了。

數(shù)據(jù)的均衡或可減少“跑偏”

不少科學(xué)家以“garbage in, garbage out”來(lái)形容“數(shù)據(jù)和人工智能的關(guān)系”。中科視拓(北京)科技有限公司CEO劉昕說(shuō)：“對(duì)機(jī)器學(xué)習(xí)而言，進(jìn)什么就出什么。監(jiān)督學(xué)習(xí)就是讓模型擬合標(biāo)簽，比如訓(xùn)練者把帥哥都標(biāo)記成‘渣男’，那么機(jī)器看到劉德華，就會(huì)認(rèn)為他是……”談到諾曼引發(fā)的討論，劉昕表示：“不需要擔(dān)心，人類(lèi)本身就有各種歧視和偏見(jiàn)，用人類(lèi)生產(chǎn)的數(shù)據(jù)訓(xùn)練AI，再批判AI不夠正直良善，這么說(shuō)有點(diǎn)危言聳聽(tīng)?！?/p>

偏見(jiàn)、刻板印象、歧視都是人類(lèi)社會(huì)的痼疾，有些流于表面，有些深入社會(huì)肌理，無(wú)法輕易剝離。在這樣的語(yǔ)境中產(chǎn)生的數(shù)據(jù)，攜帶著大量復(fù)雜、難以界定、泥沙俱下的觀點(diǎn)。如果研究者沒(méi)有意識(shí)到或著手處理這一問(wèn)題，機(jī)器學(xué)習(xí)的偏見(jiàn)幾乎無(wú)解。真正的“公正算法”或許是不存在的。