事實(shí)上，亞馬遜的系統(tǒng)通過自學(xué)得出了男性候選人更可取的結(jié)論。系統(tǒng)對(duì)包含“女性”這個(gè)詞的簡歷進(jìn)行了處罰，如“女子國際象棋俱樂部隊(duì)長”等。系統(tǒng)還降低了兩所全女子大學(xué)畢業(yè)生的評(píng)級(jí)。

亞馬遜曾嘗試對(duì)程序進(jìn)行更新，力圖使其對(duì)特定術(shù)語保持中立。但這并不能保證機(jī)器不會(huì)根據(jù)其他方式來對(duì)可能具有歧視性的候選人進(jìn)行分類。

性別偏見也不是唯一的問題。支持模型判斷的數(shù)據(jù)也有問題，這意味著不合格的候選人經(jīng)常被推薦到各種工作崗位。亞馬遜最終在去年年初解散了該團(tuán)隊(duì)，因?yàn)楦吖軅儗?duì)這個(gè)項(xiàng)目已失去信心。

算法公平之路任重道遠(yuǎn)

根據(jù)人才軟件公司“職業(yè)創(chuàng)造者”2017年的一項(xiàng)調(diào)查顯示，約55%的美國人力資源經(jīng)理表示，未來5年內(nèi)，人工智能將成為他們工作的常規(guī)部分。

長期以來，雇主一直夢想利用技術(shù)擴(kuò)大招聘網(wǎng)絡(luò)，減少對(duì)招聘人員主觀意見的依賴。但亞馬遜的失敗案例，為越來越多正在尋求自動(dòng)化招聘流程的大型公司提供了一個(gè)教訓(xùn)。

卡內(nèi)基梅隆大學(xué)機(jī)器學(xué)習(xí)專家表示，如何確保算法公平、真正可理解和可解釋的道路還相當(dāng)遙遠(yuǎn)。

《麻省理工技術(shù)評(píng)論》在此次事件的報(bào)道中指出，我們不能將人工智能視為內(nèi)在的無偏見。在有偏見的數(shù)據(jù)上訓(xùn)練系統(tǒng)，意味著算法也會(huì)變得有偏見。如果這樣不公平的人工智能招聘計(jì)劃在實(shí)施之前沒有被發(fā)現(xiàn)，將使長期存在于商業(yè)中的多樣性問題延續(xù)下去，而不是解決它們。