不少帖子已經(jīng)爆料過(guò)，由于近幾年信息量的暴增和審核的嚴(yán)控，人工鑒黃師加班已經(jīng)常態(tài)化。媒體曾經(jīng)報(bào)道過(guò)有鑒黃師因?yàn)閴毫^(guò)大身體吃不消而向公司提出工傷索賠的新聞。

“剛開(kāi)始接觸大量的小黃圖，確實(shí)會(huì)有生理反應(yīng)，尤其是對(duì)一些心理素質(zhì)不夠好的年輕鑒黃師來(lái)說(shuō)?！苯獫蓸s說(shuō)。

一位有類似經(jīng)歷的鑒黃師也對(duì)記者表示，頻繁曝光在黃色信息的網(wǎng)絡(luò)中難免會(huì)對(duì)身體造成傷害，偶爾遇到一些比較變態(tài)的視頻或圖片，“會(huì)讓人一整天都吃不下飯”。嚴(yán)重的時(shí)候，在路上看人都是馬賽克。但AI鑒黃的免疫力就會(huì)強(qiáng)得多。

不過(guò)，姜澤榮和威視都表示，AI鑒黃尚不能完全取代人工審核，因?yàn)闄C(jī)器還很難理解內(nèi)容背后的深意，也不會(huì)在不同文化場(chǎng)景中做自由切換。

“最佳的審核方式是智能為主，人工為輔。人工鑒黃師群體數(shù)量少了，目前主要做打標(biāo)和審查可疑圖片的工作。”阿里安全部產(chǎn)品專家念夏說(shuō)。

色情和非色情的界限怎么把握？

無(wú)論是語(yǔ)音語(yǔ)義還是圖像，在初期設(shè)計(jì)模型時(shí)會(huì)根據(jù)大眾普遍接受程度來(lái)人為制訂一套“色情界定的標(biāo)準(zhǔn)”。人為的標(biāo)準(zhǔn)并非一成不變，但也存在一定的主觀性。

“三點(diǎn)式泳裝則為性感，裸露胸部卻只遮擋乳頭則是色情，而‘以性感的姿勢(shì)舔舐香蕉’這種‘軟色情’則會(huì)被機(jī)器劃定為‘正?！?，姜澤榮舉例說(shuō)明。

當(dāng)被問(wèn)道如何區(qū)分“性感”與“色情”，他認(rèn)為在制定標(biāo)準(zhǔn)時(shí)有一條默認(rèn)規(guī)則——極端性感即是色情。