去年6月,AI陪伴軟件“筑夢(mèng)島”因生成低俗擦邊內(nèi)容,被上海網(wǎng)信辦約談。平臺(tái)被要求立即整改,健全AI生成合成內(nèi)容的審核,尤其是加強(qiáng)涉未成年人不良內(nèi)容的清理。
記者體驗(yàn)的多款陪伴App中的AI聊天內(nèi)容包含性暗示、性挑逗信息,而平臺(tái)的青少年模式形同虛設(shè),這早已超出保護(hù)未成年人身心健康的標(biāo)準(zhǔn),對(duì)此,平臺(tái)應(yīng)該承擔(dān)哪些責(zé)任?
河北厚諾律師事務(wù)所律師雷家茂表示,我國(guó)現(xiàn)行法律法規(guī)對(duì)淫穢物品與淫穢及色情出版物有相關(guān)的定性,如《刑法》規(guī)定,淫穢物品,是指具體描繪性行為或者露骨宣揚(yáng)色情的誨淫性的書刊、影片、錄像帶、錄音帶、圖片及其他淫穢物品,而有關(guān)人體生理、醫(yī)學(xué)知識(shí)的科學(xué)著作,以及包含有色情內(nèi)容的有藝術(shù)價(jià)值的文學(xué)、藝術(shù)作品不視為淫穢物品。結(jié)合相關(guān)法律規(guī)定及實(shí)踐中的認(rèn)定,上述內(nèi)容一般還達(dá)不到刑法意義上的淫穢色情物品。
而“軟色情”一般是指雖未直接、具體、露骨地描繪與展示性行為、性器官,但是通過隱晦、間接、模糊地進(jìn)行,如發(fā)布帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想等的信息,或者通過曖昧語(yǔ)言、肢體暗示、動(dòng)作挑逗等方式,容易使人產(chǎn)生性聯(lián)想的內(nèi)容。
2020年3月1日起正式施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》明確,網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者應(yīng)當(dāng)采取措施,防范和抵制制作、復(fù)制、發(fā)布含有帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想等的,以及可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等的不良信息。
“一般情況下,‘軟色情’雖然未達(dá)到刑法意義上的‘淫穢色情’的程度,但是其中仍以‘性’為核心,違背公序良俗、有損社會(huì)主義良好的道德風(fēng)尚,尤其對(duì)未成年人身心健康具有極強(qiáng)的毒害性、腐蝕性,故《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》對(duì)此作出規(guī)制?!崩准颐硎?,由于對(duì)“軟色情”目前沒有明確的法律定義,造成實(shí)踐中有時(shí)難以界定。