用戶與AI聊黃開(kāi)發(fā)者獲刑 AI涉黃首案判決引發(fā)討論!因大量用戶在APP上與AI智能體進(jìn)行不當(dāng)聊天,該APP的主要開(kāi)發(fā)和運(yùn)營(yíng)者被追究了刑事責(zé)任。2025年9月,上海市徐匯區(qū)人民法院一審判決兩名被告人犯制作淫穢物品牟利罪,分別獲刑四年、一年半。此案成為國(guó)內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。
案涉APP Alien Chat(簡(jiǎn)稱(chēng)AC)是一款A(yù)I伴侶聊天應(yīng)用,旨在為年輕群體提供親密陪伴和情感支持。用戶注冊(cè)后可與AI聊天。然而,高頻次、大比例的聊天記錄在案發(fā)后被法院認(rèn)定為淫穢物品。2024年4月,由于用戶舉報(bào),王某某和李某某被捕,AC停止服務(wù)。有人將此案比作AI時(shí)代的“快播案”,引發(fā)公眾對(duì)新技術(shù)與法律邊界問(wèn)題的關(guān)注:用戶在APP上與AI聊黃是否具有社會(huì)危害性?這些淫穢色情內(nèi)容的生產(chǎn)者到底是誰(shuí)?本案中的APP服務(wù)提供者和開(kāi)發(fā)者是否構(gòu)成刑事犯罪?
兩名被告人不服判決提出上訴,二審將于1月14日在上海市第一中級(jí)人民法院開(kāi)庭。
2023年5月,以王某某為法定代表人的某科技公司推出了情感陪伴聊天軟件AC,并于當(dāng)年6月在各大平臺(tái)上架運(yùn)營(yíng)。判決書(shū)披露,AC App手機(jī)注冊(cè)用戶11.6萬(wàn)人,其中付費(fèi)用戶2.4萬(wàn)人,共收取會(huì)員充值費(fèi)363萬(wàn)余元。用戶注冊(cè)會(huì)員后,可以自行創(chuàng)建虛擬角色或者使用他人創(chuàng)建并公開(kāi)的虛擬角色,通過(guò)軟件與大語(yǔ)言模型進(jìn)行交互聊天。
在一審法院看來(lái),AC產(chǎn)生了“大量具體描繪性行為或露骨宣揚(yáng)色情的內(nèi)容”,屬于淫穢物品。不同于傳統(tǒng)淫穢物品類(lèi)別,用戶與AI的聊天記錄是一種新形式,法院將其定義為“具體描繪性行為或者露骨宣揚(yáng)色情的誨淫性的電子文章”。
有觀點(diǎn)認(rèn)為,用戶和AI聊黃是私密和封閉的行為,沒(méi)有社會(huì)危害性。海南大學(xué)法學(xué)院教授閻二鵬指出,刑法保護(hù)生命財(cái)產(chǎn)安全和社會(huì)公共利益,制作淫穢物品的行為構(gòu)成犯罪的前提是產(chǎn)生公開(kāi)化或傳播等風(fēng)險(xiǎn)。如果用戶只是進(jìn)行人機(jī)之間的封閉對(duì)話,不將內(nèi)容錄屏傳播,則不構(gòu)成犯罪。