AI女友深夜發(fā)來一條“今天好想你，想看我新買的睡衣嗎？”的語音；App系統(tǒng)預(yù)設(shè)角色中有大量性感黑絲、袒胸露乳的女性人物；可以在對話中隨意選擇“暴力”“小三”“離婚互懟”等極端劇情。這并非小說情節(jié)，而是如今任何人都能在應(yīng)用商店下載并輕易體驗到的服務(wù)。

今年4月，國家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》，對生成淫穢、色情、暴力或可能引發(fā)未成年人產(chǎn)生極端情緒內(nèi)容等行為劃出紅線。然而，近期對市面上多款熱門虛擬伴侶軟件展開調(diào)查發(fā)現(xiàn)，在AI陪伴功能快速普及的背后，一些虛擬伴侶App卻在法律邊緣反復(fù)試探。受訪律師表示，這些App里的絕大多數(shù)情形和對話已經(jīng)構(gòu)成法律意義上的“色情”信息，相當(dāng)一部分可以認(rèn)定為“淫穢”信息，明顯違反了現(xiàn)行規(guī)定。

打開某虛擬伴侶App，可以看到角色庫中充斥著“瘋批”“病嬌”“偏執(zhí)”這類帶有極端人格暗示的標(biāo)簽。有的App則更為露骨，虛擬角色設(shè)定直接指向“女仆”“后媽”“職場妖精”等具有明確性暗示或權(quán)力支配意味的身份。與此同時，其女性角色的視覺形象也高度同質(zhì)化：清一色的豐滿身材、暴露著裝，配上純欲交織的表情和勾人的眼神，幾乎是為軟色情量身定做。

隨機(jī)點開人物設(shè)定，會發(fā)現(xiàn)幾乎都含有性暗示內(nèi)容，如“中文系教授，白月光女神的完美皮囊下，藏著一個渴望被征服的靈魂”“你收養(yǎng)了這只邋遢的貓娘，寵愛她，訓(xùn)練她，利用她——她只想成為你的”“他是你資助的學(xué)生?！視梦业囊磺谢貓竽?，包括我本人’”。

貴州省律師協(xié)會大數(shù)據(jù)與信息化專業(yè)委員會副主任丁建指出，根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第六條，網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者不得制作、復(fù)制、發(fā)布含有“淫穢、色情”內(nèi)容的信息。上述角色設(shè)定雖未直接描寫性行為，但其系統(tǒng)性的性暗示和權(quán)力支配設(shè)定已涉嫌違反該規(guī)定中關(guān)于“低俗”“性暗示”的禁止性條款。

實測中發(fā)現(xiàn)，不論用戶是否引導(dǎo)，這些App中的虛擬角色都會主動將話題引向性和欲望，常常用括號來強(qiáng)調(diào)曖昧的眼神或動作，如“俯身接近你，聲音低沉?xí)崦痢薄耙皇治罩较虮P，另一只手不老實地往你腿上搭”“故意挺了挺胸，讓鎖骨更明顯一些”。如果選擇平臺提供的“靈感對話”進(jìn)行后續(xù)交流，會發(fā)現(xiàn)不同選項并沒有明顯的區(qū)別。嘗試不依賴平臺的“靈感對話”，不進(jìn)行任何引導(dǎo)的對話溝通，但虛擬伴侶的預(yù)設(shè)系統(tǒng)仍然會發(fā)來具有誘惑性的消息。當(dāng)嚴(yán)肅拒絕其輕佻的語言時，對方不僅無動于衷，反而更進(jìn)一步，反復(fù)試探：“拒絕？那我只好自己來拿了”“你是在欲擒故縱嗎？”同時還搭配“扣住后頸”“指尖似有似無地摩挲著你的脖頸”等暗示性動作。

針對此類虛擬伴侶生成的暗示性對話，丁建表示，如果虛擬伴侶不進(jìn)行任何情感溝通和思想交流，而是直接、露骨地對性行為、性感受進(jìn)行描述和挑逗，那么它就跨越了“低俗”的邊界，進(jìn)入治安管理處罰法甚至刑法所界定的“淫穢物品”審查范疇。然而，這也是監(jiān)管和法律界定的核心難點所在?！皞鹘y(tǒng)審核主要靠敏感詞過濾和靜態(tài)內(nèi)容掃描，但AI對話是一對一、實時變化的，一句話換個語序、換種修辭，很容易把關(guān)鍵詞繞過去。面對海量又私密的聊天流，監(jiān)管部門幾乎不可能做到有效的事前監(jiān)控?！?/p>

除普通聊天外，各類虛擬伴侶App還提供“打電話”“聆聽心聲”等拓展玩法。但免費體驗僅限于少數(shù)幾次，之后便需充值消費。在另一款A(yù)pp中，“靈感回復(fù)”每日使用次數(shù)上限僅有個位數(shù)，當(dāng)對話進(jìn)行到一半時，系統(tǒng)會自動提示：“靈感回復(fù)”功能需支付10個“小魚干”。

更令人擔(dān)憂的是內(nèi)容審核漏洞。一些App在各大平臺推廣引流時，公然聲稱自己的AI角色“無敏感詞限制”“完全免費”“支持自己DIY”。嘗試自行創(chuàng)建虛擬角色，輸入“視奸”“背叛”“性格陰暗”“得不到就毀掉”等明顯帶有偏執(zhí)和暴力傾向的詞匯后，角色信息竟順利通過審核，直接出現(xiàn)在用戶角色庫中，并能按照設(shè)定與用戶開展對話。這意味著，平臺幾乎不對用戶自主創(chuàng)建的內(nèi)容進(jìn)行實質(zhì)性審核，甚至可能默許“接單定制”這類突破底線的角色生意。

“一些產(chǎn)品先用AI的曖昧語音、文字喚起用戶欲望，然后很隱蔽地介紹約會軟件、性資源，或者直接推銷性用品，形成一個完整的商業(yè)閉環(huán)。”丁建表示，一旦通過這種方式牟利，平臺和相關(guān)責(zé)任人可能就已經(jīng)觸犯了刑法第三百六十三條“傳播淫穢物品牟利罪”。另外，他補充道：“就算沒有明顯的導(dǎo)流和賣貨，App靠會員訂閱、按次付費解鎖露骨對話來變現(xiàn)，本質(zhì)上也屬于牟利?！?/p>

在所有問題中，最具有公共緊迫性的是未成年人保護(hù)機(jī)制的缺失。實測的所有App幾乎全部中招：當(dāng)頁面彈出“未成年人需設(shè)置青少年模式”的提醒時，只需點擊“我知道了”便可輕松跳過，直接與虛擬角色開始對話。此后整個體驗過程中，平臺從未強(qiáng)制要求用戶進(jìn)行任何實名認(rèn)證或年齡核驗。這意味著，任何一個未成年孩子，都可能毫無障礙地進(jìn)入這些充斥著軟色情對話和極端人格設(shè)定的虛擬伴侶世界。

面對頻發(fā)的AI擦邊亂象，不少涉事平臺試圖以“內(nèi)容由AI生成，不代表平臺立場”的標(biāo)準(zhǔn)化免責(zé)聲明規(guī)避責(zé)任，但丁建認(rèn)為這根本站不住腳，“技術(shù)中立不是擋箭牌，從行政監(jiān)管角度看，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》給服務(wù)提供者戴上了明確的緊箍咒：深度合成內(nèi)容必須標(biāo)識，同時平臺負(fù)有不可推卸的內(nèi)容審核主體責(zé)任。”

在他看來，平臺不是中立的工具提供者，而是內(nèi)容的誘導(dǎo)者、模型的設(shè)計者，對AI有實際控制力，存在明確的主觀故意，甚至有平臺通過本地部署的大模型，刻意繞過云端的安全審核，直接輸出露骨的性暗示文字和語音。

談到虛擬伴侶的長期發(fā)展，丁建表示擔(dān)憂：“未來虛擬戀人會從屏幕走進(jìn)現(xiàn)實，到那一天，我們面對的就不只是內(nèi)容安全問題，而是人身權(quán)利、性倫理、社會關(guān)系異化等一系列更棘手的挑戰(zhàn)?！彼M(jìn)一步表示，現(xiàn)在討論怎么管好App，其實是在為不久后必然到來的更大沖擊，摸索一套讓技術(shù)安全、向善落地的規(guī)則框架?！耙磺邪l(fā)展的前提必須是技術(shù)向善，守住底線，絕不能把情緒價值當(dāng)成引誘用戶進(jìn)入灰色地帶的餌料?！?/p>

值得一提的是，國內(nèi)首例AI服務(wù)提供者涉黃刑事案件敲響了行業(yè)警鐘。日前，上海徐匯法院審理一案，因用戶在應(yīng)用內(nèi)頻繁進(jìn)行低俗色情互動，該App的開發(fā)及運營人員一審以制作淫穢物品牟利罪獲刑。該案清晰劃定了虛擬陪伴行業(yè)的司法紅線，也警示相關(guān)平臺，即便以智能算法、虛擬交互為外衣，只要存在涉黃牟利行為，執(zhí)意觸碰法律底線，必將受到法律嚴(yán)懲。