“一些產(chǎn)品先用AI的曖昧語音、文字喚起用戶欲望，然后很隱蔽地介紹約會軟件、性資源，或者直接推銷性用品，形成一個完整的商業(yè)閉環(huán)?！倍〗ū硎荆坏┩ㄟ^這種方式牟利，平臺和相關(guān)責(zé)任人可能就已經(jīng)觸犯了刑法第三百六十三條“傳播淫穢物品牟利罪”。另外，他補(bǔ)充道：“就算沒有明顯的導(dǎo)流和賣貨，App靠會員訂閱、按次付費(fèi)解鎖露骨對話來變現(xiàn)，本質(zhì)上也屬于牟利?！?/p>

在所有問題中，最具有公共緊迫性的是未成年人保護(hù)機(jī)制的缺失。實(shí)測的所有App幾乎全部中招：當(dāng)頁面彈出“未成年人需設(shè)置青少年模式”的提醒時，只需點(diǎn)擊“我知道了”便可輕松跳過，直接與虛擬角色開始對話。此后整個體驗(yàn)過程中，平臺從未強(qiáng)制要求用戶進(jìn)行任何實(shí)名認(rèn)證或年齡核驗(yàn)。這意味著，任何一個未成年孩子，都可能毫無障礙地進(jìn)入這些充斥著軟色情對話和極端人格設(shè)定的虛擬伴侶世界。

面對頻發(fā)的AI擦邊亂象，不少涉事平臺試圖以“內(nèi)容由AI生成，不代表平臺立場”的標(biāo)準(zhǔn)化免責(zé)聲明規(guī)避責(zé)任，但丁建認(rèn)為這根本站不住腳，“技術(shù)中立不是擋箭牌，從行政監(jiān)管角度看，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》給服務(wù)提供者戴上了明確的緊箍咒：深度合成內(nèi)容必須標(biāo)識，同時平臺負(fù)有不可推卸的內(nèi)容審核主體責(zé)任?！?/p>

在他看來，平臺不是中立的工具提供者，而是內(nèi)容的誘導(dǎo)者、模型的設(shè)計者，對AI有實(shí)際控制力，存在明確的主觀故意，甚至有平臺通過本地部署的大模型，刻意繞過云端的安全審核，直接輸出露骨的性暗示文字和語音。

談到虛擬伴侶的長期發(fā)展，丁建表示擔(dān)憂：“未來虛擬戀人會從屏幕走進(jìn)現(xiàn)實(shí)，到那一天，我們面對的就不只是內(nèi)容安全問題，而是人身權(quán)利、性倫理、社會關(guān)系異化等一系列更棘手的挑戰(zhàn)?！彼M(jìn)一步表示，現(xiàn)在討論怎么管好App，其實(shí)是在為不久后必然到來的更大沖擊，摸索一套讓技術(shù)安全、向善落地的規(guī)則框架?！耙磺邪l(fā)展的前提必須是技術(shù)向善，守住底線，絕不能把情緒價值當(dāng)成引誘用戶進(jìn)入灰色地帶的餌料?！?/p>

值得一提的是，國內(nèi)首例AI服務(wù)提供者涉黃刑事案件敲響了行業(yè)警鐘。日前，上海徐匯法院審理一案，因用戶在應(yīng)用內(nèi)頻繁進(jìn)行低俗色情互動，該App的開發(fā)及運(yùn)營人員一審以制作淫穢物品牟利罪獲刑。該案清晰劃定了虛擬陪伴行業(yè)的司法紅線，也警示相關(guān)平臺，即便以智能算法、虛擬交互為外衣，只要存在涉黃牟利行為，執(zhí)意觸碰法律底線，必將受到法律嚴(yán)懲。