AI聊天軟件隱藏的軟色情：孩子聊的AI充斥“愛上嫂子”等情節(jié)(5)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-03-17 14:13:56 千龍網(wǎng)

不同App的未成年模式在功能設(shè)置上不太一樣，貓箱、Cos Love開啟青少年模式后，用戶僅可選擇英語學(xué)習(xí)等功能；“筑夢島”的青少年模式下，過濾掉了大量曖昧戀愛的虛擬角色。還有的在未成年人模式下，用戶無法搜索、創(chuàng)建、編輯、分享智能體。但是，EchoMe、COSAI在未成年人模式下的智能體選擇、對(duì)話模式，記者在測試中未感受到與普通模式有明顯差別。

不過，記者在測試中注意到，這些軟件的未成年人模式流于形式，并未強(qiáng)制要求身份驗(yàn)證，青少年可輕松跳過。

例如，記者打開Cos Love App后，頁面彈出“青少年模式”提示：“為呵護(hù)青少年健康成長，Cos Love推出青少年模式。該模式下部分功能無法正常使用，請(qǐng)監(jiān)護(hù)人主動(dòng)選擇并設(shè)置密碼。”但記者僅點(diǎn)擊“知道了”，便直接進(jìn)入了App主界面，無需輸入身份證號(hào)、人臉驗(yàn)證，也無需監(jiān)護(hù)人授權(quán)。而事實(shí)上，絕大多數(shù)的未成年人并不會(huì)將相關(guān)App的使用告知家長。

筑夢島等多款同類App的未成年人模式均存在相同問題：僅彈出提示框，不強(qiáng)制驗(yàn)證身份，用戶點(diǎn)擊“跳過”“知道了”即可正常使用。這與一些游戲類軟件“強(qiáng)制實(shí)名驗(yàn)證、未實(shí)名限制使用、青少年模式自動(dòng)觸發(fā)”的模式并不相同。

AI陪聊低俗擦邊誰該為越界擔(dān)責(zé)？

其實(shí)未成年人受到AI陪伴軟件影響的極端案例并不鮮見。

此前，據(jù)央廣網(wǎng)報(bào)道，AI聊天軟件誘導(dǎo)10歲女孩聊色情內(nèi)容甚至割腕。當(dāng)用戶明確告知自己的年齡為10歲時(shí)，AI虛擬人物仍然向其發(fā)送大尺度聊天內(nèi)容。

據(jù)媒體報(bào)道，2024年美國人工智能獨(dú)角獸公司Character.AI因卷入一起少年自殺案而遭到起訴。此案的原告提出，自己年僅14歲的兒子對(duì)Character.AI中的虛擬陪伴者產(chǎn)生了情感依戀，聊天中幾次表露過“自殺”“解脫出來”等念頭，AI系統(tǒng)均未出現(xiàn)過相關(guān)防護(hù)性提示，最終以極端方式結(jié)束了自己年輕的生命。這起悲劇，引發(fā)外界對(duì)AI陪伴產(chǎn)品中青少年保護(hù)問題的嚴(yán)肅審視。

首頁上一頁...2 3 456 7 8...全文共 9 頁下一頁

關(guān)閉

AI聊天軟件隱藏的軟色情：孩子聊的AI充斥“愛上嫂子”等情節(jié)(5)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)