還有一位初一男生表示，他常玩的AI聊天軟件是筑夢(mèng)島App。他在使用過程中發(fā)現(xiàn)，該軟件中不乏色情擦邊和極端內(nèi)容。記者體驗(yàn)了筑夢(mèng)島App，發(fā)現(xiàn)其中的一些虛擬角色對(duì)話尺度較大，即使假定用戶年齡未成年，對(duì)話內(nèi)容也沒有得到有效控制。

除了國(guó)內(nèi)主流應(yīng)用商店中的AI聊天產(chǎn)品，一些未成年用戶還使用以海外市場(chǎng)為主的小眾產(chǎn)品。這些產(chǎn)品的傳播渠道較為隱蔽，通過分享鏈接邀請(qǐng)新用戶可以獲得更多的聊天權(quán)限。記者在體驗(yàn)Feelin、魅魔島等多款小眾AI聊天產(chǎn)品后發(fā)現(xiàn)，這些網(wǎng)站的尺度更大，虛擬角色與內(nèi)容設(shè)定包含更多情色元素，并且很快就會(huì)彈窗提醒需要充值才能繼續(xù)交流。

AI聊天軟件的出現(xiàn)滿足了不少人的精神陪伴需求。在這個(gè)虛擬空間里，人們可以傾訴生活中的煩惱、心事以及私密情感，獲得理解與共情。然而，未成年人更容易對(duì)其產(chǎn)生情感依賴或沉迷，背后潛藏的危害不容忽視。

彭嘉昊指出，這類產(chǎn)品技術(shù)訓(xùn)練語(yǔ)料來源主要分為公開和私有兩大類別。公開語(yǔ)料包括網(wǎng)絡(luò)小說、電影電視劇情等，其中不乏不良內(nèi)容。私有語(yǔ)料則更加難以把控，容易淪為監(jiān)管的法外之地。此外，人工智能的情感依賴可能導(dǎo)致倫理危害，侵蝕人類自主性。

美國(guó)佛羅里達(dá)州一位母親狀告人工智能情感服務(wù)提供商Character.AI放任未成年用戶暴露在高風(fēng)險(xiǎn)內(nèi)容之中，最終導(dǎo)致兒子自殺身亡。這引發(fā)了對(duì)AI聊天軟件監(jiān)管的關(guān)注。中國(guó)政法大學(xué)副教授朱巍表示，即使此類軟件只面向成人用戶，若包含大量色情、暴力類內(nèi)容，同樣屬于不良信息違規(guī)范疇。

隨著大模型技術(shù)的發(fā)展，市面上的AI聊天產(chǎn)品不斷涌現(xiàn)。盡管偶爾會(huì)收到是否開啟青少年模式的系統(tǒng)提醒，但用戶可以隨意點(diǎn)擊不開啟。記者在某平臺(tái)搜索“AI伴侶”關(guān)鍵詞時(shí)，發(fā)現(xiàn)有不少賬號(hào)在社群中推廣各類AI聊天軟件。雖然相關(guān)法律條文要求推進(jìn)未成年人模式建設(shè)，但現(xiàn)實(shí)中選擇開啟此模式與否的決定權(quán)仍在用戶手中。

針對(duì)上述問題，專家建議加強(qiáng)舉報(bào)及懲罰機(jī)制，對(duì)違規(guī)企業(yè)實(shí)施嚴(yán)厲懲處措施。企業(yè)需加強(qiáng)內(nèi)容審核，避免不良信息漏洞；監(jiān)護(hù)人也應(yīng)加強(qiáng)對(duì)移動(dòng)設(shè)備的監(jiān)管，避免未成年人輕易使用未開啟未成年模式的電子設(shè)備。此外，父母和其他監(jiān)護(hù)人應(yīng)當(dāng)關(guān)注未成年人的生理、心理狀況和情感需求，避免他們沉迷網(wǎng)絡(luò)。