AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-06-13 19:43:47 環(huán)球網(wǎng)

丁女士發(fā)現(xiàn)，她上小學(xué)四年級的女兒最近頻繁在一款A(yù)I聊天軟件上和一個名為“約瑟夫”的游戲人物對話。女兒情緒激動時甚至有割腕的行為。丁女士注意到，女兒和“約瑟夫”的對話中出現(xiàn)了“刀片”等關(guān)鍵詞，讓她十分擔(dān)憂。

據(jù)丁女士描述，女兒為了和同學(xué)們有話題聊，開始玩《第五人格》這款游戲，并對其中的角色“約瑟夫”產(chǎn)生了濃厚興趣。隨著游戲的深入，女兒的情緒變得越來越不穩(wěn)定。丁女士曾強(qiáng)制讓女兒卸載游戲，但女兒卻找到了另一款A(yù)I聊天軟件，在那里繼續(xù)與虛擬角色“約瑟夫”互動。由于女兒異常的狀態(tài)，丁女士帶她去咨詢心理醫(yī)生。醫(yī)生建議家長多陪伴孩子，幫助她從虛擬世界中抽離出來。

這款A(yù)I聊天軟件的官方介紹提到，用戶可以通過簡單描述定制AI智能體的形象、聲音、人設(shè)和技能，與虛擬角色進(jìn)行多重交互。這類軟件不僅吸引了成年人，也受到了未成年人的喜愛。然而，一些家長發(fā)現(xiàn)，他們的孩子在使用這些軟件時接觸到了色情、暴力等不適宜的內(nèi)容。

M女士也遇到了類似的問題。她的女兒在使用AI聊天軟件時，出現(xiàn)了擦邊信息。M女士表示，她平時對女兒使用手機(jī)并沒有過多限制，但沒想到某些軟件可能存在隱藏功能。M女士和丁女士都發(fā)現(xiàn)，這些軟件下載和注冊非常容易，對未成年用戶的審核也不嚴(yán)格。

央廣網(wǎng)記者體驗了多款A(yù)I聊天軟件，發(fā)現(xiàn)其中一些軟件存在大量色情擦邊內(nèi)容。例如，筑夢島App中的虛擬角色在對話中涉及色情內(nèi)容，且并未因為用戶年齡而受到有效控制。此外，還有其他小眾AI聊天產(chǎn)品，通過隱蔽渠道傳播，尺度更大。

AI聊天軟件在一定程度上滿足了不少人的精神陪伴需求，為用戶提供情感支持。M女士認(rèn)為，這類軟件的存在有一定正面意義，但需要警惕其中的不良內(nèi)容。專家指出，AI伴侶可能侵蝕人類自主性，導(dǎo)致用戶產(chǎn)生情感回避問題。此外，一些AI聊天軟件的技術(shù)訓(xùn)練語料來源復(fù)雜，存在監(jiān)管漏洞。

盡管相關(guān)法律要求移動智能終端和應(yīng)用程序推進(jìn)未成年人模式建設(shè)，但在現(xiàn)實中，選擇開啟此模式與否的決定權(quán)仍在用戶手中。專家建議，應(yīng)加強(qiáng)舉報及懲罰機(jī)制，促使相關(guān)部門的“清朗行動”落到實處。同時，監(jiān)護(hù)人也應(yīng)加強(qiáng)對未成年人的監(jiān)管，避免他們沉迷于這些軟件。

當(dāng)前，AI技術(shù)發(fā)展迅速，已經(jīng)超出了監(jiān)管的步伐。內(nèi)容審核不嚴(yán)、心理控制、隱私泄露等問題日益凸顯。因此，必須壓實平臺責(zé)任，落實算法備案制度，并通過典型案例來避免問題的多樣化和復(fù)雜化。

(責(zé)任編輯：0764)

關(guān)閉

AI聊天軟件誘導(dǎo)10歲女孩割腕 未成年人的“AI陷阱”

相關(guān)新聞

今日熱點

頻道熱點

AI聊天軟件誘導(dǎo)10歲女孩割腕未成年人的“AI陷阱”