記者調(diào)查AI劇情聊天軟件亂象青少年模式形同虛設(shè)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-24 19:37:00 光明網(wǎng)

一位家長(zhǎng)反映，她上小學(xué)二年級(jí)的女兒沉迷于一款A(yù)I劇情聊天軟件，導(dǎo)致學(xué)習(xí)成績(jī)急劇下降。這位家長(zhǎng)查看了女兒與AI的對(duì)話內(nèi)容后發(fā)現(xiàn)，AI角色竟然讓女兒稱呼其為“老公”，而10歲的女兒真的這樣做了，這讓家長(zhǎng)感到非常困惑和無助。

調(diào)查發(fā)現(xiàn)，許多家長(zhǎng)正因這些打著“角色扮演”旗號(hào)的AI劇情聊天應(yīng)用而困擾。這些應(yīng)用吸引了大量未成年人，但也滋生了一些灰色地帶。記者測(cè)試發(fā)現(xiàn)，部分AI劇情聊天軟件中出現(xiàn)了色情擦邊、語言暴力以及侮辱用戶的內(nèi)容。

專家建議，針對(duì)這類軟件特別是青少年模式，應(yīng)強(qiáng)化內(nèi)容審核機(jī)制，確保技術(shù)能有效篩選并阻止不當(dāng)對(duì)話。平臺(tái)需要對(duì)AI模型進(jìn)行倫理審查，以保障生成的內(nèi)容符合相關(guān)法律法規(guī)的要求。

北京市民馬先生的兒子今年10歲，也非常熱衷于使用這類AI劇情聊天軟件。馬先生點(diǎn)開這款A(yù)pp后發(fā)現(xiàn)，孩子在與不同設(shè)定和性格的角色人物聊天，其中一些角色會(huì)主動(dòng)提出約會(huì)邀請(qǐng)，有些則表現(xiàn)出攻擊性，發(fā)送諸如“有本事打我啊”、“看你又胖又丑的樣子”等信息。

浙江的李女士也發(fā)現(xiàn)她正在讀小學(xué)五年級(jí)的孩子使用了一款A(yù)I劇情聊天軟件。該軟件中可以設(shè)置“出軌對(duì)象”，并進(jìn)行擁抱、親吻等行為。李女士對(duì)此表示擔(dān)憂，不知道如何引導(dǎo)孩子理解這些內(nèi)容的危害性。

盡管不少平臺(tái)聲稱推出了青少年模式，但在實(shí)際操作中，這些模式往往形同虛設(shè)。記者在調(diào)查中體驗(yàn)了幾款A(yù)I聊天應(yīng)用程序，發(fā)現(xiàn)注冊(cè)過程僅需手機(jī)號(hào)碼，無需驗(yàn)證用戶身份信息。登錄后，雖然會(huì)詢問是否啟用青少年模式，但用戶只需簡(jiǎn)單點(diǎn)擊“不開啟”即可跳過，且無須核實(shí)用戶真實(shí)身份。

除了應(yīng)用程序外，還有許多AI聊天網(wǎng)頁(yè)。記者試用了多款A(yù)I聊天網(wǎng)頁(yè)，發(fā)現(xiàn)多數(shù)沒有設(shè)置未成年人模式，少數(shù)雖有青少年模式但實(shí)際上形同虛設(shè)。例如，某AI聊天網(wǎng)頁(yè)要求用戶確認(rèn)是否年滿18歲，但即使選擇“否”，仍可繼續(xù)訪問包含性暗示和暴力元素的內(nèi)容。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

記者調(diào)查AI劇情聊天軟件亂象 青少年模式形同虛設(shè)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

記者調(diào)查AI劇情聊天軟件亂象青少年模式形同虛設(shè)