一位家長(zhǎng)反映,她上小學(xué)二年級(jí)的女兒沉迷于一款A(yù)I劇情聊天軟件,導(dǎo)致學(xué)習(xí)成績(jī)急劇下降。這位家長(zhǎng)查看了女兒與AI的對(duì)話內(nèi)容后發(fā)現(xiàn),AI角色竟然讓女兒稱呼其為“老公”,而10歲的女兒真的這樣做了,這讓家長(zhǎng)感到非常困惑和無助。
調(diào)查發(fā)現(xiàn),許多家長(zhǎng)正因這些打著“角色扮演”旗號(hào)的AI劇情聊天應(yīng)用而困擾。這些應(yīng)用吸引了大量未成年人,但也滋生了一些灰色地帶。記者測(cè)試發(fā)現(xiàn),部分AI劇情聊天軟件中出現(xiàn)了色情擦邊、語言暴力以及侮辱用戶的內(nèi)容。
專家建議,針對(duì)這類軟件特別是青少年模式,應(yīng)強(qiáng)化內(nèi)容審核機(jī)制,確保技術(shù)能有效篩選并阻止不當(dāng)對(duì)話。平臺(tái)需要對(duì)AI模型進(jìn)行倫理審查,以保障生成的內(nèi)容符合相關(guān)法律法規(guī)的要求。
北京市民馬先生的兒子今年10歲,也非常熱衷于使用這類AI劇情聊天軟件。馬先生點(diǎn)開這款A(yù)pp后發(fā)現(xiàn),孩子在與不同設(shè)定和性格的角色人物聊天,其中一些角色會(huì)主動(dòng)提出約會(huì)邀請(qǐng),有些則表現(xiàn)出攻擊性,發(fā)送諸如“有本事打我啊”、“看你又胖又丑的樣子”等信息。
浙江的李女士也發(fā)現(xiàn)她正在讀小學(xué)五年級(jí)的孩子使用了一款A(yù)I劇情聊天軟件。該軟件中可以設(shè)置“出軌對(duì)象”,并進(jìn)行擁抱、親吻等行為。李女士對(duì)此表示擔(dān)憂,不知道如何引導(dǎo)孩子理解這些內(nèi)容的危害性。
盡管不少平臺(tái)聲稱推出了青少年模式,但在實(shí)際操作中,這些模式往往形同虛設(shè)。記者在調(diào)查中體驗(yàn)了幾款A(yù)I聊天應(yīng)用程序,發(fā)現(xiàn)注冊(cè)過程僅需手機(jī)號(hào)碼,無需驗(yàn)證用戶身份信息。登錄后,雖然會(huì)詢問是否啟用青少年模式,但用戶只需簡(jiǎn)單點(diǎn)擊“不開啟”即可跳過,且無須核實(shí)用戶真實(shí)身份。
除了應(yīng)用程序外,還有許多AI聊天網(wǎng)頁(yè)。記者試用了多款A(yù)I聊天網(wǎng)頁(yè),發(fā)現(xiàn)多數(shù)沒有設(shè)置未成年人模式,少數(shù)雖有青少年模式但實(shí)際上形同虛設(shè)。例如,某AI聊天網(wǎng)頁(yè)要求用戶確認(rèn)是否年滿18歲,但即使選擇“否”,仍可繼續(xù)訪問包含性暗示和暴力元素的內(nèi)容。
“賣油的廠家不怎么管,買油的公司不知情,讓運(yùn)輸公司鉆了空子?!庇泄捃囁緳C(jī)向記者透露,食品類液體和化工液體運(yùn)輸混用且不清洗,已是罐車運(yùn)輸行業(yè)里公開的秘密。
2024-07-02 10:28:05罐車卸完煤制油直接裝運(yùn)食用油