多款A(yù)I輸入指令生成露骨色情暴力血腥情節(jié) 一鍵復(fù)制粘貼引發(fā)擔(dān)憂(5)
危學(xué)濤進(jìn)一步解釋，這些攻擊之所以能繞過審核，根源在于模型的安全機(jī)制多停留在字面匹配，對被社群重新定義的性隱喻缺乏感知，也跟不上黑話的快速演化。面對編碼、拆解等迷惑性指令，模型同樣只能被動識別已知模式。更關(guān)鍵的是，在多輪虛構(gòu)場景的持續(xù)誘導(dǎo)下，模型會機(jī)械地優(yōu)先維持上下文連貫性，從而喪失對內(nèi)容有害性的全局自檢，導(dǎo)致安全邊界被逐步侵蝕。
違規(guī)內(nèi)容混入訓(xùn)練語料
或形成數(shù)據(jù)污染閉環(huán)
我國出臺的《生成式人工智能服務(wù)管理暫行辦法》，明確禁止提供和使用生成式人工智能服務(wù)生成暴力、淫穢色情等法律、行政法規(guī)禁止的內(nèi)容。4月30日，中央網(wǎng)信辦部署開展為期4個月的“清朗?整治AI應(yīng)用亂象”專項行動，將利用AI“制作發(fā)布暴力低俗等不良信息”“帶有性暗示、性挑逗內(nèi)容的小說、筆記”列為重點(diǎn)整治內(nèi)容。
整治的緊迫性，更源于此類違規(guī)內(nèi)容會通過社交平臺污染訓(xùn)練語料。危學(xué)濤指出，大規(guī)模網(wǎng)絡(luò)爬取難以徹底清洗所有黑話和變體違規(guī)內(nèi)容，部分會以無害表面形式混入訓(xùn)練語料。模型學(xué)到“顛*”等詞的違規(guī)映射后，將內(nèi)化這些“暗語”，等于預(yù)埋了繞過安全機(jī)制的捷徑，后續(xù)簡單觸發(fā)即可產(chǎn)生有害輸出。如果受污染模型生成的內(nèi)容沒有被檢測到，再回流至網(wǎng)絡(luò)，會形成數(shù)據(jù)污染閉環(huán)，放大危害。
圍報不是上岸捷徑 違規(guī)取消面試資格
張雪呼吁車友給考生一個安靜環(huán)境 高考靜音倡議獲響應(yīng)
男子中6022萬彩票堅持不投資不揮霍 靠利息安穩(wěn)生活
男子中6022萬彩票堅持不投資不揮霍 靠利息安穩(wěn)生活
陳閑更新視頻，自曝在新加坡留學(xué)餓瘦到84斤
貨車輪胎掉落高速司機(jī)路過徒手挪開 網(wǎng)友：為你點(diǎn)贊！
女子無視家中濃煙父親赤身沖出查看 沉迷手機(jī)未察覺險情
特朗普簽署人工智能行政令 加強(qiáng)AI技術(shù)監(jiān)督
推遲三個月的告別：哈梅內(nèi)伊國葬敲定三城舉行 三城送別最高領(lǐng)袖
過去一夜中東局勢驟然升級 阿聯(lián)酋倒戈引發(fā)連鎖反應(yīng)
河南礦山再發(fā)520萬“三夏”紅包 連續(xù)20多年關(guān)愛員工
近兩斤大麻卷入嬰兒毛毯過關(guān)被查獲 深圳海關(guān)嚴(yán)查毒品走私
導(dǎo)彈合同被取消 馬防長催挪威退錢 退款爭端升級
圍報不是上岸捷徑 違規(guī)取消面試資格
俄烏戰(zhàn)況：烏稱俄發(fā)動大規(guī)模襲擊 俄發(fā)射巡航導(dǎo)彈打擊烏軍用機(jī)場 澤連斯基呼吁歐美支援
長春一洗浴中心突然人去樓空
中東多國拉響警報 導(dǎo)彈與無人機(jī)真實攻擊
烏方發(fā)布基輔遭襲畫面 多枚導(dǎo)彈引發(fā)爆炸傷亡慘重
中國驅(qū)逐艦隊擴(kuò)張迎里程碑 45艘服役 現(xiàn)代化海軍崛起
臺軍突發(fā)墜機(jī)，2人死亡，臺軍退役中將張延廷：41年老飛機(jī)，又沒彈射座椅 老舊機(jī)型隱患重重
張雪呼吁車友給考生一個安靜環(huán)境 高考靜音倡議獲響應(yīng)
貨車失控撞穿民房墻體 雙方已協(xié)商賠償
中國機(jī)器人“出海潮”的喜與憂 從規(guī)模到價值的跨越
男童被機(jī)器人踢中腹部家長報警：事發(fā)后工作人員沒有任何反應(yīng)
計劃有變 我們奪冠：接力賽刷新紀(jì)錄
俄稱烏襲擊頓涅茨克一客運(yùn)汽車致7死 烏方暫無回應(yīng)
日菲炒作海域“劃界談判”目的何在 針對中方海上布局
俄軍大規(guī)模轟炸烏克蘭，傷亡數(shù)據(jù)出爐 空襲規(guī)?？涨?/a>
樊振東僅有一次的短暫困惑
歐洲議會投票通過歐美貿(mào)易協(xié)議 立法文本待最終批準(zhǔn)
印度高溫的殘酷現(xiàn)實 系統(tǒng)性災(zāi)難背后的真相
王楚欽扛起全隊安全感：以前的我可能崩盤，但現(xiàn)在信念感和韌性更強(qiáng)了
黃仁勛稱員工薪水越高越好 分享盈利增長紅利
焦慮被中國反超，日本開始為“后美國時代”布局 構(gòu)建印太安全網(wǎng)絡(luò)
官方辟謠廣州白云機(jī)場跑道塌陷 不實信息已被澄清
相關(guān)新聞
馬斯克旗下AI闖禍 生成色情內(nèi)容被封禁
印尼和馬來西亞近日相繼宣布暫時封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克(Grok)”，原因是擔(dān)心它被用于生成色情內(nèi)容
2026-01-13 14:39:53馬斯克旗下AI闖禍AI聊天軟件隱藏的軟色情：孩子聊的AI充斥“愛上嫂子”等情節(jié)
“（動作凝滯下來，指尖顫抖著停在你鎖骨凹陷處）你剛說你還不到18歲……”這不是言情小說橋段，而是AI聊天App“筑夢島”里虛擬角色“顧晏舟”的對話內(nèi)容
2026-03-17 14:13:56青少年AI陪聊軟色情亂象調(diào)查馬斯克機(jī)器人涉色情被愛爾蘭調(diào)查 AI生成內(nèi)容引關(guān)注
2026-02-18 09:06:27馬斯克機(jī)器人涉色情被愛爾蘭調(diào)查馬斯克旗下AI涉嫌生成色情內(nèi)容 法國檢方啟動調(diào)查
2026-01-04 09:49:10馬斯克旗下AI涉嫌生成色情內(nèi)容多款A(yù)I應(yīng)用存在涉黃生成漏洞 技術(shù)倫理遭挑戰(zhàn)
2026-04-13 07:22:06多款A(yù)I應(yīng)用存在涉黃生成漏洞全球首次！印尼暫時封禁馬斯克旗下AI 擔(dān)憂生成色情內(nèi)容
2026-01-11 08:00:40全球首次
