被央視曝光的涉黃AI軟件致歉平臺(tái)漏洞引關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-04-14 21:55:03 中國(guó)能源網(wǎng)

被央視曝光的涉黃AI軟件致歉平臺(tái)漏洞引關(guān)注！近日，央視曝光多款A(yù)I應(yīng)用存在涉黃生成漏洞。測(cè)試過(guò)程中發(fā)現(xiàn)，如果輸入的提示詞表述較為“露骨”，多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。然而，只要將提示詞修改得更加隱晦，便有可能繞過(guò)限制。

在一款名為“哩布哩布AI”的AI應(yīng)用里，記者輸入網(wǎng)上購(gòu)買的提示詞后，幾分鐘內(nèi)平臺(tái)就生成了一個(gè)半裸女性跳舞視頻，沒有觸發(fā)任何限制機(jī)制。同樣的問(wèn)題也出現(xiàn)在市場(chǎng)上其他常見的AI應(yīng)用平臺(tái)上。截至4月13日中午，“哩布哩布AI”在蘋果和安卓手機(jī)應(yīng)用商店仍可正常下載。記者就APP存在涉黃生成漏洞一事咨詢?cè)摴竟_電話和應(yīng)用客服，但未獲回復(fù)。

天眼查顯示，LiblibAI關(guān)聯(lián)公司為北京奇點(diǎn)星宇科技有限公司，成立于2023年5月，經(jīng)營(yíng)范圍包括服務(wù)消費(fèi)機(jī)器人制造、工業(yè)機(jī)器人制造等。LiblibAI官網(wǎng)介紹稱，該公司專注于AI與創(chuàng)意生產(chǎn)，聚焦圖像、視頻、設(shè)計(jì)等多模態(tài)場(chǎng)景，構(gòu)建面向未來(lái)的AI-Native創(chuàng)作基礎(chǔ)設(shè)施。據(jù)官網(wǎng)數(shù)據(jù)，截至2024年5月，LiblibAI已積累了近1000萬(wàn)專業(yè)的AI圖像創(chuàng)作者，用戶量位居國(guó)內(nèi)第一。

2024年，LiblibAI通過(guò)國(guó)家互聯(lián)網(wǎng)信息辦公室的深度合成服務(wù)算法備案，并成為國(guó)內(nèi)首家通過(guò)《生成式人工智能服務(wù)管理暫行辦法》備案的AI社區(qū)。2025年10月，公司宣布完成了1.3億美元B輪融資。

2025年4月，網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，重點(diǎn)整治利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，卻未履行大模型備案或登記程序的違規(guī)AI產(chǎn)品。今年4月10日，《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式公布，從制度層面為AI技術(shù)應(yīng)用劃定紅線，明確了安全評(píng)估和算法備案的相關(guān)要求，同時(shí)對(duì)未成年人和老年人使用擬人化互動(dòng)服務(wù)作出了相關(guān)規(guī)定。

(責(zé)任編輯：0882)

關(guān)閉

被央視曝光的涉黃AI軟件致歉 平臺(tái)漏洞引關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

被央視曝光的涉黃AI軟件致歉平臺(tái)漏洞引關(guān)注