AI聊天軟件隱藏的軟色情：孩子聊的AI充斥“愛上嫂子”等情節(jié)(9)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-03-17 14:13:56 千龍網(wǎng)

2026年3月1日起施行的《可能影響未成年人身心健康的網(wǎng)絡(luò)信息分類辦法》中，明確對于“帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想”的信息，應(yīng)采取防范和抵制措施，避免影響未成年人身心健康。

對于AI生成內(nèi)容的合規(guī)問題，企業(yè)和開發(fā)者應(yīng)如何履行保護責任？

清華大學(xué)新聞學(xué)院、人工智能學(xué)院雙聘教授，博士生導(dǎo)師沈陽認為，首先須嚴格執(zhí)行網(wǎng)絡(luò)管理部門的相關(guān)規(guī)定，這是基礎(chǔ)準則；其次要積極開展價值觀對齊和規(guī)則約束，讓大模型的回答貼合公序良俗；再者，若發(fā)現(xiàn)技術(shù)漏洞，需第一時間查漏補缺；最后要建立完善的公眾反饋機制，讓公眾參與到大模型內(nèi)容優(yōu)化中，以此提升內(nèi)容質(zhì)量。

沈陽指出，嚴格把控數(shù)據(jù)源、提升數(shù)據(jù)來源質(zhì)量，是做好AI內(nèi)容治理的關(guān)鍵環(huán)節(jié)。“這類軟件之所以能生成此類內(nèi)容，大多是利用了無審查、未做價值觀對齊的大模型版本?！?/span>

對于AI內(nèi)容治理中仍出現(xiàn)的信息疏漏問題，他強調(diào)，需要技術(shù)和監(jiān)管雙方面加強：一方面，大模型在訓(xùn)練時，不同版本的管理邏輯可能存在變化，需做好技術(shù)層面的優(yōu)化和把控；另一方面，再完善的平臺，也需要持續(xù)加強監(jiān)管，才能從根本上減少不良信息的流出。

郭媛媛建議，可以對AI產(chǎn)品進行精準的分類分級管理，明確不同年齡段未成年人可接觸的AI產(chǎn)品范圍，將戀愛角色扮演等不適宜的產(chǎn)品與未成年人隔離開。“現(xiàn)在AI技術(shù)迭代速度太快，法律法規(guī)的制定需從‘事后補救’轉(zhuǎn)向事前防范，加快相關(guān)法治建設(shè)的步伐，避免因技術(shù)發(fā)展過快而導(dǎo)致監(jiān)管和法規(guī)的滯后?！?/span>

首頁上一頁...6 7 89共 9 頁

(責任編輯：0882)

關(guān)閉

AI聊天軟件隱藏的軟色情：孩子聊的AI充斥“愛上嫂子”等情節(jié)(9)

相關(guān)新聞

今日熱點

頻道熱點