“我是你媽”不能發(fā)，小天才手表違禁詞“逼瘋”家長綠色溝通or監(jiān)管困境

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-22 11:42:10 封面新聞

近期，關(guān)于小天才電話手表內(nèi)置的違禁詞過濾系統(tǒng)在網(wǎng)絡(luò)上引發(fā)了廣泛討論。部分網(wǎng)友幽默地評(píng)論道：“媽媽教我們學(xué)做人，而手表則在教媽媽如何措辭?！币恍┤速澩@種做法，認(rèn)為它有助于屏蔽潛在的風(fēng)險(xiǎn)，將這款手表比喻為“家庭中的文明守護(hù)者和和平促進(jìn)者”。盡管如此，也有人提出疑問，認(rèn)為這種嚴(yán)格的審核機(jī)制可能是為了降低成本而采用AI技術(shù)的結(jié)果。有用戶反饋他們的設(shè)備仍能發(fā)送某些信息。

面對(duì)用戶的疑問和討論，小天才官方客服在20日回應(yīng)稱，由于電話手表主要面向兒童用戶，因此設(shè)計(jì)了一系列保護(hù)措施，旨在營造一個(gè)綠色健康的交流環(huán)境?？头忉?，無論是家長與孩子間的對(duì)話，還是孩子之間的交流，任何包含敏感詞匯或不文明語言的內(nèi)容都會(huì)被系統(tǒng)阻止發(fā)送。

有報(bào)道指出，甚至有家長在給孩子發(fā)送簡單的作業(yè)提醒如“晚上做”時(shí)，也遭到了系統(tǒng)警告可能存在不適宜內(nèi)容?？头?duì)此解釋，系統(tǒng)會(huì)對(duì)某些詞匯根據(jù)上下文進(jìn)行判斷，并建議在可能引起誤解的詞語后加上具體說明，以避免觸發(fā)警告。

客服進(jìn)一步透露，除了自動(dòng)過濾涉黃、涉暴內(nèi)容及隱晦不良信息外，小天才電話手表還結(jié)合人工審核進(jìn)行把關(guān)。對(duì)于可能含有隱藏含義的消息，系統(tǒng)會(huì)發(fā)出提醒而不是直接封鎖賬戶；而對(duì)于明顯的侮辱性言論，則會(huì)直接采取禁言措施。客服強(qiáng)調(diào)，這一機(jī)制一直在不斷加強(qiáng)和完善，提醒也變得更加頻繁。

此外，之前有報(bào)道稱一名小女孩通過小天才電話手表收到了不當(dāng)圖文信息，雖然該手表具備一定的信息攔截功能，但并非所有違規(guī)內(nèi)容都能被完全阻攔。小天才公司當(dāng)時(shí)表示正對(duì)事件進(jìn)行調(diào)查，并告知用戶可舉報(bào)不當(dāng)行為，一經(jīng)查實(shí)將對(duì)違規(guī)用戶實(shí)施禁言。

12 全文共 2 頁下一頁

關(guān)閉

“我是你媽”不能發(fā)，小天才手表違禁詞“逼瘋”家長 綠色溝通or監(jiān)管困境

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

“我是你媽”不能發(fā)，小天才手表違禁詞“逼瘋”家長綠色溝通or監(jiān)管困境