直播帶貨公司“三只羊”近期遭遇風(fēng)波，一段據(jù)稱是其創(chuàng)始人盧文慶在醉酒狀態(tài)下錄制的音頻在網(wǎng)上流傳，內(nèi)容關(guān)乎客服投訴、競(jìng)爭(zhēng)者以及與三位女主播的關(guān)系，迅速成為熱議焦點(diǎn)。9月26日，安徽合肥警方介入調(diào)查后宣布，該音頻實(shí)為AI偽造，并已拘捕一名25歲男性嫌疑人，從其設(shè)備及使用的AI音頻制作網(wǎng)站中找到了犯罪證據(jù)。次日，深圳言域科技有限公司承認(rèn)，涉事音頻采用其“Reecho睿聲”技術(shù)基于盧文慶的直播片段生成，公司隨即強(qiáng)化了安全控制措施。

此事引發(fā)了對(duì)AI聲音克隆技術(shù)真實(shí)度的廣泛討論，尤其是該技術(shù)能夠復(fù)制包括地方口音在內(nèi)的復(fù)雜特征，令人難以分辨真假。深圳言域科技，一家成立不久的公司，憑借其能快速克隆人聲的技術(shù)產(chǎn)品吸引了關(guān)注，其客戶名單中不乏知名公司。其C端產(chǎn)品操作簡(jiǎn)便，用戶僅需上傳音頻樣本，AI即可學(xué)習(xí)并生成對(duì)應(yīng)聲音念出任意文本，甚至提供“瞬時(shí)克隆”和“專業(yè)克隆”選項(xiàng)，價(jià)格親民。

然而，該技術(shù)的普及性和易獲取性引起了對(duì)隱私權(quán)、版權(quán)及法律邊界的擔(dān)憂。有AI專家指出，雖然目前的聲音克隆技術(shù)在短時(shí)間內(nèi)生成的聲音可能在長(zhǎng)篇幅時(shí)顯得不自然，但通過(guò)分段生成和后期編輯，仍能制作出高度仿真的音頻。深圳言域的產(chǎn)品因允許用戶自由上傳音頻文件進(jìn)行克隆，而不局限于本人聲音，被認(rèn)為存在風(fēng)險(xiǎn)。市場(chǎng)上雖有其他公司如深聲科技等也在研發(fā)類(lèi)似技術(shù)，但多針對(duì)企業(yè)客戶，且在使用權(quán)限上更為謹(jǐn)慎。

法律專家強(qiáng)調(diào)，未經(jīng)許可使用他人聲音可能構(gòu)成民事侵權(quán)，隨著AI技術(shù)的進(jìn)步，深度偽造內(nèi)容的制作與傳播門(mén)檻降低，對(duì)互聯(lián)網(wǎng)信息的真實(shí)性構(gòu)成了挑戰(zhàn)。當(dāng)前，監(jiān)管政策正在逐步完善，要求深度合成服務(wù)提供商承擔(dān)起信息安全責(zé)任，包括事前預(yù)防、內(nèi)容審核及事后應(yīng)對(duì)措施。深圳言域科技雖已采取一定措施，如實(shí)施實(shí)名認(rèn)證，但在聲音克隆的范圍約束及用戶提醒方面仍有不足，且未發(fā)現(xiàn)其完成相關(guān)算法系統(tǒng)的備案。

此次事件凸顯了AI聲音克隆技術(shù)的雙刃劍特性，既展現(xiàn)了技術(shù)的創(chuàng)新潛力，也暴露了伴隨而來(lái)的法律與倫理挑戰(zhàn)，促使社會(huì)各界思考如何在推動(dòng)技術(shù)進(jìn)步的同時(shí)，有效防范潛在風(fēng)險(xiǎn)。