即夢(mèng)回應(yīng)緊急下架真人素材生成 AI視頻引發(fā)信任危機(jī)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-02-10 19:53:10 超角度

近日，字節(jié)跳動(dòng)上線了Seedance 2.0視頻生成模型并進(jìn)行內(nèi)測(cè)，這一舉動(dòng)在行業(yè)內(nèi)引發(fā)了熱議。該模型支持文字、圖片、視頻、音頻等多種素材輸入，生成視頻時(shí)在自運(yùn)鏡和分運(yùn)鏡、全方位多模態(tài)思考、音畫同步生成及多鏡頭敘事能力等方面實(shí)現(xiàn)了突破。

有網(wǎng)友表示，看了Seedance 2.0生成的視頻后，普通人很快將難以分辨AI生成的內(nèi)容與真實(shí)拍攝的區(qū)別。甚至有人感嘆，AI視頻已經(jīng)進(jìn)入了分辨不出真假的時(shí)代。

《黑神話悟空》的制作人馮驥也對(duì)Seedance 2.0給予了高度評(píng)價(jià)，稱其為“領(lǐng)先、全能、低門檻且產(chǎn)能爆炸”，他認(rèn)為這標(biāo)志著AIGC的童年時(shí)代結(jié)束。同時(shí)，他也表達(dá)了對(duì)于假視頻泛濫可能導(dǎo)致的信任危機(jī)以及知識(shí)產(chǎn)權(quán)問題的擔(dān)憂，并建議大家提醒家人特別是不熟悉AI技術(shù)的人士，未來一切缺乏官方權(quán)威渠道背書的視頻內(nèi)容都可能是偽造的，需要通過多種渠道交叉驗(yàn)證以避免受騙。

此外，知名科技博主Tim（本名潘天鴻）在測(cè)試過程中發(fā)現(xiàn)了一個(gè)令人驚訝的現(xiàn)象：即使只提供自己的照片而未提供聲音或視頻等其他素材，Seedance 2.0也能生成帶有他個(gè)人音色的聲音。更讓他感到震驚的是，當(dāng)他上傳辦公樓的一面照片時(shí)，系統(tǒng)能夠生成幾乎完全相同的另一面。他認(rèn)為這種情況意味著AI可能未經(jīng)許可就使用了他的公司數(shù)據(jù)進(jìn)行訓(xùn)練。

鑒于這些討論，即夢(mèng)方面緊急暫停了真人素材作為主體參考的功能。運(yùn)營(yíng)人員解釋說，為了保障創(chuàng)作環(huán)境健康可持續(xù)發(fā)展，他們正在根據(jù)用戶反饋進(jìn)行優(yōu)化調(diào)整。目前暫時(shí)不支持將真人照片作為生成視頻的主要參考對(duì)象。

這次事件揭示了幾個(gè)關(guān)鍵問題：首先，由于AI生成內(nèi)容真假難辨，可能會(huì)導(dǎo)致嚴(yán)重的信任危機(jī)；其次，隱私保護(hù)成為了一個(gè)灰色地帶，用戶的數(shù)據(jù)可能在不知情的情況下被用于訓(xùn)練模型；再者，如何平衡技術(shù)創(chuàng)新與安全合規(guī)之間的關(guān)系成為一個(gè)亟待解決的問題。最后，提高公眾的信息素養(yǎng)變得尤為重要，尤其是要教會(huì)人們?nèi)绾伪鎰e虛假信息并建立新的安全習(xí)慣。

(責(zé)任編輯：0764)

關(guān)閉

即夢(mèng)回應(yīng)緊急下架真人素材生成 AI視頻引發(fā)信任危機(jī)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)