隨著人工智能和大模型技術(shù)的迅猛發(fā)展,它們?yōu)槿藗兊纳顜砹饲八从械谋憷c變革。從各種應(yīng)用的爆火到端側(cè)AI設(shè)備的加速普及,AI的身影無處不在。然而,AI技術(shù)的濫用也帶來了新的安全威脅,尤其是AI換臉詐騙,作為一種隱蔽性和危害性極強(qiáng)的手段,正逐漸成為網(wǎng)絡(luò)安全領(lǐng)域的一大挑戰(zhàn)。
聯(lián)想集團(tuán)通過宣傳片《用AI守護(hù)AI》展示了其AI反詐技術(shù),能夠精準(zhǔn)識(shí)別Deepfake換臉偽造,有效遏制AI欺詐行為的蔓延。據(jù)了解,該檢測(cè)器的準(zhǔn)確率高達(dá)96%。
在眾多AI換臉技術(shù)中,Deepfake是最為成熟的代表之一。它結(jié)合了深度學(xué)習(xí)和偽造技術(shù),自誕生以來便備受關(guān)注。盡管Deepfake技術(shù)在各類應(yīng)用場(chǎng)景中頻繁出現(xiàn),但也引發(fā)了廣泛的社會(huì)擔(dān)憂。
聯(lián)想的“Deepfake深度偽造技術(shù)檢測(cè)器”基于開源大模型構(gòu)建,可以部署在AI PC本地運(yùn)行,進(jìn)一步強(qiáng)化了個(gè)人數(shù)據(jù)和隱私安全保護(hù)。研發(fā)團(tuán)隊(duì)持續(xù)優(yōu)化算法和模型,致力于打造出高效可靠的AI反詐工具。四川省反詐中心、騰訊云、奇安信等政府機(jī)構(gòu)和企業(yè)已經(jīng)加入聯(lián)想的AI反詐倡議。
從技術(shù)原理上看,該檢測(cè)器運(yùn)用先進(jìn)的深度學(xué)習(xí)算法,對(duì)圖像和視頻中的細(xì)微特征進(jìn)行深入分析。通過復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型,檢測(cè)器能夠?qū)W習(xí)真實(shí)人臉和偽造人臉之間的微妙差異,從而準(zhǔn)確判斷視頻或圖像是否經(jīng)過AI換臉處理。這種基于數(shù)據(jù)驅(qū)動(dòng)的檢測(cè)方式比傳統(tǒng)方法更準(zhǔn)確且適應(yīng)性強(qiáng)。
在功能實(shí)現(xiàn)方面,這項(xiàng)技術(shù)已在多個(gè)場(chǎng)景取得顯著成果。例如,在在線視頻會(huì)議中,系統(tǒng)能夠?qū)崟r(shí)檢測(cè)參會(huì)人員的視頻,并在發(fā)現(xiàn)疑似偽造時(shí)發(fā)出提示,增強(qiáng)會(huì)議安全性。對(duì)于企業(yè)而言,確保參會(huì)人員身份的真實(shí)性至關(guān)重要。在社交媒體瀏覽過程中,該技術(shù)能自動(dòng)掃描并標(biāo)記出疑似AI換臉的視頻,幫助用戶辨識(shí)真?zhèn)?,減少虛假信息傳播。使用AI PC時(shí),系統(tǒng)也能實(shí)時(shí)感知安全風(fēng)險(xiǎn)并及時(shí)預(yù)警,提供全方位的安全保護(hù)。