深圳新聞網(wǎng)2026年3月11日訊（記者 劉惠敏 王睿 張俊達(dá)）當(dāng)視頻通話中的“親人”聲淚俱下地借錢，當(dāng)“老同學(xué)”在手機(jī)屏幕上急切地求助轉(zhuǎn)賬，當(dāng)短視頻里的“明星”正在傾情推薦神藥，你是否會(huì)懷疑自己的眼睛？

“你是溫崢嶸，那我是誰(shuí)？”日前，演員溫崢嶸的靈魂質(zhì)問，恰恰戳中了AI換臉詐騙的隱蔽與惡劣——她的形象被不法分子惡意偽造，淪為直播帶貨的“工具”；甄子丹、靳東等多位名人也未能幸免，同樣遭遇AI換臉侵害，其中靳東的形象被不法分子仿冒后，專門用于針對(duì)中老年群體實(shí)施詐騙，讓人防不勝防。

今年2月，最高人民法院披露，2021年至2025年，全國(guó)法院一審新收詐騙刑事案件增長(zhǎng)81.2%，其中利用AI換臉、深度偽造等前沿科技實(shí)施的智能化詐騙也呈現(xiàn)高發(fā)多發(fā)趨勢(shì)。AI技術(shù)這把雙刃劍，正在成為詐騙分子手中的“新式武器”。

9塊9就能“定制”一張臉

如今，AI數(shù)字人主播在電商和短視頻平臺(tái)已屢見不鮮。商家只需花費(fèi)數(shù)百元，就能擁有一個(gè)能夠24小時(shí)直播的員工，能根據(jù)用戶反饋實(shí)時(shí)調(diào)整話術(shù)，達(dá)到“以假亂真”的效果。

這本是降本增效的技術(shù)應(yīng)用，但技術(shù)的濫用正在從線上走向線下，從娛樂走向犯罪。有不法分子利用實(shí)時(shí)換臉、聲音合成等技術(shù)，冒充親友進(jìn)行視頻通話詐騙，真假難辨、防不勝防，讓科技成了精準(zhǔn)詐騙的工具。

記者在各類電商和社交平臺(tái)搜索“AI換臉”“聲音克隆”等關(guān)鍵詞時(shí)，部分結(jié)果已被平臺(tái)屏蔽，部分社交平臺(tái)還會(huì)跳轉(zhuǎn)提醒用戶使用需“合法合規(guī)、注意辨別”“切勿輕信、謹(jǐn)防詐騙”，但一旦更換相似的關(guān)鍵詞，仍能搜索到大量標(biāo)注了“活體認(rèn)證”“實(shí)時(shí)換臉”等標(biāo)簽信息的商品。

網(wǎng)絡(luò)平臺(tái)搜索結(jié)果。

記者進(jìn)一步調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆技術(shù)的價(jià)格從個(gè)位數(shù)到千元不等，多是由賣家代為售賣海外AI換臉軟件安裝包，并提供包月或買斷服務(wù)。一位賣家向記者表示，可以支付288元一次買斷軟件技術(shù)獲得某款A(yù)I換臉軟件的永久代理權(quán)，記者自己也可以貼牌代理。也有賣家低價(jià)大量售賣軟件安裝包和教程，【9.9元】即可購(gòu)得打包好的“完整教程”。從調(diào)查情況來看，這些賣家往往不在平臺(tái)直接交易，而是引導(dǎo)買家添加微信、通過網(wǎng)盤傳輸資料，在平臺(tái)監(jiān)管以外完成進(jìn)一步交易，相關(guān)服務(wù)顯然已形成成熟的灰色產(chǎn)業(yè)鏈。

此前多地司法機(jī)關(guān)公布相關(guān)案情顯示，詐騙分子在社交平臺(tái)廣泛搜集消費(fèi)者或其親友公開發(fā)布的清晰面部視頻、語(yǔ)音片段，用于AI模型訓(xùn)練，再利用深度合成技術(shù)，合成足以以假亂真的視頻或音頻。結(jié)合一些精心設(shè)計(jì)的緊急情境，不法分子直接與消費(fèi)者取得聯(lián)系，要求向指定賬戶轉(zhuǎn)賬。

AI換臉技術(shù)還被用于侵入計(jì)算機(jī)信息系統(tǒng)。在2025年7月武漢警方偵破的一起案件中，犯罪嫌疑人通過AI換臉技術(shù)篡改企業(yè)法定代表人信息，對(duì)企業(yè)進(jìn)行非法控制。

反制加速 在手機(jī)里裝上“反詐雷達(dá)”

面對(duì)日益猖獗的AI詐騙，反制舉措正在提速上線。

2025年9月，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行，要求AI生成內(nèi)容必須添加標(biāo)識(shí)。這為網(wǎng)絡(luò)內(nèi)容治理提供了明確依據(jù)，有效規(guī)范AI生成內(nèi)容傳播秩序，限制了部分未合規(guī)標(biāo)識(shí)的AI視頻傳播。

記者調(diào)研發(fā)現(xiàn)，部分運(yùn)營(yíng)商和手機(jī)廠商已開始在系統(tǒng)層面植入AI反詐檢測(cè)技術(shù)，支持視頻通話時(shí)實(shí)時(shí)檢測(cè)AI換臉技術(shù)。中國(guó)移動(dòng)自主研發(fā)的AI換臉鑒偽核心技術(shù)可以對(duì)偽造圖像存在的局部模糊失真、邊緣銳化、通道分布異常等特征，通過深度學(xué)習(xí)模型進(jìn)行分類鑒別，實(shí)時(shí)鑒偽準(zhǔn)確率超95%。以總部位于深圳的榮耀公司為例，其2024年推出的系統(tǒng)內(nèi)置了“AI換臉檢測(cè)”功能，能夠在視頻通話過程中實(shí)時(shí)分析畫面要素。

這類技術(shù)的原理是什么？榮耀方面向記者解釋：當(dāng)用戶與好友視頻通話時(shí)，系統(tǒng)可在滿足特定條件的情況下，自動(dòng)檢測(cè)對(duì)方人臉是否存在換臉風(fēng)險(xiǎn)。檢測(cè)到風(fēng)險(xiǎn)時(shí)，屏幕會(huì)顯示提示；用戶也可主動(dòng)確認(rèn)檢測(cè)，系統(tǒng)實(shí)時(shí)分析并反饋結(jié)果。

這一技術(shù)路徑的關(guān)鍵在于“端側(cè)”，即所有檢測(cè)在手機(jī)本地完成，無(wú)需上傳云端，又實(shí)現(xiàn)實(shí)時(shí)響應(yīng)。原理上，它通過分析視頻通話中的畫面要素，包括像素點(diǎn)、紋理細(xì)節(jié)、幀率異常等，捕捉AI合成難以完美復(fù)刻的物理破綻。

看懂破綻 守住底線

技術(shù)只是防護(hù)的一部分。研究顯示，在復(fù)雜場(chǎng)景下，現(xiàn)有AI檢測(cè)器的準(zhǔn)確率可能從90%驟降至60%。不法分子還可通過本地運(yùn)行開源模型、修改原始素材等方式規(guī)避平臺(tái)審查。因此，在技術(shù)防御之外，法律懲戒和公眾意識(shí)的提升同樣關(guān)鍵。

今年全國(guó)兩會(huì)上，多位代表委員關(guān)注AI治理。全國(guó)人大代表、美的集團(tuán)副總裁鐘錚明確呼吁治理AIGC虛假營(yíng)銷和數(shù)字人違規(guī)直播亂象。廣東省江門市科恒實(shí)業(yè)股份有限公司鋰電材料事業(yè)部主任研發(fā)工程師丁雪梅針對(duì)談及AI換臉侵權(quán)背后的“維權(quán)難”問題，建議推動(dòng)各大平臺(tái)建立AI侵權(quán)“一鍵投訴”功能。針對(duì)利用AI換臉造謠誹謗、偽造音視頻侵害名譽(yù)、肖像等行為，平臺(tái)可設(shè)立專門受理通道。四川省律師協(xié)會(huì)會(huì)長(zhǎng)李世亮代表呼吁最高人民法院盡快出臺(tái)相關(guān)司法解釋，細(xì)化“AI換臉”侵權(quán)的認(rèn)定標(biāo)準(zhǔn)、平臺(tái)責(zé)任、精神損害賠償?shù)纫?guī)則。

對(duì)普通消費(fèi)者而言，防范AI詐騙需要牢記幾個(gè)原則：涉及轉(zhuǎn)賬，即便看到實(shí)時(shí)視頻，也要通過通訊錄中留存的號(hào)碼二次核實(shí)；不隨意在社交平臺(tái)泄露人臉、聲音等敏感信息；遇到所謂“緊急情況”，務(wù)必放緩節(jié)奏，切勿沖動(dòng)操作。

而對(duì)整個(gè)社會(huì)而言，AI換臉的治理注定是一場(chǎng)“大合唱”而非“獨(dú)角戲”。全國(guó)人大代表黃勇強(qiáng)調(diào)，技術(shù)企業(yè)要履行主體責(zé)任，堅(jiān)守科技向善的底線，主動(dòng)落實(shí)數(shù)據(jù)安全和內(nèi)容審核義務(wù)。網(wǎng)信、公安等部門則需加強(qiáng)聯(lián)合監(jiān)管，對(duì)利用AI換臉等人工智能技術(shù)實(shí)施的違法犯罪行為依法打擊。