今年以來(lái)，ChatGPT和GPT-4等技術(shù)的應(yīng)用成為信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注和熱情。昨日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)文稱(chēng)，伴隨著深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。北京青年報(bào)記者查詢(xún)發(fā)現(xiàn)，國(guó)內(nèi)多地警方已經(jīng)發(fā)布了相關(guān)案例。

　　利用“AI換臉”虛假視頻詐騙已發(fā)生多起

　　據(jù)內(nèi)蒙古包頭警方消息，近日，福建省一知名企業(yè)家被境外詐騙團(tuán)伙騙走430萬(wàn)元。在得知涉案的一張銀行卡在包頭市一銀行后，包頭警方立即介入，僅用10分鐘便將錢(qián)款及時(shí)控制住，為受害人止損336萬(wàn)余元。

　　據(jù)當(dāng)事人郭先生介紹，4月20日當(dāng)天，騙子冒充他的至交好友，通過(guò)微信聯(lián)系到他，視頻中謊稱(chēng)一個(gè)朋友在外地招標(biāo)，需要430萬(wàn)元，且需要公對(duì)公賬戶(hù)過(guò)賬，想要借用郭先生公司的賬戶(hù)走一下賬?！皬念^至尾都沒(méi)有和我提借錢(qián)的事情，就說(shuō)會(huì)先把錢(qián)給我打過(guò)來(lái)，再讓我給他朋友賬戶(hù)轉(zhuǎn)過(guò)去。因?yàn)樵谝曨l中也確認(rèn)了面孔和聲音，所以我放松了戒備。當(dāng)時(shí)已經(jīng)臨近中午，對(duì)方又說(shuō)招標(biāo)款12點(diǎn)前必須到賬，基于對(duì)好友的信任，還沒(méi)等錢(qián)到我的賬戶(hù)，我就先把這430萬(wàn)元給對(duì)方打了過(guò)去?！惫壬f(shuō)。

　　錢(qián)款打過(guò)去后，郭先生給好友發(fā)了一條微信，稱(chēng)事情已經(jīng)辦妥。到對(duì)方回過(guò)來(lái)是一個(gè)問(wèn)號(hào)，一問(wèn)才知道自己竟遇上了AI換臉的騙局。

　　多地警方密集提醒 涉及轉(zhuǎn)賬交易要格外留意

　　北京青年報(bào)記者注意到，針對(duì)AI換臉詐騙的案件，近期國(guó)內(nèi)各地警方密集進(jìn)行了提醒。

　　溫州警方表示，不法分子通常會(huì)先盜取QQ或微信號(hào)，從QQ相冊(cè)或微信朋友圈內(nèi)找到號(hào)主照片、視頻、聲音等，大面積找好友聊天，看到有回復(fù)的，使用“AI換臉”技術(shù)與之進(jìn)行視頻聊天，再找各種理由騙錢(qián)，受害人往往看到視頻聊天界面后，以為是好友本人，便相信轉(zhuǎn)賬。

　　武漢警方提醒，在涉及轉(zhuǎn)賬交易等行為時(shí)，個(gè)人要格外留意。

　　對(duì)自稱(chēng)“領(lǐng)導(dǎo)”“朋友”的轉(zhuǎn)賬要求務(wù)必提高警惕

　　中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)則表示，如果有人自稱(chēng)“家人”“朋友”“老師”“領(lǐng)導(dǎo)”，通過(guò)社交軟件、短信、電子郵件等，以各種方式和理由誘導(dǎo)你轉(zhuǎn)賬匯款，務(wù)必第一時(shí)間提高警惕。在AI時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來(lái)這樣的典型場(chǎng)景，要通過(guò)回?fù)軐?duì)方手機(jī)號(hào)等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道，未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款，無(wú)論對(duì)方是誰(shuí)。

　　案例

　　AI除了換臉換聲扮好友還能合成不雅視頻敲詐

　　浙江溫州市公安局也通報(bào)過(guò)一起利用AI換臉技術(shù)進(jìn)行詐騙的案件。在這起案件中，陳先生收到了身處國(guó)外的好友“阿誠(chéng)”發(fā)來(lái)的私信，在添加了對(duì)方的新微信后，對(duì)方表示自己最近準(zhǔn)備回國(guó)，但購(gòu)買(mǎi)機(jī)票的過(guò)程中遇到了難題，回國(guó)的機(jī)票已付了8000元定金，受到國(guó)際漫游限制，聯(lián)系不上國(guó)內(nèi)航空公司的經(jīng)理，希望將剩余的錢(qián)轉(zhuǎn)給陳先生，請(qǐng)他幫忙聯(lián)系經(jīng)理進(jìn)行付款。

　　對(duì)于此人的身份，陳先生有所懷疑，但對(duì)方隨后打來(lái)視頻電話(huà)，視頻中“阿誠(chéng)”和陳先生揮著手打招呼很是親切，沒(méi)過(guò)一會(huì)兒，對(duì)方就掛斷了視頻電話(huà)，稱(chēng)國(guó)外網(wǎng)絡(luò)很卡。陳先生漸漸打消了心中的顧慮，并在“阿誠(chéng)”一步步的“指導(dǎo)”下添加了“航空公司經(jīng)理”的微信替“阿誠(chéng)”支付了4.9萬(wàn)元。經(jīng)過(guò)警方核實(shí)，騙子用AI換臉技術(shù)，利用阿誠(chéng)社交平臺(tái)上先前發(fā)布的視頻，截取了面部視頻畫(huà)面并進(jìn)行了“換臉”，從而對(duì)陳先生進(jìn)行了詐騙。

　　此外，江蘇常州警方也通報(bào)了一起類(lèi)似案例。小劉的初中同學(xué)“小韓”通過(guò)QQ聯(lián)系小劉，準(zhǔn)備借6000元錢(qián)， “小韓”先發(fā)來(lái)一條語(yǔ)音，聲音很像本人，后來(lái)又給小劉打了一通視頻電話(huà)。小劉轉(zhuǎn)完錢(qián)后越想越不對(duì)勁，覺(jué)得“小韓”表情僵硬，于是撥打小韓的電話(huà)，沒(méi)想到小韓的QQ賬號(hào)被盜了

　　北青報(bào)記者注意到，除了通過(guò)AI換臉，然后視頻通話(huà)的手段直接詐騙錢(qián)財(cái)，還有詐騙分子通過(guò)AI不雅視頻的方式進(jìn)行詐騙，詐騙分子用AI技術(shù)合成詐騙對(duì)象的個(gè)人不雅照，然后以舉報(bào)、散播等手段威脅當(dāng)事人，要求詐騙對(duì)象匯款。

　　在溫州警方通報(bào)的一起案件中，溫州的陳先生遭遇“AI換臉”敲詐，他收到一封“私家偵探”的敲詐信，同時(shí)附帶了他與一名女子的所謂的不雅視頻，信件中對(duì)方要求陳先生收件后速與其聯(lián)系，不要心存僥幸，并威脅將視頻散播到互聯(lián)網(wǎng)。因?yàn)橹肋@是一段合成視頻，但不知如何處理，陳先生向警方求助。目前此案件正在調(diào)查中。

　　本組文/本報(bào)記者 李鐵柱 (來(lái)源：北京青年報(bào))