每經編輯 張錦河    

近日，內蒙古包頭等多地出現AI換臉新騙局，單筆被騙金額高達400餘萬，引發廣泛關注。

5月24日，中國互聯網協會發文提醒，不法分子利用AI技術，通過聲音合成，僞造成特定人物的聲音，通過AI換臉，僞裝成特定人物，實時與他人進行視頻通話。更換後的面部表情自然，以假亂真，能夠冒充他人身份聯繫被害人，博取被害人信任後實施詐騙。面對利用AI技術的新型騙局，廣大公衆需提高警惕，加強防範!

據中新經緯，目前製作一套“露臉且說話”視頻成本低至數十元，只需提供正面照就能生成視頻，不僅眼睛、嘴巴、頭會動，如果提供文字口型也能對上，一個晚上就能完工。有商家稱用照片生成一段1分鐘時長的視頻僅需30元左右。如果視頻時間短。質量要求不高几塊錢一段都可以。

圖片來源：視覺中國-VCG111424718601

中國互聯網協會：警惕！“AI換臉”新騙局

據中國互聯網協會5月24日消息，今年以來，ChatGPT和GPT-4等技術的應用，成爲了信息科技領域的熱點，引起公衆對AI技術的廣泛關注和熱情。但伴隨着深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行爲屢見不鮮。

近期，包頭市公安局電信網絡犯罪偵查局發佈一起使用智能AI技術進行電信網絡詐騙的案件。不法分子利用AI技術，通過聲音合成，僞造成特定人物的聲音，通過AI換臉，僞裝成特定人物，實時與他人進行視頻通話。更換後的面部表情自然，以假亂真，能夠冒充他人身份聯繫被害人，博取被害人信任後實施詐騙。

面對利用AI技術的新型騙局，廣大公衆需提高警惕，加強防範!

01 做好個人信息安全第一責任人

1、加強個人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放於手機內。

提示：發現APP過度、強制收集個人信息，請至12321.cn投訴。

2、陌生鏈接不要點,陌生軟件不要下載,陌生好友不要隨意添加,不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開啓手機屏幕共享。

3、做好個人防護，安裝安全軟件，防止手機和電腦中病毒。對個人賬戶的安全狀況保持警惕，尤其是陌生設備的登陸情況，防止微信、QQ等被盜號給親朋好友帶來麻煩。

4、對於不常用的APP，建議卸載前註銷個人帳號。

△提示：APP不提供個人帳號註銷方式，或爲註銷帳號設置各類障礙的，請至12321.cn投訴。

02 遠程轉賬務必需要多重驗證，把好“錢袋子”

如果有人自稱“家人”“朋友”“老師”“領導”通過社交軟件、短信、電子郵件等以“手機掉水裏了，學校需要緊急交輔導班學費”“人在境外旅遊，需要幫忙買機票”“給領導辦私事，需緊急轉賬”“遭遇車禍，需要馬上手術”“情況特殊，需要過橋資金拆借”等各種方式和理由誘導你轉賬匯款，務必第一時間提高警惕！

在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式覈實確認，不要僅憑單一溝通渠道未經覈實就直接轉賬匯款！無論對方是誰！

△提示：遭遇詐騙信息，請至12321.cn反詐專欄舉報，如發生資金損失請及時報警。

一直以來，中國互聯網協會不斷推進行業自律，積極開展防範治理電信網絡詐騙工作。2023年6月14-16日，中國互聯網協會將組織舉辦“2023年電信網絡詐騙治理工作培訓”，解讀電信網絡詐騙治理法律法規，分析研判電信網絡詐騙治理的重點工作和發展形勢，助力企業落實防範治理電信網絡詐騙責任，提高管理能力，促進行業健康發展。

四川綿陽：騙子利用AI換臉和擬聲技術佯裝領導，一市民被騙40餘萬

5月23日，四川綿陽市反電信網絡詐騙中心發佈預警稱，近日，多地連續發生多例AI詐騙案例。

典型案例:市民王先生突然接到主管單位領導視頻電話，稱其朋友想借王先生公司賬戶過賬40餘萬，還說該款項隨後就轉到王先生公司對公賬號，基於對領導的信任，加上已經視頻聊天覈實了身份，王先生立即就把40餘萬轉至指定賬戶上，隨後發現上當受騙。這是騙子利用智能AI換臉和擬聲技術，佯裝領導對他實施了詐騙。

警方提示

1、視頻電話眼見、耳聽未必屬實，務請多方覈實相關信息。

2、保護好隱私信息，不輕易提供人臉指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。

3、未經覈實請勿大額轉賬匯款。

內蒙古包頭：科技公司老闆10分鐘被騙走430萬元

據平安包頭官方微信號5月20日消息，5月8日，包頭市公安局電信網絡犯罪偵查局發佈一起使用智能AI技術進行電信詐騙的案件。

4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯繫到他，兩人經過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上，還把銀行轉賬底單的截圖通過微信發給了郭先生。基於視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，於11時49分先後分兩筆把430萬元給對方打了過去。錢款轉賬後，郭先生給好友微信發了一條消息，稱事情已經辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去，而且當時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放鬆了戒備”，郭先生說。

4月20日12時21分，包頭市電信網絡犯罪偵查局接到福建省福州市公安局刑偵支隊的外協請求，稱福建省一知名民營企業負責人被騙走430萬元，而涉案的銀行卡爲包頭市蒙商銀行對公賬戶，希望包頭警方能夠幫忙進行緊急止付。

包頭市公安局電信網絡犯罪偵查局立即啓動“包頭市警銀聯動綠色查詢機制”，當班民警以最快速度完成核查、報審程序，第一時間將涉案卡的信息通報至蒙商銀行相關部門。在銀行的全力協助下，僅用時10分鐘，就將該詐騙賬戶內的336.84萬元被騙資金成功攔截。

同時，向福州市公安局警方提供了剩餘款項93.16萬元資金流出信息，爲深入突破該案剩餘資金查找提供了突破方向。目前，福建警方與包頭警方對此資金正在全力追繳當中。

每日經濟新聞綜合自中國互聯網協會、平安包頭官方微信號、中新經緯

封面圖片來源：視覺中國-VCG111421680440