2024“AI換臉”威脅研究與安全策略報告

2、“深度偽造”的危 三、“深度偽造”的產(chǎn)業(yè) 1中 3、AI工具提供 （DeepfakeEigenfaces、Fisherfaces、LocalBinaryPatternsLBP，基于子空間的人臉識別的PrincipalComponentAnalysis(PCALinearDiscriminantAnalysisLDA)DeepFace、FaceNet、Dlib等；ActiveShapeModel(ASM)、ConstrainedLocalModel(CLM，基于外觀的人臉關(guān)鍵點(diǎn)檢測的CascadedShapeRegression(CSR、DeepPose等。常用的圖像/視頻合成技術(shù)包括，含基于像素的圖像/視頻合成的PoissonBlending、SeamlessCloning，基于特征的圖像/FaceSwap、DeepFaceLab。(GAN)是一種深度學(xué)習(xí)技術(shù)，可以生成非常逼真的圖像或視頻。GAN由DCGAN、ProGAN、StyleGAN。3DShapefromShadingructurefromMotion等。AI2024年業(yè)務(wù)欺詐1-1AI202412億港元。該員工收到一封偽裝成公司總部1-2：香港“AI2202312500萬元贖金，還900%bandeepfakes98%，幾乎都是Musk以及流行歌星泰勒·斯威夫特（TaylorSwift）都因在詐騙視頻中偽造身份而成為受害者。得郭先生信任后，詐騙分子佯裝需要借用郭先生公司的賬戶走賬，成功騙取了郭先生4303上的視頻片段，新聞媒體的采訪報道、公開活動上的演講談話等）組織在2022年經(jīng)歷了“深度偽造”的語音欺詐。202412202311月內(nèi)蒙古包頭市警方全球范圍內(nèi)呈上升趨勢。事實(shí)上，合成身份欺詐占目前所有欺詐行為的85%。此外，英國GDG860萬人使用虛假或他人的身份來獲取商品、服務(wù)或信貸。92%AI的幫助下，詐騙分子使用“深度偽造”技術(shù)欺騙受害者，讓釣魚攻擊更加復(fù)雜，攻擊極難檢測。2023年，深度偽造網(wǎng)絡(luò)3,000%。20227月，美國聯(lián)邦調(diào)查局（FBI）發(fā)出警告稱，越來越多的詐騙分子正在使用“深PII（個人身份信息IT數(shù)App軟件，可以呼叫轉(zhuǎn)移或攔截銀行的客服電話或電第三階段，登錄受害人銀行賬戶。App登錄受害人的銀行賬戶，提1追溯難。IP地址、虛假的設(shè)備信息，沒有明調(diào)查發(fā)現(xiàn)，GitHub（軟件項(xiàng)目托管平臺，用于托管和管理開發(fā)項(xiàng)目的代碼存儲庫、協(xié)Web的平臺）30002232021年，國內(nèi)首部業(yè)務(wù)安全圖書《攻守道——企業(yè)數(shù)字業(yè)務(wù)安全風(fēng)險與防范》認(rèn)為，IP。IP地址就是用戶上網(wǎng)時的網(wǎng)絡(luò)信息地址。該類工具是能夠自動調(diào)用全球的動功能，能夠快速無縫切換不同區(qū)域的IP地址。模擬器。GPS定位就是用戶使用網(wǎng)絡(luò)服務(wù)時所處的地理位置信息，利用模擬軟件、第改機(jī)工具。設(shè)備的型號、串碼、IMEI等具有唯一性，利用改機(jī)工具能夠從系統(tǒng)層面劫來設(shè)備的屬性信息。一般來說，2～31000個設(shè)備屬性。315晚會”曝光的某公司云控系統(tǒng)就是該工具。IP地址、頻繁更換設(shè)備屬性等出現(xiàn)異常AI技術(shù)與人工審核人臉反欺詐系統(tǒng)，防范“深度偽造”的虛假視頻和虛假圖AI取證工具在調(diào)查和歸因“深度偽造”內(nèi)容方面發(fā)揮著至關(guān)重要的作用，這些工AI和“深度偽造”技術(shù)的AI模型的持續(xù)研究、開發(fā)和更新對于在日益復(fù)雜的弊行為，例如運(yùn)營商信息、系統(tǒng)信息、硬件信息、用戶行為、CPU指令以及模擬器特征等。IP行IP短時間大量聚集、同一渠道中老設(shè)備型號占比異常、同一渠道中老操作據(jù)、激活數(shù)據(jù)等，沉淀并維護(hù)對應(yīng)黑白名單數(shù)據(jù)，包括用戶ID、手機(jī)號、設(shè)備等維度的黑AI挖掘出潛在風(fēng)險賬戶。Xintell智能模型平臺對隱匿、AIAI治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。全球AI的安全監(jiān)管。（1）2023713日，國家網(wǎng)信辦聯(lián)合國家有關(guān)部門公布《生成式人工智能服務(wù)管（2）20239月，最高人民法院最高人民檢察院公安部印發(fā)《關(guān)于依法懲治網(wǎng)絡(luò)（3）20231018（4）202431日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《生成式人工智能服務(wù)安（1）20231030日，美國總統(tǒng)拜登發(fā)布《安全、可靠及可信賴的人工智能》行政AI生成內(nèi)容和認(rèn)證官方內(nèi)容的標(biāo)準(zhǔn)，從而保護(hù)美國用戶免受人工智能欺詐和（1）202428AI生成的聲音為非AI生成的虛假和錯誤信息。（1）20236月，歐洲議會通過了《歐盟人工智能法案》授權(quán)草案。該法案將人工智52條第（3）款要求，要求創(chuàng)作者保持透明度。這意味著任何創(chuàng)建或傳播“深度偽（1）2024221日，歐盟人工智能辦公室于成立，標(biāo)志著在歐盟內(nèi)促進(jìn)負(fù)責(zé)任（1）20237月，ACCC（ASIC）（22023有400人報告因在線交易平臺詐騙損失超過800萬澳元（約合520萬美元。澳大利亞競爭和消費(fèi)者委員會（ACCC）副主席卡特里奧娜·洛（CatrionaLowe）表示，這些（1）2023111日，首屆全球人工智能（AI）安全峰會上，28國聯(lián)署關(guān)于人工智AI潛在有害能力及其可能產(chǎn)生的影響，并提供透明度和問責(zé)制。11McAfee、Meta、Microsoft、OpenAI、Snap、TikTokX20家世界領(lǐng)先的科技公司宣布，還認(rèn)為，F(xiàn)acebook應(yīng)該作為騙局的從犯承擔(dān)責(zé)任——因?yàn)樵谑盏絾栴}通知后未能及時刪除FacebookAI生成的內(nèi)容都可能顯示一個圖標(biāo)，清楚地然而，包括Facebook、YouTube和TikTok在內(nèi)的主要平臺的政策規(guī)定，他們只會在“嚴(yán)重17項(xiàng)政策。3、AIAIAI工具提AI工具提供商可能很快就會被要求這樣做。例如，最近出臺的《歐盟人工智能法案》要求AI工具的提供者有義務(wù)以允許檢測合成/虛假內(nèi)容的方式設(shè)計(jì)這些工具、增加數(shù)字水印、AI水印的工作原理是將獨(dú)特的信號嵌入到人工智能模型的輸出中，此信號可以是圖像或文本，旨在將內(nèi)容標(biāo)識為AI生成的內(nèi)容，以幫助他人識別有效識別。3