電信網絡詐騙治理與人工智能應用白皮書

1、目錄 HYPERLINK l _bookmark0 一、人工智能在電信網絡詐騙治理中的積極影響及技術實踐1 HYPERLINK l _bookmark1 （一）人工智能在電信網絡詐騙治理中的積極影響1 HYPERLINK l _bookmark2 （二）人工智能在電信網絡詐騙治理中的技術應用3 HYPERLINK l _bookmark3 （三）人工智能在電信網絡詐騙治理中的實踐應用6 HYPERLINK l _bookmark4 二、人工智能給電信網絡詐騙治理帶來的風險與挑戰(zhàn)9 HYPERLINK l _bookmark5 （一）電信網絡詐騙實施的四個主要環(huán)節(jié)10 HYPERLINK l _

2、bookmark6 （二）在“精準信息獲取”環(huán)節(jié)10 HYPERLINK l _bookmark7 （三）在“詐騙腳本設計”環(huán)節(jié)12 HYPERLINK l _bookmark8 （四）在“通訊聯絡誘導”環(huán)節(jié)13 HYPERLINK l _bookmark9 （五）在“資金支付轉移”環(huán)節(jié)15 HYPERLINK l _bookmark10 三、人工智能背景下國內外電信網絡詐騙治理動態(tài)15 HYPERLINK l _bookmark11 （一）國際主要國家和地區(qū)治理經驗做法16 HYPERLINK l _bookmark12 （二）國內信息通信行業(yè)主要治理舉措與成效19 HYPERLINK l

3、_bookmark13 四、人工智能背景下治理工作面臨的難點與問題26 HYPERLINK l _bookmark14 （一）在法律法規(guī)方面26 HYPERLINK l _bookmark15 （二）在行業(yè)管理方面27 HYPERLINK l _bookmark16 （三）在技術利用方面27 HYPERLINK l _bookmark17 （四）在宣傳引導方面28 HYPERLINK l _bookmark18 （五）在協(xié)同治理方面29 HYPERLINK l _bookmark19 五、人工智能背景下電信網絡詐騙治理的措施建議29 HYPERLINK l _bookmark20 （一） 明晰

4、治理思路，堅持發(fā)展與安全并舉30 HYPERLINK l _bookmark21 （二） 完善法律法規(guī)，加大執(zhí)法與懲戒力度31 HYPERLINK l _bookmark22 （三） 強化行業(yè)監(jiān)管，推進源頭與綜合治理31 HYPERLINK l _bookmark23 （四） 加快技術研發(fā)，提高識別與反制能力32 HYPERLINK l _bookmark24 （五） 創(chuàng)新宣傳方式，增強防范與安全意識33 HYPERLINK l _bookmark25 （六） 促進協(xié)同治理，深化跨行業(yè)與跨國合作34一、人工智能在電信網絡詐騙治理中的積極影響及技術實踐（一）人工智能在電信網絡詐騙治理中的積極影響

5、隨著云計算、大數據、移動互聯網的不斷發(fā)展，人工智能進入到了一個全新的發(fā)展階段：基礎算力不斷增強，核心算法不斷突破，應用場景不斷豐富，成為引領創(chuàng)新發(fā)展的戰(zhàn)略性技術。人工智能技術的蓬勃發(fā)展帶來了強大的產業(yè)拉動效應，不斷加速傳統(tǒng)產業(yè)的數字化、智能化進程，驅動產業(yè)優(yōu)化升級和生產力快速提升，在推進社會進步、經濟發(fā)展、人民生活質量提高等方面產生了重大而深遠的影響。同時，人工智能技術的發(fā)展也為電信網絡詐騙治理工作帶來了積極影響：隨著以大數據分析、機器學習、模式識別、知識圖譜為代表的人工智能技術的部署應用，電信網絡詐騙技術防范系統(tǒng)的識別準確度更高、監(jiān)測攔截實時性更強、防護覆蓋面更大，為治理工作的不斷推進提供了

6、強大動力，有效降低了電信網絡詐騙帶來的風險與危害。1、防范識別準確度提高對詐騙信息和行為的判定識別是防范治理技術工作的基礎和前提。相比于人工判定方式，人工智能在詐騙識別方面的應用有效地提高了判定的準確度及可靠性。首先，通過人工智能技術可以對海量歷史及實時數據進行多維度分析，挖掘不同數據間的內在聯系，使得發(fā)現隱蔽詐騙線索和行為的能力快速提升。其次，通過對已有詐騙事件和數據的不斷迭代學習，人工智能技術可以及時全面掌握各類詐騙活動的行為特征，從而準確識別具備相同和相似特特征的疑似詐騙信息或行為。2、監(jiān)測攔截實時性加強對電信網絡詐騙行為進行實時預警攔截是防范治理工作的一個重要方面。利用人工智能技術通過

7、對電信網、互聯網、金融支付等各方數據的實時分析和深度計算，能夠極大提升詐騙信息預警攔截的效率和及時性。從監(jiān)測攔截角度看，現有人工智能技術可以實時監(jiān)控疑似手機黑卡的詐騙流通軌跡，快速研判涉詐行為，實施對手機黑卡或涉詐號碼的秒級溯源和分鐘級關停等處置措施。從預警信息推送角度看，依托人工智能的強大算法和計算能力，可以針對疑似涉詐網站、APP 的活動行為進行實時記錄分析，并根據相關模型對疑似高危受害用戶進行實時的預警提醒。3、反詐防護覆蓋面變大隨著基于人工智能的防范治理能力不斷提升，反詐技術的防護范圍得到極大擴展。從數據分析角度看，人工智能技術能夠對海量電信和網絡數據進行關聯分析并提取有效信息，對疑似

8、受害人群和疑似詐騙團伙的搜索查找覆蓋范圍大大增加。從通訊聯絡角度看，基于人工智能的防范治理技術覆蓋到了網絡側、業(yè)務側和用戶終端側等信息通信過程的各個環(huán)節(jié)，極大地提高了反詐安全防護的用戶覆蓋范圍。從詐騙信息監(jiān)測角度看，當前人工智能技術能夠有效識別詐騙文本、圖片、音視頻等各類詐騙信息傳播手段，內容監(jiān)測范圍得到明顯拓展。（二）人工智能在電信網絡詐騙治理中的技術應用1、基于大數據分析的技術應用基于大數據分析的電信網絡詐騙防范治理技術應用以數據挖掘分析結果為驅動，整個過程包括“數據采集、數據處理、數據挖掘” 等多個環(huán)節(jié)。在數據采集和處理層面，主要有三種數據來源：在企業(yè)自有系統(tǒng)中沉淀的數據、在網上采集爬取

9、的數據和從第三方購買的數據。這些數據經過智能化處理清洗后為后續(xù)開展數據分析和挖掘，識別電信網絡詐騙行為，構建完備的技術防范體系奠定了數據基礎。在數據挖掘層面，利用大數據的挖掘能力可以發(fā)現詐騙行為的典型規(guī)律，精準識別詐騙分子和詐騙行為，進而對電信網絡詐騙進行準確預警。圖 1 基于大數據分析的技術應用2、基于機器學習算法的技術應用基于機器學習算法的電信網絡詐騙防范治理技術應用可以分為分類和聚類兩種應用形式。分類算法通過已知的詐騙樣本、案例數據進行模型訓練，在此基礎上對新的行為事件進行涉詐風險分析預測。聚類算法通過全局分析和高維空間聚類，在無詐騙樣本數據的情況下找出數據中隱含的共同特征，從而完成大規(guī)

10、模關聯詐騙團伙的自動發(fā)現。通過機器學習兩種算法的互相結合，可以有效提升發(fā)現識別詐騙行為和團伙的技術能力。以涉詐互聯網社交賬戶識別發(fā)現為例，根據詐騙行為在多維空間向量上距離相近的特征，通過構建以登錄時間、瀏覽器類型、IP 地址、GPS 地址、昵稱修改等為特征的多維空間向量， 利用聚類算法可以將疑似詐騙行為或賬戶聚為一組并抽取該群組的共性信息生成訓練數據?；诰垲愃惴ㄉa的訓練數據，分類算法能夠在此基礎進行模型訓練并進一步發(fā)現共性樣本群組之外的詐騙行為和賬戶。兩種算法相輔相成，為詐騙風險預警提供高效的檢測和研判能力。3、基于模式識別的技術應用基于模式識別的電信網絡詐騙防范治理技術聚焦已知詐騙行為的

11、樣本數據特征，通過分析歸納得到詐騙行為的多維度特征屬性并形成涉詐資源模板庫，結合自然語言處理、生物特征識別及大數據挖掘分析等技術，對目標對象進行相似度交叉比對分析，研判得出目標對象的涉詐風險，在詐騙電話、詐騙網站的判定識別領域有廣泛應用。以詐騙網址檢測識別為例，在提取目標網址的標題、關鍵詞及頁面標簽元素等多種特征屬性的基礎上，通過計算目標網址與詐騙資源模板庫中的網址樣本之間的特征距離，判斷兩者之間的相似度。一般來講，兩者特征距離越近說明相似程度越大，目標網址涉嫌詐騙的可能性就越大。圖 2 詐騙網址監(jiān)測識別4、基于知識圖譜的技術應用知識圖譜是一種基于圖的數據結構，可以看作是由數據繪制出來的一張知

12、識圖。在防范治理應用中，知識圖譜技術能夠聚合關聯多種數據源，針對監(jiān)測目標分析識別其脈絡、趨勢以及特征，在關鍵詐騙信息搜索、賬號涉詐風險評估、詐騙團伙研判、異常行為分析等方面具有重要應用。以銀行卡全周期異常行為分析為例，通過知識圖譜技術對全周期內的銀行卡關聯數據進行分析，并以圖的方式進行數據融合及可視化，從而找到銀行卡異常行為的內在關聯，提升對詐騙資金流的打擊效率。相比于人工核驗，其效率提升 10 余倍，準確率約為 99.5%。圖 3 基于知識圖譜的銀行卡異常行為分析（三）人工智能在電信網絡詐騙治理中的實踐應用結合電信網絡詐騙治理實踐，目前人工智能技術在詐騙電話檢測、惡意網址攔截、詐騙文本識別、

13、詐騙風險預警等場景下已經有深入的應用及探索。1、詐騙電話檢測電話詐騙是電信網絡詐騙中的突出類型，詐騙數量較多，詐騙內容花樣層出不窮，社會影響惡劣。及時盡早地感知、發(fā)現詐騙電話， 是減少此類電信網絡詐騙活動損失必不可少的方法。由于詐騙分子掌握大量用于詐騙的號碼，傳統(tǒng)的基于號碼的阻斷策略容易被繞過，及早發(fā)現詐騙電話的難度在不斷增大。人工智能時代，利用大數據分析、模式識別等技術可以對海量通信數據進行預處理和數據融合分析研判，從而進行全天候全方位詐騙電話檢測，能夠有效增強針對電話詐騙的防御和反制能力。以極限元人工智能語音識別、語音關鍵詞檢索技術為例，其推出了詐騙電話檢測技術解決方案，可以有效檢測識別郵

14、包快遞、社?？?、信用卡等十余種詐騙場景及類型。通過人工智能語音關鍵詞檢索技術對疑似詐騙電話進行匹配識別，不僅提高了檢索識別效率，還能有效避免誤判增加識別準確率。2、惡意網址攔截惡意網址是指惡意種植木馬、病毒等惡意程序的網站，是目前詐騙分子用于竊取用戶個人信息、實施網絡勒索詐騙的重要方式。人工智能技術用于惡意網址監(jiān)測攔截主要基于機器學習的分類和聚類方法。分類方法主要是收集樣本數據進行歸一化處理后構造分類器識別是否惡意：首先是根據已經標記的 URL 數據集提取靜態(tài)特征（主機、URL、網頁信息等）和動態(tài)特征（瀏覽器行為，網頁跳轉關系等）， 對提取特征進行歸一化處理后通過算法構造分類器來識別惡意網站。

15、聚類方法略有不同：首先在網頁采集的 URL 數據集中提取連接關系、URL 特征、網頁文本信息等特征，再根據聚類算法模型將 URL 數據集劃分為若干聚類，相似度較高的 URL 數據會在同一聚類中，反之則歸為不同聚類，最后對已標記的聚類結果識別待測URL，判斷其是否為惡意網頁。以騰訊安全云庫為例，其利用云端監(jiān)測技術，基于機器學習算法和大數據平臺，進行云端全網海量網址特征比對檢測、頁面相似度分析，同時配備人工審核團隊審核，建立實時更新的黑白樣本庫。在不同的應用場景下，基于海量數據的樣本庫不斷調整和適配算法，最終選取嚴格保證準確率的機器學習模型，在保證及時性的同時，也能達到較好的識別準確率。3、詐騙信

16、息審核過濾詐騙信息包括詐騙文本、詐騙圖片（頭像）、詐騙音視頻等多種內容。其中，以詐騙短信為代表的詐騙文本信息是出現最早、較為突出的詐騙類型，由于成本低、目標用戶范圍廣，頗受詐騙分子青睞。依靠社交網絡平臺傳播的詐騙圖片（頭像）、偽造音視頻等詐騙信息形式則更為復雜，通過合成虛假頭像、語音或視頻能夠偽裝成受騙人群的親人好友，并進而以多種理由話術逐步實施詐騙。人工智能在詐騙信息識別中具有重要作用，通過自然語言處理，計算機視覺，和語音識別等深度學習技術，可以實時分析并判斷消息的可靠性和敏感程度，及早識別出涉詐或偽造內容，將對公眾有危害的信息及早扼殺在搖籃里。以 360 應龍綜合反詐平臺為例，其運用模型算

17、法、人工智能等前沿技術，對疑似詐騙的信息、圖片、賬號進行識別、分類、攔截。高峰時期，在國內單個省份一天能有效識別攔截虛假涉詐信息近 70 萬條。4、受害者發(fā)現預警及時發(fā)現識別高危受害者并進行快速預警提醒是防范阻斷電信網絡詐騙活動，切實保障人民群眾財產安全的重要手段。人工智能的發(fā)展為解決高危受害人發(fā)現及詐騙信息預警提供了可能，通過對電信、網絡數據的融合分析，能夠有效、及時地發(fā)現詐騙活動并進行預警。以阿里錢盾反詐公益平臺為例，通過對涉及詐騙的黑號碼、黑卡等黑名單庫的共享共建，利用人工智能模型算法分析處理用戶的異動情況，不斷更新迭代預警模型，進而形成自動化的詐騙行為和受害用戶的發(fā)現預警的能力，通過對

18、疑似受害用戶的及時預警提醒，大大地降低了群眾資金損失。5、詐騙團伙研判分析當前電信網絡詐騙呈現出團伙化、組織化特點，且詐騙分子往往分布在不同地區(qū)，乃至不同國家，相互勾連配合實施詐騙。檢測識別某一詐騙帳號或某一詐騙分子往往效果不佳，識別詐騙團伙，進行全面的防范治理才是更加高效有用的治理方式。人工智能技術的應用， 可以大大提高詐騙團伙識別能力，助力反電信網絡詐騙工作推進。以騰訊“反詐大腦”為例，通過人工審核清洗出互聯網側精準的電信網絡詐騙舉報數據，經由詐騙團伙識別模型進行團伙識別、聚類分析，將離散的單點舉報聚類成可疑詐騙團伙，輸出詐騙團伙作案設備、嫌疑人、受害人等相關線索，可以有效提高電信網絡詐騙

19、防范治理工作效率。二、人工智能給電信網絡詐騙治理帶來的風險與挑戰(zhàn)人工智能在推動防范治理工作的不斷前進的同時，也開始被不法分子用來實施詐騙，當電信網絡詐騙用上人工智能，往往會擴大詐騙的危害廣度和深度，給防范治理工作帶來一定的風險與挑戰(zhàn)。（一）電信網絡詐騙實施的四個主要環(huán)節(jié)一般來講，電信網絡詐騙活動可以歸結為精準信息獲取、詐騙腳本設計、通訊聯絡誘導、資金支付轉移四個關鍵環(huán)節(jié)。在精準信息獲取環(huán)節(jié)，詐騙分子主要非法竊取或購買社會上各行各業(yè)泄漏的個人信息，包括身份證信息、電話號碼、家庭地址，以及網絡賬號和密碼、銀行賬號和密碼等信息。目前看，個人信息泄露是精準詐騙的根源。在詐騙腳本設計環(huán)節(jié)，詐騙分子模擬真

20、實的經濟社會活動場景，精心設計各種詐騙腳本，如近期高發(fā)的代辦信用卡、兼職刷單、冒充網購客服、冒充公檢法等詐騙案件。在通訊聯絡誘導環(huán)節(jié)，詐騙分子通過電話、短信、互聯網等通訊渠道聯絡受害人，利用之前設計的詐騙腳本與獲取的受害人個人信息，騙取受害人信任進而實施詐騙。在資金支付轉移環(huán)節(jié)，詐騙分子引導受害人通過銀行轉賬、網上支付等方式向其指定賬戶轉款，再經由預先設計的詐騙分贓銷贓渠道快速從指定賬戶中轉移受害人資金。（二）在“精準信息獲取”環(huán)節(jié)在“精準信息獲取”環(huán)節(jié)，人工智能加劇個人隱私泄露。一是借助人工智能技術更容易通過網絡攻擊破壞系統(tǒng)并竊取數據。隨著機器學習算法研究的推進，智能軟件技術快速發(fā)展，使信息

21、竊取更為便捷。從近幾年多起侵犯公民個人信息案件看，犯罪團伙往往以人工智能軟件為犯罪工具，通過“撞庫”等方式，非法獲取在網站后臺存儲的用戶注冊信息。在人工智能的幫助下，智能惡意軟件攻擊效率更高，針對性更強，可輕易破壞受害者的防御系統(tǒng)，獲取系統(tǒng)中的個人信息，例如聊天記錄、家庭關系、個人習慣、音頻視頻等。二是利用人工智能技術可獲取大量用戶生物特征信息。近期走紅網絡的“ZAO”、DeepFakes 和DeepNude 等換臉 APP，用戶借助 AI 技術只需要一張正臉照，就可以替換為影視作品或者小視頻中的人物， 生成以自己為主角的視頻片段。但同時關于換臉的安全性及隱私性問題，很快引起了社會的廣泛討論和

22、關注。用戶如果想要下載或分享換臉視頻，則需要在攝像頭前進行張嘴、眨眼、轉頭等動作進行驗證， 這一過程中搜集了用戶的面部特征等核心個人信息。生物特征信息的泄露是永久、不可逆的，也就意味著對信息濫用者來說，存在著“一次竊取，永久有效”的“超便捷性”和“超高性價比”。三是利用人工智能技術“曬密撞庫”精準提取個人重要信息。2018 年 10 月，蘋果 APP Store 爆出大規(guī)模的“免密”盜刷事件，主要原因是不法分子進行“曬密撞庫”導致的個人信息泄露。所謂“曬密撞庫”就是不法分子在竊取網站數據庫后，通過驗證的方式篩選賬號密碼等對應的有價值數據。利用圖像識別技術的“打碼平臺”，提供圖片驗證碼自動識別服

23、務，為批量識別、提高“曬密”效率、突破驗證碼安全體系起到了關鍵作用，該平臺識別精準度極高，驗證碼識別正確率達 95%以上，實現了批量曬密撞庫的功能。四是獲取個人信息的途徑更加多樣化，方式更加隱蔽。劍橋大學的一項最新研究表明，利用人工智能技術可以通過“偷聽”獲取個人信息。如當用戶輕敲手機和平板電腦的屏幕時會產生聲波，這些聲波通過設備的內置麥克風收集、恢復，就可“聽到”敲擊屏幕的聲音， 結合人工智能算法，聽到的聲音與鍵盤位置關聯，就可實現對用戶信息的“偷聽”。另外，當前智能家居市場興起，涌現出大量被聲音控制的產品和控制產品的軟件，均存在竊取隱私的風險。不法分子利用人工智能技術，將智能手機與智能家居

24、變成一張無孔不入的網，將用戶個人隱私網羅其中。（三）在“詐騙腳本設計”環(huán)節(jié)在“詐騙腳本設計”環(huán)節(jié)，利用人工智能技術設計定制化腳本、精準選取受害人。一是針對特定人群產生定制化腳本。人工智能技術能夠越來越容易精確的模仿一個人，越來越多的語音交互程序會讓特定人的聲紋更容易被收集建立。智能音箱越來越熟悉主人聲音和身份賬號背后的關聯。對于人工智能，最大的威脅，并不是替代人類的工作崗位，而是經過大量的數據輸入和深度學習之后，計算機可以準確判斷一個人的喜好、狀態(tài)甚至模擬人類做出決策。2019 年 12 月 12 日，新華社首個智能化編輯部正式建成并投入使用，開啟了一場新聞生產與傳播的智慧革命，“雙十一”期間

25、，阿里巴巴智能設計平臺“魯班”自主設計超過四億張海報，給用戶展現“千人千面”的購物界面。通過對特定人群的行為特征的訓練學習，人工智能系統(tǒng)同樣可以生產出千萬個定制化的詐騙腳本。二是利用人工智能技術精準篩選受害人。隨著人工智能應用的發(fā)展,公民個人信息在采集、存儲和處理的方式上發(fā)生了很大變化。大量的個人信息被采集下來，組成一個多維度智能數據庫，這些信息被深度地整合分析，挖掘出更有價值的信息。通過分析公眾發(fā)布在網上的各類信息，詐騙分子會根據所要實施的騙術對人群進行篩選，從而選出目標人群。例如實施情感詐騙時，可以篩選出經常發(fā)布感情信息的人群；實施金融詐騙時，可以篩選出經常搜集投資信息的人群。（四）在“通

26、訊聯絡誘導”環(huán)節(jié)在“通訊聯絡誘導”環(huán)節(jié)，人工智能使通訊聯絡手段更加隱蔽， 詐騙信息傳播更加精準。一是機器人的大量使用讓溝通人力成本更低。以機器人撥打詐騙電話為例，應用深度學習技術，將接聽人問題自主學習進知識庫，并隨著交互數據的不斷累計總結，自動更新維護。同時，基于語音識別、自然語音處理、語音合成三大技術支持，人機交互流暢自然。人工撥打方式每人每天可以打 300-500 個電話，而一個外呼機器人每天最多可打 5000 個電話，人力成本降低 80%，工作效率提升 200%。而聊天機器人軟件，一個人可以同時控制著幾十個端口，在微信、婚戀網站中假裝成各種“美女”，和對方聊天交友，批量“談戀愛”，不少人

27、就被這些“虛擬美女”誘惑上當受騙。另外，一個充分利用人工智能的 8 人釣魚團隊能發(fā)揮 8000 人的水平，人工操作成本被大大的縮減。二是通訊聯絡方式隱蔽性更強。利用人工智能技術進行聲音合成、換臉變聲，甚至連憤怒、高興等不同語氣情緒都能夠做到惟妙惟肖。用偽造的聲音或視頻與受害人聯系，可信度高、迷惑性強，實現以假亂真。2018 年底，河北發(fā)生一起微信語音轉發(fā)詐騙，不法分子利用人工智能技術通過提取語音文件，轉發(fā)他人語音實施詐騙。據每日郵報信息，今年 3 月份在英國曝出詐騙分子利用人工智能語音模仿軟件冒充某能源公司高層，騙取子公司CEO 22 萬歐元?；?AI 的惡意軟件還可以搜索攻擊對象的電子郵件

28、與其他文件，模仿受害者的寫作風格，發(fā)送真假難分的釣魚信件實施詐騙。三是非法獲取號碼資源效率更高。不法分子利用人工智能技術主要為突破企業(yè)安全策略，進行技術對抗。在人工智能技術的應用初期， 不法分子主要通過腳本控制大量的設備進行擬人化操作，防止僵尸賬號被企業(yè)安全策略打擊，比較典型的是通過群控框架及腳本，控制上百甚至上千臺手機組成手機墻，保持帳號活躍性，偽裝成普通用戶帳號?，F階段，不法分子已利用人工智能技術突破企業(yè)驗證碼體系，進行惡意、批量注冊，以獲取儲備號碼資源，提供給詐騙分子使用。以打碼為例，在人工智能技術應用下，不法分子每秒可破解驗證碼次數達千余次，且成功率在 90%以上，降低了突破企業(yè)驗證碼

29、安全策略的成本。四是給信息源頭治理和打擊帶來挑戰(zhàn)。從治理實踐看，不法分子不斷利用新型技術設備實施詐騙，對抗攔截封堵，逃避追查打擊。如詐騙分子利用智能群呼網關（如 GoIP、SIMBANK 等），通過遠程操控、機卡分離實現詐騙呼叫異地落地，并使用智能化策略隱藏自身網絡、業(yè)務特征，設法規(guī)避公安部門落查打擊和通信行業(yè)技術防范策略，對現有詐騙電話大數據預警處置模型產生沖擊。從監(jiān)測數據看，通過國際互聯網入境的GoIP 詐騙電話達到日均 10 萬余次。（五）在“資金支付轉移”環(huán)節(jié)在“資金支付轉移”環(huán)節(jié)，人工智能的大量使用，給支付環(huán)節(jié)的使用帶來了風險。在“金融科技”迅速興起的大背景下，國內銀行和支付機構紛紛

30、利用人工智能推出新業(yè)務，如“智能語音”支付功能、智能理財機器人、人臉支付、“無感支付”、“刷臉”取款等，實現金融服務的智能化、個性化、定制化。人工智能在支付領域的廣泛應用，同時也存在安全風險：一是信息泄露的風險。應用人工智能必然會面臨海量數據采集和處理，這些數據一旦被成功攻擊，會暴露用戶的個人隱私，也極有可能對客戶造成財產損失，甚至是人身安全。 二是盜刷盜用風險。不法分子通過獲取的用戶面部特征、虹膜、聲紋、指紋等生物特征信息，冒充用戶身份盜刷盜用他人賬戶資金。三、人工智能背景下國內外電信網絡詐騙治理動態(tài)近年來，人工智能技術為防范打擊電信網絡詐騙工作開辟了以“智”圖“治”治理新格局，為促進國家治

31、理體系和治理能力現代化增添了新動能，但同時也逐漸成為詐騙分子實施精準詐騙的“新利器”，為詐騙治理工作帶來新挑戰(zhàn)新風險。為做好詐騙治理工作，各國政府紛紛布局，瞄準精準詐騙實施主要環(huán)節(jié)、關鍵要素，統(tǒng)籌推進詐騙治理工作有序穩(wěn)妥進行。（一）國際主要國家和地區(qū)治理經驗做法從國際上看，換臉換聲詐騙、自動刷單詐騙等一系列利用人工智能技術的新型詐騙模式進入人們的視線，成為當前電信網絡詐騙治理的痛點難點。為防范治理這種新型電信網絡詐騙，世界主要國家和地區(qū)紛紛從深化個人信息保護、提升技術防范能力、強化企業(yè)守法自律、加強警示宣傳教育等方面著手，開展推進打擊防范治理工作，遏制人工智能詐騙活動的泛濫蔓延。注重立法先行，

32、深化個人信息保護制度。一是制定專門性法律法規(guī)。人工智能詐騙實施的關鍵要素是獲取受害者的個人信息，因此個人信息保護是人工智能詐騙治理的源頭。目前全球已有 126 個國家制定了專門針對個人信息保護的法律。2015 年日本出臺個人信息保護法，細化了個人信息保護權相關規(guī)定， 確立了對個人信息保護的一體化監(jiān)督機制。2018 年，歐盟出臺通用數據保護條例，建立了用戶個人信息訪問、修正和刪除請求相關機制，明確指出未取得數據主體的同意，不得使用用戶畫像。隨后， 印度出臺2018 年個人數據保護法案（草案），明確要求數據控制者在使用數據畫像時，要開展數據保護影響評估，否則不得處置。2019 年 6 月，美國國會

33、先后提出了兩部法律草案深度偽造責任法案和2019 年深度偽造報告法案，探索立法應對措施，以防范深度偽造技術潛在濫用風險。2019 年 7 月，美國弗吉尼亞州擴大了正式生效非同意色情法（Nonconsensual pornography law）的修正案，將深度偽造內容納入該修正案。二是加大違法行為懲處力度。歐盟出臺的通用數據保護條例是目前公認全球對個人信息泄露懲罰最嚴格的法律，明確要求在可行的情況下，不得遲于發(fā)現數據泄露后的 72 小時通知主管監(jiān)管部門， 未履行通知義務的企業(yè)將面臨一千萬歐元或全球年營業(yè)額 2%以上的處罰。此外，美國、澳大利亞、英國等西方主要國家和地區(qū)，均在立法中對“數據泄露通

34、知”進行了規(guī)定，美國部分州規(guī)定，民事處罰分為 500 美金到 5 萬美金不等、泄露一次 2500 美金、每天最高 1000 美金三種。2018 年 12 月，美國聯邦議員提出2018 年惡意偽造禁令法案，規(guī)定制作深度偽造內容引發(fā)犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續(xù)分發(fā)的平臺，可處以罰款和/或長達兩年的監(jiān)禁，如果嚴重的煽動暴力或擾亂政府或選舉，監(jiān)禁將長達 10 年。強化技術手段，提升詐騙音視頻識別與攔截能力。一是政府主動出擊，研制開發(fā)偽造視頻攔截工具。2018 年 8 月， 美國國防部積極開展新型詐騙防范技術研發(fā)，依托媒體取證 （Media Forensics）項目，研發(fā)出全球首款

35、“反換臉”AI 刑偵工具，能夠更高效更準確的自動檢測出被修改過的圖片和利用深度偽造技術生成的視頻，防止詐騙分子利用合成信息誘導實施詐騙，斬斷人工智能詐騙黑產鏈條關鍵節(jié)點。2019 年 6 月，美國眾議員在提交美國眾議院審議的情報授權法案中提及要開展深度偽造鑒別技術競賽，法案要求國家情報總監(jiān)通過情報高級研究計劃局局長實施一項有競爭力的獎勵計劃，刺激技術的研究、開發(fā)或商業(yè)化，以自動檢測被機器操縱的媒體。二是各方積極響應，開發(fā)出多項音視頻造假檢測技術。目前，聯合國區(qū)域間犯罪與司法研究所人工智能與機器人中心正在研究檢測虛假視頻的技術。美國賽門鐵克公司正在開發(fā)一種檢測音頻造假的技術，通過該技術可以準確檢

36、查出利用人工智能技術合成的音頻內容。此外，美國的 Facebook 除建立了一個機器學習模型來檢測虛假圖片和視頻外，還與Partnership on AI、微軟以及麻省理工學院、牛津大學、加州大學伯克利分校等美國多所大學合作，發(fā)起了“假視頻檢測挑戰(zhàn)”(Deepfake Detection Challenge)活動，推動創(chuàng)建高質量的深度偽造視頻數據集，促進檢測識別技術的研究與開發(fā)，旨在利用人工智能技術更好地甄別深度偽造和合成內容、開發(fā)對抗深度偽造技術濫用的方法和工具，實現從源頭上遏制人工智能詐騙案件的滋生與蔓延的目的。強化企業(yè)自律，加大對詐騙電話呼叫與轉帳環(huán)節(jié)的管控。一是政府主導，聚力詐騙資金轉

37、帳管理。2019 年 2 月，英國政府聯合銀行業(yè)界、消費者群體等多方力量，發(fā)布了授權推送付款（APP）詐騙自律守則，規(guī)定銀行金融機構若未能達到相關要求而導致客戶遭受 APP 詐騙，則需對客戶損失進行賠償。目前共有包括巴克萊銀行、勞埃德銀行、匯豐銀行、Metro 銀行、蘇格蘭皇家銀行、國民西敏寺銀行、桑坦德銀行與全英房屋抵押貸款協(xié)會在內的 8 家機構簽署加入守則。二是企業(yè)自發(fā)，攜手自動呼叫檢測攔截。2019 年初，美國 AT&T 和Comcast 兩大通信公司攜手，聯合開展 SHAKEN/STIR（安全的電話身份重新訪問/使用令牌安全處理斷言的信息)協(xié)議的驗證，并于 3 月21 日宣布完成了在A

38、T&T 的移動電話網和 Comecast 的VoIP 電話網絡兩個不同網絡間的認證，實現機器人電話的自動檢測與警示。與此同時，AT&T、Verizon 和 T-Mobile 等運營商承諾將在各自網絡中采取措施部署該協(xié)議。加強警示教育，提升民眾防范意識。2018 年，以色列國家網絡管理局（INCD）發(fā)布了“新型網絡攻擊”警告，提醒公眾詐騙分子很可能利用 AI 技術模仿管理層，命令員工進行資金轉移等。同年，澳大利亞稅務局（ATO）發(fā)布了一則警告，提醒公眾有不法分子冒充ATO，并要求被害人使用比特幣或其他加密貨幣支付子虛烏有的稅費。2019 年，奮韓網聯合韓國國家情報院、金融監(jiān)督院等機構針對冒充國家

39、公共機關（大使館、公安局）詐騙以及招人取錢的問題進行聯合宣傳，警示用戶要嚴防人工智能時代各類仿冒詐騙。（二）國內信息通信行業(yè)主要治理舉措與成效基于人工智能的電信網絡詐騙憑借其新穎的詐騙形式、精準的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，已經嚴重影響了社會穩(wěn)定和群眾幸福感。為有效遏制基于人工智能的新型電信網絡詐騙產生蔓延，及時鏟除此類詐騙活動滋生的土壤，我國信息通信行業(yè)積極開展了行業(yè)源頭治理工作：工業(yè)和信息化部作為國務院打擊治理電信網絡詐騙新型違法犯罪工作部際聯席會議工作單位和行業(yè)主管部門，全面貫徹黨中央、國務院有關決策部署，在工信部網安局指導下，信息通信行業(yè)相關企業(yè)單位深入落實主體責任，縱深

40、推進防范治理工作， 形成了全鏈條多層次的治理格局。加強組織部署和任務落實，充分發(fā)揮行業(yè)主管部門引領作用。一是鞏固深化頂層統(tǒng)籌，扎實推進電信網絡詐騙治理邁向新臺階。利用人工智能技術的電信網絡詐騙一般呈現涉及面廣、危害性大、對抗性強三大特點，加強組織領導與統(tǒng)籌布局是保障治理工作有序推進的堅實基礎。工信部高度重視電信網絡詐騙防范治理工作，依托防范打擊通訊信息詐騙工作領導小組，全面負責統(tǒng)籌相關重點任務；時刻關注基于人工智能的電信網絡詐騙新形勢以及演進態(tài)勢，積極研究形成治理新方案新思路；針對當前詐騙治理重點難點，工信部網安局多次組織指導相關專題會議，部署督導人工智能詐騙治理相關工作， 確保治理工作有效推

41、進。同時，為保障促進人工智能在安全領域應用， 工信部發(fā)布促進新一代人工智能產業(yè)發(fā)展三年行動計劃，構建完善以法律法規(guī)、監(jiān)管政策、技術標準、監(jiān)督執(zhí)法為核心的人工智能安全監(jiān)管體系。二是制定出臺相關管理制度，強調個人信息保護與實名登記并重。個人信息保護以及電話實名制作為治理人工智能詐騙的重要手段，已成為當前監(jiān)管部門的治理工作重點。2013 年工信部發(fā)布電信和互聯網用戶個人信息保護規(guī)定（工信部令 24 號）以及電話用戶真實身份信息登記規(guī)定（工信部令 25 號），明確了用戶個人信息保護以及電話實名登記的相關要求。隨后，工信部網安局先后制定出臺工業(yè)和信息化部關于進一步做好防范打擊通訊信息詐騙相關工作的通知（

42、工信部網安函2015601 號文）、關于進一步防范和打擊通訊信息詐騙工作的實施意見（工信部網安函2016452 號文）、工業(yè)和信息化部關于縱深推進防范打擊通訊信息詐騙治理工作的通知（工信部網安函2018157 號文）等文件，明確提出要加強電話用戶實名登記，加強用戶個人信息保護等。截至目前，基于人工智能的用戶實名登記人像比對試點及在線視頻實人認證等工作正在逐步深化落實，用戶實名制信息準確率超過 95%。2019 年 5 月， 工信部網安局制定實施工業(yè)和信息化部辦公廳關于進一步做好2019 年防范治理電信網絡詐騙重點工作的通知（工信廳網安函2019108 號文），明確指出要堅持關口前移，要及時匯總

43、分析電信網絡詐騙樣本模板、關鍵特征等信息，利用大數據技術防范打擊電信網絡詐騙。三是強化通報約談，持續(xù)強化責任落實。近年來，越來越多的詐騙分子利用人工智能技術，借助企業(yè)管理漏洞，實施電信網絡詐騙， 強化監(jiān)督檢查、壓實企業(yè)責任成為行業(yè)監(jiān)管部門事中事后監(jiān)管的主要手段。截至目前，工信部共計下發(fā)電信網絡詐騙風險行業(yè)和重點地區(qū)通報 33 期，累計點名通報問題企業(yè) 60 余次。2019 年 7 月，針對媒體公開報道和用戶曝光的“ZAO”APP 存在數據安全問題，工信部網安局對北京陌陌科技有限公司相關負責人進行了問詢約談，要求其依法依規(guī)組織開展自查整改，并進一步加強新技術新業(yè)務安全評估，積極防范自有業(yè)務平臺被

44、利用實施人工智能電信網絡詐騙。四是建立健全技術手段，鞏固升級詐騙治理聯動防線。善于把人工智能技術運用到預防打擊電信網絡詐騙工作中，是推動治理體系和治理能力現代化的重要舉措，是確保與詐騙分子較量時占得先機、贏得主動的關鍵。為進一步提升電信網絡詐騙發(fā)現、預警和處置能力， 在工信部網安局指導下，地方通信管理局、中國信息通信研究院、國家互聯網應急中心等單位，建設了全國詐騙電話防范系統(tǒng)，初步構建了部、省兩級反詐騙治理技術體系，并持續(xù)推進基于通話行為和語義內容的深度學習詐騙電話識別、基于文本分析的詐騙短信識別以及基于無監(jiān)督機器學習算法的涉詐網站識別等技術的實際應用落地。五是進一步加強宣傳教育，提升用戶風險

45、防范意識。在人工智能技術的推動作用下，電信網絡詐騙呈現成本低、花樣新、波及廣、迷惑性大等特點，增強用戶識騙、防騙意識和能力變得十分必要。近年來，工信部緊跟詐騙新形勢新特點，利用大數據技術分析研判當前詐騙趨勢，聚焦人工智能詐騙重點地區(qū)、易受害人群，先后組織“號碼安全伴你我，全民防騙公益行”、“反詐校園行”等活動 10 余次， 在北京、上海、廣東等多地校園內引發(fā)熱烈討論，有效提升了高校師生的防范意識。2019 年，工信部通過工信微報、人民郵電報等渠道編發(fā)系列詐騙風險預警提示 40 余篇，持續(xù)宣傳電信網絡詐騙政策、工作動態(tài)、詐騙案例等信息。同時，指導三家基礎電信企業(yè)利用短彩信、微信公眾號等，發(fā)送風險

46、提醒信息十億余條，及時向公眾發(fā)布人工智能詐騙經典案例與防范之策，有效防范詐騙分子利用人工智能等新技術實施電信網絡詐騙。企業(yè)充分發(fā)揮技術優(yōu)勢，加強新型防控技術研發(fā)。一是基礎電信企業(yè)積極落實主體責任，不斷推進技術能力升級?；A電信企業(yè)作為電信網絡詐騙治理工作的核心責任主體，瞄準“認識到位、執(zhí)行到位、責任到位、成效到位”的工作目標，在精準管理上用力、在精準打擊上發(fā)力、在精準服務上著力。在組織管理方面， 三家基礎電信企業(yè)嚴格落實行業(yè)管理部門的相關部署要求，聚集涉及人工智能的詐騙治理工作，積極推進電話實名制、重點業(yè)務管理等源頭治理；在防范打擊方面，先后建設了重點業(yè)務管理系統(tǒng)、短信提醒系統(tǒng)、詐騙電話核查處

47、置系統(tǒng)等，匯總分析詐騙樣本模板、關鍵特征等精準信息，利用大數據等技術手段，不斷加大對涉及人工智能的電信網絡詐騙等違法信息的識別、預警、攔截與處置能力，實現精準打擊。在服務引導方面，三家基礎電信企業(yè)利用人工智能技術分析詐騙新手法、新套路，篩選易受害人群，組織多次定點、定向宣傳教育活動，提升民眾反詐意識。二是互聯網企業(yè)主動作為，加大對人工智能詐騙手法的識別能力研發(fā)。近年來，騰訊公司開展人工智能技術在黑色鏈條中的應用分析研究，為政府部門提供反詐動機分析。百度公司聚焦于詐騙網址安全性識別研究，對高風險鏈接進行標記、分類乃至屏蔽，將治理電信網絡詐騙工作從被動變?yōu)橹鲃??？拼笥嶏w股份有限公司建設了人工智能類

48、詐騙防控技術手段，能夠從語言層面自動理解并識別對方意圖， 實現早期預警，并通過早期預警，對容易受騙的受害人群體進行標記。北京得意音通技術有限責任公司致力于聲紋識別技術、語音識別技術、情感識別技術、語言理解技術等打擊人工智能詐騙技術研究?？蒲性盒３浞职l(fā)揮創(chuàng)新主體作用，積極支撐做好行業(yè)治 理工作。為支撐做好信息通信行業(yè)防范打擊電信網絡詐騙工作，中國信息通信研究院（以下簡稱“中國信通院”）、中國互聯網協(xié)會等行業(yè)組織和研究機構憑借自身優(yōu)勢，積極發(fā)揮支撐單位創(chuàng)新主體作用，全力支撐防范打擊電信網絡詐騙相關工作。一是充分發(fā)揮中心作用，體系化推進治理工作。在工信部網絡安全管理局的指導下，中國信通院成立了“中國

49、信息通信研究院電信網絡詐騙治理支撐與服務中心”，下設秘書處、政策研究組、監(jiān)管支撐組、技術服務組、專家組等四個二級常設工作小組和 1 個外部專家組， 為精準打擊基于人工智能的電信網絡詐騙提供科研支撐，聚焦監(jiān)管職責與工作重點，從分析詐騙形勢、制定技術標準、建設技術手段、厘清治理思路、研提治理建議、支撐監(jiān)管工作等方面著手，深入推進詐騙治理支撐工作。目前已支撐工信部開展監(jiān)管政策制定、監(jiān)督檢查、成效評估、通報舉報、責任落實等相關工作。二是憑借技術優(yōu)勢，智能化推進治理工作。在電話詐騙治理的高位擠壓以及人工智能技術的推動作用下，電信網絡詐騙向互聯網領域，向自動化精準化方向拓展延伸，創(chuàng)新技術管理模式，提升技術

50、治理能力，是防范治理電信網絡詐騙的一柄利刃。在工信部網安局指導下，目前中國信通院正在推動互聯網反詐部級系統(tǒng)建設，實現了與部分省系統(tǒng)的對接聯動以及數據共享，將詐騙治理工作從電信網向互聯網領域拓展延伸，進一步提升對基于人工智能技術的詐騙信息的攔截與處置能力。與此同時，中國信通院會同三大基礎電信企業(yè)、奇虎、騰訊、電話邦、泰迪熊等 6 家互聯網標記企業(yè)建立了涵蓋號碼舉報、標記、回收等全環(huán)節(jié)的數據信息共享機制，在終端用戶和電信企業(yè)間實現了基于人工智能的詐騙電話的標記信息共享與聯動處置。三是調動各方力量，精準化推進治理工作。人工智能技術使得電信網絡詐騙呈現具有低成本、取證難、收益高等特點，促使犯罪活動案件

51、高發(fā)頻發(fā)，為著力推進人工智能時代電信網絡詐騙治理工作，相關科研院校積極作為，大力支撐推進開展治理工作。2019 年，中國互聯網協(xié)會聯合中國信通院成功舉辦“2019 年防范治理電信網絡詐騙論壇”，組織 11 家重點互聯網企業(yè)簽訂“防范治理電信網絡詐騙責任書”，遴選 30 項具有行業(yè)示范價值的創(chuàng)新實踐應用項目，形成并印發(fā)防范治理電信網絡詐騙創(chuàng)新實踐示范項目應用匯編，推動基于人工智能的技術防范體系研究，促進詐騙治理工作實現以“智” 提“質”。同時，中國互聯網協(xié)會積極發(fā)揮行業(yè)自律平臺作用，將涉詐APP、公眾號、網站等納入用戶投訴舉報渠道，擴大基于人工智能的詐騙信息投訴受理渠道，完善電信網絡詐騙用戶投訴

52、受理處置機制。四、人工智能背景下治理工作面臨的難點與問題在工信部的統(tǒng)籌部署和全行業(yè)的共同努力下，信息通信行業(yè)電信網絡詐騙源頭治理和綜合治理不斷向前推進，已經取得了階段性的明顯效果。但是面對人工智能時代電信網絡詐騙的高隱蔽性、高危害性等特點，我國防范治理工作仍然存在著一定的難點與問題，法律法規(guī)尚需完善、行業(yè)管理范圍仍需延伸、技術反制能力亟待提高、社會宣傳引導和協(xié)同治理的力度和程度還有進一步強化和提升空間。（一）在法律法規(guī)方面，一是刑事打擊困難，針對電信網絡詐騙持續(xù)高發(fā)的形勢，公安機關在總結詐騙案件態(tài)勢時指出:“目前詐騙犯罪成本低、風險低、收益高。犯罪分子流竄程度加劇、地域性犯罪突出、職業(yè)化趨勢明

53、顯，傳統(tǒng)犯罪與互聯網犯罪高度融合，團伙構成、作案手段更加復雜，隱蔽性更強，偵查打擊的難度更大?！彪S著人工智能技術在電信網絡詐騙領域的不斷應用，不法分子實施詐騙的精準性、迷惑性、隱蔽性大大加強，直接導致公安和檢察機關的偵查打擊難度進一步加大，人工智詐騙治理工作所面臨的“偵查破案難、電子證據調取難、認定處理難”等一系列問題更加突出。二是法律適用難，電信網絡詐騙已經呈現出明顯的鏈條化、平臺化作案特征。例如上游黑產提供各種基于人工智能技術的專用設備工具、算法，為下游電信網絡詐騙源源不斷地提供技術支持，危害巨大。但是在這個產業(yè)鏈中，不法分子利用互聯網以提供服務的方式分工配合，使得詐騙案件發(fā)生時，位于上游

54、的不法分子完全可以以自己不知情來規(guī)避法律風險。這種法律依據的不明確及其導致的上游犯罪節(jié)點定責難，是當前電信網絡詐騙治理不能回避一個重要問題。（二）在行業(yè)管理方面，一是目前以舉報通報、現場檢查、年度考核等多種形式構建組成的電信網絡詐騙企業(yè)責任落實督導體系在電信行業(yè)已經比較完善和細化，但是在人工智能技術和業(yè)務快速發(fā)展的互聯網等相關領域的督導執(zhí)行力度仍相對較弱。根據行業(yè)和技術特點，將已有責任落實督導體系向互聯網行業(yè)合理延伸拓展是當前行業(yè)管理需要研究的重要問題。二是數據隱私泄露已經成為“精準詐騙”的源頭之一。雖然現有的用戶個人信息保護、數據安全等行業(yè)管理基礎性制度已經具備,但在具體的企業(yè)責任落實方面，

55、特別是對人工智能應用在數據采集、傳輸、存儲、使用、共享等各環(huán)節(jié)的隱私保護、數據安全等方面的監(jiān)督落實力度仍需加強。面對人工智能對個人隱私保護和數據安全帶來的挑戰(zhàn)，督促行業(yè)切實加強數據安全保護是當前需要重點解決的問題之一。三是對當前涉詐風險較大的基于人工智能的群呼（GoIP、SIMBANK）網關類設備的監(jiān)管政策和管理方式仍需確定。當前 GOIP 類設備可以從各種渠道輕易獲得，生產、銷售、使用環(huán)節(jié)監(jiān)管尚未形成合力。就目前情況來看，這類設備廣泛應用于網絡黑灰產，對網絡違法犯罪起到了推波助瀾作用， 因此對此類設備的監(jiān)管方式需要進一步研究確定。（三）在技術利用方面，一是人工智能技術的不當應用大幅提高了不法

56、分子獲取個人隱私信息，實施精準詐騙的效率。人工智能技術和算法在個人隱私信息數據的爬取、清洗和分析等環(huán)節(jié)更加高效，成本更加低廉。不法分子可以通過技術的關聯分析挖掘，在公共數據、匿名化數據中推導出精準的個人隱私信息。二是人工智能技術被不當利用的門檻不斷降低。在軟件和算法方面，當前大量被不當利用的人工智能技術均以開源方式對外公開發(fā)布，不法分子可以通過互聯網開源社區(qū)直接獲取源代碼并進行修改使用；此外，以“語音合成”、“圖像識別”等業(yè)務為例，有大量人工智能技術被封裝成數據接口供使用，不法分子可以不了解底層復雜算法直接調用接口。在硬件設備方面，GoIP 設備以其遠程化、智能化的特點，成為不法分子實施詐騙、

57、逃避追查的重要方式。三是基于人工智能的仿冒和識別技術發(fā)展不均衡。以 ZAO、appFace 等應用為代表，基于人工智能深度偽造的換臉換聲工具及應用日趨完善，肉眼識別仿冒視頻極為困難，最新技術甚至可以在不需要事先準備各種角度的人臉照片的前提下，實現從視頻到視頻的直接變臉。相較于深度偽造應用的快速發(fā)展，仿冒識別技術研發(fā)難度更高，且受限于仿冒數據集樣本不足等多種原因，其發(fā)展速度相對較慢。四是針對人工智能為防范治理工作帶來的的新風險，已有技術平臺和策略應對能力尚顯不足，在對電信網絡詐騙實現事前有效防范和事中事后精準溯源等方面還需深入探索。（四）在宣傳引導方面，一是關于電信網絡詐騙風險提示等的相關宣傳內

58、容仍需增加。目前面向大眾的反詐宣傳提醒以較為傳統(tǒng)的電信網絡詐騙手法為主，基于人工智能的詐騙的方式方法和應對策略等相關宣傳內容較少，一定程度上造成社會普通民眾尤其是學生、老人等重點人群對此類詐騙的特點認知和防范意識不足。二是關于個人信息安全保護的宣傳力度尚需加強。當前很多用戶對人工智能時代個人隱私泄露的危害仍然認識不夠，面對一些應用的霸王隱私條款，往往選擇以隱私換取效率和方便。與此同時，學生，農村留守老人等重點群體的個人隱私保護意識較為淡薄，仍存在為了蠅頭小利出賣個人信息甚至身份證件供不法分子使用的不良現象。（五）在協(xié)同治理方面，一是隨著電信網絡詐騙治理逐步進入“深水區(qū)”，過往基于單一數據源建立

59、的相關技術防范系統(tǒng)，已不能形成良好的協(xié)同效應，治理效果逐步減弱。相關部門與企業(yè)、行業(yè)組織雖然建立了高效的會商和聯動處置機制，但在跨行業(yè)、跨部門數據融合共享方面尚不充分，各治理主體的反詐系統(tǒng)仍相對分散，難以對各方數據進行及時的綜合分析，一定程度上制約了整體治理效能的持續(xù)提升。二是部分企業(yè)自律意識不足，在用戶不知情的情況下，過度收集或使用個人信息。從App 專項治理工作組通報相關的情況看， 包括一些主流 APP 在內的大量應用均存在違規(guī)收集使用用戶個人信息的問題。三是跨國協(xié)同合作仍需加強。人工智能技術的應用使詐騙分子實施遠程精準詐騙的能力越來越強。為增強隱蔽性，降低風險， 大量詐騙團伙越來越傾向于

60、聚集在境外實施詐騙。跨國、跨境電信網絡詐騙的識別、攔截、追蹤和定責必須在國際協(xié)同合作的框架下解決， 在已有基礎上進一步推動國際各方協(xié)同治理已經成為我國電信網絡詐騙治理需要解決的重要問題。五、人工智能背景下電信網絡詐騙治理的建議措施隨著防范治理工作的不斷向前推進，電信網絡詐騙攻防對抗逐步升級，詐騙手法和方式不斷向智能化、精準化、鏈條化方向發(fā)展，新問題新情況不斷出現，反詐工作的艱巨性、持久性、復雜性仍然沒有改變。面對人工智能時代下的電信網絡詐騙的治理問題，需堅持發(fā)展與治理并重的思路，劃定法律紅線，加強行業(yè)監(jiān)管，大力推進技術反制手段建設和社會宣傳引導等工作，促進各方協(xié)同共治，全面提升我國人工智能時代