《人工智能安全》教學(xué)大綱

《人工智能安全》課程教學(xué)大綱一、課程基本信息課程名稱中文：人工智能安全課程編號英文：MachineIntelligenceandInformationCountermeasure學(xué)分/學(xué)時2學(xué)分/48學(xué)時必修（）/選修（√）開課學(xué)期6課程類別學(xué)院特色創(chuàng)新創(chuàng)業(yè)課程適用專業(yè)網(wǎng)絡(luò)空間安全專業(yè)，信息安全專業(yè)，密碼學(xué)專業(yè)，人工智能專業(yè)先修課程授課教師二、課程教學(xué)目標通過學(xué)習(xí)本課程，使學(xué)生深刻理解人工智能安全的基本概念，系統(tǒng)地掌握機器學(xué)習(xí)的原理和信息對抗技術(shù)，培養(yǎng)機器學(xué)習(xí)和信息對抗領(lǐng)域復(fù)雜工程解決能力、創(chuàng)新能力和實踐能力。通過課上互動、Python語言編寫程序，培養(yǎng)學(xué)生刻苦努力、積極進取精神，以及認真的工作學(xué)習(xí)態(tài)度。具體目標為：課程目標1.掌握人工智能安全中的發(fā)展和相關(guān)研究，包括人工智能安全綜述（包括定義、歷史、特征、發(fā)展現(xiàn)狀與趨勢、分類、人工智能的安全、倫理和隱私問題等）、人工智能安全的戰(zhàn)略規(guī)劃（外國、中國、中國地方省市的戰(zhàn)略規(guī)劃及策略，國內(nèi)外人工智能安全的研究機構(gòu)）；課程目標2.學(xué)習(xí)關(guān)于人工智能安全的相關(guān)基礎(chǔ)知識，包括：人工智能安全的概念和模型；生成對抗網(wǎng)絡(luò)GANs；深度神經(jīng)網(wǎng)絡(luò)；卷積神經(jīng)網(wǎng)絡(luò)；對抗樣本生成算法；隨機森林算法；貝葉斯分類算法；SVM分類算法；長短期記憶網(wǎng)絡(luò)；梯度下降算法；深度偽造技術(shù)；影子模型攻擊技術(shù)；神經(jīng)網(wǎng)絡(luò)；算法歧視；Tacotron模型；梅爾譜圖；長短記憶網(wǎng)絡(luò)；混合注意力機制；深度學(xué)習(xí)；遷移學(xué)習(xí)；小樣本學(xué)習(xí)；圖神經(jīng)網(wǎng)絡(luò)；代碼漏洞分析等）。課程目標3.了解產(chǎn)業(yè)現(xiàn)狀，包括人工智能安全應(yīng)用、產(chǎn)業(yè)現(xiàn)狀及趨勢（包括人工智能安全技術(shù)的商業(yè)應(yīng)用、人工智能安全行業(yè)綜述、中國人工智能安全產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢）、人工智能安全標準化體系和標準化（如國內(nèi)外研究現(xiàn)狀、人工智能安全標準體系結(jié)構(gòu)、人工智能安全標準化需求分析等）、人工智能安全內(nèi)涵與體系架構(gòu)（包括人工智能安全內(nèi)涵與體系架構(gòu)、人工智能安全風(fēng)險分析、人工智能安全管理現(xiàn)狀和人工智能安全發(fā)展建議等）；課程目標4.深刻理解人工智能在安全領(lǐng)域的應(yīng)用和研究現(xiàn)狀，包括人工智能在安全領(lǐng)域的應(yīng)用、人工智能的安全威脅及防御（包括人工智能安全風(fēng)險分析）、智能安全應(yīng)用情況（包括智能安全事例）、智能安全管理現(xiàn)狀、智能安全相關(guān)技術(shù)等。課程目標5.學(xué)習(xí)、實踐、體會人工智能安全方向的科研創(chuàng)新過程。主要包括：生成對抗網(wǎng)絡(luò)模擬Sin曲線；模型竊?。粩?shù)據(jù)投毒；人臉活體檢測；驗證碼識別；圖像對抗；圖像去噪；垃圾郵件過濾；網(wǎng)絡(luò)攻擊檢測；模型逆向攻擊；人臉偽造；成員推理攻擊；屬性推理攻擊；模型公平性檢測與提升；圖像水印去除；語音合成；視頻檢測；代碼漏洞挖掘等。三、課程目標與支撐的畢業(yè)要求指標點本課程的知識點支撐網(wǎng)絡(luò)空間安全專業(yè)畢業(yè)要求中的5個指標點：1.4、2.2、3.2、4.3和12.1。如下表所示，本課程的5個課程教學(xué)目標，分別對應(yīng)工程教育專業(yè)認證標準規(guī)定的畢業(yè)要求中的5個指標點。表1所示為課程目標與支撐畢業(yè)要求的指標點。表1課程目標與支撐畢業(yè)要求的指標點畢業(yè)要求指標點課程目標達成途徑評價依據(jù)1.4掌握網(wǎng)絡(luò)空間安全專業(yè)知識及技術(shù)，能夠?qū)⑦@些專業(yè)知識和關(guān)鍵技術(shù)用于解決網(wǎng)絡(luò)空間安全領(lǐng)域的復(fù)雜工程問題。課程目標1.掌握人工智能安全中的發(fā)展和相關(guān)研究，包括人工智能安全綜述（包括定義、歷史、特征、發(fā)展現(xiàn)狀與趨勢、分類、人工智能的安全、倫理和隱私問題等）、人工智能安全的戰(zhàn)略規(guī)劃（外國、中國、中國地方省市的戰(zhàn)略規(guī)劃及策略，國內(nèi)外人工智能安全的研究機構(gòu)）；通過課堂講授等方式使學(xué)生掌握人工智能安全中的基本概念、理論基礎(chǔ)和人工智能發(fā)展歷史，通過課后作業(yè)鞏固課堂知識；在平時作業(yè)和期末考試中考察對于基本概念和基本原理的理解掌握?？己藘?nèi)容約占總成績的20%，包括平時作業(yè)和期末考試。2.2能夠根據(jù)網(wǎng)絡(luò)空間安全領(lǐng)域中復(fù)雜工程問題的需求描述，運用數(shù)學(xué)、物理等自然科學(xué)和工程科學(xué)原理及方法進行分析表達，建立解決網(wǎng)絡(luò)空間安全領(lǐng)域中的復(fù)雜實際工程問題的抽象模型。課程目標2.學(xué)習(xí)關(guān)于機器學(xué)習(xí)和信息對抗的相關(guān)基礎(chǔ)知識，包括：人工智能安全的概念和模型；生成對抗網(wǎng)絡(luò)GANs；深度神經(jīng)網(wǎng)絡(luò)；卷積神經(jīng)網(wǎng)絡(luò)；對抗樣本生成算法；隨機森林算法；貝葉斯分類算法；SVM分類算法；長短期記憶網(wǎng)絡(luò)；梯度下降算法；深度偽造技術(shù)；影子模型攻擊技術(shù)；神經(jīng)網(wǎng)絡(luò)；算法歧視；Tacotron模型；梅爾譜圖；長短記憶網(wǎng)絡(luò)；混合注意力機制；深度學(xué)習(xí)；遷移學(xué)習(xí)；小樣本學(xué)習(xí)；圖神經(jīng)網(wǎng)絡(luò)；代碼漏洞分析等）通過課堂講授和學(xué)生使用Python語言編程等方式使學(xué)生掌握人工智能安全中的基本概念、理論基礎(chǔ)和人工智能發(fā)展歷史，通過平時作業(yè)鞏固課堂知識；在平時作業(yè)和期末考試中考察對于基本概念和基本原理的理解掌握。考核內(nèi)容約占總成績的20%，包括作業(yè)、實驗完成情況和實驗報告、期末考試。3.2能夠針對網(wǎng)絡(luò)空間安全領(lǐng)域各種應(yīng)用場景的特定需求，確定設(shè)計目標，對網(wǎng)絡(luò)空間安全領(lǐng)域中的復(fù)雜工程問題進行分解和細化，完成功能模塊的設(shè)計與開發(fā)，并對設(shè)計方案進行優(yōu)化。課程目標3.了解產(chǎn)業(yè)現(xiàn)狀，包括人工智能安全應(yīng)用、產(chǎn)業(yè)現(xiàn)狀及趨勢（包括人工智能安全技術(shù)的商業(yè)應(yīng)用、人工智能安全行業(yè)綜述、中國人工智能安全產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢）、人工智能安全標準化體系和標準化（如國內(nèi)外研究現(xiàn)狀、人工智能安全標準體系結(jié)構(gòu)、人工智能安全標準化需求分析等）、人工智能安全內(nèi)涵與體系架構(gòu)（包括人工智能安全內(nèi)涵與體系架構(gòu)、人工智能安全風(fēng)險分析、人工智能安全管理現(xiàn)狀和人工智能安全發(fā)展建議等）；針對人工智能安全中產(chǎn)業(yè)現(xiàn)狀以及發(fā)展趨勢等，通過課堂講授、小組討論等方式讓學(xué)生了解人工智能安全研究現(xiàn)狀；通過作業(yè)加深理解，通過期末考試考察學(xué)生分析問題和解決問題的能力?？己藘?nèi)容約占總成績的20%，包括平時作業(yè)、期末考試。4.3針對所設(shè)計的面向網(wǎng)絡(luò)空間安全領(lǐng)域中復(fù)雜工程問題的實驗方案所獲得的實驗數(shù)據(jù)和實驗結(jié)果，能夠?qū)ζ溥M行正確的分析和合理的解釋，并且能夠通過信息綜合得到合理有效的結(jié)論。課程目標4.深刻理解智能在安全領(lǐng)域的應(yīng)用和研究現(xiàn)狀，包括人工智能在安全領(lǐng)域的應(yīng)用、人工智能的安全威脅及防御（包括人工智能安全風(fēng)險分析）、智能安全應(yīng)用情況（包括智能安全事例）、智能安全管理現(xiàn)狀、智能安全相關(guān)技術(shù)等。通過平時討論、作業(yè)報告等方式使學(xué)生掌握人工智能安全中的智能在安全領(lǐng)域的應(yīng)用現(xiàn)狀，以及當(dāng)前人工智能的安全威脅和防御，通過期末考試考察學(xué)生對于人工智能在安全領(lǐng)域應(yīng)用現(xiàn)狀的理解?？己藘?nèi)容約占總成績的20%，包括平時作業(yè)、期末考試。12.1能夠認識不斷探索和學(xué)習(xí)創(chuàng)造的必要性，掌握自主學(xué)習(xí)和終身學(xué)習(xí)創(chuàng)造的方法，具有拓展與更新知識的能力。課程目標5.學(xué)習(xí)、實踐、體會人工智能安全方向的科研創(chuàng)新過程。主要包括：生成對抗網(wǎng)絡(luò)模擬Sin曲線；模型竊取；數(shù)據(jù)投毒；人臉活體檢測；驗證碼識別；圖像對抗；圖像去噪；垃圾郵件過濾；網(wǎng)絡(luò)攻擊檢測；模型逆向攻擊；人臉偽造；成員推理攻擊；屬性推理攻擊；模型公平性檢測與提升；圖像水印去除；語音合成；視頻檢測；代碼漏洞挖掘等。通過平時Python語言編程作業(yè)和期末考試等方式使學(xué)生掌握人工智能安全方向的科技創(chuàng)新以及拓展與更新知識的能力，通過編程實踐，了解掌握目前最流行的人工智能安全方向以及培養(yǎng)學(xué)生不斷探索和學(xué)習(xí)創(chuàng)造的精神?？己藘?nèi)容約占總成績的20%，包括平時作業(yè)、期末考試。四、課程落實立德樹人的舉措以《高等學(xué)校課程思政建設(shè)指導(dǎo)綱要》（教高〔2020〕3號）為依據(jù)，科學(xué)設(shè)計課程思政教學(xué)體系，將思政教育融入課程中的適當(dāng)章節(jié)，主要包括：感受技術(shù)發(fā)展，激發(fā)使命擔(dān)當(dāng)通過介紹當(dāng)前科技的發(fā)展引用習(xí)總書記語錄來樹立學(xué)生在創(chuàng)新能力、自主可控、國家安全戰(zhàn)略等方面的家國情懷和愛國主義意識，同時培養(yǎng)學(xué)生探索未知、追求真理、勇攀科學(xué)高峰的責(zé)任感和使命感。學(xué)習(xí)主席思想，腳踏實地，用于創(chuàng)新通過人工智能安全技術(shù)章節(jié)講授著名安全公司成功案例，引導(dǎo)學(xué)生學(xué)習(xí)實事求是、客觀求真、努力鉆研的優(yōu)秀科研工作者的優(yōu)良品德。尊重客觀規(guī)律，樹立正確三觀通過在講授算法潛藏偏見的過程中，引導(dǎo)學(xué)生樹立自身正確的三觀，樹立獨立自主的判斷能力，尊重客觀規(guī)律，培養(yǎng)學(xué)生在法制法規(guī)合規(guī)的框架下合理開展技術(shù)應(yīng)用的思維。五、教學(xué)內(nèi)容及學(xué)時安排參見附表4。六、教學(xué)方法利用授課教師自制的PowerPoint多媒體電子教學(xué)課件演示主要教學(xué)內(nèi)容，使學(xué)生加深印象，更便于理解，同時也便于加大課堂信息量；以學(xué)生使用Python編程實踐為主，課堂講授為輔助手段，適當(dāng)穿插提問、思考等互動教學(xué)方式；對于教學(xué)難點的解決，主要通過舉典型的例題，并從中加以說明，以教會學(xué)生。在實踐內(nèi)容里，主要通過讓學(xué)生使用Python編程語言來實現(xiàn)人工智能安全的相關(guān)應(yīng)用。七、考核方式本課程為選修課，考查方式為平時作業(yè)和學(xué)生期末考試時候提交的實踐報告。其中成績構(gòu)成為：期末提交所撰寫的實踐報告成績占60%，平時作業(yè)報告成績占40%。各個考核環(huán)節(jié)對于課程目標和畢業(yè)要求的指標點的貢獻度如表2所示：表2考核環(huán)節(jié)對課程目標和畢業(yè)要求指標點的貢獻度指標點編號課程目標編號考核方式總貢獻度平時（貢獻度40%）期末(貢獻度60%）3.1目標1812206.3目標2812207.2目標38122010.3目標48122012.2目標581220合計4060100考核標準參見表3。表3考核標準考核環(huán)節(jié)所占分值考核內(nèi)容對應(yīng)課程目標評價細則課后作業(yè)40%10%為基本概念和理論基礎(chǔ)，考核學(xué)生對人工智能安全的基本概念及理論基礎(chǔ)的理解和掌握。課程目標1平時作業(yè)一般為14次左右，涵蓋課程所有內(nèi)容，按照是否按時提交、完成情況等進行綜合評定。每次作業(yè)評分參考標準為（按照100分計算）：按時完成作業(yè)并提交，且合格率達到60%，計60分；在此基礎(chǔ)上，作業(yè)合格率滿足70%、80%、90%和100%分別為70分、80分、90分、100分，有創(chuàng)新解題思路或解決方案的可另加10-20分，但每次作業(yè)得分不超過100分。作業(yè)得分60分及以上達成作業(yè)所支撐的課程目標1、2、3、4和5，說明學(xué)生具有理解人工智能安全的基本概念和基本原理、能夠運用所學(xué)知識研究、分析和解決人工智能安全實際問題的能力。20%為分析類題目，考核學(xué)生對人工智能面臨的安全威脅與安全需求及安全目標進行分析的能力。課程目標220%為設(shè)計類題，考核學(xué)生基于基本原理完成人工智能安全網(wǎng)絡(luò)的設(shè)計與應(yīng)用能力。課程目標320%為分析類題目，分析當(dāng)前人工智能安全研究現(xiàn)狀，對安全智能發(fā)展方向提出自己的理解和見識。課程目標430%為綜合類題目，考核學(xué)生對各類人工智能安全技術(shù)方法進行綜合分析、比較，以及利用學(xué)習(xí)的知識，進行Python編程實踐，撰寫報告的能力。課程目標5期末報告60%綜合整個課程所學(xué)，根據(jù)老師組定的人工智能安全題目，進行Python編程綜合實踐，采用開卷的方式撰寫實踐報告。提交實踐報告給老師作為考試成績的依據(jù)。課程目標1、2、3、4和5Python編程綜合實踐，題目可以涉及課程人工智能安全方向教學(xué)內(nèi)容，考察學(xué)生分析解決復(fù)雜人工智能安全問題的能力。期末Python編程綜合實踐得分60分及以上達成期末考試所支撐的課程目標1、2、3、4和5，說明學(xué)生理解和基本掌握了人工智能的基礎(chǔ)知識，能夠?qū)θ斯ぶ悄茴I(lǐng)域的安全問題進行分析，并具有分析和解決復(fù)雜人工智能安全問題的基本能力。加分項包括：(1)如果學(xué)生對考試內(nèi)容有深入理解；(2)解決問題思路清晰；(3)對于編程代碼有詳細的解釋；(4)對實踐內(nèi)容有擴展；(5)有創(chuàng)新性的想法。八、課程資源課程教材：（1）《人工智能安全：原理與實踐》，李劍主編，機械工業(yè)出版社，2024年12月。（2）教師自編講義。參考書目：（1）《機器學(xué)習(xí)》，趙衛(wèi)東，董亮，人民郵電出版社，2018年7月。（2）《機器學(xué)習(xí)與應(yīng)用》，雷明，清華大學(xué)出版社，2018年12月。（3）《機器學(xué)習(xí)與安全》，ClarenceChio，DavidFreeman，中國電力出版社，2019年8月。（4）《機器學(xué)習(xí)基礎(chǔ)--原理、方法與實踐》，袁梅宇，清華大學(xué)出版社，2018年8月。（5）《基于復(fù)雜網(wǎng)絡(luò)的機器學(xué)習(xí)方法》，迪亞戈·克里斯蒂亞諾·席爾瓦，機械工業(yè)出版社，2018年11月。（6）《多智能體機器學(xué)習(xí)：強化學(xué)習(xí)方法》，霍華德M施瓦茲，機械工業(yè)出版社，2017年7月。（7）《對抗機器學(xué)習(xí)：機器學(xué)習(xí)系統(tǒng)中的攻擊和防御》，葉夫提尼·沃羅見琴科，穆拉特，機械工業(yè)出版社，2019年12月。（8）《數(shù)據(jù)挖掘：使用機器學(xué)習(xí)工具與技術(shù)》，IanH.Witten，機械工業(yè)出版社，2014年5月。（9）《機器學(xué)習(xí)入門到實戰(zhàn)--Matlab實踐應(yīng)用》，冷雨泉，張會文，張偉，清華大學(xué)出版社，2019年3月。參考課程：（1）課程名：網(wǎng)絡(luò)安全中的人工智能開課學(xué)校：TheCompleteArtificialIntelligenceforCyberSecurity2021課程鏈接：/course/the-complete-artificial-intelligence-for-cyber-security-2021/（2）課程名：人工智能與網(wǎng)絡(luò)安全開課學(xué)校：CybersecurityforArtificialIntelligence課程鏈接：/course/cybersecurity-for-artificial-intelligence-ai/執(zhí)筆人: 李劍審核人： 時間：2024年9月25日表4人工智能安全課程教學(xué)內(nèi)容、學(xué)時分配及對畢業(yè)要求的支撐序號知識模塊教學(xué)內(nèi)容學(xué)時分配教學(xué)要求支撐課程目標學(xué)生任務(wù)作業(yè)要求自學(xué)要求討論1人工智能安全概述從經(jīng)典的兩個人工智能安全案例事件說起，引入人工智能安全的概念及框架，說明了人工智能安全現(xiàn)狀，最后給出了本課程的組織、學(xué)習(xí)和講授方法。2了解人工智能安全的重要性；認知人工智能安全的概念；掌握人工智能安全的模型；了解這門課的知識體系；讓學(xué)生了解如何學(xué)習(xí)這門課程；熟悉這門課的講授方法。課程目標1查找人工智能和人工智能安全方面的相關(guān)文獻資料，以供學(xué)習(xí)和參考。人工智能存在哪些安全威脅？2生成對抗網(wǎng)絡(luò)的安全應(yīng)用主要講述生成對抗網(wǎng)絡(luò)的相關(guān)知識以及它的實踐應(yīng)用。在實踐中講述了兩個實踐案例，一個是基于生成對抗網(wǎng)絡(luò)的sin曲線樣本模擬，另一個是基于對抗性攻擊無數(shù)據(jù)替代訓(xùn)練的模型竊取。2了解生成對抗網(wǎng)絡(luò)GANs的原理；掌握生成對抗網(wǎng)絡(luò)GANs的訓(xùn)練步驟；了解如何學(xué)習(xí)這門課程；熟悉利用生成對抗網(wǎng)絡(luò)模擬sin曲線樣本的方法；認知深度神經(jīng)網(wǎng)絡(luò)；熟悉基于對抗性攻擊無數(shù)據(jù)替代訓(xùn)練的模型竊取方法。課程目標2用Python語言完成實踐內(nèi)容“基于生成對抗網(wǎng)絡(luò)的sin曲線樣本模擬”，并提交實踐報告。生成對抗網(wǎng)絡(luò)方法有哪些應(yīng)用。自行實現(xiàn)一個“基于對抗性攻擊無數(shù)據(jù)替代訓(xùn)練的模型竊取”。生成器和判別器在生成對抗網(wǎng)絡(luò)中的作用。3卷積神經(jīng)網(wǎng)絡(luò)的安全應(yīng)用講述卷積神經(jīng)網(wǎng)絡(luò)CNN的原理和它的實踐應(yīng)用。在實踐案例中主要講述了三個經(jīng)典案例：第一個是基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊；第二個是基于卷積神經(jīng)網(wǎng)絡(luò)的人臉活體檢測；最后一個是基于卷積神經(jīng)網(wǎng)絡(luò)的驗證碼識別。2了解卷積神經(jīng)網(wǎng)絡(luò)的概念和結(jié)構(gòu)；熟悉數(shù)據(jù)投毒攻擊；熟練使用卷積神經(jīng)網(wǎng)絡(luò)模型AlexNet；熟練使用卷積神經(jīng)網(wǎng)絡(luò)模型VGG；熟悉卷積神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)投毒攻擊中的應(yīng)用；熟悉卷積神經(jīng)網(wǎng)絡(luò)在人臉活體檢測中的應(yīng)用；熟悉卷積神經(jīng)網(wǎng)絡(luò)在驗證碼識別過程中的應(yīng)用。課程目標2用Python語言完成實踐內(nèi)容“基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊”，并提交實踐報告。用Python語言完成另外兩個實踐內(nèi)容：“基于卷積神經(jīng)網(wǎng)絡(luò)的人臉活體檢測”和“基于卷積神經(jīng)網(wǎng)絡(luò)的驗證碼識別”。投毒攻擊會帶來哪些危害？人臉活體檢測可以應(yīng)用到哪些方面？4對抗樣本生成算法的安全應(yīng)用介紹如何使用對抗樣本生成算法高效生成對抗樣本，并將其應(yīng)用于圖形對抗當(dāng)中，欺騙所使用的神經(jīng)網(wǎng)絡(luò)，使其做出與正確答案完全不同的判定。本章將編程實踐兩個經(jīng)典的對抗樣本生成算法FastGradientSignMethod(FGSM)算法和ProjectedGradientDescent(PGD)算法。2熟練使用對抗樣本生成算法；熟悉卷積神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用；了解圖像對抗知識；掌握Fast算法；掌握PGD算法。課程目標2用Python語言完成實踐內(nèi)容“對抗樣本生成算法的圖像對抗”，并提交實踐報告。對抗生成樣本攻擊與生成對抗網(wǎng)絡(luò)攻擊有何不同？FGSM算法與PGD算法有什么相同和不同之處？5隨機森林算法的安全應(yīng)用主要學(xué)習(xí)的基礎(chǔ)知識是隨機森林（RandomForest）算法，也是一種主要的機器學(xué)習(xí)算法之一。在此基礎(chǔ)上實踐一個基于隨機森林算法的圖像去噪安全應(yīng)用系統(tǒng)。2了解決策樹；認知圖像噪聲；掌握隨機森林算法模型；熟悉隨機森林算法在圖像去噪中的安全應(yīng)用。課程目標2用Python語言完成實踐內(nèi)容“基于隨機森林算法的圖像去噪”，并提交實踐報告。圖像去噪的作用是什么？隨機森林算法還有哪些應(yīng)用。6貝葉斯和SVM分類算法的安全應(yīng)用主要講述機器學(xué)習(xí)里兩個經(jīng)典的分類算法：貝葉斯分類算法和SVM分類算法，以及他們在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用。在實踐部分，主要講述基于貝葉斯和SVM分類算法的垃圾郵件過濾系統(tǒng)。2了解垃圾郵件；認知垃圾郵件的過濾方法；掌握貝葉斯分類算法；掌握SVM分類算法；熟悉基于貝葉斯分類算法的垃圾郵件過濾方法；熟悉基于SVM分類算法的垃圾郵件過濾方法。課程目標3用Python語言完成實踐內(nèi)容“基于貝葉斯和SVM分類算法的垃圾郵件過濾”，并提交實踐報告。樸素貝葉斯分類算法的原理。SVM分類算法的原理。7長短期記憶網(wǎng)絡(luò)的安全應(yīng)用主要講述利用雙向長短期記憶網(wǎng)絡(luò)(LongShort-TermMemory，LSTM)模型對網(wǎng)絡(luò)流量進行攻擊檢測。通過預(yù)處理包含攻擊和正常流量的數(shù)據(jù)集，提取特征并標準化后，將數(shù)據(jù)轉(zhuǎn)換為LSTM輸入格式。模型經(jīng)過訓(xùn)練和驗證，達到較高的準確率和召回率。最終，模型識別并分類網(wǎng)絡(luò)流量中的攻擊行為，驗證人工智能中的機器學(xué)習(xí)方法在網(wǎng)絡(luò)安全中的有效性。2了解雙向長短期記憶網(wǎng)絡(luò)；認知網(wǎng)絡(luò)攻擊的概念；了解網(wǎng)絡(luò)攻擊檢測的分類；了解網(wǎng)絡(luò)攻擊檢測的過程；掌握雙向LSTM模型對網(wǎng)絡(luò)攻擊進行檢測方法。課程目標3用Python語言完成實踐內(nèi)容“基于雙向LSTM模型的網(wǎng)絡(luò)攻擊檢測”，并提交實踐報告。網(wǎng)絡(luò)攻擊檢測系統(tǒng)通常包括哪些組件？雙向LSTM模型的作用與特點。8梯度下降算法的安全應(yīng)用介紹了梯度下降算法的原理、優(yōu)化方法、常見問題以及實際應(yīng)用。在編程實踐部分介紹了一個基于梯度下降的模型逆向（ModelInversion）攻擊。2了解梯度下降算法的原理；認知梯度下降算法的優(yōu)化方法；掌握基于梯度下降的模型逆向攻擊方法。課程目標3用Python語言完成實踐內(nèi)容“基于梯度下降的模型逆向攻擊”，并提交實踐報告。梯度下降算法的作用是什么？常見的模型逆向攻擊方法有哪些？9深度偽造原理與安全應(yīng)用主要介紹人工智能安全領(lǐng)域的深度偽造技術(shù)原理，并且詳細介紹如何通過編程實踐實現(xiàn)一個典型的深度偽造應(yīng)用：人臉偽造。2了解深度偽造技術(shù)；認知人臉圖像偽造方法；了解深度偽造有哪些危害；掌握基于深度偽造技術(shù)的人臉偽造方法。課程目標3用Python語言完成實踐內(nèi)容“基于深度偽造技術(shù)的人臉偽造”，并提交實踐報告。深度偽造有哪些危害？根據(jù)人臉篡改區(qū)域和篡改目的，可將深度人臉偽造技術(shù)分為哪些類？10成員推理攻擊原理與實踐主要講述成員推理攻擊的原理與應(yīng)用。在實踐部分，主要講述基于影子模型的成員推理攻擊。2了解成員推理攻擊的重要性；認知成員推理攻擊的方法；認知影子模型攻擊；掌握基于影子模型的成員推理攻擊方法。課程目標3用Python語言完成實踐內(nèi)容“基于影子模型的成員推理攻擊”，并提交實踐報告。什么是影子模型攻擊？常見的成員推理攻擊方法有哪些？11屬性推理攻擊原理與實踐講述屬性推理攻擊（AttributeInferenceAttack）的概念、原理、攻擊場景和常用方法。在編程實踐部分講述了一個基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊。2了解屬性推理攻擊的概念；認知屬性推理攻擊的攻擊場景；認知屬性推理攻擊的常用方法；掌握基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊方法。課程目標4用Python語言完成實踐內(nèi)容“基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊”，并提交實踐報告。屬性推理攻擊都有哪些危害？屬性推理攻擊都有哪些常用方法？12模型公平性檢測與提升講述如何對人工智能算法進行公平性檢測，從而消除歧視，進而提升算法的公平性。2了解算法歧視的重要性；認知模型的公平性；掌握模型公平性檢測與提升的方法。課程目標4用Python語言完成實踐內(nèi)容“模型公平性檢測與提升”，并提交實踐報告。什么是算法歧視？如何使得算法模型更加公平一些？13水印去除原理與實踐對水印知識進行介紹。實踐內(nèi)容是一個基于深度學(xué)習(xí)的圖像去水印應(yīng)用，采用SkipEncoder-Decoder模型。它的核心功能是通過對圖像及其相應(yīng)水印蒙版的深度分析和處理，有效去除圖像中的水印。在實踐中通過自動化學(xué)習(xí)和調(diào)整圖像數(shù)據(jù)，以確保去水印后的輸出圖片質(zhì)量