人工智能技術(shù)導(dǎo)論 課件全套 賴小平 第1-6章 人工智能概述 - 人工智能應(yīng)用開發(fā)環(huán)境及工具

第一章人工智能概述本章目標(biāo)了解人工智能的定義、分類及應(yīng)用領(lǐng)域熟悉人工智能起源和發(fā)展掌握人工智能的技術(shù)框架

理解發(fā)展人工智能的戰(zhàn)略意義1.1人工智能簡(jiǎn)介機(jī)器人索非亞獲得沙特國(guó)籍AlphaGO戰(zhàn)勝人類最強(qiáng)棋手人臉識(shí)別協(xié)助警方抓捕犯人手機(jī)多國(guó)語言在線翻譯無人駕駛汽車種牙機(jī)器人超級(jí)震撼人工智能應(yīng)用到城市生活、醫(yī)療、教育、通訊等領(lǐng)域，AI技術(shù)漸漸走進(jìn)人們生活。1.1.1人工智能的定義

人工智能（AI，ArtificialIntelligence），是模擬實(shí)現(xiàn)人的抽象思維和智能行為的技術(shù)，即通過利用計(jì)算機(jī)軟件模擬人類特有的大腦抽象思維能力和智能行為，如學(xué)習(xí)、思考、判斷、推理等，以完成原本需要人的智力才可勝任的工作。1.1.2人工智能的分類低于人類智力水平AlphaGo特點(diǎn)：人類可以很好地控制其發(fā)展和運(yùn)行和人類智力旗鼓相當(dāng)，能夠進(jìn)行思考、計(jì)劃、學(xué)習(xí)等特點(diǎn)：在人類設(shè)置的規(guī)則和軌道上發(fā)展超出人類智力水平西部世界（第三季）人工智能獲得自主意識(shí)在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多1.1.3人工智能起源和發(fā)展科幻電影中的人工智能人類的好幫手？人類的終結(jié)者？人類的朋友？如何與人工智能相處?60年代，星際迷航80年代，終結(jié)者21世紀(jì)，人工智能1.1.3人工智能起源和發(fā)展圖靈測(cè)試圖靈（AlanMathisonTuring，1912年6月23日—1954年6月7日）被稱為計(jì)算機(jī)科學(xué)之父發(fā)表了一篇名為《計(jì)算機(jī)和智能》的論文1950年提出了著名的“圖靈測(cè)試”讓一位測(cè)試者分別與一臺(tái)計(jì)算機(jī)和一個(gè)人進(jìn)行交談，測(cè)試者事先并不知道哪一個(gè)是人，哪一個(gè)是計(jì)算機(jī)。如果交談后測(cè)試者分不出哪一個(gè)被測(cè)試者是人和哪一個(gè)是計(jì)算機(jī)，則認(rèn)為這臺(tái)被測(cè)試的計(jì)算機(jī)具有智能。圖靈測(cè)試機(jī)器能思考嗎？1.1.3人工智能起源和發(fā)展起源：1956年達(dá)特茅斯會(huì)議提出人工智能定義：使一部機(jī)器的反應(yīng)方式就像是一個(gè)人在行動(dòng)時(shí)所依據(jù)的智能。1.1.3人工智能起源和發(fā)展AI誕生的標(biāo)志：1956年“人工智能”的名稱和任務(wù)得以確定1.1.3人工智能起源和發(fā)展人工智能發(fā)展的六個(gè)階段1.1.3人工智能起源和發(fā)展1、第一次熱潮（1956-1976）人工智能主要用于解決代數(shù)、幾何問題，以及學(xué)習(xí)和使用英語程序，研發(fā)主要圍繞機(jī)器的邏輯推理能力展開。其中20世紀(jì)60年代自然語言處理和人機(jī)對(duì)話技術(shù)的突破性發(fā)展，大大地提升了人們對(duì)人工智能的期望，也將人工智能帶入了第一波高潮。這個(gè)階段產(chǎn)生了很多理論基石，這些不僅成為了人工智能的理論基石，還成為了計(jì)算機(jī)領(lǐng)域的基石。1.1.3人工智能起源和發(fā)展2、第一次寒冬（1976-1982）樂觀的承諾一直無法兌現(xiàn)，而在實(shí)際中邏輯證明器、感知器、增強(qiáng)學(xué)習(xí)等只能做很簡(jiǎn)單、非常專門且很窄的任務(wù)。即使最杰出的AI程序也只能解決它們嘗試解決的問題中最簡(jiǎn)單的一部分，也就是說所有的AI程序都只是“玩具”。受限于當(dāng)時(shí)計(jì)算機(jī)算力不足，同時(shí)由于國(guó)會(huì)壓力下美英政府于1973年停止向沒有明確目標(biāo)的人工智能研究項(xiàng)目撥款，人工智能研發(fā)變現(xiàn)周期拉長(zhǎng)、行業(yè)遇冷。1.1.3人工智能起源和發(fā)展3、第二次熱潮（1980-1987）：專家系統(tǒng)專家系統(tǒng)只能模擬特定領(lǐng)域人類專家的技能，但這足以激發(fā)新的融資趨勢(shì)。最活躍的是日本政府，意圖創(chuàng)造第五代計(jì)算機(jī)。間接迫使美國(guó)和英國(guó)恢復(fù)對(duì)人工智能研究的資助。但需要一個(gè)巨型知識(shí)庫。最早的專家系統(tǒng)是1968年由費(fèi)根鮑姆研發(fā)的DENDRAL系統(tǒng)，可以幫助化學(xué)家判斷某特定物質(zhì)的分子結(jié)構(gòu)；DENDRAL首次對(duì)知識(shí)庫提出定義。1.1.3人工智能起源和發(fā)展3、第二次熱潮（1980-1987）：神經(jīng)網(wǎng)絡(luò)1982年英國(guó)科學(xué)家霍普菲爾德幾乎同時(shí)與杰弗里·辛頓發(fā)現(xiàn)了具有學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)算法。

這使得神經(jīng)網(wǎng)絡(luò)一路發(fā)展，在后面的90年代開始商業(yè)化，被用于文字圖像識(shí)別和語音識(shí)別。1986年出現(xiàn)了人工智能數(shù)學(xué)模型方面的重大發(fā)明，包括著名的多層神經(jīng)網(wǎng)絡(luò)和反向傳播算法等,出現(xiàn)能與人類下象棋的高度智能機(jī)器。

1.1.3人工智能起源和發(fā)展4、第二次寒冬（1987-1997）1987年，個(gè)人電腦變得比人工智能多年的研究成果——專家系統(tǒng)（Lisp機(jī)器）更強(qiáng)大。專家系統(tǒng)最初取得的成功是有限的，它無法自我學(xué)習(xí)并更新知識(shí)庫和算法，維護(hù)起來越來越麻煩，成本越來越高。1.1.3人工智能起源和發(fā)展5、復(fù)蘇期（1997-2010）：機(jī)器學(xué)習(xí)1997年國(guó)際商業(yè)機(jī)器公司（簡(jiǎn)稱IBM）深藍(lán)超級(jí)計(jì)算機(jī)戰(zhàn)勝了國(guó)際象棋世界冠軍卡斯帕羅夫。2001年，布雷曼博士提升隨機(jī)森林2006年深度學(xué)習(xí)算法的提出2007年，在斯坦福任教的華裔科學(xué)家李飛飛，發(fā)起創(chuàng)建了ImageNet項(xiàng)目、2012年AlexNet在ImageNet訓(xùn)練集上圖像識(shí)別精度取得重大突破，直接推升了新一輪人工智能發(fā)展的浪潮。機(jī)器學(xué)習(xí)是一種人工智能技術(shù)，它可以讓計(jì)算機(jī)從數(shù)據(jù)中學(xué)習(xí)，并自動(dòng)改進(jìn)算法，以提高性能。這個(gè)時(shí)期的代表性機(jī)器學(xué)習(xí)算法包括決策樹、神經(jīng)網(wǎng)絡(luò)和遺傳算法。1.1.3人工智能起源和發(fā)展6、增長(zhǎng)爆發(fā)期（2010-）：深度學(xué)習(xí)2016年，李世石與AlphaGo總比分1比4告負(fù)，將公眾的視注意力也大量投向了人工智能，真正地將人工智能推向了研究和公眾視野的中心，人工智能收獲了空前的關(guān)注度。1.1.3人工智能起源和發(fā)展6、增長(zhǎng)爆發(fā)期（2010-）：深度學(xué)習(xí)2020年代，自然語言處理和計(jì)算機(jī)視覺的技術(shù)得到了進(jìn)一步的發(fā)展。自然語言處理方面，出現(xiàn)了一系列新的技術(shù)，如BERT、GPT和T5等預(yù)訓(xùn)練模型，以及GPT-3、GPT-4等生成式模型。計(jì)算機(jī)視覺方面，出現(xiàn)了一系列新的技術(shù)，如目標(biāo)檢測(cè)、圖像分割和圖像生成等。2022年11月底，人工智能對(duì)話聊天機(jī)器人ChatGPT推出，迅速在社交媒體上走紅。ChatGPT是人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具，它能夠基于在預(yù)訓(xùn)練階段所見的模式和統(tǒng)計(jì)規(guī)律，來生成回答，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。1.1.3人工智能起源和發(fā)展人工智能發(fā)展的應(yīng)用方面近期重要事件1950年圖靈測(cè)試1956年達(dá)特茅斯會(huì)議提出“人工智能”概念……2011年蘋果語音助手Siri2012年Google無人駕駛汽車2014年微軟智能助理小娜2016年AlphaGo戰(zhàn)勝世界圍棋冠軍（2017年最強(qiáng)版AlphaGoZero）2020年GPT-3問世最先進(jìn)的自然語言處理模型2022年多輪對(duì)話聊天機(jī)器人ChatGPT1.1.3人工智能起源和發(fā)展思政小課堂：向科學(xué)家們致敬人工智能之父有四個(gè)人，他們分別是艾倫·麥席森·圖靈、約翰.麥卡錫、馬文·明斯基、西摩爾·帕普特。具體貢獻(xiàn)：（1）艾倫·麥席森·圖靈，奠定了人工智能的邏輯，并且提出了圖靈測(cè)試，計(jì)算機(jī)在5分鐘之內(nèi)回答的問題中，超過百分之三十被認(rèn)為是人類做出的解答，讓人工智能初步得到人們的認(rèn)可。（2）約翰.麥卡錫，將批處理方式改進(jìn)成了能夠同時(shí)允許多人使用的分時(shí)方式。（3）馬文·明斯基，發(fā)明了能夠模擬人類活動(dòng)的機(jī)器人，也是最早的能夠模擬人類的機(jī)器人。（4）西摩爾·帕普特，將兒童和人工智能以非常有趣的方式結(jié)合在了一起，從這里開始，科技與教育開始融合，對(duì)后來的教育影響非常大。LOGO語言創(chuàng)始人。1.1.4人工智能應(yīng)用領(lǐng)域1.2人工智能技術(shù)領(lǐng)域1.2人工智能技術(shù)領(lǐng)域腦：機(jī)器學(xué)習(xí)(神經(jīng)網(wǎng)絡(luò)…)、專家系統(tǒng)、情景感知計(jì)算眼：計(jì)算機(jī)視覺、視頻識(shí)別、圖像識(shí)別耳：語音識(shí)別、自然語言處理、實(shí)時(shí)翻譯身：智能機(jī)器人口：自然語言處理、實(shí)時(shí)翻譯1.2.1人工智能四要素人工智能的四個(gè)維度(四要素)1.2.2人工智能技術(shù)框架人工智能的技術(shù)框架按照產(chǎn)業(yè)生態(tài)通常可以劃分為基礎(chǔ)層、技術(shù)層、應(yīng)用層三大板塊?；A(chǔ)層提供了支撐人工智能應(yīng)用的基礎(chǔ)設(shè)施和技術(shù)，包括存儲(chǔ)和處理大規(guī)模數(shù)據(jù)的能力，以及高性能的計(jì)算和通信基礎(chǔ)設(shè)施；技術(shù)層提供了各種人工智能技術(shù)和算法，用于處理和分析數(shù)據(jù)，并提取有用的信息和知識(shí)；應(yīng)用層是人工智能技術(shù)的最終應(yīng)用領(lǐng)域，將技術(shù)層提供的算法和模型應(yīng)用到具體的問題和場(chǎng)景中，實(shí)現(xiàn)智能化的決策和優(yōu)化。1.2.2人工智能技術(shù)框架1.2.2人工智能技術(shù)框架1.2.3人工智能技術(shù)發(fā)展趨勢(shì)l框架：更易用的開發(fā)框架l算法：性能更優(yōu)，體積更小的算法模型l算力：端-邊-云全面發(fā)展的算力l數(shù)據(jù)：更完善的基礎(chǔ)數(shù)據(jù)服務(wù)產(chǎn)業(yè)，更安全的數(shù)據(jù)共享l場(chǎng)景：不斷突破的行業(yè)應(yīng)用1、更易用的開發(fā)框架各種AI開發(fā)框架都在朝易用、全能的方向演進(jìn)，不斷降低人工智能的開發(fā)門檻。1.2.3人工智能技術(shù)發(fā)展趨勢(shì)2、體積更小的深度模型性能更優(yōu)的模型往往有著更大的參數(shù)量，大的模型在工業(yè)應(yīng)用時(shí)會(huì)有運(yùn)行效率的問題。越來越多的模型壓縮技術(shù)被提出，在保證模型性能的同時(shí)，進(jìn)一步壓縮模型體積，適應(yīng)工業(yè)應(yīng)用的需求。1.2.3人工智能技術(shù)發(fā)展趨勢(shì)3、端-邊-云全面發(fā)展的算力應(yīng)用于云端、邊緣設(shè)備、移動(dòng)終端的人工智能芯片規(guī)模不斷增長(zhǎng)，進(jìn)一步解決人工智能的算力問題。1.2.3人工智能技術(shù)發(fā)展趨勢(shì)4、更安全的數(shù)據(jù)共享聯(lián)邦學(xué)習(xí)在保證數(shù)據(jù)隱私安全的前提下，利用不同數(shù)據(jù)源合作訓(xùn)練模型，進(jìn)一步突破數(shù)據(jù)的瓶頸。1.2.3人工智能技術(shù)發(fā)展趨勢(shì)5、不斷突破的應(yīng)用場(chǎng)景隨著人工智能在各個(gè)垂直領(lǐng)域的不斷探索，人工智能的應(yīng)用場(chǎng)景將不斷被突破：p緩解心理問題：人工智能聊天機(jī)器人結(jié)合心理學(xué)知識(shí)，幫助緩解孤獨(dú)癥等心理健康問題。p自動(dòng)車險(xiǎn)定損：人工智能技術(shù)幫助保險(xiǎn)公司實(shí)現(xiàn)車險(xiǎn)理賠優(yōu)化，通過圖像識(shí)別等深度學(xué)習(xí)算法完成車險(xiǎn)定損。p后端辦公自動(dòng)化：AI正在自動(dòng)化管理工作，但數(shù)據(jù)的不同性質(zhì)和格式使其成為一項(xiàng)具有挑戰(zhàn)性的任務(wù)。盡管每個(gè)行業(yè)和應(yīng)用都有其獨(dú)特的挑戰(zhàn)，但不同的行業(yè)正在逐步采用基于機(jī)器學(xué)習(xí)的工作流程解決方案。p……1.2.3人工智能技術(shù)發(fā)展趨勢(shì)1.3人工智能的意義及挑戰(zhàn)人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)人工智能是開啟未來智能世界的密匙是未來科技發(fā)展的戰(zhàn)略制高點(diǎn)是推動(dòng)人類社會(huì)變革的第四次工業(yè)革命誰掌握人工智能，誰就將成為未來核心技術(shù)的掌控者。1.3.1發(fā)展人工智能的戰(zhàn)略意義1.3.1發(fā)展人工智能的戰(zhàn)略意義1.人工智能的戰(zhàn)略意義表現(xiàn)在其對(duì)經(jīng)濟(jì)發(fā)展的推動(dòng)作用。2.人工智能的戰(zhàn)略意義還表現(xiàn)在其對(duì)社會(huì)生活的改變和提升作用。3.人工智能的戰(zhàn)略意義還體現(xiàn)在其對(duì)國(guó)家安全和國(guó)防建設(shè)的重要作用。4.人工智能的戰(zhàn)略意義還體現(xiàn)在其對(duì)全球競(jìng)爭(zhēng)力的提升作用。思政小課堂：中國(guó)“1+N”政策體系十九大以來，國(guó)家陸續(xù)出臺(tái)了“1+N”政策體系，為人工智能發(fā)展提供政策依據(jù)和制度保障。其中，“1”是指2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》，這是我國(guó)在人工智能領(lǐng)域中的首個(gè)系統(tǒng)部署的文件，也是面向未來打造我國(guó)先發(fā)優(yōu)勢(shì)的頂層設(shè)計(jì)文件，將人工智能正式上升為國(guó)家戰(zhàn)略，提出了面向2030年我國(guó)新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施?！癗”是頂層設(shè)計(jì)出臺(tái)之后，部委層面陸續(xù)出臺(tái)的關(guān)于人工智能產(chǎn)業(yè)的發(fā)展規(guī)劃、行動(dòng)計(jì)劃、實(shí)施方案等落地政策，其中工信部、科技部發(fā)布的政策主要涉及數(shù)實(shí)融合、場(chǎng)景創(chuàng)新、區(qū)域創(chuàng)新等內(nèi)容，國(guó)家標(biāo)準(zhǔn)委、發(fā)改委圍繞標(biāo)準(zhǔn)體系、倫理規(guī)范、基礎(chǔ)設(shè)施建設(shè)等內(nèi)容開展工作。1.3.1發(fā)展人工智能的戰(zhàn)略意義1.3.2人工智能的挑戰(zhàn)1、數(shù)據(jù)隱私和安全性問題2、人工智能的倫理和道德問題3、就業(yè)問題隨著人工智能技術(shù)的發(fā)展，人們?cè)絹碓疥P(guān)注人工智能的倫理和社會(huì)問題。在2020年代，研究人員和政策制定者也開始探討如何確保人工智能的公正性、透明性和責(zé)任性，以及如何保護(hù)個(gè)人隱私和數(shù)據(jù)安全等問題。同時(shí)，人工智能的發(fā)展也帶來了一些新的社會(huì)問題，如人工智能對(duì)就業(yè)和教育的影響，以及人工智能的道德和法律問題等。1.3.2人工智能的挑戰(zhàn)隨著計(jì)算機(jī)視覺的發(fā)展，圖像及視頻的可行信也越來越低?，F(xiàn)在我們可以通過PS，GAN（生成對(duì)抗網(wǎng)絡(luò)）等技術(shù)制作假圖像，讓人難分真?zhèn)巍通過PS，把犯罪嫌疑人P在一個(gè)從未去過的地方或?qū)⑺c從未見過的人放在一起，以此來制造假證據(jù)。p通過PS，很多減肥藥廣告可以改變?nèi)宋锏耐庥^以達(dá)到減肥前后的對(duì)比。p如Lyrebird是一個(gè)可以從幾分鐘錄音樣本中自動(dòng)模仿人聲音的工具，也可能會(huì)被不法分子利用。p利用GAN網(wǎng)絡(luò)生成家居圖像發(fā)布在租房和訂酒店的平臺(tái)。還能眼見為實(shí)嗎？1.3.2人工智能的挑戰(zhàn)從人類的發(fā)展進(jìn)程上看，我們一直在尋求提高效率的途徑，即以更少的資源獲得更多。我們用尖銳的石頭，更高效地狩獵和采集食物；用蒸汽機(jī)，減少了對(duì)馬匹的需求。實(shí)現(xiàn)自動(dòng)化的每一步都會(huì)改變工作生活。在AI的時(shí)代，哪些工作會(huì)被AI取代呢？AI會(huì)取代那些重復(fù)性強(qiáng)、創(chuàng)造性低，弱社交的工作。大家都會(huì)失業(yè)嗎？1.4人工智能初體驗(yàn)EasyDL是百度大腦推出的零門檻AI開發(fā)平臺(tái)，提供從數(shù)據(jù)采集、標(biāo)注、清洗到模型訓(xùn)練、部署的一站式AI開發(fā)能力。EasyDL支持6大技術(shù)方向:（1）EasyDL圖像：圖像分類、物體檢測(cè)、圖像分割（2）EasyDL文本：文本分類-單標(biāo)簽、文本分類-多標(biāo)簽、文本實(shí)體抽取、情感傾向分析、短文本相似度（3）EasyDL語音：語音識(shí)別、聲音分類（4）EasyDLOCR：文字識(shí)別（5）EasyDL視頻：視頻分類、目標(biāo)跟蹤（6）EasyDL結(jié)構(gòu)化數(shù)據(jù)：表格預(yù)測(cè)1.4人工智能初體驗(yàn)【案例】百度EasyDL平臺(tái)應(yīng)用——貓狗分類/easydl/vision/1、人工智能（AI，ArtificialIntelligence）是模擬實(shí)現(xiàn)人的抽象思維和智能行為的技術(shù)，即通過利用計(jì)算機(jī)軟件模擬人類特有的大腦抽象思維能力和智能行為，如學(xué)習(xí)、思考、判斷、推理等，以完成原本需要人的智力才可勝任的工作。2、從發(fā)展程度的角度上，人工智能可以分為三大類：弱人工智能、強(qiáng)人工智能、超人工智能。3、達(dá)特茅斯會(huì)議是人類歷史上第一次人工智能研討，被認(rèn)為是人工智能誕生的標(biāo)志。1956年被認(rèn)為是人工智能元年。4、人工智能四要素：數(shù)據(jù)、算力、算法、場(chǎng)景。5、人工智能的技術(shù)框架按照產(chǎn)業(yè)生態(tài)通?？梢詣澐譃榛A(chǔ)層、技術(shù)層、應(yīng)用層三大板塊。6、隨著人工智能尤其是近期大模型技術(shù)的快速發(fā)展，AIGC產(chǎn)業(yè)化應(yīng)用加速，人工智能進(jìn)一步向金融、藝術(shù)、新聞、創(chuàng)作等新領(lǐng)域滲透，使得人工智能監(jiān)管技術(shù)不斷升級(jí)和復(fù)雜化，如何正確處理好“監(jiān)管”和“創(chuàng)新”將是未來人工智能發(fā)展的關(guān)鍵著力點(diǎn)。本章總結(jié)小組練習(xí)主題：人工智能的前世今生和未來要求：制作一個(gè)PPT，抽1-2組下節(jié)課演示時(shí)間5-10分鐘感謝聆聽第二章機(jī)器學(xué)習(xí)本章目標(biāo)了解機(jī)器學(xué)習(xí)的應(yīng)用領(lǐng)域掌握機(jī)器學(xué)習(xí)的分類掌握機(jī)器學(xué)習(xí)的流程掌握機(jī)器學(xué)習(xí)的算法理解機(jī)器學(xué)習(xí)的意義2.1機(jī)器學(xué)習(xí)簡(jiǎn)介人工智能、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)三者之間的關(guān)系人工智能是目標(biāo)，機(jī)器學(xué)習(xí)是手段，深度學(xué)習(xí)是方法。2.1.1機(jī)器學(xué)習(xí)定義

機(jī)器學(xué)習(xí)就是一種通過計(jì)算機(jī)系統(tǒng)利用數(shù)據(jù)進(jìn)行自動(dòng)學(xué)習(xí)的方法。目標(biāo)就是要讓計(jì)算機(jī)系統(tǒng)通過不斷學(xué)習(xí)和優(yōu)化，從數(shù)據(jù)中發(fā)現(xiàn)規(guī)律、提取特征，并能夠在未來的數(shù)據(jù)中做出智能決策。定義一：湯姆·米切爾給出機(jī)器學(xué)習(xí)一個(gè)具象化定義假設(shè)用P（Performace）來評(píng)估計(jì)算機(jī)程序在某類任務(wù)T（Task）上的性能，若一個(gè)程序通過利用經(jīng)驗(yàn)E（Experience）在T中任務(wù)上獲得了性能改善，則我們就說關(guān)于T和P，該程序?qū)進(jìn)行了學(xué)習(xí)。定義二：Nvidia給出機(jī)器學(xué)習(xí)定義最基本的機(jī)器學(xué)習(xí)是使用算法解析數(shù)據(jù)，從中學(xué)習(xí)，然后對(duì)世界上某事做出決定或預(yù)測(cè)的做法。定義三：斯坦福給出機(jī)器學(xué)習(xí)定義機(jī)器學(xué)習(xí)是讓計(jì)算機(jī)在沒有明確編程的情況下采取行動(dòng)的科學(xué)。定義四：麥肯錫公司給出機(jī)器學(xué)習(xí)定義機(jī)器學(xué)習(xí)基于可以從數(shù)據(jù)中學(xué)習(xí)而不依賴于基于規(guī)則的編程的算法。定義五：卡內(nèi)基梅隆大學(xué)給出機(jī)器學(xué)習(xí)定義機(jī)器學(xué)習(xí)領(lǐng)域旨在回答這樣一個(gè)問題：”我們?nèi)绾谓⒛軌蚋鶕?jù)經(jīng)驗(yàn)自動(dòng)改進(jìn)的計(jì)算機(jī)系統(tǒng)，以及管理所有學(xué)習(xí)過程的基本法則是什么？“2.1.1機(jī)器學(xué)習(xí)定義

機(jī)器學(xué)習(xí)使用大量的數(shù)據(jù)來“訓(xùn)練”，通過各種算法從數(shù)據(jù)中學(xué)習(xí)如何完成任務(wù)。

機(jī)器學(xué)習(xí)通過算法，使得機(jī)器能夠從大量歷史數(shù)據(jù)中學(xué)習(xí)規(guī)律，并利用規(guī)律對(duì)新的樣本做智能識(shí)別或?qū)ξ磥碜鲱A(yù)測(cè)。2.1.1機(jī)器學(xué)習(xí)定義

機(jī)器學(xué)習(xí)與人類學(xué)習(xí)的對(duì)應(yīng)關(guān)系

“人類的經(jīng)驗(yàn)”對(duì)應(yīng)于“機(jī)器的歷史數(shù)據(jù)”，“人類通過經(jīng)驗(yàn)歸納出的規(guī)律”對(duì)應(yīng)于“機(jī)器通過歷史數(shù)據(jù)訓(xùn)練出來的模型”，“人類利用規(guī)律解決新問題并預(yù)測(cè)未來”對(duì)應(yīng)于“機(jī)器利用模型預(yù)測(cè)新數(shù)據(jù)對(duì)應(yīng)的結(jié)果”。通過這樣的對(duì)應(yīng)可以發(fā)現(xiàn)，機(jī)器學(xué)習(xí)的思想并不復(fù)雜，僅僅是對(duì)人類在生活中學(xué)習(xí)、成長(zhǎng)過程的一種模擬。2.1.2機(jī)器學(xué)習(xí)發(fā)展史知識(shí)推理期始于20世紀(jì)50年代中期，這時(shí)的人工智能主要通過專家系統(tǒng)賦予計(jì)算機(jī)邏輯推理能力，赫伯特·西蒙和艾倫·紐厄爾實(shí)現(xiàn)的自動(dòng)定理證明了邏輯學(xué)家拉賽爾（Russell）和懷特黑德（Whitehead）編寫的《數(shù)學(xué)原理》中的52條定理。20世紀(jì)70年代開始，人工智能進(jìn)入知識(shí)工程期，費(fèi)根鮑姆作為“知識(shí)工程之父”在1994年獲得了圖靈獎(jiǎng)。2006年，辛頓發(fā)表了深度信念網(wǎng)絡(luò)論文，本希奧等人發(fā)表了論文“GreedyLayer-WiseTrainingofDeepNetworks”（深層網(wǎng)絡(luò)的貪婪層智慧訓(xùn)練），楊立昆團(tuán)隊(duì)發(fā)表了論文“EfficientLearningofSparseRepresentationswithanEnergy-BasedModel”（基于能量模型的稀疏表示的高效學(xué)習(xí)），標(biāo)志著人工智能進(jìn)入了深層網(wǎng)絡(luò)的實(shí)踐階段。

機(jī)器學(xué)習(xí)的發(fā)展可分為知識(shí)推理期、知識(shí)工程期、淺層學(xué)習(xí)和深度學(xué)習(xí)幾個(gè)階段。在20世紀(jì)50年代，機(jī)器學(xué)習(xí)的研究代表性工作主要是羅森布拉特《基于神經(jīng)感知科學(xué)提出的計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)（即感知機(jī)）》。在隨后的10年中，淺層學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)曾經(jīng)風(fēng)靡一時(shí)，特別是馬文·明斯基提出了著名的XOR問題和感知機(jī)線性不可分的問題。k近鄰（K-NearestNeighbor，KNN）等算法的相繼提出，淺層模型在模型理解、準(zhǔn)確率、模型訓(xùn)練等方面被超越。云計(jì)算和GPU（GraphicsProcessingUnit，圖形處理單元）并行計(jì)算為深度學(xué)習(xí)的發(fā)展提供了基礎(chǔ)保障。2.1.2機(jī)器學(xué)習(xí)發(fā)展史

機(jī)器學(xué)習(xí)算法理論大致演變過程機(jī)器學(xué)習(xí)階段年份主要成果代表人物人工智能起源1936自動(dòng)機(jī)模型理論阿蘭·圖靈（AlanTuring）1943MP(McCulloch-Pitts)模型（神經(jīng)元模型）沃倫·麥卡洛克（WarrenMcCulloch）、沃爾特·皮茨(WalterPitts)1951符號(hào)演算約翰·馮·諾依曼（JohnvonNeumann）1956人工智能約翰·麥卡錫（JohnMcCarthy）、馬文·明斯基（MarvinMinsky）、克勞德·香農(nóng)（ClaudeShannon）人工智能初期1958LISP約翰·麥卡錫1962感知機(jī)收斂理論弗蘭克·羅森布拉特（FrankRosenblatt）1972GPS(General-ProblemSolver,通用問題求解程序）艾倫·紐厄爾（AllenNewell）赫伯特·西蒙（HerbertSimon)1975框架知識(shí)表示馬文·明斯基進(jìn)化計(jì)算1965進(jìn)化策略英戈·雷興貝格（IngoRechenberg）1975遺傳算法約翰·霍蘭（JohnHolland）1992基因計(jì)算約翰·科扎（JohnKoza）

專家系統(tǒng)和知識(shí)工程1965模糊邏輯、模糊集盧特菲·扎德（LotfiZadeh）1969DENDRAL、MYCIN愛德華·費(fèi)根鮑姆（EdwardFeigenbaum）、布魯斯·布坎南（BruceBuchanan）、約書亞·萊德伯格（JoshuaLederberg)1979ROSPECTOR杜達(dá)（Duda）神經(jīng)網(wǎng)絡(luò)1982霍普菲爾德神經(jīng)網(wǎng)絡(luò)約翰·霍普菲爾德（JohnHopfield）1982自組織網(wǎng)絡(luò)圖沃·科霍寧（TeuvoKohonen）1986BP算法魯姆哈特（Rumelhart）、麥克萊蘭（McClelland）1989LeNet楊立昆（YannLeCun）1997RNN(RecurrentNeuralNetwork,循環(huán)神經(jīng)網(wǎng)絡(luò)）、LSTM（LongShort-TermMemory，長(zhǎng)短期記憶）

澤普·霍赫賴特（SeppHochreiter）、尤爾根·施米德胡貝（JurgenSchmidhuber）1998CNN(ConvolutionalNeuralNetwork，卷積神經(jīng)網(wǎng)絡(luò)） 楊立昆機(jī)器學(xué)習(xí)階段年份主要成果代表人物分類算法1986ID3（IterativeDichotomiser3，迭代二叉樹3代）算法羅斯·昆蘭（RossQuinlan）1988Boosting算法約夫·弗雷德（YoavFreund）、邁克爾·卡恩斯（MichaelKearns)1993C4.5算法羅斯·昆蘭1995AdaBoost算法弗雷德、羅伯特·夏普（RobertSchapire）1995支持向量機(jī)科琳娜·科爾特斯（CorinnaCortes）、萬普尼克（Vapnik）2001隨機(jī)森林利奧·布賴曼（LeoBreiman）、阿黛爾·卡特勒（AdeleCutler）深度學(xué)習(xí)2006深度信念網(wǎng)絡(luò)杰弗里·辛頓（GeoffreyHinton）2012谷歌大腦吳恩達(dá)（AndrewNg）2014GAN(GenerativeAdversarialNetwork，生成對(duì)抗網(wǎng)絡(luò)）伊恩·古德費(fèi)洛（IanGoodfellow）2014注意力機(jī)制約書亞·本希奧（YoshuaBengio）2014VGG/GoolgleNet牛津大學(xué)和克里斯蒂安·塞格迪（ChristianSzegedy）2015ResNet何愷明等2017Transformer谷歌（Google）公司2018BERT(BidirectionalEncoderRepresentationsfromTransformers,基于轉(zhuǎn)換器的雙向編碼表征）谷歌公司2.1.3機(jī)器學(xué)習(xí)的應(yīng)用領(lǐng)域1.數(shù)據(jù)分析與挖掘2.計(jì)算機(jī)視覺3.自然語言處理4.語音識(shí)別

數(shù)據(jù)分析與挖掘技術(shù)是機(jī)器學(xué)習(xí)算法和數(shù)據(jù)存取技術(shù)的結(jié)合，是利用機(jī)器學(xué)習(xí)提供的統(tǒng)計(jì)分析、知識(shí)發(fā)現(xiàn)等手段分析，從大量的業(yè)務(wù)數(shù)據(jù)中挖掘隱藏、有用的、正確的知識(shí)促進(jìn)決策的執(zhí)行。計(jì)算機(jī)視覺的主要技術(shù)基礎(chǔ)是圖像處理和機(jī)器學(xué)習(xí)。自然語言處理是讓機(jī)器理解人類語言的一門技術(shù)。語音識(shí)別是利用自然語言處理、機(jī)器學(xué)習(xí)等相關(guān)技術(shù)識(shí)別人類語言的技術(shù)。1.1.3人工智能起源和發(fā)展

機(jī)器學(xué)習(xí)是人工智能的重要研究方向，它包含著豐富的知識(shí)體系，因此按照一定的規(guī)則對(duì)其進(jìn)行細(xì)分顯得尤為必要。60年代，星際迷航80年代，終結(jié)者21世紀(jì)，人工智能2.2.1機(jī)器學(xué)習(xí)分類?機(jī)器學(xué)習(xí)的主要分類有兩種：

基于學(xué)習(xí)方式的分類和基于學(xué)習(xí)任務(wù)的分類。?根據(jù)學(xué)習(xí)方式的不同可分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。?根據(jù)學(xué)習(xí)任務(wù)的不同可分為分類、回歸、聚類和降維。

機(jī)器學(xué)習(xí)

強(qiáng)化學(xué)習(xí)

無監(jiān)督學(xué)習(xí)

降維

聚類

回歸

分類

監(jiān)督學(xué)習(xí)

不同的分類方式彼此又存在著聯(lián)系，分類和回歸屬于監(jiān)督學(xué)習(xí)，而聚類和降維屬于無監(jiān)督學(xué)習(xí)。2.2.2機(jī)器學(xué)習(xí)基本術(shù)語1)模型

模型是機(jī)器學(xué)習(xí)中的核心概念。2)數(shù)據(jù)集

數(shù)據(jù)集就是樣本的集合。3)樣本&特征

樣本指的是數(shù)據(jù)集中的數(shù)據(jù)，一行數(shù)據(jù)被稱為“一個(gè)樣本”，一個(gè)樣本包含一個(gè)或多個(gè)特征。一行一樣本，一列一特征2.2.2機(jī)器學(xué)習(xí)基本術(shù)語4)向量“向量”是機(jī)器學(xué)習(xí)的關(guān)鍵術(shù)語。5）矩陣矩陣是一個(gè)常用的數(shù)學(xué)術(shù)語，可以把矩陣看成由向量組成的二維數(shù)組，數(shù)據(jù)集就是以二維矩陣的形式存儲(chǔ)數(shù)據(jù)的。6）假設(shè)函數(shù)和損失函數(shù)

假設(shè)函數(shù)和損失函數(shù)并非某個(gè)模塊下的函數(shù)方法，而是根據(jù)實(shí)際應(yīng)用場(chǎng)景確定的一種函數(shù)形式，就像解決數(shù)學(xué)的應(yīng)用題目一樣，根據(jù)題意寫出解決問題的方程組。2.2.2機(jī)器學(xué)習(xí)基本術(shù)語①假設(shè)函數(shù)

假設(shè)函數(shù)（HypothesisFunction）可表述為：

y=f(x)

其中x表示輸入數(shù)據(jù)，而y表示輸出的預(yù)測(cè)結(jié)果。2.2.2機(jī)器學(xué)習(xí)基本術(shù)語②損失函數(shù)

損失函數(shù)（LossFunction）又叫目標(biāo)函數(shù)，簡(jiǎn)寫為L(zhǎng)(x)，x是假設(shè)函數(shù)得出的預(yù)測(cè)結(jié)果“Y”。

?L(x)的返回值越大表示預(yù)測(cè)結(jié)果與實(shí)際偏差越大，越小則證明預(yù)測(cè)值越“逼近”真實(shí)值，這就是機(jī)器學(xué)習(xí)的最終目的。

損失函數(shù)就像一個(gè)度量尺，通過“假設(shè)函數(shù)”預(yù)測(cè)結(jié)果的優(yōu)劣，做出相應(yīng)的優(yōu)化策略。2.2.2機(jī)器學(xué)習(xí)基本術(shù)語③優(yōu)化方法“優(yōu)化方法”可以理解為假設(shè)函數(shù)和損失函數(shù)之間的溝通橋梁。

f(x)假設(shè)函數(shù)

L(x)損失函數(shù)

輸入數(shù)據(jù)通過L(x)可以得知假設(shè)函數(shù)輸出的預(yù)測(cè)結(jié)果與實(shí)際值的偏差值，當(dāng)該值較大時(shí)就需要對(duì)其做出相應(yīng)的調(diào)整，這個(gè)調(diào)整的過程叫做“參數(shù)優(yōu)化”。輸出預(yù)測(cè)結(jié)果輸出“偏差值”優(yōu)化方法2.2.2機(jī)器學(xué)習(xí)基本術(shù)語7）擬合、過擬合和欠擬合欠擬合過擬合擬合2.2.3機(jī)器學(xué)習(xí)流程問題定義數(shù)據(jù)準(zhǔn)備模型選擇與開發(fā)模型訓(xùn)練和調(diào)優(yōu)模型評(píng)估測(cè)試一個(gè)完整的機(jī)器學(xué)習(xí)流程包括：

問題定義、數(shù)據(jù)準(zhǔn)備、模型選擇與開發(fā)、模型訓(xùn)練和調(diào)優(yōu)、模型評(píng)估測(cè)試等5個(gè)步驟。

分析問題，確定問題的類型。分析它是監(jiān)督學(xué)習(xí)還是無監(jiān)督學(xué)習(xí)，是分類問題還是回歸問題等。

數(shù)據(jù)采集，數(shù)據(jù)預(yù)處理，特征提取，數(shù)據(jù)集拆分。

模型的作用是根據(jù)輸入的特征給出輸出的結(jié)果。選擇合適的機(jī)器學(xué)習(xí)算法模型，編寫對(duì)應(yīng)的模型代碼。

使用數(shù)據(jù)集對(duì)模型進(jìn)行訓(xùn)練，調(diào)整模型參數(shù)，得到一個(gè)最優(yōu)的函數(shù)，然后將待預(yù)測(cè)的特征自變量輸入模型即可得到預(yù)測(cè)的結(jié)果。

對(duì)訓(xùn)練好的模型進(jìn)行評(píng)估和測(cè)試，驗(yàn)證模型是否滿足業(yè)務(wù)需求。2.2.4機(jī)器學(xué)習(xí)常用算法這些算法可以使用Python中的scikit-learn中內(nèi)置的相應(yīng)函數(shù)實(shí)現(xiàn)。機(jī)器學(xué)習(xí)常用的算法有K近鄰、線性回歸、邏輯回歸、樸素貝葉斯、決策樹、支持向量機(jī)、K均值聚類等。2.2.4機(jī)器學(xué)習(xí)常用算法1.K近鄰（K-NearestNeighbor，KNN）

K近鄰算法的核心思想就是距離的比較，即離誰近，就和誰屬于同一分類。依據(jù)

K近鄰算法，假設(shè)K代表鄰居的個(gè)數(shù)：?如果K=3，圓點(diǎn)最鄰近的3個(gè)鄰居是2個(gè)小三角形和1個(gè)小正方形，少數(shù)從服多數(shù)，基于統(tǒng)計(jì)的方法，判定圓點(diǎn)屬于三角形一類。?如果K=5，圓點(diǎn)最鄰近的5個(gè)鄰居是2個(gè)三角形和3個(gè)正方形，少數(shù)服從多數(shù)，基于統(tǒng)計(jì)的方法，判定圓點(diǎn)屬于正方形一類。在KNN算法中，所選擇的鄰居都是已經(jīng)正確分類的對(duì)象，對(duì)于新來的待分樣本，只要找到離它最近的K個(gè)實(shí)例，按照少數(shù)服從多數(shù)原則，哪個(gè)類別多就把它歸為哪一類。2.2.4機(jī)器學(xué)習(xí)常用算法2.線性回歸（LinearRegression）

線性回歸是一種用于建立變量之間線性關(guān)系的監(jiān)督學(xué)習(xí)算法。它通過擬合一條直線來最小化預(yù)測(cè)值與實(shí)際值的差距。如果預(yù)測(cè)的變量是離散的，稱之為分類；如果預(yù)測(cè)的變量是連續(xù)的，稱之為回歸。線性回歸假設(shè)目標(biāo)值與特征之間線性相關(guān)，即滿足一個(gè)多元一次方程。在二維空間中，通過擬合一條直線建立自變量與因變量之間的關(guān)系，在三維空間中則擬合一個(gè)平面。

表示樣本，表示每個(gè)樣本都有個(gè)特征，其中是在第個(gè)特征上的取值。表示樣本，每個(gè)樣本都有個(gè)特征。2.2.4機(jī)器學(xué)習(xí)常用算法3.邏輯回歸（LogisticRegression）邏輯回歸是一種用于處理分類問題的監(jiān)督學(xué)習(xí)算法。盡管名字中帶有“回歸”，但實(shí)際上邏輯回歸是一種分類算法。二分類的邏輯回歸的本質(zhì)是用一個(gè)映射函數(shù)Sigmoid將一個(gè)線性模型得到的連續(xù)結(jié)果映射到離散模型上。邏輯回歸的目的就是尋找一個(gè)非線性函數(shù)Sigmoid的最佳擬合參數(shù)，求解過程可以由最優(yōu)化算法來完成。Sigmoid函數(shù)也稱邏輯函數(shù)，該函數(shù)公式：

由Sigmoid函數(shù)的圖像知：當(dāng)z趨近于無窮大時(shí)，

趨近于1；當(dāng)z趨近于無窮小時(shí)，

趨近于0。的值映射到（0，1）。當(dāng)z趨近于無窮大時(shí)，趨近于1；當(dāng)z趨近于無窮小時(shí)，趨近于0。2.2.4機(jī)器學(xué)習(xí)常用算法4.樸素貝葉斯（NaiveBayes）

樸素貝葉斯是一種基于貝葉斯定理與特征條件獨(dú)立假設(shè)的分類算法。它假設(shè)所有特征相互獨(dú)立、互不影響，每個(gè)特征同等重要。樸素貝葉斯算法是以貝葉斯定理為基礎(chǔ)并且假設(shè)特征條件之間相互獨(dú)立的方法，先通過已給定的訓(xùn)練集，以特征詞之間獨(dú)立作為前提假設(shè)，學(xué)習(xí)從輸入到輸出的聯(lián)合概率分布，再基于學(xué)習(xí)到的模型，輸入x求出使得后驗(yàn)概率最大的輸出y。貝葉斯定理是描述隨機(jī)事件A和B的條件概率（或邊緣概率）的一則定理：由于

的大小是固定不變的，因此在比較后驗(yàn)概率時(shí)，只比較上式的分子部分即可。因此可以得到一個(gè)樣本數(shù)據(jù)屬于類別

的樸素貝葉斯計(jì)算式：2.2.4機(jī)器學(xué)習(xí)常用算法5.決策樹（DecisionTree）決策樹是一種基于樹狀結(jié)構(gòu)進(jìn)行決策的算法，它是一種監(jiān)督學(xué)習(xí)，可用于分類和回歸問題。決策樹是在已知各種情況發(fā)生概率的基礎(chǔ)上，通過構(gòu)成決策樹來求取凈現(xiàn)值的期望值大于等于零的概率，評(píng)價(jià)項(xiàng)目風(fēng)險(xiǎn)，判斷其可行性的決策分析方法，是直觀運(yùn)用概率分析的一種圖解法。由于這種決策分支畫成圖形很像一棵樹的枝干，故稱決策樹。2.2.4機(jī)器學(xué)習(xí)常用算法6.支持向量機(jī)（SupportVectorMachine，SVM）支持向量機(jī)是一種監(jiān)督機(jī)器學(xué)習(xí)算法，可用于分類或回歸任務(wù)。支持向量機(jī)使用一種稱為內(nèi)核技巧的技術(shù)來轉(zhuǎn)換數(shù)據(jù)，然后基于這些轉(zhuǎn)換找到可能輸出之間的最佳邊界。也就是找到一個(gè)超平面，最大化樣本點(diǎn)到該超平面的間隔。如何將圓點(diǎn)數(shù)據(jù)與五角星數(shù)據(jù)進(jìn)行分割？SVM的核函數(shù)能夠?qū)?shù)據(jù)從二維空間投射至高維空間。?如果將二維空間變成三維空間，如果圓點(diǎn)泡泡上浮，五角星下沉，這樣就可以在浮起的圓點(diǎn)數(shù)據(jù)和沉下的五角星數(shù)據(jù)之間找到一個(gè)超平面將兩類數(shù)據(jù)進(jìn)行分割。2.2.4機(jī)器學(xué)習(xí)常用算法7.K均值聚類（K-MeansClustering）聚類算法是指將一堆沒有標(biāo)簽的數(shù)據(jù)自動(dòng)劃分成幾類的方法，屬于無監(jiān)督學(xué)習(xí)方法。1）k值如何確定？

采用“肘”方法（elbowmethod）確定k值。2）初始的k個(gè)質(zhì)心怎么選？

第一種方法是選擇彼此距離最遠(yuǎn)的點(diǎn)，先選第一個(gè)點(diǎn)；然后選離第一個(gè)點(diǎn)最遠(yuǎn)的點(diǎn)當(dāng)?shù)诙€(gè)點(diǎn)；再選第三個(gè)點(diǎn)，第三個(gè)點(diǎn)到第一、第二兩點(diǎn)的距離之和最大；以此類推，直到選出k個(gè)質(zhì)心。第二種方法是先根據(jù)其他聚類算法得到聚類結(jié)果，再從結(jié)果中的每個(gè)分類選一個(gè)點(diǎn)。K-Means算法關(guān)鍵：2.2.4機(jī)器學(xué)習(xí)常用算法8.隨機(jī)森林（RandomForest）隨機(jī)森林是一種集成學(xué)習(xí)方法，通過組合多個(gè)決策樹來進(jìn)行預(yù)測(cè)。每個(gè)決策樹都是在不同的數(shù)據(jù)子集上訓(xùn)練的，同時(shí)引入了隨機(jī)性，使得每棵樹都有差異。2.3深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)可以理解成用深度神經(jīng)網(wǎng)絡(luò)（DNN，DeepNeuralNetwork）來進(jìn)行機(jī)器學(xué)習(xí)。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究，含多個(gè)隱藏層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。2.3.1深度學(xué)習(xí)（DL，DeepLearning）深度學(xué)習(xí)從字面理解包含兩個(gè)意思，“深度”和“學(xué)習(xí)”。為了模擬人腦中的“學(xué)習(xí)策略”和“學(xué)習(xí)方法”。學(xué)術(shù)界研究出使用計(jì)算機(jī)去模擬這一學(xué)習(xí)過程的方法，被稱為“神經(jīng)網(wǎng)絡(luò)”。1)學(xué)習(xí)學(xué)習(xí)就是一個(gè)認(rèn)知的過程，從學(xué)習(xí)未知開始，到對(duì)已知的總結(jié)、歸納、思考與探索。

“神經(jīng)網(wǎng)絡(luò)”這個(gè)詞從字面上看和人腦有著一點(diǎn)關(guān)系。在人腦中負(fù)責(zé)活動(dòng)的基本單元是“神經(jīng)元”，它以細(xì)胞體為主體，由許多向周圍延伸的不規(guī)則樹枝狀纖維構(gòu)成的神經(jīng)細(xì)胞。人腦中含有上百億個(gè)神經(jīng)元，而這些神經(jīng)元互相連接成一個(gè)更龐大的結(jié)構(gòu)，稱為“神經(jīng)網(wǎng)絡(luò)”。2.3.1深度學(xué)習(xí)（DL，DeepLearning）深度學(xué)習(xí)從字面理解包含兩個(gè)意思，“深度”和“學(xué)習(xí)”。

深度學(xué)習(xí)是一個(gè)復(fù)雜的機(jī)器學(xué)習(xí)算法，其模型使用包含大量層的神經(jīng)網(wǎng)絡(luò)。它是人為地使用不同層次不同任務(wù)目標(biāo)的“分層”神經(jīng)元，去模擬整個(gè)輸入、輸出過程的一種手段。2)深度

input_layer是輸入層，hidden_layer_1到hidden_layer_n是隱藏層，output_layer是輸出層。深度指的是隱藏的層數(shù)。2.3.1深度學(xué)習(xí)（DL，DeepLearning）深度學(xué)習(xí)模型：主要的思想就是模擬人的神經(jīng)元，每個(gè)神經(jīng)元接收到信息，處理完后傳遞給與之相鄰的所有神經(jīng)元。?卷積神經(jīng)網(wǎng)絡(luò)（convolutionalneuralnetwork，CNN）?深度置信網(wǎng)絡(luò)（deepbelievenet，DBN）?堆棧自編碼網(wǎng)絡(luò)（stackedauto-encodernetwork，SAEN）模型2.3.2神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)技術(shù)起源于20世紀(jì)50年代到20世紀(jì)60年代，經(jīng)過許多科學(xué)家的努力，人腦神經(jīng)元的這種處理信息模式最終演化為神經(jīng)元模型，也叫感知機(jī)（perceptron）。它是一種多輸入、單輸出的非線性閾值器件，包含輸入層、輸出層和一個(gè)隱藏層。

在一個(gè)神經(jīng)網(wǎng)絡(luò)中，神經(jīng)元是構(gòu)成神經(jīng)網(wǎng)絡(luò)的最小單元，如果一個(gè)神經(jīng)元的輸出等于n個(gè)輸入的加權(quán)和，則網(wǎng)絡(luò)模型是一個(gè)線性輸出。在每個(gè)神經(jīng)元加權(quán)求和后經(jīng)過一個(gè)激活函數(shù)（ActivationFunction），則引入了非線性因素，神經(jīng)網(wǎng)絡(luò)就可以應(yīng)用到任意非線性模型中。2.3.2神經(jīng)網(wǎng)絡(luò)1．神經(jīng)網(wǎng)絡(luò)的原理2.3.2神經(jīng)網(wǎng)絡(luò)1．神經(jīng)網(wǎng)絡(luò)的原理

神經(jīng)網(wǎng)絡(luò)中，每一層都有不同的神經(jīng)元，且每個(gè)神經(jīng)元都會(huì)接收來自上一層神經(jīng)元的信號(hào)，并且產(chǎn)生新的輸出信號(hào)傳到下一層神經(jīng)元中。神經(jīng)元接收上一層的輸入并輸出到下一層的方式被稱為前向傳播，這種神經(jīng)網(wǎng)絡(luò)被稱為前饋神經(jīng)網(wǎng)絡(luò)或多層感知器（multilayerperceptron，MLP）。1）神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)2.3.2神經(jīng)網(wǎng)絡(luò)2）激活函數(shù)

神經(jīng)網(wǎng)絡(luò)能解決復(fù)雜問題的能力主要取決于網(wǎng)絡(luò)所采用的激活函數(shù)。

激活函數(shù)決定該神經(jīng)元接收輸入與偏差信號(hào)以何種方式輸出，輸入通過激活函數(shù)轉(zhuǎn)換為輸出。

常用的3種激活函數(shù)：2.3.2神經(jīng)網(wǎng)絡(luò)2.神經(jīng)網(wǎng)絡(luò)的決策1）決策因素2）權(quán)重設(shè)置3）設(shè)定閾值4）加入偏置項(xiàng)b思政小課堂：向著建設(shè)世界科技強(qiáng)國(guó)的偉大目標(biāo)奮勇前進(jìn)“中國(guó)要強(qiáng)盛、要復(fù)興，就一定要大力發(fā)展科學(xué)技術(shù)，努力成為世界主要科學(xué)中心和創(chuàng)新高地。”中共中央總書記、國(guó)家主席、中央軍委主席習(xí)近平在中國(guó)科學(xué)院第十九次院士大會(huì)、中國(guó)工程院第十四次院士大會(huì)上的重要講話是新時(shí)代建設(shè)世界科技強(qiáng)國(guó)的新的“動(dòng)員令”。從“向科學(xué)進(jìn)軍”到“迎來創(chuàng)新的春天”，從“占有一席之地”到“成為具有重要影響力的科技大國(guó)”……中國(guó)創(chuàng)新的旋律越來越激越、昂揚(yáng)。“只有把關(guān)鍵核心技術(shù)掌握在自己手中，才能從根本上保障國(guó)家經(jīng)濟(jì)安全、國(guó)防安全和其他安全?！敝袊?guó)科協(xié)黨組書記懷進(jìn)鵬院士說，要以關(guān)鍵共性技術(shù)、前沿引領(lǐng)技術(shù)、現(xiàn)代工程技術(shù)、顛覆性技術(shù)創(chuàng)新為突破口，敢于走前人沒走過的路，努力實(shí)現(xiàn)關(guān)鍵核心技術(shù)自主可控。參加大會(huì)的兩院院士和科技工作者表示，要認(rèn)真學(xué)習(xí)領(lǐng)會(huì)習(xí)近平總書記的重要講話精神，肩負(fù)起歷史賦予的重任，勇做新時(shí)代科技創(chuàng)新的排頭兵，努力建設(shè)世界科技強(qiáng)國(guó)。2.3.2神經(jīng)網(wǎng)絡(luò)思政小課堂：中國(guó)在機(jī)器學(xué)習(xí)領(lǐng)域的突破浙江大學(xué)控制學(xué)院智能駕駛與未來交通中心主任、教授劉勇在中國(guó)人工智能大會(huì)上強(qiáng)調(diào)，近年來，隨著傳感器技術(shù)和SLAM理論的突破，自主移動(dòng)機(jī)器人已經(jīng)從研究邁向市場(chǎng)應(yīng)用，涉及的領(lǐng)域包括無人駕駛、智慧城市、腿足機(jī)器人、火星車等等。谷歌、蘋果、Meta等國(guó)際巨頭重點(diǎn)關(guān)注這項(xiàng)技術(shù)，國(guó)內(nèi)巨頭華為、百度、騰訊、阿里等，也紛紛開展專項(xiàng)研究。同時(shí)，中國(guó)的科技公司和研究機(jī)構(gòu)在深度學(xué)習(xí)框架和工具的開發(fā)上也有所突破，百度推出了PaddlePaddle深度學(xué)習(xí)框架，支持分布式訓(xùn)練和部署，為開發(fā)者提供了豐富的工具和庫。華為提供了MindSpore深度學(xué)習(xí)框架，具有靈活的圖模型、推理引擎和分布式訓(xùn)練等功能。目前，中國(guó)的人工智能專利申請(qǐng)量居世界首位。據(jù)中國(guó)信通院測(cè)算，2013年至2022年11月，全球累計(jì)人工智能發(fā)明專利申請(qǐng)量達(dá)72.9萬項(xiàng)，我國(guó)累計(jì)申請(qǐng)量達(dá)38.9萬項(xiàng)，占53.4%；全球累計(jì)人工智能發(fā)明專利授權(quán)量達(dá)24.4萬項(xiàng)，我國(guó)累計(jì)授權(quán)量達(dá)10.2萬項(xiàng)，占41.7%。2.3.2神經(jīng)網(wǎng)絡(luò)2.4.1線性回歸——工資預(yù)測(cè)

案例1：通過員工工作年限與工資的對(duì)應(yīng)關(guān)系表，找出二者之間的關(guān)系，并預(yù)測(cè)在指定的年限時(shí)工資會(huì)有多少。

分析：影響員工工資的要素有年齡、性別、學(xué)歷、工作年限、綜合能力等級(jí)（初級(jí)、中級(jí)、高級(jí)）等，對(duì)這些要素之間的相關(guān)性進(jìn)行檢驗(yàn)。往復(fù)N次“訓(xùn)練、測(cè)試”的輪回，找出平均誤差最小的預(yù)測(cè)模型。2.4.2邏輯回歸——預(yù)測(cè)期末考試能否及格

案例2：根據(jù)學(xué)生某門課程的復(fù)習(xí)時(shí)長(zhǎng)和效率預(yù)測(cè)其期末考試是否能夠及格。分析：本案例是根據(jù)學(xué)生某門課程的復(fù)習(xí)時(shí)長(zhǎng)和效率預(yù)測(cè)其期末考試是否能夠及格。首先構(gòu)造邏輯回歸模型并使用往年的調(diào)查結(jié)果數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練。然后對(duì)本屆學(xué)生的復(fù)習(xí)情況做出預(yù)測(cè)，并給出在特定學(xué)習(xí)狀態(tài)時(shí)考試及格和不及格的概率。

2.5本章小結(jié)本章主要介紹機(jī)器學(xué)習(xí)的概念、應(yīng)用領(lǐng)域、機(jī)器學(xué)習(xí)的分類、機(jī)器學(xué)習(xí)的流程以及機(jī)器學(xué)習(xí)常用的算法。通過工資預(yù)測(cè)和期末考試成績(jī)是否合格兩個(gè)案例，詳細(xì)介紹了機(jī)器學(xué)習(xí)庫和機(jī)器學(xué)習(xí)流程，可幫讀者掌握線性回歸、邏輯回歸等機(jī)器學(xué)習(xí)算法，理解機(jī)器學(xué)習(xí)的內(nèi)涵和機(jī)器學(xué)習(xí)算法的具體應(yīng)用，為后續(xù)進(jìn)一步使用機(jī)器學(xué)習(xí)進(jìn)行數(shù)據(jù)分析打下基礎(chǔ)。

小組練習(xí)主題：收集某個(gè)城市過去7天的天氣是否有雨，預(yù)測(cè)接下來的7天會(huì)不會(huì)下雨。說明：數(shù)據(jù)集如下，3人一組，通過機(jī)器學(xué)習(xí)算法進(jìn)行天氣預(yù)測(cè)。刮北風(fēng)悶熱多云天氣預(yù)報(bào)有雨第1天否是否是第2天是是是否第3天否是是否第4天否否否是第5天否是是否第6天否是否是第7天是否否是感謝聆聽第三章計(jì)算機(jī)視覺技術(shù)及應(yīng)用本章目標(biāo)了解計(jì)算機(jī)視覺技術(shù)的發(fā)展歷程及應(yīng)用領(lǐng)域熟悉基于深度學(xué)習(xí)的視覺技術(shù)掌握OpenCV框架的基本使用掌握人臉識(shí)別和車牌識(shí)別項(xiàng)目的開發(fā)流程3.1計(jì)算機(jī)視覺簡(jiǎn)介人臉識(shí)別自動(dòng)駕駛醫(yī)學(xué)影像分析工業(yè)質(zhì)檢ComputerVision-->CV視覺是人類獲取信息最主要的方式，而計(jì)算機(jī)視覺就是一門研究如何使計(jì)算機(jī)系統(tǒng)具備視覺感知能力的學(xué)科。通過模仿人類視覺系統(tǒng)的工作方式，計(jì)算機(jī)視覺技術(shù)旨在使計(jì)算機(jī)能夠理解、解釋和處理圖像或視頻數(shù)據(jù)。3.1.1計(jì)算機(jī)視覺發(fā)展概述

計(jì)算機(jī)視覺的發(fā)展經(jīng)歷了從早期的模式識(shí)別到深度學(xué)習(xí)的飛躍，為人工智能的發(fā)展提供了強(qiáng)有力的支持。隨著計(jì)算機(jī)視覺技術(shù)的不斷進(jìn)步，其在實(shí)際應(yīng)用中取得了巨大成功。起步階段20世紀(jì)50年代-70年代）模式識(shí)別的初步探索感知器模型被提出硬件和算法的限制使得計(jì)算機(jī)無法有效地處理大規(guī)模的圖像數(shù)據(jù)圖像處理的崛起20世紀(jì)80年代-90年代數(shù)字圖像處理邊緣檢測(cè)、圖像增強(qiáng)為后續(xù)的模式識(shí)別和目標(biāo)檢測(cè)打下了基礎(chǔ)機(jī)器學(xué)習(xí)與深度學(xué)習(xí)2000年代初-2010年代支持向量機(jī)（SVM）卷積神經(jīng)網(wǎng)絡(luò)（CNN）隨著機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的興起，計(jì)算機(jī)視覺取得了巨大的突破。圖像生成與遷移學(xué)習(xí)2010年代-至今生成對(duì)抗網(wǎng)絡(luò)（GAN）遷移學(xué)習(xí)計(jì)算機(jī)視覺逐漸向圖像生成和遷移學(xué)習(xí)等方向發(fā)展。3.1.1計(jì)算機(jī)視覺發(fā)展概述思政小課堂：《新一代人工智能倫理規(guī)范》發(fā)布3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理通過攝像頭、傳感器或者其他圖像采集設(shè)備捕捉到現(xiàn)實(shí)世界中的圖像，將其轉(zhuǎn)化為數(shù)字信號(hào)。1、圖像獲取3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理轉(zhuǎn)換為數(shù)字信號(hào)后的圖像，由一個(gè)個(gè)像素點(diǎn)組成，可以用像素矩陣來表示。每一個(gè)像素點(diǎn)都有一個(gè)對(duì)應(yīng)的像素值。1、圖像獲取3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理轉(zhuǎn)換為數(shù)字信號(hào)后的圖像，由一個(gè)個(gè)像素點(diǎn)組成，可以用像素矩陣來表示。每一個(gè)像素點(diǎn)都有一個(gè)對(duì)應(yīng)的像素值。1、圖像獲取3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理灰度圖像只有一個(gè)通道，而彩色圖像則由紅綠藍(lán)（RGB）三個(gè)通道組成（或者采用其他顏色模式，如CMYK等）。1、圖像獲取3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理彩色圖像可以很容易轉(zhuǎn)換為灰度圖像，例如使用公式Y(jié)=0.3*R+0.59*G+0.11*B而給灰度圖像“上色”則較為復(fù)雜。1、圖像獲取？3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理而給灰度圖像“上色”則需要更加智能的技術(shù)。1、圖像獲取彩色4K修復(fù)版開國(guó)大典首現(xiàn)大熒幕：這清晰度絕了3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理獲取到圖像后，計(jì)算機(jī)會(huì)進(jìn)行一系列的圖像處理操作，以提取有用的信息。比如，在圖像的預(yù)處理階段，進(jìn)行去噪、增強(qiáng)對(duì)比度等操作。在特征提取階段，會(huì)突出圖像中的關(guān)鍵特征，比如邊緣、顏色等。這些處理有助于減小數(shù)據(jù)量并突顯重要信息，以便后續(xù)的模式識(shí)別。2、圖像處理3.1.2計(jì)算機(jī)視覺實(shí)現(xiàn)原理在圖像處理的基礎(chǔ)上，計(jì)算機(jī)進(jìn)行模式識(shí)別，也就是理解圖像中的內(nèi)容。深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)（CNN）等模型在這一步驟中發(fā)揮了關(guān)鍵作用。它能夠自動(dòng)從圖像中提取特征，并通過訓(xùn)練過程學(xué)習(xí)如何分類或識(shí)別圖像中的目標(biāo)。3、模式識(shí)別3.1.3計(jì)算機(jī)視覺典型應(yīng)用人臉識(shí)別技術(shù)被廣泛應(yīng)用于交通、金融、安防、社交媒體等領(lǐng)域。通過定位人臉和分析面部特征，計(jì)算機(jī)能夠準(zhǔn)確辨識(shí)個(gè)體身份。1、人臉識(shí)別3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺在自動(dòng)駕駛汽車中扮演著關(guān)鍵角色。通過攝像頭獲取車輛周圍環(huán)境圖像，計(jì)算機(jī)視覺算法系統(tǒng)能夠?qū)崟r(shí)識(shí)別道路、障礙物、交通標(biāo)志等，從而智能地操控車輛。2、自動(dòng)駕駛3.1.3計(jì)算機(jī)視覺典型應(yīng)用在醫(yī)學(xué)領(lǐng)域，計(jì)算機(jī)視覺用于分析醫(yī)學(xué)影像，如CT掃描、MRI等。這有助于自動(dòng)檢測(cè)疾病跡象、輔助診斷，提高醫(yī)療水平和效率。3、醫(yī)學(xué)影像分析3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺系統(tǒng)被廣泛應(yīng)用于工業(yè)生產(chǎn)中的質(zhì)量控制。通過檢測(cè)產(chǎn)品表面的缺陷、尺寸偏差等，保證產(chǎn)品質(zhì)量并提高生產(chǎn)效率。4、工業(yè)質(zhì)檢3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺系統(tǒng)被廣泛應(yīng)用于工業(yè)生產(chǎn)中的質(zhì)量控制。通過檢測(cè)產(chǎn)品表面的缺陷、尺寸偏差等，保證產(chǎn)品質(zhì)量并提高生產(chǎn)效率。4、工業(yè)質(zhì)檢3.1.3計(jì)算機(jī)視覺典型應(yīng)用在視頻監(jiān)控和安防系統(tǒng)中，計(jì)算機(jī)視覺可用于檢測(cè)和跟蹤目標(biāo)，幫助監(jiān)測(cè)場(chǎng)景中的異常情況，極大地提升了安保效率，為維護(hù)社會(huì)治安做出了貢獻(xiàn)。5、目標(biāo)檢測(cè)與跟蹤3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺技術(shù)為增強(qiáng)現(xiàn)實(shí)技術(shù)提供支持，通過識(shí)別和追蹤現(xiàn)實(shí)世界中的物體，將虛擬信息疊加到用戶的視野中，拓展了交互和娛樂的可能性。6、增強(qiáng)現(xiàn)實(shí)（AR）3.1.3計(jì)算機(jī)視覺典型應(yīng)用通過分析人體手部動(dòng)作，計(jì)算機(jī)視覺能夠識(shí)別手勢(shì)并將其轉(zhuǎn)化為控制命令，這在虛擬現(xiàn)實(shí)、智能家居等領(lǐng)域有廣泛應(yīng)用。7、手勢(shì)識(shí)別3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺可以用于識(shí)別、提取文檔中的文字信息，實(shí)現(xiàn)自動(dòng)化的文檔管理和信息檢索。光學(xué)字符識(shí)別（OCR）技術(shù)是其中的關(guān)鍵組成部分。8、文檔識(shí)別OCR3.1.3計(jì)算機(jī)視覺典型應(yīng)用計(jì)算機(jī)視覺可以用于識(shí)別、提取文檔中的文字信息，實(shí)現(xiàn)自動(dòng)化的文檔管理和信息檢索。光學(xué)字符識(shí)別（OCR）技術(shù)是其中的關(guān)鍵組成部分。8、文檔識(shí)別OCR3.1.3計(jì)算機(jī)視覺典型應(yīng)用在零售業(yè)，計(jì)算機(jī)視覺被用于人流分析、貨架管理、商品識(shí)別等，可以提升購物體驗(yàn)、減少盜竊，并優(yōu)化庫存管理。9、智慧零售3.2基于深度學(xué)習(xí)的視覺技術(shù)圖像分類目標(biāo)檢測(cè)圖像分割軌跡跟蹤deeplearning深度學(xué)習(xí)的核心思想是通過模仿人腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，建立多層次的神經(jīng)網(wǎng)絡(luò)，使計(jì)算機(jī)能夠模擬人類學(xué)習(xí)的方式，從而自動(dòng)學(xué)習(xí)和提取復(fù)雜的特征。這種模型的引入為視覺任務(wù)帶來了翻天覆地的變化，讓計(jì)算機(jī)能夠更深入、更準(zhǔn)確地理解和處理圖像數(shù)據(jù)。3.2.1圖像分類1、圖像分類的概念？

圖像分類旨在將輸入的圖像劃分為不同的預(yù)定義類別。這是一種將圖像與事先訓(xùn)練好的分類模型相匹配的過程。3.2.1圖像分類2、機(jī)器學(xué)習(xí)中圖像分類的基本原理特征提取在傳統(tǒng)方法中，圖像分類的首要步驟是從圖像中提取特征。這些特征可以包括顏色直方圖、紋理、形狀等，這些特征幫助模型捕捉圖像中的關(guān)鍵信息。特征表示提取的特征需要被適當(dāng)表示，以便計(jì)算機(jī)能夠理解和處理。常用的表示方法包括向量或矩陣形式，以便輸入到分類器中。分類器分類器是一個(gè)數(shù)學(xué)模型，用于根據(jù)輸入的特征將圖像分配到不同的類別。常見的分類器包括支持向量機(jī)（SVM）、決策樹、隨機(jī)森林等，這些分類器經(jīng)過訓(xùn)練，能夠?qū)W習(xí)如何將特征與類別關(guān)聯(lián)起來訓(xùn)練和測(cè)試訓(xùn)練階段使用已標(biāo)記的圖像數(shù)據(jù)集，通過訓(xùn)練分類器調(diào)整其參數(shù)，使其能夠正確地將圖像分到相應(yīng)的類別。測(cè)試階段則通過未標(biāo)記的圖像驗(yàn)證模型的性能，評(píng)估其在新數(shù)據(jù)上的泛化能力。3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)卷積神經(jīng)網(wǎng)絡(luò)（CNN）CNN通過卷積層和池化層來逐層提取圖像的局部和全局特征。這些特征在全連接層中被用于進(jìn)行分類決策。CNN的層次結(jié)構(gòu)使其能夠逐漸抽象出更高級(jí)別的特征，從而提高模型對(duì)圖像語義的理解能力。遷移學(xué)習(xí)利用在大規(guī)模數(shù)據(jù)集上預(yù)訓(xùn)練的深度學(xué)習(xí)模型，如在ImageNet上訓(xùn)練的模型，進(jìn)行遷移學(xué)習(xí)。將預(yù)訓(xùn)練的模型的權(quán)重用于新的圖像分類任務(wù)，使得模型能夠更快速地收斂和獲得更好的性能。激活函數(shù)和正則化深度學(xué)習(xí)中的圖像分類網(wǎng)絡(luò)通常使用非線性激活函數(shù)，如ReLU，以幫助網(wǎng)絡(luò)學(xué)習(xí)更復(fù)雜的特征。正則化技術(shù)如Dropout也被廣泛應(yīng)用，以防止過擬合。3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)LeNet-5于1998年被提出是卷積神經(jīng)網(wǎng)絡(luò)的先驅(qū)之一主要應(yīng)用于手寫數(shù)字的識(shí)別包含卷積層、池化層和全連接層雖然在當(dāng)時(shí)并未引起廣泛關(guān)注，但為后來更先進(jìn)的網(wǎng)絡(luò)奠定了基礎(chǔ)作為經(jīng)典的入門級(jí)神經(jīng)網(wǎng)絡(luò)，對(duì)于簡(jiǎn)單字符的識(shí)別效果尚可，然而，對(duì)于更加復(fù)雜的項(xiàng)目，如人臉、車牌識(shí)別等，LeNet的結(jié)構(gòu)則過于簡(jiǎn)單了，可能無法得到較高的準(zhǔn)確率目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)AlexNet于2012年被提出是深度學(xué)習(xí)在圖像分類中的重要突破在ILSVRC2012圖像分類競(jìng)賽中取得了顯著的勝利AlexNet采用了更深的網(wǎng)絡(luò)結(jié)構(gòu)，使用ReLU激活函數(shù)，引入了Dropout正則化利用GPU進(jìn)行高效訓(xùn)練目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)VGGNet于2014年被提出采用了非常深的網(wǎng)絡(luò)結(jié)構(gòu)包含16或19層卷積層，全部使用3x3的小卷積核，使得網(wǎng)絡(luò)結(jié)構(gòu)更加簡(jiǎn)潔而深入VGGNet的設(shè)計(jì)理念影響了后續(xù)深度學(xué)習(xí)模型的構(gòu)建目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)GoogLeNet(Inception)于2014年被提出引入了Inception模塊通過并聯(lián)多個(gè)不同大小的卷積核和池化層，提高了網(wǎng)絡(luò)的寬度和深度該模型在參數(shù)數(shù)量相對(duì)較少的情況下取得了較好的性能目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)ResNet(ResidualNetwork)于2015年被提出引入殘差塊（Residual），解決了深度網(wǎng)絡(luò)訓(xùn)練中的梯度消失和梯度爆炸問題該結(jié)構(gòu)允許網(wǎng)絡(luò)層跳過連接，使得訓(xùn)練更加容易允許構(gòu)建超深的網(wǎng)絡(luò)目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)MobileNet于2017年被提出設(shè)計(jì)用于移動(dòng)設(shè)備上的實(shí)時(shí)圖像處理采用深度可分離卷積，減少了參數(shù)數(shù)量和計(jì)算量在資源受限的設(shè)備上也能實(shí)現(xiàn)高效的圖像分類目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.1圖像分類3、基于深度學(xué)習(xí)的圖像分類技術(shù)EfficientNet于2019年被提出通過使用復(fù)合縮放方法，同時(shí)增加網(wǎng)絡(luò)的深度、寬度和分辨率，達(dá)到更好的性能在參數(shù)相對(duì)較少的情況下，取得了與更大更深的模型相媲美的效果目前，圖像分類項(xiàng)目一般都會(huì)使用深度學(xué)習(xí)技術(shù)來實(shí)現(xiàn)。圖像分類常用的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)包括但不限于以下幾種：3.2.2目標(biāo)檢測(cè)1、目標(biāo)檢測(cè)的概念

目標(biāo)檢測(cè)旨在從圖像或視頻中識(shí)別和定位圖像中的多個(gè)目標(biāo)，并為每個(gè)目標(biāo)分配相應(yīng)的類別標(biāo)簽。與圖像分類不同，目標(biāo)檢測(cè)不僅需要確定圖像中是否存在目標(biāo)，還需要準(zhǔn)確地標(biāo)定目標(biāo)的位置3.2.2目標(biāo)檢測(cè)2、傳統(tǒng)的目標(biāo)檢測(cè)算法HOG全稱HistogramofOrientedGradients，使用圖像中的梯度信息來描述圖像的局部結(jié)構(gòu)，尤其適用于描述物體的邊緣和紋理。將圖像劃分為小的局部區(qū)域，計(jì)算每個(gè)區(qū)域內(nèi)梯度的方向直方圖，最終將這些直方圖串聯(lián)起來形成特征向量。SIFT全稱Scale-InvariantFeatureTransform，具有尺度不變性和旋轉(zhuǎn)不變性，對(duì)于圖像中的局部特征點(diǎn)具有很好的描述能力。在圖像中檢測(cè)關(guān)鍵點(diǎn)，然后提取這些關(guān)鍵點(diǎn)周圍的局部特征，通過描述子來表示這些特征。GLOH全稱GradientLocation-OrientationHistogra，是SIFT的改進(jìn)版本，增加了對(duì)光照和旋轉(zhuǎn)的魯棒性。在關(guān)鍵點(diǎn)周圍計(jì)算梯度直方圖，并使用多尺度的描述子來提高對(duì)尺度變化的適應(yīng)性。DPM全稱DeformablePartsModel，引入了“變形部分模型”來處理目標(biāo)的非剛性形變。將目標(biāo)分解為多個(gè)部分，每個(gè)部分用HOG描述，通過學(xué)習(xí)部分之間的相對(duì)位置關(guān)系來構(gòu)建目標(biāo)模型。SelectiveSearch是一種基于貪心策略的區(qū)域生成算法，用于生成候選區(qū)域。通過對(duì)圖像進(jìn)行分割、合并和其他操作，生成具有多樣性的候選區(qū)域，然后使用分類器對(duì)這些區(qū)域進(jìn)行檢測(cè)。ICF全稱IntegralChannelFeatures，使用積分圖像進(jìn)行快速特征計(jì)算，提高了算法的計(jì)算效率。利用圖像的積分圖像計(jì)算各種特征，如梯度特征、顏色特征等，用于目標(biāo)檢測(cè)。3.2.2目標(biāo)檢測(cè)3、基于深度學(xué)習(xí)的目標(biāo)檢測(cè)算法FasterR-CNN全稱Region-basedConvolutionalNeuralNetwork，引入了區(qū)域提議網(wǎng)絡(luò)和ROI池化層，實(shí)現(xiàn)了端到端的目標(biāo)檢測(cè)。RPN用于生成候選目標(biāo)區(qū)域，然后通過ROI池化將這些區(qū)域轉(zhuǎn)換為固定大小的特征圖，最后通過全連接層進(jìn)行分類和定位。YOLO全稱YouOnlyLookOnce，通過將圖像劃分為網(wǎng)格，每個(gè)網(wǎng)格負(fù)責(zé)檢測(cè)特定區(qū)域內(nèi)的目標(biāo)，實(shí)現(xiàn)實(shí)時(shí)目標(biāo)檢測(cè)。將目標(biāo)檢測(cè)任務(wù)視為回歸問題，直接預(yù)測(cè)目標(biāo)的坐標(biāo)和類別，并在整個(gè)圖像上進(jìn)行端到端的訓(xùn)練和預(yù)測(cè)。SSD全稱SingleShotMultiboxDetector，通過在不同層次的特征圖上使用多個(gè)錨框進(jìn)行檢測(cè)，實(shí)現(xiàn)了對(duì)多尺度目標(biāo)的有效檢測(cè)。利用多個(gè)卷積層產(chǎn)生的特征圖來進(jìn)行目標(biāo)檢測(cè)，通過預(yù)測(cè)每個(gè)錨框的類別和邊界框偏移來完成任務(wù)。MaskR-CNN在FasterR-CNN的基礎(chǔ)上進(jìn)一步增加了對(duì)實(shí)例分割的支持，同時(shí)能夠輸出每個(gè)檢測(cè)到的目標(biāo)的精確邊界。在FasterR-CNN的基礎(chǔ)上引入了額外的分割網(wǎng)絡(luò)，用于生成每個(gè)目標(biāo)的二進(jìn)制掩碼。RetinaNet采用了一種稱為“FocalLoss”的損失函數(shù)，有效解決了類別不平衡問題，提高了對(duì)稀有目標(biāo)的檢測(cè)能力。在FasterR-CNN的基礎(chǔ)上引入了特殊設(shè)計(jì)的損失函數(shù)，使得模型更關(guān)注難以分類的目標(biāo)。EfficientDet結(jié)合了EfficientNet的輕量級(jí)設(shè)計(jì)和目標(biāo)檢測(cè)任務(wù)的需求，實(shí)現(xiàn)了高效而準(zhǔn)確的目標(biāo)檢測(cè)。通過改進(jìn)網(wǎng)絡(luò)結(jié)構(gòu)、特征金字塔網(wǎng)絡(luò)（FeaturePyramidNetwork，F(xiàn)PN）等技術(shù)來提高模型的效率。3.2.3圖像分割1、圖像分割的概念

圖像分割旨在將圖像劃分為若干個(gè)具有相似特征的區(qū)域。圖像分割與目標(biāo)檢測(cè)不同，圖像分割是一個(gè)像素級(jí)別的任務(wù)，目標(biāo)是將圖像分割成區(qū)域，每個(gè)像素都有一個(gè)標(biāo)簽；而目標(biāo)檢測(cè)是在物體級(jí)別上操作，關(guān)注點(diǎn)在于識(shí)別圖像中存在的物體及其位置。3.2.3圖像分割2、傳統(tǒng)的圖像分割算法閾值分割英文Thresholding，是一種簡(jiǎn)單而常用的方法，基于圖像中像素的灰度值。通過設(shè)定一個(gè)閾值，將圖像分為兩個(gè)區(qū)域，其中像素值小于閾值的屬于一個(gè)區(qū)域，大于等于閾值的屬于另一個(gè)區(qū)域。閾值分割一般只適用于對(duì)比度較明顯的圖像。區(qū)域生長(zhǎng)英文RegionGrowing，是一種基于像素相似性的分割方法，從種子像素開始，逐漸將相鄰像素加入同一區(qū)域，直到不再滿足相似性條件。區(qū)域生長(zhǎng)算法適用于具有相對(duì)均勻區(qū)域的圖像。區(qū)域分割英文RegionSplitandMerge，是一種自頂向下的分割方法，首先將整個(gè)圖像視為一個(gè)區(qū)域，然后遞歸地分裂和合并區(qū)域，直到滿足某些準(zhǔn)則。該算法適用于具有不同紋理和結(jié)構(gòu)的圖像。邊緣檢測(cè)英文EdgeDetection，尋找圖像中的邊緣，通常使用梯度信息來定位圖像中亮度變化較大的區(qū)域。邊緣檢測(cè)適用于強(qiáng)調(diào)圖像中物體邊界的分割。水平集方法英文LevelSetMethods，基于曲線演化理論，通過表示圖像中的區(qū)域邊界的曲線來進(jìn)行分割。適用于復(fù)雜形狀和拓?fù)浣Y(jié)構(gòu)的分割。3.2.3圖像分割3、基于深度學(xué)習(xí)的圖像分割算法U-Net是一種全卷積網(wǎng)絡(luò)，設(shè)計(jì)用于生物醫(yī)學(xué)圖像分割。它包含一個(gè)編碼器和一個(gè)解碼器，并通過跳躍連接來保留高層次和低層次的特征。主要應(yīng)用于醫(yī)學(xué)圖像分割，如細(xì)胞圖像和醫(yī)學(xué)影像。SegNet是一個(gè)基于CNN的圖像分割網(wǎng)絡(luò)，通過對(duì)圖像中的每個(gè)像素進(jìn)行分類來實(shí)現(xiàn)分割。它使用反卷積進(jìn)行上采樣，恢復(fù)圖像的空間分辨率。適用于語義分割任務(wù)，如道路和場(chǎng)景理解。DeepLab系列是一系列圖像分割算法，采用空洞卷積來擴(kuò)大感受野，以更好地捕捉上下文信息。DeepLabv3+還引入了全局平均池化。廣泛應(yīng)用于語義分割任務(wù)，包括實(shí)例分割和物體檢測(cè)MaskR-CNN是一種實(shí)例分割框架，基于FasterR-CNN，通過在目標(biāo)檢測(cè)的基礎(chǔ)上增加分割分支，實(shí)現(xiàn)同時(shí)檢測(cè)和分割物體實(shí)例。主要用于需要識(shí)別和分割多個(gè)對(duì)象實(shí)例的任務(wù)。FCNFullyConvolutionalNetwork，是一種將傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)化為全卷積網(wǎng)絡(luò)的方法，允許對(duì)輸入圖像進(jìn)行像素級(jí)別的分類和分割。適用于語義分割任務(wù)，如將圖像中的每個(gè)像素標(biāo)記為不同的類別。。PSPNetPyramidSceneParsingNetwork，使用金字塔池化模塊來捕捉不同尺度上的語境信息，從而提高分割性能。適用于需要全局上下文信息的場(chǎng)景，如城市場(chǎng)景分割。3.2.4軌跡跟蹤1、軌跡跟蹤的概念

軌跡跟蹤目的是在視頻序列中準(zhǔn)確地追蹤目標(biāo)對(duì)象的運(yùn)動(dòng)軌跡。軌跡跟蹤算法需要在連續(xù)的圖像幀中檢測(cè)目標(biāo)，并將它們關(guān)聯(lián)起來形成時(shí)間上的軌跡。軌跡跟蹤的關(guān)鍵步驟包括目標(biāo)檢測(cè)、目標(biāo)關(guān)聯(lián)、軌跡生成、軌跡更新、處理遮擋和消失以及多目標(biāo)跟蹤。3.2.4軌跡跟蹤2、傳統(tǒng)的軌跡跟蹤算法卡爾曼濾波KalmanFilter，卡爾曼濾波是一種遞歸的估計(jì)算法，通過對(duì)目標(biāo)的當(dāng)前狀態(tài)和運(yùn)動(dòng)進(jìn)行建模，結(jié)合觀測(cè)數(shù)據(jù)，不斷更新目標(biāo)的狀態(tài)估計(jì)。在軌跡跟蹤中，卡爾曼濾波可用于預(yù)測(cè)目標(biāo)的下一幀位置。最鄰近跟蹤NearestNeighborTracking，在每一幀中，使用距離度量（如歐氏距離）找到當(dāng)前幀檢測(cè)結(jié)果與上一幀跟蹤目標(biāo)的最鄰近匹配。這種方法簡(jiǎn)單直觀，但對(duì)于遮擋等情況可能不魯棒。KLT跟蹤器KLTTracker，基于光流的KLT（Kanade-Lucas-Tomasi）跟蹤器使用局部圖像區(qū)域的特征點(diǎn)，通過追蹤這些特征點(diǎn)的運(yùn)動(dòng)來實(shí)現(xiàn)目標(biāo)跟蹤。適用于一定程度的目標(biāo)運(yùn)動(dòng)和變形。中值流MedianFlow，算法利用檢測(cè)框中的像素強(qiáng)度信息計(jì)算光流，并通過中值流場(chǎng)的方向和大小來更新目標(biāo)的位置。適用于低速運(yùn)動(dòng)的目標(biāo)。連通區(qū)域跟蹤C(jī)onnectedComponentTracking，在二值化的圖像中，通過檢測(cè)連通區(qū)域（二值圖像中相鄰的白色像素）來跟蹤目標(biāo)。適用于目標(biāo)邊界清晰的情況。CAMShiftCAMShift算法基于MeanShift算法，通過不斷調(diào)整搜索窗口的大小和方向，實(shí)現(xiàn)目標(biāo)的跟蹤。適用于目標(biāo)尺寸和顏色較為一致的情況。3.2.4軌跡跟蹤3、基于深度學(xué)習(xí)的軌跡跟蹤算法DeepSORTDeepSimpleOnlineandRealtimeTracking，結(jié)合了目標(biāo)檢測(cè)和深度學(xué)習(xí)特征提取，使用卷積神經(jīng)網(wǎng)絡(luò)提取特征，并通過外觀特征和運(yùn)動(dòng)信息來關(guān)聯(lián)和跟蹤目標(biāo)。利用深度學(xué)習(xí)目標(biāo)檢測(cè)器檢測(cè)目標(biāo)，然后使用深度學(xué)習(xí)特征提取器提取目標(biāo)外觀特征，最后使用卡爾曼濾波進(jìn)行軌跡預(yù)測(cè)和關(guān)聯(lián)。MOTDTMultipleObjectTrackingwithDeepLearning，采用了深度學(xué)習(xí)的目標(biāo)檢測(cè)器和在線學(xué)習(xí)的軌跡跟蹤器，通過CNN提取特征，使用卡爾曼濾波進(jìn)行軌跡預(yù)測(cè)，并采用在線學(xué)習(xí)策略不斷更新模型。在目標(biāo)檢測(cè)結(jié)果上應(yīng)用CNN提取特征，然后使用在線學(xué)習(xí)策略不斷更新外觀模型，通過卡爾曼濾波來實(shí)現(xiàn)目標(biāo)的軌跡跟蹤DeepMOT基于深度卷積神經(jīng)網(wǎng)絡(luò)，將目標(biāo)檢測(cè)、特征提取和軌跡跟蹤整合到一個(gè)統(tǒng)一的深度學(xué)習(xí)框架中，以提高端到端的性能。使用卷積神經(jīng)網(wǎng)絡(luò)提取圖像特征，通過LSTM或Transformer等結(jié)構(gòu)對(duì)序列信息建模，最終輸出目標(biāo)的軌跡。FairMOT采用了多任務(wù)學(xué)習(xí)的方法，同時(shí)預(yù)測(cè)目標(biāo)的類別、位置和運(yùn)動(dòng)狀態(tài)，提高了多目標(biāo)跟蹤的準(zhǔn)確性。使用深度卷積神經(jīng)網(wǎng)絡(luò)同時(shí)處理目標(biāo)檢測(cè)和軌跡跟蹤任務(wù)，通過多任務(wù)學(xué)習(xí)框架進(jìn)行聯(lián)合訓(xùn)練。SORTSimpleOnlineandRealtimeTracking，結(jié)合了目標(biāo)檢測(cè)和卡爾曼濾波，通過簡(jiǎn)單有效的方法實(shí)現(xiàn)實(shí)時(shí)目標(biāo)跟蹤。使用目標(biāo)檢測(cè)器（獲取目標(biāo)位置，然后使用卡爾曼濾波進(jìn)行軌跡的預(yù)測(cè)和更新3.2.4軌跡跟蹤思政小課堂：堅(jiān)守高尚的道德情操，向非法技術(shù)濫用說不計(jì)算機(jī)視覺技術(shù)的快速發(fā)展給我們帶來了很多益處，然而，一部分人卻將這項(xiàng)技術(shù)用于非法或非道德用途。在數(shù)字圖像處理技術(shù)發(fā)展之初，就有人使用PS技術(shù)炮制虛假照片，從而制造虛假新聞?wù)`導(dǎo)公眾認(rèn)知，或者用來誹謗、侮辱他人。在深度學(xué)習(xí)的加持下，計(jì)算機(jī)視覺技術(shù)更加強(qiáng)大，AI換臉、視頻合成的效果有時(shí)甚至可以達(dá)到以假亂真的程度。這給一些不良團(tuán)體或個(gè)人炮制虛假、低俗信息提供了便利。在社交媒體發(fā)達(dá)的今天，這些虛假的不良信息能夠輕易被傳播。一些不法分子甚至利用相關(guān)的技術(shù)，仿冒他人身份進(jìn)行電信詐騙。作為一名人工智能技術(shù)的學(xué)習(xí)者，我們?cè)谠鰪?qiáng)自身技術(shù)能力的同時(shí)，也要不斷提升自己的道德操守，拒絕技術(shù)濫用，抵制不良信息。3.3OpenCV基礎(chǔ)圖像處理實(shí)時(shí)視頻處理計(jì)算機(jī)視覺工具包機(jī)器學(xué)習(xí)深度學(xué)習(xí)圖像和視頻的特征提取圖像分割和輪廓檢測(cè)OpenCVOpenCV（OpenSourceComputerVisionLibrary）是一個(gè)開源的計(jì)算機(jī)視覺庫，旨在提供一套通用的計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)工具。OpenCV支持多個(gè)操作系統(tǒng)，包括Windows、Linux、macOS等，它由一系列高效且優(yōu)化的C/C++函數(shù)組成，同時(shí)提供了Python、Java和其他語言的接口，使得開發(fā)者能夠輕松使用這些功能。3.3.1OpenCV的安裝60年代，星際迷航80年代，終結(jié)者21世紀(jì)，人工智能1、pip命令安裝pipinstallopencv-pythonpipinstallopencv-python-i/simple請(qǐng)先確保python已安裝并且配置了pip工具。打開一個(gè)終端命令窗口，輸入以下命令：如果安裝時(shí)網(wǎng)絡(luò)異常或者安裝包拉取速度較慢，可以輸入以下命令：3.3.1OpenCV的安裝21世紀(jì)，人工智能2、conda命令安裝condainstallopencvcondainstall-c/menpoopencv如果您使用anaconda環(huán)境進(jìn)行Python代碼開發(fā)，那么可以使用conda命令安裝OpenCV。打開anacondaprompt工具的終端界面，輸入以下命令：或者：3.3.1OpenCV的安裝80年代，終結(jié)者3、通過源代碼構(gòu)建cmakepath/to/opencv/sourcemakeinstall訪問OpenCV官方GitHub倉庫下載最新的源代碼壓縮包（源代碼也可以從本書配套資源獲?。?。將下載的源代碼解壓到您選擇的目錄。在解壓后的目錄中創(chuàng)建一個(gè)新目錄，用于存放構(gòu)建文件。使用CMake配置構(gòu)建。在終端或命令提示符中，導(dǎo)航到構(gòu)建目錄并運(yùn)行以下命令：如果您需要