機(jī)器學(xué)習(xí)實(shí)踐課程教學(xué)改革探討

機(jī)器學(xué)習(xí)理論課程教學(xué)改革討論〔〕:

摘要：本文主要討論面向本科教育的機(jī)器學(xué)習(xí)開放式理論課程教學(xué)改革方法。將Tensorflow平臺(tái)引入到理論教學(xué)中，對(duì)傳統(tǒng)的機(jī)器學(xué)習(xí)理論課程中教學(xué)環(huán)節(jié)和理論環(huán)節(jié)進(jìn)展同步改革，利用翻轉(zhuǎn)課堂充分發(fā)揮學(xué)生在理論教學(xué)過程中的主體作用，培養(yǎng)學(xué)生中利用機(jī)器學(xué)習(xí)算法研究問題、分析問題和解決問題的才能。新方法的引用和新的教學(xué)手段較好支撐了理論教學(xué)的開展，促進(jìn)了課程教學(xué)質(zhì)量的進(jìn)步。

關(guān)鍵詞：Tensorflow；機(jī)器學(xué)習(xí)；理論教學(xué)；教學(xué)改革

本文引用格式：蔣磊，等.機(jī)器學(xué)習(xí)理論課程教學(xué)改革討論[J].教育現(xiàn)代化,2022,7(56):76-79.

TeachingReformMethodsofMachineLearning"sOpenPracticalCourseforUndergraduateEducation

JIANGLei,ZHANGLi,YANJun，WANJin-tao

(SchoolofMechanicalandInformationEngineeringofChinaUniversityofMiningandTechnology,Beijing)

Abstract:Thispapermainlydiscussestheteachingreformmethodsoftheopenpracticalcourseofmachinelearningforundergraduateeducation.TheTensorflowopensourceplatformisintroducedtopracticeteachingandusedtosynchronizethereformofteachingandpracticeintraditionalmachinelearningpracticecourses.Theflippedclassroomisusedtogivefullplaytothemainroleofstudentsinthepracticeteachingprocess,andtotrainstudentstousemachinelearningalgorithmstostudyproblemsandimprovetheabilityofanalyzingproblemsandsolvingproblems.Theintroductionofnewmethodsandnewteachingmethodsbettersupportthedevelopmentofpracticalteachingandpromotetheimprovementofthequalityofcurriculumteaching.

Keywords:Tensorflow;Machinelearning;Teachingreform;Practiceteaching

一數(shù)字系統(tǒng)原理與應(yīng)用理論課程的現(xiàn)狀

機(jī)器學(xué)習(xí)是當(dāng)前最熱門的研究領(lǐng)域之一，得到了全世界的廣泛關(guān)注。在學(xué)術(shù)界，?Nature?和?Science?先后推出了機(jī)器學(xué)習(xí)專刊，討論機(jī)器學(xué)習(xí)為科研領(lǐng)域帶來的全新機(jī)遇與挑戰(zhàn)。在工業(yè)界，麥肯錫研究院指出機(jī)器學(xué)習(xí)將會(huì)是下一個(gè)創(chuàng)新、競(jìng)爭(zhēng)、消費(fèi)力進(jìn)步的風(fēng)向標(biāo)[1,2]。在教育界，局部國內(nèi)院校新開設(shè)了人工智能新工科專業(yè)，未開始的院校也都在在積極申報(bào)該專業(yè)[3,4]。雖然中國礦業(yè)大學(xué)〔北京〕暫未開設(shè)人工智能專業(yè)，但是人工智能專業(yè)中的核心課程?機(jī)器學(xué)習(xí)?在我校電氣大類各學(xué)科中都有開設(shè)。?機(jī)器學(xué)習(xí)?作為我校信息工程專業(yè)一門重要的專業(yè)核心課程，重點(diǎn)教授機(jī)器學(xué)習(xí)的理論知識(shí)和應(yīng)用，使學(xué)生掌握應(yīng)用機(jī)器學(xué)習(xí)知識(shí)解決實(shí)際問題的才能。在我校現(xiàn)行的?機(jī)器學(xué)習(xí)?課程中，主要是以各種經(jīng)典的機(jī)器學(xué)習(xí)理論算法教學(xué)為主，例如KNN、決策數(shù)、支持向量機(jī)等，但是目前機(jī)器學(xué)習(xí)領(lǐng)域較熱門的研究方向均集中在各種不同類型的深度神經(jīng)網(wǎng)絡(luò)。理解機(jī)器學(xué)習(xí)的根本原理，必須結(jié)合實(shí)驗(yàn)與理論，但目前我校的?機(jī)器學(xué)習(xí)?課程并沒有配套的理論環(huán)節(jié)，理論局部往往是教師利用理論課時(shí)給學(xué)生在課堂上演示各種機(jī)器學(xué)習(xí)算法在matlab上的仿真與應(yīng)用，通過理論學(xué)生大多可以掌握如何應(yīng)用機(jī)器學(xué)習(xí)中的算法，學(xué)生往往對(duì)于機(jī)器學(xué)習(xí)各個(gè)算法的本質(zhì)原理并不能追本溯源，也不具備應(yīng)用機(jī)器學(xué)習(xí)知識(shí)解決實(shí)際問題的才能[5-7]。因此，對(duì)我校?機(jī)器學(xué)習(xí)?課程進(jìn)展理論教育改革已經(jīng)成為一個(gè)迫在眉睫的議題。

二?機(jī)器學(xué)習(xí)?理論教學(xué)改革的措施

我?，F(xiàn)有的?機(jī)器學(xué)習(xí)課程?方案學(xué)時(shí)數(shù)為32學(xué)時(shí),全為理論學(xué)時(shí)?，F(xiàn)有的培養(yǎng)方案由于缺乏理論課，不可以充分滿足課程大綱教學(xué)內(nèi)容以達(dá)成培養(yǎng)目的。為了加深學(xué)生對(duì)?機(jī)器學(xué)習(xí)?知識(shí)的理解,進(jìn)步學(xué)生應(yīng)用機(jī)器學(xué)習(xí)解決實(shí)際問題的才能，我校方案在原有學(xué)時(shí)根底上，增加8個(gè)學(xué)時(shí)的理論課程。同時(shí)從教學(xué)大綱、理論環(huán)節(jié)兩方面進(jìn)展教學(xué)改革。

〔一〕教學(xué)大綱修訂

?機(jī)器學(xué)習(xí)?課程是信息工程專業(yè)的一門重要專業(yè)選修課，本校2022版教學(xué)大綱教學(xué)重點(diǎn)主要集中在KNN，樸素貝葉斯、決策數(shù)、支持向量機(jī)與BP神經(jīng)網(wǎng)絡(luò)等知識(shí)點(diǎn)。通過對(duì)學(xué)生課后的問卷調(diào)查和研討中發(fā)現(xiàn)，學(xué)生對(duì)上述知識(shí)點(diǎn)的數(shù)學(xué)背景知識(shí)嚴(yán)重缺乏。同時(shí)，上述算法在如今的機(jī)器學(xué)習(xí)和人工智能領(lǐng)域熱門已經(jīng)有一定的脫節(jié)，知識(shí)的時(shí)效性已經(jīng)不再滿足當(dāng)前對(duì)學(xué)生的培養(yǎng)。因此，對(duì)我校2022版?機(jī)器學(xué)習(xí)?課程教學(xué)大綱修改，勢(shì)在必行。新的教學(xué)大綱不僅要講授神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的根本知識(shí)和根本理論，還要使用一定的學(xué)時(shí)對(duì)機(jī)器學(xué)習(xí)涉及到線性代數(shù)、概率論的理論根底進(jìn)展強(qiáng)化學(xué)習(xí)。增加目前流行的卷積神經(jīng)網(wǎng)絡(luò)、LSTM長短記憶神經(jīng)網(wǎng)絡(luò)、對(duì)抗消費(fèi)心經(jīng)網(wǎng)絡(luò)等主流深度學(xué)習(xí)方法的介紹。在理論環(huán)節(jié)、增加卷積神經(jīng)網(wǎng)絡(luò)和、循環(huán)神經(jīng)網(wǎng)絡(luò)等深度學(xué)習(xí)算法的設(shè)計(jì)方法與實(shí)現(xiàn)方法。通過理論教學(xué)與實(shí)驗(yàn)教學(xué)相結(jié)合，使學(xué)生能建立深度學(xué)習(xí)完好的總體概念，掌握深度學(xué)習(xí)的根本概念、根本分析方法和設(shè)計(jì)方法以及假設(shè)干典型的中、小規(guī)模深度學(xué)習(xí)網(wǎng)絡(luò)的功能及應(yīng)用，培養(yǎng)學(xué)生分析問題和解決問題的才能，為后續(xù)課程打下理論和技術(shù)根底。

〔二〕實(shí)驗(yàn)設(shè)施的改造

由于我校?機(jī)器學(xué)習(xí)?課程教學(xué)大綱沒有理論環(huán)節(jié)，現(xiàn)有的理論教學(xué)都是授課教師在課堂上占用現(xiàn)有理論課的時(shí)間，對(duì)機(jī)器學(xué)習(xí)算法的實(shí)驗(yàn)進(jìn)展簡(jiǎn)要的演示。改革后的教學(xué)大綱，增加了理論教學(xué)環(huán)節(jié)。為了滿足教學(xué)理論的需要，進(jìn)步學(xué)生就業(yè)競(jìng)爭(zhēng)力，確保學(xué)習(xí)在充分掌握人工智能根底理論的同時(shí)，又具備應(yīng)用新技術(shù)新設(shè)備將人工智能技術(shù)應(yīng)用到實(shí)際問題中的才能，我校方案新建人工智能實(shí)驗(yàn)室配合?機(jī)器學(xué)習(xí)?課程的理論環(huán)節(jié)。通過充分調(diào)研國內(nèi)一流高校相關(guān)專業(yè)的課程理論平臺(tái)和人工智能相關(guān)企業(yè)，發(fā)現(xiàn)目前高校與科研公司人工智能算法的部署與施行，主要以包含GPU運(yùn)算器的通用計(jì)算機(jī)平臺(tái)和專門設(shè)計(jì)的嵌入式系統(tǒng)平臺(tái)，例如搭載Nvidia2080TIGPU加速器的通用計(jì)算機(jī)，NvidiaJetsonNano嵌入式平臺(tái)。考慮到本科生畢業(yè)后可能在不同的領(lǐng)域進(jìn)展科研工作，我校新建的人工智能實(shí)驗(yàn)室搭建了基于NvidiaGPU加速平臺(tái)的通用計(jì)算機(jī)人工智能實(shí)驗(yàn)平臺(tái)，基于NvidiaJestonNano、基于Intelneuralstick、基于FPGA的嵌入式人工智能實(shí)驗(yàn)平臺(tái)。本科生利用上述不同種類的平臺(tái)可以充分掌握人工智能的算法搭建、訓(xùn)練與嵌入式平臺(tái)部署的技能，充分理解與掌握人工智能技術(shù)的實(shí)現(xiàn)。

〔三〕理論教育方法的改革

1.教授Tensorflow和Keras平臺(tái)的使用方法在人工智能，機(jī)器學(xué)習(xí)以及深度學(xué)習(xí)的浪潮推動(dòng)下，一系列的平臺(tái)推出進(jìn)入大家的眼球，而最為火爆的為Tensorflow,它是谷歌基于DistBelief進(jìn)展研發(fā)的第二代人工智能學(xué)習(xí)系統(tǒng)，其命名來源于本身的運(yùn)行原理。Tensor〔張量〕意味著N維數(shù)組，F(xiàn)low〔流〕意味著基于數(shù)據(jù)流圖的計(jì)算，TensorFlow為張量從流圖的一端流動(dòng)到另一端計(jì)算過程。TensorFlow是將復(fù)雜的數(shù)據(jù)構(gòu)造傳輸至人工智能神經(jīng)網(wǎng)中進(jìn)展分析和處理過程的系統(tǒng)。教授學(xué)生使用TensorFlow提供的模塊以不同的程序設(shè)計(jì)語言建立"計(jì)算圖";，TensorFlow提供的模塊非常強(qiáng)大，學(xué)生可以設(shè)計(jì)張量運(yùn)算流程，并且構(gòu)建各種深度學(xué)習(xí)或機(jī)器學(xué)習(xí)模型。建立"計(jì)算圖";完成后，學(xué)生就可以在不同的平臺(tái)上執(zhí)行"計(jì)算圖";。機(jī)器學(xué)習(xí)中，最花時(shí)間的就是模型的訓(xùn)練，尤其大型的深度學(xué)習(xí)模型必須使用大量數(shù)據(jù)進(jìn)展訓(xùn)練，需要數(shù)天乃至數(shù)周之久，TensorFlow具備分布式計(jì)算才能，可同時(shí)在數(shù)百臺(tái)機(jī)器上執(zhí)行訓(xùn)練模型，大幅縮短模型訓(xùn)練時(shí)間。TensorFlow是比擬低級(jí)的深度學(xué)習(xí)API〔ApplicationProgrammingInterface,應(yīng)用程序編程接口〕，所以用程序設(shè)計(jì)模型時(shí)必須自行設(shè)計(jì)：張量乘積，卷積等底層操作，開發(fā)時(shí)需要編寫更多的程序代碼，并且需要花更多時(shí)間。因此學(xué)生往往很難在短時(shí)間內(nèi)掌握使用TensorFlow設(shè)計(jì)各種神經(jīng)網(wǎng)絡(luò)。為了使學(xué)生在有限的理論課授課課時(shí)內(nèi)掌握應(yīng)用TensorFlow，在教學(xué)理論過程中授課教師通過教授TensorFlow的高級(jí)API-Keras來幫助學(xué)生快速掌握神經(jīng)網(wǎng)絡(luò)的搭建與訓(xùn)練。

2.人工智能的嵌入式平臺(tái)應(yīng)用通過軟件實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)相對(duì)于硬件來做會(huì)更加成熟，然而考慮到軟件方法實(shí)現(xiàn)的速度較慢、并行程度相對(duì)較低，因此使得其在一些特殊場(chǎng)合下不能進(jìn)展實(shí)時(shí)運(yùn)算，同時(shí)在實(shí)際的工程應(yīng)用中，往往不能直接將計(jì)算機(jī)平移到應(yīng)用現(xiàn)場(chǎng)，而是將在專用計(jì)算機(jī)的訓(xùn)練好的模型或者是算法移植到相應(yīng)的嵌入式平臺(tái)中。因此在?機(jī)器學(xué)習(xí)?理論教學(xué)環(huán)節(jié)，教授學(xué)生一種更加高效和快速的機(jī)器學(xué)習(xí)硬件實(shí)現(xiàn)方法非常重要。考慮到專用計(jì)算芯片具有高速性和高性價(jià)比的特性，有些學(xué)者開始在一些情景中使用ASIC〔專用計(jì)算芯片〕，但是局限于其過高的本錢以及不可重構(gòu)的弊端，它只能在需要大量消費(fèi)的某些情況下使用，隨著FPGA的開展，它目前為人工智能、深度學(xué)習(xí)提供了一種新的方式[9]。FPGA可以在同一周期內(nèi)完成多項(xiàng)操作。由于其強(qiáng)大的并行計(jì)算才能，使其可以在較短的周期內(nèi)實(shí)現(xiàn)大規(guī)模的神經(jīng)網(wǎng)絡(luò)部署。根據(jù)我?，F(xiàn)有的培養(yǎng)方案，同學(xué)們?cè)谡n程開始前都已經(jīng)掌握了FPGA的硬件知識(shí)和VerilogHDL編程方法，在新的教學(xué)大綱中和培養(yǎng)方案中，教授同學(xué)們利用FPGA進(jìn)展神經(jīng)網(wǎng)絡(luò)的快速部署和并行推理水到渠成。

3.理論教學(xué)方法的改革現(xiàn)有的實(shí)驗(yàn)課程教學(xué)方法主要以學(xué)生驗(yàn)證為主。學(xué)生驗(yàn)證環(huán)節(jié)中，學(xué)生大都是按照實(shí)驗(yàn)指導(dǎo)書敲擊代碼進(jìn)展驗(yàn)證。實(shí)驗(yàn)教學(xué)在整個(gè)課程教學(xué)中發(fā)揮的作用較少。在我校新的培養(yǎng)方案中，方案對(duì)現(xiàn)有的理論教學(xué)方法進(jìn)展改革，實(shí)驗(yàn)指導(dǎo)書具有開放性和較高的自由度，只給出一些詳細(xì)機(jī)器學(xué)習(xí)算法的實(shí)際應(yīng)用，例如圖像識(shí)別、字符識(shí)別、語言識(shí)別、自動(dòng)駕駛、算法部署等。在實(shí)驗(yàn)方案、實(shí)驗(yàn)內(nèi)容、實(shí)驗(yàn)步驟等方面給學(xué)生充分的自主性，整個(gè)理論教學(xué)過程中，教師負(fù)責(zé)引導(dǎo)學(xué)生分析并找到解決問題的方法，充分發(fā)揮學(xué)生的主體作用。

三?機(jī)器學(xué)習(xí)?理論課程設(shè)計(jì)

新的機(jī)器學(xué)習(xí)理論課程教學(xué)改革理論中在命題方法上采用傳統(tǒng)的命題方式與開放命題方式相結(jié)合的方法,如表1所示。實(shí)驗(yàn)1教授學(xué)生如何使用Tensorflow平臺(tái)和FPGA實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法中的深度學(xué)習(xí)，重點(diǎn)介紹在Tensorflow下如何搭建神經(jīng)網(wǎng)絡(luò)，介紹FPGA中的并行計(jì)算與深度流水線技術(shù)，通過實(shí)驗(yàn)1學(xué)生可以理解在綜合考慮FPGA資源與精度情況下，如何選擇分段函數(shù)與查表法相結(jié)合的平滑插值法對(duì)雙曲正切函數(shù)進(jìn)展逼近。這種函數(shù)逼近法本質(zhì)上就是通過一系列的線性函數(shù)來對(duì)鼓勵(lì)函數(shù)進(jìn)展擬合，然后所得系數(shù)利用查表的方式表示出來。如何將鼓勵(lì)函數(shù)分為不同的區(qū)間，并運(yùn)用最小二乘法對(duì)多項(xiàng)式進(jìn)展擬合，最終用多個(gè)線性函數(shù)將雙曲正切函數(shù)表示出來。因?yàn)殡p曲正切函數(shù)的正區(qū)間與負(fù)區(qū)間關(guān)于原點(diǎn)對(duì)稱，所以為了節(jié)省資源，在取負(fù)值時(shí)，通過取絕對(duì)值帶人正值區(qū)域再取反的形式獲得，這種方式有效地節(jié)約了對(duì)FPGA資源的利用。實(shí)驗(yàn)2利用Tensorflow平臺(tái)搭建BP神經(jīng)網(wǎng)絡(luò)進(jìn)展手寫字符識(shí)別，在機(jī)器學(xué)習(xí)框架方面，TensorFlow的真正獨(dú)特之處在于，可以在5行或者10行代碼中構(gòu)建模型。然后應(yīng)用這個(gè)模型，進(jìn)展擴(kuò)展做出產(chǎn)品。

實(shí)驗(yàn)2教授學(xué)生如何利用Tensorflow平臺(tái)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)識(shí)別手寫字符，在這里深度指的就是，層與層之間更深層次的協(xié)調(diào)。以及隨之產(chǎn)生的更加復(fù)雜的連接。最終的結(jié)果就是在學(xué)生構(gòu)建的模型中，有百萬級(jí)別的神經(jīng)元。因?yàn)槟Ｐ捅憩F(xiàn)為操作圖而不是代碼，因此學(xué)生不需要為此寫額外的代碼，可以將精力專注在網(wǎng)絡(luò)的構(gòu)造中。只需直接自動(dòng)地計(jì)算以及應(yīng)用這些迭代更新。模型表現(xiàn)為圖的另一個(gè)好處就是，在學(xué)生的代碼中，可以用一行聲明就說明:"這局部圖在這里運(yùn)行,另一局部圖分布式運(yùn)行在不同的機(jī)器群上";。甚至可以說"這局部注重?cái)?shù)學(xué)的圖在GPU上運(yùn)行,與此同時(shí),數(shù)據(jù)輸入局部的代碼在CPU上運(yùn)行";。通過完成實(shí)驗(yàn)2學(xué)生可以掌握如何利用Tensorflow平臺(tái)快速搭建各類神經(jīng)網(wǎng)絡(luò)。在完成實(shí)驗(yàn)1和實(shí)驗(yàn)2的課程理論后，學(xué)生對(duì)機(jī)器學(xué)習(xí)算法有一個(gè)直觀的認(rèn)識(shí)、并掌握利用Tensorflow平臺(tái)或者FPGA平臺(tái)快速部署神經(jīng)網(wǎng)絡(luò)，具有了進(jìn)展實(shí)驗(yàn)3和實(shí)驗(yàn)4開放命題理論的根底。實(shí)驗(yàn)3和實(shí)驗(yàn)4合并為開放式理論課，鼓勵(lì)學(xué)生組成2到3人的團(tuán)隊(duì)，利用課堂教授的機(jī)器學(xué)習(xí)算法和開源平臺(tái)的使用方法，從生活中尋找感興趣的問題、解決問題，并持續(xù)記錄開發(fā)過程。以翻轉(zhuǎn)課堂的方式，要求學(xué)生在課堂演講介紹自己發(fā)現(xiàn)問題、解決問題的過程來。教師在實(shí)驗(yàn)3和實(shí)驗(yàn)4主要負(fù)責(zé)引導(dǎo)學(xué)生分析并找到解決問題的方法。

四理論教學(xué)改革的成效與進(jìn)一步考慮

"機(jī)器學(xué)習(xí)";課程的理論性、理論性、應(yīng)用性都很強(qiáng),如何做到既因材施教，又培養(yǎng)學(xué)生的理論才能、創(chuàng)新才能是檢驗(yàn)機(jī)器學(xué)習(xí)理論課程改革是否成功的重要檢驗(yàn)標(biāo)準(zhǔn)[10]。我校從2022年來，利用新購置的專用計(jì)算機(jī)開發(fā)平臺(tái)對(duì)"機(jī)器學(xué)習(xí)";教學(xué)進(jìn)展了改革，教學(xué)內(nèi)容以引導(dǎo)性為主，將根底原理、知識(shí)介紹給學(xué)生，啟發(fā)學(xué)生在該學(xué)科不同領(lǐng)域、不同方向，跟著自己的興趣去探究。為了驗(yàn)證本次教學(xué)理論的改革效果，通過比照本校2022級(jí)學(xué)生，實(shí)驗(yàn)三和實(shí)驗(yàn)四的課堂展示的設(shè)計(jì)〔表2所示〕，發(fā)現(xiàn)大局部同學(xué)表示對(duì)理論教學(xué)過程非常感興趣，同學(xué)們選擇的題目〔問題〕、方法〔機(jī)器學(xué)習(xí)算法〕不盡一樣，展現(xiàn)了在不同的領(lǐng)域進(jìn)展了不同程度的探究與考慮。同學(xué)們大多反映，自己不僅實(shí)際操作才能大為進(jìn)步，編程過程中也加深了理論知識(shí)的理解，獲得一定的成就感。本次教學(xué)理論改革以研究型本科教育教學(xué)為導(dǎo)向，以培養(yǎng)學(xué)生利用機(jī)器學(xué)習(xí)方法解決復(fù)雜工程問題為出發(fā)點(diǎn)，設(shè)計(jì)開放性實(shí)驗(yàn)教學(xué)內(nèi)容，既讓學(xué)生能掌握根底的機(jī)器學(xué)習(xí)相關(guān)知識(shí)，又讓學(xué)生充分理解機(jī)器學(xué)習(xí)技術(shù)的開展前沿。在此根底上學(xué)會(huì)利用Tensorflow進(jìn)展算法實(shí)現(xiàn)和開放，進(jìn)一步加深對(duì)理論知識(shí)的理解、概念的建立。除此以外，該理論教學(xué)改革能讓學(xué)生在發(fā)現(xiàn)問題解決問題的過程中，掌握學(xué)科知識(shí)的詳細(xì)應(yīng)用與實(shí)現(xiàn)，極大地調(diào)動(dòng)了學(xué)生的積極性，可以借此教學(xué)改革引導(dǎo)學(xué)生自發(fā)學(xué)習(xí)相關(guān)的知識(shí)。

參考文獻(xiàn)

【1】曾道建,向凌云,周書仁.面向本科