汽車智能傳感器技術(shù)與應(yīng)用 教案 項目七 綜合實踐

任務(wù)7.1激光雷達與視覺傳感器的聯(lián)合標定-教師手冊智能網(wǎng)聯(lián)汽車傳感器應(yīng)用技術(shù).一體化教學設(shè)計授課教師：授課班級：學時數(shù)：8授課日期：一體化教學場所：教學目標技能目標知識目標素質(zhì)目標1.具備標定視覺傳感器內(nèi)部參數(shù)（內(nèi)參標定）的操作技能；2.具備激光雷達與視覺傳感器聯(lián)合標定外部參數(shù)（外參標定）的操作技能；1.了解視覺傳感器標定概念與方法；2.了解激光雷達與視覺傳感器聯(lián)合標定的意義及方法；1.培養(yǎng)獨立思考和自主精神；2.培養(yǎng)精益求精的品質(zhì)；3.培養(yǎng)學生的動手能力及團隊之間的合作精神；教學重點1.視覺傳感器標定的目的與方法；2.激光雷達的標定目的與方法；3.激光雷達與視覺傳感器聯(lián)合標定；4.RMONCAM魚眼單目視覺傳感器內(nèi)參；5.視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參。教學準備1.激光雷達與視覺傳感器的聯(lián)合標定功能課件；教學活動1.通過多媒體課件講解，讓學生們了解視覺傳感器標定的目的與方法；2.通過多媒體課件講解，讓學生們了解激光雷達的標定目的與方法；3.通過多媒體課件講解，讓學生們了解激光雷達與視覺傳感器聯(lián)合標定的目的與方法；4.通過視頻教學講解、實操演示和學生動手實操，讓學生們掌握RMONCAM魚眼單目視覺傳感器內(nèi)參開發(fā)實訓操作。5.通過視頻教學講解、實操演示和學生動手實操，讓學生們掌握利用視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參開發(fā)實訓操作。課后作業(yè)教學體會

2.一體化教學實施教學流程教學內(nèi)容教學方法教學手段學生活動時間分配（min）教學引入提問：激光雷達與視覺傳感器如何實現(xiàn)聯(lián)合標定？課前提問多媒體課件分組討論10教學告知1.視覺傳感器標定的目的與方法；2.激光雷達的標定目的與方法；3.激光雷達與視覺傳感器聯(lián)合標定；4.RMONCAM魚眼單目視覺傳感器內(nèi)參；5.視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參。講授多媒體課件示范教學課前預習15教學準備1.利用激光雷達與視覺傳感器的聯(lián)合標定；講授多媒體課件講解課前預習10教學實施1.視覺傳感器標定的目的與方法；2.激光雷達的標定目的與方法；3.激光雷達與視覺傳感器聯(lián)合標定；4.RMONCAM魚眼單目視覺傳感器內(nèi)參；5.視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參。講授演示練習多媒體課件講解實操演示課前預習分組討論動手實操25教學總結(jié)1.激光雷達與視覺傳感器的聯(lián)合標定；2.RMONCAM魚眼單目視覺傳感器內(nèi)參標定；3.視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參;4.數(shù)據(jù)融合檢驗標定效果。提問啟發(fā)引導多媒體課件講解1.回答問題2.完成學生工作頁303.任務(wù)考核及答案3.1基礎(chǔ)知識認識工單（1）相機標定的目的就是確定空間物體表面某點的三維幾何位置與其在圖像中對應(yīng)點之間的相互關(guān)系，建立攝像機成像的幾何模型。（2）攝像機參數(shù)包括內(nèi)參、外參、畸變系數(shù)，畸變系數(shù)包括徑向畸變和切向畸變。（3）視覺傳感器標定方法有傳統(tǒng)視覺傳感器標定法、主動視覺傳感器標定方法和自標定法。（4）激光雷達與視覺傳感器聯(lián)合標定的作用是建立點云的point和圖像pixel之間的對應(yīng)關(guān)系。3.2RMONCAM魚眼單目視覺傳感器內(nèi)參開發(fā)活動實施工單步驟操作根據(jù)實際情況在“”上填上正確答案1內(nèi)參標定準備（1）內(nèi)參標定需要準備標定板，用的是12x9，棋盤格單格邊長為3.6cm的專業(yè)標定板。2錄制一個視覺傳感器話題的Bag（1）打開虛擬機，在菜單欄“虛擬機（M）”選擇“可移動設(shè)備（D）”窗口選擇并連接視覺傳感器；（2）在窗口區(qū)域內(nèi)單擊鼠標右鍵，然后選擇“打開終端”；（3）在終端窗口區(qū)域內(nèi)輸入命令“roscore”，然后按回車鍵運行ROS轉(zhuǎn)接點；（4）在窗口區(qū)域內(nèi)單擊鼠標右鍵，然后選擇“打開終端”新建一個“終端”輸入命令“roslaunchusb_camusb_cam-test.launch”來啟動視覺傳感器launch文件打開視覺傳感器。3打開標定工具（1）單擊“文件夾”→“HOME”→“ros+cam+lidar”→“autoware”→“ros”（2）在“ros”文件夾內(nèi)右鍵打開終端，輸入命令“sourcedevel/setup.bash”按回車；（3）輸入指令“rosrunautoware_camera_lidar_calibratorcameracalibrator.py--size11x8--square0.036image:=/usb_cam/image_raw”，啟動標定工具。4視覺傳感器標定及保存（1）標定界面是黑白的，當拿出標定板對著視覺傳感器時，它會自動識別標定板里面內(nèi)角的參數(shù)并用其它顏色線條標注；（2）標定參數(shù)分別為舉起標定板移動，當右上角的X：移動到視覺傳感器視野范圍的最左邊，最右邊）、Y：（移動到視覺傳感器視野范圍的最上方，最底部）、Size：（移動標定板充滿整個視覺傳感器視野范圍）、Skew：（改變標定板的角度，斜著拿標定板）變?yōu)榫G色時（X，Y和Size一起標定：保持標定板傾斜啟動到視野的最左，最右，最上，最下），標定按鈕”CALIBRATE”可用，單擊即可計算內(nèi)參矩陣。（3）等待計算機后臺計算后，窗口會出現(xiàn)視覺傳感器矩陣數(shù)據(jù)。（4）單擊“SAVE-保存”按鈕，單擊后，出現(xiàn)一個保存的路徑，會顯示出保存的時間等（以時間命名），如果想找回保存的文件，可以按照保存時間去找出來。保存完畢后，單擊“COMMIT”按鈕退出標定工具，保存完后，使用快捷鍵“CTRL+C”關(guān)閉視覺傳感器實時同步窗口（不能關(guān)閉終端窗口），注意這里會多保存一個Autoware類型的YAML文件格式，也就是后面外參標定要導入的文件，3.3視覺傳感器與Robosense-16線激光雷達聯(lián)合標定外參開發(fā)活動實施工單步驟操作根據(jù)實際情況在“”上填上正確答案1聯(lián)合標定準備（1）準備標定板和錄制Bag包，在電腦上回放用于標定工具的話題輸入。2啟動視覺傳感器launch文件（1）打開虛擬機，在窗口選擇并連接視覺傳感器；（2）在窗口區(qū)域內(nèi)單擊鼠標右鍵，然后選擇“打開終端”；（3）在終端窗口區(qū)域內(nèi)輸入命令“roscore”，然后按回車鍵運行ROS轉(zhuǎn)接點（注意這個窗口不用關(guān)閉）；（4）再次窗口區(qū)域內(nèi)單擊鼠標右鍵，然后選擇“打開終端”新建一個“終端”輸入命令“roslaunchusb_camusb_cam-test.launch”來啟動視覺傳感器launch文件打開視覺傳感器。3驅(qū)動激光雷達（1）打開激光雷達；（2）單擊“文件夾”→“HOME”→“ros+cam+lidar”→“l(fā)idar_catkinws”后，在文件夾內(nèi)右鍵打開終端，輸入命令“sourcedevel/setup.bash”按回車，再輸入指令“roslaunchrslidar_sdkstart.launch”，最后按下回車鍵，激光雷達點云數(shù)據(jù)界面會在顯示器上打開；（4）切換到視覺傳感器的終端，輸入指令“roslaunchusb_camusb_cam-test.launch”按下回車鍵，彈出視覺傳感器窗口后，切回到激光雷達點云的窗口界面后，單擊界面里面的“Add”→“Bytopic”→“usb_cam”→“image_raw”→“image”，再單擊下面的“OK”鍵；（5）使用鼠標調(diào)整視覺傳感器窗口大小，將其與激光雷達的朝向位置一致，可以通過舉起標定板來確定位置；（6）打開一個終端，添加指令“rosbagrecord-Ocamera_rslidar_calibration0916.bag；/usb_cam/image_raw/rslidar_points”錄制激光雷達與視覺傳感器標定包，然后按下回車鍵錄制；（7）錄制的時候，因為是16線激光雷達，所以拿標定板的時候離激光雷達不能太遠，不然就不能清楚地看到標定板了，錄制時建議的站位分別是：近處左邊，近處中間，近處右邊；中間左邊，中間中間，中間右邊；遠處左邊，遠處中間，遠處右邊；（8）錄制的時候建議每個位置移動改變標定板的姿態(tài)，每個姿勢停留1-2秒左右，為防止模糊需要上仰，下俯，左偏，中間不動，右偏移動標定板。錄制標定包的關(guān)鍵就是錄制多個位置、改變拿標定板的姿勢和必須保證能清楚的看到標定板，錄制完成后，在終端指令欄目上按一下回車鍵結(jié)束錄制，然后找出錄制的文件；（9）回放數(shù)據(jù)包前，需要將視覺傳感器實時窗口和激光雷達關(guān)閉，然后運行激光雷達驅(qū)動；（10）回放Bag使用如下命令，加上--pause意思是啟動即暫停，防止跑掉數(shù)據(jù)，按空格繼續(xù)回放，輸入指令“rosbagplay--pausecamera_rslidar_calibration0916.bag，然后按下回車播放，此時狀態(tài)是“PAUSED”暫定狀態(tài)，需要按空格鍵才能播放。（11）單擊“文件夾”→“HOME”→“ros+cam+lidar”→“autoware-1.10.0”→“ros”后，在文件夾內(nèi)右鍵打開終端，輸入指令“sourcedevel/setup.bash”按回車，再輸入指令“roslaunchautoware_camera_lidar_calibratorcamera_lidar_calibration.launchintrinsics_file:=/home/alvis/20210916_1119_autoware_camera_calibration.yamlimage_src:=/usb_cam/image_raw”，最后按下回車鍵，然后彈出image-view2窗口；（12）當上面的image-view2出現(xiàn)視覺傳感器畫面時，然后按空格回放然后再暫?；胤牛缓髮蓚€畫面大小調(diào)到基本一致這樣子標定效果會更好；（13）單擊Add添加要訂閱的Image和PontCloud話題，分別設(shè)置每個訂閱話題的topic、FixedFrame設(shè)置為rslidar不然會沒有點云顯示、切換點云查看視角，用鼠標滑輪調(diào)整點云距離，確保能看到標定板；（14）做標定的時候，建議選擇九個點來做標定，左右兩個畫面選擇的點位置保證基本一致。同時切換出image-view2的界面，單擊工具欄放大圖像，然后手動選擇一個像素點和點云進行單次標定，觀察圖像和點云，并在image-view2中用鼠標選擇一個像素點，單擊rviz工具欄的PublishPoint，然后在rviz中選擇一個對應(yīng)的點云數(shù)據(jù)點，當你的鼠標右下角出現(xiàn)一個淺紅色的路標記號時即可單擊該數(shù)據(jù)點，觀察image-view2的窗口是否出現(xiàn)points的提示信息；（15）重復以上步驟，選擇9個不同的像素點云對，因為需要足夠的數(shù)據(jù)才能計算外參矩陣，當?shù)?個點選擇完后，該工具會自動計算外參標定矩陣，可以觀察到終端畫面顯示9:9標定完畢后，它會自動保存文件，最終的標定文件保存在home目錄下，外參標定結(jié)束。3.3數(shù)據(jù)融合檢驗標定效果步驟操作根據(jù)實際情況在“”上填上正確答案1打開數(shù)據(jù)包（1）標定矩陣有了之后，利用autoware提供的融合工具來查看標定的效果，先來回放數(shù)據(jù)，在終端輸入指令“rosbagplay--pausecamera_rslidar_calibration0819.bag/rslidar_points:=/points_raw”后按下回車鍵，它是一個暫停的狀態(tài)；（2）回到Autoware主界面，在終端輸入指令“./run”后按下回車鍵運行，提示輸入密碼（密碼是“root”）；（3）輸入密碼后會彈出一個RuntimeManager窗口，然后單擊“Sensing”→“CalibrationPublisher”→選擇參數(shù)“/usb_cam”→單擊“Ref”，在文件文件夾里面選擇“20210916_115455autowarelidarcamera_calibration.yaml”外參標定文件，然后單擊“OK”；（4）單擊“PointsImage”選擇CameralD“/usb_cam”后單擊“OK”；（5）單擊“RViz”窗口選擇“ImageTopic”和“PointTopic”參數(shù)；（6）單擊AutoWare終端按下空格鍵，然后就能看到融合標定效果了，這個效果有點偏差，在錄制的時后標定板位置有點偏差；1.一體化教學設(shè)計授課教師：授課班級：學時數(shù)：8授課日期：一體化教學場所：教學目標技能能力目標知識目標素質(zhì)目標1.能獨立完成具備毫米波雷達與視覺傳感器標定融合的聯(lián)合標定操作能力。1.通過課程講解掌握標定的定義和分類；2.通過課程講解掌握毫米波雷達與視覺傳感器標定融合的意義；3.通過課程講解掌握毫米波雷達與視覺傳感器標定融合的方式；4.通過課程講解掌握毫米波雷達與視覺傳感器的安裝與調(diào)試的方法及步驟；5.通過課程講解掌握毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。了解毫米波雷達與視覺傳感器標定融合的概念與方法。1.專心聽課認真記錄筆記培養(yǎng)獨立思考和自主精神；2.積極參與討論培養(yǎng)精益求精的品質(zhì)；3.個人積極回答問題培養(yǎng)學生的動手能力及團隊之間的合作精神；4.認真填寫工作頁；5.養(yǎng)成良好的課后復習習慣；6.課后翻閱相關(guān)資料加深對課程的了解。教學重點1.毫米波雷達與視覺傳感器標定融合的方式；2.毫米波雷達與視覺傳感器的安裝與調(diào)試的方法及步驟；3.毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。教學準備1.基于毫米波雷達與視覺傳感器的標定融合課件；教學活動1.通過多媒體課件講解，讓學生們了解毫米波雷達與視覺傳感器標定融合的方式；2.通過多媒體課件講解，讓學生們了解毫米波雷達與視覺傳感器的安裝與調(diào)試的方法及步驟；3.通過多媒體課件講解，讓學生們了解毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。課后作業(yè)教學體會

2.一體化教學實施教學流程教學內(nèi)容教學方法教學手段學生活動時間分配（min）教學引入提問：在智能駕駛技術(shù)中，單一的傳感器是不能夠解決所有問題的，那會有哪些解決方法呢？課前提問多媒體課件分組討論10教學告知1.毫米波雷達與視覺傳感器標定融合的方式；2.毫米波雷達與視覺傳感器的安裝與調(diào)試的方法及步驟；3.毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。講授多媒體課件示范教學課前預習15教學準備1.基于毫米波雷達與視覺傳感器的標定融合課件；講授多媒體課件講解課前預習10教學實施1.毫米波雷達與視覺傳感器標定融合的方式；2.毫米波雷達與視覺傳感器的安裝與調(diào)試的方法及步驟；3.毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。講授演示練習多媒體課件講解實操演示課前預習分組討論動手實操25教學總結(jié)毫米波雷達與視覺傳感器標定融合的方式、毫米波雷達和視覺傳感器標定融合的實現(xiàn)步驟。提問啟發(fā)引導多媒體課件講解1.回答問題2.完成學生工作頁30

3.任務(wù)考核及答案3.1開發(fā)基礎(chǔ)知識認識工單相機與毫米波雷達的融合方式有：原始數(shù)據(jù)級融合、特征級融合、目標級融合。毫米波雷達與視覺傳感器的標定問題，就是要將毫米波檢測的目標轉(zhuǎn)換到圖像上。具體分為三個步驟：1、將毫米波雷達坐標系的坐標轉(zhuǎn)換到世界坐標系2、將世界坐標系的坐標轉(zhuǎn)換到相機坐標系3、相機坐標系->圖像坐標系->像素坐標系3.2基于激光雷達實現(xiàn)SLAM功能開發(fā)活動實施工單3.2.1準備工作步驟準備工作（根據(jù)實際使用的工具作答）根據(jù)實際情況在“”上填上正確答案1安裝設(shè)備在進行毫米波雷達與視覺傳感器的標定融合之前，需要將視覺傳感器