版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、保障未來移動出行的安全應(yīng)對自動駕駛汽車內(nèi)外的網(wǎng)絡(luò)安全風(fēng)險保障未來移動出行的安全應(yīng)對自動駕駛汽車內(nèi)外的網(wǎng)絡(luò)安全風(fēng)險 PAGE 14 PAGE 15目錄簡介 HYPERLINK l _bookmark0 |2不速之客風(fēng)險之所在 HYPERLINK l _bookmark1 |3發(fā)展之路 HYPERLINK l _bookmark2 |10結(jié)論 HYPERLINK l _bookmark3 |14尾注 HYPERLINK l _bookmark3 |15簡介不速之客駕駛汽車長期以來一直屬于比較危險的人類行為之一比如,最廣為人知的是開車去機(jī)場這段路程是飛機(jī)旅行中最不安全的一環(huán)。1因此,自動駕駛汽車的安
2、全性作為最常被提及的優(yōu)點之一,這也就不足為奇了。事實上,許多人期望,擁有更多路況信息和自動駕駛技術(shù)的新興移動出行生態(tài)系統(tǒng)2可幾乎完全杜絕常見交通事故。旨在改進(jìn)人們出行方式的這一創(chuàng)新卻帶來了 頭號網(wǎng)絡(luò)安全挑戰(zhàn)。但是,未來移動出行不僅帶來潛在商業(yè)發(fā)展機(jī)會和新的價值創(chuàng)造來源,也帶來了新的風(fēng)險。旨在改進(jìn)人們出行方式的這一創(chuàng)新卻帶來了頭號網(wǎng)絡(luò)安全挑戰(zhàn)。那些人們拍拍腦袋就能想象得到的危險例如自動駕駛汽車被黑客入侵后撞毀3還只是冰山一角; 實際上,這些危險甚至還不是風(fēng)險程度最高的威脅。共享車輛可以儲存數(shù)百位用戶的數(shù)據(jù),這自然成為令數(shù)字竊賊垂涎欲滴的作案對象。接入了互聯(lián)網(wǎng)且自動化程度越來越高的汽車成為惡意勒索
3、軟件新的泛濫之地。隨著出行運營管理商提供從起點到終點的路線規(guī)劃,他們可以對人們的生活有更全面的認(rèn)識去哪里、什么時候去、以及去干什么。這樣一來,用戶信息就會越積越多,危險也越來越大。在未來的發(fā)展之路上,我們應(yīng)該全面關(guān)注網(wǎng)絡(luò)安全問題,讓聯(lián)網(wǎng)的汽車和其相關(guān)生態(tài)體系更安全、更警惕、更有韌性。這可能將徹底改變企業(yè)的網(wǎng)絡(luò)安全策略:安全性。圍繞最敏感的資產(chǎn)實現(xiàn)風(fēng)險集中控制,從而降低風(fēng)險,確保生產(chǎn)效率,提高業(yè)務(wù)增長,實現(xiàn)成本優(yōu)化。警惕性。為關(guān)鍵業(yè)務(wù)流程制定監(jiān)控方案。在匯總威脅數(shù)據(jù)、信息技術(shù)數(shù)據(jù)和業(yè)務(wù)數(shù)據(jù)之后,公司可以生成豐富的警示信息,幫助確定事件的優(yōu)先級,簡化事件調(diào)查步驟。韌性??焖龠m應(yīng)和響應(yīng)內(nèi)外各類變化,
4、比如商業(yè)機(jī)會、業(yè)務(wù)需求、中斷或威脅,并能保持持續(xù)運營,縮小對業(yè)務(wù)的影響。未來移動出行最大的威脅可能還是網(wǎng)絡(luò)風(fēng)險。對用戶和企業(yè)而言,在此過程中數(shù)據(jù)管理、用戶隱私和數(shù)據(jù)保護(hù)至關(guān)重要。正如防撞預(yù)警系統(tǒng)和防抱死制動器并沒有能夠消除所有的交通事故一樣,共享汽車和自動駕駛汽車也不會毫無風(fēng)險。對于移動出行生態(tài)系統(tǒng)中的參與者而言,最關(guān)鍵的挑戰(zhàn)是將風(fēng)險維持在消費者和監(jiān)管者都能接受的水平。隨著汽車制造商、技術(shù)公司、政府等都為未來移動出行生態(tài)的發(fā)展紛紛加大投入,可是如果他們對網(wǎng)絡(luò)威脅沒有足夠的了解,或沒有具體的應(yīng)對策略,這些巨額投入可能就會打水漂。風(fēng)險之所在上個世紀(jì)人們主要專注于解決工程方面的問題,而現(xiàn)如今汽車制造
5、商正面臨新一輪的挑戰(zhàn)。其他行業(yè)也在積極應(yīng)對網(wǎng)絡(luò)安全問題,移動出行生態(tài)系統(tǒng)中的參與者可以向這些行業(yè)尋求類似的解決方案,不過這些解決方案的具體實施還是需要精心調(diào)整,以滿足汽車行業(yè)的特殊需求。至于企業(yè)采取什么措施,還是要看他們在整個生態(tài)系統(tǒng)里扮演什么角色。在未來移動出行一文中,我們預(yù)想了未來移動出行的四種共存情境:其中一些與如今現(xiàn)狀非常類似,而另一些則對未來共享交通和自動駕駛的可能性進(jìn)行了大膽的設(shè)想(見圖1)。4這四種未來出行情景分別帶來了不同的與數(shù)據(jù)相關(guān)的風(fēng)險和挑戰(zhàn),因而需要一系列的應(yīng)對措施。未來情景1:這是最為保守的情景,車輛基本上和今天一樣,依然是自己的車自己開。不過,預(yù)計車輛會有更多連接和數(shù)
6、據(jù)(創(chuàng)建、消費、分析等),也會采用先進(jìn)的駕駛輔助技術(shù)(但并非完全自動化)。隨著汽車設(shè)計的進(jìn)步,安全功能也會相應(yīng)革新。升級后的安全功能將可能基于現(xiàn)有的車載技術(shù)和功能。不過升級后的技術(shù)在保障現(xiàn)有的技術(shù)和功能安全的同時,也要不斷改進(jìn)提升,以適應(yīng)第一種未來情景所帶來的變化。2共享化人工駕駛私人擁有人工駕駛14共享化自動駕駛私人擁有自動駕駛3自動駕駛圖1.未來移動出行情景風(fēng)險規(guī)模擴(kuò)大車輛控制輔助駕駛?cè)斯ゑ{駛私有車輛使用共享風(fēng)險規(guī)模擴(kuò)大來源:德勤分析德勤大學(xué)出版社 | 保障未來移動出行的安全應(yīng)對自動駕駛汽車內(nèi)外的網(wǎng)絡(luò)安全風(fēng)險內(nèi)部威脅無論怎樣發(fā)展,未來移動出行很有可能會引入新的基礎(chǔ)設(shè)施,更多依賴數(shù)字化網(wǎng)絡(luò),
7、而非實體設(shè)施。5隨著車輛與其他車輛及周圍環(huán)境的數(shù)字化連接越來越多,車聯(lián)網(wǎng)的應(yīng)用會逐漸擴(kuò)展到很多方面,從幫助應(yīng)急車輛重新規(guī)劃路線、緩解交通擁堵,到指引車輛停泊以及電動車輛充電。類似于眼下的智能手機(jī)開發(fā),未來軟硬件供應(yīng)商很可能會聯(lián)手開發(fā)新型車輛及其配套基礎(chǔ)設(shè)施。先讓我們想象這樣的場景,假設(shè)軟件開發(fā)商與車聯(lián)網(wǎng)設(shè)備制造商合作,由后者負(fù)責(zé)運輸和裝配聯(lián)網(wǎng)設(shè)施。當(dāng)軟件開發(fā)商的骨干工程師離開這家公司,他帶走了手頭上的商業(yè)機(jī)密和車聯(lián)網(wǎng)系統(tǒng)的后門信息??赡艹鲇趯η肮椭餍膽巡粷M, 他泄漏了這些機(jī)密信息,數(shù)十萬的設(shè)備將會門戶洞開,任人魚肉。一開始,這些攻擊可能還只是一些惡作劇, 但事態(tài)很快就會升級:黑客們可以操縱整座
8、城市的交通信息,向交通軟件或共享汽車通告每條路都在施工,引發(fā)事故,導(dǎo)致市政應(yīng)急服務(wù)能力嚴(yán)重下降。接著,他們又可以遠(yuǎn)程操控將電動汽車充電站的電流提升四倍,進(jìn)而引起火災(zāi)。當(dāng)然,企業(yè)要努力保障安全,避免單個人為破壞行為造成大面積損失,但總有缺漏。近期,制造業(yè)生產(chǎn)力與創(chuàng)新聯(lián)盟和德勤聯(lián)合開展了一項調(diào)查,結(jié)果顯示:制造業(yè)高管們追查出有42%的網(wǎng)絡(luò)事故源自于“內(nèi)部威脅”。6泛汽車行業(yè)可以向諸如北美電力可靠性公司之類的企業(yè)學(xué)習(xí)如何制定標(biāo)準(zhǔn)和規(guī)范,指導(dǎo)關(guān)鍵電力系統(tǒng)的安全研發(fā)。在標(biāo)準(zhǔn)委員會的帶領(lǐng)下,行業(yè)志愿者和公司員工共同起草,北美電力可靠性公司著眼于系統(tǒng)可靠性和市場影響性制定了一套準(zhǔn)則。這些準(zhǔn)則同樣適用于移動出
9、行系統(tǒng)。7隨著汽車和交通基礎(chǔ)設(shè)施開始與周邊環(huán)境以及其他系統(tǒng)整合,政府和系統(tǒng)開發(fā)商應(yīng)考慮像保護(hù)其他公共設(shè)施一樣保護(hù)這些移動出行的基礎(chǔ)設(shè)施。制定標(biāo)準(zhǔn)時,可參考美國國家標(biāo)準(zhǔn)與技術(shù)研究所的信息技術(shù)系統(tǒng)安全性準(zhǔn)則與規(guī)范。8就像安全內(nèi)容提供商可以通過加密和認(rèn)證來保護(hù)公共設(shè)備那樣,重要基礎(chǔ)設(shè)施的保護(hù)工作通常除了物理防護(hù)和公共安全措施外, 還要求開發(fā)相應(yīng)的安全防護(hù)軟件。這是因為監(jiān)管部門(如美國運輸部以及美國國家公路交通安全管理局) 認(rèn)識到,如今他們監(jiān)管的這些設(shè)備越來越復(fù)雜,而且還支持遠(yuǎn)程控制,那它們面臨的危險也就相應(yīng)地增加了。同樣需要關(guān)注的還有聯(lián)網(wǎng)車輛和相關(guān)設(shè)備,它們也是新的移動出行生態(tài)系統(tǒng)中的關(guān)鍵基礎(chǔ)設(shè)施。
10、如今,美國國家公路交通安全管理局正為了將來的發(fā)展鋪平道路。在2016年10月,管理局為了提高網(wǎng)絡(luò)安全, 向汽車行業(yè)提出了一系列建議,重點“確保汽車系統(tǒng)在遭受攻擊后還能采取適當(dāng)安全的操作”。9即使在今天,很多車輛嚴(yán)重依賴于一些專有軟件,而這些軟件在黑客面前已經(jīng)是漏洞百出。就一般的新汽車而言,上面配備的電腦系統(tǒng)都會用到上億行代碼,10這些代碼使得汽車可以互聯(lián)互通且更加精細(xì)復(fù)雜,但同時也更易受攻擊(見輔文,內(nèi)部威脅)。而且這還不單單是代碼數(shù)量的問題質(zhì)量也是個大問題。企業(yè)加速變革和創(chuàng)新的目的是在競爭中脫穎而出,為在競爭中勝出,卻往往傾向于犧牲端對端開發(fā)和測試的嚴(yán)謹(jǐn)性。這種目光短淺的做法會增加系統(tǒng)錯誤率
11、或使系統(tǒng)安全失去保障,說不定最后導(dǎo)致產(chǎn)品召回,商業(yè)信譽受損。新功能不可避免地整合多種來源的集成代碼,也存在更多的潛在漏洞,汽車制造商和軟件開發(fā)公司相應(yīng)地需要在整個汽車組件的集成、安全和測試上多花點功夫。11同樣,隨著汽車缺陷更多的來自代碼而非零件,監(jiān)管機(jī)構(gòu)也面臨挑戰(zhàn)。有些人已經(jīng)認(rèn)識到這一難題。美國國家公路交通安全管理局局長Mark Rosekind直截了當(dāng)?shù)卣f:“幾百萬行代碼都討論多少次了?我們就是搞不定?!?2未來情景2:盡管車輛仍然由人工控制,但隨著“共享經(jīng)濟(jì)”和各大汽車共享服務(wù)公司的興起,共享出行將進(jìn)一步發(fā)展。我們現(xiàn)在瞥見一下未來的情景,大致了解下潛在的網(wǎng)絡(luò)安全問題。然而,如果在技術(shù)創(chuàng)新
12、上一味求快,會大幅增加網(wǎng)絡(luò)威脅的規(guī)模、強度和復(fù)雜度。隨著社交媒體、拼車軟件及其他移動應(yīng)用程序的激增,連接消費者的智能設(shè)備會暴露更多的風(fēng)險。保護(hù)司機(jī)和乘客的個人信息是重中之重。心懷不軌的人可能會想辦法搞到這些信息,因此對拼車服務(wù)公司的系統(tǒng)虎視眈眈。支付系統(tǒng)可能也會泄露個人信用 和銀行信息。導(dǎo)航和位置信息則可能泄露客戶隱私, 這就要求廠商確保車載通信的安全?,F(xiàn)在,汽車公司和科技公司都試圖進(jìn)軍共享出行領(lǐng)域,13他們應(yīng)該考慮到這個業(yè)務(wù)模式的風(fēng)險和網(wǎng)絡(luò)威脅。數(shù)據(jù)饕餮正如飛行數(shù)據(jù)記錄器會記錄駕駛艙發(fā)生的事情,聯(lián)網(wǎng)汽車也會記錄車主和乘客的一舉一動。但車載技術(shù)還可以編纂和分析數(shù)據(jù),得出一些更具洞察力的結(jié)論:例
13、如,設(shè)備可以僅根據(jù)剎車踏板數(shù)據(jù)對用戶進(jìn)行分類。14而對于共享汽車而言,深層數(shù)據(jù)挖掘可能會越來越頻繁,以滿足客戶對服務(wù)無縫對接的渴求?,F(xiàn)在很多公司(如數(shù)據(jù)中介和保險公司)都在期待著可以無限制地訪問這些數(shù)據(jù),但另一方面,數(shù)據(jù)匹配正在以新的方式從這些數(shù)據(jù)里面提煉金礦。一些拼車服務(wù)提供商已經(jīng)可以實現(xiàn)乘車過程中同步乘客的音頻服務(wù)系統(tǒng)。15現(xiàn)在,想象一下有人在垃圾場搜集零件,她直接忽略了擋泥板、車門和氣囊。真正有價值的東西還是在CPU模塊里面并不是用于維修或備用,而是里面的數(shù)據(jù)。每個模塊都可能包含大量有價值的信息比如,每一輛共享汽車的數(shù)據(jù)記錄器都可能儲存著之前用戶的智能設(shè)備信息,包括地址和身份證號,還記錄
14、著這輛車報廢前去過的每一個地方,甚至包括數(shù)百個賬號和日志,這樣就暴露了乘客的電話號碼、地址和支付記錄。一套完好的個人數(shù)據(jù)放到網(wǎng)上賣,價格會比單獨轉(zhuǎn)售一個零部件高得多。在未來,汽車會越來越了解自己的主人及乘客對很多人而言,這個趨勢讓他們越來越擔(dān)心。這些數(shù)據(jù)是歸制造商所有嗎?那車主呢,或者借車的人,抑或只是乘客呢?我們的法律制度會怎么界定數(shù)據(jù)的所有權(quán)?當(dāng)車輛開過不同的轄區(qū)時又會是何種情形呢?對于事故車輛,警察又會怎么處理車上的數(shù)據(jù)?車輛報廢之后,誰又會負(fù)責(zé)清除報廢車輛的數(shù)據(jù)記錄?在未來發(fā)展的道路上,汽車制造商和共享出行服務(wù)提供商可能會指望企業(yè)信息技術(shù)部門。很多公司在租賃到期或合同到期時,會清理員工
15、的電腦、手機(jī)等電子設(shè)備上的殘余數(shù)據(jù),具體可包括:數(shù)據(jù)加密、恢復(fù)出廠設(shè)置或其他數(shù)據(jù)安全清除。在一項調(diào)查中,超過半數(shù)的受訪者表示,他們的公司有配備信息資產(chǎn)處置規(guī)定。16車輛所有權(quán)變更或者車輛報廢時都可以參考采用類似的程序。未來情景3:這種情景中采用了個人所有、完全自動駕駛的汽車。盡管大部分自動駕駛技術(shù)的核心功 能都是車內(nèi)標(biāo)配(這樣相對來說不容易受到攻擊), 但自動駕駛汽車總歸還是要通過傳感器、車聯(lián)網(wǎng)技 術(shù)、GPS軟件等系統(tǒng)和外部世界進(jìn)行信息交流。與第 一種情景一樣,如果一切順利的話,這些聯(lián)網(wǎng)汽車可能會改善乘客體驗,但也可能帶來新的威脅。去年, 安全研究人員就已經(jīng)能夠利用車載應(yīng)用程序里的漏 洞攻擊電
16、動汽車的電池,可以使汽車熄火。17雖然后 來漏洞修復(fù)了,但這個例子也讓我們意識到連接性的增加會導(dǎo)致威脅升級。在自動駕駛汽車?yán)?,汽車系統(tǒng)將完全由汽車自主掌控,入侵攻擊或系統(tǒng)漏洞所帶來的損害都可能會危及生命。為避免這些問題,自動駕駛汽車開發(fā)公司目前通過操作人員來控制應(yīng)對系統(tǒng)崩潰或系統(tǒng)錯誤,但這種方法不適用于普通消費者。特別是如美國交通運輸部制定的自動化車輛指南所指出的:“在制定保障機(jī)制時應(yīng)當(dāng)考慮到人類駕駛員注意力不能集中的情況,如在酒精或其他因素影響下造成的困乏,或因其他方式造成的身體受損?!?9除此之外,自動駕駛汽車可能在完全沒有駕駛員接管的情況下發(fā)生故障比如, 自動駕駛汽車自己“開”去進(jìn)行保養(yǎng)
17、。該政策沒有明確規(guī)定自動駕駛車輛在這種情況下應(yīng)如何行事,而自動駕駛汽車開發(fā)商和研究人員必須努力制定出安全的方法。 來自制造商的系統(tǒng)信息也未必安全雖然自動駕駛汽車失控好像更能讓人浮想聯(lián)翩,但平日老生常談的那幾種威脅也絕對不容小覷。如今,說到和軟件相關(guān)的安裝和召回,很多汽車制造商會讓顧客親自把車送到經(jīng)銷商那里來完成。但要讓車主主動配合這樣的服務(wù)要求似乎很困難,特別是當(dāng)車輛運行還正常時。但隨著越來越多的車載軟件需要定期更新安全和導(dǎo)航信息,新的移動生態(tài)系統(tǒng)中的自動駕駛車輛可能會有專用通信線路與制造商進(jìn)行交互,以便即時進(jìn)行軟件的召回和補丁安裝。車載系統(tǒng)的更新其實和今天的智能設(shè)備以及電腦類似,從網(wǎng)上下載更
18、新包,然后讓相應(yīng)的設(shè)備在閑置時自動更新。在不遠(yuǎn)的將來,自動駕駛汽車可能需要對車載通訊系統(tǒng)進(jìn)行細(xì)微更新。接受和安裝更新包的設(shè)備會直接和汽車互聯(lián)網(wǎng)絡(luò)連接,然后讓車載設(shè)備在停車之后自動啟用更新程序。試想一下,如果這些接收信息的設(shè)備與智能設(shè)備共享的服務(wù)器被黑客入侵得手,這就意味著該設(shè)備(幾乎所有配置了該設(shè)備的車輛)接收的可能就不是生產(chǎn)商的更新包,而是黑客上傳的。技術(shù)熟練的黑客甚至可以在幾千臺汽車上安裝勒索軟件,這樣一來,除非向黑客付錢,不然用戶會被鎖定或車輛被凍結(jié)。而且在專有通道被封鎖之后,制造商也對此無能為力,車主甚至無法將車輛開到服務(wù)中心。這將是個大問題,因為售后市場體系一直以來都是汽車產(chǎn)業(yè)的傳統(tǒng)
19、基礎(chǔ),允許車主們改裝和定制車輛以提高汽車的性能。隨著越來越多的汽車上的各種部件也開始聯(lián)網(wǎng),車主可能會無意中引入漏洞。每個新的連接功能會帶來新的漏洞,這樣又該如何保證安全?在防止篡改這個問題上,汽車制造商和軟件開發(fā)商學(xué)習(xí)專線化內(nèi)容傳送的方法。衛(wèi)星和有線媒體提供商為了解決這個問題,用上了數(shù)字繼電器、故障記錄器、設(shè)備診斷包、自動化設(shè)備、計算機(jī)、可編程邏輯控制器和通信接口等。18但這個過程是曲折的,而且通常也是特定的。內(nèi)容提供商受到終端用戶技術(shù)能力的局限。在過去,像衛(wèi)星接收器這樣的設(shè)備如果想要無線進(jìn)行用戶驗證,勢必就要降低內(nèi)容的質(zhì)量,就像如今的車輛網(wǎng)絡(luò)為了保證車輛內(nèi)部模塊之間的通信一樣。雖然隨著現(xiàn)在的
20、接收器功能越來越強大,安全性也穩(wěn)步提升,但黑客還是能用接收器中同樣的手段來避開安全系統(tǒng)。除非汽車技術(shù)供應(yīng)商采取措施,從其他領(lǐng)域的安全內(nèi)容提供商那里獲得經(jīng)驗教訓(xùn),不然類似的情形很可能會在互聯(lián)汽車和自動駕駛汽車上重演。為了保證內(nèi)容傳遞安全,通常都會做雙向加密,安全密鑰也會滾動刷新,想要在指定的響應(yīng)窗口破解密鑰是不切實際的。因為系統(tǒng)訪問通常會受到限制,而且會定期檢查系統(tǒng)漏洞和遠(yuǎn)程篡改。對一些消費者而言,想要他們把自身的安全全部托付給一臺自動駕駛的汽車,首先就要讓他們對車輛技術(shù)的安全性、完整性和功能性有起碼的信任。自動駕駛汽車的車載系統(tǒng)本身就有許多遭到攻擊的脆弱點,包括雷達(dá)、相機(jī)、GPS、超聲波傳感器
21、、車聯(lián)網(wǎng)等網(wǎng)絡(luò)功能,更別提這些傳感器所依賴的相關(guān)基礎(chǔ)構(gòu)件和技術(shù)。因此,全自動化汽車對架構(gòu)和操作(監(jiān)控、漏洞管理、安全運行等)的要求要遠(yuǎn)遠(yuǎn)高于部分自動化或具備輔助駕駛功能的汽車。利用可靠的汽車技術(shù)來確保網(wǎng)絡(luò)安全和個人隱私乃是重中之重。保障未來移動出行的安全應(yīng)對自動駕駛汽車內(nèi)外的網(wǎng)絡(luò)安全風(fēng)險未來情景4:最后,隨著共享出行業(yè)務(wù)的擴(kuò)張以及自動駕駛技術(shù)的成熟,我們可能會實現(xiàn)一個“車輛高度自主”的出行模式,乘客只需從附近的自動駕駛車隊叫來一輛車便可到達(dá)目的地。這種模式最有可能從大城市的上班族開始,但隨著能力擴(kuò)大和用戶消費意愿增強,這種模式就會迅速蔓延至各地。采用這些技術(shù)會催生一個綜合多式聯(lián)運化的生態(tài)系統(tǒng),
22、提供更安全、更環(huán)保、更便宜和更便利的交通服務(wù)。這種情景與其他情景一樣,也存在同樣的安全漏洞和個人信息被盜的問題,而且將面臨著更大數(shù)量級 操縱汽車控制系統(tǒng)和傳感器用戶們常常會希望,智能設(shè)備上的一個應(yīng)用軟件就能無縫地控制拼車服務(wù),并對接其他的交通出行工具。不出意外的話,你可以很方便地叫來一輛共享自動駕駛汽車,然后解鎖上車,設(shè)定路線,到達(dá)目的地后支付車費。除了Wi-Fi和短程通信功能之外,汽車本身還可以接收來自蜂窩網(wǎng)絡(luò)和衛(wèi)星網(wǎng)絡(luò)的信號;用戶在付費后可以直接上車同步自己的個人內(nèi)容,如便攜式揚聲器或智能電視機(jī)。然而無縫化就很難避免風(fēng)險。首先,黑客可能會偷偷安裝監(jiān)控設(shè)備,用收發(fā)器提取用戶數(shù)據(jù),或?qū)阂鈹?shù)據(jù)
23、傳入汽車網(wǎng)絡(luò)。接下來客戶就會不知不覺地將所有信息(從個人信息到付款明細(xì))發(fā)送給黑客。更糟糕的是,黑客還可能會將錯誤的傳感器及導(dǎo)航信息傳到汽車網(wǎng)絡(luò),使車子轉(zhuǎn)彎躲避并不存在的障礙物,或者把乘客送去錯誤的目的地。啟用汽車網(wǎng)絡(luò)與智能設(shè)備通信會讓黑客們有機(jī)可乘,增加數(shù)據(jù)丟失的風(fēng)險。關(guān)鍵和非關(guān)鍵的車載信息線路相互混雜在一起,會讓信息注入器將不需要的數(shù)據(jù)傳送到車輛設(shè)備中。理論上,控制車內(nèi)燈光和音樂的設(shè)備不能與控制剎車和油門等關(guān)鍵任務(wù)的系統(tǒng)進(jìn)行通信。而現(xiàn)在,這些車載網(wǎng)絡(luò)已經(jīng)與車載通訊系統(tǒng)或車身控制單元進(jìn)行了連接,從而允許數(shù)據(jù)在網(wǎng)絡(luò)之間進(jìn)行傳播。網(wǎng)絡(luò)安全行業(yè)正在努力解決這些問題。為了保護(hù)持卡人的數(shù)據(jù),如今的支付
24、卡處理器遵循既定的數(shù)據(jù)安全標(biāo)準(zhǔn)(DSS),旨在保護(hù)處理數(shù)據(jù)的設(shè)備。20數(shù)據(jù)安全標(biāo)準(zhǔn)雖然不是由政府機(jī)構(gòu)強制執(zhí)行,但也為業(yè)界提供了規(guī)范和指引,例如“系統(tǒng)密碼或其他安全參數(shù)不要使用出廠初始默認(rèn)設(shè)置”,以及“使用公用網(wǎng)絡(luò)傳輸持卡人的數(shù)據(jù)時一定要加密”。支付卡行業(yè)中的企業(yè)可以自愿選擇是否遵從,但如果公司加入支付卡行業(yè)聯(lián)盟,則必須簽署合同協(xié)議并滿足數(shù)據(jù)安全標(biāo)準(zhǔn)。違規(guī)行為將會受到罰款、上調(diào)手續(xù)費或者終止服務(wù)等懲罰。在泛汽車行業(yè)建立和實施一套安全標(biāo)準(zhǔn)時,不妨可以參考類似于DDS標(biāo)準(zhǔn)的規(guī)范,它將適用于汽車電子或基礎(chǔ)設(shè)備供應(yīng)商。這些規(guī)范也可應(yīng)用于聯(lián)網(wǎng)車輛儲存和傳輸數(shù)據(jù)。目前大多數(shù)的車載網(wǎng)絡(luò)架構(gòu)無法處理入侵檢測或威
25、脅監(jiān)控,更不用說實現(xiàn)認(rèn)證或加密。一個現(xiàn)代黑客如果能入侵一輛車,通常來說,只要他知道這輛車的通信模式,他就可以隨心所欲地從汽車網(wǎng)絡(luò)發(fā)送或提取任何信息。隨著汽車的功能越來越多,黑客能攻擊的面也就會越來越廣,這種問題就會越來越嚴(yán)重。在老一代汽車技術(shù)里面,汽車電子產(chǎn)品還比較單一,功能也比較弱, 對黑客而言反而難以入侵。的難題,因為黑客可以入侵“智能”基礎(chǔ)設(shè)備或者大型共享自動駕駛車隊,從而帶來更大的損害。21在每一種未來情景下,汽車和乘客可能需要給予車載技術(shù)更多的信任,提高車輛網(wǎng)絡(luò)安全。安全研究人員著重強調(diào)了汽車存在的漏洞,吸引了各方的關(guān)注(乃至想象),包括公眾、監(jiān)管機(jī)構(gòu)、公職人員等。要想成功解決這些風(fēng)
26、險問題,我們不僅要在行業(yè)標(biāo)準(zhǔn)上達(dá)成共識,更要一起努力,確保未來移動出行的安全、警惕和韌性。發(fā)展之路大局:達(dá)成共識雖然未來移動出行生態(tài)的發(fā)展會面臨諸多潛在的威脅,但這些危險并非難以克服,部分原因是公眾、各級政府、監(jiān)管部門以及標(biāo)準(zhǔn)制定部門對網(wǎng)絡(luò)安全越來越重視。舉個例子:2016年,聯(lián)邦調(diào)查局和美 國國家公路交通安全管理局向公眾和汽車、汽車零部件和售后設(shè)備制造商發(fā)出警示,以敦促他們“對互聯(lián)汽車技術(shù)帶來的潛在但這還遠(yuǎn)遠(yuǎn)不夠。目前的這些工作都還是自愿性質(zhì)的,參與者也只是汽車主機(jī)廠和供應(yīng)商考慮到未來移動生態(tài)系統(tǒng)預(yù)計將跨越各個傳統(tǒng)領(lǐng)域,包括科技、電信、媒體、保險、金融等等,如今的參與者的陣容還是太小了。為了
27、有效地制定標(biāo)準(zhǔn),銜接未來各種移動出行方式,需要有更多的行業(yè)參與進(jìn)來。事實上,鑒于這一新技術(shù)浪潮還處于起步階段,目前的技術(shù)供應(yīng)商似乎有能力塑造相關(guān)的標(biāo)準(zhǔn)。問題和網(wǎng)絡(luò)安全威脅保持 警惕”。22美國國家公路在過去很多時候,科技行業(yè)已經(jīng)給我們展示了未來發(fā)展路徑。一個不錯的例交通安全管理局還于2016 年1月召開了一個公開座談會,以促進(jìn)各利益方商討汽車網(wǎng)絡(luò)安全問題。與會者包括17家汽車主機(jī)廠代表、25個政府組織和13 個行業(yè)協(xié)會。23安全意識的提高正合時宜。為了有效地制定標(biāo)準(zhǔn),銜接未來各種移動出行方式,需要有更多的行業(yè)參與進(jìn)來。子是,當(dāng)初通信行業(yè)的參與者聯(lián)合成立了藍(lán)牙技術(shù)聯(lián)盟。藍(lán)牙技術(shù)聯(lián)盟是一個非營利的
28、非股份制機(jī)構(gòu), 負(fù)責(zé)監(jiān)管藍(lán)牙標(biāo)準(zhǔn)的制定和藍(lán)牙技術(shù)和商標(biāo)的授權(quán)工作。26現(xiàn)在,任何需要將藍(lán)牙無線技術(shù)納入其產(chǎn)隨著私營企業(yè)和政府努力實現(xiàn)未來移動出行的新愿景,泛汽車行業(yè)急需建立網(wǎng)絡(luò)安全標(biāo)準(zhǔn),作為行業(yè)的安全基線,同時也為未來的軟件開發(fā)和分銷做好準(zhǔn)備。幸運的是,初步的努力已經(jīng)開始了。2015年, 為了加強網(wǎng)絡(luò)安全意識,分享網(wǎng)絡(luò)風(fēng)險信息,提高全球汽車行業(yè)的協(xié)作能力,汽車信息共享與分析中心應(yīng)運而生。24同時,美國汽車制造商聯(lián)盟和全球汽車制造商協(xié)會也制定了汽車網(wǎng)絡(luò)安全最佳實踐框架。25品的公司,必須先成為聯(lián)盟成員。藍(lán)牙技術(shù)聯(lián)盟能取得如此成功,歸根結(jié)底還是因為它對藍(lán)牙技術(shù)規(guī)范的控制,要求成員認(rèn)證其產(chǎn)品符合標(biāo)準(zhǔn)
29、。技術(shù)聯(lián)盟成員須聲明他們會遵守藍(lán)牙專利/ 版權(quán)許可協(xié)議和藍(lán)牙商標(biāo)許可協(xié)議。27通過確認(rèn)所有的藍(lán)牙產(chǎn)品達(dá)到合格標(biāo)準(zhǔn),申報程序齊備,品牌標(biāo)注符合要求,這一實施計劃有助于保護(hù)所有技術(shù)聯(lián)盟成員的權(quán)益。這一計劃還會監(jiān)督市場動態(tài)并每月進(jìn)行審核,以確保成員根據(jù)藍(lán)牙品牌指南使用商標(biāo),銷售的商品和服務(wù)已成功完成藍(lán)牙認(rèn)證和申報流程。28通過確認(rèn)所有的藍(lán)牙產(chǎn)品達(dá)到合格標(biāo)準(zhǔn),申報程序齊備,品牌標(biāo)注 符合要求,這一實施計劃有助于保護(hù)所有技 術(shù)聯(lián)盟成員的權(quán)益。帶來多重挑戰(zhàn)。首先,獨立測試中不存在的攻擊漏洞,可能會在組件之間進(jìn)行通信的時候出現(xiàn)。比如, 如果發(fā)送的信息無效或格式錯誤,這個模塊就可能會失效。其次,非正常的信息傳
30、輸可能會使生產(chǎn)商或其合作伙伴的知識產(chǎn)權(quán)遭到惡意攻擊。如果不能安全集成這些組件,將會很容易被攻擊。圖2.展現(xiàn)了一輛完整的互聯(lián)車輛,顯示出各個組件如何彼此交互。單個組件的故障通常也導(dǎo)致連鎖反應(yīng),使駕駛員和其他人員處于危險之中。將這些獨立開發(fā)的組件整合成一個產(chǎn)品, 這會帶來多重挑戰(zhàn)。誠然,為互聯(lián)車輛和自動駕駛汽車創(chuàng)建類似的組織并不簡單這需要將無數(shù)獨立開發(fā)自動駕駛系統(tǒng)的企業(yè)聯(lián)合起來,并就某些基本功能達(dá)成一致。但是,聯(lián)盟的意義不容小覷,特別是,有助于讓公眾確信開發(fā)商的確采用了嚴(yán)格的工序,建立了自動駕駛系統(tǒng)的安全性和完整性。細(xì)節(jié):建設(shè)防護(hù)措施單單是制定幾條標(biāo)準(zhǔn)還不足以為未來移動出行的發(fā)展保駕護(hù)航:汽車制造
31、商和其他制造商仍然需要構(gòu)建安全組件并保障信息交互安全。行業(yè)標(biāo)準(zhǔn)是在每個組件的基礎(chǔ)上對車輛部件進(jìn)行測試,評估軟硬件、無線升級以及通訊渠道的漏洞。通常來說,單獨的模塊都會由特定的專家負(fù)責(zé),因此不同的組件會引入多個合作伙伴。將這些獨立開發(fā)的組件整合成一個產(chǎn)品,這會例如,如果車輛信息交互線路崩潰,則車輛實時系統(tǒng)就不能向車輛高級智能系統(tǒng)傳送重要的狀態(tài)信息。而如果車輛高級智能系統(tǒng)沒有接收到這些信息,那么控制諸如剎車、加速/減速、防撞組件的集成車輛安全系統(tǒng)就不會有任何動作。以下對車輛組件進(jìn)行了簡要說明,可以全面了解每個組件的主要功能和相關(guān)風(fēng)險。.車輛通訊總線。供應(yīng)商應(yīng)嚴(yán)格測試控制器局域網(wǎng)、互聯(lián)網(wǎng)協(xié)議、2Wi
32、re、以太網(wǎng)和其他供應(yīng)商指定的通信總線系統(tǒng),以識別影響軟硬件之間通信的安全漏洞。手機(jī)應(yīng)用。手持設(shè)備上的車輛遠(yuǎn)程應(yīng)用以及與其 相連的車載儀表盤應(yīng)用應(yīng)當(dāng)被仔細(xì)評估以確保點 對點交互的安全性?,F(xiàn)在手機(jī)應(yīng)用軟件越來越多,圖2.互聯(lián)車輛評估固件車輛通信總線高端/自動駕駛車輛系統(tǒng)手機(jī)應(yīng)用無線通信互聯(lián)車輛服務(wù)信息娛樂系統(tǒng)綜合車輛安全來源: 德勤分析德勤大學(xué)出版社 | 汽車的高級智能系統(tǒng)集成度越來越高,風(fēng)險也越來越大?;ヂ?lián)汽車服務(wù)。企業(yè)服務(wù)、傳感器通信、無線固件更新、V2V和V2X通信都可能存在漏洞,提供商應(yīng)對這些點對點安全漏洞進(jìn)行審查。其他容易遭受攻擊的還包括車輛定位器,遠(yuǎn)程解鎖和啟動功能,以及車隊健康監(jiān)控
33、。綜合車輛安全。供應(yīng)商和汽車制造商應(yīng)該想辦法阻止針對車輛物理安全系統(tǒng)(如防盜器、報警系統(tǒng)和解鎖系統(tǒng))的攻擊。此外,應(yīng)考慮到并盡力減輕針對無線電頻的攻擊,如重放攻擊和拒絕服務(wù)攻擊。信息娛樂系統(tǒng)。 汽車音響主機(jī), 如導(dǎo)航系統(tǒng)、USB、CD/DVD等物理接口都暴露在外,這就容易讓黑客有機(jī)會直接入侵核心組件和固件。無線通信。Wi-Fi、藍(lán)牙、近場通信和移動互聯(lián)網(wǎng)技術(shù)為入侵互聯(lián)車輛提供了更多的途徑,因此這些技術(shù)都應(yīng)該仔細(xì)檢查,定位相關(guān)的漏洞。高端/自動駕駛車輛系統(tǒng)(包括半自動和完全自動駕駛)。高級智能互聯(lián)車輛系統(tǒng),如雷達(dá)、攝像頭、駕駛和停車輔助系統(tǒng)以及防撞系統(tǒng),讓黑客得以把網(wǎng)絡(luò)攻擊變成對車輛本身的攻擊。
34、在黑客的控制之下,這些系統(tǒng)可以嚴(yán)重影響車輛安全。因此,系統(tǒng)的完整性對汽車的整體安全至關(guān)重要。固件。黑客可以提取和分析電子控制單元固件。這樣黑客就可以找出這些固件中的漏洞,并且提取敏感數(shù)據(jù),如加密密鑰。確保這些文件受到保護(hù)并且防止其被篡改是保證整個系統(tǒng)安全的關(guān)鍵。在整個發(fā)展過程中,公司應(yīng)努力實現(xiàn)網(wǎng)絡(luò)風(fēng)險管理的三大基本目標(biāo): 安全、警惕、韌性。在整個發(fā)展過程中,公司應(yīng)努力實現(xiàn)網(wǎng)絡(luò)風(fēng)險管理的三大基本目標(biāo):安全、警惕、韌性。抱著“預(yù)防” 比“治療”更重要的想法,要進(jìn)行有效的危機(jī)管理, 首先就要保護(hù)好關(guān)鍵部件,并防止系統(tǒng)數(shù)據(jù)泄露或系統(tǒng)損害。保證系統(tǒng)安全并不是一勞永逸的事。隨著時間的推移,硬件和軟件都會“
35、老化”,并且攻擊的性質(zhì)和強度都會改變。因此,供應(yīng)商應(yīng)該在保證安全的同時,還要保持警惕性持續(xù)監(jiān)控系統(tǒng),以確定系統(tǒng)是否安全或已被損壞。最后,如果已經(jīng)制訂了相應(yīng)的流程來快速處理威脅,防止擴(kuò)散并且迅速恢復(fù),萬一受到攻擊時,止損和恢復(fù)就會容易很多。29結(jié)論保護(hù)新興的移動出行生態(tài)安全還任重道遠(yuǎn), 風(fēng)險很高。在瞬息萬變的世界,未來移動出行想必會更加復(fù)雜,許多問題還未得到解答,卻有更多未知問題等著我們。盡管許多汽車制造商和技術(shù)公司都爭相進(jìn)軍這一領(lǐng)域,但時下消費者還是對自動駕駛汽車的前景持觀望態(tài)度。30如果車輛的安全得不到保障,這些投資就會打水漂。幸運的是,未來移動出行所面臨的許多網(wǎng)絡(luò)風(fēng)險,我們并不陌生。幸運的
36、是,未來移動出行所面臨的許多網(wǎng)絡(luò)風(fēng)險, 我們并不陌生。通過借鑒其他行業(yè)辛苦得來的經(jīng)驗教訓(xùn),泛汽車行業(yè)就能比黑客和其他對手領(lǐng)先一步??梢圆杉{以下幾個步驟:利用企業(yè)信息技術(shù)流程解決數(shù)據(jù)隱私防護(hù)和數(shù)據(jù)廢棄處置問題實施加密和代碼簽名機(jī)制,保護(hù)系統(tǒng)軟件的完整性為關(guān)鍵車輛系統(tǒng)安全開發(fā)制定實踐標(biāo)準(zhǔn)要求供應(yīng)商執(zhí)行已制定的標(biāo)準(zhǔn),類似于支付卡行業(yè)的安全標(biāo)準(zhǔn)DSS通過從其他行業(yè)那里學(xué)習(xí)保護(hù)重要數(shù)字基礎(chǔ)設(shè)施的經(jīng)驗包括眼下為保護(hù)互聯(lián)汽車所做出的努力全球泛汽車行業(yè)一定可以像當(dāng)年成功推廣傳統(tǒng)汽車那樣,把共享自動駕駛汽車也變成全人類所共享的福音。尾注Aurelio Locsin, “Is air travel safer t
37、han car travel?,” USA Today, HYPERLINK /air-travel-safer-car- /air-travel-safer-car- travel-1581.html.See Scott Corwin, Nick Jameson, Derek M. Pankratz, and Philipp Willigmann, The future of mobility: Whats next?, Deloitte University Press, September 14, 2016, HYPERLINK /dup-us-en/focus/future-of- /
38、dup-us-en/focus/future-of- mobility/roadmap-for-future-of-urban-mobility.html; and Scott Corwin, Joe Vitale, Eamonn Kelly, and Elizabeth Cathles, The future of mobility, Deloitte University Press, September 24, 2015, HYPERLINK /articles/ /articles/ future-of-mobility-transportation-technology/.Loren
39、zo Franceschi-Bicchierai, “Car hacking looks much cooler in Fate of the Furious than it does IRL,” Motherboard, March 9, 2017, /en_us/article/fast-and-furious-8s-car- hacking-might-be-the-most-credible-stunt-in-the-movie.Corwin et al., The future of mobility.Simon Ninan, Bharath Gangula, Matthias vo
40、n Alten, and Brenna Sniderman, Who owns the road? The IoT-connected car of todayand tomorrow, Deloitte University Press, August 18, 2015, /dup-us-en/ focus/internet-of-things/iot-in-automotive-industry.html.Carol Mangis, “How to recycle old electronics,” Consumer Reports, April 22, 2016, HYPERLINK /
41、 / electronics-computers/how-to-recycle-old-electronics/.North American Electric Reliability Corp., “Standards,” accessed October 26, 2016, HYPERLINK /pa/stand/ /pa/stand/ Pages/default.aspx.Marianne Swanson and Barbara Guttman, “Generally accepted principles and practices for securing information t
42、echnology systems,” National Institute of Standards and Technology, September 1996, HYPERLINK / / publications/nistpubs/800-14/800-14.pdf.National Highway Traffic Safety Administration, “U.S. DOT issues federal guidance to the automotive industry for improving motor vehicle cybersecurity,” October 2
43、4, 2016, HYPERLINK /press-releases/us-dot- /press-releases/us-dot- issues-federal-guidance-automotive-industry-improving-motor-vehicle.David Gelles, Hiroko Tabuchi, and Matthew Dolan, “Complex car software becomes the weak spot under the hood,” New York Times, September 27, 2015, https:/nyti.ms/2mF6
44、Teu.Kenneth van Wyk, “The true root causes of software security failures,” Computer World, May 21, 2013, HYPERLINK http:/www/ www. /article/2497957/security0/the-true-root-causes-of-software-security-failures.html.Pete Bigelow, “NHTSA mulls role of car-hacking researchers, but times ticking,” AutoBl
45、og, October 10, 2015, HYPERLINK http:/www/ www. /2015/10/10/nhtsa-car-hacking-researchers/.Joshua Jamerson, “Verizon to buy Fleetmatics for $2.4 billion,” Wall Street Journal, August 1, 2016, HYPERLINK / /articles/verizon-to-buy-fleetmatics-for-2-4-billion-1470055429.Miro Enev et al., “Automobile dr
46、iver fingerprinting,” Proceedings on Privacy Enhancing Technologies, 2016 (1), pp.3451, HYPERLINK /pubs/fingerprint.pdf /pubs/fingerprint.pdf.Uber, “Uber & Spotify = Music for your ride,” November 17, 2014, /uber-spotify- music-for-your-ride/.Iron Mountain, “Enterprises have room for improvement in
47、secure IT asset disposition,” May 8, 2014, HYPERLINK http:/www/ www. /Knowledge-Center/Reference-Library/View-by-Document-Type/White-Papers-Briefs/ Sponsored/Enterprises-Have-Room-for-Improvement-in-Secure-IT-Asset-Disposition.aspx.Troy Hunt, “Controlling vehicle features of Nissan LEAFs across the
48、globe via vulnerable APIs,” February 24, 2016, HYPERLINK /controlling-vehicle-features-of-nissan/ /controlling-vehicle-features-of-nissan/.Global Information Assurance Certification, “A content delivery case study,” June 23, 2003, HYPERLINK /paper/ /paper/gsec/3503/content-delivery-case-study/105714
49、.National Highway Traffic Safety Administration, Federal Automated Vehicles Policy, September 2016, HYPERLINK http:/www/ www./sites/files/docs/AV%20policy%20guidance%20PDF.pdf.Victor Oluwajuwon Badejo, “Case study: Payment card industrydata security standards (PCIDSS),” March 11, 2016, HYPERLINK /VictorOluwajuwonBade/case-study-on-pci-dss /VictorOluwajuwonBade/case-stu
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 公司干部 質(zhì)量、環(huán)境方針、目標(biāo)培訓(xùn)
- 垃圾不落地校園更美麗主題班會
- 招標(biāo)知識培訓(xùn)課件制作
- 人工智能背景下的中醫(yī)舌診客觀化研究概述
- 2025年度企業(yè)稅收籌劃及稅務(wù)風(fēng)險控制合同2篇
- 二零二五年度房產(chǎn)投資顧問代理服務(wù)合同模板3篇
- 臨床內(nèi)鏡下粘膜剝離術(shù)(ESD)護(hù)理要點及健康教育
- 二零二五年度房地產(chǎn)企業(yè)貸款定金合同3篇
- Unit 4 Friends Lesson 4(說課稿)-2024-2025學(xué)年人教精通版(2024)英語三年級上冊
- 2025年度XX新能源項目技術(shù)轉(zhuǎn)讓居間合同
- 南孔儒學(xué)完整版本
- 小學(xué)語文一年級上冊《秋天》評課稿
- 《公共科目》軍隊文職考試試題及解答參考(2024年)
- 眼鏡制造加工合作協(xié)議
- 公立醫(yī)院運營管理工作計劃
- 《ISO56001-2024創(chuàng)新管理體系 - 要求》之24:“9績效評價-9.1監(jiān)視、測量、分析和評價”解讀和應(yīng)用指導(dǎo)材料(雷澤佳編制-2024)
- 患病兒童護(hù)理及其家庭支持(兒科護(hù)理課件)
- 飛防合同模板
- 不付租金解除合同通知書
- NB-T20307-2014核電廠冷卻塔環(huán)境影響評價技術(shù)規(guī)范
- 交通事故處理委托書模板
評論
0/150
提交評論