自動(dòng)駕駛安全：方向盤背后的人工智能

1、    自動(dòng)駕駛安全方向盤背后的人工智能    gil golov隨著越來(lái)越多的自動(dòng)駕駛汽車在全球高速公路上開始路測(cè)，科幻小說(shuō)描繪的那種“無(wú)人駕駛的交通系統(tǒng)”場(chǎng)景好像指日可待了。其實(shí)，在這一天真正來(lái)臨之前，我們?nèi)杂性S多工作要做。最近，pbs（美國(guó)公共電視臺(tái)）的nova（中譯：新星，一檔科學(xué)節(jié)目）播出了一期主題為看看誰(shuí)在開車>的內(nèi)容，其中有專家提醒道，人們?nèi)詫?huì)面臨許多艱巨的挑戰(zhàn)尤其是如何訓(xùn)練人工智能（ ai），以提高其在生死攸關(guān)時(shí)刻做出和人類一樣決策的能力。這期節(jié)目重點(diǎn)闡釋了這些問(wèn)題：我們離大規(guī)模部署自動(dòng)駕駛汽車還有多久？我們真的能放心地把生命托付

2、給ai嗎？1 一些早期研究證明了自動(dòng)駕駛汽車的安全優(yōu)勢(shì)車輛安全保障功能和相關(guān)基礎(chǔ)設(shè)施仍處于開發(fā)進(jìn)程，然而在人類真正在方向盤上解放雙手之前，應(yīng)該充分做好“道路準(zhǔn)備（ road-ready）”所謂“道路準(zhǔn)備”，就是需要將駕駛員、乘客和行人的危險(xiǎn)系數(shù)降至最低。盡管第一起自動(dòng)駕駛汽車撞死行人的事故已經(jīng)發(fā)生并引起廣泛關(guān)注，但到目前為止，通過(guò)自動(dòng)駕駛汽車的有限應(yīng)用，我們能夠證明自動(dòng)駕駛還是安全的。從統(tǒng)計(jì)數(shù)據(jù)來(lái)看，自動(dòng)駕駛比人類司機(jī)表現(xiàn)得還好根據(jù)美國(guó)交通部“死亡分析報(bào)告系統(tǒng)”的報(bào)告，每10萬(wàn)人中有11.2人死于交通事故，每行駛1億英里（注：1英里=1.609344 km）就造成1.13人死亡。自動(dòng)駕駛汽車通

3、常被認(rèn)為是更安全的選擇。美國(guó)蘭德公司（ randcorporation）的一項(xiàng)研究發(fā)現(xiàn)，超過(guò)90%的撞車事故是人為失誤造成的。研究人員最近還預(yù)測(cè)，如果自動(dòng)駕駛汽車可以減少哪怕lo%的交通死亡意外，那么它們將在50年內(nèi)挽救大約1 10萬(wàn)人的生命。自動(dòng)駕駛汽車的安全性一直是人們最為關(guān)心的因素。高級(jí)駕駛輔助系統(tǒng)（adas）通過(guò)提醒駕駛員潛在的問(wèn)題和碰撞風(fēng)險(xiǎn)，實(shí)現(xiàn)安全自動(dòng)化并增強(qiáng)車輛的安全性。雖然adas目前正在推出和普及，但adas功能只是汽車實(shí)現(xiàn)完全自動(dòng)駕駛的一個(gè)組件。要想讓ai來(lái)控制汽車，我們需要整個(gè)行業(yè)和研究機(jī)構(gòu)共同開發(fā)算法和傳感器，以便讓車輛能夠不斷感知、識(shí)別其周圍環(huán)境，并在必要時(shí)做出實(shí)時(shí)反

4、應(yīng)。此外，自動(dòng)駕駛汽車自身也有一系列問(wèn)題需要解決，例如惡意軟件攻擊、硬件故障或軟件故障。長(zhǎng)期以來(lái)，依托為汽車設(shè)計(jì)專家提供高可靠的內(nèi)存和存儲(chǔ)，美光也為自動(dòng)駕駛未來(lái)發(fā)展做出了貢獻(xiàn)。通過(guò)與客戶和合作伙伴生態(tài)緊密協(xié)作，美光的高性能、低功耗存儲(chǔ)解決方案專為他們?cè)O(shè)計(jì)，并為他們提供研究所需要的功能。2 下一重點(diǎn)：ai中的技術(shù)因素自動(dòng)駕駛借助ai來(lái)解決傳統(tǒng)算法無(wú)法解決的問(wèn)題，且在需要高精度目標(biāo)檢測(cè)和分類的情況下尤甚。對(duì)于汽車開發(fā)人員來(lái)說(shuō)，ai可以說(shuō)是一個(gè)全新的領(lǐng)域，這是因?yàn)閭鹘y(tǒng)的確定性系統(tǒng)（ deterministic system）和基于ai的系統(tǒng)之間存在根本的差異，所以大部分的經(jīng)驗(yàn)（包括那些“吃一塹長(zhǎng)一智

5、”）無(wú)法一直奏效。任何ai系統(tǒng)都可能受到不同觸發(fā)器的影響，而且會(huì)嚴(yán)重依賴以下因素。1） ai模型的準(zhǔn)確性：哪種模型最擅長(zhǎng)根據(jù)輸入數(shù)據(jù)來(lái)識(shí)別數(shù)據(jù)集中變量之間的關(guān)系和模式？該模型決定自動(dòng)駕駛汽車如何對(duì)異常路障做出反應(yīng)。ai訓(xùn)練階段所使用的測(cè)量受到幾個(gè)參數(shù)的影響，如算法本身、模型的復(fù)雜性、層數(shù)、可變寬度、訓(xùn)練期間的樣本數(shù)，傳感器的分辨率等。2）硬件的復(fù)雜性：高精度的ai推理需要從易失性存儲(chǔ)器中獲得極高的帶寬。通常需要每秒幾百gb以上。然而，汽車系統(tǒng)也有低功率的需求。3）非確定性算法（ nondeterministic algorithms）：經(jīng)過(guò)訓(xùn)練的ai系統(tǒng)必須對(duì)新情況（即系統(tǒng)從未見(jiàn)過(guò)的情況）做出

6、反應(yīng)，并且這些系統(tǒng)必須學(xué)會(huì)在訓(xùn)練過(guò)程中發(fā)現(xiàn)新對(duì)象。4）傳感器的準(zhǔn)確性和可靠性：像攝像頭、激光雷達(dá)和雷達(dá)這樣的傳感器，相當(dāng)于是ai系統(tǒng)的眼睛。但是，并非在一定半徑內(nèi)的每個(gè)物體、甚至每個(gè)移動(dòng)的物體都需要讓車輛對(duì)其做出反應(yīng)。未能提供準(zhǔn)確的信息可能會(huì)導(dǎo)致誤報(bào)、誤檢物體以及其他不可預(yù)測(cè)的車輛反應(yīng)。因此，我們通常需要一套不同的傳感器來(lái)檢測(cè)所有照明和天氣狀況。5）內(nèi)存：易失性和/或非易失性存儲(chǔ)器可能由于物理缺陷和/或軟錯(cuò)誤而引入錯(cuò)誤。在汽車中，易失性存儲(chǔ)器在實(shí)時(shí)ai操作中起著重要作用，因?yàn)樗脕?lái)存儲(chǔ)ai層緩沖區(qū)以及ai推理過(guò)程中使用的經(jīng)過(guò)系數(shù)訓(xùn)練的數(shù)據(jù)。在易失性存儲(chǔ)器中無(wú)法檢測(cè)到的錯(cuò)誤可能會(huì)導(dǎo)致車輛出現(xiàn)異常狀況。因此，在設(shè)計(jì)系統(tǒng)時(shí)，始終要考慮到可能出現(xiàn)的內(nèi)存故障。硬件的穩(wěn)定可靠至關(guān)重要。adas子系統(tǒng)就是要求最佳的性能，并且也要符合is0 26262標(biāo)準(zhǔn)規(guī)范。3 重要的后續(xù)步驟自動(dòng)駕駛所采用的新ai技術(shù)也為安全性提出挑戰(zhàn)，因?yàn)樵缙谧詣?dòng)駕駛汽車的設(shè)計(jì)和驗(yàn)證只能從一個(gè)小知識(shí)庫(kù)中借鑒訓(xùn)練的算法。我們必須為ai建立一個(gè)更大的知識(shí)庫(kù)，以便模擬內(nèi)存在自動(dòng)駕駛系統(tǒng)中扮演的角色。這將有助于加速訓(xùn)練ai在汽車安全方面的決策功能。此外，針對(duì)自動(dòng)駕駛汽車的安全要求，目前行業(yè)還沒(méi)有出臺(tái)完善的規(guī)定。雖然is0 26262已經(jīng)啟動(dòng)了關(guān)于道路車輛風(fēng)險(xiǎn)分析和危險(xiǎn)分類的描述，但也沒(méi)有任何監(jiān)管機(jī)構(gòu)確定“安全”的