2023人工智能可信賴規(guī)范第1部分：通則

人工智能可信賴規(guī)范第1部分：通則目??次前 言 IV引 言 V范圍 1規(guī)范性引用文件 1術(shù)語和定義 1可信賴技術(shù)架構(gòu) 4可信賴技術(shù)要求 4通用要求 4核心特征要求 5關(guān)鍵技術(shù)要求 6可信賴評估方法 9可信賴目標(biāo)分類指南 9可信賴評估流程 9附 錄 A（資料性）可信賴應(yīng)用場景 11附 錄 B（資料性）可信賴評估流程示例 15參?考?文?獻 17引 言（簡稱人工智能風(fēng)險管理（人工智能治理）的關(guān)系如下：T/CESA1234人工智能可信賴規(guī)范第1部分：通則范圍本文件給出了人工智能系統(tǒng)的可信賴技術(shù)框架，規(guī)定了可信賴技術(shù)要求和可信賴評估流程。本文件適用于人工智能系統(tǒng)、含人工智能的計算機系統(tǒng)相關(guān)的開發(fā)、設(shè)計、應(yīng)用和測試。規(guī)范性引用文件（包括所有的修改單適用于本文件。GB/T41867信息技術(shù)人工智能術(shù)語術(shù)語和定義GB/T41867界定的以及下列術(shù)語和定義適用于本文件?？尚刨?trustworthiness滿足利益相關(guān)方期望并可驗證的能力。注1：依賴于語境或行業(yè)，也依賴于具體的產(chǎn)品或服務(wù)、數(shù)據(jù)以及所用技術(shù)，應(yīng)用不同的可信性賴特征并對其進行驗證，以確保利益相關(guān)方的期望能得到滿足。注2：可信賴的特征包括：功能安全、倫理符合、隱私保護、透明性、公平性、可靠性、可問責(zé)性、可解釋性、魯棒性、可泛化性、備份、可追溯性、實時性、可控性、韌性、可復(fù)現(xiàn)性、偏見緩解、信息安全。注3：可信賴作為一種屬性可用于描述服務(wù)、產(chǎn)品、技術(shù)、數(shù)據(jù)和信息，在所管轄語境中也可用于組織。[來源：GB/T41867—2022，2.4.1，有修改]人工智能系統(tǒng) artificialintelligencesystem針對人類定義的給定目標(biāo)，產(chǎn)生諸如內(nèi)容、預(yù)測、推薦或決策等輸出的一類工程系統(tǒng)。注1：該工程系統(tǒng)使用人工智能相關(guān)的多種技術(shù)和方法，開發(fā)表征數(shù)據(jù)、知識、過程等的模型，用于執(zhí)行任務(wù)。注2：人工智能系統(tǒng)具備不同的自動化級別。[來源：GB/T41867—2022，3.1.8]功能安全 functionalsafety人工智能系統(tǒng)完成設(shè)定任務(wù)期間，對用戶、資源或環(huán)境不會造成無法接受風(fēng)險的性質(zhì)。1倫理 ethics開展人工智能技術(shù)基礎(chǔ)研究和應(yīng)用實踐時遵循的道德規(guī)范或準(zhǔn)則。[來源：GB/T41867—2022，3.4.8]隱私保護 privacyprotection使個人或集體等實體不愿意被外人知曉的信息得到應(yīng)有的保護。注1：需要重點保護的個人信息是身份信息，防止外人通過該信息直接或間接查詢追溯到個人的其它信息注2：需要重點保護的集體信息是團體各種行為的敏感信息，防止外人通過該信息獲取團體的核心機密。透明性 transparency人工智能系統(tǒng)與利益相關(guān)方關(guān)于該系統(tǒng)適當(dāng)信息的特性。注1：系統(tǒng)透明性相關(guān)的信息一般包含特性，性能，缺陷，組件，程序，度量，設(shè)計目標(biāo)，設(shè)計選擇和假設(shè)，數(shù)據(jù)源及標(biāo)注協(xié)議。注2：對系統(tǒng)某些方面不適當(dāng)?shù)谋┞兑话銜`背安全、隱私或保密要求。[來源：GB/T41867—2022，3.4.12]公平性 fairness尊重既定事實、社會規(guī)范和信仰，且不受偏袒或不公正歧視影響的對待、行為或結(jié)果。注1：對公平性的考慮是與環(huán)境高度相關(guān)的，并且因文化、代際、地理和政治觀點而異。注2：公平不等于沒有偏見。偏見并不總是導(dǎo)致不公平，不公平可能是由偏見以外的因素引起的。。[來源：GB/T41867—2022，3.4.1]可靠性 reliability人工智能實施一致的期望行為并獲得結(jié)果的性質(zhì)。[來源：GB/T41867—2022，3.4.4]可問責(zé)性 accountability人工智能系統(tǒng)及其利益相關(guān)方對其行動、決定和行為負責(zé)任的狀態(tài)。1：2：[來源：GB/T41867—2022，3.4.6]可解釋性 explainability人工智能系統(tǒng)以人能理解的方式，表達影響其（執(zhí)行）結(jié)果的重要因素的能力。注：可解釋性理解為對“原因”的表達，而不是嘗試以“實現(xiàn)必要的優(yōu)勢特性”做出爭辯。[來源：GB/T41867—2022，3.4.3]魯棒性 robustness人工智能系統(tǒng)在任何情況下保持其性能水平的特性。[來源：GB/T41867—2022，3.4.9]2可泛化性 generalization訓(xùn)練后的人工智能系統(tǒng)應(yīng)用到新數(shù)據(jù)時，能做出準(zhǔn)確預(yù)測能力的特性。備份 backup可追溯性 traceability人工智能系統(tǒng)能追溯特定實體的歷史、應(yīng)用及位置的性質(zhì)。注：實體包含人工智能系統(tǒng)相關(guān)的數(shù)據(jù)、操作、人員或其本身的部分或全部。實時性 realtime人工智能系統(tǒng)在給定時間段內(nèi)處理外來請求的性質(zhì)?？煽匦?controllability人工智能系統(tǒng)被人類或其它外部智能體干預(yù)的性質(zhì)。[來源：GB/T41867—2022，3.4.5]韌性 resilience人工智能系統(tǒng)在事故后在符合期望的時間段內(nèi)，恢復(fù)可操作條件的特性。[來源：GB/T41867—2022，3.4.11]可復(fù)現(xiàn)性 reproducibility人工智能系統(tǒng)在可接受的復(fù)現(xiàn)性條件下，在不同運行環(huán)境中獲得相同結(jié)果的特性。偏見 bias人工智能可信賴對待特定對象、人員或群體時，相較于其他實體出現(xiàn)系統(tǒng)性差別的特性。注：對待指任何一種行動，包括感知、觀察、表征、預(yù)測或決定。[來源：GB/T41867—2022，3.4.10]信息安全 informationsecurity對信息的機密性、完整性和可用性的保持。[來源：GB/T25069—2022，3.673]3服務(wù)級別協(xié)議 servicelevelagreement指提供服務(wù)的企業(yè)與客戶之間就服務(wù)的品質(zhì)、水準(zhǔn)、性能等方面所達成的雙方共同認可的協(xié)議或契約。可信賴技術(shù)架構(gòu)人工智能可信賴技術(shù)架構(gòu)見圖1，包含通用要求域、核心概念域和關(guān)鍵技術(shù)域。圖1 人工智能可信賴技術(shù)架構(gòu) AI可信賴技術(shù)要求通用要求功能安全要求功能安全要求如下：4硬件設(shè)備及外接設(shè)備具有低事故率，因系統(tǒng)故障或人為因素導(dǎo)致發(fā)生事故時應(yīng)具有防止或降低人員、財產(chǎn)損失的功能機制。硬件設(shè)備應(yīng)保證控制流數(shù)據(jù)、信息流數(shù)據(jù)及應(yīng)用數(shù)據(jù)傳輸過程中的安全性、完整性。軟件系統(tǒng)在開發(fā)和設(shè)計過程中應(yīng)從軟件架構(gòu)和算法模型方面考慮針對系統(tǒng)故障的預(yù)防和監(jiān)測。應(yīng)用部署時應(yīng)考慮對周邊環(huán)境的影響，盡可能降低事故發(fā)生時造成的附帶財產(chǎn)、人員損失。設(shè)備應(yīng)在設(shè)計時從人機交互層面考慮安全隱患，如操作的簡潔性及防止誤操作等，以減少設(shè)備在運行和維護過程中的安全隱患。倫理符合要求倫理符合要求如下：核心特征要求隱私保護要求隱私保護要求如下：明確隱私數(shù)據(jù)保護在數(shù)據(jù)生命周期管理內(nèi)的工作和要求，形成方案體系；應(yīng)采用技術(shù)手段保護數(shù)據(jù)安全和隱私，如采用隱私計算、安全多方計算、聯(lián)邦學(xué)習(xí)、差分隱私、同態(tài)加密、機密計算等；宜基于可信環(huán)境對敏感原始數(shù)據(jù)進行本地化處理，降低數(shù)據(jù)傳輸過程中的隱私泄露風(fēng)險；應(yīng)明確指明隱私保護對象或主體、隱私泄漏的風(fēng)險點；應(yīng)對所采用的隱私保護方法進行充分評估，明確隱私保護方法的適用場景、條件和局限性；應(yīng)考慮所采用的隱私保護方法在隱私保護數(shù)據(jù)的可用性和機密性上的平衡。透明性要求透明性要求如下：人工智能系統(tǒng)應(yīng)建立風(fēng)險監(jiān)測機制，如提供其所做決策的依據(jù)標(biāo)準(zhǔn)，告知用戶其輸出結(jié)果所可能涉及的風(fēng)險以及局限性；人工智能系統(tǒng)應(yīng)告知用戶，使用戶知道其交互的對象，或其獲得的服務(wù)、產(chǎn)品、決策等是基于人工智能的；人工智能系統(tǒng)應(yīng)考慮采用相關(guān)機制提高自身行為的可預(yù)測性，幫助相關(guān)的開發(fā)維護人員更好地預(yù)測其行為。公平性要求公平性要求如下：5人工智能系統(tǒng)應(yīng)根據(jù)實際應(yīng)用場景自適應(yīng)提供對應(yīng)的算法偏見檢測機制；人工智能系統(tǒng)應(yīng)降低其應(yīng)用領(lǐng)域內(nèi)可能的文化、人員、社會環(huán)境中的固有成見及歧視發(fā)生的可能性；在人工智能系統(tǒng)開發(fā)過程中，應(yīng)具備對數(shù)據(jù)集的規(guī)模、均衡性進行探索性分析和預(yù)處理能力，以消除或減輕偏見；人工智能系統(tǒng)對所有目標(biāo)群體提供服務(wù)的質(zhì)量應(yīng)相近，不應(yīng)降低向特定目標(biāo)群體提供服務(wù)的質(zhì)量?？煽啃砸罂煽啃砸笕缦拢合到y(tǒng)應(yīng)提供具有功能完備的機器學(xué)習(xí)框架、算法庫和系統(tǒng)環(huán)境；系統(tǒng)應(yīng)能對非法系統(tǒng)輸入，給出錯誤反饋；對于非法系統(tǒng)輸入，不會導(dǎo)致系統(tǒng)進入異?；驘o法持續(xù)服務(wù)的狀態(tài)；對于合法系統(tǒng)輸入，其中間結(jié)果或最終結(jié)果、分析結(jié)果均可用；訓(xùn)練、驗證和測試數(shù)據(jù)集應(yīng)滿足完整性、一致性、均衡性等?？蓡栘?zé)性要求可問責(zé)性要求如下：人工智能系統(tǒng)應(yīng)具備在必要時供監(jiān)管方對責(zé)任進行明確界定的相關(guān)機制；針對人工智能系統(tǒng)在設(shè)計、開發(fā)、部署、運行過程中產(chǎn)生的監(jiān)管規(guī)定未涉及的責(zé)任界定問題，在現(xiàn)有法律尚未明確的情況下宜通過其他形式明確相關(guān)責(zé)任界定；針對不同環(huán)節(jié)對不同利益相關(guān)方明確其責(zé)任，評估潛在危害，并采取主動和有效的措施。關(guān)鍵技術(shù)要求可解釋性要求可解釋性要求如下：人工智能系統(tǒng)應(yīng)針對不同利益相關(guān)方提供便于理解的不同程度的解釋，如對用戶提供系統(tǒng)意圖、決策結(jié)果等說明；向產(chǎn)品提供方提供算法模型、運行環(huán)境等說明；（魯棒性要求魯棒性要求如下：應(yīng)分析環(huán)境干擾數(shù)據(jù)對系統(tǒng)運行的影響應(yīng)分析數(shù)據(jù)集分布發(fā)生遷移對系統(tǒng)運行的影響；應(yīng)分析異常值數(shù)據(jù)對系統(tǒng)運行的影響；6應(yīng)分析軟硬件平臺依賴對人工智能系統(tǒng)運行的影響，包括深度學(xué)習(xí)框架的適用性、操作系統(tǒng)差異性、硬件架構(gòu)的可遷移性等?？煞夯砸罂煞夯砸笕缦拢涸谑褂眯聰?shù)據(jù)集進行測試、驗證時，通過正則化、交叉驗證等方法驗證人工智能系統(tǒng)的泛化能力，保證人工智能系統(tǒng)均能做出準(zhǔn)確預(yù)測；在使用新數(shù)據(jù)集運行人工智能系統(tǒng)時，人工智能系統(tǒng)不出現(xiàn)過擬合、欠擬合的情況。備份要求備份要求如下：備份系統(tǒng)實現(xiàn)與子系統(tǒng)相同的業(yè)務(wù)邏輯，滿足業(yè)務(wù)要求；備份系統(tǒng)采用與主系統(tǒng)不同的技術(shù)路線實現(xiàn)（如對基于深度學(xué)習(xí)的子系統(tǒng)的備份，可由非人工智能技術(shù)實現(xiàn)業(yè)務(wù)邏輯），在無不同技術(shù)路線備份時，可采用多模型互備；在無備份系統(tǒng)時，有相應(yīng)的流程以保障AI系統(tǒng)失能時有執(zhí)業(yè)人員參與控制；實現(xiàn)功能間邏輯隔離，當(dāng)部分系統(tǒng)或部分功能異常時，可通過降級或者隔離方式，保障其他業(yè)務(wù)功能正常運行。可追溯性要求人工智能系統(tǒng)應(yīng)提供日志記錄狀態(tài)監(jiān)測等工具，實現(xiàn)以下功能要求：應(yīng)提供系統(tǒng)設(shè)計及更改記錄，訓(xùn)練過程以及數(shù)據(jù)使用情況等； 應(yīng)提供對系統(tǒng)設(shè)計要求的符合程度（如設(shè)計的功能、性能）及檢查過程，對用戶需求的符合程度及檢查過程；應(yīng)提供系統(tǒng)工具，用于監(jiān)測數(shù)據(jù)、程序、模型遷移等情況； 應(yīng)提供系統(tǒng)操作步驟、輸入和結(jié)果，能從輸入追溯相關(guān)處理過程和結(jié)果，并能由結(jié)果回溯輸入或操作；應(yīng)提供系統(tǒng)運行日志的持久化存儲。實時性要求實時性要求主要包括以下內(nèi)容：人工智能系統(tǒng)應(yīng)滿足完成任務(wù)需求的時延要求；人工智能系統(tǒng)應(yīng)滿足任務(wù)完成時延要求，不受正在處理的任務(wù)數(shù)量的影響；人工智能系統(tǒng)應(yīng)滿足任務(wù)切換時間的要求；人工智能系統(tǒng)應(yīng)滿足任務(wù)完成時延抖動的要求?？煽匦砸罂煽匦砸笕缦拢簯?yīng)設(shè)計并實現(xiàn)可控性相關(guān)控制點（接口）； （如時域（如不小于10ms）確定；對有限狀態(tài)可表示的系統(tǒng)，宜識別并處理系統(tǒng)所有可能的狀態(tài)集合；對無限狀態(tài)可表示的系統(tǒng)，宜識別并處理對系統(tǒng)業(yè)務(wù)生命周期有意義的狀態(tài)集合；應(yīng)具有控制點管理、組織機制，形成控制面，并將控制面映射到特定控制操作；7在操作前，應(yīng)具備控制面可達檢測機制，至少檢查時間和空間方面的可達狀態(tài)： 應(yīng)支持外部控制切入和切出，包含切入和切出的代價估計以及切入和切出失敗的補償控制方案，并提供控制點移交機制；應(yīng)支持缺省控制策略，并能在控制失敗或無法形成控制策略時使用。韌性要求韌性要求如下：人工智能系統(tǒng)的功能應(yīng)具備防止外部惡意侵害的能力；人工智能系統(tǒng)功能失能或部分失能時，應(yīng)在承諾的服務(wù)級別協(xié)議內(nèi)保持服務(wù)質(zhì)量；可復(fù)現(xiàn)性要求可復(fù)現(xiàn)性要求如下：人工智能系統(tǒng)不需要在極端特殊環(huán)境或條件下部署、運行才能復(fù)現(xiàn)結(jié)果或者當(dāng)可復(fù)現(xiàn)性較低時，系統(tǒng)評估了可能的負面影響并具備應(yīng)對措施。偏見緩解要求偏見緩解要求如下：人工智能系統(tǒng)宜能識別可能涉及的偏見相關(guān)特征，包含但不限于性別、人種、民族、特殊群體（如殘障）等，在驗證或測試過程中識別結(jié)果與特征的關(guān)聯(lián)性；在人工智能系統(tǒng)開發(fā)過程中，宜識別可能導(dǎo)致偏見的原因，包含但不限于樣本分布（如是否在存在顯著特征的數(shù)據(jù)集上訓(xùn)練（如未將非顯著特征納入訓(xùn)練數(shù)據(jù)（如僅在僅在市內(nèi)光照情況下采樣殘疾狀態(tài)的保護動物的視覺樣本（采用單人標(biāo)注，單算法標(biāo)注且未實施交叉檢驗）；人工智能系統(tǒng)宜能提供偏見結(jié)果復(fù)議機制，至少提供問題反饋渠道；在檢測偏見的數(shù)據(jù)集上，預(yù)測準(zhǔn)確率不應(yīng)低于模型在測試集上準(zhǔn)確率的50%。信息安全要求信息安全要求如下：人工智能算法的數(shù)據(jù)來源應(yīng)具備合法性、可用性，避免引入惡意構(gòu)造的數(shù)據(jù)，污染訓(xùn)練數(shù)據(jù)，或污染人工智能算法模型參數(shù)；人工智能算法所引用的外部框架應(yīng)經(jīng)過安全審計，如主機、行為、流量等審計；系統(tǒng)應(yīng)采用魯棒性高的人工智能算法，算法應(yīng)能抵御對抗攻擊、后門攻擊等；在算法部署之前應(yīng)對其進行數(shù)據(jù)、模型、框架等方面的安全測試；應(yīng)定期升級所用系統(tǒng)、框架等相關(guān)的軟件包，做好補丁修復(fù)；8GB/T35273?？尚刨囋u估方法可信賴目標(biāo)分類指南人工智能可信賴目標(biāo)應(yīng)分為以下五個類別：弱可信賴受限（limited）級可信賴條件(conditional)級可信賴進階(in-progress)級可信賴優(yōu)越(flawless)級可信賴可信賴評估流程評估AI系統(tǒng)的可信賴目標(biāo)時，應(yīng)滿足的要求如下：AIAIAI（如平臺提供方、AI）、技術(shù)支持方（如數(shù)據(jù)提供方、系統(tǒng)集成方、系統(tǒng)部署方等）、AIAIAIAI（A），選擇對應(yīng)的可信賴技術(shù)要求（59制定具體評估步驟。AI（B）：評估準(zhǔn)備；選擇要求項；要求項檢測；可信賴目標(biāo)綜合評估；得出評估結(jié)論。評估方應(yīng)進行評估結(jié)果分析，并出具評估報告。評估報告內(nèi)容宜包括：AI評估目的；評估對象和范圍；可信賴目標(biāo)劃分和定義；評估假設(shè)和限定條件；評估依據(jù)；評估流程；評估程序?qū)嵤┻^程和情況；評估結(jié)論；特別事項說明；評估報告的使用限制說明；評估報告日。評估方應(yīng)對評估報告建檔存留并定期復(fù)審。10附 錄 A（資料性）表A.1為可信賴應(yīng)用場景列表。表A.1可信賴應(yīng)用場景列表序號類別場景名稱場景描述應(yīng)用場景關(guān)于可信賴分類的舉例1計算機視覺人臉識別人臉識別，是基于人的臉部特征信息進行身份識別的一種生物識別技術(shù)。用攝像機或攝像頭采集含有人臉的圖像或視頻流，并自動在圖像中檢測和跟蹤人臉，進而對檢測到的人臉進行臉部識別的一系列相關(guān)技術(shù)，通常也叫做人像識別、面部識別。具體應(yīng)用領(lǐng)域包括：1系統(tǒng)，人臉識別防盜門等；2、電子護照及身份證；3絡(luò)，在全國范圍內(nèi)搜捕逃犯；4、自助服務(wù)；5務(wù)等，GB/T41819過等，可靠性較差；強可信賴：需用戶本人通過完成規(guī)定動作進行人臉識別，可靠性高。2視頻/監(jiān)控分析人工智能技術(shù)可以對結(jié)構(gòu)化的人、車、物等視頻內(nèi)容信息進行快速檢索、查詢。在大量人群流動的交通樞紐，該技術(shù)也被廣泛用于人群分析、防控預(yù)警等。具體應(yīng)用領(lǐng)域包括：物體識別、越界識別、軌跡跟蹤、失物識別、車牌識別、車速測量、流量統(tǒng)計、逆行告警、行為識別等。差；強可信賴：大量人群流動的交通樞紐中快速識別車牌，進行軌跡跟蹤等，可靠性高。3圖像識別分析地形勘察、安全領(lǐng)域中的指紋識別、人臉識別等。別、用戶本人指紋識別錯誤率較高等，可靠性較差；強可信賴：準(zhǔn)確識別車牌號、交通標(biāo)志、飛行物等，可靠性高。4三維視覺圖像處理視覺算法由基本圖像處理、特征抽取和描述、模型的識別與控制、目標(biāo)模型數(shù)據(jù)庫等功能部件組成。三維視覺分兩步進行，先由三維目標(biāo)模型得到二維圖像投影，再對得到的二維圖像進行物體檢測。主要是人工智能技術(shù)對于三維物體的識別，應(yīng)用于三維視覺建模，三維測繪等領(lǐng)域。率高，魯棒性、可解釋性等較差；確率高，魯棒性、可解釋性等較高。115工業(yè)視覺檢測地用于工況監(jiān)視、成品檢驗和質(zhì)量控制等領(lǐng)域。一些危險工作環(huán)境或人工視覺難以滿足要求的場檢測可以大大提高生產(chǎn)效率和生產(chǎn)的自動化程度。弱可信賴：視覺算法不穩(wěn)定，不能識別出工業(yè)生產(chǎn)過程中的異常和缺陷，魯棒性、可解釋性等較差；強可信賴：視覺算法穩(wěn)定，能準(zhǔn)確識別出工業(yè)生產(chǎn)過程中的異常和缺陷，魯棒性、可解釋性等較高。6醫(yī)療影像診斷醫(yī)療影像診斷可以輔助醫(yī)生，提升醫(yī)生的診斷效率。以CT影像、皮膚影像、眼底篩查、病理影像等為代表的AI+輔助檢查以及臨床決策支持系統(tǒng)（CDSS）AIAI熟，在院內(nèi)外的應(yīng)用也最廣泛。CT（結(jié)節(jié)CT等較差；強可信賴：可以準(zhǔn)確識別CT影像中的病癥，不需要醫(yī)生重新人工復(fù)核，魯棒性、可解釋性、可追溯性、信息安全等較高。7文字識別電子設(shè)備（例如掃描儀或數(shù)碼相機）檢查紙上打印的字符，通過檢測暗、亮的模式確定其形狀，然后用字符識別方法將形狀翻譯成計算機文字的過程。性、可解釋性較差；強可信賴：在較暗光源下，仍能將紙張打印的字符準(zhǔn)確識別，且正確率較高，魯棒性、可解釋性較高。8圖像及視頻編輯運用機器學(xué)習(xí)算法對圖像進行處理，可以實現(xiàn)對圖片的自動修復(fù)、美化、變換效果等操作?？蓮?fù)現(xiàn)性較差；強可信賴：視頻編輯畫面流暢、音效自然，實時性、可控性、可復(fù)現(xiàn)性較高。9自動駕駛感知讓車輛獲取，不同的系統(tǒng)需要由不同類型的車用感測器，包含毫米波雷達、超聲波雷達、紅外雷達、雷射雷達、CCD\CMOS影像感測器及輪速感測器等來收集整車的工作狀態(tài)及其參數(shù)變化情形。弱可信賴：僅能感知少部分傳感器的數(shù)據(jù)，可泛化性、可復(fù)現(xiàn)性差；強可信賴：針對市面上絕大多數(shù)車用傳感器的數(shù)據(jù)都能獲取，且數(shù)據(jù)準(zhǔn)確，可泛化性、可復(fù)現(xiàn)性較高。10處理人工智能技術(shù)將感測器所收集到的資訊進行分析處理，然后再向控制的裝置輸出控制訊號。讓車輛剎車或是減速靠路邊停車；靠路邊停車。11執(zhí)行依據(jù)ECU輸出的訊號，讓汽車完成動作執(zhí)行。弱可信賴：車輛對于系統(tǒng)制動指令，不能百分百執(zhí)行；12強可信賴：車輛對于系統(tǒng)制動指令，可以正常的執(zhí)行。12信息共享利用無線網(wǎng)絡(luò)進行車與車之間的信息共享。通過專用通道，一輛汽車可以把自己的位置、路況實時分享給隊里的其它汽車，以便其它車輛的自動駕駛系統(tǒng)，在收到信息后做出相應(yīng)調(diào)整。弱可信賴：數(shù)據(jù)隱私性差且存在數(shù)據(jù)安全問題，共享技術(shù)不成熟。強可信賴：共享數(shù)據(jù)注重隱私性和數(shù)據(jù)安全問題，數(shù)據(jù)具有合法性和合規(guī)性，共享技術(shù)較為成熟。13人機交互語音識別和語義理解語音識別和語義理解是人工智能領(lǐng)域相對成熟的技術(shù)，語音交互在人工智能時代已經(jīng)有了先發(fā)優(yōu)勢，正在被逐漸落地并且有望大規(guī)模應(yīng)用。目前，語音交互已經(jīng)加速在智能家居、手機、車載、智能穿戴、機器人等行業(yè)滲透和落地。弱可信賴：應(yīng)對不同應(yīng)用場景，語義理解的差異性較??；由于數(shù)據(jù)的稀疏性，數(shù)據(jù)集存在大量噪聲和缺失值；語義理解的準(zhǔn)確性差。強可信賴：應(yīng)對不同的應(yīng)用場景對于語義的理解差異強；數(shù)據(jù)集覆蓋特征足，語義理解準(zhǔn)確性高。14手勢識別在人工智能領(lǐng)域，“手勢識別”已經(jīng)發(fā)展得非常普遍，可以廣泛應(yīng)用于智能家居、智能駕駛等。用戶只要通過手勢就可以控制對應(yīng)的功能，人機交互方式更加智能化、自動化。手勢識別技術(shù)是利用攝像頭等感應(yīng)元件，捕捉不同的手勢，根據(jù)手勢的形狀等，用芯片運算識別，能智能識別出相應(yīng)的指令，用戶可以用一個手勢或多個手勢，進行發(fā)出指令，替代了很多傳統(tǒng)的按鍵。例如市面上有一款抽油煙機，我們可以通過向左撥弱可信賴：由于視野以及手部的自遮擋等原因造成無法識別，可解釋性、可泛化性較差。較高。15多通道交互隨著人體檢測技術(shù)的進步，人體的各種生理信號（如肌電、心率等），也可以作為信息輸入到智能體中，幫助智能體更好地識別人的顯性或隱性的需求，給予及時恰當(dāng)?shù)膽?yīng)對和服務(wù)；同時，人接收信息的通道也會向觸覺、嗅覺等以往較少應(yīng)用的感官拓展，以增強真實立體的感官體驗。或不穩(wěn)定；強可信賴：數(shù)據(jù)集的質(zhì)量和可用性較高，模型穩(wěn)定性高，且含有可解釋性和可靠性。16智能語音語音識別語音識別技術(shù)是讓機器通過識別和理解過程把語音信號轉(zhuǎn)變?yōu)橄鄳?yīng)的文本或命令的高新技術(shù)。