人工智能風(fēng)險(xiǎn)管理框架

NISTAI100-1NISTAI100-1NISTAI100-1類標(biāo)識并不意味著國家標(biāo)準(zhǔn)與技術(shù)研究所的建議或認(rèn)可，也不意味著實(shí)體、材料或設(shè)本出版物可從以下網(wǎng)址免費(fèi)獲得:/10.6028/NIS人工智能風(fēng)險(xiǎn)管理框架（AIRMF）旨在成為一份動態(tài)的文件。NIST將定期審查框架的提供正式意見的審查。該框架將采用兩個(gè)數(shù)字的版本控制系統(tǒng)來跟蹤和識別主要和次大修訂后才會更改。次要修訂將在生成編號（如1.1）后使用“.n”進(jìn)行跟蹤。所有變更將使用版本控制表進(jìn)行跟蹤，該表定義了修訂歷史，包括版本號、變更日期和變NISTAI100-1的巨大潛力。AI技術(shù)可以推動包容性經(jīng)濟(jì)增長，支持改善世界狀況的科學(xué)進(jìn)步。然影響。AI的風(fēng)險(xiǎn)與其他類型技術(shù)的風(fēng)險(xiǎn)一樣，出現(xiàn)方式多種多樣，可分為長期或短期、高概率或低概率、系統(tǒng)性或局部性、高人工智能風(fēng)險(xiǎn)管理框架（AIRiskManagementFramework，AIRMF）將AI系統(tǒng)定義為一種基于工程或機(jī)器的系統(tǒng)，該系統(tǒng)可針對一組給定的目標(biāo)，生成影響真實(shí)或虛擬環(huán)境的預(yù)測、建議或決策等輸出結(jié)果。AI系統(tǒng)在設(shè)計(jì)上具有不同程盡管各類標(biāo)準(zhǔn)和最佳實(shí)踐均可幫助組織降低傳統(tǒng)軟件或訓(xùn)練，而數(shù)據(jù)可能會隨著時(shí)間的推移而發(fā)生變化，有時(shí)這些變化是重大且意想不到作用，而社會因素涉及系統(tǒng)的使用方式、系統(tǒng)與其他AI系統(tǒng)的互動、系統(tǒng)操作人員及上述風(fēng)險(xiǎn)導(dǎo)致AI成為一種在組織內(nèi)和在社會中部署和利用時(shí)均具有獨(dú)特挑戰(zhàn)性的技幫助AI系統(tǒng)的設(shè)計(jì)、開發(fā)和使用方面的決策與預(yù)期目標(biāo)和價(jià)值觀保持一致。負(fù)責(zé)任的用和實(shí)踐，促使設(shè)計(jì)、開發(fā)和部署AI的組織及其內(nèi)部團(tuán)隊(duì)更加批判性地思考相關(guān)背景和潛在或預(yù)料之外的正負(fù)面影響。了解和管理AI系統(tǒng)的風(fēng)險(xiǎn)有助于提高可信度，進(jìn)而社會責(zé)任社會責(zé)任可定義為組織“通過透明的和符合道德規(guī)范的行為，針對決策和活動系統(tǒng)在環(huán)境、社會和經(jīng)濟(jì)方面，在滿足當(dāng)代人需求的同時(shí)，不損害后代人滿足品或系統(tǒng)的專業(yè)人員，認(rèn)清AI在對人類、社會和AI未來施加影響上具有的獨(dú)特根據(jù)《2020年美國國家人工智能倡議法案（NationAIArtificialIntelligence設(shè)計(jì)、開發(fā)、部署或使用AI系統(tǒng)的組織提供資源，幫助這些組織管理AI的諸多風(fēng)險(xiǎn)，并促進(jìn)AI系統(tǒng)可信和負(fù)責(zé)任的開發(fā)和使用?？蚣苤荚谧栽付ㄐ袠I(yè)、不考慮使用情況，為所有行業(yè)和全社會的不同規(guī)模的組織提供靈活性，以便助促進(jìn)負(fù)責(zé)任地設(shè)計(jì)、開發(fā)、部署和長期使用AI系統(tǒng)。經(jīng)濟(jì)合作與發(fā)展組織（OECD）AI的組織和個(gè)人”[OECD(2019)Artific框架和支持資源將根據(jù)不斷發(fā)展的技術(shù)、世界各地的標(biāo)準(zhǔn)情況以及AI社群的經(jīng)驗(yàn)和反框架分為兩部分。第一部分討論組織如何確定與AI相關(guān)的風(fēng)險(xiǎn)，并描述目標(biāo)受眾。然可靠、安全、有保障和有韌性、可問責(zé)和透明、可解釋和可解度、保護(hù)隱私，以及管第二部分是框架的“核心”部分。第二部分闡述四項(xiàng)AI風(fēng)險(xiǎn)管理流程和程序的所有階段，而規(guī)劃功能、測量功能和管理功能則可應(yīng)用于AINISTAI100-1與框架相關(guān)的其他資源載于《AIRMF行動手冊》，可通過NISTAIRMF網(wǎng)站獲?。?itl/ai-risk-management-fra的參與包括對正式信息請求的回應(yīng)、三次廣泛參與的研討會、公眾對概念文件和框架線圖中標(biāo)出可增強(qiáng)框架的優(yōu)先研究和更多指南。NIST及更多團(tuán)體可為路線圖做出貢NISTAI100-1的途徑，也提供了盡量擴(kuò)大其積極影響的機(jī)會。有效地應(yīng)對、記錄和管理AI風(fēng)險(xiǎn)和潛AI系統(tǒng)的影響或后果可以是積極的、消極的編自：ISO31000:2018）。在考慮潛在事件的負(fù)面影響時(shí)，風(fēng)險(xiǎn)是以下兩個(gè)數(shù)：1）如果情況或事件發(fā)生，將產(chǎn)生的負(fù)面影響或傷害程度；2）情況或事件發(fā)生的風(fēng)險(xiǎn)管理流程通常針對負(fù)面影響，而本框架則提供了將AI系統(tǒng)的預(yù)期負(fù)面影響降到最系統(tǒng)的可信度，并為人類（個(gè)人、社群和社會）、組織和系統(tǒng)/生態(tài)系統(tǒng)帶來潛在收和不確定性，這反過來又可以提高系統(tǒng)的整體性能和可信度，并提高AI技術(shù)有益應(yīng)用AI風(fēng)險(xiǎn)管理機(jī)制旨在應(yīng)對新出現(xiàn)的風(fēng)險(xiǎn)。在影響不易預(yù)這種靈活性尤為重要。雖然有些AI的風(fēng)險(xiǎn)和收益是眾所周知的，但評估負(fù)面影響和危NISTAI100-1與第三方軟件、硬件和數(shù)據(jù)相關(guān)的風(fēng)險(xiǎn)：第三方數(shù)據(jù)或系統(tǒng)可以加速研發(fā)，促進(jìn)技術(shù)轉(zhuǎn)型，也可能導(dǎo)致風(fēng)險(xiǎn)評估復(fù)雜化。風(fēng)險(xiǎn)既可能來自第三方數(shù)據(jù)、軟件或硬件本身，系統(tǒng)的組織所使用的風(fēng)險(xiǎn)評估標(biāo)準(zhǔn)或方法可能不透明?？蛻羰褂玫谌綌?shù)據(jù)或系統(tǒng)或?qū)⑵浼傻紸I產(chǎn)品或服務(wù)中的做法會導(dǎo)致風(fēng)險(xiǎn)評估和管理變得更加復(fù)雜，尤其是在缺乏充足的內(nèi)部治理結(jié)構(gòu)和技術(shù)保障措施的情況下。無論如何，所有各方和AI參與者都跟蹤新出現(xiàn)的風(fēng)險(xiǎn)：識別和跟蹤新出現(xiàn)的風(fēng)險(xiǎn)并考慮進(jìn)行評估的技術(shù)可加強(qiáng)各組織的NISTAI100-1臨的挑戰(zhàn)之一。在尋求評估負(fù)面風(fēng)險(xiǎn)或危害時(shí)，潛在的陷阱包括：制定評估標(biāo)準(zhǔn)通常是一項(xiàng)機(jī)構(gòu)性工作，可能會無意中反映出與潛在影響無關(guān)的因素。此外，評估方法可能會過度簡化、被操縱、缺乏關(guān)鍵的細(xì)微差別、以意想不到的方式利用，或未能考慮評估對人群影響的方法，如果能認(rèn)識到環(huán)境的重要性，認(rèn)識到危害可能對不同群體或亞群體產(chǎn)生不同的影響，認(rèn)識到可能受到危害的社群或其他亞群體并不總是系統(tǒng)的直AI生命周期不同階段的風(fēng)險(xiǎn)：在AI生命周期的早期階段和在后期階段評估風(fēng)險(xiǎn)相比，可能會得到不同的結(jié)果；有些風(fēng)險(xiǎn)在特定時(shí)間點(diǎn)可能屬于潛伏階段，隨著AI系統(tǒng)練模型的AI參與者可能具有不同的風(fēng)險(xiǎn)視角。前述部署者可能沒有意識到，其特定用途可能會帶來與最初開發(fā)者不同的風(fēng)險(xiǎn)。所有參與其中的AI參與者都有責(zé)任設(shè)計(jì)、開真實(shí)世界環(huán)境中的風(fēng)險(xiǎn)：雖然在實(shí)驗(yàn)室或受控環(huán)境中評估AI風(fēng)險(xiǎn)可能會在部署前產(chǎn)人類基線：對旨在增強(qiáng)或替代人類活動（如決策）的AI系統(tǒng)進(jìn)行風(fēng)險(xiǎn)管理，需要與特定形式的基準(zhǔn)指標(biāo)對比。前述方法很難系統(tǒng)化，因?yàn)锳I系統(tǒng)執(zhí)行的任務(wù)與人類不同，雖然AI風(fēng)險(xiǎn)管理機(jī)制可用于確定風(fēng)險(xiǎn)的優(yōu)先次序，但并不規(guī)定風(fēng)險(xiǎn)容忍度。風(fēng)險(xiǎn)容忍會可接受的風(fēng)險(xiǎn)水平很大程度上取決于相關(guān)背景以及具體應(yīng)用和使用案例。風(fēng)險(xiǎn)容忍度可能受到AI系統(tǒng)所有者、組織、行業(yè)、社群或政策制定者制定的政策和規(guī)范的影NISTAI100-1響。隨著AI系統(tǒng)、政策和規(guī)范的發(fā)展，風(fēng)險(xiǎn)容忍度可能會隨時(shí)間推移而改變。不同的企業(yè)、政府、學(xué)術(shù)界和民間社會將繼續(xù)開發(fā)和討論能更好了解如何權(quán)衡危害/成本效益的新知識和新方法。由于仍未能明確AI的風(fēng)險(xiǎn)容忍度，可能會出現(xiàn)風(fēng)險(xiǎn)管理框架可本框架旨在靈活運(yùn)用和加強(qiáng)現(xiàn)有的風(fēng)險(xiǎn)做法，此等做法應(yīng)與適用的法律、法規(guī)和規(guī)范相一致。各組織應(yīng)遵循由組織、領(lǐng)域、學(xué)科、部門或?qū)I(yè)要求制定的有關(guān)風(fēng)險(xiǎn)標(biāo)準(zhǔn)、容忍度和應(yīng)對措施的現(xiàn)有法規(guī)和準(zhǔn)則。某些部門或行業(yè)可能有既定的危害定義或既定的文件、報(bào)告和披露要求。在部門內(nèi)部，風(fēng)險(xiǎn)管理可能取決于特定應(yīng)用和用例設(shè)置的現(xiàn)有準(zhǔn)則。如果不存在既定準(zhǔn)則，組織應(yīng)定義合理的風(fēng)險(xiǎn)容忍度。一旦確定容忍度，AIRMF即可用于管理風(fēng)險(xiǎn)和記錄風(fēng)險(xiǎn)管理程在實(shí)踐中，試圖完全消除負(fù)面風(fēng)險(xiǎn)可能會適得其反，因?yàn)椴⒎撬惺录凸收隙寄芟?。對風(fēng)險(xiǎn)不切實(shí)際的期望可能會導(dǎo)致組織在分配資源時(shí)風(fēng)險(xiǎn)分類效率低下或不切實(shí)際，或浪費(fèi)稀缺資源。風(fēng)險(xiǎn)管理文化可以幫助組織認(rèn)識到，并非所有的AI風(fēng)險(xiǎn)都是一樣的，并且資源可以有目的地分配。具有可行性的風(fēng)險(xiǎn)管理工作為評估組織開發(fā)或部需要給予其最緊急的優(yōu)先次序和適用最徹底的風(fēng)險(xiǎn)管理流程。在AI系統(tǒng)呈現(xiàn)不可接受的負(fù)面風(fēng)險(xiǎn)水平的情況下（如重大負(fù)面影響迫在眉睫、嚴(yán)重危害正在實(shí)際發(fā)生或存在災(zāi)難性風(fēng)險(xiǎn)應(yīng)該以安全的方式停止開發(fā)和部署，直到風(fēng)險(xiǎn)得到充分管理。如果發(fā)風(fēng)險(xiǎn)優(yōu)先級可能有所不同。如果AI系統(tǒng)是在由個(gè)人身份信息等敏感數(shù)據(jù)或受保護(hù)數(shù)據(jù)能需要更高的初始優(yōu)先級。設(shè)計(jì)用于僅與計(jì)算系統(tǒng)交互并在非敏感數(shù)據(jù)集（如從物理環(huán)境中收集的數(shù)據(jù)）上訓(xùn)練的AI系統(tǒng)可能需要較低的初始優(yōu)先級。盡管如此，根據(jù)具體情況定期評估風(fēng)險(xiǎn)并確定優(yōu)先級仍然非常重要，因?yàn)椴幻嫦蛉祟惖腁I系統(tǒng)可能會產(chǎn)NISTAI100-1用戶或受影響的個(gè)人和集體。記錄剩余風(fēng)險(xiǎn)將要求系統(tǒng)提供商充分考慮部署AI產(chǎn)品的者承擔(dān)不同的責(zé)任，具備不同的意識。例如，開發(fā)AI系統(tǒng)的組織往往不了解該系統(tǒng)可些與AI系統(tǒng)相關(guān)的風(fēng)險(xiǎn)在其他類型的軟件開發(fā)和部署中也很常見。重復(fù)的風(fēng)險(xiǎn)的示例包括：與使用基礎(chǔ)數(shù)據(jù)訓(xùn)練AI系統(tǒng)有關(guān)的隱私問題；與資源密集型計(jì)算需求有關(guān)的能源和環(huán)境影響；與系統(tǒng)及其訓(xùn)練和輸出數(shù)據(jù)的保密性、完整性和可用性有關(guān)的安全問各組織需要建立和保持適當(dāng)?shù)膯栘?zé)機(jī)制、角色和責(zé)任、文化和激勵(lì)結(jié)構(gòu)，以便風(fēng)險(xiǎn)管通過組織高層的承諾實(shí)現(xiàn)的，可能需要組織或行業(yè)內(nèi)部的文化變革。此外，取決于組在影響，無論是積極還是消極。理想狀態(tài)下NISTAI100-1NISTAI100-1·劃定AI操作（技術(shù)、社會、法律和道德）的界限；以及·促進(jìn)大眾討論如何協(xié)調(diào)和平衡與公民自由和權(quán)利、公平、環(huán)境和地球以及經(jīng)濟(jì)有NISTAI100-1評價(jià)、驗(yàn)證和確認(rèn)任務(wù)的細(xì)節(jié)，請參閱附錄NISTAI100-1特征幾乎很難適用于每種設(shè)定，而且某些特征在不同情況況下，需要在優(yōu)化可解釋性與實(shí)現(xiàn)隱私之間權(quán)衡。在其他情準(zhǔn)確性和可解釋性之間做出權(quán)衡。另外，在數(shù)據(jù)稀缺等特定能會導(dǎo)致準(zhǔn)確性下降，從而影響某些領(lǐng)域的公平性和其他價(jià)考慮決策背景。前述分析可以突顯不同措施之間存在的沖突如何進(jìn)行權(quán)衡的問題。此等問題取決于相應(yīng)背景下的價(jià)值觀NISTAI100-1條件下和在給定時(shí)間段內(nèi)（包括系統(tǒng)的整個(gè)生命周期）為真實(shí)值的接近程度”。準(zhǔn)確度的衡量標(biāo)準(zhǔn)應(yīng)考慮以NISTAI100-1化）。準(zhǔn)確度測量應(yīng)始終與測試集以及測試方法的詳細(xì)信息應(yīng)定義明確、切合實(shí)際，且能代表預(yù)期使用條件，此等要求ISO/IECTS5723:2022）。魯期用途完全一致，還要求系統(tǒng)在意外環(huán)境中運(yùn)行時(shí)，是否按預(yù)期運(yùn)行。對有效性、準(zhǔn)確性、魯棒性和可靠性的衡AI系統(tǒng)應(yīng)“在規(guī)定的條件下，不會導(dǎo)致危及人類生命、健康、財(cái)產(chǎn)或環(huán)境的狀態(tài)”（來源：ISO/IECTS5723:2022）。AI系統(tǒng)的安全運(yùn)·部署者和最終用戶做出負(fù)責(zé)任的決策；以及·根據(jù)事故的經(jīng)驗(yàn)證據(jù)解釋和記不同類型的安全風(fēng)險(xiǎn)可能需要根據(jù)具體情況和已顯風(fēng)險(xiǎn)管理方法。有可能造成嚴(yán)重傷害或死亡的安全風(fēng)險(xiǎn)需NISTAI100-1在生命周期內(nèi)采用安全考慮因素，并盡早開始規(guī)劃和設(shè)計(jì)，可以AI安全風(fēng)險(xiǎn)管理方法應(yīng)借鑒交通和醫(yī)療保健外變化，或者能夠在面對內(nèi)外部變化時(shí)保持其功能和有保障性和韌性是相關(guān)但不同的特征。韌性是指在發(fā)生意議。韌性與魯棒性有關(guān)，韌性越過數(shù)據(jù)來源以涵蓋對的個(gè)人能在多大程度上獲得AI系統(tǒng)及其輸NISTAI100-1本特征的范圍包括從設(shè)計(jì)決策和訓(xùn)練數(shù)據(jù)到模型訓(xùn)練、模型或?qū)е仑?fù)面影響，要想采取可操作的補(bǔ)救措施，透明度往往人類操作員或用戶。透明的系統(tǒng)并不一定是準(zhǔn)確的、保護(hù)隱統(tǒng)。然而，很難確定一個(gè)不透明的系統(tǒng)是否具備前述特征，調(diào)整其透明度和可問責(zé)性的做法。保持減少危害的組織提高透明度和可問責(zé)性的措施還應(yīng)考慮此等措施對實(shí)施實(shí)是，對負(fù)面風(fēng)險(xiǎn)的認(rèn)知源于缺乏理解系統(tǒng)輸出的能力，或無法NISTAI100-1個(gè)體差異，如用戶的角色、知識和技能水平。可解釋的系統(tǒng)/artificiAI-intelligence/ai-fundamentAI-res透明度、可解釋性和可解讀性是相互支持的不同特征。透明度可以回了什么"的問題?？山忉屝钥梢曰卮鹣到y(tǒng)"如何"做出決策的踐涉及免受侵?jǐn)_、限制觀察或個(gè)體同意披露或控制其身份各方擇。與安全性和偏見一樣，這些特征與其他特征之間存在權(quán)衡統(tǒng)。在數(shù)據(jù)稀缺等某些條件下，隱私增強(qiáng)技術(shù)NISTAI100-1能復(fù)雜且難以定義，因?yàn)椴煌幕瘜降目捶ú煌⑶铱蛇^識別并考慮這些差異，可以增強(qiáng)風(fēng)險(xiǎn)管理工作。減輕了有害平的。例如，系統(tǒng)即使預(yù)測時(shí)考慮了人口統(tǒng)計(jì)群體之間的相對偏見的三個(gè)主要類別：系統(tǒng)性、計(jì)算統(tǒng)計(jì)以及人類認(rèn)知。這各種形式的偏見存在于幫助我們做出生活決策的速度和規(guī)模，并延續(xù)和放大了這些偏見。偏見與透明度以及社NISTAI100-1NISTAI100-1第二部分:核心和配置文件子類又細(xì)分為具體的行動和結(jié)果。這些行動不構(gòu)成一份清NISTAI100-1觀點(diǎn)。擁有一個(gè)多元化團(tuán)隊(duì)有助于更開放地分享關(guān)于設(shè)計(jì)、樣，行動手冊是自愿參與的，組織可以根據(jù)自身需求和興趣利用戶可以選擇推薦材料中適合自身使用的部分形成定制指南并向廣框架用戶可以根據(jù)自身資源和能力，以最適合框架用戶可以根據(jù)自身資源和能力，以最適合的方式運(yùn)用這些功能。有些組織可能會選擇從類別織可能會選擇并具備應(yīng)用所有類別和子類的能力。構(gòu)，只要用戶認(rèn)為該框架增加了價(jià)值，就可以按照程都應(yīng)該是迭代的，并在必要時(shí)需要在各個(gè)功能之間多個(gè)功能中存在適用于某些元素或者在特定子類決策NISTAI100-1確定指導(dǎo)組織使命、目標(biāo)、價(jià)值觀、文化和風(fēng)險(xiǎn)容忍度的總面與政策和運(yùn)營的一致性。文件記錄可以提升透明度，改組織建立了治理功能中描述的結(jié)構(gòu)、系統(tǒng)、流程N(yùn)ISTAI100-1NISTAI100-1AI系統(tǒng)的目的和目標(biāo)的早期決策可以改變其上述復(fù)雜性和不同程度的可見性會在風(fēng)險(xiǎn)管理實(shí)踐和以其他方式解決潛在的負(fù)面風(fēng)險(xiǎn)源可以減輕前述不確定在執(zhí)行映射功能時(shí)收集的信息能夠預(yù)防負(fù)面風(fēng)險(xiǎn)，并為以下決策的成果是測量和管理功能的基礎(chǔ)。如果沒有背景知識，以及在意識，風(fēng)險(xiǎn)管理就難以執(zhí)行。映射功能旨在增強(qiáng)組織識別風(fēng)施映射功能。與外部合作者、最終用戶、潛在受影響的社群和的視角可以幫助組織積極預(yù)防負(fù)面風(fēng)險(xiǎn)，并通過以下方NISTAI100-1環(huán)境、功能、風(fēng)險(xiǎn)、收益和潛在影響的演變，框架用戶有責(zé)任NISTAI100-1--包括使用第三方數(shù)據(jù)或軟件－－的方法已經(jīng)到NISTAI100-1測量功能采用定量、定性或混合的工具技術(shù)和方功能中開發(fā)或采用的過程應(yīng)包括嚴(yán)格的軟件測試和性能評性測量、與性能基準(zhǔn)的比較、正式的報(bào)告和結(jié)果文件。獨(dú)礎(chǔ)。選項(xiàng)可包括重新校準(zhǔn)、降低影響或從設(shè)計(jì)、開發(fā)、生產(chǎn)或在完成測量功能后，準(zhǔn)備、遵循和記錄客觀的、可估、驗(yàn)證和確認(rèn)（TEVV）過程，包括指標(biāo)、方法和方法科學(xué)、法律和道德規(guī)范，并在公開和透明的過程中進(jìn)行?？赡苄枰_發(fā)新的定量測量方法。應(yīng)考慮每種測量類型在何種程度上的信息?？蚣苡脩魧⑻岣咂淙嬖u估系統(tǒng)可信度的能力，識別和跟蹤現(xiàn)有的和風(fēng)險(xiǎn)，并驗(yàn)證指標(biāo)的有效性。測量結(jié)果將用于管理功能，以協(xié)助風(fēng)險(xiǎn)監(jiān)測和應(yīng)作。隨著知識、方法、風(fēng)險(xiǎn)和影響的不斷發(fā)展，框架用戶必須繼續(xù)將測量功能應(yīng)NISTAI100-1NISTAI100-1移，追蹤已識別的AI因素，準(zhǔn)備合適的方法、人員和文件，以定期識別景信息－－被用于該功能，以減少系統(tǒng)故障和負(fù)面影響NISTAI100-1NISTAI100-1管理4.1：對已部署的AI系統(tǒng)實(shí)施持續(xù)監(jiān)控計(jì)劃，包括從用戶和其他相關(guān)AI參與者處捕獲和評估輸入、上訴和撤源，針對特定環(huán)境或應(yīng)用程序的AIRMF功能、類別和子類的實(shí)現(xiàn)：例如AIRMF啟用在AI生命周期的各個(gè)階段或特定行業(yè)、技術(shù)或最終應(yīng)見解。AIRMF概要協(xié)助組織決定如何制定行動計(jì)劃來解決這些差距，從而滿足特定類別或子類的結(jié)序由用戶的需求和風(fēng)險(xiǎn)管理流程驅(qū)動。這種基于風(fēng)險(xiǎn)的方法還NISTAI100-1模型或應(yīng)用程序的風(fēng)險(xiǎn)?？绮块T概要還可涵蓋如何管理、映射NISTAI100-1NISTAI100-1統(tǒng)合乎法律和符合目的。任務(wù)包括闡述和記錄系統(tǒng)的概念數(shù)據(jù)科學(xué)家、領(lǐng)域?qū)＜摇⑸鐣幕治鰩?、多樣性、公平?shù)據(jù)提供者、系統(tǒng)資助者、產(chǎn)品經(jīng)理、第三方實(shí)體、評設(shè)施，并負(fù)責(zé)模型構(gòu)建和任務(wù)解釋，包括創(chuàng)建、選擇、校括試點(diǎn)系統(tǒng)、檢查與遺留系統(tǒng)的兼容性、確保符合監(jiān)管要求員和從業(yè)人員、評估者以及具有人類因素、社會文化分析NISTAI100-1?部署方面的TEVV任務(wù)包括系統(tǒng)驗(yàn)證和集成到生產(chǎn)環(huán)境，以及針對系統(tǒng)和過程集成、?運(yùn)營方面的TEVV任務(wù)涉及定期更新的持續(xù)監(jiān)控、測試和主題專家（SME）對模型的重新校準(zhǔn)，對報(bào)告的事件或錯(cuò)誤的跟蹤和管理，對緊急屬性及相關(guān)影響的檢測以NISTAI100-1者，以及為另一個(gè)組織或組織的客戶提供相關(guān)服務(wù)設(shè)計(jì)和開發(fā)任務(wù)。根據(jù)定義，它們是在獲取技術(shù)或隊(duì)之外的實(shí)體。從第三方實(shí)體獲取的技術(shù)可能是它們可以包括行業(yè)協(xié)會、標(biāo)準(zhǔn)制定組織、倡導(dǎo)組織、NISTAI100-1?用于構(gòu)建AI系統(tǒng)的數(shù)據(jù)可能不是該系統(tǒng)上下文或預(yù)期使用的真實(shí)或適當(dāng)?shù)谋憩F(xiàn)，事實(shí)真相可能不存在或不可獲取。此外，有害的偏見和其他數(shù)據(jù)質(zhì)量問題可能?AI系統(tǒng)對用于訓(xùn)練任務(wù)的數(shù)據(jù)的依賴性，結(jié)合通常與此類數(shù)據(jù)相關(guān)的增加的數(shù)?用于訓(xùn)練AI系統(tǒng)的數(shù)據(jù)集可能會與其原始的和預(yù)期的上下文脫節(jié)，或者可能會?AI系統(tǒng)規(guī)模和復(fù)雜性（許多系統(tǒng)包含數(shù)十億甚至數(shù)萬億的決策要點(diǎn)）嵌入在更?使用預(yù)訓(xùn)練模型可以推進(jìn)研究并提高性能，但也可能增加統(tǒng)計(jì)不確定性的水平，?由于數(shù)據(jù)、模型或概念漂移，AI系統(tǒng)可能需要更頻繁的維護(hù)和觸發(fā)糾正性維護(hù)。NISTAI100-1