ISO∕IEC 42001-2023《信息技術(shù)-人工智能-管理體系》之16：“10改進”解讀和應(yīng)用指導(dǎo)材料（雷澤佳編制-2024A0）

ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》之16“10改進”解讀和應(yīng)用指導(dǎo)材料ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》之16“10改進”解讀和應(yīng)用指導(dǎo)材料ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》10改進10.1持續(xù)改進組織應(yīng)持續(xù)改進人工智能管理體系的適宜性、充分性和有效性。注1：適宜性指管理體系適合于組織的目標(biāo)、運行、文化和業(yè)務(wù)體系的程度。注2：充分性指管理體系滿足適用性要求的程度。注3：有效性指完成策劃的活動和實現(xiàn)策劃的結(jié)果的程度。10.2不符合和糾正措施發(fā)生不符合時，組織應(yīng)：a）對不符合做出反應(yīng)，并且如適用：1）采取控制和糾正措施；2）處置后果；b）通過以下活動評價采取措施的需要，以消除產(chǎn)生不符合的原因，避免其再次發(fā)生或在其他地方發(fā)生；1）評審不符合；2）確定產(chǎn)生不符合的原因；3）確定是否存在或可能發(fā)生類似的不符合；c）實施任何所需的措施；d）評審所采取的任何糾正措施的有效性；e）如必要，變更人工智能管理體系。糾正措施應(yīng)與不符合產(chǎn)生的影響相適應(yīng)。成文信息應(yīng)作為以下事項的證據(jù)可獲?。骸环系男再|(zhì)和所采取的任何后續(xù)措施；——任何糾正措施的結(jié)果。10改進10.1持續(xù)改進“不符合、糾正措施、改進和持續(xù)改進”的定義；持續(xù)改進：提高績效的循環(huán)活動提高績效：持續(xù)改進的核心目的是提高組織在人工智能系統(tǒng)管理方面的績效?？冃Э梢园ㄈ斯ぶ悄芟到y(tǒng)的有效性、效率、安全性、可靠性等方面，通過持續(xù)改進，組織能夠不斷提升這些方面的表現(xiàn)；循環(huán)活動：持續(xù)改進是一個循環(huán)進行的過程，包括識別改進機會、制定改進計劃、實施改進措施、評估改進效果等步驟。這個過程是一個不斷迭代、不斷優(yōu)化的循環(huán)，旨在持續(xù)提升人工智能系統(tǒng)的性能和管理水平。改進：提高績效的活動定義的核心：改進被定義為提高績效的活動。在人工智能管理體系中，改進專注于通過各種活動和手段來優(yōu)化和提升人工智能系統(tǒng)的性能、效率以及效果；績效的范疇：績效在本文檔中是一個廣泛的概念，它不僅涉及定量的結(jié)果（如性能提升、效率提高），也可能包括定性的結(jié)果（如流程的優(yōu)化、用戶滿意度的提升等）。改進活動旨在實現(xiàn)這些績效方面的提升；改進活動的多樣性：提高績效的活動可以是多種多樣的，包括但不限于對人工智能算法的優(yōu)化、對數(shù)據(jù)質(zhì)量的提升、對業(yè)務(wù)流程的改進等。這些活動都需要根據(jù)具體的組織目標(biāo)、應(yīng)用場景以及系統(tǒng)性能需求來設(shè)計和實施；結(jié)果的可衡量性：改進活動的成功與否需要通過績效的提升來衡量。因此，需要設(shè)定明確的績效指標(biāo)，并定期對人工智能系統(tǒng)的性能進行評估和測量，以確保改進活動的有效性。持續(xù)改進和改進的區(qū)別與聯(lián)系說明表方面持續(xù)改進改進聯(lián)系定義提高績效的循環(huán)活動提高績效的活動兩者都以提高績效為核心目標(biāo)目的持續(xù)提升人工智能系統(tǒng)的性能和管理水平優(yōu)化和提升人工智能系統(tǒng)的性能、效率及效果都致力于人工智能系統(tǒng)的提升和優(yōu)化過程循環(huán)進行，包括識別機會、制定計劃、實施措施、評估效果通過各種活動和手段來實現(xiàn)改進是持續(xù)改進循環(huán)中的一個環(huán)節(jié)績效范疇包括有效性、效率、安全性、可靠性等涉及定量（性能、效率）和定性（流程優(yōu)化、用戶滿意度）結(jié)果兩者都關(guān)注績效的多個方面活動多樣性涉及技術(shù)、管理等多個層面的循環(huán)優(yōu)化包括算法優(yōu)化、數(shù)據(jù)質(zhì)量提升、業(yè)務(wù)流程改進等兩者都涵蓋多種活動形式，以達成提高績效的目標(biāo)結(jié)果衡量通過不斷迭代和優(yōu)化來衡量績效提升設(shè)定明確的績效指標(biāo)，定期評估和測量都需要通過績效的提升來衡量活動的成功符合：滿足要求“符合”：指組織在建立、實施、保持和持續(xù)改進其人工智能管理體系時，完全符合該標(biāo)準或其他規(guī)范性文件中所規(guī)定的各項要求。組織的活動、過程、輸出的產(chǎn)品和服務(wù)，以及所采取的管理措施等，均達到了規(guī)定標(biāo)準的要求，沒有違反任何條款或規(guī)定。不符合：未滿足要求?！安环稀保褐附M織在人工智能管理體系的任一環(huán)節(jié)中出現(xiàn)與標(biāo)準或規(guī)范性文件規(guī)定不符的情況。這包括但不限于組織未能完全執(zhí)行標(biāo)準中的某一要求、采取的管理措施不符合標(biāo)準規(guī)定、輸出的產(chǎn)品或服務(wù)未能達到標(biāo)準規(guī)定的性能要求等。當(dāng)出現(xiàn)不符合情況時，組織應(yīng)迅速識別并采取糾正措施，以防止類似問題再次發(fā)生。糾正措施：為消除不符合的原因并防止再次發(fā)生而采取的措施目的：為消除不符合的原因并防止其再次發(fā)生；實施時機：當(dāng)不符合情況發(fā)生時采取；作用：通過確定不符合的原因，采取針對性的措施來糾正當(dāng)前的錯誤，并預(yù)防類似情況在未來再次發(fā)生；內(nèi)容涵蓋：糾正措施可能包括但不限于對不符合項的評估、原因的分析、制定和實施糾正計劃、驗證糾正措施的有效性等步驟。不符合處理與后果應(yīng)對；當(dāng)發(fā)生不符合情況時，組織應(yīng)按照以下要求進行應(yīng)對：對不符合做出反應(yīng)，具體行動包括：及時采取控制和糾正措施：一旦發(fā)現(xiàn)不符合項，組織需要立即響應(yīng)，通過實施控制和糾正措施來防止問題擴大，并糾正已經(jīng)發(fā)生的不符合情況?？刂坪图m正措施可能包括暫停相關(guān)流程、重新評估和調(diào)整相關(guān)策略、修復(fù)錯誤或缺陷等，以確保人工智能系統(tǒng)的正常運行和合規(guī)性；妥善處置后果。在處理不符合情況的過程中，組織應(yīng)考慮并妥善處理由此產(chǎn)生的任何后果。這可能包括對受影響方的通知、賠償或補救措施，以及與相關(guān)方的溝通和協(xié)調(diào)，以確保不符合情況對組織聲譽和利益相關(guān)者的影響最小化。組織對不符合的處理及糾正措施：當(dāng)發(fā)生不符合時，組織應(yīng)通過以下活動評價采取措施的需要，以消除產(chǎn)生不符合的原因，避免其再次發(fā)生或在其他地方發(fā)生：評審不符合：組織應(yīng)對不符合的情況進行詳細評審，了解其性質(zhì)、影響范圍及程度，確保對不符合情況有全面的了解。確定產(chǎn)生不符合的原因：組織應(yīng)深入調(diào)查不符合的原因，這可能涉及過程、資源、能力、溝通等各個方面，目的是找出導(dǎo)致不符合的根本原因；確定是否存在或可能發(fā)生類似的不符合：在識別出不符合的原因后，組織應(yīng)進一步分析是否在其他地方存在類似的問題或潛在風(fēng)險，以預(yù)防類似不符合的再次發(fā)生。這有助于組織發(fā)現(xiàn)潛在的系統(tǒng)性問題，從而采取更廣泛的改進措施；實施任何所需的措施；當(dāng)發(fā)生不符合人工智能管理體系要求的情況時，組織應(yīng)立即采取行動，實施必要的糾正措施；這些糾正措施旨在消除不符合項的原因，以防止類似問題再次發(fā)生；糾正措施可能包括但不限于修改流程、改進技術(shù)、增強培訓(xùn)、更新文件等；糾正措施應(yīng)與不符合產(chǎn)生的影響相適應(yīng)；適用性：糾正措施應(yīng)直接針對特定不符合的情況制定，確保其能夠切實解決識別出的問題；相適應(yīng)性：糾正措施應(yīng)與不符合產(chǎn)生的影響相匹配，即糾正措施的程度、范圍和緊急性應(yīng)基于不符合所帶來的潛在風(fēng)險、影響或后果來評估。評審所采取的任何糾正措施的有效性；在實施糾正措施后，組織應(yīng)對這些措施的有效性進行評審；評審的目的是驗證糾正措施是否成功地消除了不符合的原因，并確保了管理體系的持續(xù)有效性；評審可能涉及檢查相關(guān)文檔、收集數(shù)據(jù)、進行內(nèi)部審核或管理評審等活動。如必要，變更人工智能管理體系。如果經(jīng)過評審發(fā)現(xiàn)糾正措施未能達到預(yù)期效果，或者由于內(nèi)部或外部環(huán)境的變化導(dǎo)致管理體系不再適用，組織應(yīng)考慮對人工智能管理體系進行變更；變更可能涉及調(diào)整方針、目標(biāo)、過程、資源、文件等多個方面；在進行任何變更之前，組織應(yīng)充分評估變更的影響，并確保所有相關(guān)方都已充分了解并同意這些變更。成文信息應(yīng)作為以下事項的證據(jù)可獲?。撼晌男畔⒆鳛椴环闲再|(zhì)的證據(jù)：當(dāng)組織在人工智能管理體系中遇到不符合時，成文信息應(yīng)能夠清晰、準確地記錄不符合的性質(zhì)。這包括不符合的具體描述、發(fā)生的時間、地點以及涉及的人員、流程或系統(tǒng)等關(guān)鍵信息；成文信息不僅要求記錄不符合的事實，還應(yīng)包括不符合發(fā)生的原因分析，以便組織能夠深入理解不符合的根源，進而采取有效地糾正措施。成文信息作為所采取的任何后續(xù)措施的證據(jù)；在識別不符合后，組織需要采取相應(yīng)的后續(xù)措施來糾正不符合或防止其再次發(fā)生。這些后續(xù)措施包括但不限于調(diào)查不符合的原因、評估不符合的影響、制定糾正措施計劃、實施糾正措施等；成文信息應(yīng)能夠完整記錄組織所采取的每一項后續(xù)措施，包括措施的具體內(nèi)容、實施時間、實施人員以及實施結(jié)果等。這有助于組織跟蹤糾正措施的進展