ISO∕IEC 42001-2023人工智能管理體系之15：“8 運行-8.1 運行策劃和控制”解讀、實施流程和風險描述(雷澤佳編制-2024)

“8運行-8.1運行策劃和控制”解讀、實施流程和風險描述ISO∕IEC42001-2023《信息技術-人工智能管理體系》之15：“8運行-8.1運行策劃和控制”解讀、實施流程和風險描述(雷澤佳編制，2024年9月)第1部分：“8.1運行策劃和控制”解讀“8.1運行策劃和控制”條文“8.1運行策劃和控制”標準條文解讀8運行8.1運行策劃和控制“運行”的定義；運行：指組織為確保人工智能管理體系的有效實施，對人工智能系統(tǒng)全生命周期（包括人工智能系統(tǒng)的開發(fā)、測試、部署、使用、監(jiān)視、維護和優(yōu)化等過程）行有序、連續(xù)的管理和執(zhí)行活動。全生命周期管理：運行涵蓋了人工智能系統(tǒng)的整個生命周期，確保每個階段都符合管理體系的要求；系統(tǒng)性管理：運行不僅關注單一環(huán)節(jié)，而是對涉及人工智能系統(tǒng)的所有相關過程進行系統(tǒng)性的策劃、實施和控制；持續(xù)性與動態(tài)性：運行是一個持續(xù)不斷的過程，需要根據(jù)實際情況進行動態(tài)調整和優(yōu)化，以確保人工智能系統(tǒng)的穩(wěn)定性和可靠性。“運行策劃”的定義；運行策劃：組織在人工智能管理體系實施前所進行的一項重要活動，它涉及對運行過程的全面規(guī)劃和設計，包括明確過程的目標、范圍、輸入輸出、關鍵活動、參與人員及其職責，以及所需的資源等。運行策劃的作用：指導后續(xù)實施：通過運行策劃，組織可以系統(tǒng)地規(guī)劃出運行過程的具體實施路徑和方案，為運行過程的實施提供明確的指導和依據(jù)，確保所有活動都能按照既定計劃和標準進行；優(yōu)化資源配置：通過策劃，組織可以合理配置資源，確保關鍵活動和環(huán)節(jié)的順利進行；提高運行效率：通過細致的策劃，可以避免過程中的冗余和浪費，提高運行效率和質量?！斑\行控制”的定義。運行控制：指組織為確保人工智能管理體系運行策劃的有效實施和運行目標的實現(xiàn)，對運行過程進行實時監(jiān)視、測量、分析和調整的一系列活動。這些活動旨在確保運行過程符合既定的過程準則和要求，及時發(fā)現(xiàn)并糾正任何偏差和不符合項，從而保證人工智能系統(tǒng)的穩(wěn)定性和可靠性。運行控制的實施要點：按運行準則實施過程控制：根據(jù)已建立的過程準則，組織應嚴格實施過程控制，確保所有活動都符合既定的標準和要求；實時監(jiān)視控制有效性：織應定期或不定期地對運行控制的有效性進行監(jiān)視和評價，通過收集和分析數(shù)據(jù)，識別控制過程中的偏差和不符合，為后續(xù)的糾正和改進提供依據(jù)；采取糾正措施及時糾正偏差：一旦發(fā)現(xiàn)控制過程中的偏差或不符合項，組織應及時采取糾正措施，消除問題根源，防止問題再次發(fā)生。糾正措施應明確、具體、可操作，并能有效解決問題?？刂撇邉澴兏簩τ谝巡邉澓玫倪\行過程，任何變更都應經(jīng)過嚴格的評審和批準程序。組織應評估變更的必要性和潛在影響，確保變更后的過程仍能滿足人工智能管理體系的要求和運行目標；減輕變更的不利對目標實現(xiàn)的影響對于非預期的變更，組織應采取措施減輕其不利影響。這可能包括制定過渡計劃、提供額外資源、加強培訓等，以確保變更過程平穩(wěn)過渡，不影響管理體系的整體運行；確保外部過程受控：對于與人工智能管理體系相關的外部提供的過程、產品或服務，組織應確保其受到同等程度的控制。這可能需要與供方簽訂合同、進行定期審核和評估等，以確保外部過程符合管理體系的要求。保留成文信息：組織應確保所有與運行控制相關的成文信息（如過程準則、控制記錄、監(jiān)視和評估報告等）得到妥善保留和管理。這些成文信息不僅有助于組織內部的知識傳承和經(jīng)驗積累，以便后續(xù)的審核、驗證和持續(xù)改進。組織應策劃、實施和控制滿足要求和實施第6章確定的措施所需的過程，通過：——建立過程準則；全面策劃運行過程；組織應對其運行過程進行全面策劃，確保所有與人工智能管理體系相關的活動都得到充分的考慮和安排。這種策劃不僅包括對具體過程的定義和設計，還包括對資源的分配、職責的明確以及風險的評估等。實施過程的嚴格控制；在策劃完成后，組織需要嚴格按照過程準則來實施運行過程。這包括對各項活動的順序、時間、方法等進行嚴格的控制，確保過程能夠按照預定的計劃進行，從而達到預期的效果。動態(tài)過程調整控制策略；在實施過程中，組織需要根據(jù)實際情況對控制策略進行動態(tài)調整。這可能包括對資源的重新分配、職責的重新劃分以及對過程的優(yōu)化等。這種動態(tài)調整旨在確保過程的有效性和效率。滿足“6策劃”的要求（緊密對接“6策劃”要求）；組織的運行策劃、實施與控制應與“6策劃”中確定的措施緊密對接。這意味著組織需要確保在運行過程中充分考慮到“6策劃”中的各項要求，包括所確定的風險和機遇的應對措施、人工智能目標及其實現(xiàn)的策劃結果、人工智能管理體系變更策劃的結果等，從而確保整個管理體系的一致性和協(xié)調性。通過：——建立過程準則；建立過程準則：過程準則的定義；過程準則：指組織為確保其運行過程達到預期目標而制定的一系列規(guī)范、標準或指導原則。這些準則詳細描述了過程的輸入、輸出、活動、職責、過程控制要求以及相關的績效指標，旨在確保過程的一致性、有效性和可控性；過程準則包括為滿足人工智能管理體系的要求和實施“6策劃”中確定的措施所制定的具體規(guī)則和標準。這些準則為組織提供了實施和運行人工智能相關過程的框架，幫助組織確保其過程符合管理體系的目標和期望輸出。準則制定的依據(jù)；過程運行和控制的準則應當基于組織的業(yè)務需求、法律法規(guī)要求、行業(yè)標準以及最佳實踐。這些準則應當明確界定過程的輸入、輸出、活動順序、職責分配、控制點、測量指標等關鍵要素，以確保過程的有效性和效率。過程運行和控制準則的內容。過程范圍與目標界定準則：確立哪些具體活動或任務應納入過程管理，并設定清晰的目標和預期成果，確保所有參與者對過程的目的有共同理解；角色與職責分配準則：詳細規(guī)定參與過程的角色及其職責，包括任務分配、決策權限和協(xié)作方式，以保障過程執(zhí)行的責權清晰；操作步驟規(guī)范化與程序化指南：設計詳盡的步驟和程序來實現(xiàn)過程目標，確保每一步都有明確的內容和標準，提升過程的可控性和可重復性；績效監(jiān)視與指標設定準則：確立用于評估過程效率、效果和合規(guī)性的控制標準和績效指標，幫助組織有效監(jiān)視過程表現(xiàn)；資源需求評估與優(yōu)化配置策略：分析過程執(zhí)行所需的各類資源，并規(guī)劃合理的資源配置方案，確保過程高效運行并控制成本；風險管理框架與應對方案：識別過程執(zhí)行中的潛在風險，制定預防和應對策略，包括應急響應計劃和恢復措施，保障過程的穩(wěn)定性；過程監(jiān)視與評估體系準則：規(guī)定過程監(jiān)視的頻率、方法和評估標準，通過定期監(jiān)視和評估確保過程按計劃順利進行；流程持續(xù)優(yōu)化與改進策略：鼓勵并規(guī)定持續(xù)改進的機制，包括反饋收集、問題分析、改進措施制定和實施計劃，以不斷提升過程績效；外部資源與合作關系管理框架：針對外部提供的過程、產品或服務，制定供方評估、合同管理、交付成果驗收及合作溝通機制，確保外部過程的可控性和合規(guī)性；成文信息編制、維護與更新規(guī)范：明確成文信息的編制標準、保留期限和更新要求，保障信息的準確性、可追溯性和時效性?！鶕?jù)準則實施過程控制。根據(jù)準則實施過程控制；理解過程控制的定義與目的；定義：過程控制指組織對運行過程執(zhí)行情況進行監(jiān)視和管理的活動；目的：確保運行過程嚴格遵循既定的準則執(zhí)行，及時發(fā)現(xiàn)并糾正任何偏差和不符合要求的情況，以維護過程的穩(wěn)定性和可控性，最終實現(xiàn)人工智能管理體系的預期結果。實施實時監(jiān)視與定期審核；實時監(jiān)視：組織應對運行過程進行實時監(jiān)視，通過收集和分析實時數(shù)據(jù)，及時發(fā)現(xiàn)過程中的異常情況，確保過程始終處于受控狀態(tài)；定期審核：除了實時監(jiān)視外，還應定期進行全面的過程審核，通過評審過程文檔、記錄和分析績效數(shù)據(jù)，評估過程的執(zhí)行情況和績效，確保過程的有效性和合規(guī)性。全生命周期控制考慮；在實施控制時，應全面考慮人工智能系統(tǒng)的整個生命周期，包括從需求定義、系統(tǒng)設計、開發(fā)、測試、部署到運行和維護的各個階段；針對每個階段，制定相應的控制準則和措施，如數(shù)據(jù)采集與調節(jié)的控制、模型訓練與驗證的控制、系統(tǒng)部署前的詳細計劃制定與執(zhí)行等，確保整個生命周期內的控制一致性和有效性。關鍵控制活動的具體實施；人工智能系統(tǒng)的設計和開發(fā)記錄：全面記錄系統(tǒng)設計、開發(fā)過程中的所有關鍵活動和決策，確保符合既定的目標、要求和規(guī)范，為后續(xù)的維護和升級提供可靠依據(jù)；驗證和確認：明確驗證和確認的標準和流程，對系統(tǒng)進行全面的測試和評估，確保其在各種場景下的準確性和可靠性；部署：制定詳細的部署計劃，確保所有部署前的要求和準備工作得到充分滿足，減少部署過程中的風險和問題；運行和監(jiān)視：明確系統(tǒng)運行和監(jiān)視的要素，包括系統(tǒng)和性能監(jiān)視、定期維護、更新和技術支持等，確保系統(tǒng)的持續(xù)高效運行；技術記錄和事件日志：為相關方提供必要的技術記錄和事件日志，確保系統(tǒng)的透明性和可追溯性，便于問題追蹤和診斷?？刂拼胧┑倪m用性與關聯(lián)性；適用性：確保所實施的控制措施與組織的環(huán)境、治理目標、方針和程序以及合同義務相匹配，避免過度控制或控制不足的情況；關聯(lián)性：將控制措施與已識別的風險緊密關聯(lián)，確?？刂拼胧┠軌蛴行Ы档突蛳炎R別的風險，提高組織的風險應對能力。持續(xù)改進與優(yōu)化。在過程控制實施過程中，應建立持續(xù)改進的機制，定期評估控制措施的有效性和適用性，根據(jù)評估結果進行必要的調整和優(yōu)化，確保控制措施始終與組織的需求和環(huán)境保持一致。組織應實施根據(jù)6.1.3確定的與人工智能管理體系運行相關的控制（如與人工智能系統(tǒng)開發(fā)和使用生命周期相關的控制）。實施“6.1.3人工智能風險應對”風險應對確定的相關控制措施；理解風險應對控制的重要性；組織在實施人工智能管理體系的過程中，應關注并應對潛在的風險。特別是通過“6.1.3人工智能風險應對”所確定的風險，組織應制定并實施一系列人工智能控制措施，以確保人工智能系統(tǒng)的有效運行。這些控制措施不僅涵蓋了人工智能系統(tǒng)的日常運行維護，還深入到了系統(tǒng)開發(fā)和使用的全生命周期中。全生命周期的風險控制；人工智能風險應對控制不應僅限于系統(tǒng)運行的某一階段，而應貫穿整個人工智能系統(tǒng)的開發(fā)和使用過程。這包括從需求分析、設計、開發(fā)、測試、部署到維護和退役的每個階段。通過在整個生命周期中實施控制，組織能夠更有效地識別、評估和管理潛在的風險，從而確保系統(tǒng)的穩(wěn)定性和可靠性。具體風險控制措施的應用。具體的控制措施可能包括但不限于以下幾個方面：系統(tǒng)開發(fā)與驗證：在開發(fā)和驗證階段，確保所有設計和編碼都符合既定的安全和質量標準，減少因設計缺陷或編碼錯誤導致的風險。數(shù)據(jù)管理與隱私保護：加強對數(shù)據(jù)的收集、存儲、處理和傳輸?shù)墓芾?，確保數(shù)據(jù)的機密性、完整性和可用性，同時遵守相關法律法規(guī)對隱私保護的要求。供應鏈與供方管理：對供方進行嚴格的評估和選擇，確保所采購的組件和服務符合組織的風險管理策略和標準。持續(xù)監(jiān)視與評審：通過持續(xù)的監(jiān)視和定期評審，及時發(fā)現(xiàn)并應對潛在的風險，確保管理體系的持續(xù)有效性。應監(jiān)視這些控制的有效性，如果未能實現(xiàn)預期結果，應考慮采取糾正措施。附錄A列出了參考控制，附錄B提供了實施指南。監(jiān)視控制有效性并考慮糾正措施：應監(jiān)視這些控制的有效性，如果未能實現(xiàn)預期結果，應考慮采取糾正措施；監(jiān)視控制與采取糾正措施的重要性：通過對控制措施進行持續(xù)監(jiān)視和評估，組織可以及時發(fā)現(xiàn)潛在的問題和不足，并采取相應的糾正措施進行改進。確?？刂拼胧┑挠行裕憾ㄆ诒O(jiān)視控制措施的執(zhí)行情況可以確保其在實際應用中的有效性。如果發(fā)現(xiàn)控制措施未能達到預期效果，組織可以及時調整和優(yōu)化這些措施，以確保其能夠充分發(fā)揮作用；持續(xù)改進的動力源泉：采取糾正措施不僅是對現(xiàn)有問題的及時響應，也是推動管理體系持續(xù)改進的重要動力。通過不斷發(fā)現(xiàn)問題、解決問題并優(yōu)化控制措施，組織可以不斷提升其人工智能管理體系的成熟度和有效性；提升組織的風險應對能力：通過對控制措施的有效監(jiān)視和及時糾正，組織可以提升其應對人工智能應用過程中各種風險和挑戰(zhàn)的能力。這有助于組織更好地把握人工智能技術的發(fā)展機遇，并為其長遠發(fā)展奠定堅實基礎?？刂朴行缘谋O(jiān)視；監(jiān)視的必要性：為了確保人工智能管理體系的有效運行，組織應定期監(jiān)視所實施控制的有效性。這是通過比較實際運行效果與預期目標的一致性來實現(xiàn)的；監(jiān)視內容：監(jiān)視應覆蓋所有與人工智能風險應對相關的控制，特別是那些針對系統(tǒng)開發(fā)和使用生命周期的控制措施。監(jiān)視活動旨在確保這些控制措施在實際操作中能夠如預期般發(fā)揮作用。糾正措施的制定與執(zhí)行；糾正措施的觸發(fā)條件：當監(jiān)視結果顯示控制措施未能實現(xiàn)預期結果時，組織應立即識別問題所在，并考慮采取糾正措施。這表明組織對管理體系的持續(xù)改進承諾，以及對潛在風險的及時響應能力；糾正措施的實施：制定糾正措施時，組織應參考附錄A中列出的參考控制，并依據(jù)附錄B提供的實施指南進行操作。這些指南為組織提供了制定和執(zhí)行糾正措施的具體步驟和方法，以確保措施的有效性和可行性。《附錄A：參考控制目標與控制》列出了參考控制，《附錄B：人工智能控制的實施指南》提供了實施指南。附錄A詳細列出了實現(xiàn)人工智能管理體系目標所需的一系列參考控制。這些控制不僅覆蓋了從方針制定到風險應對的各個方面，還確保了管理體系的全面性和系統(tǒng)性。通過參考附錄A中的控制，組織能夠系統(tǒng)地識別和管理與人工智能系統(tǒng)相關的潛在風險，從而保障人工智能應用的安全性和有效性；附錄B為附錄A中列出的參考控制提供了具體的實施步驟和方法。這些實施指南旨在幫助組織將理論上的控制措施轉化為實際的操作指南，從而提高管理體系的可操作性和有效性。組織應控制策劃的變更，評審非預期變更的后果，必要時，采取措施減輕不利影響?？刂撇邉澴兏c減輕非預期變更影響控制策劃的變更；人工智能系統(tǒng)變更的常見情形包括但不限于：功能升級：增加新的功能或改進現(xiàn)有功能以滿足新的業(yè)務需求或用戶期望；性能優(yōu)化：通過算法調整、硬件升級等手段提高系統(tǒng)的響應速度、準確率等性能指標；安全加固：針對新發(fā)現(xiàn)的安全漏洞進行修復，增強系統(tǒng)的安全防護能力；模型替換：用新的機器學習模型替換舊的模型，以提升預測精度或解決特定問題；架構調整：根據(jù)業(yè)務需求或技術發(fā)展趨勢調整系統(tǒng)的整體架構，如從單體架構遷移到微服務架構；數(shù)據(jù)更新：更換或補充訓練數(shù)據(jù)，以反映最新的市場趨勢或業(yè)務規(guī)則。組織應嚴格控制和管理對原有策劃的任何變更。這包括對所有可能影響人工智能系統(tǒng)性能、安全性、可靠性或合規(guī)性的變更進行細致評審和審批?？刂撇邉澋淖兏荚诖_保所有變更都是經(jīng)過深思熟慮的，并符合組織的整體戰(zhàn)略目標和方針。通過嚴格的變更管理流程，組織可以避免不必要的混亂和潛在風險，同時確保變更能夠順利進行并達到預期效果。評審非預期變更的后果；在實施變更后，組織應密切關注任何非預期的后果，非預期變更的常見后果包括但不限于：性能下降：變更可能導致系統(tǒng)處理速度變慢，響應時間延長，影響用戶體驗；準確性降低：新模型或算法可能不如舊模型準確，導致預測或決策失誤；穩(wěn)定性問題：系統(tǒng)可能出現(xiàn)頻繁的崩潰、掛起等異常情況，影響正常運行；安全隱患：變更可能引入新的安全漏洞，增加被攻擊的風險；合規(guī)性問題：變更可能違反相關法律法規(guī)或行業(yè)標準，導致合規(guī)風險；成本增加：不適當?shù)淖兏赡軐е骂~外的開發(fā)、測試和維護成本。通過及時和全面的評審，組織能夠迅速識別并評估非預期變更可能帶來的風險和挑戰(zhàn)。評審過程應涉及多個相關部門和利益相關者，以確保從多個角度審視變更的影響，并制定相應的應對策略。評審非預期變更后果的方法包括：建立變更評審團隊：組建跨部門的評審團隊，確保從不同角度全面評估變更影響；明確評審標準：制定清晰的評審標準和流程，包括性能、穩(wěn)定性、安全性、合規(guī)性等方面的具體要求；收集反饋和數(shù)據(jù)：通過用戶反饋、日志分析、性能測試等手段收集變更后的實際運行情況數(shù)據(jù)；進行風險評估：基于收集到的數(shù)據(jù)，對潛在的不利影響進行定量和定性分析，評估其嚴重程度和可能性；制定應對策略：針對識別出的不利影響，制定詳細的應對策略和恢復計劃，確保能夠快速響應和恢復；持續(xù)監(jiān)視和反饋：在變更實施后持續(xù)監(jiān)視系統(tǒng)性能，及時發(fā)現(xiàn)并處理新的問題，不斷完善變更管理流程。采取措施減輕不利影響；不利影響包括但不限于：業(yè)務中斷：系統(tǒng)變更導致服務不可用，影響業(yè)務流程的正常進行；數(shù)據(jù)丟失或損壞：變更過程中可能發(fā)生數(shù)據(jù)誤刪除、損壞或泄露；用戶流失：由于系統(tǒng)性能下降或體驗不佳，用戶可能轉向競爭對手的產品或服務；品牌聲譽受損：公開的安全事件、數(shù)據(jù)泄露或服務中斷可能對品牌形象造成負面影響；法律風險和罰款：違反數(shù)據(jù)保護法規(guī)或行業(yè)規(guī)范可能導致法律訴訟和巨額罰款；市場競爭力下降：不及時的系統(tǒng)更新可能使組織在市場中失去競爭優(yōu)勢。一旦發(fā)現(xiàn)非預期變更可能帶來的不利影響，組織應立即采取措施來減輕這些影響。這可能包括恢復系統(tǒng)到變更前的狀態(tài)、調整系統(tǒng)配置以改善性能、加強安全措施以應對潛在風險，或者重新評估變更的必要性和可行性。在采取措施時，組織應優(yōu)先考慮系統(tǒng)的穩(wěn)定性和安全性，確保任何行動都不會進一步加劇不利影響。同時，組織還應總結經(jīng)驗教訓，完善變更管理流程，以防止類似問題再次發(fā)生。組織可以采取以下一系列措施來立即減輕不利對目標實現(xiàn)的影響緊急回滾變更：如果非預期變更導致了明顯的問題，組織應立即考慮將系統(tǒng)回滾到變更之前的穩(wěn)定狀態(tài)，以避免問題進一步擴大。這需要提前制定回滾計劃，并確保有可用的備份數(shù)據(jù)和環(huán)境；啟動應急響應計劃：根據(jù)預先制定的應急響應計劃，快速啟動相關流程。這包括召集應急響應團隊，明確各自職責，執(zhí)行預設的應急步驟，以控制事態(tài)發(fā)展；隔離問題區(qū)域以控制影響范圍：對系統(tǒng)進行分區(qū)管理，快速識別并隔離問題區(qū)域，防止問題擴散到其他部分。這可能需要調整網(wǎng)絡配置、路由策略或啟用防火墻規(guī)則；數(shù)據(jù)保護和恢復：確保關鍵數(shù)據(jù)的完整性和可用性，立即啟動數(shù)據(jù)備份和恢復流程，以防數(shù)據(jù)丟失或損壞。這包括檢查數(shù)據(jù)備份的完整性和可恢復性，必要時進行數(shù)據(jù)恢復操作；及時通知用戶并溝通解決方案：通過官方渠道及時通知受影響的用戶，解釋問題原因、當前狀態(tài)和預計恢復時間。同時，提供替代方案或臨時解決措施，以減輕用戶的不便；深入分析非預期變更的根本原因：組織專業(yè)團隊對變更過程進行全面評審，找出導致非預期變更的根本原因。這包括檢查變更管理流程、測試覆蓋度、自動化部署腳本等方面；優(yōu)化變更管理流程以防止類似問題再次發(fā)生：根據(jù)分析結果，更新和修正變更管理流程，包括增加變更前的風險評估、增強測試覆蓋度、引入更嚴格的審核機制等。確保未來變更能夠更加安全和可控；加強變更后的監(jiān)視和記錄工作：在變更恢復并穩(wěn)定后，加強系統(tǒng)監(jiān)視，密切關注系統(tǒng)性能和穩(wěn)定性。同時，詳細記錄變更過程中的所有關鍵步驟和發(fā)現(xiàn)的問題，為未來的分析和改進提供依據(jù)；加強團隊培訓和意識提升：組織內部進行變更管理和應急響應方面的培訓，提升團隊的專業(yè)能力和應急處理能力。同時，增強員工的風險意識和問題報告機制，確保問題能夠及時發(fā)現(xiàn)和報告。組織應確保與人工智能管理體系相關的外部提供的過程、產品或服務得到控制。外部過程、產品或服務的控制明確控制范圍：組織應明確哪些外部提供的過程、產品或服務與其人工智能管理體系直接相關，確保這些外部要素得到適當?shù)谋O(jiān)視和管理；外部提供的過程：指由外部實體（如供應商、合作伙伴等）執(zhí)行的一系列活動或任務，這些活動與組織的人工智能管理體系密切相關。范疇：可能包括但不限于：第三方數(shù)據(jù)處理服務：由外部專業(yè)機構提供的數(shù)據(jù)清洗、標注、分析等服務；云計算服務：通過云服務提供商部署和管理的人工智能應用環(huán)境，包括計算資源、存儲資源和網(wǎng)絡資源的提供；軟件開發(fā)與測試：外部軟件開發(fā)團隊為組織定制開發(fā)人工智能軟件或進行軟件系統(tǒng)的測試驗證；維護與技術支持：外部團隊提供的系統(tǒng)日常維護、故障排查及技術支持服務。外部提供的產品：指由外部實體生產或提供的，用于支持組織人工智能管理體系運行的實體物品或軟件產品。范疇：可能包括但不限于：硬件設備：如服務器、存儲設備、人工智能加速卡等，用于部署和運行人工智能模型；軟件產品：包括預訓練的人工智能模型、算法庫、開發(fā)工具包等，可直接集成到組織的人工智能系統(tǒng)中；數(shù)據(jù)集：由外部機構整理和維護的數(shù)據(jù)集，用于訓練和優(yōu)化人工智能模型。外部提供的服務：指外部實體為組織提供的，旨在增強其人工智能管理體系能力或效率的各種非實體性支持。范疇：可能包括但不限于：咨詢服務：外部專家或機構提供的關于人工智能戰(zhàn)略規(guī)劃、流程優(yōu)化、風險評估等方面的咨詢服務。培訓服務：針對組織內部員工的人工智能技能培訓、知識分享等，提升其專業(yè)能力。項目管理服務：外部項目管理團隊為組織的人工智能項目提供全生命周期的管理支持，包括需求分析、進度控制、質量控制等。建立并實施供方評價機制；組織應建立一套評價機制，對外部提供商的資質、能力、信譽以及歷史表現(xiàn)進行全面評價。這有助于確保所選擇的外部供方能夠符合組織的人工智能管理體系要求，降低潛在風險。合同管理；與外部供方的合作應通過正式的合同形式進行規(guī)范，合同中應明確雙方的權利、義務、服務標準、質量要求以及違約責任等關鍵條款。這有助于保障組織的合法權益，確保外部服務或產品的質量和穩(wěn)定性。實施持續(xù)監(jiān)視與審核；組織應對外部提供的過程、產品或服務進行持續(xù)的監(jiān)視和定期審核，確保其始終符合合同規(guī)定和組織要求。監(jiān)視和審核結果應及時反饋并用于供方績效評價，必要時采取糾正和預防措施。建立有效溝通與協(xié)作機制；組織應與外部供方建立順暢的溝通渠道，定期交流合作情況，共同解決遇到的問題。通過協(xié)作，確保雙方能夠高效配合，共同提升人工智能管理體系的有效性和效率。納入全面風險管理框架。組織應將外部過程、產品或服務的風險納入全面風險管理框架中，識別、分析和評價、監(jiān)視和應對相關風險。通過風險管理措施，降低外部因素對人工智能管理體系的不利影響。在必要的范圍和程度上，確定并保持、保留成文信息，以確信過程已經(jīng)按策劃進行；成文信息的確定、保持與保留：在必要的范圍和程度上，確定并保持、保留成文信息，以確信過程已經(jīng)按策劃進行為確保人工智能管理體系的有效運行，組織應保持的成文信息（文件）包括但不限于：人工智能方針：明確組織在人工智能應用方面的整體方向和原則；目標和指標：設定可量化的目標，以衡量人工智能管理體系的績效；程序文件：詳細描述人工智能系統(tǒng)開發(fā)、部署、運行、監(jiān)視和維護等關鍵過程的步驟和要求；作業(yè)指導書：針對特定任務或活動的詳細操作指南，如數(shù)據(jù)收集、模型訓練、系統(tǒng)維護等；風險管理和應對策略：包括風險評估方法、已識別風險的列表、風險應對措施及其實施計劃；數(shù)據(jù)管理和隱私政策：規(guī)定數(shù)據(jù)處理、存儲、共享和保護的原則和程序，確保符合相關法律法規(guī)要求；供方管理文件：包括供方評價、選擇和監(jiān)視的標準和程序，以及供方合同和協(xié)議；審核和管理評審記錄：定期進行內部審核和管理評審的記錄，以及相應的改進計劃和措施；變更管理文件：記錄對人工智能管理體系及其相關過程的變更請求、審批和實施情況；用戶手冊和操作指南：為用戶提供系統(tǒng)使用、維護和故障排除的指導性文件；為確保人工智能管理體系的運行過程已按策劃進行，組織應保留的成文信息（記錄或證據(jù)性材料）包括但不限于：風險評估記錄：包括風險識別、分析和評價的過程記錄，以及風險等級的確定和應對措施的制定；審核報告：內部審核、第二方審核或第三方審核的完整報告，記錄審核發(fā)現(xiàn)、不符合項及糾正措施；管理評審輸出：管理評審會議的紀要、決議和改進措施的跟蹤記錄；培訓記錄：人工智能相關人員的培訓計劃、培訓內容和培訓效果的評估記錄；變更控制記錄：記錄對體系、過程或文件的變更請求、審批、實施和驗證情況；事故和故障記錄：記錄系統(tǒng)運行過程中發(fā)生的事故、故障及其處理過程和結果；監(jiān)視和測量記錄：包括性能監(jiān)視數(shù)據(jù)、關鍵指標測量結果和系統(tǒng)運行狀態(tài)的記錄；供方評價記錄：對供方的評估報告、選擇依據(jù)和持續(xù)監(jiān)視的記錄；用戶反饋和投訴記錄：記錄用戶對人工智能系統(tǒng)的反饋、建議和投訴及其處理情況；合規(guī)性證明：證明組織遵守相關法律法規(guī)、標準和合同要求的文件或證書。第2部分：“8.1運行策劃和控制”流程控制表一級流程二級流程流程節(jié)點控制要點所期望輸出建立過程準則確定關鍵過程及其要求識別關鍵過程定義過程目標和指標確立關鍵控制點準則應明確過程的期望輸出、執(zhí)行步驟、所需資源以及與其他過程的接口準則應與“6策劃”中確定的風險管理措施和目標保持一致過程準則文檔制定過程流程圖和控制計劃繪制過程流程圖制定詳細控制計劃分配責任和資源過程流程圖與控制計劃實施過程控制執(zhí)行日常操作與控制活動遵循過程準則進行運行監(jiān)視過程輸出與預期目標的符合性監(jiān)視過程績效，收集和分析過程數(shù)據(jù)，評估運行過程的績效及時發(fā)現(xiàn)并糾正偏差和不符合要求的情況，確保過程的穩(wěn)定性和可控性過程輸出與監(jiān)視數(shù)據(jù)定期審核與評估過程績效定期審核過程執(zhí)行情況評估績效指標與目標的達成情況審核報告與績效評估結果實施特定控制實施與人工智能系統(tǒng)開發(fā)和使用生命周期相關的控制根據(jù)“6.1.3人工智能風險應對”實施特定控制風險控制措施確?？刂拼胧┑挠行耘c合規(guī)性引用附錄A中的參考控制，并根據(jù)附錄B提供的實施指南進行操作控制措施實施記錄與合規(guī)性證明監(jiān)視控制的有效性監(jiān)視控制措施的執(zhí)行情況定期監(jiān)視控制措施的執(zhí)行分析監(jiān)視數(shù)據(jù)識別潛在問題監(jiān)視報告與潛在問題識別結果評估控制效果與預期目標的符合性對比實際輸出與預期目標分析差異原因并采取改進措施評估報告與改進措施計劃采取糾正措施識別控制失敗的根本原因分析控制失敗的原因確定根本原因并采取糾正行動糾正措施計劃與實施記錄實施并驗證糾正措施的有效性執(zhí)行糾正措施驗證措施效果并記錄結果糾正措施驗證報告與效果評估控制策劃的變更識別變更需求并評估影響收集變更需求分析變更對過程的影響變更需求分析報告與影響評估結果審批變更并實施變更控制計劃提交變更申請并審批實施變更控制計劃并監(jiān)視進度變更審批記錄與控制計劃實施進度報告評審非預期變更的后果并采取措施評審非預期變更的后果分析非預期變更對過程的影響評估潛在風險與機會非預期變更后果評審報告與風險評估結果制定并采取措施減輕不利影響制定應對措施計劃執(zhí)行措施并監(jiān)視效果應對措施計劃與實施效果評估報告控制外部提供的過程、產品或服務評價與選擇外部供方制定供方評價標準選擇合格供方并簽訂合同供方評價報告與合同文件監(jiān)視外部供方的績效與合規(guī)性定期監(jiān)視供方績效確保供方符合組織與標準要求供方績效監(jiān)視報告與合規(guī)性評價結果管理供方變更與風險評估供方變更請求管理變更風險并通知相關方供方變更管理記錄與風險通知記錄確定與保留成文信息確定需要保留的成文信息類型與范圍根據(jù)標準要求確定成文信息類型明確保留期限與責任人成文信息保留清單與責任人分配實施成文信息的保存與管理建立成文信息管理系統(tǒng)確保信息的可追溯性與安全性成文信息包括但不限于過程準則的文檔、實施過程控制的記錄、事件日志和其他監(jiān)視記錄外部提供的過程、產品或服務的控制記錄也應被妥善保留成文信息管理系統(tǒng)與記錄保留證據(jù)第3部分：“8.1運行策劃和控制”過程風險清單一級流程二級流程風險描述（風險源、過程運行可能發(fā)生什么并產生什么后果及其對實現(xiàn)業(yè)務流程目標產生的影響）建立過程準則確定關鍵過程及其要求風險源：未充分識別關鍵過程或遺漏關鍵控制點可能后果：過程準則不完善，導致操作不規(guī)范，影響人工智能系統(tǒng)性能和穩(wěn)定性對目標實現(xiàn)的影響：人工智能管理體系目標難以實現(xiàn)，可能導致質量、安全或合規(guī)性問題制定過程流程圖和控制計劃風險源：流程圖與控制計劃制定不準確或遺漏重要環(huán)節(jié)可能后果：執(zhí)行時缺乏明確指導，增加操作錯誤和漏洞的風險對目標實現(xiàn)的影響：人工智能系統(tǒng)性能波動，影響決策質量和用戶信任實施過程控制執(zhí)行日常操作與控制活動風險源：操作人員培訓不足或未按規(guī)程執(zhí)行可能后果：操作失誤，系統(tǒng)穩(wěn)定性受損，數(shù)據(jù)錯誤對目標實現(xiàn)的影響：人工智能系統(tǒng)輸出質量下降，用戶滿意度降低，可能導致經(jīng)濟損失定期審核與評估過程績效風險源：審核不全面或評估標準不明確可能后果：未能及時發(fā)現(xiàn)并解決潛在問題，績效持