ISO∕IEC 42001-2023人工智能管理體系之15：“8 運(yùn)行-8.1 運(yùn)行策劃和控制”解讀、實(shí)施流程和風(fēng)險描述(雷澤佳編制-2024)

“8運(yùn)行-8.1運(yùn)行策劃和控制”解讀、實(shí)施流程和風(fēng)險描述ISO∕IEC42001-2023《信息技術(shù)-人工智能管理體系》之15：“8運(yùn)行-8.1運(yùn)行策劃和控制”解讀、實(shí)施流程和風(fēng)險描述(雷澤佳編制，2024年9月)第1部分：“8.1運(yùn)行策劃和控制”解讀“8.1運(yùn)行策劃和控制”條文“8.1運(yùn)行策劃和控制”標(biāo)準(zhǔn)條文解讀8運(yùn)行8.1運(yùn)行策劃和控制“運(yùn)行”的定義；運(yùn)行：指組織為確保人工智能管理體系的有效實(shí)施，對人工智能系統(tǒng)全生命周期（包括人工智能系統(tǒng)的開發(fā)、測試、部署、使用、監(jiān)視、維護(hù)和優(yōu)化等過程）行有序、連續(xù)的管理和執(zhí)行活動。全生命周期管理：運(yùn)行涵蓋了人工智能系統(tǒng)的整個生命周期，確保每個階段都符合管理體系的要求；系統(tǒng)性管理：運(yùn)行不僅關(guān)注單一環(huán)節(jié)，而是對涉及人工智能系統(tǒng)的所有相關(guān)過程進(jìn)行系統(tǒng)性的策劃、實(shí)施和控制；持續(xù)性與動態(tài)性：運(yùn)行是一個持續(xù)不斷的過程，需要根據(jù)實(shí)際情況進(jìn)行動態(tài)調(diào)整和優(yōu)化，以確保人工智能系統(tǒng)的穩(wěn)定性和可靠性。“運(yùn)行策劃”的定義；運(yùn)行策劃：組織在人工智能管理體系實(shí)施前所進(jìn)行的一項(xiàng)重要活動，它涉及對運(yùn)行過程的全面規(guī)劃和設(shè)計(jì)，包括明確過程的目標(biāo)、范圍、輸入輸出、關(guān)鍵活動、參與人員及其職責(zé)，以及所需的資源等。運(yùn)行策劃的作用：指導(dǎo)后續(xù)實(shí)施：通過運(yùn)行策劃，組織可以系統(tǒng)地規(guī)劃出運(yùn)行過程的具體實(shí)施路徑和方案，為運(yùn)行過程的實(shí)施提供明確的指導(dǎo)和依據(jù)，確保所有活動都能按照既定計(jì)劃和標(biāo)準(zhǔn)進(jìn)行；優(yōu)化資源配置：通過策劃，組織可以合理配置資源，確保關(guān)鍵活動和環(huán)節(jié)的順利進(jìn)行；提高運(yùn)行效率：通過細(xì)致的策劃，可以避免過程中的冗余和浪費(fèi)，提高運(yùn)行效率和質(zhì)量?！斑\(yùn)行控制”的定義。運(yùn)行控制：指組織為確保人工智能管理體系運(yùn)行策劃的有效實(shí)施和運(yùn)行目標(biāo)的實(shí)現(xiàn)，對運(yùn)行過程進(jìn)行實(shí)時監(jiān)視、測量、分析和調(diào)整的一系列活動。這些活動旨在確保運(yùn)行過程符合既定的過程準(zhǔn)則和要求，及時發(fā)現(xiàn)并糾正任何偏差和不符合項(xiàng)，從而保證人工智能系統(tǒng)的穩(wěn)定性和可靠性。運(yùn)行控制的實(shí)施要點(diǎn)：按運(yùn)行準(zhǔn)則實(shí)施過程控制：根據(jù)已建立的過程準(zhǔn)則，組織應(yīng)嚴(yán)格實(shí)施過程控制，確保所有活動都符合既定的標(biāo)準(zhǔn)和要求；實(shí)時監(jiān)視控制有效性：織應(yīng)定期或不定期地對運(yùn)行控制的有效性進(jìn)行監(jiān)視和評價，通過收集和分析數(shù)據(jù)，識別控制過程中的偏差和不符合，為后續(xù)的糾正和改進(jìn)提供依據(jù)；采取糾正措施及時糾正偏差：一旦發(fā)現(xiàn)控制過程中的偏差或不符合項(xiàng)，組織應(yīng)及時采取糾正措施，消除問題根源，防止問題再次發(fā)生。糾正措施應(yīng)明確、具體、可操作，并能有效解決問題?？刂撇邉澴兏簩τ谝巡邉澓玫倪\(yùn)行過程，任何變更都應(yīng)經(jīng)過嚴(yán)格的評審和批準(zhǔn)程序。組織應(yīng)評估變更的必要性和潛在影響，確保變更后的過程仍能滿足人工智能管理體系的要求和運(yùn)行目標(biāo)；減輕變更的不利對目標(biāo)實(shí)現(xiàn)的影響對于非預(yù)期的變更，組織應(yīng)采取措施減輕其不利影響。這可能包括制定過渡計(jì)劃、提供額外資源、加強(qiáng)培訓(xùn)等，以確保變更過程平穩(wěn)過渡，不影響管理體系的整體運(yùn)行；確保外部過程受控：對于與人工智能管理體系相關(guān)的外部提供的過程、產(chǎn)品或服務(wù)，組織應(yīng)確保其受到同等程度的控制。這可能需要與供方簽訂合同、進(jìn)行定期審核和評估等，以確保外部過程符合管理體系的要求。保留成文信息：組織應(yīng)確保所有與運(yùn)行控制相關(guān)的成文信息（如過程準(zhǔn)則、控制記錄、監(jiān)視和評估報告等）得到妥善保留和管理。這些成文信息不僅有助于組織內(nèi)部的知識傳承和經(jīng)驗(yàn)積累，以便后續(xù)的審核、驗(yàn)證和持續(xù)改進(jìn)。組織應(yīng)策劃、實(shí)施和控制滿足要求和實(shí)施第6章確定的措施所需的過程，通過：——建立過程準(zhǔn)則；全面策劃運(yùn)行過程；組織應(yīng)對其運(yùn)行過程進(jìn)行全面策劃，確保所有與人工智能管理體系相關(guān)的活動都得到充分的考慮和安排。這種策劃不僅包括對具體過程的定義和設(shè)計(jì)，還包括對資源的分配、職責(zé)的明確以及風(fēng)險的評估等。實(shí)施過程的嚴(yán)格控制；在策劃完成后，組織需要嚴(yán)格按照過程準(zhǔn)則來實(shí)施運(yùn)行過程。這包括對各項(xiàng)活動的順序、時間、方法等進(jìn)行嚴(yán)格的控制，確保過程能夠按照預(yù)定的計(jì)劃進(jìn)行，從而達(dá)到預(yù)期的效果。動態(tài)過程調(diào)整控制策略；在實(shí)施過程中，組織需要根據(jù)實(shí)際情況對控制策略進(jìn)行動態(tài)調(diào)整。這可能包括對資源的重新分配、職責(zé)的重新劃分以及對過程的優(yōu)化等。這種動態(tài)調(diào)整旨在確保過程的有效性和效率。滿足“6策劃”的要求（緊密對接“6策劃”要求）；組織的運(yùn)行策劃、實(shí)施與控制應(yīng)與“6策劃”中確定的措施緊密對接。這意味著組織需要確保在運(yùn)行過程中充分考慮到“6策劃”中的各項(xiàng)要求，包括所確定的風(fēng)險和機(jī)遇的應(yīng)對措施、人工智能目標(biāo)及其實(shí)現(xiàn)的策劃結(jié)果、人工智能管理體系變更策劃的結(jié)果等，從而確保整個管理體系的一致性和協(xié)調(diào)性。通過：——建立過程準(zhǔn)則；建立過程準(zhǔn)則：過程準(zhǔn)則的定義；過程準(zhǔn)則：指組織為確保其運(yùn)行過程達(dá)到預(yù)期目標(biāo)而制定的一系列規(guī)范、標(biāo)準(zhǔn)或指導(dǎo)原則。這些準(zhǔn)則詳細(xì)描述了過程的輸入、輸出、活動、職責(zé)、過程控制要求以及相關(guān)的績效指標(biāo)，旨在確保過程的一致性、有效性和可控性；過程準(zhǔn)則包括為滿足人工智能管理體系的要求和實(shí)施“6策劃”中確定的措施所制定的具體規(guī)則和標(biāo)準(zhǔn)。這些準(zhǔn)則為組織提供了實(shí)施和運(yùn)行人工智能相關(guān)過程的框架，幫助組織確保其過程符合管理體系的目標(biāo)和期望輸出。準(zhǔn)則制定的依據(jù)；過程運(yùn)行和控制的準(zhǔn)則應(yīng)當(dāng)基于組織的業(yè)務(wù)需求、法律法規(guī)要求、行業(yè)標(biāo)準(zhǔn)以及最佳實(shí)踐。這些準(zhǔn)則應(yīng)當(dāng)明確界定過程的輸入、輸出、活動順序、職責(zé)分配、控制點(diǎn)、測量指標(biāo)等關(guān)鍵要素，以確保過程的有效性和效率。過程運(yùn)行和控制準(zhǔn)則的內(nèi)容。過程范圍與目標(biāo)界定準(zhǔn)則：確立哪些具體活動或任務(wù)應(yīng)納入過程管理，并設(shè)定清晰的目標(biāo)和預(yù)期成果，確保所有參與者對過程的目的有共同理解；角色與職責(zé)分配準(zhǔn)則：詳細(xì)規(guī)定參與過程的角色及其職責(zé)，包括任務(wù)分配、決策權(quán)限和協(xié)作方式，以保障過程執(zhí)行的責(zé)權(quán)清晰；操作步驟規(guī)范化與程序化指南：設(shè)計(jì)詳盡的步驟和程序來實(shí)現(xiàn)過程目標(biāo)，確保每一步都有明確的內(nèi)容和標(biāo)準(zhǔn)，提升過程的可控性和可重復(fù)性；績效監(jiān)視與指標(biāo)設(shè)定準(zhǔn)則：確立用于評估過程效率、效果和合規(guī)性的控制標(biāo)準(zhǔn)和績效指標(biāo)，幫助組織有效監(jiān)視過程表現(xiàn)；資源需求評估與優(yōu)化配置策略：分析過程執(zhí)行所需的各類資源，并規(guī)劃合理的資源配置方案，確保過程高效運(yùn)行并控制成本；風(fēng)險管理框架與應(yīng)對方案：識別過程執(zhí)行中的潛在風(fēng)險，制定預(yù)防和應(yīng)對策略，包括應(yīng)急響應(yīng)計(jì)劃和恢復(fù)措施，保障過程的穩(wěn)定性；過程監(jiān)視與評估體系準(zhǔn)則：規(guī)定過程監(jiān)視的頻率、方法和評估標(biāo)準(zhǔn)，通過定期監(jiān)視和評估確保過程按計(jì)劃順利進(jìn)行；流程持續(xù)優(yōu)化與改進(jìn)策略：鼓勵并規(guī)定持續(xù)改進(jìn)的機(jī)制，包括反饋收集、問題分析、改進(jìn)措施制定和實(shí)施計(jì)劃，以不斷提升過程績效；外部資源與合作關(guān)系管理框架：針對外部提供的過程、產(chǎn)品或服務(wù)，制定供方評估、合同管理、交付成果驗(yàn)收及合作溝通機(jī)制，確保外部過程的可控性和合規(guī)性；成文信息編制、維護(hù)與更新規(guī)范：明確成文信息的編制標(biāo)準(zhǔn)、保留期限和更新要求，保障信息的準(zhǔn)確性、可追溯性和時效性。——根據(jù)準(zhǔn)則實(shí)施過程控制。根據(jù)準(zhǔn)則實(shí)施過程控制；理解過程控制的定義與目的；定義：過程控制指組織對運(yùn)行過程執(zhí)行情況進(jìn)行監(jiān)視和管理的活動；目的：確保運(yùn)行過程嚴(yán)格遵循既定的準(zhǔn)則執(zhí)行，及時發(fā)現(xiàn)并糾正任何偏差和不符合要求的情況，以維護(hù)過程的穩(wěn)定性和可控性，最終實(shí)現(xiàn)人工智能管理體系的預(yù)期結(jié)果。實(shí)施實(shí)時監(jiān)視與定期審核；實(shí)時監(jiān)視：組織應(yīng)對運(yùn)行過程進(jìn)行實(shí)時監(jiān)視，通過收集和分析實(shí)時數(shù)據(jù)，及時發(fā)現(xiàn)過程中的異常情況，確保過程始終處于受控狀態(tài)；定期審核：除了實(shí)時監(jiān)視外，還應(yīng)定期進(jìn)行全面的過程審核，通過評審過程文檔、記錄和分析績效數(shù)據(jù)，評估過程的執(zhí)行情況和績效，確保過程的有效性和合規(guī)性。全生命周期控制考慮；在實(shí)施控制時，應(yīng)全面考慮人工智能系統(tǒng)的整個生命周期，包括從需求定義、系統(tǒng)設(shè)計(jì)、開發(fā)、測試、部署到運(yùn)行和維護(hù)的各個階段；針對每個階段，制定相應(yīng)的控制準(zhǔn)則和措施，如數(shù)據(jù)采集與調(diào)節(jié)的控制、模型訓(xùn)練與驗(yàn)證的控制、系統(tǒng)部署前的詳細(xì)計(jì)劃制定與執(zhí)行等，確保整個生命周期內(nèi)的控制一致性和有效性。關(guān)鍵控制活動的具體實(shí)施；人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)記錄：全面記錄系統(tǒng)設(shè)計(jì)、開發(fā)過程中的所有關(guān)鍵活動和決策，確保符合既定的目標(biāo)、要求和規(guī)范，為后續(xù)的維護(hù)和升級提供可靠依據(jù)；驗(yàn)證和確認(rèn)：明確驗(yàn)證和確認(rèn)的標(biāo)準(zhǔn)和流程，對系統(tǒng)進(jìn)行全面的測試和評估，確保其在各種場景下的準(zhǔn)確性和可靠性；部署：制定詳細(xì)的部署計(jì)劃，確保所有部署前的要求和準(zhǔn)備工作得到充分滿足，減少部署過程中的風(fēng)險和問題；運(yùn)行和監(jiān)視：明確系統(tǒng)運(yùn)行和監(jiān)視的要素，包括系統(tǒng)和性能監(jiān)視、定期維護(hù)、更新和技術(shù)支持等，確保系統(tǒng)的持續(xù)高效運(yùn)行；技術(shù)記錄和事件日志：為相關(guān)方提供必要的技術(shù)記錄和事件日志，確保系統(tǒng)的透明性和可追溯性，便于問題追蹤和診斷?？刂拼胧┑倪m用性與關(guān)聯(lián)性；適用性：確保所實(shí)施的控制措施與組織的環(huán)境、治理目標(biāo)、方針和程序以及合同義務(wù)相匹配，避免過度控制或控制不足的情況；關(guān)聯(lián)性：將控制措施與已識別的風(fēng)險緊密關(guān)聯(lián)，確?？刂拼胧┠軌蛴行Ы档突蛳炎R別的風(fēng)險，提高組織的風(fēng)險應(yīng)對能力。持續(xù)改進(jìn)與優(yōu)化。在過程控制實(shí)施過程中，應(yīng)建立持續(xù)改進(jìn)的機(jī)制，定期評估控制措施的有效性和適用性，根據(jù)評估結(jié)果進(jìn)行必要的調(diào)整和優(yōu)化，確?？刂拼胧┦冀K與組織的需求和環(huán)境保持一致。組織應(yīng)實(shí)施根據(jù)6.1.3確定的與人工智能管理體系運(yùn)行相關(guān)的控制（如與人工智能系統(tǒng)開發(fā)和使用生命周期相關(guān)的控制）。實(shí)施“6.1.3人工智能風(fēng)險應(yīng)對”風(fēng)險應(yīng)對確定的相關(guān)控制措施；理解風(fēng)險應(yīng)對控制的重要性；組織在實(shí)施人工智能管理體系的過程中，應(yīng)關(guān)注并應(yīng)對潛在的風(fēng)險。特別是通過“6.1.3人工智能風(fēng)險應(yīng)對”所確定的風(fēng)險，組織應(yīng)制定并實(shí)施一系列人工智能控制措施，以確保人工智能系統(tǒng)的有效運(yùn)行。這些控制措施不僅涵蓋了人工智能系統(tǒng)的日常運(yùn)行維護(hù)，還深入到了系統(tǒng)開發(fā)和使用的全生命周期中。全生命周期的風(fēng)險控制；人工智能風(fēng)險應(yīng)對控制不應(yīng)僅限于系統(tǒng)運(yùn)行的某一階段，而應(yīng)貫穿整個人工智能系統(tǒng)的開發(fā)和使用過程。這包括從需求分析、設(shè)計(jì)、開發(fā)、測試、部署到維護(hù)和退役的每個階段。通過在整個生命周期中實(shí)施控制，組織能夠更有效地識別、評估和管理潛在的風(fēng)險，從而確保系統(tǒng)的穩(wěn)定性和可靠性。具體風(fēng)險控制措施的應(yīng)用。具體的控制措施可能包括但不限于以下幾個方面：系統(tǒng)開發(fā)與驗(yàn)證：在開發(fā)和驗(yàn)證階段，確保所有設(shè)計(jì)和編碼都符合既定的安全和質(zhì)量標(biāo)準(zhǔn)，減少因設(shè)計(jì)缺陷或編碼錯誤導(dǎo)致的風(fēng)險。數(shù)據(jù)管理與隱私保護(hù)：加強(qiáng)對數(shù)據(jù)的收集、存儲、處理和傳輸?shù)墓芾恚_保數(shù)據(jù)的機(jī)密性、完整性和可用性，同時遵守相關(guān)法律法規(guī)對隱私保護(hù)的要求。供應(yīng)鏈與供方管理：對供方進(jìn)行嚴(yán)格的評估和選擇，確保所采購的組件和服務(wù)符合組織的風(fēng)險管理策略和標(biāo)準(zhǔn)。持續(xù)監(jiān)視與評審：通過持續(xù)的監(jiān)視和定期評審，及時發(fā)現(xiàn)并應(yīng)對潛在的風(fēng)險，確保管理體系的持續(xù)有效性。應(yīng)監(jiān)視這些控制的有效性，如果未能實(shí)現(xiàn)預(yù)期結(jié)果，應(yīng)考慮采取糾正措施。附錄A列出了參考控制，附錄B提供了實(shí)施指南。監(jiān)視控制有效性并考慮糾正措施：應(yīng)監(jiān)視這些控制的有效性，如果未能實(shí)現(xiàn)預(yù)期結(jié)果，應(yīng)考慮采取糾正措施；監(jiān)視控制與采取糾正措施的重要性：通過對控制措施進(jìn)行持續(xù)監(jiān)視和評估，組織可以及時發(fā)現(xiàn)潛在的問題和不足，并采取相應(yīng)的糾正措施進(jìn)行改進(jìn)。確保控制措施的有效性：定期監(jiān)視控制措施的執(zhí)行情況可以確保其在實(shí)際應(yīng)用中的有效性。如果發(fā)現(xiàn)控制措施未能達(dá)到預(yù)期效果，組織可以及時調(diào)整和優(yōu)化這些措施，以確保其能夠充分發(fā)揮作用；持續(xù)改進(jìn)的動力源泉：采取糾正措施不僅是對現(xiàn)有問題的及時響應(yīng)，也是推動管理體系持續(xù)改進(jìn)的重要動力。通過不斷發(fā)現(xiàn)問題、解決問題并優(yōu)化控制措施，組織可以不斷提升其人工智能管理體系的成熟度和有效性；提升組織的風(fēng)險應(yīng)對能力：通過對控制措施的有效監(jiān)視和及時糾正，組織可以提升其應(yīng)對人工智能應(yīng)用過程中各種風(fēng)險和挑戰(zhàn)的能力。這有助于組織更好地把握人工智能技術(shù)的發(fā)展機(jī)遇，并為其長遠(yuǎn)發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)?？刂朴行缘谋O(jiān)視；監(jiān)視的必要性：為了確保人工智能管理體系的有效運(yùn)行，組織應(yīng)定期監(jiān)視所實(shí)施控制的有效性。這是通過比較實(shí)際運(yùn)行效果與預(yù)期目標(biāo)的一致性來實(shí)現(xiàn)的；監(jiān)視內(nèi)容：監(jiān)視應(yīng)覆蓋所有與人工智能風(fēng)險應(yīng)對相關(guān)的控制，特別是那些針對系統(tǒng)開發(fā)和使用生命周期的控制措施。監(jiān)視活動旨在確保這些控制措施在實(shí)際操作中能夠如預(yù)期般發(fā)揮作用。糾正措施的制定與執(zhí)行；糾正措施的觸發(fā)條件：當(dāng)監(jiān)視結(jié)果顯示控制措施未能實(shí)現(xiàn)預(yù)期結(jié)果時，組織應(yīng)立即識別問題所在，并考慮采取糾正措施。這表明組織對管理體系的持續(xù)改進(jìn)承諾，以及對潛在風(fēng)險的及時響應(yīng)能力；糾正措施的實(shí)施：制定糾正措施時，組織應(yīng)參考附錄A中列出的參考控制，并依據(jù)附錄B提供的實(shí)施指南進(jìn)行操作。這些指南為組織提供了制定和執(zhí)行糾正措施的具體步驟和方法，以確保措施的有效性和可行性?！陡戒汚：參考控制目標(biāo)與控制》列出了參考控制，《附錄B：人工智能控制的實(shí)施指南》提供了實(shí)施指南。附錄A詳細(xì)列出了實(shí)現(xiàn)人工智能管理體系目標(biāo)所需的一系列參考控制。這些控制不僅覆蓋了從方針制定到風(fēng)險應(yīng)對的各個方面，還確保了管理體系的全面性和系統(tǒng)性。通過參考附錄A中的控制，組織能夠系統(tǒng)地識別和管理與人工智能系統(tǒng)相關(guān)的潛在風(fēng)險，從而保障人工智能應(yīng)用的安全性和有效性；附錄B為附錄A中列出的參考控制提供了具體的實(shí)施步驟和方法。這些實(shí)施指南旨在幫助組織將理論上的控制措施轉(zhuǎn)化為實(shí)際的操作指南，從而提高管理體系的可操作性和有效性。組織應(yīng)控制策劃的變更，評審非預(yù)期變更的后果，必要時，采取措施減輕不利影響?？刂撇邉澴兏c減輕非預(yù)期變更影響控制策劃的變更；人工智能系統(tǒng)變更的常見情形包括但不限于：功能升級：增加新的功能或改進(jìn)現(xiàn)有功能以滿足新的業(yè)務(wù)需求或用戶期望；性能優(yōu)化：通過算法調(diào)整、硬件升級等手段提高系統(tǒng)的響應(yīng)速度、準(zhǔn)確率等性能指標(biāo)；安全加固：針對新發(fā)現(xiàn)的安全漏洞進(jìn)行修復(fù)，增強(qiáng)系統(tǒng)的安全防護(hù)能力；模型替換：用新的機(jī)器學(xué)習(xí)模型替換舊的模型，以提升預(yù)測精度或解決特定問題；架構(gòu)調(diào)整：根據(jù)業(yè)務(wù)需求或技術(shù)發(fā)展趨勢調(diào)整系統(tǒng)的整體架構(gòu)，如從單體架構(gòu)遷移到微服務(wù)架構(gòu)；數(shù)據(jù)更新：更換或補(bǔ)充訓(xùn)練數(shù)據(jù)，以反映最新的市場趨勢或業(yè)務(wù)規(guī)則。組織應(yīng)嚴(yán)格控制和管理對原有策劃的任何變更。這包括對所有可能影響人工智能系統(tǒng)性能、安全性、可靠性或合規(guī)性的變更進(jìn)行細(xì)致評審和審批?？刂撇邉澋淖兏荚诖_保所有變更都是經(jīng)過深思熟慮的，并符合組織的整體戰(zhàn)略目標(biāo)和方針。通過嚴(yán)格的變更管理流程，組織可以避免不必要的混亂和潛在風(fēng)險，同時確保變更能夠順利進(jìn)行并達(dá)到預(yù)期效果。評審非預(yù)期變更的后果；在實(shí)施變更后，組織應(yīng)密切關(guān)注任何非預(yù)期的后果，非預(yù)期變更的常見后果包括但不限于：性能下降：變更可能導(dǎo)致系統(tǒng)處理速度變慢，響應(yīng)時間延長，影響用戶體驗(yàn)；準(zhǔn)確性降低：新模型或算法可能不如舊模型準(zhǔn)確，導(dǎo)致預(yù)測或決策失誤；穩(wěn)定性問題：系統(tǒng)可能出現(xiàn)頻繁的崩潰、掛起等異常情況，影響正常運(yùn)行；安全隱患：變更可能引入新的安全漏洞，增加被攻擊的風(fēng)險；合規(guī)性問題：變更可能違反相關(guān)法律法規(guī)或行業(yè)標(biāo)準(zhǔn)，導(dǎo)致合規(guī)風(fēng)險；成本增加：不適當(dāng)?shù)淖兏赡軐?dǎo)致額外的開發(fā)、測試和維護(hù)成本。通過及時和全面的評審，組織能夠迅速識別并評估非預(yù)期變更可能帶來的風(fēng)險和挑戰(zhàn)。評審過程應(yīng)涉及多個相關(guān)部門和利益相關(guān)者，以確保從多個角度審視變更的影響，并制定相應(yīng)的應(yīng)對策略。評審非預(yù)期變更后果的方法包括：建立變更評審團(tuán)隊(duì)：組建跨部門的評審團(tuán)隊(duì)，確保從不同角度全面評估變更影響；明確評審標(biāo)準(zhǔn)：制定清晰的評審標(biāo)準(zhǔn)和流程，包括性能、穩(wěn)定性、安全性、合規(guī)性等方面的具體要求；收集反饋和數(shù)據(jù)：通過用戶反饋、日志分析、性能測試等手段收集變更后的實(shí)際運(yùn)行情況數(shù)據(jù)；進(jìn)行風(fēng)險評估：基于收集到的數(shù)據(jù)，對潛在的不利影響進(jìn)行定量和定性分析，評估其嚴(yán)重程度和可能性；制定應(yīng)對策略：針對識別出的不利影響，制定詳細(xì)的應(yīng)對策略和恢復(fù)計(jì)劃，確保能夠快速響應(yīng)和恢復(fù)；持續(xù)監(jiān)視和反饋：在變更實(shí)施后持續(xù)監(jiān)視系統(tǒng)性能，及時發(fā)現(xiàn)并處理新的問題，不斷完善變更管理流程。采取措施減輕不利影響；不利影響包括但不限于：業(yè)務(wù)中斷：系統(tǒng)變更導(dǎo)致服務(wù)不可用，影響業(yè)務(wù)流程的正常進(jìn)行；數(shù)據(jù)丟失或損壞：變更過程中可能發(fā)生數(shù)據(jù)誤刪除、損壞或泄露；用戶流失：由于系統(tǒng)性能下降或體驗(yàn)不佳，用戶可能轉(zhuǎn)向競爭對手的產(chǎn)品或服務(wù)；品牌聲譽(yù)受損：公開的安全事件、數(shù)據(jù)泄露或服務(wù)中斷可能對品牌形象造成負(fù)面影響；法律風(fēng)險和罰款：違反數(shù)據(jù)保護(hù)法規(guī)或行業(yè)規(guī)范可能導(dǎo)致法律訴訟和巨額罰款；市場競爭力下降：不及時的系統(tǒng)更新可能使組織在市場中失去競爭優(yōu)勢。一旦發(fā)現(xiàn)非預(yù)期變更可能帶來的不利影響，組織應(yīng)立即采取措施來減輕這些影響。這可能包括恢復(fù)系統(tǒng)到變更前的狀態(tài)、調(diào)整系統(tǒng)配置以改善性能、加強(qiáng)安全措施以應(yīng)對潛在風(fēng)險，或者重新評估變更的必要性和可行性。在采取措施時，組織應(yīng)優(yōu)先考慮系統(tǒng)的穩(wěn)定性和安全性，確保任何行動都不會進(jìn)一步加劇不利影響。同時，組織還應(yīng)總結(jié)經(jīng)驗(yàn)教訓(xùn)，完善變更管理流程，以防止類似問題再次發(fā)生。組織可以采取以下一系列措施來立即減輕不利對目標(biāo)實(shí)現(xiàn)的影響緊急回滾變更：如果非預(yù)期變更導(dǎo)致了明顯的問題，組織應(yīng)立即考慮將系統(tǒng)回滾到變更之前的穩(wěn)定狀態(tài)，以避免問題進(jìn)一步擴(kuò)大。這需要提前制定回滾計(jì)劃，并確保有可用的備份數(shù)據(jù)和環(huán)境；啟動應(yīng)急響應(yīng)計(jì)劃：根據(jù)預(yù)先制定的應(yīng)急響應(yīng)計(jì)劃，快速啟動相關(guān)流程。這包括召集應(yīng)急響應(yīng)團(tuán)隊(duì)，明確各自職責(zé)，執(zhí)行預(yù)設(shè)的應(yīng)急步驟，以控制事態(tài)發(fā)展；隔離問題區(qū)域以控制影響范圍：對系統(tǒng)進(jìn)行分區(qū)管理，快速識別并隔離問題區(qū)域，防止問題擴(kuò)散到其他部分。這可能需要調(diào)整網(wǎng)絡(luò)配置、路由策略或啟用防火墻規(guī)則；數(shù)據(jù)保護(hù)和恢復(fù)：確保關(guān)鍵數(shù)據(jù)的完整性和可用性，立即啟動數(shù)據(jù)備份和恢復(fù)流程，以防數(shù)據(jù)丟失或損壞。這包括檢查數(shù)據(jù)備份的完整性和可恢復(fù)性，必要時進(jìn)行數(shù)據(jù)恢復(fù)操作；及時通知用戶并溝通解決方案：通過官方渠道及時通知受影響的用戶，解釋問題原因、當(dāng)前狀態(tài)和預(yù)計(jì)恢復(fù)時間。同時，提供替代方案或臨時解決措施，以減輕用戶的不便；深入分析非預(yù)期變更的根本原因：組織專業(yè)團(tuán)隊(duì)對變更過程進(jìn)行全面評審，找出導(dǎo)致非預(yù)期變更的根本原因。這包括檢查變更管理流程、測試覆蓋度、自動化部署腳本等方面；優(yōu)化變更管理流程以防止類似問題再次發(fā)生：根據(jù)分析結(jié)果，更新和修正變更管理流程，包括增加變更前的風(fēng)險評估、增強(qiáng)測試覆蓋度、引入更嚴(yán)格的審核機(jī)制等。確保未來變更能夠更加安全和可控；加強(qiáng)變更后的監(jiān)視和記錄工作：在變更恢復(fù)并穩(wěn)定后，加強(qiáng)系統(tǒng)監(jiān)視，密切關(guān)注系統(tǒng)性能和穩(wěn)定性。同時，詳細(xì)記錄變更過程中的所有關(guān)鍵步驟和發(fā)現(xiàn)的問題，為未來的分析和改進(jìn)提供依據(jù)；加強(qiáng)團(tuán)隊(duì)培訓(xùn)和意識提升：組織內(nèi)部進(jìn)行變更管理和應(yīng)急響應(yīng)方面的培訓(xùn)，提升團(tuán)隊(duì)的專業(yè)能力和應(yīng)急處理能力。同時，增強(qiáng)員工的風(fēng)險意識和問題報告機(jī)制，確保問題能夠及時發(fā)現(xiàn)和報告。組織應(yīng)確保與人工智能管理體系相關(guān)的外部提供的過程、產(chǎn)品或服務(wù)得到控制。外部過程、產(chǎn)品或服務(wù)的控制明確控制范圍：組織應(yīng)明確哪些外部提供的過程、產(chǎn)品或服務(wù)與其人工智能管理體系直接相關(guān)，確保這些外部要素得到適當(dāng)?shù)谋O(jiān)視和管理；外部提供的過程：指由外部實(shí)體（如供應(yīng)商、合作伙伴等）執(zhí)行的一系列活動或任務(wù)，這些活動與組織的人工智能管理體系密切相關(guān)。范疇：可能包括但不限于：第三方數(shù)據(jù)處理服務(wù)：由外部專業(yè)機(jī)構(gòu)提供的數(shù)據(jù)清洗、標(biāo)注、分析等服務(wù)；云計(jì)算服務(wù)：通過云服務(wù)提供商部署和管理的人工智能應(yīng)用環(huán)境，包括計(jì)算資源、存儲資源和網(wǎng)絡(luò)資源的提供；軟件開發(fā)與測試：外部軟件開發(fā)團(tuán)隊(duì)為組織定制開發(fā)人工智能軟件或進(jìn)行軟件系統(tǒng)的測試驗(yàn)證；維護(hù)與技術(shù)支持：外部團(tuán)隊(duì)提供的系統(tǒng)日常維護(hù)、故障排查及技術(shù)支持服務(wù)。外部提供的產(chǎn)品：指由外部實(shí)體生產(chǎn)或提供的，用于支持組織人工智能管理體系運(yùn)行的實(shí)體物品或軟件產(chǎn)品。范疇：可能包括但不限于：硬件設(shè)備：如服務(wù)器、存儲設(shè)備、人工智能加速卡等，用于部署和運(yùn)行人工智能模型；軟件產(chǎn)品：包括預(yù)訓(xùn)練的人工智能模型、算法庫、開發(fā)工具包等，可直接集成到組織的人工智能系統(tǒng)中；數(shù)據(jù)集：由外部機(jī)構(gòu)整理和維護(hù)的數(shù)據(jù)集，用于訓(xùn)練和優(yōu)化人工智能模型。外部提供的服務(wù)：指外部實(shí)體為組織提供的，旨在增強(qiáng)其人工智能管理體系能力或效率的各種非實(shí)體性支持。范疇：可能包括但不限于：咨詢服務(wù)：外部專家或機(jī)構(gòu)提供的關(guān)于人工智能戰(zhàn)略規(guī)劃、流程優(yōu)化、風(fēng)險評估等方面的咨詢服務(wù)。培訓(xùn)服務(wù)：針對組織內(nèi)部員工的人工智能技能培訓(xùn)、知識分享等，提升其專業(yè)能力。項(xiàng)目管理服務(wù)：外部項(xiàng)目管理團(tuán)隊(duì)為組織的人工智能項(xiàng)目提供全生命周期的管理支持，包括需求分析、進(jìn)度控制、質(zhì)量控制等。建立并實(shí)施供方評價機(jī)制；組織應(yīng)建立一套評價機(jī)制，對外部提供商的資質(zhì)、能力、信譽(yù)以及歷史表現(xiàn)進(jìn)行全面評價。這有助于確保所選擇的外部供方能夠符合組織的人工智能管理體系要求，降低潛在風(fēng)險。合同管理；與外部供方的合作應(yīng)通過正式的合同形式進(jìn)行規(guī)范，合同中應(yīng)明確雙方的權(quán)利、義務(wù)、服務(wù)標(biāo)準(zhǔn)、質(zhì)量要求以及違約責(zé)任等關(guān)鍵條款。這有助于保障組織的合法權(quán)益，確保外部服務(wù)或產(chǎn)品的質(zhì)量和穩(wěn)定性。實(shí)施持續(xù)監(jiān)視與審核；組織應(yīng)對外部提供的過程、產(chǎn)品或服務(wù)進(jìn)行持續(xù)的監(jiān)視和定期審核，確保其始終符合合同規(guī)定和組織要求。監(jiān)視和審核結(jié)果應(yīng)及時反饋并用于供方績效評價，必要時采取糾正和預(yù)防措施。建立有效溝通與協(xié)作機(jī)制；組織應(yīng)與外部供方建立順暢的溝通渠道，定期交流合作情況，共同解決遇到的問題。通過協(xié)作，確保雙方能夠高效配合，共同提升人工智能管理體系的有效性和效率。納入全面風(fēng)險管理框架。組織應(yīng)將外部過程、產(chǎn)品或服務(wù)的風(fēng)險納入全面風(fēng)險管理框架中，識別、分析和評價、監(jiān)視和應(yīng)對相關(guān)風(fēng)險。通過風(fēng)險管理措施，降低外部因素對人工智能管理體系的不利影響。在必要的范圍和程度上，確定并保持、保留成文信息，以確信過程已經(jīng)按策劃進(jìn)行；成文信息的確定、保持與保留：在必要的范圍和程度上，確定并保持、保留成文信息，以確信過程已經(jīng)按策劃進(jìn)行為確保人工智能管理體系的有效運(yùn)行，組織應(yīng)保持的成文信息（文件）包括但不限于：人工智能方針：明確組織在人工智能應(yīng)用方面的整體方向和原則；目標(biāo)和指標(biāo)：設(shè)定可量化的目標(biāo)，以衡量人工智能管理體系的績效；程序文件：詳細(xì)描述人工智能系統(tǒng)開發(fā)、部署、運(yùn)行、監(jiān)視和維護(hù)等關(guān)鍵過程的步驟和要求；作業(yè)指導(dǎo)書：針對特定任務(wù)或活動的詳細(xì)操作指南，如數(shù)據(jù)收集、模型訓(xùn)練、系統(tǒng)維護(hù)等；風(fēng)險管理和應(yīng)對策略：包括風(fēng)險評估方法、已識別風(fēng)險的列表、風(fēng)險應(yīng)對措施及其實(shí)施計(jì)劃；數(shù)據(jù)管理和隱私政策：規(guī)定數(shù)據(jù)處理、存儲、共享和保護(hù)的原則和程序，確保符合相關(guān)法律法規(guī)要求；供方管理文件：包括供方評價、選擇和監(jiān)視的標(biāo)準(zhǔn)和程序，以及供方合同和協(xié)議；審核和管理評審記錄：定期進(jìn)行內(nèi)部審核和管理評審的記錄，以及相應(yīng)的改進(jìn)計(jì)劃和措施；變更管理文件：記錄對人工智能管理體系及其相關(guān)過程的變更請求、審批和實(shí)施情況；用戶手冊和操作指南：為用戶提供系統(tǒng)使用、維護(hù)和故障排除的指導(dǎo)性文件；為確保人工智能管理體系的運(yùn)行過程已按策劃進(jìn)行，組織應(yīng)保留的成文信息（記錄或證據(jù)性材料）包括但不限于：風(fēng)險評估記錄：包括風(fēng)險識別、分析和評價的過程記錄，以及風(fēng)險等級的確定和應(yīng)對措施的制定；審核報告：內(nèi)部審核、第二方審核或第三方審核的完整報告，記錄審核發(fā)現(xiàn)、不符合項(xiàng)及糾正措施；管理評審輸出：管理評審會議的紀(jì)要、決議和改進(jìn)措施的跟蹤記錄；培訓(xùn)記錄：人工智能相關(guān)人員的培訓(xùn)計(jì)劃、培訓(xùn)內(nèi)容和培訓(xùn)效果的評估記錄；變更控制記錄：記錄對體系、過程或文件的變更請求、審批、實(shí)施和驗(yàn)證情況；事故和故障記錄：記錄系統(tǒng)運(yùn)行過程中發(fā)生的事故、故障及其處理過程和結(jié)果；監(jiān)視和測量記錄：包括性能監(jiān)視數(shù)據(jù)、關(guān)鍵指標(biāo)測量結(jié)果和系統(tǒng)運(yùn)行狀態(tài)的記錄；供方評價記錄：對供方的評估報告、選擇依據(jù)和持續(xù)監(jiān)視的記錄；用戶反饋和投訴記錄：記錄用戶對人工智能系統(tǒng)的反饋、建議和投訴及其處理情況；合規(guī)性證明：證明組織遵守相關(guān)法律法規(guī)、標(biāo)準(zhǔn)和合同要求的文件或證書。第2部分：“8.1運(yùn)行策劃和控制”流程控制表一級流程二級流程流程節(jié)點(diǎn)控制要點(diǎn)所期望輸出建立過程準(zhǔn)則確定關(guān)鍵過程及其要求識別關(guān)鍵過程定義過程目標(biāo)和指標(biāo)確立關(guān)鍵控制點(diǎn)準(zhǔn)則應(yīng)明確過程的期望輸出、執(zhí)行步驟、所需資源以及與其他過程的接口準(zhǔn)則應(yīng)與“6策劃”中確定的風(fēng)險管理措施和目標(biāo)保持一致過程準(zhǔn)則文檔制定過程流程圖和控制計(jì)劃繪制過程流程圖制定詳細(xì)控制計(jì)劃分配責(zé)任和資源過程流程圖與控制計(jì)劃實(shí)施過程控制執(zhí)行日常操作與控制活動遵循過程準(zhǔn)則進(jìn)行運(yùn)行監(jiān)視過程輸出與預(yù)期目標(biāo)的符合性監(jiān)視過程績效，收集和分析過程數(shù)據(jù)，評估運(yùn)行過程的績效及時發(fā)現(xiàn)并糾正偏差和不符合要求的情況，確保過程的穩(wěn)定性和可控性過程輸出與監(jiān)視數(shù)據(jù)定期審核與評估過程績效定期審核過程執(zhí)行情況評估績效指標(biāo)與目標(biāo)的達(dá)成情況審核報告與績效評估結(jié)果實(shí)施特定控制實(shí)施與人工智能系統(tǒng)開發(fā)和使用生命周期相關(guān)的控制根據(jù)“6.1.3人工智能風(fēng)險應(yīng)對”實(shí)施特定控制風(fēng)險控制措施確?？刂拼胧┑挠行耘c合規(guī)性引用附錄A中的參考控制，并根據(jù)附錄B提供的實(shí)施指南進(jìn)行操作控制措施實(shí)施記錄與合規(guī)性證明監(jiān)視控制的有效性監(jiān)視控制措施的執(zhí)行情況定期監(jiān)視控制措施的執(zhí)行分析監(jiān)視數(shù)據(jù)識別潛在問題監(jiān)視報告與潛在問題識別結(jié)果評估控制效果與預(yù)期目標(biāo)的符合性對比實(shí)際輸出與預(yù)期目標(biāo)分析差異原因并采取改進(jìn)措施評估報告與改進(jìn)措施計(jì)劃采取糾正措施識別控制失敗的根本原因分析控制失敗的原因確定根本原因并采取糾正行動糾正措施計(jì)劃與實(shí)施記錄實(shí)施并驗(yàn)證糾正措施的有效性執(zhí)行糾正措施驗(yàn)證措施效果并記錄結(jié)果糾正措施驗(yàn)證報告與效果評估控制策劃的變更識別變更需求并評估影響收集變更需求分析變更對過程的影響變更需求分析報告與影響評估結(jié)果審批變更并實(shí)施變更控制計(jì)劃提交變更申請并審批實(shí)施變更控制計(jì)劃并監(jiān)視進(jìn)度變更審批記錄與控制計(jì)劃實(shí)施進(jìn)度報告評審非預(yù)期變更的后果并采取措施評審非預(yù)期變更的后果分析非預(yù)期變更對過程的影響評估潛在風(fēng)險與機(jī)會非預(yù)期變更后果評審報告與風(fēng)險評估結(jié)果制定并采取措施減輕不利影響制定應(yīng)對措施計(jì)劃執(zhí)行措施并監(jiān)視效果應(yīng)對措施計(jì)劃與實(shí)施效果評估報告控制外部提供的過程、產(chǎn)品或服務(wù)評價與選擇外部供方制定供方評價標(biāo)準(zhǔn)選擇合格供方并簽訂合同供方評價報告與合同文件監(jiān)視外部供方的績效與合規(guī)性定期監(jiān)視供方績效確保供方符合組織與標(biāo)準(zhǔn)要求供方績效監(jiān)視報告與合規(guī)性評價結(jié)果管理供方變更與風(fēng)險評估供方變更請求管理變更風(fēng)險并通知相關(guān)方供方變更管理記錄與風(fēng)險通知記錄確定與保留成文信息確定需要保留的成文信息類型與范圍根據(jù)標(biāo)準(zhǔn)要求確定成文信息類型明確保留期限與責(zé)任人成文信息保留清單與責(zé)任人分配實(shí)施成文信息的保存與管理建立成文信息管理系統(tǒng)確保信息的可追溯性與安全性成文信息包括但不限于過程準(zhǔn)則的文檔、實(shí)施過程控制的記錄、事件日志和其他監(jiān)視記錄外部提供的過程、產(chǎn)品或服務(wù)的控制記錄也應(yīng)被妥善保留成文信息管理系統(tǒng)與記錄保留證據(jù)第3部分：“8.1運(yùn)行策劃和控制”過程風(fēng)險清單一級流程二級流程風(fēng)險描述（風(fēng)險源、過程運(yùn)行可能發(fā)生什么并產(chǎn)生什么后果及其對實(shí)現(xiàn)業(yè)務(wù)流程目標(biāo)產(chǎn)生的影響）建立過程準(zhǔn)則確定關(guān)鍵過程及其要求風(fēng)險源：未充分識別關(guān)鍵過程或遺漏關(guān)鍵控制點(diǎn)可能后果：過程準(zhǔn)則不完善，導(dǎo)致操作不規(guī)范，影響人工智能系統(tǒng)性能和穩(wěn)定性對目標(biāo)實(shí)現(xiàn)的影響：人工智能管理體系目標(biāo)難以實(shí)現(xiàn)，可能導(dǎo)致質(zhì)量、安全或合規(guī)性問題制定過程流程圖和控制計(jì)劃風(fēng)險源：流程圖與控制計(jì)劃制定不準(zhǔn)確或遺漏重要環(huán)節(jié)可能后果：執(zhí)行時缺乏明確指導(dǎo)，增加操作錯誤和漏洞的風(fēng)險對目標(biāo)實(shí)現(xiàn)的影響：人工智能系統(tǒng)性能波動，影響決策質(zhì)量和用戶信任實(shí)施過程控制執(zhí)行日常操作與控制活動風(fēng)險源：操作人員培訓(xùn)不足或未按規(guī)程執(zhí)行可能后果：操作失誤，系統(tǒng)穩(wěn)定性受損，數(shù)據(jù)錯誤對目標(biāo)實(shí)現(xiàn)的影響：人工智能系統(tǒng)輸出質(zhì)量下降，用戶滿意度降低，可能導(dǎo)致經(jīng)濟(jì)損失定期審核與評估過程績效風(fēng)險源：審核不全面或評估標(biāo)準(zhǔn)不明確可能后果：未能及時發(fā)現(xiàn)并解決潛在問題，績效持