ISO∕IEC 42001-2023人工智能管理體系之12：“7支持-7.3意識(shí)”解讀、實(shí)施流程和風(fēng)險(xiǎn)描述(雷澤佳編制-2024)

“7支持-7.3意識(shí)”解讀、實(shí)施流程和風(fēng)險(xiǎn)描述ISO∕IEC42001-2023《信息技術(shù)-人工智能管理體系》之12：“7支持-7.3意識(shí)”解讀、實(shí)施流程和風(fēng)險(xiǎn)描述(雷澤佳編制，2024年9月)第1部分：“7.3意識(shí)”解讀“7.3意識(shí)”條文“7.3意識(shí)”標(biāo)準(zhǔn)條文解讀7.3意識(shí)組織應(yīng)確保在其控制下工作的人員知曉：——人工智能方針（見5.2)；——他們對(duì)人工智能管理體系有效性的貢獻(xiàn)，包括提高人工智能績(jī)效的益處；——不符合人工智能管理體系要求的后果。意識(shí)定義：指組織內(nèi)所有涉及人工智能活動(dòng)的人員對(duì)人工智能使用和管理相關(guān)期望的理解、接受和主動(dòng)行動(dòng)的動(dòng)力；在其控制下工作的人員（包括但不限于）：高管與決策者：雖然他們可能不直接參與人工智能系統(tǒng)的日常開發(fā)和管理，但他們對(duì)人工智能戰(zhàn)略和政策的制定具有重要影響，因此需要了解人工智能管理體系的基本要求；數(shù)據(jù)科學(xué)家：負(fù)責(zé)數(shù)據(jù)收集、處理、分析和解釋，為人工智能模型的開發(fā)和優(yōu)化提供數(shù)據(jù)支持；人工智能工程師/開發(fā)人員：直接參與人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)，包括模型構(gòu)建、算法實(shí)現(xiàn)、系統(tǒng)集成等；人工智能研究人員和專家：在人工智能領(lǐng)域進(jìn)行前沿研究，推動(dòng)技術(shù)創(chuàng)新，為組織提供技術(shù)咨詢和支持；項(xiàng)目經(jīng)理：負(fù)責(zé)人工智能項(xiàng)目的整體規(guī)劃、進(jìn)度控制、資源調(diào)配和風(fēng)險(xiǎn)管理，確保項(xiàng)目按時(shí)、按質(zhì)、按量完成；信息安全、物理安全和隱私等可信賴領(lǐng)域的專家：確保人工智能系統(tǒng)的安全性，防止數(shù)據(jù)泄露、系統(tǒng)攻擊等安全威脅，保障用戶隱私；人工智能系統(tǒng)相關(guān)的領(lǐng)域?qū)＜遥壕邆涮囟ㄐ袠I(yè)或領(lǐng)域知識(shí)的專家，為人工智能系統(tǒng)提供業(yè)務(wù)指導(dǎo)，確保系統(tǒng)能夠滿足實(shí)際需求；與人工智能系統(tǒng)人工監(jiān)督人員：對(duì)人工智能系統(tǒng)的輸出進(jìn)行監(jiān)控和校驗(yàn)，確保系統(tǒng)決策的準(zhǔn)確性和可靠性，必要時(shí)進(jìn)行人工干預(yù)；技術(shù)支持與維護(hù)人員：負(fù)責(zé)人工智能系統(tǒng)的日常維護(hù)、故障排查和性能優(yōu)化，確保系統(tǒng)穩(wěn)定運(yùn)行；測(cè)試人員：對(duì)人工智能系統(tǒng)進(jìn)行全面的測(cè)試，包括單元測(cè)試、集成測(cè)試和系統(tǒng)測(cè)試，確保系統(tǒng)的質(zhì)量和穩(wěn)定性；用戶支持與服務(wù)人員：為用戶提供技術(shù)支持和服務(wù)，解答用戶在使用人工智能系統(tǒng)過程中遇到的問題；道德與法律顧問：為組織提供法律合規(guī)和道德倫理方面的指導(dǎo)，確保人工智能系統(tǒng)的開發(fā)和使用符合相關(guān)法律法規(guī)和倫理規(guī)范。組織應(yīng)確保工作人員知曉人工智能方針的重要性；組織應(yīng)確保其控制下工作的所有人員都充分知曉并理解組織的人工智能方針。這一方針（見5.2）是組織在人工智能領(lǐng)域的指導(dǎo)思想，包含了組織在AI應(yīng)用、開發(fā)、運(yùn)維等方面的基本原則、價(jià)值觀、目標(biāo)和方法。知曉人工智能方針對(duì)于人員而言至關(guān)重要，因?yàn)樗禾峁┬袆?dòng)指南：幫助員工明確在人工智能相關(guān)工作中應(yīng)遵循的原則和標(biāo)準(zhǔn)，確保各項(xiàng)活動(dòng)與組織的整體戰(zhàn)略方向一致；增強(qiáng)責(zé)任感：使員工意識(shí)到自己在人工智能管理體系中的角色和責(zé)任，從而更加積極地參與到AI項(xiàng)目的開發(fā)和運(yùn)維中；促進(jìn)合規(guī)性：確保員工在AI項(xiàng)目的整個(gè)生命周期中遵守相關(guān)法規(guī)、標(biāo)準(zhǔn)和組織內(nèi)部規(guī)定，降低違規(guī)風(fēng)險(xiǎn)。為了確保人工智能方針的有效傳達(dá)和遵守，組織應(yīng)采取以下措施：制定培訓(xùn)計(jì)劃：組織應(yīng)定期對(duì)員工進(jìn)行關(guān)于人工智能方針的培訓(xùn)，確保其充分了解方針的內(nèi)容和要求；納入溝通策略：將人工智能方針納入組織的內(nèi)部溝通策略中，通過內(nèi)部網(wǎng)站、公告板、電子郵件等多種渠道定期發(fā)布和更新方針信息；設(shè)立責(zé)任人或團(tuán)隊(duì)：指定專門的責(zé)任人或團(tuán)隊(duì)負(fù)責(zé)監(jiān)督人工智能方針的執(zhí)行情況，并提供必要的支持和指導(dǎo)。組織應(yīng)確保工作人員知曉他們對(duì)人工智能管理體系有效性的貢獻(xiàn)(包括提高人工智能績(jī)效的益處)；認(rèn)知貢獻(xiàn)與績(jī)效提升的重要性：組織應(yīng)確保所有工作人員認(rèn)識(shí)到他們對(duì)人工智能管理體系有效性的貢獻(xiàn)，并理解這些貢獻(xiàn)如何直接關(guān)聯(lián)到人工智能績(jī)效的提升；貢獻(xiàn)的認(rèn)知：每位工作人員在人工智能管理體系中都扮演著不可或缺的角色。組織應(yīng)明確傳達(dá)每位員工的具體職責(zé)和任務(wù)，使他們認(rèn)識(shí)到自己的工作是如何影響整個(gè)人工智能管理體系的有效性的。這種認(rèn)知不僅增強(qiáng)了員工的責(zé)任感和歸屬感，也促進(jìn)了團(tuán)隊(duì)協(xié)作和跨部門溝通；績(jī)效提升的益處：提高人工智能績(jī)效是組織追求的重要目標(biāo)之一。組織應(yīng)清晰地向工作人員展示，通過積極參與人工智能管理體系，他們的工作成果如何直接轉(zhuǎn)化為人工智能績(jī)效的改善和效率的提升。這些益處可能包括決策準(zhǔn)確性的提高、處理速度的加快、成本的降低以及用戶體驗(yàn)的優(yōu)化等。了解這些益處有助于激發(fā)員工的工作動(dòng)力和創(chuàng)新能力。持續(xù)改進(jìn)的文化：通過讓工作人員認(rèn)識(shí)到他們對(duì)管理體系有效性的貢獻(xiàn)和績(jī)效提升的益處，組織可以逐步建立起一種持續(xù)改進(jìn)的文化氛圍。在這種文化中，員工不再是被動(dòng)的執(zhí)行者，而是積極的參與者和創(chuàng)新者。他們?cè)敢庵鲃?dòng)提出改進(jìn)建議，關(guān)注體系運(yùn)行中的問題，并尋求解決方案，從而推動(dòng)整個(gè)管理體系的不斷優(yōu)化和升級(jí)。采取措施促進(jìn)認(rèn)知貢獻(xiàn)與績(jī)效提升的重要性：組織通過明確角色與責(zé)任、提供培訓(xùn)與教育、建立溝通機(jī)制、設(shè)立激勵(lì)機(jī)制、收集反饋與持續(xù)改進(jìn)以及營(yíng)造文化氛圍等措施，可以有效地確保工作人員知曉他們對(duì)人工智能管理體系有效性的貢獻(xiàn)（包括提高人工智能績(jī)效的益處），并激發(fā)他們的積極性和創(chuàng)造力，推動(dòng)管理體系的持續(xù)優(yōu)化和高效運(yùn)行。明確角色與職責(zé)；制定詳細(xì)的職位描述：為每位工作人員明確其在人工智能管理體系中的具體職責(zé)和任務(wù)，確保他們清楚自己在體系中的角色和所承擔(dān)的職責(zé)；分配具體目標(biāo)：將組織的人工智能目標(biāo)細(xì)化到各個(gè)部門和崗位，使每位員工都能明確自己的工作如何與整體目標(biāo)相關(guān)聯(lián)。提供培訓(xùn)與教育；定期組織培訓(xùn)：針對(duì)人工智能管理體系、人工智能技術(shù)應(yīng)用、以及績(jī)效提升等方面，定期組織培訓(xùn)課程，增強(qiáng)員工的認(rèn)知和理解。案例分享與經(jīng)驗(yàn)交流：通過分享成功案例和失敗教訓(xùn)，讓員工了解他們對(duì)管理體系有效性的實(shí)際貢獻(xiàn)，并學(xué)習(xí)如何進(jìn)一步提升績(jī)效。建立溝通機(jī)制；內(nèi)部溝通平臺(tái)：建立或利用現(xiàn)有的內(nèi)部溝通平臺(tái)（如企業(yè)社交軟件、郵件列表等），定期發(fā)布管理體系的運(yùn)行情況和績(jī)效數(shù)據(jù)，讓員工隨時(shí)了解自己的工作成果；定期會(huì)議：組織定期會(huì)議，讓員工參與討論管理體系的運(yùn)行狀況、存在的問題以及改進(jìn)措施，增強(qiáng)他們的參與感和責(zé)任感。設(shè)立激勵(lì)機(jī)制；績(jī)效獎(jiǎng)勵(lì)：將員工對(duì)管理體系的貢獻(xiàn)納入績(jī)效考核體系，對(duì)表現(xiàn)優(yōu)秀的員工給予獎(jiǎng)勵(lì)，激勵(lì)他們更加積極地投入到工作中；表彰先進(jìn)：對(duì)在管理體系中做出突出貢獻(xiàn)的個(gè)人或團(tuán)隊(duì)進(jìn)行公開表彰，樹立榜樣，激發(fā)全體員工的積極性和創(chuàng)造力。收集反饋與持續(xù)改進(jìn)；建立反饋渠道：鼓勵(lì)員工就管理體系的有效性、工作中遇到的問題以及改進(jìn)建議等提出反饋，確保組織能夠及時(shí)了解并解決問題；持續(xù)改進(jìn)機(jī)制：根據(jù)員工的反饋和建議，不斷優(yōu)化管理體系，提高運(yùn)行效率和績(jī)效水平，同時(shí)讓員工感受到他們的意見被重視和采納。營(yíng)造文化氛圍；強(qiáng)調(diào)團(tuán)隊(duì)合作：通過團(tuán)隊(duì)活動(dòng)、文化墻等方式，營(yíng)造積極向上的團(tuán)隊(duì)氛圍，讓員工感受到自己是團(tuán)隊(duì)不可或缺的一部分；宣傳成功案例：在公司內(nèi)部廣泛宣傳管理體系的成功案例和績(jī)效提升成果，讓員工感受到自己的工作成果得到了認(rèn)可和價(jià)值體現(xiàn)。組織應(yīng)確保工作人員知曉不符合人工智能管理體系要求的后果。組織應(yīng)確保所有在其控制下工作的人員，明確知曉如果不符合人工智能管理體系的要求，將會(huì)帶來的嚴(yán)重后果。這一要求的目的是為了增強(qiáng)員工的規(guī)則意識(shí)和自律性，從而確保人工智能管理體系的有效執(zhí)行。違規(guī)后果的重要性：組織應(yīng)確保所有工作人員，明確知曉如果不符合人工智能管理體系的要求，將會(huì)帶來的嚴(yán)重后果。這一要求的目的是為了增強(qiáng)員工的規(guī)則意識(shí)和自律性，從而確保人工智能管理體系的有效執(zhí)行；違規(guī)后果的具體內(nèi)容：不符合人工智能管理體系要求的后果可能包括但不限于：系統(tǒng)安全風(fēng)險(xiǎn)增加：不符合管理體系要求可能導(dǎo)致人工智能系統(tǒng)存在安全漏洞，使得系統(tǒng)容易受到外部攻擊或內(nèi)部誤操作的影響，從而增加數(shù)據(jù)泄露、篡改或被非法訪問的風(fēng)險(xiǎn)；系統(tǒng)運(yùn)行中斷：管理不善或違規(guī)操作可能導(dǎo)致系統(tǒng)穩(wěn)定性下降，引發(fā)運(yùn)行中斷或故障，影響業(yè)務(wù)連續(xù)性和用戶體驗(yàn)；數(shù)據(jù)隱私泄露：如果人工智能管理體系要求未能得到嚴(yán)格遵守，可能導(dǎo)致用戶或客戶的個(gè)人數(shù)據(jù)被非法收集、存儲(chǔ)、處理或泄露，嚴(yán)重侵犯?jìng)€(gè)人隱私權(quán)；不公平或歧視性決策：人工智能系統(tǒng)的決策應(yīng)基于公平和透明的原則。不符合管理體系要求可能導(dǎo)致算法偏見，進(jìn)而產(chǎn)生不公平或歧視性的決策結(jié)果，損害特定群體的利益；決策失誤：人工智能管理體系要求通常包括對(duì)數(shù)據(jù)質(zhì)量、模型驗(yàn)證、過程控制等方面的規(guī)定。違反這些要求可能導(dǎo)致決策依據(jù)不準(zhǔn)確或過程控制不嚴(yán)，從而引發(fā)決策失誤，給組織帶來經(jīng)濟(jì)損失或信譽(yù)損害；用戶信任度下降：頻繁的安全事件、數(shù)據(jù)泄露或決策失誤會(huì)降低用戶對(duì)人工智能系統(tǒng)的信任度，進(jìn)而影響用戶對(duì)組織整體品牌和服務(wù)的信心；面臨法律責(zé)任：不符合人工智能管理體系要求可能違反相關(guān)法律法規(guī)（如數(shù)據(jù)保護(hù)法規(guī)、隱私法規(guī)等），導(dǎo)致組織面臨法律訴訟、罰款甚至刑事責(zé)任；強(qiáng)化后果傳達(dá)的措施：為了更有效地傳達(dá)違規(guī)后果，組織可以采取一系列強(qiáng)化措施。制定明確的違規(guī)后果說明文檔：組織應(yīng)編制一份詳細(xì)的違規(guī)后果說明文檔，其中明確列出不符合人工智能管理體系要求可能導(dǎo)致的具體后果，包括但不限于系統(tǒng)安全風(fēng)險(xiǎn)、數(shù)據(jù)泄露、不公平?jīng)Q策、法律責(zé)任等。該文檔應(yīng)作為員工培訓(xùn)的一部分，確保每位員工都能熟悉并理解；開展定期培訓(xùn)與教育：組織應(yīng)定期舉辦針對(duì)人工智能管理體系的培訓(xùn)課程，其中特別強(qiáng)調(diào)違規(guī)后果的嚴(yán)重性。培訓(xùn)內(nèi)容應(yīng)包括案例分析，通過實(shí)際發(fā)生的違規(guī)事件和后果，加深員工的理解和記憶；強(qiáng)化內(nèi)部溝通與宣傳：通過內(nèi)部通訊、公告板、社交媒體等多種渠道，定期發(fā)布關(guān)于違規(guī)后果的提醒和警示信息。確保信息覆蓋全體員工，提高員工的警惕性和自律性；建立反饋與報(bào)告機(jī)制：鼓勵(lì)員工主動(dòng)報(bào)告潛在的不合規(guī)行為或風(fēng)險(xiǎn)點(diǎn)，并建立有效的反饋和報(bào)告機(jī)制。對(duì)積極報(bào)告的員工給予正面激勵(lì)，以增強(qiáng)員工的參與度和責(zé)任感；實(shí)施模擬演練與應(yīng)急響應(yīng)：定期組織模擬違規(guī)事件的演練，讓員工親身體驗(yàn)違規(guī)后果的嚴(yán)重性和親身體驗(yàn)或觀察到違規(guī)帶來的負(fù)面影響，從而提高他們的警惕性和自律性。第2部分：“7.3意識(shí)”流程控制表一級(jí)流程二級(jí)流程流程節(jié)點(diǎn)控制要點(diǎn)所期望的輸出制定計(jì)劃確定意識(shí)提升需求分析組織現(xiàn)狀，識(shí)別意識(shí)提升的具體需求詳細(xì)的意識(shí)提升需求列表制定提升計(jì)劃根據(jù)需求制定詳細(xì)的提升計(jì)劃，包括目標(biāo)、方法、時(shí)間表意識(shí)提升計(jì)劃文檔培訓(xùn)與教育設(shè)計(jì)培訓(xùn)內(nèi)容設(shè)計(jì)覆蓋人工智能方針、管理體系有效性及違規(guī)后果的培訓(xùn)內(nèi)容培訓(xùn)材料包實(shí)施培訓(xùn)按計(jì)劃組織培訓(xùn)活動(dòng)，確保所有相關(guān)人員參加培訓(xùn)記錄及反饋報(bào)告培訓(xùn)效果評(píng)估收集培訓(xùn)參與者的反饋，評(píng)估培訓(xùn)效果，必要時(shí)調(diào)整計(jì)劃培訓(xùn)效果評(píng)估報(bào)告及改進(jìn)計(jì)劃溝通與宣傳制定溝通策略設(shè)計(jì)內(nèi)部溝通策略，包括溝通渠道、頻率、內(nèi)容等溝通策略文檔發(fā)布與更新信息定期通過內(nèi)部網(wǎng)站、公告板、郵件等方式發(fā)布和更新信息發(fā)布和更新記錄收集反饋與調(diào)整策略收集員工對(duì)溝通效果的反饋，根據(jù)反饋調(diào)整溝通策略反饋收集報(bào)告及調(diào)整后的溝通策略明確崗位與職責(zé)制定職位描述書為每位員工制定詳細(xì)的職位描述，明確其在管理體系中的角色和職責(zé)職位描述文檔分配具體目標(biāo)將組織目標(biāo)細(xì)化到部門和崗位，明確員工的具體工作目標(biāo)目標(biāo)分配文檔收集反饋與改進(jìn)建立反饋渠道建立內(nèi)部反饋渠道，鼓勵(lì)員工提出建議和反饋反饋渠道操作指南及收集到的反饋記錄分析與改進(jìn)建議定期分析反饋，提出改進(jìn)措施，并跟蹤改進(jìn)效果改進(jìn)建議報(bào)告及改進(jìn)效果跟蹤報(bào)告違規(guī)后果管理制定違規(guī)后果說明文檔編制詳細(xì)的違規(guī)后果說明文檔，明確列出可能的違規(guī)后果違規(guī)后果說明文檔及員工簽收記錄違規(guī)模擬演練定期組織違規(guī)模擬演練，提高員工對(duì)違規(guī)后果的認(rèn)識(shí)模擬演練記錄及員工反饋報(bào)告應(yīng)急響應(yīng)準(zhǔn)備建立應(yīng)急響應(yīng)機(jī)制，制定應(yīng)急預(yù)案，確保違規(guī)事件發(fā)生時(shí)能夠迅速應(yīng)對(duì)應(yīng)急響應(yīng)預(yù)案及演練記錄營(yíng)造文化氛圍團(tuán)隊(duì)建設(shè)活動(dòng)組織團(tuán)隊(duì)建設(shè)活動(dòng)，增強(qiáng)員工之間的協(xié)作和凝聚力團(tuán)隊(duì)建設(shè)活動(dòng)記錄及員工滿意度調(diào)查成功案例宣傳在組織內(nèi)部廣泛宣傳管理體系的成功案例和績(jī)效提升成果成功案例宣傳材料及員工反響記錄監(jiān)督與審核監(jiān)督執(zhí)行情況設(shè)立責(zé)任人或團(tuán)隊(duì)，負(fù)責(zé)監(jiān)督意識(shí)提升計(jì)劃的執(zhí)行情況監(jiān)督報(bào)告及改進(jìn)措施定期審核與評(píng)估定期對(duì)意識(shí)提升流程進(jìn)行審核與評(píng)估，確保流程的有效性審核與評(píng)估報(bào)告及持續(xù)改進(jìn)計(jì)劃第3部分：“7.3意識(shí)”過程風(fēng)險(xiǎn)清單流程名稱二級(jí)流程風(fēng)險(xiǎn)描述（風(fēng)險(xiǎn)源、過程運(yùn)行可能發(fā)生什么并產(chǎn)生什么后果及其對(duì)實(shí)現(xiàn)業(yè)務(wù)流程目標(biāo)產(chǎn)生的影響）意識(shí)提升流程設(shè)計(jì)培訓(xùn)計(jì)劃培訓(xùn)計(jì)劃可能未能充分覆蓋人工智能方針及管理體系的關(guān)鍵內(nèi)容，導(dǎo)致員工對(duì)體系要求理解不足實(shí)施培訓(xùn)計(jì)劃培訓(xùn)執(zhí)行不力或參與度低，員工未能充分理解并掌握人工智能方針及管理體系的具體要求評(píng)估培訓(xùn)效果缺乏有效的培訓(xùn)效果評(píng)估機(jī)制，無法準(zhǔn)確衡量員工對(duì)培訓(xùn)內(nèi)容的掌握程度，影響培訓(xùn)效果方針發(fā)布與更新方針發(fā)布渠道不暢或更新不及時(shí)，導(dǎo)致員工無法及時(shí)獲取最新的人工智能方針和管理體系要求責(zé)任人或團(tuán)隊(duì)職責(zé)責(zé)任人或團(tuán)隊(duì)不明確或執(zhí)行力不足，無法有效監(jiān)督人工智能方針的執(zhí)行情況，導(dǎo)致管理體系落實(shí)不到位監(jiān)督與支持監(jiān)督與支持機(jī)制不健全，無法及時(shí)發(fā)現(xiàn)并糾正員工在執(zhí)行人工智能管理體系中的違規(guī)行為知曉人工智能方針內(nèi)部傳達(dá)方針傳達(dá)不到位，部分員工對(duì)人工智能方針的內(nèi)容和要求不了解，影響方針的執(zhí)行外部溝通未能與供應(yīng)商、客戶等相關(guān)方有效溝通方針內(nèi)容，可能導(dǎo)致合作中出現(xiàn)誤解或沖突認(rèn)知人工智能管理體系貢獻(xiàn)與績(jī)效明確職責(zé)與任務(wù)崗位職責(zé)不明確，員工不清楚自己在管理