T∕GDCKCJH 072-2023 人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全要求

人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全要求Securityrequirement2023-04-28發(fā)布2023-05-01實(shí)施廣東省測量控制技術(shù)與裝備應(yīng)用促進(jìn)會發(fā)布I前言 Ⅱ 12規(guī)范性引用文件 13術(shù)語和定義 14人工智能信息系統(tǒng)軟件網(wǎng)絡(luò)安全功能要求 5人工智能信息系統(tǒng)軟件網(wǎng)絡(luò)安全非功能要求 56人工智能信息系統(tǒng)軟件網(wǎng)絡(luò)安全保證水平 本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起草。請注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識別專利的責(zé)任。本文件由廣東省測量控制技術(shù)與裝備應(yīng)用促進(jìn)會提出并歸口。本文件起草單位：工業(yè)和信息化部電子第五研究所、華南理工大學(xué)、中國科學(xué)院上海技術(shù)物理研究所、互云(廣州)醫(yī)學(xué)影像診斷有限責(zé)任公司、廣東省藥品監(jiān)督管理局審評認(rèn)證中心。本文件主要起草人：李丹、劉杰、云雷、馬燕嬌、湯錦依、章婷華、吳凱、周靜、王明慶、陳銘湘、賴錦壩。本文件為首次發(fā)布。T/GDCKCJH072—2023本文件遵循《人工智能醫(yī)學(xué)軟件產(chǎn)品網(wǎng)絡(luò)安全技術(shù)審評指導(dǎo)原則》的要求，該指導(dǎo)原則是人工智能醫(yī)學(xué)信息系統(tǒng)軟件審評指導(dǎo)體系構(gòu)建的組成部分，基于人工智能醫(yī)療器械審評指導(dǎo)原則和醫(yī)療器械網(wǎng)絡(luò)安全注冊審查指導(dǎo)原則的通用要求，細(xì)化了人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全的一般要求。1T/GDCKCJH072—2023人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全要求1范圍本文件規(guī)定了人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全的功能要求、非功能要求和安全保證水平。本文件適用于人工智能醫(yī)學(xué)信息系統(tǒng)軟件產(chǎn)品網(wǎng)絡(luò)安全的設(shè)計(jì)與實(shí)現(xiàn)，也可用于產(chǎn)品測試、評估、注冊審查和管理。2現(xiàn)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本(包括所有的修改單)適用于本文件。YY,T0664—2020醫(yī)療器械軟件軟件生存周期過程3術(shù)語和定義GB/T25069—2022、YY/T0664-2020界定的及下列術(shù)語和定義適用于本文件。信息對未授權(quán)的個(gè)人、實(shí)體或過程不可用或不泄露的性質(zhì)，即人工智能醫(yī)學(xué)信息系統(tǒng)軟件產(chǎn)品自身和相關(guān)數(shù)據(jù)、模型僅可由授權(quán)用戶在授權(quán)時(shí)間以授權(quán)方式進(jìn)行訪問和使用?？沟仲囆詎on-repudiation證明一個(gè)已經(jīng)發(fā)生的操作行為無法否認(rèn)的性質(zhì)?？捎山?jīng)授權(quán)實(shí)體按需訪問和使用的性質(zhì)，即人工智能醫(yī)學(xué)信息系統(tǒng)軟件產(chǎn)品自身和相關(guān)數(shù)據(jù)、模型能以預(yù)期方式適時(shí)進(jìn)行訪問和使用?？珊瞬樾詀ccountability2確保從一個(gè)實(shí)體的行為能唯一地追溯到該實(shí)體的性質(zhì)。實(shí)體的活動(dòng)及結(jié)果與預(yù)期行為和結(jié)果一致的性質(zhì)。能夠繞過系統(tǒng)認(rèn)證等安全機(jī)制的管控而進(jìn)入信息系統(tǒng)的通道。魯棒性/健壯性robustness對某一系統(tǒng)或組件在無效數(shù)據(jù)輸入或者在高強(qiáng)度輸入等環(huán)境下，描述其各項(xiàng)功能均能保持正確運(yùn)行的性質(zhì)。完整性integrity信息的創(chuàng)建、傳輸、存儲、顯示未以非授權(quán)方式進(jìn)行更改(含刪除、添加)的性質(zhì)，即人工智能醫(yī)學(xué)信息系統(tǒng)軟件相關(guān)數(shù)據(jù)、模型是準(zhǔn)確和完整的，且未被篡改。網(wǎng)絡(luò)安全security對某一系統(tǒng)，據(jù)以獲得保密性、完整性、可得性、可核查性、真實(shí)性以及可靠性的性質(zhì)。人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全是指保護(hù)軟件產(chǎn)品自身和相關(guān)數(shù)據(jù)、模型不受未授權(quán)活動(dòng)影響的狀態(tài)，涉及信息安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能安全等，本文件對四者不做嚴(yán)格區(qū)分，統(tǒng)一采用網(wǎng)絡(luò)安全進(jìn)行表述，即從網(wǎng)絡(luò)安全角度綜合考慮其信息安全、數(shù)據(jù)安全和人工智能安全。真實(shí)性authenticity實(shí)體符合其所聲稱的活動(dòng)及結(jié)果與預(yù)期行為的性質(zhì)。拒絕服務(wù)denialorservice;DoS因阻止對系統(tǒng)資源的授權(quán)訪問或延遲系統(tǒng)運(yùn)行和功能實(shí)現(xiàn)而導(dǎo)致授權(quán)用戶的可得性受損。計(jì)算機(jī)程序中任何可識別部分，例如：源代碼、目標(biāo)代碼、控制代碼、控制數(shù)據(jù)或這些項(xiàng)的集有細(xì)織的、經(jīng)集成的軟件項(xiàng)組合、以完成某個(gè)特定功能或一組功能。3T/GDCKCJH072—20234.1總則人工智能醫(yī)學(xué)信息系統(tǒng)軟件產(chǎn)品(以下簡稱產(chǎn)品)應(yīng)根據(jù)人工智能醫(yī)學(xué)信息系統(tǒng)軟件特性分析下列網(wǎng)絡(luò)安全功能的適用性，這些網(wǎng)絡(luò)安全功能既可通過軟件自身功能實(shí)現(xiàn)，亦可通過必備軟件、外產(chǎn)品必須具有但不僅限于4.2～4.23功能。產(chǎn)品應(yīng)具有通過固化措施對網(wǎng)絡(luò)攻擊和惡意軟件4產(chǎn)品應(yīng)具有直接去除、匿名化數(shù)據(jù)所含個(gè)人產(chǎn)品應(yīng)具有確保數(shù)據(jù)未以非授權(quán)方式更改且來自創(chuàng)建者或提供者的能力。產(chǎn)品應(yīng)有能力確保未授權(quán)訪問不會損壞存儲媒介所存數(shù)據(jù)保密產(chǎn)品應(yīng)有能力在全生命周期中對現(xiàn)成軟件提供網(wǎng)4.20網(wǎng)絡(luò)安全特征配置(CNFS)產(chǎn)品應(yīng)提供在預(yù)期緊急情況下允許用戶訪問和T/GDCKCJH072—20235產(chǎn)品應(yīng)有能力確保用戶遠(yuǎn)程訪問與控制(含遠(yuǎn)程維護(hù)與升級)的網(wǎng)絡(luò)安全。4.23惡意軟件探測與防護(hù)(MLDP)產(chǎn)品應(yīng)能有效探測、阻止惡意軟件。5人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全非功能要求5.1訓(xùn)練數(shù)據(jù)保護(hù)驗(yàn)證產(chǎn)品應(yīng)確保在數(shù)據(jù)構(gòu)建階段有效保護(hù)訓(xùn)練數(shù)據(jù)的安全，如提供安全的存儲環(huán)境、完備的安全配置、確保數(shù)據(jù)不被惡意修改等，并確保訓(xùn)練數(shù)據(jù)得到用戶授權(quán)。5.2模型訓(xùn)練生成階段依賴的環(huán)境和庫的安全產(chǎn)品應(yīng)確保摸型訓(xùn)練環(huán)境、開發(fā)框架、組件、依賴庫的安全性能，人工智能醫(yī)學(xué)信息系統(tǒng)軟件不存在權(quán)威漏洞平臺6個(gè)月前公布且未經(jīng)處置的高危及以上的安全漏洞。5.3不留后門軟件不應(yīng)留有后門，模型不應(yīng)有后門。5.4不包含惡意軟件軟件自身、開發(fā)環(huán)境不應(yīng)包含惡意軟件。5.5防拒絕服務(wù)攻擊產(chǎn)品應(yīng)支持防DoS/DDoS攻擊。5.6支持商用密碼產(chǎn)品在需要使用密碼的位置，應(yīng)提供對商用密碼的支持。5.7抵御持定攻擊產(chǎn)品應(yīng)具有抵御針對數(shù)據(jù)、模型、資源攻擊的機(jī)制。包括：a)可抵御數(shù)字對抗樣本的攻擊；J)可抵御數(shù)據(jù)污染攻擊c)可抵御物理對抗攻擊；d)可抵御算法模型竊取攻擊；e)可抵御算法模型逆向攻擊；f)可抵御成員推理攻擊；T/GDCKCJH072—20236g)可抵御輸入預(yù)處理攻擊；h)可抵御反饋更新投毒攻擊；i)可抵御模型部署文件篡改攻擊。5.8防止系統(tǒng)軟件被濫用產(chǎn)品應(yīng)能防止人工智能醫(yī)學(xué)信息系統(tǒng)軟件服務(wù)被攻擊者利用作惡意用途。6人工智能醫(yī)學(xué)信息系統(tǒng)軟件網(wǎng)絡(luò)安全保證水平產(chǎn)品應(yīng)根據(jù)在預(yù)期使用環(huán)境下遭受網(wǎng)絡(luò)安全威脅的可能性和一旦威脅成功帶來的風(fēng)險(xiǎn)綜合評定軟件網(wǎng)絡(luò)安全保證水平。軟件風(fēng)險(xiǎn)除了可能引發(fā)的對患者、操作者或其他人員傷害，還可能包括患者、操作者或其他人員的隱私泄露。在通常情形下，軟件安全風(fēng)險(xiǎn)是軟件網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的主要關(guān)注部分，可參照軟件安全級別(A、B或C)確定產(chǎn)品網(wǎng)絡(luò)安全保證水平；在特殊情形下，可以基于隱私泄露風(fēng)險(xiǎn)、可得性喪失風(fēng)險(xiǎn)、經(jīng)濟(jì)風(fēng)險(xiǎn)等評估結(jié)果，適當(dāng)提高網(wǎng)