FDA人工智能醫(yī)療器械軟件變更的監(jiān)管思路分析

8/8FDA人工智能醫(yī)療器械軟件變更的監(jiān)管思路分析內(nèi)容提要：人工智能技術(shù)為醫(yī)療器械創(chuàng)新帶來新的契機，人工智能醫(yī)療器械軟件與傳統(tǒng)醫(yī)療器械軟件相比較呈現(xiàn)出一些新的特點。文章對美國國家食品藥品監(jiān)督管理局（FDA）提出的一項旨在促進人工智能醫(yī)療器械自我學習、迭代更新的變更監(jiān)管框架提議進行介紹。該提議允許企業(yè)在軟件全生命周期管理條件下，在注冊時提交一系列規(guī)范文件，為預期變更提前制定計劃。

關(guān)鍵詞：人工智能醫(yī)療器械監(jiān)管要求軟件變更

近年來人工智能技術(shù)的不斷發(fā)展為醫(yī)療器械創(chuàng)新帶來新的契機。2018年FDA審批通過了世界首款人工智能醫(yī)療器械IDx-DR上市用于糖尿病視網(wǎng)膜病變的診斷，該產(chǎn)品利用人工智能技術(shù)對影像分析后給出診斷結(jié)果而無需再經(jīng)過眼科醫(yī)生閱片[1]。具備人工智能技術(shù)的醫(yī)療器械可以依據(jù)臨床應用過程中產(chǎn)生的海量數(shù)據(jù)進行學習實現(xiàn)性能和功能上的自我提升，但美國法規(guī)規(guī)定，軟件算法和功能在上市前必須鎖死，除非獲得新的變更審批[2]。對此，2019年FDA根據(jù)這類產(chǎn)品的生命周期特性，提出一套監(jiān)管框架提議，讓人工智能醫(yī)療器械變更審批能夠適應產(chǎn)品從真實世界數(shù)據(jù)的學習和演進，同時保證產(chǎn)品的安全有效性[3]。

1.美國聯(lián)邦法規(guī)對醫(yī)療器械軟件變更的要求

美國CFR第21章807.81（a）（3）規(guī)定，當醫(yī)療器械的改進會“嚴重影響產(chǎn)品安全有效性”或者導致“預期用途的主要變化”時，應重新提交510（k）申請[4]。1997年，F(xiàn)DA發(fā)布了“已上市醫(yī)療器械何時應提交510（k）申請的指導原則”（DecidingWhentoSubmita510(k)foraChangetoanExistingDevice）[5]，對上述法規(guī)中的“嚴重”和“主要”的含義進行了解釋，以避免廠商進行不同解讀。2017年，F(xiàn)DA發(fā)布“已上市醫(yī)療器械軟件變更何時應提交510（k）申請的指導原則”（DecidingWhentoSubmita510(k)foraSoftwareChangetoanExistingDevice）[6]指明，并非所有軟件變更都需要進行申報，部分變更可通過質(zhì)量體系（QualitySystem）進行控制，即使需要提交新的510（k）申請，也應按照最小負擔原則（LeastBurdensomePrinciple）提交必要資料。

按照“已上市醫(yī)療器械軟件變更何時應提交510（k）申請的指導原則”[5]要求，以下三種情況應當提交新的510（k）申請：①軟件變更引入新的風險或者改變原有風險并可能導致嚴重傷害。②軟件變更引入新的風險控制措施或者改變原有風險控制措施并可能導致嚴重傷害。③與預期用途有關(guān)的軟件功能和性能發(fā)生顯著變化。

針對產(chǎn)品可能發(fā)生的變化，F(xiàn)DA給出了一些不需要申請新的510（k）的情形：①如果僅為提高網(wǎng)絡安全性而做出的變更，將網(wǎng)絡安全更新視為提高系統(tǒng)安全性、保護信息以及減少服務中斷的情形，F(xiàn)DA需要制造商針對這些更新給出必要的分析說明、確認和驗證，保證這些變更不會影響機械性能和軟件功能。②軟件變化僅是為了符合最新獲批的產(chǎn)品標準，且不能顯著影響器械的安全性、有效性或預期用途。

制造商應通過對風險和性能方面的影響分析來評估軟件變更是否適用申請新的510（k）。對于軟件要求的缺失、不完整、模糊不清或者矛盾可能引發(fā)軟件更改，可能需要繼續(xù)判斷是否符合前述應提交新510（k）的情形。

FDA在指南中明確，雖然未針對所有醫(yī)療器械發(fā)生的各種軟件變更情況都給出說明，但對制造商如何做出決策和在相關(guān)文檔上進行記錄提供了指導。同時，對于明確顯著影響醫(yī)療器械安全有效性的軟件變更（如功能變化）給出了部分示例。但是，當變更代碼沒有改變軟件功能（如代碼維護或者基礎(chǔ)性修改），這些變化如果不進行合理控制，可能會為醫(yī)療器械引入未知的變化，這些變化有可能影響軟件功能。對于這類變化，應該對醫(yī)療器械產(chǎn)生的安全有效性造成的潛在影響進行仔細評估。FDA建議對于軟件整體架構(gòu)的設計和開發(fā)，以有計劃的、模塊化的方式進行，可顯著降低對代碼變化以外內(nèi)容的影響。如果在不具備清晰架構(gòu)的代碼環(huán)境中進行開發(fā)，由于功能模塊的邊界無法清楚的劃分，降低了代碼在不同功能模塊進行清晰描述的能力，這種構(gòu)造的代碼可能對醫(yī)療器械的安全有效性造成影響。

2.人工智能醫(yī)療器械軟件變更監(jiān)管遇到的問題

人工智能醫(yī)療器械軟件最大的優(yōu)勢是通過持續(xù)學習真實世界海量數(shù)據(jù)來完善功能、改進性能并增強適應性。這種利用上市后真實世界數(shù)據(jù)的反饋進行學習的能力，使得人工智能醫(yī)療器械軟件顯著區(qū)別于其他醫(yī)療器械軟件。現(xiàn)有軟件變更監(jiān)管模式在制定規(guī)則時沒有考慮到，按照當前醫(yī)療器械軟件變更的審查要求，多數(shù)人工智能醫(yī)療器械的變更可能都需要經(jīng)過上市前的審查。這種繁復的審查將減弱人工智能技術(shù)為醫(yī)療器械帶來的巨大優(yōu)勢。高速迭代、自我管理的特性需要一種新的全生命周期監(jiān)管方法，允許這些軟件不斷改進，同時提供有效的安全保障措施。FDA期望通過改進監(jiān)管措施，采用新的監(jiān)管方法，以保障其審查產(chǎn)品的安全性，同時能夠保證產(chǎn)品的有效性和質(zhì)量。

近年來，F(xiàn)DA審批通過了多款采用人工智能技術(shù)的產(chǎn)品，包括臨床決策支持、移動健康護理，以及新型數(shù)字療法等類別的產(chǎn)品。大量產(chǎn)品開始進入研發(fā)、臨床試驗和注冊申報等階段。FDA采取了一定措施支持這類產(chǎn)品的創(chuàng)新，將審查重點放在用于診斷或者治療的高風險部分，鼓勵研發(fā)人員將新技術(shù)有效地納入其產(chǎn)品中。其中一個重要方法就是通過風險分析，決策判斷出哪些組成部分會對產(chǎn)品的安全有效性造成影響。例如，對于采集檢測患者心率并將信息遠程傳輸?shù)结t(yī)院監(jiān)護設備的產(chǎn)品，只要其傳輸功能對監(jiān)護功能的安全性和有效性不產(chǎn)生不利影響，即生產(chǎn)廠商能夠證明兩種功能之間不存在相互干擾，F(xiàn)DA將只審查心臟監(jiān)護部分的功能。

3.《人工智能醫(yī)療器械軟件變更監(jiān)管框架提議》

FDA在2019年提出了《人工智能醫(yī)療器械軟件變更監(jiān)管框架提議》（討論稿）（ProposedRegulatoryFrameworkforModificationstoArtificialIntelligence/MachineLearning(AI/ML)-BasedSoftwareasaMedicalDevice(SaMD)）[3]，目的是根據(jù)人工智能技術(shù)特點改進人工智能醫(yī)療器械軟件變更監(jiān)管模式，在安全有效的前提下，定制出一套有利于該類軟件產(chǎn)品發(fā)揮特長并增加臨床獲益的監(jiān)管方式。

新監(jiān)管框架建議基于以下原則制定：①國際醫(yī)療器械監(jiān)管論壇（IMDRF）風險分類原則。②FDA風險受益框架。③《已上市醫(yī)療器械軟件變更何時應提交510（k）申請的指導原則》[5]中的風險管理原則。④數(shù)字醫(yī)療軟件預認證程序（DigitalHealthSoftwarePrecertification(Pre-Cert)Program）中基于生產(chǎn)組織的全生命周期監(jiān)管[7]。在上述原則的基礎(chǔ)上，F(xiàn)DA將人工智能醫(yī)療器械軟件變更分為性能變更、輸入變更以及預期用途變更三個類別。

FDA認為人工智能醫(yī)療器械軟件應使用全生命周期管理（TotalProductLifecycleRegulatory，TPLC）方法來評估企業(yè)的質(zhì)控能力和組織管理能力，以確保軟件從上市前到上市后的質(zhì)量都能夠得到保障[3]。TPLC方法的目的是讓人工智能算法的性能得以持續(xù)改進，該方法的主要內(nèi)容包括：①企業(yè)建立覆蓋產(chǎn)品研發(fā)、生產(chǎn)和維護的全生命周期的深度學習質(zhì)控體系（QualitySystemsandGoodMachineLearningPractices，GMLP）。基于人工智能醫(yī)療器械軟件安全有效依賴于深度學習功能、用戶面臨的風險以及預期用途等因素，GMLP要求關(guān)注軟件分析的數(shù)據(jù)與臨床問題之間具有關(guān)聯(lián)性、數(shù)據(jù)獲取的持續(xù)性和相關(guān)性、變更方法是否符合預期用途和計劃、訓練集和測試集是否有效隔離，以及算法和結(jié)果輸出對終端用戶的清晰透明。②企業(yè)在首次提交產(chǎn)品申報資料時，同時提交變更計劃和變更控制方案到FDA。方案的核心是軟件變更規(guī)范（SaMDPre-Specifications，SPS）和算法控制協(xié)議（AlgorithmChangeProtocol，ACP）。SPS描述產(chǎn)品可能發(fā)生變更的范圍，說明企業(yè)期望算法通過學習變成什么樣子。ACP描述廠商對預期各種變化帶來的風險而規(guī)定的控制措施，并對跟蹤的數(shù)據(jù)和流程做好詳細的設定，確保變更能夠達到預定目標，且依然安全有效。③當包含變更計劃和變更控制方案的已上市產(chǎn)品發(fā)生變更時，F(xiàn)DA首先按照軟件變更指導原則3判斷是否需要重新提交510（k）申請，再查看變更是否處于SPS和ACP文件的控制范圍。在范圍之內(nèi)的變更僅需要完善體系文檔，而不再提交510（k）申請；對于不在該范圍內(nèi)的變更申請，F(xiàn)DA審查并通過新的SPS和ACP文件即可。需要說明的是，如果變更導致產(chǎn)品增加了新的預期用途，仍然需要啟動傳統(tǒng)意義上的上市前審查。④廠商需注重變更的透明性并監(jiān)控在真實世界中的性能。人工智能醫(yī)療器械軟件需要及時變更，產(chǎn)品功能和性能變化的透明性是安全保障的關(guān)鍵。從真實世界中收集數(shù)據(jù)并對產(chǎn)品運行效果進行監(jiān)控是企業(yè)把控安全、控制風險和評價風險受益的重要機制。

在上述新框架運作下，企業(yè)向FDA提交變更申請時，不但應提交與變更有關(guān)的申報資料，同時應更新SPS和ACP文件。在文件中，企業(yè)需準確全面的描述邏輯、輸入和性能上的變化，并更新相應設計規(guī)范。此外，企業(yè)還應描述如何將變更引發(fā)的產(chǎn)品變化告知終端用戶，提供準確的告知內(nèi)容和可達的告知方法。

4.FDA人工智能醫(yī)療器械軟件變更監(jiān)管思路分析

人工智能醫(yī)療器械軟件變更框架的提出，標志著FDA不再將人工智能醫(yī)療器械軟件看做傳統(tǒng)醫(yī)療器械軟件，顯示出美國監(jiān)管機構(gòu)認為人工智能技術(shù)對醫(yī)療器械產(chǎn)業(yè)可能帶來重大影響。該框架仍處于討論和征求意見的階段，部分內(nèi)容仍有待進一步明確。例如，F(xiàn)DA對與變更的分類是否能夠覆蓋報批產(chǎn)品的各種變更情形，SPS文件應包括哪些必要的內(nèi)容，ACP文件所包含的控制措施如何才能匹配相應的SPS文件，以及FDA應以什么樣的標準審查SPS和ACP文件等。

FDA對于人工智能醫(yī)療器械軟件上市后的監(jiān)管方向，意在通過制定相關(guān)變更控制規(guī)范，指導企業(yè)首次提交申報資料時根據(jù)預定的數(shù)據(jù)管理方法、訓練方法、評價方法和驗證確認方法對算法和性能變更的預期路徑進行規(guī)范，并對可能引入的新風險進行預判。當軟件發(fā)生重大變更啟動變更注冊申請時，監(jiān)管部門的審查重點可以放在檢查其實質(zhì)變更是否符合變更控制規(guī)范，同時檢查由變更引入的新風險是否能夠由已知的風險控制措施進行控制，從而保證軟件變更后的安全有效性。

5.小結(jié)

FDA2017年發(fā)布了數(shù)字健康創(chuàng)新行動計劃（DigitalHealthInnovationActionPlan，DHIAP），并開始試行數(shù)字健康與認證試點項目，先后發(fā)布了《軟件預認證計劃:2019年測試計劃》（SoftwarePrecertificationProgram:2019TestPlan）、《開展軟件預認證試點計劃的監(jiān)管框架》（SoftwarePrecertificationProgram:RegulatoryFrameworkforConductingthePilotProgramwithinCurrentAuthorities）、《開發(fā)軟件預認證計劃的工作模式》（DevelopingaSoftwarePrecertificationProgram:AWorkingModel）等文件，目的都是支持和鼓勵數(shù)字和軟件