• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能醫(yī)學(xué)軟件產(chǎn)品研發(fā)工藝及監(jiān)管政策研究

    2022-03-14 03:03:54許嘉驛陳卓江映珠陸兆丹李卓琦
    中國(guó)醫(yī)療器械信息 2022年21期
    關(guān)鍵詞:醫(yī)療器械醫(yī)學(xué)人工智能

    許嘉驛 陳卓 江映珠 陸兆丹 李卓琦

    1 廣東省藥品監(jiān)督管理局審評(píng)認(rèn)證中心 (廣東 廣州 510080)

    2 騰訊醫(yī)療健康(深圳)有限公司 (廣東 深圳 518057)

    內(nèi)容提要: 研究分析人工智能醫(yī)學(xué)軟件產(chǎn)品研發(fā)工藝及國(guó)內(nèi)外監(jiān)管政策、相關(guān)文獻(xiàn),為人工智能醫(yī)學(xué)軟件的注冊(cè)申報(bào)、技術(shù)審評(píng)及現(xiàn)場(chǎng)檢查相關(guān)工作提供借鑒。

    近年來(lái),隨著算法技術(shù)與大數(shù)據(jù)的興起,人工智能的熱浪席卷全球,人工智能目前已成為全球互聯(lián)網(wǎng)經(jīng)濟(jì)市場(chǎng)最為關(guān)注的一項(xiàng)新技術(shù)。第十二屆CIMDR會(huì)議提出實(shí)現(xiàn)醫(yī)療器械創(chuàng)新需注重發(fā)展“十四五”科技攻關(guān)七大重點(diǎn)領(lǐng)域。人工智能作為我國(guó)創(chuàng)新發(fā)展重點(diǎn)領(lǐng)域技術(shù)之一,為醫(yī)療器械行業(yè)創(chuàng)新注入了新的動(dòng)力。我國(guó)應(yīng)用于醫(yī)療器械的AI軟件快速發(fā)展,申請(qǐng)相關(guān)產(chǎn)品注冊(cè)審查的企業(yè)正逐年增加。本文將針對(duì)人工智能醫(yī)學(xué)軟件(以下簡(jiǎn)稱“AI醫(yī)學(xué)軟件”)研發(fā)生產(chǎn)工藝及國(guó)內(nèi)外監(jiān)管政策進(jìn)行研究分析,為AI醫(yī)學(xué)軟件的注冊(cè)申報(bào)、技術(shù)審評(píng)及現(xiàn)場(chǎng)檢查相關(guān)工作提供借鑒。

    1.AI醫(yī)學(xué)軟件概要

    1.1 AI醫(yī)學(xué)軟件

    AI醫(yī)學(xué)軟件是基于醫(yī)療器械數(shù)據(jù),采用人工智能技術(shù)實(shí)現(xiàn)其醫(yī)療用途的獨(dú)立軟件及軟件組件[1]。AI醫(yī)學(xué)軟件通過(guò)機(jī)器學(xué)習(xí)等算法技術(shù)主要運(yùn)用在醫(yī)療器械領(lǐng)域中的醫(yī)學(xué)造影、輔助決策、藥物研究、衛(wèi)生系統(tǒng)管理、病情預(yù)警等方面。隨著AI醫(yī)學(xué)軟件逐漸應(yīng)用在臨床機(jī)構(gòu),一方面可以加快醫(yī)療數(shù)據(jù)的統(tǒng)計(jì)與分析速度,為診斷工作提供參考,提高醫(yī)生的工作效率;另一方面可以幫助醫(yī)院更全面地實(shí)現(xiàn)醫(yī)療信息全覆蓋,提升醫(yī)療服務(wù)質(zhì)量。

    1.2 AI醫(yī)學(xué)軟件的研發(fā)生產(chǎn)工藝

    從醫(yī)療器械生產(chǎn)工藝上來(lái)思考,AI醫(yī)學(xué)軟件與普通醫(yī)療軟件沒(méi)有太大的區(qū)別,關(guān)鍵在于軟件產(chǎn)品的研發(fā)生產(chǎn)工藝的差異。在AI醫(yī)學(xué)軟件的研發(fā)工藝中,數(shù)據(jù)收集是區(qū)別于其他軟件產(chǎn)品的一個(gè)重要環(huán)節(jié)。AI醫(yī)學(xué)軟件產(chǎn)品的數(shù)據(jù)可類比為普通醫(yī)療器械產(chǎn)品的物料,數(shù)據(jù)收集的三個(gè)環(huán)節(jié)數(shù)據(jù)采集、數(shù)據(jù)整理、數(shù)據(jù)標(biāo)注可分別對(duì)應(yīng)于物料采購(gòu)、來(lái)料檢驗(yàn)、物料加工。

    同時(shí),考慮到軟件版本控制的重要性,生產(chǎn)環(huán)節(jié)也需加以管控,因此,生產(chǎn)過(guò)程中可根據(jù)生產(chǎn)鏈路各環(huán)節(jié)出錯(cuò)的風(fēng)險(xiǎn),評(píng)估是否增加相應(yīng)的控制手段,例如:MD5碼核驗(yàn)、試安裝檢驗(yàn)等步驟,用來(lái)進(jìn)一步確認(rèn)生產(chǎn)用軟件包的正確性。

    1.3 AI醫(yī)學(xué)軟件研發(fā)管理的特點(diǎn)

    AI醫(yī)學(xué)軟件與其他醫(yī)療軟件最大的區(qū)別是增加了數(shù)據(jù)收集和算法設(shè)計(jì)兩個(gè)環(huán)節(jié)。其中,數(shù)據(jù)收集又包含數(shù)據(jù)采集、數(shù)據(jù)整理、數(shù)據(jù)標(biāo)注、數(shù)據(jù)集構(gòu)建四個(gè)子任務(wù);算法設(shè)計(jì)則包含算法選擇、算法訓(xùn)練、算法性能評(píng)估三個(gè)子任務(wù)[2]。

    1.3.1 數(shù)據(jù)收集

    數(shù)據(jù)收集階段是決定AI產(chǎn)品是否安全有效的重要環(huán)節(jié)之一,數(shù)據(jù)規(guī)模、數(shù)據(jù)質(zhì)量和泛化能力等因素會(huì)影響算法的訓(xùn)練效果。該階段涉及企業(yè)、醫(yī)院、醫(yī)生、采集設(shè)備、采集環(huán)境等諸多外界條件,因此,控制難度和溝通成本較高;若數(shù)據(jù)脫敏,數(shù)據(jù)轉(zhuǎn)移等環(huán)節(jié)管控不到位,會(huì)帶來(lái)醫(yī)療數(shù)據(jù)泄露的風(fēng)險(xiǎn);采集出院和標(biāo)注使用的數(shù)據(jù)量較大,容易出現(xiàn)標(biāo)注追溯困難、數(shù)據(jù)管理混亂等問(wèn)題,導(dǎo)致數(shù)據(jù)統(tǒng)計(jì)產(chǎn)生偏差甚至無(wú)法統(tǒng)計(jì)的情況發(fā)生。因此,數(shù)據(jù)收集階段需在以下幾個(gè)方面進(jìn)行重點(diǎn)管理:①根據(jù)泛化要求,選擇合適的數(shù)據(jù)來(lái)源醫(yī)院。選擇符合質(zhì)量要求的數(shù)據(jù),明確數(shù)據(jù)出院的方式,明確出院前的處理規(guī)則和處理工具,做好出院前的數(shù)據(jù)信息記錄與驗(yàn)收工作,同時(shí),采集的數(shù)據(jù)應(yīng)方便隨時(shí)回溯,以備后續(xù)的統(tǒng)計(jì)分析工作。②數(shù)據(jù)出院過(guò)程中,保證數(shù)據(jù)安全。減少接觸數(shù)據(jù)的人員數(shù)量,接觸數(shù)據(jù)的人員應(yīng)留下記錄且可被追溯,避免數(shù)據(jù)丟失和被污染。③根據(jù)臨床應(yīng)用場(chǎng)景,應(yīng)配置滿足資質(zhì)要求的標(biāo)注人員按照既定規(guī)則分配數(shù)據(jù)標(biāo)注任務(wù),在預(yù)期環(huán)節(jié)進(jìn)行既定數(shù)據(jù)的標(biāo)注工作,標(biāo)注人員只需關(guān)注自己名下的標(biāo)注任務(wù)即可,保證數(shù)據(jù)標(biāo)注工作能夠被追溯。例如:交叉標(biāo)注時(shí),應(yīng)由既定數(shù)量醫(yī)生進(jìn)行標(biāo)注且不出現(xiàn)同一標(biāo)注人員重復(fù)標(biāo)注的情況、標(biāo)注醫(yī)生應(yīng)早于仲裁醫(yī)生進(jìn)行標(biāo)注、多名標(biāo)注醫(yī)生均完成標(biāo)注和一致性對(duì)比后方可進(jìn)行仲裁等;標(biāo)注時(shí),每例數(shù)據(jù)對(duì)應(yīng)的標(biāo)注人員,標(biāo)注時(shí)間、標(biāo)注結(jié)果,均應(yīng)方便回溯。

    1.3.2 算法設(shè)計(jì)

    算法設(shè)計(jì)階段是通過(guò)選擇合適的算法,使用收集后數(shù)據(jù)構(gòu)建訓(xùn)練集,調(diào)優(yōu)集進(jìn)行訓(xùn)練和調(diào)優(yōu),并通過(guò)測(cè)試集對(duì)算法進(jìn)行評(píng)估。算法模塊是整個(gè)AI醫(yī)學(xué)軟件產(chǎn)品的核心,也是軟件安全等級(jí)最高的模塊之一。一款產(chǎn)品中可能包含多個(gè)算法,不同算法之間的輸入輸出關(guān)系會(huì)直接影響最終的輔助決策結(jié)果。算法設(shè)計(jì)應(yīng)結(jié)合實(shí)際數(shù)據(jù)情況對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,為接下來(lái)的數(shù)據(jù)訓(xùn)練做好充足準(zhǔn)備。因此,算法設(shè)計(jì)階段需在以下幾個(gè)方面進(jìn)行重點(diǎn)管理:①應(yīng)選擇合適的算法,并在過(guò)程中清晰管控與記錄所使用的算法。如:結(jié)合產(chǎn)品預(yù)期用途,明確算法選用依據(jù),包括選用的理由和基本原則,明確算法的特性。②算法需輸出詳細(xì)設(shè)計(jì)方案,詳細(xì)記錄不同算法之間的輸入輸出,工作流等,以清楚的呈現(xiàn)算法的設(shè)計(jì)思路。③應(yīng)提前規(guī)劃預(yù)處理的方案,明確處理方法,并確認(rèn)好預(yù)處理所用到的軟件工具,降低預(yù)處理所用工具不規(guī)范帶來(lái)的風(fēng)險(xiǎn)。

    目前,信息化管理是AI醫(yī)學(xué)軟件發(fā)展的必經(jīng)之路,也是行業(yè)亟需補(bǔ)齊的短板之一。

    數(shù)據(jù)采集信息化工具應(yīng)滿足數(shù)據(jù)全生命周期管理的需求,將數(shù)據(jù)統(tǒng)一在系統(tǒng)中進(jìn)行管控,各環(huán)節(jié)以直觀簡(jiǎn)單的方式進(jìn)行數(shù)據(jù)調(diào)度,減少人為操作的空間,從而輕松實(shí)現(xiàn)數(shù)據(jù)的可追溯性;其次,系統(tǒng)需內(nèi)置多樣化數(shù)據(jù)管理工具,例如:脫敏工具、標(biāo)注工具等,降低數(shù)據(jù)收集所用工具不規(guī)范帶來(lái)的風(fēng)險(xiǎn);系統(tǒng)應(yīng)具備數(shù)據(jù)統(tǒng)計(jì)功能,實(shí)現(xiàn)可動(dòng)態(tài)關(guān)注數(shù)據(jù)泛化情況、數(shù)據(jù)標(biāo)注進(jìn)度等;最后,系統(tǒng)應(yīng)具備可擴(kuò)展的存儲(chǔ)能力,以滿足不同階段的數(shù)據(jù)存儲(chǔ)需求。

    算法設(shè)計(jì)管理工作可通過(guò)信息化管理工具來(lái)協(xié)助完成。例如:信息化管理工具自帶一些影像組學(xué)、深度學(xué)習(xí)算法,可幫助研發(fā)人員直接選擇和使用,產(chǎn)品研制過(guò)程中,企業(yè)也可接入自研算法,方便對(duì)所使用的算法進(jìn)行統(tǒng)一管理和記錄;通過(guò)信息化管理直觀表達(dá)算法之間的串聯(lián)關(guān)系,從而厘清設(shè)計(jì)思路,減少算法調(diào)整環(huán)節(jié)出現(xiàn)錯(cuò)誤;在管理工具中內(nèi)置不同種類的預(yù)處理、模型和驗(yàn)證等算子,提升算法訓(xùn)練過(guò)程的標(biāo)準(zhǔn)化能力,降低人為錯(cuò)誤的出現(xiàn)概率。

    因此,在產(chǎn)品研制過(guò)程中,企業(yè)應(yīng)規(guī)范化數(shù)據(jù)收集和算法設(shè)計(jì)流程,具備嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)管理,內(nèi)置算法及工具等,從而準(zhǔn)確把握醫(yī)療AI產(chǎn)品的研發(fā)訴求和滿足全周期開(kāi)發(fā)需求的環(huán)境。

    2.國(guó)內(nèi)外監(jiān)管政策研究

    2.1 AI醫(yī)學(xué)軟件國(guó)際監(jiān)管政策

    2.1.1 國(guó)際醫(yī)療器械監(jiān)管者論壇(IMDRF)

    2013年12月,國(guó)際醫(yī)療器械監(jiān)管者論壇(International Medical Device Regulators Forum,IMDRF)發(fā)布了《作為醫(yī)療設(shè)備的軟件(SADM):關(guān)鍵定義》(Software as a Medical Device(SAMD): Key Definitions)[3]。該文件首次明確了獨(dú)立軟件的定義。2014年9月,IMDRF發(fā)布了《SAMD:風(fēng)險(xiǎn)分類框架》(Software as a Medical Device(SAMD): Possible Framework for Risk Categorization and Corre-sponding Considerations)[4]。該框架對(duì)SAMD的預(yù)期用途、背景、定性的重要因素、框架與現(xiàn)有分類和設(shè)計(jì)開(kāi)發(fā)等方面進(jìn)行論述和分析,為各國(guó)監(jiān)管機(jī)構(gòu)、用戶等建立對(duì)SAMD的理解提供參考。2015年10月,IMDRF發(fā)布《關(guān)于使用IEC 62304:2006“SAMD-軟件生命周期過(guò)程”》(Statement regarding Use of IEC 62304:2006“Medical device software—Software life cycle processes”)的聲明[5]。該聲明對(duì)中國(guó)、歐盟、日本、俄羅斯、美國(guó)等司法管轄區(qū)對(duì)IEC62304:2006標(biāo)準(zhǔn)的認(rèn)可與使用作了詳細(xì)的解讀。其中,中國(guó)原食品藥品監(jiān)督管理局(以下簡(jiǎn)稱總局)將IEC62304:2006翻譯后相等于中國(guó)行業(yè)標(biāo)準(zhǔn)YY/T 0664-2008,該標(biāo)準(zhǔn)不作為強(qiáng)制性標(biāo)準(zhǔn),作為推薦性標(biāo)準(zhǔn)。2017年9月,IMDRF發(fā)布了《SAMD:臨床評(píng)估》(Software as a Medical Device(SAMD): Clinical Evaluation)[6]。該文件為全球監(jiān)管機(jī)構(gòu)對(duì)相關(guān)術(shù)語(yǔ)、風(fēng)險(xiǎn)框架、質(zhì)量管理體系原則以及臨床評(píng)估等提供框架。

    2.1.2 美國(guó)FDA

    2020年1月,美國(guó)FDA發(fā)布了《有關(guān)AI/ML醫(yī)療器械軟件的產(chǎn)品變更監(jiān)管框架》(Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning(AI/ML)-Based Software as a Medical Device(SAMD))[7]。該框架確定了上市前需補(bǔ)充申請(qǐng)或提交的軟件修改類別,保證AI/ML的SAMD的安全性和有效性。基于此框架,美國(guó)FDA于2021年1月發(fā)布了《AI/ML獨(dú)立軟件行動(dòng)計(jì)劃》(Artificial Intelligence and Machine Learning (AI/ML) Software as a Medical Device Action Plan)[8]。該計(jì)劃旨在明確AI/ML獨(dú)立軟件監(jiān)管的框架、機(jī)器學(xué)習(xí)實(shí)踐、算法監(jiān)管科學(xué)研究、產(chǎn)品真實(shí)性能、以及以患者為中心和信息透明相結(jié)合的五項(xiàng)工作和目標(biāo)。

    2.1.3 歐盟

    歐盟2018年4月制定了人工智能發(fā)展方向,主要以機(jī)器人技術(shù)作為戰(zhàn)略計(jì)劃,同時(shí)設(shè)立了人工智能高級(jí)專家組(High-Level Expert Group on Artificial Intelligence,AI HLEG)。AI HLEG致力于四個(gè)主要交付品:可信人工智能的道德準(zhǔn)則、可信人工智能的政策和投資建議、最終可信人工智能評(píng)估列表和關(guān)于政策和投資建議的部門(mén)考慮。12月歐洲委員會(huì)經(jīng)AI HLEG倡議發(fā)布了第一個(gè)《人工智能協(xié)調(diào)計(jì)劃》(Coordinated Plan on Artificial Intelligence)[9]。2020年2月,歐洲委員會(huì)發(fā)布了關(guān)于《人工智能白皮書(shū)—?dú)W洲對(duì)卓越和信任的態(tài)度》(White Paper on Artificial Intelligence: a European approach to excellence and trust)[10]。白皮書(shū)提出了各種政策選擇,建立基于風(fēng)險(xiǎn)的五級(jí)監(jiān)管體系,促進(jìn)對(duì)人工智能的吸收和處理與此類技術(shù)的某些使用有關(guān)的風(fēng)險(xiǎn)通過(guò)提出可信賴的人工智能的法律框架,實(shí)現(xiàn)建立可信任AI生態(tài)系統(tǒng)的。2021年制定了《關(guān)于人工智能的統(tǒng)一規(guī)則(人工智能法)》(Regulation of the European parliament and of the council laying down Harmonised Rules on Artificial Intelligence(ARTIFICIAL INTELLIGENCEACT))[11]。該提案明確了人工智能相關(guān)的風(fēng)險(xiǎn)和問(wèn)題的最低要求,包括人工智能系統(tǒng)應(yīng)該遵守的基于原則的要求,為歐盟體系內(nèi)國(guó)家人工智能系統(tǒng)的開(kāi)發(fā)、投放市場(chǎng)和使用制定了統(tǒng)一的規(guī)則,對(duì)個(gè)人健康和安全或基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)的“高風(fēng)險(xiǎn)”人工智能系統(tǒng)提供了堅(jiān)實(shí)的風(fēng)險(xiǎn)方法,保障人工智能系統(tǒng)全生命周期內(nèi)的安全保護(hù)的基本權(quán)利。

    以上可知,國(guó)際醫(yī)療器械監(jiān)管機(jī)構(gòu)均對(duì)AI醫(yī)學(xué)軟件的發(fā)展高度重視,目前國(guó)際上雖未有國(guó)家建立起完整的AI醫(yī)學(xué)軟件監(jiān)督管理體系,但均對(duì)AI軟件監(jiān)管工作制定了計(jì)劃與目標(biāo)。

    2.2 AI醫(yī)學(xué)軟件國(guó)內(nèi)監(jiān)管政策

    2015年8月,原食藥監(jiān)總局發(fā)布了《醫(yī)療器械軟件注冊(cè)技術(shù)審查指導(dǎo)原則(2015年第50號(hào))》[12]。該原則明確了獨(dú)立軟件與軟件組件的定義和特征,將醫(yī)學(xué)軟件按YY/T 0664《醫(yī)療器械軟件 軟件生存周期過(guò)程》[13]分成了A、B、C(低、中、高)三個(gè)風(fēng)險(xiǎn)水平等級(jí),制定了軟件及軟件更新和部分現(xiàn)成軟件描述文檔框架,為醫(yī)學(xué)軟件監(jiān)管工作明確了方向。我國(guó)人工智能醫(yī)療的概念提出較晚于其他國(guó)家。2016年開(kāi)始,我國(guó)開(kāi)始關(guān)注人工智能創(chuàng)新領(lǐng)域并出臺(tái)了一些相關(guān)政策,政策的發(fā)布和推廣推動(dòng)了醫(yī)療器械監(jiān)管部門(mén)對(duì)于AI醫(yī)療的監(jiān)管工作。2017年我國(guó)首次明確以人工智能為核心的發(fā)展規(guī)劃,明確這一新興行業(yè)的戰(zhàn)略目標(biāo)。2017年國(guó)家藥監(jiān)局陸續(xù)發(fā)布了《醫(yī)療器械網(wǎng)絡(luò)安全注冊(cè)技術(shù)審查指導(dǎo)原則(2017年第13號(hào))》[14]《移動(dòng)醫(yī)療器械注冊(cè)技術(shù)審查指導(dǎo)原則(2017年第222號(hào))》[15]。

    AI醫(yī)學(xué)軟件主要以機(jī)器學(xué)習(xí)作為核心算法,其中包含了深度學(xué)習(xí)算法技術(shù)。深度學(xué)習(xí)是具備特征學(xué)習(xí)和數(shù)據(jù)提速獲取的一種算法。隨著深度學(xué)習(xí)技術(shù)蓬勃發(fā)展,其廣泛應(yīng)用于我國(guó)AI醫(yī)學(xué)軟件。2019年7月,國(guó)家藥監(jiān)局器審中心發(fā)布了《深度學(xué)習(xí)輔助決策醫(yī)療器械軟件審評(píng)要點(diǎn)》[16]。該要點(diǎn)對(duì)深度學(xué)習(xí)輔助醫(yī)學(xué)軟件的基礎(chǔ)知識(shí)做了詳細(xì)的解讀,從審評(píng)需要重點(diǎn)關(guān)注的方面明確審評(píng)內(nèi)容,為相關(guān)產(chǎn)品的審評(píng)工作提供了可靠的建議。2020年5月,國(guó)家藥監(jiān)局發(fā)布了《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范附錄獨(dú)立軟件(2019年第43號(hào))》的通告[17]。次月,《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范獨(dú)立軟件現(xiàn)場(chǎng)檢查指導(dǎo)原則》[18]發(fā)布(于2020年7月1日施行)。這兩部法規(guī)的發(fā)布,彌補(bǔ)了我國(guó)獨(dú)立軟件現(xiàn)場(chǎng)檢查工作的不足,提高了檢查員對(duì)于軟件檢查工作的效率和準(zhǔn)確性,同時(shí),為后續(xù)AI醫(yī)學(xué)軟件現(xiàn)場(chǎng)檢查附錄的編寫(xiě)工作提供了基本框架和思路。

    2021年7月,國(guó)家藥監(jiān)局發(fā)布《人工智能醫(yī)用軟件產(chǎn)品分類界定指導(dǎo)原則(2021年第47號(hào))》[1]。該指導(dǎo)原則首次明確了AI醫(yī)學(xué)軟件及醫(yī)療器械數(shù)據(jù)的定義,對(duì)相關(guān)產(chǎn)品屬性、類別進(jìn)行了界定,加快了AI醫(yī)學(xué)軟件產(chǎn)品監(jiān)督法規(guī)的完善進(jìn)程,規(guī)范產(chǎn)品類別,推動(dòng)AI產(chǎn)業(yè)在醫(yī)療器械領(lǐng)域的高質(zhì)量發(fā)展。2022年3月,國(guó)家藥監(jiān)局發(fā)布《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則(2022年第8號(hào))》[2],該原則的發(fā)布,統(tǒng)一AI醫(yī)療器械注冊(cè)審評(píng)信息,指導(dǎo)注冊(cè)申請(qǐng)人建立AI醫(yī)療器械生存周期過(guò)程和準(zhǔn)備AI醫(yī)療器械注冊(cè)申報(bào)資料,同時(shí)規(guī)范AI醫(yī)療器械的技術(shù)審評(píng)要求。

    3.小結(jié)

    本文從AI醫(yī)學(xué)軟件概要、研發(fā)生產(chǎn)工藝、研發(fā)管理特點(diǎn)研究入手,分析AI醫(yī)學(xué)軟件與常規(guī)軟件生產(chǎn)工藝(包括研發(fā)過(guò)程)的差異,梳理出AI醫(yī)學(xué)軟件在研發(fā)管理上的特點(diǎn),為企業(yè)申報(bào)AI醫(yī)學(xué)軟件產(chǎn)品注冊(cè)以及質(zhì)量體系核查工作提供參考。

    在監(jiān)管政策方面,則分別從國(guó)際醫(yī)療器械監(jiān)管機(jī)構(gòu)(IMDRF,美國(guó)FDA,歐盟)以及國(guó)內(nèi)監(jiān)管政策進(jìn)行研究分析,厘清國(guó)內(nèi)外監(jiān)管機(jī)構(gòu)針對(duì)AI醫(yī)學(xué)軟件所指定的法規(guī)以及規(guī)范性文件的思路,特別梳理出國(guó)內(nèi)相關(guān)法規(guī)文件制訂及完善的過(guò)程,能更全面地了解國(guó)內(nèi)監(jiān)管機(jī)構(gòu)對(duì)AI醫(yī)學(xué)軟件在技術(shù)審評(píng)以及現(xiàn)場(chǎng)檢查方面的關(guān)注點(diǎn),同時(shí)也能為將來(lái)AI醫(yī)學(xué)軟件相關(guān)法規(guī)的編寫(xiě)及修訂提供借鑒。

    猜你喜歡
    醫(yī)療器械醫(yī)學(xué)人工智能
    醫(yī)學(xué)的進(jìn)步
    北京市醫(yī)療器械檢驗(yàn)所
    預(yù)防新型冠狀病毒, 你必須知道的事
    祝您健康(2020年4期)2020-05-20 15:04:20
    北京市醫(yī)療器械檢驗(yàn)所
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    北京市醫(yī)療器械檢驗(yàn)所簡(jiǎn)介
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    醫(yī)學(xué)
    日日撸夜夜添| 国产精品人妻久久久影院| 大码成人一级视频| 91久久精品国产一区二区三区| 国产精品三级大全| 亚洲高清免费不卡视频| 亚洲欧美一区二区三区国产| 国产精品一二三区在线看| 老熟女久久久| 一区二区日韩欧美中文字幕 | 久久精品国产亚洲av天美| 国产精品久久久久久久久免| 少妇熟女欧美另类| 日日摸夜夜添夜夜爱| 欧美日本中文国产一区发布| a级毛片黄视频| 中国三级夫妇交换| 日韩电影二区| 大香蕉97超碰在线| 国产免费一区二区三区四区乱码| 91精品国产国语对白视频| 伦理电影免费视频| 久久热在线av| 狂野欧美激情性xxxx在线观看| 成人18禁高潮啪啪吃奶动态图| 日本猛色少妇xxxxx猛交久久| 日韩中文字幕视频在线看片| 一级片'在线观看视频| 日韩av免费高清视频| 大码成人一级视频| 国产视频首页在线观看| 久久ye,这里只有精品| 男女边吃奶边做爰视频| 中国国产av一级| 中文字幕最新亚洲高清| 久久精品国产自在天天线| 一区在线观看完整版| 男女下面插进去视频免费观看 | 成人亚洲欧美一区二区av| 97在线人人人人妻| 一区二区三区乱码不卡18| 久久97久久精品| 午夜久久久在线观看| 亚洲精品aⅴ在线观看| 亚洲av国产av综合av卡| 亚洲精品自拍成人| 国产精品国产三级专区第一集| 永久免费av网站大全| 亚洲精品久久久久久婷婷小说| 汤姆久久久久久久影院中文字幕| 一级毛片黄色毛片免费观看视频| 亚洲经典国产精华液单| www.av在线官网国产| 少妇高潮的动态图| 国产一区二区激情短视频 | 在线观看人妻少妇| 蜜桃国产av成人99| 久久久久久久国产电影| 亚洲精品456在线播放app| 久久韩国三级中文字幕| 一本色道久久久久久精品综合| 一本—道久久a久久精品蜜桃钙片| 2022亚洲国产成人精品| 久久99精品国语久久久| 亚洲欧美一区二区三区国产| 亚洲欧美日韩卡通动漫| 久久韩国三级中文字幕| 国产精品嫩草影院av在线观看| 久久精品夜色国产| 女人被躁到高潮嗷嗷叫费观| 中文字幕亚洲精品专区| 热99久久久久精品小说推荐| 亚洲人成网站在线观看播放| kizo精华| 亚洲人成网站在线观看播放| h视频一区二区三区| 国产淫语在线视频| 国产不卡av网站在线观看| 一级爰片在线观看| 中文字幕制服av| 在线亚洲精品国产二区图片欧美| 91成人精品电影| 精品人妻一区二区三区麻豆| 18+在线观看网站| 成人无遮挡网站| 中国三级夫妇交换| 欧美日韩成人在线一区二区| 美女大奶头黄色视频| 日本免费在线观看一区| 精品国产露脸久久av麻豆| 人妻 亚洲 视频| 一个人免费看片子| 亚洲精品久久午夜乱码| 久久久久久久亚洲中文字幕| 波多野结衣一区麻豆| a 毛片基地| 男女免费视频国产| 一区二区三区四区激情视频| 国产探花极品一区二区| 午夜免费鲁丝| 80岁老熟妇乱子伦牲交| 七月丁香在线播放| 老司机影院成人| 日韩人妻精品一区2区三区| 一级毛片电影观看| 丝袜喷水一区| 亚洲伊人久久精品综合| 黑人巨大精品欧美一区二区蜜桃 | 性高湖久久久久久久久免费观看| 两性夫妻黄色片 | 免费av中文字幕在线| 自线自在国产av| 五月玫瑰六月丁香| 午夜精品国产一区二区电影| 91aial.com中文字幕在线观看| 亚洲精品一二三| 天天躁夜夜躁狠狠躁躁| 熟妇人妻不卡中文字幕| 亚洲av在线观看美女高潮| 亚洲欧美一区二区三区国产| 亚洲欧洲精品一区二区精品久久久 | 精品人妻在线不人妻| 国产乱人偷精品视频| 亚洲国产成人一精品久久久| 久久国内精品自在自线图片| 国精品久久久久久国模美| 国产欧美另类精品又又久久亚洲欧美| 日韩中字成人| 草草在线视频免费看| 各种免费的搞黄视频| 一级片'在线观看视频| 黑人欧美特级aaaaaa片| 18禁在线无遮挡免费观看视频| 9热在线视频观看99| 免费看av在线观看网站| 老熟女久久久| 国产亚洲精品第一综合不卡 | 欧美精品一区二区免费开放| 日韩大片免费观看网站| 久久精品久久精品一区二区三区| 精品久久久精品久久久| 777米奇影视久久| 99热网站在线观看| 久久久久精品久久久久真实原创| 肉色欧美久久久久久久蜜桃| 亚洲经典国产精华液单| 黄色一级大片看看| 亚洲精品美女久久av网站| 99热这里只有是精品在线观看| 99久国产av精品国产电影| 国产精品一区www在线观看| 人妻少妇偷人精品九色| 国产精品一区www在线观看| 春色校园在线视频观看| 一二三四中文在线观看免费高清| 成人18禁高潮啪啪吃奶动态图| 久久热在线av| 久久人人爽av亚洲精品天堂| 久久久国产一区二区| 免费观看a级毛片全部| videossex国产| 免费观看性生交大片5| 18禁在线无遮挡免费观看视频| 久久久久精品性色| 毛片一级片免费看久久久久| 久久热在线av| 最近最新中文字幕免费大全7| 欧美日韩精品成人综合77777| 国产精品 国内视频| 免费观看在线日韩| 亚洲第一区二区三区不卡| 欧美最新免费一区二区三区| 99国产综合亚洲精品| 国产成人精品久久久久久| 赤兔流量卡办理| 香蕉精品网在线| 在线亚洲精品国产二区图片欧美| 日韩一区二区三区影片| 午夜激情av网站| 黄色视频在线播放观看不卡| 午夜免费鲁丝| 99九九在线精品视频| 久久久久精品性色| 国产无遮挡羞羞视频在线观看| 久久人人97超碰香蕉20202| 国产成人精品一,二区| 午夜视频国产福利| www.av在线官网国产| 边亲边吃奶的免费视频| 中文欧美无线码| 久久久久视频综合| 在线观看国产h片| 一级a做视频免费观看| 免费大片18禁| 午夜老司机福利剧场| 国产精品久久久久久精品电影小说| 亚洲国产成人一精品久久久| 久久久a久久爽久久v久久| 男女午夜视频在线观看 | 亚洲经典国产精华液单| 免费观看在线日韩| 一区二区三区精品91| 少妇人妻久久综合中文| 欧美精品av麻豆av| 91精品国产国语对白视频| 国产成人aa在线观看| 国产一级毛片在线| 欧美精品高潮呻吟av久久| 国产毛片在线视频| 中文字幕另类日韩欧美亚洲嫩草| 香蕉国产在线看| 两性夫妻黄色片 | 黄色怎么调成土黄色| 亚洲综合色网址| 香蕉国产在线看| 美女内射精品一级片tv| 国产xxxxx性猛交| 亚洲精品视频女| 久久青草综合色| 男女午夜视频在线观看 | 午夜日本视频在线| 国产精品女同一区二区软件| 9热在线视频观看99| 日韩精品免费视频一区二区三区 | 久久99热这里只频精品6学生| 熟女人妻精品中文字幕| 亚洲精华国产精华液的使用体验| 两性夫妻黄色片 | 久久国产精品男人的天堂亚洲 | 97人妻天天添夜夜摸| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲中文av在线| 亚洲综合色网址| a级毛色黄片| 高清视频免费观看一区二区| 精品久久国产蜜桃| 黑人巨大精品欧美一区二区蜜桃 | 男人舔女人的私密视频| 汤姆久久久久久久影院中文字幕| 在线 av 中文字幕| 国产有黄有色有爽视频| 看免费av毛片| 亚洲精品一二三| 极品人妻少妇av视频| 国产精品一二三区在线看| 成年美女黄网站色视频大全免费| 久久午夜福利片| 国产成人午夜福利电影在线观看| 日韩av免费高清视频| 99久久人妻综合| 一区二区三区精品91| 老司机影院成人| 看十八女毛片水多多多| av国产精品久久久久影院| 日韩欧美一区视频在线观看| 亚洲精品乱久久久久久| 乱人伦中国视频| 日本与韩国留学比较| 国产精品熟女久久久久浪| 久久鲁丝午夜福利片| 日本猛色少妇xxxxx猛交久久| 久久精品国产鲁丝片午夜精品| av在线观看视频网站免费| 国产亚洲精品久久久com| 欧美激情极品国产一区二区三区 | 日韩熟女老妇一区二区性免费视频| 国产亚洲最大av| videos熟女内射| 香蕉国产在线看| 熟女人妻精品中文字幕| 高清黄色对白视频在线免费看| 男男h啪啪无遮挡| 国产成人午夜福利电影在线观看| 国产精品三级大全| av在线老鸭窝| 精品一区二区免费观看| 在线亚洲精品国产二区图片欧美| 国产一区二区三区av在线| 国产 精品1| 精品国产一区二区三区久久久樱花| 色视频在线一区二区三区| 久热这里只有精品99| 中国三级夫妇交换| 国产日韩欧美亚洲二区| 少妇人妻久久综合中文| 久久精品国产亚洲av天美| 两性夫妻黄色片 | 日本-黄色视频高清免费观看| 国产免费视频播放在线视频| 欧美激情极品国产一区二区三区 | 老司机影院毛片| 人人妻人人添人人爽欧美一区卜| 尾随美女入室| 欧美少妇被猛烈插入视频| 久久久久久久亚洲中文字幕| 国产精品国产三级国产av玫瑰| 天天躁夜夜躁狠狠躁躁| 日本午夜av视频| 久久精品夜色国产| 成人毛片60女人毛片免费| 咕卡用的链子| 免费高清在线观看日韩| 精品卡一卡二卡四卡免费| 亚洲国产日韩一区二区| 成人18禁高潮啪啪吃奶动态图| 久久精品国产亚洲av天美| 成人毛片a级毛片在线播放| 色吧在线观看| 亚洲情色 制服丝袜| 国产日韩欧美视频二区| 另类亚洲欧美激情| 只有这里有精品99| 国产av国产精品国产| 啦啦啦啦在线视频资源| 国产探花极品一区二区| 少妇被粗大猛烈的视频| 久久99热这里只频精品6学生| 欧美成人精品欧美一级黄| 欧美激情 高清一区二区三区| 精品国产乱码久久久久久小说| 久久97久久精品| 女人被躁到高潮嗷嗷叫费观| a级片在线免费高清观看视频| 高清黄色对白视频在线免费看| av免费在线看不卡| 国产成人免费无遮挡视频| av在线app专区| 成人亚洲欧美一区二区av| 国产片内射在线| 18禁观看日本| 大香蕉久久成人网| 国产精品一区www在线观看| 久久人妻熟女aⅴ| av卡一久久| 国产成人一区二区在线| 一级片'在线观看视频| 久久久久久久亚洲中文字幕| 亚洲av福利一区| 涩涩av久久男人的天堂| 精品一区二区三区四区五区乱码 | 人人妻人人澡人人爽人人夜夜| 啦啦啦中文免费视频观看日本| 日韩在线高清观看一区二区三区| 又粗又硬又长又爽又黄的视频| 老熟女久久久| 七月丁香在线播放| 精品人妻一区二区三区麻豆| 久久这里只有精品19| 国产成人欧美| 国产一区二区在线观看日韩| 亚洲精品国产av蜜桃| 日韩中字成人| 中文字幕制服av| 美女主播在线视频| 九九爱精品视频在线观看| 欧美人与性动交α欧美精品济南到 | 久久午夜综合久久蜜桃| a级片在线免费高清观看视频| 伦理电影免费视频| 免费在线观看完整版高清| 狂野欧美激情性xxxx在线观看| 另类亚洲欧美激情| 欧美性感艳星| 欧美+日韩+精品| 综合色丁香网| 日本黄色日本黄色录像| 少妇猛男粗大的猛烈进出视频| 黄色一级大片看看| 国产免费一区二区三区四区乱码| 亚洲成人av在线免费| 一二三四中文在线观看免费高清| 久久久久久久久久久免费av| 99久久综合免费| 久久久久国产网址| 国产免费视频播放在线视频| 久久精品人人爽人人爽视色| 国语对白做爰xxxⅹ性视频网站| 美女脱内裤让男人舔精品视频| 午夜老司机福利剧场| 美女脱内裤让男人舔精品视频| 亚洲精品第二区| 国产乱人偷精品视频| 欧美激情极品国产一区二区三区 | videos熟女内射| 久久久久久久久久久久大奶| 久久ye,这里只有精品| 久久精品国产a三级三级三级| 寂寞人妻少妇视频99o| 国产成人精品婷婷| 久久精品久久久久久久性| 岛国毛片在线播放| 一级a做视频免费观看| 丰满饥渴人妻一区二区三| 国产免费现黄频在线看| 亚洲内射少妇av| 涩涩av久久男人的天堂| 视频区图区小说| 久久人人爽人人片av| 少妇的逼水好多| 亚洲欧洲国产日韩| 国产精品99久久99久久久不卡 | 狠狠精品人妻久久久久久综合| 亚洲av日韩在线播放| 国产日韩一区二区三区精品不卡| 欧美成人精品欧美一级黄| 日本-黄色视频高清免费观看| 久久久久久久精品精品| 国产xxxxx性猛交| 99香蕉大伊视频| 在线免费观看不下载黄p国产| 成人亚洲欧美一区二区av| av天堂久久9| av在线老鸭窝| 亚洲色图 男人天堂 中文字幕 | 亚洲精华国产精华液的使用体验| 人人妻人人澡人人看| 999精品在线视频| 国产免费一级a男人的天堂| av女优亚洲男人天堂| 国产免费一级a男人的天堂| 亚洲欧美一区二区三区国产| 黄片无遮挡物在线观看| 内地一区二区视频在线| 国产欧美另类精品又又久久亚洲欧美| 久久精品aⅴ一区二区三区四区 | 嫩草影院入口| 日本-黄色视频高清免费观看| 曰老女人黄片| 丝袜人妻中文字幕| 亚洲精品国产av蜜桃| 亚洲综合色惰| 亚洲欧美色中文字幕在线| 国产成人精品婷婷| 中国美白少妇内射xxxbb| 视频中文字幕在线观看| 秋霞伦理黄片| 亚洲av男天堂| 999精品在线视频| 蜜臀久久99精品久久宅男| 国产黄色视频一区二区在线观看| 亚洲欧美一区二区三区黑人 | 久久国内精品自在自线图片| 亚洲在久久综合| 丰满乱子伦码专区| 少妇精品久久久久久久| 欧美日韩视频精品一区| 亚洲av免费高清在线观看| 99国产精品免费福利视频| 多毛熟女@视频| 精品一区二区三卡| 精品午夜福利在线看| av线在线观看网站| 成人国产麻豆网| 国产无遮挡羞羞视频在线观看| 丝袜人妻中文字幕| 欧美人与性动交α欧美软件 | 校园人妻丝袜中文字幕| 一级毛片 在线播放| 中文乱码字字幕精品一区二区三区| 久久国产精品大桥未久av| 91在线精品国自产拍蜜月| 日韩成人伦理影院| 黑人猛操日本美女一级片| 国产高清三级在线| 视频区图区小说| 中文字幕制服av| 亚洲av.av天堂| 精品一品国产午夜福利视频| 在线观看美女被高潮喷水网站| 亚洲经典国产精华液单| 亚洲国产色片| 欧美日韩视频精品一区| 久久久国产欧美日韩av| 国产视频首页在线观看| 国产白丝娇喘喷水9色精品| 中文字幕精品免费在线观看视频 | 欧美日韩亚洲高清精品| 爱豆传媒免费全集在线观看| 欧美老熟妇乱子伦牲交| 美女内射精品一级片tv| 久久久久久久久久久久大奶| 在线免费观看不下载黄p国产| 久久久久久久久久久久大奶| av女优亚洲男人天堂| 天天操日日干夜夜撸| 欧美精品亚洲一区二区| 如日韩欧美国产精品一区二区三区| 国产在线一区二区三区精| 大片电影免费在线观看免费| 亚洲在久久综合| 美国免费a级毛片| 1024视频免费在线观看| 久久人人97超碰香蕉20202| 亚洲av福利一区| 久久av网站| 嫩草影院入口| 久久久亚洲精品成人影院| 18禁动态无遮挡网站| 国产欧美另类精品又又久久亚洲欧美| 中国美白少妇内射xxxbb| 丝袜美足系列| 男女边摸边吃奶| 亚洲av综合色区一区| 亚洲国产精品专区欧美| 国产又色又爽无遮挡免| 久久国产亚洲av麻豆专区| 最近最新中文字幕大全免费视频 | 草草在线视频免费看| 国产淫语在线视频| 久久97久久精品| 日本黄大片高清| 久久精品久久久久久久性| 99热网站在线观看| 亚洲精华国产精华液的使用体验| 精品国产国语对白av| 男女啪啪激烈高潮av片| 韩国精品一区二区三区 | 看免费成人av毛片| 国产片特级美女逼逼视频| 日本色播在线视频| 国产色婷婷99| 一区二区三区四区激情视频| 亚洲一码二码三码区别大吗| 如何舔出高潮| 免费黄色在线免费观看| 久久精品国产自在天天线| 日韩视频在线欧美| 久久精品久久精品一区二区三区| 大话2 男鬼变身卡| 欧美日韩亚洲高清精品| 大片电影免费在线观看免费| 九草在线视频观看| 欧美日韩av久久| 免费在线观看黄色视频的| 久久精品熟女亚洲av麻豆精品| 天美传媒精品一区二区| 亚洲国产精品一区二区三区在线| 黄色 视频免费看| 中文精品一卡2卡3卡4更新| 久久久久精品人妻al黑| 精品一区二区三区视频在线| 成人黄色视频免费在线看| 国产色爽女视频免费观看| 久久ye,这里只有精品| 成人亚洲欧美一区二区av| 久久人人爽人人片av| 亚洲综合色惰| 亚洲性久久影院| 2021少妇久久久久久久久久久| 国产精品一国产av| 亚洲三级黄色毛片| 免费观看无遮挡的男女| av网站免费在线观看视频| 自线自在国产av| 伦理电影免费视频| 熟女电影av网| 亚洲精品中文字幕在线视频| 国产成人精品婷婷| 伦理电影大哥的女人| 亚洲人与动物交配视频| 亚洲国产精品专区欧美| a级片在线免费高清观看视频| 最近手机中文字幕大全| 国产精品偷伦视频观看了| 欧美精品高潮呻吟av久久| 日本爱情动作片www.在线观看| 在线看a的网站| 飞空精品影院首页| 中文精品一卡2卡3卡4更新| 久久鲁丝午夜福利片| 国产 精品1| 极品人妻少妇av视频| 国产伦理片在线播放av一区| 99久久精品国产国产毛片| 男人操女人黄网站| 精品一品国产午夜福利视频| 美女内射精品一级片tv| 亚洲精品,欧美精品| 在线观看一区二区三区激情| av国产精品久久久久影院| 精品人妻偷拍中文字幕| 极品少妇高潮喷水抽搐| 视频中文字幕在线观看| 天天操日日干夜夜撸| 亚洲图色成人| 国产高清国产精品国产三级| 99精国产麻豆久久婷婷| 国产精品久久久久久精品古装| 少妇的逼好多水| 免费av不卡在线播放| 丰满饥渴人妻一区二区三| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品美女久久av网站| 九色亚洲精品在线播放| 国产一区二区在线观看av| 人人妻人人爽人人添夜夜欢视频| 国产片特级美女逼逼视频| 搡女人真爽免费视频火全软件| 80岁老熟妇乱子伦牲交| videossex国产| 欧美日韩视频精品一区| 久久精品aⅴ一区二区三区四区 | 国产成人aa在线观看| 七月丁香在线播放| 欧美日本中文国产一区发布| 97精品久久久久久久久久精品| 女人精品久久久久毛片| 久久鲁丝午夜福利片| 99热6这里只有精品| 五月玫瑰六月丁香| 亚洲经典国产精华液单| 另类精品久久| 国产精品三级大全| 香蕉丝袜av| 如何舔出高潮|