醫(yī)療人工智能的法律倫理問題研究

趙宏瑞　楊庚齊　楊悅

摘 要：醫(yī)療人工智能的法律倫理問題是目前研究的熱點，近5年來關(guān)于醫(yī)療人工智能的法律倫理問題有了許多新的認(rèn)知，因此有必要對該領(lǐng)域的研究進行定性定量分析。從Web of Science（WoS）核心文集中檢索2018—2022年醫(yī)療人工智能的法律倫理問題領(lǐng)域738篇相關(guān)文獻，運用Citespace軟件分析相關(guān)文獻的主要數(shù)據(jù)信息，并生成可視化數(shù)據(jù)圖譜。結(jié)果顯示：哈佛大學(xué)是研究醫(yī)療人工智能法律倫理問題最多的機構(gòu)；衛(wèi)生政策、醫(yī)學(xué)信息學(xué)和特征選擇等是醫(yī)療人工智能法律倫理問題研究的熱點。結(jié)果表明：醫(yī)療人工智能法律倫理問題研究已經(jīng)成為關(guān)乎人類健康最重要的研究領(lǐng)域之一；未來醫(yī)療人工智能法律倫理問題研究的重點主要集中在責(zé)任認(rèn)定、風(fēng)險防范、隱私風(fēng)險、數(shù)據(jù)安全、倫理風(fēng)險和機器深度學(xué)習(xí)后“自主性”導(dǎo)致的風(fēng)險；全球還需要加強合作，促進AI+醫(yī)療的法律倫理問題研究發(fā)展。

關(guān)鍵詞：人工智能；醫(yī)療問題；法律倫理；文獻計量學(xué)

中圖分類號：D919.4；R-052? ? ? 文獻標(biāo)識碼：A? ? ? ?文章編號：1674-5450（2023）02-0026-07

一、引言

人工智能（AI）作為數(shù)字時代產(chǎn)業(yè)變革最重要的技術(shù)之一，已經(jīng)被廣泛應(yīng)用于各個領(lǐng)域。加之全球聯(lián)合抗擊新冠肺炎疫情的大背景，AI與醫(yī)療行業(yè)進行了快速融合。AI+醫(yī)療的應(yīng)用范圍不斷拓寬并不斷發(fā)展落地。值得注意的是，除了技術(shù)上的突破，從法律、倫理層面來說，醫(yī)療人工智能也給當(dāng)前價值體系和法律體系帶來一定的挑戰(zhàn)。

近年來，國內(nèi)外發(fā)布了大量有關(guān)人工智能在倫理方面的法律和規(guī)定。國際方面，歐盟委員會在2019年4月發(fā)布的《人工智能倫理準(zhǔn)則》中提出四項倫理準(zhǔn)則和實現(xiàn)可信賴AI的七個關(guān)鍵要素；2019年10月，美國國防創(chuàng)新委員會發(fā)布《人工智能原則：國防部人工智能應(yīng)用倫理的若干建議》，建議中明確提出人工智能應(yīng)用要遵循“負(fù)責(zé)、公平、可追蹤、可靠、可控”五大原則；最新版的歐盟《人工智能法案》于2021年推出，目前正在迅速通過審查過程，最早可能在2023年實施；2021年6月，世界衛(wèi)生組織發(fā)布《衛(wèi)生健康領(lǐng)域人工智能倫理與治理指南》，提出確保人工智能符合所有國家公共利益的六項原則、不能高估人工智能對健康的益處、機會與挑戰(zhàn)和風(fēng)險高度相關(guān)等觀點。國內(nèi)方面，從2017年開始，陸續(xù)出臺一系列有關(guān)人工智能發(fā)展的全國性文件：國務(wù)院《新一代人工智能發(fā)展規(guī)劃》（2017.7）中明確指出，要重視并加強人工智能法律倫理問題研究，建立并制定促進人工智能發(fā)展的相應(yīng)法律法規(guī)；在《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實踐指南——人工智能倫理安全風(fēng)險防范指引》（2021.1）中，針對潛在倫理安全風(fēng)險，給出安全開展人工智能研究開發(fā)、設(shè)計制造、部署應(yīng)用等相關(guān)活動的規(guī)范指引；《新一代人工智能倫理規(guī)范》（2021.9）更是將倫理規(guī)范直接寫入文件名稱中，明確提出了增進人類福祉、促進公平公正、保護隱私安全、確?？煽乜尚?、強化責(zé)任擔(dān)當(dāng)?shù)然緜惱硪?，以及包含研發(fā)、管理、使用在內(nèi)的18項具體倫理要求。學(xué)術(shù)界AI+醫(yī)療領(lǐng)域發(fā)表大量關(guān)于法律倫理問題的研究文獻。因此，有必要利用文獻計量學(xué)的方法對醫(yī)療人工智能的法律倫理問題領(lǐng)域進行定性定量分析，在現(xiàn)有研究的基礎(chǔ)上，進行研究熱點的識別。

文獻計量學(xué)分析是學(xué)術(shù)研究的有用工具，旨在通過分析某一領(lǐng)域的研究現(xiàn)狀，指導(dǎo)未來的研究方向[1]。Citespace可視化分析是對于復(fù)雜社會現(xiàn)象的一種數(shù)量化梳理，是當(dāng)代計算科學(xué)將復(fù)雜問題簡化的一種大眾傳播手段，其由陳超美開發(fā)，是以確定變量關(guān)系、通過共詞分析和共被引關(guān)系構(gòu)成可視化圖譜的應(yīng)用。文獻計量學(xué)分析現(xiàn)已運用于法學(xué)與醫(yī)學(xué)交叉的研究中，也有一些關(guān)于我國全科醫(yī)生法律保障現(xiàn)狀的文獻計量學(xué)分析。但受到時間和地域等限制性因素的影響，全球研究方向和研究重點也在改變。目前，還沒有針對智能醫(yī)療的法律和倫理問題的文獻計量學(xué)分析。為補充研究短缺的情況，有必要對醫(yī)療人工智能的法律倫理問題領(lǐng)域所發(fā)表的文獻進行定性定量分析。

二、研究對象和研究方法

（一）檢索對象與篩選

筆者于2022年9月14日檢索WoS核心合集（SCI-EXPANDED）中與醫(yī)療人工智能領(lǐng)域法律倫理問題相關(guān)的文獻。檢索式為［TS=（arti-ficial intelligence））OR TS=（machine learning）］AND［（（（TS=（law）） OR TS=（ethics）） OR TS=（le-gal））OR TS=（ethical）］AND［（（TS=（medical））OR TS=（medicine））OR TS=（health care）］。檢索時間設(shè)定為最近5年（2018—2022年），篩選文獻類型為article和review，限定語言英語。WoS檢索式見圖1。利用WoS檢索出的文獻，可以對一些重要指標(biāo)進行文獻計量學(xué)分析，如年發(fā)文量、作者、期刊、機構(gòu)、國家/地區(qū)和基金資助等。WoS檢索文獻流程見圖2。

（二）分析工具

本文所使用的分析工具為CiteSpace，它可以對文獻的知識單元進行共被引分析、共詞分析和研究合作網(wǎng)絡(luò)分析[2]。共被引分析指兩篇文獻同時出現(xiàn)在了第三篇施引文獻的參考文獻目錄中，則這兩篇文獻為共被引關(guān)系[3]。共詞分析最早由法國國家科學(xué)研究中心提出，其原理是利用網(wǎng)絡(luò)地圖的方式，把主題詞和關(guān)鍵詞聚類成簇表現(xiàn)出來[4]?？蒲泻献魇侵敢黄恼轮?，不同作者、機構(gòu)或國家/地區(qū)共存。

在共現(xiàn)知識圖譜中，圓圈代表節(jié)點，節(jié)點代表不同的標(biāo)簽，圓圈越大，節(jié)點出現(xiàn)的頻率越高，則其標(biāo)簽（本文中指關(guān)鍵詞、國家/地區(qū)，共被引文獻）出現(xiàn)的頻率就越高；節(jié)點之間的連線代表不同標(biāo)簽之間的關(guān)系，連線越粗，則關(guān)系越強[5-6]。

三、數(shù)據(jù)分析

（一）發(fā)文量分析

近5年，醫(yī)療人工智能的法律和倫理問題領(lǐng)域發(fā)文量總數(shù)為798篇。圖3描述了該領(lǐng)域2018—2022年間的年發(fā)文量。圖中清晰地展示出一個科學(xué)領(lǐng)域的研究從快速發(fā)展到穩(wěn)定的過程：從2018年開始該領(lǐng)域進入快速發(fā)展期，發(fā)文量逐年增長（從 2018 年的 36 篇逐漸增多至2021年的251篇），繼而進入穩(wěn)定期。事實上，從2021年開始發(fā)文量即在200篇上下波動。該領(lǐng)域共獲得資金支持2 865筆（見表1）。其中，排在前10名的基金（除惠康基金會外）來源都是國家機構(gòu)，除中國國家自然科學(xué)基金（排名第4位）外，其余基金均來源于發(fā)達國家。

（二）期刊分析

表2列出了2018—2022年間，該領(lǐng)域文獻所發(fā)表的期刊總數(shù)達534個。發(fā)文數(shù)量排在前10名的期刊占總發(fā)文量的36%（共15本，其中有7本期刊并列排名第9）。發(fā)文數(shù)量最多的前3個期刊分別是《BMJ開放 》《互聯(lián)網(wǎng)醫(yī)學(xué)期刊》《醫(yī)德雜志》。上述期刊大部分都是該領(lǐng)域的專業(yè)期刊或活躍期刊。

（三）科研合作分析

共計有79個國家/地區(qū)發(fā)表了該領(lǐng)域文章，圖4是國家/地區(qū)共現(xiàn)網(wǎng)絡(luò)圖譜，圖5是機構(gòu)共現(xiàn)網(wǎng)絡(luò)圖譜?？梢钥闯觯好绹暮献骰锇槭羌幽么蠛驮侥?；英國與荷蘭、葡萄牙合作密切；中國與韓國、瑞士有合作；德國與愛爾蘭、加拿大有合作；日本和南非、俄羅斯、智利、菲律賓等國家有合作。

表3列出了該領(lǐng)域發(fā)文數(shù)量最多的前10個國家，依次為美國、英國、德國、中國、加拿大、挪威、澳大利亞、法國、意大利和瑞士。表4通過分析以上國家在該領(lǐng)域發(fā)表文章的引用數(shù)據(jù)可以直觀地發(fā)現(xiàn)：引用頻次數(shù)按大小排列，排在前3名的國家是美、英、德三國。

2018—2022年，該領(lǐng)域共有4 015個研究機構(gòu)發(fā)表了文章。其中，發(fā)文數(shù)量排在前10名的機構(gòu)及其引用數(shù)據(jù)如表5所示：發(fā)表文章數(shù)量最多的前3個機構(gòu)是哈佛大學(xué)醫(yī)學(xué)院、多倫多大學(xué)、斯坦福大學(xué)。被引頻次數(shù)最多的前3個機構(gòu)是哈佛大學(xué)醫(yī)學(xué)院、麻省理工學(xué)院和牛津大學(xué)。

（四）共被引分析

文獻共被引的概念最早是由美國情報學(xué)家Small在1973年提出的，利用共被引分析可以研究文獻間的關(guān)系程度。本文的研究對象總共引用了2 929篇參考文獻。圖6顯示了引用參考文獻的聚類。對醫(yī)療人工智能的法律與倫理問題5年的聚類標(biāo)簽分析可見，該領(lǐng)域的基礎(chǔ)框架為：醫(yī)療信息學(xué)、人工神經(jīng)網(wǎng)絡(luò)、精準(zhǔn)醫(yī)療等。

從表6中可以看到，在共被引強度排名前10的期刊中，影響因子最高的3個期刊是《柳葉刀》《新英格蘭醫(yī)學(xué)雜志》《美國醫(yī)學(xué)會雜志》。共被引頻次數(shù)排名前3的分別是《美國醫(yī)學(xué)會雜志》《自然》《美國科學(xué)公共圖書館》。這些頂級期刊發(fā)表的文章反映了該研究領(lǐng)域的情況。

（五）共詞分析

共詞分析可以通過明確主題之間的聯(lián)系，進而獲得關(guān)鍵詞之間的聯(lián)系。通過對關(guān)鍵詞頻次排序可以獲取該領(lǐng)域的研究熱點；通過爆發(fā)關(guān)鍵詞在不同時間段出現(xiàn)的頻次則可明確該領(lǐng)域的前沿知識點。

圖7為該領(lǐng)域排序前15的爆發(fā)性關(guān)鍵詞，分析可得該領(lǐng)域的前沿知識點為信息技術(shù)和臨床道德規(guī)范。圖8的時間線圖譜則顯示大部分關(guān)鍵詞集中出現(xiàn)在2018年至2020年。

圖9是該領(lǐng)域的關(guān)鍵詞共現(xiàn)圖譜，圖中顯示節(jié)點數(shù)（即關(guān)鍵詞個數(shù)）799個，邊數(shù)（即關(guān)鍵詞之間的連線數(shù)）3 342條，圖中圓圈大小代表的是關(guān)鍵詞出現(xiàn)的頻次，圓圈越大，則該詞或詞組出現(xiàn)的頻次就越高。圖10的聚類圖包含了11個聚類，Q 和 S 分別為 0.7393、0.8465。其中，數(shù)字醫(yī)療經(jīng)常與風(fēng)險、醫(yī)學(xué)倫理及監(jiān)管等次一同出現(xiàn)；風(fēng)險管理、執(zhí)行、大數(shù)據(jù)及健康信息則常常與醫(yī)療服務(wù)一起出現(xiàn)；伴隨心理健康出現(xiàn)的詞是醫(yī)療決策。

四、討論

此次研究基于 WoS和 CiteSpace對醫(yī)療人工智能的法律與倫理問題領(lǐng)域的文章進行文獻計量學(xué)分析，并制作可視化圖譜，為該領(lǐng)域未來的研究方向提供了一些值得參考的信息。

關(guān)于醫(yī)療的文獻有1 957 986篇，人工智能的文獻 222 632篇。雖然醫(yī)療人工智能的法律與倫理問題文獻在以上兩類文獻中的占比不足1%，但過去5年整體呈現(xiàn)增長狀態(tài)，隨著新冠肺炎后疫情時代的到來，人們對醫(yī)療健康問題重視程度會逐漸加深，人工智能的應(yīng)用在全球范圍內(nèi)會進一步擴大，醫(yī)療人工智能的法律和倫理問題領(lǐng)域?qū)⒊蔀橐粋€逐漸發(fā)展的熱點研究領(lǐng)域?！度斯ぶ悄芩{皮書：中國醫(yī)療人工智能發(fā)展報告（2020）》指出，醫(yī)療人工智能面臨的法律問題，其核心或者出發(fā)點是對大數(shù)據(jù)與核心算法的規(guī)制，要確立規(guī)制基本原則[7]77。原因主要包括醫(yī)療AI的行為主體地位目前很難明確，直接導(dǎo)致后續(xù)的法律問題及相應(yīng)解決措施很難得到系統(tǒng)化的推進。有了規(guī)則即可合法界定行為；人們之間或國家之間一旦有了合法行為，才便于構(gòu)建穩(wěn)定的安全關(guān)系[8]247。因此，還需要努力提高研究水平，加快相應(yīng)領(lǐng)域立法，以解決該領(lǐng)域在發(fā)展過程中的一系列不確定性問題。

通過對基金資助機構(gòu)進行分析得出：歐美發(fā)達國家對醫(yī)療人工智能領(lǐng)域投入了大量的財力，基金資助投入最高的10個機構(gòu)中，只有一個屬于發(fā)展中國家，即中國國家自然科學(xué)基金，同時也是對我國的研究支持力度最大的基金。我國醫(yī)療保健和公共衛(wèi)生方面的支出隨著經(jīng)濟發(fā)展迅速增長。從某種程度上來說，醫(yī)療保健成本的增速已然超過我國經(jīng)濟增速[9]93。未來如果想在該領(lǐng)域得到進一步發(fā)展，可能還需要投入更多的財力、物力和人力。

確定研究熱點和研究前沿，有助于科研人員追蹤解決熱點問題。通過分析，該領(lǐng)域近年來的研究熱點集中在以下方面：醫(yī)療人工智能的法律人格、知識產(chǎn)權(quán)、民事主體身份、法律行為、法律責(zé)任、規(guī)則成因和醫(yī)療事故的責(zé)任劃分等。事實上，關(guān)于“機器人是人嗎”的問題在法律人格上并沒有一個明確和統(tǒng)一的認(rèn)知，人工智能機器人是否可以被賦予民事責(zé)任是一個重大的法律問題。從現(xiàn)階段的研究來看，對醫(yī)療人工智能應(yīng)用的民事主體身份尚未形成法律上的共識，因此缺乏相關(guān)法律文件對醫(yī)療人工智能的診療及應(yīng)用進行規(guī)制。

本文研究的局限性在于只檢索了2018—

2022年間發(fā)表在WoS核心合集中的英文文獻。隨著新冠肺炎后疫情時代的到來，醫(yī)療人工智能的法律領(lǐng)域?qū)⑿纬稍S多新的認(rèn)知。未來可針對這一問題做進一步的研究。

五、結(jié)論

自新冠肺炎疫情暴發(fā)以來，世界各國的醫(yī)療體系乃至經(jīng)濟貿(mào)易都受到了不同程度的沖擊和影響。在這種大背景下，人工智能在醫(yī)療領(lǐng)域應(yīng)用中所涉及的法律問題愈發(fā)凸顯，諸如隱私保護、風(fēng)險管理、人權(quán)保障、倫理道德和行業(yè)監(jiān)管等方面，均在一定程度上存在著法律問題?？梢哉f，醫(yī)療人工智能的法律與倫理問題是新冠肺炎后疫情時代一個重要的研究領(lǐng)域。該領(lǐng)域的主要研究方向集中在責(zé)任認(rèn)定、風(fēng)險防范、隱私風(fēng)險、數(shù)據(jù)安全、倫理風(fēng)險和機器深度學(xué)習(xí)后“自主性”導(dǎo)致的風(fēng)險。

綜上所述，法律問題在人工智能醫(yī)療領(lǐng)域中的作用極其重要，因為它將影響著新冠肺炎后疫情時代的經(jīng)濟社會發(fā)展。有必要針對該領(lǐng)域進行特別立法或制訂政策，這不僅是關(guān)乎個人安全的問題，更是關(guān)乎國家安全乃至全人類福祉的問題。同時，全球的相關(guān)科研力量應(yīng)該加強學(xué)科間的合作，這樣才能最大程度地規(guī)避人工智能在應(yīng)用過程中可能產(chǎn)生的法律問題和潛在危機，尊重相關(guān)方利益，促進全球科學(xué)技術(shù)的進步。另外，通過科學(xué)研究、法律教育和社會實踐，建立一整套有效的行業(yè)標(biāo)準(zhǔn)體系，以更好地支持人工智能在醫(yī)療領(lǐng)域的發(fā)展，實現(xiàn)更高水平的社會進步。

參考文獻：

［1］ Chen C， Hu Z， Liu S， et al. Emerging Trends in Regenerative Medicine： AScientometricAnalysis in CiteSpace［J］. Expert Opin Biol Ther， 2012（5）： 593-608.

［2］ Li JF， Zhang YH， Wang XS， et al. Bibliometric Analysis of Atmospheric Simulation Trends in Meteorology and Atmospheric Science Journals［J］.Croat Chem Acta， 2009（3）： 695-705.

［3］ Lee YC， Chen CM， Tsai XT. Visualizing the Knowledge Domain of Nanoparticle Drug Delivery Technologies： A Scientometric Review（2000—2016））［J］.Chinese Journal of Applied Linguistics， 2016（1）： 221-226.

［4］ Liu X， Liu N， Zhou M， et al. Bibliometric Analysis of Global Research on the Rehabilitation of Spinal Cord Injury in the Past Two Decades［J］.Ther Clin Risk Manag， 2019（15）： 1-14.

［5］ Jia ZJ， Hong B， Chen DM， et al. Chinas Growing Contribution to Global Intracranial Aneurysm Research （1991—

2012）： A Bibliometric Study［J］.PLoS One， 2014（3）： 91594.

［6］ Liu ZG， Yin YM， Liu WD， et al. Visualizing the Intellectual Structure and Evolution of Innovation Systems esearch： a Bibliometric Analysis［J］.Scientometrics， 2015（1）： 135-158.

［7］ 張旭東.人工智能藍皮書：中國醫(yī)療人工智能發(fā)展報告［M］.北京：社會科學(xué)文獻出版社，2020.

［8］ 趙宏瑞.世界文明總量論：中國的文明崛起與國安法治原理［M］.北京：中國法制出版社，2015.

［9］ Office of The Ministry of Health. National Health and Family Planning Commission China Health Statistics Yearbook 2018［M］.Beijing： Beijing Union Medical University Press， 2018.

Research on Legal Ethics of Medical Artificial Intelligence

——Based on Quantitative and Visual Analysis of Foreign Literatures

Zhao Hongrui， Yang Gengqi， YangYue

（College of Humanities， Social Sciences & Law， Harbin Institute of Technology， Harbin Heilongjiang 150001）

Abstract：The medical problem of artificial intelligence is a hot spot of current artificial intelligence research. In the past five years， there have been many fields of ethical issues in legal medical care. Therefore， it is necessary to conduct qualitative new analysis of the research field.（WoS）focused on retrieving 738 related literatures in the field of artificial intelligence legal ethics issues from 2018 to 2022， using Citespace software to analyze the main data of related literatures， and generate a visual data map. Institutions with the most ethical issues; health issues， medical science and feature selection and selection of medical artificial intelligence ethical issues research， etc. are legal results with important legal information： AI ethics research has become one of the most research fields related to human health; future The focus of medical artificial intelligence ethics research is mainly on identification， global law， privacy， data security ethical risks， and liability risks caused by the“autonomy” of investigation and research. It is necessary to increase the risk of cooperation and promote the development and research of legal and ethical issues in AI + medical care.

Key words：artificial intelligence；medical issues；law and ethics；bibliometric science

【責(zé)任編輯：趙 踐? ? 責(zé)任校對：劉北蘆】

收稿日期： 2022-11-22

基金項目： 中央網(wǎng)絡(luò)安全和信息化委員會辦公室資助項目（MB20220006）

作者簡介： 趙宏瑞，男，黑龍江哈爾濱人，哈爾濱工業(yè)大學(xué)教授，博士研究生導(dǎo)師，主要從事國家安全法與網(wǎng)絡(luò)安全法研究；楊庚齊，女，黑龍江哈爾濱人，哈爾濱工業(yè)大學(xué)社會學(xué)博士研究生，主要從事國家安全法與網(wǎng)絡(luò)安全法研究；楊悅，女，黑龍江齊齊哈爾人，哈爾濱工業(yè)大學(xué)社會學(xué)博士研究生，主要從事國家安全法與網(wǎng)絡(luò)安全法研究。