人工智能在醫(yī)療診治應(yīng)用中的醫(yī)學(xué)倫理研究狀況與展望

〔摘要〕人工智能在醫(yī)療診治中的應(yīng)用日益廣泛，為醫(yī)生和患者提供了更加優(yōu)質(zhì)、高效、個(gè)性化的醫(yī)療服務(wù)，但同時(shí)在數(shù)據(jù)安全、算法透明性、責(zé)任界定、公平與公正、醫(yī)患關(guān)系等方面引發(fā)一系列倫理問題?；趯?duì)現(xiàn)有研究成果的梳理，分析了人工智能診治應(yīng)用的醫(yī)學(xué)倫理研究現(xiàn)狀，并期待未來(lái)醫(yī)學(xué)倫理研究能夠更加深入地探討人工智能技術(shù)在醫(yī)療中的倫理問題，以確保人工智能在醫(yī)療領(lǐng)域的合理應(yīng)用并最大程度地保障患者權(quán)益。

〔關(guān)鍵詞〕人工智能；醫(yī)學(xué)領(lǐng)域；醫(yī)學(xué)倫理

〔中圖分類號(hào)〕R-052 〔文獻(xiàn)標(biāo)志碼〕A 〔文章編號(hào)〕1001-8565（2024）09-1068-05

DOI： 10. 12026/j. issn. 1001-8565. 2024. 09. 08

*基金項(xiàng)目：海南省自然科學(xué)基金項(xiàng)目“熱帶地區(qū)自動(dòng)體外除顫器配置策略及應(yīng)用研究”（822MS071）；海南省哲學(xué)社會(huì)科學(xué)2020年規(guī)劃課題“新冠肺炎疫情下基于“互聯(lián)網(wǎng)+”的社區(qū)疫情監(jiān)控與預(yù)防模型構(gòu)建”（HNSK20-62）；海南省普通高等學(xué)校研究生創(chuàng)新科研課題“?？谑谐扇嗽簝?nèi)心臟驟停影響因素分析及列線圖預(yù)測(cè)模型的構(gòu)建”（HYYS2022B18）

Research status and prospects of medical ethics in the application of artificial intelligence in medical diagnosis and treatment

WEN Tao1， GAO Ran2， SUN Jiale1， ZHANG Weiyu1， ZHOU Fan1， LIU Xudong2， ZHOU Qin3，ZHANG Hua2

（1. School of Public Health， Hainan Medical University， Haikou 571199， China；2. International School of Nursing， Hainan Medical University， Haikou 571199， China；3. Library， Hainan Medical University，Haikou 571199， China）

Abstract： The application of artificial intelligence （AI） in medical diagnosis and treatment is becoming increasingly widespread， providing doctors and patients with more high-quality， efficient and personalized medical services. However， it also raised a series of ethical issues such as data security， algorithm transparency， responsibility definition， fairness and justice， doctor-patient relationships， and other aspects. Based on the combing of existing research results， this paper analyzed the research status of medical ethics in the application of AI in diagnosis and treatment， as well as expected that future medical ethics research can further explore the ethical issues of AI technology in medical treatment in greater depth， thus ensuring the rational application of AI in the medical field and maximizing the protection of patients’ rights and interests.

Keywords： artificial intelligence； medical field； medical ethics

在醫(yī)療領(lǐng)域，人工智能的迅速發(fā)展正在引發(fā)診斷和治療的革命性變革，其應(yīng)用涵蓋了從疾病診斷到治療方案的制定，醫(yī)學(xué)圖像分析到疾病預(yù)測(cè)，個(gè)體化治療到智能輔助手術(shù)，甚至包括了醫(yī)患溝通等方面。人工智能為患者診治過(guò)程帶來(lái)了高效與便捷的醫(yī)療服務(wù)，然而隨之而來(lái)的還有一系列醫(yī)學(xué)倫理問題。人工智能利用大數(shù)據(jù)系統(tǒng)收集患者的個(gè)人信息和隱私數(shù)據(jù)，運(yùn)用深度學(xué)習(xí)等模型及算法進(jìn)行數(shù)據(jù)計(jì)算，進(jìn)而通過(guò)大數(shù)據(jù)整合分析等方式診治疾病。然而，這種技術(shù)的廣泛應(yīng)用也引發(fā)了一系列倫理問題，需要探討和解決的問題包括醫(yī)療數(shù)據(jù)的隱私安全、人工智能算法的透明度和責(zé)任界定，公平與公正性，以及在醫(yī)療決策中人工智能和患者之間人文關(guān)懷等。例如，人工智能在診斷和治療決策中會(huì)進(jìn)行上傳數(shù)據(jù)的處理和應(yīng)用，這樣可能會(huì)對(duì)患者的隱私和自主權(quán)產(chǎn)生影響[1]。當(dāng)然，人工智能算法的訓(xùn)練數(shù)據(jù)時(shí)可能存在未結(jié)合患者本身的健康狀況等導(dǎo)致偏差，這可能會(huì)影響對(duì)某些患者的診斷和治療等。審視當(dāng)前醫(yī)學(xué)倫理研究在人工智能診治應(yīng)用領(lǐng)域的現(xiàn)狀，同時(shí)探討未來(lái)可能的發(fā)展方向和解決方案，以期為這一新興領(lǐng)域提供更加全面和深入的倫理指引。

1 人工智能在醫(yī)學(xué)診治中的應(yīng)用現(xiàn)狀

人工智能在醫(yī)學(xué)領(lǐng)域的應(yīng)用已取得明顯成就。一是在疾病預(yù)測(cè)方面，人工智能技術(shù)能夠?qū)崿F(xiàn)早期預(yù)警，通過(guò)辨識(shí)患者的潛在風(fēng)險(xiǎn)因素和疾病風(fēng)險(xiǎn)，預(yù)測(cè)某種疾病發(fā)生的可能性，為相應(yīng)的預(yù)防和干預(yù)措施提供支持[2]?；谌斯ど窠?jīng)網(wǎng)絡(luò)的人工智能在乳腺癌等疾病的癥狀檢測(cè)與人類放射科醫(yī)師表現(xiàn)相媲美[3]。人工智能技術(shù)有助于幫助臨床醫(yī)生早期發(fā)現(xiàn)疾病跡象并提供診斷，通過(guò)分析大量醫(yī)學(xué)圖像數(shù)據(jù)，提供高精度的判斷，如肺結(jié)節(jié)的惡性判斷等[4]。二是在個(gè)性化診療方面。人工智能技術(shù)還可以根據(jù)患者的個(gè)人特征和歷史數(shù)據(jù)，提供個(gè)體化的治療建議。它通過(guò)分析龐大的醫(yī)療數(shù)據(jù)，預(yù)測(cè)患者對(duì)不同治療方案的反應(yīng)，協(xié)助醫(yī)生選擇最佳治療策略。這種個(gè)體化的治療方法更有助于提高治療效果，提供個(gè)性化針對(duì)性服務(wù)的同時(shí)有助于降低副作用和費(fèi)用。三是在手術(shù)治療方面。在一些新興的醫(yī)學(xué)應(yīng)用領(lǐng)域，人工智能驅(qū)動(dòng)的機(jī)器人在手術(shù)中的重要角色[5]，實(shí)現(xiàn)高精度的手術(shù)操作和精準(zhǔn)定位，從而降低手術(shù)風(fēng)險(xiǎn)，提供更快速、更精確的手術(shù)治療過(guò)程。例如，機(jī)器人“沃森”通過(guò)人工智能技術(shù)開發(fā)，能夠理解自然語(yǔ)言并準(zhǔn)確回答問題，提供詳細(xì)的診斷方案，為晚期癌癥患者提供快速支持。四是在護(hù)理及保健方面。一些醫(yī)療機(jī)器人還能提供監(jiān)護(hù)和護(hù)理服務(wù)，為患者提供延續(xù)性醫(yī)療服務(wù)還能協(xié)助完成日常生活活動(dòng)，提高患者的生活質(zhì)量。這些機(jī)器人能夠進(jìn)行基本的健康監(jiān)測(cè)，如測(cè)量血壓、心率、體溫等，并在檢測(cè)到異常情況時(shí)及時(shí)通知醫(yī)務(wù)人員等[6]。此外，人工智能技術(shù)在健康管理、制藥和醫(yī)療保健等領(lǐng)域也有廣泛應(yīng)用。例如，在健康管理方面，人工智能可以通過(guò)分析個(gè)人健康數(shù)據(jù)，如飲食、運(yùn)動(dòng)、睡眠等，提供個(gè)性化的健康建議和預(yù)防方案，以幫助個(gè)人維持健康狀態(tài)。在制藥領(lǐng)域，人工智能加快了新藥的研發(fā)過(guò)程，通過(guò)分析大量的生物醫(yī)學(xué)數(shù)據(jù)和藥物反應(yīng)數(shù)據(jù)，發(fā)現(xiàn)潛在的藥物靶點(diǎn)和優(yōu)化藥物化合物等；在醫(yī)療保健方面，人工智能可以輔助醫(yī)生進(jìn)行疾病診斷、治療方案制定和醫(yī)療決策，提高醫(yī)療服務(wù)的效率和準(zhǔn)確性。此外，人工智能還能在遠(yuǎn)程醫(yī)療中發(fā)揮重要作用，通過(guò)遠(yuǎn)程監(jiān)控和數(shù)據(jù)分析，提供及時(shí)的醫(yī)療建議和遠(yuǎn)程診斷服務(wù)，特別是對(duì)于偏遠(yuǎn)地區(qū)和行動(dòng)不便的患者具有重要意義[7]?？傊?，人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域發(fā)揮了重要作用，不僅取得了顯著的成就，而且應(yīng)用領(lǐng)域不斷擴(kuò)大[8]。

2 人工智能在醫(yī)療診治應(yīng)用的醫(yī)學(xué)倫理問題

2. 1 隱私和數(shù)據(jù)安全

人工智能需要大量患者數(shù)據(jù)進(jìn)行學(xué)習(xí)和訓(xùn)練的同時(shí)就涉及患者的隱私[9]，這些信息包括但不限于病歷、醫(yī)學(xué)圖像和生理參數(shù)等關(guān)鍵數(shù)據(jù)[10]。而這些隱私信息一旦泄露，在一定程度上使患者面臨社會(huì)歧視、就業(yè)機(jī)會(huì)受限或人際關(guān)系等問題。同時(shí)，暴露居住地址、行蹤或醫(yī)院住院信息可能導(dǎo)致患者身份盜竊或欺詐行為。因此，需要確?；颊邤?shù)據(jù)不被濫用或泄露的情況下使用人工智能分析數(shù)據(jù)是醫(yī)學(xué)倫理亟待解決的焦點(diǎn)問題。

在數(shù)據(jù)收集、存儲(chǔ)和處理過(guò)程中，必須嚴(yán)格遵守相關(guān)的隱私保護(hù)法規(guī)和倫理準(zhǔn)則，以確?；颊邤?shù)據(jù)不會(huì)被濫用或泄露[11]。同時(shí)，為了確保人工智能算法模型的準(zhǔn)確性和可靠性，在經(jīng)過(guò)患者同意后，采集大量數(shù)據(jù)時(shí)需進(jìn)行必要的預(yù)處理工作，包括數(shù)據(jù)清洗、標(biāo)準(zhǔn)化和去噪等，這樣才能保證患者數(shù)據(jù)的安全性。

2. 2 可解釋性和透明度

人工智能算法能夠迅速準(zhǔn)確地診斷疾病，但由于算法的復(fù)雜性導(dǎo)致可解釋性和透明度較低，醫(yī)生和患者難以理解這些算法的決策過(guò)程。而醫(yī)生需要了解人工智能作出某一診斷或治療建議的原因，以便作出更適宜的醫(yī)療決策。算法的不確定性和復(fù)雜性也限制了其診斷的應(yīng)用范圍[12]。因此，如何提高人工智能算法的可解釋性和透明度，成為醫(yī)學(xué)倫理中的重要議題。如人工智能分析患者的病歷和臨床數(shù)據(jù)，提供診斷和治療建議，醫(yī)療人員和患者可能難以理解人工智能的診斷和治療建議。

為了提高人工智能在患者診斷中的透明度和可解釋性，基于規(guī)則、決策樹或因果推理等開發(fā)型人工智能算法能夠提供清晰可解的過(guò)程[13]。此外，可視化工具和交互式界面的使用也可使醫(yī)生和患者直觀地了解算法的工作原理和結(jié)果解釋[14]。

2. 3 責(zé)任與角色的界定

當(dāng)人工智能算法輔助醫(yī)生作出的診斷有誤時(shí)，究竟是算法本身出現(xiàn)了問題，還是醫(yī)生在使用算法時(shí)出現(xiàn)了誤解，醫(yī)生是否應(yīng)對(duì)算法的結(jié)果負(fù)責(zé)，以及患者是否有權(quán)追究算法的開發(fā)者或運(yùn)營(yíng)者責(zé)任[15]，這需要明確定義醫(yī)生與算法之間的責(zé)任邊界。某些人工智能模型可能基于數(shù)據(jù)和影像分析，而忽略了真正的醫(yī)學(xué)病理，這可能會(huì)導(dǎo)致診斷錯(cuò)誤[16]。醫(yī)生需要確保對(duì)患者的關(guān)懷和利益至上，將人工智能算法視為決策支持工具，而不是替代醫(yī)生的角色[17]。

由于醫(yī)生與人工智能算法之間的角色分工和責(zé)任分配存在模糊性，制定適用于人工智能在患者治療中應(yīng)用的法律框架，并明確相關(guān)法律責(zé)任和義務(wù)，是必要的倫理和法律要求[18]。同時(shí)，建立有效的監(jiān)管機(jī)制對(duì)于人工智能在患者治療中的應(yīng)用至關(guān)重要[19]。

2. 4 公平性和公正性

由于人工智能的算法和模型是基于歷史數(shù)據(jù)進(jìn)行的，算法中存在的種族、性別、社會(huì)經(jīng)濟(jì)地位等因素的不平衡影響，可能導(dǎo)致數(shù)據(jù)集的偏倚與失衡，從而對(duì)治療方案的公正性和客觀性產(chǎn)生影響[20]，并在實(shí)際應(yīng)用中影響治療的公平性。此外，人工智能技術(shù)需要大量數(shù)據(jù)的支持，而這些數(shù)據(jù)通常來(lái)自特定醫(yī)療機(jī)構(gòu)或群體，因此可能導(dǎo)致治療方法不具有普適性，推廣受到限制。并且，由于高技術(shù)成本和技術(shù)人才短缺，一些欠發(fā)達(dá)地區(qū)或經(jīng)濟(jì)條件不好的患者可能無(wú)法獲益于人工智能技術(shù)，導(dǎo)致醫(yī)療資源的不平等分配[21]。對(duì)于患者個(gè)人而言，他們對(duì)治療方案有不同的偏好和價(jià)值觀，因此人工智能提供的方案可能與患者的意愿和預(yù)期不一致[22]。所以，確保人工智能系統(tǒng)在患者中公平應(yīng)用，避免歧視和不公平對(duì)待，是一個(gè)重要的倫理考量；人工智能在醫(yī)療中的應(yīng)用必須考慮到不同患者群體的特殊需求和背景，對(duì)醫(yī)學(xué)倫理來(lái)說(shuō)是一項(xiàng)重要的課題。因此，可以建立一套公平性評(píng)估體系，對(duì)人工智能系統(tǒng)在不同患者群體中的表現(xiàn)進(jìn)行評(píng)估，定期報(bào)告和公開評(píng)估結(jié)果，接受公眾和同行的監(jiān)督；也可以依據(jù)政府和醫(yī)療機(jī)構(gòu)制定相應(yīng)的政策，使得患者都能平等享受人工智能診療服務(wù)[23]。

2. 5 人文關(guān)懷

人文關(guān)懷也是人工智能在患者治療中的應(yīng)用所引發(fā)的關(guān)鍵性醫(yī)學(xué)倫理問題。雖然人工智能可以提供高效的診斷和治療方案，但也可能減弱醫(yī)療過(guò)程中的人文關(guān)懷[24]。人工智能在患者治療中的應(yīng)用過(guò)程中可能會(huì)降低醫(yī)患之間的面對(duì)面交流和溝通[25]，這種技術(shù)介入可能會(huì)減弱醫(yī)生與患者之間的人際互動(dòng)和情感聯(lián)系。

醫(yī)生需要注意在人工智能輔助治療中保持有效的溝通，理解患者的需求和情感，以提供個(gè)性化和溫暖的關(guān)懷[26]，并需要著重培養(yǎng)和保持人文關(guān)懷的能力，包括傾聽和關(guān)注患者的需求、理解和尊重患者的價(jià)值觀和文化背景，提供情感支持和安慰[27]。同時(shí)，需要加強(qiáng)醫(yī)學(xué)專業(yè)人員和患者的教育，以提高對(duì)人工智能在醫(yī)療領(lǐng)域中的倫理問題和人文關(guān)懷的認(rèn)知和理解。

3 結(jié)語(yǔ)

人工智能在診治應(yīng)用中取得了顯著成效，提升了診斷準(zhǔn)確性和醫(yī)療效率，但其廣泛應(yīng)用也帶來(lái)了復(fù)雜的醫(yī)學(xué)倫理挑戰(zhàn)，特別是在患者隱私保護(hù)、數(shù)據(jù)安全、公平性、責(zé)任界定和醫(yī)患關(guān)系等方面。第一，現(xiàn)有的倫理指南和法規(guī)無(wú)法完全應(yīng)對(duì)人工智能技術(shù)的快速發(fā)展，尤其在處理新型數(shù)據(jù)隱私問題和決策透明度方面，還存在不足；第二，如何讓人工智能在醫(yī)療數(shù)據(jù)應(yīng)用中實(shí)現(xiàn)公平公正，減少某些患者群體面臨不公平的診療待遇，需要持續(xù)優(yōu)化算法設(shè)計(jì)，確保其多樣性和包容性；第三，在人工智能診治過(guò)程中，責(zé)任的界定依然模糊，需進(jìn)一步明確技術(shù)提供方、醫(yī)療機(jī)構(gòu)及醫(yī)護(hù)人員的責(zé)任劃分；第四，人工智能在醫(yī)療中的廣泛應(yīng)用缺少醫(yī)患關(guān)系中的人性化關(guān)懷，技術(shù)以及機(jī)器的冷漠性與患者的情感需求之間需要找到平衡，是值得關(guān)注的倫理問題。

未來(lái)，人工智能在醫(yī)療診治領(lǐng)域的應(yīng)用將更加廣泛，在學(xué)界或?qū)⒁l(fā)以下問題的探討：第一，多學(xué)科合作與倫理框架建設(shè)問題。鼓勵(lì)多學(xué)科合作，結(jié)合倫理學(xué)、法律學(xué)、數(shù)據(jù)科學(xué)等領(lǐng)域的專家，共同探討人工智能在醫(yī)療應(yīng)用中的復(fù)雜倫理問題。第二，人機(jī)協(xié)作和醫(yī)生技能提升是未來(lái)研究的焦點(diǎn)，探討如何平衡醫(yī)生的專業(yè)判斷和人工智能系統(tǒng)的建議，以提高患者診治過(guò)程中的治療效果。研究將集中于開發(fā)協(xié)作模型，使醫(yī)生能夠在人工智能的輔助下作出更準(zhǔn)確的診斷和治療決策。第三，在倫理治理和監(jiān)督機(jī)制上，探索如何加強(qiáng)倫理治理和監(jiān)管機(jī)制，以確保人工智能在患者診治中的合理和負(fù)責(zé)任地使用。研究將集中于制定和實(shí)施有效的監(jiān)管措施，確保人工智能應(yīng)用符合倫理和法律的要求。第四，隨著人工智能技術(shù)的不斷發(fā)展，醫(yī)學(xué)倫理教育也需要不斷更新和完善。未來(lái)的研究將集中在提高醫(yī)生和醫(yī)療專業(yè)人員對(duì)人工智能在患者診治中的倫理問題的認(rèn)識(shí)和教育，探討如何將人工智能倫理問題納入醫(yī)學(xué)教育，以及如何協(xié)調(diào)人工智能和醫(yī)護(hù)人員在患者救治中的角色與權(quán)利等方面的教育和培訓(xùn)，這將有助于提高醫(yī)生對(duì)這些問題的認(rèn)識(shí)和處理能力，以確?；颊攉@得最優(yōu)質(zhì)的醫(yī)療服務(wù)。

未來(lái)的醫(yī)學(xué)倫理研究需要與人工智能技術(shù)的發(fā)展保持同步，確保人工智能在醫(yī)療領(lǐng)域的應(yīng)用既能推動(dòng)醫(yī)療技術(shù)進(jìn)步，又能最大限度地保障患者的權(quán)益，致力于構(gòu)建更安全、更可靠、更公正的人工智能醫(yī)療系統(tǒng)，為醫(yī)療行業(yè)的進(jìn)步和患者的福祉作出更大貢獻(xiàn)。

〔參考文獻(xiàn)〕

[1]鄒文卿，呂禹含. 智能醫(yī)療的倫理困境與治理：基于以病人為中心的考察[J]. 醫(yī)學(xué)與哲學(xué)，2022，43（7）： 11-16. ZOU W Q，LYU Y H. Ethical dilemma and gov‐ernance of smart healthcare：based on patientcentered investigation[J]. Medicine and Philoso‐phy，2022，43（7）： 11-16.

[2]劉伶俐，王端，王力鋼. 醫(yī)療人工智能應(yīng)用中的倫理問題及應(yīng)對(duì)[J]. 醫(yī)學(xué)與哲學(xué)，2020，41（14）： 28-32. LIU L L，WANG D，WANG L G. Ethical issues and countermeasures in the application of medical artificial intelligence[J]. Medicine and Philoso‐phy，2020，41（14）： 28-32.

[3]SWANSON K，WU E，ZHANG A，et al. From patterns to patients： Advances in clinical machine learning for cancer diagnosis，prognosis，and treatment[J]. Cell，2023，186（8）： 1772-1791.

[4]林耀彬，林勇斌，趙澤銳，等. 《人工智能在肺結(jié)節(jié)診治中的應(yīng)用專家共識(shí)（2022年版）》解讀[J]. 中國(guó)胸心血管外科臨床雜志，2023，30（5）：665-671. LIN Y B，LIN Y B，ZHAO Z R，et al. Interpretation of Chinese experts consensus on artificial intelligence assisted management for pulmonary nodule （2022 version）[J].Chinese Journal of Clinical Thoracic and Cardiovascular Surgery，2023，30（5）：665-671.

[5]AHMED S I，JAVED G，MUBEEN B，et al. Ro‐botics in neurosurgery： a literature review[J]. Journal of the Pakistan Medical Association，2018，68（2）： 258-263.

[6]MEKKI M，DELGADO A D，F(xiàn)RY A，et al. Ro‐botic rehabilitation and spinal cord injury： a narra‐tive review[J]. Neurotherapeutics，2018，15（3）：604-617.

[7]鞏高，黃文華，曹石，等. 人工智能在醫(yī)學(xué)的應(yīng)用研究進(jìn)展[J]. 中國(guó)醫(yī)學(xué)物理學(xué)雜志，2021，38（8）： 1044-1047. GONG G，HUANG W H，CAO S，et al. Ad‐vances in application of artificial intelligence in medicine[J]. Chinese Journal of Medical Physics，2021，38（8）： 1044-1047.

[8]張婕. 人工智能在醫(yī)學(xué)中的應(yīng)用現(xiàn)狀與展望[J].數(shù)字通信世界，2022（12）： 172-174. ZHANG J. Application status and prospect of ar‐tificial intelligence in medicine[J]. Digital Com‐munication World，2022（12）： 172-174.

[9]王姍姍，翟曉梅. 人工智能醫(yī)學(xué)應(yīng)用的倫理問題[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2019，32（8）： 972-976. WANG S S，ZHAl X M. Ethical issues of appli‐cations of artificial intelligence in medicine[J]. Chinese Medical Ethics，2019，32（8）： 972-976.

[10]JIANG Y，EDWARDS A V，NEWSTEAD G M. Artificial intelligence applied to breast MRI for improved diagnosis[J]. Radiology，2021，298（1）： 38-46.

[11]劉曉晨，田麗娟，王昶. 我國(guó)患者隱私保護(hù)現(xiàn)狀及對(duì)策[J]. 中國(guó)當(dāng)代醫(yī)藥，2017，24（18）： 13-15. LIU X C，TIAN L J，WANG C. Patient privacy protection situation and countermeasures in China[J]. China Modern Medicine，2017，24（18）： 13-15.

[12]RAZZAK M I，NAZ S，ZAIB A. Deep learning for medical image processing： overview，chal‐lenges and future[Z]. Ithaca： Cornell University Library，2017.

[13]HOLZINGER A，LANGS G，DENK H，et al. Causability and explainability of artificial intelli‐gence in medicine[J]. Wiley Interdiscip Rev Data Min Knowl Discov，2019，9（4）： e1312.

[14]GARCIA R，MUNZ T，WEISKOPF D. Visual analytics tool for the interpretation of hidden states in recurrent neural networks[J]. Visual Computing for Industry Biemedicine， and Art，2021，4（1）： 24.

[15]MORLEY J，MACHADO C，BURR C，et al. The ethics of AI in health care： a mapping review[J]. Social Science and Medicine，2020，260：113172.

[16]DEGRAVE A J，JANIZEK J D，LEE S I. AI for radiographic COVID-19 detection selects short‐cuts over signal[J]. Nature Machine Intelligence，2021，3（7）：610-619.

[17]譚璐，劉小紅. “人-機(jī)”醫(yī)療模式下的倫理學(xué)問題及應(yīng)對(duì)策略[J]. 中國(guó)醫(yī)學(xué)倫理學(xué)，2019，32（9）： 1127-1131. TAN L，LIU X H. Ethical issues and counter‐measures in the medical model of “human -artifi‐cial intelligence”[J]. Chinese Medical Ethics，2019，32（9）： 1127-1131.

[18]COHEN I G，AMARASINGHAM R，SHAH A，et al. The legal and ethical concerns that arise from using complex predictive analytics in health care[J]. Health Aff （Millwood），2014，33（7）： 1139-1147.

[19]丁春艷. 醫(yī)療領(lǐng)域的人工智能：法律問題與規(guī)管挑戰(zhàn)[J]. 中國(guó)醫(yī)學(xué)倫理學(xué)，2020，33（7）： 887-896. DING C Y. Artificial intelligence in healthcare：legal issues and regulatory challenges[J]. Chinese Medical Ethics，2020，33（7）： 887-896.

[20]OBERMEYER Z，POWERS B，VOGELI C，et al. Dissecting racial bias in an algorithm used to manage the health of populations[J]. Science（American Association for the Advancement of Science），2019，366（6464）： 447-453.

[21]周吉銀，劉丹，曾圣雅. 人工智能在醫(yī)療領(lǐng)域中應(yīng)用的挑戰(zhàn)與對(duì)策[J]. 中國(guó)醫(yī)學(xué)倫理學(xué)，2019，32（3）： 281-286. ZHOU J Y，LIU D，ZENG S Y. Challenges and countermeasures of application of artificial intelli‐gence in medical field[J]. Chinese Medical Eth‐ics，2019，32（3）： 281-286.

[22]ANCKER J S，EDWARDS A，NOSAL S，et al. Effects of workload，work complexity，and re‐peated alerts on alert fatigue in a clinical decision support system[J]. BMC Medical Informatics and Decision Making，2017，17（1）： 36.

[23]王旭. 大數(shù)據(jù)醫(yī)療時(shí)代的人工智能與隱私保護(hù)[J].電子產(chǎn)品世界，2019，26（6）： 79-81. Wang X. AI and privacy protection in the age of medical big data[J].Qutlook of Electronic Tech‐nology，2019，26（6）： 79-81.

[24]姚鴻萍，侯佳，張師容，等. 人工智能在醫(yī)學(xué)人才專業(yè)技能與倫理素質(zhì)培養(yǎng)中的應(yīng)用與探索[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2019，32（11）： 1477-1480. YAO H P，HOU J，ZHANG S R，et al. The ap‐plication and exploration of artificial intelligence in the cultivation of professional skills and ethics qualities of medical talents[J]. Chinese Medical Ethics，2019，32（11）： 1477-1480.

[25]SAUERBREI A，KERASIDOU A，LUCIVERO F，et al. The impact of artificial intelligence on the person-centred，doctor-patient relationship：some problems and solutions[J]. BMC Medical Informatics Decision Making，2023，23（1）： 73.

[26]SINSKY C A，BEASLEY J W. Texting while doctoring： a patient safety hazard[J]. Annals of Internal Medicine，2013，159（11）： 782-783.

[27]ARNOLD M H. Teasing out artificial intelligence in medicine： an ethical critique of artificial intelli‐gence and machine learning in medicine[J]. Journal of Bioethical Inquiry，2021，18（1）： 121-139.