醫(yī)療人工智能算法決策的倫理風(fēng)險(xiǎn)及規(guī)制策略

〔摘要〕算法是醫(yī)療人工智能優(yōu)化患者就醫(yī)的運(yùn)行關(guān)鍵。隨著醫(yī)療人工智能算法的逐步推行應(yīng)用，其決策在生成樣態(tài)上呈現(xiàn)出數(shù)據(jù)驅(qū)動(dòng)、算法黑箱以及概率范式的主要特征，這些特征推動(dòng)了人工診療向智能診療的轉(zhuǎn)變，也同步滋生了相應(yīng)的“算法”代替醫(yī)生決策、“算法利維坦”消解患者基本權(quán)利以及醫(yī)患信任危機(jī)等現(xiàn)實(shí)問題。為有效防范醫(yī)療人工智能算法決策所產(chǎn)生的倫理風(fēng)險(xiǎn)，應(yīng)當(dāng)呼喚回歸主體本位，以醫(yī)生為主體，以算法技術(shù)為羽翼，強(qiáng)化醫(yī)生決策能力，尊重患者基本權(quán)利；推進(jìn)算法優(yōu)化，規(guī)訓(xùn)技術(shù)向善；錨定風(fēng)險(xiǎn)關(guān)鍵，加強(qiáng)醫(yī)患信任建構(gòu)。

〔關(guān)鍵詞〕醫(yī)療人工智能；算法；倫理風(fēng)險(xiǎn)；規(guī)制策略；醫(yī)患關(guān)系

〔中圖分類號(hào)〕R-052 〔文獻(xiàn)標(biāo)志碼〕A 〔文章編號(hào)〕1001-8565（2024）09-1080-07

DOI： 10. 12026/j. issn. 1001-8565. 2024. 09. 10

*基金項(xiàng)目：黑龍江省高等教育教學(xué)改革項(xiàng)目“‘習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想概論’課程建設(shè)及教學(xué)評(píng)價(jià)研究”（SJGSJ2022020）；黑龍江省省屬高等學(xué)?；究蒲袠I(yè)務(wù)費(fèi)一般項(xiàng)目“中華優(yōu)秀傳統(tǒng)文化與高校思政教育融合研究”（YWF10236230120）

The ethical risks and regulatory strategies of medical artificial intelligence algorithm decision-making

SONG Guanpeng1， WANG Qifan2

（1. School of Marxism Suihua University， Suihua 152000， China；2. Second Clinical Medical College，Heilongjiang University of Chinese Medicine， Harbin 150040， China）

Abstract： Algorithms are the operational key for medical artificial intelligence （AI） to optimize the patients seeking medical treatment. With the gradual implementation and application of medical AI algorithms， their decision-making presents the main characteristics of the data-driven， algorithmic black box， and probabilistic paradigms in generating patterns. These characteristics have driven the transformation from artificial diagnosis and treatment to intelligent diagnosis and treatment， but have also simultaneously spawned corresponding practical problems such as “algorithms” replacing doctor decision-making， “algorithmic Leviathan” resolving patients’ basic rights， and doctor-patient trust crisis. To effectively prevent ethical risks arising from medical AI algorithm decision-making， it is necessary to call for a return to the subject-centered approach with doctors as the main body and algorithm technology as the wings， strengthen the doctor’s decision-making ability， respect patients’ basic rights， promote algorithm optimization， train technology to improve， anchor risk keys， and strengthen doctor-patient trust construction.

Keywords： medical artificial intelligence； algorithm； ethical risk； regulatory strategy； doctor-patient relationship

《新一代人工智能發(fā)展規(guī)劃》指出：“人工智能逐漸成為經(jīng)濟(jì)發(fā)展的重要引擎?！盵1]應(yīng)當(dāng)大力發(fā)展“智能醫(yī)療”。醫(yī)療人工智能作為“智能醫(yī)療”的基本產(chǎn)物，因其能夠有效提升臨床工作效率與服務(wù)質(zhì)量，在很大程度上能夠緩解不同地區(qū)醫(yī)療衛(wèi)生資源分布不均的問題，意味著醫(yī)療人工智能已然成為促進(jìn)醫(yī)療衛(wèi)生領(lǐng)域智能化發(fā)展的重要驅(qū)動(dòng)力。

然而，伴隨著醫(yī)療人工智能的廣泛應(yīng)用，其“雙刃劍”屬性逐漸凸顯。盡管人工智能已經(jīng)成為醫(yī)療衛(wèi)生領(lǐng)域的“技術(shù)紅利”，但也極易滋生多方面的潛在隱患。首先，算法作為人工智能的核心要素之一，能夠幫助人工智能完成求解、計(jì)算以及推演等過程。值得注意的是，在醫(yī)療人工智能應(yīng)用中，算法正在逐漸削弱甚至替代醫(yī)生的決策權(quán)與選擇權(quán)，呈現(xiàn)出較為自動(dòng)化的“決策”特征。這一特征與傳統(tǒng)醫(yī)療實(shí)踐的基本屬性產(chǎn)生沖突，從而滋生倫理風(fēng)險(xiǎn)。

借此，探尋醫(yī)療人工智能算法決策倫理風(fēng)險(xiǎn)產(chǎn)生的邏輯理路，對(duì)其衍生的倫理風(fēng)險(xiǎn)進(jìn)行全面剖析，并探討醫(yī)療人工智能算法決策的規(guī)制策略，這對(duì)于規(guī)范醫(yī)療衛(wèi)生領(lǐng)域智能化發(fā)展等方面具有現(xiàn)實(shí)意義。

1 醫(yī)療人工智能算法決策的倫理風(fēng)險(xiǎn)“何以可能”

就其概念而言，算法是在一定的預(yù)設(shè)程序主導(dǎo)下，由計(jì)算機(jī)自動(dòng)完成特定功能、解決特定問題的計(jì)算指令，本質(zhì)上是將數(shù)據(jù)輸入轉(zhuǎn)化為信息輸出的一種方式。數(shù)字時(shí)代，算法逐漸被當(dāng)作是一種智力活動(dòng)的規(guī)則與法則。在人工智能的任何活動(dòng)中，算法都能以一種特定的“規(guī)則”進(jìn)行輸出。隨著人工智能技術(shù)的不斷發(fā)展，算法的技術(shù)賦權(quán)逐漸得到優(yōu)化，以指令代碼的形態(tài)建構(gòu)了一種求解的工作機(jī)制。

算法在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用尤為廣泛。醫(yī)療人工智能算法是算法技術(shù)在醫(yī)療衛(wèi)生領(lǐng)域的拓展，它可以根據(jù)特定的醫(yī)療場(chǎng)景，在海量醫(yī)療數(shù)據(jù)中提取出具有共性的要素，針對(duì)特定的醫(yī)療問題進(jìn)行反饋，再將所獲取的醫(yī)療數(shù)據(jù)加以匯聚，為未來一些類似的醫(yī)療問題提供參考。例如，深度學(xué)習(xí)、知識(shí)圖譜以及神經(jīng)網(wǎng)絡(luò)等算法不僅可以高效地完成疾病診斷、發(fā)展預(yù)測(cè)、藥物研發(fā)以及治療手術(shù)等活動(dòng)，還能快速匯聚醫(yī)療大數(shù)據(jù)，進(jìn)行相應(yīng)的數(shù)據(jù)匹配，形成優(yōu)劣排序的診療方案，從而提升醫(yī)療服務(wù)水平。由此可見，醫(yī)療人工智能能夠發(fā)揮相應(yīng)的功能，是由于內(nèi)嵌的算法能夠針對(duì)特定的醫(yī)療問題，按照特定的規(guī)則與流程進(jìn)行篩選和分析。

作為一種數(shù)據(jù)結(jié)構(gòu)，醫(yī)療人工智能采用了相應(yīng)的架構(gòu)規(guī)程，達(dá)到完成診療工作的目的，并以指令的形態(tài)構(gòu)建了一種獨(dú)特的“決策”機(jī)制。因此，醫(yī)療人工智能算法決策的概念隨之呈現(xiàn)。醫(yī)療人工智能算法通過深度學(xué)習(xí)不斷優(yōu)化自身架構(gòu)特征，提升技術(shù)特征的適配性，進(jìn)而提升數(shù)據(jù)處理的科學(xué)性，以期實(shí)現(xiàn)針對(duì)醫(yī)療臨床實(shí)踐的科學(xué)決策。表面上看是醫(yī)療人工智能在工作，實(shí)際上則是醫(yī)療人工智能算法在進(jìn)行決策。

然而，醫(yī)療人工智能算法決策的“算法黑箱”①特征并未完全消除，其內(nèi)部代碼模型和“決策”機(jī)制具有不透明性，本質(zhì)上的“技術(shù)理性”仍然存在。久而久之，醫(yī)療人工智能算法呈現(xiàn)出一種“類人性”，在一定程度上正在逐漸取代醫(yī)生的決策能力，沖擊疾病診斷的實(shí)際精度?！霸谳^高算力的加持下，經(jīng)由不同類型的數(shù)據(jù)運(yùn)算方式，進(jìn)行不同維度的邏輯決策，以實(shí)現(xiàn)對(duì)非線性問題的求解?！盵2]正因如此，醫(yī)療人工智能算法決策表現(xiàn)出一定的“自主性”，會(huì)在“技術(shù)理性”的加持下產(chǎn)生一種“不確定性”，從而沖擊傳統(tǒng)醫(yī)療實(shí)踐，醫(yī)療人工智能算法決策的倫理風(fēng)險(xiǎn)隨即呈現(xiàn)。

2 醫(yī)療人工智能算法決策的核心特征

2. 1 數(shù)據(jù)驅(qū)動(dòng)的二重性：數(shù)據(jù)依賴與結(jié)果不確定性

數(shù)據(jù)是算法的基礎(chǔ)，人工智能算法對(duì)數(shù)據(jù)有極強(qiáng)的依賴性。在醫(yī)療大數(shù)據(jù)建構(gòu)的數(shù)字化場(chǎng)景中，醫(yī)療人工智能算法按照既定的底層邏輯設(shè)置目標(biāo)函數(shù)模型，對(duì)超聲、心電以及放射等類型的數(shù)據(jù)組進(jìn)行分析，通過自動(dòng)化的模型分析其內(nèi)在規(guī)律特征，進(jìn)而借助算法機(jī)理進(jìn)行決策，為疾病診斷治療提供基本依據(jù)。其底層邏輯，即算法利用數(shù)據(jù)驅(qū)動(dòng)探究疾病發(fā)展的過程并生成治療策略。

醫(yī)療人工智能算法并非以人的理解能力與分析能力為支撐，而是利用算法自我訓(xùn)練的基本特點(diǎn)，實(shí)現(xiàn)調(diào)整參數(shù)權(quán)重的主要目標(biāo)。這個(gè)過程主要分為數(shù)據(jù)標(biāo)記、模型訓(xùn)練以及實(shí)際應(yīng)用三個(gè)階段。數(shù)據(jù)標(biāo)記是整個(gè)過程中的重要基礎(chǔ)。例如，在診斷心臟占位性病變時(shí)，醫(yī)療人工智能算法決策主要是通過在多模態(tài)影像中檢索相關(guān)的數(shù)據(jù)參數(shù)與疾病信息進(jìn)行全面分析，進(jìn)而生成特定的診療方案。由此可見，這種醫(yī)療人工智能算法的決策能力實(shí)際上是以“數(shù)據(jù)”作為重要支撐的，需要借助大量的數(shù)據(jù)方可分析數(shù)據(jù)的基本規(guī)律。

然而，當(dāng)醫(yī)療人工智能算法從數(shù)據(jù)中推演得到相應(yīng)結(jié)論時(shí)，不可避免地會(huì)出現(xiàn)不確定的結(jié)果。這是因?yàn)獒t(yī)療人工智能算法將所獲取的數(shù)據(jù)轉(zhuǎn)化為具有實(shí)踐性的洞察力時(shí)，實(shí)際上是一個(gè)較為困難的過程，受到數(shù)據(jù)種類、數(shù)據(jù)質(zhì)量的影響，呈現(xiàn)出一定程度上的不確定性。因此，醫(yī)療人工智能算法在數(shù)據(jù)處理方面仍然具有一定的局限性，需要借助一定的輔助方式方可提高醫(yī)療人工智能算法決策的準(zhǔn)確性。

2. 2 算法黑箱的困境：決策過程的不透明性與責(zé)任劃分

由于“算法黑箱”的存在，在醫(yī)療人工智能算法決策的過程中，數(shù)據(jù)輸入后的篩選與處理都無法從外部察覺，醫(yī)生無法也無需了解算法決策的內(nèi)在機(jī)理，進(jìn)而形成一個(gè)難以解析的黑箱。隨著大量數(shù)據(jù)的反復(fù)訓(xùn)練，算法學(xué)習(xí)的模型也會(huì)自動(dòng)優(yōu)化，其相應(yīng)的代碼參數(shù)也產(chǎn)生相應(yīng)調(diào)整，盡管能夠提升醫(yī)療人工智能算法的智能化水平，但是加劇了“數(shù)字鴻溝”。

盡管醫(yī)療人工智能算法的應(yīng)用減少了主觀錯(cuò)誤的發(fā)生，但由于“算法黑箱”的存在，算法決策并非完全公平。在數(shù)據(jù)嵌入缺乏中立的情況下，極易導(dǎo)致決策結(jié)果差之毫厘，謬之千里。例如，醫(yī)療人工智能算法在推薦治療方案時(shí)，不可避免地帶有“算法歧視”，如篩選性別、年齡以及地域等因素，導(dǎo)致對(duì)某些患者群體的治療建議產(chǎn)生偏差甚至錯(cuò)誤。這種現(xiàn)象加劇了不同群體之間的醫(yī)療資源分配不均問題，使得某些患者得不到應(yīng)有的治療，醫(yī)療責(zé)任難以溯源。由此醫(yī)療人工智能的雙刃劍屬性逐漸凸顯，既提升了臨床工作效率，也可能以此誘發(fā)新的醫(yī)療問題。

現(xiàn)階段的醫(yī)療人工智能算法決策是對(duì)人類認(rèn)知過程的模仿，也不可避免地存在相應(yīng)缺陷。盡管針對(duì)一些特定的疾病，醫(yī)療人工智能算法的診斷精準(zhǔn)程度已經(jīng)在一定程度上超越了醫(yī)生。但在應(yīng)用醫(yī)療人工智能算法輔助醫(yī)生決策所造成的醫(yī)療事故，其責(zé)任歸屬問題會(huì)導(dǎo)致決策錯(cuò)誤的風(fēng)險(xiǎn)無法被患者所接受。

當(dāng)前，針對(duì)醫(yī)療人工智能缺乏完備的法律制度保障，醫(yī)療人工智能算法決策的風(fēng)險(xiǎn)責(zé)任無法全部歸咎于設(shè)計(jì)者，也無法完全歸咎于作為技術(shù)使用者的醫(yī)生。正因如此，醫(yī)療人工智能算法決策所衍生的責(zé)任劃分與歸屬問題仍然難以明晰。

2. 3 范式轉(zhuǎn)變：從人工診療到智能診療的變革

醫(yī)療人工智能算法決策呈現(xiàn)了一種“大數(shù)據(jù)、小定律”的技術(shù)特征，能夠?qū)⒉煌募膊》纸鉃槎鄠€(gè)問題子集，再根據(jù)不同的情景環(huán)境將離散化醫(yī)療數(shù)據(jù)有效匯聚篩選，進(jìn)而針對(duì)子集問題作出相關(guān)性反饋[3]。其遵循的是一套標(biāo)準(zhǔn)“條件—結(jié)果”內(nèi)在匹配，而這種基于數(shù)據(jù)量化分析的統(tǒng)計(jì)模型即“概率范式”。在這種范式下，醫(yī)療人工智能算法能夠在可視化的數(shù)據(jù)分析中，精準(zhǔn)識(shí)別病理癥狀，確定疾病病種以及探究治療的最佳方案。算法設(shè)計(jì)者將具備一定“描述性”的分散數(shù)據(jù)定義為“大概率事件”，再由結(jié)論證成決策之合理性與科學(xué)性。

相比于傳統(tǒng)的醫(yī)生治療決策，這種嵌入概率模型的智能診療具有明顯的優(yōu)勢(shì)。首先，它能夠在很大程度上擺脫傳統(tǒng)人工診療時(shí)空條件的局限；其次在診療實(shí)效性方面具有較高的效度。因此，醫(yī)療人工智能算法將這種概率范式融入醫(yī)療決策過程中，并通過智能化的工具媒介，建構(gòu)了“智能醫(yī)療”的數(shù)字平臺(tái)，進(jìn)而以最高效率提供相關(guān)依據(jù)并給出最佳診療方案。

例如，在目前流行的數(shù)字化醫(yī)療中，“5G醫(yī)療機(jī)器人”能夠運(yùn)用網(wǎng)絡(luò)信號(hào)傳輸，經(jīng)過精準(zhǔn)計(jì)算后，在異地向醫(yī)生發(fā)出行為指令，進(jìn)而完成診斷、治療、解剖、康復(fù)等一系列醫(yī)療活動(dòng)。在應(yīng)對(duì)一些臨床難題的過程中，醫(yī)療人工智能算法經(jīng)過高精度的概率統(tǒng)計(jì)能夠生成解決方案，實(shí)現(xiàn)由傳統(tǒng)診療向智能診療的飛躍式發(fā)展。

3 醫(yī)療人工智能算法決策的倫理風(fēng)險(xiǎn)

3. 1 決策主體易位：算法決策對(duì)醫(yī)生角色的重塑

隨著智能醫(yī)療的不斷發(fā)展，越來越多的醫(yī)療人工智能算法決策輔助甚至替代醫(yī)生作出了相應(yīng)的醫(yī)療決策。在預(yù)約掛號(hào)、導(dǎo)診系統(tǒng)、疾病診斷、預(yù)后研判甚至是手術(shù)放射等方面，都存在依靠醫(yī)療人工智能算法決策的現(xiàn)象。在這種背景下，醫(yī)療人工智能算法決策的“自主性”不斷增強(qiáng)，醫(yī)生的主體地位隨之削弱。

值得注意的是，醫(yī)生始終是醫(yī)療臨床實(shí)踐中的主體。然而，醫(yī)療臨床實(shí)踐對(duì)于醫(yī)療人工智能算法的依賴加劇，極易滋生出一種“醫(yī)生無用論”的觀點(diǎn)，醫(yī)生的主體作用逐漸被質(zhì)疑，越來越多的患者逐漸傾向于信任“智能算法”，而非醫(yī)生的主體性判斷。

醫(yī)療衛(wèi)生領(lǐng)域智能化發(fā)展的現(xiàn)實(shí)圖景的構(gòu)建，旨在將人的行為與活動(dòng)以數(shù)據(jù)形式呈現(xiàn)并納入醫(yī)療人工智能算法之中，并對(duì)患者進(jìn)行實(shí)時(shí)的監(jiān)測(cè)與反饋。當(dāng)醫(yī)療人工智能的知識(shí)存儲(chǔ)、讀取能力遠(yuǎn)超于醫(yī)生時(shí)，其對(duì)部分疾病的診斷效率和精確度也大幅高于醫(yī)生[4]。在一些治療場(chǎng)景中，醫(yī)生也逐漸成為醫(yī)療人工智能算法的“附庸”。主要表現(xiàn)為醫(yī)生勤于輸入指令與操作設(shè)備，惰于精進(jìn)醫(yī)術(shù)與探究病情。

正因如此，醫(yī)生逐漸成為醫(yī)療人工智能算法的特定“附屬者”，而非具有主觀能動(dòng)性的主體。這種風(fēng)險(xiǎn)的潛在結(jié)果就是造成臨床實(shí)踐從“醫(yī)生為主體”逐漸向“以算法為主體”轉(zhuǎn)變，進(jìn)而建構(gòu)出一種“技術(shù)理性”加持的診療模式。這也意味著醫(yī)療人工智能算法不再單純只是輔助醫(yī)療的“工具”，而是走向核心的全新“主體”。

以往，醫(yī)生對(duì)醫(yī)療專業(yè)知識(shí)和信息資源占有絕對(duì)優(yōu)勢(shì)。醫(yī)患之間醫(yī)生被賦予高角色期待，也形成了醫(yī)生的高權(quán)威和高支配地位[5]。其應(yīng)用醫(yī)療人工智能的主要目標(biāo)是提升診療效率、降低勞動(dòng)強(qiáng)度以及優(yōu)化診療科學(xué)性等。然而，隨著臨床實(shí)踐對(duì)于醫(yī)療人工智能的依賴加劇，醫(yī)生的主體地位開始式微。諸如影像整理、報(bào)告分析以及病理統(tǒng)計(jì)等工作，完全可以由醫(yī)療人工智能算法生成、分析與統(tǒng)計(jì)。醫(yī)療人工智能取代醫(yī)生決策權(quán)的倫理風(fēng)險(xiǎn)逐漸凸顯。

3. 2 患者權(quán)利失效：“算法利維坦”對(duì)患者基本權(quán)益的侵蝕

權(quán)利問題始終是倫理風(fēng)險(xiǎn)探討的重要范疇?；颊咴诮邮茚t(yī)療服務(wù)的過程中，享有自主權(quán)、公平權(quán)、隱私權(quán)等合法權(quán)利。然而，在“算法利維坦”①的影響下，人們無法有效應(yīng)對(duì)其衍生的“技術(shù)統(tǒng)治”現(xiàn)象，無法實(shí)現(xiàn)對(duì)技術(shù)的有效規(guī)制與治理，進(jìn)而導(dǎo)致患者逐漸失去了其基本權(quán)益。醫(yī)療人工智能在使用中，可能會(huì)因?yàn)閿?shù)據(jù)嵌入中的性別、年齡等因素導(dǎo)致不公平現(xiàn)象。例如，不同性別和年齡的患者在醫(yī)療服務(wù)中可能會(huì)面臨算法偏見，從而無法公平地接受醫(yī)療服務(wù)。公平權(quán)利的喪失主要源于醫(yī)療人工智能將患者賦予“現(xiàn)實(shí)人”與“用戶”的雙重身份，這導(dǎo)致患者的基本權(quán)利因?yàn)椤按嬖谛螒B(tài)”的差異而發(fā)生異化，需要付出超越以往的代價(jià)加以彌合。

數(shù)字時(shí)代，醫(yī)療大數(shù)據(jù)在醫(yī)療人工智能中占據(jù)重要地位，已經(jīng)逐漸成為 “智能醫(yī)療”的戰(zhàn)略性資源[6]，醫(yī)療人工智能算法通過“持續(xù)控制”患者的“用戶”身份，掌握醫(yī)療大數(shù)據(jù)，可能導(dǎo)致患者信息的泄露。由于“數(shù)字鴻溝”的存在，社會(huì)中存在“數(shù)據(jù)孤島”現(xiàn)象，知情同意原則尚無法有效保障患者信息數(shù)據(jù)獲取的合法性。相反，一些代碼化的信息更容易突破時(shí)空隔閡，在數(shù)字空間被無止境地復(fù)制傳播?；颊叩慕】禒顩r及其附帶的“科研價(jià)值”被算法計(jì)入，陷入信息脫敏處理困境。與此同時(shí)，受到“算法黑箱”的影響，患者在享有醫(yī)療資源的知情權(quán)方面也面臨新的困境。這是由于醫(yī)療數(shù)據(jù)樣本偏差、算法規(guī)則瑕疵以及算法設(shè)計(jì)者價(jià)值偏見等原因，有關(guān)種族、基因、地域等因素嵌入到醫(yī)療人工智能算法中，進(jìn)一步加劇了知情權(quán)的缺失。在這種背景下，患者的知情權(quán)在算法復(fù)雜結(jié)構(gòu)的影響下難以實(shí)現(xiàn)。醫(yī)療人工智能算法作為一種特定的規(guī)則，作出決策是依據(jù)統(tǒng)計(jì)學(xué)的相關(guān)關(guān)系，而非因果關(guān)系，其輸出結(jié)果難以憑借常理推斷，更難以重現(xiàn)。

現(xiàn)代醫(yī)學(xué)將“循證”作為一種重要方法，重視醫(yī)生的專業(yè)技能和診斷依據(jù)，臨床決策也應(yīng)當(dāng)遵循相應(yīng)的現(xiàn)象表征及其因果間的內(nèi)在聯(lián)系。然而，受到“算法利維坦”的影響，醫(yī)生只能通過觀察臨床數(shù)據(jù)來驗(yàn)證醫(yī)療人工智能算法的決策結(jié)果。這顯然在很大程度上超出了醫(yī)生的能力范圍，在“不確定”的情況下，患者無法得到確切信息，從而逐漸喪失權(quán)利。

3. 3 醫(yī)患信任的新挑戰(zhàn)：表象緩解下的深層危機(jī)

構(gòu)建和諧的醫(yī)患關(guān)系是醫(yī)療衛(wèi)生領(lǐng)域的重要課題，而傳統(tǒng)醫(yī)患關(guān)系危機(jī)的主要原因在于信息不對(duì)稱。隨著醫(yī)療人工智能的廣泛應(yīng)用，智能醫(yī)療提供了便捷、高效以及科學(xué)診療服務(wù)的同時(shí)，也拓寬了患者獲取信息的渠道。然而，受到醫(yī)療人工智能算法的固定規(guī)則影響，算法決策會(huì)導(dǎo)致診斷結(jié)果存在不確定性，加之“技術(shù)理性”的深度嵌入以及功利主義導(dǎo)向裹挾，這都會(huì)對(duì)醫(yī)患關(guān)系產(chǎn)生新的沖擊。

在傳統(tǒng)醫(yī)患關(guān)系中，醫(yī)生在知識(shí)儲(chǔ)備、臨床操作以及決策建議等方面占據(jù)主導(dǎo)地位。然而，隨著醫(yī)療人工智能的應(yīng)用，患者逐漸從“信任醫(yī)生”向“信任智能”轉(zhuǎn)變，導(dǎo)致醫(yī)生的決策建議受到患者質(zhì)疑。同時(shí)，隨著醫(yī)療人工智能技術(shù)的不斷完善，算法決策的精準(zhǔn)性與科學(xué)性不斷優(yōu)化，使得患者更容易相信“用數(shù)據(jù)說話”的醫(yī)療人工智能而非醫(yī)生。然而，醫(yī)療人工智能的決策邏輯很難體察患者微妙與無形的心理變化，被動(dòng)型的診療過程還可能會(huì)導(dǎo)致醫(yī)學(xué)黃金時(shí)代的消解，造成的消極影響難以預(yù)見[7]。

在一些特定的情況下，醫(yī)生或許并不需要對(duì)疾病癥狀與治療方案進(jìn)行闡述，而需要重點(diǎn)解釋“為什么醫(yī)生比醫(yī)療人工智能可信”。與此同時(shí)，醫(yī)療人工智能診療方案的應(yīng)用雖然提供了便捷和科學(xué)的服務(wù)，但也在潛移默化地改變著患者的行為習(xí)慣與思想認(rèn)知，帶來了新的挑戰(zhàn)。然而，由于“算法歧視”的存在，醫(yī)療人工智能在應(yīng)用過程中不斷重構(gòu)患者所處的環(huán)境，加劇了患者的“技術(shù)主義”傾向。作為“技術(shù)主義”的代表性產(chǎn)物，醫(yī)療人工智能會(huì)誘導(dǎo)患者對(duì)醫(yī)生脫離技術(shù)工具的診斷能力產(chǎn)生懷疑。雖然醫(yī)療人工智能算法的“投其所好”增加了患者的接受度與信任度，但同時(shí)也加劇了對(duì)醫(yī)生的不信任。

目前，雖然有觀點(diǎn)認(rèn)為醫(yī)療人工智能可以成為“修復(fù)”醫(yī)患關(guān)系的“工具”，但值得注意的是，醫(yī)療人工智能算法決策并不能代替“人際交往”。換言之，醫(yī)生與患者之間的交流無法以“人機(jī)交互”的方式加以替代。醫(yī)療人工智能雖然提高了診療效率和準(zhǔn)確性，但也可能導(dǎo)致醫(yī)生與患者之間的溝通減少，進(jìn)而影響醫(yī)患關(guān)系的質(zhì)量。盡管醫(yī)療人工智能拓寬了醫(yī)生的診療工具范疇，但其應(yīng)用過程中的算法偏見和技術(shù)不透明性，可能會(huì)加劇患者對(duì)醫(yī)生的不信任。因此，醫(yī)療人工智能可以優(yōu)化某些診療環(huán)節(jié)，但并不能徹底解決醫(yī)患關(guān)系中的深層次矛盾。

4 醫(yī)療人工智能算法決策倫理風(fēng)險(xiǎn)的規(guī)制策略

4. 1 回歸醫(yī)生主體，提升決策效能

從醫(yī)學(xué)發(fā)展史分析，醫(yī)生始終都是臨床實(shí)踐的主體，能夠憑借自身的豐富經(jīng)驗(yàn)與診療能力，完成對(duì)各種疾病風(fēng)險(xiǎn)的判斷并給出治療方案。然而，醫(yī)療人工智能的介入，在一定程度上動(dòng)搖了醫(yī)生的主體地位。對(duì)醫(yī)療人工智能算法治理時(shí)要明確人在算法治理中處于主體地位[8]，始終保持醫(yī)生作為決策的主體。

第一，強(qiáng)調(diào)醫(yī)生主導(dǎo)，重視主體判斷。醫(yī)學(xué)學(xué)科的實(shí)踐性特征決定了臨床實(shí)踐的主體是醫(yī)生。盡管醫(yī)療人工智能算法能夠在一定程度上“替代”醫(yī)生進(jìn)行決策，但其本質(zhì)上是以“工具”的身份在臨床加以應(yīng)用，仍然無法從本質(zhì)上取代醫(yī)生在臨床實(shí)踐中的主體地位。因此，在臨床實(shí)踐中醫(yī)生仍然要保持“親力親為”，全面參與到診療全過程中。醫(yī)療人工智能應(yīng)作為輔助工具，助力優(yōu)化診療效果，確保最終決策權(quán)由醫(yī)生掌握。

第二，減少算法依賴，拓展主體實(shí)踐。盡管長(zhǎng)期使用醫(yī)療人工智能能夠提升醫(yī)療服務(wù)效率，算法通過機(jī)器訓(xùn)練獲取數(shù)據(jù)并完善結(jié)構(gòu)，但這可能加劇醫(yī)生對(duì)其依賴，進(jìn)而削弱醫(yī)生的主體性作用。醫(yī)生應(yīng)在臨床實(shí)踐中與醫(yī)療人工智能產(chǎn)生交互，獲取支撐性的臨床診斷依據(jù)和相關(guān)知識(shí)技能，與患者進(jìn)行針對(duì)性交流，豐富自身的診療經(jīng)驗(yàn)，而不是僅依賴醫(yī)療人工智能。

第三，保持全程參與，夯實(shí)主體責(zé)任。醫(yī)療人工智能介入臨床實(shí)踐為傳統(tǒng)診療過程增添了新的主體。在多主體環(huán)境下，應(yīng)當(dāng)通過相應(yīng)的干預(yù)措施，使多方主體參與到共享決策中，增加對(duì)患者的人文關(guān)懷，實(shí)現(xiàn)醫(yī)療人工智能算法決策的程序透明。合理預(yù)測(cè)并及時(shí)告知決策結(jié)果的可能性，引導(dǎo)患者在醫(yī)療人工智能參與下做出合理決策。同時(shí)，要關(guān)注患者的臨床表現(xiàn)和反饋，建立患者在使用醫(yī)療人工智能過程中的心理疏導(dǎo)機(jī)制，確保醫(yī)生在應(yīng)用醫(yī)療人工智能過程中的責(zé)任落實(shí)。

4. 2 規(guī)訓(xùn)技術(shù)向善，重塑患者權(quán)利

在醫(yī)療人工智能領(lǐng)域，患者生命健康等相關(guān)權(quán)利的實(shí)現(xiàn)依賴于數(shù)據(jù)匯集與代碼嵌入。然而，算法技術(shù)的應(yīng)用壁壘以及信息不對(duì)稱的鴻溝，致使患者在醫(yī)療人工智能算法所“支配”的“算法利維坦”主導(dǎo)下，難以通過主觀行為應(yīng)對(duì)技術(shù)風(fēng)險(xiǎn)。因此，有必要從技術(shù)方面著手，推動(dòng)醫(yī)療人工智能算法的優(yōu)化，以應(yīng)對(duì)其帶來的倫理風(fēng)險(xiǎn)，保障患者的基本權(quán)益。

第一，強(qiáng)化算法價(jià)值導(dǎo)向，保障算法決策始終服務(wù)于人。面對(duì)醫(yī)療人工智能算法決策對(duì)于患者基本權(quán)利的威脅，在設(shè)計(jì)與應(yīng)用過程中堅(jiān)持以人為本的價(jià)值導(dǎo)向，完善醫(yī)療人工智能算法的“知識(shí)”“邊界”以及“價(jià)值基準(zhǔn)”等方面，并進(jìn)一步界定患者的數(shù)據(jù)自主權(quán)、隱私權(quán)、知情權(quán)以及使用權(quán)等權(quán)利。通過明確患者的權(quán)利范疇，實(shí)現(xiàn)算法技術(shù)的“馴化”，使醫(yī)療人工智能算法具有“道德正義”。

第二，規(guī)范倫理治理，優(yōu)化算法訓(xùn)練。隨著人工智能的不斷發(fā)展，“道德圖靈測(cè)試”的出現(xiàn)提出了一種新型的人工智能倫理問題，“道德圖靈測(cè)試”通過測(cè)試人工智能，試圖將人工智能打造成一個(gè)“道德行為者”，具備識(shí)別道德基準(zhǔn)的同時(shí)也能夠指引決策方向，形成一種“類人”的情感關(guān)系[9]?；凇暗赖聢D靈測(cè)試”，可以發(fā)揮醫(yī)療人工智能算法的“深度學(xué)習(xí)”特征，在臨床案例與實(shí)際應(yīng)用中反復(fù)訓(xùn)練，形成“正負(fù)向反饋機(jī)制”，即醫(yī)務(wù)人員要對(duì)醫(yī)療人工智能算法決策進(jìn)行倫理判斷，再經(jīng)醫(yī)生反饋于醫(yī)療人工智能，進(jìn)而通過技術(shù)訓(xùn)練建構(gòu)新的智能倫理范式，使醫(yī)療人工智能逐漸符合醫(yī)學(xué)倫理規(guī)范。

第三，加強(qiáng)算法科學(xué)治理，構(gòu)筑算法風(fēng)險(xiǎn)防治體系。針對(duì)醫(yī)療人工智能算法決策的倫理風(fēng)險(xiǎn)，應(yīng)當(dāng)構(gòu)筑完備的治理體系，構(gòu)建多元協(xié)同的算法治理范式，建立行業(yè)化、標(biāo)準(zhǔn)化的倫理規(guī)范，促進(jìn)多元主體將法治化的倫理規(guī)范應(yīng)用于算法決策，保障患者的數(shù)據(jù)安全，并督促算法設(shè)計(jì)者把好醫(yī)療人工智能算法設(shè)計(jì)的“審核關(guān)”。針對(duì)醫(yī)療人工智能算法風(fēng)險(xiǎn)的監(jiān)測(cè)預(yù)警與跟蹤研判，形成必要的風(fēng)險(xiǎn)反饋機(jī)制，制定應(yīng)急預(yù)案，重視并加強(qiáng)安全性審查，完善風(fēng)險(xiǎn)反饋機(jī)制與應(yīng)對(duì)措施，降低技術(shù)風(fēng)險(xiǎn)帶來的倫理影響，確保醫(yī)療人工智能算法的安全可靠。

4. 3 倡導(dǎo)醫(yī)學(xué)倫理理念，構(gòu)建信任體系

數(shù)字時(shí)代，醫(yī)療人工智能算法決策推動(dòng)了傳統(tǒng)醫(yī)患“主—從”關(guān)系逐漸向“醫(yī)生—智能—患者”的新關(guān)系模式轉(zhuǎn)變，減少了醫(yī)患之間的交流溝通，重塑了醫(yī)患之間多層面的責(zé)任義務(wù)，為醫(yī)患關(guān)系帶來了新的挑戰(zhàn)。醫(yī)生與醫(yī)學(xué)人工智能共同參與醫(yī)療決策過程，會(huì)使相關(guān)的責(zé)任歸屬問題變得尤為復(fù)雜[10]。應(yīng)對(duì)醫(yī)療人工智能算法決策對(duì)醫(yī)患關(guān)系的沖擊，應(yīng)當(dāng)借鑒中華優(yōu)秀傳統(tǒng)文化中的醫(yī)學(xué)倫理思想，重拾醫(yī)者的仁愛之心和濟(jì)世情懷，結(jié)合關(guān)鍵性表征審視醫(yī)患關(guān)系，充分體現(xiàn)對(duì)患者的尊重，打破醫(yī)患間的信任壁壘。

第一，樹立醫(yī)患共同體意識(shí)，加強(qiáng)思想認(rèn)同。隨著醫(yī)療人工智能算法的應(yīng)用，患者對(duì)醫(yī)生的“信任”逐漸轉(zhuǎn)變?yōu)閷?duì)“算法”的依賴，可能導(dǎo)致醫(yī)患關(guān)系的疏遠(yuǎn)。因此，醫(yī)生與患者都應(yīng)當(dāng)樹立醫(yī)患共同體意識(shí)。醫(yī)生應(yīng)強(qiáng)化責(zé)任意識(shí)，不斷提升對(duì)醫(yī)療人工智能應(yīng)用的熟練度，發(fā)揮專業(yè)特長(zhǎng)；患者應(yīng)提升對(duì)醫(yī)療人工智能的認(rèn)知和信任，幫助理解算法決策的內(nèi)在機(jī)理。通過數(shù)字媒體平臺(tái)加強(qiáng)醫(yī)療人工智能應(yīng)用的宣傳與普及，可以增進(jìn)醫(yī)患之間的溝通和理解。

第二，劃清責(zé)任歸屬，規(guī)避矛盾沖突。醫(yī)療人工智能算法決策的責(zé)任歸屬是醫(yī)療人工智能治理的重要問題，需完善責(zé)任意識(shí)以防范算法風(fēng)險(xiǎn)與“救濟(jì)”實(shí)施。應(yīng)當(dāng)設(shè)立醫(yī)療人工智能算法設(shè)計(jì)的行業(yè)標(biāo)準(zhǔn)，提高醫(yī)療人工智能算法的科學(xué)性與規(guī)范性，在疾病診斷與健康干預(yù)過程中，醫(yī)療人工智能算法發(fā)揮“產(chǎn)品作用”，在經(jīng)過相關(guān)認(rèn)定后，可以視情況實(shí)行無過錯(cuò)責(zé)任原則，將算法責(zé)任讓渡于醫(yī)生責(zé)任。還應(yīng)明確醫(yī)療人工智能算法責(zé)任主體，明確算法設(shè)計(jì)者的責(zé)任，無論是算法設(shè)計(jì)缺陷，或是智能技術(shù)局限，甚至是醫(yī)療人工智能算法設(shè)計(jì)者未能有效研判的風(fēng)險(xiǎn)，都要適用“嚴(yán)格”法律責(zé)任，視后果由算法設(shè)計(jì)者承擔(dān)相應(yīng)責(zé)任。

第三，完善職能部門監(jiān)管，減少風(fēng)險(xiǎn)隱患。政府在醫(yī)患關(guān)系改善中擔(dān)任“調(diào)解者”的角色，具有重要作用。在出臺(tái)相關(guān)政策法規(guī)的同時(shí)，也應(yīng)對(duì)醫(yī)療人工智能算法的源頭進(jìn)行監(jiān)管，規(guī)范算法應(yīng)用。要加強(qiáng)對(duì)相關(guān)醫(yī)療人工智能企業(yè)及研究機(jī)構(gòu)的監(jiān)管，明確算法設(shè)計(jì)者及開發(fā)團(tuán)隊(duì)的倫理義務(wù)，避免惡意營(yíng)銷與違規(guī)設(shè)計(jì)，增強(qiáng)企業(yè)的責(zé)任意識(shí)。還要建立保護(hù)患者隱私的制度，細(xì)化數(shù)據(jù)保護(hù)范圍，制定醫(yī)療隱私安全保護(hù)管理規(guī)范，構(gòu)建醫(yī)療數(shù)據(jù)安全保護(hù)平臺(tái)，設(shè)立專門部門與專職人員進(jìn)行監(jiān)督，確保數(shù)據(jù)安全。

5 結(jié)語

醫(yī)療人工智能算法的應(yīng)用在提升診療效率和優(yōu)化醫(yī)療服務(wù)方面展現(xiàn)了巨大潛力。然而，其在倫理風(fēng)險(xiǎn)方面也提出了新的挑戰(zhàn)，如決策過程的不透明性、算法對(duì)醫(yī)生角色的影響以及患者權(quán)利的侵蝕等。通過強(qiáng)化算法價(jià)值導(dǎo)向、規(guī)范智能倫理和加強(qiáng)算法治理，可以有效規(guī)避這些倫理風(fēng)險(xiǎn)。此外，借鑒中華優(yōu)秀傳統(tǒng)文化中的醫(yī)學(xué)倫理思想，重拾醫(yī)者仁愛之心，重構(gòu)醫(yī)患信任體系，將為應(yīng)對(duì)醫(yī)療人工智能帶來的挑戰(zhàn)提供有力支撐。未來，隨著技術(shù)的不斷發(fā)展，應(yīng)進(jìn)一步深入研究醫(yī)療人工智能的倫理風(fēng)險(xiǎn)，并制定更為完善的法律和監(jiān)管機(jī)制，確保醫(yī)療人工智能技術(shù)能夠真正服務(wù)于人類健康，最大化實(shí)現(xiàn)其社會(huì)價(jià)值。

〔參考文獻(xiàn)〕

[1]新一代人工智能發(fā)展規(guī)劃[M].北京：人民出版社， 2017：3.

[2]LIBBRECHT M W，NOBLE W S. Machine learning applications ingenetics and genomics[J]. Nature Reviews Genetics，2015，16（6）：321-332.

[3]郭哲.大數(shù)據(jù)國(guó)際追逃追贓的法治治理[J].當(dāng)代法學(xué)，2023（2）：136-147.

[4]周羅晶，邵旸，張瑞，等.智慧醫(yī)療場(chǎng)景下人工智能應(yīng)用倫理問題與治理路徑探討[J].中國(guó)醫(yī)院，2024，28（2）：38-41. ZHOU L J， SHAO Y ， ZHANG R， et al. Ethical issues of artificial intelligence applications in smart healthcare scenarios and its governance path[J]. Chinese Hospitals， 2024，28（2）：38-41.

[5]張榮，徐飛.智能醫(yī)學(xué)算法決策的倫理困境及風(fēng)險(xiǎn)規(guī)制[J].醫(yī)學(xué)與哲學(xué)，2022，43（8）： 10-15. ZHANG R， XU F. Ethical dilemma and risk regulation of algorithmic decision-making in intel‐ ligent medicine[J]. Medicine and Philosophy，2022，43（8）：10-15.

[6]胡瑤琳，余東雷，王健.“健康中國(guó)”背景下的健康醫(yī)療大數(shù)據(jù)發(fā)展[J].社會(huì)科學(xué)家，2022（3）：79-87.

[7]朱晶.復(fù)雜性哲學(xué)視角下的人工智能醫(yī)學(xué)[J].哲學(xué)分析，2018，9（5）：27-37. ZHU J. AI medicine from the perspective of com‐plexity philosophy[J]. Philosophical Analysis，2018， 9（5）： 27-37.

[8]徐著雨，岳遠(yuǎn)雷.醫(yī)療人工智能算法風(fēng)險(xiǎn)防范的法治化思考[J].醫(yī)學(xué)與哲學(xué)，2023，44（11）：67-71. XU Z Y， YUE Y L.Reflection on the rule of law for risk prevention of medical artificial intelli‐gence algorithms[J]. Medicine and Philosophy，2023，44（11）：67-71.

[9]黃素珍.人工智能的責(zé)任困境：以自主能動(dòng)性和道德圖靈測(cè)試為探討中心[J].山東社會(huì)科學(xué)，2020（4）：11-18.

[10]楊軍潔，周程.醫(yī)學(xué)人工智能的算法黑箱問題：倫理挑戰(zhàn)與化解進(jìn)路[J].科學(xué)通報(bào)，2023，68（13）：1604-1610. YANG J J， ZHOU C. Algorithmic black-box problem in medical artificial intelligence： ethical challenges and solution approach[J].Chinese Sci‐ence Bulletin， 2023， 68（13）： 1604-1610.

①“算法黑箱”指由于技術(shù)本身的復(fù)雜性以及媒體機(jī)構(gòu)、技術(shù)公司的排他性商業(yè)政策，算法猶如一個(gè)未知的“黑箱”——用戶并不清楚算法的目標(biāo)和意圖，也無從獲悉算法設(shè)計(jì)者、實(shí)際控制者以及機(jī)器生成內(nèi)容的責(zé)任歸屬等信息，更談不上對(duì)其進(jìn)行評(píng)判和監(jiān)督。

①“算法利維坦”指算法在社會(huì)治理中的超強(qiáng)統(tǒng)治力和控制力，對(duì)個(gè)人權(quán)利和自由產(chǎn)生深刻影響，類似于霍布斯的《利維坦》一書中描述的國(guó)家機(jī)器對(duì)個(gè)人自由的壓制。