可解釋人工智能在疾病診療中的應(yīng)用

井 杰， 王蓓蕾， 劉善榮

（海軍軍醫(yī)大學(xué)第一附屬醫(yī)院實(shí)驗(yàn)診斷科，上海 200433）

人工智能（artificial intelligence，AI）是利用計(jì)算機(jī)程序模擬、延伸和擴(kuò)展人類智能應(yīng)用的先進(jìn)科學(xué)技術(shù)[1]。近年來，“醫(yī)療+AI”模式在影像智能判讀[2]、手術(shù)機(jī)器人[3]、新藥研發(fā)[4]等領(lǐng)域已有廣泛研究。然而，多數(shù)AI具有“黑箱”特點(diǎn)，其行為高度不透明[5]，醫(yī)生無法了解機(jī)器的決策機(jī)制、發(fā)生錯(cuò)誤的原因以及避免錯(cuò)誤的方法，限制了其臨床應(yīng)用。近年來，有學(xué)者提出可解釋人工智能（explainable artificial intelligence，XAI）的概念，即將可解釋性作為額外的設(shè)計(jì)驅(qū)動(dòng)因素來構(gòu)建AI系統(tǒng)，用可理解的方式向用戶解釋或呈現(xiàn)其行為[6]。檢驗(yàn)醫(yī)學(xué)是臨床輔助診療的重要組成[7]，具有廣泛的臨床可解釋性，長期以來通過提供客觀數(shù)據(jù)來協(xié)助臨床決策。因此，通過XAI技術(shù)對(duì)檢驗(yàn)數(shù)據(jù)進(jìn)行集成和分析，深度挖掘其內(nèi)在價(jià)值，開發(fā)可解釋的檢驗(yàn)AI工具，必將顯著提高檢驗(yàn)數(shù)據(jù)的臨床應(yīng)用價(jià)值，為智慧醫(yī)療的跨越式發(fā)展提供重要支撐。本文立足于檢驗(yàn)醫(yī)學(xué)的研究現(xiàn)狀，結(jié)合XAI的基本概念、重要性及實(shí)現(xiàn)方法，重點(diǎn)探討基于檢驗(yàn)知識(shí)圖譜的檢驗(yàn)XAI的研究思路，展望其未來應(yīng)用前景，探討其面臨的挑戰(zhàn)和應(yīng)用局限性。

1 檢驗(yàn)醫(yī)學(xué)現(xiàn)狀

檢驗(yàn)醫(yī)學(xué)是現(xiàn)代醫(yī)學(xué)的重要組成部分，臨床決策所需信息的70%來自檢驗(yàn)[7]。實(shí)驗(yàn)室檢查涵蓋臨床化學(xué)、血液學(xué)、免疫學(xué)、微生物學(xué)在內(nèi)的2 000多項(xiàng)指標(biāo)，為臨床醫(yī)生提供大量客觀數(shù)據(jù)以輔助臨床決策[8]。在急診室，超過41%的疾病需要通過實(shí)驗(yàn)室數(shù)據(jù)確診[9]。癌癥、內(nèi)分泌、感染性和遺傳性等疾病需要通過實(shí)驗(yàn)室數(shù)據(jù)確診或協(xié)助確診[10]。檢驗(yàn)數(shù)據(jù)也支持循證醫(yī)學(xué)實(shí)踐指南的發(fā)展，在1 230個(gè)針對(duì)23種疾病的臨床實(shí)踐指南中，有37%涉及實(shí)驗(yàn)室檢查[11]。由此可見，檢驗(yàn)醫(yī)學(xué)可以為臨床實(shí)踐提供大量顯性或隱性的專業(yè)知識(shí)。

眾所周知，實(shí)驗(yàn)室儀器自動(dòng)化的發(fā)展產(chǎn)生了大量的結(jié)構(gòu)化或半結(jié)構(gòu)化的檢驗(yàn)數(shù)據(jù)[12-13]。近年來，檢驗(yàn)醫(yī)學(xué)在方法和結(jié)果的標(biāo)準(zhǔn)化、歸一化方面取得了重大進(jìn)展[10，14]，國際臨床實(shí)驗(yàn)室結(jié)果協(xié)調(diào)聯(lián)盟組織統(tǒng)一和標(biāo)準(zhǔn)化臨床實(shí)驗(yàn)室檢測過程和參考區(qū)間，實(shí)現(xiàn)了臨床實(shí)驗(yàn)室檢測結(jié)果和實(shí)驗(yàn)過程優(yōu)化的一致性，極大改善了臨床實(shí)驗(yàn)室的標(biāo)準(zhǔn)化。由此可見，檢驗(yàn)醫(yī)學(xué)可以為臨床實(shí)踐提供海量高質(zhì)量、標(biāo)準(zhǔn)化、歸一化的檢驗(yàn)數(shù)據(jù)。

然而，目前臨床醫(yī)生對(duì)檢驗(yàn)數(shù)據(jù)的解讀能力仍然存在不足。首先，檢驗(yàn)項(xiàng)目越來越多，其臨床意義持續(xù)更新，不同疾病、不同病程對(duì)應(yīng)的檢驗(yàn)結(jié)果更是復(fù)雜多變，很多醫(yī)生無法及時(shí)更新相關(guān)知識(shí)；其次，臨床?？苹l(fā)展趨勢不可避免，多數(shù)醫(yī)生只熟悉自己專科常用的檢驗(yàn)項(xiàng)目，對(duì)其他專科的檢驗(yàn)項(xiàng)目并不熟悉，很容易忽視超出其專科知識(shí)范圍的關(guān)鍵結(jié)果和重要參數(shù)；第三，疾病影響著機(jī)體的整體狀態(tài)，當(dāng)眾多檢驗(yàn)指標(biāo)發(fā)生異常時(shí)，綜合分析檢驗(yàn)數(shù)據(jù)的相互關(guān)聯(lián)難度極大，即使是經(jīng)驗(yàn)豐富的醫(yī)生也很容易忽視其內(nèi)在關(guān)系[15]，從而造成疾病的漏診或誤診。因此，通過XAI技術(shù)對(duì)檢驗(yàn)數(shù)據(jù)進(jìn)行集成和分析，深度挖掘檢驗(yàn)數(shù)據(jù)中的隱藏價(jià)值，開發(fā)基于實(shí)驗(yàn)室數(shù)據(jù)的檢驗(yàn)XAI工具，為提高實(shí)驗(yàn)室診斷價(jià)值展示了巨大的應(yīng)用前景?；诖耍瑱z驗(yàn)醫(yī)學(xué)與XAI的融合勢在必行。

2 XAI的基本概念、重要性和實(shí)現(xiàn)方法

2.1 XAI的基本概念和重要性

XAI是指基于一些AI原則所創(chuàng)建的有效和能被用戶所理解的AI系統(tǒng)，其主要目的是通過提供可解釋的細(xì)節(jié)或理由讓用戶更容易理解模型運(yùn)行的復(fù)雜行為[16]。不同研究者開發(fā)了多種檢驗(yàn)AI系統(tǒng)[17-18]，但由于缺乏可解釋性，尚無檢驗(yàn)AI產(chǎn)品被應(yīng)用于臨床。由此可見，加強(qiáng)檢驗(yàn)XAI的研究具有重大意義。一方面，當(dāng)使用可解釋模型時(shí)，用戶可以通過提取數(shù)據(jù)之間的因果關(guān)系獲得臨床檢驗(yàn)相關(guān)知識(shí)，從而增強(qiáng)對(duì)模型的理解和信任；另一方面，XAI所提供的解釋可以幫助AI研發(fā)人員更好地理解模型存在的數(shù)據(jù)偏差，及可能失敗的原因，解決模型的內(nèi)部缺陷，提高系統(tǒng)的性能和安全性。

2.2 實(shí)現(xiàn)XAI的方法

近年來，AI專家從模型內(nèi)外2個(gè)角度對(duì)XAI模型的可解釋問題提出了兩大解決方案，包括“模型自身可解釋”和“模型以外可解釋”。前者是通過直接設(shè)計(jì)具有內(nèi)在可解釋性的算法實(shí)現(xiàn)模型的可解釋功能[15]，包括線性回歸、邏輯回歸在內(nèi)的廣義線性模型，以及梯度增強(qiáng)機(jī)、隨機(jī)森林、極端梯度提升在內(nèi)的樹集成模型；后者將模型預(yù)測與解釋分開，主要包括可視化解釋、影響方法、基于實(shí)例的解釋、基于知識(shí)的解釋4種技術(shù)類型。

2.2.1 可視化解釋 可視化解釋是探尋深度神經(jīng)網(wǎng)絡(luò)等復(fù)雜模型內(nèi)部工作機(jī)制最直接的途徑，其技術(shù)方法主要包括：代理模型、部分依賴圖（partial dependence plot，PDP）和個(gè)體條件期望（individual conditional expectation，ICE）。代理模型即用來解釋復(fù)雜模型的簡單模型，雖然計(jì)算量小，但其計(jì)算結(jié)果和高精度模型的計(jì)算分析結(jié)果相近[19]。PDP是一種圖形表示，有助于可視化特定特征對(duì)機(jī)器學(xué)習(xí)（machine learning，ML）模型預(yù)測結(jié)果的平均邊際影響[20]。ICE是一種與PDP類似的圖形表示，能深入到單個(gè)樣本，分析某一特征變化對(duì)單個(gè)樣本的影響，并給出每個(gè)樣本的預(yù)測值[21]。

2.2.2 影響方法 影響方法通過更改模型輸入或內(nèi)部參數(shù)來評(píng)估特征的重要性或相關(guān)性，并記錄特征更改對(duì)模型性能的影響程度，以解釋模型決策。影響方法主要有敏感性分析、層級(jí)相關(guān)性傳播和特征重要性3種。敏感性分析通過使每個(gè)特征在可能的范圍內(nèi)變動(dòng)來預(yù)測這些特征的變化對(duì)模型輸出值的影響程度[22]。層級(jí)相關(guān)性傳播[23-24]將模型決策的重要性信號(hào)從模型的輸出層神經(jīng)元逐層傳播到模型的輸入層，使模型的決策結(jié)果可在特征上找到解釋，得到每個(gè)特征參與分類決策的貢獻(xiàn)大小。特征重要性則是通過改變特征值，計(jì)算模型預(yù)測誤差的變化，從而量化每個(gè)輸入變量對(duì)模型預(yù)測結(jié)果的貢獻(xiàn)[25]。

2.2.3 基于實(shí)例的解釋 基于實(shí)例的解釋技術(shù)通過選擇數(shù)據(jù)集的特定實(shí)例來解釋AI模型的行為，包括原型和批評(píng)解釋，以及反事實(shí)解釋。原型是指從數(shù)據(jù)集中選擇的具有代表性的實(shí)例，數(shù)據(jù)集中的實(shí)例關(guān)系是由與原型的相似性決定的[26]。為了避免過度泛化，數(shù)據(jù)集也需要展示批評(píng)點(diǎn)，即不能被一組原型有效代表的實(shí)例。模型可預(yù)測原型和批評(píng)的結(jié)果，以解釋模型決策，并發(fā)現(xiàn)模型算法的弱點(diǎn)。反事實(shí)解釋描述了一種因果關(guān)系，即“如果沒有輸入特征X，則預(yù)測結(jié)果Y不會(huì)發(fā)生”，通過對(duì)原始實(shí)例的輸入特征進(jìn)行最小條件的更改，以獲得不同預(yù)定輸出結(jié)果的新實(shí)例，從而解釋模型的決策行為[27]。

2.2.4 知識(shí)提取的解釋 基于知識(shí)的解釋主要包括提取內(nèi)部知識(shí)和引入外部知識(shí)的解釋方法。前者指提取原數(shù)據(jù)集中已有的知識(shí)建立解釋模型；后者指利用外部輸入的知識(shí)，如常識(shí)、概念、語料庫等固有概念，建立解釋模型。目前，基于知識(shí)提取的方法主要包括知識(shí)蒸餾和知識(shí)圖譜。知識(shí)蒸餾是一種降低模型復(fù)雜度的模型壓縮方法，可將信息從深層網(wǎng)絡(luò)傳遞到淺層網(wǎng)絡(luò)[28]。知識(shí)圖譜是由多個(gè)三元組組成的語義網(wǎng)絡(luò)，主要用于描述現(xiàn)實(shí)世界中的實(shí)體、概念及事件間的客觀關(guān)系。知識(shí)圖譜可以將數(shù)據(jù)集或者知識(shí)庫中的任一元素看作是一個(gè)實(shí)體，通過描述相鄰實(shí)體之間的不同關(guān)系，以及實(shí)體與實(shí)體之間存在的路徑，共同構(gòu)成以實(shí)體、關(guān)系和路徑為支撐的知識(shí)網(wǎng)絡(luò)。

目前，與其他可解釋方法相比，知識(shí)圖譜具有的海量規(guī)模、語義豐富、結(jié)構(gòu)友好、質(zhì)量精良的知識(shí)是其關(guān)鍵優(yōu)點(diǎn)，為機(jī)器理解語言提供了重要的背景知識(shí)。由于目前XAI的可解釋方法大都面向各領(lǐng)域?qū)＜遥瑢I(yè)術(shù)語難以被普通用戶理解，因此基于容易理解的檢驗(yàn)知識(shí)圖譜的XAI技術(shù)來構(gòu)建檢驗(yàn)XAI，具有更廣闊的應(yīng)用前景。

3 基于知識(shí)圖譜的檢驗(yàn)XAI

3.1 構(gòu)建檢驗(yàn)知識(shí)圖譜

檢驗(yàn)知識(shí)圖譜的構(gòu)建主要包括概念層設(shè)計(jì)、實(shí)例層學(xué)習(xí)和知識(shí)圖譜應(yīng)用3個(gè)方面[29]。首先，將醫(yī)學(xué)檢驗(yàn)相關(guān)文獻(xiàn)和實(shí)驗(yàn)室信息系統(tǒng)（laboratory information system，LIS）中存儲(chǔ)的有效數(shù)據(jù)作為知識(shí)庫，并對(duì)知識(shí)庫進(jìn)行概念層設(shè)計(jì)。檢驗(yàn)知識(shí)圖譜的概念層設(shè)計(jì)包含4級(jí)實(shí)體概念，第1級(jí)是醫(yī)學(xué)檢驗(yàn)實(shí)體，第2級(jí)是患者基本信息實(shí)體、檢驗(yàn)實(shí)體和診斷實(shí)體，第3級(jí)是檢驗(yàn)項(xiàng)目實(shí)體，第4級(jí)是具體的檢驗(yàn)指標(biāo)實(shí)體。同時(shí)，定義不同實(shí)體之間的相互關(guān)系，即實(shí)驗(yàn)室檢查中不同實(shí)體之間所發(fā)生的醫(yī)療事實(shí)聯(lián)系，如檢驗(yàn)指標(biāo)實(shí)體和檢驗(yàn)項(xiàng)目實(shí)體共同構(gòu)成檢驗(yàn)實(shí)體。然后，根據(jù)規(guī)定的知識(shí)提取規(guī)則，從大量的醫(yī)學(xué)檢驗(yàn)相關(guān)文獻(xiàn)和LIS存儲(chǔ)的數(shù)據(jù)中提取與概念層相匹配的醫(yī)學(xué)檢驗(yàn)事實(shí)，構(gòu)造出實(shí)例層。最后，將醫(yī)學(xué)檢驗(yàn)實(shí)體、醫(yī)學(xué)檢驗(yàn)實(shí)體關(guān)系和醫(yī)學(xué)檢驗(yàn)事實(shí)以三元組的形式存儲(chǔ)，得到醫(yī)學(xué)檢驗(yàn)知識(shí)圖譜。知識(shí)圖譜的應(yīng)用是根據(jù)輸入的實(shí)體，通過圖數(shù)據(jù)庫的搜索機(jī)制，實(shí)現(xiàn)對(duì)知識(shí)圖譜三元組中任一要素及相關(guān)信息的搜索。

3.2 基于知識(shí)圖譜的檢驗(yàn)XAI的研究思路

迄今為止，AI共經(jīng)歷了2代發(fā)展[30-31]。第1代AI是基于知識(shí)驅(qū)動(dòng)AI模型，其推理過程是完全基于人類專家定義的規(guī)則；第2代AI是以深度學(xué)習(xí)算法為代表的數(shù)據(jù)驅(qū)動(dòng)AI模型，該模型利用統(tǒng)計(jì)方法將模型的輸入數(shù)據(jù)轉(zhuǎn)換為輸出結(jié)果。因此，近幾年相關(guān)學(xué)者提出了全新的“第3代AI”的概念[30]。大體說來，是通過結(jié)合知識(shí)驅(qū)動(dòng)和數(shù)據(jù)驅(qū)動(dòng)方法，構(gòu)建一個(gè)更強(qiáng)大、兼具可解釋性和魯棒性的AI系統(tǒng)，推動(dòng)AI的創(chuàng)新應(yīng)用。基于此，基于知識(shí)圖譜的檢驗(yàn)XAI的研究思路為：（1）單純知識(shí)驅(qū)動(dòng)檢驗(yàn)XAI。檢驗(yàn)金標(biāo)準(zhǔn)即可診斷。如根據(jù)乙型肝炎血清學(xué)標(biāo)志物檢測結(jié)果診斷乙型肝炎。疾病預(yù)測是完全基于已有檢驗(yàn)知識(shí)的推理，其顯著優(yōu)勢是輸出結(jié)果具有可解釋性和容易理解，缺陷是只限于確定性推理方法來解決特定問題。（2）“知識(shí)+數(shù)據(jù)”雙驅(qū)動(dòng)的檢驗(yàn)XAI。疾病的預(yù)測既有知識(shí)的推理也有模型算法的統(tǒng)計(jì)分析，其工作流程見圖1。首先，檢驗(yàn)XAI自動(dòng)提取患者所有實(shí)驗(yàn)室檢測數(shù)據(jù)，輸入檢驗(yàn)知識(shí)圖譜，構(gòu)建異常指標(biāo)與疾病的關(guān)系網(wǎng)；如圖1中“某患者”有35項(xiàng)指標(biāo)異常，經(jīng)檢驗(yàn)知識(shí)圖譜過濾，發(fā)現(xiàn)與包括胰腺癌、感染及阻塞性黃疸等在內(nèi)的157種疾病有關(guān)，然后自動(dòng)調(diào)取所對(duì)應(yīng)的單病種ML算法模型，自動(dòng)計(jì)算患病風(fēng)險(xiǎn)概率值[32]。值得注意的是，上述單病種ML算法模型，即基于大量歷史患者檢驗(yàn)數(shù)據(jù)所構(gòu)建而成的數(shù)據(jù)驅(qū)動(dòng)模型，優(yōu)點(diǎn)是具有大數(shù)據(jù)處理優(yōu)勢，可自動(dòng)搜索和處理大量變量，從而可靠地對(duì)結(jié)果進(jìn)行分類和預(yù)測[32]，但輸出結(jié)果缺乏可解釋性是其面臨的主要問題。然后，檢驗(yàn)XAI按照患病概率、嚴(yán)重程度對(duì)預(yù)測疾病進(jìn)行排序；如檢驗(yàn)XAI對(duì)圖1中“某患者”預(yù)測的胰腺癌、感染及阻塞性黃疸等疾病，按照患病概率進(jìn)行降序排序。同時(shí)，檢驗(yàn)XAI以一種可視化方式展示模型算法的“可解釋性”，即不同異常檢測指標(biāo)在所預(yù)測疾病中的權(quán)重分析。此外，檢驗(yàn)XAI還可依據(jù)檢驗(yàn)知識(shí)圖譜提供異常指標(biāo)的臨床意義。最后，檢驗(yàn)XAI以高風(fēng)險(xiǎn)疾?。ㄈ缫认侔?、中風(fēng)險(xiǎn)疾?。ㄈ绺腥荆┘暗惋L(fēng)險(xiǎn)疾?。ㄈ缱枞渣S疸）的方式輸出相應(yīng)的實(shí)驗(yàn)室診斷。

圖1 檢驗(yàn)XAI的工作流程圖

檢驗(yàn)知識(shí)圖譜和ML算法在“知識(shí)+數(shù)據(jù)”雙驅(qū)動(dòng)檢驗(yàn)XAI疾病預(yù)測過程中的作用是相輔相成的。一方面，檢驗(yàn)知識(shí)圖譜的作用在于檢驗(yàn)醫(yī)學(xué)常識(shí)的推理，不僅為檢驗(yàn)XAI初步確定了ML的疾病診斷范圍，還提供了疾病診斷過程所需的臨床證據(jù)；另一方面，ML使檢驗(yàn)XAI具有更好的疾病預(yù)測能力，可發(fā)現(xiàn)疾病新的風(fēng)險(xiǎn)因 素，并驅(qū)動(dòng)檢驗(yàn)知識(shí)圖譜的更新迭代。

4 檢驗(yàn)XAI在疾病診療中的應(yīng)用展望

目前，臨床上大多數(shù)輔助檢查（包括影像和病理）都是以診斷報(bào)告的形式提供給臨床醫(yī)生。長期以來，檢驗(yàn)醫(yī)學(xué)僅有檢驗(yàn)數(shù)據(jù)，卻不能為臨床提供客觀的診斷報(bào)告，主要是由于個(gè)體化檢驗(yàn)數(shù)據(jù)變化大，每位患者不同疾病、不同病程、不同治療情況的檢驗(yàn)數(shù)據(jù)復(fù)雜多變；不同異常檢驗(yàn)指標(biāo)對(duì)應(yīng)的臨床意義不同，聯(lián)合意義更多、更廣，難以分析。因此，通過檢驗(yàn)XAI對(duì)檢驗(yàn)大數(shù)據(jù)進(jìn)行集成和分析，挖掘檢驗(yàn)數(shù)據(jù)隱藏的診斷價(jià)值，成為輔助臨床醫(yī)生解讀復(fù)雜檢驗(yàn)數(shù)據(jù)的突破口[33-34]。檢驗(yàn)XAI的主要功能是根據(jù)異常檢驗(yàn)數(shù)據(jù)及時(shí)生成基于算法的疾病診斷預(yù)測或推薦。智能化的檢驗(yàn)報(bào)告?zhèn)戎赜跈z驗(yàn)AI預(yù)測結(jié)果的可解釋性。未來，檢驗(yàn)XAI可為臨床醫(yī)生提供與輔助診療相關(guān)的智能化檢驗(yàn)報(bào)告，包括疾病預(yù)測、異常檢驗(yàn)指標(biāo)分析、異常指標(biāo)與預(yù)測疾病的對(duì)應(yīng)關(guān)系分析等[35]。除此之外，智能化的檢驗(yàn)報(bào)告可提示臨床醫(yī)生該患者需進(jìn)一步完善的檢驗(yàn)項(xiàng)目，及患者檢驗(yàn)指標(biāo)變化趨勢等。

5 檢驗(yàn)XAI的應(yīng)用局限性和面臨的挑戰(zhàn)

檢驗(yàn)XAI在疾病診療領(lǐng)域具有廣闊的應(yīng)用前景，但其產(chǎn)品研發(fā)仍面臨挑戰(zhàn)，臨床應(yīng)用存在一定局限性。首先，數(shù)據(jù)質(zhì)量問題是檢驗(yàn)XAI研發(fā)面臨的主要挑戰(zhàn)。一方面，醫(yī)院內(nèi)不同醫(yī)療數(shù)據(jù)庫之間缺少有效的協(xié)同機(jī)制，數(shù)據(jù)采集和存儲(chǔ)標(biāo)準(zhǔn)不一，結(jié)構(gòu)化程度低，質(zhì)量不統(tǒng)一，影響了檢驗(yàn)大數(shù)據(jù)的應(yīng)用；另一方面，不同醫(yī)院之間缺乏統(tǒng)一的標(biāo)準(zhǔn)和規(guī)范，不同企業(yè)承建的醫(yī)院信息系統(tǒng)，受限于企業(yè)之間的技術(shù)壁壘，數(shù)據(jù)共享和互通程度較低，存在“數(shù)據(jù)孤島”現(xiàn)象[36]。使得檢驗(yàn)XAI研發(fā)所用的數(shù)據(jù)只能來自有限的公開數(shù)據(jù)集或自備數(shù)據(jù)庫，存在著數(shù)據(jù)量過小、質(zhì)量欠佳以及標(biāo)注不規(guī)范等問題，勢必影響其疾病預(yù)測的準(zhǔn)確性和應(yīng)用的普適性。此外，僅依靠檢驗(yàn)科，無法獨(dú)立完成檢驗(yàn)XAI的建立，需要病理、影像、手術(shù)及用藥等相關(guān)數(shù)據(jù)的佐證和支撐，因此臨床科室的參與度是很重要的因素[37]。在臨床實(shí)際運(yùn)用過程中，檢驗(yàn)XAI僅依據(jù)檢驗(yàn)數(shù)據(jù)提供相應(yīng)的診斷結(jié)果相對(duì)片面，臨床醫(yī)生可基于檢驗(yàn)XAI的疾病推薦，也可綜合患者的病史、影像和病理等結(jié)果，以及自身臨床經(jīng)驗(yàn)進(jìn)行綜合判斷，最終給出相應(yīng)診斷和臨床決策指導(dǎo)（如預(yù)約其他輔助檢查、手術(shù)、隨訪等）。

6 總結(jié)

檢驗(yàn)醫(yī)學(xué)是臨床輔助診療的重要支撐。隨著AI與醫(yī)學(xué)領(lǐng)域的深度融合，檢驗(yàn)醫(yī)學(xué)與AI的結(jié)合作為一種新的醫(yī)療模式正在快速發(fā)展。為了避免AI模型的“黑箱”預(yù)測，基于知識(shí)圖譜的檢驗(yàn)XAI通過對(duì)檢驗(yàn)大數(shù)據(jù)的集成和分析，可為臨床醫(yī)生提供及時(shí)、準(zhǔn)確的輔診信息，改變傳統(tǒng)檢驗(yàn)醫(yī)學(xué)的運(yùn)用模式，從而推動(dòng)檢驗(yàn)醫(yī)學(xué)由被動(dòng)性醫(yī)學(xué)向主動(dòng)性醫(yī)學(xué)轉(zhuǎn)化。