論ChatGPT在醫(yī)學(xué)領(lǐng)域可能帶來(lái)的倫理風(fēng)險(xiǎn)與防范路徑

李東洋,劉秦民

(廣州中醫(yī)藥大學(xué)馬克思主義學(xué)院,廣東 廣州 510006)

2023年3月15日,OpenAI 發(fā)布了自然語(yǔ)言處理的大模型 GPT-4, ChatGPT的能力得到大幅提升,自然語(yǔ)言處理技術(shù)在醫(yī)療服務(wù)領(lǐng)域具有廣泛應(yīng)用前景,尤其是ChatGPT的無(wú)障礙人機(jī)溝通技術(shù)[1]。隨著科技的不斷發(fā)展和推廣,ChatGPT作為目前最先進(jìn)的自然語(yǔ)言處理技術(shù)之一,可廣泛用于協(xié)助醫(yī)患溝通、提供線上醫(yī)療咨詢服務(wù)以及進(jìn)行病例分析和預(yù)測(cè)等方面,雖然現(xiàn)在還沒(méi)有一個(gè)成熟的應(yīng)用模式,但其應(yīng)用前景仍十分廣闊[2]。

1 ChatGPT在醫(yī)學(xué)領(lǐng)域中可能的應(yīng)用前景

1.1 從困難到順暢:人機(jī)交互協(xié)助醫(yī)患溝通

醫(yī)患之間的有效溝通一直是醫(yī)療領(lǐng)域中的重要問(wèn)題。傳統(tǒng)觀點(diǎn)認(rèn)為,醫(yī)生與患者之間的交流,因?yàn)獒t(yī)生時(shí)間比較緊張,容易導(dǎo)致誤診、不良治療方案等后果。作為OpenAI最新推出的智能模型,ChatGPT在提供醫(yī)療的答案方面表現(xiàn)得十分出色,并且能夠有充足的時(shí)間與患者溝通交流,還能夠?yàn)榛颊咛峁└玫慕鉀Q方案,同時(shí)幫助緩解溝通障礙所帶來(lái)的困難。

家長(zhǎng)型、信息型、闡釋型和協(xié)商型是醫(yī)患溝通中的四種角色類型,它們?cè)卺t(yī)患溝通中各自具有不同的特點(diǎn)和優(yōu)勢(shì)。通過(guò)ChatGPT這一先進(jìn)的人工智能技術(shù),這些角色類型可以得到延展和變革,使得醫(yī)患間的溝通更加順暢、準(zhǔn)確和高效。比如,在家長(zhǎng)型角色方面,ChatGPT可以為患者提供更多個(gè)性化、細(xì)致入微的關(guān)懷和指導(dǎo);在信息型角色方面,ChatGPT可以更加準(zhǔn)確地回答患者的問(wèn)題,并提供最新的醫(yī)療信息和知識(shí);在闡釋型角色方面,ChatGPT可以更好地幫助患者理解自身疾病和治療方案,并為其提供針對(duì)性建議;在協(xié)商型角色方面,ChatGPT可以與患者進(jìn)行深入交流,并根據(jù)其反饋調(diào)整治療方案[3]。

此外,ChatGPT在醫(yī)患溝通方面具有重要的跨文化、多語(yǔ)言交互功能。尤其是在面對(duì)不同文化背景、不同語(yǔ)言水平的患者時(shí),ChatGPT能夠彌合交際障礙、拓寬溝通渠道。同時(shí),ChatGPT具有自然語(yǔ)言處理能力,在多種語(yǔ)言環(huán)境下支持智能交互和對(duì)話生成,為醫(yī)患溝通提供便利性和高效性。

加州大學(xué)圣地亞哥分校在社交網(wǎng)站找到195個(gè)真實(shí)的醫(yī)患問(wèn)答,將相同的問(wèn)題交給ChatGPT,在其回答之后再交給專家盲評(píng),結(jié)果表明,ChatGPT不僅在信息質(zhì)量這一方面打敗了人類醫(yī)生,在人類的同理心這一方面也擊敗了人類醫(yī)生[4]。2023年5月,Belong.Life推出了Dave:世界上第一個(gè)針對(duì)癌癥患者的對(duì)話式AI。它只關(guān)注于癌癥領(lǐng)域,致力于24小時(shí)為患者提供醫(yī)患間的溝通。盡管上述二者都還是處于公益的、測(cè)試的階段,但毫無(wú)疑問(wèn)其未來(lái)的潛力不可限量。

ChatGPT在醫(yī)患間溝通方面應(yīng)用前景十分廣闊。它不僅可以提高醫(yī)患交流的效率和準(zhǔn)確性,還能夠有效地解決文化差異、語(yǔ)言障礙等問(wèn)題。通過(guò)為患者提供全面、專業(yè)、人性化的支持,ChatGPT有望成為未來(lái)醫(yī)療服務(wù)中不可或缺的一部分。

1.2 從線下到線上:AI提供醫(yī)療咨詢

在傳統(tǒng)的醫(yī)療服務(wù)中,醫(yī)生往往需要面對(duì)面地與患者交流。這可能占用大量的時(shí)間和資源,并且受到一些人為因素的影響。而通過(guò)ChatGPT,患者可以得到更加高質(zhì)量和準(zhǔn)確的醫(yī)療咨詢服務(wù)。與此同時(shí),ChatGPT技術(shù)也為醫(yī)生提供了一個(gè)新型的工作方式,能夠在不同時(shí)間和空間中協(xié)助他們完成相關(guān)任務(wù)。

線上AI醫(yī)療咨詢具有隨時(shí)隨地、專業(yè)診斷和治療方案以及便捷等優(yōu)點(diǎn)?？梢灶A(yù)見的是,在線上AI醫(yī)療咨詢中,患者只需使用手機(jī)、電腦等設(shè)備連接應(yīng)用或平臺(tái)即可進(jìn)行醫(yī)療咨詢,無(wú)需消耗大量等待和排隊(duì)時(shí)間。這種遠(yuǎn)程診斷方式解決了患者看病難、就醫(yī)不便等問(wèn)題。更使得以患者為中心的溝通模式(patient-centered communication, PCC)在ChatGPT中有了更大的實(shí)現(xiàn)可能,通過(guò)ChatGPT,醫(yī)療機(jī)構(gòu)可以實(shí)現(xiàn)在線PCC,有效提高醫(yī)生與患者之間的溝通效率,并且可以更好地滿足患者個(gè)性化需求。此外,ChatGPT也可以幫助醫(yī)生更好地了解患者,包括了解他們的健康狀況、特殊需求等信息,從而能夠?yàn)榛颊咛峁└觽€(gè)性化和全面的醫(yī)療服務(wù)[5]。

我國(guó)在2023年2月25日所展示的華佗GPT,在多輪問(wèn)診場(chǎng)景中,研究團(tuán)隊(duì)成員收集了涵蓋20個(gè)科室的100個(gè)多輪對(duì)話進(jìn)行評(píng)估。結(jié)果顯示,華佗GPT在處理更加復(fù)雜的多輪問(wèn)診場(chǎng)景中的表現(xiàn)優(yōu)異,在某些性能方面甚至超過(guò)GPT3.5。但華佗GPT也仍處于免費(fèi)的、公益的測(cè)試階段,待技術(shù)成熟之后,其研究院才會(huì)尋找合適的應(yīng)用場(chǎng)景,形成新的業(yè)務(wù)模式和商務(wù)模式,以便于華佗GPT的落地與推廣應(yīng)用[6]。

與傳統(tǒng)的面對(duì)面醫(yī)療服務(wù)相比,在線上AI技術(shù)的支持下,ChatGPT能夠幫助患者快速地獲取準(zhǔn)確、全面并且及時(shí)的醫(yī)學(xué)咨詢服務(wù)。通過(guò)人工智能技術(shù)和大數(shù)據(jù)分析技術(shù)的支持,ChatGPT也具備相對(duì)較高的精度和可靠性,并且能夠隨時(shí)視情況進(jìn)行自我迭代和更新。

線上AI醫(yī)療咨詢還有很好的普及性和可推廣性。其依托于互聯(lián)網(wǎng)等技術(shù)手段,使得在線上AI醫(yī)療咨詢可以迅速推廣或擴(kuò)展到各個(gè)地區(qū)、國(guó)家,甚至全球范圍內(nèi)。這也意味著在未來(lái),線上AI醫(yī)療咨詢將會(huì)成為人們?nèi)粘Ｉ钪幸粋€(gè)必需且更加廣泛應(yīng)用的醫(yī)療資源形式。

1.3 從模糊到精準(zhǔn):個(gè)性化定制病例分析

ChatGPT在病例分析和預(yù)測(cè)中具有廣泛的應(yīng)用前景。傳統(tǒng)上,當(dāng)患者到醫(yī)院就診時(shí),醫(yī)生需要收集患者的個(gè)人信息、過(guò)往病史、家族遺傳史以及當(dāng)前出現(xiàn)的癥狀等信息。根據(jù)這些信息,醫(yī)生需要對(duì)患者進(jìn)行初步分析并制定治療計(jì)劃。而且在醫(yī)療診斷過(guò)程中,醫(yī)生需要閱讀大量的文獻(xiàn)并進(jìn)行復(fù)雜的數(shù)據(jù)處理才能作出正確的判斷。但是,在某些情況下,醫(yī)生可能會(huì)遇到罕見的疾病,無(wú)法作出準(zhǔn)確的診斷。這時(shí)候,ChatGPT就可以派上用場(chǎng)了。通過(guò)對(duì)大量數(shù)據(jù)進(jìn)行分析并應(yīng)用ChatGPT,可以對(duì)患者未來(lái)可能會(huì)出現(xiàn)的疾病進(jìn)行預(yù)測(cè)。當(dāng)患者輸入自己的個(gè)人信息時(shí),ChatGPT可以預(yù)測(cè)患者未來(lái)可能會(huì)出現(xiàn)的疾病,并給出相應(yīng)建議。當(dāng)患者輸入自己的個(gè)人信息時(shí),ChatGPT可以根據(jù)這些信息來(lái)預(yù)測(cè)該患者是否存在某種疾病的風(fēng)險(xiǎn)。這樣不僅可以幫助醫(yī)生更好地制定治療方案,還可以幫助患者提前了解并采取措施進(jìn)行預(yù)防。同時(shí),ChatGPT還可以結(jié)合EHR數(shù)據(jù)評(píng)估個(gè)體化的干預(yù)效果。相比傳統(tǒng)的RCT方法,ChatGPT可以更全面、更精準(zhǔn)地分析患者個(gè)體差異和治療效果,并提供針對(duì)性的治療建議。這意味著,ChatGPT可以大大提高醫(yī)生在診斷和治療方面的工作效率和精度,同時(shí)為患者提供更加個(gè)性化、精準(zhǔn)的醫(yī)療服務(wù)[7]。

例如,在肝癌診斷方面,醫(yī)生通常需要查閱大量與患者相關(guān)的數(shù)據(jù)資料、臨床解剖等專業(yè)文獻(xiàn),以確定確診結(jié)果。然而這種傳統(tǒng)方式往往需要耗費(fèi)很長(zhǎng)時(shí)間,而且很容易出現(xiàn)誤差。借助ChatGPT的自然語(yǔ)言處理能力,可以采用疾病數(shù)據(jù)進(jìn)行訓(xùn)練,使其學(xué)習(xí)到與肝癌相關(guān)的各種規(guī)律和特征,最終輸出一個(gè)比較準(zhǔn)確的肝癌診斷結(jié)果。

在醫(yī)學(xué)領(lǐng)域,預(yù)防比治療更加重要。中醫(yī)的“治未病”備受關(guān)注。因此,希望能夠提前發(fā)現(xiàn)某些患者是否存在患某種疾病的風(fēng)險(xiǎn)。借助ChatGPT,可以利用大量相關(guān)數(shù)據(jù)資料進(jìn)行訓(xùn)練,并通過(guò)該模型來(lái)預(yù)測(cè)患者可能會(huì)出現(xiàn)哪些健康問(wèn)題。

例如,在心血管疾病預(yù)測(cè)方面,可以利用大量相關(guān)數(shù)據(jù)資料訓(xùn)練ChatGPT,并通過(guò)該模型來(lái)預(yù)測(cè) 患者可能會(huì)出現(xiàn)哪些心血管系統(tǒng)相關(guān)的問(wèn)題。通過(guò)這種方式,可以幫助患者及時(shí)采取措施進(jìn)行治療或預(yù)防。因此,在個(gè)性化定制病例分析中,ChatGPT具有廣泛的應(yīng)用前景,并將成為醫(yī)生和患者共同信賴的重要工具之一。

雖然現(xiàn)在還沒(méi)有相關(guān)的產(chǎn)品推出,但也已經(jīng)有大量的相關(guān)測(cè)試數(shù)據(jù),其潛力不可限量。

2 ChatGPT在醫(yī)學(xué)領(lǐng)域面臨的可能的潛在風(fēng)險(xiǎn)

ChatGPT 在醫(yī)學(xué)領(lǐng)域的應(yīng)用雖然具有重要意義和巨大潛力,但同時(shí)也存在一些醫(yī)學(xué)倫理風(fēng)險(xiǎn)與挑戰(zhàn)。以下是基于其特性而預(yù)設(shè)的可能帶來(lái)的諸多風(fēng)險(xiǎn)。

2.1 隱私向度分析:個(gè)人隱私泄露風(fēng)險(xiǎn)

ChatGPT的匹配算法可能帶來(lái)更為嚴(yán)重的個(gè)人數(shù)據(jù)隱私問(wèn)題。首先,在對(duì)患者進(jìn)行診斷和治療時(shí),醫(yī)生需要訪問(wèn)和收集大量敏感個(gè)人信息,包括病史、藥物治療方案、基因型等。這些信息非常私密,一旦被未經(jīng)授權(quán)的人知曉或泄露,就可能導(dǎo)致患者隱私權(quán)被侵害,并產(chǎn)生嚴(yán)重的后果。

平臺(tái)風(fēng)險(xiǎn)是互聯(lián)網(wǎng)醫(yī)療患者隱私泄露的客觀風(fēng)險(xiǎn)之一。在使用ChatGPT等人工智能平臺(tái)時(shí),需要關(guān)注平臺(tái)的技術(shù)水平和安全性、平臺(tái)的資質(zhì)和合規(guī)性、平臺(tái)運(yùn)營(yíng)規(guī)模和可靠性等方面。只有具備高水平技術(shù)和良好信譽(yù)的平臺(tái),才能有效避免或減少個(gè)人隱私泄露的風(fēng)險(xiǎn)。

政策風(fēng)險(xiǎn)是互聯(lián)網(wǎng)醫(yī)療患者隱私泄露的根源性風(fēng)險(xiǎn)之一。當(dāng)前,對(duì)于互聯(lián)網(wǎng)醫(yī)療領(lǐng)域的監(jiān)管法規(guī)尚不完備,缺乏權(quán)威性和可操作性,執(zhí)行力度也較弱。

此外,由于醫(yī)療機(jī)構(gòu)涉及大量個(gè)人敏感數(shù)據(jù),攻擊者可以通過(guò)針對(duì)ChatGPT本身或相關(guān)數(shù)據(jù)庫(kù)的攻擊手段獲取和竊取敏感數(shù)據(jù),從而導(dǎo)致數(shù)據(jù)安全風(fēng)險(xiǎn)。在互聯(lián)網(wǎng)傳輸和存儲(chǔ)數(shù)據(jù)存在一定風(fēng)險(xiǎn),不僅黑客攻擊,類似技術(shù)漏洞、人工差錯(cuò)等情況都可能導(dǎo)致患者隱私信息泄露[8]。一旦數(shù)據(jù)泄露,將會(huì)給個(gè)人和機(jī)構(gòu)造成巨大損失[9]。

2.2 算法向度分析:不可解釋性的風(fēng)險(xiǎn)

在醫(yī)學(xué)倫理領(lǐng)域,ChatGPT的算法黑盒子和可解釋性問(wèn)題是非常重要的。ChatGPT作為人工智能技術(shù)應(yīng)用于醫(yī)學(xué)倫理決策的關(guān)鍵工具,其算法的不透明性會(huì)影響到算法的公正性和穩(wěn)定性。

第一,ChatGPT算法黑盒子問(wèn)題是指人們無(wú)法直接了解算法在決策時(shí)所依據(jù)的機(jī)制。這是由于ChatGPT算法使用了復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行學(xué)習(xí)和推理。神經(jīng)網(wǎng)絡(luò)是一種高度抽象化的數(shù)學(xué)模型,需要大量輸入數(shù)據(jù)以訓(xùn)練模型,但卻很難直接解釋模型在決策時(shí)所依據(jù)的因素。這使得決策過(guò)程難以被了解、審查或者驗(yàn)證。第二,可解釋性問(wèn)題也很關(guān)鍵?？山忉屝允侵改軌蚯宄乩斫庖粋€(gè)算法在作出決策時(shí)的思考過(guò)程。這對(duì)于醫(yī)學(xué)倫理來(lái)說(shuō)非常重要,因?yàn)獒t(yī)生或者患者必須知道機(jī)器為什么會(huì)提出特定建議或結(jié)論。

ChatGPT的缺點(diǎn)也很明顯。主體行為可解釋性是判斷人工智能責(zé)任的最基本要素之一。也就是說(shuō),人工智能應(yīng)該有一個(gè)基于邏輯和經(jīng)驗(yàn)的行為決策機(jī)制,我們可以通過(guò)這個(gè)機(jī)制理解和解釋其行為和決策過(guò)程,從而對(duì)其是否違反法律進(jìn)行評(píng)估。然而,ChatGPT的自我調(diào)試和演化同時(shí)也使得其行為具有不可預(yù)測(cè)性和不可解釋性。在這種情況下,如何確定人工智能的法律責(zé)任就成了一個(gè)難題[10]。

2.3 社會(huì)向度分析:責(zé)任界定風(fēng)險(xiǎn)

ChatGPT的應(yīng)用可能對(duì)醫(yī)患間的社會(huì)關(guān)系、責(zé)任界定和權(quán)利保護(hù)產(chǎn)生深遠(yuǎn)影響。首先,由于模型具有智能化和個(gè)性化特征,它在醫(yī)學(xué)倫理問(wèn)題中可能扮演更加主動(dòng)和重要的角色,進(jìn)而改變醫(yī)患之間的權(quán)利關(guān)系、信任度以及隱私保護(hù)等方面的社會(huì)關(guān)系。其次,在使用ChatGPT進(jìn)行醫(yī)學(xué)倫理問(wèn)題咨詢時(shí),需要重新界定責(zé)任和義務(wù)的劃分。例如,在面對(duì)復(fù)雜的倫理決策時(shí),ChatGPT可能會(huì)給出多種相互矛盾或不確定的建議。這就需要重新考慮誰(shuí)來(lái)承擔(dān)最終決策的責(zé)任以及如何分配各方義務(wù)。同時(shí),還需要思考如何避免通過(guò)模型推卸責(zé)任或喪失個(gè)體自主性[11]。最后,在使用ChatGPT進(jìn)行醫(yī)學(xué)倫理問(wèn)題咨詢時(shí),也需要注意相關(guān)方利益和權(quán)利。例如,在處理涉及隱私保護(hù)、知情同意、公平公正等問(wèn)題時(shí),模型需要嚴(yán)格遵守法律、道德和倫理標(biāo)準(zhǔn),確保相關(guān)方權(quán)益得到妥善維護(hù),以免有失公正。

2.4 公平向度分析:偏見和歧視風(fēng)險(xiǎn)

ChatGPT的偏見和歧視問(wèn)題也是一個(gè)需要重視的問(wèn)題。由于ChatGPT的學(xué)習(xí)依賴于大量的訓(xùn)練數(shù)據(jù),而這些數(shù)據(jù)可能不夠平衡或存在不準(zhǔn)確的標(biāo)簽,導(dǎo)致模型在處理特定類型問(wèn)題時(shí)出現(xiàn)偏見或歧視,并最終導(dǎo)致不公平現(xiàn)象的出現(xiàn)。

ChatGPT在處理醫(yī)學(xué)倫理問(wèn)題時(shí)可能存在性別、種族、文化等方面的偏見。例如,在對(duì)患者進(jìn)行診斷和提出治療建議時(shí),模型可能會(huì)對(duì)某些特定人群給出錯(cuò)誤或有偏頗的建議,如對(duì)女性患者給出較為保守或不準(zhǔn)確的治療方案。這種偏見和歧視行為會(huì)導(dǎo)致醫(yī)生和患者之間的信任破裂,從而影響醫(yī)療服務(wù)質(zhì)量和效果[12]。

2.5 公正向度分析:反饋與監(jiān)管風(fēng)險(xiǎn)

ChatGPT在醫(yī)學(xué)倫理領(lǐng)域下對(duì)患者的反饋機(jī)制和監(jiān)管機(jī)制的建設(shè),需要注重保障公正性。

首先,對(duì)于患者的反饋機(jī)制而言,ChatGPT可以使用自然語(yǔ)言處理技術(shù)幫助患者表達(dá)自己的訴求和需求。作為一種人工智能技術(shù),ChatGPT需要能夠無(wú)視人類對(duì)話中包含的個(gè)體偏見和主觀情感,并始終以公正、客觀、中立的態(tài)度處理患者提供給它的信息。這樣,患者提供的有關(guān)疾病情況、治療效果、用藥反應(yīng)等關(guān)鍵信息才能得到有效記錄并對(duì)比加以分析。其次,在醫(yī)學(xué)倫理監(jiān)管方面,ChatGPT需要遵循公正和透明原則。例如,在藥品審批過(guò)程中,ChatGPT能夠輔助分析、評(píng)價(jià)藥品相關(guān)數(shù)據(jù),輔助所有可行且合格的藥物都能獲得審批;同時(shí)要盡可能減少專家意見之間偏見和誤差所帶來(lái)的影響。此外,在臨床實(shí)驗(yàn)室方面,ChatGPT也可以對(duì)臨床試驗(yàn)數(shù)據(jù)處理過(guò)程進(jìn)行輔助監(jiān)管,防止人為因素對(duì)實(shí)驗(yàn)結(jié)果造成干擾。同時(shí),ChatGPT還需要遵守保護(hù)患者隱私的規(guī)定,在處理患者信息時(shí)要嚴(yán)格遵守相關(guān)規(guī)定。最后,在構(gòu)建反饋機(jī)制時(shí),ChatGPT需要注重公平性和客觀性。例如,如果ChatGPT協(xié)助收集患者反饋信息和實(shí)驗(yàn)數(shù)據(jù),則必須確保所采集到的數(shù)據(jù)具有代表性和可比性,不能因?yàn)閭€(gè)體差異而導(dǎo)致誤判或刻意忽略某些指標(biāo)。在藥品審批或臨床試驗(yàn)中,ChatGPT也不能傾向于某一特定藥品或療法,應(yīng)該以客觀、公正、嚴(yán)謹(jǐn)?shù)膽B(tài)度進(jìn)行分析和評(píng)估。

ChatGPT在醫(yī)學(xué)倫理領(lǐng)域下對(duì)患者的反饋機(jī)制和監(jiān)管機(jī)制的建設(shè)需要注重公平性問(wèn)題。只有充分保障公正、透明、客觀等原則的落實(shí),才能確保這種技術(shù)手段能夠更好地服務(wù)醫(yī)學(xué)研究和治療決策,并獲得廣泛認(rèn)可和信任。

3 ChatGPT在醫(yī)學(xué)領(lǐng)域的風(fēng)險(xiǎn)治理路徑

盡管ChatGPT還沒(méi)有成熟的產(chǎn)品,但其技術(shù)更新?lián)Q代極快,或許在幾年時(shí)間內(nèi)就可看見成熟的商業(yè)化產(chǎn)品,如國(guó)產(chǎn)的華佗GPT就有望在幾年內(nèi)投入實(shí)際的醫(yī)療治理中。為此有必要提供對(duì)應(yīng)的治理路徑,以防范基于其特性而預(yù)設(shè)的可能的諸多風(fēng)險(xiǎn)。

3.1 由無(wú)知變有知:加強(qiáng)相關(guān)執(zhí)業(yè)人員的知識(shí)培養(yǎng)與倫理素養(yǎng)

ChatGPT在醫(yī)學(xué)倫理方面涉及許多風(fēng)險(xiǎn)和挑戰(zhàn),特別是對(duì)于此前不知曉ChatGPT的醫(yī)生或此前不了解醫(yī)學(xué)倫理的技術(shù)開發(fā)人員,需要有不同的基本知識(shí)培訓(xùn)來(lái)加強(qiáng)他們?cè)谶@個(gè)領(lǐng)域的專業(yè)能力,讓他們對(duì)這兩方面有足夠的認(rèn)識(shí)。

技術(shù)開發(fā)人員需要了解ChatGPT在醫(yī)學(xué)倫理領(lǐng)域下的風(fēng)險(xiǎn)和挑戰(zhàn)。例如,在提供醫(yī)療診斷和治療建議時(shí),ChatGPT需要考慮患者隱私保護(hù)、信息安全等問(wèn)題,并確保其提供的信息準(zhǔn)確、可靠、合法。而在語(yǔ)言處理和文化交流上也會(huì)遇到一些難以預(yù)測(cè)的情況,技術(shù)開發(fā)人員需要了解如何處理這些復(fù)雜情況。技術(shù)開發(fā)人員還需要了解醫(yī)學(xué)倫理法規(guī)、政策和規(guī)范等方面的知識(shí)。這些法律法規(guī)包括例如《中華人民共和國(guó)個(gè)人信息保護(hù)法》《醫(yī)療質(zhì)量管理辦法》等。掌握這些內(nèi)容可以使技術(shù)開發(fā)人員更好地了解醫(yī)學(xué)倫理領(lǐng)域下的行業(yè)標(biāo)準(zhǔn),從而更好地提供醫(yī)療服務(wù)。

作為醫(yī)生,他們應(yīng)該充分了解與AI醫(yī)療相關(guān)的概念、技術(shù)和倫理挑戰(zhàn),這些知識(shí)能夠使他們?cè)诠ぷ鲌?chǎng)所批判地檢視人工智能,向患者清楚地傳達(dá)人工智能的局限性,明確需要注意的風(fēng)險(xiǎn)和危害,從而賦予患者更多的決策權(quán)。最后,醫(yī)生需要通過(guò)不斷學(xué)習(xí)和提高,在使用ChatGPT技術(shù)時(shí)保持謹(jǐn)慎和審慎態(tài)度,尊重患者權(quán)益和隱私。只有這樣才能最大程度地減少ChatGPT在醫(yī)學(xué)倫理方面可能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn),并更好地服務(wù)于患者的健康需求[14]。

在醫(yī)學(xué)倫理風(fēng)險(xiǎn)防范背景下,基本知識(shí)培訓(xùn)已經(jīng)成為技術(shù)開發(fā)人員必不可少的一部分。只有具備了相應(yīng)的知識(shí)與技能,實(shí)現(xiàn)從無(wú)知到有知的轉(zhuǎn)變,才能使ChatGPT在醫(yī)學(xué)倫理領(lǐng)域下發(fā)揮最大效益。

3.2 由被動(dòng)變主動(dòng):引導(dǎo)輿論關(guān)注方法風(fēng)險(xiǎn)

引導(dǎo)輿論關(guān)注ChatGPT的方法風(fēng)險(xiǎn)非常重要。方法風(fēng)險(xiǎn)主要指由于ChatGPT提供的信息不當(dāng)或錯(cuò)誤而導(dǎo)致醫(yī)療行為出現(xiàn)問(wèn)題。例如,如果ChatGPT給出的診斷結(jié)果不準(zhǔn)確或建議不合理,可能會(huì)導(dǎo)致患者接受不必要的治療或延誤病情。這種風(fēng)險(xiǎn)對(duì)于患者的身心健康和醫(yī)療行業(yè)的信譽(yù)都會(huì)造成很大影響。比起被動(dòng)接受這種風(fēng)險(xiǎn),我們更需要通過(guò)引導(dǎo)輿論主動(dòng)出擊。

在引導(dǎo)輿論關(guān)注ChatGPT的方法風(fēng)險(xiǎn)時(shí),需要采取一系列有效措施加以防范和解決。首先,需要加強(qiáng)數(shù)據(jù)監(jiān)管,確保ChatGPT所使用的數(shù)據(jù)來(lái)源準(zhǔn)確可靠;其次,需要挑選優(yōu)秀開發(fā)團(tuán)隊(duì),并規(guī)范運(yùn)營(yíng)過(guò)程,確保ChatGPT的質(zhì)量和準(zhǔn)確性;同時(shí),在使用ChatGPT時(shí)需要注意遵守相關(guān)法律法規(guī)和倫理規(guī)范,尊重患者的知情權(quán)、選擇權(quán)和隱私權(quán)。

除此之外,定期檢查聊天記錄并加強(qiáng)反饋機(jī)制也是非常重要的措施。通過(guò)對(duì)聊天記錄進(jìn)行檢查和分析,可以及時(shí)發(fā)現(xiàn)ChatGPT的問(wèn)題并進(jìn)行修正和改進(jìn);同時(shí),加強(qiáng)用戶反饋評(píng)價(jià)系統(tǒng),了解患者的意見和建議,并按照實(shí)際情況進(jìn)行調(diào)整和改善,可以有效降低方法風(fēng)險(xiǎn)。

此外,應(yīng)該注意到技術(shù)利維坦的問(wèn)題。技術(shù)利維坦指由于技術(shù)的發(fā)展和掌握者的壟斷而導(dǎo)致社會(huì)、政治、文化等方面出現(xiàn)失衡的風(fēng)險(xiǎn)。在ChatGPT的開發(fā)和使用中,如果開發(fā)團(tuán)隊(duì)或管理者利用其技術(shù)壟斷地位追求自身利益而忽略了患者的健康和權(quán)益,就會(huì)產(chǎn)生技術(shù)利維坦的問(wèn)題。因此,在引導(dǎo)輿論關(guān)注ChatGPT時(shí),需要建立公正、透明、規(guī)范的管理機(jī)制,監(jiān)督ChatGPT開發(fā)和使用過(guò)程中是否存在利益沖突、權(quán)力濫用等問(wèn)題;同時(shí)要加強(qiáng)對(duì)ChatGPT的宣傳和教育,提高公眾的科技素養(yǎng),增強(qiáng)對(duì)AI醫(yī)療技術(shù)的理性認(rèn)知和正確使用能力。只有這樣才能防止技術(shù)利維坦現(xiàn)象對(duì)人類造成不可逆轉(zhuǎn)的影響[15]。

由此可知,在醫(yī)學(xué)領(lǐng)域使用ChatGPT需要考慮到方法風(fēng)險(xiǎn),并采取一系列措施進(jìn)行防范和解決,實(shí)現(xiàn)由被動(dòng)變主動(dòng)的轉(zhuǎn)變。只有這樣,才能更好地保障患者的利益和安全,推動(dòng)醫(yī)療行業(yè)向更高層次發(fā)展。

3.3 由無(wú)界變有界:注重AI算法優(yōu)化與驗(yàn)證標(biāo)準(zhǔn)

ChatGPT算法模型優(yōu)化及驗(yàn)證標(biāo)準(zhǔn)提高是非常重要的。這個(gè)問(wèn)題涉及了醫(yī)學(xué)倫理、數(shù)據(jù)隱私保護(hù)、技術(shù)創(chuàng)新等方面。在此之前因?yàn)檠芯枯^少,這是相對(duì)無(wú)界限的。而為了保證研究的合法性和可靠性,ChatGPT算法模型必須具備優(yōu)化和驗(yàn)證標(biāo)準(zhǔn)以實(shí)現(xiàn)有界。針對(duì)當(dāng)前的問(wèn)題,可以從以下幾個(gè)方面進(jìn)行分析:

首先,在技術(shù)創(chuàng)新方面,可以通過(guò)改進(jìn)算法模型的深度學(xué)習(xí)機(jī)制和優(yōu)化計(jì)算效率來(lái)提高其精度和效率。例如,使用遷移學(xué)習(xí)或元學(xué)習(xí)等方法對(duì)ChatGPT進(jìn)行訓(xùn)練和優(yōu)化。

其次,在數(shù)據(jù)隱私保護(hù)方面,需要采取相應(yīng)的安全措施來(lái)保護(hù)用戶信息不被泄露或?yàn)E用。這些措施包括數(shù)據(jù)加密、身份認(rèn)證、訪問(wèn)控制等。

再次,也需要注意到ChatGPT算法模型對(duì)社會(huì)和人類福祉的影響。在開發(fā)算法模型時(shí)應(yīng)該做好充分的倫理和社會(huì)學(xué)調(diào)查,并從技術(shù)和社會(huì)層面推進(jìn)ChatGPT算法模型優(yōu)化與驗(yàn)證標(biāo)準(zhǔn)提高工作。重點(diǎn)關(guān)注醫(yī)學(xué)倫理、隱私保護(hù)、數(shù)據(jù)準(zhǔn)確性等方面,確保ChatGPT算法模型能夠真正成為負(fù)責(zé)任、有益和以人為本的大型語(yǔ)言模型(Human-centered LLM),造福人類[16]。

最后,在評(píng)估驗(yàn)證標(biāo)準(zhǔn)方面,需要確立一套統(tǒng)一的評(píng)價(jià)指標(biāo)體系,以確保ChatGPT能夠在真實(shí)場(chǎng)景中正確解決醫(yī)學(xué)倫理問(wèn)題,并依據(jù)實(shí)際應(yīng)用需求不斷完善和優(yōu)化。

ChatGPT算法模型優(yōu)化及驗(yàn)證標(biāo)準(zhǔn)提高是一項(xiàng)具有挑戰(zhàn)性的工作,需要各方共同努力,綜合運(yùn)用技術(shù)手段和管理方法,不斷探索和創(chuàng)新。實(shí)現(xiàn)由無(wú)界變有界的轉(zhuǎn)變,最終促成醫(yī)療行業(yè)的進(jìn)步。

3.4 由單一變多元:強(qiáng)調(diào)多方合作模式與數(shù)據(jù)處理

ChatGPT技術(shù)的應(yīng)用需要多方共同合作和數(shù)據(jù)治理,注重共同合作模式的技術(shù)創(chuàng)新和治理,而不是單一組織機(jī)構(gòu)的相關(guān)規(guī)范。這是由于ChatGPT技術(shù)對(duì)醫(yī)學(xué)倫理問(wèn)題的解決具有重要意義,同時(shí)它也面臨著一系列技術(shù)挑戰(zhàn)和社會(huì)風(fēng)險(xiǎn)。

首先,ChatGPT技術(shù)的應(yīng)用需要多方合作。這涉及醫(yī)院、科研機(jī)構(gòu)、企業(yè)、政府等各方面的參與。針對(duì)不同領(lǐng)域和應(yīng)用場(chǎng)景,需要充分發(fā)揮各方專業(yè)性優(yōu)勢(shì),共同制定數(shù)據(jù)開放標(biāo)準(zhǔn)、隱私保護(hù)規(guī)范、算法平臺(tái)等規(guī)范和標(biāo)準(zhǔn)。

其次,在數(shù)據(jù)治理方面也需要充分發(fā)揮其作用。數(shù)據(jù)治理包括了數(shù)據(jù)收集、存儲(chǔ)、加工和傳輸?shù)热溌仿┒粗卫?在其中高強(qiáng)度的安全措施是必須要保證不泄露用戶隱私信息以及保護(hù)數(shù)據(jù)不被惡意利用。

另外,對(duì)于ChatGPT技術(shù)的優(yōu)化和完善,還需要注重技術(shù)創(chuàng)新與治理。這包括了算法模型改進(jìn)、計(jì)算資源優(yōu)化、用戶體驗(yàn)提升等各方面。同時(shí),合理制定數(shù)據(jù)采集、分析和利用的規(guī)則和標(biāo)準(zhǔn),充分保障用戶權(quán)益。

在這個(gè)過(guò)程中,相關(guān)企業(yè)應(yīng)當(dāng)成立行業(yè)協(xié)會(huì),并積極發(fā)布行業(yè)技術(shù)指南。行業(yè)協(xié)會(huì)可以扮演重要的推動(dòng)角色,促進(jìn)ChatGPT技術(shù)的應(yīng)用和發(fā)展,并引領(lǐng)行業(yè)規(guī)范化建設(shè)進(jìn)程。同時(shí),行業(yè)協(xié)會(huì)也需要與政府部門、學(xué)術(shù)機(jī)構(gòu)等各方面合作,共同探討對(duì)于ChatGPT技術(shù)的監(jiān)管與管理策略。

因此,在開展ChatGPT技術(shù)的相關(guān)工作時(shí),建議各方秉持負(fù)責(zé)任、合作共贏、以人為本等理念,全力保障技術(shù)應(yīng)用安全可靠,實(shí)現(xiàn)由單一變多元的轉(zhuǎn)變,并確保更好地造福人類[17]。

3.5 由淺層到深處:注重醫(yī)學(xué)倫理問(wèn)題研究

人們需要加強(qiáng)對(duì)于ChatGPT所帶來(lái)的更深層次的醫(yī)學(xué)倫理問(wèn)題的研究,并注重促進(jìn)倫理法律制度的完善。在這個(gè)過(guò)程中,人們需要從多個(gè)方面入手:

第一,對(duì)ChatGPT聊天內(nèi)容中可能涉及的醫(yī)學(xué)倫理問(wèn)題進(jìn)行深入研究,同時(shí),考慮未來(lái)可能出現(xiàn)的新問(wèn)題,并積極尋求解決方案。

第二,在加強(qiáng)對(duì)醫(yī)學(xué)倫理問(wèn)題的研究過(guò)程中要考慮多方關(guān)系,并確保相關(guān)研究成果符合公共利益和社會(huì)價(jià)值標(biāo)準(zhǔn)。同時(shí),還需注重道德倫理規(guī)范,在聊天服務(wù)中要遵循醫(yī)學(xué)倫理準(zhǔn)則和擔(dān)負(fù)起相應(yīng)的社會(huì)責(zé)任。在這個(gè)過(guò)程中,要堅(jiān)持以人為本的理念,強(qiáng)調(diào)人的主觀能動(dòng)性。我們需要建立從技術(shù)開發(fā)端到應(yīng)用端的全過(guò)程倫理風(fēng)險(xiǎn)審查規(guī)則,以確保ChatGPT技術(shù)在醫(yī)療領(lǐng)域應(yīng)用時(shí)的公正、合法和安全[18]。

第三,需要進(jìn)一步增強(qiáng)社會(huì)大眾的倫理意識(shí)和法律意識(shí),使其能夠更好地支持ChatGPT與其他人工智能技術(shù)的發(fā)展,實(shí)現(xiàn)由淺層到深處的轉(zhuǎn)變,從而共同推動(dòng)醫(yī)學(xué)健康領(lǐng)域的進(jìn)步。

3.6 由混亂到有序:深化法規(guī)監(jiān)管及標(biāo)準(zhǔn)化建設(shè)

ChatGPT作為一種新型醫(yī)學(xué)輔助工具,雖然在提供咨詢服務(wù)、協(xié)助醫(yī)生進(jìn)行診斷和治療決策等方面有著巨大的潛力,但同時(shí)也帶來(lái)了一些醫(yī)學(xué)倫理問(wèn)題。這些問(wèn)題涉及ChatGPT本身的功能和性能,以及整個(gè)醫(yī)療系統(tǒng)的運(yùn)作機(jī)制和法律依據(jù)。因此,需要加強(qiáng)對(duì)于ChatGPT所帶來(lái)的醫(yī)學(xué)倫理問(wèn)題的解決方案,尤其要注重法規(guī)監(jiān)管及標(biāo)準(zhǔn)化建設(shè),以改進(jìn)其混沌無(wú)序的現(xiàn)狀。

在法規(guī)監(jiān)管方面,需要建立健全完善的法規(guī)框架以確保ChatGPT工具在醫(yī)療領(lǐng)域得到正常合理的使用并且符合倫理標(biāo)準(zhǔn)。首先,需要完善相關(guān)法律法規(guī),明確ChatGPT使用范圍、技術(shù)要求、職責(zé)與義務(wù)等,并將其納入國(guó)家監(jiān)管體系中進(jìn)行管理。同時(shí),在ChatGPT開發(fā)、使用、維護(hù)等各個(gè)環(huán)節(jié)都應(yīng)該遵守相關(guān)法律法規(guī)要求,并對(duì)違反規(guī)定的行為實(shí)施懲戒。

除了法規(guī)建設(shè)外,在標(biāo)準(zhǔn)化建設(shè)方面也需要采取相應(yīng)措施來(lái)加強(qiáng)ChatGPT的醫(yī)學(xué)倫理問(wèn)題解決。需要制定相關(guān)標(biāo)準(zhǔn)和規(guī)范,確保ChatGPT的開發(fā)、應(yīng)用和管理程序符合道德和法律要求。具體而言,可以建立一套ChatGPT安全與倫理評(píng)估體系,包括對(duì)聊天內(nèi)容、數(shù)據(jù)隱私、信息安全等方面的評(píng)估標(biāo)準(zhǔn)及方法,并將其物化為可供執(zhí)行參照的法規(guī)和行業(yè)標(biāo)準(zhǔn)。同時(shí),還需要建立全方位的合規(guī)監(jiān)督機(jī)制,對(duì)ChatGPT的使用情況進(jìn)行監(jiān)督和評(píng)估,并對(duì)其應(yīng)用效果、安全性等方面進(jìn)行監(jiān)測(cè)和分析。這樣可以及時(shí)識(shí)別和解決醫(yī)學(xué)倫理問(wèn)題,并有效預(yù)防和控制風(fēng)險(xiǎn)。在未來(lái)的發(fā)展中,還需要加強(qiáng)國(guó)際合作與經(jīng)驗(yàn)分享,推動(dòng)全球醫(yī)學(xué)倫理標(biāo)準(zhǔn)的統(tǒng)一和協(xié)調(diào)。只有在建立嚴(yán)格的法規(guī)標(biāo)準(zhǔn)體系,并依靠法律法規(guī)來(lái)確立生成式人工智能在醫(yī)學(xué)領(lǐng)域發(fā)展應(yīng)用的邊界時(shí),我們才能夠讓這項(xiàng)技術(shù)真正地造福于人類,并更好地推動(dòng)醫(yī)療健康事業(yè)的發(fā)展[19]。

此外,在實(shí)踐運(yùn)用方面也需要加強(qiáng)對(duì)ChatGPT所涉及的倫理問(wèn)題的專業(yè)評(píng)估,并建立反饋機(jī)制。醫(yī)生在使用ChatGPT時(shí)應(yīng)該被告知其輔助作用,以及在聊天過(guò)程中如何遵守患者隱私和信息保護(hù)等要求。并且需要建立起專業(yè)團(tuán)隊(duì)對(duì)可能出現(xiàn)的醫(yī)學(xué)倫理問(wèn)題進(jìn)行監(jiān)測(cè)和調(diào)查,并及時(shí)反饋給相關(guān)機(jī)構(gòu)和社會(huì)公眾。正如華佗GPT的研究院所主張的:在制度建設(shè)方面,研究院將積極建立應(yīng)用準(zhǔn)入制度、監(jiān)管制度、倫理評(píng)估制度等,以保證其醫(yī)療業(yè)務(wù)能夠穩(wěn)定、安全、有序地運(yùn)行。

可見,加強(qiáng)對(duì)于ChatGPT所帶來(lái)的醫(yī)學(xué)倫理問(wèn)題的解決方案,尤其是加強(qiáng)法規(guī)監(jiān)管和標(biāo)準(zhǔn)化建設(shè),有利于推進(jìn)ChatGPT在醫(yī)學(xué)領(lǐng)域的應(yīng)用,實(shí)現(xiàn)由混亂到有序的轉(zhuǎn)變,并為維護(hù)公共利益、提高醫(yī)療質(zhì)量、促進(jìn)人類健康作出應(yīng)有的貢獻(xiàn)。