生成式人工智能賦能醫(yī)學人文教育的倫理審視

趙 欣,柳 云

(河北醫(yī)科大學 a.醫(yī)學與健康研究院;b.馬克思主義學院,河北 石家莊 050011)

以ChatGPT為代表的生成式人工智能(Generative Artificial Intelligence,GAI)是基于大型語言模型技術,加之海量數據收集、整理、訓練,具備預訓練語言模型,上下文學習和基于人類反饋的強化學習三個關鍵基礎能力[1],通過基于“大模型+大數據+大算力”深度學習模式,展現出人工智能強大的自然語言處理、內容生成能力,對于不同文化背景的語言理解和已經接近人類本身交流的能力,該人工智能通過巨量的數據搜集整理,產生與人類大腦類似的語言理解和生成能力,并通過強大應用程序編程接口(Application Programming Interface,API)功能,迅速與現有各類平臺融合,進而出現引發(fā)全世界各行業(yè)的巨大變革。隨著GAI的飛速發(fā)展,人工智能也逐步走進教育領域。例如,科大訊飛星火大模型GAI在基礎教育階段應用場景已初具規(guī)模,該模型能將教師從重復繁重的基礎性工作中解放出來,提升教學效率;為學生提供更加貼近其學習需求的個性化學習新途徑等。此外,GAI技術超強運算能力、自然語言感知反饋能力以及數據整合能力,為醫(yī)學人文教育帶來諸如提升學生研學效能、推動教學模式革新、加速教學數字化等方面的深遠影響[2]?；谌斯ぶ悄鼙姸鄡?yōu)勢,未來醫(yī)學人文與人工智能的結合,將賦予醫(yī)學人文教育更廣闊的發(fā)展空間。本文對GAI在醫(yī)學人文教育領域未來潛在應用、倫理風險及應對策略進行了較深入的探討,為我國醫(yī)學人文教育改革提供思路。

1 GAI在醫(yī)學人文教育領域未來潛在應用

GAI就現階段發(fā)展來看,仍處于“弱人工智能”階段,其在教育領域融合依舊是以輔助角色為主,通過整合資源、生成目標內容、組織數據分析,將用戶從重復繁雜的工作中解放出來,進而提升教育成效。隨著GAI不斷迭代更新、算法優(yōu)化、數據治理等,當其從“弱人工智能”跨越到“強人工智能”,即人工智能具備一定自主意識,將會引發(fā)第二次人工智能浪潮,對于教育領域將產生深遠影響,也將推動醫(yī)學人文教育領域在未來潛在應用場景中爆炸式發(fā)展。

第一,精準賦能提升醫(yī)學人文教育成效。醫(yī)學人文自產生之日起就與社會、經濟、政治、文化、歷史發(fā)展進程密不可分,其教育效果還與社會公眾對于人文關懷的關切度、教師對于人文精神的理解度、學生自身價值觀與人文精神切合度等多因素關聯(lián)。當GAI進一步發(fā)展,具備人的特質時,即一定邏輯思維能力、自主行為和意識等,此時GAI可以通過整合現有人文資料,結合受眾的社會、經濟、政治、文化、歷史背景,提煉符合當下的人文觀點,生成精準契合的醫(yī)學人文教育需求的素材,甚至自己探索發(fā)現未來醫(yī)學人文可能發(fā)展路徑,提出新的醫(yī)學人文思想。GAI發(fā)展到此階段也就具有“強人工智能”的特質,不僅具有現階段人工智能輔助教學的功能,還能夠通過數據分析、邏輯判斷描繪出醫(yī)學生單個個體心理肖像,將醫(yī)學人文的學習內容與心理肖像深度融合,生成更易被學習受眾個體接納的學習內容,讓醫(yī)學人文教育更加貼近社會價值觀、貼近時代、貼近受眾。讓醫(yī)學人文核心價值觀與學生人生觀、價值觀深度融合,產生遠超當下教學模式效果,在未來GAI將賦能醫(yī)學人文教育成效。

第二,釋放活力促進醫(yī)學人文教育發(fā)展。目前GAI發(fā)展趨勢是人工智能生態(tài)構建,通過人工智能自身的算力、大數據、邏輯分析等優(yōu)勢,通過API整合到各領域平臺中,進而發(fā)揮“1+1>2”的整合優(yōu)勢?，F在GAI大模型在設計課程、協(xié)助備課、課堂助教等方面初露鋒芒,但是現在這些應用所生成各類內容還需要人的后期處理,其生成的準確性和真實性還有極大提升的空間。隨著人工智能不斷升級迭代,將會成為一名“24+7”的教學助手、學習陪伴、科研助理。到那時教師學生僅需要將自己的需求告知GAI,就能自主實現諸如課件制作、教案編寫、學習內容收集整理、文獻資料總結等,甚至可以為用戶提供個性化的生成視頻、音頻、圖文等內容定制。作為類人的人工智能還能啟發(fā)使用者在學習醫(yī)學人文過程中產生新的思路。到那時GAI將成為釋放教師和學生的重要生產力,讓教師擁有更多精力關注教學科研,讓學生學習更具效率。

第三,全景體驗創(chuàng)新醫(yī)學人文教育模式。傳統(tǒng)醫(yī)學人文教育的方式是以課堂為主要的教育途徑,通過人的思想交流,將人文價值觀傳遞給學生,最終的目的是提升學生對于醫(yī)學人文價值的認同,將醫(yī)學人文知識內化為自身價值觀從而將人文精神賦予醫(yī)學實踐。人工智能目前應用于課堂教育提升學習效率,像科大訊飛這類全場景GAI,能夠通過大數據及數據分析調整教育策略、評價學習效果、完善教育管理流程等。在可預見的未來,人工智能將無處不在,且與各類平臺整合,這也將推動醫(yī)學人文教育從課堂走向全場景教育模式,即課堂學習、虛擬現實體驗、課外人文素養(yǎng)提升等模式。人工智能可以通過醫(yī)學生的使用習慣和數據,分析其特點,通過智能推送的內容來影響他們的行為、習慣,醫(yī)學人文的價值觀和理念同樣可以通過這樣的方式影響醫(yī)學生,將醫(yī)學人文教育從課堂擴展到全景教育范式。

2 GAI賦能醫(yī)學人文教育領域倫理風險

人工智能技術對教育知識表達、教育科學研究范式、教育能力邏輯導向和教育智慧人才培養(yǎng)等產生了多重效應,帶來了創(chuàng)新性變革,同時使教育主體、教育場域和教育治理等也面臨著沖擊與挑戰(zhàn)[3]。目前GAI仍處于“弱人工智能”階段,但ChatGPT此類人工智能要成為“有意識的強人工智能”似乎只是時間問題?！皬娙斯ぶ悄堋笔欠窨梢远x為“人”,即其主體地位如何定義,還存在各類“階段肯定說”“絕對否定說”“折中說”和“法定符合說”等不同的學說[4]。GAI與醫(yī)學人文結合是時間的問題,未來也將面臨幾個方面的倫理問題。

2.1GAI導致醫(yī)學人文價值觀遺失 教育本質是培養(yǎng)人的社會實踐,教育是人們現實的生活世界,需要安頓人的身體、撫慰人的心靈、充盈人的精神,是主體生命的共在和意義世界的共構[5]。關于技術與教育的關系,海德格爾在對技術本質的追問過程中,認為技術是一種工具,是“解蔽”的方式。隨著技術的發(fā)展,技術的“解蔽”本質逐漸帶上了“促逼”之特性,并將人置于“座駕”之中進行“訂造”,人在技術的“促逼”中最終成為“持存物”[6]。醫(yī)學教育價值觀核心是向“善”的教育,如何定義“善”,不同背景的醫(yī)學生對于“善”的理解存在著差異。未來人工智能通過既往數據收集整理生成醫(yī)學的“善”,能否作為醫(yī)學生價值觀的來源途徑有待商榷。人工智能所理解的“善”是一種基于大數據的“善”,但醫(yī)學實踐中常常面臨兩難的抉擇,在此刻醫(yī)學人文的人性光輝顯得極為重要。

在漫長的歷史進程中,醫(yī)學教育中的人文主義被不斷進化、修正,體現了醫(yī)療與人之間的融合共進[7]。如此漫長的歷史進程形成的醫(yī)學人文的基本觀點和精神,在GAI的算法之中運算,可能僅僅需要毫厘之間進行歸納總結,就能產生與之相似的發(fā)展歷程。人工智能產生的醫(yī)學人文價值觀,又或者GAI產生一套全新的基于算法的醫(yī)學人文價值觀,與人類數千年形成的醫(yī)學人文價值觀是否能夠符合人類福祉?醫(yī)學人文精神中的“善”一定且只有人類通過千百年來的歷史積淀才能具有,此類“善”是出于人類對于同類同情及憐憫隨著歷史發(fā)展不斷完善的。GAI核心仍然是算法,基于算法的人工智能無論多么接近人類的思維和意識,也無法展現出人類作為人所具有的人文精神的“善”。也正因GAI基于算法的技術特點,其賦能醫(yī)學人文教育實踐過程中,可能將醫(yī)學人文中的“善”片面轉化為概率數據輸出,而且GAI也無法完全將人類醫(yī)學人文的價值觀完整、全面地賦予算法,進而也就無法將醫(yī)學人文價值觀中的溫度傳遞給醫(yī)學生。

2.2GAI導致人的主體地位削弱 人工智能底層技術就是算法,也就是一種數據處理手段,當下像ChatGPT此類人工智能“一本正經地胡說八道”,也并非偶然事件。隨著人工智能技術的發(fā)展,這樣事件發(fā)生的概率會呈幾何級速度降低。誰能拒絕一個具有較高準確率、全時無休、有問必答的智能助手呢?在這樣的情境下,人卻變得不被信任,人工智能才是絕對正確。人的主體地位便顯得岌岌可危。

當人類面臨倫理困境時,一個是高效、準確的人工智能,一個是陷入兩難境地艱難抉擇的人類,誰能確保做出最適合的抉擇?在人類漫長的歷史進程中,人文精神之光一直照耀人類前行,醫(yī)學人文也是在不斷修正認知、改正錯誤、預防風險中保護人類福祉。在醫(yī)療領域,醫(yī)生每天都會面對各類抉擇,醫(yī)生每一個抉擇都關系著人的生命健康。特別是當突發(fā)事件發(fā)生時,醫(yī)生抉擇往往十分艱難。如果此刻短時間內人工智能為你提供一個具有嚴謹邏輯、精準數據支持的決策建議,醫(yī)生是否愿意接受這個決策建議。醫(yī)學是一個嚴謹的學科,學科的特點決定著醫(yī)學天然喜歡數據支持,而醫(yī)學人文恰恰相反。在此種情境下,醫(yī)生很可能采納人工智能提出的有理有據的決策。長此以往,人類自身做出的倫理決策有被人工智能高效的決策所代替的風險。而人工智能因此形成的醫(yī)學人文理念是否會與當下人自身的理念產生沖突有待商榷。

2.3GAI導致教與學二元關系失衡 醫(yī)學人文教育以言傳身教為基礎方式,特別在傳統(tǒng)中醫(yī)教育中更是強調師承的重要性。隨著人工智能應用在醫(yī)學人文教育領域,傳統(tǒng)“教師-學生”的教育模式將會受到巨大影響,產生新的教育模式“教師-人工智能-學生”。在人工智能技術的影響下,新的教育關系將會產生,人與人工智能、人與人、人工智能與人工智能之間的交流會變得越來越頻繁。

人工智能加入醫(yī)學人文教育,教師在醫(yī)學人文教育過程中的主體地位將會發(fā)生改變,教育人工智能迅速發(fā)展,教育主體的角色地位逐漸由教師轉向人工智能+教師的模式[8]。過度依賴人工智能,醫(yī)學人文教育領域面臨諸多風險。首先,教師失去教育主動權的風險,盲目相信算法,將教學的主動權交由算法,失去對于教育信息分析思考和反思,無法把握醫(yī)學人文發(fā)展方向。其次,依賴人工智能算法導致醫(yī)學人文教育程式化風險,教師通過人工智能算法,將醫(yī)學人文教育的重點放在算法生成所謂的重點上,對于探索學生的心智發(fā)展以及醫(yī)學人文價值觀的生成上失去興趣,加劇醫(yī)學人文在算法加持下程式化發(fā)展。最后,醫(yī)學人文教育數據化有喪失人文溫度的風險,教師在算法加持下,傳統(tǒng)師生關系轉化為數據與數據、算法與算法之間關系,教師和學生變成算法里面的數據變量,進而失去言傳身教的原本人文溫度。人機交互模式的現實表現形式,將決定教育主體和客體發(fā)生巨大改變,將拉開教師與學生之間的情感距離。甚至未來人工智能之間互為師生,通過算法不斷學習醫(yī)學人文,進而發(fā)展出人工智能醫(yī)學人文新的方向。這種新的醫(yī)學人文發(fā)展方向是否背離醫(yī)學人文發(fā)展初衷,值得深入思考?；谌斯ぶ悄艿乃惴ㄋM行的醫(yī)學人文教育是否是真正的教育,算法取代教師成為醫(yī)學人文教育的主體,是否能夠將醫(yī)學人文核心思想發(fā)展延續(xù)下去,都值得深思。

3 GAI賦能醫(yī)學人文教育領域的對策

醫(yī)學需要依靠科學技術的飛躍而產生進步,醫(yī)學人文的進步卻似乎總是跟不上技術發(fā)展。人文與醫(yī)學的漸遠和分離是生命科學和技術進化的必然[9]?；厮?0世紀,醫(yī)學與人文學科經歷了三次發(fā)展浪潮[10]。20世紀作為醫(yī)學發(fā)展最為迅速一個階段,醫(yī)學人文與醫(yī)學技術的發(fā)展并非完美同步發(fā)展的軌跡。每一次醫(yī)學人文發(fā)展浪潮似乎都是在新技術帶來的生命倫理問題探討中而產生。GAI賦能醫(yī)學人文教育破解倫理風險是一個系統(tǒng)問題,需要以系統(tǒng)思維進行整體分析。解決GAI賦能醫(yī)學人文教育的倫理問題,需要有的放矢地思考破解路徑。

3.1以界為限,最大可能釋放人工智能賦能醫(yī)學人文活力 人工智能與醫(yī)學人文結合需要劃定應用“邊界”,GAI盡管擁有廣闊的應用場景以及強大的功能,但是無限制地與醫(yī)學人文融合,不僅會加劇GAI自身倫理問題,還將加劇醫(yī)學人文自身特有的倫理問題。醫(yī)學人文具有自身的學科特點,從古代哲學與醫(yī)學相互交融,到近代隨著醫(yī)學技術發(fā)展醫(yī)學與人文漸行漸遠,再到21世紀隨著基于納米科學與技術、生物技術、信息技術、認知科學的協(xié)同組合形成的“NBIC會聚技術”出現,是人類自身根本性提升的相關技術[11]。在這個過程中,醫(yī)學人文基于不同文化背景展現了多元化發(fā)展趨勢,讓醫(yī)學逐漸向著人類主導的方向發(fā)展,而不至于技術不受約束地發(fā)展引發(fā)一系列倫理問題。GAI在醫(yī)學人文應用需要規(guī)范應用場景邊界,按照應用場景進行分類管理。

首先,GAI醫(yī)學人文輔助應用場景,要加大力度積極發(fā)展。加大在教育新情景應用,在教學輔助上,從提升教師教學效率上入手,將教師從繁雜的基礎工作中解放,從而釋放教師的教學熱情以及創(chuàng)新能力,讓人工智能成為一位優(yōu)秀教學助手提供全天候教學輔助支持;在學習輔助上,積極發(fā)展應用場景,優(yōu)化學生學習流程及學習內容定制,通過個性化學習內容生成貼近學生需求,增加學生學習興趣,提升學習效能;在智能交互場景上,擴展應用范圍,增加虛擬現實技術應用,讓GAI生成優(yōu)質的虛擬現實醫(yī)學人文資源,讓教師與學生在虛擬現實場景中,通過人工智能創(chuàng)新學習場景。

其次,GAI醫(yī)學人文價值決策應用場景,要以審慎態(tài)度適度發(fā)展。應用人工智能作為道德裁判,或者為醫(yī)學生提供一定倫理決策時,這類應用就需要對GAI產生的結果內容進行評判,因為就目前階段GAI輸出結果高度依賴算法以及數據的質量,未來通過人工智能技術迭代發(fā)展,此類情況可能會有改善,但是對于人工智能生成的結果仍然需要建立審核機制,并且發(fā)展此類人工智能應用更加需要小心探索、謹慎驗證。

最后,GAI探索醫(yī)學人文應用場景,嚴格審核發(fā)展。此類應用場景下是利用GAI強大數據歸納整理,探索醫(yī)學人文前沿內容,為醫(yī)學人文工作者提供探索新理論新思路的一個重要方式。未來一旦GAI具備人類類似的“意識”,是否會引導人類讓醫(yī)學人文向著有利于人工智能方向發(fā)展,讓學術界逐步接納人工智能對于醫(yī)學人文的數據化處理結果。此時就需要對于人工智能進行嚴格審核,以便將醫(yī)學人文發(fā)展方向掌握在人類手中。

3.2以人為本,讓人工智能時代醫(yī)學人文回歸本真 醫(yī)學的人文屬性不是獨立于醫(yī)學的實體,而是醫(yī)學和其所處的社會歷史環(huán)境關系中表現出來的某些特征[12]。醫(yī)學技術的變革為人類健康發(fā)展起促進作用,而醫(yī)學技術發(fā)展離不開人文精神所賦予的人性屬性,GAI所產生的內容價值觀,應當接近或者符合相應社會歷史環(huán)境所造就的醫(yī)學人文屬性,要讓醫(yī)學人文的“善”融入其中。

GAI的算法黑箱,讓算法的可解釋性、透明性產生一定阻礙。但是人工智能算法有其自己的技術特點,算法無論如何復雜,現階段都是由人類來設計,算法難免會帶有設計者的價值觀,這種價值觀或出于有意為之,抑或出于無意,基于這樣的原因,醫(yī)學人文的價值觀賦予算法就有技術基礎。在某種意義上“代碼即法律”,人類在算法制定規(guī)則的支配下,算法影響著人類社會,此刻算法就成為人類社會具有“法律”性質的規(guī)則[13]。無論人工智能更新多少次,功能如何強大,在醫(yī)學人文領域應用,應當更加注重其價值導向,因為相對于人工智能其他的功能,個性化推薦對于醫(yī)學人文領域極為重要。試想一下,當人工智能輸出內容讓使用者束縛于信息繭房之中,那么人工智能所蘊含的價值傾向,就會通過算法,以及對于使用者的偏好分析,更輕易引導使用者向著人工智能的價值方向前進。在醫(yī)學人文領域有很多具有這樣類似“法律”性質的原則,尊重人的尊嚴和價值、關懷人的福祉和生命、維護人的公平和公正。這些通過算法的設計,同樣是有可能融入GAI,并將這些原則通過生成內容傳遞出來并影響使用者。從某種角度上看,算法賦予的價值觀,是算法設計者價值觀間接體現,即便具有人類類似“意識”的人工智能,其技術基礎仍然是算法,其發(fā)展也由算法設計者決定。

技術本身并不具評判好或者壞的價值,但是人使用技術結果卻出現道德倫理問題。GAI的發(fā)展迅速,對于其發(fā)展速度過快的擔憂值得重視。但是對于技術的迅速崛起,更加需要關注的是人本身。醫(yī)學人文的發(fā)展同樣是圍繞人的本性展開。無論技術如何發(fā)展,最終使用技術的還是人類。醫(yī)學人文與人工智能技術融合,必然出現各種問題和困境,但是該如何更好使用人工智能,讓醫(yī)學人文中的“善”在人工智能時代更好延續(xù),遠比擔憂技術本身更值得思考。不妨將醫(yī)學人文發(fā)展的視線,轉向關注人的成長,關注人工智能是否能提升醫(yī)學教育中人性的“善”,關注設計人工智能的人是否將醫(yī)學的“善”注入其中,關注使用人工智能的人是否將人文的“善”不斷延續(xù)。

3.3以法為基,搭建GAI助力醫(yī)學人文發(fā)展良好生態(tài) 醫(yī)學人文發(fā)展需要人工智能的融入,需要為人工智能發(fā)展搭建法治與德治的框架,讓人工智能在醫(yī)學人文領域具有更加良好的生態(tài)。法治需要針對醫(yī)學人文領域人工智能應用邊界、人工智能角色定位以及人工智能價值導向等方面,進行法律規(guī)制;德治則需要醫(yī)學人文行業(yè)對不同應用場景下的人工智能應用進行分類倫理審核,制定醫(yī)學人文領域的人工智能規(guī)范準則。無論法治還是德治,其根本目的是更好促進醫(yī)學人文領域借助人工智能,搭上高速發(fā)展的列車。

在人工智能的法治路徑上,遵循適度、多層次、動態(tài)的原則。首先,法律監(jiān)管的適度原則。在遵循法律制定原則基礎上,將醫(yī)學人文領域面臨人工智能問題進行結構化解構,設定倫理的法律監(jiān)管邊界。制定法律框架,并在此框架基礎上,對人工智能進行適度的法律規(guī)制。在保證人工智能法律規(guī)制時效性同時,適度介入人工智能治理。其次,法律監(jiān)管的多層次原則。當前主流的人工智能規(guī)制路徑有兩類,一類是確立實體規(guī)則,一類是確立程序規(guī)則。確立實體規(guī)則即通過權力-義務的路徑對人工智能進行規(guī)制,確立程序規(guī)則對具體場景中的人工智能決策進行程序性規(guī)定[14]。確立實體規(guī)則應當立足于人工智能的行為規(guī)范,從宏觀角度對人工智能進行法律約束,確保由算法造成的新的倫理問題得到適度的法律規(guī)范。確立程序規(guī)則,則應著眼于具體人工智能的問題進行規(guī)制,從實際面臨的具體問題進行法律規(guī)制。最終確立從宏觀到微觀的多層次人工智能治理體系。最后,法律監(jiān)管的動態(tài)原則。人工智能法律規(guī)制是一個動態(tài)過程,在人工智能與醫(yī)學人文結合過程中,會面臨新問題、新情況和新困境,也因此在進行法律規(guī)制過程中,需要保留動態(tài)修訂的內容接口,避免法律規(guī)制的滯后性帶來的影響。

在人工智能的德治路徑上,GAI的核心是算法,如何“讀懂”算法則是人工智能德治的關鍵。首先,利用推薦算法,以算法規(guī)范算法。即在醫(yī)學人文應用人工智能過程中,由權威部門設計推薦算法,并嵌入各類人工智能算法進行技術規(guī)范,確保隱私數據脫敏,保證用戶信息安全,以及通過推薦算法對各類人工智能算法進行技術監(jiān)管規(guī)范。在數據收集、處理全過程進行監(jiān)管前提下,將人工智能應用于醫(yī)學人文教育,及時糾正因算法價值偏差造成的醫(yī)學人文價值偏差,保證醫(yī)學人文教育價值正確的方向。其次,加強算法運用的技術安全評估和管理。在人工智能算法投入醫(yī)學人文教育之前,對于算法風險通過專業(yè)部門進行技術安全評估,對當前極有可能造成的風險進行等級評估,對于未來可能出現的風險進行前置評估,形成動態(tài)的技術安全評估管理流程。最后,設立算法制定者責任體系。建立算法資源庫,并對算法制定者進行全流程追責,對算法設計的原始資料以及算法關鍵數據進行備案審查,明確算法制定者對于算法出現倫理問題負責。從以上三個角度完善醫(yī)學人文教育領域德治路徑。