“一體兩翼”科技倫理治理體系的構(gòu)建路徑及策略

劉如　張惠娜

摘? 要：我國科技倫理治理工作起步較晚，治理體制機制不健全、治理主體責(zé)任界限不明確、治理對象不重視等問題較為突出，亟待完善科技倫理治理體系。文章從新時期科技倫理治理的主要特征出發(fā)，深入挖掘我國科技倫理治理體系存在的問題，并針對問題提出“一體兩翼”科技治理體系的構(gòu)建路徑及策略，從創(chuàng)新體制機制建設(shè)、建好人才培養(yǎng)培訓(xùn)體系及塑造科技倫理共同責(zé)任意識等方面構(gòu)建“一體兩翼”的科技倫理治理體系。

關(guān)鍵詞：“一體兩翼”；科技倫理治理；科技倫理意識

中圖分類號：B82 文獻(xiàn)標(biāo)識碼：A DOI：10.19881/j.cnki.1006-3676.2023.03.08

近年來，基因編輯、人工智能、輔助生殖等新興技術(shù)的快速發(fā)展引發(fā)了一系列社會不確定性和倫理風(fēng)險，帶來了各類潛在的公共安全風(fēng)險和社會爭議。從“黃金大米”到“基因編輯嬰兒”，此類事件引發(fā)的爭議超出了傳統(tǒng)的個體或單個機構(gòu)的價值認(rèn)知和道德判斷范圍，需要更高層面、更大范圍的行業(yè)、國家乃至國際層面的價值共識和行為規(guī)范，這敦促我國加快推進(jìn)科技倫理治理的腳步。

2020年10月，我國國家科技倫理委員會正式成立。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)我國首個國家層面的科技倫理治理指導(dǎo)性文件《關(guān)于加強科技倫理治理的意見》（簡稱《意見》）?？梢?，科技倫理引發(fā)的社會問題及其治理已引起國家層面的關(guān)注。相對而言，我國科技倫理治理工作起步較晚，治理體制機制不健全、治理主體責(zé)任界限不明確、治理對象不重視等問題較為突出，科技倫理治理體系亟待完善。[1]

一、新時期科技倫理治理的主要特征

（一）時代特征：新興技術(shù)革命的不確定性加重科技倫理治理難度

歷史上任何時期都沒有像當(dāng)前一樣，新興技術(shù)無論是從深度還是廣度上都表現(xiàn)出無與倫比的開放性和擴散性—新興技術(shù)創(chuàng)新速度迅猛，且大多數(shù)處于技術(shù)成熟度的前半段，尚未形成固定的發(fā)展模式，其倫理問題具有很強的不確定性和未知性。新興技術(shù)的發(fā)展不僅對科技安全帶來沖擊，也可能重構(gòu)社會版圖和大國競爭格局。[2]新興技術(shù)革命的不確定性更是加重了科技倫理治理難度。例如，人工智能失控的社會風(fēng)險、大數(shù)據(jù)技術(shù)對人類隱私安全的侵犯、合成生物技術(shù)引發(fā)的流行病毒、腦機接口技術(shù)或?qū)⒖刂迫说男袨榈龋@些新興技術(shù)所帶來的倫理影響紛繁復(fù)雜，既有倫理規(guī)范無法回應(yīng)其發(fā)展帶來的潛在風(fēng)險，也有給科技倫理監(jiān)管部門帶來的監(jiān)管難題，科技倫理治理難度空前。

（二）社會特征：科技向善的價值目標(biāo)日益異化，科技逐步異化成為國際政治斗爭的手段和工具

隨著國際政治關(guān)系日趨復(fù)雜，尤其是中美科技競爭的日趨白熱化，科技不斷被工具化、利益化乃至政治異化。例如，2022年3月，新美國安全中心（CNAS）發(fā)布了兩份關(guān)于加強國際科技合作以對抗中國的報告。一份是《調(diào)整美國—以色列在科技和中國問題上的合作》，該報告對美國和以色列的技術(shù)合作進(jìn)行了戰(zhàn)略研究，其加強美—以科技合作的戰(zhàn)略宗旨不是為了促進(jìn)民生福祉，而是為了對抗中國的崛起；另一份是《數(shù)字盟友：深化美韓科技創(chuàng)新合作》報告，探討了美韓如何通過擴大技術(shù)合作來擴大和深化聯(lián)盟以對抗中國?？梢?，美國的科技發(fā)展乃至國際科技合作已被政治化為其開展國際斗爭的工具。日趨嚴(yán)重的科技異化趨勢呼吁出現(xiàn)更符合人類價值觀的國際科技倫理治理體系。

（三）國際特征：科技倫理風(fēng)險是全人類共同面臨的問題，亟須加強國際對話、溝通交流形成共識

不同文化傳統(tǒng)、不同民族乃至不同發(fā)展階段的國家對科技倫理問題的認(rèn)識存在諸多差異，這給國際科技倫理共識的形成和科技倫理治理的協(xié)作帶來了一定的難度。目前，國際上要么囿于國家界限，要么囿于行業(yè)界限，尚沒有形成科技倫理治理的統(tǒng)一原則。以人工智能領(lǐng)域為例，美國于2017年發(fā)布的《人工智能設(shè)計的倫理準(zhǔn)則》白皮書強調(diào)，人工智能需要遵循“人類權(quán)利、福祉、問責(zé)制、透明性和慎用”原則；日本于2018年發(fā)布的《以人類為中心的人工智能社會原則》強調(diào)，人工智能需要遵循“人類中心、教育應(yīng)用、保護隱私、保障安全、公平競爭、透明性和創(chuàng)新”原則；歐盟于2019年發(fā)布的《可信任人工智能的倫理指南》草案強調(diào)，人工智能應(yīng)體現(xiàn)“尊重人類自主性、預(yù)防傷害、公正性、可解釋性”的原則；我國于2019年發(fā)布的《新一代人工智能治理原則—發(fā)展負(fù)責(zé)任的人工智能》提出，“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理”等原則?？梢钥闯?，各國人工智能領(lǐng)域的科技倫理規(guī)范均有所不同，存在一致性也存在著諸多差異，尚未有統(tǒng)一的規(guī)范性綱領(lǐng)，亟待建立共同但又有區(qū)別的國際科技倫理治理原則，在共識基礎(chǔ)上發(fā)展和應(yīng)用人工智能技術(shù)。

（四）治理特征：科技倫理委員會成為主要監(jiān)管機構(gòu)

目前，各國較為常見的科技倫理治理主體是各種層面、層次的科技倫理治理委員會，既包括國際層面、國家層面、地方層面的，也包括行業(yè)層面、機構(gòu)層面的。作為主要監(jiān)管機構(gòu)，這些倫理委員會為科技創(chuàng)新周期各個階段提供系統(tǒng)的治理原則和監(jiān)管工具，包括立法咨詢、事前審批、事中監(jiān)督和事后跟蹤的全過程倫理制約。例如，成立于1993年的國際生物倫理學(xué)委員會（IBC）就是國際層面的科技倫理委員會，該委員會致力于生命科學(xué)及其應(yīng)用研究，為生物倫理思考提供全球平臺，以確保對人類文明和自由的尊重。[3]我國科技倫理治理的主體也是以各種行業(yè)倫理委員會為主，如國家衛(wèi)生計生委醫(yī)學(xué)倫理專家委員會、藥物臨床試驗倫理委員會、器械臨床試驗倫理委員會、器官移植倫理委員會、生殖醫(yī)學(xué)倫理委員會、動物倫理委員會等，這些機構(gòu)都肩負(fù)著科技倫理治理和監(jiān)管的責(zé)任。作為科技倫理治理主體，這些機構(gòu)均在不斷擴大委員會成員范圍，在科學(xué)家之外，還逐步納入了倫理學(xué)家、企事業(yè)單位管理人員、科技研發(fā)人員、群眾代表等利益相關(guān)者，跨領(lǐng)域、專業(yè)化人才在科技倫理治理過程中的作用逐步凸顯。

二、我國科技倫理治理存在的問題

我國的科技倫理治理起步較晚。20世紀(jì)90年代，我國在醫(yī)院、科研機構(gòu)層面先后引入了倫理委員會制度，但在大學(xué)、科研機構(gòu)和企業(yè)成立倫理委員會的比例較低。2020年，國家科技倫理委員會成立。在這一委員會指導(dǎo)下，科學(xué)技術(shù)部會同相關(guān)部門，先后成立了國家科技倫理委員會人工智能、生命科學(xué)、醫(yī)學(xué)3個分委員會，推動相關(guān)部門成立科技倫理專業(yè)委員會，指導(dǎo)各地方建立或籌建地方科技倫理委員會。2022年，《意見》的印發(fā)標(biāo)志著我國開始對科技倫理治理進(jìn)行頂層設(shè)計和系統(tǒng)部署。但總體而言，我國科技倫理治理相對滯后，無法滿足和應(yīng)對復(fù)雜的科技倫理現(xiàn)實問題。

（一）治理體系不健全，科技倫理治理機制尚不完善

科技倫理問題變化迅速、涉及面廣。但當(dāng)前我國的科技倫理治理體制機制尚不完善，未能實施倫理敏感的敏捷治理，具體體現(xiàn)在以下4個方面：其一，科技倫理研究尚未跟上我國科技事業(yè)發(fā)展的步伐。例如，很多“無人區(qū)”顛覆性技術(shù)及相關(guān)應(yīng)用的倫理審視與價值判斷尚未跟進(jìn)發(fā)展，甚至某些重要領(lǐng)域的科技倫理研究才剛起步，缺乏前瞻性、儲備性研究。其二，科技倫理治理領(lǐng)域發(fā)展不均衡，醫(yī)學(xué)等領(lǐng)域已有相對較為完整的科技倫理體系，而某些新興科學(xué)技術(shù)領(lǐng)域亟須相應(yīng)的標(biāo)準(zhǔn)和規(guī)范。其三，部分領(lǐng)域雖有明確的管理體系和科技倫理規(guī)范，但在倫理審查方面存在著審查和監(jiān)管不到位乃至懲治力度不夠等問題，對違規(guī)行為難以起到威懾作用。另外，囿于觀念和人才不足等問題，很多科研單位并未設(shè)立科技倫理委員會，對相關(guān)工作缺乏監(jiān)管和審查。其四，我國科技倫理治理還存在著法治化水平不高問題。雖然目前生命、醫(yī)學(xué)、信息等領(lǐng)域開展了科技倫理立法研究，頒布了如《中華人民共和國生物安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等相關(guān)法律法規(guī)，從法律層面推動科技倫理治理，但對于應(yīng)該推動哪些倫理問題上升到法律層面加以保障，以及如何推動倫理問題法治化發(fā)展等仍缺乏深入研究，缺少明確的規(guī)定，導(dǎo)致科技倫理治理法治化水平遠(yuǎn)滯后于科學(xué)技術(shù)發(fā)展的法治需求。

（二）治理主體責(zé)任界限不明確，科技倫理治理人才數(shù)量和質(zhì)量尚不能滿足科技倫理治理事業(yè)發(fā)展需求

科技倫理治理涉及法律、行政、學(xué)術(shù)監(jiān)督等諸多領(lǐng)域，相關(guān)政府部門、科研院所、高校、企業(yè)以及科技類社會團體等諸多力量都應(yīng)參與其中，但在《意見》出臺之前，我國并未明確規(guī)定治理主體和治理職責(zé)，政府部門、科研機構(gòu)、學(xué)術(shù)期刊、學(xué)會、科研人員等在治理體系中的主體責(zé)任界限不明確。另外，科技倫理治理是一項專業(yè)性較強的工作，我國科技倫理人才隊伍的規(guī)模和水平不能滿足科技倫理治理發(fā)展需求，尚未形成強有力的審查和監(jiān)管隊伍，外行管內(nèi)行的問題還很明顯，具體表現(xiàn)在以下3個方面：其一，從學(xué)科設(shè)置來看，我國的科技倫理學(xué)科屬于倫理學(xué)的一個分支，而倫理學(xué)又屬于哲學(xué)學(xué)科門類下的特設(shè)學(xué)科，設(shè)置該專業(yè)的高校和科研院所并不多。在倫理學(xué)學(xué)科中，從事科技倫理這一細(xì)分領(lǐng)域的專業(yè)研究人員數(shù)量更是少之又少，且力量較為分散。其二，我國雖在醫(yī)學(xué)、生命科學(xué)等部分新興領(lǐng)域設(shè)置了科技倫理課程，但很多其他專業(yè)并未設(shè)置科技倫理專業(yè)課程，即使工程學(xué)、生態(tài)學(xué)等專業(yè)領(lǐng)域設(shè)置了相應(yīng)的課程，也多處于選修課范圍。另外，我國義務(wù)教育階段以及高中階段對科技倫理知識的教育和普及較少，鮮有涉及。其三，科技倫理人才參與國際科技倫理治理能力不足，缺乏對國際相關(guān)規(guī)則、現(xiàn)狀及趨勢的把握，不能滿足我國從全球科技倫理治理的參與者向引領(lǐng)者轉(zhuǎn)變的現(xiàn)實需求。

（三）部分科研人員科技倫理意識淡薄，缺乏對科技倫理的敬畏之心

科技倫理治理涉及政府管理部門，高校、科研機構(gòu)、企業(yè)等創(chuàng)新主體，學(xué)會、協(xié)會、研究會等科技社團，科研人員和社會公眾等不同主體。[4]科研人員是科技倫理治理主體重要力量之一，科研人員自身科技倫理規(guī)則意識淡薄是科技倫理治理中較為突出的問題。科研人員自身科技倫理意識淡薄，缺乏對科技倫理的敬畏之心，影響了科技倫理規(guī)則的有效實施。例如，部分科研人員對科技倫理及相關(guān)規(guī)范缺乏足夠的重視，甚至為了利益作出突破倫理底線乃至違法的行為，缺乏對科技倫理的敬畏之心；部分科研人員科技倫理意識不強，化科技倫理規(guī)范“他律”為“自律”的自覺性不夠，主動考量科技倫理風(fēng)險的積極性和主動性不高，亟待提升科技倫理道德意識和水平。另外，對科技倫理治理的社會宣傳不夠，未引起公眾對科技倫理問題的足夠重視，在推動科技向善方面缺少足夠的社會輿論引導(dǎo)。

三、“一體兩翼”科技倫理治理格局的構(gòu)建路徑及策略

新時期，為應(yīng)對日益迅猛發(fā)展的科技發(fā)展現(xiàn)實，我國應(yīng)構(gòu)建科技倫理治理“一體兩翼”發(fā)展格局，補齊科技倫理治理短板，護航科技強國建設(shè)。其中，“一體兩翼”的“一體”是指加強科技倫理體制機制建設(shè)，“兩翼”分別是加快科技倫理人才培養(yǎng)及提高科研人員倫理意識。

（一）創(chuàng)新體制機制建設(shè)，完善科技倫理審查監(jiān)管機制

第一，完善政府科技倫理管理體制。加強科技倫理治理頂層設(shè)計、戰(zhàn)略規(guī)劃和系統(tǒng)部署，建立和完善符合我國國情的科技倫理治理管理體系。強化科技倫理治理的法律保障和制度保障，構(gòu)建能適應(yīng)突發(fā)事件快速響應(yīng)的應(yīng)急審查機制，推動科技倫理法律、規(guī)范和標(biāo)準(zhǔn)制定的專業(yè)化、現(xiàn)代化和國際化。從高風(fēng)險科技活動領(lǐng)域和高敏感倫理價值兩個角度，全面認(rèn)識和加強科技倫理治理。[5]充分調(diào)動各方資源力量，逐步構(gòu)建起政府主導(dǎo)、多方參與、協(xié)同共治的科技倫理治理管理機制，匯聚形成科技倫理治理合力。第二，充分發(fā)揮高校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)等單位在科技倫理治理中的主體作用。推動科技創(chuàng)新主體單位設(shè)立與自身發(fā)展相符合的科技倫理委員會，督促其嚴(yán)格履行科技倫理治理主體責(zé)任。對尚不具備設(shè)立科技倫理委員會條件的單位，可委托其他科技倫理委員會開展審查監(jiān)管，促進(jìn)第三方科技社團等社會組織在科技倫理審查與監(jiān)管方面發(fā)揮作用。第三，提高科技倫理治理法治化水平。強化科技倫理相關(guān)領(lǐng)域立法工作，加強法律對科技倫理的剛性約束，懲戒科技倫理違法違規(guī)行為，以法律保障守住科技倫理治理底線。

（二）建好人才培養(yǎng)“四張網(wǎng)”，提升治理專業(yè)化水平

第一，建好學(xué)?！芭囵B(yǎng)網(wǎng)”。強化“技術(shù)+倫理”的科技倫理通識課程體系建設(shè)，打造從義務(wù)教育階段到高等教育階段全覆蓋的科技倫理人才培養(yǎng)體系，加大醫(yī)學(xué)、生物學(xué)、信息技術(shù)、工程學(xué)等專業(yè)課程中科技倫理相關(guān)課程的設(shè)置比重。第二，建好創(chuàng)新“培育網(wǎng)”。加大對科技倫理研究的經(jīng)費和人員支持，加強對合成生物學(xué)、認(rèn)知神經(jīng)科學(xué)、信息通信技術(shù)、人工智能等新興技術(shù)及應(yīng)用的前瞻性倫理審視和價值判斷。推進(jìn)科技倫理前沿研究，促進(jìn)科技倫理研究的多元化、跨學(xué)科化和國際化發(fā)展。第三，建好監(jiān)管“培訓(xùn)網(wǎng)”。加強對科技倫理管理機構(gòu)和科技創(chuàng)新主體中相關(guān)人員的科技倫理教育和培訓(xùn)，并重點在生命科學(xué)、人工智能等新興技術(shù)領(lǐng)域，組織編制專業(yè)培訓(xùn)教材，定期開展相關(guān)培訓(xùn)工作。第四，建好國際“交流網(wǎng)”。搭建國際交流平臺，拓展科技倫理人才國際視野，培養(yǎng)科技倫理人才參與國際科技倫理重大議題研討和規(guī)則制定的能力，推動我國科技倫理人才在建立“共同但又有區(qū)別的”國際科技倫理治理原則方面發(fā)揮更多作用。

（三）構(gòu)建科技倫理“三道線”，提高科技倫理共同責(zé)任意識

第一，堅守“道德底線”，埋下科技倫理意識種子。為科研活動及技術(shù)應(yīng)用設(shè)置道德底線，強化科研人員的主體責(zé)任和責(zé)任意識，引導(dǎo)科技工作者將道德和責(zé)任概念內(nèi)化于心，在科學(xué)研究和技術(shù)應(yīng)用中遵循“負(fù)責(zé)任的研究和創(chuàng)新”（RRI）理念，自覺踐行科技倫理原則。同時，加強對科技倫理的廣泛宣傳引導(dǎo)，提高全社會科技倫理意識。第二，拉起“倫理紅線”，明晰科技倫理邊界。將科技倫理納入科研和人才評價體系，引導(dǎo)科研工作者明晰科技倫理邊界，遵循倫理規(guī)范。同時，隨著科技工作者道德自覺水平的提高，化“他律”為“自律”，將技術(shù)濫用可能引發(fā)的倫理風(fēng)險控制在最小范圍內(nèi)。第三，恪守“規(guī)則高壓線”，豎起科技倫理防火墻。為科研活動設(shè)置“有所為和有所不為”的邊界、規(guī)范和準(zhǔn)則，注重前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風(fēng)險、倫理挑戰(zhàn)，建立和完善相關(guān)法律法規(guī)、倫理規(guī)范和政策，將科技倫理規(guī)范納入制度和法律之中，對科研人員和科研活動嚴(yán)格監(jiān)管，通過科技倫理共同責(zé)任意識的樹立，將科研活動限定在合理、安全的防火墻內(nèi)，引導(dǎo)科技向善發(fā)展。

參考文獻(xiàn)：

[1] 張惠娜，劉如.補齊科技倫理治理短板，促進(jìn)科技事業(yè)穩(wěn)健發(fā)展[N].科技日報，2022-04-11（08）.

[2] 袁立科，韓佳偉.新興技術(shù)發(fā)展安全風(fēng)險與治理路徑分析[J].科技智囊，2023（01）：29-36.

[3] UNESCO.International Bioethics Committee[EB/OL].（2023-01-19）[2023-02-06].http：//en.unesco.org/themes/ethics-science-and-technology/ibc.

[4] 王志剛.完善科技倫理治理體系 保障科技創(chuàng)新健康發(fā)展[J].求是，2022（20）：43-47.

[5] 劉永謀.深刻認(rèn)識科技倫理治理[N].學(xué)習(xí)時報，2022-05-16（A7）.

The Construction Path and Strategy of“One Body，Two Wings”Scientific and Technological Ethics Governance System

Liu? Ru1? ? Zhang? Huina2

（１.Chinese Academy of Science and Technology for Development，Beijing，100038；2.Beijing Academy of Science and Technology，Beijing，100089）

Abstract：The work of scientific and technological ethics governance in China started relatively late，there are serious problems such as the governance system and mechanism are not sound，the responsibility boundaries of governance subjects are not clear，scientific and technological ethics issues are not taken seriously，it is urgent to improve the scientific and technological ethics governance system. Starting from the main characteristics of scientific and technological ethical governance in the new era，the article deeply explores the problems in China's scientific and technological ethical governance system，and puts forward the construction path and strategy of building a scientific and technological governance system characterized by“One Body，Two Wings”，the scientific and technological ethics governance system by “One Body，Two Wings”should be constructed from innovative system and mechanism of scientific and technological ethics governance，the construction of personnel training system and the consciousness of joint responsibility of scientific and technological ethics.

Key words：“One Body，Two Wings”；Ethical governance of science and technology；Scientific and technological ethics consciousness

基金項目：本文系國家社科基金“從參與到共治：STS視角下的生物技術(shù)治理”（項目編號：21FZXB063）研究成果。

作者簡介：劉如，1982年生，碩士，副研究員，研究方向：科技創(chuàng)新政策。張惠娜（通信作者），1978年生，博士，副研究員，研究方向：區(qū)域創(chuàng)新與人才發(fā)展。