科技倫理治理中的全過程審查機制構(gòu)建

杜盼盼，徐 嘉

[東南大學(xué)，南京 211189]

近現(xiàn)代以來，隨著科學(xué)技術(shù)的迅速發(fā)展，尤其是當(dāng)代新興科學(xué)技術(shù)的不斷涌現(xiàn)，它們在給人類帶來便捷與福祉的同時，也成為諸多社會麻煩的制造者。為了應(yīng)對這些麻煩，建立科學(xué)共同體、政府與社會等多元主體之間平等合作的治理機制就成為必然選擇，是為科技治理。(1)張云昊：《科學(xué)治理的結(jié)構(gòu)轉(zhuǎn)型—一個分析框架的構(gòu)建》，《科學(xué)學(xué)研究》2017年第11期。在科技治理中，針對那些可能對人類尊嚴(yán)、權(quán)利以及其他社會倫理關(guān)系帶來重大風(fēng)險挑戰(zhàn)的科技活動進行治理，就形成了科技倫理治理。對于具有一定“黑箱”性的科技活動來說，其倫理風(fēng)險往往是潛在的、易忽視的、隱匿的和非預(yù)期的。因此，如何及時發(fā)現(xiàn)、控制和監(jiān)管科技活動中的倫理風(fēng)險就成為科技倫理治理的核心。而要解決這一問題，建立有效的科技倫理審查機制就成為關(guān)鍵。

科技治理中的倫理審查機制主要指為了防止重大科技活動中可能出現(xiàn)的倫理風(fēng)險，由相關(guān)科技領(lǐng)域?qū)＜?、倫理學(xué)家、管理者、使用者、社會公眾等多元主體組成相應(yīng)的倫理審查委員會，針對科技活動過程中可能存在的或已經(jīng)發(fā)生的倫理風(fēng)險，依據(jù)一定的倫理原則、法律法規(guī)和程序進行識別、預(yù)警、評估、監(jiān)管與救濟等，并提出相應(yīng)的防范與治理措施。(2)樊春良：《科技倫理治理的理論與實踐》，《科學(xué)與社會》2021年第4期。根據(jù)這一界定，倫理審查的核心在于識別、發(fā)現(xiàn)和監(jiān)控科技活動過程中的倫理風(fēng)險點。一般而言，科技活動過程包括三個關(guān)鍵階段，即科技議程設(shè)置、科技產(chǎn)品的研發(fā)或設(shè)計、科技產(chǎn)品的推廣與使用。在這三個階段中，每個階段都可能存在潛在的倫理風(fēng)險點。因此，應(yīng)當(dāng)在三個階段中都嵌入相應(yīng)的倫理審查程序，這樣就形成了科技活動的全過程倫理審查機制。然而，科技活動過程的三個階段都有其不同的特征，倫理審查應(yīng)當(dāng)依據(jù)不同階段的不同特征建立相應(yīng)的嵌入機制。本文正是基于這一思路，依據(jù)科技議程設(shè)置、科技產(chǎn)品研發(fā)和科技產(chǎn)品使用三個階段的不同特征，設(shè)計了不同的倫理審查形式或制度，并探討了其適應(yīng)性嵌入的方式或途徑，從而建構(gòu)了科技治理中的全過程倫理審查機制。

一、專業(yè)審查與公眾質(zhì)詢：科技議程設(shè)置中的倫理審查

在科技活動過程中，科技議程設(shè)置首當(dāng)其沖，它是科技研發(fā)、生產(chǎn)與使用的起點。在大科學(xué)時代，科技議程的設(shè)置通常有兩種形式：一是科學(xué)共同體的內(nèi)部議程設(shè)置，即由科技專家通過同行評議或?qū)W術(shù)交流創(chuàng)建的議程，可以稱之為內(nèi)創(chuàng)型議程；二是由政府、市場或社會等外部力量創(chuàng)建的議程，可以稱之為外創(chuàng)型議程。(3)張云昊：《學(xué)術(shù)研究的議程設(shè)置：基于知識社會系統(tǒng)的考量》，《科學(xué)學(xué)研究》2011年第11期。內(nèi)創(chuàng)型議程往往遵循“研究無禁區(qū)”的科技發(fā)展邏輯，其目的在于推動某一科技領(lǐng)域的創(chuàng)新性發(fā)展。外創(chuàng)型議程一般遵循的是科技需求邏輯，即為了滿足國家戰(zhàn)略、市場競爭或社會發(fā)展等需求所創(chuàng)建的科技議程。無論是內(nèi)創(chuàng)型議程還是外創(chuàng)型議程，它們創(chuàng)建的科技議程都可能存在著一定的倫理風(fēng)險，因而需要倫理審查的介入。

就科技議程設(shè)置中的倫理風(fēng)險來說，它通常具有三個重要特征：第一，倫理風(fēng)險的未知性和潛在性。一般而言，科技專家提出的某項重大科技議題往往都具有超前性和新穎性，都是前人未曾涉及的新領(lǐng)域。對于一個新領(lǐng)域而言，人們對它的風(fēng)險通常知之甚少。即使對于提出該科技議題的相關(guān)專家來說，他們也很難完全預(yù)測到該議題可能存在的潛在風(fēng)險。第二，倫理風(fēng)險的易被忽視或刻意隱瞞。無論是在內(nèi)創(chuàng)型議程還是外創(chuàng)型議程的創(chuàng)建過程中，議程設(shè)置者的注意力往往更多的聚焦于該項科技議程的優(yōu)勢上，即如何推進了該領(lǐng)域的科技創(chuàng)新或者滿足了國家和產(chǎn)業(yè)的需求等。在這種“光環(huán)效應(yīng)”下，科技議程中的倫理風(fēng)險很容易被忽視或遺忘。不僅如此，議程設(shè)置者為了獲取相應(yīng)的支持或資源，推動議程的創(chuàng)建成功，即使發(fā)現(xiàn)了倫理風(fēng)險點，他們也極有可能視而不見甚至刻意隱瞞。第三，倫理風(fēng)險的初始性和“蝴蝶效應(yīng)”。如果將科技活動視為一個存在倫理風(fēng)險鏈條的過程，那么議程設(shè)置則是這個風(fēng)險鏈條的初始端。一旦議程設(shè)置成功，那么風(fēng)險將隨之而來。如果我們對這種未來的風(fēng)險估計不足而未能從源頭上進行有效的防范和干預(yù)，那么就可能因某一初始風(fēng)險產(chǎn)生“蝴蝶效應(yīng)”，導(dǎo)致風(fēng)險鏈條的不斷延伸而出現(xiàn)不可控性。(4)烏爾里?！へ惪耍骸讹L(fēng)險社會》，張文杰等譯，南京：譯林出版社，2018年，第14-25頁。基于上述三大特征，對科技議程設(shè)置中可能存在的倫理風(fēng)險進行審查和監(jiān)管就成為必然。那么，如何將倫理審查嵌入到科技議程的設(shè)置過程之中？

依據(jù)科技議程設(shè)置中可能存在的倫理風(fēng)險的特征，至少應(yīng)當(dāng)在科技議程設(shè)置中嵌入兩個關(guān)鍵的倫理審查程序，即專業(yè)型審查和公眾質(zhì)詢型審查。專業(yè)型審查主要是指由少數(shù)專家組成的精英化審查機構(gòu)或委員會，負(fù)責(zé)對某項科技議程進行前期初步審查的一種程序，從中發(fā)現(xiàn)該項科技議程可能存在的倫理風(fēng)險點。在這里，專業(yè)型審查機構(gòu)的主體應(yīng)當(dāng)由某項科技議程的倡導(dǎo)者、相關(guān)科技領(lǐng)域中的專家、倫理學(xué)家、管理者或從業(yè)者代表等組成。專業(yè)型審查的程序包括兩個環(huán)節(jié)，一是在科技議程設(shè)置中，議程倡導(dǎo)者首先應(yīng)當(dāng)對該科技項目中可能存在的潛在倫理風(fēng)險點進行自查，并提交自查報告進行備案，以防止刻意隱瞞相關(guān)倫理問題。二是將科技議程設(shè)置的報告和倫理自查報告提交倫理審查專業(yè)機構(gòu)進行審查，并形成較為具體的審查意見或報告，提出相應(yīng)的預(yù)防措施等。在專業(yè)審查中，對于內(nèi)創(chuàng)型議程和外創(chuàng)型議程的審查會有所不同。內(nèi)創(chuàng)型議程在一定程度上是為了純粹的科學(xué)研究，是由科學(xué)共同體內(nèi)部設(shè)置，因而對其倫理審查主要依賴于議程創(chuàng)建者、相關(guān)領(lǐng)域的專家、倫理學(xué)家等。外創(chuàng)型議程的科技研發(fā)則主要服務(wù)于國家戰(zhàn)略或社會運用，對社會影響更為廣泛。因此，對于外創(chuàng)型議程來說，在專業(yè)審查中除了專家以外，更應(yīng)當(dāng)重視吸納相關(guān)管理者、從業(yè)者和潛在使用者代表的參與，建立一個代表廣泛、專業(yè)能力與社會能力相結(jié)合的負(fù)責(zé)任的擴展型倫理審查機構(gòu)。專業(yè)型審查將議程倡導(dǎo)者的自查和精英化的專業(yè)審查相結(jié)合，具有較為明顯的優(yōu)勢。首先，專業(yè)審查集中了專業(yè)化的力量，對相關(guān)科技領(lǐng)域及其倫理風(fēng)險較為熟悉，這能夠更專業(yè)、更有效的發(fā)現(xiàn)倫理風(fēng)險。其次，專業(yè)審查機構(gòu)擁有一定的審查權(quán)力，但同時也承擔(dān)相應(yīng)的責(zé)任，權(quán)責(zé)相對明確。然而，專業(yè)審查機構(gòu)也有一定的缺陷。這種缺陷主要體現(xiàn)在，專業(yè)審查作為一種專業(yè)化、精英化、相對閉鎖的審查機制，它一方面存在著可能被操縱的風(fēng)險，另一方面可能存在著視野的局限而導(dǎo)致風(fēng)險發(fā)現(xiàn)的可及性不足。(5)Jean Philippe de Jong，Myra C.B.van Zwieten，Dick L. Willems，Ethical review from the inside：repertoires of evaluation in Research Ethics Committee meetings. Sociology of Health &Illness，2012(9).正是基于專業(yè)審查的缺陷，因而需要在科技議程設(shè)置中嵌入更具開放性和可及性的公眾質(zhì)詢程序。

公眾質(zhì)詢型審查主要是由社會公眾對某項科技議程進行公開質(zhì)詢并提出審查意見的開放性程序。一般而言，公眾質(zhì)詢型審查應(yīng)當(dāng)包括三個環(huán)節(jié)：第一，將某項科技議程的論證報告、議程倡導(dǎo)者的自評報告和專業(yè)審查報告公布于眾，面向所有關(guān)心該議程的公眾開放議程設(shè)置過程。第二，公眾針對該議程存在的所有可能的倫理風(fēng)險點提出意見和質(zhì)疑，相關(guān)專家對此進行解釋。第三，對公眾爭議較大的倫理風(fēng)險點，組織由專家與公眾代表等構(gòu)成的聯(lián)合審查委員會進行進一步的討論與論證，并提出相應(yīng)的防范或解決方案。公眾質(zhì)詢型審查是一種包容、開放的審查機制，它能夠集思廣益，最大范圍地發(fā)現(xiàn)可能存在的潛在倫理風(fēng)險，是彌補專業(yè)審查不足的一個重要制度。(6)Funtowicz，O.Silvio ，Ravetz，A new problem-solving strategy for global environmental issues. National Forum，1990，70(4).在當(dāng)代互聯(lián)網(wǎng)技術(shù)的加持下，公眾質(zhì)詢程序在運用上并不存在太多障礙，它能夠快速、廣泛地觸達關(guān)注相關(guān)科技議題的公眾。然而，公眾質(zhì)詢也存在著一定的缺陷，首先，公眾質(zhì)詢的適用范圍具有一定的局限性。對于內(nèi)創(chuàng)型議程來說，由于它更具有純科學(xué)的性質(zhì)，公眾對其了解的廣度和深度都極其有限，因而公眾質(zhì)詢對于內(nèi)創(chuàng)型議程的作用相對較小。但對于外創(chuàng)型議程來說，由于這些科技研發(fā)項目更注重應(yīng)用性，面向市場與社會也更關(guān)乎公眾生活和易于公眾理解，因而也就更需要公眾質(zhì)詢程序的嵌入。其次，公眾質(zhì)詢需要一批具有一定科學(xué)素養(yǎng)、熱衷于公共事務(wù)的公眾參與，這就需要通過教育和科普等途徑不斷提升公眾的科學(xué)素養(yǎng)。最后，專家與公眾之間的認(rèn)知鴻溝始終是存在的，再加上社會中長久存在的“反智主義”，這必然增加專家與公眾之間的溝通成本，影響公眾質(zhì)詢的有效性。

科技議程設(shè)置作為科技活動過程的前端，對其進行倫理審查是治理科技倫理風(fēng)險的起點，因而至關(guān)重要。對于科技議程設(shè)置的倫理審查來說，建立從內(nèi)到外、從封閉到開放、從精英化到社會化的專業(yè)審查和公眾質(zhì)詢機制，是從源頭上治理科技倫理風(fēng)險的關(guān)鍵。然而，科技議程設(shè)置僅僅處于科技活動的起始討論階段，并未進行實質(zhì)性的研發(fā)與生產(chǎn)。因此，對其進行倫理審查更多的是倫理想象或推斷，是對未知的倫理風(fēng)險的預(yù)見性判斷。

二、倫理屏風(fēng)與道德物化：科技產(chǎn)品設(shè)計中的倫理審查

當(dāng)科技議程設(shè)置成功以后，接下來就是科技產(chǎn)品的設(shè)計或研發(fā)環(huán)節(jié)。如果說科技議程設(shè)置中的倫理審查是一種想象的、預(yù)見性的倫理風(fēng)險審查，那么科技產(chǎn)品研發(fā)中的倫理審查則進入了實質(zhì)性的風(fēng)險發(fā)現(xiàn)與防范階段，即倫理風(fēng)險由可能性轉(zhuǎn)變?yōu)楝F(xiàn)實性。在科技產(chǎn)品的研發(fā)中，研究者在科學(xué)原理運用、產(chǎn)品設(shè)計、實驗室生產(chǎn)等具體實踐操作過程中，通過科技產(chǎn)品功能與社會影響等測試，能夠發(fā)現(xiàn)該項科技產(chǎn)品真正存在的倫理風(fēng)險。那么，如何在研發(fā)與生產(chǎn)過程中更好的發(fā)現(xiàn)科技產(chǎn)品存在的具體倫理風(fēng)險？怎樣規(guī)避或防止這些倫理風(fēng)險？這就需要在科技產(chǎn)品的研發(fā)中嵌入有效的倫理審查機制。

就科技產(chǎn)品研發(fā)階段中的倫理風(fēng)險而言，它具有以下四個特征：第一，倫理風(fēng)險由議程設(shè)置階段的道德想象或倫理推斷轉(zhuǎn)變?yōu)榭捎^察的、事實存在的具體風(fēng)險點。道德想象或倫理推斷的風(fēng)險相對模糊和宏觀，而產(chǎn)品研發(fā)階段的倫理風(fēng)險則相對具體。前者為后者奠定了基礎(chǔ)，通過道德想象或倫理推斷，能夠更好地發(fā)現(xiàn)具體的倫理風(fēng)險。第二，研發(fā)過程中的倫理風(fēng)險往往潛藏于科技產(chǎn)品的設(shè)計結(jié)構(gòu)、功能模塊等環(huán)節(jié)中，通過專業(yè)審查和敏捷性測試，能夠發(fā)現(xiàn)這些風(fēng)險點。第三，這些風(fēng)險點可以通過產(chǎn)品設(shè)計或功能的改進，以及嵌入相應(yīng)的倫理風(fēng)險防控程序得以規(guī)避。第四，科技產(chǎn)品的研發(fā)還處于相對封閉的實驗室階段，外界對此了解甚少，因而其倫理風(fēng)險的發(fā)現(xiàn)與規(guī)避主要依賴于相關(guān)科研人員。上述特征表明，在科技產(chǎn)品研發(fā)階段，倫理風(fēng)險由應(yīng)然走向了實然，這就需要我們在該階段嵌入倫理審查程序，及時發(fā)現(xiàn)具體的風(fēng)險點，以改進設(shè)計，規(guī)避相關(guān)的倫理風(fēng)險。具體而言，我們應(yīng)當(dāng)建立發(fā)現(xiàn)和排除具體倫理風(fēng)險點的“倫理屏風(fēng)”機制，以及在產(chǎn)品設(shè)計中嵌入負(fù)載倫理價值的程序或功能，即維貝克所稱的“道德物化”。

“倫理屏風(fēng)”(Ethical Screen)也稱之為道德過濾器，主要指以倫理或道德考量為中心的系統(tǒng)化審查機制。該機制通過預(yù)設(shè)一定的倫理審查標(biāo)準(zhǔn)、原則、程序與方法，劃分諸如誰為倫理主體、是否涉及倫理價值判斷、倫理價值判斷的標(biāo)準(zhǔn)是什么、可能產(chǎn)生怎樣的倫理或道德結(jié)果、是否需要進行倫理測試、倫理測試的方法是什么等問題，由專門的倫理審查委員會依此標(biāo)準(zhǔn)進行對照審查，從而厘清科技產(chǎn)品中存在的具體倫理風(fēng)險點，并對那些倫理風(fēng)險較大的設(shè)計方案進行改進或剔除。這樣，倫理審查就發(fā)揮著“屏風(fēng)”或“過濾器”的功能，故稱之為“倫理屏風(fēng)”。(7)Carroll B.Archie，Principles of Business Ethics：Their Role in Decision Making and an Initial Consensus. Management Decision，1990，28(8).具體而言，科技產(chǎn)品研發(fā)階段的“倫理屏風(fēng)”主要包括以下環(huán)節(jié)：第一，組織建立針對該研發(fā)項目的專門倫理審查委員會，主要由研發(fā)者、相關(guān)領(lǐng)域的科技專家、倫理專家、潛在的重要使用者等組成。第二，專門倫理審查委員會設(shè)置該項目倫理審查的具體標(biāo)準(zhǔn)和程序。將議程設(shè)置階段的倫理審查報告作為基礎(chǔ)和參照，確定誰是該科技產(chǎn)品受影響的倫理主體，可能面臨哪些倫理方面的價值判斷或道德詰難，做出這些倫理判斷應(yīng)當(dāng)堅守的道德原則是什么，進行倫理測試的范圍、方法和內(nèi)容是什么等。第三，專門倫理審查委員會對研發(fā)產(chǎn)品的設(shè)計、功能和成品進行倫理審查或測試，從中發(fā)現(xiàn)存在的主要倫理風(fēng)險，依據(jù)設(shè)定倫理標(biāo)準(zhǔn)進行對照，排除倫理風(fēng)險較大的設(shè)計方案或功能模塊。該環(huán)節(jié)是發(fā)揮“倫理屏風(fēng)”功能的關(guān)鍵，它又包括以下步驟：(1)研發(fā)人員在研發(fā)過程中最了解產(chǎn)品的缺陷或風(fēng)險，因而應(yīng)當(dāng)首先由他們提出在研究過程中發(fā)現(xiàn)的倫理風(fēng)險，并形成報告進行備案；(2)對科技產(chǎn)品進行一定范圍內(nèi)的測試和試用，邀請相關(guān)的科技專家、倫理專家、潛在的重要使用者以及倫理審查委員會成員等參加產(chǎn)品測試，從中發(fā)現(xiàn)具體的倫理風(fēng)險點；(3)倫理審查委員會依據(jù)所設(shè)置的審查標(biāo)準(zhǔn)和程序，針對該產(chǎn)品的設(shè)計和功能提出倫理審查報告，決定產(chǎn)品是否需要重新設(shè)計或改進等建議。通過“倫理屏風(fēng)”機制的道德過濾，能夠有效發(fā)現(xiàn)科技產(chǎn)品存在的倫理風(fēng)險，從而排除那些有重大倫理風(fēng)險的設(shè)計方案。(8)Jacques Cory，Activist Business Ethics. New York：Springer，2006.

“倫理屏風(fēng)”的核心在于過濾道德風(fēng)險，它本質(zhì)上是一種風(fēng)險篩查和負(fù)向規(guī)避機制。然而，對于科技產(chǎn)品而言，它們不可能是完美的。對于那些無法完全規(guī)避的倫理風(fēng)險，我們能否在科技產(chǎn)品中嵌入正向的倫理價值，以引導(dǎo)使用者的道德行為，從而建立一種科技向善的引導(dǎo)機制？荷蘭學(xué)者維貝克提出的“道德物化”(Morality of Things)思想為這一機制提供了理論基礎(chǔ)。“道德物化”的核心是技術(shù)調(diào)解理論，即工程師和倫理學(xué)家通過負(fù)載道德與倫理價值的技術(shù)設(shè)計，將具體的道德倫理價值或規(guī)范“物化”到科技產(chǎn)品中去，從而使科技產(chǎn)品承擔(dān)起倫理規(guī)范者的角色，引導(dǎo)和規(guī)范產(chǎn)品使用者的道德知覺和行為。(9)保羅·維貝克：《將技術(shù)道德化：理解與設(shè)計物的道德》，閆宏秀等譯，上海：上海交通大學(xué)出版社，2016年，第113-149頁。基于這一思想，維貝克開發(fā)了“道德物化”的具體步驟和方法：第一，確定道德物化的方式，進行科技產(chǎn)品負(fù)載倫理價值的初步設(shè)計。在這一步驟中，首先，應(yīng)當(dāng)整合在議程設(shè)置和產(chǎn)品研發(fā)中發(fā)現(xiàn)的各類倫理風(fēng)險點，通過評估明確哪些倫理風(fēng)險點能夠進行道德物化。然后，對將要寫入產(chǎn)品中的倫理價值規(guī)范進行概念分析，包括倫理價值目標(biāo)的合理性、與其他倫理規(guī)范的關(guān)系及其平衡、倫理規(guī)范設(shè)計的基本原則、嵌入科技產(chǎn)品的方式等；最后，開發(fā)出負(fù)載倫理價值設(shè)計的產(chǎn)品原型。第二，對科技產(chǎn)品中的道德調(diào)解功能進行預(yù)測。維貝克提出了將設(shè)計情境和使用情境相結(jié)合的三種預(yù)測道德調(diào)解功能的方法，即設(shè)計者的道德想象、擴展建構(gòu)性技術(shù)評估和情景模擬法。設(shè)計者的道德想象主要指設(shè)計者根據(jù)專業(yè)經(jīng)驗想象產(chǎn)品的使用情境，預(yù)測產(chǎn)品可能產(chǎn)生的知覺或行為調(diào)解作用，然后根據(jù)預(yù)測的結(jié)果反饋到產(chǎn)品設(shè)計中以完善道德調(diào)解功能。擴展建構(gòu)性技術(shù)評估(ACTA)將科技產(chǎn)品使用過程中可能涉及的所有利益相關(guān)者納入其中，包括潛在使用者、公司或機構(gòu)、壓力集團、設(shè)計者等，通過召開利益相關(guān)者會議的方式共同預(yù)測科技產(chǎn)品可能實現(xiàn)的道德調(diào)解作用，并協(xié)商達成一致的道德物化方案，進而通過反饋完善科技產(chǎn)品的原初設(shè)計。情境模擬法主要指設(shè)計者運用虛擬現(xiàn)實技術(shù)等方法對科技產(chǎn)品的使用情境進行盡可能的仿真模擬，從中預(yù)測科技產(chǎn)品的功能及其可能的道德調(diào)解作用或方式等。(10)程海東，賈璐萌：《道德物化——技術(shù)物道德“調(diào)解”解析》，《道德與文明》2014年第6期。維貝克強調(diào)，對科技產(chǎn)品道德調(diào)節(jié)功能的預(yù)測，需要綜合運用三種方法，以提高預(yù)測的全面性和準(zhǔn)確性。第三，對所預(yù)測的倫理價值或道德功能進行評估。這一評估的內(nèi)容主要包括四個方面，即有意調(diào)解、隱性調(diào)解、調(diào)解方式和調(diào)解結(jié)果。對于有意調(diào)解和隱性調(diào)解，評估的關(guān)鍵在于道德合理性及其是否符合道德審議的結(jié)果。對于調(diào)解方式，評估的關(guān)鍵在于依據(jù)不同的使用情境或使用者偏好判斷這些方式是否具有可接受性。對于調(diào)解的結(jié)果，要秉持有效性與公正性，判斷調(diào)解結(jié)果是否符合預(yù)期和公正合理。這四項因素決定了道德物化的可能性、可行性和科技產(chǎn)品最終的道德品質(zhì)。對于四項因素評估的方法，維貝克提出要使用“擴展相關(guān)者利益分析(ASA)”，即設(shè)計者通過羅列各個技術(shù)方案中利益相關(guān)者的利益得失和道德價值取向，在權(quán)衡對比的基礎(chǔ)上得出更全面的道德評估結(jié)果。第四，基于上述道德調(diào)解預(yù)測和評估，確定道德化科技產(chǎn)品的設(shè)計方案。道德化科技產(chǎn)品必須是開放的，為試驗、參與和修正留下充分空間。這是因為，道德調(diào)解預(yù)測不可能考慮到所有的情況，而寫入科技產(chǎn)品的道德倫理規(guī)范也不可能完全按照預(yù)期發(fā)揮作用。在現(xiàn)實的使用情境中，非預(yù)期的倫理風(fēng)險始終存在，這迫使設(shè)計者必須不斷地對產(chǎn)品進行修正。(11)陳凡，賈璐萌：《技術(shù)倫理學(xué)新思潮探析：維貝克“道德物化”思想述評》，《科學(xué)技術(shù)哲學(xué)研究》2015年第6期。由此可見，運用“道德物化”的四個步驟，可以在科技產(chǎn)品研發(fā)環(huán)節(jié)嵌入相應(yīng)的倫理價值和規(guī)范，從而建立一種科技向善的引導(dǎo)機制。

上述討論表明，在科技產(chǎn)品的設(shè)計環(huán)節(jié)，倫理審查可以通過兩種方式嵌入：一方面通過建立“倫理屏風(fēng)”來盡可能的排除道德風(fēng)險，另一方面通過“道德物化”的設(shè)計來實現(xiàn)科技產(chǎn)品對使用者行為的道德引導(dǎo)?！皞惱砥溜L(fēng)”和“道德物化”能夠最大程度降低科技產(chǎn)品在研發(fā)環(huán)節(jié)的倫理道德風(fēng)險。

三、風(fēng)險反饋與倫理救濟：科技產(chǎn)品使用中的倫理審查

當(dāng)科技產(chǎn)品研發(fā)并定型以后，那么就進入到推廣和使用環(huán)節(jié)。事實上，無論是科技產(chǎn)品的議程設(shè)置還是研發(fā)階段的倫理審查，它們都更多地停留在倫理想象或者實驗室之中，屬于一種預(yù)防型的倫理審查。預(yù)防型倫理審查主要依賴于相對寬泛的社會倫理想象、研發(fā)人員的經(jīng)驗、道德直覺、方案評估、敏捷性測試、仿真模擬等，通過這些途徑發(fā)現(xiàn)的倫理風(fēng)險只是一種假定態(tài)而非現(xiàn)實態(tài)。由于缺乏現(xiàn)實場景的廣泛應(yīng)用，預(yù)防為主的倫理審查存在兩個重要缺陷：一是人的理性不及，很難推斷所有的倫理風(fēng)險點；二是即使那些嵌入于產(chǎn)品設(shè)計之中發(fā)揮引導(dǎo)作用的“道德物化”方案，亦不可能完全按照預(yù)期目標(biāo)發(fā)揮功效，甚至可能導(dǎo)致負(fù)面作用。這樣，當(dāng)科技產(chǎn)品真正進入復(fù)雜的使用場景時，那么非預(yù)期的倫理風(fēng)險必然發(fā)生。非預(yù)期倫理風(fēng)險往往產(chǎn)生于大規(guī)模的人機互動以后，真實的倫理風(fēng)險就會廣泛擴散和顯現(xiàn)，并造成一定的社會影響或危機。為了應(yīng)對這些倫理風(fēng)險或危機，就需要在科技產(chǎn)品的使用過程中嵌入倫理審查機制，及時發(fā)現(xiàn)非預(yù)期的倫理風(fēng)險并進行相應(yīng)的產(chǎn)品修正和倫理救濟。

就科技產(chǎn)品使用過程中的倫理風(fēng)險來說，它的主要特點有四個方面：第一，非預(yù)期性。作為一種有意圖行動的意外后果，(12)Robert K. Merton，The Unanticipated Consequences of Purposive Social Action. American Sociological Review. 1936，1(6)：894-904.非預(yù)期性倫理風(fēng)險可以說是科技產(chǎn)品使用階段最為關(guān)鍵的特征。在科技產(chǎn)品的使用過程中，隨著使用場景的多元化和復(fù)雜化，現(xiàn)實場景中的倫理風(fēng)險或危機就會逐漸暴露。這些倫理風(fēng)險超出了議程設(shè)置和產(chǎn)品設(shè)計階段的倫理想象或推斷，是一種真實的、難以預(yù)料的風(fēng)險。第二，現(xiàn)實后果性?？萍籍a(chǎn)品使用階段的倫理風(fēng)險具有發(fā)現(xiàn)與發(fā)生的同時性，即當(dāng)發(fā)現(xiàn)其倫理風(fēng)險之時，那么現(xiàn)實的客觀后果就已經(jīng)產(chǎn)生。因此，該階段的倫理風(fēng)險不能預(yù)防，只能補救。第三，使用者的感知性?？萍籍a(chǎn)品使用過程中的倫理風(fēng)險，發(fā)生于人機互動的現(xiàn)實場景之中，因而只有使用者才能真正感知到這些風(fēng)險，并切身體驗到這些風(fēng)險所帶來的后果。第四，自下而上的反饋性。如果說議程設(shè)置和產(chǎn)品設(shè)計階段的倫理風(fēng)險發(fā)現(xiàn)是一種自上而下的視角，那么在產(chǎn)品使用中的倫理風(fēng)險發(fā)現(xiàn)則依賴于使用者的有效反饋，這是一種自下而上的反饋過程?；谏鲜鎏卣?，科技產(chǎn)品使用過程中的倫理審查應(yīng)包括兩大機制，即風(fēng)險反饋機制和倫理救濟機制。

倫理風(fēng)險反饋機制主要指在科技產(chǎn)品的使用過程中，針對非預(yù)期風(fēng)險和使用者的感知性等特征，建立由使用者反饋、專業(yè)機構(gòu)追蹤、擴展性評估和回應(yīng)性修正等環(huán)節(jié)構(gòu)成的倫理風(fēng)險控制過程。該機制旨在及時、準(zhǔn)確、全面的發(fā)現(xiàn)現(xiàn)實使用場景中暴露出來的倫理風(fēng)險，并通過專業(yè)設(shè)計進一步完善相關(guān)產(chǎn)品。(13)石佳友，劉忠炫：《科技倫理治理的法治化路徑—以基因編輯技術(shù)的規(guī)制為例》，《學(xué)?！?022年第5期。從流程上來說，倫理風(fēng)險反饋機制包括四個環(huán)節(jié)：第一，使用者反饋。當(dāng)科技產(chǎn)品大規(guī)模進入使用場景以后，人機之間以及不同使用人群之間就可能會產(chǎn)生一些現(xiàn)實的、非預(yù)期的倫理風(fēng)險。使用者是這些倫理風(fēng)險的體驗者和感知者，只有他們才能夠真切地發(fā)現(xiàn)這些風(fēng)險。因此，建立使用者的反饋途徑就成為使用過程中有效控制倫理風(fēng)險的起點。使用者的反饋途徑往往有兩種形式，一是在產(chǎn)品的定型設(shè)計中嵌入倫理反饋模塊，使用者可以隨時隨地地反饋自己的發(fā)現(xiàn)和意見；二是通過定期的問卷、電話等回訪形式主動邀請使用者反饋。第二，專業(yè)機構(gòu)追蹤。針對使用者的反饋，科技研發(fā)部門應(yīng)當(dāng)設(shè)立專業(yè)機構(gòu)進行反饋意見的收集和分析。對于那些使用者反饋頻次較高、影響較大的倫理風(fēng)險問題，專業(yè)機構(gòu)要深入使用場景中進行調(diào)研和持續(xù)追蹤，發(fā)現(xiàn)這些倫理風(fēng)險的內(nèi)在邏輯、所涉關(guān)系、關(guān)聯(lián)價值和進一步可能引發(fā)的后果等。第三，擴展性評估。針對在使用過程中發(fā)現(xiàn)的重要倫理風(fēng)險問題，相關(guān)的科技產(chǎn)品研發(fā)機構(gòu)應(yīng)當(dāng)建立由產(chǎn)品設(shè)計者、倫理專家、使用者代表、利益相關(guān)者代表等多元主體組成的擴展性評估組織，對那些在使用過程中暴露出來的重要倫理問題進行商討，分析其所關(guān)涉的倫理價值、原則、目標(biāo)、受損的利益或權(quán)利等后果等，并達成進一步改進科技產(chǎn)品的共識。第四，再設(shè)計與修正。依據(jù)擴展性評估意見，對科技產(chǎn)品進行再設(shè)計，修正其存在的倫理風(fēng)險，完成產(chǎn)品的更新?lián)Q代。然而，根據(jù)使用者反饋的產(chǎn)品更新設(shè)計依然是一種對現(xiàn)實倫理風(fēng)險可能造成的進一步損害進行的防范。那么，對于那些已經(jīng)發(fā)生的倫理風(fēng)險所造成的損害該怎么辦？這就需要建立倫理救濟制度。

倫理救濟制度主要指在科技產(chǎn)品的使用過程中，針對那些已經(jīng)發(fā)生的倫理風(fēng)險所造成的使用者或利益相關(guān)者的損害進行的補償或補救措施。一般而言，科技產(chǎn)品在使用過程中所造成的損害通?？梢愿爬槿N形式：第一，利益損害。利益損害主要是由產(chǎn)品設(shè)計缺陷、非預(yù)期倫理風(fēng)險、責(zé)任關(guān)系不明等造成的使用者或相關(guān)者的利益損失。例如，自動駕駛汽車發(fā)生事故對其他車輛或人員造成的損失，醫(yī)療事故對病人或家屬造成的損失，食用轉(zhuǎn)基因食品可能對人類身體造成的損害而帶來的損失等。第二，權(quán)利損害。權(quán)利損害往往是由科技產(chǎn)品設(shè)計過程中枉顧對使用者個人權(quán)利的關(guān)懷或保護所造成的合法權(quán)益被侵害。例如，近年來在人工智能和大數(shù)據(jù)技術(shù)中暴露出的個人隱私權(quán)被侵害問題。第三，尊嚴(yán)損害。尊嚴(yán)損害主要指一些科技產(chǎn)品可能對人類存在的價值所帶來的損害，例如與克隆技術(shù)、基因編輯技術(shù)等相關(guān)的科技產(chǎn)品。無論是使用者的利益、權(quán)利還是尊嚴(yán)受到損害，都應(yīng)當(dāng)依據(jù)正義原則對受損害的個體或群體進行一定的利益補償，維護使用者的權(quán)利和尊嚴(yán)免受侵害。(14)趙鵬，謝堯雯：《科技治理的倫理之維及其法治化路徑》，《學(xué)術(shù)月刊》2022年第8期。具體來說，倫理救濟制度主要包括三個環(huán)節(jié)：首先，建立由研發(fā)者、生產(chǎn)者、倫理專家、受損害者等代表組成的倫理救濟委員會，對使用者所受損害的形式、內(nèi)容、程度、規(guī)模等進行詳細(xì)調(diào)查。其次，依據(jù)調(diào)查的情況進行倫理審查和評估，確定受損害的性質(zhì)、適用的倫理原則和補償?shù)男问交騼?nèi)容等，通過平等協(xié)商形成倫理救濟方案。最后，依據(jù)倫理救濟方案對受損害者進行利益補償，并向設(shè)計者反饋倫理救濟過程中發(fā)現(xiàn)的相關(guān)倫理問題，以對產(chǎn)品進行進一步的更新設(shè)計。

以上分析表明，在科技產(chǎn)品的使用過程中，倫理審查機制由倫理風(fēng)險反饋和救濟制度構(gòu)成。倫理風(fēng)險反饋機制是為了更好地發(fā)現(xiàn)非預(yù)期的現(xiàn)實風(fēng)險，以期進一步改進產(chǎn)品設(shè)計。倫理救濟制度則是面對已經(jīng)造成使用者在利益、權(quán)利、尊嚴(yán)等方面嚴(yán)重?fù)p失的情況下，基于正義原則對他們進行的補償。整體而言，使用過程中的倫理審查是一種事后審查，是全過程倫理審查機制的最后環(huán)節(jié)，它能夠確認(rèn)科技產(chǎn)品的非預(yù)期風(fēng)險并進行相應(yīng)的倫理救濟，從而最大程度地降低倫理風(fēng)險的現(xiàn)實損害和不良影響。

結(jié) 語

科技倫理治理是當(dāng)代科學(xué)技術(shù)發(fā)展過程中所面臨的一個重要挑戰(zhàn)。為了應(yīng)對這一挑戰(zhàn)，理論與實踐領(lǐng)域都進行了不斷的探索。本文在已有研究的基礎(chǔ)上，認(rèn)為科技倫理治理的核心在于構(gòu)建全過程的倫理審查機制。全過程倫理審查機制依據(jù)科技活動的議程設(shè)置、產(chǎn)品研發(fā)和產(chǎn)品使用三個階段中倫理風(fēng)險的不同特征，匹配了與之相適應(yīng)的六種倫理審查形式或制度，由此建構(gòu)了該機制的基本模型(如圖1所示)。

圖1 科技倫理治理中的全過程審查機制

在全過程科技倫理審查機制中，多元主體參與的倫理風(fēng)險評估委員會是其核心。在總體上，倫理風(fēng)險評估委員會主要由相關(guān)科技領(lǐng)域?qū)＜?、倫理專家、設(shè)計者、使用者、管理者、社會公眾等多元代表組成。然而，倫理風(fēng)險評估委員會的構(gòu)成既具有穩(wěn)定性又并非穩(wěn)固不變，它具有高度的擴展性。這種擴展性表現(xiàn)在，某一特定科技領(lǐng)域?qū)＜液蛡惱韺＜覙?gòu)成該領(lǐng)域倫理風(fēng)險評估委員會的穩(wěn)定主體。以此為核心，該委員會應(yīng)當(dāng)根據(jù)科技活動不同階段的特征選擇不同的多元主體參與其中，從而形成具有開放性、多元性、民主性的擴展性倫理風(fēng)險評估委員會。擴展性倫理風(fēng)險評估委員會貫穿于科技倫理審查的全過程，發(fā)揮著風(fēng)險的識別、篩查、價值敏感性設(shè)計、(15)Friedman B. Kahn P H Jr，Borning A，Value Sensitive Design：Theory and Methods. UW CSE Technical Report，2002.評估等整體性治理功能。經(jīng)由擴展性倫理風(fēng)險評估委員會的充分討論與協(xié)商，才能真正實現(xiàn)科技倫理治理的科學(xué)性與民主性。在具體的倫理審查形式上，如果說專業(yè)審查和公眾質(zhì)詢是事前的風(fēng)險識別，風(fēng)險反饋和倫理救濟是事后的糾正與救濟，那么“倫理屏風(fēng)”和“道德物化”則是事中的倫理風(fēng)險控制與引導(dǎo)機制?！皞惱砥溜L(fēng)”側(cè)重于對科技產(chǎn)品設(shè)計中存在的倫理風(fēng)險點進行篩查，而“道德物化”設(shè)計則試圖將道德主體從人擴展到物，通過在科技產(chǎn)品中嵌入道德價值或倫理規(guī)范，發(fā)揮科技產(chǎn)品引導(dǎo)使用者道德行為的功能，從而實現(xiàn)科技向善的目標(biāo)。盡管“道德物化”方案面臨著諸多現(xiàn)實困境，但它另辟蹊徑，為科技倫理審查提供了一個富于想象力的嶄新思路。

整體而言，全過程倫理審查機制以科技活動過程為中心，以多元主體參與的擴展性倫理風(fēng)險評估委員會為核心，通過專業(yè)審查、公眾質(zhì)詢、“倫理屏風(fēng)”、“道德物化”、風(fēng)險反饋和倫理救濟等路徑，建構(gòu)了一種事前預(yù)防、事中控制和事后補救的全方位科技倫理治理體系。該體系能夠最大程度的預(yù)防和治理科技倫理風(fēng)險，從而不斷推動科技向善，造福人類社會。