新興技術發(fā)展中的倫理風險研究綜述及展望

□

[電子科技大學 成都 611731]

引言

新興技術（Emerging Technology，又被譯為新興科技）是基于信息技術、生物技術等科學基礎上的創(chuàng)新和應用，如目前的大數(shù)據(jù)、人工智能、基因工程等。它具有創(chuàng)造一個新行業(yè)和改變原有行業(yè)的潛力，發(fā)展速度極快，同時也存在著高度不確定性[1～2]。而不確定性本身既是機遇所在，也是風險的根源，這正體現(xiàn)了技術創(chuàng)新的“雙重性”，即在催生正向經(jīng)濟效應的同時會給社會、環(huán)境、倫理等方面帶來一系列風險[3]。其中倫理風險往往比較隱性，容易被忽視，但隨著新興技術的發(fā)展，人們已逐步意識到一旦缺失對它的合理管控，這種風險帶來的負向影響將極其深遠，甚至不可逆轉。

早在2012年Facebook的隱私丑聞就在全球引發(fā)了人們對個人隱私、信息安全、數(shù)據(jù)霸權等倫理風險的討論。而2018年3月18日，Cambridge Analytica公司被爆出對Facebook提供的數(shù)據(jù)使用是“不道德的實驗”，進一步說明像Facebook這樣的知名公司，其數(shù)字技術創(chuàng)新過程中的倫理風險一直沒有被有效管控，而這類現(xiàn)象在國內(nèi)似乎被默認為常態(tài)，用戶精準畫像、數(shù)據(jù)挖掘等正在被極力倡導，顯然在倫理觀念上尚存在巨大缺失[4～5]。更為轟動的是2018年11月26日，南方科技大學賀建奎副教授宣稱世界首例一對免疫艾滋病基因編輯嬰兒誕生，不僅暴露出中國科學倫理缺失和監(jiān)管短板問題，更引發(fā)了人們對該事件背后的健康安全、社會公平及對人類的尊重等重大倫理風險的討論[6]。同樣對于人工智能技術（AI），其發(fā)展中存在的安全性、算法歧視、人工主體權利等倫理風險逐漸引發(fā)人們的思考[7]。綜觀現(xiàn)實，新興技術發(fā)展中的倫理風險已大量存在，并從單個技術領域的憂患演變?yōu)橐粋€帶有普遍性的管理問題，引起學術界的高度重視。梅亮等提出了重視技術創(chuàng)新的潛在危機與負外部性等問題的研究，及“負責任創(chuàng)新”新的視角[8]；2017年《Journal of Business Ethics》的主編也專門發(fā)文呼吁要特別重視技術創(chuàng)新中的倫理問題研究[9]；我國在2017年也由自然辯證法研究會主辦了“新興技術發(fā)展與倫理”的學術研討會；Lei Ruipeng等在Nature發(fā)表“在中國重建倫理治理”一文，論述了重建當前中國科技治理和監(jiān)管體系的迫切性和必要性[10]。但這些僅是一種倡導和開始，如何從更系統(tǒng)、廣泛和科學層面對新興技術發(fā)展中的倫理風險進行客觀剖析及管控研究已經(jīng)勢在必行且意義重大。

一、新興技術及其負外部性的相關研究

（一）新興技術及其發(fā)展演化的研究

1. 新興技術的內(nèi)涵與特征

自2000年沃頓商學院《Wharton on Managing Emerging Technologies》一書出版以來，新興技術管理作為新的研究領域受到了國內(nèi)外學界的普遍關注。新興技術指建立在科學基礎上的創(chuàng)新，它們有可能創(chuàng)造一個新行業(yè)或改變某個已經(jīng)存在的行業(yè)，具有高度不確定性[1]。趙振元等將新興技術定義“技術知識在擴展；在現(xiàn)有市場中的應用在經(jīng)歷著革新；新市場正在發(fā)展或形成的技術”[11]。新興技術不僅重視技術本身在時間和內(nèi)容上的“新”，更重視新興技術的“興”——興起、涌現(xiàn)、發(fā)展、變革，新興技術將“新”與“興”結合在一起，不僅強調技術上的非連續(xù)性，還應重視技術的擴散和應用過程[12]。

Day等在新興技術的定義中明確指出了新興技術具有對新行業(yè)和原有行業(yè)產(chǎn)生重大影響以及高度不確定性的特征[1]；Rotolo等也指出新興技術蘊含了根本性創(chuàng)新、快速發(fā)展、一致性、影響重大、不確定性和模糊性五個重要屬性[2]。在國內(nèi)，新興技術特征得到了進一步的深入和拓展，主要有：（1）市場、技術及管理等方面均具有高度不確定性[13]；（2）創(chuàng)新“不連續(xù)性”給行業(yè)帶來“創(chuàng)造性毀滅”和“贏者通吃”的特征[14～15]；（3）商業(yè)化潛力是評價新興技術未來發(fā)展的重要指標[16]。從國內(nèi)外學者對新興技術特征的闡述中我們可以發(fā)現(xiàn)，新興技術高度的不確定性特征成為共識，而不確定性本身既是機遇所在，也是各種風險的根源。

2. 新興技術發(fā)展及其演化的主要研究

新興技術是技術創(chuàng)新的一個重要組成部分，其發(fā)展與技術創(chuàng)新高度相關。Henderson 和Clark基于技術要素和要素之間的關系角度將技術創(chuàng)新分成四類：漸進性創(chuàng)新、模塊性創(chuàng)新、結構性創(chuàng)新和根本性創(chuàng)新[17]；高建等認為除漸進性創(chuàng)新以外的三種創(chuàng)新都是不連續(xù)創(chuàng)新，提出新興技術發(fā)展的本質是不連續(xù)創(chuàng)新，它是一種同時滿足技術不連續(xù)和市場不連續(xù)兩個方面特性的技術創(chuàng)新[18]；也有學者提出新興技術可能產(chǎn)生于突破性創(chuàng)新，出現(xiàn)全新的技術發(fā)展路徑，也可能產(chǎn)生于漸進性創(chuàng)新發(fā)生的技術融合，即兩個不相干的技術在同一個領域里合并成新的系統(tǒng)；還可能是來自于應用領域的改變[14]。宋艷等將新興技術看作是一種不連續(xù)創(chuàng)新的結果，強調技術性能進步與應用領域擴散的二維空間的發(fā)展演變過程[15]。

在技術演化這個研究領域內(nèi)，技術S曲線是最基本的研究工具，但技術S曲線的形態(tài)其實是由技術軌道內(nèi)生決定的，技術軌道的思想萌芽最先是由Nelson & Winter提出，后經(jīng)Dosi發(fā)展而成，技術演化相關理論獲得了學者們大量研究[19～20]。針對新興技術演化問題，Pujol研究了新興技術如何適應市場競爭水平的提高[21]；Chang運用企業(yè)調查數(shù)據(jù)實證檢驗了企業(yè)自身能力和環(huán)境因素是影響企業(yè)發(fā)展新興的電子商務技術的重要因素[22]；Karasev等對新興技術納米產(chǎn)品和服務的市場前景、研發(fā)潛力、制造能力、國際地位和競爭優(yōu)勢等內(nèi)容，進行了全面的德爾菲調查[23]。在國內(nèi)，王敏等研究了企業(yè)能力、市場需求和配套環(huán)境三個要素與新興技術之間的多層次共生演化機理[24]；吳菲菲等提出沿著專利權人數(shù)量及所屬產(chǎn)業(yè)領域的變化軌跡去發(fā)現(xiàn)新興技術應用領域變化的思路[25]；黃魯成等從知識、需求、技術鏈價值分布和技術軌道等視角，深入探析新興技術與新興產(chǎn)業(yè)的協(xié)同演化規(guī)律[26]。綜上可見，在新興技術演化發(fā)展演化過程中，眾多學者更多地關注新興技術給社會、經(jīng)濟及企業(yè)帶來的正向效應，其負向影響的研究相對匱乏。

（二）新興技術的負外部性相關研究

在傳統(tǒng)技術創(chuàng)新范式中，往往更多地追求和強調技術的先進性給社會帶來的正向影響，實則技術創(chuàng)新具有“雙重性”[3]，即技術創(chuàng)新在產(chǎn)生正向經(jīng)濟效應的同時也會引發(fā)道德倫理、環(huán)境保護、社會民生等方面的危機：核物理及能源應用的全球與區(qū)域安全隱患、轉基因生物與基因工程的社會倫理性危機、技術進步的環(huán)境負外部性、金融及其衍生產(chǎn)品的制度風險與欺詐行為、流感病毒研究的安全性以及信息與通信技術的隱私泄露等[27～32]，這些問題進一步引發(fā)了學者們對技術創(chuàng)新負外部性的思考。

“負責任創(chuàng)新”（Responsible Innovation）是繼“可持續(xù)發(fā)展”之后歐美國家提出的新的發(fā)展理念，這一提法從2003年開始出現(xiàn)于學術與政策文本中，德國學者Tomas Hellstrom首次明確提出“負責任創(chuàng)新”這個概念，其主要內(nèi)容是將企業(yè)的社會責任同技術創(chuàng)新實踐密切結合，從倫理角度有效評估和影響技術創(chuàng)新的各個環(huán)節(jié)，以保證技術創(chuàng)新成果的可持續(xù)性和社會可接受性[33]。2011年11月歐盟“地平線2020框架計劃”再一次提出負責任創(chuàng)新。Owen等認為與其把責任式創(chuàng)新看成是一個新穎的治理范式，不如把它看作一個載體，在此載體中“對風險的治理”轉變?yōu)椤皩?chuàng)新本身的治理”[34]。Gianni等認為責任具有多義性，一般被認為與技術創(chuàng)新潛在結果的道德倫理相關聯(lián)。創(chuàng)新活動本身所產(chǎn)生的社會道德倫理與社會期望滿足方面沖突等問題亟待研究[8,35]。

二、新興技術創(chuàng)新中的倫理風險相關研究

（一）倫理風險

“倫理”（Ethics）一詞源于希臘文“ethos”，“倫理”一詞常常與“道德”（Morality）同義，用來指人們好的品格和好的行為，是調整人與人之間、人與社會之間的行為規(guī)范的總和，它以善與惡、正義與非正義、公正與偏私等標準來評判人們的行為，進而調節(jié)人們之間的關系[36～37]。Haynes在其著作中將風險定義為“損害或損失發(fā)生的可能性”[38]。倫理風險是指在人與人、人與社會、人與自然、人與自身的倫理關系方面由于正面或負面影響可能產(chǎn)生不確定事件或條件，尤指其產(chǎn)生的不確定的倫理負效應,諸如倫理關系失調、社會失序、機制失控、人們行為失范、心理失衡等[39]。Hansson研究指出倫理在風險管理中扮演著核心角色，它關注人與人之間的關系，并提出了一個倫理風險分析三步走的方法，即風險暴露、識別倫理風險、倫理審議[40]。馮慶旭認為倫理風險主要表現(xiàn)為主體對風險的不負責任，防范和應對倫理風險，必須與政治家的實踐活動結合起來，將責任倫理的精神要義與腳踏實地的政治實踐結合起來[41]。

本文運用中國知網(wǎng)的“學術趨勢”功能檢索發(fā)現(xiàn)，我國學者自2005年起對“倫理風險”的關注度總體呈上升趨勢，尤其從2015年開始急劇增加（如圖1所示），顯示出學者們對技術創(chuàng)新過程中的倫理風險問題日趨重視。

圖1 倫理風險的學術關注度趨勢變化

（二）新興技術創(chuàng)新中的倫理風險的相關研究

1979年Hans Jonas的《責任原則——試論技術文明時代的倫理》引發(fā)了世界范圍內(nèi)對技術倫理問題的討論[42]；Carroll在研究企業(yè)社會責任（Corporate Social Responsibility）時提出其不僅應該包含經(jīng)濟、法律等方面的責任，還應該包含倫理責任[43]；Brusoni 和 Vaccaro認為在創(chuàng)新中特定價值觀的負載會給企業(yè)帶來正向或負向結果，而重視技術倫理有利于企業(yè)建立獨特的競爭優(yōu)勢[9]；Haney在研究創(chuàng)新與環(huán)境關系時提出了兩種倫理機制，一是擴大的社會責任觀，指用前瞻性的眼光，網(wǎng)絡化和全球性的邏輯去看待和解決問題；二是道德合法性，指企業(yè)在面對倫理問題時要開展廣泛的公共討論，充分考慮利益相關者的利益和采取親社會邏輯[44]。夏冰認為技術創(chuàng)新管理的倫理風險來源于五種風險影響因子，其中創(chuàng)新技術越新穎，技術創(chuàng)新的經(jīng)濟比較收益越高，可能出現(xiàn)的倫理風險越大；而公共管制力度越強，惡意開發(fā)成本越高，創(chuàng)新主體的自律約束越強，則發(fā)生倫理風險的可能就越小[45]。

國內(nèi)外學者們針對新興技術倫理風險的主要研究方向有：（1）新興技術形成與發(fā)展中倫理風險存在的客觀性及其重要性，如宋艷和銀路基于動態(tài)評估過程的視角，從技術環(huán)境、技術自身以及企業(yè)組織三個方向建立了新興技術風險評估的三維模型，明確指出了倫理風險是新興技術風險的重要組成因素[46]；李玲和樊春良指出新興科技在給人類帶來巨大福祉的同時，會引發(fā)一系列倫理問題，產(chǎn)生廣泛的負向效應[47]；Gregorio研究指出倫理道德是極其重要的商業(yè)指導原則[48]；Lei Ruipeng等分析了中國科技創(chuàng)新、研究和應用領域存在的典型倫理治理問題，論述了重建當前中國科技治理和監(jiān)管體系的迫切性和必要性，并提出了6個步驟的政策建議來減少新興技術不道德性和非法性發(fā)生的幾率，即加強監(jiān)管、建立全國性的登記注冊機構、明確監(jiān)督機構、暢通相關研究信息渠道、加強生命倫理學的教育和培訓以及嚴防對殘障人士的歧視[10]。（2）嵌入到具體新興技術的倫理風險的研究，如樊春良等以納米技術為例從11個方面構建了科學技術發(fā)展的倫理環(huán)境并進行了分析和評估[49]；Davis和Patterson在其研究中提出，大數(shù)據(jù)是一種新興技術，給我們帶來巨大機遇的同時，也會帶來倫理挑戰(zhàn)，因此我們必須在創(chuàng)新與倫理風險之間找到平衡，并對大數(shù)據(jù)技術進行必要的倫理約束[50]；Eden等提出信息、通信技術發(fā)展中要注意隱私泄露的風險，要負責任地進行研究與創(chuàng)新，充分考慮社會倫理道德的可接受程度[32]；夏冰指出基因工程與干細胞技術是目前最容易發(fā)生技術創(chuàng)新倫理風險的新興領域[45]；丁大尉等研究指出人類胚胎干細胞技術帶來了無法回避的倫理風險[51]。

三、風險管理方法與工具的相關研究

（一）風險管理流程劃分

1931年，美國管理協(xié)會保險部開始倡導風險管理，并研究風險管理及保險問題。1973年，風險管理思想進入歐洲，20世紀80年代風險管理進入了亞洲和非洲，并迅速在全球流行。隨后，越來越多的企業(yè)開始重視風險管理，不同的國家和組織將風險管理流程劃分為不同的階段，如表1所示[52～56]：

表1 風險管理流程的劃分

盡管各大組織劃分階段和名稱并不統(tǒng)一，但基本都包含：風險識別、風險分析、風險應對及風險監(jiān)控四個階段，并且已經(jīng)成為風險管理比較標準化的流程。

（二）風險管理方法與工具

學者們對風險管理的理論和方法體系進行了比較豐富的研究。從傳統(tǒng)風險管理階段發(fā)展到現(xiàn)代風險管理階段，再到現(xiàn)在的全面風險管理階段，風險管理理論在不斷地豐富和發(fā)展[53,57～60]。風險管理量化分析方法主要有：波動率估計模型[61～63]、風險價值方法（VAR）[64]、資本資產(chǎn)定價模型（CAPM）[65]、期權定價模型[66～67]、風險矩陣法[68～69]、層次分析法[70～71]等。除了在銀行、保險等行業(yè)的應用，風險管理的理論和方法還大量應用于供應鏈、工程項目以及虛擬企業(yè)的風險管理與控制[72～75]。

綜上可以看出，風險管理的理論和方法體系已較為成熟，風險量化操作方法多樣，應用領域廣泛，并且逐漸成為整體競爭模式下重要的手段之一，將這一套方法體系運用到新興技術倫理風險管理研究中具有可行性及創(chuàng)新性。

四、研究評述與展望

（一）現(xiàn)有研究評述

現(xiàn)有研究已明確表明技術創(chuàng)新中倫理問題的重要性及倫理風險的客觀性，并對倫理風險問題開始了相關探究，包括倫理風險的含義、來源、分析和解決方法等。但仍然存在較大缺憾和研究空間，具體如下：

1. 在研究對象方面，針對單個新興技術的倫理風險研究相對多，將其作為一個共性問題的探討尚不足，新興技術帶來的風險和挑戰(zhàn)已經(jīng)不是某一產(chǎn)品或某一區(qū)域的范疇，而是一種全球性的治理難題。技術所涉及的各個領域研究并不平衡，在生物技術或生命科學領域的關注超過對其他技術領域的關注。

2. 在研究內(nèi)容方面，對新興技術內(nèi)涵和特征的解讀較為透徹，企業(yè)社會責任方面有相關研究，但對其發(fā)展中典型的倫理問題研究還不充分，新興技術的倫理風險及控制研究匱乏，缺乏系統(tǒng)性的倫理風險管理的研究框架。

3. 在研究方法方面，目前對新興技術倫理風險的研究多在倡導和定性層面，缺乏更科學的方法應用，而相對成熟的風險管理方法體系可以被應用其中。

（二）未來研究方向

1. 較多觀點認為，技術本身具有中性特征，但只要涉及應用，作為嵌入和傳達道德價值的獨特方式，它負載的特定價值觀使得新興技術在形成與發(fā)展過程中（包含研發(fā)與擴散）與倫理風險問題密切關聯(lián)。因此在對新興技術發(fā)展中的倫理風險進行分析時，需要從多維度（決策者、科研工作者、開發(fā)者、消費者和公眾等）、跨層次（個體，組織、利益相關者、政府、社會文化環(huán)境等）的角度探討新興技術倫理風險，構建基于新興技術倫理環(huán)境下的新興技術倫理風險管理機制。

2. 風險管理的理論和方法體系已較為成熟，風險量化操作方法多樣，但這套方法與工具如何應用到新興技術倫理風險管理研究中，值得深入探討。如新興技術倫理風險的識別、分析與評價、應對和控制，可考慮結合風險評估中定性和定量方法，對其進行科學評價。

3. 在當代社會現(xiàn)實中，技術創(chuàng)新中的倫理問題并不會單獨存在，多與法律、社會和政治問題相互交織在一起。因此，對新興技術倫理風險問題進行分析、應對時，可考慮從個體層面的“道德約束”，組織層面的“企業(yè)社會責任”，利益相關者層面的“協(xié)議規(guī)范”，政府層面的“政策法規(guī)”，社會文化層面的“親社會價值觀趨同”等方面提出分層應對、逐級遞進的應對策略，以便更系統(tǒng)性的認識和解決新興技術倫理風險管控問題。

總之，在技術創(chuàng)新管理中對新興技術倫理風險的討論十分匱乏，但不可否認該問題的重要性和必要性。技術創(chuàng)新是推動人類社會進步的最大動力，我們今天擁有的技術創(chuàng)新能力，是歷史上任何時候都無法比擬的，但技術創(chuàng)新客觀上具有“雙重性”，要求我們不能僅重視它所產(chǎn)生的正向經(jīng)濟效應，還必須擁有更高的倫理標準，兼顧公共價值與社會視角，更為審慎、周全地使用技術與開發(fā)產(chǎn)品，從更廣泛的人類福祉的視角來審視提供的服務和產(chǎn)品，這不僅關系到對技術創(chuàng)新發(fā)展目標的重新審視，也關系到個人、組織乃至國家及整個社會的創(chuàng)新價值取向及倫理環(huán)境的構建，亟待進行深入、系統(tǒng)、廣泛地科學研究。