人工智能的負責任創(chuàng)新研究

盧雨生

摘要：人工智能的發(fā)展極大地促進了社會的進步，但在發(fā)展過程中仍面臨著局限。本文在介紹負責任創(chuàng)新的基礎上，基于負責任創(chuàng)新四維度理論框架給人工智能的發(fā)展提供方法論上的啟示。負責任創(chuàng)新理念是在一定理論基礎上發(fā)展起來的，其對現實活動具有實踐指導意義，因此對負責任創(chuàng)新的發(fā)展過程及實踐的介紹也是必不可少的。

關鍵詞：人工智能;負責任創(chuàng)新;責任

一、負責任創(chuàng)新的發(fā)展與實踐

負責任創(chuàng)新（RI）理念并不是憑空產生的，而是在一定理論基礎上的高度融合。首先我們可以在其他理論如責任倫理、技術評估中看到其相似之處，或是在實踐中發(fā)現與其一致的觀念。其次，負責任創(chuàng)新是對以往理論的一種綜合，通過實踐不斷完善。負責任創(chuàng)新理念的核心即是“責任”。在英語中責任（responsibility）源于拉丁文（respondeo），其含義是對神的召喚的應答，與可回答（answerable）是同義的，意味著有能力承擔、使之滿意等。1在漢語語境中，負責任的行為大致分成積極與消極兩種類型，所謂積極的負責任行為是行為者對具有內在價值的對象的主動回應，就如同康德在《道德形而上學》中所描述的，這是一種出于責任的行為，只有出于責任的行為才具有道德價值，這種行為不是出于行為主體的喜好與欲求的，而是出于對具有道德價值的事務的追求與持守，或者用康德的話說責任就是由于尊重規(guī)律而產生的行為的必要性。2消極的負責任行為則是被動遵守某些規(guī)范、條例，類似于康德的合乎責任。簡言之出于責任是一種主動的責任，合乎責任則是無奈被動的選擇。在實踐中，主體大多采取合乎責任的行為模式，缺乏自主意識，難以出于自己的責任而承擔更多。因此對于責任的解釋更具有現實指導意義。

責任是一個既抽象又復雜的概念，具有多重意義，根據其意義可分為描述性責任與規(guī)范性責任、回顧性責任與前瞻性責任，對責任的理解也可分為消極性和積極性。對于創(chuàng)新而言，基于結果主義的責任觀是重要的，但更需要轉向一種積極的責任觀，以應對創(chuàng)新本身的不確定性與風險性。3所謂描述性的責任是指明晰主體責任的形式，一般情況下有特殊指定的活動。在常規(guī)科學和技術發(fā)展的框架內，描述性責任是許多創(chuàng)新和研究實踐所依賴的堅實基礎。4但描述性責任具有一定的局限性，其發(fā)揮作用的前提需要一個相對穩(wěn)定的條件，即環(huán)境、社會、經濟等因素沒有受到大的損害，只有這樣才能在負責任創(chuàng)新中發(fā)揮作用。責任的規(guī)范性意義涉及對慣例和標準的評價，允許我們確立導致某種結果或事件鏈的個人或組織的責任?？梢哉f，規(guī)范性責任是基于對好的（或其他標準的依據）以及被視為“善的”實踐的規(guī)范性評價。5如果說，描述性意義所體現的是對責任的一種說明性，那么規(guī)范性意義體現的是一種指向于實踐的規(guī)范性。因此，從實踐的意義上來講，規(guī)范性責任與RI最為相關——創(chuàng)新行動者應該依據怎樣的標準和要求進行負責任的創(chuàng)新實踐活動。6

負責任創(chuàng)新”可以視作“責任倫理”思想的積極拓展。自1979年漢斯·約納斯（Hans Jonas）發(fā)表《責任原則——試論技術文明時代的倫理》一書以來，“責任倫理”在世界范圍內產生了廣泛影響。在對現代技術的可怕“權力”發(fā)出警示的基礎上，借助于康德的絕對命令形式，約納斯論證了當代人對未來人和“存在”的責任是一種出于義務的、積極的前瞻性責任;這種責任以未來為導向，即人們應該對其行為（特別是科學技術行為）的“可預見的后果”，甚至是“不可預測的后果”承擔責任。責任倫理要求人們對自然生命與人類自身有著不可推卸的義務和責任，“在行為有很大風險時，絕不可將作為整體的人類存在或本質當做賭注”。然而，由于歷史和理論的局限，“責任倫理”雖然喚醒了人們對人類“存在”風險的責任意識，提出了“恐懼的啟迪”，但其基調更多地是一種抽象的形而上學責任觀。也正是因為責任倫理的局限性，負責任創(chuàng)新才有大展拳腳的機會，負責任創(chuàng)新進一步豐富了責任倫理的內涵與意義，保留其核心前瞻性責任，向著更主動作為、積極的方向發(fā)展。

在負責任創(chuàng)新理念的追根溯源中，常涉及科學家與工程師倫理問題、科學研究對社會環(huán)境的影響。Stemerding、Gregorowius和Deplazes-Zemp分別指出TA、ELSI研究可以被視為“負責任研究與創(chuàng)新”的早期發(fā)展階段和前身。傳統(tǒng)的TA模式始于20世紀60年代末70年代初，并于20世紀70—90年代發(fā)展成為評估和調控新興技術的主要方法。7格倫瓦爾德及其領導下的德國卡爾思魯厄理工大學技術評估與系統(tǒng)分析研究所（ITAS-KIT）為代表。ITAS作為知名技術評估研究機構，致力于研究科學、技術與社會之間的復雜互動關系，對新興科學技術的社會效應進行評估，通過組織專家商議和公眾討論等活動，為政府提供政策建議。8ITAS的主要研究領域有四個：環(huán)境與可持續(xù)性;創(chuàng)新過程和技術的影響;知識社會與知識政策;能源與資源技術系統(tǒng)。9技術評估的研究領域到現在也是指導負責任創(chuàng)新實踐的主陣地，只是RI豐富了其內涵，不僅僅只強調評估，更在乎社會參與。多利益相關者合作、預期等維度。格倫瓦爾德在“負責任創(chuàng)新：集合技術評估、應用倫理學和STS研究”一文中指出10，負責任創(chuàng)新建立在技術評估的傳統(tǒng)之上，包含評估程序、不同行動者參與、技術預見等內容，將倫理學——尤其是關于責任的方面——的反思加入到技術評估的各種方式和流程中來，同時還吸收了STS和STIS（指科學、技術、創(chuàng)新與社會）研究的理論成果，認為倫理反思和技術評估乃是科技研發(fā)項目中不可或缺的部分，科研資助機構和科學研究機構都開始主動將倫理反思和技術評估整合到他們的工作中，科技研發(fā)的治理過程也向更多的行動者、更多的反思角度、新的機遇和可能性開放。

大連港的負責任創(chuàng)新模式具有中國特色，也更符合中國國情和地方實際情況，大連港的負責任創(chuàng)新屬于前瞻性的評估，并且是在政府宏觀政策引導下，進行的自上而下的改革。大連港的負責任創(chuàng)新主要體現在對生態(tài)環(huán)境的有效保護，履行企業(yè)的擔當，處理利益相關者的關系這幾個方面。作為國有企業(yè)不僅追求經濟利潤，還把社會效益和生態(tài)效益統(tǒng)籌進改革規(guī)劃。近些年來，大連港根據國家和上級主管部門的要求，分別實施了注重節(jié)能減排、注重企業(yè)責任、注重協(xié)調利益相關者相互關系等一系列發(fā)展戰(zhàn)略。在節(jié)能減排與環(huán)境保護方面，大連港堅持走資源節(jié)約型、環(huán)境友好型的港口可持續(xù)發(fā)展之路，依靠綠色技術的使用和生態(tài)綠色實施項目的建設。使用綠色技術具體表現在：大規(guī)模采用“電場橋”技術，實施“油改電”技術改造，利用海水源熱泵技術、綠色新能源技術、太陽能集熱板技術。

大連港形成了“以強港興市為己任，為股東、客戶、員工和社會創(chuàng)造價值”的使命，秉承了“人為本、客為上、責為先”的核心價值觀，本著“誠信、增值、安全、環(huán)?！钡慕洜I理念，為股東、客戶、員工和社會創(chuàng)造價值，并建立了相應的企業(yè)社會責任評價監(jiān)督管理機制。大連港的社會責任主要表現在誠信經營、關注顧客、安全生產、關心員工、社會公益等方面。在負責任創(chuàng)新具體案例中，大連港新港事故池工程堅持走自主創(chuàng)新之路，成立專家組立項研究。新港選址充分考慮成本、效率、環(huán)境等影響。大連港事故池充分結合新港區(qū)域的地形特點，巧妙利用已有設施，將新港區(qū)域內所有事故水收集設施串聯起來，形成有機的系統(tǒng)，不僅使投資降到最低，更實現了“全覆蓋、不遺漏”的目標。11

二、人工智能的發(fā)展局限和解決對策

與互聯網、克隆、基因編輯等類似，人工智能作為一種顛覆性技術，其本身如同一把雙刃劍，要讓它在推動人類社會發(fā)展中發(fā)揮正向作用，趨利避害，關鍵在于科學治理。此前，國內外對于人工智能治理的探討一直停留在“應該去做”的層面，這就是人工智能發(fā)展的第一個局限。新冠肺炎疫情期間，國內人工智能企業(yè)加緊技術研發(fā)，迅速實現了戴口罩人臉的高效識別。然而，這一技術在“走出去”的過程中遭遇了質疑，這讓企業(yè)頗感郁悶?！邦愃剖欠裥枰骺谡诌@類問題，中西方文化在理解上有著較大差異這種文化隔閡也限制了人工智能的發(fā)展，亟待解決。另外，單一主體管理也是人工智能的一個局限性。想要對人工智能技術進行有效監(jiān)管，防止濫用，必須要有強大的技術手段作為支撐。在相關法律、規(guī)則、倫理尚未完全成型的前提下，產業(yè)界的深度參與讓人工智能治理具有了更強的可操作性，企業(yè)正成為人工智能治理的主體。綜上所述都是人工智能的發(fā)展局限，關于人工智能的解決對策應當是現在當下研究的主流。筆者認為應當從如下幾個方面入手：

1.強化軟件工程師等技術人員的責任擔當

從預測的角度出發(fā)，對于整個技術的架構必須思考全面、客觀。充分考慮相關利益者的訴求。在軟件工程師嵌入代碼等研發(fā)過程中要充分考慮社會、道德、法律等方面的影響。軟件工程師受工科教育背景的束縛，工作中可能會輕視社會、倫理方面的問題，因此對人工智能的均衡發(fā)展產生不利的影響。若想解決人工智能的發(fā)展問題，強化軟件工程師等技術人員的責任擔當十分重要。

2.加強政府法律制度的支持

人工智能在法律制度層面上具有主體不明確、歸責無標準、缺乏法律監(jiān)管等特點。因此針對法律制度層面的對策應當在宏觀維度上加強政府的支持，構建合適的道德倫理規(guī)則，并且規(guī)定研發(fā)人員在技術創(chuàng)新的過程中嚴格遵守規(guī)則。同時政府相關部門也應當提供前瞻性的倫理審查制度來規(guī)范人工智能在倫理道德問題方面的行為，此部分可以借鑒同有倫理發(fā)展困境的基因工程技術的發(fā)展經驗。

3.增加利益相關者的參與度

在負責任創(chuàng)新的視角下，只有多元主體參與，客觀理性分析，才能合理地確定技術的創(chuàng)新決策。因此一項技術從萌芽到發(fā)展再到成熟都離不開利益相關者的參與。在以往技術創(chuàng)新決策過程中，專家治理模式是主流。隨著技術發(fā)展與社會生活的關系更加密切，依靠相關領域的專家決策顯示出明顯不足。當單一的技術問題結合社會和倫理問題時，就會變得十分復雜、難以解決，增加利益相關者的參與度或許是解決復雜問題的新思路。自動駕駛技術的發(fā)展涉及的多元主體有專家學者、政府管理者、企業(yè)、公眾、媒體。由于每個主體所起作用的不同，承擔的責任也有所不同。因此明確各主體的責任，是增加各主體參與度的關鍵。

4.培養(yǎng)企業(yè)的社會責任

企業(yè)是人工智能發(fā)展的推動者，但在傳統(tǒng)商業(yè)領域多采取利益至上的商業(yè)眼光，即企業(yè)為了一己私利全然不顧社會公眾的集體利益。例如領導權的爭奪和專利大戰(zhàn)，事實證明只有協(xié)商合作才是取得共贏的唯一方式。人工智能產業(yè)領導權的爭奪導致各家企業(yè)加大研發(fā)投入，以便實現行業(yè)壟斷。這對人工智能的快速發(fā)展是不利的。另外，在人工智能的發(fā)展黃金期，將更多的精力投入專利保護不利于技術創(chuàng)新。因此，人工智能所遇到的現實發(fā)展問題亟待解決。各個企業(yè)應當本著協(xié)商共贏的態(tài)度合作開發(fā)相關技術，讓人工智能能夠在更短時間、以更優(yōu)惠的價格服務公眾。

三、結語

人工智能的發(fā)展在長遠的角度來說是可以促進人類社會進步的，但其發(fā)展的確面臨著問題。負責任創(chuàng)新理念基于多元主體、協(xié)商原則，能夠為人工智能的發(fā)展提供對策，同時也能為其他高新技術的發(fā)展帶來方法論上的啟示。

參考文獻

[1] 王前.負責任創(chuàng)新的理論與實踐[C].北京：科學出版社，2019.

[2] 大連理工大學.大連新港事故池工程環(huán)境影響報告書（簡本）[R].大連：大連理工大學，2013.

[3] 贠兆恒，李建清.負責任創(chuàng)新語境下的責任解析[J].自然辯證法研究，2020.

[4] 廖苗.負責任（研究與）創(chuàng)新的概念辨析和學理脈絡[J].自然辯證法通訊，2019.

[5] 晏萍，張衛(wèi)，王前.“負責任創(chuàng)新”的理論與實踐述評[J].科學技術哲學研究，2014，31（02）.

[6] 劉戰(zhàn)雄.負責任創(chuàng)新研究綜述：背景、現狀與趨勢[J].科技進步與對策，2015，32（11）.

本文系黑龍江大學2020年研究生創(chuàng)新科研資金項目

《人工智能的負責任創(chuàng)新研究》（項目編號：YJSCX2020-047HLJU）的研究成果。

注釋：

王前.負責任創(chuàng)新的理論與實踐[C].北京：科學出版社，2019：204-212.

2 康德.道德形而上學原理.苗力田譯.上海：上海人民出版社，2018.

3 贠兆恒，李建清.負責任創(chuàng)新語境下的責任解析[J].自然辯證法研究，2020，36（10）：53-59.

4 Sophie P，Reber B.From Ethical Review to Responsible Research and Innovation[M].New York： John Wiley & Sons，Inc，2016.

5 Sophie P，Reber B.From Ethical Review to Responsible Research and Innovation[M].New York： John Wiley & Sons，Inc，2016.

6 贠兆恒，李建清.負責任創(chuàng)新語境下的責任解析[J].自然辯證法研究，2020，36（10）：53-59.

7 Grunwald A . Technology Assessment for Responsible Innovation[M].Berlin： Springer Science+Business Media，2014：15-31.

8 廖苗.負責任（研究與）創(chuàng)新的概念辨析和學理脈絡[J].自然辯證法通訊，2019，41（11）：77-86.

9 Institute for Technology Assessment and Systems Analysis（ITAS） EB/OL]. https：//www.itas.kit.edu/english/index.php.2018-12-05.

10 Grunwald，A.'Responsible Innovation：Bringing together Technology Assessment，Applied Ethics，and STSresearch'[J].Enterprise and Work Innovation Studies，2011，7（11）：9-31.

11 大連理工大學.大連新港事故池工程環(huán)境影響報告書（簡本）[R].大連：大連理工大學，2013.

黑龍江大學 哲學學院 哈爾濱 150000