人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險歸因及治理體系研究

孫麗文，李少帥

(河北工業(yè)大學(xué) 經(jīng)濟(jì)管理學(xué)院，天津 300401)

0 引言

大數(shù)據(jù)、云計算等信息技術(shù)的迅猛發(fā)展催動了龐大規(guī)模數(shù)據(jù)的誕生，同時隨著GPU芯片的普及以及FGGA、ASIC芯片的快速發(fā)展，計算機(jī)運(yùn)算能力獲得極大提升并邁向新的發(fā)展階段，越來越多高級算法被應(yīng)用到智能推薦、計算機(jī)視覺等不同領(lǐng)域。隨著近些年互聯(lián)網(wǎng)產(chǎn)業(yè)整體進(jìn)入洗牌期，資本市場對人工智能的投資也愈發(fā)理性，技術(shù)成熟且具有較強(qiáng)落地能力的項目受到持續(xù)關(guān)注，推動人工智能從廣泛強(qiáng)調(diào)技術(shù)優(yōu)勢的早期階段，向更加重視產(chǎn)品、服務(wù)、解決方案等產(chǎn)業(yè)化能力發(fā)展階段過渡，政策持續(xù)加碼也加速了產(chǎn)業(yè)化實現(xiàn)。在上述因素共同作用下，人工智能經(jīng)歷技術(shù)突破和技術(shù)標(biāo)準(zhǔn)化時期，邁進(jìn)產(chǎn)業(yè)化發(fā)展時期[1]。同時，人工智能技術(shù)產(chǎn)業(yè)化過程中也引發(fā)了數(shù)據(jù)安全、隱私保護(hù)等風(fēng)險，而以科層制為代表的現(xiàn)有治理體系由于治理邏輯不匹配、治理結(jié)構(gòu)僵化以及范圍狹隘等弊端，難以應(yīng)對人工智能風(fēng)險的嚴(yán)峻挑戰(zhàn)[2]。

當(dāng)前，創(chuàng)新范式逐漸從線性、機(jī)械的創(chuàng)新體系邁向非線性、生態(tài)化的創(chuàng)新生態(tài)系統(tǒng)[3]。作為新的創(chuàng)新范式，創(chuàng)新生態(tài)系統(tǒng)同樣為人工智能風(fēng)險治理提供了新的思路和方向。為此，本文基于創(chuàng)新生態(tài)系統(tǒng)理論，聚焦人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理議題，探索風(fēng)險治理主體、原則及路徑等具體問題，無疑具有重要現(xiàn)實意義。

赫利森接著觀察了免疫細(xì)胞是如何通過導(dǎo)血管從顱骨移動到腦膜的，在小鼠體內(nèi)和體外都是如此。“在體內(nèi)觀察非常具有挑戰(zhàn)性，”她說，“血液從硬腦膜（腦膜的一層）外流向顱骨，而細(xì)胞則向相反的方向流動?？梢钥吹郊?xì)胞在逆流而上爬行。”

1 文獻(xiàn)綜述

創(chuàng)新生態(tài)系統(tǒng)可追溯到Moore[4-5]的相關(guān)論述，其率先把企業(yè)生態(tài)系統(tǒng)界定為基于組織互動的經(jīng)濟(jì)聯(lián)合體，并進(jìn)一步認(rèn)為企業(yè)生態(tài)系統(tǒng)是由具有利益關(guān)系的組織或群體組成的動態(tài)結(jié)構(gòu)系統(tǒng)。此后，Adner[6]明確提出創(chuàng)新生態(tài)系統(tǒng)概念，認(rèn)為創(chuàng)新生態(tài)系統(tǒng)本質(zhì)上是協(xié)同機(jī)制，能夠?qū)€體與整體緊密聯(lián)系起來，并進(jìn)一步通過創(chuàng)新協(xié)作和鏈?zhǔn)秸峡焖偬峁┟嫦蛴脩舻南到y(tǒng)解決方案。對創(chuàng)新生態(tài)系統(tǒng)的理解可以從價值創(chuàng)造和風(fēng)險治理兩種情景維度進(jìn)行。

從價值創(chuàng)造情景維度看，創(chuàng)新生態(tài)系統(tǒng)主要由經(jīng)濟(jì)行為主體構(gòu)成，經(jīng)濟(jì)行為主體之間通過相互協(xié)同，提升綜合競爭能力，產(chǎn)生獨(dú)自無法企及的巨大經(jīng)濟(jì)價值，并且在此過程中與所處創(chuàng)新生態(tài)系統(tǒng)共生演化[7]。系統(tǒng)運(yùn)行目的在于實現(xiàn)經(jīng)濟(jì)行為主體的價值創(chuàng)造，價值創(chuàng)造實現(xiàn)途徑包括為單一企業(yè)創(chuàng)新過程提供便捷和為創(chuàng)新群落創(chuàng)造價值溢出[8]。隨著經(jīng)濟(jì)行為主體逐漸意識到知識網(wǎng)絡(luò)、選擇性互補(bǔ)和資源整合的重要意義，價值共創(chuàng)逐漸成為價值創(chuàng)造的新趨勢[9]。

從風(fēng)險治理情景維度看，創(chuàng)新生態(tài)系統(tǒng)強(qiáng)調(diào)防范和化解技術(shù)產(chǎn)業(yè)化過程中的重大風(fēng)險，實現(xiàn)技術(shù)可用、可靠、可知、可控，同時實施負(fù)責(zé)任的研究，促進(jìn)科技向善，助力經(jīng)濟(jì)社會健康可持續(xù)發(fā)展。學(xué)者從不同視角對不同類型創(chuàng)新生態(tài)系統(tǒng)風(fēng)險及其治理進(jìn)行了探討，如Das&Teng[10]從聯(lián)盟網(wǎng)絡(luò)視角出發(fā)，認(rèn)為創(chuàng)新生態(tài)系統(tǒng)存在關(guān)系風(fēng)險和運(yùn)行風(fēng)險，其中關(guān)系風(fēng)險是戰(zhàn)略聯(lián)盟網(wǎng)絡(luò)的核心風(fēng)險[11]；朱瑞博[12]從產(chǎn)業(yè)集群視角出發(fā)，認(rèn)為可根據(jù)創(chuàng)新生態(tài)系統(tǒng)風(fēng)險誘發(fā)屬性，將其劃分為內(nèi)生性風(fēng)險和外生性風(fēng)險，前者是由集群內(nèi)部力量積累的風(fēng)險，包括僵化、創(chuàng)新惰性等，是系統(tǒng)衰退的根本性風(fēng)險，后者則是環(huán)境動蕩等沖擊形成的風(fēng)險，包括結(jié)構(gòu)性、周期性等，是導(dǎo)致系統(tǒng)衰退的誘發(fā)性因素；張運(yùn)生(2009)認(rèn)為，創(chuàng)新生態(tài)系統(tǒng)具有復(fù)雜性、合作共贏、技術(shù)標(biāo)準(zhǔn)化等特點(diǎn)，會引發(fā)依賴性風(fēng)險、結(jié)構(gòu)性風(fēng)險和專用性資產(chǎn)投資風(fēng)險；梅強(qiáng)等[13]針對戰(zhàn)略性新興產(chǎn)業(yè)創(chuàng)新生態(tài)系統(tǒng)面臨的技術(shù)風(fēng)險、整合風(fēng)險、合作風(fēng)險和依賴性風(fēng)險，認(rèn)為風(fēng)險治理復(fù)雜且難以量化其有效性，需要通過健全技術(shù)風(fēng)險管理機(jī)制、技術(shù)標(biāo)準(zhǔn)化、完善合作機(jī)制進(jìn)行綜合治理；吳紹波[14]考慮戰(zhàn)略性新興產(chǎn)業(yè)創(chuàng)新生態(tài)系統(tǒng)的技術(shù)專用性、非對稱性以及技術(shù)學(xué)習(xí)能力差異性等因素，構(gòu)建多主體治理模式，以健全創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理體系；武建龍和劉家洋[15]詳細(xì)分析新能源汽車創(chuàng)新生態(tài)系統(tǒng)內(nèi)涵與演進(jìn)過程，發(fā)現(xiàn)其存在系統(tǒng)脆弱性風(fēng)險、盲目擴(kuò)張風(fēng)險和匹配依賴風(fēng)險，需圍繞創(chuàng)新驅(qū)動、需求創(chuàng)造和環(huán)境利用實施風(fēng)險治理。

（2）反腐倡廉建設(shè)是一個動態(tài)的過程。習(xí)近平指出：“黨風(fēng)廉政建設(shè)和反腐敗斗爭是一項長期的、復(fù)雜的、艱巨的任務(wù)，不可能畢其功于一役。反腐倡廉必須常抓不懈，拒腐防變必須警鐘長鳴，關(guān)鍵就在‘?！ⅰL’二字，一個是要經(jīng)常抓，一個是要長期抓。”［1］70“經(jīng)常抓”，就要保持當(dāng)前反對、懲治腐敗的高壓態(tài)勢，做到有腐必反、有貪必肅，遏制腐敗現(xiàn)象蔓延的勢頭；“長期抓”，就要堅持不懈、長期作戰(zhàn)，既要有懲治腐敗的決心、信心，也要有長期作戰(zhàn)的恒心、耐心。另外，反腐倡廉建設(shè)不是抽象的，而是具體的、歷史的，其建設(shè)的內(nèi)容、方式等要隨著時代的發(fā)展而不斷變化。

此外，為提升風(fēng)險治理的有效性，促進(jìn)創(chuàng)新生態(tài)系統(tǒng)健康發(fā)展，需要測度其風(fēng)險程度。然而，由于風(fēng)險評估的復(fù)雜性和主觀性等原因，評估結(jié)果精度有待提升，因此風(fēng)險評估的真正意義不在于精確測度，而是把握風(fēng)險治理重點(diǎn)方向，形成科學(xué)研判。如李曉娣和張小燕[16]認(rèn)為，創(chuàng)新生態(tài)系統(tǒng)內(nèi)部異質(zhì)性主體的風(fēng)險感知不直接影響風(fēng)險評估，但直接作用于治理投入，并且通過治理意愿間接影響風(fēng)險治理過程。

既有研究鮮有關(guān)于人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)的直接論述，僅有耿喆等[17]結(jié)合產(chǎn)業(yè)生態(tài)理論和人工智能產(chǎn)業(yè)發(fā)展特征，分析人工智能產(chǎn)業(yè)創(chuàng)新生態(tài)系統(tǒng)的生物成分和非生物成分各組成要素，并構(gòu)建一般模型；楊偉等[18]以人工智能領(lǐng)域的數(shù)字創(chuàng)新生態(tài)系統(tǒng)為研究對象，發(fā)現(xiàn)生物群落多樣性有助于核心企業(yè)績效提升。更多學(xué)者從技術(shù)創(chuàng)新[19]、政策規(guī)制[20]和倫理道德[21]視角高度重視人工智能引發(fā)的數(shù)據(jù)安全、隱私保護(hù)、算法歧視等風(fēng)險問題，密切關(guān)注人工智能技術(shù)產(chǎn)業(yè)化過程中的風(fēng)險特征、治理工具與方法等問題，并認(rèn)為加強(qiáng)人工智能風(fēng)險治理已成為不可回避的時代責(zé)任。

以上有關(guān)創(chuàng)新生態(tài)系統(tǒng)的內(nèi)涵、價值創(chuàng)造、風(fēng)險治理等研究成果，為深入探討人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險提供了重要理論依據(jù)和實踐經(jīng)驗。然而，仍存在兩點(diǎn)不足：首先，現(xiàn)有研究對風(fēng)險的分析更多聚焦于風(fēng)險形成機(jī)理、性質(zhì)分析和風(fēng)險影響等討論，而對創(chuàng)新生態(tài)系統(tǒng)如何實施風(fēng)險治理卻缺乏系統(tǒng)性分析，如治理主體、原則及路徑等關(guān)鍵問題。其次，既有研究雖然形成了人工智能技術(shù)產(chǎn)業(yè)化風(fēng)險治理及治理方式的共識，但研究深度有待提升，研究視野也較為狹隘，沒有上升到創(chuàng)新生態(tài)系統(tǒng)高度，更沒有形成人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理的完備體系和系統(tǒng)性解釋。鑒于此，本文嘗試識別人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險屬性，明晰治理主體、治理原則并探索具體治理路徑，以期彌補(bǔ)對該問題研究的不足。

2 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)內(nèi)涵及風(fēng)險識別

2.1 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)內(nèi)涵

與內(nèi)生性風(fēng)險不同，外生性風(fēng)險是創(chuàng)新生態(tài)系統(tǒng)運(yùn)行過程中，由于人的主觀性、偏見性以及其它環(huán)境等因素導(dǎo)致的風(fēng)險，會使算法應(yīng)用偏離正常軌道，集中體現(xiàn)為算法歧視風(fēng)險和算法濫用風(fēng)險。

2.2 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險歸因

本文借鑒朱瑞博[12]的研究思路，將人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險歸結(jié)為內(nèi)生性風(fēng)險和外生性風(fēng)險并賦予全新內(nèi)涵。其中，前者是指人工智能技術(shù)特性和運(yùn)行過程攜帶的先天風(fēng)險基因，包括數(shù)據(jù)風(fēng)險和算法風(fēng)險，是導(dǎo)致系統(tǒng)衰敗的根源；后者是指產(chǎn)業(yè)化過程中人為因素、環(huán)境因素等形成的風(fēng)險，包括算法濫用和算法歧視，可能導(dǎo)致系統(tǒng)運(yùn)行異化，背離正常演進(jìn)方向。人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險可看作是兩種風(fēng)險共同作用的結(jié)果。

2.2.1 內(nèi)生性風(fēng)險

從創(chuàng)新生態(tài)系統(tǒng)演進(jìn)過程看，不同階段的風(fēng)險也不盡相同，內(nèi)生性風(fēng)險從技術(shù)突破時期到技術(shù)標(biāo)準(zhǔn)化時期，再到技術(shù)產(chǎn)業(yè)化時期始終存在，并成為技術(shù)突破時期和技術(shù)標(biāo)準(zhǔn)化時期的主要風(fēng)險，而外生性風(fēng)險只有當(dāng)創(chuàng)新生態(tài)系統(tǒng)進(jìn)入技術(shù)產(chǎn)業(yè)化時期才逐漸凸顯(見圖1)。

根據(jù)亨廷頓的觀點(diǎn)，政治衰敗源于新興社會行動者對政治參與的渴望，政治參與程度的減弱有利益政治的穩(wěn)定，亞當(dāng)·普沃斯基則對此提出了批評，認(rèn)為對于穩(wěn)定的民主政治真正的合法化危機(jī)不是來源于社會動員導(dǎo)致的政治參與擴(kuò)大，而是來自政治參與的不足。［6］就互聯(lián)網(wǎng)背景而言，兩者的理論都需要修正，互聯(lián)網(wǎng)下的社會動員會導(dǎo)致公民重拾參與政治的熱情，但是也誘發(fā)了基于互聯(lián)網(wǎng)的不當(dāng)?shù)纳鐣訂T問題。

(2)算法維度風(fēng)險。算法發(fā)展推動計算機(jī)視覺、自然語言處理等關(guān)鍵技術(shù)識別精度持續(xù)攀升，能夠在更廣泛的場景下解決實際痛點(diǎn)，驅(qū)動人工智能技術(shù)產(chǎn)業(yè)化進(jìn)程。同時，算法運(yùn)行的“黑箱”性和自主決策性使創(chuàng)新生態(tài)系統(tǒng)面臨算法安全風(fēng)險、算法可解釋性風(fēng)險和算法決策風(fēng)險[19]。首先是算法安全風(fēng)險，在實際應(yīng)用中，若算法模型及具體參數(shù)發(fā)生泄漏，那么第三方極有可能“克隆”該算法。同時，由于人工智能算法在原理上主要用于處理過程不明確、輸入不受限的場景，并容許一定錯誤率存在，而且算法訓(xùn)練數(shù)據(jù)也不能覆蓋所有應(yīng)用場景，因此若算法參數(shù)存在被非法篡改的可能，那么算法性能下降或錯誤率升高將難以被覺察，人工智能算法從設(shè)計、訓(xùn)練到運(yùn)用都將面臨可信賴性的問題。此外，部分場景要求算法隨時可用，算法漏洞造成的人身權(quán)益難以挽回以及一系列法律追責(zé)困境等，都使創(chuàng)新生態(tài)系統(tǒng)處于極大風(fēng)險之中。其次是算法可解釋性風(fēng)險，根據(jù)2017年美國加州大學(xué)伯克利分校發(fā)布的《對人工智能系統(tǒng)挑戰(zhàn)的伯克利觀點(diǎn)》，將算法可解釋性理解為，解釋人工智能算法輸入某些特性引起某個特定輸出結(jié)果的原因。由于人工智能算法往往是多層神經(jīng)網(wǎng)絡(luò)，屬于非線性數(shù)學(xué)，不同變量之間關(guān)系糾纏不清，呈現(xiàn)涌現(xiàn)性和自主性特征并因此形成“黑箱”，其算法的復(fù)雜性和專業(yè)性更提高了信息不對稱程度，從而極大降低人類對算法的信賴和認(rèn)同[19]。最后是算法決策風(fēng)險，計算力躍升使人工智能具備計算超高數(shù)量級可能性的超強(qiáng)能力，其選擇范圍遠(yuǎn)超人類，能夠嘗試人類以前未曾考慮的方案，從而導(dǎo)致算法結(jié)果的不可預(yù)見性風(fēng)險。

在價值創(chuàng)造情景下，創(chuàng)新生態(tài)系統(tǒng)內(nèi)部形成以技術(shù)創(chuàng)新群落、商業(yè)引領(lǐng)群落、控制調(diào)節(jié)群落和量子參與群落為主的價值創(chuàng)造群落結(jié)構(gòu)。在風(fēng)險治理情景下，創(chuàng)新生態(tài)系統(tǒng)內(nèi)部群落逐步從價值創(chuàng)造者向風(fēng)險治理者的身份和使命轉(zhuǎn)變。具體而言，技術(shù)創(chuàng)新型企業(yè)、AI初創(chuàng)新銳、AI巨頭、AI獨(dú)角獸等企業(yè)主體從技術(shù)創(chuàng)新群落和價值創(chuàng)造群落轉(zhuǎn)變?yōu)槠髽I(yè)治理群落，政府、學(xué)術(shù)界和社會組織由控制調(diào)節(jié)群落分別轉(zhuǎn)變?yōu)檎卫砣郝洹W(xué)界治理群落和社會組織治理群落，用戶、互聯(lián)網(wǎng)群體等微觀個體集合則由量子參與群落轉(zhuǎn)變?yōu)樯鐣娭卫砣郝?見表1)。

2.2.2 外生性風(fēng)險

人工智能技術(shù)產(chǎn)業(yè)化逐漸形成了由多種主體參與的獨(dú)特創(chuàng)新生態(tài)系統(tǒng)。本文借鑒自然生態(tài)系統(tǒng)中的群落概念[17-18]，并按照功能差異，將系統(tǒng)主體劃分為技術(shù)創(chuàng)新群落、商業(yè)引領(lǐng)群落、控制調(diào)節(jié)群落和量子參與群落。其中，技術(shù)創(chuàng)新群落(高校、科研機(jī)構(gòu)和技術(shù)創(chuàng)新型企業(yè))投入大量創(chuàng)新資源，使人工智能技術(shù)領(lǐng)先可行；價值創(chuàng)造群落(AI初創(chuàng)新銳、AI巨頭和AI獨(dú)角獸)以實現(xiàn)經(jīng)濟(jì)效益和社會期望滿足為目標(biāo)，提供相應(yīng)智能產(chǎn)品和服務(wù)；控制調(diào)節(jié)群落(政府機(jī)構(gòu)、學(xué)術(shù)界和社會組織)對人工智能技術(shù)產(chǎn)業(yè)化進(jìn)行控制和調(diào)節(jié)；量子參與群落(用戶、互聯(lián)網(wǎng)群體等微觀個體集合)廣泛參與到人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)化各方面。通過各群落間相互協(xié)作和價值共創(chuàng)，形成人工智能技術(shù)成果向生產(chǎn)力轉(zhuǎn)移的創(chuàng)新體系[8-9]。

(1)算法歧視風(fēng)險。算法歧視風(fēng)險是指在看似沒有惡意的程序設(shè)計中，由于算法設(shè)計者/開發(fā)人員對事物認(rèn)知存在某種偏見，或算法執(zhí)行時使用帶有偏見的數(shù)據(jù)集等原因，造成算法產(chǎn)生帶有歧視性的結(jié)果，并由此形成3種類型的算法歧視，即人為因素歧視、數(shù)據(jù)驅(qū)動因素歧視和機(jī)器自我學(xué)習(xí)因素歧視。算法設(shè)計者、用戶都可能引發(fā)算法歧視風(fēng)險，其中算法設(shè)計者可造成算法對用戶的價格歧視和結(jié)果偏袒，而由用戶引發(fā)的算法歧視主要源于用戶與算法的非理性交互。數(shù)據(jù)驅(qū)動的歧視則更多源于數(shù)據(jù)偏見，即偏見性數(shù)據(jù)引致算法結(jié)果的非客觀性。此外，隨著算法復(fù)雜程度日益提高，通過機(jī)器學(xué)習(xí)過程形成的隱性歧視也越來越難以被察覺[23]，但這些可能無法被理解的技術(shù)卻已廣泛試用于信用授予、企業(yè)籌款、企業(yè)招聘等領(lǐng)域，這無疑成為創(chuàng)新生態(tài)系統(tǒng)穩(wěn)健發(fā)展的潛在隱患。

(2)算法濫用風(fēng)險。算法濫用風(fēng)險是指在運(yùn)用算法進(jìn)行分析、決策過程中，因使用方式、目的和適用范圍等出現(xiàn)偏差導(dǎo)致的風(fēng)險。企業(yè)出于自身利益考慮，可能會利用算法對用戶進(jìn)行不良誘導(dǎo)，同時過度依賴算法和盲目擴(kuò)大算法應(yīng)用范圍也都會使算法缺陷被放大并影響系統(tǒng)有效性，甚至可能危害人類生命和人類社會發(fā)展，必須予以重點(diǎn)關(guān)注和妥善處理[23]。

(1)數(shù)據(jù)維度風(fēng)險。數(shù)據(jù)是人工智能技術(shù)快速發(fā)展并邁進(jìn)產(chǎn)業(yè)化的重要驅(qū)動力[22]。隨著大數(shù)據(jù)、機(jī)器學(xué)習(xí)等廣泛運(yùn)用，數(shù)據(jù)本身富含的價值越來越大，同時數(shù)據(jù)泄露等風(fēng)險亦急劇增加并引發(fā)數(shù)據(jù)風(fēng)險(數(shù)據(jù)安全和數(shù)據(jù)偏見)。首先是數(shù)據(jù)安全風(fēng)險，因數(shù)據(jù)挖掘深度和廣度提高，個人數(shù)據(jù)隱私被以更多方式、更低成本獲取，導(dǎo)致近年來數(shù)據(jù)安全事件頻發(fā)，甚至形成了完整的數(shù)據(jù)灰色產(chǎn)業(yè)鏈，不僅推高企業(yè)數(shù)據(jù)存儲與維護(hù)成本，而且極大降低了社會公眾對人工智能產(chǎn)品、服務(wù)和相關(guān)企業(yè)的信任程度，給創(chuàng)新生態(tài)系統(tǒng)發(fā)展帶來嚴(yán)重困擾。其次是數(shù)據(jù)偏見風(fēng)險，根據(jù)形成原因，數(shù)據(jù)偏見可分為客觀性數(shù)據(jù)偏見和主觀性數(shù)據(jù)偏見，其中客觀性數(shù)據(jù)偏見是由數(shù)據(jù)本身的非公平、非理性所致，數(shù)據(jù)主觀性偏見則是由研發(fā)人員的主觀選擇和數(shù)據(jù)處理等因素引起。數(shù)據(jù)偏見從底層影響人工智能的客觀性和公正性，甚至可能引發(fā)風(fēng)險的多米諾骨牌效應(yīng)。

圖1 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)演進(jìn)過程中風(fēng)險分布特征

3 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理體系

針對人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)面臨的內(nèi)生性風(fēng)險和外生性風(fēng)險，需要圍繞風(fēng)險治理主體、根本原則和治理路徑3個方面形成風(fēng)險治理體系。

3.1 風(fēng)險治理主體及群落結(jié)構(gòu)

2.2 近期療效 術(shù)后6周，觀察組患者臨床總有效率為79.2%，對照組為62.5%，兩組比較，差異無統(tǒng)計學(xué)意義（P＞0.05）。見表2。

表1 不同情景下人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)群落構(gòu)成

(1)政府治理群落。作為創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理的推動者和監(jiān)管者，政府治理群落需要深刻認(rèn)識到人工智能風(fēng)險的長期性和復(fù)雜性，把握風(fēng)險治理動向并提供強(qiáng)力支持。為鼓勵不同風(fēng)險治理群落共同應(yīng)對和化解創(chuàng)新生態(tài)系統(tǒng)風(fēng)險，同時防止經(jīng)濟(jì)行為主體利用市場契約不完全和信息不對稱牟利，避免“搭便車”等機(jī)會主義風(fēng)險，政府需要對其它治理群落實施激勵和約束，以提升風(fēng)險治理效率，促進(jìn)系統(tǒng)良性發(fā)展。

以學(xué)生為主導(dǎo)的小組合作式課堂教學(xué)模式，是指在上課的過程中，教師設(shè)定教學(xué)的方向，分配任務(wù)到小組，學(xué)生在課下查閱和討論相關(guān)知識，課堂上匯報，其他學(xué)生提問，匯報小組作答，教師最后總結(jié)，講解重點(diǎn)知識、解答有誤問題。這種教學(xué)模式，不僅能提高學(xué)生團(tuán)結(jié)協(xié)作能力和自主學(xué)習(xí)能力，還能提高其學(xué)習(xí)熱情，從而更好地掌握所學(xué)的知識，達(dá)到教學(xué)目的，在現(xiàn)代教學(xué)中發(fā)揮著重大意義[6]。尤其在研究生教育階段，學(xué)生以自主學(xué)習(xí)為導(dǎo)向，導(dǎo)師做好引導(dǎo)與扶持，對激發(fā)學(xué)生的創(chuàng)新意識具有積極作用[7]。

(2)企業(yè)治理群落。由于企業(yè)本身具有追逐利益和風(fēng)險規(guī)避的天性，會通過衡量不同情境下能獲得的利益，選擇實施或不實施風(fēng)險治理。因此，企業(yè)治理群落的最終形成源于對治理成本和收益的權(quán)衡。當(dāng)前，由人工智能技術(shù)產(chǎn)業(yè)化引發(fā)的風(fēng)險日益增加，既具有超強(qiáng)傳染性又難以完全追蹤。同時，由于人工智能深度嵌入社會經(jīng)濟(jì)結(jié)構(gòu)中，當(dāng)出現(xiàn)系統(tǒng)性風(fēng)險危機(jī)時，極有可能陷入“科林格里奇”困境從而釀成災(zāi)難性后果[24]。這迫使企業(yè)尤其是綜合實力強(qiáng)大的核心企業(yè)，以高度危機(jī)感和使命感投入到風(fēng)險治理浪潮中。

(3)學(xué)界治理群落。作為人工智能風(fēng)險治理的教育者和反思者，學(xué)界在承擔(dān)知識生產(chǎn)與傳播任務(wù)的同時，積極倡導(dǎo)責(zé)任式創(chuàng)新(responsible innovation)，更加關(guān)注廣泛情景下的新興技術(shù)治理[25]，強(qiáng)調(diào)利益相關(guān)者共同參與[26]，對人工智能等新興技術(shù)創(chuàng)新與實踐進(jìn)行超前布局、預(yù)測治理和響應(yīng)式治理[27-28]。

(4)社會組織與社會公眾治理群落。社會組織作為風(fēng)險治理的助推者和監(jiān)管者，積極參與從技術(shù)研發(fā)到實際應(yīng)用的多階段風(fēng)險治理以及行業(yè)監(jiān)督、監(jiān)管；社會公眾是風(fēng)險治理的廣泛參與者和監(jiān)督者。社會組織與社會公眾治理群落通過輿論宣傳和輿論監(jiān)督實施“軟治理”，以推動技術(shù)信任，引導(dǎo)科技向善。

創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理需要以治理原則為基礎(chǔ)并形成規(guī)則體系保障。雖然目前鮮有針對風(fēng)險治理的專門性政策出臺，但已有人工智能治理原則能夠為風(fēng)險治理提供很好的思路借鑒，如在倫理領(lǐng)域達(dá)成兩個極具影響力的共識：阿西洛馬人工智能原則(Asilomar AI Principles)和IEEE倡導(dǎo)的倫理標(biāo)準(zhǔn)。其中，阿西洛馬人工智能原則倡導(dǎo)安全、失敗透明、審判透明、負(fù)責(zé)、與人類價值觀一致性等；IEEE則發(fā)布多份文件倡導(dǎo)對倫理標(biāo)準(zhǔn)的重視，并且都得到廣泛傳播和認(rèn)同。2017年3月，IEEE在《機(jī)器人與自動化》上發(fā)表旨在推進(jìn)人工智能和自治系統(tǒng)倫理設(shè)計的IEEE全球倡議書，倡議建立人工智能倫理設(shè)計原則和標(biāo)準(zhǔn)，并提出人權(quán)(human rights)、福祉(well-being)、問責(zé)(accountability)、透明(transparent)和慎用(use with caution)五原則。我國新一代人工智能治理原則也于2019年6月發(fā)布，包括和諧友好、公平公正、包容共享等8項原則，突出了發(fā)展負(fù)責(zé)任的人工智能這一主題。

風(fēng)險治理群落的多屬性和多中心性使其形成多層次結(jié)構(gòu)，包括外圍層、中間層和核心層。其中，外圍層以政府治理群落和學(xué)界治理群落為風(fēng)險治理中堅力量，對人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理進(jìn)行長遠(yuǎn)考慮，做好頂層設(shè)計和統(tǒng)籌規(guī)劃，并積極倡導(dǎo)發(fā)展負(fù)責(zé)任的人工智能，采取分類分級、分階段的靈活監(jiān)管方式；中間層以社會組織群落和社會公眾治理群落為主體，通過營造和規(guī)范發(fā)展負(fù)責(zé)任研究的價值導(dǎo)向和輿論環(huán)境，使具有可用(available)、可靠(reliable)、可知(comprehensible)、可控(controllable)性的人工智能實現(xiàn)更高效率的技術(shù)轉(zhuǎn)移、獲取更豐厚的經(jīng)濟(jì)效益和積極的用戶反饋，形成良性增值循環(huán)；核心層以企業(yè)治理群落為關(guān)鍵支撐，包括核心企業(yè)、上游供應(yīng)商和下游互補(bǔ)方等利益相關(guān)者，通過行業(yè)自律、行業(yè)協(xié)同治理等方式應(yīng)對和化解風(fēng)險。外圍層、中間層和核心層構(gòu)成創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理的多層次結(jié)構(gòu)體系(見圖2)。

（2）運(yùn)用所學(xué)生物學(xué)知識和技能改進(jìn)教材實驗，設(shè)計開發(fā)“酸雨對生物影響的模擬探究實驗”。從微觀方面（細(xì)胞結(jié)構(gòu)層面）和宏觀方面（生態(tài)系統(tǒng)模擬和動物的行為）呈現(xiàn)酸雨對生物的影響，創(chuàng)造性解決學(xué)習(xí)中遇到的新問題。

圖2 創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理多層次群落結(jié)構(gòu)

3.2 風(fēng)險治理根本原則

正如虛寧寺管委會的李副主任所說：“對于我們而言，構(gòu)建和諧社會的大目標(biāo)，就要從人與人之間互相關(guān)懷的點(diǎn)滴開始做起。”

既有治理原則既反映出對人工智能的包容與共享，又體現(xiàn)其治理需要打破傳統(tǒng)治理邊界、行動的及時性以及治理方法的靈活多樣，強(qiáng)調(diào)發(fā)展負(fù)責(zé)任的人工智能。本文借鑒既有人工智能治理價值導(dǎo)向和核心思想，認(rèn)為人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理是治理原則在風(fēng)險防控領(lǐng)域的具體體現(xiàn)。首先，創(chuàng)造經(jīng)濟(jì)價值、引領(lǐng)廣泛產(chǎn)業(yè)變革是人工智能價值體現(xiàn)和實施風(fēng)險治理的首要前提[8-9]，需要在人工智能價值創(chuàng)造和變革過程中包容其引發(fā)的非重大系統(tǒng)性風(fēng)險，同時將濫用風(fēng)險降至最低。因此，包容審慎(tolerance and prudence)成為治理原則的必選項。其次，由于人工智能與社會經(jīng)濟(jì)以超乎尋常的速度整合和相互建構(gòu)，其超高的技術(shù)密集性和復(fù)雜性，使創(chuàng)新生態(tài)系統(tǒng)任何單一治理群落都無法精準(zhǔn)判斷和應(yīng)對風(fēng)險挑戰(zhàn)，需要企業(yè)、政府、社會組織、社會公眾和學(xué)界共同參與，真正形成全鏈條、多視角、多層次的風(fēng)險治理體系。因此，需遵循開放協(xié)同(open collaboration)的治理原則。再次，為增強(qiáng)創(chuàng)新生態(tài)系統(tǒng)內(nèi)部治理群落的責(zé)任使命感，牢固樹立群防群控風(fēng)險意識，需要通過建立風(fēng)險追責(zé)機(jī)制等，使其更好地履行各自職責(zé)，共同建立風(fēng)險治理的安全屏障。因此，責(zé)任共擔(dān)(shared responsibility)成為重要保障。最后，人工智能產(chǎn)業(yè)發(fā)展和風(fēng)險治理均處于探索和發(fā)展時期，需避免嚴(yán)格、細(xì)致的法律要求對人工智能產(chǎn)業(yè)產(chǎn)生阻礙，而應(yīng)采取事后監(jiān)管或通過出臺標(biāo)準(zhǔn)、行業(yè)公約、倫理框架、最佳實踐等，調(diào)整人工智能技術(shù)創(chuàng)新及發(fā)展應(yīng)用，同時大力支持行業(yè)自律。因此，要秉持敏捷靈活(agile and flexible)的治理原則。

3.3 風(fēng)險治理路徑解析

3.3.1 內(nèi)生性風(fēng)險治理

羊群感染布魯氏桿菌病后癥狀不明顯，因此，極易與其他傳染病混淆，養(yǎng)殖戶也未對其給予足夠的重視和關(guān)注。母羊感染此類傳染性疾病后容易出現(xiàn)流產(chǎn)現(xiàn)象，通常流產(chǎn)時間為妊娠后3個月或4個月，在流產(chǎn)前并沒有明顯的癥狀，即使誘發(fā)病癥，多數(shù)情況也是患有關(guān)節(jié)炎或者乳房炎。公羊感染此類疾病后會與公牛一樣引發(fā)附睪炎或者睪丸炎。

圖3 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)數(shù)據(jù)安全風(fēng)險治理路徑

(2)數(shù)據(jù)偏見風(fēng)險治理路徑。數(shù)據(jù)偏見風(fēng)險隱蔽性極強(qiáng)，而且?guī)в衅姷臄?shù)據(jù)還會通過算法產(chǎn)生偏見結(jié)果，并作為此后算法的數(shù)據(jù)輸入，由此偏見數(shù)據(jù)和偏見結(jié)果在迭代中得以持續(xù)和增強(qiáng)，引發(fā)人工智能技術(shù)研發(fā)、測試及產(chǎn)業(yè)化過程中風(fēng)險的“蝴蝶效應(yīng)”，成為創(chuàng)新生態(tài)系統(tǒng)安全運(yùn)行的“定時炸彈”[22]。同時，鑒于數(shù)據(jù)偏見風(fēng)險形成的主客觀因素，其治理路徑也主要從這兩方面入手。一方面，對于客觀性偏見，需高度重視數(shù)據(jù)檢驗，以政府治理群落為主導(dǎo)，多方積極參與，共同商討建立具有客觀性、合理性的數(shù)據(jù)檢測體系，對數(shù)據(jù)多樣性、分布規(guī)律等指標(biāo)設(shè)立相應(yīng)閾值，同時也需要對不同數(shù)據(jù)源進(jìn)行相互印證，以增加其信效度。只有通過檢驗成為完整、客觀的數(shù)據(jù)，才能作為算法訓(xùn)練的數(shù)據(jù)來源。另一方面，對于主觀性偏見，需要企業(yè)治理群落謹(jǐn)慎使用數(shù)據(jù)，同時優(yōu)化數(shù)據(jù)處理方法，最大程度保持?jǐn)?shù)據(jù)公平公正性。數(shù)據(jù)偏見風(fēng)險治理具體路徑如圖4所示。

圖4 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)數(shù)據(jù)偏見風(fēng)險治理路徑

(3)算法安全風(fēng)險治理路徑。算法安全風(fēng)險主要源于算法漏洞、低可靠性以及在特定領(lǐng)域可能造成的人身傷害，鑒于算法安全風(fēng)險更多源于技術(shù)性因素和特殊應(yīng)用場景，因此應(yīng)采取兼具技術(shù)防護(hù)和異常應(yīng)急的聯(lián)合治理策略。對于技術(shù)防護(hù)策略，企業(yè)治理群落要增強(qiáng)算法保密性，如采取加密等措施提升算法安全等級，通過優(yōu)化算法設(shè)計原理、加強(qiáng)安全防護(hù)，防范算法參數(shù)被非法修改，提升算法安全性。異常應(yīng)急策略即建立算法輸入異常和算法運(yùn)行異常的應(yīng)急管理體系，尤其要加強(qiáng)特殊應(yīng)用場景(如醫(yī)療領(lǐng)域)的風(fēng)險防范。企業(yè)、政府和學(xué)界需共同發(fā)力，通過實施多情景、多頻次模擬，建立算法異常風(fēng)險預(yù)警和應(yīng)急系統(tǒng)，通過增加對特殊應(yīng)用場景的針對性測試，提升算法可靠性并降低人身傷害的可能性。同時，對由算法引起的人身傷害典型事件，在追責(zé)的同時，更要吸取教訓(xùn)，從而持續(xù)完善算法安全風(fēng)險治理路徑。算法安全風(fēng)險治理具體路徑如圖5所示。

(1)數(shù)據(jù)安全風(fēng)險治理路徑。數(shù)據(jù)安全風(fēng)險的強(qiáng)大破壞性和極難挽回性引起各個治理群落高度關(guān)注，如何通過多方參與更有效地管控數(shù)據(jù)資源的使用，使創(chuàng)新生態(tài)系統(tǒng)更加安全，成為研究與實踐的緊要議題[29-30]。為此，政府、社會組織和企業(yè)治理群落需要從法律規(guī)制、倫理引導(dǎo)和預(yù)測預(yù)防角度，為數(shù)據(jù)安全風(fēng)險治理提供有效措施。首先是法律規(guī)制。政府治理群落可通過制定數(shù)據(jù)保護(hù)條例、建立數(shù)據(jù)安全規(guī)范等措施強(qiáng)化數(shù)據(jù)保護(hù)權(quán)益，并對個人和商業(yè)敏感信息予以更高保護(hù)[20]，其次是倫理引導(dǎo)，社會組織治理群落可通過建立行業(yè)數(shù)據(jù)使用標(biāo)準(zhǔn)和倫理規(guī)范，引導(dǎo)和規(guī)范數(shù)據(jù)采集、分析和運(yùn)用等環(huán)節(jié)[21]。最后是預(yù)測預(yù)防，企業(yè)治理群落可采用技術(shù)、理性洞察等途徑識別未來可能的隱私數(shù)據(jù)，并提前布局新興數(shù)據(jù)的隱私保護(hù)機(jī)制。同時，還應(yīng)探索數(shù)據(jù)侵害的追責(zé)機(jī)制，以督促各風(fēng)險治理群落打破治理界限，共同應(yīng)對數(shù)據(jù)安全風(fēng)險挑戰(zhàn)。數(shù)據(jù)安全風(fēng)險治理具體路徑如圖3所示。

圖5 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)算法安全風(fēng)險治理路徑

(4)算法可解釋性風(fēng)險治理路徑。人工智能算法可解釋性風(fēng)險主要來源于算法的復(fù)雜性特質(zhì)——涌現(xiàn)性和自主性，并由此導(dǎo)致理性推導(dǎo)失效，最終形成未知的潛在風(fēng)險。算法可解釋性風(fēng)險治理路徑可從技術(shù)降維和標(biāo)準(zhǔn)制定兩方面考慮。在技術(shù)降維方面，企業(yè)治理群落從技術(shù)角度切入，通過技術(shù)手段，將人工智能算法由機(jī)器理解層面降維至人類理解層面[19]。在標(biāo)準(zhǔn)制定方面，需要學(xué)界和政府積極制定算法模型標(biāo)準(zhǔn)、算法操作標(biāo)準(zhǔn)和算法解釋標(biāo)準(zhǔn)，加快形成算法可解釋性規(guī)范體系，在降低創(chuàng)新生態(tài)系統(tǒng)算法可解釋性風(fēng)險的同時，進(jìn)一步支撐和引領(lǐng)人工智能技術(shù)產(chǎn)業(yè)化蓬勃發(fā)展。算法可解釋性風(fēng)險治理具體路徑如圖6所示。

由圖2可知，濕式誘捕器在前3周誘捕效果最好，但3種誘捕器均隨著時間的變化誘捕效果呈降低趨勢，第3和第4周效果甚微，由此可以判斷誘捕器誘芯的效果在20 d以內(nèi)，每隔15～20 d需換一次誘芯。

圖6 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)算法可解釋性風(fēng)險治理路徑

(5)算法決策風(fēng)險治理路徑。人工智能技術(shù)發(fā)展與應(yīng)用的內(nèi)在邏輯是基于機(jī)器學(xué)習(xí)形成自主性決策[2]，在解放人類腦力勞動的同時，其難以理解的過程和行為，使創(chuàng)新生態(tài)系統(tǒng)處于算法決策不可預(yù)見的風(fēng)險中。為應(yīng)對和化解算法決策風(fēng)險，需要從增強(qiáng)可解釋性和算法終結(jié)兩方面考慮。一方面，可通過技術(shù)加持、算法簡化等方法，增強(qiáng)算法可解釋性并降低算法決策風(fēng)險；另一方面，引入算法終結(jié)機(jī)制，即參考生命體中的衰老機(jī)制，將算法終結(jié)機(jī)制引入算法決策風(fēng)險治理中，使算法決策遇到無法判斷未來結(jié)果時立即終止。2016年，Google旗下的DeepMind就曾提議給人工智能技術(shù)系統(tǒng)安設(shè)“切斷開關(guān)”(kill switch)，以防范人工智能對關(guān)鍵決策的惡意干預(yù)，避免重大嚴(yán)重后果。對人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)而言，當(dāng)既有風(fēng)險治理措施失效時，能夠立即觸發(fā)算法自我終結(jié)機(jī)制，形成安全可中斷性能力，防止算法對創(chuàng)新生態(tài)系統(tǒng)中企業(yè)創(chuàng)新戰(zhàn)略、商業(yè)模式等關(guān)鍵決策的過度干涉，從而將算法決策風(fēng)險破壞降至最低。算法可解釋性風(fēng)險治理具體路徑如圖7所示。

圖7 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)算法決策風(fēng)險治理路徑

3.3.2 外生性風(fēng)險治理

(1)算法濫用風(fēng)險治理路徑。算法濫用風(fēng)險治理可從明確算法使用邊界、降低算法依賴和倫理引導(dǎo)方面考慮。首先，明確算法使用邊界。人工智能算法需要技術(shù)(算法模型、參數(shù)等)、數(shù)據(jù)和場景特征彼此契合，才能提供專業(yè)解決方案等服務(wù)。從該意義上講，算法都具有一定專屬性質(zhì)，若其它帶有目的傾向的算法依然能夠使用相同數(shù)據(jù)源，那么極有可能使得使用人工智能產(chǎn)品和服務(wù)的用戶身處險境，從而造成創(chuàng)新生態(tài)系統(tǒng)核心企業(yè)與用戶關(guān)系緊張，甚至逐步演變?yōu)橄到y(tǒng)性風(fēng)險。因此，必須嚴(yán)格規(guī)范算法的商業(yè)化領(lǐng)域和用途，限制算法外延。其次，降低對算法的依賴。必須堅持人類主體地位，降低人工智能落地實踐中對算法的過度依賴和盲目依賴，提倡人與算法的有機(jī)結(jié)合。尤其是創(chuàng)新生態(tài)系統(tǒng)核心企業(yè)更需要從負(fù)責(zé)任的角度，提供有利于社會公眾實現(xiàn)數(shù)字福祉的智能產(chǎn)品和個性化服務(wù)[15,28]，而不是對“流量”趨之若鶩，淪為算法的附庸。最后，對算法進(jìn)行倫理引導(dǎo)。社會組織與社會公眾治理群落要倡議算法倫理規(guī)范，以引導(dǎo)其倫理取向，使算法回歸合理的應(yīng)用軌道并釋放“向善”潛力[21,23]。算法濫用風(fēng)險治理具體路徑如圖8所示。

今天，尋訪團(tuán)一行來到杭州始版橋，印刷專業(yè)的學(xué)生朝拜行業(yè)始祖——畢 ，今年是他在杭州發(fā)明活字印刷970年。烈日炎炎，尋尋覓覓，見人就問，無人知曉。最后，在一片住宅廢墟上，有人告之這可能就是遺址。不禁唏噓中國印刷之父畢 的發(fā)明地竟然如此境遇，但愿是我們搞錯了。我們一直在反省自四大發(fā)明之后，中國于世界現(xiàn)代科技文明的定位到底是什么。

圖8 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)算法濫用風(fēng)險治理路徑

(2)算法歧視風(fēng)險治理路徑。算法歧視是人工智能技術(shù)產(chǎn)業(yè)化引發(fā)的系統(tǒng)性風(fēng)險，體現(xiàn)為形成原因的多樣性和風(fēng)險危害的廣泛性，數(shù)據(jù)偏見、算法設(shè)計者、機(jī)器自我學(xué)習(xí)和人機(jī)互動都會導(dǎo)致算法歧視，而算法歧視風(fēng)險的危害從個人層面的價格歧視[31]、結(jié)果偏袒等，蔓延到創(chuàng)新生態(tài)系統(tǒng)的群落關(guān)系、運(yùn)行和演進(jìn)。鑒于此，本文認(rèn)為需要以風(fēng)險治理根本原則為導(dǎo)向，充分發(fā)揮創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理群落的多層次結(jié)構(gòu)優(yōu)勢，從多層面、多視角對算法歧視風(fēng)險實施治理。首先，從倫理嵌入視角出發(fā)，政府、社會組織等治理群落要致力于提升算法設(shè)計者、用戶的科學(xué)素養(yǎng)和倫理道德水平，使算法設(shè)計者更加客觀、公平，用戶與人工智能互動更加理性，從而減少算法歧視風(fēng)險中的人為因素，同時將倫理嵌入到技術(shù)研發(fā)、技術(shù)測試等產(chǎn)業(yè)化各階段，使算法設(shè)計更具正義性[21]。其次，從數(shù)據(jù)驅(qū)動視角出發(fā)，企業(yè)治理群落可通過探索數(shù)據(jù)去噪、數(shù)據(jù)填充、數(shù)據(jù)擬合、數(shù)據(jù)清洗等技術(shù)手段，降低數(shù)據(jù)偏見并實現(xiàn)高質(zhì)量數(shù)據(jù)輸入。最后，從機(jī)器學(xué)習(xí)視角出發(fā)，持續(xù)優(yōu)化機(jī)器學(xué)習(xí)算法，理性看待機(jī)器學(xué)習(xí)結(jié)果和決策，以實現(xiàn)人機(jī)高效協(xié)同、和諧共生。算法歧視風(fēng)險治理具體路徑如圖9所示。

圖9 人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)算法歧視風(fēng)險治理路徑

4 結(jié)論與討論

4.1 研究結(jié)論與政策啟示

人工智能技術(shù)經(jīng)過快速發(fā)展，逐步從實驗室階段走向產(chǎn)業(yè)化應(yīng)用階段[1]，并形成以人工智能技術(shù)創(chuàng)新與應(yīng)用為核心的創(chuàng)新生態(tài)系統(tǒng)。然而，人工智能技術(shù)產(chǎn)業(yè)化引發(fā)的大數(shù)據(jù)隱私泄露、算法“黑箱”、就業(yè)替代等風(fēng)險，使人工智能再次受到廣泛關(guān)注和高度警惕[32]。本文聚焦人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理議題，分析并歸納了系統(tǒng)面臨的內(nèi)生性風(fēng)險和外生性風(fēng)險，探討了具有多層次結(jié)構(gòu)特征的風(fēng)險治理群落，明晰了適用于人工智能風(fēng)險治理的根本原則，揭示了創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理的具體路徑。主要結(jié)論及政策啟示如下：

2017年1-12月神經(jīng)外科出院患者1258例,發(fā)生醫(yī)院感染59例,65例次,實際感染率4.69%,感染例次率5.17%。

本文從創(chuàng)新生態(tài)系統(tǒng)理論視角出發(fā)，針對人工智能技術(shù)產(chǎn)業(yè)化生態(tài)系統(tǒng)風(fēng)險治理問題，提出風(fēng)險識別依據(jù)，建立相應(yīng)風(fēng)險治理體系?，F(xiàn)有研究雖然對人工智能技術(shù)創(chuàng)新與產(chǎn)業(yè)化應(yīng)用引發(fā)的風(fēng)險問題進(jìn)行了一定討論[19,29-30]，但多聚焦于狹義的技術(shù)危機(jī)和機(jī)器倫理，對治理主體和治理過程的探討也局限于傳統(tǒng)科層制的思維邏輯[2]，亟待基于創(chuàng)新生態(tài)系統(tǒng)理論，對人工智能引發(fā)的風(fēng)險進(jìn)行更加廣泛和系統(tǒng)性的分析，并提出與之相匹配的風(fēng)險治理體系，以降低風(fēng)險等級、推動創(chuàng)新生態(tài)系統(tǒng)穩(wěn)健發(fā)展。本文借鑒創(chuàng)新生態(tài)系統(tǒng)風(fēng)險的相關(guān)研究[14-15]，依據(jù)風(fēng)險誘發(fā)屬性，將人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險歸結(jié)為內(nèi)生性風(fēng)險和外生性風(fēng)險。風(fēng)險治理情景下，創(chuàng)新生態(tài)系統(tǒng)將風(fēng)險治理主體視為具有內(nèi)在相關(guān)性的群落，在注重發(fā)揮各自功能的基礎(chǔ)上，進(jìn)一步強(qiáng)調(diào)治理群落間的互補(bǔ)性和協(xié)同性，并由此形成了風(fēng)險治理群落的多層次結(jié)構(gòu)和風(fēng)險治理的根本原則。根據(jù)內(nèi)生性風(fēng)險和外生性風(fēng)險特征，不同層次的風(fēng)險治理群落通過內(nèi)外結(jié)合、相互協(xié)同的治理模式，形成應(yīng)對和化解創(chuàng)新生態(tài)系統(tǒng)風(fēng)險的具體路徑。

本文從創(chuàng)新生態(tài)系統(tǒng)視角，結(jié)合具體路徑，為人工智能風(fēng)險治理提供政策啟示。首先，風(fēng)險治理群落在提升治理能力的同時，也需要創(chuàng)新治理理念與方法。政府要避免對偶發(fā)性負(fù)面問題采取激進(jìn)的治理措施，同時要創(chuàng)新監(jiān)管方式，如推動先行先試和柔性監(jiān)管；企業(yè)不僅要降低數(shù)據(jù)安全風(fēng)險和數(shù)據(jù)偏見風(fēng)險，使算法設(shè)計更具正義性，也要創(chuàng)新風(fēng)險治理思路，如對于算法可解釋性，或許探索相關(guān)關(guān)系而非因果關(guān)系，才是平衡用戶利益和減輕企業(yè)解釋成本負(fù)擔(dān)的合理途徑；學(xué)界要持續(xù)探索如何將責(zé)任式創(chuàng)新范式全面嵌入到創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理體系中[33-34]，為風(fēng)險治理提供智力支持和決策輔助；社會組織與社會公眾不宜定位于“呼吁者”，而應(yīng)深刻認(rèn)識自身價值和使命，廣泛參與到風(fēng)險治理中。其次，需要引入更廣泛的風(fēng)險治理群落，持續(xù)優(yōu)化創(chuàng)新生態(tài)系統(tǒng)多層次結(jié)構(gòu)及相互關(guān)系，形成科學(xué)高效的風(fēng)險治理體系，引導(dǎo)創(chuàng)新生態(tài)系統(tǒng)向責(zé)任式創(chuàng)新方向演進(jìn)。最后，積極推動人工智能風(fēng)險治理的全球性合作。數(shù)據(jù)流動的全球性及人工智能研發(fā)應(yīng)用的跨國界、國際分工等特征，都表明人工智能風(fēng)險不可能局限于某一區(qū)域或國家，因此必須加強(qiáng)國際對話與交流，預(yù)防人工智能可能引發(fā)的國際風(fēng)險。

4.2 研究不足與展望

本文主要通過分析和邏輯演繹，討論人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)的風(fēng)險性質(zhì)和治理體系，而這種定性研究在系統(tǒng)框架驗證、風(fēng)險危害等級判定和風(fēng)險治理效果評估方面存在一定不足，由此制約了創(chuàng)新生態(tài)系統(tǒng)風(fēng)險治理過程中資源的合理投入以及治理方法與工具的靈活運(yùn)用。未來可采用定量研究方法，利用經(jīng)濟(jì)計量模型，建立人工智能技術(shù)產(chǎn)業(yè)化創(chuàng)新生態(tài)系統(tǒng)風(fēng)險測度體系和治理效果評估量表，從而將人工智能風(fēng)險及其治理的相關(guān)研究從理論分析轉(zhuǎn)向?qū)嵶C研究。同時，以風(fēng)險治理效果為導(dǎo)向，逆向推動創(chuàng)新生態(tài)系統(tǒng)群落結(jié)構(gòu)的合理調(diào)整、治理原則的有效落實和治理路徑的持續(xù)優(yōu)化，形成風(fēng)險治理體系與治理效果之間的閉環(huán)生態(tài)和良性循環(huán)。