數(shù)字經(jīng)濟(jì)的科技倫理治理：動(dòng)因與機(jī)制

李曉華

數(shù)字科技與數(shù)字產(chǎn)業(yè)在促進(jìn)經(jīng)濟(jì)增長(zhǎng)、推動(dòng)產(chǎn)業(yè)變革、造福人類(lèi)社會(huì)的同時(shí)，也可能會(huì)對(duì)經(jīng)濟(jì)、社會(huì)造成不利影響，甚至對(duì)人類(lèi)的長(zhǎng)遠(yuǎn)發(fā)展造成威脅。與其他新興科技和產(chǎn)業(yè)一樣，數(shù)字經(jīng)濟(jì)發(fā)展也存在著技術(shù)與產(chǎn)業(yè)不確定性大、演進(jìn)速度快、復(fù)雜程度高等特點(diǎn)，由此導(dǎo)致數(shù)字經(jīng)濟(jì)治理面臨巨大挑戰(zhàn)。依靠法律、政策的傳統(tǒng)治理模式無(wú)法很好地適應(yīng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展，需要引入科技倫理治理，以推動(dòng)數(shù)字經(jīng)濟(jì)沿著有利于人類(lèi)的道路發(fā)展。

數(shù)字經(jīng)濟(jì)等新興技術(shù)和產(chǎn)業(yè)的治理難題

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革正深入推進(jìn)，在數(shù)字科技、生命科技、新能源、新材料、深?？仗斓阮I(lǐng)域不斷有顛覆性的技術(shù)涌現(xiàn)，進(jìn)而形成新興產(chǎn)業(yè)。其中，數(shù)字科技是創(chuàng)新最活躍、影響最廣泛的領(lǐng)域。一方面，通過(guò)新產(chǎn)品、新模式的創(chuàng)新和發(fā)展壯大形成新產(chǎn)業(yè)；另一方面，作為通用目的技術(shù)在國(guó)民經(jīng)濟(jì)各個(gè)行業(yè)獲得廣泛和深入的應(yīng)用，引發(fā)其他行業(yè)的深刻變革?？梢哉f(shuō)，數(shù)字經(jīng)濟(jì)已經(jīng)成為推動(dòng)經(jīng)濟(jì)增長(zhǎng)的新動(dòng)能新引擎與經(jīng)濟(jì)社會(huì)變革的重要力量。但也要看到，數(shù)字技術(shù)在創(chuàng)造更多物質(zhì)和精神產(chǎn)品、豐富和便利人類(lèi)生活的同時(shí)，出現(xiàn)了平臺(tái)壟斷、數(shù)據(jù)歧視、算法偏見(jiàn)、殺手并購(gòu)、侵害隱私、產(chǎn)業(yè)安全等一系列問(wèn)題，數(shù)字科技的進(jìn)一步發(fā)展甚至有可能威脅到人類(lèi)的生存和發(fā)展。2022年底以來(lái)，O p e n A I公司發(fā)布的生成式人工智能ChatGPT展現(xiàn)出廣闊的應(yīng)用前景和巨大的變革性，被認(rèn)為是人工智能發(fā)展的里程碑甚至是通用人工智能的起點(diǎn)，其創(chuàng)新性、顛覆性不可謂不大，但同時(shí)也引發(fā)了對(duì)人工智能威脅人類(lèi)生存和發(fā)展的擔(dān)憂。深度學(xué)習(xí)之父杰弗里·辛頓教授提醒人們警惕人工智能不受控制的發(fā)展帶來(lái)的風(fēng)險(xiǎn)，包括埃隆·馬斯克在內(nèi)的北美2000 多名計(jì)算機(jī)科學(xué)家和業(yè)內(nèi)人員簽署了一份公開(kāi)信，呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)。

世界各國(guó)針對(duì)成熟技術(shù)和產(chǎn)業(yè)已經(jīng)建立起完善的法律和政策體系，對(duì)這些技術(shù)和產(chǎn)業(yè)中出現(xiàn)的產(chǎn)品質(zhì)量、壟斷與不正當(dāng)競(jìng)爭(zhēng)、侵害消費(fèi)者權(quán)益、危害公共安全等各種負(fù)面影響和問(wèn)題進(jìn)行監(jiān)管和治理。但是對(duì)于包括數(shù)字科技在內(nèi)的前沿技術(shù)和新興產(chǎn)業(yè)，單純依靠法律和政策體系很難對(duì)其進(jìn)行有效治理。

一是政府監(jiān)管存在滯后性。新科技新產(chǎn)業(yè)具有雙重用途、雙重價(jià)值，既可造福人類(lèi)，也可能被惡意利用，造成巨大的經(jīng)濟(jì)、人身?yè)p失，威脅到人類(lèi)未來(lái)世代的健康甚至人類(lèi)生存（雷瑞鵬，2020）。傳統(tǒng)政府監(jiān)管的邏輯以問(wèn)題為導(dǎo)向（楊青峰、任錦鸞，2021），通過(guò)對(duì)違反法律法規(guī)的行為做出處罰，一方面消除負(fù)面影響、彌補(bǔ)造成的損害，另一方面也通過(guò)對(duì)潛在違法違規(guī)行為的威懾，減少甚至避免這些負(fù)面問(wèn)題的出現(xiàn)。但是當(dāng)問(wèn)題發(fā)生時(shí)，就意味著損失已經(jīng)發(fā)生。其中，一些損失非常大，一些危害的影響會(huì)長(zhǎng)期持續(xù)。

二是技術(shù)和產(chǎn)業(yè)演進(jìn)的不確定性大。高度的不確定性加大了對(duì)技術(shù)和產(chǎn)業(yè)有效治理的難度。當(dāng)新技術(shù)在發(fā)展初期顯得“人畜無(wú)害”時(shí)，過(guò)度的控制可能會(huì)限制科技創(chuàng)新對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的貢獻(xiàn)，但是當(dāng)技術(shù)的負(fù)面后果顯現(xiàn)出來(lái)時(shí)，對(duì)其進(jìn)行糾偏可能付出巨大的代價(jià)。

三是技術(shù)和產(chǎn)業(yè)演進(jìn)速度快。以法律和政策為代表的治理規(guī)則是在既有經(jīng)驗(yàn)基礎(chǔ)上總結(jié)出來(lái)的，其顯著特點(diǎn)就是穩(wěn)定性。新法律的制定以及對(duì)既有法律的修訂要經(jīng)過(guò)提案、論證、反復(fù)審議，往往要經(jīng)歷一個(gè)漫長(zhǎng)的過(guò)程。面對(duì)大量前沿技術(shù)和新興產(chǎn)業(yè)的不斷涌現(xiàn)，且持續(xù)處于快速變化之中的新功能、新模式、新影響，常常難以找到合適的法條和政策對(duì)此加以規(guī)范。當(dāng)針對(duì)新技術(shù)新產(chǎn)業(yè)出現(xiàn)的新問(wèn)題出臺(tái)相關(guān)法律法規(guī)時(shí)，技術(shù)已經(jīng)演進(jìn)到新的階段，法律的監(jiān)管目標(biāo)可能已發(fā)生改變，又會(huì)重新出現(xiàn)法律力有不逮的情況。

四是新興產(chǎn)業(yè)的復(fù)雜性高。新興產(chǎn)業(yè)的產(chǎn)品或服務(wù)架構(gòu)復(fù)雜，監(jiān)管機(jī)構(gòu)往往缺少深入到產(chǎn)品（如軟件代碼）內(nèi)部進(jìn)行監(jiān)管的技術(shù)能力和手段。數(shù)字經(jīng)濟(jì)的運(yùn)轉(zhuǎn)以數(shù)據(jù)、算法為基礎(chǔ)，復(fù)雜的系統(tǒng)往往有成千上萬(wàn)行代碼，且各種函數(shù)相互嵌套。數(shù)字經(jīng)濟(jì)的復(fù)雜性、不透明性、不易解釋性造成很難搞清楚算法里是否存在無(wú)意的或惡意制造的具有危害性的代碼。而且一些技術(shù)的影響可能需要較長(zhǎng)的時(shí)間才能顯現(xiàn)。此外，即使算法形成的產(chǎn)品、服務(wù)及其造成的結(jié)果能夠被觀察，往往也很難判斷算法中是否存在違法違規(guī)行為。例如，一些網(wǎng)絡(luò)平臺(tái)存在的針對(duì)不同用戶(hù)收取不同費(fèi)用的“價(jià)格歧視”現(xiàn)象，很難說(shuō)是軟件開(kāi)發(fā)者有意根據(jù)顧客特征制定不同的價(jià)格，還是隨時(shí)變化的市場(chǎng)供求關(guān)系造成的。在數(shù)字經(jīng)濟(jì)領(lǐng)域，人工智能還具有自主學(xué)習(xí)與決策能力，其行為結(jié)果不完全歸因于程序開(kāi)發(fā)人員（王亦菲、韓凱峰，2021）。

數(shù)字經(jīng)濟(jì)科技倫理治理的機(jī)制

數(shù)字經(jīng)濟(jì)發(fā)展中出現(xiàn)的問(wèn)題已引起各方的高度重視，在大力發(fā)展數(shù)字經(jīng)濟(jì)的同時(shí)加強(qiáng)對(duì)數(shù)字經(jīng)濟(jì)的治理已經(jīng)成為各國(guó)政府的共識(shí)。2021年10月，中共中央政治局就推動(dòng)我國(guó)數(shù)字經(jīng)濟(jì)健康發(fā)展進(jìn)行第三十四次集體學(xué)習(xí)時(shí)，習(xí)近平總書(shū)記指出“要完善數(shù)字經(jīng)濟(jì)治理體系，健全法律法規(guī)和政策制度”，同時(shí)也提出“要明確平臺(tái)企業(yè)主體責(zé)任和義務(wù)，建設(shè)行業(yè)自律機(jī)制。要開(kāi)展社會(huì)監(jiān)督、媒體監(jiān)督、公眾監(jiān)督，形成監(jiān)督合力”?？萍紓惱硎情_(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范。針對(duì)傳統(tǒng)治理方式無(wú)法有效適用于解決前沿技術(shù)和新興產(chǎn)業(yè)治理的難題，世界各國(guó)紛紛加強(qiáng)科技倫理治理。2022 年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)了《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，要求“加快構(gòu)建中國(guó)特色科技倫理體系，健全多方參與、協(xié)同共治的科技倫理治理體制機(jī)制”，“建立完善符合我國(guó)國(guó)情、與國(guó)際接軌的科技倫理制度”。

數(shù)字經(jīng)濟(jì)是科技倫理治理的重點(diǎn)領(lǐng)域。隨著數(shù)字技術(shù)的快速發(fā)展、廣泛擴(kuò)散和應(yīng)用，科技倫理治理在數(shù)字經(jīng)濟(jì)中的必要性和重要性日益突出。以最受各國(guó)重視的人工智能領(lǐng)域?yàn)槔?，為了確保人工智能研究和應(yīng)用的風(fēng)險(xiǎn)處于可控范圍，針對(duì)人工智能可能帶來(lái)的技術(shù)誤用、技術(shù)失控、應(yīng)用失控等方面風(fēng)險(xiǎn)，世界上已有40多個(gè)機(jī)構(gòu)或組織提出了各自的人工智能倫理準(zhǔn)則建議（陳小平，2019）。例如，美國(guó)國(guó)防部2019 年2月提出了“以合法和合乎道德的方式使用人工智能，以強(qiáng)化負(fù)責(zé)任的價(jià)值觀愿景和強(qiáng)化人工智能利用的指導(dǎo)原則”；美國(guó)人工智能促進(jìn)協(xié)會(huì)提出避免傷害、誠(chéng)實(shí)守信、公平并采取行動(dòng)不歧視、尊重隱私等人工智能道德原則（肖紅軍、陽(yáng)鎮(zhèn)，2023）。

福建福州：智能服務(wù)機(jī)器人產(chǎn)銷(xiāo)兩旺。圖為福建漢特云智能科技有限公司智能機(jī)器人裝配制造車(chē)間。圖/中新社

科技倫理治理之所以能夠在規(guī)范數(shù)字經(jīng)濟(jì)的發(fā)展中發(fā)揮重要作用，是因?yàn)樗プ×饲把丶夹g(shù)和新興產(chǎn)業(yè)的特點(diǎn)，把企業(yè)、員工、社會(huì)、政府等各方面力量有機(jī)結(jié)合并調(diào)動(dòng)起來(lái)參與到治理之中。

一是事前自我治理。數(shù)字科技企業(yè)根據(jù)科技倫理的基本原則與規(guī)范對(duì)科技創(chuàng)新與產(chǎn)業(yè)發(fā)展方向、企業(yè)競(jìng)爭(zhēng)行為等經(jīng)營(yíng)活動(dòng)進(jìn)行全面審查，主動(dòng)終止會(huì)對(duì)經(jīng)濟(jì)社會(huì)產(chǎn)生負(fù)面影響的活動(dòng)，或者在評(píng)估基礎(chǔ)上終止存在較大負(fù)面影響的活動(dòng)。同時(shí)，當(dāng)企業(yè)的經(jīng)營(yíng)活動(dòng)存在違反科技倫理的風(fēng)險(xiǎn)時(shí)，認(rèn)可科技倫理所確定原則和規(guī)范的企業(yè)員工會(huì)主動(dòng)予以糾偏，甚至當(dāng)發(fā)現(xiàn)企業(yè)存在惡意違反科技倫理的行為且內(nèi)部反對(duì)無(wú)效時(shí)，向社會(huì)披露和政府部門(mén)報(bào)告。

二是事中社會(huì)治理。盡管企業(yè)會(huì)選擇盡量隱藏惡意的違反科技倫理、對(duì)社會(huì)造成負(fù)面影響的行為，但仍然有可能通過(guò)多種方式被披露并在社會(huì)上擴(kuò)散。企業(yè)技術(shù)開(kāi)發(fā)、生產(chǎn)經(jīng)營(yíng)等活動(dòng)中隱藏的行為會(huì)通過(guò)學(xué)術(shù)交流、科研合作、專(zhuān)利公開(kāi)、上下游供應(yīng)商聯(lián)系、員工流動(dòng)等形式為行業(yè)內(nèi)的企業(yè)、人員乃至社會(huì)大眾所知曉，當(dāng)這些隱藏的活動(dòng)中存在有違科技倫理的情況或有損社會(huì)整體價(jià)值時(shí)，相關(guān)機(jī)構(gòu)和個(gè)人可以通過(guò)拒絕研究成果發(fā)表、抵制申請(qǐng)?jiān)撈髽I(yè)職位、解除業(yè)務(wù)合作關(guān)系等方式對(duì)違規(guī)企業(yè)做出不同程度的懲戒。

三是事后政府治理。對(duì)于違反科技倫理同時(shí)又違反法律或行政法規(guī)的行為，依法依規(guī)進(jìn)行相應(yīng)處罰。對(duì)那些違反科技倫理但并未觸犯法律法規(guī)的行為，政府部門(mén)可以通過(guò)研發(fā)資金分配、稅收優(yōu)惠、項(xiàng)目審批、土地出讓、銀行貸款利率、上市融資審批等途徑和方式予以懲戒，將遵守科技倫理情況作為企業(yè)申報(bào)國(guó)家和地方資格認(rèn)證、試點(diǎn)示范項(xiàng)目等的重要條件。

對(duì)數(shù)字經(jīng)濟(jì)的事前、事中、事后治理與企業(yè)、社會(huì)、政府治理不是割裂的，而是相互協(xié)同促進(jìn)的，將有可能損害社會(huì)福利乃至人類(lèi)社會(huì)持續(xù)發(fā)展的行為盡可能早地予以發(fā)現(xiàn)、糾正。例如，員工可以將企業(yè)違反科技倫理的行為曝光，引發(fā)更廣泛的社會(huì)監(jiān)督和政府監(jiān)管部門(mén)的介入；行業(yè)協(xié)會(huì)等社會(huì)中介組織可以在吸收各界意見(jiàn)的基礎(chǔ)上制定數(shù)字經(jīng)濟(jì)科技倫理治理規(guī)則，同時(shí)企業(yè)可以根據(jù)科技創(chuàng)新和產(chǎn)業(yè)發(fā)展中發(fā)現(xiàn)的新的科技倫理問(wèn)題，推動(dòng)數(shù)字科技倫理規(guī)范的更新；政府部門(mén)的事后懲處可以形成對(duì)企業(yè)的威懾，增強(qiáng)企業(yè)遵守科技倫理的自覺(jué)性。

構(gòu)建具有中國(guó)特色的數(shù)字科技倫理體系

鑒于科技倫理治理在糾正新興技術(shù)和產(chǎn)業(yè)的負(fù)面影響中的作用，應(yīng)積極推動(dòng)構(gòu)建具有中國(guó)特色的數(shù)字科技倫理體系。

在國(guó)家層面，由國(guó)家科技倫理委員會(huì)組織有關(guān)機(jī)構(gòu)和專(zhuān)家科學(xué)研判數(shù)字科技與數(shù)字產(chǎn)業(yè)發(fā)展中存在的問(wèn)題以及未來(lái)可能帶來(lái)的負(fù)面影響，在兼顧發(fā)展與監(jiān)管的基礎(chǔ)上，積極推動(dòng)我國(guó)數(shù)字科技倫理體系建設(shè)，包括制定科技倫理規(guī)范、指南、標(biāo)準(zhǔn)，以及針對(duì)違反科技倫理行為的處理規(guī)則，構(gòu)建既能夠支撐我國(guó)數(shù)字經(jīng)濟(jì)創(chuàng)新和發(fā)展，又能夠降低數(shù)字經(jīng)濟(jì)負(fù)面影響、消除對(duì)人類(lèi)社會(huì)可持續(xù)發(fā)展帶來(lái)潛在風(fēng)險(xiǎn)的數(shù)字科技倫理體系。加強(qiáng)數(shù)字科技倫理建設(shè)的國(guó)際合作，在吸納國(guó)際數(shù)字科技倫理先進(jìn)理念和成功經(jīng)驗(yàn)的同時(shí)，積極推廣中國(guó)的科技倫理理念和規(guī)則，貢獻(xiàn)中國(guó)智慧和中國(guó)方案，推動(dòng)在數(shù)字科技倫理上形成國(guó)際共識(shí)。

在社會(huì)層面，加大對(duì)科技倫理的宣傳，增強(qiáng)全社會(huì)對(duì)科技倫理的認(rèn)識(shí)，使企業(yè)和個(gè)人形成遵守科技倫理的意識(shí)。支持?jǐn)?shù)字科技企業(yè)、高等學(xué)校、科研機(jī)構(gòu)共同發(fā)起科技倫理高峰論壇，大力倡導(dǎo)負(fù)責(zé)任的數(shù)字經(jīng)濟(jì)、負(fù)責(zé)任的創(chuàng)新、負(fù)責(zé)任的人工智能等理念，加強(qiáng)對(duì)數(shù)字科技和產(chǎn)業(yè)發(fā)展中科技倫理問(wèn)題的研討，分享經(jīng)驗(yàn)和教訓(xùn)，對(duì)未來(lái)趨勢(shì)和潛在風(fēng)險(xiǎn)進(jìn)行前瞻性研判，推動(dòng)完善科技倫理規(guī)范以及科技倫理審查、風(fēng)險(xiǎn)處置、違規(guī)處理等規(guī)則流程。

在企業(yè)層面，鼓勵(lì)數(shù)字科技企業(yè)、高等學(xué)校、科研機(jī)構(gòu)將科技倫理納入自己的價(jià)值主張、公司戰(zhàn)略和技術(shù)創(chuàng)新管理過(guò)程，加強(qiáng)企業(yè)董事會(huì)、戰(zhàn)略委員會(huì)、高管團(tuán)隊(duì)等戰(zhàn)略決策者對(duì)數(shù)字科技倫理認(rèn)識(shí)和重視（肖紅軍、陽(yáng)鎮(zhèn)，2023）。設(shè)立數(shù)字科技倫理委員會(huì)，制定本單位數(shù)字科技倫理治理細(xì)則（如科技倫理原則、科技倫理審查程序、倫理風(fēng)險(xiǎn)的化解機(jī)制等），對(duì)企業(yè)技術(shù)創(chuàng)新、產(chǎn)品開(kāi)發(fā)、市場(chǎng)競(jìng)爭(zhēng)等各方面的行為進(jìn)行常態(tài)化的科技倫理審查。鼓勵(lì)數(shù)字科技企業(yè)開(kāi)發(fā)科技倫理治理的數(shù)字技術(shù)，提高數(shù)字科技倫理的治理效率。推動(dòng)上市公司、國(guó)有企業(yè)將科技倫理治理情況納入E SG（環(huán)境、社會(huì)和公司治理）報(bào)告對(duì)公眾發(fā)布，接受公眾監(jiān)督。