數(shù)字孿生算法黑箱的生成機(jī)制與治理創(chuàng)新

刁生富，李思琦

(1.佛山科學(xué)技術(shù)學(xué)院 法學(xué)與知識(shí)產(chǎn)權(quán)學(xué)院，廣東 佛山 528000；2.佛山科學(xué)技術(shù)學(xué)院 馬克思主義學(xué)院，廣東 佛山 528000)

作為新一代信息技術(shù)的代表性產(chǎn)物，數(shù)字孿生(Digital Twin)集成與融合了互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、可視化技術(shù)等多種新興技術(shù)，愈來(lái)愈成為當(dāng)下及未來(lái)科學(xué)決策和工程實(shí)踐的重要依據(jù)，并深刻地影響著人們的生產(chǎn)和生活。在依托數(shù)字孿生形成決策的過(guò)程中，算法運(yùn)作是核心和關(guān)鍵之所在。然而，算法所具有的“不透明性”所帶來(lái)的“算法黑箱”問(wèn)題，使得人們對(duì)數(shù)字孿生算法形成的決策產(chǎn)生隱憂(yōu)。本文提出了一個(gè)理解數(shù)字孿生算法黑箱的“五維三構(gòu)”模型，并分析了數(shù)字孿生算法黑箱的生成機(jī)制與相應(yīng)的治理路徑，以期幫助人們?cè)鰪?qiáng)對(duì)數(shù)字孿生算法決策的可信任度。

一、數(shù)字孿生算法黑箱的生成機(jī)制

數(shù)字孿生是指基于現(xiàn)實(shí)世界中的物理實(shí)體，在數(shù)字化空間中構(gòu)建其完整映射狀態(tài)下的全生命周期的虛擬模型，通過(guò)集成多學(xué)科、多物理性、多尺度的仿真過(guò)程，有效實(shí)現(xiàn)物理實(shí)體與虛擬模型之間的交互反饋與虛實(shí)融合，從而達(dá)到以虛控實(shí)，優(yōu)化現(xiàn)實(shí)物理世界的目的。[1]數(shù)字孿生具有精準(zhǔn)映射、交互融合、動(dòng)態(tài)仿真等特征，使得其算法黑箱的研究更具獨(dú)特性。

(一)算法與算法黑箱的界定

算法最開(kāi)始被界定為“算術(shù)運(yùn)算法則”，[2]隨后被理解為是包括輸入、輸出和隱層的一套程序指令或步驟。[3]一直以來(lái)，人們將算法的概念界定為進(jìn)行某項(xiàng)工作或解決某種問(wèn)題時(shí)的步驟和方法。[4]而隨著新一代信息技術(shù)的發(fā)展，算法概念的內(nèi)涵和外延有了更深層的發(fā)展，算法越來(lái)越成為一種決策參考的依據(jù)與技術(shù)力量的化身。

“黑箱”概念源于1956年英國(guó)學(xué)者艾什比在《控制論導(dǎo)論》一書(shū)中闡述的“黑箱也稱(chēng)閉盒、暗盒或黑匣、暗匣，它是指這樣一個(gè)系統(tǒng)，我們只能看到它的輸入值和輸出值，而不知道它的內(nèi)部結(jié)構(gòu)是什么，只有從觀(guān)察輸入變化引起的輸出反應(yīng)，來(lái)認(rèn)識(shí)其功能和特性?！盵5]學(xué)者們將其中難以窺探到的隱層稱(chēng)為“黑匣子”。[6]自此，“算法黑箱”被界定為算法設(shè)計(jì)者運(yùn)用不透明的程序?qū)⑤斎朕D(zhuǎn)換為輸出的過(guò)程，人們只能通過(guò)輸入和輸出來(lái)進(jìn)行理解，而不知道其內(nèi)部工作原理。[7-8]

學(xué)術(shù)界對(duì)算法黑箱的研究大多聚焦在新聞傳播算法、人工智能算法等領(lǐng)域，而對(duì)于當(dāng)下及未來(lái)的研究熱點(diǎn)“數(shù)字孿生”較少有專(zhuān)門(mén)的“算法黑箱”研究。數(shù)字孿生作為一種集成式的技術(shù)，呈現(xiàn)出與上述領(lǐng)域不同的算法黑箱新特點(diǎn)。對(duì)于這些特點(diǎn)的具體分析不僅有助于更好地認(rèn)識(shí)算法黑箱，而且能夠推進(jìn)數(shù)字孿生技術(shù)的進(jìn)一步落地應(yīng)用。

(二)數(shù)字孿生算法黑箱的生成機(jī)制

按照著名學(xué)者陶飛教授等人在《數(shù)字孿生五維模型及十大領(lǐng)域應(yīng)用》一文中提出的數(shù)字孿生五維結(jié)構(gòu)：物理層—連接層—數(shù)據(jù)層—模型層—服務(wù)層，[9]有：

MDT=(PE, CN, DD, VE, SS )。

(1)

再結(jié)合數(shù)字孿生算法(ADT)的數(shù)據(jù)處理過(guò)程：輸入(Ia)—處理(Pa)—輸出(Oa)，即：

ADT=(Ia ,Pa, Oa) 。

(2)

綜合(1)和(2)，從系統(tǒng)架構(gòu)的角度，提出數(shù)字孿生與算法之間運(yùn)作過(guò)程的“五維三構(gòu)”模型，如圖1所示。

圖1 數(shù)字孿生算法運(yùn)作過(guò)程——五維三構(gòu)模型

從圖1可以看出，物理實(shí)體、連接、數(shù)據(jù)、虛擬模型、服務(wù)構(gòu)成了一個(gè)閉環(huán)的信息物理系統(tǒng)。而在這個(gè)閉環(huán)的信息物理系統(tǒng)之內(nèi)，輸入、數(shù)據(jù)(處理)與輸出的算法運(yùn)作過(guò)程始終相伴存在。“五維三構(gòu)”模型從數(shù)字孿生模型五個(gè)維度和算法運(yùn)作過(guò)程三個(gè)層次結(jié)構(gòu)，清晰地表達(dá)了數(shù)字孿生的算法運(yùn)作過(guò)程，為進(jìn)一步探究“算法黑箱”問(wèn)題提供了模型化的表達(dá)。

首先，物理實(shí)體維度可作為數(shù)字孿生算法輸入的初始起點(diǎn)環(huán)節(jié)。虛擬孿生模型構(gòu)建所需要的各種數(shù)據(jù)信息和特征集合皆是對(duì)物理實(shí)體對(duì)象的“精準(zhǔn)映射”，數(shù)字孿生算法初始輸入的各種參數(shù)信息正是經(jīng)過(guò)對(duì)物理實(shí)體對(duì)象進(jìn)行特征選擇和特征提取之后的結(jié)果。這部分初始數(shù)據(jù)后續(xù)會(huì)作為基礎(chǔ)數(shù)據(jù)與物理對(duì)象生成的實(shí)時(shí)數(shù)據(jù)一同為數(shù)字孿生算法處理過(guò)程提供數(shù)據(jù)支撐。同時(shí)，數(shù)字孿生中的連接維度能將物理實(shí)體對(duì)象的各種信息和實(shí)時(shí)動(dòng)態(tài)數(shù)據(jù)傳輸給虛擬孿生模型以供建模。因此，來(lái)源于現(xiàn)實(shí)物理實(shí)體的數(shù)據(jù)信息準(zhǔn)確傳輸或精準(zhǔn)映射到計(jì)算機(jī)數(shù)據(jù)平臺(tái)的過(guò)程，既是數(shù)字孿生算法輸入的過(guò)程，同時(shí)也是相應(yīng)孿生模型構(gòu)建的過(guò)程。

其次，虛擬模型維度與數(shù)據(jù)維度共同作為數(shù)字孿生算法處理的環(huán)節(jié)。二者為數(shù)字孿生算法處理過(guò)程提供了可視化的虛擬載體和必要的數(shù)據(jù)支撐。孿生數(shù)據(jù)是數(shù)字孿生運(yùn)行的核心驅(qū)動(dòng)，從算法運(yùn)作的初始輸入環(huán)節(jié)——物理實(shí)體數(shù)據(jù)，到算法處理過(guò)程中的虛擬模型數(shù)據(jù)，以及虛實(shí)融合、動(dòng)態(tài)交互過(guò)程中生成的融合數(shù)據(jù)，正是這些數(shù)據(jù)的支撐，保障算法運(yùn)作最終能夠到達(dá)算法輸出環(huán)節(jié)，從而生成服務(wù)系統(tǒng)數(shù)據(jù)。數(shù)字孿生依托物理實(shí)體的各種幾何、物理、行為以及規(guī)則等數(shù)據(jù)信息，孿生模型才得以構(gòu)建。模型構(gòu)建完成之后，最為關(guān)鍵的便是虛擬模型數(shù)據(jù)及動(dòng)態(tài)融合數(shù)據(jù)的算法處理、自動(dòng)化決策生成的過(guò)程，這個(gè)過(guò)程對(duì)于人類(lèi)目前來(lái)說(shuō)仍處于“未知地帶”，而這種“未知地帶”被人們形象地稱(chēng)為“算法黑箱”。

最后，服務(wù)維度可作為數(shù)字孿生算法輸出的最后終點(diǎn)環(huán)節(jié)。數(shù)字孿生本質(zhì)上是一種集成式的技術(shù)應(yīng)用，其最終目的是為了滿(mǎn)足人們的應(yīng)用需求，提高事物的運(yùn)行效率。數(shù)字孿生的真正功能在于，在數(shù)字化空間中完成對(duì)虛擬孿生模型的構(gòu)建，從而搭建起虛擬孿生世界同現(xiàn)實(shí)物理世界之間的橋梁，并在物理實(shí)體對(duì)象全生命周期內(nèi)進(jìn)行數(shù)據(jù)反饋與虛實(shí)融合，經(jīng)過(guò)大量的數(shù)據(jù)累積與迭代優(yōu)化，數(shù)字孿生能夠基于模型優(yōu)化物理對(duì)象，提高物理世界資源配置效率，賦能基于模型的正向研發(fā)和協(xié)同創(chuàng)新。就數(shù)字孿生的具體應(yīng)用而言，依據(jù)不同用戶(hù)的選擇和應(yīng)用需求，數(shù)字孿生的輸出服務(wù)層可提供仿真模型、智能運(yùn)算、運(yùn)行監(jiān)控、故障診斷等方面的服務(wù)供給；還能將用戶(hù)所需的各類(lèi)數(shù)據(jù)、模型、算法、仿真、結(jié)果等進(jìn)行服務(wù)化封裝，并以應(yīng)用軟件或移動(dòng)端App的形式提供給用戶(hù)，實(shí)現(xiàn)對(duì)服務(wù)的便捷與按需使用。[10]因此，數(shù)字孿生模型通過(guò)算法運(yùn)作生成算法決策的過(guò)程是為算法輸出環(huán)節(jié)，最終形成服務(wù)并應(yīng)用到現(xiàn)實(shí)物理實(shí)體中，即為算法運(yùn)作的終點(diǎn)環(huán)節(jié)。

實(shí)質(zhì)上，數(shù)字孿生的算法輸入、處理、輸出等環(huán)節(jié)的界限并非如此分明，它們是相互滲透存在的，且依靠連接維度實(shí)現(xiàn)實(shí)時(shí)動(dòng)態(tài)連接與信息傳遞，依靠數(shù)據(jù)與模型雙驅(qū)動(dòng)實(shí)現(xiàn)數(shù)字孿生的虛擬模型建構(gòu)與智能算法運(yùn)行。但總體而言，數(shù)字孿生的五維模型與算法的三個(gè)層次結(jié)構(gòu)緊密相關(guān)。其中的數(shù)據(jù)不僅是孿生模型的核心驅(qū)動(dòng)，更是算法運(yùn)作過(guò)程中的重要數(shù)據(jù)支撐，而算法數(shù)據(jù)處理過(guò)程又伴隨著不為人知的“算法黑箱”。本文接下來(lái)將重點(diǎn)深入探討數(shù)字孿生算法黑箱形成的原因與治理路徑。

二、數(shù)字孿生算法黑箱的成因分析

數(shù)字孿生算法黑箱的生成，既有源于數(shù)字孿生算法本身的機(jī)器學(xué)習(xí)技術(shù)的復(fù)雜性和數(shù)字孿生虛實(shí)融合的動(dòng)態(tài)變化等內(nèi)部原因，又有諸如數(shù)字孿生內(nèi)嵌了人類(lèi)非向善的價(jià)值觀(guān)念這一外部因素。

(一)數(shù)字孿生機(jī)器學(xué)習(xí)算法的復(fù)雜性

在數(shù)字孿生算法黑箱的成因分析中，數(shù)字孿生本身所運(yùn)用的機(jī)器學(xué)習(xí)算法的復(fù)雜性是造成黑箱生成尤為重要的原因。數(shù)字孿生模型構(gòu)建的初衷是將物理世界中存在的各種數(shù)據(jù)信息同步于虛擬孿生世界，同時(shí)在數(shù)字孿生模型中進(jìn)行各種參數(shù)變動(dòng)與未來(lái)預(yù)測(cè)，從而以較低的成本、更快捷的速度作出符合當(dāng)下情境的最優(yōu)決策。其中最重要的一環(huán)就是數(shù)字孿生虛擬模型的構(gòu)建與應(yīng)用，與之始終相伴存在的即為機(jī)器學(xué)習(xí)算法。

機(jī)器學(xué)習(xí)通常被描述為“計(jì)算機(jī)模擬并實(shí)現(xiàn)人類(lèi)的學(xué)習(xí)的行為過(guò)程，通過(guò)向系統(tǒng)提供訓(xùn)練數(shù)據(jù)或是學(xué)習(xí)數(shù)據(jù)，能夠自動(dòng)確定系統(tǒng)的參數(shù)。”[11]換言之，機(jī)器學(xué)習(xí)通過(guò)訓(xùn)練集，不斷識(shí)別特征與建模，最后形成有效的模型，以達(dá)到能夠像人類(lèi)一樣作出決策的目的。但正是由于機(jī)器學(xué)習(xí)能夠根據(jù)訓(xùn)練數(shù)據(jù)或者學(xué)習(xí)數(shù)據(jù)自動(dòng)計(jì)算確定系統(tǒng)運(yùn)行所需要的參數(shù)，在提高決策效率與決策準(zhǔn)確率的同時(shí)，也不可避免地帶來(lái)了算法黑箱的問(wèn)題。

在實(shí)現(xiàn)數(shù)字孿生的過(guò)程中，無(wú)論是虛擬模型的構(gòu)建環(huán)節(jié)，還是虛擬模型的應(yīng)用環(huán)節(jié)，都離不開(kāi)機(jī)器學(xué)習(xí)技術(shù)的應(yīng)用。機(jī)器學(xué)習(xí)按照訓(xùn)練方法，可分為監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)三種類(lèi)別，與之相對(duì)的數(shù)字孿生的算法黑箱的“黑箱程度”也在不斷加深。

對(duì)于監(jiān)督式機(jī)器學(xué)習(xí)而言，其對(duì)數(shù)字孿生虛擬模型的構(gòu)建發(fā)揮著重要作用。數(shù)字孿生模型不同于之前的實(shí)體模型或數(shù)字化建模，它有著更高且更真實(shí)的“仿真性”，不僅需要對(duì)物理實(shí)體對(duì)象的幾何數(shù)據(jù)、物理數(shù)據(jù)進(jìn)行模型構(gòu)建，更需要對(duì)其行為數(shù)據(jù)、規(guī)則數(shù)據(jù)進(jìn)行虛擬映射。監(jiān)督式機(jī)器學(xué)習(xí)是指，人們事先已經(jīng)明確了自己想要的目標(biāo)結(jié)果，在系統(tǒng)對(duì)訓(xùn)練集數(shù)據(jù)形成自己的判斷方法后，就能夠?qū)π碌臏y(cè)試集進(jìn)行解答，得到人們想要的結(jié)果。[12]尤其是針對(duì)數(shù)字孿生模型構(gòu)建時(shí)的大規(guī)模數(shù)據(jù)采集的過(guò)程，借用監(jiān)督式機(jī)器學(xué)習(xí)算法，能夠高效率地將數(shù)據(jù)類(lèi)型進(jìn)行分類(lèi)，準(zhǔn)確地將這些數(shù)據(jù)信息歸為幾何類(lèi)、物理類(lèi)、行為類(lèi)、規(guī)則類(lèi)。在這個(gè)過(guò)程中，算法的輸入端和輸出端在一定程度上都是能夠被確定的，或者說(shuō)處于人們可掌控的范圍之內(nèi)，此時(shí)的算法黑箱可以理解為是從輸入值映射到期望輸出值的函數(shù)處理過(guò)程。

但是，對(duì)于無(wú)監(jiān)督式機(jī)器學(xué)習(xí)而言，無(wú)論是輸入數(shù)據(jù)，亦或是輸出數(shù)據(jù)，乃至中間的機(jī)器學(xué)習(xí)計(jì)算過(guò)程，人們都無(wú)法形成明確的認(rèn)識(shí)。數(shù)字孿生在模型建構(gòu)與決策應(yīng)用環(huán)節(jié)，采用的無(wú)監(jiān)督式機(jī)器學(xué)習(xí)算法所造成的算法黑箱的影響尤為嚴(yán)重。由于數(shù)字孿生所面對(duì)的數(shù)據(jù)集規(guī)模相當(dāng)之大，若采用監(jiān)督式機(jī)器學(xué)習(xí)算法，所需要負(fù)擔(dān)的成本相應(yīng)也會(huì)很高。無(wú)監(jiān)督學(xué)習(xí)的任務(wù)是從給定的數(shù)據(jù)集中挖掘出潛在的結(jié)構(gòu)，相較于監(jiān)督式機(jī)器學(xué)習(xí)，無(wú)監(jiān)督式機(jī)器學(xué)習(xí)是一個(gè)沒(méi)有標(biāo)簽的數(shù)據(jù)集，是基于數(shù)據(jù)之間的相似性進(jìn)行聚類(lèi)分析學(xué)習(xí)。[13]這在降低數(shù)字孿生模型初始數(shù)據(jù)的分類(lèi)成本的同時(shí)，不可避免地在系統(tǒng)的輸入端與輸出端以及中間的學(xué)習(xí)計(jì)算過(guò)程形成了一個(gè)全流程的閉環(huán)，這時(shí)的算法黑箱表現(xiàn)為人們無(wú)法窺探到其中的任何一個(gè)環(huán)節(jié)，黑箱程度明顯加深。

(二)數(shù)字孿生數(shù)據(jù)交互融合的動(dòng)態(tài)性

當(dāng)我們從人類(lèi)認(rèn)知角度對(duì)數(shù)字孿生進(jìn)行界定時(shí)，會(huì)發(fā)現(xiàn)它是一種全新的認(rèn)識(shí)客觀(guān)世界與人類(lèi)自身的方法，而這種方法能夠得以實(shí)現(xiàn)的一大原因是數(shù)據(jù)的表征與計(jì)算。數(shù)字孿生虛擬模型的構(gòu)建實(shí)現(xiàn)了數(shù)據(jù)的表征化，這一過(guò)程將現(xiàn)實(shí)物理世界中繁雜的特征與信息轉(zhuǎn)換成計(jì)算機(jī)可以讀取和處理的數(shù)據(jù)，并同步于孿生世界之中(即圖1算法輸入及孿生模型構(gòu)建過(guò)程)；數(shù)字孿生虛擬模型的應(yīng)用實(shí)現(xiàn)了數(shù)據(jù)的計(jì)算化，而算法在其中起到了關(guān)鍵性作用(即圖1孿生模型運(yùn)作及算法輸出過(guò)程)。尤其是學(xué)習(xí)型算法，它能夠在無(wú)需人為干預(yù)的自然狀態(tài)下，利用數(shù)據(jù)進(jìn)行自動(dòng)學(xué)習(xí)，從而具有調(diào)整系統(tǒng)運(yùn)行參數(shù)與形成決策規(guī)則以及進(jìn)行未來(lái)預(yù)測(cè)的能力，最終生成各種服務(wù)以?xún)?yōu)化物理世界的運(yùn)行。

當(dāng)我們對(duì)數(shù)字孿生算法黑箱的成因進(jìn)行深度分析時(shí)，就會(huì)發(fā)現(xiàn)，數(shù)字孿生數(shù)據(jù)交互融合的動(dòng)態(tài)性不僅是數(shù)字孿生技術(shù)的顯著特征，更是造成其算法黑箱形成的另一重要原因。就強(qiáng)化學(xué)習(xí)而言，數(shù)字孿生算法黑箱的黑箱程度已經(jīng)完全脫離了人類(lèi)能夠掌控的范圍。數(shù)字孿生在虛擬孿生模型構(gòu)建完成后，就需要和現(xiàn)實(shí)物理世界進(jìn)行實(shí)時(shí)的動(dòng)態(tài)交互與虛實(shí)融合，在這個(gè)過(guò)程中，數(shù)字孿生系統(tǒng)內(nèi)會(huì)生成大量以供決策制定的經(jīng)驗(yàn)參考。強(qiáng)化學(xué)習(xí)是一種常用于“時(shí)變系統(tǒng)控制規(guī)則構(gòu)建”的機(jī)器學(xué)習(xí)方法，這種學(xué)習(xí)方法一般是將機(jī)器置于一個(gè)能夠不斷進(jìn)行反復(fù)試驗(yàn)的環(huán)境當(dāng)中，通過(guò)對(duì)經(jīng)驗(yàn)的自動(dòng)學(xué)習(xí)與重復(fù)試錯(cuò)，最后形成一套屬于自己的決策方法，同時(shí)還能夠從經(jīng)驗(yàn)中學(xué)習(xí)最新的知識(shí)以對(duì)未來(lái)情況作出預(yù)測(cè)判斷。[14]強(qiáng)化學(xué)習(xí)重點(diǎn)關(guān)注的是機(jī)器與環(huán)境之間的交互與反饋，系統(tǒng)會(huì)根據(jù)強(qiáng)化學(xué)習(xí)的效果給予正獎(jiǎng)勵(lì)或負(fù)懲罰。

數(shù)字孿生虛擬模型在進(jìn)行應(yīng)用之時(shí)，即通過(guò)虛擬孿生數(shù)據(jù)與現(xiàn)實(shí)物理數(shù)據(jù)進(jìn)行的實(shí)時(shí)交互以作出決策的過(guò)程中，強(qiáng)化學(xué)習(xí)正是通過(guò)學(xué)習(xí)這些從連續(xù)實(shí)時(shí)監(jiān)控中收集到的幾何、物理、行為與規(guī)則數(shù)據(jù)，并以從環(huán)境和系統(tǒng)中得到的正獎(jiǎng)勵(lì)作為生成動(dòng)態(tài)決策的依據(jù)。數(shù)字孿生數(shù)據(jù)交互融合的動(dòng)態(tài)性使得算法運(yùn)行的難度較之前更為復(fù)雜化，數(shù)字孿生算法在應(yīng)用過(guò)程中不僅要考慮系統(tǒng)之內(nèi)的虛擬孿生數(shù)據(jù)的狀態(tài)與特征，更要結(jié)合系統(tǒng)之外的客觀(guān)物理世界中發(fā)生的實(shí)時(shí)動(dòng)態(tài)變化的數(shù)據(jù)信息，如此才能作出符合當(dāng)下情境、適合數(shù)字孿生主體的準(zhǔn)確決策。但也正是由于這種數(shù)據(jù)交互融合的動(dòng)態(tài)性，使得數(shù)字孿生算法黑箱的黑箱程度更為加深。

例如，當(dāng)數(shù)字孿生應(yīng)用于人類(lèi)自身構(gòu)建數(shù)字孿生人之時(shí)，算法運(yùn)行的過(guò)程貫穿于生命體“全生命”周期之內(nèi)。現(xiàn)實(shí)世界中的生命體一定會(huì)隨著環(huán)境的變化而發(fā)生變動(dòng)，隨之而來(lái)的就是與生命體相關(guān)的數(shù)據(jù)的變動(dòng)與更新。這種變動(dòng)會(huì)隨時(shí)傳送到已經(jīng)構(gòu)建的數(shù)字孿生虛擬人中，當(dāng)算法想要作出符合數(shù)字孿生主體的決策之時(shí)，就不得不考慮二者之間的融合與交互。正是這種交互融合，大大加深了算法決策的復(fù)雜性，從而進(jìn)一步加深了算法黑箱的黑箱程度。

(三)數(shù)字孿生技術(shù)內(nèi)嵌價(jià)值非中立性

如果將數(shù)字孿生機(jī)器學(xué)習(xí)算法的復(fù)雜性以及數(shù)據(jù)交互融合的動(dòng)態(tài)性所造成的數(shù)字孿生的算法黑箱問(wèn)題歸結(jié)為是數(shù)字孿生技術(shù)及算法本身所造成的，那么數(shù)字孿生技術(shù)內(nèi)嵌的價(jià)值非中立性則可歸結(jié)為是外部人為因素加深了數(shù)字孿生算法黑箱的黑箱程度。由于人之決策不僅容易受到“判斷誤差”的影響，更容易受到諸如認(rèn)知程度、情緒波動(dòng)、環(huán)境變化等“判斷噪聲”的影響，帶有極大的主觀(guān)性；而算法決策通過(guò)算法程序的運(yùn)行，具有高度的專(zhuān)業(yè)性與客觀(guān)程序性以及極強(qiáng)的工具理性等特征。正是憑借著算法具備的決策高效率與高度精準(zhǔn)化的特征，現(xiàn)如今越來(lái)越多的決策是依靠算法形成而非人為進(jìn)行，人之決策逐漸讓位于算法決策。[15]當(dāng)下的數(shù)字孿生技術(shù)更是將這種算法決策推向了更高的維度，通過(guò)構(gòu)建現(xiàn)實(shí)物理世界中的虛擬孿生體，依托二者之間進(jìn)行的實(shí)時(shí)的數(shù)據(jù)交互與虛實(shí)融合，人們期待數(shù)字孿生算法能夠作出符合現(xiàn)實(shí)物理世界中主客體需要的決策。但我們往往會(huì)發(fā)現(xiàn)，在實(shí)現(xiàn)這種“準(zhǔn)確且無(wú)偏”決策的過(guò)程中，工具化和技術(shù)化的算法決策往往由于內(nèi)嵌了人類(lèi)的價(jià)值觀(guān)念而與人們最初的期待背道而馳。

數(shù)字孿生作為一種集成式的技術(shù)應(yīng)用，本應(yīng)該遵循著“技術(shù)中立”的原則，卻因?yàn)榉N種原因而無(wú)法實(shí)現(xiàn)其自身的“中立屬性”?！凹夹g(shù)中立”這一概念主要包括功能中立、責(zé)任中立和價(jià)值中立三個(gè)方面。[16]我們圍繞數(shù)字孿生算法決策，針對(duì)其中的“價(jià)值中立”，進(jìn)一步探究數(shù)字孿生算法黑箱形成的原因。

數(shù)字孿生在對(duì)現(xiàn)實(shí)物理客體進(jìn)行模型構(gòu)建之時(shí)，首先需要的就是大規(guī)模原始數(shù)據(jù)的輸入，在對(duì)數(shù)據(jù)進(jìn)行處理的過(guò)程中，特征選擇與特征提取是必不可少的環(huán)節(jié)。而人們對(duì)這些規(guī)模龐大、紛繁復(fù)雜的數(shù)據(jù)進(jìn)行處理，勢(shì)必要按照“人為的”價(jià)值觀(guān)念和要求進(jìn)行篩選與判定。由此，數(shù)據(jù)在初始輸入環(huán)節(jié)就已經(jīng)內(nèi)嵌和負(fù)載了人為的價(jià)值選擇與價(jià)值判斷。從數(shù)字孿生技術(shù)的算法設(shè)計(jì)者角度而言，若出于商業(yè)利益考量，他們?cè)诤艽蟪潭壬蠒?huì)出于保護(hù)商業(yè)秘密而在特征提取之際選擇不公開(kāi)這部分?jǐn)?shù)據(jù)信息。由此一來(lái)，這在一定程度會(huì)由于人為因素而加深數(shù)字孿生算法黑箱的黑箱程度。

數(shù)字孿生在對(duì)虛擬模型進(jìn)行算法應(yīng)用的過(guò)程中，雖然從表面看來(lái)，人之決策確實(shí)讓位于算法決策，但從更深層次來(lái)看，這個(gè)過(guò)程中恰恰內(nèi)嵌了人類(lèi)主體的價(jià)值選擇。就數(shù)字孿生機(jī)器學(xué)習(xí)方式而言，無(wú)論是監(jiān)督學(xué)習(xí)，還是無(wú)監(jiān)督學(xué)習(xí)，乃至強(qiáng)化學(xué)習(xí)，在其背后都隱藏著要將模型訓(xùn)練成為符合人類(lèi)意志要求、作出滿(mǎn)足人類(lèi)需求決策的期許。而當(dāng)這些人為賦予的價(jià)值觀(guān)念一旦失去約束與掌控，其帶來(lái)的不僅是加劇數(shù)字孿生算法黑箱的黑箱程度，更會(huì)是不可想象的風(fēng)險(xiǎn)挑戰(zhàn)。

三、數(shù)字孿生算法黑箱的治理路徑

在以往人工智能的算法黑箱治理分析中，人們通常向往采取“打開(kāi)黑箱”的方法來(lái)解決這一問(wèn)題，但這一方法存在著很多難以克服和解決的實(shí)操性難題。因此，對(duì)于數(shù)字孿生算法黑箱問(wèn)題來(lái)說(shuō)，本文關(guān)注的重點(diǎn)不是要去如何“打開(kāi)黑箱”，而是將視線(xiàn)投放于人們依據(jù)數(shù)字孿生進(jìn)行決策時(shí)如何減少對(duì)不確定性風(fēng)險(xiǎn)的擔(dān)憂(yōu)以及如何增強(qiáng)對(duì)決策的信任度上。

(一)以算法解釋權(quán)的運(yùn)用應(yīng)對(duì)數(shù)字孿生機(jī)器學(xué)習(xí)算法的復(fù)雜性

在上述討論數(shù)字孿生算法黑箱的生成原因時(shí)，首先歸因于數(shù)字孿生機(jī)器學(xué)習(xí)算法的復(fù)雜性，這是由于數(shù)字孿生應(yīng)用算法技術(shù)本身造成的技術(shù)黑箱。我們分析了對(duì)于監(jiān)督式機(jī)器學(xué)習(xí)而言，無(wú)論是數(shù)據(jù)的輸入還是輸出，都尚且在人們可掌控的范圍之內(nèi)，此時(shí)的數(shù)字孿生算法黑箱被界定為“從輸入值映射到期望輸出值的函數(shù)處理過(guò)程”，其黑箱帶來(lái)的“不確定性風(fēng)險(xiǎn)”尚不足以構(gòu)成人們的擔(dān)憂(yōu)與恐懼；而到了無(wú)監(jiān)督式機(jī)器學(xué)習(xí)，由于算法輸入的是“不帶標(biāo)簽”的規(guī)模數(shù)據(jù)，且人們不明確算法的數(shù)據(jù)輸出，更不知曉算法運(yùn)作過(guò)程的具體機(jī)制，此時(shí)的數(shù)字孿生算法黑箱被界定為“從輸入端到輸出端的全流程閉環(huán)的未知地帶”，其黑箱帶來(lái)的“不確定性風(fēng)險(xiǎn)”足以讓人們對(duì)數(shù)字孿生算法決策產(chǎn)生隱憂(yōu)與畏懼。[17]

數(shù)字孿生算法能夠從數(shù)據(jù)本身出發(fā)，構(gòu)建虛擬孿生模型，通過(guò)深度學(xué)習(xí)與迭代優(yōu)化，自動(dòng)生成高級(jí)的認(rèn)知結(jié)果，從而作出能夠影響現(xiàn)實(shí)物理世界的決策。面對(duì)這種算法技術(shù)本身所造成的“不確定性風(fēng)險(xiǎn)”，就目前人類(lèi)的認(rèn)知水平與應(yīng)對(duì)能力而言，不得不承認(rèn)，人們無(wú)法打破黑箱去窺探其內(nèi)里，但我們不能任由算法肆意運(yùn)行。數(shù)字孿生算法作出的決策與人們的生產(chǎn)生活息息相關(guān)，甚至在某種程度上將起到?jīng)Q定性作用，人們自然會(huì)想要了解其是“如何作出決策的？”以及將“如何影響我們的生產(chǎn)生活？”這時(shí)，算法解釋權(quán)的運(yùn)用在一定程度上將有助于消解人們對(duì)數(shù)字孿生算法的疑團(tuán)，緩解數(shù)字孿生因機(jī)器學(xué)習(xí)算法的復(fù)雜性而帶來(lái)的黑箱問(wèn)題。

數(shù)字孿生技術(shù)下的算法解釋權(quán)指的是，當(dāng)算法依靠虛擬孿生數(shù)據(jù)作出的自動(dòng)決策應(yīng)用到客觀(guān)物理實(shí)體時(shí)，與該客觀(guān)物理實(shí)體相關(guān)的任一人類(lèi)主體都有權(quán)要求算法設(shè)計(jì)及實(shí)施者對(duì)這一過(guò)程作出“適當(dāng)?shù)慕忉尅?。我們?cè)谇懊嬉呀?jīng)論述過(guò)，人們目前其實(shí)無(wú)法真正破解算法黑箱難題，即使人們采用將算法決策過(guò)程中的所有數(shù)據(jù)源及代碼都公開(kāi)的方法，受影響的相關(guān)方由于個(gè)人認(rèn)知能力局限，也不能完全理解算法的運(yùn)算與決策過(guò)程。事實(shí)上，只有從“適當(dāng)?shù)慕忉尅边@一思路出發(fā)，才能夠提高人們對(duì)數(shù)字孿生算法決策的認(rèn)識(shí)與理解程度。算法解釋權(quán)所遵循的“適當(dāng)?shù)慕忉尅笔且砸环N能夠被受影響的相關(guān)方理解的方式，[18]解釋數(shù)字孿生算法決策到底是如何形成，以及對(duì)人們的生產(chǎn)生活又會(huì)造成哪些影響。其本質(zhì)意義上是在追求一種理性的結(jié)果，是在與自身利益進(jìn)行權(quán)衡之后，對(duì)算法決策的理解與接受，這在很大意義上能夠減少人們對(duì)數(shù)字孿生算法所作出的自動(dòng)決策帶來(lái)的不確定性風(fēng)險(xiǎn)的擔(dān)憂(yōu)。從某種程度而言，算法解釋權(quán)的運(yùn)用就已經(jīng)緩解了因機(jī)器學(xué)習(xí)的復(fù)雜性而造成的數(shù)字孿生算法黑箱問(wèn)題。

具體而言，數(shù)字孿生算法解釋權(quán)“適當(dāng)?shù)慕忉尅钡慕忉尫秶鷳?yīng)當(dāng)以虛擬孿生體與客觀(guān)物理實(shí)體之間的虛實(shí)融合為重點(diǎn)而展開(kāi)，人們期待知曉數(shù)字孿生算法從數(shù)據(jù)輸入到算法運(yùn)作及算法輸出過(guò)程環(huán)節(jié)的簡(jiǎn)單操作，期待了解數(shù)字孿生是如何通過(guò)虛擬孿生模型的構(gòu)建來(lái)影響人們的生產(chǎn)生活的。因此，這種“適當(dāng)?shù)慕忉尅睉?yīng)該涵蓋對(duì)整個(gè)算法過(guò)程的解釋?zhuān)约皩?duì)算法具體決策的解釋。[19]64-65當(dāng)受影響的相關(guān)方對(duì)于算法所作出的決策難以理解或者與自己預(yù)期不符，甚至出現(xiàn)嚴(yán)重?fù)p害自身利益的情況時(shí)，就需要數(shù)字孿生技術(shù)的算法設(shè)計(jì)與實(shí)施方能夠針對(duì)種種疑惑提供相應(yīng)的解釋?zhuān)@一方面有助于消解公眾對(duì)于算法作出的適當(dāng)決策的質(zhì)疑而不至于否定其正確性；另一方面也有利于對(duì)算法決策確實(shí)出現(xiàn)偏頗與失誤的情況下能夠采取及時(shí)的救濟(jì)。就數(shù)字孿生算法解釋權(quán)“適當(dāng)?shù)慕忉尅钡恼归_(kāi)形式而言，可以采用可視化、可交互的舉例解釋。[19]65尤其是對(duì)于涉及個(gè)人切身利益時(shí)，如當(dāng)數(shù)字孿生虛擬孿生人所作出的決策應(yīng)用到客觀(guān)生命體自身時(shí)，人們往往會(huì)更加謹(jǐn)慎也更傾向于得到更清晰準(zhǔn)確的解釋。此時(shí)就可以通過(guò)舉例解釋的方式，采用諸如圖形文字、動(dòng)畫(huà)演示等可視化的形式，具體生動(dòng)地將虛擬孿生體與客觀(guān)生命體進(jìn)行虛實(shí)融合的交互過(guò)程展現(xiàn)給受影響的相關(guān)方。這種具體的舉例解釋其實(shí)是幫助人們能夠以一種更加理性的方式對(duì)數(shù)字孿生算法作出的決策進(jìn)行利益權(quán)衡，有助于增加人們對(duì)算法決策的可信任度，緩解人們對(duì)數(shù)字孿生算法黑箱的擔(dān)憂(yōu)。

(二)以交流與協(xié)作的方式應(yīng)對(duì)數(shù)字孿生數(shù)據(jù)交互融合的動(dòng)態(tài)性

無(wú)論是現(xiàn)實(shí)中的客觀(guān)物理實(shí)體，還是系統(tǒng)內(nèi)的數(shù)字孿生虛體，乃至其中算法的設(shè)計(jì)與實(shí)施過(guò)程，都處于一個(gè)不斷變化與更新的狀態(tài)之中。物理實(shí)體和虛擬孿生體之間的虛實(shí)交互與融合是數(shù)字孿生技術(shù)的一大顯著特征，正是這種動(dòng)態(tài)性變化加重了算法運(yùn)算的復(fù)雜程度，進(jìn)而加劇了算法黑箱的黑箱程度。那么如何才能更好地緩解這種因虛實(shí)融合的動(dòng)態(tài)性變化而造成的算法黑箱呢？加強(qiáng)物理實(shí)體與數(shù)字孿生體之間的交流與協(xié)作不失為有效且可行的方法之一。

數(shù)字孿生作為一項(xiàng)技術(shù)手段，其想要達(dá)到的效果是將現(xiàn)實(shí)物理客體的特征與信息統(tǒng)統(tǒng)轉(zhuǎn)換成計(jì)算機(jī)可讀取的數(shù)據(jù)。當(dāng)數(shù)字孿生技術(shù)在未來(lái)實(shí)現(xiàn)全面落地應(yīng)用之時(shí)，人們對(duì)現(xiàn)實(shí)物理客體的研究通常不需要直接面向?qū)ο蟊旧?，而是在?shù)字孿生虛擬模型中進(jìn)行數(shù)據(jù)分析與推演運(yùn)算，依靠數(shù)字孿生算法得出準(zhǔn)確且可靠的結(jié)論。而如何保證該研究結(jié)論的可信性，則需要以現(xiàn)實(shí)世界中物理實(shí)體的變動(dòng)情況為衡量標(biāo)準(zhǔn)，即當(dāng)依據(jù)數(shù)字孿生算法作出的決策應(yīng)用到現(xiàn)實(shí)物理實(shí)體，能夠促使其向好的方向發(fā)展時(shí)，便說(shuō)明該算法決策是值得信任的。這種信任度的達(dá)成始終是圍繞著現(xiàn)實(shí)物理實(shí)體與虛擬孿生體之間的交流與協(xié)作展開(kāi)的。這可以從兩個(gè)方向維度來(lái)具體理解：一是從現(xiàn)實(shí)物理實(shí)體到虛擬孿生體數(shù)據(jù)輸入的過(guò)程(即圖1所示的算法輸入過(guò)程)；二是從虛擬孿生模型的算法決策輸出到應(yīng)用于現(xiàn)實(shí)物理實(shí)體的過(guò)程(即圖1所示的算法輸出過(guò)程)。

首先，從物理實(shí)體到虛擬孿生體這一方向維度來(lái)看，在現(xiàn)實(shí)物理世界中的數(shù)據(jù)和信息傳遞到虛擬孿生體的過(guò)程當(dāng)中，對(duì)于關(guān)涉人類(lèi)隱私與切身利益的數(shù)據(jù)特征提取，就需要現(xiàn)實(shí)客體與虛擬孿生體之間的交流與協(xié)作。通過(guò)充分的交流與溝通，找到一種能夠在維護(hù)人們隱私權(quán)的同時(shí)盡可能地提取到能夠依據(jù)其進(jìn)行算法決策的數(shù)據(jù)特征。與此同時(shí)，也需要提高人們的算法素養(yǎng)，此時(shí)的算法素養(yǎng)尤其是指人們?cè)诙啻笙薅葍?nèi)能夠允許涉及個(gè)人切身利益的算法數(shù)據(jù)的搜集，這個(gè)過(guò)程需要進(jìn)行不斷的交流溝通與利益博弈。

另一方面，從虛擬孿生模型的算法應(yīng)用這一方向維度來(lái)看，首先要明確數(shù)字孿生技術(shù)所作出的算法決策的最終目的是為現(xiàn)實(shí)世界中的主客體服務(wù)，是為滿(mǎn)足人類(lèi)的發(fā)展和社會(huì)的進(jìn)步。因此，數(shù)字孿生算法在形成決策過(guò)程中，一定要同現(xiàn)實(shí)世界中的實(shí)體進(jìn)行充分的交流與數(shù)據(jù)反饋。因?yàn)楝F(xiàn)實(shí)世界總是處于動(dòng)態(tài)變化過(guò)程之中，如果算法決策忽視了這一點(diǎn)，那么其作出的算法決策就會(huì)因?yàn)槭r(shí)效性而不能滿(mǎn)足人們的需求。與此同時(shí)，在數(shù)字孿生算法決策形成之后，其能否滿(mǎn)足現(xiàn)實(shí)客體需要，能否促進(jìn)人們生產(chǎn)生活的優(yōu)化提升，是對(duì)算法決策制定好壞進(jìn)行評(píng)判的標(biāo)準(zhǔn)。當(dāng)應(yīng)用效果顯著時(shí)，就形成了正向的積極反饋，將這種正向反饋繼續(xù)應(yīng)用到日后的算法決策當(dāng)中，那么數(shù)字孿生這種虛實(shí)融合的動(dòng)態(tài)性特征將會(huì)提升人們對(duì)算法的信任程度，從而減輕因其造成的算法復(fù)雜性而加深的算法黑箱的影響程度。

(三)以倫理與法律的規(guī)制應(yīng)對(duì)數(shù)字孿生技術(shù)內(nèi)嵌價(jià)值非中立性

數(shù)字孿生技術(shù)本身內(nèi)嵌了人類(lèi)與社會(huì)所期許的價(jià)值觀(guān)念，而一旦這些人為賦予的價(jià)值觀(guān)念出于商業(yè)利益的考量或是被個(gè)人私欲所利用，就會(huì)加劇算法黑箱程度，從而導(dǎo)致數(shù)字孿生算法作出的決策損害公眾利益，此時(shí)就需要人們采取一些行動(dòng)來(lái)減少此類(lèi)行為的發(fā)生。

數(shù)字孿生技術(shù)賦能的實(shí)現(xiàn)離不開(kāi)倫理底線(xiàn)的構(gòu)建。對(duì)數(shù)字孿生算法技術(shù)及算法黑箱的探究，恰恰就是在厘清技術(shù)發(fā)展的旨趣，構(gòu)筑技術(shù)與善的內(nèi)在一致性。[20]從宏觀(guān)角度來(lái)看，數(shù)字孿生歸根結(jié)底是一項(xiàng)能夠幫助人們更便捷認(rèn)識(shí)世界、更快捷作出決策的技術(shù)手段，這種技術(shù)手段的應(yīng)用不能突破社會(huì)倫理的底線(xiàn)。而在數(shù)字孿生技術(shù)的應(yīng)用實(shí)踐過(guò)程中，往往會(huì)出現(xiàn)出于商業(yè)利益考量而植入“非向善”的價(jià)值觀(guān)念的情況。這種情況的出現(xiàn)“并非簡(jiǎn)單的是技術(shù)不夠成熟的表現(xiàn)，究其本質(zhì)而言，是由技術(shù)工具論的倫理維度缺席所致”。[21]而對(duì)數(shù)字孿生算法技術(shù)及黑箱問(wèn)題的倫理反思和治理，也在推動(dòng)著數(shù)字孿生技術(shù)及服務(wù)的不斷優(yōu)化與迭代升級(jí)。

因此，針對(duì)數(shù)字孿生技術(shù)內(nèi)嵌的“非向善”的價(jià)值觀(guān)念，要發(fā)揮機(jī)器算法在效率上的長(zhǎng)處和人腦算法在結(jié)合價(jià)值計(jì)算后的審時(shí)度勢(shì)優(yōu)勢(shì)。值得注意的是，這里的“人腦算法在結(jié)合價(jià)值計(jì)算”，指的是符合人類(lèi)合理利益需求與社會(huì)發(fā)展趨勢(shì)的“底線(xiàn)價(jià)值”。這種技術(shù)價(jià)值尋求的是機(jī)器算法在事實(shí)上的求真與人腦算法在道德上的求善之間的最佳協(xié)調(diào)。[22]

對(duì)于數(shù)字孿生技術(shù)而言，在可以預(yù)見(jiàn)的未來(lái)，當(dāng)與人們息息相關(guān)的決策都依托數(shù)字孿生虛擬模型作出的時(shí)候，由于算法黑箱的客觀(guān)存在，導(dǎo)致人們對(duì)數(shù)字孿生算法決策已經(jīng)產(chǎn)生了很大程度上的擔(dān)憂(yōu)，我們更不能任由人類(lèi)因個(gè)體私欲而在數(shù)字孿生技術(shù)中內(nèi)嵌自己非向善的價(jià)值觀(guān)念。對(duì)于數(shù)字孿生算法技術(shù)的設(shè)計(jì)與實(shí)施者而言尤為重要，因?yàn)樗麄儾粌H承擔(dān)著要幫助人們作出高效而準(zhǔn)確決策的責(zé)任，更承擔(dān)著不加劇算法黑箱程度的責(zé)任。因此，對(duì)于數(shù)字孿生算法技術(shù)的從業(yè)人員以及相關(guān)利益方而言，守住道德倫理底線(xiàn)是數(shù)字孿生技術(shù)在未來(lái)落地應(yīng)用的題中應(yīng)有之義。

此外，還可以采取“算法標(biāo)準(zhǔn)化”等專(zhuān)項(xiàng)法律法規(guī)的形式，對(duì)數(shù)字孿生算法的日常運(yùn)作進(jìn)行合理監(jiān)督與檢查。我們可以類(lèi)比上市公司的審計(jì)制度與藥品食品的生產(chǎn)流程，無(wú)論是上市公司，還是藥品食品生產(chǎn)過(guò)程，其背后都隱藏著“黑箱”的含義。但通過(guò)第三方公允專(zhuān)業(yè)的審計(jì)以及藥品食品監(jiān)察機(jī)構(gòu)對(duì)標(biāo)準(zhǔn)流程的監(jiān)督的方法，在一定程度上是可以消解人們的質(zhì)疑，取得公眾信任的。因此，對(duì)于在全流程中始終伴隨著人類(lèi)價(jià)值觀(guān)念的數(shù)字孿生技術(shù)而言，也可以采取這種標(biāo)準(zhǔn)化的手段，對(duì)算法運(yùn)作從初始環(huán)節(jié)到形成決策的全流程建立算法標(biāo)準(zhǔn)，以及采用第三方監(jiān)督的形式。[23]這在一定程度上可以減少人們非向善的價(jià)值觀(guān)念的嵌入，緩解因人為因素而加劇的算法黑箱的黑箱程度。