數(shù)據(jù)合規(guī)科技的風(fēng)險(xiǎn)規(guī)制及法理構(gòu)建

內(nèi)容摘要：個(gè)人信息濫用屢禁不止，引發(fā)數(shù)據(jù)安全“立法熱”，但強(qiáng)監(jiān)管令可合法使用的有效數(shù)字資源尤為稀缺。數(shù)據(jù)要素化國(guó)策下，隱私計(jì)算技術(shù)、SaaS平臺(tái)等數(shù)據(jù)合規(guī)科技有望通過(guò)結(jié)果輸出、模型訓(xùn)練、代碼編寫(xiě)的“去中心化”實(shí)現(xiàn)非信任主體間數(shù)據(jù)價(jià)值的合規(guī)有序釋放，但也必然導(dǎo)致傳統(tǒng)人工智能風(fēng)險(xiǎn)的泛化和異化。由于數(shù)據(jù)處理模式被深度重構(gòu)，散見(jiàn)于各層級(jí)法律的信任維系、目標(biāo)糾偏、損害救濟(jì)、權(quán)利保障和隱名消除等機(jī)制均不同程度失靈。為平衡各方法益，可藉由宏觀政策、社群規(guī)范、技術(shù)構(gòu)架、各方博弈的有機(jī)聯(lián)動(dòng)，打造以變應(yīng)變的動(dòng)態(tài)規(guī)制體系。其基本原則是，努力消除復(fù)雜數(shù)據(jù)處理局面的風(fēng)險(xiǎn)“盲維”，兼顧數(shù)據(jù)價(jià)值挖掘的效用需求，確保數(shù)據(jù)合規(guī)科技安全合規(guī)。

關(guān)鍵詞：數(shù)據(jù)合規(guī)科技 隱私計(jì)算 低代碼 個(gè)人信息保護(hù) 安全合規(guī) 人工智能

中圖分類(lèi)號(hào)：DF0? 文獻(xiàn)標(biāo)識(shí)碼：A? 文章編號(hào)：1674-4039-（2022）01-0079-93

一、問(wèn)題的提出

數(shù)據(jù)乃新型生產(chǎn)要素，已為全球共識(shí)。助推傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)、打造新產(chǎn)業(yè)新業(yè)態(tài)新模式、壯大經(jīng)濟(jì)發(fā)展引擎，皆以充分發(fā)揮數(shù)據(jù)要素對(duì)其他要素的倍增作用為先決條件。根據(jù)《國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》，“統(tǒng)籌數(shù)據(jù)開(kāi)發(fā)利用”“強(qiáng)化算力智能調(diào)度”“推進(jìn)數(shù)據(jù)跨部門(mén)、跨層級(jí)、跨地區(qū)匯聚融合”，成為我國(guó)數(shù)字化轉(zhuǎn)型格局下數(shù)據(jù)驅(qū)動(dòng)生產(chǎn)、生活和治理方式變革的頂層設(shè)計(jì)。近幾年來(lái)，數(shù)據(jù)作為企業(yè)和公共部門(mén)重要資產(chǎn)被深度開(kāi)發(fā)利用，隨之而來(lái)的是大規(guī)模數(shù)據(jù)泄露事件頻頻發(fā)生，隱私保護(hù)相關(guān)法律接連頒布。國(guó)家層面一體推行的民法典、電子商務(wù)法、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等，回應(yīng)了數(shù)字產(chǎn)業(yè)發(fā)展和社會(huì)公共訴求，體現(xiàn)出全球共識(shí)和本土經(jīng)驗(yàn)的融合。在激發(fā)要素潛能和隱私保護(hù)的雙重驅(qū)動(dòng)下，數(shù)據(jù)合規(guī)科技的概念炙手可熱。

學(xué)界和實(shí)務(wù)界以數(shù)據(jù)合規(guī)科技的總稱(chēng)統(tǒng)攝一切在提供隱私保護(hù)前提下實(shí)現(xiàn)數(shù)據(jù)價(jià)值挖掘的應(yīng)用手段，包括但不限于以多方安全計(jì)算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境為代表的隱私計(jì)算技術(shù)以及以低代碼、零代碼為核心的“軟件即服務(wù)”（SaaS）平臺(tái)等?！? 〕各項(xiàng)主流技術(shù)的內(nèi)容和價(jià)值，如表1所示。

“新一代人工智能是靠數(shù)據(jù)和知識(shí)‘雙輪驅(qū)動(dòng)’的，數(shù)據(jù)越多才能越智能。” 〔2 〕作為人工智能時(shí)代具有泛在普適性的底層技術(shù)，數(shù)據(jù)合規(guī)科技在打通應(yīng)用通道、破除行業(yè)壁壘、化解信息孤島方面有得天獨(dú)厚的優(yōu)勢(shì)，必將成為強(qiáng)監(jiān)管趨勢(shì)下數(shù)據(jù)共享基礎(chǔ)設(shè)施的重要組成部分。例如，對(duì)于金融機(jī)構(gòu)內(nèi)部的黑灰名單不能明文共享的困境，多方安全計(jì)算能以名單“可用不可見(jiàn)”的方式輸出涉及個(gè)體的聯(lián)合計(jì)算結(jié)果，提高整個(gè)金融行業(yè)風(fēng)險(xiǎn)的聯(lián)防聯(lián)控能力。再如，鑒于醫(yī)療數(shù)據(jù)的敏感性，智慧醫(yī)療服務(wù)商很難同時(shí)掌握樣本足夠、特征完整、能夠全面反映患者癥狀的數(shù)據(jù);聯(lián)邦學(xué)習(xí)為此類(lèi)問(wèn)題提供了解決方案，無(wú)需交換各個(gè)機(jī)構(gòu)的私有數(shù)據(jù)，便能協(xié)同各方參與診療模型的訓(xùn)練。

雖有廣闊應(yīng)用前景，但數(shù)據(jù)合規(guī)科技同樣具備顛覆性重構(gòu)算法應(yīng)用流程的潛力，其風(fēng)險(xiǎn)也不可小覷。就如“自反性現(xiàn)代化”的經(jīng)典命題所揭示出的那般，用以消弭風(fēng)險(xiǎn)的技術(shù)手段有時(shí)“恰恰是風(fēng)險(xiǎn)生產(chǎn)的誘因”?！? 〕持續(xù)性、大規(guī)模、跨行業(yè)的敏感數(shù)據(jù)互通，與個(gè)人信息保護(hù)之間已然產(chǎn)生張力;去中心化的“離散”“非均衡”式創(chuàng)新，使得既有法律規(guī)則難以對(duì)其有效涵蓋。在資本逐利天性的誘導(dǎo)下，原本技術(shù)彰顯法律意義上的實(shí)質(zhì)合規(guī)極有可能合乎情理地演化為“將計(jì)就計(jì)的合規(guī)”“表里不一的合規(guī)”以及“以假亂真的合規(guī)”。由于披上了“合規(guī)”面紗，數(shù)據(jù)主體在數(shù)據(jù)合規(guī)科技的潛在風(fēng)險(xiǎn)面前可謂毫不設(shè)防。因此，如何用新方法、新手段回應(yīng)數(shù)據(jù)合規(guī)科技帶來(lái)的新問(wèn)題、新挑戰(zhàn)，無(wú)疑是當(dāng)前法學(xué)界必須思考的重要命題。

二、數(shù)據(jù)合規(guī)科技的風(fēng)險(xiǎn)辨識(shí)及規(guī)制需求

數(shù)據(jù)合規(guī)科技的理念源于歐美立法者廣泛推崇的“通過(guò)設(shè)計(jì)保護(hù)隱私”，即在設(shè)計(jì)之初就將數(shù)據(jù)安全的需求嵌于其中，成為技術(shù)運(yùn)作的缺省規(guī)則，而不是出現(xiàn)問(wèn)題之后，才將法律規(guī)則賦于其上。〔4 〕我國(guó)科技部“倫理先行、敏捷治理”的倡議 〔5 〕同“通過(guò)設(shè)計(jì)保護(hù)隱私”有異曲同工之妙，體現(xiàn)出積極預(yù)防而非被動(dòng)救濟(jì)、正和共贏而非零和博弈的全周期數(shù)字正義價(jià)值觀。遺憾的是，當(dāng)前數(shù)據(jù)合規(guī)科技的各項(xiàng)技術(shù)面臨通信開(kāi)銷(xiāo)大、性能效率低、傳輸復(fù)雜度高、與主流技術(shù)體系磨合不佳等瓶頸，技術(shù)應(yīng)用的前端、中端和后端均可能引致不同程度的系統(tǒng)性風(fēng)險(xiǎn)。厘清風(fēng)險(xiǎn)嵌入數(shù)據(jù)合規(guī)科技的技術(shù)途徑，是明確規(guī)制需求的基本前提。

（一）方案構(gòu)建維度的風(fēng)險(xiǎn)

方案構(gòu)建是數(shù)據(jù)合規(guī)科技應(yīng)用的起點(diǎn)，目的在于將抽象的數(shù)據(jù)處理需求，比照著監(jiān)管規(guī)則的技術(shù)約束轉(zhuǎn)化為程序和代碼可以處理的計(jì)算問(wèn)題。例如，歐盟通用數(shù)據(jù)保護(hù)條例（以下簡(jiǎn)稱(chēng)GDPR）對(duì)跟蹤廣告提出了更高的隱私保護(hù)需求，數(shù)據(jù)處理者想要在不降低廣告跟蹤性能的前提下安全、合法地調(diào)取用戶(hù)數(shù)據(jù)，就需通過(guò)安全多方計(jì)算的技術(shù)范式對(duì)原有的數(shù)據(jù)處理過(guò)程予以重構(gòu)。數(shù)據(jù)合規(guī)科技的方案由主導(dǎo)方提出，主導(dǎo)方以技術(shù)的受益權(quán)為對(duì)價(jià)換取多個(gè)參與方的數(shù)據(jù)集和算力投入，各方在意思表示一致后開(kāi)始合作。在數(shù)據(jù)合規(guī)科技場(chǎng)景中，解決特定問(wèn)題的數(shù)理過(guò)程依然經(jīng)由算法實(shí)現(xiàn)。弱人工智能階段，算法邏輯直接映射自然人邏輯，開(kāi)發(fā)者的價(jià)值觀負(fù)載和內(nèi)隱性偏見(jiàn)將導(dǎo)致自動(dòng)化決策系統(tǒng)失誤。數(shù)據(jù)合規(guī)科技為算法自動(dòng)化決策施加了諸多限制性條件，使得主導(dǎo)方在代碼編寫(xiě)和技術(shù)開(kāi)發(fā)過(guò)程中不得不心懷更多顧慮，轉(zhuǎn)譯過(guò)程的精確性更加無(wú)法保證。

具體而言，安全多方計(jì)算通常以降低數(shù)據(jù)清洗成本為起點(diǎn)，技術(shù)方有時(shí)會(huì)摒棄清洗成本較高的非結(jié)構(gòu)化數(shù)據(jù)，采用生成對(duì)抗網(wǎng)絡(luò)（GAN）產(chǎn)生的模擬數(shù)據(jù)。聯(lián)邦學(xué)習(xí)中參與“集訓(xùn)”的初始模型必須具備相當(dāng)程度的適應(yīng)性品格，才能在多個(gè)數(shù)據(jù)源間往返流轉(zhuǎn)，這種適應(yīng)性品格使得初始模型通常承載著多功能乃至多目的因而喪失本應(yīng)具備的專(zhuān)用性和專(zhuān)屬性?？尚艌?zhí)行環(huán)境的硬件封閉和低代碼平臺(tái)算法間的相互嵌套帶來(lái)了銜接和協(xié)作方面的問(wèn)題，讓轉(zhuǎn)譯過(guò)程中的偏差和耗散更為嚴(yán)重，畢竟，“中間步驟越多，就越不能終局地定義概念”?！? 〕數(shù)據(jù)合規(guī)科技雖向外拓展了自動(dòng)化決策的維度，但隨之而來(lái)的代價(jià)是，方案制定者的內(nèi)心成見(jiàn)將被技術(shù)顯化，代碼意涵與真實(shí)意涵相去甚遠(yuǎn)。規(guī)制的需求，因風(fēng)險(xiǎn)的存在而存在，如何降低轉(zhuǎn)譯偏差，加固技術(shù)性較高的監(jiān)管薄弱環(huán)節(jié)，提升底層代碼表意的準(zhǔn)確性，是數(shù)據(jù)合規(guī)科技規(guī)制需要考慮的第一層問(wèn)題。

（二）數(shù)據(jù)整合維度的風(fēng)險(xiǎn)

數(shù)據(jù)是風(fēng)險(xiǎn)嵌入數(shù)據(jù)合規(guī)科技的另一條重要途徑。數(shù)據(jù)匱乏將導(dǎo)致機(jī)器學(xué)習(xí)模型過(guò)擬合現(xiàn)象。借用權(quán)重衰減實(shí)現(xiàn)嶺回歸的正則化策略，雖能有效提高模型泛化性能、防止過(guò)擬合，但由于權(quán)重向量在梯度更新之前先行收縮，該舉措經(jīng)常會(huì)導(dǎo)致模型規(guī)則的修改。數(shù)據(jù)合規(guī)科技的重要價(jià)值之一，在于顯著拓寬了模型的數(shù)據(jù)來(lái)源渠道，但有時(shí)數(shù)據(jù)渠道本身也是風(fēng)險(xiǎn)的根源：首先，互聯(lián)網(wǎng)等外部渠道數(shù)據(jù)的來(lái)源合法性難以甄別;其次，共享模式下數(shù)據(jù)流轉(zhuǎn)更加復(fù)雜和難以控制，數(shù)據(jù)使用邊界無(wú)法限定;再次，各方數(shù)據(jù)問(wèn)題可能相互傳染，激發(fā)數(shù)據(jù)安全的連帶風(fēng)險(xiǎn)。機(jī)器學(xué)習(xí)模型遵循算法邏輯，從大數(shù)據(jù)的具體樣例中“溫故而知新”出足以指導(dǎo)實(shí)踐的普遍規(guī)則。多方安全計(jì)算利用更大的數(shù)據(jù)池形成規(guī)則集、聯(lián)邦學(xué)習(xí)借用大數(shù)據(jù)增量完成自我迭代、低代碼平臺(tái)使用舊數(shù)據(jù)訓(xùn)練的模型解決新問(wèn)題等過(guò)程，實(shí)質(zhì)上是提取數(shù)據(jù)增量中隱藏秩序、規(guī)則和傾向，并將其用于未來(lái)發(fā)展的感知與決策的過(guò)程，不會(huì)背離過(guò)往數(shù)據(jù)所體現(xiàn)出的關(guān)系特征?！? 〕

本來(lái)，大數(shù)據(jù)的“多渠道和合”有望修正數(shù)據(jù)采集的天然瑕疵。最理想的情況是，因樣本分布過(guò)于離散導(dǎo)致代表性不足的數(shù)據(jù)暗點(diǎn)、因樣本過(guò)于集中導(dǎo)致代表性過(guò)剩的數(shù)據(jù)亮斑、因遺漏誤錄導(dǎo)致樣本缺失的數(shù)據(jù)盲區(qū)，都能因?yàn)椴煌搭^數(shù)據(jù)集之間的取長(zhǎng)補(bǔ)短而完全消失，抹平單一數(shù)據(jù)集的結(jié)構(gòu)性差異。例如，通過(guò)聯(lián)邦學(xué)習(xí)技術(shù)，僅能較好識(shí)別標(biāo)準(zhǔn)普通話的語(yǔ)音識(shí)別軟件可能因方言數(shù)據(jù)集參與模型訓(xùn)練而減少識(shí)別錯(cuò)誤;傾向于對(duì)流動(dòng)人口作出高危警示的犯罪預(yù)測(cè)系統(tǒng)，或隨全國(guó)違法數(shù)據(jù)的加權(quán)平均，矯正對(duì)外地人的偏見(jiàn)。但是，數(shù)據(jù)合規(guī)科技經(jīng)常在相互滲透的行業(yè)間進(jìn)行，各技術(shù)數(shù)據(jù)源的選擇標(biāo)準(zhǔn)有時(shí)過(guò)于僵化，為合規(guī)而采取的安全保護(hù)手段也因成本限制而日漸趨同，數(shù)據(jù)合規(guī)科技的數(shù)據(jù)聚合過(guò)程可能反而會(huì)放大數(shù)據(jù)集的原本缺陷，導(dǎo)致暗點(diǎn)更暗、亮斑更亮、盲區(qū)更盲。簡(jiǎn)言之，數(shù)據(jù)合規(guī)科技雖然大幅增加了可供機(jī)器學(xué)習(xí)模型深度挖掘的大數(shù)據(jù)體量，但如果增加的大數(shù)據(jù)異質(zhì)化程度較低，數(shù)據(jù)量和模型性能之間仍然不呈線性關(guān)系，在過(guò)擬合問(wèn)題之外，還可能由于噪聲侵入進(jìn)一步降低系統(tǒng)效率。如何將數(shù)據(jù)資源的非均衡性考慮在內(nèi)，建立科學(xué)的數(shù)據(jù)篩選和容忍機(jī)制，是數(shù)據(jù)合規(guī)科技規(guī)制需要考慮的第二層問(wèn)題。

（三）技術(shù)適用維度的風(fēng)險(xiǎn)

數(shù)據(jù)合規(guī)科技固有的“白盒特性”，導(dǎo)致了技術(shù)適用維度的人機(jī)對(duì)抗風(fēng)險(xiǎn)。所謂“白盒特性”，是指數(shù)據(jù)合規(guī)科技中的各參與方都可以直接獲取完整的技術(shù)參數(shù)，惡意攻擊者同樣可以利用該特性偽裝成誠(chéng)實(shí)參與方竊取運(yùn)算結(jié)果、扭曲模型訓(xùn)練、破解可信環(huán)境或生成惡意低代碼。數(shù)據(jù)合規(guī)科技的安全研究，大多都建立在同一個(gè)假設(shè)之上，即除了主導(dǎo)方、中央服務(wù)器是中立可信的，其他所有終端和參與方均不能排除嘗試獲取用戶(hù)隱私和對(duì)抗系統(tǒng)的可能，即使他們嚴(yán)格按照協(xié)議方案執(zhí)行程序?！? 〕正因?yàn)槿绱?，一般依?jù)危害性從低到高將數(shù)據(jù)合規(guī)科技的參與方劃分為三種類(lèi)型：誠(chéng)實(shí)但好奇的、暗自覬覦的、純粹惡意的。此種劃分方式表明，隨著利益需求的不斷變化，各參與方的角色也可能發(fā)生改變。當(dāng)隱私泄露時(shí)，“沒(méi)有一片雪花是無(wú)辜的”。

數(shù)據(jù)合規(guī)科技長(zhǎng)期面臨單點(diǎn)故障和人為攻擊的安全隱患，其威脅主要來(lái)自三個(gè)方面。其一，刻意上傳破壞模型。出于安全考慮，中央服務(wù)器沒(méi)有訪問(wèn)各參與方本地?cái)?shù)據(jù)的權(quán)限，因此，即使是誠(chéng)實(shí)但好奇的參與方也可能因?yàn)樯蟼鞑徽_的數(shù)據(jù)或模型導(dǎo)致運(yùn)算結(jié)果誤差或全局模型損壞。在實(shí)踐中，不可信服務(wù)器的惡意投毒、樣本對(duì)抗和后門(mén)攻擊往往更加致命，也更為常見(jiàn)。其二，回推手段獲取信息。好事者無(wú)需采用任何非法手段，通過(guò)比較數(shù)次單獨(dú)運(yùn)算結(jié)果同多方計(jì)算結(jié)果的差異、分析本地模型更新與全局模型的迭代、窺視加密解密的雙向過(guò)程等，就足以從中獲取相當(dāng)豐富的推論信息?！? 〕其三，惡意服務(wù)器圍獵用戶(hù)隱私。純粹惡意的敵方可能直接對(duì)用戶(hù)數(shù)據(jù)集、訓(xùn)練模型參數(shù)、模型預(yù)測(cè)標(biāo)簽以及模型返回結(jié)果下手，通過(guò)對(duì)抗式網(wǎng)絡(luò)攻擊、成員推理攻擊、屬性物理攻擊和模型反演攻擊等方式獲取用戶(hù)隱私數(shù)據(jù)。

更嚴(yán)重的是，防御體系的升級(jí)速度，趕不上數(shù)據(jù)量的指數(shù)級(jí)增長(zhǎng)。〔10 〕即便有所防范，訓(xùn)練集中只要包含3%的中毒數(shù)據(jù)，模型誤差將從12%上升至23%?！?1 〕通過(guò)隱寫(xiě)術(shù)反匯編，惡意參與方可以將病毒和流氓軟件悄無(wú)聲息地傳輸至目標(biāo)設(shè)備中，攻擊成功的概率在九成以上。〔12 〕對(duì)于司空見(jiàn)慣的32位浮點(diǎn)數(shù)、權(quán)值較低的機(jī)器學(xué)習(xí)框架（例如PyTorch、TensorFlow等），惡意負(fù)載行為既不會(huì)顯著影響原始模型性能，也不會(huì)對(duì)神經(jīng)網(wǎng)絡(luò)的全局判斷造成影響，可以規(guī)避殺毒引擎的安全掃描?！?3 〕如何引導(dǎo)各參與方懷抱誠(chéng)實(shí)和善意，在“你中有我，我中有你”的交互中做到“人人為我，我為人人”，是數(shù)據(jù)合規(guī)科技規(guī)制需要考慮的第三層問(wèn)題。

（四）結(jié)果輸出維度的風(fēng)險(xiǎn)

“個(gè)人信息不僅關(guān)涉?zhèn)€人利益，而且關(guān)涉他人和整個(gè)社會(huì)利益，具有公共性和社會(huì)性?！?〔14 〕模型不精確、數(shù)據(jù)瑕疵放大、用戶(hù)隱私泄露等問(wèn)題，可能導(dǎo)致普遍存在的算法歧視從個(gè)體歧視上升至群體歧視。算法歧視主要源于數(shù)據(jù)集偏差或數(shù)據(jù)缺陷，在數(shù)據(jù)合規(guī)科技場(chǎng)景中，不同來(lái)源數(shù)據(jù)間的強(qiáng)搭和錯(cuò)配可能對(duì)聯(lián)合數(shù)據(jù)造成沖擊與擾亂，使歧視規(guī)模性放大。除了數(shù)據(jù)投毒等極端手段，誠(chéng)實(shí)但好奇參與方的數(shù)據(jù)輸入因數(shù)據(jù)梯度同其他參與方相差過(guò)大，也可能間接導(dǎo)致模型被污染，輸出歧視性結(jié)果。

單次歧視的即時(shí)危害雖不易被察覺(jué)，卻足以在更長(zhǎng)時(shí)間維度和更長(zhǎng)數(shù)據(jù)鏈條上產(chǎn)生積累式影響，聯(lián)邦學(xué)習(xí)全局模型的不斷輪回就將導(dǎo)致群體歧視泛濫。例如，一線城市的銀行對(duì)高凈值客戶(hù)的劃分標(biāo)準(zhǔn)顯著高于二、三線城市，若不加區(qū)分地將銀行數(shù)據(jù)整合并通過(guò)聯(lián)邦學(xué)習(xí)訓(xùn)練客戶(hù)畫(huà)像模型，加權(quán)得出的高凈值客戶(hù)劃分標(biāo)準(zhǔn)定然對(duì)二、三線城市客戶(hù)產(chǎn)生歧視。同理，當(dāng)不同學(xué)校的畢業(yè)生數(shù)據(jù)被用于訓(xùn)練招聘篩選系統(tǒng)、當(dāng)男性占絕對(duì)多數(shù)的IT行業(yè)數(shù)據(jù)和其他行業(yè)數(shù)據(jù)被共同用于訓(xùn)練升職評(píng)價(jià)系統(tǒng)時(shí)，同身份緊密捆綁的群體歧視將假模型共訓(xùn)之名，從數(shù)據(jù)向模型蔓延。如何對(duì)“因時(shí)間、空間等聯(lián)結(jié)形成的特定對(duì)象的個(gè)人信息加強(qiáng)精準(zhǔn)保護(hù)”， 〔15 〕減少歧視的發(fā)生，是數(shù)據(jù)合規(guī)科技規(guī)制需要考慮的第四層問(wèn)題。

（五）應(yīng)用市場(chǎng)維度的風(fēng)險(xiǎn)

機(jī)器學(xué)習(xí)模型映鑒社會(huì)運(yùn)營(yíng)的多元要素及其復(fù)雜互動(dòng)，透過(guò)算法將連貫重疊的個(gè)體生活分割成彼此獨(dú)立的靜態(tài)片段。在數(shù)據(jù)合規(guī)科技大規(guī)模部署前，面對(duì)相似或相異的受眾，不拘一格的智能應(yīng)用被限制在各自為政的領(lǐng)域，彼此之間沒(méi)有交流與協(xié)作，更多地是算法間的“朝上競(jìng)爭(zhēng)”——效率高、服務(wù)好、安全穩(wěn)定的智能應(yīng)用將獲得更高市場(chǎng)份額，興風(fēng)作浪、過(guò)度榨取用戶(hù)剩余的智能應(yīng)用將面臨被淘汰或整改的命運(yùn)。數(shù)據(jù)合規(guī)科技可能逐漸導(dǎo)致算法趨同，在技術(shù)黑箱的掩護(hù)之下，過(guò)去算法間的朝上競(jìng)爭(zhēng)極有可能向逐底競(jìng)爭(zhēng)轉(zhuǎn)變。對(duì)數(shù)據(jù)規(guī)整性要求不高、通信成本更低、算法可解釋性匱乏的智能應(yīng)用，或?qū)㈦S著數(shù)據(jù)合規(guī)科技的跑馬圈地，逆向淘汰相對(duì)保守的傳統(tǒng)智能應(yīng)用。如何避免智能應(yīng)用的“逆向淘汰”，是數(shù)據(jù)合規(guī)科技規(guī)制需要考慮的第五層問(wèn)題。

上述五個(gè)維度的風(fēng)險(xiǎn)并非技術(shù)變革的產(chǎn)物，而是前沿科技打破傳統(tǒng)算法應(yīng)用數(shù)據(jù)處理慣例的必然結(jié)果。易言之，雖然打著合規(guī)的旗號(hào)，數(shù)據(jù)合規(guī)科技所遵循的內(nèi)在機(jī)理耦合了風(fēng)險(xiǎn)產(chǎn)生的技術(shù)規(guī)律?！?6 〕應(yīng)對(duì)風(fēng)險(xiǎn)的本土化策略，是緊密結(jié)合我國(guó)實(shí)情，向前檢視當(dāng)前數(shù)據(jù)安全法律體系的制度余量，向后探索符合數(shù)據(jù)合規(guī)科技發(fā)展規(guī)律的規(guī)制路徑。

三、應(yīng)對(duì)風(fēng)險(xiǎn)的法律制度余量及規(guī)制局限

多維度的風(fēng)險(xiǎn)呼吁多層級(jí)的規(guī)制手段。數(shù)據(jù)合規(guī)科技的規(guī)則完善，已在世界范圍內(nèi)徐徐展開(kāi)，呈現(xiàn)出軟法硬法交織、兩者相互推動(dòng)的特點(diǎn)。梳理發(fā)現(xiàn)，雖然早已有“數(shù)據(jù)創(chuàng)新生態(tài)”“數(shù)據(jù)資源開(kāi)放”等提法，但數(shù)據(jù)合規(guī)科技成為世界各國(guó)競(jìng)相追逐的技術(shù)高地，始于歐盟法院在Scherems II案中判決歐盟—美國(guó)隱私保護(hù)盾無(wú)效， 〔17 〕兩大經(jīng)濟(jì)體數(shù)據(jù)互傳曾一度陷入癱瘓。為了緩解局勢(shì)，歐洲數(shù)據(jù)保護(hù)委員會(huì)將數(shù)據(jù)合規(guī)科技背書(shū)為跨國(guó)數(shù)據(jù)處理活動(dòng)的合規(guī)依據(jù)，英國(guó)數(shù)據(jù)倫理與創(chuàng)新中心推崇隱私計(jì)算為值得信賴(lài)的數(shù)據(jù)利用方式，針對(duì)數(shù)據(jù)合規(guī)科技的法案和標(biāo)準(zhǔn)不斷頒布，對(duì)核心技術(shù)的理解日益加深。不過(guò)，就規(guī)制而言，徒法不足以自行，各國(guó)立法尚停留在“政策促進(jìn)”“應(yīng)用指引”“技術(shù)標(biāo)準(zhǔn)”和“部門(mén)立法”層面，未能串聯(lián)成應(yīng)對(duì)數(shù)據(jù)合規(guī)科技的動(dòng)態(tài)規(guī)范。在“摸著石頭過(guò)河”初期，有必要深入檢視以分塊式立法樣態(tài)散見(jiàn)于不同層級(jí)法律中既有規(guī)范的局限性;只有先行廓清現(xiàn)有制度和工具的“能與不能”，再行探討如何將數(shù)據(jù)合規(guī)科技納入體系化動(dòng)態(tài)規(guī)范的法治軌道，才謂有的放矢。

（一）信任維系機(jī)制的局限

信任維系，是一切數(shù)據(jù)處理活動(dòng)得以持續(xù)進(jìn)行的基石。人工智能法律中最常見(jiàn)的信任維系機(jī)制，是算法可解釋性的合規(guī)要求，被視為“對(duì)抗數(shù)據(jù)個(gè)體的主體性、自治性淪陷和喪失的內(nèi)在之善”?！?8 〕數(shù)據(jù)合規(guī)科技的技術(shù)樣態(tài)，如數(shù)據(jù)鏈條的拉長(zhǎng)、機(jī)器模型的共建、硬件環(huán)境的閉合、代碼模塊的借調(diào)，必然將加劇算法可解釋性難題，使信任維系機(jī)制失效。

數(shù)據(jù)合規(guī)科技的各項(xiàng)技術(shù)構(gòu)成了一系列法益依附的黑箱，由于受商業(yè)秘密的保護(hù)，監(jiān)管者難以強(qiáng)制技術(shù)方公開(kāi)披露技術(shù)細(xì)節(jié)。例如，公共管理部門(mén)數(shù)據(jù)合規(guī)科技的使用關(guān)涉公共安全，將內(nèi)部細(xì)節(jié)置于公眾審視之下容易遭受輿論非難，且必然削弱系統(tǒng)抵御惡意攻擊的能力，這顯然是技術(shù)善治的不可承受之重。各項(xiàng)技術(shù)環(huán)環(huán)相扣的符碼規(guī)則進(jìn)一步加大了技術(shù)可解釋性的難度：分布式學(xué)習(xí)的模型構(gòu)建、抵抗惡意攻擊的加密方法以及半封閉的硬件環(huán)境均以減少不透明度作為其隱私保護(hù)屏障?！?9 〕事實(shí)上，在多方安全計(jì)算中，與其說(shuō)參與方對(duì)模型公允性篤定不移，毋寧說(shuō)是出于對(duì)人多勢(shì)眾的迷信;聯(lián)邦學(xué)習(xí)各參與方可能對(duì)本地?cái)?shù)據(jù)如何教化公共模型尚且難以做到了如指掌，遑論能夠準(zhǔn)確把握其他各方對(duì)公共模型的啟發(fā)和改進(jìn)。在使用SaaS平臺(tái)時(shí)，無(wú)代碼的創(chuàng)建者按照自己對(duì)模塊的理解去搭建能夠迅速上手的功能系統(tǒng)，之所以選擇無(wú)代碼正是因?yàn)槠涓静痪邆淅斫夂途幾g底層代碼的能力和知識(shí)儲(chǔ)備。由此可見(jiàn)，算法可解釋性的式微本就是數(shù)據(jù)合規(guī)科技保障數(shù)據(jù)安全的一種手段。因此，信任維系層面的法律制度有必要根據(jù)技術(shù)樣態(tài)予以重塑。

（二）目標(biāo)糾偏機(jī)制的局限

信任維系機(jī)制的局限也導(dǎo)致了目標(biāo)糾偏機(jī)制的局限。連接信任維系機(jī)制和目標(biāo)糾偏機(jī)制的法律范式是知情同意框架，數(shù)據(jù)主體因知情而同意或不同意，共同勾勒出數(shù)據(jù)處理目標(biāo)的能動(dòng)性邊界。數(shù)據(jù)主體的“同意”，是對(duì)個(gè)人數(shù)據(jù)權(quán)益的處分，這種處分不能脫離商品或服務(wù)合同的語(yǔ)境單獨(dú)存在。意思表示居于合同法律關(guān)系的核心，合同當(dāng)事人作出有效意思表示的前提，是對(duì)訂立合同時(shí)相關(guān)重要事項(xiàng)的知悉及表意自由。然而，在數(shù)據(jù)處理活動(dòng)中，用戶(hù)同意的知情前提常因各種原因被削弱。例如，用戶(hù)協(xié)議可能篇幅過(guò)長(zhǎng)，即便語(yǔ)言平實(shí)易懂，用戶(hù)也不可能潛心閱讀完畢。再如，用戶(hù)選擇同意與否的窗口期過(guò)于短暫，經(jīng)常在幾秒之內(nèi)就必須點(diǎn)擊同意以便進(jìn)入實(shí)質(zhì)性的主合同履行階段。由于相當(dāng)多的意外情況在日后的數(shù)據(jù)處理活動(dòng)中才可能發(fā)生，數(shù)據(jù)主體在對(duì)一系列關(guān)切自身重大利益的事項(xiàng)進(jìn)行“一攬子同意”時(shí)，通常無(wú)法準(zhǔn)確評(píng)估合同的每一條款可能使自身面臨的風(fēng)險(xiǎn)。此即約翰·密爾所稱(chēng)“長(zhǎng)期契約中自由意志的局限”“個(gè)人是自身利益的最佳決策者， 但該原則的例外情形是，在即期做出遠(yuǎn)期的利益判斷?！?〔20 〕就數(shù)據(jù)合規(guī)科技而論，數(shù)據(jù)主體可能無(wú)法想象，允許數(shù)據(jù)處理者與其他受托方或第三方共享用戶(hù)數(shù)據(jù)，將帶來(lái)巨大的數(shù)據(jù)保護(hù)空白;數(shù)據(jù)主體也無(wú)法預(yù)料，出于實(shí)現(xiàn)公共利益的善心，適當(dāng)允許處理者擴(kuò)大數(shù)據(jù)采集范圍，反而將助長(zhǎng)數(shù)據(jù)剩余權(quán)利濫用、隱私迫害等情況的滋生。

雖然表意不自由并不等同于合同法理論上的脅迫與欺詐，很多不透明也確實(shí)是因?yàn)閿?shù)據(jù)合規(guī)科技中加密技術(shù)使用過(guò)度所致，但某些情況暗含脅迫或欺詐意味，立法者不能等閑視之。例如，數(shù)據(jù)主體只能通過(guò)多方安全計(jì)算才能得到優(yōu)于原本算法決策的結(jié)果，技術(shù)方以“為客戶(hù)提供更精確的運(yùn)算結(jié)果”為名，推薦數(shù)據(jù)主體同意來(lái)自不同數(shù)據(jù)處理主體的多方處理請(qǐng)求;可信執(zhí)行環(huán)境和低代碼系統(tǒng)隨時(shí)間推移出現(xiàn)處理延遲，平臺(tái)方建議將企業(yè)數(shù)據(jù)從自家服務(wù)器向特定云端服務(wù)器遷移以獲得云計(jì)算模塊的加速。鑒于數(shù)據(jù)合規(guī)科技的技術(shù)復(fù)雜性，知情同意框架無(wú)法保障數(shù)據(jù)主體從一開(kāi)始就作出不含效力瑕疵的意思表示。

綜上所述，數(shù)據(jù)處理者可以就技術(shù)細(xì)節(jié)提供堪稱(chēng)翔實(shí)的用戶(hù)協(xié)議，數(shù)據(jù)主體也對(duì)此表示同意，但不能因此完全認(rèn)可此間法律關(guān)系的產(chǎn)生、變更或消滅的合理性，還應(yīng)“進(jìn)行價(jià)值層面的衡量并做出執(zhí)法和司法上的正確判斷”。〔21 〕數(shù)據(jù)主體既無(wú)力深究長(zhǎng)篇累牘用戶(hù)協(xié)議中可能存在的雷區(qū)，也無(wú)法從技術(shù)層面知曉自己的數(shù)據(jù)何時(shí)被調(diào)取或使用;意思表示真實(shí)性和有效性大打折扣，“同意”與“事實(shí)上知情”存在斷層，現(xiàn)行知情同意框架實(shí)難應(yīng)對(duì)數(shù)據(jù)合規(guī)科技帶來(lái)的復(fù)雜挑戰(zhàn)。

（三）損害救濟(jì)機(jī)制的局限

目標(biāo)糾偏機(jī)制的失守，使數(shù)據(jù)主體在實(shí)踐中更傾向于通過(guò)損害救濟(jì)機(jī)制向數(shù)據(jù)處理者主張責(zé)任。脫胎于傳統(tǒng)的侵權(quán)責(zé)任法，損害救濟(jì)機(jī)制通過(guò)設(shè)立較高的賠償數(shù)額，引導(dǎo)當(dāng)事人自行消化高交易成本。一方面，法律向受害人提供可以獲得同所受侵害相匹配賠償?shù)墓皆手Z，激勵(lì)受害人向法院積極主張不受侵害的權(quán)利;另一方面，實(shí)施不法行為的施害人將被克以明確的賠償責(zé)任，確保侵害行為的預(yù)期凈收益為負(fù)，進(jìn)而抑制其侵害沖動(dòng)。理論上，兩者的合理錨定保證了潛在收益和責(zé)任負(fù)擔(dān)之間的連接強(qiáng)度，將施害人自食其果的概率維持在合理區(qū)間。但是，從民法典的相關(guān)規(guī)定來(lái)看，自然人對(duì)其個(gè)人數(shù)據(jù)享有作為民事權(quán)益的人格權(quán)益， 〔22 〕而人格權(quán)益屬性具備一經(jīng)成立即附著于復(fù)雜社會(huì)關(guān)系的特殊性，“停止侵害”“返還財(cái)產(chǎn)”“賠償損失”“賠禮道歉”等責(zé)任承擔(dān)方式均無(wú)法在實(shí)質(zhì)上消除影響、恢復(fù)名譽(yù)。

侵權(quán)行為的成立，以“侵權(quán)行為對(duì)被侵害人造成損害”“侵權(quán)行為和造成損害之間有因果關(guān)系”為構(gòu)成要件。技術(shù)尚不成熟時(shí)，數(shù)據(jù)合規(guī)科技的利用是一種“射幸行為”，誰(shuí)也沒(méi)法保證，單個(gè)細(xì)分場(chǎng)景中算法給出的最優(yōu)解，經(jīng)過(guò)多方安全計(jì)算的跨場(chǎng)景加權(quán)后是否會(huì)變?yōu)榇蝺?yōu)甚至劣后的結(jié)果;在簡(jiǎn)單場(chǎng)景中披荊斬棘的低代碼模塊，由于同其他模塊的疊加有無(wú)可能造成系統(tǒng)整體效率的走低。在技術(shù)黑箱的層層掩護(hù)之下，原告方難以證明看似中立的技術(shù)應(yīng)用是導(dǎo)致自身權(quán)益受損的直接近因，鎖定數(shù)據(jù)合規(guī)科技侵權(quán)行為的法律責(zé)任可謂難上加難?！?3 〕受制于部分技術(shù)的不可解釋性，舉證責(zé)任倒置的引入同樣無(wú)濟(jì)于事?？梢韵胂?，反復(fù)歷經(jīng)個(gè)人信息保護(hù)立法和司法審判的規(guī)訓(xùn)，技術(shù)方早已學(xué)會(huì)巧妙地把自己的真實(shí)意圖進(jìn)行冠冕堂皇的包裝，將責(zé)任免除的說(shuō)辭嵌入數(shù)據(jù)合規(guī)科技的各個(gè)環(huán)節(jié)，在被告方輕而易舉“證明”損害不存在或自身對(duì)損害不負(fù)有責(zé)任后，原告方將繼續(xù)深陷舉證難的困境。損害救濟(jì)機(jī)制的局限，需要系統(tǒng)性地加以克服，政策制定者可先從新型法律關(guān)系的界定和承認(rèn)著手，再逐步豐富損害救濟(jì)機(jī)制的手段。

（四）權(quán)利保障機(jī)制的局限

在目標(biāo)糾偏和損害救濟(jì)機(jī)制之間，各國(guó)立法者從數(shù)據(jù)主體的“個(gè)人信息自決”入手，賦予了數(shù)據(jù)主體一系列權(quán)利救濟(jì)途徑。例如， GDPR第17條規(guī)定了“被遺忘權(quán)”“數(shù)據(jù)主體有權(quán)要求數(shù)據(jù)控制者擦除關(guān)于其個(gè)人數(shù)據(jù)的權(quán)利”。實(shí)現(xiàn)被遺忘權(quán)的方式是“清除同個(gè)人數(shù)據(jù)相關(guān)的鏈接、備份或復(fù)制”，此舉因?qū)嵺`成本極高且有悖信息自由而飽受詬病?！?4 〕美國(guó)加州消費(fèi)者隱私法案（以下簡(jiǎn)稱(chēng)CCPA）第3章規(guī)定了“刪除權(quán)”“如果服務(wù)提供商收到消費(fèi)者提出的刪除其個(gè)人數(shù)據(jù)的可驗(yàn)證請(qǐng)求，則應(yīng)從其系統(tǒng)中刪除消費(fèi)者個(gè)人數(shù)據(jù)，并指示任何‘從服務(wù)提供商’從其系統(tǒng)中相應(yīng)刪除消費(fèi)者個(gè)人數(shù)據(jù)”，較之于被遺忘權(quán)更具可操作性?！?5 〕我國(guó)信息安全技術(shù)個(gè)人信息安全規(guī)范（以下簡(jiǎn)稱(chēng)安全規(guī)范）第8條第3款和個(gè)人信息保護(hù)法第47條借鑒了CCPA刪除權(quán)的思路，但通過(guò)適當(dāng)降低刪除權(quán)實(shí)質(zhì)內(nèi)涵的方式進(jìn)一步降低了技術(shù)方的合規(guī)成本：只要個(gè)人數(shù)據(jù)在日常業(yè)務(wù)功能所涉及的系統(tǒng)中不能被“檢索或訪問(wèn)”，即滿(mǎn)足安全規(guī)范第3條第10款對(duì)“刪除”的定義。

數(shù)據(jù)合規(guī)科技本為橋接不同源頭的數(shù)據(jù)而生，此時(shí)，為降低企業(yè)合規(guī)成本而允許技術(shù)方采取“名義刪除”的做法不再有效，解決方案是重回GDPR被遺忘權(quán)所體現(xiàn)出的“實(shí)質(zhì)刪除”進(jìn)路，要求企業(yè)真正實(shí)現(xiàn)不可逆轉(zhuǎn)的刪除。此外，被遺忘權(quán)、刪除權(quán)還面臨“技術(shù)不能”的考驗(yàn)。例如，具有不可篡改特性的區(qū)塊鏈技術(shù)在數(shù)據(jù)合規(guī)科技中的穿插應(yīng)用，令不可逆轉(zhuǎn)的刪除難以實(shí)現(xiàn);在數(shù)據(jù)集中添加噪聲以降低敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)的常見(jiàn)做法，也將加大“實(shí)質(zhì)刪除”的難度和數(shù)據(jù)量;聯(lián)邦學(xué)習(xí)全局無(wú)損的模型構(gòu)建，極大地限制了特定區(qū)塊的刪除，任何區(qū)塊的缺失意味著秘鑰的斷層以及后續(xù)區(qū)塊無(wú)法進(jìn)行哈希鏈接?！?6 〕總之，數(shù)據(jù)合規(guī)科技中的數(shù)據(jù)主體需要不同于被遺忘權(quán)或刪除權(quán)的信息自決手段，才能克服既有權(quán)利保障機(jī)制的局限。

（五）隱名消除機(jī)制的局限

在多重機(jī)制紛紛失效的情況下，隱名消除機(jī)制構(gòu)成了數(shù)據(jù)主體的最后一道防線，數(shù)據(jù)處理者有責(zé)任采取技術(shù)手段保證任何人或組織無(wú)法以倒推的方式，知曉信息主體的真實(shí)身份。安全規(guī)范規(guī)定了去標(biāo)識(shí)化和匿名化兩種隱名手段。就保護(hù)層級(jí)而言，去標(biāo)識(shí)化的保護(hù)效力低于匿名化：去標(biāo)識(shí)化通過(guò)降低數(shù)據(jù)區(qū)分度減少數(shù)據(jù)同數(shù)據(jù)主體之間的關(guān)聯(lián)性，使得數(shù)據(jù)難以對(duì)應(yīng)到個(gè)人，但保留了個(gè)體顆粒度、哈希函數(shù)等技術(shù)手段替代原有信息的標(biāo)識(shí);匿名化雖然同去標(biāo)識(shí)化的技術(shù)手段多有重合，但其終極目的是將個(gè)人數(shù)據(jù)完全同數(shù)據(jù)主體的身份相剝離。

問(wèn)題在于，隨著數(shù)據(jù)如滾雪球般積累，完全匿名化的狀態(tài)將不可能保持?！?7 〕“數(shù)據(jù)最小化、匿名化等原則，在大數(shù)據(jù)反向識(shí)別和預(yù)測(cè)性挖掘等技術(shù)下失去了應(yīng)有的保護(hù)作用。” 〔28 〕單獨(dú)看來(lái)沒(méi)有任何痕跡殘余的匿名化數(shù)據(jù)，極有可能因?yàn)閿?shù)據(jù)聚合而露出蛛絲馬跡。誠(chéng)然，數(shù)據(jù)合規(guī)科技的加密手段能有效劃分權(quán)限，在很大程度上阻絕了多方大數(shù)據(jù)“實(shí)質(zhì)合并”的可能，但機(jī)器學(xué)習(xí)模型在各參與方之間的多次往返流轉(zhuǎn)也極有可能粘附足以識(shí)別“去標(biāo)識(shí)化”數(shù)據(jù)的線索。極端情況下，掌握了足夠多的單向反饋和模型變動(dòng)，完全碎片化的匿名數(shù)據(jù)也有可能被復(fù)原。“個(gè)人信息具有的可識(shí)別性通常并非全有或全無(wú)，而是呈現(xiàn)出不同程度的識(shí)別能力，經(jīng)過(guò)匿名化處理的信息仍可能殘存一定的‘可識(shí)別性’?！?〔29 〕考慮到數(shù)據(jù)合規(guī)科技帶來(lái)的數(shù)據(jù)交流的爆炸式增長(zhǎng)，任何匿名化處理手段都將難以有效消弭匿名數(shù)據(jù)的剩余風(fēng)險(xiǎn)。

上述各項(xiàng)法律機(jī)制的局限，實(shí)際上是規(guī)制思維的局限。其一，政府主導(dǎo)的規(guī)則制定模式，極易因?yàn)槔骊P(guān)聯(lián)和認(rèn)知局限等，排斥技術(shù)場(chǎng)景中的個(gè)性化訴求。其二，過(guò)度聚焦于應(yīng)用前端和中端的規(guī)則設(shè)計(jì)，難以有條不紊地化解數(shù)據(jù)合規(guī)科技帶來(lái)的各項(xiàng)沖擊。在探尋規(guī)制的新方法、新范式之前，我們必須承認(rèn)一個(gè)根本性前提：數(shù)據(jù)合規(guī)科技同傳統(tǒng)人工智能技術(shù)的風(fēng)險(xiǎn)在起因、特征、危害等方面已有顯著不同，不可簡(jiǎn)單地將傳統(tǒng)規(guī)制思維相沿成俗。由于存在不同維度的風(fēng)險(xiǎn)，數(shù)據(jù)合規(guī)科技的法律規(guī)制需要透過(guò)一種聯(lián)結(jié)化的努力，在整合當(dāng)前機(jī)制的基礎(chǔ)上，突破前述局限性，形成穩(wěn)定性與靈活性統(tǒng)一的制度框架。

四、規(guī)制數(shù)據(jù)合規(guī)科技的系統(tǒng)性思考

自既有的制度余量觀之，數(shù)據(jù)合規(guī)科技的規(guī)制機(jī)制并不貧乏，但囿于種種局限性的存在，當(dāng)前內(nèi)涵繁雜、維度齊備但功能相對(duì)簡(jiǎn)單、規(guī)則過(guò)于剛性的機(jī)制統(tǒng)合，很難對(duì)數(shù)據(jù)合規(guī)科技不同維度的風(fēng)險(xiǎn)給予有效回應(yīng)，甚至?xí)?duì)個(gè)別數(shù)據(jù)主體的獨(dú)特性利益造成壓制，無(wú)法擔(dān)當(dāng)治理數(shù)據(jù)合規(guī)科技的重任。信任維系、目標(biāo)糾偏、損害救濟(jì)、權(quán)利保障和隱名消除等機(jī)制的突破，最終需要一個(gè)系統(tǒng)性的規(guī)制體系加以承載。

（一）數(shù)據(jù)合規(guī)科技的規(guī)制原理

傳統(tǒng)法律規(guī)制的各項(xiàng)局限并非互不相關(guān)，它們共同揭示了這樣的原理：數(shù)據(jù)合規(guī)科技的“去中心化”特征，正逐步瓦解企業(yè)、部門(mén)和平臺(tái)的邊界，基于邊界概念的安全防護(hù)體系將不復(fù)適用。說(shuō)到底，數(shù)據(jù)環(huán)境越復(fù)雜，技術(shù)方就越有可能以合法形式繞開(kāi)預(yù)設(shè)約束，迂回實(shí)現(xiàn)自身利益的最大化進(jìn)而損害社會(huì)公共利益。

新興技術(shù)通過(guò)顛覆“傳統(tǒng)工商業(yè)態(tài)和經(jīng)營(yíng)模式”促進(jìn)勞動(dòng)生產(chǎn)率的提升， 〔30 〕法律若未能及時(shí)跟進(jìn)、推陳出新，將產(chǎn)生監(jiān)管套利的灰色空間。數(shù)據(jù)合規(guī)科技的大趨勢(shì)下，普通人如何拒絕不合理的隱私計(jì)算請(qǐng)求、個(gè)人生命和財(cái)產(chǎn)在數(shù)據(jù)合規(guī)科技出錯(cuò)失誤時(shí)如何獲得及時(shí)保護(hù)、數(shù)據(jù)主體如何理解各項(xiàng)技術(shù)原理從而有機(jī)會(huì)對(duì)其權(quán)益保護(hù)作出適當(dāng)?shù)陌才诺?，都需要通過(guò)法律規(guī)則的演進(jìn)賦予其采取合法行動(dòng)的有效手段或足以抗衡技術(shù)濫用的法律地位。數(shù)據(jù)合規(guī)科技的健康發(fā)展和合理利用離不開(kāi)法律和技術(shù)的良性互動(dòng)，因兼顧隱私保護(hù)和激發(fā)數(shù)據(jù)潛能的雙重追求，良性互動(dòng)的基本回路應(yīng)當(dāng)脫離自上而下的強(qiáng)監(jiān)管邏輯，審慎探尋將技術(shù)規(guī)范循序嵌入法律政策的合理路徑，確?！胺ǘx務(wù)的履行和技術(shù)標(biāo)準(zhǔn)的遵守有機(jī)整合”?！?1 〕順應(yīng)數(shù)據(jù)合規(guī)科技的應(yīng)用發(fā)展趨勢(shì)，數(shù)據(jù)合規(guī)科技的規(guī)制應(yīng)正確對(duì)待傳統(tǒng)法律規(guī)制的短板，發(fā)展出平衡各參與方利益、促進(jìn)技術(shù)增益數(shù)據(jù)價(jià)值、保護(hù)數(shù)據(jù)主體綜合權(quán)益的規(guī)制體系。

（二）既有機(jī)制的補(bǔ)強(qiáng)和完善

面對(duì)數(shù)據(jù)合規(guī)科技風(fēng)險(xiǎn)，已有的各項(xiàng)規(guī)制手段仍然有延伸適用的空間，但應(yīng)結(jié)合已知局限進(jìn)行定向的修補(bǔ)和完善。

1.動(dòng)態(tài)知情同意框架

雖然知情同意框架有著諸多缺陷，但至今仍然廣泛被各國(guó)立法者前置為信息處理全周期的第一閘口，主要是因?yàn)闃?biāo)準(zhǔn)化的模式對(duì)于各方而言均為最有效減少交易成本的解決方案?！?2 〕可以預(yù)計(jì)，在數(shù)據(jù)合規(guī)科技作為算法應(yīng)用基礎(chǔ)設(shè)施的全新業(yè)態(tài)中，知情同意框架仍將發(fā)揮巨大的作用，但亟需根據(jù)全新的業(yè)務(wù)特征加以調(diào)整。

數(shù)據(jù)合規(guī)科技聯(lián)結(jié)了多方節(jié)點(diǎn)數(shù)據(jù)和算力資源，通過(guò)提升機(jī)器學(xué)習(xí)模型的泛化能力完成從個(gè)體智能到群體智能的數(shù)據(jù)處理生態(tài)轉(zhuǎn)變。不同于業(yè)務(wù)模式較為固定的傳統(tǒng)算法決策，橫跨數(shù)據(jù)合規(guī)科技全周期的知情同意框架，對(duì)應(yīng)的不再是“搜集—處理—決策”的簡(jiǎn)單合同，而是貫穿下游數(shù)據(jù)、中游技術(shù)到上游應(yīng)用的一系列合同集束，此間任何一個(gè)環(huán)節(jié)的細(xì)微改變，都會(huì)產(chǎn)生合同的鏈?zhǔn)椒磻?yīng)?！靶畔?yīng)用場(chǎng)景的動(dòng)態(tài)化是大數(shù)據(jù)背景下信息技術(shù)的生命力之所在?！?〔33 〕數(shù)據(jù)合規(guī)科技的適用場(chǎng)景呈現(xiàn)高度動(dòng)態(tài)化特征，數(shù)據(jù)處理者必須結(jié)合節(jié)點(diǎn)狀態(tài)、合約策略、加密方式、環(huán)境閉合等情況臨機(jī)應(yīng)變，清晰、穩(wěn)定、透明的數(shù)據(jù)處理方式不再具有可期待性。這種動(dòng)態(tài)化的業(yè)務(wù)特征決定了知情同意框架也必須相應(yīng)處于動(dòng)態(tài)變化之中，數(shù)據(jù)主體只有做到與時(shí)俱進(jìn)的“知曉”，才能作出真正符合其意思表示的“同意”，否則無(wú)異于緣木求魚(yú)。因此，即使是去標(biāo)識(shí)化、匿名化的個(gè)人數(shù)據(jù)參與多方安全計(jì)算、聯(lián)邦學(xué)習(xí)等，數(shù)據(jù)處理主體也應(yīng)當(dāng)“逐次、分別、主動(dòng)”請(qǐng)求用戶(hù)授權(quán)。

2.嚴(yán)格的轉(zhuǎn)委托原則

個(gè)人信息保護(hù)法第21條允許處理者在獲得數(shù)據(jù)主體同意時(shí)將個(gè)人數(shù)據(jù)委托受托方進(jìn)行處理，委托方和受托方須就數(shù)據(jù)處理的目的、方式、種類(lèi)和保護(hù)措施達(dá)成合意，在委托關(guān)系解除后，受托方須返還或刪除個(gè)人數(shù)據(jù)。在數(shù)據(jù)合規(guī)科技可能存在的多重合同關(guān)系中，受托方及第三方通常處于“從數(shù)據(jù)處理者”的地位，主數(shù)據(jù)處理者同意從數(shù)據(jù)處理者的共同處理行為，在性質(zhì)上只是對(duì)原授權(quán)許可范圍的變更，并未因此產(chǎn)生新的獨(dú)立授權(quán)，主處理者和從處理者之間的權(quán)利義務(wù)確立應(yīng)當(dāng)符合以下原則。

其一，安全評(píng)估原則。例如，安全規(guī)范第9條規(guī)定了數(shù)據(jù)處理主體委托第三方時(shí)的安全評(píng)估義務(wù)，主處理者應(yīng)當(dāng)確保從處理者“根據(jù)有關(guān)國(guó)家標(biāo)準(zhǔn)的要求，建立適當(dāng)?shù)臄?shù)據(jù)安全能力，落實(shí)必要的管理和技術(shù)措施”。其二，中心控制原則。主處理者對(duì)從處理者應(yīng)當(dāng)有合理手段和措施遏制從處理者的機(jī)會(huì)主義行為，例如，撤銷(xiāo)其委托，以確保從處理者的好奇心在可控范圍內(nèi)，且任何時(shí)候不帶惡意。其三，權(quán)限遞減原則。所有從處理者的權(quán)限不得大于主數(shù)據(jù)處理者，包括但不限于處理數(shù)據(jù)的類(lèi)型、數(shù)量、目的和授權(quán)期限等，主處理者對(duì)從處理者的授權(quán)應(yīng)以擬實(shí)現(xiàn)的正當(dāng)目的為限。其四，逐次授權(quán)原則。即便從處理者的權(quán)限范圍小于主處理者，主處理者也必須就新從處理者的引入、擬授權(quán)處理權(quán)限的變化等額外獲取數(shù)據(jù)主體的同意。其五，上下游聯(lián)動(dòng)原則。數(shù)據(jù)主體變更、限制、撤回對(duì)主處理者的授權(quán)時(shí)，從處理者也應(yīng)當(dāng)相應(yīng)調(diào)整、減少、停止數(shù)據(jù)處理行為，主處理者應(yīng)當(dāng)確保下游處理者的行為與之聯(lián)動(dòng)，無(wú)需數(shù)據(jù)主體一一知會(huì)從處理者。其六，責(zé)任共擔(dān)原則。對(duì)于任何超出自身權(quán)限的數(shù)據(jù)處理行為，主從處理者承擔(dān)連帶責(zé)任。

3.正當(dāng)程序的權(quán)利保障

無(wú)論技術(shù)如何發(fā)展，自然人享有的正當(dāng)程序權(quán)利，不因規(guī)則體系的數(shù)字化重建而改變。〔34 〕遵循行政法的自然正義觀，英美立法者正探討“陳情權(quán)”的可行性，為遭受不公正自動(dòng)化決策的數(shù)據(jù)主體提供獲得公平聆訊和請(qǐng)求行政復(fù)議的機(jī)會(huì)。另一個(gè)同數(shù)據(jù)合規(guī)科技息息相關(guān)的權(quán)利范式是“離線權(quán)”，該權(quán)利允許數(shù)據(jù)主體將個(gè)人數(shù)據(jù)從數(shù)據(jù)合規(guī)科技的實(shí)踐中撤離出來(lái)，并自由決定其個(gè)人數(shù)據(jù)在不同數(shù)據(jù)處理者之間的流轉(zhuǎn)， 〔35 〕與歐美數(shù)據(jù)保護(hù)法中的“數(shù)據(jù)可攜帶權(quán)”以及我國(guó)個(gè)人信息保護(hù)法中的“個(gè)人信息轉(zhuǎn)移權(quán)”有異曲同工之妙。在不同的技術(shù)場(chǎng)景中，離線權(quán)的表現(xiàn)形式亦有所不同。例如，在多方安全計(jì)算中，數(shù)據(jù)主體行使離線權(quán)即意味著撤銷(xiāo)參與未來(lái)多方安全計(jì)算的同意，數(shù)據(jù)處理主體須接續(xù)本地自動(dòng)化決策方案，以保持服務(wù)提供的連續(xù)性。在聯(lián)邦學(xué)習(xí)中，離線權(quán)表現(xiàn)為用戶(hù)可以隨時(shí)行使的“掉線權(quán)”。作為解決多組織協(xié)同訓(xùn)練問(wèn)題的有效手段，現(xiàn)有聯(lián)邦學(xué)習(xí)技術(shù)通常限制用戶(hù)掉線。研究表明，通過(guò)在本地模型參數(shù)上添加差分隱私擾動(dòng)、在聚合參數(shù)上添加用戶(hù)噪聲等方式，用戶(hù)掉線將不再對(duì)模型訓(xùn)練構(gòu)成威脅， 〔36 〕掉線權(quán)的普及具備了技術(shù)層面的可行性，異構(gòu)系統(tǒng)間的聯(lián)邦學(xué)習(xí)也成為可能。掉線權(quán)的法益體現(xiàn)在，雖然掉線權(quán)的制度引入給技術(shù)方帶來(lái)了更高的合規(guī)成本，但有助于吸引更多離散客戶(hù)端參與聯(lián)邦學(xué)習(xí)，從而提升系統(tǒng)的準(zhǔn)確性和魯棒性。〔37 〕

（三）多元機(jī)制的構(gòu)建和分工

1.口徑統(tǒng)一的宏觀行業(yè)標(biāo)準(zhǔn)

數(shù)字化轉(zhuǎn)型階段，金融、保險(xiǎn)、醫(yī)療、銷(xiāo)售、教育等行業(yè)都向數(shù)據(jù)處理行業(yè)過(guò)渡。2021年6月28日，中國(guó)支付清算協(xié)會(huì)發(fā)布《多方安全計(jì)算金融應(yīng)用評(píng)估規(guī)范》，這是我國(guó)第一個(gè)有關(guān)隱私計(jì)算的金融規(guī)范，足見(jiàn)金融行業(yè)對(duì)數(shù)據(jù)合規(guī)科技的重視。數(shù)據(jù)標(biāo)準(zhǔn)統(tǒng)一、技術(shù)規(guī)范明晰，是上下游規(guī)則聯(lián)動(dòng)的基礎(chǔ)。數(shù)據(jù)合規(guī)科技流派眾多，數(shù)據(jù)采集和處理方式差別迥異。金融行業(yè)之外，其他行業(yè)主管部門(mén)也應(yīng)當(dāng)聯(lián)合牽頭制定跨行業(yè)共同遵守適用的“數(shù)據(jù)辭典”，打造數(shù)據(jù)交換的“通用語(yǔ)言”，做到數(shù)據(jù)編碼、制式、口徑、格式方面標(biāo)準(zhǔn)的統(tǒng)一，保證數(shù)據(jù)來(lái)源、內(nèi)涵、處理邏輯可被“反事實(shí)校驗(yàn)”。建立跨行業(yè)的統(tǒng)一標(biāo)準(zhǔn)，還將有利于構(gòu)建新興技術(shù)適用的漏洞知識(shí)庫(kù)：行業(yè)主管部門(mén)應(yīng)將零散的概念、實(shí)例和規(guī)則整合成體系化的檢索庫(kù)，在地址、端口、服務(wù)、屬性、協(xié)議五元組層面實(shí)現(xiàn)數(shù)據(jù)合規(guī)科技的知識(shí)圖譜化。

政府部門(mén)處于數(shù)據(jù)和關(guān)鍵信息基礎(chǔ)設(shè)施的要沖，是最龐大、最完整的數(shù)據(jù)擁有者。政府部門(mén)向各行各業(yè)定向、合理、有序開(kāi)放“國(guó)家教育資源公共服務(wù)平臺(tái)”“國(guó)家科技管理信息系統(tǒng)公共服務(wù)平臺(tái)”“國(guó)家社會(huì)保險(xiǎn)公共服務(wù)平臺(tái)”“全國(guó)企業(yè)信用信息公示系統(tǒng)”等數(shù)據(jù)庫(kù)，有助于賦能各個(gè)產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型?！?8 〕目前，國(guó)家級(jí)和區(qū)域級(jí)的大數(shù)據(jù)交易所已在我國(guó)漸次成型。2021年3月31日，北京國(guó)際大數(shù)據(jù)交易所成立，系我國(guó)首家基于“數(shù)據(jù)可用不可見(jiàn)，用途可控可計(jì)量”新型交易范式的數(shù)據(jù)交易所。〔39 〕2021年11月25日，上海數(shù)據(jù)交易所成立，以“推動(dòng)數(shù)據(jù)要素流通、釋放數(shù)字紅利、促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展”為導(dǎo)向，積極突破“確權(quán)難、定價(jià)難、互信難、入場(chǎng)難、監(jiān)管難”等阻礙數(shù)據(jù)交易規(guī)?；暮诵膯?wèn)題?！?0 〕統(tǒng)一行業(yè)標(biāo)準(zhǔn)之后，可以交易所為依托，選擇政府?dāng)?shù)據(jù)作為數(shù)據(jù)合規(guī)科技試點(diǎn)，在金融普惠、智慧醫(yī)療、教育監(jiān)管等領(lǐng)域率先打造技術(shù)沙盒，之后再以點(diǎn)帶面逐步向全國(guó)、全行業(yè)示范推廣，分步完善數(shù)據(jù)流轉(zhuǎn)的確權(quán)模式，循序漸進(jìn)推動(dòng)數(shù)據(jù)合規(guī)科技的應(yīng)用落地。

2.技術(shù)甄別的中觀審查體系

低代碼的板塊拼接以及隱私計(jì)算中同態(tài)加密、差分隱私等手段的使用，打破了數(shù)據(jù)輸入和結(jié)果輸出間的線性關(guān)聯(lián)，算法可解釋性要求被數(shù)據(jù)合規(guī)科技架空。誠(chéng)然，閉門(mén)、隨機(jī)、混淆、變化的數(shù)據(jù)利用模式加大了敵手攻擊的難度，為數(shù)據(jù)合規(guī)科技帶來(lái)了相當(dāng)程度的安全保障，但這并不足以正當(dāng)化數(shù)據(jù)處理過(guò)程中一系列技術(shù)黑箱的存在。數(shù)據(jù)合規(guī)科技應(yīng)同時(shí)具備結(jié)構(gòu)上的穩(wěn)定性和經(jīng)濟(jì)上的可操作性，縱使加密和防御手段令人眼花繚亂，貫穿數(shù)據(jù)合規(guī)科技前中后端的運(yùn)行邏輯應(yīng)當(dāng)始終如一;此乃評(píng)價(jià)整體解決方案的一慣性標(biāo)準(zhǔn)，即當(dāng)且僅當(dāng)能夠從相對(duì)于整體實(shí)踐提供最佳證成的數(shù)據(jù)合規(guī)科技方案中脫穎而出，所采取的各項(xiàng)具有“黑箱性質(zhì)”的技術(shù)手段才是可取的。從監(jiān)管便利性來(lái)看，雖然各個(gè)流程環(huán)環(huán)相扣的可解釋性要求既無(wú)必要也無(wú)可能，但數(shù)據(jù)合規(guī)科技的各參與方確應(yīng)就整體方案的可欲性和優(yōu)越性達(dá)成共識(shí)，并以共同聲明的方式，在請(qǐng)求用戶(hù)特別授權(quán)時(shí)，就以下三個(gè)方面內(nèi)容作出詳細(xì)且外行人也能理解的信息披露：（1）整體方案的目標(biāo)愿景、運(yùn)作邏輯與構(gòu)建機(jī)理;（2）所選取技術(shù)手段的必要性及面臨的權(quán)衡取舍;（3）可能存在的系統(tǒng)偏差、隱私風(fēng)險(xiǎn)、運(yùn)行故障和補(bǔ)救方案。

同算法可解釋性所面臨的問(wèn)題相似，信息不對(duì)等必然誘發(fā)權(quán)力濫用。技術(shù)迷霧可以有效阻礙數(shù)據(jù)主體證偽上述信息披露，技術(shù)方的解釋和說(shuō)理方式則完全取決于擬實(shí)現(xiàn)的經(jīng)濟(jì)或政治目標(biāo)。技術(shù)迭代迅速，多環(huán)節(jié)技術(shù)疊加還有可能造成脫離造物者預(yù)設(shè)程序但短期內(nèi)難以被人察覺(jué)的情況?！?1 〕因此，心懷善意的技術(shù)方至多作出“自以為正確的解釋”，而錯(cuò)誤乃至虛假的信息披露或是數(shù)據(jù)合規(guī)科技中的常態(tài)。因此，有必要引入外部審查機(jī)制、深入拷問(wèn)數(shù)據(jù)合規(guī)科技的潛藏風(fēng)險(xiǎn)。數(shù)據(jù)合規(guī)科技方案的外部審核主體應(yīng)當(dāng)由獨(dú)立的第三方機(jī)構(gòu)擔(dān)任，實(shí)施審核的專(zhuān)家委員會(huì)由具備相關(guān)技術(shù)背景、同各參與方無(wú)利益往來(lái)的專(zhuān)家組成。外部審核應(yīng)著重關(guān)注技術(shù)方在降低算法歧視方面是否盡力而為。避免算法歧視群體化需要追問(wèn)數(shù)據(jù)合規(guī)科技數(shù)據(jù)處理的社會(huì)性聚合機(jī)制， 〔42 〕尤其是作為多方安全計(jì)算、聯(lián)邦學(xué)習(xí)和低代碼參與方的自身稟賦、行業(yè)特點(diǎn)和地域限制在何種程度上影響了數(shù)據(jù)樣本的生成。無(wú)論如何清洗，來(lái)源于同一主體的數(shù)據(jù)通常會(huì)被打上難以察覺(jué)的烙印，具有隱性的身份化表征，在無(wú)形之中限定了數(shù)據(jù)合規(guī)科技的應(yīng)用格局。不同數(shù)據(jù)間集體身份在數(shù)據(jù)合規(guī)科技實(shí)踐中相互排斥和博弈越明顯，得出的運(yùn)算結(jié)果、訓(xùn)練出的公共模型和成型的低代碼模塊就越有可能產(chǎn)生歧視。由于歧視主要根源于數(shù)據(jù)，外部審核應(yīng)當(dāng)確保技術(shù)方在數(shù)據(jù)清洗過(guò)程中引入了缺省數(shù)據(jù)篩選機(jī)制，主動(dòng)去除冗余、不相關(guān)、不合格數(shù)據(jù)，降低通信成本、提升運(yùn)算精度，避免數(shù)據(jù)合規(guī)科技參與方因?yàn)閿?shù)據(jù)饑渴而來(lái)者不拒，從源頭掐斷算法歧視群體化的苗頭。

3.開(kāi)發(fā)行為的微觀倫理規(guī)范

雖然宏觀標(biāo)準(zhǔn)和中觀審查體系有望解決既有機(jī)制難以企及的諸多難題，但促進(jìn)技術(shù)向善最有效的手段始終是通過(guò)法律將標(biāo)準(zhǔn)和原則植入技術(shù)應(yīng)用的底層行動(dòng)邏輯，因勢(shì)利導(dǎo)出政策制定者期望的結(jié)果，這也是“通過(guò)設(shè)計(jì)保護(hù)隱私”的應(yīng)有之義。事實(shí)上，數(shù)據(jù)安全同技術(shù)效益、商業(yè)價(jià)值之間從來(lái)就不是此消彼長(zhǎng)的沖突關(guān)系，保障數(shù)據(jù)安全并不意味著犧牲其他價(jià)值，“企業(yè)在保護(hù)用戶(hù)隱私的同時(shí)，也在為自己創(chuàng)造競(jìng)爭(zhēng)優(yōu)勢(shì)”?！?3 〕如果技術(shù)方可以將自己的偏好和價(jià)值觀嵌入代碼的字里行間，立法者同樣可將倫理先行原則、聲譽(yù)評(píng)價(jià)機(jī)制等固化進(jìn)開(kāi)發(fā)行為規(guī)范，為不同類(lèi)型的技術(shù)應(yīng)用創(chuàng)設(shè)差異化的社群規(guī)則。

就數(shù)據(jù)合規(guī)科技而言，各項(xiàng)技術(shù)應(yīng)用首先需要滿(mǎn)足倫理先行原則，不得游走于現(xiàn)有法律體系的灰色地帶進(jìn)行監(jiān)管套利。通說(shuō)認(rèn)為，算法規(guī)制目標(biāo)無(wú)他：其一，警惕本來(lái)應(yīng)當(dāng)是中立的智能應(yīng)用，被用來(lái)掩飾未取得“多數(shù)人同意”的少數(shù)人集權(quán);其二，建立利益相關(guān)者對(duì)話和商談的場(chǎng)域，避免法律淪為技術(shù)寡頭的幫兇?！?4 〕數(shù)據(jù)合規(guī)科技匯聚了海量大數(shù)據(jù)，技術(shù)方極有可能經(jīng)不住誘惑，利用算法壓榨個(gè)體攝取不成比例的回報(bào)。由于同算法息息相關(guān)，數(shù)據(jù)合規(guī)科技同樣包含價(jià)值判斷，立場(chǎng)抉擇關(guān)涉多方利益，因此，技術(shù)方案選擇不應(yīng)是簡(jiǎn)單的效益至上或是性能擇優(yōu)。數(shù)據(jù)合規(guī)科技踐行倫理先行的理念，要求各參與方的效益增長(zhǎng)勢(shì)必要同步拉動(dòng)社會(huì)公共利益提升。

此外，技術(shù)方還應(yīng)當(dāng)主動(dòng)引入聲譽(yù)概念作為參與方信任度的衡量指標(biāo)，凈化數(shù)據(jù)合規(guī)科技的運(yùn)行環(huán)境。從可采取的技術(shù)手段來(lái)看，多權(quán)重的主觀邏輯模型使基于聲譽(yù)的可信賴(lài)客戶(hù)端之間的“朝上競(jìng)爭(zhēng)”成為可能，配合區(qū)塊鏈技術(shù)的不可篡改特性，分布式信譽(yù)管理不再是癡人說(shuō)夢(mèng)。例如，圍繞深度強(qiáng)化學(xué)習(xí)設(shè)計(jì)激勵(lì)策略，在開(kāi)源分布式特殊場(chǎng)景中推行資源按勞分配，以達(dá)到邊緣節(jié)點(diǎn)的最佳訓(xùn)練水平; 〔45 〕利用區(qū)塊鏈技術(shù)跟蹤全局模型更新，對(duì)積極參與聯(lián)邦學(xué)習(xí)的用戶(hù)給予豐厚獎(jiǎng)勵(lì)，能實(shí)現(xiàn)局部模型的更高穩(wěn)定性?！?6 〕契約理論可被用于數(shù)據(jù)合規(guī)科技各參與方算力投入和模型質(zhì)量的衡量，一直以來(lái)困擾實(shí)務(wù)界的“拜占庭將軍問(wèn)題” 〔47 〕有望通過(guò)“聯(lián)合誠(chéng)實(shí)參與方而非揪出惡意方”的方法得以解決。不過(guò)，技術(shù)互嵌的解決方案有時(shí)也相互掣肘，技術(shù)方需量力而行。例如，區(qū)塊鏈技術(shù)的公共賬本特性存在通信延遲、數(shù)據(jù)吞吐量大等問(wèn)題，與通信開(kāi)銷(xiāo)同樣不可忽視的隱私計(jì)算相結(jié)合，必然對(duì)通信設(shè)備、服務(wù)器帶寬以及主機(jī)算力等提出更高要求。域外學(xué)者提出了對(duì)通信成本和模型準(zhǔn)確性之間進(jìn)行表征的方程式，可以對(duì)特定帶寬下分布式學(xué)習(xí)的速率進(jìn)行有效評(píng)估，從而對(duì)兩者的權(quán)衡取舍予以指導(dǎo)?！?8 〕

（四）整體規(guī)制方案的價(jià)值衡量

在既有機(jī)制補(bǔ)強(qiáng)和多元機(jī)制構(gòu)建所共同組成的圖景中，規(guī)制體系的穩(wěn)定性有賴(lài)于規(guī)制者結(jié)合實(shí)情作出正確的價(jià)值考量。數(shù)據(jù)合規(guī)科技規(guī)制本質(zhì)上是多層級(jí)風(fēng)險(xiǎn)防范與技術(shù)方案設(shè)計(jì)和應(yīng)用之間的復(fù)雜價(jià)值平衡，即受數(shù)據(jù)合規(guī)科技影響的多種法益與合理使用技術(shù)的利益間的價(jià)值平衡。

在福利經(jīng)濟(jì)學(xué)領(lǐng)域，價(jià)值增減的衡量一直有兩套標(biāo)準(zhǔn)：一套是視福利為個(gè)人需求加總的“帕雷托效率”，主張當(dāng)個(gè)體境遇的變好不以犧牲他人利益作為代價(jià)時(shí)，社會(huì)福利才是增值的;另一套是將資源再分配納入計(jì)算的“卡爾多—?？怂剐省?，認(rèn)為只要獲益方所獲得的利益足以補(bǔ)償受虧損者的損失，那么社會(huì)總體福利也是增值的，至于補(bǔ)償是否實(shí)際發(fā)生則無(wú)關(guān)緊要?！?9 〕前文指出，個(gè)人數(shù)據(jù)具有人格權(quán)益屬性，而人格權(quán)益的侵害既不表現(xiàn)為經(jīng)濟(jì)利益的喪失，也難以通過(guò)事后救濟(jì)的方式彌補(bǔ)。因此，在數(shù)據(jù)合規(guī)科技場(chǎng)景中，“卡爾多—?？怂剐省钡挠?jì)算方式毫無(wú)用武之地，宜將“帕累托效率”所展示出來(lái)的理想目標(biāo)作為價(jià)值衡量標(biāo)桿。亦即，無(wú)論被何種技術(shù)加持，技術(shù)方的經(jīng)濟(jì)效益在任何時(shí)候都不應(yīng)凌駕于人格權(quán)益之上。即使是為了社會(huì)效益的增長(zhǎng)，個(gè)人數(shù)據(jù)權(quán)益的克減有時(shí)不可避免，但在有多個(gè)參與方的技術(shù)場(chǎng)景中，如果部分參與方的利益主要體現(xiàn)為財(cái)產(chǎn)利益，其余參與方的利益主要體現(xiàn)為人格權(quán)益，人格權(quán)益方應(yīng)當(dāng)享有優(yōu)先保護(hù)。

（五）機(jī)制聯(lián)結(jié)互動(dòng)的動(dòng)態(tài)方案

數(shù)據(jù)合規(guī)科技的安全合規(guī)，以規(guī)制體系的系統(tǒng)性和融貫性為保障。上文建議的多項(xiàng)機(jī)制共同展示出了數(shù)據(jù)合規(guī)科技不可或缺的多個(gè)規(guī)制面向，而各個(gè)規(guī)制面向間的內(nèi)部關(guān)系，亦可進(jìn)一步完善。易言之，必須將分散零碎的規(guī)則和工具嫁嵌入多維共治的動(dòng)態(tài)方案中，數(shù)據(jù)合規(guī)科技的規(guī)制體系才算完整。不同規(guī)制面向間的合理聯(lián)結(jié)和差異化耦合，可以為數(shù)據(jù)合規(guī)科技的各項(xiàng)技術(shù)形成有針對(duì)性的規(guī)制方案，并根據(jù)不同維度的風(fēng)險(xiǎn)、結(jié)合不同的應(yīng)用場(chǎng)景，條分縷析出符合“帕累托效率”的動(dòng)態(tài)規(guī)制方案。正在征詢(xún)意見(jiàn)的網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例堅(jiān)持促進(jìn)數(shù)據(jù)開(kāi)發(fā)利用與保障數(shù)據(jù)安全并重，主張“分地區(qū)、分部門(mén)、分行業(yè)”建立數(shù)據(jù)分類(lèi)分級(jí)保護(hù)制度;以促進(jìn)保障數(shù)據(jù)依法有序自由流動(dòng)、依法合理有效利用為導(dǎo)向，數(shù)據(jù)合規(guī)科技的動(dòng)態(tài)規(guī)制圖式，如下圖所示。

這一圖式展示出了數(shù)據(jù)合規(guī)科技的動(dòng)態(tài)規(guī)制體系，即以不同層面的法律規(guī)則為核心、各項(xiàng)規(guī)制要素同頻共振的系統(tǒng)化規(guī)制模式。例如，對(duì)于智慧金融領(lǐng)域的數(shù)據(jù)合規(guī)科技，因?yàn)殛P(guān)涉公共產(chǎn)品的分配，計(jì)算結(jié)果的準(zhǔn)確性和數(shù)據(jù)安全同等重要， 〔50 〕宏觀層面的行業(yè)標(biāo)準(zhǔn)如果偏重?cái)?shù)據(jù)安全和應(yīng)用流程的一體化規(guī)范，中觀層面的外部審查體系就應(yīng)當(dāng)著重關(guān)注計(jì)算結(jié)果的公允程度及其對(duì)數(shù)據(jù)主體的潛在影響;為了緩解規(guī)制過(guò)程中工具理性和價(jià)值理性的沖突，個(gè)體層面的權(quán)利保障是對(duì)結(jié)果數(shù)據(jù)維度風(fēng)險(xiǎn)的補(bǔ)救和兜底。

總之，因應(yīng)技術(shù)的流變、場(chǎng)景的不同以及參與方稟賦的差異，針對(duì)數(shù)據(jù)合規(guī)科技的規(guī)制方案沒(méi)有一成不變的“最優(yōu)解”，必須基于風(fēng)險(xiǎn)產(chǎn)生的不同機(jī)理，考慮治理成本、技術(shù)條件、輿論環(huán)境等外在約束，形成力所能及的差異化制度安排。誠(chéng)然，逐一考察數(shù)據(jù)合規(guī)科技的各項(xiàng)技術(shù)并提出各個(gè)技術(shù)專(zhuān)用的制度設(shè)計(jì)建議頗費(fèi)周章，非本文在有限篇幅內(nèi)能夠完成的任務(wù)，但圖式中不同維度和要素的交互聯(lián)結(jié)，可助力不同的風(fēng)險(xiǎn)場(chǎng)景和規(guī)制目標(biāo)形成符合國(guó)情、環(huán)環(huán)相扣的規(guī)制方案，希望能為日后各項(xiàng)技術(shù)規(guī)制的單獨(dú)細(xì)化拋磚引玉。細(xì)分領(lǐng)域的不同技術(shù)間因數(shù)據(jù)處理的目的不同、應(yīng)用行業(yè)不同，需要分別設(shè)計(jì)不同的社群規(guī)范和權(quán)利簇，但大體規(guī)制框架無(wú)論是在方法論層面還是在法益衡量層面均沒(méi)有實(shí)質(zhì)差別。

上述動(dòng)態(tài)規(guī)制圖式中多項(xiàng)機(jī)制間的連接和互動(dòng)機(jī)理并非法律人的憑空臆想，而是立足于我國(guó)現(xiàn)有數(shù)據(jù)安全法律體系的必然選擇。較之于傳統(tǒng)的靜態(tài)制度安排，動(dòng)態(tài)的規(guī)則設(shè)計(jì)能夠更為細(xì)致地兼顧各項(xiàng)機(jī)制和工具之間的整體協(xié)調(diào)和按需調(diào)整，避免小規(guī)則對(duì)大體制的掣肘和抵消。當(dāng)然，隨著時(shí)間推移，數(shù)據(jù)合規(guī)科技的規(guī)則之治不可能變動(dòng)不居，各項(xiàng)機(jī)制和聯(lián)動(dòng)思路也必須隨著技術(shù)的嬗變不斷發(fā)展和完善。

結(jié)? 語(yǔ)

“沒(méi)有意識(shí)到風(fēng)險(xiǎn)，是最大的風(fēng)險(xiǎn)?！?〔51 〕在人工智能技術(shù)面前，人類(lèi)更應(yīng)該充分發(fā)揮自身的理智優(yōu)勢(shì)使?jié)撛陲L(fēng)險(xiǎn)最小化。破解數(shù)據(jù)合規(guī)科技的風(fēng)險(xiǎn)迷局，必須超越傳統(tǒng)人工智能法律規(guī)制的路徑依賴(lài)，摒棄科學(xué)烏托邦主義情結(jié)，完成思維和方法論的轉(zhuǎn)變：其一，從單點(diǎn)被動(dòng)防御轉(zhuǎn)向全網(wǎng)主動(dòng)聯(lián)防聯(lián)控，以數(shù)據(jù)和人為核心構(gòu)建覆蓋“客戶(hù)端—云—服務(wù)器—模型—應(yīng)用—社會(huì)”的一體化縱深安全運(yùn)營(yíng)體系;其二，在各關(guān)鍵節(jié)點(diǎn)優(yōu)化知情同意、數(shù)據(jù)處理轉(zhuǎn)委托等規(guī)則，強(qiáng)化對(duì)各行各業(yè)數(shù)據(jù)處理行為的約束，結(jié)合技術(shù)現(xiàn)狀有針對(duì)性發(fā)力;其三，建立跨部門(mén)的溝通和問(wèn)責(zé)機(jī)制，在全天候預(yù)警監(jiān)測(cè)的基礎(chǔ)上加強(qiáng)跨行業(yè)數(shù)據(jù)的穿透式監(jiān)管能力，自下而上構(gòu)建數(shù)據(jù)合規(guī)科技的動(dòng)態(tài)規(guī)制體系。唯有如此，透過(guò)數(shù)據(jù)合規(guī)科技的要素價(jià)值釋放，才可謂安全無(wú)虞。

中國(guó)社會(huì)科學(xué)院法學(xué)研究所助理研究員，法學(xué)博士。

本文系國(guó)家社科基金重大項(xiàng)目“大數(shù)據(jù)時(shí)代個(gè)人數(shù)據(jù)保護(hù)與數(shù)據(jù)權(quán)利體系研究”（項(xiàng)目批準(zhǔn)號(hào)：18ZDA145）的階段性研究成果。

〔1〕合規(guī)科技不同于“科技合規(guī)”，后者是指技術(shù)方與監(jiān)管者以數(shù)字化方式互相連通，實(shí)時(shí)向監(jiān)管者傳輸應(yīng)用數(shù)據(jù)以動(dòng)態(tài)形成合規(guī)報(bào)告的信息披露實(shí)踐，而前者則是將監(jiān)管要求轉(zhuǎn)化為科技應(yīng)用的技術(shù)約束，主動(dòng)降低安全隱患的技術(shù)利用模式。

〔2〕中共中央黨史和文獻(xiàn)研究院：《習(xí)近平關(guān)于網(wǎng)絡(luò)強(qiáng)國(guó)論述摘編》，中央文獻(xiàn)出版社2021年版，第121頁(yè)。

〔3〕參見(jiàn)許可：《個(gè)人信息治理的科技之維》，載《東方法學(xué)》2021年第5期。

〔4〕I. S. Rubinsteint & N. Good， Privacy by Design： A counterfactual Analysis of Google and Facebook Privacy Incidents， 28 Berkeley Tech. L. J. 1335 （2013）.

〔5〕科技部《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見(jiàn)（征求意見(jiàn)稿）》（2021年7月28日）。

〔6〕Koch， Hans-Joachim， and Helmut Rü?mann. Juristische Begründungslehre： eine Einführung in Grundprobleme der Rechtswissenschaft， Beck， 1982， p.67.

〔7〕參見(jiàn)沈偉偉：《算法透明原則的迷思》，載《環(huán)球法律評(píng)論》2019年第6期。

〔8〕參見(jiàn)周純毅等：《分布式深度學(xué)習(xí)隱私與安全攻擊研究進(jìn)展與挑戰(zhàn)》，載《計(jì)算機(jī)研究與發(fā)展》2021年第5期。

〔9〕B. Hemenway & W. Welser， Achieving Higher-Fidelity Conjunction Analyses Using Cryptography to Improve Information Sharing， RAND Corporation， 2014， p.6.

〔10〕參見(jiàn)Z. Wang， et al.， Beyond Inferring Class Representatives： User-Level Privacy Leakage from Federated Learning， 1 Proceedings of IEEE Infocom Conference On Computer Communications， 2512-2520 （2019）.

〔11〕J. Steinhardt， et al.， Certified Defenses for Data Poisoning Attacks， in Michael I. Jordan， et al （eds.）， Advances in Neural Information Processing Systems， Cambridge： MIT Press， 2017， pp.3517.

〔12〕X. Y. Chen， et al.， Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning， preprint， （5526） arXiv， 1712 （2017）.

〔13〕Z. Wang， et al.， EvilModel： Hiding Malware Inside of Neural Network Models， 26 IEEE Symposium on Computers and Communications， 2107 （2021）.

〔14〕高富平：《個(gè)人信息保護(hù)：從個(gè)人控制到社會(huì)控制》，載《法學(xué)研究》2018年第3期。

〔15〕最高人民檢察院《貫徹執(zhí)行個(gè)人信息保護(hù)法推進(jìn)個(gè)人信息保護(hù)公益訴訟檢查工作》（2021年8月21日）。

〔16〕參見(jiàn)曹建峰：《人工智能治理：從科技中心主義到科技人文協(xié)作》，載《上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2020年第5期。

〔17〕Commissioner v. Facebook Ireland Limited， Maximillian Schrems （Case C-311/1）.

〔18〕張欣：《算法解釋權(quán)與算法治理路徑研究》，載《中外法學(xué)》2019年第6期。

〔19〕參見(jiàn)劉志勇、何忠江等：《大數(shù)據(jù)安全特征與運(yùn)營(yíng)實(shí)踐》，載《電信科學(xué)》2021年第5期。

〔20〕J. S. Mill， The Principles of Political Economy， New York： Colonial Press， 1961， p.959.

〔21〕張新寶：《個(gè)人信息收集：告知同意原則適用的限制》，載《比較法研究》2019年第6期。

〔22〕參見(jiàn)程嘯：《論我國(guó)民法典中個(gè)人信息權(quán)益的性質(zhì)》，載《政治與法律》2020年第8期。

〔23〕參見(jiàn)唐林垚：《算法應(yīng)用的公共妨害及其治理路徑》，載《北方法學(xué)》2020年第3期。

〔24〕參見(jiàn)劉文杰：《被遺忘權(quán)：傳統(tǒng)元素、新語(yǔ)境與利益衡量》，載《法學(xué)研究》2018年第2期。

〔25〕參見(jiàn)丁曉東：《被遺忘權(quán)的基本原理與場(chǎng)景化界定》，載《清華法學(xué)》2018年第6期。

〔26〕參見(jiàn)黃尹旭：《區(qū)塊鏈應(yīng)用技術(shù)的金融市場(chǎng)基礎(chǔ)設(shè)施之治理——以數(shù)字貨幣為例》，載《東方法學(xué)》2020年第5期。

〔27〕[英]維克托·舍恩伯格等：《大數(shù)據(jù)時(shí)代：生活、工作與思維的大變革》，盛楊燕等譯，浙江人民出版社2013年版，第200頁(yè)。

〔28〕徐明：《大數(shù)據(jù)時(shí)代的隱私危機(jī)及其侵權(quán)法應(yīng)對(duì)》，載《中國(guó)法學(xué)》2017年第1期。

〔29〕齊英程：《我國(guó)個(gè)人信息匿名化規(guī)則的檢視與替代選擇》，載《環(huán)球法律評(píng)論》2021年第3期。

〔30〕參見(jiàn)馬長(zhǎng)山：《司法人工智能的重塑效應(yīng)及其限度》，載《法學(xué)研究》2020年第4期。

〔31〕趙精武、周瑞玨：《隱私計(jì)算技術(shù)：數(shù)據(jù)流動(dòng)與數(shù)據(jù)安全的協(xié)同保護(hù)規(guī)則構(gòu)建》，載《信息通信技術(shù)與政策》2021年第7期。

〔32〕參見(jiàn)王利明：《數(shù)據(jù)共享與個(gè)人信息保護(hù)》，載《現(xiàn)代法學(xué)》2019年第1期。

〔33〕萬(wàn)方：《個(gè)人信息處理中的“同意”與“同意撤回”》，載《中國(guó)法學(xué)》2021年第1期。

〔34〕參見(jiàn)張凌寒：《算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和》，載《東方法學(xué)》2020年第6期。

〔35〕參見(jiàn)唐林垚：《“脫離算法自動(dòng)化決策權(quán)”的虛幻承諾》，載《東方法學(xué)》2020年第6期。

〔36〕參見(jiàn)路宏琳、王利明：《面向用戶(hù)的支持用戶(hù)掉線的聯(lián)邦學(xué)習(xí)數(shù)據(jù)隱私保護(hù)方法》，載《信息網(wǎng)絡(luò)安全》2021年第3期。

〔37〕魯棒性，指系統(tǒng)在其特性或參數(shù)發(fā)生攝動(dòng)時(shí)仍可使品質(zhì)指標(biāo)保持不變的性能。

〔38〕參見(jiàn)許可：《從監(jiān)管科技邁向治理科技》，載《探索與爭(zhēng)鳴》2018年第10期。

〔39〕參見(jiàn)徐佩玉：《北京國(guó)際大數(shù)據(jù)交易所成立》，載《人民日?qǐng)?bào)》（海外版）2021年4月3日。

〔40〕參見(jiàn)張懿：《助力“艱苦一躍”，更好釋放數(shù)字經(jīng)濟(jì)潛能》，載《文匯報(bào)》2021年11月26日。

〔41〕參見(jiàn)何大安：《廠商運(yùn)用大數(shù)據(jù)和人工智能的經(jīng)濟(jì)學(xué)分析》，載《上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2021年第3期。

〔42〕參見(jiàn)李成：《人工智能歧視的法律治理》，載《中國(guó)法學(xué)》2021年第2期。

〔43〕鄭志峰：《通過(guò)設(shè)計(jì)的個(gè)人信息保護(hù)》，載《華東政法大學(xué)學(xué)報(bào)》2018年第6期。

〔44〕參見(jiàn)[英]凱倫·楊、馬丁·洛奇：《馴服算法》，林少偉等譯，上海人民出版社2020年版，第353頁(yè)。

〔45〕See Y. Zhan， et al.， A Learning-Based Incentive Mechanism for Federated Learning， 7 IEEE Internet of Things Journal， 1221 （2020）.

〔46〕See Y. J. Kim & C. S. Hong， Blockchain-Based Node-Aware Dynamic Weighting Methods for Improving Federated Learning Performance， 20 Asia-Pacific Network Operations and Management Symposium， 1-4 （2019）.

〔47〕拜占庭將軍問(wèn)題是指在有叛徒的情況下將軍們?nèi)绾喂仓\的難題。在數(shù)據(jù)合規(guī)科技中，該問(wèn)題演化為在分布式單元中的部分參與方可能給出不實(shí)數(shù)據(jù)的條件下，如何使分布式單元達(dá)到一致的難題。亦即，在缺少可信任的中央節(jié)點(diǎn)和數(shù)據(jù)傳輸通道的情況下，分散在系統(tǒng)中的各參與方應(yīng)如何達(dá)成共識(shí)？

〔48〕See Y. Han， A. Ozgur & T. Weissman， Geometric Lower Bounds for Distributed Parameter Estimation Under Communication Constraints， 2 Proceedings of the Conference on Learning Theory， 3163-3188（2018）.

〔49〕參見(jiàn)艾佳慧：《法律經(jīng)濟(jì)學(xué)的新古典范式》，載《現(xiàn)代法學(xué)》2020年第6期。

〔50〕參見(jiàn)蘇宇：《數(shù)字代幣監(jiān)管的模式、架構(gòu)與機(jī)制》，載《東方法學(xué)》2021年第3期。

Abstract： Frequent data breaches accelerated privacy protection legislation， yet the strong regulatory trend has in turn caused the scarcity of legitimately-usable data. Under the data-as-production-factor strategy， mainstream CompTech such as privacy-preserving computation and SaaS platform could help to release the data potential in an orderly and compliant manner in-between untrusted entities through the "decentralization" of outcome calculating， model training and hardware defensing， but may also give rise to the generalization and alienation of traditional problems. Due to the deep reconstruction of the data processing mode， trust maintenance scattered across every level of the law， target correction， defect remedy， rights protection and compulsory anonymization methods all malfunctioned in CompTech scenarios. In order to balance the legal interests of each subject， future legislation should aim to build a dynamic regulatory system that adapts to changes， through the collaboration between macro policies， community regulation， technology structure and the competition between actors. The bottom line of such an adaptable legal framework is to eliminate the risks from the blind spots from the complex data processing scenarios and to give full consideration to the utility needs of data productivity， so as to ensure the compliance of the CompTech itself.

Key words： CompTech; privacy-preserving computation; low code; personal information protection; security compliance; Artificial Intelligence