基于正式制度與非正式制度關(guān)系的算法規(guī)制研究

魏詩琪

摘?要：大數(shù)據(jù)時代，算法應(yīng)用橫向擴(kuò)展，機(jī)器學(xué)習(xí)縱向延伸，使得網(wǎng)絡(luò)公共領(lǐng)域逐漸被算法秩序統(tǒng)治。算法在為人們帶去個性化服務(wù)的同時，也觸碰了實體法律的邊界。從經(jīng)濟(jì)理性、工具理性及公共理性三重理性，提出利益、技術(shù)、價值三維框架。指出在數(shù)據(jù)收集、模型搭建及運算、模型輸出及應(yīng)用過程中，算法應(yīng)用所暴露的侵權(quán)問題。闡釋算法規(guī)制的邏輯起點，以論證算法亟待規(guī)制的必要性。引入“第三域”概念，考察算法規(guī)制中正式制度與非正式制度的互動關(guān)系。結(jié)論指出，算法規(guī)制過程中，應(yīng)兼納正式制度與非正式制度之長，營造適度的制度空間，以達(dá)到平衡狀態(tài)。

關(guān)鍵詞：“第三域”；算法規(guī)制；正式制度；非正式制度

中圖分類號：D9?????文獻(xiàn)標(biāo)識碼：A??????doi：10.19311/j.cnki.16723198.2023.04.080

0?引言

人工智能的核心推動力是算法技術(shù)的合理應(yīng)用。技術(shù)革新過程中，算法一方面介入人們?nèi)粘Ｉ钪校瑸槿藗儙硇碌纳罘绞?。但與此同時，也產(chǎn)生了一些負(fù)面的社會影響，如美國大選過程中Facebook假新聞事件。用戶偏好數(shù)據(jù)推送信息，制造了信息“過濾泡沫”。信息繭房作用下，用戶接受的觀點極端，認(rèn)知壁壘高且頑固，社會心態(tài)浮躁。更有甚，算法開始逐漸用于公共部門管理以影響并侵犯公眾權(quán)利。如何對算法進(jìn)行有效規(guī)制，以實現(xiàn)網(wǎng)絡(luò)生態(tài)文明，是人工智能時代算法規(guī)制亟待彌補的一塊短板。中國古代，算法被稱為“術(shù)”；三國時期，魏國數(shù)學(xué)家劉徽提出計算圓周率的方法，稱之為“割圓術(shù)”。在現(xiàn)代意義上，算法是指一種通過將輸入數(shù)據(jù)轉(zhuǎn)換為所需輸出來解決問題的編碼程序。算法實質(zhì)上是一種決策方式，如貝葉斯決策理論模型。通過數(shù)學(xué)語言建構(gòu)成模型，以呈現(xiàn)客觀現(xiàn)象，是“一種有限、確定、有效并適合用計算機(jī)程序來實現(xiàn)的解決問題的方法”。人類對算法依賴性的增強，算法出現(xiàn)異質(zhì)化，存在算法偏見、算法黑箱、算法鴻溝等問題。

1?算法規(guī)制的邏輯起點

1.1?利益驅(qū)動下的數(shù)據(jù)收集與獲取

對于輕資產(chǎn)企業(yè)來說，一手?jǐn)?shù)據(jù)是一種寶貴資產(chǎn)，其價值可得到二次或者多次的挖掘。以零門檻作為吸引，通過用戶的附加價值和信息無意識泄露來賺取廣告收入和增值收入。依托多個免費的產(chǎn)品市場吸引用戶，通過少數(shù)市場獲取增值收入。消費者在使用基礎(chǔ)服務(wù)之后，有興趣進(jìn)一步消費。企業(yè)收集到的數(shù)據(jù)信息趨于全面，用戶偏好和信息獲取更為廣泛，用戶黏度由此增強，利益增加。在儲存信息的過程中，信息轉(zhuǎn)化成可支配和控制的財產(chǎn)。

從財產(chǎn)上看，免費內(nèi)容的商業(yè)模式造成互聯(lián)網(wǎng)“公共池”假象。通過短反饋吸引用戶跟風(fēng)，并放棄自身隱私。在無序、浮躁的混亂中，影響人們的認(rèn)知和行為；從勞動上看，互聯(lián)網(wǎng)企業(yè)極大依賴于用戶的貢獻(xiàn)與創(chuàng)造，享有其集體勞動成果的價值，卻不想承認(rèn)其中的勞動關(guān)系。企業(yè)通過建立數(shù)據(jù)庫的形式，根據(jù)自身需要設(shè)置算法規(guī)則，實現(xiàn)定向廣告、個性化促銷以及定價的工作。從數(shù)據(jù)生產(chǎn)意義上來看，用戶和互聯(lián)網(wǎng)之間的關(guān)系是免費勞動力和工廠的關(guān)系。傳統(tǒng)互聯(lián)網(wǎng)企業(yè)，國家對其規(guī)制思路是歸口和屬地化管理。但算法時代的到來，使得以數(shù)據(jù)業(yè)務(wù)為主的互聯(lián)網(wǎng)企業(yè)打破了時空限制，跨越了條塊分割的現(xiàn)狀。數(shù)據(jù)所用者可從各種渠道獲取數(shù)據(jù)信息，賽博空間的“無秩序”使得其找到了規(guī)則的“避風(fēng)港”，形成一種“有組織的混亂”現(xiàn)象。

1.2?技術(shù)驅(qū)動下的模型搭建及運算

“賬戶-行為數(shù)據(jù)-算法”這一底層架構(gòu)已經(jīng)構(gòu)成了數(shù)字時代法律、市場和社會規(guī)范共同起作用的基礎(chǔ)，也受到商業(yè)生產(chǎn)邏輯和行政控制邏輯的雙重影響。在模型搭建和運算階段，組織結(jié)合計算目標(biāo)，搭建算法架構(gòu)。利用機(jī)器深度學(xué)習(xí)的能力，將大量數(shù)據(jù)投入到算法中去進(jìn)行運算和學(xué)習(xí)。算法設(shè)計者根據(jù)機(jī)器在自我學(xué)習(xí)過程中的表現(xiàn)，調(diào)整算法以得出更好地結(jié)果。代碼是算法的載體，代碼也是賽博空間中隱形的“秩序”，即萊辛格提出的“代碼即法律”的思想。因此，在算法搭建和運算過程中，代碼編譯者的價值判斷、算法設(shè)計者的設(shè)計理念均會在代碼中得以反饋。代碼成為一門語言，并將信息和理念傳遞出去。因此，依賴于算法模型的設(shè)計、代碼的編寫，會由于實施者認(rèn)知壁壘、知識面偏頗而構(gòu)成算法歧視和算法偏見，這亦是算法規(guī)制中亟須考慮的技術(shù)視角。

1.3?權(quán)力驅(qū)動下的模型應(yīng)用及輸出

哈貝馬斯認(rèn)為，從歷史上看，公共領(lǐng)域經(jīng)歷了三種形態(tài)的演變：一是古希臘城邦中以政治生活為本質(zhì)內(nèi)容的公共生活；二是中世紀(jì)歐洲封建社會時期，國家與社會沒有發(fā)生分離；三是直到18世紀(jì)，德國開始出現(xiàn)社團(tuán)組織和協(xié)會這種獨立于政府當(dāng)局的社會實體后，與當(dāng)時的新聞媒介共同構(gòu)成了哈貝馬斯筆下的資產(chǎn)階級公共領(lǐng)域，即第三種形態(tài)的公共領(lǐng)域。

互聯(lián)網(wǎng)2.0時代后期，算法被賦予工具化的意義。大型服務(wù)提供者演化為網(wǎng)絡(luò)平臺，平臺經(jīng)濟(jì)蓬勃生機(jī)，但也暗藏危機(jī)，即平臺私權(quán)力的侵犯。由于網(wǎng)絡(luò)空間管理相關(guān)法律滯后于網(wǎng)絡(luò)技術(shù)的發(fā)展，網(wǎng)絡(luò)空間領(lǐng)域處于一種“混沌化”狀態(tài)。平臺的迅速崛起促進(jìn)了其對于人類自愿放棄的公共領(lǐng)域的侵占，算法代替了法律的空缺，實際上承擔(dān)了網(wǎng)絡(luò)空間的日常治理。行至當(dāng)下，以算法作為秩序的規(guī)則弊端叢生，并呈現(xiàn)出越界侵占公共領(lǐng)域的苗頭，甚至隨著數(shù)字化政府的到來，隱隱顯露出侵占公共權(quán)力領(lǐng)域的威脅。

這些信息被傳到移動終端時，脫離所有者的控制。用戶協(xié)議的信息不對稱性，使得終端企業(yè)可永久分析用戶的數(shù)據(jù)，卻不承擔(dān)法律問責(zé)的成本。用戶處于弱勢一方，只有被動要求互聯(lián)網(wǎng)企業(yè)刪除信息的權(quán)利，而沒有主動監(jiān)控其信息被使用情況的主動權(quán)。

2?算法規(guī)制的可能路徑及其問題

2.1?算法公開

算法的不透明會造成開放者與使用者的信息不對稱，因此有一部分學(xué)者提出“確保算法透明性的直觀方案就是要求企業(yè)公布自身的算法”。但該措施存在著不可操作性，一方面對于公司來說，算法的不透明是一種自我保護(hù)手段。對于技術(shù)型公司而言，算法是企業(yè)的核心機(jī)密。一旦公開，會面臨成本增加、競爭優(yōu)勢被取代等風(fēng)險。如為公共利益而公開算法，本質(zhì)上違背了市場經(jīng)濟(jì)中企業(yè)以盈利為目的的組織目標(biāo)。法律應(yīng)是確保規(guī)范性期望實現(xiàn)，疏解和救濟(jì)失望的工具。另一方面，算法公開后，算法審查的成本較高，這種技術(shù)鴻溝使得即便算法公開，也會被大眾選擇性忽視。有一部分學(xué)者認(rèn)為可以發(fā)揮媒體的宣傳作用將算法解釋給大眾，這只是將算法知識的解讀交給了社會組織中的某一群體（在這里是媒體），那依然需要媒體具備專業(yè)的算法知識。因此，可看出，不論將算法公開的審查權(quán)交給誰來實施都會遇到同樣的技術(shù)壁壘問題，總之，達(dá)摩克利斯之劍并未真正落下，算法的技術(shù)性形成了天然的溝通屏障。

2.2?算法驗證

算法形成之后，需要對其給予測試和驗證。算法驗證一般分為兩種，即靜態(tài)驗證和動態(tài)驗證。從結(jié)構(gòu)-功能角度來說，靜態(tài)驗證是指重新檢查代碼，查詢設(shè)計上的不足；從過程-事件角度來說，動態(tài)驗證是指先進(jìn)行小樣本的預(yù)測試，通過模擬的形式，檢查代碼實際運行過程中的情況，并給予及時的調(diào)整。部分學(xué)者認(rèn)為，為保證程序正義和捍衛(wèi)網(wǎng)絡(luò)公共空間的公共價值，應(yīng)將算法驗證交由第三方認(rèn)證。但這種驗證方式也存在一定的弊端，即成本過高和尋租。一方面，這種認(rèn)證機(jī)制可能會給企業(yè)帶來財務(wù)壓力，這種財務(wù)壓力會使得中小初創(chuàng)型的技術(shù)公司陷入死板單一的機(jī)械化困境，致使技術(shù)研發(fā)的停滯。

2.3?算法解釋

算法具有自我生產(chǎn)能力，這種自主性使得算法規(guī)則具有復(fù)雜性?！叭祟愔赖倪h(yuǎn)比其能表達(dá)出來的更多”，即隱性知識。然而，以機(jī)器學(xué)習(xí)為代表的人工智能，目前已擺脫了需要依賴人類表達(dá)能力的局限，打破了“波蘭尼悖論”的束縛。有學(xué)者認(rèn)為，當(dāng)自動化決策算法的具體決定對相對人有法律上或者經(jīng)濟(jì)上的顯著影響時，相對人有權(quán)向算法使用人提出異議，要求其提供對具體決策解釋，并要求更新數(shù)據(jù)或更正錯誤，此即為算法解釋權(quán)。這個可能路徑同樣存在不可規(guī)避的問題。算法解釋首先依賴于算法在技術(shù)上的可解釋性。這就會存在算法黑箱問題。一些簡單的算法，設(shè)計師可以對其進(jìn)行解釋。但隨著機(jī)器學(xué)習(xí)的縱向發(fā)展，算法的運算過程和決策過程更多地像一個看不見摸不著的黑箱。算法在模擬人類思維的過程中，會出現(xiàn)不可解釋性的演化。它所能被解釋的可能性越來越渺茫，設(shè)計者能夠提供算法的模型，卻沒辦法提供算法決策產(chǎn)生的依據(jù)。例如，我們雖能很容易記住一張面孔、辨別一個聲音，但卻并不能很好地闡述或解釋我們?yōu)槭裁纯梢詫崿F(xiàn)這一功能。總結(jié)來看，機(jī)器學(xué)習(xí)模式下則不可能要求“解釋具體決定的邏輯和個人數(shù)據(jù)的權(quán)重”，因此通過算法解釋對算法進(jìn)行規(guī)制也不具有普適性。

3?算法規(guī)制的新思路：走向“第三域”

算法規(guī)制過程中，一方面以“公”為代表的公權(quán)力有著防控算法過度剝奪公民自由，提防“奇點來臨”導(dǎo)致人類災(zāi)難的政治使命；另一方面以“私”為代表的私權(quán)力強調(diào)經(jīng)營的自由，但過度強調(diào)經(jīng)濟(jì)效率易引發(fā)外部環(huán)境對算法的不信任甚至恐慌。

3.1?“第三域”概念的引入

“第三域”由黃宗智先生在鄉(xiāng)村治理的議題下提出，其認(rèn)為第三域不是非此即彼的二元對立，而是“具有超出國家與社會之影響的自身特性和自身邏輯的存在”。改革時期，黃宗智認(rèn)為：“正是在第三領(lǐng)域這一地帶，國家聯(lián)合社會進(jìn)行超出正式官僚機(jī)構(gòu)能力的公共活動，也是在這一地帶，新型的國家與社會的關(guān)系在逐漸衍生。這里可能是更具協(xié)商性而非命令性的新型權(quán)力關(guān)系的發(fā)源地?！闭街贫群头钦街贫戎g具有一定的制度空間，這一制度空間即是“第三域”。算法規(guī)制的理論基礎(chǔ)是國家與社會的關(guān)系，將此概念遷移到算法規(guī)制中具有一定的適用性。

3.2?正式制度與非正式制度

所謂正式制度，是人們?yōu)榱颂囟ǖ哪康挠幸庾R地建立起來并被正式確認(rèn)的各種制度的總稱，它是依靠權(quán)力機(jī)構(gòu)為后盾來實施的成文規(guī)范，包括法律、法規(guī)、政策、規(guī)章和契約等。在算法規(guī)制中，正式制度是指國家針對互聯(lián)網(wǎng)經(jīng)濟(jì)制定的法律條文、規(guī)章制度、行為準(zhǔn)則等。它是源于國家法律制度建設(shè)之中的，對于以技術(shù)作為內(nèi)驅(qū)動力的算法而言，則是外來的制度，是建構(gòu)性的制度體系。一旦有人破壞這些制度，便會受到來自國家強制力的懲罰。這種正式制度是以政府為主導(dǎo)的，以公共利益作為基礎(chǔ)，目的是對公共領(lǐng)域與私人領(lǐng)域界限范圍的重新界定，以建立智能經(jīng)濟(jì)時代的顯性秩序，規(guī)范智能經(jīng)濟(jì)，挖掘經(jīng)濟(jì)價值的同時，使其關(guān)注公共價值。

非正式制度是人們在長期的共同生活或社會交往過程中形成的約定俗成的且被一致認(rèn)同并共同遵守的行為準(zhǔn)則，包括意識形態(tài)、價值信念、文化傳統(tǒng)、風(fēng)俗習(xí)慣和倫理道德等。在算法規(guī)制中，公平是第一位的公共價值，而在這一概念框架下的非正式制度主要是指算法、算法設(shè)計者以及算法使用者的道德、價值信念和倫理道德，簡言之，即算法德性與技術(shù)倫理。這種制度是算法設(shè)計者和使用者內(nèi)化于心的行為準(zhǔn)則，往往產(chǎn)生于人的工作環(huán)境、行業(yè)領(lǐng)域、人際交往的過程中，依賴于人的自身素質(zhì)和職業(yè)責(zé)任感。這種不是以法律作為基石的行為準(zhǔn)則有著很強的情感根基，一旦有人逾越，便會受到來自職業(yè)共同體的藐視、譴責(zé)和疏離，使其在工作環(huán)境或者行業(yè)領(lǐng)域受到情感上的排擠，也會形成一種公眾輿論對當(dāng)事人造成壓迫感致使其糾正錯誤。這種非正式制度并不是以政府主導(dǎo)的，而是以私人領(lǐng)域的每一個主體為主導(dǎo)而產(chǎn)生的，是一種他律性與自律性的體現(xiàn)，也是公共利益與私人利益之間可能的融合點。

3.3?“第三域”—正式制度與非正式制度的制度空間

正式制度與非正式制度的互動是頂層設(shè)計和基層呼應(yīng)的良性互動。非正式制度是內(nèi)“嵌”于算法運作的全程之中的，因此更容易被接受和吸納，以彌補正式制度外入的剛性制約。與正式制度的剛性手段相比，非正式制度更多的是一種柔性手段，可以內(nèi)化于心，外化于行。因此，在算法規(guī)制中可以將非正式制度作為正式制度的必要補充，但另一方面，在涉及底線問題的時候，正式制度又是非正式制度的守門員與警戒線。在正式制度和非正式制度之間存在的并非是黑白對立，或者涇渭分明的一條線，而是一個可以共融的合作空間和制度空間，且這一空間具有很強的“協(xié)商性而非命令性”特點，因此，在面對一些算法規(guī)制中道德價值沖突的問題時，正式制度和非正式制度都可以介入，可以采取兩者的互動方式來解決糾紛，化解沖突和對立，合作共贏，達(dá)成一種平衡狀態(tài)。

參考文獻(xiàn)

［1］Karen?Yeung.Algorithmic?regulation：A?critical?interrogation[J].Regulaton?&?Governance，2018，（12）：505523.

[2]查道林，蔣智慧，曹高輝，等.信息系統(tǒng)用戶感知算法焦慮的內(nèi)涵及其結(jié)構(gòu)維度研究[J].情報科學(xué)，2022，40（06）：6673.

[3]Robert?Sedgewick，Kevin?Wayne.算法（第四版）[M].謝路云譯.北京：人民郵電出版社，2012.

[4]金觀濤.賽先生的夢靨：新技術(shù)革命二十講[M].北京：東方出版社，2019：105113.

[5]胡凌.互聯(lián)網(wǎng)與公共領(lǐng)域：財產(chǎn)與勞動的視角[J].網(wǎng)絡(luò)法律評論，2013，17（02）：6167.

[6]阿里爾·扎拉奇，莫里斯.m.斯圖克.算法的陷阱：超級平臺、算法壟斷與場景欺騙[M].北京：中信出版集團(tuán)，2018.

[7]哈貝馬斯.公共領(lǐng)域的結(jié)構(gòu)轉(zhuǎn)型[M].曹衛(wèi)東等譯.上海：學(xué)林出版社，1999.

[8]林洹民.自動決策算法的法律規(guī)制：以數(shù)據(jù)活動顧問為核心的二元監(jiān)管路徑[J].法律科學(xué)（西北政法大學(xué)學(xué)報），2019，37（03）：4353.

[9][德]尼古拉斯·盧曼.法社會學(xué)[M].賓凱，趙春燕，譯.上海：上海人民出版社，2013.

[10]張凌寒.商業(yè)自動化決策的算法解釋權(quán)研究[J].法律科學(xué)，2018，（3）：6872.

[11]黃宗智.中國的“公共領(lǐng)域”與“市民社會”———國家與社會間的第三領(lǐng)域[C]//鄧正來.國家與市民社會：一種社會理論的研究路徑.北京：中央編譯出版社，2002：420443.

[12]章榮君.鄉(xiāng)村治理中正式制度與非正式制度的關(guān)系解析[J].行政論壇，2015，22（03）：2124.

[13]王芳.正式制度、非正式制度與公共品供給——來自地級市的證據(jù)[J].世界經(jīng)濟(jì)文匯，2018，（04）：5365.

[14]劉友華.算法偏見及其規(guī)制路徑研究[J].法學(xué)雜志，2019，（06）：5566.

[15]周申倡，戴玉琴.論新時代深化村民自治的“雙向制度”供給——基于村民自治制度與鄉(xiāng)村非正式制度融合的視角[J].學(xué)海，2019，（03）：139145.