《算法治理》序

姚前

隨著計(jì)算機(jī)、移動互聯(lián)網(wǎng)、智能終端、大數(shù)據(jù)分析、云計(jì)算、人工智能、物聯(lián)網(wǎng)等數(shù)字技術(shù)的發(fā)展，算法已深入我們生活各個(gè)領(lǐng)域。搜索引擎、新聞推送、精準(zhǔn)廣告、人臉識別、行車導(dǎo)航、自動駕駛等背后技術(shù)核心都是算法。我們正生活在算法的世界里，算法無處不在。

算法讓我們的世界變得更加智能，更加高效。人們甚至可以在未來創(chuàng)造出一個(gè)完全由算法構(gòu)造的虛擬世界：元宇宙（Metaverse），算法對人類社會的滲透力和影響力或?qū)⒅辉霾粶p。伴隨而來的問題是，我們應(yīng)如何處理算法與人的關(guān)系。就像一百多年前，機(jī)器大生產(chǎn)時(shí)代來臨之時(shí)，機(jī)器與人的關(guān)系吸引了馬克思等思想巨擘的關(guān)注與研究。算法與人的關(guān)系這一全新的時(shí)代命題，同樣值得今日的我們思考與探索。

防止算法可能對人造成的侵犯、傷害和異化，是算法治理的首要內(nèi)容。比如，要防止算法濫用。算法規(guī)則的背后是商業(yè)利益，為了追求利益最大化，算法有可能違背社會公平、道德和人性。比如大數(shù)據(jù)殺熟，同樣的商品或服務(wù)，老客戶的價(jià)格反而比新客戶要貴;只推薦能帶來潛在商業(yè)利益的產(chǎn)品，而不是最適合、最恰當(dāng)?shù)臇|西;可能濫用人性弱點(diǎn)，過度激發(fā)、勸服、誘導(dǎo)客戶，使人習(xí)慣于被喂養(yǎng)，不自覺地對算法投放的產(chǎn)品沉迷上癮。算法邏輯被運(yùn)用到極致，人有可能被“異化”為純粹的數(shù)據(jù)、商品和工具。算法的具體原理和參數(shù)只有運(yùn)營企業(yè)的少部分人才能知道，難免產(chǎn)生利益侵占問題。甚至，企業(yè)可能利用算法作惡，比如為了擴(kuò)大流量，推送聳人聽聞的虛假信息或推薦虛假產(chǎn)品。

我們還要防止算法偏見。算法的數(shù)據(jù)可能不一定全面，碎片化的數(shù)據(jù)得到的結(jié)果極易導(dǎo)致偏見。算法的設(shè)計(jì)者是人，算法設(shè)計(jì)師乃至企業(yè)管理者、價(jià)值觀的偏見可能被嵌入算法。算法的“技術(shù)光環(huán)”容易讓人盲從所謂的“科學(xué)”，但實(shí)質(zhì)上有些算法存在很大程度的不可解釋性，比如類似“黑箱”的機(jī)器學(xué)習(xí)算法。機(jī)器學(xué)習(xí)算法側(cè)重于相關(guān)性分析，而不是因果分析，可能產(chǎn)生錯誤的勾連與判斷;基于歷史數(shù)據(jù)的機(jī)器學(xué)習(xí)算法隱含著“過去決定未來”的邏輯，以歷史宿命論定義和標(biāo)簽每個(gè)人，某種程度上也是一種偏見。當(dāng)有偏見的算法被用于司法審判時(shí)，將可能導(dǎo)致不公正判決，損害社會公平正義。

處理算法與人的關(guān)系，核心原則是以人為本。我們應(yīng)防止算法與人的對立。例如，人工智能可以極大提高社會生產(chǎn)率，但對人也產(chǎn)生了替代。如果說人工智能完全替代人類，有些危言聳聽，但取代一些規(guī)律性、重復(fù)性的人力工作，卻是正在發(fā)生的事實(shí)。未來隨著人工智能在各個(gè)領(lǐng)域的發(fā)展與蔓延，人工智能對人類的替代有可能是全方位的。在此情況下，社會失業(yè)人群將可能迅速增加，引發(fā)貧困等社會性問題。對于個(gè)體而言，自我價(jià)值實(shí)現(xiàn)是最高的社會需求。人工智能的替代不僅帶來個(gè)人經(jīng)濟(jì)收入的減少，還有個(gè)體的精神損害，影響人的心理健康。此外，以超越人類能力為導(dǎo)向、追求更快更強(qiáng)的技術(shù)唯上論，某種意義上也可能會引致緊張的人機(jī)對立關(guān)系。應(yīng)該說，戰(zhàn)勝人類并不是發(fā)展人工智能的終極目標(biāo)，更好地服務(wù)人類才是其終極使命。如何在人工智能應(yīng)用的過程中，避免人機(jī)對立，使科技不因技術(shù)創(chuàng)新的深度而失去本該有的人文溫度，正成為當(dāng)下算法治理的重要命題。

在特定領(lǐng)域，算法還可能引發(fā)特定風(fēng)險(xiǎn)。比如，在金融領(lǐng)域，智能算法給出的資產(chǎn)配置建議有可能是推薦了與金融機(jī)構(gòu)自身利益高度攸關(guān)的產(chǎn)品，涉嫌利益侵占;智能算法形成信息繭房，強(qiáng)化投資者偏見，容易掩蓋金融風(fēng)險(xiǎn)復(fù)雜性，引誘過度消費(fèi)和負(fù)債，甚至誤導(dǎo)投資者;智能算法若存在歧視投資者現(xiàn)象，則有違市場公平與公正;智能算法趨同導(dǎo)致“羊群效應(yīng)”，加大金融順周期風(fēng)險(xiǎn)等。針對這些特定領(lǐng)域的算法風(fēng)險(xiǎn)，我們要有應(yīng)對舉措。

數(shù)據(jù)是算法的基礎(chǔ)，因此數(shù)據(jù)權(quán)利保護(hù)也成為算法治理的考量重點(diǎn)。歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）和我國《個(gè)人信息保護(hù)法》規(guī)定數(shù)據(jù)主體享有知情同意權(quán)、持續(xù)控制權(quán)、拒絕權(quán)、可攜權(quán)、更正權(quán)、刪除權(quán)等權(quán)利。除了數(shù)據(jù)主體權(quán)利，法學(xué)家們還從不同角度拎出了數(shù)據(jù)相關(guān)的各種“權(quán)利”，包括數(shù)據(jù)財(cái)產(chǎn)權(quán)、商業(yè)秘密權(quán)、知識產(chǎn)權(quán)等不同權(quán)利，甚至從公共利益和國家安全的角度提出數(shù)據(jù)主權(quán)的概念。這些數(shù)據(jù)權(quán)利與數(shù)據(jù)主體權(quán)利構(gòu)成了一個(gè)數(shù)據(jù)權(quán)利譜系。在這套權(quán)利譜系中，存在個(gè)人、企業(yè)、監(jiān)管機(jī)構(gòu)、政府部門等多個(gè)數(shù)據(jù)權(quán)利主張者。對此，需要在法理學(xué)的指導(dǎo)下，結(jié)合司法實(shí)踐，進(jìn)一步明確個(gè)人隱私保護(hù)權(quán)利、數(shù)據(jù)財(cái)產(chǎn)權(quán)、數(shù)據(jù)主權(quán)等各類數(shù)據(jù)權(quán)利的確權(quán)規(guī)定，以及相應(yīng)的沖突解決規(guī)則和路徑。

算法存在風(fēng)險(xiǎn)和缺陷，可能引發(fā)傷害，那么誰應(yīng)該為算法的傷害負(fù)責(zé)？有這么一個(gè)經(jīng)常被提到的案例：2018年3月18日，伊萊恩·赫茨伯格（Elaine Herzberg）在美國亞利桑那州坦佩市騎車橫穿馬路，被一輛自動駕駛汽車撞倒，不幸身亡。雖然車上有安全駕駛員，但當(dāng)時(shí)汽車完全由自動駕駛系統(tǒng)控制。這起事故提出了一系列的道德和法律問題：誰應(yīng)該為赫茨伯格的死負(fù)責(zé)？是測試那輛汽車的公司，是該人工智能系統(tǒng)的設(shè)計(jì)者，是車載感應(yīng)設(shè)備的制造商，還是坐在駕駛位上的安全駕駛員？回答這個(gè)問題，需要清晰合理地界定人工智能各方的責(zé)任邊界，這其實(shí)并不容易。甚至有人提出，如果未來人工智能有了公民身份，它是否需要承擔(dān)法律責(zé)任以及如何界定？是否因此而減輕相關(guān)方的法律責(zé)任，以及這樣做是否合理？這些問題均值得我們認(rèn)真研究。

在司法抗辯過程中，算法鴻溝值得重視。算法通常是隱秘的，或是專利，或是商業(yè)秘密。即便公開，也因技術(shù)門檻的存在，導(dǎo)致并非人人都能看懂。這就形成新的數(shù)字鴻溝。不懂算法的人群在利益受損時(shí)有可能并不知情，即便知情，也可能無力舉證和對抗。為此，我們需要針對算法可抗辯性建立適當(dāng)?shù)乃痉C(jī)制和程序，以保障司法公平正義。

加強(qiáng)算法治理的目標(biāo)并不是打擊或抑制算法的創(chuàng)新應(yīng)用，而是為了規(guī)范，并在規(guī)范中進(jìn)一步促進(jìn)算法技術(shù)和產(chǎn)業(yè)發(fā)展。從這個(gè)意義來說，加強(qiáng)算法技術(shù)本身及相關(guān)產(chǎn)品的法律保護(hù)，如知識產(chǎn)權(quán)、著作權(quán)、專利權(quán)保護(hù)，也是算法治理的應(yīng)有之義。

總之，隨著各類先進(jìn)數(shù)字技術(shù)的發(fā)展與應(yīng)用，我們正迎來以數(shù)據(jù)為基礎(chǔ)、以算法為核心、以算力為支撐的數(shù)字經(jīng)濟(jì)時(shí)代，算法治理已成為重要的社會治理命題，有許多問題值得我們研究和探索。研究這些問題，不僅需要計(jì)算機(jī)、經(jīng)濟(jì)學(xué)、社會學(xué)，還需要法學(xué)和倫理學(xué)等各個(gè)學(xué)科的智慧與洞見。

本譯書《算法治理：法律與道德挑戰(zhàn)》著重從法學(xué)和倫理學(xué)的角度探討了算法公平、算法自動化決策的透明性和正當(dāng)程序、責(zé)任、數(shù)據(jù)隱私保護(hù)、消費(fèi)者權(quán)益保護(hù)、算法產(chǎn)品法律保護(hù)等廣泛議題。每篇文章的分析邏輯嚴(yán)謹(jǐn)，細(xì)致入微，見解深刻，是難得的佳作，因此譯者將其翻譯成中文，希望能為我國算法治理研究者和政策制定者提供有益的參考。

值得一提的是，譯書原名為Algorithmic Governance and Governance of Algorithms：Legal and Ethical Challenges，意涵豐富，既包含“基于算法的治理”（Algorithmic Governance），又包含“針對算法的治理”（Governance of Algorithms）?？紤]到中文“算法治理”在不同語境中的含義變化，因此譯者化繁為簡，直截了當(dāng)將“算法治理”作為中文書名。

是為序。