論算法權(quán)力的規(guī)制——基于憲法價(jià)值的視角

吳松波

（中國社會(huì)科學(xué)院大學(xué) 北京 100020）

引言

算法時(shí)代的開啟，使得數(shù)字技術(shù)不僅改變科技，也在改變著生產(chǎn)方式，改變著商業(yè)模式以及人與人之間的關(guān)系。算法已不僅僅是特定的技術(shù)，更是社會(huì)權(quán)力運(yùn)行體系中的重要變量。掌握算法的企業(yè)和組織利用技術(shù)優(yōu)勢，把控社會(huì)的信息及資源，引導(dǎo)政府的決策，甚至進(jìn)入司法程序之中，形成了一種非國家力量的“準(zhǔn)公權(quán)力”。所以，在如今的人類社會(huì)，由于算法權(quán)力的興起和異化出現(xiàn)了“修昔底德陷阱”。人工智能時(shí)代背景下的各類數(shù)字技術(shù)為現(xiàn)代社會(huì)治理拋出了挑戰(zhàn)。算法的日益強(qiáng)大讓人類感到恐慌。正因?yàn)槿绱?，?dāng)算法技術(shù)深度嵌入人類生活之時(shí)，算法權(quán)力將傾軋個(gè)人權(quán)利，算法權(quán)力和個(gè)人權(quán)利之間的沖突和平衡，是憲法時(shí)刻下的嚴(yán)峻挑戰(zhàn)。在這樣的沖突中，算法權(quán)力的治理路徑應(yīng)當(dāng)符合憲法價(jià)值，不得背離現(xiàn)代國家的要求，提防技術(shù)對(duì)人的統(tǒng)治。

一、算法權(quán)力的興起

在人工智能時(shí)代的背景下，數(shù)據(jù)的龐大與繁雜遠(yuǎn)遠(yuǎn)超過了人工算力的范疇，我們只能通過只能智能算法對(duì)數(shù)據(jù)進(jìn)行分析。然而，智能算法本身不能生產(chǎn)任何目的，它只能作為手段在大量數(shù)據(jù)分析下尋找問題的最優(yōu)解。隨著人工智能的持續(xù)發(fā)展，人類將進(jìn)入一切皆可計(jì)算的時(shí)代。大數(shù)據(jù)是當(dāng)今時(shí)代最為重要的資源，而數(shù)據(jù)掌控者往往是最先進(jìn)入這些領(lǐng)域的企業(yè)，算法又依靠著大量數(shù)據(jù)開始運(yùn)行，故這些企業(yè)可以利用數(shù)據(jù)和算法把控社會(huì)資源，從而作出最利于自己利益的決策甚至可以影響政府的公共政策。算法權(quán)力就是這些人工智能技術(shù)發(fā)達(dá)且擁有大量用戶數(shù)據(jù)的企業(yè)利用自身算法的先進(jìn)性和隱蔽性來對(duì)公民、社會(huì)甚至國家產(chǎn)生影響的一種力量。馬克思·韋伯曾指出，“權(quán)力意味著在一種社會(huì)關(guān)系里，哪怕是遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)，不管這種機(jī)會(huì)是建立在什么基礎(chǔ)上”。可見，權(quán)力根植于支配他人并使他人受其影響和控制之中，是一方對(duì)另一方的支配與控制。算法權(quán)力就是基于其要求的專業(yè)水平高、準(zhǔn)入門檻高以及其內(nèi)容的隱蔽性來徹底地實(shí)現(xiàn)自己的意志。故算法權(quán)力是一種算法支配者通過自身的技術(shù)優(yōu)勢在算法運(yùn)行的過程中影響和調(diào)控算法相對(duì)人的新型技術(shù)性權(quán)力。算法權(quán)力的運(yùn)行邏輯就是利用算法的隱蔽性來使得算法相對(duì)人將其自主支配的決策權(quán)讓渡給了算法支配者預(yù)先設(shè)定好的算法技術(shù)之中。

二、算法權(quán)力對(duì)個(gè)人權(quán)利的沖擊

現(xiàn)代憲法的根本原則就是維護(hù)公民的自由與平等，同時(shí)現(xiàn)代憲法精神也一直不斷地強(qiáng)調(diào)隱私權(quán)和個(gè)人信息保護(hù)，而在算法時(shí)代里，這些構(gòu)成我們賴以生存的價(jià)值與基礎(chǔ)很有可能在無法察覺間遭受損害。

（一）算法權(quán)力給“人的尊嚴(yán)”價(jià)值帶來的挑戰(zhàn)

“人的尊嚴(yán)”的憲法價(jià)值內(nèi)涵主要來源于康德所述“人是目的，不是手段”。人的尊嚴(yán)是一種寶貴的憲法價(jià)值屬性：尊重和保護(hù)人的尊嚴(yán)是構(gòu)成整個(gè)人權(quán)系統(tǒng)的規(guī)范基礎(chǔ)。堅(jiān)持人的主體性，禁止將人當(dāng)作客體看待，秉持“人是目的”的原則，這就是“人的尊嚴(yán)”價(jià)值的主體要求。公民作為具有獨(dú)立自由意志的主體應(yīng)當(dāng)享有得到尊重的權(quán)利，“人的尊嚴(yán)”的基本價(jià)值取向就是保護(hù)這種權(quán)利。然而，算法權(quán)力的興起將給“人的尊嚴(yán)”的憲法價(jià)值帶來前所未有的挑戰(zhàn)。

一些權(quán)勢集團(tuán)能夠憑借著“天然優(yōu)勢”形成對(duì)公共領(lǐng)域的“權(quán)力凝視”。由于算法在設(shè)計(jì)操作上的不透明性容易被一些權(quán)勢集團(tuán)所利用，通過影響個(gè)體行為以達(dá)到自身利益。即在算法運(yùn)行過程中，從數(shù)據(jù)輸入到結(jié)果輸出，存在著由算法支配者所掌握的隱層空間，所以算法支配者可以通過這種隱層空間來達(dá)到自身的利益和目的。在這個(gè)過程的同時(shí)，作為“人的尊嚴(yán)”的價(jià)值也將被算法侵害，例如美團(tuán)、餓了么等外賣平臺(tái)企業(yè)就通過算法的運(yùn)用來對(duì)勞動(dòng)力進(jìn)行最大化壓榨，以達(dá)到平臺(tái)企業(yè)利潤最大化的目的，與其說外賣騎手“被困在了算法里”不如說這是算法支配者運(yùn)用算法權(quán)力對(duì)勞動(dòng)者個(gè)人權(quán)利的傾軋。一張精心設(shè)計(jì)的算法網(wǎng)絡(luò)將配送員包裹在內(nèi)，無法自拔。在外賣平臺(tái)企業(yè)的算法邏輯中只顧利潤的追逐，不顧人的主觀能動(dòng)性的局限性，一味地按照算法最優(yōu)解給騎手派單，實(shí)現(xiàn)對(duì)騎手精準(zhǔn)的控制。這不僅是漠視憲法“人的尊嚴(yán)”的價(jià)值，同時(shí)也是資本對(duì)勞動(dòng)力的壓榨。在算法系統(tǒng)里，只有數(shù)據(jù)，并沒有人的存在，我們只是一個(gè)0編碼的碳基人，就更無法談上對(duì)人的尊嚴(yán)的價(jià)值判斷。

（二）算法權(quán)力給平等權(quán)保護(hù)帶來挑戰(zhàn)

算法權(quán)力在運(yùn)行的過程中很有可能形成算法歧視，算法作為預(yù)測分析技術(shù)，可能會(huì)因?yàn)閮?nèi)置性編碼凝視，有限、不相關(guān)或不正確的訓(xùn)練數(shù)據(jù)造成算法歧視，將給平等權(quán)保護(hù)帶來挑戰(zhàn)。

在海量數(shù)據(jù)的分析下，算法支配者可以通過算法捕捉每一個(gè)公民的畫像，即形成公民的“數(shù)字人格”，這些數(shù)據(jù)有可能相伴公民的一生。這種“評(píng)分社會(huì)”將使得個(gè)人權(quán)利的自我救濟(jì)和保護(hù)在算法權(quán)力面前無法伸張。在算法權(quán)力的支配下，根據(jù)支配者的不同目的來獲取公民的“數(shù)字人格”，這就不可避免地將公民劃分成了“三六九等”。常見的是，算法通過用戶數(shù)據(jù)分析用戶的行事風(fēng)格及愛好，對(duì)不同群體進(jìn)行分類與身份建構(gòu)，從而量身定制反映其支付意愿的價(jià)格，實(shí)現(xiàn)同物不同價(jià)的價(jià)格歧視。同時(shí)這種算法歧視也將排斥個(gè)人在社會(huì)生活中發(fā)展的多樣性，由于算法黑箱的存在，算法本身也并非純粹客觀的數(shù)據(jù)處理技術(shù)，其存在諸多不為使用者知曉的因素，我們讓算法代替自己做出選擇，就將減少我們自身發(fā)展的可能性。其實(shí)算法在替代我們做出選擇之時(shí)，我們就減少了自己人生的發(fā)展際遇。

（三）算法權(quán)力導(dǎo)致的公權(quán)力運(yùn)行失范

現(xiàn)代憲法圍繞著限制公權(quán)力做了一系列的努力?！肮珯?quán)力”屬于他賦權(quán)，我們之所以愿意走進(jìn)這個(gè)社會(huì)接受這個(gè)政權(quán)的統(tǒng)治并為此讓渡自身的權(quán)利，那是因?yàn)槲覀兿嘈胚@是一套好的社會(huì)制度，是可以帶領(lǐng)人民走向富強(qiáng)的政權(quán)。這就是所謂政權(quán)合法性的來源，是我們所賦予其的。如今在算法時(shí)代之下，算法權(quán)力的運(yùn)行并不屬于“人們的賦予”，而是自賦權(quán)，從算法被帶有目的性地設(shè)計(jì)運(yùn)行后起，它便有了這種權(quán)力。因?yàn)樗惴ǖ乃懔?yōu)勢使得政府機(jī)關(guān)在決策過程中，需要算法依賴算法來提高自身的效率，這種技術(shù)依賴性使得算法權(quán)力在政權(quán)運(yùn)行的角落里逐漸嵌入“公權(quán)力”。算法決策正在代替行政、司法決策。且有的人工智能技術(shù)日漸增強(qiáng)，賦予了非國家行為者特別大的權(quán)力。然而，算法權(quán)力為自賦權(quán)，其并不具有權(quán)力的合法性來源，一旦算法權(quán)力嵌入或入侵“公權(quán)力”，個(gè)人權(quán)利難以得到保證或者說個(gè)人權(quán)利難以對(duì)抗算法的黑箱化，造成個(gè)人權(quán)利和算法權(quán)力的失衡。

三、規(guī)制算法權(quán)力：達(dá)到算法權(quán)力和個(gè)人權(quán)利的平衡

（一）算法權(quán)力的運(yùn)行應(yīng)當(dāng)符合“以人為本”的理念

人是目的，不是手段。以人為本才是現(xiàn)代社會(huì)發(fā)展的前提和基石，尊重人的尊嚴(yán)，強(qiáng)調(diào)人的價(jià)值是現(xiàn)代憲法價(jià)值的精神。雖然，算法的時(shí)代將不可避免地到來，站在經(jīng)濟(jì)發(fā)展和社會(huì)公共利益上的角度來說，算法的發(fā)展是合乎理性的選擇。但是，人在算法面前不能保持主體性的話，如若算法的發(fā)展不以人為本，不受這些憲法價(jià)值的制約，其發(fā)展很有可能變成洪水猛獸，吞沒基于憲法價(jià)值所要求的一切。也意味著現(xiàn)代憲法體制對(duì)算法發(fā)展和科技發(fā)展的退讓，一旦退讓，我們個(gè)人的自由與權(quán)利將沒有持續(xù)存在的空間。2019年4月8日，歐盟委員會(huì)AI高級(jí)專家組制定并發(fā)布了《可信AI的倫理指南》，其中將人的尊嚴(yán)作為人工智能發(fā)展的核心價(jià)值，提出了可信AI的七項(xiàng)原則，其中包括人工智能不應(yīng)該踐踏人類的自主性，人們不應(yīng)該被AI系統(tǒng)操縱或脅迫，并且，人類應(yīng)該能夠干預(yù)或監(jiān)督軟件作出的每一個(gè)決定。只有先設(shè)定好算法權(quán)力運(yùn)行的限制機(jī)制，算法權(quán)力才能得到健康的發(fā)展。缺乏憲法價(jià)值的指引將導(dǎo)致技術(shù)的發(fā)展背離“人的關(guān)懷”，背離現(xiàn)代國家的要求，這樣的技術(shù)發(fā)展將是無序的野蠻生長，將不受我們的控制。人的主體性地位必須貫穿科技發(fā)展的始終。

（二）設(shè)計(jì)算法倫理限制算法權(quán)力

算法倫理的基本價(jià)值取向應(yīng)當(dāng)是是保障人的價(jià)值和尊嚴(yán)，充分尊重個(gè)人權(quán)利。智能技術(shù)對(duì)大量信息的掌握會(huì)導(dǎo)致人類失去隱私和主體性價(jià)值，受到算法支配者效率為主算力邏輯的引導(dǎo)，算法設(shè)計(jì)者和開發(fā)者往往將注意力集中在吸引甚至迎合用戶上。這種偏好原則可能將用戶鎖定在“信息繭房”中，從而忽視了用戶的數(shù)字福祉（digital well-being）。故需要進(jìn)行算法倫理的設(shè)計(jì)從算法設(shè)計(jì)的基礎(chǔ)上引導(dǎo)算法邏輯的走向。算法倫理的設(shè)計(jì)首先要將人視為有權(quán)利的及有價(jià)值的個(gè)體，尊重人的自由和人格。其次要保證信息的完整性和私密性，用戶隱私需要有所保障。算法倫理是從源頭上限制算法權(quán)力的有力手段，算法倫理的合理設(shè)計(jì)能夠降低控制算法權(quán)力的成本，對(duì)算法倫理應(yīng)當(dāng)投入更大的關(guān)注程度。

（三）強(qiáng)化政府算力

政府的算力如若得不到強(qiáng)化，其在監(jiān)管算法及算法權(quán)力面前是無力的。平臺(tái)企業(yè)聘請(qǐng)的人工智能專家都被支付了巨額的薪水，政府是無法在薪酬與這些致力于發(fā)展人工智能的企業(yè)媲美的。所以政府沒有強(qiáng)大算力支撐，其也不了解這些企業(yè)的算法開發(fā)和算法運(yùn)行，無法實(shí)現(xiàn)有效的監(jiān)管。只有政府擁有一流的人工智能專家，能夠了解算法的開發(fā)與運(yùn)行，才能使得這些掌握大量數(shù)據(jù)的平臺(tái)企業(yè)套上法律的韁繩。

首先，政府要加大對(duì)算法設(shè)計(jì)和研發(fā)的重視，進(jìn)行政策扶植，建立算法研發(fā)科技中心，將智能算法系統(tǒng)的核心技術(shù)掌握在政府手中，避免演變?yōu)橹鹄墓ぞ?，確保國家在智能轉(zhuǎn)型過程中的技術(shù)安全。從現(xiàn)有政府使用的智能治理系統(tǒng)的研發(fā)主體來看，表面上是不同層級(jí)的政府聯(lián)合有關(guān)企業(yè)進(jìn)行研發(fā)的，但智能治理系統(tǒng)的核心算法是由少數(shù)企業(yè)研發(fā)出來的。為了有效降低國家和社會(huì)對(duì)于主導(dǎo)算法設(shè)計(jì)和研發(fā)過程的資本的技術(shù)依賴，國家必須加大對(duì)算法設(shè)計(jì)和研發(fā)的投入力度，來打破企業(yè)對(duì)少數(shù)企業(yè)的算法技術(shù)依賴。其次還應(yīng)當(dāng)通過建立一些糾偏機(jī)制來獲得與企業(yè)共同監(jiān)管算法的空間。例如可以建立風(fēng)險(xiǎn)監(jiān)控機(jī)制，對(duì)屬于網(wǎng)絡(luò)關(guān)鍵信息基礎(chǔ)設(shè)施的網(wǎng)絡(luò)平臺(tái)企業(yè)，應(yīng)當(dāng)要求其和政府的算力部門共同建立針對(duì)算法失靈、算法崩潰的應(yīng)急預(yù)案機(jī)制。故從算法技術(shù)上進(jìn)行反壟斷，打破少數(shù)企業(yè)的算法壟斷是政府強(qiáng)化算力的重點(diǎn)。反壟斷不僅體現(xiàn)在技術(shù)研發(fā)上，也應(yīng)當(dāng)有配套的法律制度，雙管齊下來打破技術(shù)壟斷，強(qiáng)化政府算力。

四、結(jié)語

面對(duì)人工智能時(shí)代下已經(jīng)來臨的憲法時(shí)刻，我們更需要憲法價(jià)值的指引。同時(shí)，隨著算法在各領(lǐng)域深度應(yīng)用從而涌現(xiàn)出“算法歧視”“算法黑箱”“算法獨(dú)裁”等諸多問題。算法支配者通過算法過于人的算力以及算法黑箱的存在將自己的意圖隱蔽的嵌入算法之中試圖形成新的行為規(guī)范而直接或間接調(diào)控算法相對(duì)人行為使算法權(quán)力最終得以生成。普通的算法相對(duì)人無法抵抗掌控算法權(quán)力的算法控制者和算法設(shè)計(jì)者的侵害，所以我們需要通過為算法相對(duì)人設(shè)置權(quán)利來平衡雙方不平等的地位，增加算法相對(duì)人的博弈資本，使其免受算法權(quán)力的侵害。只有跳脫出技術(shù)崇拜，充分意識(shí)到技術(shù)運(yùn)用的非理性，在以尊崇憲法價(jià)值為核心的導(dǎo)向去構(gòu)建和完善算法運(yùn)用的規(guī)制路徑才能捍衛(wèi)人的尊嚴(yán)及主體性。