數(shù)字社會建設(shè)中的算法安全風(fēng)險及其化解策略

張龍輝

(1.東北師范大學(xué) 政法學(xué)院,吉林 長春 130117; 2.南開大學(xué) 周恩來政府管理學(xué)院,天津 300350)

為了適應(yīng)數(shù)字技術(shù)逐漸全面融入社會交往和人們?nèi)粘Ｉ畹男纶厔?我國“十四五”規(guī)劃和《“十四五”國家信息化規(guī)劃》指出,要搶抓信息革命機遇,構(gòu)筑國家競爭新優(yōu)勢,加快數(shù)字社會建設(shè)步伐,以促進公共服務(wù)和社會運行方式創(chuàng)新,構(gòu)筑全民暢享的數(shù)字生活。2023年2月出臺的《數(shù)字中國建設(shè)整體布局規(guī)劃》也強調(diào),要構(gòu)建普惠便捷的數(shù)字社會,普及數(shù)字生活智能化,推進數(shù)字社會治理精準(zhǔn)化。數(shù)字社會建設(shè)能夠有效增強社會運行效率,變革社會生產(chǎn)關(guān)系,增進社會智能化、數(shù)字化水平。數(shù)字社會的運行依賴于智能技術(shù)及其內(nèi)在的算法,去中心化、合邏輯性、非道德性等是算法的主要特征,以最為便捷的路徑取得最大的算法效益是其本質(zhì)邏輯。但受算法模型不完備、算法運行社會場景變化等因素影響,在數(shù)字社會建設(shè)過程中不可避免地會遭遇算法安全問題。算法安全是一種伴隨算法技術(shù)平臺化應(yīng)用而出現(xiàn)的技術(shù)安全,是一種新興的社會安全類型,是我國總體國家安全觀的重要組成部分。對算法安全及其產(chǎn)生的社會風(fēng)險的研究關(guān)乎我國數(shù)字社會建設(shè)質(zhì)量和水平,影響中國式現(xiàn)代化進程。因此,需要強化對數(shù)字社會建設(shè)過程中算法安全問題的研究,探討數(shù)字社會運行的底層邏輯,分析數(shù)字社會建設(shè)過程中存在的算法安全風(fēng)險,尋求算法安全風(fēng)險的化解策略。

一、算法安全風(fēng)險:數(shù)字社會建設(shè)不可回避的技術(shù)風(fēng)險

隨著數(shù)字技術(shù)的發(fā)展,尤其是智能數(shù)字技術(shù)社會化應(yīng)用場景的增多,數(shù)字技術(shù)逐漸全面融入社會交往和人們的日常生活之中,建設(shè)數(shù)字社會成為我國數(shù)字化建設(shè)目標(biāo)。數(shù)字社會的建設(shè)和運行依賴于人工智能、區(qū)塊鏈以及虛擬現(xiàn)實(VR)等算法技術(shù)平臺,它們的運行離不開完備的算法支撐。算法的平臺化應(yīng)用能夠為數(shù)字社會運行提供強大算力,增進社會運行的數(shù)字化和智能化水平。與此同時,受算法模型完備性、算法內(nèi)在邏輯等因素影響,數(shù)字社會還存在不可避免的算法安全問題。

(一)算法:支撐數(shù)字社會運行的底層邏輯

過去的40年是人類社會向數(shù)字社會轉(zhuǎn)型的40年,也是數(shù)字技術(shù)加速向社會擴散的40年。數(shù)字技術(shù)的擴散將人類帶進了數(shù)字時代(1)邱澤奇:《數(shù)字社會與計算社會學(xué)的演進》,《江蘇社會科學(xué)》2022年第1期。,形成了與工業(yè)社會具有本質(zhì)區(qū)別的數(shù)字技術(shù)社會形態(tài)。數(shù)字社會是一個以現(xiàn)代數(shù)字技術(shù),尤其是智能數(shù)字技術(shù)為基礎(chǔ)的社會系統(tǒng),人工智能、區(qū)塊鏈、云計算以及虛擬現(xiàn)實(VR)等數(shù)字技術(shù)是推動數(shù)字社會運行、影響人們社會交往、促進生產(chǎn)變革的技術(shù)基礎(chǔ)。元宇宙等虛擬算法空間的建構(gòu)使現(xiàn)實世界的倫理秩序向算法空間延伸(2)藍江:《云秩序、物體間性和虛體——數(shù)字空間中的倫理秩序奠基》,《道德與文明》2022年第6期。,運用數(shù)字技術(shù)建造數(shù)字化場景,將整個社會規(guī)則和社會場景數(shù)字化,借助數(shù)據(jù)賦予現(xiàn)實的人以虛擬的身份(3)Harcourt Bernard E.,Exposed:Desire and Disobedience in the Digital Age,Cambridge:Harvard University Press,2015,p.1.,甚至能夠通過算法迭代打造數(shù)字生命。這就賦予“人”新的內(nèi)涵,并拓展了人類活動空間,使人類活動空間由傳統(tǒng)的物理空間向數(shù)字技術(shù)應(yīng)用場景下的算法空間延伸。因此,數(shù)字技術(shù)的社會化應(yīng)用變革了社會生產(chǎn)組織方式,改變了傳統(tǒng)的社會關(guān)系場域,數(shù)字社會的建設(shè)溝通了算法世界和物理世界,促進了虛擬算法世界和現(xiàn)實物理世界的融合。借助數(shù)字技術(shù)載體將原本屬于虛擬算法世界的運行規(guī)則、技術(shù)倫理和數(shù)字化秩序映射進現(xiàn)實世界,對現(xiàn)實世界的運行規(guī)則、道德倫理和社會秩序產(chǎn)生影響,數(shù)字技術(shù)成為溝通算法空間和物理空間、算法世界和物理世界的中介(見圖1)。

圖1 數(shù)字技術(shù)在數(shù)字社會中的橋梁作用示意圖

數(shù)字技術(shù)的社會化應(yīng)用推動了社會數(shù)字革命,實現(xiàn)了算法的平臺化應(yīng)用。算法、數(shù)據(jù)和算力成為數(shù)字革命中重要的社會要素(4)高奇琦:《國家數(shù)字能力:數(shù)字革命中的國家治理能力建設(shè)》,《中國社會科學(xué)》2023年第1期。。人工智能、區(qū)塊鏈等數(shù)字技術(shù)都圍繞這些要素運行,并對人類社會產(chǎn)生影響。這些數(shù)字技術(shù)是支撐數(shù)字社會建構(gòu)和運行的技術(shù)基礎(chǔ),算法和數(shù)據(jù)則是智能數(shù)字技術(shù)的基石(5)張龍輝、肖克、王寒:《人工智能應(yīng)用下的特大城市邊緣城區(qū)治理:技術(shù)變革、價值隱憂與技術(shù)路徑》,《電子政務(wù)》2020年第9期。。數(shù)字技術(shù)是數(shù)字社會形成的技術(shù)載體,是算法的平臺化應(yīng)用。算法是支撐數(shù)字技術(shù)運行的邏輯基礎(chǔ),也是算力形成的根本所在。算法的平臺化應(yīng)用催生了算法推薦、算法分析、算法決策和算法權(quán)力,形成了信息傳播新范式,重構(gòu)了公眾認(rèn)知與生活邏輯,變革了決策模式,提升了決策效率,改變了傳統(tǒng)的權(quán)力運行邏輯。例如,算法可以借助深度嵌入社會的數(shù)字化平臺搜集信息和數(shù)據(jù),建構(gòu)社會數(shù)據(jù)化特征和數(shù)據(jù)化場景,并據(jù)此進行算法決策(6)Berk Richard A.,Kuchibhotla Arun Kumar,Tchetgen Eric Tchetgen,“Fair Risk Algorithms”,Annual Review of Statistics and Its Application,Vol.10,2023,pp.165-187.;算法的精準(zhǔn)性和公平性直接關(guān)乎算法決策的結(jié)果,并與算法平臺的普及和嵌入社會的程度息息相關(guān)。因此,“算法技術(shù)的平臺化運用使得算法成為聯(lián)結(jié)社會的基礎(chǔ)座架”(7)張濤甫:《算法“失算”與社會的結(jié)構(gòu)性“失能”》,《上海交通大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2023年第3期。。算法模型及其內(nèi)在的數(shù)理邏輯規(guī)定著數(shù)字社會的運行規(guī)則、數(shù)字倫理規(guī)范、權(quán)力運行邏輯、社會交往關(guān)系以及社會結(jié)構(gòu)。它不僅影響社會資源的配置,變革社會生產(chǎn)組織方式,還能夠介入政府政治過程,影響社會格局的塑造。算法成為影響數(shù)字社會運行的底層邏輯。

算法的平臺化應(yīng)用對社會產(chǎn)生了結(jié)構(gòu)性影響。借助人工智能(包括生成式AI,如ChatGPT)、區(qū)塊鏈、元宇宙等技術(shù)平臺,算法及算法服務(wù)逐漸嵌入社會諸多領(lǐng)域,推動了數(shù)字經(jīng)濟發(fā)展,賦予了算法權(quán)力公共性,使其成為一種社會公共權(quán)力,并催生了數(shù)據(jù)、信息等新的社會生產(chǎn)要素。在當(dāng)代社會生活中,“算法無處不在”(8)劉河慶、梁玉成:《透視算法黑箱:數(shù)字平臺的算法規(guī)制與信息推送異質(zhì)性》,《社會學(xué)研究》2023年第2期。?，F(xiàn)實社會的運行和人們的行為越來越多地受到算法及其倫理規(guī)則影響:算法推薦、算法決策、算法權(quán)力、算法分析極大地改變了社會運行規(guī)則,左右了人們的思維和行動邏輯。算法推薦技術(shù)的研發(fā)催生了信息傳播新范式,變革了商業(yè)營銷模式,在提升信息匹配效率、降低用戶信息選擇成本、有效滿足公眾個性化需求的同時(9)吳鋒、楊曉萍:《算法推薦背景下用戶媒介使用對“回音室”效應(yīng)的影響研究——兼論媒介素養(yǎng)的調(diào)節(jié)作用》,《西南民族大學(xué)學(xué)報(人文社會科學(xué)版)》2022年第5期。,使公眾基于龐大的數(shù)據(jù)分析社會運行態(tài)勢、經(jīng)濟生產(chǎn)趨勢等,從而謀求個性化生活服務(wù)和針對性商業(yè)營銷。算法權(quán)力的建構(gòu)則改變了傳統(tǒng)的權(quán)力運行邏輯,改變了傳統(tǒng)的社會主體權(quán)力權(quán)重(10)張愛軍、孫玉尋:《算法權(quán)力及其國家能力形塑的主體透視》,《學(xué)術(shù)月刊》2021年第12期。,打破了傳統(tǒng)資本邏輯對公共權(quán)力的控制,在權(quán)力運行的資本邏輯之外出現(xiàn)了基于算法的數(shù)理邏輯,在傳統(tǒng)的科層制權(quán)力結(jié)構(gòu)之外形成了去中心化的技術(shù)權(quán)力結(jié)構(gòu),從而改變了社會權(quán)力結(jié)構(gòu),催生了新的權(quán)力主體。

算法對社會生產(chǎn)生活的深度嵌入催生了新的社會經(jīng)濟生產(chǎn)主體,變革了人類社會生產(chǎn)關(guān)系。算法及算法服務(wù)的普及推動了數(shù)字經(jīng)濟發(fā)展,智能機器人、智能化生產(chǎn)設(shè)備等成為新的經(jīng)濟活動參與者。智能化經(jīng)濟活動主體的出現(xiàn)在一定程度上解放了人類勞動,改變了社會生產(chǎn)關(guān)系,社會生產(chǎn)由傳統(tǒng)的人的勞動向類人智能機器的勞動拓展,并催生了基于人與智能機器的新的社會生產(chǎn)關(guān)系類型。同時,借助數(shù)字生產(chǎn)平臺能夠?qū)崿F(xiàn)市場要素的一體化,提升市場的全要素生產(chǎn)率,形成數(shù)字經(jīng)濟的規(guī)模效應(yīng)(11)Stephanie Arnold,“Drivers and Barriers of Digital Market Integration in East Africa: A Case Study of Rwanda and Tanzania”,Politics and Governance,Vol.10,No.2,2022,pp.106-115.,轉(zhuǎn)變社會經(jīng)濟發(fā)展模式。但智能機器人等智能化生產(chǎn)設(shè)備的普及衍生了“AI失業(yè)問題”,機器取代人成為數(shù)字社會中的勞動者,這在減少勞動者勞動時間的同時,也會帶來社會經(jīng)濟制度的根本性變革,并引起人們對傳統(tǒng)社會剝削制度的反思。元宇宙等虛擬算法空間的建構(gòu)則拓展了人類社會活動空間,重組了人類社會活動的時空要素,使人類活動空間向時空要素可變的虛擬算法空間延伸,并在這一空間中建構(gòu)基于算法規(guī)則的虛擬社會關(guān)系網(wǎng)絡(luò),從而推動了人類社會關(guān)系網(wǎng)絡(luò)的重組。且隨著算法逐漸成為驅(qū)動社會進步和社會運行的重要力量,算法得以借助技術(shù)平臺重塑個人與社會面貌(12)張敏:《算法治理:21世紀(jì)的公共管理現(xiàn)代化與范式變革》,《政治學(xué)研究》2022年第4期。,成為支配社會運轉(zhuǎn)的一種潛在權(quán)力,并借助深嵌于社會各領(lǐng)域的數(shù)字技術(shù)平臺和算法邏輯重新組織社會。算法的平臺化應(yīng)用以及社會數(shù)字化轉(zhuǎn)型對數(shù)字技術(shù)的依賴還催生了智能精英主義,賦予技術(shù)專家強勢權(quán)力地位(13)劉永謀:《智能治理的哲學(xué)反思》,《中國人民大學(xué)學(xué)報》2022年第3期。。技術(shù)精英階層成為數(shù)字社會中的強勢階層,他們憑借對算法資源的掌握實現(xiàn)了對社會治理的技術(shù)操控。

(二)算法安全風(fēng)險:算法平臺化應(yīng)用的負向效應(yīng)

算法的平臺化應(yīng)用在給社會運行和生產(chǎn)帶來變革的同時,也引發(fā)了一定的負向效應(yīng),使數(shù)字社會建設(shè)面臨風(fēng)險和挑戰(zhàn)。算法平臺化應(yīng)用引發(fā)的第一個問題是倫理問題,主要是算法倫理對現(xiàn)實世界的入侵以及算法正義與社會正義的沖突問題。數(shù)字社會的倫理問題主要源于算法模型漏洞、網(wǎng)絡(luò)技術(shù)的缺陷以及法律法規(guī)不完善等(14)朱銀全:《數(shù)字社會的倫理問題解析》,《現(xiàn)代情報》2006年第1期。,它主要體現(xiàn)在算法倫理對現(xiàn)實世界的入侵,是算法倫理與人類社會倫理交互作用的結(jié)果。算法平臺化應(yīng)用豐富了人類社會倫理內(nèi)涵和類型,產(chǎn)生了算法倫理等新的技術(shù)倫理,推動人類社會倫理由碳基倫理向硅基倫理延伸。算法倫理借助算法技術(shù)平臺映射進現(xiàn)實世界,進而引發(fā)數(shù)字社會建設(shè)中的數(shù)據(jù)信息安全倫理風(fēng)險、勞動倫理侵蝕風(fēng)險以及人際關(guān)系倫理風(fēng)險等倫理問題(15)田旭明:《數(shù)字社會的主要倫理風(fēng)險及其應(yīng)對》,《中州學(xué)刊》2022年第2期。。而數(shù)字社會中存在的全方位、無死角性和非遺忘性的算法監(jiān)控又改變了傳統(tǒng)輿論倫理,使現(xiàn)實社會的輿論倫理發(fā)生新的變化。算法平臺化應(yīng)用中的不確定性還會造成歧視、運行不透明等道德問題(16)Kathrin Hartmann,Georg Wenzelburger,“Uncertainty,Risk and the Use of Algorithms in Policy Decisions:A Case Study on Criminal Justice in the USA”,Policy Sciences,Vol.54,2021,pp.269-287.,對數(shù)字弱勢群體的忽視容易帶來新的社會不平等,引發(fā)社會公平正義危機。

算法平臺化應(yīng)用引發(fā)的第二個問題是權(quán)力的來源、形成和運行問題。算法技術(shù)平臺的廣泛應(yīng)用、智能算法的深度嵌入推動了權(quán)力機制的重構(gòu),影響了權(quán)力的來源,變革了權(quán)力的生產(chǎn)。數(shù)字化的規(guī)則和秩序在一定程度上改寫了社會中權(quán)力與權(quán)利的關(guān)系,使國家與社會的控制權(quán)之爭從傳統(tǒng)物理空間拓展到虛擬算法空間(17)周尚君:《數(shù)字社會對權(quán)力機制的重新構(gòu)造》,《華東政法大學(xué)學(xué)報》2021年第5期。,并借助數(shù)字技術(shù)實現(xiàn)“自我賦權(quán)”,進而形成既能夠采集政治權(quán)力聲望,也能夠獲得巨大經(jīng)濟利益的“第五權(quán)力”(18)馬克·格雷厄姆、威廉·H.達頓:《另一個地球:互聯(lián)網(wǎng)+社會》,胡泳等譯,北京:電子工業(yè)出版社,2015年,第222頁。。同時,權(quán)力組織的分化與沖突成為數(shù)字社會最突出的問題。數(shù)字社會的去中心化既促進了政府權(quán)力的彌散化,也產(chǎn)生了權(quán)力再中心化風(fēng)險,推動了數(shù)字社會權(quán)力結(jié)構(gòu)的變化,使數(shù)字社會的權(quán)力結(jié)構(gòu)呈現(xiàn)權(quán)力形態(tài)扁平化、權(quán)力體系彌散化、權(quán)力虛實交疊等特征(19)王勇:《論數(shù)字社會的治權(quán)結(jié)構(gòu)失衡及其補正》,《學(xué)術(shù)交流》2021年第6期。,其結(jié)果是導(dǎo)致數(shù)字社會治理權(quán)威失衡。

算法平臺化應(yīng)用引發(fā)的第三個問題是隱私權(quán)和信息安全的維護問題。算法技術(shù)平臺的有效運行除去需要盡可能完善的算法模型外,還需要龐大的數(shù)據(jù)。受此影響,算法技術(shù)平臺需要一個強大的數(shù)據(jù)搜集和分析系統(tǒng),以動態(tài)、實時感知社會及個人的數(shù)據(jù)信息。這在有效提升決策效率和質(zhì)量的同時,會使人類活動產(chǎn)生的數(shù)據(jù)被算法技術(shù)平臺持續(xù)不斷地記錄、存儲、分析(20)馬修·薩爾加尼克:《計算社會學(xué):數(shù)據(jù)時代的社會研究》,趙紅梅等譯,北京:中信出版社,2019年,第5頁。,最終導(dǎo)致人類自身的被透明化。同時,算法技術(shù)平臺能夠借助強大的算法建構(gòu)算法消費者的數(shù)據(jù)畫像,以對其進行精準(zhǔn)的信息推送和商業(yè)營銷(21)Christoph Busch,“Implementing Personalized Law:Personalized Disclosures in Consumer Law and Privacy Law”,The University of Chicago Law Review,Vol.86,No.2,2019,pp.309-331.。一些算法技術(shù)平臺出于經(jīng)濟利益等因素考量,通過技術(shù)手段使算法產(chǎn)品使用者被動地或被默認(rèn)地成為算法消費者,以搜集用戶數(shù)據(jù)和信息,從而侵犯個人隱私信息。此外,算法技術(shù)平臺及其對社會及個體的算法監(jiān)控,使以數(shù)字化、智能化為核心的社會數(shù)字化進程中的個人隱私受侵犯問題日益突出(22)王俊秀:《數(shù)字社會中的隱私重塑——以“人臉識別”為例》,《探索與爭鳴》2020年第2期。,并愈益使人處在一個無所不在的監(jiān)控和完整“事實真相”數(shù)據(jù)庫的自動化社會之中(23)Kim Jin,“Algorithmic Intimacy,Prosthetic Memory,and Gamification in Black Mirror”,Journal of Popular Film and Television,Vol.49,No.2,2021,pp.109-118.,從而催生普遍的隱私焦慮,遭遇數(shù)字信任危機,消解了公眾的安全感,還存在因數(shù)字化記憶興起引發(fā)的數(shù)據(jù)流通與數(shù)據(jù)安全兼容程度低等困境(24)張媛媛:《論數(shù)字社會的個人隱私數(shù)據(jù)保護——基于技術(shù)向善的價值導(dǎo)向》,《中國特色社會主義研究》2022年第1期。。

整體而言,作為影響數(shù)字社會運行的底層邏輯,算法是人工智能、區(qū)塊鏈、大數(shù)據(jù)等數(shù)字化技術(shù)運行的基礎(chǔ),這些數(shù)字技術(shù)的社會化應(yīng)用增加了算法的平臺化應(yīng)用場景。數(shù)字技術(shù)運行過程是否順暢,數(shù)字技術(shù)運行結(jié)果是否合理,都與算法模型的完備性和算法運行過程的合理性有著密切關(guān)系。所以說,數(shù)字社會中存在的個體隱私保護困境、算法倫理問題、算法權(quán)力擴張風(fēng)險等,表面上看是由數(shù)字技術(shù)的擴散和社會化應(yīng)用引起的,但在本質(zhì)上都是算法及其運行的結(jié)果,是算法平臺化應(yīng)用過程中因算法缺陷、算法遭受外部攻擊以及算法的數(shù)理邏輯運行而產(chǎn)生的技術(shù)風(fēng)險,是算法在數(shù)字社會建設(shè)過程中引發(fā)的算法安全問題,是數(shù)字社會建設(shè)過程中不可回避的技術(shù)風(fēng)險。

二、數(shù)字社會算法安全風(fēng)險的類型呈現(xiàn)

算法安全風(fēng)險主要指因算法模型自身缺陷或算法運行所引發(fā)的社會問題,是因算法平臺化應(yīng)用以及對社會深度嵌入所帶來的安全風(fēng)險。算法安全風(fēng)險在本質(zhì)上是算法世界的算法缺陷及其運行在現(xiàn)實世界的映射,是算法世界的算法規(guī)則與現(xiàn)實世界的人類社會規(guī)則相互融合、彼此影響的結(jié)果。我國于2021年9月印發(fā)的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確提出,在算法應(yīng)用過程中存在意識形態(tài)、社會公平公正、網(wǎng)民合法權(quán)益維護、道德倫理等安全風(fēng)險以及因監(jiān)管模式落后導(dǎo)致的算法安全風(fēng)險。引發(fā)算法安全風(fēng)險的原因主要有兩個:一是因算法模型不健全及算法遭受外部攻擊引發(fā)的風(fēng)險;二是在算法運行過程中因受數(shù)理邏輯和外部數(shù)據(jù)影響而導(dǎo)致的算法失靈引發(fā)的風(fēng)險(見表1)。這兩個原因不是彼此獨立的,而是在大多時候共同造成算法安全風(fēng)險。由此而言,算法安全的實現(xiàn)既要使算法免受外部攻擊以保障其可靠運行(25)楊蓉:《從信息安全、數(shù)據(jù)安全到算法安全——總體國家安全觀視角下的網(wǎng)絡(luò)法律治理》,《法學(xué)評論》2021年第1期。,還要避免算法對現(xiàn)實世界的入侵和技術(shù)支配。

表1 數(shù)字社會建設(shè)中的算法安全風(fēng)險

(一)數(shù)字社會建設(shè)中的原生性算法安全風(fēng)險

有限、確定和有效是算法的三大特點,這說明一種算法并不能解決所有問題,而是需要對其進行不斷的更新、優(yōu)化(26)胡鍵:《算法治理及其倫理》,《行政論壇》2021年第4期。,以解決算法運行過程中不斷出現(xiàn)的新問題,使其適應(yīng)新的算法運行場景。算法有限性對算法運行和算法結(jié)果的影響會引發(fā)一系列算法安全風(fēng)險,這一安全風(fēng)險源于算法模型的缺陷或算法模型更新的滯后。受算法有限性特征制約,算法的內(nèi)在邏輯難以適應(yīng)運行的應(yīng)用場景,或者算法模型的不完備招致外部算法應(yīng)用主體的攻擊,最終影響算法運行的有效性和結(jié)果的確定性,引發(fā)算法安全風(fēng)險。這一類算法安全風(fēng)險是伴隨算法的研發(fā)而出現(xiàn)的,是一種原生性的算法安全風(fēng)險。

算法是影響數(shù)字社會運行的底層邏輯,數(shù)字社會中的技術(shù)權(quán)力、技術(shù)倫理以及影響社會運行的算法推薦、算法分析和算法決策等都離不開算法的基礎(chǔ)性支撐。由此而言,如果算法模型不完備、算法存在明顯的技術(shù)倫理傾向,尤其是算法功利主義倫理傾向,就會違背其技術(shù)向善的初衷,導(dǎo)致算法的研發(fā)不是基于技術(shù)普惠性的社會向善目標(biāo),而是將之視為謀取利益的工具。同時,算法模型及其源代碼的缺陷還會導(dǎo)致算法失靈、算法運行過程受阻或算法運行結(jié)果存在顯著的價值導(dǎo)向或倫理問題,其結(jié)果就是算法及算法技術(shù)平臺不僅沒有解決想要解決的現(xiàn)實問題,反而因算法模型的缺陷引發(fā)新的技術(shù)風(fēng)險和社會安全問題。如2022年1月22日,上海地鐵15號線祁安路站內(nèi)一名乘客被地鐵屏蔽門夾住,而擁有全自動駕駛系統(tǒng)的地鐵在屏蔽門關(guān)閉后無視乘客被夾住的事實,仍正常啟動行駛,最終導(dǎo)致該乘客不治身亡(27)參見《上海女子被地鐵屏蔽門夾住身亡》,《新晚報》2022年1月26日,第9版。。造成這一結(jié)果的一個重要原因就是系統(tǒng)對智能算法的機械執(zhí)行,自動駕駛系統(tǒng)只遵從算法的邏輯及指令,而無視外部運行環(huán)境的變化。因此,算法模型的不完備或無視客觀社會環(huán)境而對算法邏輯的機械執(zhí)行會導(dǎo)致算法及其載體在運行過程中出現(xiàn)有悖于算法設(shè)計初衷的問題,嚴(yán)重的甚至?xí)?dǎo)致技術(shù)系統(tǒng)癱瘓,引發(fā)系統(tǒng)性、全局性技術(shù)災(zāi)難。

由算法模型不完備引發(fā)的第二個算法安全風(fēng)險是外部算法主體對算法的攻擊問題。在數(shù)字社會中,算法的運行環(huán)境并不是一個理想化的實驗室,而是一個復(fù)雜的社會系統(tǒng),在這一復(fù)雜的社會系統(tǒng)中不只存在一個算法模型。數(shù)字社會的建設(shè)是多個算法彼此互動、共同作用的結(jié)果,一個算法在運行過程中可能會受到其他算法的干擾或者攻擊,從而影響算法運行的精準(zhǔn)性。因此,算法存在的模型漏洞或邏輯缺陷會使其容易招致其他算法使用主體的攻擊,從而放大算法模型缺陷,甚至操控算法的運行,導(dǎo)致算法安全問題。如2017年5月12日在英國、美國、中國和俄羅斯等全球多個國家爆發(fā)的WannaCry勒索病毒事件,就是計算機黑客對計算機系統(tǒng)的攻擊造成的,它直接導(dǎo)致多個國家的政府部門、教育、企業(yè)、公共交通、科研等計算機系統(tǒng)受到攻擊,我國多個城市的計算機網(wǎng)絡(luò)也受到多次攻擊(28)參見中共中央網(wǎng)絡(luò)安全和信息化委員會辦公室、中華人民共和國國家互聯(lián)網(wǎng)信息辦公室:《構(gòu)建端到端聯(lián)動機制,敏捷應(yīng)對國家級網(wǎng)絡(luò)威脅》,2017年6月2日,http://www.cac.gov.cn/2017-06/02/c_1121073387.htm,2023年7月1日。,從而引發(fā)了廣泛的計算機安全風(fēng)險。

(二)數(shù)字社會建設(shè)中的衍生性算法安全風(fēng)險

除去原生性算法安全風(fēng)險外,算法在運行過程中還會因內(nèi)在數(shù)理邏輯影響、運行社會場景的變化、算法倫理對物理世界的入侵等問題引發(fā)衍生性的算法安全風(fēng)險,這是算法運行產(chǎn)生的衍生結(jié)果,是算法平臺化應(yīng)用帶來的負面效應(yīng)。這一安全風(fēng)險既可能是算法缺陷在現(xiàn)實世界的放大,也可能是因為算法本身并沒有問題,但是在運行過程中受到外部數(shù)據(jù)的結(jié)構(gòu)性影響導(dǎo)致算法運行結(jié)果出現(xiàn)偏差,或者算法的運行對社會倫理、權(quán)力結(jié)構(gòu)以及公眾權(quán)利產(chǎn)生沖擊,影響權(quán)力正常運行、侵犯公眾合法權(quán)利實現(xiàn),進而給社會運行、人們生活帶來安全風(fēng)險。

數(shù)字技術(shù)的社會化應(yīng)用使基于算法邏輯的算法權(quán)力具備了公共性,進而成為一種社會權(quán)力(29)David Beer,“The Social Power of Algorithms”,Information Communication &Society,Vol.20,No.1,2017,pp.1-13．,但算法權(quán)力的去中心化特征使原本掌握在政府手中的公共權(quán)力向社會擴散。一些掌握算法和數(shù)據(jù)的科技公司、數(shù)字技術(shù)平臺以及技術(shù)精英分享了原本集中于政府的公共權(quán)力。這使政府不再是社會中唯一的權(quán)力主體,政府的公共權(quán)力中心角色受到?jīng)_擊,從而引發(fā)公共權(quán)力去中心化危機。同時,算法權(quán)力對傳統(tǒng)公共權(quán)力的沖擊以及對社會的深度嵌入會不斷強化社會、政府以及公眾對算法的依賴?；谒惴ǖ姆治觥Q策成為影響個體決策、政府行政和社會運行的重要依據(jù),算法成為一種影響個體行為選擇、政府決策的隱性權(quán)力。對算法及算法平臺的依賴使算法權(quán)力對傳統(tǒng)公共權(quán)力的制約和影響逐漸加深,算法及算法平臺對現(xiàn)實世界的嵌入逐漸深入,從而強化了算法對整個現(xiàn)實世界的監(jiān)控。人工智能、區(qū)塊鏈等算法技術(shù)平臺憑借算法建構(gòu)外部世界的數(shù)據(jù)特征和數(shù)字化秩序,制約國家的治理、社會的運行和人們的生活,誘發(fā)技術(shù)專制風(fēng)險和數(shù)據(jù)獨裁隱憂,并催生數(shù)字社會建設(shè)中的“技術(shù)利維坦”現(xiàn)象。

同時,合邏輯性而非合道德性是算法的本質(zhì)特征,它的運行只遵循既定的數(shù)理邏輯,而無視人類社會的道德倫理。在算法看來,邏輯即正義,它追求的是既定邏輯下運行效果的最優(yōu)化,至于因算法運行給社會帶來何種結(jié)果則不在算法的考量范圍之內(nèi),并基于此形成了算法世界的倫理,即算法倫理。算法倫理是算法世界的一種價值排序規(guī)則,其本質(zhì)是“最大期望即正義”(30)柳亦博:《“湖心島”隱喻:人工智能時代的算法倫理入侵》,《行政論壇》2019年第6期。。這一邏輯類似于康德的目的論倫理和邊沁、密爾的功利主義倫理,而非亞里士多德式的道德論倫理。隨著算法世界和物理世界融合的加深,算法倫理逐漸影響現(xiàn)實社會的運行和倫理準(zhǔn)則,甚至在一定程度上將算法倫理映射進現(xiàn)實世界之中,從而導(dǎo)致算法倫理入侵問題。與此同時,數(shù)字社會的運行需要龐大的數(shù)據(jù),算法技術(shù)平臺對物理世界監(jiān)控的范圍越廣,獲得的數(shù)據(jù)越精準(zhǔn),越能夠建構(gòu)接近物理世界真相的數(shù)據(jù)特征和數(shù)字化秩序,基于此做出的算法分析和算法決策越能夠為人類活動和社會運行提供支持。但算法技術(shù)平臺對物理世界的監(jiān)控具有全方位、非遺忘性等特征,這一監(jiān)控突破了時間和空間限制,以此獲得社會及公眾實時性、動態(tài)化的數(shù)據(jù)信息,以支撐數(shù)字社會的運行。算法技術(shù)平臺對物理世界的監(jiān)控導(dǎo)致“數(shù)字全景敞視主義”(31)“全景敞視主義”是?？略谄洹兑?guī)訓(xùn)與懲罰》一書中提出的觀點,其靈感來源于邊沁設(shè)計的“全景敞視監(jiān)獄”,即“圓形監(jiān)獄”。在這個監(jiān)獄中,所有囚室都對著中心瞭望塔,身處瞭望塔的人能夠監(jiān)視囚室中犯人的一舉一動,而犯人則看不到瞭望塔中的警衛(wèi)。?？乱源藖砻枥L社會中無處不在的監(jiān)控。隨著數(shù)字技術(shù)的社會化應(yīng)用,算法對社會及個人隱私信息的攫取和窺探日益嚴(yán)重,算法監(jiān)控社會成為數(shù)字社會中新的“環(huán)形監(jiān)獄”?！皵?shù)字全景敞視主義”即以?？碌摹叭俺ㄒ曋髁x”為藍本,以表達在數(shù)字社會中算法對整個社會的監(jiān)控和人們隱私的窺探。的數(shù)字社會生態(tài),公眾所有的活動和信息都在算法的監(jiān)控和計算之下。這就進一步壓縮了公眾隱私空間,模糊了公共數(shù)據(jù)和私人信息之間的邊界。

此外,智能算法還會憑借對社會及個體活動信息的搜集,將其轉(zhuǎn)化為可計算的數(shù)據(jù),進而建構(gòu)用戶數(shù)據(jù)特征和數(shù)據(jù)畫像,向其推送符合其興趣愛好的信息。算法的精準(zhǔn)推薦會使數(shù)字技術(shù)在進行信息分發(fā)過程中自動過濾掉多元的、不符合用戶信息愛好的信息,從而窄化公眾獲取信息的渠道和類型,引發(fā)“過濾氣泡效應(yīng)”和“回音壁效應(yīng)”,逐漸將公眾置于“信息繭房”之中,從而固化公眾既有價值和偏見,加劇不同群體的情感區(qū)隔和價值分化(32)張志安、湯敏:《論算法推薦對主流意識形態(tài)傳播的影響》,《社會科學(xué)戰(zhàn)線》2018年第10期。,導(dǎo)致公眾認(rèn)知的沖突。同時,算法的平臺化應(yīng)用和全球性算法技術(shù)平臺的建構(gòu)推動了意識形態(tài)、社會思潮和價值觀的跨境傳播。借助智能傳播技術(shù),一種意識形態(tài)和思潮能夠快速跨越國家邊界向其他國家蔓延。加之智能傳播技術(shù)的發(fā)展推動了信息生產(chǎn)的智能化和大眾化,原本單純的信息傳播受眾逐漸成為兼具信息生產(chǎn)者和信息消費者雙重角色的智能傳播參與者,從而沖擊了政府對信息傳播的控制權(quán)和社會輿論的主導(dǎo)權(quán)。這在一定程度上會導(dǎo)致社會思潮多元,引發(fā)社會思想和價值觀混亂,而深度偽造技術(shù)的發(fā)展又會加劇虛假信息、誤導(dǎo)信息在社會中的傳播和擴散,加劇意識形態(tài)安全風(fēng)險。

三、數(shù)字社會建設(shè)中算法安全風(fēng)險造成的后果

數(shù)字社會建設(shè)中的算法安全風(fēng)險是數(shù)字技術(shù)嵌入社會、推動社會結(jié)構(gòu)變革和社會運行模式變遷所引發(fā)的負向效應(yīng)。它既會給算法本身的運行帶來一系列不利后果,也會削弱政府治理權(quán)威,催生算法功利主義危機,引發(fā)普遍的個人隱私安全問題。而算法的精準(zhǔn)推薦和意識形態(tài)的跨境傳播還會導(dǎo)致意識形態(tài)的沖突和對立。

(一)招致逆向算法攻擊

算法模型的效力是有限的,隨著算法運行環(huán)境,尤其是算法運行社會環(huán)境的變化,原本在實驗室環(huán)境中長期有效的算法模型可能在新的社會環(huán)境中顯得過時或不適用,從而使原本完備的算法模型出現(xiàn)漏洞,嚴(yán)重的還會導(dǎo)致原本行之有效的算法規(guī)則出現(xiàn)相反的運行結(jié)果。因此,算法漏洞的存在不完全是算法源代碼在研發(fā)之初出現(xiàn)的問題,也可能是算法運行社會環(huán)境的變化使算法模型不再適用。它可能在實驗室環(huán)境下的運行一直有效,但在不斷變化的社會環(huán)境下卻漏洞百出。加之在數(shù)字社會建設(shè)進程不斷深入的今天,影響社會運行和人們生活的算法模型不止一個,而是存在多個。這些算法模型可能存在同一個系統(tǒng)之中,也可能存在不同的系統(tǒng)中。這些系統(tǒng)彼此融合、互動、沖突,共同作用于社會結(jié)構(gòu)建構(gòu)、人類倫理變遷、人們生活交往之中,共同影響數(shù)字社會的運行。在此過程中,如果一個算法存在漏洞或者算法模型滯后于社會運行環(huán)境的現(xiàn)實樣態(tài),其運行結(jié)果就會偏離既定研發(fā)目標(biāo),嚴(yán)重的還會使算法運行受到其他算法模型的干擾或控制,招致逆向的算法攻擊。

算法模型遭受的干擾、控制或逆向攻擊既有人為的因素,也包括算法世界的主動行為。其人為因素體現(xiàn)在社會中的技術(shù)精英借助算法對其他算法模型及其支撐的算法技術(shù)平臺進行主動攻擊,如黑客對網(wǎng)絡(luò)的攻擊、人為制造的電腦病毒對金融系統(tǒng)的攻擊等。而算法世界的主動行為則是不同算法模型間存在邏輯沖突或算法優(yōu)先級別差異導(dǎo)致的結(jié)果。當(dāng)兩個存在沖突的算法模型相遇時,它們只會按照自身的邏輯運行下去。在此過程中,算法會去攻擊與自身邏輯相悖的其他算法模型,其結(jié)果可能是不同算法模型的融合,也可能是一個算法壓制了另一個算法,更可能會導(dǎo)致算法的崩潰。此外,在算法研發(fā)過程中,算法研發(fā)人員可能會設(shè)計不同算法模型的運行級別,當(dāng)次級算法模型遇到高級算法模型時,則優(yōu)先運行高等級算法模型,次級算法模型只在特定環(huán)境或條件下才能夠被觸發(fā)。從某種意義上而言,這種情形中也存在高等級算法對次級算法的壓制和攻擊問題。

(二)削弱政府治理權(quán)威

算法的平臺化應(yīng)用建構(gòu)了算法權(quán)力。算法權(quán)力具有去中心化特征,它不像政府公共權(quán)力具有一個明確的權(quán)威核心,而是呈現(xiàn)彌散性。只要掌握了算法及其數(shù)字技術(shù),人人都可成為算法權(quán)力的所有者(33)譚九生、范曉韻:《算法權(quán)力的社會負效應(yīng)及其行政規(guī)制》,《中國行政管理》2021年第10期。,并主導(dǎo)算法權(quán)力的運行。因此,算法權(quán)力的建構(gòu)推動了公共權(quán)力的彌散化:政府不再是掌握公共權(quán)力的唯一主體,掌握算法資源的大眾、技術(shù)精英和科技公司也可以分享社會公共權(quán)力。更為重要的是,隨著算法在社會運行中主導(dǎo)權(quán)的日益增強,算法權(quán)力在一些領(lǐng)域的資源配置、規(guī)則制定、社會關(guān)系網(wǎng)絡(luò)建構(gòu)中逐漸占據(jù)了主導(dǎo)地位?！凹夹g(shù)利維坦”的形成和技術(shù)專制的出現(xiàn)更使得算法權(quán)力在一些領(lǐng)域中超越政府權(quán)力,甚至主導(dǎo)政府權(quán)力運行。算法權(quán)力的普及瓦解了政府在社會運行和規(guī)則制定中的權(quán)威。

同時,算法權(quán)力之所以成為一種公共權(quán)力就在于其內(nèi)在的公共性,但在算法建構(gòu)和運行過程中也存在算法研發(fā)者和算法使用者的私人利益訴求。他們憑借掌握的算法資源影響物理世界中的公共權(quán)力運行,推動社會權(quán)力結(jié)構(gòu)變遷、社會權(quán)力分配和社會控制權(quán)調(diào)整?？梢哉f,智能算法與私人資本、技術(shù)精英的結(jié)合強化了新興算法權(quán)力對傳統(tǒng)公共權(quán)力的沖擊,增強了社會私人資本在社會公共權(quán)力建構(gòu)和運行中的話語權(quán),而這會沖擊政府治理權(quán)威。此外,智能算法在現(xiàn)實社會之外建構(gòu)了一個虛擬社會,形成了基于算法及算法倫理的算法世界,使人們的活動空間由現(xiàn)實的物理空間向虛擬的算法空間延伸。人類社會逐漸呈現(xiàn)現(xiàn)實與虛擬融合、交疊的特征?；顒涌臻g的延伸重塑了人們的社會關(guān)系網(wǎng)絡(luò),使人們的社會交往和日常生活突破了物理空間的束縛。算法世界是一個類似于“無政府狀態(tài)”的虛擬世界,它既沒有物理世界中嚴(yán)密的政府組織體系,也沒有類似于諾奇克口中的在自然狀態(tài)下具有支配地位的保護性社團的存在,而是一個去中心化的虛擬社會。政府只能通過規(guī)范算法研發(fā)活動、約束算法技術(shù)服務(wù)等外在行為來約束算法世界的倫理規(guī)則和活動開展,從而使人們在算法世界的活動較少受到政府的直接控制。

(三)引發(fā)社會運行風(fēng)險

算法平臺社會化應(yīng)用場景的增多使支撐社會運行的基礎(chǔ)由傳統(tǒng)的硬件資源向軟件資源擴展?？萍佳邪l(fā)系統(tǒng)、智能運行平臺等成為支撐社會運行的新的數(shù)字資源,并對城市建筑、公共設(shè)施、政治制度以及市場規(guī)則等傳統(tǒng)資源的生成和運行產(chǎn)生革命性影響。算法的平臺化應(yīng)用在凸顯對數(shù)字社會運行基礎(chǔ)性支撐作用的同時,也強化了算法安全風(fēng)險對社會運行的沖擊,引發(fā)一定的社會運行風(fēng)險。如算法空間的建構(gòu)在極大拓展人類活動空間的同時,也引發(fā)了算法空間對物理空間的“倒灌”:算法空間的規(guī)則、倫理、秩序不斷外溢至物理空間,影響物理空間的規(guī)則變遷、倫理重塑和秩序變動,出現(xiàn)了算法倫理對物理世界的入侵。算法倫理作為一種技術(shù)倫理,尋求算法邏輯的自洽和算法正義的實現(xiàn),其運行只注重邏輯的自洽而忽視因算法運行導(dǎo)致的現(xiàn)實社會效果和社會正義實現(xiàn),從而導(dǎo)致算法正義與社會正義的沖突、算法倫理和人類道德倫理的沖突。在這一倫理準(zhǔn)則影響下,算法可能會將社會作為算法驗證的實驗室,將人類社會實驗室化,無視算法運行過程中人的獲得感、幸福感和安全感,忽視對人的尊嚴(yán)、個體自由以及人類整體福祉的維護和實現(xiàn)。

此外,“數(shù)字全景敞視主義”成為對數(shù)字社會中技術(shù)窺探社會信息和個體隱私的生動描繪。它旨在表達通過對社會運行數(shù)據(jù)和個體隱私信息的不斷挖掘、探索、窺探,提升算法決策的精準(zhǔn)度和適用性,從而導(dǎo)致算法平臺化應(yīng)用中的算法監(jiān)控問題。與現(xiàn)實世界的監(jiān)控不同,算法監(jiān)控借助算法技術(shù)平臺打造一個能夠全時段、全方位監(jiān)控全社會的“圓形監(jiān)獄”,以盡可能將個體的隱私信息和社會的運行數(shù)據(jù)轉(zhuǎn)化為可獲得經(jīng)濟效益、政治效益或治理效能的算法資源,通過實現(xiàn)資本與技術(shù)的合謀,打造“經(jīng)濟—技術(shù)相互協(xié)調(diào)的新型極權(quán)主義”,并推動算法監(jiān)控由虛擬的算法世界向現(xiàn)實的物理世界延伸(34)李宏偉、郝喜:《算法監(jiān)控的“行為剩余”資本謀劃及其社會治理》,《河南師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2022年第2期。。算法監(jiān)控的存在、數(shù)字全景敞視主義的盛行使算法技術(shù)平臺掌握了大量個體隱私信息,沖擊著個體隱私空間,模糊了個體隱私和社會公共信息邊界。傳統(tǒng)社會中屬于個體隱私范疇的數(shù)據(jù)和信息,如個人的行蹤、消費瀏覽記錄在數(shù)字社會中可能成為社會公共數(shù)據(jù),服務(wù)于數(shù)字社會建設(shè)和公共安全維護,也可能成為商業(yè)化算法技術(shù)平臺謀求經(jīng)濟利益的資源。這就會導(dǎo)致個體隱私空間不斷收縮,甚至坍塌,引發(fā)普遍的隱私焦慮,催生一系列社會隱私安全問題。

(四)導(dǎo)致國家安全危機

隨著算法平臺化應(yīng)用的普及,在社會的數(shù)字化轉(zhuǎn)型中形成了數(shù)字邊疆、智能傳播以及數(shù)字國防等新的領(lǐng)域,這些領(lǐng)域的算法安全風(fēng)險會誘發(fā)新的國家安全危機,使我國社會的數(shù)字化轉(zhuǎn)型面臨新的安全格局。如數(shù)字技術(shù)的社會化應(yīng)用在傳統(tǒng)的國家邊疆之外形成了新的數(shù)字邊疆,數(shù)字邊疆安全對于維護社會數(shù)據(jù)安全、信息安全具有重要意義。但算法開源的滯后、算法模型的不完備以及算法運行環(huán)境的變化會影響數(shù)字邊疆建構(gòu),尤其是算法開源的滯后會使我國社會的數(shù)字化轉(zhuǎn)型失去競爭優(yōu)勢。一些西方國家憑借先發(fā)優(yōu)勢,借助算法沖擊我國數(shù)字邊疆,給我國信息安全、數(shù)據(jù)安全造成威脅,在一定程度上影響我國的經(jīng)濟安全、基因安全和網(wǎng)絡(luò)安全。同時,算法對智能武器的研發(fā)和應(yīng)用也至關(guān)重要。智能算法在國防領(lǐng)域的應(yīng)用催生了智能化國防裝備,能夠有效增強維護國家安全的能力。而算法開源的滯后、算法先進性不足則會導(dǎo)致智能國防裝備的代差問題。一些國家將算法武器化,借算法代差危及我國國防安全。

此外,算法安全風(fēng)險還會引發(fā)意識形態(tài)安全危機。依托數(shù)字傳播技術(shù),意識形態(tài)跨境傳播的速度得到前所未有的提升,跨境傳播渠道更加豐富多元,傳播樣態(tài)也發(fā)生了顛覆性變革。算法空間的意識形態(tài)塑造和傳播成為數(shù)字社會意識形態(tài)建設(shè)的重要內(nèi)容。信息傳播模式的變革沖擊了傳統(tǒng)的信息傳播結(jié)構(gòu)和傳播模式,削弱了政府對意識形態(tài)傳播的主導(dǎo)權(quán)和控制權(quán),侵蝕著主流價值觀和主流意識形態(tài)的傳播陣地和作用空間,其結(jié)果是導(dǎo)致社會中意識形態(tài)、價值觀的多元和沖突。同時,算法推薦技術(shù)的發(fā)展推動了信息分發(fā)方式的變革,實現(xiàn)了信息的精準(zhǔn)推送。這一信息分發(fā)模式會導(dǎo)致“信息繭房效應(yīng)”“過濾氣泡效應(yīng)”等,促成網(wǎng)絡(luò)集群的聚合。與此同時,“算法的個性化定制也為組織化政治操縱提供便利渠道”(35)全燕:《西方社交網(wǎng)絡(luò)的政治極化與算法傳播的角色反思》,《社會科學(xué)》2018年第10期。,推動意見孤島的形成,導(dǎo)致危害性信息的擴散,甚至能夠借助算法控制社會輿論(36)夏夢穎:《算法推薦可能引致的公共風(fēng)險及綜合治理路徑》,《天府新論》2022年第2期。,從而造成社會思想和意識形態(tài)的混亂,不利于社會沖突的彌合和意識形態(tài)沖突的化解,引發(fā)國家意識形態(tài)安全風(fēng)險。

四、數(shù)字社會建設(shè)中算法安全風(fēng)險的化解策略

數(shù)字社會建設(shè)中的算法安全風(fēng)險給算法運行、社會結(jié)構(gòu)調(diào)整、公共權(quán)力運行、意識形態(tài)塑造以及公民權(quán)利實現(xiàn)等帶來嚴(yán)重沖擊,一些算法安全風(fēng)險甚至可能會危及國家安全。這就需要我們尋求化解數(shù)字社會算法安全風(fēng)險的策略,以有效提升數(shù)字社會建設(shè)質(zhì)量和水平,推動中國式現(xiàn)代化的實現(xiàn)。

(一)持續(xù)完善算法模型

算法漏洞、算法模型的滯后以及其他算法使用主體的攻擊是引發(fā)算法安全風(fēng)險的重要原因。算法漏洞主要體現(xiàn)在兩個層面,即代碼層面和邏輯層面(37)賈珍珍、劉楊鉞:《總體國家安全觀視域下的算法安全與治理》,《理論與改革》2021年第2期。。其中,代碼層面的漏洞指的是用于支撐算法運行的源代碼存在漏洞、缺失或惡意植入其他代碼,它與算法運行的邏輯關(guān)聯(lián)性不大;而邏輯層面的漏洞則指的是算法數(shù)理邏輯體系的不完備。因此,在數(shù)字社會建設(shè)過程中,破解算法安全風(fēng)險需要首先從算法模型本身入手,既要不斷加強對算法模型的研發(fā),消除算法漏洞,使其適應(yīng)不斷變化的社會環(huán)境,以防止算法模型與運行社會環(huán)境脫節(jié);還要持續(xù)進行算法開源,保持算法的先進性,有效應(yīng)對其他國家借助算法研發(fā)的先發(fā)優(yōu)勢對我國社會數(shù)字化轉(zhuǎn)型的沖擊和壓制,抵制西方國家數(shù)字霸權(quán)。

基于此,在算法模型編制時既要著眼于算法邏輯體系的完備,還需要重視算法源代碼的完整,防止因代碼缺失或邏輯體系缺陷引發(fā)的算法漏洞,盡可能確保算法模型的完備。在算法運行過程中,要動態(tài)看待算法運行的社會環(huán)境,擺脫算法研發(fā)與實驗環(huán)境的依賴,將算法的研發(fā)和運行置于不斷變化的社會環(huán)境之中,明晰社會環(huán)境中算法主體的多元性和潛在排斥性,使算法的研發(fā)和模型的建構(gòu)以物理世界的社會現(xiàn)實環(huán)境為背景和作用空間,以不斷強化算法與其所運行的社會環(huán)境的契合度,有效應(yīng)對其他算法主體的潛在攻擊。同時,要根據(jù)算法運行情況不斷完善算法,克服算法有限性弊端,使算法模型不斷適應(yīng)變化著的社會環(huán)境,防止原本有效的算法模型因與社會環(huán)境脫節(jié)而出現(xiàn)算法漏洞,引發(fā)算法安全風(fēng)險。如我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確強調(diào)要對深度合成服務(wù)進行算法機制機理審核和科技倫理審查,定期審核、驗證生成合成類算法機制機理,以確保算法運行安全。此外,還要加強算法開源,強化對算法資源的開發(fā),打造算法代差優(yōu)勢。通過算法開源不斷研發(fā)更為先進的算法,推動算法的升級換代,縮小、趕超與具有算法先發(fā)優(yōu)勢國家之間的差距,搶抓數(shù)字化、信息化新階段的算法競爭優(yōu)勢。在算法開源的同時,要強化算法的現(xiàn)實轉(zhuǎn)化,研發(fā)基于先進算法的數(shù)字產(chǎn)品,將算法充分應(yīng)用于社會運行的各個方面,在提升算法安全性的同時,有效增進社會的數(shù)字化質(zhì)量,確保社會運行的安全。

(二)強化政府?dāng)?shù)字權(quán)威

基于算法平臺化應(yīng)用形成的算法權(quán)力具有明顯的去中心化特征。算法權(quán)力的建構(gòu)使原本由政府壟斷的公共權(quán)力向社會擴散,而私人資本與算法技術(shù)平臺的結(jié)合更是強化了私人資本、算法研發(fā)者、技術(shù)精英以及科技公司對公共權(quán)力的分享。他們憑借掌握的算法資本和技術(shù)資源得以擁有影響政治議程進程的權(quán)力,從而使政府的社會治理權(quán)威不斷受到算法權(quán)力沖擊,政府的公共權(quán)力權(quán)威中心角色受到削弱。因此,要想克服因算法權(quán)力引發(fā)的公共權(quán)力去中心化危機,需要重塑政府在數(shù)字社會中的數(shù)字權(quán)威,強化政府對數(shù)字技術(shù)以及算法資源的監(jiān)管,將關(guān)鍵算法納入政府控制范圍之內(nèi),防止私人資本、技術(shù)精英以及國外主體借助算法重構(gòu)社會規(guī)則、控制社會運行,沖擊政府公共權(quán)力在社會治理中的權(quán)威。并通過這一舉措使算法權(quán)力成為提升政府治理效能、增進政府職能履行能力、推動中國式現(xiàn)代化進程的助力,而非限制政府權(quán)力行使和阻礙政府職能履行的阻力。如我國《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》提出了一個由政府、企業(yè)等共同參與的多位一體算法監(jiān)管體系,強調(diào)政府在算法安全治理中的監(jiān)管職責(zé),打造一個政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會監(jiān)督的算法安全多元共治格局。

同時,還需要克服因算法擴散以及對算法技術(shù)平臺過度依賴引發(fā)的技術(shù)專制隱憂,杜絕技術(shù)控制社會,避免技術(shù)權(quán)力壟斷現(xiàn)代性現(xiàn)象的發(fā)生(38)袁超:《“技術(shù)利維坦”的傲慢與偏見——以“社會化技術(shù)權(quán)力”為中心的討論》,《人文雜志》2021年第8期。,以防止出現(xiàn)技術(shù)控制下的“技術(shù)利維坦”和“數(shù)字獨裁”難題。算法權(quán)力有強大算力的支撐,雖然它與資本權(quán)力存在的運行邏輯不盡相同,表現(xiàn)的權(quán)力形態(tài)也有所差異,但通過實現(xiàn)算法權(quán)力和資本權(quán)力的互嵌,強化權(quán)力運行中數(shù)理邏輯和資本邏輯的融合,既借助算法權(quán)力提升資本權(quán)力的運行效率,也依托資本權(quán)力限制算法權(quán)力的過度擴張。這樣能夠在消解算法權(quán)力對政府社會治理權(quán)威沖擊的同時,鞏固、提升政府社會治理效能,無疑也是克服數(shù)字社會建設(shè)過程中算法權(quán)力削弱政府治理權(quán)威弊端的重要途徑。

(三)提升算法人文關(guān)懷

算法倫理入侵及由算法倫理引發(fā)的功利主義危機問題是數(shù)字社會中的一個重要問題。算法的合邏輯性而非合道德性特征使其追求的是數(shù)理邏輯主導(dǎo)下的運行路徑最優(yōu),而無視人類社會道德倫理的約束。在這一倫理影響下,算法為了增強運行的準(zhǔn)確性和分析結(jié)果的科學(xué)性,還會盡可能監(jiān)控個體和社會的運行,窺探個體和社會的隱私,最終引發(fā)普遍的個體隱私焦慮。因此,提升數(shù)字社會建設(shè)質(zhì)量和水平,消解算法安全風(fēng)險給數(shù)字社會運行帶來的技術(shù)風(fēng)險,需要提升算法的人文關(guān)懷,消解算法倫理入侵給人類社會運行引發(fā)的諸多倫理問題。這需要強化算法模型中的人類道德倫理,在算法邏輯體系建構(gòu)和源代碼編制過程中賦予算法以人類道德倫理基石,以克服算法的工具理性缺陷,提升價值理性在算法運行中的主導(dǎo)性作用,防止算法在運行過程中出現(xiàn)結(jié)構(gòu)性的倫理缺陷。如我國數(shù)據(jù)安全法明確規(guī)定,研發(fā)數(shù)據(jù)新技術(shù)、開展數(shù)據(jù)處理活動應(yīng)當(dāng)以增進人民福祉為目的,對數(shù)據(jù)新技術(shù)的開發(fā)和運用要符合社會公德和倫理。

研發(fā)算法的目的在于提升社會運行效率和質(zhì)量,改善人類社會的生產(chǎn)生活環(huán)境,拓展人類活動空間,進而實現(xiàn)人的價值,促進人的自由而全面發(fā)展。這需要在研發(fā)算法時從人的視角和人的立場出發(fā),強化算法研發(fā)和使用過程中“人的在場”效應(yīng),將“以人為本”作為算法研發(fā)和使用的底線,使算法成為維護人的尊嚴(yán)、保護個體自由以及增進人類整體福祉的工具(39)陳昌鳳、呂宇翔:《算法倫理研究:視角、框架和原則》,《內(nèi)蒙古社會科學(xué)》2022年第3期。,而不是單純追求算法運行效率和精準(zhǔn)度的實驗場。還需要明確個人隱私與社會公共信息的邊界,厘清個人隱私與社會公共信息交叉領(lǐng)域的信息屬性歸屬,杜絕為了追求經(jīng)濟利益而將屬于私人領(lǐng)域的數(shù)據(jù)信息公共化,以防止算法平臺化應(yīng)用場景擴散下對個體隱私空間的進一步壓縮,強化對公民隱私的保護,規(guī)制“全景式數(shù)字監(jiān)獄”對公民隱私的窺探,防止商業(yè)化算法使用主體借助算法壓榨社會和個體的“數(shù)據(jù)剩余價值”。同時,還要促進技術(shù)向善。這里所說的“善”,是人類社會語境中的道德善,而非算法場景下的算法倫理善,將算法倫理邏輯下的算法正義置于人類道德倫理邏輯下的社會正義的約束之下,實現(xiàn)算法正義與社會正義的有機融合,以有效防止算法功利主義對現(xiàn)實世界的影響,規(guī)制算法世界對物理世界的倫理侵蝕。

(四)加強算法運行制度規(guī)制

當(dāng)前,算法的資源屬性日益凸顯,算法對意識形態(tài)安全、數(shù)據(jù)安全、信息安全以及經(jīng)濟安全的影響也越來越大,算法推薦、算法監(jiān)控、個體隱私空間坍塌等成為算法引發(fā)社會風(fēng)險的重要表現(xiàn)。這需要強化對算法運行的監(jiān)管,建構(gòu)完善的算法安全監(jiān)管法律法規(guī)體系和綜合治理機制,防止因算法失靈導(dǎo)致的意識形態(tài)風(fēng)險和政治合法性危機。為了規(guī)范數(shù)據(jù)處理活動,保障數(shù)據(jù)安全,保護個人、組織的合法權(quán)益,我國于2021年下半年密集出臺了數(shù)據(jù)安全法、個人信息保護法、《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》,并就《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》的制定廣泛征求社會意見,以規(guī)范算法平臺化應(yīng)用對個體數(shù)據(jù)和社會信息的搜集、處理活動,保護公民的數(shù)據(jù)安全和隱私,促進算法的有序應(yīng)用,“建立健全算法安全治理機制,構(gòu)建完善算法安全監(jiān)管體系”(40)參見中共中央網(wǎng)絡(luò)安全和信息化委員會辦公室、中華人民共和國國家互聯(lián)網(wǎng)信息辦公室:《關(guān)于印發(fā)〈關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見〉的通知》,2021年9月29日,網(wǎng)址:http://www.cac.gov.cn/2021-09/29/c_1634507915623047.htm,2023年6月25日。。同時,規(guī)制算法黑箱的“暗箱”操作,促進算法運行透明化,防止因算法黑箱造成的程序不透明、決策過程不公開等而加劇公眾對政府的不信任,有效消解由此引發(fā)的政治合法性危機。

在意識形態(tài)安全方面,克服數(shù)字社會建設(shè)過程中的算法推薦安全問題,加強對算法推薦的監(jiān)管,防止算法資本化運作、智能化傳播對信息傳播和社會經(jīng)濟活動的控制,規(guī)范算法推薦的經(jīng)濟、社會行為。這需要克服算法推薦引發(fā)的“過濾氣泡效應(yīng)”和“信息繭房效應(yīng)”弊端,增加公眾獲得多樣化信息的機會(41)劉河慶、梁玉成:《透視算法黑箱:數(shù)字平臺的算法規(guī)制與信息推送異質(zhì)性》,《社會學(xué)研究》2023年第2期。,并弱化資本對算法的控制,防止社會資本和智能傳播平臺借助算法推薦技術(shù)控制社會輿論,侵蝕社會主流意識形態(tài)的傳播陣地和作用空間。還需要正視算法技術(shù)平臺,尤其是全球性算法技術(shù)平臺建構(gòu)對信息傳播帶來的變革和風(fēng)險,化解意識形態(tài)跨境傳播引發(fā)的意識形態(tài)多元化危機,規(guī)制民粹主義、極端民族主義、宗教極端思想等意識形態(tài)和價值觀跨境傳播對主流意識形態(tài)的沖擊,削弱意識形態(tài)跨境傳播引發(fā)的價值認(rèn)知多元化弊端,進而借助智能算法傳播平臺整合社會意識形態(tài)分歧。如2021年12月,我國出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,明確提出規(guī)范算法推薦服務(wù),優(yōu)化算法推薦服務(wù)機制,對于具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者應(yīng)按照規(guī)定進行必要的安全評估,以防止其從事危害國家安全、擾亂經(jīng)濟秩序的行為。

結(jié) 論

隨著算法平臺化應(yīng)用場景的增多,算法安全已經(jīng)成為我國國家安全的重要組成部分。維護算法安全、規(guī)制算法安全風(fēng)險對于統(tǒng)籌維護和塑造國家安全、增強維護國家安全能力具有重要意義。因此,需要探索數(shù)字社會建設(shè)中算法安全風(fēng)險的化解策略,不斷提升數(shù)字社會質(zhì)量,確保國家安全和社會穩(wěn)定。需要指出的是,算法的平臺化應(yīng)用增進了數(shù)字社會與自然社會的互嵌和融合,拓寬了“人類社會”這一概念的內(nèi)涵和外延。虛擬算法社會成為人類社會的組成部分,它借助算法技術(shù)平臺將算法世界的倫理、運行邏輯以及結(jié)構(gòu)形態(tài)映射進物理世界之中,并影響物理世界的社會結(jié)構(gòu)、運行規(guī)則和道德倫理。在我國,數(shù)字社會的建設(shè)是一項系統(tǒng)性工程,由社會自發(fā)地向數(shù)字社會過渡顯然不符合我國的社會建設(shè)實踐。因此,數(shù)字社會概念的提出、數(shù)字社會外延的界定、數(shù)字社會建設(shè)目標(biāo)的確定以及數(shù)字社會建設(shè)進程的開展都應(yīng)由黨和政府來主導(dǎo)。但數(shù)字社會作為技術(shù)社會形態(tài)的一種,它的建設(shè)和演進也有自身的特點。從這個角度而言,我國的數(shù)字社會建設(shè)是政府政策推動和技術(shù)社會形態(tài)自我演進共同作用的結(jié)果,而政府應(yīng)當(dāng)在此過程中起著主導(dǎo)作用。