算法治理的實(shí)踐發(fā)展與體系構(gòu)建

曲世聞 張本祥

【摘要】算法是數(shù)字科技時(shí)代的關(guān)鍵信息技術(shù)，是人工智能社會(huì)的核心生產(chǎn)要素，在每一項(xiàng)人工智能科技背后都會(huì)有一套相應(yīng)的計(jì)算機(jī)算法作為支撐?，F(xiàn)階段，雖然我國已構(gòu)建了較為完善的算法治理法律體系，但仍存在算法追責(zé)難題制約治理實(shí)效、主體合力不足加深治理難度、依賴硬性治理忽視柔性治理等現(xiàn)實(shí)問題。因此，需夯實(shí)算法治理法律制度基礎(chǔ)、構(gòu)建多元主體參與治理范式、發(fā)揮柔性規(guī)范手段激勵(lì)作用，從而構(gòu)建多元共治的算法治理體系。

【關(guān)鍵詞】算法治理? 數(shù)字經(jīng)濟(jì)? 多元共治

【中圖分類號(hào)】D912.1? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2023.03.014

作為數(shù)字經(jīng)濟(jì)時(shí)代的生產(chǎn)力要素，算法早已被嵌入社會(huì)運(yùn)行的諸多層面。黨的二十大報(bào)告指出，要“推進(jìn)國家治理體系和治理能力現(xiàn)代化”。在這一背景下，如何規(guī)范算法應(yīng)用，實(shí)現(xiàn)算法精準(zhǔn)、高效治理，已成為國家治理現(xiàn)代化和智能社會(huì)秩序構(gòu)建中的主要問題。

我國算法治理的實(shí)踐發(fā)展

算法指的是由計(jì)算機(jī)執(zhí)行的一系列程序化的運(yùn)算規(guī)則[1]。它是數(shù)字科技時(shí)代的關(guān)鍵信息技術(shù)，是人工智能社會(huì)的核心生產(chǎn)要素，在每一項(xiàng)人工智能科技背后都會(huì)有一套相應(yīng)的計(jì)算機(jī)算法作為支撐。當(dāng)前，隨著我國數(shù)字經(jīng)濟(jì)規(guī)模的不斷增長，算法早已被普遍應(yīng)用于包括電子商務(wù)、智能診斷、無人駕駛等在內(nèi)的互聯(lián)網(wǎng)商業(yè)場景以及交通安全、城市管理、司法判決等電子政務(wù)公共服務(wù)領(lǐng)域。雖然算法的普遍應(yīng)用能夠賦能社會(huì)發(fā)展，但對其的濫用，也導(dǎo)致了算法霸權(quán)、算法歧視、信息繭房等問題的出現(xiàn)。因此，必須加強(qiáng)對網(wǎng)絡(luò)算法的治理。近年來，我國根據(jù)互聯(lián)網(wǎng)和人工智能技術(shù)發(fā)展形勢，以及現(xiàn)階段頻現(xiàn)的算法濫用等問題，制定了一系列算法治理規(guī)范性文件和法律法規(guī)。

2020年12月，中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》指出，應(yīng)“制定完善對網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。2021年9月1日，《中華人民共和國數(shù)據(jù)安全法》正式實(shí)施，該法將網(wǎng)絡(luò)算法運(yùn)用過程中的數(shù)據(jù)安全與主體權(quán)益保障作為監(jiān)管重點(diǎn)。2021年9月17日，國家互聯(lián)網(wǎng)信息辦公室等九部門聯(lián)合發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確指出，要“利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。2021年12月31日，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，對算法推薦活動(dòng)中信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)、監(jiān)督管理、法律責(zé)任等方面進(jìn)行了規(guī)范。這是我國首部聚焦于算法治理的部門規(guī)章。2022年3月1日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行。2022年12月12日，國務(wù)院印發(fā)的《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》明確指出，要“著力強(qiáng)化數(shù)字經(jīng)濟(jì)安全體系”。其中，作為整個(gè)數(shù)字經(jīng)濟(jì)整體治理與系統(tǒng)治理的關(guān)鍵環(huán)節(jié)，算法治理不僅涉及市場治理，還涉及社會(huì)治理與國家總體安全。

總之，近年來國家有關(guān)部門陸續(xù)出臺(tái)的一系列涉及算法治理的規(guī)范性文件和法律法規(guī)，正是我國算法治理的重要實(shí)踐成果，意味著現(xiàn)階段我國針對網(wǎng)絡(luò)空間、互聯(lián)網(wǎng)經(jīng)濟(jì)和電子政務(wù)公共服務(wù)等領(lǐng)域的算法治理法治化水平有所提高，尤其是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)，標(biāo)志著我國進(jìn)入算法系統(tǒng)性治理階段。

我國算法治理面臨的問題挑戰(zhàn)

現(xiàn)階段，雖然我國構(gòu)建起了較為完善的涉及算法治理的法律體系，但大多屬于規(guī)范性文件和指導(dǎo)性意見，欠缺強(qiáng)制執(zhí)行力，再加之算法本身就容易遭遇技術(shù)性困境。因此，在算法治理過程中，算法濫用導(dǎo)致的諸多問題仍未得到解決，與此同時(shí)，還出現(xiàn)了一些新的情況。

算法追責(zé)難題制約治理實(shí)效。數(shù)字經(jīng)濟(jì)的快速發(fā)展使算法在公共事務(wù)治理領(lǐng)域得到了廣泛應(yīng)用，通過融入算法技術(shù)，公共治理模式得到有效優(yōu)化。但由于算法追責(zé)機(jī)制尚不健全，加大了國家及公民權(quán)益維護(hù)的難度。首先，存在程序性治理困境。比如，在招聘員工等相關(guān)的算法設(shè)計(jì)中，部分算法會(huì)侵害員工的正當(dāng)權(quán)益，但由于權(quán)利救濟(jì)缺位，員工無法找到可以依照的法定程序來維權(quán)。其次，一些企業(yè)憑借算法技術(shù)優(yōu)勢遠(yuǎn)端監(jiān)控勞動(dòng)者的勞動(dòng)行為，這不僅使勞動(dòng)者承受較大的工作壓力，而且在實(shí)質(zhì)上侵犯了其合法權(quán)益，也增加了算法治理工作的難度。例如，外賣騎手在勞動(dòng)過程中的行為受算法控制、網(wǎng)約車司機(jī)在算法監(jiān)控下進(jìn)行經(jīng)營活動(dòng)等都是典型案例[2]。最后，算法在智能醫(yī)療、輔助量刑等情境中得到廣泛應(yīng)用，但在此過程中人身財(cái)產(chǎn)損害時(shí)有發(fā)生，對于因算法技術(shù)困境所帶來的損害，有必要進(jìn)行責(zé)任劃分。當(dāng)前，有關(guān)算法設(shè)計(jì)者、經(jīng)營平臺(tái)、用戶個(gè)體分別該承擔(dān)怎樣的責(zé)任以及責(zé)任權(quán)重如何確定，尚未有明確的規(guī)定，從而加大了治理實(shí)踐難度。

主體合力不足加深治理難度。算法治理作為一項(xiàng)復(fù)雜的系統(tǒng)工程，需要政府機(jī)構(gòu)、相關(guān)企業(yè)、行業(yè)組織等各主體的密切配合，然而目前各治理主體缺乏成熟的治理經(jīng)驗(yàn)及技術(shù)，這造成彼此之間無法形成治理合力。首先，政府機(jī)構(gòu)內(nèi)部往往存在“監(jiān)管競爭”，部門之間容易立足自身職能出臺(tái)有關(guān)算法治理的法律文件，執(zhí)行職權(quán)范圍內(nèi)的算法治理措施。例如，有些較為關(guān)注金融領(lǐng)域的算法治理，而有些更關(guān)注數(shù)字勞動(dòng)問題的算法治理等。鑒于各個(gè)部門職能不同，算法治理工作較為分散，這種多頭治理的模式往往會(huì)造成算法治理重疊或真空問題的出現(xiàn)，不利于提升治理實(shí)效。其次，作為算法應(yīng)用的重要主體，互聯(lián)網(wǎng)企業(yè)在利用算法開展業(yè)務(wù)方面具有十足優(yōu)勢，但一些企業(yè)存在算法濫用等不合規(guī)行為，據(jù)此必須要強(qiáng)化企業(yè)自查自糾，加大算法治理力度。最后，行業(yè)組織是算法治理的重要主體，對于規(guī)避因“黑箱化”所導(dǎo)致的算法風(fēng)險(xiǎn)具有重要作用，但目前我國互聯(lián)網(wǎng)行業(yè)的相關(guān)組織尚未針對算法治理形成統(tǒng)一標(biāo)準(zhǔn)、算法備案制度不健全、行業(yè)黑名單制度存在短板，這些問題加大了算法治理實(shí)踐工作的難度。在這方面，德國已經(jīng)成立由專業(yè)媒體人士和技術(shù)專家組成的非營利性組織，用以對算法運(yùn)用全過程進(jìn)行動(dòng)態(tài)監(jiān)測和評(píng)估，并借力第三方獨(dú)立組織的力量來強(qiáng)化算法治理效果，為我國行業(yè)組織參與算法治理提供了借鑒。

依賴硬性治理忽視柔性治理。當(dāng)前，我國在算法治理方面過于依賴法治手段和行政手段，而對市場調(diào)節(jié)、技術(shù)支持等柔性手段的補(bǔ)充價(jià)值重視不足，即算法治理停留于事后治理上，缺少對日常算法隱患的監(jiān)管和排查，這勢必會(huì)加大事后算法治理的難度。在這方面，歐美等國家已經(jīng)取得了寶貴經(jīng)驗(yàn)，例如，美國算法治理十分強(qiáng)調(diào)市場調(diào)節(jié)的作用，其利用動(dòng)態(tài)敏捷的監(jiān)管原則和技術(shù)加持，極大提升了算法治理實(shí)效性。又如，歐盟的算法治理十分強(qiáng)調(diào)公民個(gè)人的權(quán)利運(yùn)用，數(shù)字保護(hù)機(jī)構(gòu)作為算法治理的核心主體，通過制定系列“數(shù)據(jù)規(guī)則”來實(shí)現(xiàn)對算法行為的全過程管理，從而有效滿足了公民個(gè)人訴求，體現(xiàn)出極強(qiáng)的人文精神和技術(shù)理性。

我國算法治理的體系構(gòu)建

夯實(shí)算法治理法律制度基礎(chǔ)。由于相關(guān)機(jī)制的不健全，算法治理實(shí)踐過程中會(huì)暴露諸多問題，因此，需提高算法治理法治化水平，不斷健全算法治理法律體系。應(yīng)基于算法治理的內(nèi)在需求構(gòu)建完善的監(jiān)管體系，對算法備案及系統(tǒng)性審查、按照不同級(jí)別和類型確定治理方案等事宜進(jìn)行管理，形成常態(tài)化機(jī)制，使“算法法治”產(chǎn)生強(qiáng)勁的內(nèi)生動(dòng)力。一是重視算法備案工作，通過建立相關(guān)制度來完善算法登記備案系統(tǒng)。算法備案基于服務(wù)入口開展，要對算法系統(tǒng)中的重要信息內(nèi)容進(jìn)行登記，以備損害發(fā)生時(shí)監(jiān)督機(jī)構(gòu)能進(jìn)行精準(zhǔn)的故障溯源。算法備案制度可提高風(fēng)險(xiǎn)防范和管控能力，使算法監(jiān)管形成高效的態(tài)勢和格局，實(shí)現(xiàn)對算法運(yùn)行的即時(shí)觀測與處理分析。相關(guān)法律法規(guī)明確了算法備案的定位屬性，促成算法備案系統(tǒng)落地實(shí)施，但實(shí)踐中算法有著多元的形態(tài)和類型，要求算法備案系統(tǒng)持續(xù)擴(kuò)大覆蓋范圍，秉持程序合法化原則確定規(guī)范性的實(shí)施程序，針對多元備案主體，應(yīng)明晰權(quán)責(zé)邊界，從而使各主體有的放矢地開展相關(guān)工作。二是算法治理不可“一刀切”，需體現(xiàn)差異化的治理特點(diǎn)。當(dāng)前，我國已針對數(shù)據(jù)安全建立了分類分級(jí)保護(hù)制度，算法治理也可借鑒這一模式，實(shí)現(xiàn)對檢索過濾類、個(gè)性化推送等算法推薦技術(shù)的差異化管理。不同算法推薦服務(wù)由于社會(huì)動(dòng)員能力、輿論引領(lǐng)能力、關(guān)涉數(shù)據(jù)重要性的不同，可能對用戶行為造成不同影響。因此，一方面，應(yīng)采取差異化的措施進(jìn)行算法治理；另一方面，要出臺(tái)系列規(guī)章制度，明晰風(fēng)險(xiǎn)級(jí)別，確定操作性較強(qiáng)的標(biāo)準(zhǔn)體系，結(jié)合企業(yè)實(shí)際制定分級(jí)分類算法管理策略。三是開展算法審查工作，拓展監(jiān)管的深度和廣度，以制度化的形式促進(jìn)算法審查有序開展。針對算法審查建立專門化的組織機(jī)構(gòu)，實(shí)現(xiàn)定期與隨機(jī)審查相結(jié)合，通過系統(tǒng)審驗(yàn)來揭示并防范潛在的算法風(fēng)險(xiǎn)。算法審查應(yīng)覆蓋全過程、全環(huán)節(jié)，形成閉環(huán)式的審查樣態(tài)，審查工作不僅包括數(shù)據(jù)輸入審查、算法設(shè)計(jì)審查，且應(yīng)涵蓋算法運(yùn)行及結(jié)果影響的審查，通過全方位審查監(jiān)督有效降低算法風(fēng)險(xiǎn)的發(fā)生幾率。此外，審查監(jiān)督還應(yīng)重視對數(shù)據(jù)偏見的審查及對算法模型設(shè)計(jì)的審驗(yàn)，減少算法決策的技術(shù)性偏差所帶來的負(fù)性效應(yīng)。

構(gòu)建多元主體參與治理范式。首先，政府部門的引導(dǎo)。政府是算法治理的重要力量。網(wǎng)信部門應(yīng)做好牽頭工作，與教育、工信、市場監(jiān)管等部門加強(qiáng)合作，形成聯(lián)動(dòng)協(xié)作工作機(jī)制，共同打造算法安全治理體系，以促進(jìn)算法治理工作的常態(tài)化、高效化。不同部門和機(jī)構(gòu)需明晰自身職責(zé)，根據(jù)工作要求全方位開展監(jiān)管工作，積極發(fā)揮主體功能，構(gòu)建系統(tǒng)化的算法標(biāo)準(zhǔn)體系，持續(xù)提高普法、執(zhí)法力度，促進(jìn)算法治理形成良好態(tài)勢。其次，相關(guān)企業(yè)的執(zhí)行?；ヂ?lián)網(wǎng)企業(yè)在算法設(shè)計(jì)、算法使用等方面具有優(yōu)勢，應(yīng)成為最富活力的行動(dòng)者。旗艦型的互聯(lián)網(wǎng)企業(yè)不僅擁有前沿算法技術(shù)，且人才、資金方面的資源充沛，其在參與算法治理標(biāo)準(zhǔn)體系構(gòu)建、規(guī)則制定等事宜上更具優(yōu)勢。對于算法霸權(quán)、算法歧視等所造成的負(fù)面影響，相關(guān)企業(yè)應(yīng)積極踐行社會(huì)主義核心價(jià)值觀，加大對算法倫理等社會(huì)普遍關(guān)注問題的研究力度，使科學(xué)技術(shù)的正性功能得到有效發(fā)揮。再次，行業(yè)組織的融入。人工智能企業(yè)發(fā)展聯(lián)盟等行業(yè)組織應(yīng)在算法治理中發(fā)揮積極的能動(dòng)性作用，這些組織的社會(huì)功能具有多元性、多樣化等特點(diǎn)。它們既可提供高品質(zhì)的服務(wù)，亦可起到溝通協(xié)調(diào)作用，在行業(yè)標(biāo)準(zhǔn)制定等方面擁有較大的優(yōu)勢。因此，在現(xiàn)階段算法治理過程中，建議行業(yè)組織立足行業(yè)發(fā)展需求加強(qiáng)相關(guān)學(xué)術(shù)及技術(shù)研究，促進(jìn)產(chǎn)學(xué)研用一體化格局的形成，推動(dòng)算法技術(shù)快速發(fā)展。最后，社會(huì)大眾的參與。社會(huì)大眾是算法相關(guān)產(chǎn)品的使用者，算法應(yīng)用基于公眾需求而開展，因而，公眾也應(yīng)擔(dān)當(dāng)起算法治理的主體職責(zé)。算法治理應(yīng)面向公眾開放更多參與渠道，及時(shí)吸納公眾的反饋意見，促進(jìn)公眾與政府、平臺(tái)等其他治理主體的相互溝通。

發(fā)揮柔性規(guī)范手段激勵(lì)作用。作為信息時(shí)代的特殊風(fēng)險(xiǎn)，算法風(fēng)險(xiǎn)不僅普遍存在，且表現(xiàn)形式復(fù)雜多元，依托法律手段進(jìn)行治理只能在一定程度上取得成效。因此，應(yīng)在當(dāng)前算法治理法律法規(guī)的指導(dǎo)下，積極運(yùn)用技術(shù)治理、算法評(píng)估等更具柔性特點(diǎn)的治理手段，補(bǔ)齊法律治理的短板，防止企業(yè)因法律的強(qiáng)制性管控而喪失創(chuàng)新活力。第一，風(fēng)險(xiǎn)防范應(yīng)與算法評(píng)估相結(jié)合。作為內(nèi)外部監(jiān)督一體化的治理模式，算法評(píng)估有助于大幅提高監(jiān)督效能，在實(shí)踐過程中專門機(jī)構(gòu)應(yīng)對設(shè)計(jì)好的算法模型進(jìn)行全方位評(píng)估，以規(guī)避歧視等情況的發(fā)生。應(yīng)針對性構(gòu)建算法安全檢查評(píng)估制度，督促企業(yè)進(jìn)行內(nèi)部評(píng)估，相關(guān)部門也須審驗(yàn)算法推薦服務(wù)的合規(guī)性，當(dāng)發(fā)現(xiàn)問題時(shí)及時(shí)作出提示并提出整改意見。第二，針對日常隱患監(jiān)測進(jìn)行技術(shù)治理。運(yùn)用算法安全監(jiān)管體系對數(shù)據(jù)使用、影響效果等進(jìn)行全面監(jiān)測，藉此預(yù)判信息內(nèi)容的傳播態(tài)勢、網(wǎng)民的反應(yīng)與行為方式等。當(dāng)前，一些算法企業(yè)為了防止用戶隱私泄露、規(guī)避算法偏見，已在相關(guān)產(chǎn)品中融入了算法倫理原則，在數(shù)據(jù)篩選、模型優(yōu)化等方面加強(qiáng)了技術(shù)支持，促進(jìn)了算法風(fēng)險(xiǎn)的預(yù)防與化解。為了進(jìn)一步提高算法治理效能，應(yīng)重視算法全生命周期安全監(jiān)測等技術(shù)的開發(fā)設(shè)計(jì)，同時(shí)推進(jìn)第三方監(jiān)測工作開展，從而加快算法標(biāo)準(zhǔn)化研究的成果轉(zhuǎn)化。第三，構(gòu)建完善的行業(yè)標(biāo)準(zhǔn)。行業(yè)標(biāo)準(zhǔn)既是對企業(yè)需求、市場需求的一種規(guī)則上的回應(yīng)，也是一系列可操作、可執(zhí)行、具體化的技術(shù)規(guī)范。其通過對技術(shù)特性進(jìn)行編碼處理并匯總整理而形成標(biāo)準(zhǔn)化程式，行業(yè)產(chǎn)品生產(chǎn)需滿足相關(guān)程式要求?，F(xiàn)階段我國算法行業(yè)標(biāo)準(zhǔn)的構(gòu)建，一方面，應(yīng)以《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》為依據(jù)，積極打造與人工智能、人臉識(shí)別等新技術(shù)、新應(yīng)用相關(guān)的標(biāo)準(zhǔn)技術(shù)體系；另一方面，還需強(qiáng)化算法標(biāo)準(zhǔn)之間的對接，并對立法規(guī)范加以細(xì)化，使之形成較為完備的操作細(xì)則。

（本文系中央支持地方高校改革發(fā)展基金項(xiàng)目“黑龍江省宗教治理體系與治理能力研究”和黑龍江大學(xué)博士創(chuàng)新科研項(xiàng)目“CAS視域下事實(shí)與價(jià)值關(guān)系研究”的階段性成果，項(xiàng)目編號(hào)分別為：2021GSP-15、YJSCX2022-011HLJU）

注釋

[1]劉澤剛：《論算法認(rèn)知偏差對人工智能法律規(guī)制的負(fù)面影響及其矯正》，《政治與法律》，2022年第11期。

[2]陳聯(lián)俊、張寶麗：《算法技術(shù)推動(dòng)網(wǎng)絡(luò)空間意識(shí)形態(tài)話語權(quán)變革及其治理》，《理論學(xué)刊》，2022年第5期。

責(zé) 編／肖晗題