我國算法治理政策法規(guī)內(nèi)容及框架分析

張濤　韋曉霞

關(guān)鍵詞： 算法治理； 質(zhì)性文本分析； 政策文本分析； 算法治理政策法規(guī)

ＤＯＩ：１０．３９６９ ／ ｊ．ｉｓｓｎ．１００８－０８２１．２０２３．０９．００９

〔中圖分類號〕Ｄ６３； ＴＰ１８ 〔文獻(xiàn)標(biāo)識碼〕Ａ 〔文章編號〕１００８－０８２１ （２０２３） ０９－００９８－１３

２０２２ 年１０ 月， 習(xí)近平總書記在黨的二十大報(bào)告中強(qiáng)調(diào)， 提高防范化解重大風(fēng)險(xiǎn)能力， 嚴(yán)密防范系統(tǒng)性安全風(fēng)險(xiǎn)， 同時(shí)加快建設(shè)數(shù)字中國的決策部署， 而加強(qiáng)算法風(fēng)險(xiǎn)防范與治理研究符合總體國家安全發(fā)展戰(zhàn)略需求與戰(zhàn)略導(dǎo)向。隨著新一代人工智能正在全球范圍內(nèi)蓬勃興起， 為經(jīng)濟(jì)社會(huì)發(fā)展注入新動(dòng)能的同時(shí)， 也在深刻改變?nèi)藗兊纳a(chǎn)生活方式。作為人工智能的核心要素之一， 算法從底層影響著人類社會(huì)的發(fā)展與變遷， 并潛移默化地改寫著人類社會(huì)發(fā)展邏輯， 算法黑箱、算法共謀、算法歧視、算法偏見等風(fēng)險(xiǎn)也隨之而來， 為社會(huì)穩(wěn)定及國家安全帶來了深遠(yuǎn)的影響［１］ 。近年來， 今日頭條、快手、滴滴、美團(tuán)等平臺(tái)的一系列算法安全事件將算法推向風(fēng)口浪尖， 算法嚴(yán)重影響民眾的認(rèn)知與判斷，ＣｈａｔＧＰＴ 一經(jīng)發(fā)布也引起了社會(huì)各界對ＧＰＴ 算法運(yùn)用將引發(fā)的知識產(chǎn)權(quán)問題、安全和隱私問題、道德和倫理問題的擔(dān)憂［２－３］ 。２０２２ 年３ 月， 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實(shí)施， 旨在對算法推薦進(jìn)行規(guī)制， 確保用戶隱私和數(shù)據(jù)安全， 這意味著算法將告別野蠻生長階段， 被全面納入國家監(jiān)管視野， 在未來一段時(shí)間內(nèi)， 國家將在算法治理各領(lǐng)域各行業(yè)細(xì)化布局。我國已經(jīng)在算法治理方面取得了一些成就［４］ ， 但由于起步較晚， 與歐美國家（地區(qū)）仍存在一定差距［５］ ， 因此， 準(zhǔn)確地對我國算法治理政策法規(guī)的現(xiàn)狀及問題進(jìn)行分析具有重要的現(xiàn)實(shí)意義。

近年來， 算法治理逐步成為學(xué)術(shù)研究熱點(diǎn)， 但通過中國知網(wǎng)檢索發(fā)現(xiàn)， 國內(nèi)對算法治理政策法規(guī)文本的研究較少， 如魏俊斌［６］ 認(rèn)為， 《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)為思想政治教育網(wǎng)絡(luò)智能環(huán)境的治理奠定了法制基礎(chǔ)， 未來應(yīng)該強(qiáng)化算法監(jiān)管， 維護(hù)教育領(lǐng)域數(shù)據(jù)安全。方師師［７］ 從算法治理的政策矩陣出發(fā)， 梳理了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中相關(guān)聯(lián)的政策矩陣， 從管理導(dǎo)向、場景適用、記錄銘刻３ 個(gè)層面進(jìn)行解讀。張凌寒［８－９］ 從法學(xué)視角切入， 對《中華人民共和國電子商務(wù)法》中體現(xiàn)平臺(tái)算法責(zé)任的條款進(jìn)行分析， 對《中華人民共和國個(gè)人信息保護(hù)法》中有關(guān)平臺(tái)算法自動(dòng)化決策治理基本框架展開探討， 提出建立平臺(tái)算法的多元治理體系與層次明晰的平臺(tái)算法責(zé)任體系。

當(dāng)前算法治理政策法規(guī)研究主要集中于對單一算法治理政策法規(guī)的解讀， 尚缺乏從全局視角對我國算法治理政策法規(guī)現(xiàn)狀的分析。因此， 本文借助Ｎｖｉｖｏ１２ 質(zhì)性分析軟件， 對我國１２ 部算法治理政策法規(guī)進(jìn)行內(nèi)容分析， 研究旨在解決以下３ 個(gè)問題：一是從內(nèi)容上分析我國算法治理政策法規(guī)現(xiàn)狀； 二是梳理當(dāng)前我國算法治理政策法規(guī)框架； 三是基于現(xiàn)有問題有針對性地提出我國算法治理對策建議，旨在為我國算法治理政策法規(guī)制定和優(yōu)化提供參考。

１研究方法與過程

１.１數(shù)據(jù)選取

政策文本是公眾了解國家政治方針的直接路徑，也是政策研究的重要工具和載體［１０］ 。由于我國直接以“算法” 或“算法治理” 命名的政策僅有《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》） 《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（以下簡稱《指導(dǎo)意見》）兩部， 而其他的“算法治理” 多嵌入于其他政策法規(guī)中， 如《中華人民共和國電子商務(wù)法》明確了平臺(tái)運(yùn)行過程中的算法規(guī)范與責(zé)任； 《中華人民共和國個(gè)人信息保護(hù)法》確立了我國算法自動(dòng)化決策治理的基本框架。本文綜合已有算法治理相關(guān)文獻(xiàn)［１１－１２］ ，選取當(dāng)前與算法治理密切相關(guān)的１２ 份政策法規(guī)作為分析樣本， 如表１ 所示， 包括全國人民代表大會(huì)、國家互聯(lián)網(wǎng)信息辦公室等頒布的７ 部中央層面的政策法規(guī)， 以及全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)、國家新一代人工智能治理專業(yè)委員會(huì)等發(fā)布的５ 部行業(yè)層面的政策。

１.２研究過程

本文利用質(zhì)性分析工具Ｎｖｉｖｏ１２ 對我國算法治理政策法規(guī)文本進(jìn)行量化研究［１３］ ， 研究重點(diǎn)在于對我國算法治理政策法規(guī)內(nèi)容及框架進(jìn)行分析， 具體研究過程如下： ①以《指導(dǎo)意見》和《規(guī)定》兩部政策為核心， 綜合１２ 部算法治理政策法規(guī)內(nèi)容，同時(shí)， 參照張凌寒論著中所提出的基于事前、事中、事后的算法治理框架［１４］ ， 確定預(yù)編碼規(guī)則；②研究團(tuán)隊(duì)對３０％的政策樣本進(jìn)行預(yù)編碼， 根據(jù)預(yù)編碼結(jié)果， 進(jìn)一步修正完善確定最終編碼規(guī)則；③隨后團(tuán)隊(duì)兩名成員采用背對背文本分析方式對文本進(jìn)行編碼， 對編碼一致的數(shù)據(jù)進(jìn)行合并， 剩余不確定的數(shù)據(jù)進(jìn)行討論并完成編碼［１５］ ； ④從中央和行業(yè)兩個(gè)層面對算法治理政策法規(guī)內(nèi)容分析； ⑤基于既有政策法規(guī)分析結(jié)果， 形成了“概述層—規(guī)范層—流程層” 的算法治理政策法規(guī)三維框架； ⑥通過梳理總結(jié)我國算法治理政策法規(guī)現(xiàn)存在的問題，有針對性地從治理“力度—精度—深度—廣度” 視角提出對策建議。

１.３文本編碼

本研究采用歸納式類目構(gòu)建方法， 針對政策文本直接構(gòu)建分析類目［１６］ 。首先針對算法治理政策法規(guī)文本內(nèi)容劃分２ 個(gè)一級類目， 然后采用１.２ 中所提出的具體編碼思路劃分為１３ 個(gè)二級類目， 最后針對算法治理各階段的觀測要點(diǎn)劃分為４５ 個(gè)三級類目。本研究借助Ｎｖｉｖｏ１２ 質(zhì)性分析軟件形成我國算法治理政策法規(guī)文本編碼類目表， 如表２ 所示。

２我國算法治理政策法規(guī)內(nèi)容分析

本文從中央和行業(yè)兩個(gè)層面對我國算法治理政策法規(guī)內(nèi)容進(jìn)行分析， 旨在揭示我國算法治理政策法規(guī)的現(xiàn)狀。

２.１中央層面

對７部中央層面算法治理政策法規(guī)進(jìn)行編碼分析發(fā)現(xiàn)， 信息服務(wù)規(guī)范（４１３ 次）、算法監(jiān)管（１５７次）、算法問責(zé)（１２４ 次）、用戶權(quán)益保護(hù)（１２２ 次）４方面詞頻較高， 合計(jì)占比約５２％， 如圖１ 所示， 氣泡大小表示單部政策法規(guī)關(guān)注某一類別內(nèi)容的多少， 氣泡密集則表示多部政策法規(guī)集中關(guān)注某一類別， 政策法規(guī)內(nèi)容多分散在多個(gè)二級類目中， 且分布較為均衡?？傮w來說， 中央層面算法治理政策法規(guī)關(guān)注是宏觀層面的頂層設(shè)計(jì)， 具有一定引領(lǐng)性。

１）《中華人民共和國電子商務(wù)法》首次明確了對網(wǎng)絡(luò)交易平臺(tái)日常運(yùn)營中的算法規(guī)范， 以及網(wǎng)絡(luò)交易平臺(tái)因不當(dāng)部署、應(yīng)用算法所應(yīng)承擔(dān)的法律責(zé)任。算法問責(zé)（３１ 次）和信息服務(wù)規(guī)范（２８ 次）兩個(gè)類目詞頻較高， 其中第１８ 條首次提出推薦算法應(yīng)提供非個(gè)性化的一般搜索結(jié)果， 即算法個(gè)性化推薦必須尊重和平等對待每一位消費(fèi)者； 第３５ 條明確規(guī)定不得利用技術(shù)手段對交易進(jìn)行不合理限制，這是對濫用算法行為的規(guī)制； 第４０ 條明確表示競價(jià)排名的商品或者服務(wù)必須顯著標(biāo)明廣告［１７］ 。這些條款均體現(xiàn)了《中華人民共和國電子商務(wù)法》在平臺(tái)算法應(yīng)用規(guī)范與問責(zé)中的重要作用。

２） 《中華人民共和國個(gè)人信息保護(hù)法》確立了我國算法自動(dòng)化決策治理的基本框架， 為平臺(tái)自動(dòng)化決策的設(shè)計(jì)部署、運(yùn)行與結(jié)果輸出劃定了合法邊界［９］ 。該法規(guī)多處提及利用個(gè)人信息進(jìn)行自動(dòng)化決策， 其中包括信息服務(wù)規(guī)范主題中自動(dòng)化決策詞頻為１３ 次， 用戶推送管理詞頻為１０ 次， 該法規(guī)第２４ 條提到利用自動(dòng)化決策方式做出可能影響個(gè)人權(quán)益的決定時(shí)， 個(gè)人有權(quán)要求做出情況說明， 并有權(quán)拒絕該決定； 算法評估詞頻為６ 次， 第５５ 條強(qiáng)調(diào)應(yīng)當(dāng)在事前進(jìn)行個(gè)人信息保護(hù)的影響評估工作， 尤其針對利用個(gè)人信息進(jìn)行自動(dòng)化決策的行為。以上條款體現(xiàn)了《個(gè)人信息保護(hù)法》在算法自動(dòng)化決策治理方面的立法思路。

３） 《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》的出臺(tái)， 意味著對算法進(jìn)行規(guī)制已經(jīng)被中央層面納入議程， 《指導(dǎo)意見》首次明確了“算法治理” 的概念， 并針對算法治理提出系統(tǒng)性、全面性的規(guī)范要求， 其核心內(nèi)容強(qiáng)調(diào)要利用３ 年左右時(shí)間， 逐步建立起治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。算法監(jiān)管詞頻為９１ 次， 其中算法監(jiān)管部分著重強(qiáng)調(diào)參與主體的多元性， 旨在形成政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的算法安全多元共治局面?！吨笇?dǎo)意見》中算法評估（１３ 次）、算法備案（８ 次）、算法分級分類（５ 次）３ 個(gè)類目雖然詞頻較低， 但這些主題從宏觀層面提出了算法治理的具體措施， 為我國構(gòu)建算法安全監(jiān)管體系提供重要依據(jù)。

４） 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》是世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件，為國家建立算法安全治理體系打下制度基礎(chǔ)。信息服務(wù)規(guī)范（９１ 次）、算法問責(zé)（６６ 次）、用戶權(quán)益保護(hù)（６０ 次）３ 個(gè)類目詞頻較高， 能夠看出《規(guī)定》主要聚焦算法推薦服務(wù)亂象問題， 有助于構(gòu)建算法安全治理體系， 有效規(guī)范了互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)。同時(shí)， 算法分級分類管理、建立算法備案制度、建立算法安全評估機(jī)制， 開展算法監(jiān)督檢查、建立算法法律責(zé)任認(rèn)定標(biāo)準(zhǔn)等內(nèi)容、均能體現(xiàn)出《規(guī)定》提出的貫穿算法推薦服務(wù)事前、事中、事后監(jiān)管的總體思路。

５） 《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《深度合成規(guī)定》）是在我國加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理框架下展開的， 該規(guī)定是我國開展算法治理工作的重要一環(huán)， 標(biāo)志著深度合成服務(wù)已成為我國算法治理中率先專門立法的算法服務(wù)類型?！渡疃群铣梢?guī)定》的主題結(jié)構(gòu)分布與《規(guī)定》相似， 信息服務(wù)規(guī)范（２２２ 次）詞頻最高， 其次為算法評估（３３ 次）、用戶權(quán)益保護(hù)（２３ 次）、算法備案（２２ 次）， 詞頻分布相對均衡， 《深度合成規(guī)定》提出了從算法備案、算法評估、算法監(jiān)管再到算法問責(zé)全流程規(guī)范思路?？傮w來說， 中央層面已經(jīng)明確深度合成服務(wù)范圍內(nèi)的算法治理工作思路， 在此之后， 行業(yè)組織還需要在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標(biāo)識條件與標(biāo)識方式、隱式標(biāo)識方法與識別等方面進(jìn)一步細(xì)化配套標(biāo)準(zhǔn)規(guī)范。

６）《關(guān)于推動(dòng)平臺(tái)經(jīng)濟(jì)規(guī)范健康持續(xù)發(fā)展的若干意見》（以下簡稱《意見》）和《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》（以下簡稱《指南》）均是定位于平臺(tái)經(jīng)濟(jì)， 直指互聯(lián)網(wǎng)平臺(tái)企業(yè)面臨的社會(huì)責(zé)任問題的文件， 其目的在于促進(jìn)平臺(tái)經(jīng)濟(jì)規(guī)范有序創(chuàng)新健康持續(xù)發(fā)展。本研究只針對以上兩部政策中與平臺(tái)算法相關(guān)的內(nèi)容進(jìn)行編碼， 因此， 在《意見》內(nèi)容結(jié)構(gòu)分布中， 算法監(jiān)管（２７ 次）、信息服務(wù)規(guī)范（２０ 次）、用戶權(quán)益保護(hù)（１２ 次）詞頻相對較高，《意見》針對平臺(tái)責(zé)任做出了明確的界定與要求，提出通過引入?yún)^(qū)塊鏈、人工智能等新興信息技術(shù)構(gòu)建多元主體共享的監(jiān)管信息平臺(tái)［１８］ 。而《指南》中突出信息服務(wù)規(guī)范（２９ 次）和算法生態(tài)規(guī)范（１０次）兩部分內(nèi)容， 《指南》是平臺(tái)經(jīng)濟(jì)領(lǐng)域經(jīng)營者依法合規(guī)經(jīng)營的明確指引， 是對平臺(tái)經(jīng)濟(jì)領(lǐng)域反壟斷執(zhí)法原則的深化， 在第７ 條縱向壟斷協(xié)議部分中也提到了平臺(tái)經(jīng)濟(jì)領(lǐng)域經(jīng)營者與交易相對人可能利用技術(shù)手段、數(shù)據(jù)和算法等方式， 來排除或限制市場競爭、實(shí)施差別待遇、限定交易， 同時(shí)結(jié)合《反壟斷法》確定有關(guān)行為是否構(gòu)成壟斷協(xié)議或?yàn)E用市場支配地位行為。

２.２行業(yè)組織層面

對５ 部行業(yè)層面算法治理政策法規(guī)進(jìn)行編碼分析發(fā)現(xiàn)， 算法倫理規(guī)范（４６０ 次）、算法評估（２１３次）、信息服務(wù)規(guī)范（１８７ 次）、算法監(jiān)管（７８ 次）４個(gè)類目詞頻較高， 合計(jì)占比約４８％， 如圖２ 所示，氣泡大小表示單部政策關(guān)注某一類別內(nèi)容的多少，氣泡密集則表示多部政策集中關(guān)注某一類別， 政策內(nèi)容通常多散落在單一的二級類目中， 分布較為集中?？傮w來說， 行業(yè)層面算法治理政策主要從算法倫理、算法評估等方面提出微觀層面具體實(shí)施規(guī)范， 具有可操作性。

１）《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》（以下簡稱《指引》）從識別、防范、管控人工智能倫理安全風(fēng)險(xiǎn)的角度出發(fā)， 提出人工智能倫理安全風(fēng)險(xiǎn)防范的基本要求， 其中，算法倫理規(guī)范詞頻為１１７ 次， 用戶權(quán)益保護(hù)詞頻為３１ 次?！吨敢穼⑷斯ぶ悄芑顒?dòng)歸納為研究開發(fā)、設(shè)計(jì)制造、部署應(yīng)用、用戶使用４ 類， 并就每類活動(dòng)的風(fēng)險(xiǎn)防范舉措提出針對性建議。在研發(fā)與設(shè)計(jì)制造規(guī)范方面， 《指引》與《新一代人工智能倫理規(guī)范》均強(qiáng)調(diào)事故保障， 設(shè)置事故應(yīng)急處理機(jī)制，明確事故處理流程， 設(shè)置損失補(bǔ)償救濟(jì)方案， 《指引》中還特別提到設(shè)置事故信息回溯機(jī)制， 便于進(jìn)行事后問責(zé)。

２） 《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評估規(guī)范》（以下簡稱《機(jī)器學(xué)習(xí)評估規(guī)范》）是由全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)提出并歸口的算法評估類規(guī)范文件， 其中， 算法評估詞頻為１２９ 次。該規(guī)范規(guī)定了機(jī)器學(xué)習(xí)算法在設(shè)計(jì)開發(fā)、驗(yàn)證測試、部署運(yùn)行、維護(hù)升級、退役下線等階段的安全要求和證實(shí)方法， 包括機(jī)器學(xué)習(xí)算法的安全評估實(shí)施， 既適用于對機(jī)器學(xué)習(xí)系統(tǒng)中的算法進(jìn)行安全評估， 也適用于機(jī)器學(xué)習(xí)系統(tǒng)開發(fā)者和運(yùn)營者在算法開發(fā)運(yùn)營過程中進(jìn)行自評估和改進(jìn)安全措施。

３） 《人工智能深度學(xué)習(xí)算法評估規(guī)范》（以下簡稱《深度學(xué)習(xí)評估規(guī)范》）作為中國首個(gè)人工智能深度學(xué)習(xí)算法標(biāo)準(zhǔn)， 結(jié)合用戶實(shí)際的應(yīng)用場景提出了一套深度學(xué)習(xí)算法的可靠性評估指標(biāo)體系。其中， 算法評估（８４ 次）詞頻最高， 算法分級分類（８次）也有提及， 規(guī)范根據(jù)深度學(xué)習(xí)算法的危險(xiǎn)嚴(yán)重等級將算法劃分為災(zāi)難級、嚴(yán)重級、一般級、輕微級。該規(guī)范既適用于面向深度學(xué)習(xí)算法的開發(fā)者和使用深度學(xué)習(xí)算法實(shí)現(xiàn)特定需求的用戶， 也適用于對深度學(xué)習(xí)算法進(jìn)行可靠性評估的第三方機(jī)構(gòu)?！稒C(jī)器學(xué)習(xí)評估規(guī)范》和《深度學(xué)習(xí)評估規(guī)范》為我國算法評估提出了評估思路和具體要求， 也充分發(fā)揮了行業(yè)委員會(huì)在場景化和精細(xì)化算法治理實(shí)踐中所作出的有益嘗試。

４） 《人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)與治理》發(fā)布于２０１９ 世界人工智能安全高端對話， 對人工智能發(fā)展帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行了全面分析， 內(nèi)容聚焦于人工智能算法中的數(shù)據(jù)隱私、數(shù)據(jù)質(zhì)量、數(shù)據(jù)保護(hù)等問題， 其中， 信息服務(wù)規(guī)范（１８７ 次）、算法監(jiān)管（７８ 次）、算法生態(tài)規(guī)范（５８ 次）主題下的詞頻較高， 該報(bào)告從政策法規(guī)和技術(shù)層面對目前國內(nèi)外相關(guān)應(yīng)對舉措進(jìn)行了梳理， 在此基礎(chǔ)上， 報(bào)告總結(jié)了國內(nèi)外優(yōu)秀實(shí)踐案例， 提出了人工智能數(shù)據(jù)安全治理的目標(biāo)、框架及治理措施， 為人工智能算法安全治理提供了重要參考與借鑒。

５）《新一代人工智能倫理規(guī)范》（以下簡稱《規(guī)范》）是國內(nèi)首份覆蓋人工智能全生命周期的倫理道德規(guī)范性文件， 其發(fā)布標(biāo)志著人工智能政策已從推進(jìn)應(yīng)用逐漸轉(zhuǎn)入監(jiān)管， 尤其是確保人工智能算法處于人類控制之下?！兑?guī)范》中算法倫理規(guī)范（３０９次） 詞頻最高， 它主要由基本倫理規(guī)范（９２次）和人工智能特定活動(dòng)應(yīng)遵守的規(guī)范（２１７次）兩部分構(gòu)成， 人工智能特定活動(dòng)應(yīng)遵守的規(guī)范包括管理、研發(fā)、供應(yīng)、使用四部分?！兑?guī)范》基于倫理道德層面提出了具體要求， 回應(yīng)了當(dāng)前社會(huì)各界關(guān)于隱私、偏見、歧視等的倫理關(guān)切［１９］ ， 旨在將倫理道德融入人工智能全生命周期［２０］ 。值得關(guān)注的是，該規(guī)范吸納了“敏捷治理” 概念， 在管理規(guī)范部分明確提出“推動(dòng)敏捷治理”［２１］ ， 這為我國算法監(jiān)管制度的完善提供了指引， 突出了加強(qiáng)人工智能算法的潛在風(fēng)險(xiǎn)研判、建立有效的風(fēng)險(xiǎn)預(yù)警機(jī)制、制定應(yīng)急機(jī)制和損失補(bǔ)償方案或措施的重要性。

３我國算法治理政策法規(guī)框架分析

政策法規(guī)框架強(qiáng)調(diào)現(xiàn)有政策法規(guī)中所包含的結(jié)構(gòu)化要點(diǎn)。本文以《指導(dǎo)意見》和《規(guī)定》為基礎(chǔ)，借鑒張凌寒［１４］ 、鄺巖等［２２］ 論著中提出的算法治理階段和研究維度， 基于對我國１２ 部算法治理政策法規(guī)的內(nèi)容分析， 形成了“概述層—規(guī)范層—流程層” 的算法治理政策法規(guī)三維框架， 如表３ 所示。

３.１概述層

概述層主要包括算法治理過程中的政策主體、政策客體、政策目標(biāo)和政策范圍。①政策主體是指算法治理政策法規(guī)發(fā)布主體， 它體現(xiàn)了政策重要性與權(quán)威性， 一般分為中央層級與行業(yè)層級， 中央層級的政策主體包括全國人大、國家網(wǎng)信辦、工業(yè)和信息化部等， 行業(yè)層級的政策主體包括全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)、國家新一代人工智能治理專業(yè)委員會(huì)等； ②政策客體是指當(dāng)政策發(fā)揮作用時(shí)所指向的對象， 我國１２ 部算法治理政策法規(guī)作用的對象各有不同， 但均集中在從事有關(guān)算法工作的人或組織； ③政策目標(biāo)是指算法治理政策法規(guī)執(zhí)行預(yù)期可以達(dá)到的結(jié)果， 我國算法治理政策目標(biāo)是以網(wǎng)絡(luò)安全為起點(diǎn)， 以總體國家安全為目標(biāo)， 逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局； ④政策范圍是指政策法規(guī)的影響范圍或?qū)嵤┓秶?算法治理政策法規(guī)適用于我國境內(nèi)應(yīng)用算法技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的情形。

３.２規(guī)范層

規(guī)范層主要側(cè)重算法生態(tài)規(guī)范、算法倫理規(guī)范和算法服務(wù)規(guī)范。其中， 原二級類目“信息服務(wù)規(guī)范” 和“用戶權(quán)益保護(hù)” 均側(cè)重算法應(yīng)用過程中對用戶的保護(hù)， 因此， 將其合并為“算法服務(wù)規(guī)范”。

１） 算法生態(tài)規(guī)范。在１２部算法治理政策法規(guī)中共有６ 部明確提及算法生態(tài)規(guī)范， 主要涉及算法導(dǎo)向正確（３６.８％）、算法公開透明（９.８％）、算法創(chuàng)新發(fā)展（１９.０％）、算法濫用風(fēng)險(xiǎn)（３４.４％）， 關(guān)于算法生態(tài)規(guī)范的內(nèi)容多出自中央層面政策法規(guī)，如《指導(dǎo)意見》將“促進(jìn)算法生態(tài)規(guī)范的發(fā)展”作為章節(jié)主題正式提出， 具有較強(qiáng)的指導(dǎo)性作用，涉及價(jià)值取向、網(wǎng)民權(quán)利、知識產(chǎn)權(quán)保護(hù)、鼓勵(lì)創(chuàng)新和確保安全等諸多方面， 從根本上引導(dǎo)算法向上向善發(fā)展。算法生態(tài)規(guī)范與算法倫理規(guī)范有著較為密切的聯(lián)系， 本文在編碼過程中依據(jù)中央政府頒布的算法治理政策法規(guī)概括性、引導(dǎo)性較強(qiáng)的特點(diǎn)，從算法生態(tài)的宏觀層面提出具體要求， 而行業(yè)層面政策更側(cè)重規(guī)范算法不公開透明導(dǎo)致的倫理問題。

２） 算法倫理規(guī)范。《規(guī)范》《指引》兩部政策均直接將人工智能倫理作為政策主題， 著重強(qiáng)調(diào)增強(qiáng)人工智能的安全透明， 指出在算法設(shè)計(jì)、實(shí)現(xiàn)、應(yīng)用等環(huán)節(jié)， 提升透明性、可解釋性、可理解性、可靠性、可控性， 增強(qiáng)人工智能系統(tǒng)的韌性、自適應(yīng)性和抗干擾能力。算法倫理規(guī)范的主要內(nèi)容細(xì)分為５ 類， 分別是基本倫理規(guī)范（２４.６％）、研發(fā)規(guī)范（２４.６％）、管理規(guī)范（２１.２％）、供應(yīng)規(guī)范（１５.１％）、使用規(guī)范（１４.５％）， 累計(jì)詞頻４６３ 次， 占１２ 部政策法規(guī)內(nèi)容詞頻的１９. ５％?；緜惱硪?guī)范可以細(xì)分為增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚拧?qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)六部分。此外， 研發(fā)規(guī)范、管理規(guī)范、供應(yīng)規(guī)范、使用規(guī)范詞頻占比較為均衡， 其中， 研發(fā)規(guī)范包括強(qiáng)化算法自律意識、提升數(shù)據(jù)質(zhì)量、增強(qiáng)安全透明、避免偏見歧視［２３］ ； 管理規(guī)范包括推動(dòng)算法敏捷治理、積極實(shí)踐示范、正確行權(quán)用權(quán)、加強(qiáng)風(fēng)險(xiǎn)防范等；供應(yīng)規(guī)范包括尊重算法市場規(guī)制、加強(qiáng)質(zhì)量管控、保障用戶權(quán)益等； 使用規(guī)范包括提倡算法善意使用、避免誤用濫用、禁止違規(guī)惡用等。兩部政策將倫理道德融入人工智能全生命周期， 為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。

３） 算法服務(wù)規(guī)范。因算法服務(wù)導(dǎo)致的用戶合法權(quán)益受侵害問題， 是我國目前算法治理進(jìn)程中亟需關(guān)注的問題［２４］ 。算法服務(wù)規(guī)范包括信息服務(wù)規(guī)范（６００ 次）和用戶權(quán)益保護(hù)（１６０ 次）， 信息服務(wù)規(guī)范主要聚焦于算法安全主體責(zé)任（１３.７％）、數(shù)據(jù)安全與質(zhì)量保障（１３.７％）、個(gè)人信息保護(hù)（９.６％）、信息內(nèi)容標(biāo)識（９.５％）、信息安全管理（８.４％）等方面，主要集中在中央層面發(fā)布的政策法規(guī)中， 也體現(xiàn)了中央層面對應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的一切平臺(tái)、個(gè)人的規(guī)范性要求； 用戶權(quán)益保護(hù)主要聚焦于用戶權(quán)利， 要求算法推薦服務(wù)提供者保障用戶算法知情權(quán)（５.２％）、算法選擇權(quán)（５.１％）、算法申訴權(quán)（２.８％）， 并對未成年人、老年人、勞動(dòng)者、消費(fèi)者等特殊群體的權(quán)益保護(hù)（８.３％）作出額外規(guī)定。

３.３流程層

流程層主要包括事前算法評估、事中算法監(jiān)管、事后算法問責(zé)３ 個(gè)方面。

１） 事前算法評估。算法分級分類和算法備案是事前算法評估的基礎(chǔ)［２５］ 。“算法分級分類” 概念在《指導(dǎo)意見》中被首次提出， 可以針對算法應(yīng)用場景劃分算法分類或針對其所引發(fā)的風(fēng)險(xiǎn)等級劃分算法分級。其中， 算法分級詞頻為４２ 次， 占比８０.８％， 算法分類詞頻為１０ 次， 占比１９. ２％。此后《規(guī)定》中提到網(wǎng)信部門應(yīng)建立算法分級分類制度， 對算法推薦服務(wù)提供者進(jìn)行分級分類管理，但僅限于算法推薦服務(wù)。雖然《指導(dǎo)意見》《規(guī)定》針對算法分類分級提出了引領(lǐng)性要求， 但尚缺少可實(shí)施的制度細(xì)則。算法備案詞頻為６８ 次， 只在《指導(dǎo)意見》《規(guī)定》《深度合成規(guī)定》３ 部政策中有所提及， 其中， 算法備案要求（５５.９％） 是在《指導(dǎo)意見》中明確提出的， 起總攬全局的指導(dǎo)性作用?！渡疃群铣梢?guī)定》提到， 具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者， 應(yīng)當(dāng)按照《規(guī)定》履行備案和變更、注銷備案手續(xù)， 因此， 關(guān)于算法備案流程（１４.７％）、算法備案注銷（７.４％）、算法備案變更（４.４％）、算法備案公示（１７.６％）的具體要求主要依據(jù)《規(guī)定》中的相關(guān)條例執(zhí)行。２０２２年， 國家網(wǎng)信辦公布了首批算法備案者， 這也標(biāo)志著我國算法備案制度的落地。算法安全評估規(guī)范詞頻５４ 次， 占比１９.８％， 安全評估流程詞頻２１９ 次，占比８０.2％。有關(guān)算法安全評估規(guī)范的內(nèi)容全部出自《指導(dǎo)意見》《規(guī)定》《深度合成規(guī)定》， 這３部政策法規(guī)從整體上強(qiáng)調(diào)開展算法安全評估的重要性， 要組建專業(yè)的評估隊(duì)伍， 評估各算法應(yīng)用環(huán)節(jié)的漏洞和風(fēng)險(xiǎn)， 針對部分算法技術(shù)提出了評估要求， 概括性較強(qiáng)， 缺少具體的評估細(xì)則。安全評估流程絕大部分出自《機(jī)器學(xué)習(xí)評估規(guī)范》《深度學(xué)習(xí)評估規(guī)范》兩部行業(yè)組織政策， 從算法評估的流程細(xì)節(jié)入手， 分別規(guī)定了機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)算法在設(shè)計(jì)開發(fā)、測試、維護(hù)升級等階段的安全要求、證實(shí)方法、安全評估實(shí)施流程等內(nèi)容?？傮w來說， 在我國當(dāng)前算法治理政策法規(guī)中， 針對評估范圍的選擇、評估標(biāo)準(zhǔn)的確定以及評估結(jié)果的披露等流程細(xì)節(jié)， 仍需要進(jìn)一步出臺(tái)相應(yīng)規(guī)范。

２） 事中算法監(jiān)管。美國著名行政學(xué)者戴維·奧斯本、特德·蓋布勒曾提出“預(yù)見性的政府： 預(yù)防而不是治療”［２６］ ， 因此， 事前算法評估和事中算法監(jiān)管是算法治理過程中起決定性作用的重要環(huán)節(jié)。在算法監(jiān)管部分的內(nèi)容分布上， 監(jiān)管模式創(chuàng)新（１５.３％）、多元參與主體（６７. ７％） 主題內(nèi)容占比較高。從監(jiān)管模式創(chuàng)新來看， 完善算法監(jiān)管體系，創(chuàng)新性構(gòu)建多位一體的監(jiān)管體系大勢所趨； 從多元參與主體來看， 《指導(dǎo)意見》強(qiáng)調(diào)形成政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會(huì)監(jiān)督的新局面， 鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律并積極接受社會(huì)監(jiān)督； 算法監(jiān)測（６.４％）和算法審計(jì)（７.２％）主題內(nèi)容占比次之， 從算法風(fēng)險(xiǎn)監(jiān)測來看， 《規(guī)定》對網(wǎng)信部門的權(quán)責(zé)進(jìn)行了細(xì)化， 提出了以雙層次、多部門為主的聯(lián)合監(jiān)管模式， 由電信部門、公安部門、市場監(jiān)督部門等共同配合進(jìn)行算法監(jiān)管。而從算法審計(jì)來看， 當(dāng)前僅在《人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)治理》中提到了安全審計(jì)工具， 通過審計(jì)工具全方位監(jiān)測安全事件， 及時(shí)發(fā)現(xiàn)并規(guī)避各種安全威脅［２７］ 。我國應(yīng)該逐步將算法審計(jì)納入算法監(jiān)管或問責(zé)框架中， 并對算法審計(jì)的主體、客體、范圍、實(shí)施機(jī)制、實(shí)施后果進(jìn)行規(guī)定［２８］ 。

３） 事后算法問責(zé)。雖然在算法治理過程中“事前行為比事后問責(zé)更重要”， 但在欠缺統(tǒng)一的標(biāo)準(zhǔn)、規(guī)則和專業(yè)的人員與組織配備的情況下， 事前預(yù)防模式下各種措施的功能發(fā)揮受到諸多限制， 因此， 針對算法應(yīng)用過程中出現(xiàn)的違法違規(guī)行為進(jìn)行問責(zé)也應(yīng)重視［２９］ 。算法問責(zé)的主要內(nèi)容可以劃分為５ 部分， 分別是違規(guī)追究責(zé)任（５８.９％）、違規(guī)取得備案（８.１％）、依法注銷備案（８. １％）、提供針對個(gè)人特征選項(xiàng)（９.７％）、限制平臺(tái)交易（１５.３％）， 累計(jì)詞頻１２４ 次， 占１２ 部政策法規(guī)內(nèi)容詞頻的５.２％?？傮w來看， 多部政策法規(guī)明確提到了算法問責(zé)的相關(guān)內(nèi)容， 如《中華人民共和國電子商務(wù)法》第７７ 條提到， 電子商務(wù)經(jīng)營者違法根據(jù)消費(fèi)者個(gè)人特征提供搜索結(jié)果的， 市場監(jiān)管部門可以根據(jù)情況嚴(yán)重程度進(jìn)行處罰； 《規(guī)定》單獨(dú)將問責(zé)部分歸為第五章“法律責(zé)任”， 對違反《規(guī)定》行為按照法律、行政法規(guī)或由網(wǎng)信部門和電信、公安、市場監(jiān)管等部門追究責(zé)任。針對事后算法問責(zé)的具體要求散落到多部法規(guī)中， 尚未形成系統(tǒng)的、完整的問責(zé)制度， 因此， 在未來我國算法治理政策法規(guī)框架中應(yīng)加快《算法問責(zé)法》的立法進(jìn)程。

４結(jié)論與建議

自２０２１ 年我國開啟算法治理元年起， 算法治理迅速進(jìn)入國家監(jiān)管視野， 而推動(dòng)國家算法治理離不開政策法規(guī)的引導(dǎo)。因此， 本文通過Ｎｖｉｖｏ１２ 對我國１２ 部算法治理政策法規(guī)進(jìn)行詞頻編碼， 經(jīng)過政策文本量化分析后， 形成我國算法治理政策法規(guī)框架， 梳理發(fā)現(xiàn)當(dāng)前我國算法治理存在“缺乏總領(lǐng)性法律引導(dǎo)、主題分布不均衡、行業(yè)標(biāo)準(zhǔn)規(guī)范不細(xì)化、尚無地方專項(xiàng)政策” 的問題。具體如下： 一是缺乏總領(lǐng)性法律引導(dǎo)。我國算法治理進(jìn)程才剛剛開始， 雖有《指導(dǎo)意見》《規(guī)定》等引領(lǐng)性文件，但政策法規(guī)內(nèi)容較為分散， 缺少總領(lǐng)性的法律引導(dǎo)， 中央層面和行業(yè)層面政策法規(guī)的內(nèi)容連接性也不強(qiáng)； 二是主題分布不均衡。中央層面?zhèn)戎匦畔⒎?wù)規(guī)范、算法監(jiān)管、算法備案、算法問責(zé)等， 行業(yè)層面集中在算法倫理和算法評估， ２０２２ 年８ 月，國家網(wǎng)信辦公布了互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)，同時(shí)公布了首批備案清單， 實(shí)現(xiàn)了算法備案制度在我國的落地， 但很多細(xì)節(jié)內(nèi)容尚需持續(xù)優(yōu)化， 以提高科學(xué)性、合理性及合法性； 三是行業(yè)標(biāo)準(zhǔn)規(guī)范不細(xì)化。雖然我國已經(jīng)發(fā)布《指導(dǎo)意見》《規(guī)定》等引領(lǐng)性政策， 并且信標(biāo)委等部門正在積極擬定相關(guān)算法規(guī)范與細(xì)則， 但行業(yè)配套制度仍欠缺較多， 如算法分類分級、算法備案、算法問責(zé)等提及較少，重視程度略顯不足； 四是尚無地方專項(xiàng)政策。部分地區(qū)多將算法治理政策法規(guī)嵌套于數(shù)據(jù)政策或人工智能政策中， 尚未有地方政府出臺(tái)專項(xiàng)算法治理政策法規(guī)與條例。

基于以上問題， 本文從治理“力度—精度—深度—廣度” 視角提出以下建議， 旨在逐步將較為零散的算法治理政策法規(guī)聚合成為具有中國特色的算法治理政策法規(guī)體系。

一是完善算法治理頂層設(shè)計(jì)。實(shí)現(xiàn)從算法政策到專門立法的過渡， 以加大治理力度。整體上， 我國算法治理仍處于探索階段， 由于當(dāng)前算法問責(zé)條款散落到多部政策法規(guī)中， 因此， 應(yīng)在《指導(dǎo)意見》《規(guī)定》等制度基礎(chǔ)上， 加速推進(jìn)《算法安全法》《算法問責(zé)法》等法案的立法進(jìn)程， 并從技術(shù)及應(yīng)用的交互層面對算法風(fēng)險(xiǎn)作出全面規(guī)制。

二是全流程算法治理。實(shí)現(xiàn)從中央層面頂層設(shè)計(jì)到全流程的算法治理， 以提升治理精度。雖然《指導(dǎo)意見》《規(guī)定》的發(fā)布意味著中央層面形成了算法治理總體思路， 但算法治理相關(guān)實(shí)施細(xì)則尚不完善， 尤其應(yīng)發(fā)揮行業(yè)組織的作用， 從事前評估、事中監(jiān)管、事后問責(zé)等環(huán)節(jié)加強(qiáng)算法治理的精度，同時(shí)， 出臺(tái)算法分級分類、算法備案、算法問責(zé)等配套制度， 實(shí)現(xiàn)創(chuàng)設(shè)算法規(guī)范的“中國方案”， 進(jìn)而形成全流程算法治理制度體系。

三是多領(lǐng)域算法治理。實(shí)現(xiàn)從全流程的算法治理到多領(lǐng)域的算法治理， 以增加治理深度。逐步深入到具體領(lǐng)域中的場景和應(yīng)用。目前， 我國已針對推薦算法、深度合成技術(shù)出臺(tái)相關(guān)規(guī)定， 未來應(yīng)基于領(lǐng)域特色， 以中央政府頂層設(shè)計(jì)為核心， 建立與當(dāng)前法規(guī)相適配的治理策略， 尤其是科技、金融、電信、醫(yī)療等領(lǐng)域， 如２０２３ 年４ 月， 《生成式人工智能服務(wù)管理辦法（征求意見稿）》發(fā)布， 以Ｃｈａｔ?ＧＰＴ 為代表的生成式人工智能背后的算法風(fēng)險(xiǎn)問題也即將納入國家監(jiān)管與治理范圍［３０］ ， 因此， 細(xì)化配套制度才能全面實(shí)現(xiàn)多領(lǐng)域的算法治理。

四是各區(qū)域算法治理。地方政府應(yīng)該形成具有區(qū)域特色算法治理專項(xiàng)制度， 以拓寬治理廣度。目前， 地方政府多將算法治理政策法規(guī)嵌套于數(shù)據(jù)政策或人工智能政策中， 并且在這些政策中單獨(dú)提及算法治理的內(nèi)容也較少， 隨著中央政府對算法治理進(jìn)程的不斷深入， 地方政府也應(yīng)逐步出臺(tái)適用于本區(qū)域的《算法條例》《算法安全條例》等。