基于數(shù)據(jù)主權(quán)視角的算法治理:進(jìn)展、困境與路徑

馬騰飛

(1.中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院,北京,100088; 2.公安部第一研究所,北京,100048)

1 引言

大數(shù)據(jù)時(shí)代下,深度學(xué)習(xí)算法與云計(jì)算技術(shù)日漸成熟,人類生產(chǎn)方式、生活方式與管理方式發(fā)生深刻變革,數(shù)據(jù)已成為人類的新生產(chǎn)資料,算法則成為人類新的生產(chǎn)工具。算法依托其“顛覆性潛力”,成為大數(shù)據(jù)時(shí)代的底層邏輯,算法對人類社會產(chǎn)生普遍且廣泛的影響已是不爭的事實(shí)。

當(dāng)前,算法正日益廣泛地被應(yīng)用于內(nèi)容信息、電子商務(wù)、無人駕駛、司法判決、智能診療等關(guān)鍵行業(yè)與重要領(lǐng)域,成為經(jīng)濟(jì)社會的底層架構(gòu)和推動社會數(shù)字化轉(zhuǎn)型、國家治理能力現(xiàn)代化的重要力量。在這一“算法泛在”進(jìn)程中,算法與社會各層面深度關(guān)聯(lián),使得不當(dāng)使用算法所產(chǎn)生的算法操縱、算法控制、算法歧視、算法黑箱、算法沉迷等問題日益威脅著個(gè)人權(quán)利、公共利益乃至國家安全。算法影響的利弊兩面性以及算法侵害的不斷出現(xiàn),使得圍繞算法風(fēng)險(xiǎn)的重新審視、治理體系的提升建設(shè)引發(fā)關(guān)注,算法治理問題已成為法學(xué)、管理學(xué)、信息科學(xué)、經(jīng)濟(jì)學(xué)等學(xué)科的研究熱點(diǎn),相關(guān)研究關(guān)切算法治理的核心議題,探討如算法黑箱[1]、算法安全[2]、算法歧視[3]、算法操縱[4]等核心風(fēng)險(xiǎn)與關(guān)鍵問題,如DIKW(Data,Information,Knowledge,Wisdom)全球治理框架[5]、算法黑箱不同程度的透明化[6]等治理思路與模型也不斷涌現(xiàn)。

算法風(fēng)險(xiǎn)沖擊國家安全,特別是與之最為關(guān)聯(lián)的國家數(shù)據(jù)主權(quán)安全。從全球范圍看,算法治理已被納入數(shù)據(jù)主權(quán)范疇,多國相繼發(fā)布針對算法的法規(guī)政策,推動算法實(shí)現(xiàn)透明可釋、公平公正、安全可控,保障國家數(shù)據(jù)主權(quán)安全。2019年,加拿大出臺《自動化決策指令》(DirectiveonAutomatedDecision-making)[7]對政府部門使用算法決策進(jìn)行規(guī)制,要求政府對采用的自動化決策系統(tǒng)進(jìn)行算法影響評估,保證算法決策質(zhì)量;2019年以來,歐盟加快頒布《算法問責(zé)與透明治理框架》(AGovernanceFrameworkforAlgorithmicAccountabilityandTransparency)[8]、《可信AI倫理指南》(EthicsGuidelinesforTrustworthyAI)[9]等系列政策,并成立算法透明度中心(European Centre for Algorithmic Transparency,ECAT),對不同場景下公共機(jī)構(gòu)使用具體的算法技術(shù)提出監(jiān)管規(guī)定,并以算法透明度等義務(wù)要求,保障歐洲公民基本權(quán)利;2022年美國發(fā)布《AI權(quán)利法案藍(lán)圖》(BlueprintforAIBillofRights)[10],明確提出行業(yè)主管部門牽頭、應(yīng)用場景導(dǎo)向的分散化算法監(jiān)管思路;同年7月,英國也加快發(fā)布政策文件《建立促進(jìn)創(chuàng)新的AI監(jiān)管路徑》(Establishingapro-innovationapproachtoregulatingAI)[11],提出將聚焦具體應(yīng)用場景解決算法風(fēng)險(xiǎn)問題。我國以《數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等法律法規(guī)和規(guī)范性文件對算法提出治理要求[12-14],2022年4月,我國中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動,深入排查整改我國互聯(lián)網(wǎng)企業(yè)平臺算法安全問題,評估算法安全能力。

基于此,本文創(chuàng)新將算法治理置于國家數(shù)據(jù)主權(quán)的視角之下,全面思考算法治理的核心挑戰(zhàn)所在,并在充分調(diào)研國際治理進(jìn)展的基礎(chǔ)上,探討我國算法治理進(jìn)路。本文力圖回答在我國數(shù)據(jù)主權(quán)競爭新時(shí)代下算法治理所包含的關(guān)鍵問題:①數(shù)據(jù)主權(quán)視角下算法帶來了何種沖擊和挑戰(zhàn);②數(shù)據(jù)主權(quán)視角下國際算法治理的進(jìn)展;③數(shù)據(jù)主權(quán)視角下我國算法治理要走何種路徑、采取何種措施與著力點(diǎn)。

2 主權(quán)視角下的算法治理及其挑戰(zhàn)

2.1 算法定義與治理必要性

從古代美索不達(dá)米亞的巴比倫數(shù)學(xué),到公元前2700年我國《黃帝歷》中對天體運(yùn)動規(guī)律的理解,算法由來已久并早已深刻與人類社會生產(chǎn)、生活關(guān)聯(lián)融合。大數(shù)據(jù)時(shí)代,海量數(shù)據(jù)與數(shù)字空間賦予算法更為廣闊的社會應(yīng)用空間,算法指明了機(jī)器所試圖實(shí)現(xiàn)的現(xiàn)實(shí)目標(biāo),以及實(shí)現(xiàn)該現(xiàn)實(shí)目標(biāo)的路徑與方法[15],由此,現(xiàn)代算法突破數(shù)學(xué)物理單一領(lǐng)域限制,源于技術(shù)與科學(xué),作用于社會。大數(shù)據(jù)時(shí)代的算法定義內(nèi)含了技術(shù)性、社會性的雙重面向:①技術(shù)性面向上,算法是對一個(gè)或一系列問題的解決方案的完整描述。算法具有邏輯推理性,并以代碼和數(shù)據(jù)為基礎(chǔ),數(shù)據(jù)是算法運(yùn)行的基礎(chǔ)資源,而代碼則是算法運(yùn)行的基礎(chǔ)原理,圍繞算法的治理也始終與數(shù)據(jù)、代碼的治理不可分割。②社會性面向上,算法是社會多元傳遞模式下的一種技術(shù)制度和文化實(shí)踐[16],承擔(dān)數(shù)智時(shí)代“生產(chǎn)力工具”角色,對微觀數(shù)據(jù)資源挖掘利用、宏觀社會生活運(yùn)行都產(chǎn)生了根本性影響,直接關(guān)涉國家與社會安全。算法的社會性屬性提供了數(shù)據(jù)主權(quán)視角下探討算法治理的正當(dāng)性基礎(chǔ)。

大數(shù)據(jù)時(shí)代,互聯(lián)網(wǎng)絡(luò)、數(shù)據(jù)環(huán)境與新興平臺組織提供了算法發(fā)展的物質(zhì)條件與絕對機(jī)遇,也為算法影響的廣度、深度、覆蓋范疇的提升提供了可能。算法影響了從個(gè)體決策、行動到國家憲法等人類社會生活的各個(gè)領(lǐng)域,在帶來經(jīng)濟(jì)與社會發(fā)展紅利的同時(shí)也帶來了算法侵害與風(fēng)險(xiǎn),對其展開治理有著緊迫性和必然性。一方面,算法治理是引導(dǎo)數(shù)字經(jīng)濟(jì)與信息社會健康發(fā)展的現(xiàn)實(shí)需要。相較于其他特定高精尖領(lǐng)域的顛覆性技術(shù),算法已然成為網(wǎng)絡(luò)空間與人類社會的底層邏輯與生產(chǎn)工具,算法影響由此具有廣泛的溢出效應(yīng),算法風(fēng)險(xiǎn)直接影響到公民利益和福祉、經(jīng)濟(jì)發(fā)展的可持續(xù)性、社會發(fā)展的平等性、政治發(fā)展的公平性,在國家政治、經(jīng)濟(jì)、文化等各個(gè)方面引發(fā)嚴(yán)峻的治理挑戰(zhàn)。另一方面,算法治理是維護(hù)國家安全與強(qiáng)化數(shù)據(jù)主權(quán)保障能力必經(jīng)之途。網(wǎng)絡(luò)空間成為國家間博弈的第五疆域,各國圍繞數(shù)據(jù)主權(quán)的博弈與安全治理趨向白熱化,各國在對數(shù)據(jù)資源、關(guān)鍵基礎(chǔ)設(shè)施等資源要素展開激烈爭奪的同時(shí),算法正以更為隱蔽多變的方式威脅國家安全,尤其當(dāng)算法與平臺、跨國公司關(guān)聯(lián),帶來的國家安全與數(shù)據(jù)主權(quán)沖擊不言而喻。推進(jìn)算法治理已經(jīng)成為國際社會廣泛關(guān)注的重要議題和普遍做法,從“數(shù)據(jù)治理”到“算法治理”是網(wǎng)絡(luò)空間領(lǐng)域治理的一個(gè)深化升級[17],也是維護(hù)國家網(wǎng)絡(luò)空間安全、強(qiáng)化數(shù)據(jù)主權(quán)保障能力的必經(jīng)之路。

2.2 主權(quán)視角下算法治理定義

“算法治理”概念有雙重含義,一是用算法進(jìn)行治理,二是對算法進(jìn)行治理。算法發(fā)揮其效用依賴各應(yīng)用主體與數(shù)據(jù)資源,因此具有“人-數(shù)據(jù)-算法”的系統(tǒng)特征,對算法的治理不僅是針對技術(shù)的治理,更多的是面向算法主體、算法社會問題的治理?；诖?借鑒已有研究,本文語境下的算法治理,是在給定算法不具有自由意志且不具有自主自為性的前提下,以算法技術(shù)為治理對象,由相應(yīng)的治理主體開展對算法參與決策過程以及算法技術(shù)外部性的治理,側(cè)重對算法所引發(fā)社會、經(jīng)濟(jì)等領(lǐng)域風(fēng)險(xiǎn)與問題的治理行動,目的是促進(jìn)算法技術(shù)產(chǎn)生持續(xù)的正外部性[18]。

圍繞算法治理,目前學(xué)界、實(shí)踐界形成較為明確的“過程-結(jié)果”的不同治理思路分野。算法是動態(tài)的,算法的誕生、應(yīng)用、實(shí)施與產(chǎn)出是動態(tài)的過程,復(fù)合上差異化的應(yīng)用目的、應(yīng)用場景與應(yīng)用對象,同一算法也會產(chǎn)生截然不同的結(jié)果和影響;且產(chǎn)生的影響和結(jié)果在不同時(shí)空因素下繼續(xù)演變,算法的結(jié)果(及其影響)也由此成為動態(tài)的過程。因此,對算法這一動態(tài)對象的治理形成了側(cè)重全流程監(jiān)管的過程治理與側(cè)重產(chǎn)出管理的結(jié)果治理分野:①過程治理,就是沿著算法產(chǎn)生與應(yīng)用邏輯、流程展開治理,強(qiáng)調(diào)算法自身的發(fā)展邏輯與技術(shù)規(guī)律,提供了技術(shù)生命周期全流程的治理與監(jiān)管路徑。但隨著算法自身復(fù)雜性顯著增強(qiáng),對算法代碼進(jìn)行實(shí)時(shí)動態(tài)治理需要具備與當(dāng)前算法發(fā)展相當(dāng)或超越的技術(shù)治理能力,同時(shí)算法影響不斷擴(kuò)大并與社會環(huán)境深度交織,針對算法流程的監(jiān)管難以應(yīng)對外部社會影響,進(jìn)而讓算法的過程治理既在技術(shù)上不可行,也在管理上代價(jià)高昂且標(biāo)的不明。②結(jié)果治理,則是專門針對算法的產(chǎn)出進(jìn)行治理,通過在法律上約定算法可追責(zé)性,在規(guī)則上約定算法責(zé)任實(shí)體性,以算法透明、數(shù)據(jù)證據(jù)化、算法解釋等具體手段,將算法生產(chǎn)者與使用者、算法結(jié)果及其社會影響納入治理體系,相較于復(fù)雜的過程治理,面向算法結(jié)果的治理更為簡單易行且高效,由此針對結(jié)果的治理成為主流治理思路,如歐盟算法問責(zé)機(jī)制、我國算法備案制度,均為面向算法產(chǎn)出與結(jié)果的治理方案。

本文基于數(shù)據(jù)主權(quán)視角探討算法治理。從數(shù)據(jù)主權(quán)的視角來看,算法沖擊國家數(shù)據(jù)主權(quán)安全,算法治理是保障國家數(shù)據(jù)主權(quán)安全的重要內(nèi)容,是國家安全的重要內(nèi)涵,算法治理亟待國家權(quán)力的介入。一方面是算法與國家安全的沖突構(gòu)成了治理的現(xiàn)實(shí)背景,算法攻擊主權(quán)國家的具體數(shù)據(jù)資源、物理個(gè)人、設(shè)施等要素,國家介入算法治理有著其明確的治理需求和法理基礎(chǔ);另一方面,算法所帶來的風(fēng)險(xiǎn)沖擊遠(yuǎn)超個(gè)人、組織范疇,面對大數(shù)據(jù)企業(yè)、平臺等大型治理對象,單獨(dú)的個(gè)人和組織難以應(yīng)對和抗衡,國家作為權(quán)威機(jī)構(gòu)與管理組織,有能力也有義務(wù)回應(yīng)算法帶來的風(fēng)險(xiǎn)沖擊,保障本國公民權(quán)益、組織利益和國家安全。主權(quán)視角下,國家主導(dǎo)算法治理有著治理必要、治理正當(dāng)性。

綜上,在前文算法治理定義上,本文進(jìn)一步明確數(shù)據(jù)主權(quán)視角下的算法治理為國家安全議題的下位類,其核心治理主體為主權(quán)國家,包括其權(quán)力機(jī)關(guān)、政府部門、專門機(jī)構(gòu),來自技術(shù)、產(chǎn)業(yè)的企業(yè)、平臺、組織以及個(gè)人等多元主體為在主權(quán)國家領(lǐng)導(dǎo)下的治理參與主體;具體治理手段包括發(fā)布法律法規(guī)、監(jiān)管算法主體、評估算法風(fēng)險(xiǎn)等,側(cè)重過程治理;核心治理目標(biāo)為規(guī)范算法技術(shù)發(fā)展與應(yīng)用,推動數(shù)字經(jīng)濟(jì)健康發(fā)展與社會數(shù)字化轉(zhuǎn)型,最終保障國家數(shù)據(jù)主權(quán)安全。

2.3 主權(quán)視角下算法治理挑戰(zhàn)

泛在的算法為主權(quán)國家發(fā)展與治理賦能的同時(shí),也為主權(quán)國家?guī)砹烁鼮閺?fù)雜的沖擊。數(shù)據(jù)主權(quán)下的算法治理挑戰(zhàn),本文認(rèn)為主要有三個(gè)核心面向:一是數(shù)據(jù)主權(quán)與“算法權(quán)力”的博弈風(fēng)險(xiǎn);二是平臺國家化和國家平臺化的沖擊風(fēng)險(xiǎn);三是現(xiàn)行治理方案時(shí)滯與缺失導(dǎo)致治理空白。

(1)治理主體上:數(shù)據(jù)主權(quán)與“算法權(quán)力”的博弈

傳統(tǒng)法治的核心價(jià)值在于法規(guī)范的層級性和安定性[19]。數(shù)據(jù)時(shí)代的到來,打破了國家的物理地域性和法律規(guī)范的層級性。算法推動“去中心化”實(shí)現(xiàn),使得數(shù)據(jù)資源、數(shù)據(jù)主體、數(shù)據(jù)客體可事實(shí)上實(shí)現(xiàn)跨疆域的“無限制”傳播與發(fā)展,算法引發(fā)的治理問題超出單一國家權(quán)力范疇,從而弱化了單一主權(quán)國家法規(guī)的效力與權(quán)威性。同時(shí),主權(quán)國家的法律法規(guī)不再是規(guī)范公民在數(shù)字網(wǎng)絡(luò)上行為的唯一規(guī)范,而與其他算法技術(shù)標(biāo)準(zhǔn)、社會治理、產(chǎn)業(yè)政策、行業(yè)規(guī)范互相競爭,以“交互的規(guī)范”共同形塑算法社會,法律體系與技術(shù)規(guī)范兩者間存在不可避免的碰撞與沖突,而國家法律法規(guī)的滯后性使得其在瞬息萬變的算法治理問題前尚顯“無力”,我國此前互聯(lián)網(wǎng)企業(yè)與平臺組織“野蠻生長”帶來的數(shù)據(jù)泄露、勞動者權(quán)益受損、國家安全威脅等嚴(yán)峻問題,正是這一碰撞與沖突中國家數(shù)據(jù)主權(quán)“無力”的集中體現(xiàn)。

在數(shù)據(jù)主權(quán)亟待進(jìn)一步強(qiáng)化、算法治理方案尚待進(jìn)一步完善的同時(shí),算法的廣泛應(yīng)用與強(qiáng)大賦能能力形成事實(shí)上的“算法權(quán)力”,進(jìn)一步與國家主權(quán)展開博弈,引發(fā)主權(quán)視角下算法治理挑戰(zhàn)。一方面,算法權(quán)力可被國家主體所控制,國家憑借其掌握的海量數(shù)據(jù)、龐大的行政、司法等資源,利用算法進(jìn)行精準(zhǔn)管理和提升社會治理效率,將算法嵌入公權(quán)力,使之成為支撐公共治理、服務(wù)的輔助工具。但在這一進(jìn)程中,國家主體對算法這一新興事務(wù)認(rèn)識尚不全面,在積極引入算法進(jìn)行輔助決策與管理的同時(shí),算法的及時(shí)執(zhí)行、自我實(shí)現(xiàn)特點(diǎn)使得其可以借助公權(quán)力體系野蠻生長,甚至以智能決策、自動化服務(wù)成為獨(dú)立決策者“取代”公權(quán)力,算法歧視、公民監(jiān)視、重要數(shù)據(jù)泄露等潛在危害在公權(quán)力復(fù)合下產(chǎn)生算法權(quán)力異化風(fēng)險(xiǎn),而現(xiàn)有法律制度缺乏對算法權(quán)力規(guī)制的詳盡方案,對算法權(quán)力異化風(fēng)險(xiǎn)的救濟(jì)、應(yīng)對機(jī)制也尚未完備,嚴(yán)重威脅國家數(shù)據(jù)主權(quán)安全。

另一方面,算法權(quán)力也可被非國家主體所掌握,特別是在算法賦能下,一批以平臺為代表的超國家實(shí)體對數(shù)據(jù)和算法的控制力在某些領(lǐng)域甚至超過了部分主權(quán)國家。超國家實(shí)體依托領(lǐng)先的算法技術(shù)優(yōu)勢、廣闊數(shù)據(jù)市場和海量用戶,利用機(jī)器優(yōu)勢與架構(gòu)優(yōu)勢占據(jù)海量數(shù)據(jù)資源、攔截主要數(shù)據(jù)紅利,以技術(shù)方案有效規(guī)避國家法律體系規(guī)制,以用戶“知情同意”形成算法收集和利用數(shù)據(jù)的合法化基礎(chǔ),也成為算法歧視、信息繭房、擾亂市場競爭、侵害弱勢群體利益等算法損害的免責(zé)借口。同時(shí),超國家實(shí)體基于算法技術(shù)所提供的數(shù)據(jù)產(chǎn)品、算法服務(wù)超越國家物理邊界,在商業(yè)與經(jīng)濟(jì)活動中無可避免受到其他國家數(shù)據(jù)主權(quán)制度的限制,平臺中存儲和流轉(zhuǎn)的海量個(gè)人數(shù)據(jù)、商業(yè)秘密數(shù)據(jù)、國家重要數(shù)據(jù)及其內(nèi)含的情報(bào)信息成為外部敵對勢力的關(guān)注重點(diǎn),平臺依賴的核心算法技術(shù)、關(guān)鍵基礎(chǔ)設(shè)施、重要數(shù)據(jù)軟硬件供應(yīng)鏈也面臨外部惡意勢力的攻擊與蓄意破壞,超國家實(shí)體成為主權(quán)國家間數(shù)據(jù)主權(quán)博弈與競爭的“橋頭堡”,在國際外部環(huán)境與國家內(nèi)部環(huán)境的雙重復(fù)合下,由超國家實(shí)體帶來的全球化風(fēng)險(xiǎn)極大提升,算法治理趨向復(fù)雜。

(2)治理對象上:平臺國家化和國家平臺化的沖擊

網(wǎng)絡(luò)空間與主權(quán)國家歷史短期內(nèi)獲得三次重要變遷:第一次國家吸納網(wǎng)絡(luò)空間,第二次體現(xiàn)為網(wǎng)絡(luò)空間國家化,第三次則是當(dāng)下網(wǎng)絡(luò)空間里的國家與多元主體的主導(dǎo)權(quán)競爭[20]。數(shù)字平臺開始具有部分國家屬性;國家機(jī)構(gòu)為了適應(yīng)網(wǎng)絡(luò)發(fā)展,也出現(xiàn)了國家平臺化的趨勢。平臺國家化現(xiàn)象沖擊了傳統(tǒng)憲法視角下依托固定領(lǐng)土的國家主權(quán),主權(quán)的行使從上而下遭遇阻礙,數(shù)據(jù)信息所有者、使用者、存儲者在地理位置上的分離以及所引發(fā)的跨境流動,導(dǎo)致主體識別和權(quán)力行使的困難[21]。

跨國平臺的主權(quán)侵蝕和國內(nèi)平臺的數(shù)據(jù)掌控不斷削弱著主權(quán)國家的權(quán)力地位。平臺事實(shí)上在網(wǎng)絡(luò)虛擬空間獲得了與公權(quán)力相對應(yīng)的包括準(zhǔn)立法權(quán)、準(zhǔn)執(zhí)法權(quán)和準(zhǔn)司法權(quán)在內(nèi)的獨(dú)立規(guī)制體系[22],事實(shí)上人們之所以遵守網(wǎng)絡(luò)關(guān)鍵規(guī)則,并非源于社會制裁和國家制裁的壓力,而是源于統(tǒng)治該空間的代碼和架構(gòu)[23]。這種以代碼為核心的技術(shù)治理形成一種有別于國家的“主權(quán)”,主要通過驗(yàn)證、痕跡追蹤、信息篩選、加密等手段來實(shí)現(xiàn)[24]。如何應(yīng)對來自平臺國家化和國家平臺化的沖擊,始終是治理的核心挑戰(zhàn)。

同時(shí),算法在具體應(yīng)用與實(shí)施上,帶來了各類型的算法風(fēng)險(xiǎn),如算法操縱引發(fā)內(nèi)容安全風(fēng)險(xiǎn)、算法濫用侵害用戶合法權(quán)益、算法霸權(quán)破壞數(shù)字市場秩序、算法問責(zé)影響社會公共治理。伴隨著算法泛在化的是算法風(fēng)險(xiǎn)的泛在化。算法挑戰(zhàn)的沖擊下,各主權(quán)國家積極采用手段對算法及其后果予以治理。但從當(dāng)前治理實(shí)踐來看,以已有的治理手段和方式尚難以應(yīng)對算法治理需求,暴露了治理結(jié)構(gòu)的僵化性、治理方法的滯后性、治理范圍的狹隘性等不足。

(3)治理方案上:現(xiàn)行治理方案時(shí)滯與缺失的限制

算法治理是大數(shù)據(jù)與人工智能時(shí)代主權(quán)國家面臨的全新治理議題與挑戰(zhàn)。面向瞬息萬變和快速更迭的大數(shù)據(jù)環(huán)境與算法技術(shù),國家現(xiàn)行治理方案的時(shí)滯和缺失使得國家缺乏科學(xué)指導(dǎo)與實(shí)踐支撐,限制了國家算法治理的開展與有效運(yùn)行,加大了算法治理面臨的挑戰(zhàn)。

現(xiàn)行治理制度不健全。首先,現(xiàn)行的數(shù)據(jù)治理制度框架,以及全球治理制度框架,都難以直接套用或涵蓋算法治理的現(xiàn)實(shí)問題。一方面,算法治理有其特殊性,使得其難以被歸納為特定數(shù)據(jù)與技術(shù)的下位類,國家圍繞數(shù)據(jù)治理的制度框架以數(shù)據(jù)為核心對象,難以兼顧算法的技術(shù)與社會面向,呈現(xiàn)制度方案與技術(shù)規(guī)則的“無力”,難以提供合適的參考方案;另一方面,算法治理雖屬于全球治理、國家治理的下位類,但現(xiàn)行國際治理方略主要圍繞網(wǎng)絡(luò)空間資源權(quán)屬、數(shù)據(jù)資源跨境流動、軟硬件基礎(chǔ)設(shè)施產(chǎn)業(yè)鏈等問題開展,對于算法尚未有專門治理方案,國際算法治理領(lǐng)域也未形成統(tǒng)一標(biāo)準(zhǔn)與規(guī)范,為沖突和風(fēng)險(xiǎn)的產(chǎn)生帶來隱患。其次,算法治理問題已難以完全以單一法律政策方案予以解決,跨層級、部門法律政策體系尚未完善。以我國為例,當(dāng)前尚未有針對算法治理的頂層規(guī)劃,在國家戰(zhàn)略中算法治理側(cè)重原則性指南與號召;也尚未有針對算法的專門法律,相關(guān)論述散見于《數(shù)據(jù)安全法》等關(guān)聯(lián)法律中;涌現(xiàn)一批針對算法治理的行政規(guī)定與指導(dǎo)意見,快速響應(yīng)了算法治理需求,但效力級別受到限制。算法治理亟待制定專門的制度框架與完善制度體系,對當(dāng)前缺失或還不夠成熟的關(guān)鍵制度與技術(shù)規(guī)則予以突破,如算法評估標(biāo)準(zhǔn)、算法審查流程規(guī)范、算法國際競爭指南與技術(shù)供應(yīng)鏈規(guī)范,算法侵害救濟(jì)策略等,在現(xiàn)行國家數(shù)據(jù)治理與全球治理框架基礎(chǔ)上,進(jìn)一步完善算法治理框架,豐富跨層級、跨部門治理體系。

現(xiàn)行治理機(jī)制不完善。傳統(tǒng)治理機(jī)制難以應(yīng)對算法治理問題,而針對算法治理的新興機(jī)制尚未建立,治理機(jī)制斷層下暴露算法治理真空。首先,算法作為底層生產(chǎn)力工具,與社會經(jīng)濟(jì)、文化、政治各領(lǐng)域深度關(guān)聯(lián),涉及網(wǎng)絡(luò)與數(shù)字空間各細(xì)分領(lǐng)域,關(guān)聯(lián)治理部門多元。但在當(dāng)前治理實(shí)踐中,算法治理與監(jiān)管機(jī)構(gòu)在設(shè)置和職責(zé)劃分上缺乏統(tǒng)一性,專門性的算法治理總領(lǐng)部門與專門機(jī)構(gòu)尚待明確(如專門針對算法合規(guī)性判斷的權(quán)威、獨(dú)立和專業(yè)的第三方審計(jì)機(jī)構(gòu)),各細(xì)分領(lǐng)域與部門的治理機(jī)構(gòu)也尚未明確,跨部門、跨區(qū)域協(xié)同治理機(jī)制亟待建設(shè),以支撐強(qiáng)化國家針對復(fù)雜算法問題的治理能力。其次,算法關(guān)聯(lián)社會、技術(shù)、人的多重因素,算法治理這一新興問題具有治理的技術(shù)門檻,在數(shù)據(jù)主權(quán)視角下的算法治理需進(jìn)一步地綜合考慮國內(nèi)外雙重治理需求,因此,單一采用技術(shù)或法律政策方案都難以實(shí)現(xiàn)完備的算法治理,僅依賴政府單一主體也難以實(shí)現(xiàn)算法的有效治理。受限于傳統(tǒng)治理思想,在以國家主體為核心的基礎(chǔ)上,當(dāng)前平臺、數(shù)據(jù)企業(yè)、技術(shù)組織等技術(shù)類主體的治理效用尚未發(fā)揮,與算法治理問題緊密關(guān)聯(lián)的行業(yè)組織、公民的治理意識尚未提升,與外部其他主權(quán)國家、國際組織的算法共商共建共享機(jī)制也尚未形成,多元主體共治格局尚未形成。

我國實(shí)現(xiàn)了互聯(lián)網(wǎng)接入的充分供給,步入算法治理“2.0”時(shí)代[25],算法已構(gòu)成了經(jīng)濟(jì)社會的底層架構(gòu),算法普遍存在,算法推薦服務(wù)濫用引發(fā)的信息繭房、飯圈亂象、大數(shù)據(jù)殺熟等社會問題引發(fā)了社會廣泛關(guān)注;在治理上雖有長足發(fā)展,但也面臨以上共性挑戰(zhàn)與治理困境。主權(quán)視角下如何完備我國算法治理體系,應(yīng)對算法風(fēng)險(xiǎn),形成具有中國特色的算法治理進(jìn)路急需回應(yīng)。

3 主權(quán)視角下算法治理的國際進(jìn)展

隨著數(shù)字全球化進(jìn)程的不斷深入與全球數(shù)字資源爭奪的持續(xù)白熱化,算法治理已成為主權(quán)國家在數(shù)據(jù)主權(quán)時(shí)代下的重要議題。決策者對治理路徑的選擇將一定程度上影響數(shù)據(jù)發(fā)展走向,引導(dǎo)整體治理機(jī)制的形成[26]。立足不同國情與治理目標(biāo),針對算法帶來的風(fēng)險(xiǎn)和問題,各國采取的算法治理舉措存在差異,由此形成了不同的模式與進(jìn)路。本文以美國、歐盟為主要參考對象,從算法治理關(guān)聯(lián)法律政策入手,充分梳理當(dāng)前國際算法治理進(jìn)展與不同模式進(jìn)路,為我國提供充分參考?？傮w上,美國從防范算法侵害入手,形成了政府和第三方的問責(zé)模式;歐盟從數(shù)據(jù)保護(hù)入手,逐漸與美國的問責(zé)模式匯流;我國從數(shù)據(jù)主權(quán)安全入手實(shí)施治理,但尚未形成有法理邏輯和明確操作路徑的治理模式。

3.1 美國:以多方問責(zé)為核心,風(fēng)險(xiǎn)導(dǎo)向的主動模式

算法治理發(fā)端于美國[27]。美國具有算法技術(shù)與數(shù)字市場優(yōu)勢,較早意識到算法風(fēng)險(xiǎn)并開展算法治理,陸續(xù)發(fā)布專門性法案予以規(guī)制,且相關(guān)政策層次由行業(yè)不斷提升至地區(qū)與國家,在全球算法治理實(shí)踐中位于前端。從內(nèi)容上看,在“網(wǎng)絡(luò)自由”“技術(shù)中立”等原則指導(dǎo)下,美國形成了由政府或第三方主導(dǎo)的問責(zé)模式[28],以問責(zé)為核心手段,其問責(zé)的主體是政府或第三方,問責(zé)對象是有潛力讓算法產(chǎn)生廣泛且深刻影響的算法生產(chǎn)者與使用者,將算法帶來的不良社會后果直接歸責(zé)到算法生產(chǎn)者和使用者,問責(zé)內(nèi)容包括算法內(nèi)容和非算法流程。

2017年初,美國計(jì)算機(jī)協(xié)會下屬的美國公共政策委員會發(fā)布《算法透明度和責(zé)任聲明》(StatementonAlgorithmicTransparencyandAccountability)[29],提出七項(xiàng)促進(jìn)算法透明度和可靠性的原則,要求“從一開始就防止偏見”,建立了算法治理的外部問責(zé)和控制模式;在行業(yè)聲明的推動下,隨后12月,紐約通過《政府部門自動決策系統(tǒng)法案》(AutoDecisionSystemTaskForceLaw)[30],要求成立由自動化決策系統(tǒng)專家和受到自動化決策系統(tǒng)影響的公民組織代表在內(nèi)的專門性工作組,對市政機(jī)構(gòu)運(yùn)用此類算法的公平性、問責(zé)性和透明度進(jìn)行監(jiān)管,該法案成為全球首部針對人工智能監(jiān)管的專門性制度,引入來自企業(yè)、個(gè)人的多元監(jiān)督模式,正式開啟美國算法治理外部問責(zé)與控制的實(shí)踐模式。

國家層面上,2019年,《算法問責(zé)法案》(AlgorithmicAccountabilityActof2019)[31]通過并授權(quán)美國聯(lián)邦貿(mào)易委員會要求和監(jiān)督企業(yè)對其人工智能系統(tǒng)的準(zhǔn)確性、公平性、偏見、歧視、隱私和安全性等問題進(jìn)行自我審查,將年收入超過5000萬美元或擁有超過100萬用戶數(shù)據(jù)的數(shù)據(jù)代理商和企業(yè)均納入治理對象范疇;2021年,《算法正義與在線平臺透明度法案》(AlgorithmicJusticeandOnlinePlatformTransparencyAct)[32]發(fā)布,建立了算法安全性和有效性標(biāo)準(zhǔn),對算法歧視的判斷標(biāo)準(zhǔn)進(jìn)行了詳細(xì)解釋,關(guān)切在線平臺規(guī)范算法過程從而保護(hù)個(gè)人信息,要求在線平臺為非算法流程承擔(dān)責(zé)任,包括算法運(yùn)行的可靠性、個(gè)人數(shù)據(jù)的可攜帶性和將個(gè)人數(shù)據(jù)作為司法證據(jù)的可實(shí)現(xiàn)性,由此建立了問責(zé)模式下將個(gè)人數(shù)據(jù)證據(jù)化、將算法偏見歸責(zé)化的邏輯閉環(huán)。

3.2 歐盟:以數(shù)據(jù)保護(hù)為基礎(chǔ),輔以問責(zé)的防御模式

歐盟具有數(shù)字經(jīng)濟(jì)與數(shù)據(jù)市場發(fā)展的悠久歷史,但在當(dāng)前數(shù)據(jù)主權(quán)競爭與博弈中逐漸呈現(xiàn)頹勢。受人權(quán)保障思路與原則影響,歐盟較早關(guān)注到與個(gè)人數(shù)據(jù)密切相關(guān)的平臺組織與算法風(fēng)險(xiǎn),在其早期的數(shù)據(jù)治理制度中已全面關(guān)切算法治理的相關(guān)問題,展開了針對算法負(fù)面影響的專門治理實(shí)踐。整體上,歐盟從早期側(cè)重?cái)?shù)據(jù)資源保護(hù),從數(shù)據(jù)保護(hù)入手,以保護(hù)個(gè)體、組織不受算法侵害的防御性框架和法律制度為基礎(chǔ),逐漸轉(zhuǎn)向輔以政府和第三方問責(zé)以治理算法的負(fù)面影響和可能危害的綜合防御模式。

歐盟1995年頒布的《數(shù)據(jù)保護(hù)指令》(DataProtectionDirective)[33]建立了以數(shù)據(jù)保護(hù)為出發(fā)點(diǎn)的算法治理的邏輯起點(diǎn);2000年頒布的《電子商務(wù)指令》(ElectronicCommerceDirective2000)[34]則規(guī)范了數(shù)字服務(wù)提供者的責(zé)任;2015年歐盟進(jìn)一步出臺的《數(shù)字單一市場戰(zhàn)略》(ADigitalSingleMarketStrategyforEurope)[35]在理論上奠定了針對數(shù)字市場的監(jiān)管框架,把算法產(chǎn)出(如搜索結(jié)果、廣告鏈接等)透明度,數(shù)據(jù)流動的組織間關(guān)系、數(shù)據(jù)流動的意愿與約束等都納入市場監(jiān)管范圍,為算法治理指出了方向;2016年《人工智能:未來決策制定的機(jī)遇與影響》(Artificialintelligence:OpportunitiesandImplicationsfortheFutureofDecisionMak-ing)[36],明確了對使用人工智能所制定出的決策采用問責(zé)的概念和機(jī)制,并同時(shí)在算法透明度、算法一致性、風(fēng)險(xiǎn)分配等具體政策方面作出了規(guī)定;2017年頒行的《機(jī)器人民事責(zé)任法案》(CivillawRulesonRobotics)[37]進(jìn)一步將算法偏見帶來的負(fù)面影響和嚴(yán)重后果明確歸責(zé)于算法的生產(chǎn)者和使用者,并且在道德層面對算法生產(chǎn)和使用提出了要求。

而2018年發(fā)布的《通用數(shù)據(jù)保護(hù)條例》(GeneralDataProtectionRegulation,GDPR)[38]進(jìn)一步對數(shù)據(jù)的處理和運(yùn)用進(jìn)行了嚴(yán)格的限制,明確禁止可能造成算法侵害的數(shù)據(jù)運(yùn)用,如揭示種族或民族出身,揭示政治觀點(diǎn)、宗教或哲學(xué)信仰,刻畫自然人健康、性取向等,歐盟的算法治理由此具有了整體性的指導(dǎo)綱領(lǐng)。隨后歐洲議會秘書處2019年發(fā)布的《算法問責(zé)和透明治理框架》(AGovernanceFrameworkforAlgorithmicAccountabilityandTransparency)[8]提出了負(fù)責(zé)任的研究與創(chuàng)新(RRI)概念,從道德、法律到實(shí)踐,明確了算法治理的問責(zé)框架;2020年提案的《數(shù)字服務(wù)法案》(DigitalServicesAct)[39]和《數(shù)字市場法案》(DigitalMarketsAct)[40]強(qiáng)化了算法生產(chǎn)者和使用者的責(zé)任;2021年提案的《人工智能法案》(ArtificialIntelligenceAct)[41]則區(qū)分了規(guī)則算法(rule-based algorithms)和學(xué)習(xí)算法(learning algo-rithms),建立了基于算法風(fēng)險(xiǎn)的算法治理改進(jìn)路徑,再次強(qiáng)調(diào)算法生產(chǎn)者和使用者的責(zé)任,強(qiáng)調(diào)問責(zé)機(jī)制。

3.3 中國:以國家總體安全觀為原則的系統(tǒng)性嘗試

我國是數(shù)字技術(shù)與數(shù)字經(jīng)濟(jì)后發(fā)國家,在擁有海量數(shù)據(jù)資源與廣闊數(shù)據(jù)市場的同時(shí),面臨嚴(yán)峻的數(shù)據(jù)主權(quán)內(nèi)外部風(fēng)險(xiǎn)。當(dāng)前我國在總體安全觀指引下,已開始了圍繞國家數(shù)據(jù)安全與總體安全保障的系統(tǒng)性嘗試,并對已有專門法律嘗試展開算法治理?？傮w上,我國算法治理處于起步與嘗試階段,相較于美國、歐盟,我國尚未形成體系化、系統(tǒng)化的治理方案。

黨中央印發(fā)的《法治社會建設(shè)實(shí)施綱要(2020—2025年)》[42]提出,制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法,《中華人民共和國網(wǎng)絡(luò)安全法》[43]及2021年9月實(shí)施的《中華人民共和國數(shù)據(jù)安全法》[12]雖并未專門論及和針對算法治理問題,但從整體戰(zhàn)略藍(lán)圖明確我國網(wǎng)絡(luò)空間以安全為依歸的發(fā)展與建設(shè)原則,規(guī)劃總體國家安全觀下數(shù)據(jù)安全治理體系,指明了我國算法治理的基本方向。2017年12月,貴陽市人民政府新聞辦公室正式發(fā)布《貴陽區(qū)塊鏈發(fā)展和應(yīng)用》[44]白皮書,提出“主權(quán)區(qū)塊鏈”與“秩序互聯(lián)網(wǎng)”等理論創(chuàng)新,要求在國家主權(quán)范疇下,在法律與監(jiān)管下,建立共識算法和規(guī)則體系[45];隨后2019年《中華人民共和國電子商務(wù)法》[46]論及電子商務(wù)算法結(jié)果安全的治理問題,對如支付指令錯(cuò)誤等問題予以規(guī)制,同年我國《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》[47]開始關(guān)切兒童數(shù)據(jù)服務(wù)相關(guān)運(yùn)營商的責(zé)任約定;2021年5月8日,國務(wù)院新聞辦公室舉行2021年網(wǎng)絡(luò)“清朗”系列專項(xiàng)行動新聞發(fā)布會,專項(xiàng)行動的八個(gè)重點(diǎn)任務(wù)之一即為“清朗·算法濫用治理”專項(xiàng)行動,同年8月,我國《個(gè)人信息保護(hù)法》[48]出臺,從國家立法高度確立了自動化決策算法的規(guī)制基礎(chǔ);2022年1月12日,國務(wù)院印發(fā)《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》[49],提出優(yōu)化升級數(shù)字基礎(chǔ)設(shè)施,推進(jìn)“云網(wǎng)協(xié)同”和“算網(wǎng)融合”發(fā)展,加快構(gòu)建算力、算法、數(shù)據(jù)、應(yīng)用資源協(xié)同的全國一體化大數(shù)據(jù)中心體系;2023年我國《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》[50]第十二條明確規(guī)定“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺采用個(gè)性化算法推薦技術(shù)推送信息的,應(yīng)當(dāng)設(shè)置符合本規(guī)定第十條、第十一條要求的推薦模型,建立健全人工干預(yù)和用戶自主選擇機(jī)制”,算法推薦技術(shù)成為我國網(wǎng)絡(luò)內(nèi)容治理的重要內(nèi)容。我國對算法治理的真正涉及是在2021年11月起實(shí)施的《中華人民共和國個(gè)人信息保護(hù)法》,確立了我國算法自動化決策治理的基本框架,為自動化決策嵌入平臺經(jīng)濟(jì)、數(shù)字政府運(yùn)行劃定了合法邊界[51]。

2022年3月1日,由網(wǎng)信辦、工信部、公安部、國家市場監(jiān)督管理總局聯(lián)名發(fā)布的我國首部專門以“算法”為名的法律文件——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》[13]正式實(shí)施,規(guī)定在總體國家安全觀指引下,明確了信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)、監(jiān)督管理責(zé)任和法律責(zé)任,將監(jiān)管責(zé)任主體明確為四部委(網(wǎng)信辦、工信部、公安部、市場監(jiān)管總局),并將相關(guān)違規(guī)的法律責(zé)任監(jiān)管納入國家相關(guān)部門管理之中。從此我國也有了針對算法黑箱、算法歧視、信息繭房、輿論操控、不正當(dāng)競爭等算法侵害的規(guī)范。

在專門性法規(guī)出臺的同時(shí),我國圍繞算法治理的未來規(guī)劃也不斷完善,指導(dǎo)未來我國算法治理方向。2021年9月17日,國家互聯(lián)網(wǎng)信息辦公室、中央宣傳部等九部門聯(lián)合發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》[14]堅(jiān)持正確導(dǎo)向、依法治理、風(fēng)險(xiǎn)防控、權(quán)益保障、技術(shù)創(chuàng)新等五項(xiàng)基本原則,提出要“利用三年左右時(shí)間,逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”的主要目標(biāo)。

綜合此前頒布的《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等多部法律法規(guī), 立法與監(jiān)管行動的統(tǒng)籌安排,以及對算法透明度、算法問責(zé)、算法可解釋等關(guān)鍵問題的關(guān)注,我國已經(jīng)建立較為全面的涵蓋網(wǎng)絡(luò)、數(shù)據(jù)及算法的中國治理體系。算法安全尤其是信息內(nèi)容安全是中國算法治理的核心價(jià)值觀之一,我國算法治理體系主要訴求依然圍繞“發(fā)展”與“安全”,強(qiáng)調(diào)發(fā)展技術(shù)與數(shù)字經(jīng)濟(jì)、維護(hù)數(shù)據(jù)與算法安全。在總體國家安全觀指引下,我國算法治理正探索數(shù)據(jù)主權(quán)下的中國特色算法治理路徑,并正在從軟法引領(lǐng)進(jìn)入硬法規(guī)制階段。

4 主權(quán)視角下我國算法治理推進(jìn)路徑思考

我國作為發(fā)展中國家,在全球網(wǎng)絡(luò)空間與數(shù)據(jù)主權(quán)博弈中并不具備先發(fā)優(yōu)勢。但同時(shí),我國作為互聯(lián)網(wǎng)建設(shè)與應(yīng)用大國,數(shù)字經(jīng)濟(jì)迅猛發(fā)展,具有在人工智能、IPv6等新一代大數(shù)據(jù)技術(shù)領(lǐng)域的領(lǐng)先優(yōu)勢,結(jié)合我國廣闊的數(shù)據(jù)市場、眾多的數(shù)據(jù)企業(yè)和海量的數(shù)據(jù)資源,我國將在新一輪全球數(shù)字化競爭與數(shù)據(jù)主權(quán)博弈中發(fā)揮重要影響。當(dāng)前我國已明確規(guī)劃在新一輪國際網(wǎng)絡(luò)空間和科學(xué)技術(shù)革命中的戰(zhàn)略方向,以《新一代人工智能發(fā)展規(guī)劃》等法規(guī)政策為核心的戰(zhàn)略性部署,已經(jīng)明確我國將在人工智能等新興領(lǐng)域中有著長足發(fā)展,而與這類核心技術(shù)、新興領(lǐng)域密切關(guān)聯(lián)的算法治理,將是我們在夯實(shí)自身發(fā)展“硬實(shí)力”的同時(shí),不可繞行的核心問題。當(dāng)前,我國算法治理尚處于起步與嘗試階段,參考國際算法治理進(jìn)展與模式,對于算法帶來的治理挑戰(zhàn)和治理困境,我國需在戰(zhàn)略導(dǎo)向與具體國情指引下,從治理原則、治理主體、治理對象、治理結(jié)構(gòu)予以進(jìn)一步規(guī)范。

4.1 治理原則:均衡發(fā)展與安全訴求,“以人為本”框定算法紅線

總體國家安全觀下,我國算法治理需兼顧數(shù)字經(jīng)濟(jì)發(fā)展、算法技術(shù)提升和國家數(shù)據(jù)主權(quán)安全保障,強(qiáng)化自身以算法為核心的數(shù)字能力,堅(jiān)持“底線思維”、夯實(shí)算法安全發(fā)展底線,堅(jiān)持“以人為本”規(guī)范算法應(yīng)用行動原則。

在數(shù)據(jù)主權(quán)博弈時(shí)代,主權(quán)國家表現(xiàn)掌控?cái)?shù)字權(quán)力的意愿,積極出臺系列法案搶占數(shù)據(jù)資源、宣示數(shù)據(jù)主權(quán)。但在充分保障數(shù)據(jù)資源占有的基礎(chǔ)上,以算法為核心的數(shù)字能力才是將國家數(shù)字權(quán)力意愿轉(zhuǎn)化為實(shí)際治理效率的基礎(chǔ),如何在新的數(shù)字革命中構(gòu)建充分且有力的國家數(shù)字能力,才是應(yīng)對數(shù)字時(shí)代國家主權(quán)變遷、保障數(shù)據(jù)主權(quán)安全的最核心要素。我國作為互聯(lián)網(wǎng)建設(shè)與應(yīng)用大國,數(shù)字經(jīng)濟(jì)迅猛發(fā)展,僅算法推薦而言,已關(guān)涉我國200余新聞客戶端、400余家電商平臺以及用戶規(guī)模高達(dá)7.66億的搜索引擎。我國在數(shù)字經(jīng)濟(jì)與互聯(lián)網(wǎng)市場充分發(fā)展的同時(shí),始終需要面臨與我國互聯(lián)網(wǎng)后發(fā)劣勢的根本矛盾?；诖?主權(quán)視角下,我國算法治理需以國家利益與安全為導(dǎo)向,夯實(shí)安全發(fā)展底線,進(jìn)一步規(guī)范算法至善,促進(jìn)算法經(jīng)濟(jì)的高質(zhì)量發(fā)展、算法治理能力的全面提升和國家數(shù)據(jù)與算法安全的系統(tǒng)保障,“安全”與“發(fā)展”協(xié)同是我國開展算法治理的基本原則。

一方面,在日益復(fù)雜的國際算法競爭環(huán)境與博弈態(tài)勢下,我國需進(jìn)一步加快提高自主技術(shù)創(chuàng)新能力,特別是在人工智能等關(guān)鍵領(lǐng)域的核心技術(shù)研發(fā),助推數(shù)字經(jīng)濟(jì)與平臺主體發(fā)展,提升國家數(shù)字能力,加強(qiáng)國家在國際算法話語體系中的地位。另一方面,積極應(yīng)對算法風(fēng)險(xiǎn)與跨國爭端,積極借鑒美國、歐盟等優(yōu)勢國家在算法評估、備案、審計(jì)、監(jiān)測等方面的治理方案與技術(shù)體系,加快完善我國算法風(fēng)險(xiǎn)體系建設(shè),促進(jìn)數(shù)據(jù)與技術(shù)的有序跨境傳播,在安全保障與算法完善的均衡下提升國家算法風(fēng)險(xiǎn)應(yīng)對能力。

同時(shí),對于主權(quán)下紛繁復(fù)雜的如算法歧視、“信息繭房”等風(fēng)險(xiǎn),我國需明確以人為本的治理原則,以人為本作為紅線以指導(dǎo)研判算法威脅與風(fēng)險(xiǎn),關(guān)切群眾需求、組織利益與國家安全,以此作為參照系來制定我國的算法備案以及后續(xù)評估的制度,重點(diǎn)關(guān)切我國互聯(lián)網(wǎng)勞工權(quán)益保障,算法智能化下的信息孤島、信息鴻溝以及特殊群體的服務(wù)與兼顧問題,以以人為本框定算法應(yīng)用與發(fā)展紅線,推動相關(guān)主體和治理對象實(shí)現(xiàn)算法向善。

4.2 治理主體:算法“治理側(cè)”改革,多元共治應(yīng)對算法風(fēng)險(xiǎn)

數(shù)據(jù)主權(quán)下,算法風(fēng)險(xiǎn)及其治理環(huán)境更為復(fù)雜,關(guān)聯(lián)主體與問題更為多元,難以僅依靠單一主體與部門解決。我國亟待對算法“治理側(cè)”予以改革,參考?xì)W盟、美國充分引入企業(yè)、行業(yè)組織展開“自下而上”治理的經(jīng)驗(yàn),引入“協(xié)同治理”至當(dāng)前主要依賴于國家權(quán)力機(jī)關(guān)的治理模式中,使我國算法治理的利益相關(guān)者和參與者共同介入算法治理活動,提升算法治理效率,優(yōu)化算法治理機(jī)制。

一方面,重視平臺及算法行業(yè)的作用發(fā)揮,實(shí)現(xiàn)行業(yè)“泛”自律與政府“強(qiáng)”監(jiān)管的融合,以公私合作的方式提高算法治理科學(xué)性。我國需進(jìn)一步納入平臺、大數(shù)據(jù)企業(yè)、算法開源社區(qū)等作為算法治理的重要主體,尊重技術(shù)界主體在算法形成和發(fā)展過程中的巨大作用,充分讓技術(shù)界、產(chǎn)業(yè)界力量參與到算法治理當(dāng)中,協(xié)助搭建對源代碼、開源軟件以及開源社區(qū)的監(jiān)管制度,并發(fā)揮網(wǎng)絡(luò)自治和社群力量,鼓勵(lì)法律部門與技術(shù)部門共同制定算法合規(guī)風(fēng)險(xiǎn)點(diǎn),優(yōu)化自身流程以確保算法在運(yùn)行過程當(dāng)中的可管可控,提升算法監(jiān)督、審查的專業(yè)性。同時(shí),推進(jìn)行業(yè)服務(wù)標(biāo)準(zhǔn)建設(shè)和行業(yè)自律,為鼓勵(lì)平臺組織、數(shù)據(jù)公司、算法服務(wù)行業(yè)形成行業(yè)自律,建設(shè)如國家算法安全委員會等中間組織,進(jìn)行審計(jì)、監(jiān)管和許可,建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度,督促指導(dǎo)算法推薦服務(wù)提供者制定完善的服務(wù)規(guī)范、依法提供服務(wù)并接受社會監(jiān)督。

另一方面,算法主體、服務(wù)、產(chǎn)品往往具有跨國家、跨區(qū)域、跨領(lǐng)域等特性,在算法治理的審核、監(jiān)管過程中亦可能同時(shí)牽涉多個(gè)監(jiān)管部門或多個(gè)地區(qū)相關(guān)部門,由此需要我國進(jìn)一步完善算法治理主體的“橫”“縱”聯(lián)動。對內(nèi),加強(qiáng)政府內(nèi)部聯(lián)動,會同網(wǎng)信部門、電信、公安、市場監(jiān)管及各行業(yè)領(lǐng)域監(jiān)管部門共同展開算法監(jiān)督、問責(zé)工作,加強(qiáng)與各層級管理部門協(xié)作與聯(lián)動,以出臺專門性法律政策的方式納入公民、專業(yè)組織等關(guān)聯(lián)個(gè)體共同參與算法治理,提供明確的反饋與監(jiān)督渠道,形成有法可依、多元協(xié)同、多方參與的治理機(jī)制;對外,加強(qiáng)國際競爭與協(xié)作,加強(qiáng)地區(qū)性、領(lǐng)域性國際合作,積極參與國際算法領(lǐng)域標(biāo)準(zhǔn)制定與規(guī)則構(gòu)建,參與國際IPv6等新一代算法技術(shù)開發(fā),從國家權(quán)力單向行使走向多元主體共治,建設(shè)安全與信任的數(shù)字國家[52]。

4.3 治理對象:算法“供給側(cè)”規(guī)范,健全主體與技術(shù)治理方案

當(dāng)前,美國、歐盟的國際算法治理進(jìn)展與共同思路啟示我國,算法治理“供給側(cè)”的核心對象是算法的生產(chǎn)者和使用者,同時(shí),對于算法本身的規(guī)范與監(jiān)管也具有重要意義。對于算法“供給側(cè)”需從算法生產(chǎn)、使用主體與算法技術(shù)自身“雙管齊下”,一方面,進(jìn)一步規(guī)范我國現(xiàn)有算法主體問責(zé)模式,明確算法危害的主體責(zé)任歸屬與自評估機(jī)制,將法律規(guī)則融入主體算法規(guī)則、代碼架構(gòu)和內(nèi)部要求中,實(shí)現(xiàn)治理對象的評估自治與風(fēng)險(xiǎn)脫敏;另一方面,進(jìn)一步加強(qiáng)算法技術(shù)分級分類治理體系,以“場景化”治理方案應(yīng)對算法風(fēng)險(xiǎn)。

從“供給側(cè)”主體視角上,我國需從源頭出發(fā),圍繞算法服務(wù)、產(chǎn)品和技術(shù)的爭端屬性優(yōu)化現(xiàn)有算法主體監(jiān)管法律政策與問責(zé)模式,并重點(diǎn)展開供給側(cè)的核心主體——平臺與數(shù)據(jù)企業(yè)治理。平臺及相關(guān)企業(yè)是算法的主要生產(chǎn)者與使用者,在數(shù)字經(jīng)濟(jì)的助推下成為算法產(chǎn)生社會影響的重要中介,我國需完善和普及問責(zé)制度,以問責(zé)模式直接將責(zé)任主體鎖定至相關(guān)算法平臺及企業(yè),敦促平臺組織約束代碼精英在代碼生產(chǎn)過程、算法產(chǎn)品設(shè)計(jì)、算法服務(wù)提供中踐行總體國家安全觀與中國特色社會主義核心價(jià)值觀,綜合利用法律規(guī)范、社會規(guī)范、市場規(guī)則、技術(shù)架構(gòu)等規(guī)制手段,將數(shù)據(jù)安全、數(shù)據(jù)主權(quán)、國家安全等法律規(guī)則融入算法規(guī)則、代碼架構(gòu)中,實(shí)現(xiàn)科學(xué)有效的算法法治。同時(shí),夯實(shí)主體問責(zé)制度的匹配算法自我評估機(jī)制,以法律、制度形式明確算法評估及治理的關(guān)鍵要求,指導(dǎo)平臺等“供給側(cè)”主體內(nèi)化為內(nèi)部的評估機(jī)制,將風(fēng)險(xiǎn)預(yù)防的注意力與成本前置,在算法研發(fā)時(shí)就需要進(jìn)行評估,衡量風(fēng)險(xiǎn)。此外,在數(shù)據(jù)主權(quán)視角下,數(shù)據(jù)自由流動的程度與算法權(quán)力的威力成正比,對于在我國市場提供服務(wù)與產(chǎn)品的外國平臺及數(shù)據(jù)企業(yè),我國亟待進(jìn)一步加強(qiáng)數(shù)據(jù)跨境流動管控及數(shù)據(jù)資源的管控和數(shù)據(jù)資源的域外控制能力,從而消弭掌握算法權(quán)力的外國公司和外國政府的威脅力[53]。

從“供給側(cè)”算法技術(shù)視角,加快完善我國算法分級分類治理體系,推動“場景化”治理方案出臺。算法作為工具,對其具體應(yīng)用的分級分類可能更為重要和突出,算法的不同應(yīng)用目的、應(yīng)用場景,對相同的數(shù)據(jù)資源都可能產(chǎn)生截然相反的正負(fù)面作用或不同程度的作用效果,由此帶來的國家秩序、社會公平、企業(yè)利益、個(gè)人權(quán)利產(chǎn)生不同程度的影響。主權(quán)視角下,需進(jìn)一步完善我國算法分級分類治理體系,準(zhǔn)確施力,結(jié)合算法應(yīng)用與實(shí)施的具體場景,予以風(fēng)險(xiǎn)研判與治理。

首先,完善現(xiàn)有我國《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》下的算法透明和算法備案制度,進(jìn)一步明確算法信息的傳播和備案對監(jiān)管而言是否有效,以及完善算法備案流程與確需公開的信息,同時(shí)對算法備案及問責(zé)制度予以細(xì)化,并不是平臺所有的算法都要進(jìn)行備案,而是具有高風(fēng)險(xiǎn)、普遍影響社會公眾的算法才需要備案,推動現(xiàn)有分級分類管理方案的完善與提升。同時(shí),以海量數(shù)據(jù)為基礎(chǔ)的人工智能算法與網(wǎng)約車、網(wǎng)絡(luò)購物、靈活用工等應(yīng)用場景深度融合,“大數(shù)據(jù)殺熟”等算法技術(shù)負(fù)面效應(yīng)已經(jīng)沖擊市場競爭制度和社會管理秩序,依據(jù)算法應(yīng)用所涉及的內(nèi)容類別、輿論屬性以及用戶規(guī)模等因素,以及算法應(yīng)用對網(wǎng)絡(luò)安全可能產(chǎn)生的風(fēng)險(xiǎn)大小,對社會產(chǎn)生的損害范圍及程度,對其進(jìn)行分級分類的治理是當(dāng)前算法治理的主流觀點(diǎn)和基本理路[54]。筆者建議結(jié)合我國當(dāng)前已有的算法治理制度,綜合考慮算法的應(yīng)用場景、處理數(shù)據(jù)的風(fēng)險(xiǎn)程度、算法使用的正向效益和可能的風(fēng)險(xiǎn)與危害,實(shí)現(xiàn)針對算法的分級分類,落實(shí)多層次、場景化、精細(xì)化的分級分類的算法治理工作,更有利于實(shí)現(xiàn)算法價(jià)值及保護(hù)公共利益之間的平衡。

4.4 治理邏輯:完備算法全周期治理,源頭抓手作為核心

主權(quán)博弈視角下,算法升級換代與變化速度加快,技術(shù)手段與算法形態(tài)不斷更替,算法關(guān)聯(lián)社會多元主體、眾多領(lǐng)域,綜合算法技術(shù)與社會影響的雙重考量,我國算法治理應(yīng)從社會整體而非局部的角度來解決問題,需進(jìn)一步從算法全生命周期展開,并側(cè)重對風(fēng)險(xiǎn)源頭的識別和應(yīng)對。

算法治理關(guān)涉的從研發(fā)到投入實(shí)施的過程中具有不斷迭代的開發(fā)周期,算法在投入實(shí)施之后也將不斷被更新與修復(fù),由此帶來的算法監(jiān)管與追責(zé)回溯變得更為艱難,各合規(guī)主體難以識別風(fēng)險(xiǎn),算法監(jiān)管由此陷入真空。鑒于此,一方面,探索完備的全周期算法治理體系,從我國當(dāng)前側(cè)重事后追責(zé)與懲罰機(jī)制變?yōu)槭虑?、事中、事后的全流程監(jiān)管,以算法技術(shù)標(biāo)準(zhǔn)和應(yīng)用規(guī)則方式,形成可廣泛認(rèn)可和實(shí)施的全生命周期治理方案,包括在事前嵌入理論和道德要求,事中評估和認(rèn)證機(jī)制的有效落地,事后的產(chǎn)品追溯和責(zé)任制度,探索科學(xué)靈活的標(biāo)準(zhǔn)制定程序和多元智能參與機(jī)制,實(shí)現(xiàn)算法技術(shù)標(biāo)準(zhǔn)化和算法治理法治化的銜接融合。

另一方面,在多種治理路徑選擇中,我國可參考?xì)W盟、美國現(xiàn)行方案,以結(jié)果為導(dǎo)向完善我國算法治理體系建設(shè)。本文綜合已有研究和國內(nèi)外進(jìn)展,立足信息科學(xué)的角度來思考,指出對于算法這一動態(tài)變化的治理對象來說,對其空談風(fēng)險(xiǎn)分類是不理性的,從各種風(fēng)險(xiǎn)現(xiàn)象總結(jié)并剖析風(fēng)險(xiǎn)背后的風(fēng)險(xiǎn)源,從源頭把握進(jìn)行治理,才能真正有效應(yīng)對算法“黑箱”,對風(fēng)險(xiǎn)結(jié)果可控?；诖?在全流程治理框架下,我國應(yīng)進(jìn)一步加強(qiáng)風(fēng)險(xiǎn)源頭治理,由監(jiān)管方基于治理經(jīng)驗(yàn)研判未來可能出現(xiàn)的風(fēng)險(xiǎn)源與風(fēng)險(xiǎn)主體,調(diào)動政府、企業(yè)、行業(yè)組織、技術(shù)組織等多元主體共建完備的算法風(fēng)險(xiǎn)預(yù)警方案與體系,有的放矢。

5 結(jié)語

主權(quán)視角下,我國以數(shù)字經(jīng)濟(jì)為主要經(jīng)濟(jì)業(yè)態(tài)和行業(yè)的發(fā)展正站在新周期起點(diǎn)之上,數(shù)字經(jīng)濟(jì)由高速增長轉(zhuǎn)向高質(zhì)量發(fā)展階段,我國在國際數(shù)據(jù)主權(quán)與網(wǎng)絡(luò)空間方面的博弈也步入新常態(tài)階段,算法治理已成為促進(jìn)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展、提升我國數(shù)據(jù)治理能力、保障我國數(shù)據(jù)主權(quán)安全的重中之重。

在全面梳理算法及其治理興起的歷史進(jìn)程基礎(chǔ)上,本文充分調(diào)研主權(quán)視角下算法治理的國際背景,識別美國以多方問責(zé)為核心、風(fēng)險(xiǎn)應(yīng)對的主動模式,歐盟以數(shù)據(jù)保護(hù)為基礎(chǔ)、輔以問責(zé)的防御模式,以及我國以總體國家安全觀為原則的系統(tǒng)性嘗試。主權(quán)視角下,國家主權(quán)面臨了來自算法的解構(gòu),面臨著“數(shù)據(jù)主權(quán)”與“算法權(quán)力”的博弈,平臺國家化和國家平臺化的沖擊和挑戰(zhàn),并陷入治理結(jié)構(gòu)的僵化性、治理方法的滯后性、治理范圍的狹隘性的治理困境?；诖?研究結(jié)合我國算法治理發(fā)展現(xiàn)狀,提出在治理原則、治理主體、治理對象、治理結(jié)構(gòu)和治理方法上的全面對策,包括治理原則上注重均衡發(fā)展與安全,以人為本作為算法治理根本紅線;治理主體上注重“治理側(cè)”改革,多元共治應(yīng)對算法風(fēng)險(xiǎn);治理對象上注重“供給側(cè)”改革,健全平臺問責(zé)與自評估;治理結(jié)構(gòu)上,以生命周期為線索,把握風(fēng)險(xiǎn)源頭;治理方法上,進(jìn)一步完善分級分類體系,并與場景治理結(jié)合。

總體上,主權(quán)視角下,我國算法治理需要盡快搭建兼顧安全與發(fā)展、以人為本且覆蓋算法應(yīng)用全周期、全場景、全流程的分類協(xié)同治理機(jī)制。需要明確的是,在本文給定算法偏見人因化或組織化,以及給定算法技術(shù)處于不斷迭代且動態(tài)演化的場景下,實(shí)施算法治理的行動選擇其實(shí)不多,本文的探索尚未達(dá)到體系化程度。未來,主權(quán)視角下算法治理體系需進(jìn)一步從秩序整合視角予以完善,以保護(hù)個(gè)人免受技術(shù)監(jiān)管和算法治理中不當(dāng)行為的影響,保障國家數(shù)據(jù)與主權(quán)安全,并穩(wěn)健地促成國家與社會關(guān)系的變遷[55]。