算法治理重在“透明”

賈慧智

近期，一系列與算法相關的立法和政府管理文件相繼出臺，如《互聯網信息服務算法推薦管理規(guī)定》《關于加強互聯網信息服務算法綜合治理的指導意見》《〈反壟斷法〉修訂草案（公開征求意見稿）》《互聯網平臺分類分級指南（征求意見稿）》等。這是繼出臺網絡安全法、數據安全法、電子商務法、個人信息保護法等法律法規(guī)之后，國家為進一步加強對互聯網信息服務算法綜合治理，采取的更加具體而有針對性的治理舉措。

在所有這些法律法規(guī)和管理文件中，算法透明作為算法治理的一項規(guī)制舉措，越來越明確而具體。尤其是在《互聯網信息服務算法推薦管理規(guī)定》（下稱《規(guī)定》）里，算法透明作為一項法治原則得以明確規(guī)定。

為加強算法透明原則在依法治理算法過程中的有效應用和落實，提升算法法律規(guī)制效果，筆者擬結合當前立法、執(zhí)法和司法實踐，就算法透明原則相關屬性、特征等五個方面予以辨析。

專業(yè)性：履行執(zhí)法和司法職責

透明作為一項原則，適用于現代法治政府行政管理的各個環(huán)節(jié)，也貫穿于現代法律制度之中。如《規(guī)定》所示，算法透明已成為中國算法治理的一項法治原則和行政法規(guī)規(guī)則。

《規(guī)定》第四條規(guī)定，算法推薦服務提供者提供算法推薦服務要遵循公開透明的原則。充分說明，算法透明在得到學界和管理部門充分關注及認可基礎上，盡管出現一些抵制和反對，但已成為算法治理的重要法治原則和規(guī)制舉措。

就算法透明這一概念來講，在當前算法治理理論與實踐中，具有狹義和廣義兩種理解：狹義的算法透明是指單獨公開算法源代碼、數據、決策樹等信息;廣義的算法透明不僅要公開源代碼、數據等信息，還要通過各種形式對算法決策具體原理、過程等作出解釋。

廣義的算法透明，包括算法透明和算法可解釋性。當前，廣義算法透明理論在我國立法實踐中已在相當程度上得到了認可和采納。《規(guī)定》第十二條、個人信息保護法第二十四條，《關于加強互聯網信息服務算法綜合治理的指導意見》第四條第十三項等立法和管理文件條款項里，都有基于上述理論對算法透明作出的具體規(guī)定和要求。

按照上述理論和法律法規(guī)要求，要做到算法透明，就要對算法代碼、數據、決策樹等信息進行公開，并就算法決策定義、原理、過程等作出說明。這一過程，單從概念上理解就能明白，其是一系列非常專業(yè)的行為，涉及非常專業(yè)的技術。

對算法透明原則這一特性，算法相關服務提供者作為算法安全主體，對具有采取上述舉措落實相關責任具有義務。監(jiān)管部門在監(jiān)管執(zhí)法過程中，要依法監(jiān)督檢查相關主體算法透明義務履行和責任落實情況。在相關違法行為發(fā)生后的事后追責過程中，執(zhí)法和司法機關則要對相關行為進行認定，并在認定基礎上作出處理決定。

基于上述算法透明的專業(yè)特性，在一系列執(zhí)法和司法過程中，作為非專業(yè)人士的相關執(zhí)法和司法人員，是否能夠以及如何突破專業(yè)障礙履行算法治理的執(zhí)法和司法職責，將是下一步法律法規(guī)出臺后需要認真考慮的問題。

必要性：化解算法黑箱

算法透明原則之所以受到國內外算法治理理論和實務界高度關注和認可，尤其是被我國相關法律法規(guī)所采納，在于它在算法黑箱治理中扮演越來越重要的角色。

黑箱理論源自控制論，指的是不管系統內部結構如何、只從輸入和輸出兩端對系統規(guī)律進行分析的理論方法。算法黑箱，就其本質來講是一個技術問題，其形成有算法技術本身的原因，也有技術應用的社會環(huán)境原因。

算法本身具有專業(yè)性、復雜性、保密性等特征，有算法使用者故意隱瞞或利用支配地位，算法黑箱就會形成。算法黑箱一旦產生，極易發(fā)生使用者侵犯各方面利益的行為。當前社會與算法有關的一系列問題，如算法歧視、誘導用戶沉迷、流量造假、大數據殺熟、算法共謀、信息繭房等，都是在算法黑箱基礎上發(fā)生。

此外，算法黑箱嚴重時還會影響公權力應用?！端惴ㄍ扑]管理規(guī)定》第十四條的具體列舉式規(guī)定，就是在算法推薦服務領域因算法黑箱存在而極易發(fā)生的一系列違法問題的典型概括。因此，要從根源上治理算法黑箱所引發(fā)的一系列社會問題，首要舉措就是算法透明。

具體到法治治理過程中，要把算法透明作為法律原則和具體規(guī)則納入相關法律法規(guī)，并在執(zhí)法和司法過程加以執(zhí)行，這也是算法法律規(guī)制中采納和建立算法透明這一法治原則的必要之所在。

局限性：受商業(yè)秘密保護制約

算法透明原則在算法黑箱治理中發(fā)揮著非常重要的作用。但是，由于算法專業(yè)技術屬性，算法透明原則在實踐中往往受到商業(yè)秘密保護法律制度制約。

算法是一種有限、確定、有效并適合用計算機程序解決問題的方法，涉及算法源代碼、數據及大量技術細節(jié)，從其本身性質來看需要算法使用者或算法設計者付出巨大成本，做出巨大投資才能獲得，涉及巨大經濟利益。

根據我國反不正當競爭法第四條和《最高人民法院關于審理侵犯商業(yè)秘密民事案件適用法律若干問題的規(guī)定》第一條的規(guī)定，算法是受法律保護的商業(yè)秘密。而作為一種商業(yè)秘密，我國民法典、反不正當競爭法、專利法等一系列法律及其他法規(guī)等，對其都有明文保護性規(guī)定。這就使算法透明原則與算法商業(yè)秘密保護法律制度發(fā)生沖突，進而對算法透明原則下可以公開的源代碼、數據等信息范圍和算法決策在內容、形式、對象等方面，作出一定程度的限制。同時，這也對立法過程中有關算法透明原則的具體規(guī)定，以及執(zhí)法和司法過程所獲取與算法有關信息的處理，提出具體要求，即立法中的算法透明原則和規(guī)定須以不侵犯算法使用者或設計者商業(yè)秘密為前提，執(zhí)法司法過程相關機構和人員須嚴格履行保護當事人商業(yè)秘密的義務。

可行性：行業(yè)自律是關鍵因素

算法使用者或設計者出于自身利益考慮，一般都會有刻意隱瞞行為，再加上商業(yè)秘密法律制度的保護，很難做到主動而徹底地推動算法透明原則落實。政府監(jiān)管部門則受專業(yè)技術和商業(yè)秘密保護法律制度影響，雖有職責和義務監(jiān)督和指導算法使用者或設計者落實算法透明原則和舉措，卻在監(jiān)督和指導實際效果上有一定局限性。這些實際情況對算法透明原則的落實和適用形成很大制約。

但是，這并不意味著算法透明不具有可行性。相關法律法規(guī)和管理文件的規(guī)定，為算法透明原則在算法規(guī)制過程中得到徹底而有效地落實創(chuàng)造了良好條件和機制。

現實中，行業(yè)協會組織具有專業(yè)技術知識、設備和人員，能夠利用其優(yōu)勢，牽頭制定既可以讓專業(yè)監(jiān)管人士明白又可以保護商業(yè)秘密的統一算法技術標準，在盡最大可能確保算法使用者或設計者的商業(yè)秘密的同時，從技術層面大幅提高算法對于行業(yè)監(jiān)管主體和用戶的透明度。

同時，行業(yè)協會組織還可以要求算法使用者或設計者在算法設計時，嚴格遵守行業(yè)協會牽頭制定的統一算法技術標準，從而有效確保算法技術本身中立性。

此外，結合廣義算法透明理論要求，在優(yōu)化算法透明度和可解釋性過程中，可以在算法公開和解釋的內容、形式、對象等方面做一些技術性處理，在保證監(jiān)管、執(zhí)法、司法等工作有效開展以及公眾或用戶知情權和其他消費者權益的同時，確保商業(yè)秘密不被侵犯。

至此，算法透明原則與商業(yè)秘密保護制度之間的沖突可以得到有效解決，算法透明原則就可以在算法治理以及相應立法、執(zhí)法和司法中發(fā)揮應有效用。

前置性：算法透明與事后追責

在當前算法治理實踐中，法律規(guī)制一般都采用事前規(guī)制、事后問責和救濟模式。算法透明原則在國內外實踐中，都屬于事前規(guī)制。正如歐洲議會發(fā)布的《算法問責與透明的治理框架》所主張，沒有事前了解，就不能進行事后追責，更無法開展有效規(guī)制。

算法透明原則通過優(yōu)化算法技術透明度，確保用戶或大眾知情權，進而賦予了用戶和大眾消費選擇權;通過優(yōu)化算法技術的可解釋性，幫助監(jiān)管人士突破技術障礙，提高監(jiān)管效果;通過強化對算法黑箱的治理，遏制了算法使用者或設計者利用技術優(yōu)勢追逐私利的僥幸心理。這樣前置性的規(guī)制，有助于減少盲目消費造成的利益受損，減少技術障礙造成的違法行為和日常執(zhí)法、事后責任追究和權利救濟。因此，在算法法律規(guī)制中，應該將算法透明原則作為算法追責前提加以規(guī)定。而在日常執(zhí)法和司法中，執(zhí)法和司法機構及人員應該重點關注其事前規(guī)制效應。

綜上所述，算法透明是當前算法治理的一項重要舉措，是算法法律規(guī)制的一項重要法治原則。它具有很強的專業(yè)技術屬性，是破解算法黑箱的必然選擇。雖然在具體適用中與商業(yè)秘密保護法律制度有一定沖突，但通過行業(yè)協會組織自律加持，算法透明原則依然能夠很好地適用于對算法的治理，尤其有助于對算法黑箱的化解。

當然，在具體實踐中，尤其是在具體執(zhí)法、司法過程中，要堅持算法透明原則前置，并在此基礎上，對日常算法透明法律法規(guī)要求落實情況進行執(zhí)法檢查，對相關違法犯罪活動進行行政或司法追責，對相關利益受損用戶進行救濟頂

（作者系北京市公安局東城分局反恐與巡特警支隊副支隊長）

（責編王茜美編劉曉瑩）