算法審計(jì)需求論

【摘要】算法審計(jì)是算法治理體系的重要成員， 本文以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)需求的一個(gè)理論框架。算法的合約類(lèi)委托代理關(guān)系中存在完備合約， 監(jiān)管類(lèi)委托代理關(guān)系中算法相關(guān)法律法規(guī)發(fā)揮了類(lèi)似完備合約的作用， 這兩類(lèi)關(guān)系中都不存在算法審計(jì)需求。算法的資源類(lèi)委托代理關(guān)系中， 由于激勵(lì)不相容、 信息不對(duì)稱(chēng)、 合約不完備和環(huán)境不確定同時(shí)存在， 必須建構(gòu)算法治理體系來(lái)應(yīng)對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題， 算法審計(jì)基于審計(jì)固有功能對(duì)算法責(zé)任履行情況實(shí)施鑒證， 發(fā)現(xiàn)其中存在的代理問(wèn)題和次優(yōu)問(wèn)題， 報(bào)告給委托人及其他利益相關(guān)者并推動(dòng)整改， 從而為算法責(zé)任的良好履行提供一定的保障。

【關(guān)鍵詞】算法委托代理關(guān)系；算法代理問(wèn)題；算法次優(yōu)問(wèn)題；算法治理體系；算法審計(jì)需求

【中圖分類(lèi)號(hào)】F239.44" " " 【文獻(xiàn)標(biāo)識(shí)碼】A" " " 【文章編號(hào)】1004-0994（2024）16-0077-6

一、 引言

算法是為驅(qū)動(dòng)計(jì)算機(jī)完成各種復(fù)雜任務(wù)的一系列有序、 明確的步驟或指令， 隨著人類(lèi)社會(huì)信息化程度的提高， 特別是人工智能的快速發(fā)展， 算法已經(jīng)深入人們生活及工作的各個(gè)方面。根據(jù)英國(guó)的在線調(diào)查， 92%的普通公民在個(gè)人生活和工作中， 每天與算法互動(dòng)數(shù)十次（DRCF，2022）。算法的廣泛采用為人們的工作和生活帶來(lái)了便利， 增進(jìn)了人類(lèi)福祉， 與此同時(shí)也帶來(lái)算法風(fēng)險(xiǎn)甚至算法危機(jī)， 因此， 人類(lèi)必須建構(gòu)算法治理體系來(lái)應(yīng)對(duì)這些問(wèn)題， 算法審計(jì)是算法治理體系的重要成員。算法審計(jì)要真正在應(yīng)對(duì)算法風(fēng)險(xiǎn)甚至算法危機(jī)中發(fā)揮作用， 必須建構(gòu)科學(xué)的算法審計(jì)制度， 而正確認(rèn)知算法審計(jì)各基礎(chǔ)性問(wèn)題， 是科學(xué)建構(gòu)算法審計(jì)制度的基礎(chǔ)， 在算法審計(jì)諸多的基礎(chǔ)性問(wèn)題中， 本文聚焦算法審計(jì)需求。

現(xiàn)有文獻(xiàn)分析了算法帶來(lái)的問(wèn)題及算法治理體系， 也有文獻(xiàn)分析了算法審計(jì)相對(duì)于其他算法治理機(jī)制的優(yōu)勢(shì)， 一定程度上解釋了算法審計(jì)的產(chǎn)生原因， 但整體來(lái)說(shuō)， 對(duì)于算法審計(jì)需求的分析是碎片化的， 并且未能貫通審計(jì)邏輯。本文以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)需求的一個(gè)理論框架， 以深化人們對(duì)算法審計(jì)需求的認(rèn)知， 并為建構(gòu)和完善算法審計(jì)制度提供理論參考。

二、 文獻(xiàn)綜述

算法審計(jì)需求關(guān)注的是為什么會(huì)有算法審計(jì)， 即從理論上闡釋算法審計(jì)產(chǎn)生的原因。現(xiàn)有文獻(xiàn)涉及算法負(fù)面問(wèn)題、 算法治理體系和算法審計(jì)的產(chǎn)生原因， 本文分別對(duì)上述三個(gè)方面進(jìn)行綜述。

1. 算法問(wèn)題?，F(xiàn)有文獻(xiàn)幾乎一致認(rèn)為， 算法在給人類(lèi)社會(huì)帶來(lái)福祉的同時(shí)， 也帶來(lái)一些問(wèn)題。部分文獻(xiàn)研究了算法問(wèn)題的類(lèi)型及成因。

關(guān)于算法問(wèn)題的類(lèi)型， 現(xiàn)有文獻(xiàn)存在不同的分類(lèi)方法。Abeba Birhane等（2024）指出， 人工智能的廣泛使用帶來(lái)的風(fēng)險(xiǎn)包括功能性失敗、 性能不確定性、 嵌入式刻板、 法律不相容、 侵犯隱私和模型不可理解。張欣（2019）指出， 算法危機(jī)包括算法歧視、 算法合謀、 算法霸權(quán)、 算法黑箱、 算法短視等問(wèn)題。Aragona（2021）將算法問(wèn)題概括為黑箱問(wèn)題、 數(shù)字社會(huì)不公平、 公共機(jī)構(gòu)不透明及責(zé)任不清問(wèn)題。Beckstrom（2022）指出， 在公共服務(wù)中使用開(kāi)發(fā)不仔細(xì)的算法可能會(huì)導(dǎo)致效率低下， 損害大家對(duì)當(dāng)局的信任， 并對(duì)公共部門(mén)的良好運(yùn)作產(chǎn)生不利影響。張永忠和張寶山（2022）指出， 算法可能產(chǎn)生算法歧視等異化問(wèn)題。師文和陳昌鳳（2022）指出， 搜索引擎的結(jié)果可能反映、 強(qiáng)化現(xiàn)實(shí)世界的既有偏見(jiàn)。趙德勇和張子輝（2023）指出， 算法在很大程度上就是一個(gè)“黑箱”， 用戶(hù)在算法權(quán)力和算法不透明的情況下， 既被算法所控制、 影響， 又難以發(fā)現(xiàn)算法存在的問(wèn)題， 最終被輕易“殺熟”。徐明華和魏子瑤（2023）指出， 算法暴露出歧視偏見(jiàn)、 價(jià)值誤導(dǎo)等諸多倫理問(wèn)題。陳雄燊（2023）認(rèn)為， 人工智能算法倫理風(fēng)險(xiǎn)包括算法歧視、 算法操縱、 權(quán)益侵蝕、 人的主體性地位消解、 算法黑箱和算法失真。付冉冉（2023）將算法風(fēng)險(xiǎn)分為算法黑箱、 算法歧視、 算法霸權(quán)、 算法合謀和算法倫理。劉建業(yè)（2023）指出， 算法帶來(lái)了諸多挑戰(zhàn)， 包括 “大數(shù)據(jù)殺熟”問(wèn)題、 信息繭房問(wèn)題和算法行政中存在的問(wèn)題。

不少文獻(xiàn)對(duì)算法問(wèn)題的成因進(jìn)行了討論。蘇宇（2020）認(rèn)為， 算法風(fēng)險(xiǎn)成因主要包括目標(biāo)失范、 算法缺陷、 信任危機(jī)、 防御薄弱、 監(jiān)管與責(zé)任機(jī)制不足等。孫瑩（2020）認(rèn)為， 人工智能算法推薦實(shí)際上顛覆了整個(gè)行業(yè)的底層， 存在某種傾向的價(jià)值觀， 絕非技術(shù)中立， 而是雜糅著社會(huì)價(jià)值觀。徐明華和魏子瑤（2023）將算法問(wèn)題的成因分為四個(gè)方面： 一是算法設(shè)計(jì)者有意或無(wú)意的主觀偏見(jiàn)； 二是訓(xùn)練數(shù)據(jù)的代表性不足； 三是商業(yè)邏輯導(dǎo)向之下的算法規(guī)則損害了用戶(hù)權(quán)益； 四是模型自主學(xué)習(xí)混入的機(jī)器邏輯會(huì)帶來(lái)諸多未知風(fēng)險(xiǎn)。付冉冉（2023）認(rèn)為， 算法歧視包括算法設(shè)計(jì)者的偏見(jiàn)、 先天訓(xùn)練數(shù)據(jù)的偏見(jiàn)以及技術(shù)性算法偏見(jiàn)。王玉鳳（2023）認(rèn)為， 模型算法風(fēng)險(xiǎn)包括模型算法自身缺陷或使用不當(dāng)帶來(lái)的風(fēng)險(xiǎn)， 其根源為算法權(quán)力的異化。趙德勇和張子輝（2023）認(rèn)為， “大數(shù)據(jù)殺熟”的實(shí)質(zhì)是平臺(tái)過(guò)度收集個(gè)人信息數(shù)據(jù)和濫用算法。陳雄燊（2023）認(rèn)為， 人工智能算法倫理風(fēng)險(xiǎn)產(chǎn)生的原因包括三個(gè)方面： 一是主觀層面的理性失衡與利益追逐； 二是客觀層面的技術(shù)缺陷與認(rèn)知局限； 三是規(guī)范層面的規(guī)制落后與教育缺位。

2. 算法治理體系。為了應(yīng)對(duì)算法問(wèn)題， 需要建構(gòu)算法治理體系， 現(xiàn)有文獻(xiàn)對(duì)算法治理體系有多種分類(lèi)。

蘇宇（2019）對(duì)算法規(guī)制的制度工具做了分類(lèi)， 主要包括軟件登記與材料留存、 算法解釋、 權(quán)益保障設(shè)計(jì)及安全措施、 算法標(biāo)準(zhǔn)、 技術(shù)接口與監(jiān)管便利條件、 算法責(zé)任。沈偉偉（2019）、 張旭（2022）將算法治理區(qū)分為兩類(lèi)， 一是以算法透明為代表的事前規(guī)制， 二是以算法問(wèn)責(zé)為代表的事后規(guī)制。丁曉東（2020）指出， 算法規(guī)制主要采取算法公開(kāi)、 個(gè)人數(shù)據(jù)賦權(quán)與反算法歧視這三種方式。蘇宇（2020）認(rèn)為， 算法規(guī)制工具主要包括算法標(biāo)準(zhǔn)、 算法審查、 算法解釋、 算法查驗(yàn)、 算法認(rèn)證、 缺陷檢測(cè)、 風(fēng)險(xiǎn)監(jiān)測(cè)、 違規(guī)舉報(bào)獎(jiǎng)勵(lì)、 算法應(yīng)用登記等。付冉冉（2023）將算法規(guī)制分為兩種模式， 一種是個(gè)體賦權(quán)模式， 另一種是外部問(wèn)責(zé)模式。劉建業(yè)（2023）認(rèn)為， 當(dāng)前法學(xué)領(lǐng)域主要提出兩種算法規(guī)制路徑， 一是權(quán)利保護(hù)規(guī)制路徑， 二是義務(wù)設(shè)置規(guī)制路徑。

3. 算法審計(jì)的產(chǎn)生原因。既然已經(jīng)建構(gòu)了應(yīng)對(duì)算法問(wèn)題的算法治理體系， 那么， 算法審計(jì)產(chǎn)生的原因是什么呢？根據(jù)現(xiàn)有文獻(xiàn)， 主要有兩方面的原因， 一是算法治理體系存在缺陷， 二是算法審計(jì)具有獨(dú)特優(yōu)勢(shì)。

不少文獻(xiàn)分析了算法治理體系存在的缺陷。張旭（2022）認(rèn)為， 以算法問(wèn)責(zé)為目標(biāo)的事后規(guī)制路徑存在滯后性， 難以滿足人們通過(guò)法律制度調(diào)適算法利用帶來(lái)的種種負(fù)面影響的迫切需求。張文魁（2022）指出， 算法規(guī)制的最大難點(diǎn)在于算法的不透明性和非人工性， 算法程序不斷快速更新， 從而很難進(jìn)行事前監(jiān)管， 由于這些行為是通過(guò)自動(dòng)化程序而大規(guī)模和隱秘化實(shí)施的， 監(jiān)管部門(mén)要搜集足夠有力的證據(jù)也存在很高的成本。沈艷（2022）指出， 我國(guó)算法治理實(shí)踐仍然面臨不少挑戰(zhàn)， 缺乏事前的過(guò)程性監(jiān)管， 技術(shù)性規(guī)范監(jiān)管較少。劉建業(yè)（2023）指出， 當(dāng)前提出的算法規(guī)制路徑主要是權(quán)利保護(hù)規(guī)制路徑和義務(wù)設(shè)置規(guī)制路徑， 但是， 上述兩種規(guī)制路徑面臨可行性和可欲性困境， 其根本原因在于上述規(guī)制方式缺乏對(duì)算法的場(chǎng)景化考慮。

不少文獻(xiàn)分析了算法審計(jì)的獨(dú)特優(yōu)勢(shì)。莊尚文和陳王薏（2021）認(rèn)為， 算法審計(jì)具有制度優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)： 從制度上來(lái)說(shuō)， 國(guó)家審計(jì)具有獨(dú)立性、 代表性、 專(zhuān)業(yè)性、 法定性、 經(jīng)濟(jì)性等優(yōu)勢(shì)， 這些優(yōu)勢(shì)可以使其在規(guī)制算法權(quán)力時(shí)能更好地發(fā)揮作用； 從技術(shù)上來(lái)說(shuō)， 算法審計(jì)突破資源限制、 時(shí)空局限和傳統(tǒng)方法， 有助于審計(jì)人員提高審計(jì)效率， 達(dá)到高效監(jiān)管的要求。張欣和宋雨鑫（2022）認(rèn)為， 與算法透明框架相比， 算法審計(jì)制度更為靈活、 包容， 可依據(jù)算法系統(tǒng)的透明程度做出因應(yīng)性調(diào)整。王玉鳳（2023）認(rèn)為， 審計(jì)作為黨和國(guó)家監(jiān)督體系的重要組成部分， 將模型算法納入審計(jì)監(jiān)督的范圍， 可充分發(fā)揮審計(jì)“治已病”“防未病”的重要功能。陳雄燊（2023）認(rèn)為， 算法審計(jì)相較其他治理路徑， 具有現(xiàn)實(shí)約束力、 有限透明性以及“強(qiáng)程序， 弱追責(zé)”的特點(diǎn)， 從而可以做到以倫理制度化加強(qiáng)現(xiàn)實(shí)約束力、 以程序規(guī)范化促進(jìn)結(jié)果正當(dāng)化和以有限透明性平衡商業(yè)秘密性。付冉冉（2023）認(rèn)為， 審計(jì)體系成熟且獨(dú)立， 工作流程完善， 可由審計(jì)機(jī)構(gòu)主導(dǎo)進(jìn)行算法審計(jì)審查， 有效回應(yīng)算法風(fēng)險(xiǎn)產(chǎn)生的社會(huì)管理問(wèn)題。徐明華和魏子瑤（2023）認(rèn)為， 在算法透明原則不足以解決當(dāng)下的倫理問(wèn)題時(shí)， 由果溯因的反推檢測(cè)應(yīng)運(yùn)而生， 算法審計(jì)由此進(jìn)入學(xué)術(shù)視野。張濤（2024）認(rèn)為， 算法審計(jì)作為一種新型的社會(huì)技術(shù)方法， 可以充分考慮自動(dòng)化決策在技術(shù)、 法律、 倫理等維度的要求， 彌補(bǔ)現(xiàn)有規(guī)制路徑之不足。

正是由于算法審計(jì)具有一些獨(dú)特的優(yōu)勢(shì)， 其已經(jīng)在各種法律法規(guī)、 標(biāo)準(zhǔn)化框架和行業(yè)最佳實(shí)踐指南中成為一種識(shí)別和減輕人工智能危害風(fēng)險(xiǎn)的機(jī)制（Khoa Lam等，2023）。美國(guó)紐約市議會(huì)于2021年通過(guò)了偏見(jiàn)審計(jì)法令， 偏見(jiàn)審計(jì)——定義為獨(dú)立進(jìn)行的公正評(píng)估——是所有招聘和晉升中需要使用的自動(dòng)化工具①。

4. 簡(jiǎn)要述評(píng)。從邏輯上來(lái)說(shuō)， 需要按“算法問(wèn)題→算法治理體系→算法審計(jì)”的順序來(lái)闡釋算法審計(jì)需求， 現(xiàn)有文獻(xiàn)也涉及上述三個(gè)方面， 但是， 未發(fā)現(xiàn)有文獻(xiàn)按這個(gè)邏輯系統(tǒng)闡釋算法審計(jì)需求， 在分析算法審計(jì)的必要性時(shí)也未能貫通審計(jì)邏輯。因此， 整體來(lái)說(shuō)， 對(duì)于算法審計(jì)需求的理論分析是碎片化的， 并且未能貫通審計(jì)邏輯， 關(guān)于算法審計(jì)需求， 尚缺乏一個(gè)貫通經(jīng)典審計(jì)理論的系統(tǒng)化的理論框架。

三、 理論框架

本文的目的是以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)需求的一個(gè)理論框架， 為此， 需要順序闡釋以下三個(gè)問(wèn)題： 算法委托代理關(guān)系， 委托代理關(guān)系中的代理問(wèn)題和次優(yōu)問(wèn)題及其應(yīng)對(duì)機(jī)制， 算法審計(jì)在算法治理體系中的定位。

1. 算法委托代理關(guān)系。根據(jù)經(jīng)典審計(jì)理論， 審計(jì)源于資源類(lèi)委托代理關(guān)系（鄭石橋，2021）， 所以， 本文先分析與算法相關(guān)的委托代理關(guān)系（見(jiàn)圖1）， 以此作為分析算法審計(jì)需求的起點(diǎn)。

圖1中共有三種類(lèi)型的委托代理關(guān)系， 分別為資源類(lèi)委托代理關(guān)系、 合約類(lèi)委托代理關(guān)系和監(jiān)管類(lèi)委托代理關(guān)系。

關(guān)系1是資源類(lèi)委托代理關(guān)系。委托人將資源交付代理人， 并明確代理人使用這些資源所要履行的職責(zé)， 代理人對(duì)委托人承擔(dān)了最大善意使用資源來(lái)履行所要求職責(zé)的責(zé)任（經(jīng)管責(zé)任）， 這與經(jīng)典意義上的資源類(lèi)委托代理關(guān)系并無(wú)實(shí)質(zhì)性差異。但是， 代理人在履行經(jīng)管責(zé)任時(shí)使用了算法， 算法既是代理人履行經(jīng)管責(zé)任的基礎(chǔ)， 也是委托人目標(biāo)得以實(shí)現(xiàn)的基礎(chǔ)， 因此， 代理人使用的算法也就成為委托人關(guān)注的重要事項(xiàng)。

關(guān)系2是合約類(lèi)委托代理關(guān)系。代理人是關(guān)系的一方， 另一方是代理人履行其經(jīng)管責(zé)任時(shí)發(fā)生經(jīng)濟(jì)活動(dòng)的對(duì)方， 由于代理人是基于算法與對(duì)方發(fā)生經(jīng)濟(jì)活動(dòng)， 因此， 通常將這種對(duì)方稱(chēng)為算法相對(duì)人。在這種關(guān)系中， 代理人作為經(jīng)濟(jì)活動(dòng)的一方， 是算法的使用者， 算法相對(duì)人是算法的接受者。算法相對(duì)人較為復(fù)雜， 例如， 美團(tuán)公司的外賣(mài)業(yè)務(wù)中， 外賣(mài)員及顧客都是算法相對(duì)人， 美團(tuán)公司則是算法使用者。代理人作為算法使用者與算法相對(duì)人之間存在經(jīng)濟(jì)活動(dòng)相關(guān)信息的不對(duì)稱(chēng)， 也存在算法相關(guān)信息的不對(duì)稱(chēng)， 根據(jù)信息經(jīng)濟(jì)學(xué)， 這些關(guān)系屬于委托代理關(guān)系（DRCF，2022；湯志偉等，2023）。但是， 算法使用者和算法相對(duì)人之間的關(guān)系仍然屬于合約類(lèi)委托代理關(guān)系， 其原因分析如下： 算法使用者和算法相對(duì)人之間會(huì)發(fā)生經(jīng)濟(jì)活動(dòng)， 通常存在顯性或隱性的合約， 但這種合約的履行要依賴(lài)算法， 算法作為履行合約的方法， 如果可以事先詳細(xì)約定， 則會(huì)在合約中約定， 由于算法的復(fù)雜性和不確定性， 許多情形下是難以事先對(duì)算法進(jìn)行詳細(xì)約定的。這對(duì)于算法相對(duì)人來(lái)說(shuō)， 隱含的意思是， 算法使用者提供的算法要符合國(guó)家頒布的算法相關(guān)法律法規(guī)， 如果沒(méi)有特別約定， 只要算法不違反國(guó)家法律法規(guī)， 就不算違法行為， 當(dāng)然也就不是違約行為。只有算法違反國(guó)家法律法規(guī)時(shí)， 算法相對(duì)人才可以追究算法使用者的責(zé)任， 因此， 與算法相關(guān)的國(guó)家法律法規(guī)就是算法使用者和算法相對(duì)人關(guān)于算法的合約條款， 算法使用者和算法相對(duì)人并沒(méi)有因?yàn)樗惴ǘ嬖诤霞s不完備， 關(guān)系2中不存在合約不完備， 二者的關(guān)系仍然滿足古典合約， 具有完備性。

關(guān)系3是算法使用者與算法開(kāi)發(fā)者之間的關(guān)系。通常來(lái)說(shuō)， 由于人工智能系統(tǒng)的復(fù)雜性， 算法使用者會(huì)委托專(zhuān)業(yè)機(jī)構(gòu)來(lái)設(shè)計(jì)開(kāi)發(fā)人工智能系統(tǒng)， 因此， 算法使用者與算法開(kāi)發(fā)者是兩個(gè)獨(dú)立的主體， 當(dāng)然， 某些情形下， 算法使用者也可能有能力自行開(kāi)發(fā)人工智能系統(tǒng)（不少互聯(lián)網(wǎng)公司為這種情形）， 此時(shí)， 二者合而為一， 關(guān)系3也就消失。當(dāng)二者分離時(shí)， 算法使用者和算法開(kāi)發(fā)者之間在算法方面存在信息不對(duì)稱(chēng)， 因此， 二者的關(guān)系屬于委托代理關(guān)系。但是， 其性質(zhì)是合約類(lèi)委托代理關(guān)系， 并不存在合約不完備， 其原因是： 算法使用者無(wú)法詳細(xì)規(guī)定算法開(kāi)發(fā)者所開(kāi)發(fā)的算法細(xì)節(jié)， 但可以顯性或隱性地要求算法開(kāi)發(fā)者開(kāi)發(fā)的算法符合以下要求——不存在違反國(guó)家算法相關(guān)法律法規(guī)的合法性問(wèn)題， 不存在違反公序良俗的倫理性問(wèn)題， 不存在不能有效完成任務(wù)的效率效果性問(wèn)題， 如果出現(xiàn)這些問(wèn)題， 都視同算法開(kāi)發(fā)者違約。當(dāng)然， 算法使用者也許無(wú)法對(duì)上述條款進(jìn)行驗(yàn)收， 但在算法使用過(guò)程中一旦出現(xiàn)上述問(wèn)題， 就可以認(rèn)定算法開(kāi)發(fā)者違約。在這種情景下， 關(guān)系3就不存在合約不完備， 二者的關(guān)系仍然是合約類(lèi)委托代理關(guān)系。

關(guān)系4是算法使用者與算法營(yíng)運(yùn)者之間的關(guān)系， 主要是算法使用者將算法的維護(hù)、 營(yíng)運(yùn)工作全部或部分交由某些專(zhuān)業(yè)機(jī)構(gòu)負(fù)責(zé)。通常來(lái)說(shuō)， 二者在算法營(yíng)運(yùn)方面存在信息不對(duì)稱(chēng)， 根據(jù)信息經(jīng)濟(jì)學(xué)， 二者的關(guān)系屬于委托代理關(guān)系， 但二者存在完備合約， 因此， 這種關(guān)系的性質(zhì)仍然是合約類(lèi)委托代理關(guān)系。也許算法使用者與算法營(yíng)運(yùn)者無(wú)法就算法的營(yíng)運(yùn)達(dá)成詳細(xì)的具體條款， 但是， 算法使用者可以要求算法營(yíng)運(yùn)者對(duì)算法的不恰當(dāng)營(yíng)運(yùn)承擔(dān)責(zé)任， 如果算法營(yíng)運(yùn)出現(xiàn)問(wèn)題， 則算法營(yíng)運(yùn)者應(yīng)該承擔(dān)責(zé)任。在這種要求下， 算法使用者與算法營(yíng)運(yùn)者之間就存在完備合約了， 二者的關(guān)系就是合約類(lèi)委托代理關(guān)系了。

關(guān)系5是算法監(jiān)管部門(mén)對(duì)算法開(kāi)發(fā)者的監(jiān)管， 關(guān)系6是算法監(jiān)管部門(mén)對(duì)算法使用者的監(jiān)管， 關(guān)系7是算法監(jiān)管部門(mén)對(duì)算法營(yíng)運(yùn)者的監(jiān)管， 算法開(kāi)發(fā)者、 算法使用者和算法營(yíng)運(yùn)者是算法的共同責(zé)任人， 政府監(jiān)管的目的是保障算法相對(duì)人的利益。人工智能還處于快速發(fā)展中， 雖然會(huì)帶來(lái)一些問(wèn)題， 但更多的是提升人類(lèi)完成特定任務(wù)的效率效果， 因此， 政府對(duì)算法進(jìn)行監(jiān)管的基本原則是謙抑， 也就是最低程度干預(yù)。很顯然， 關(guān)系5、 關(guān)系6和關(guān)系7中， 關(guān)系雙方在算法方面存在信息不對(duì)稱(chēng)， 因此， 這些關(guān)系都屬于委托代理關(guān)系。但是， 其性質(zhì)是監(jiān)管類(lèi)委托代理關(guān)系， 算法監(jiān)管部門(mén)要遵守“法無(wú)明文不可為”的原則， 只能按法律法規(guī)規(guī)定的程序及方法對(duì)規(guī)定的內(nèi)容進(jìn)行監(jiān)管， 對(duì)于算法共同責(zé)任人， 也只能就其違反算法法律法規(guī)的行為進(jìn)行責(zé)任追究。因此， 與算法相關(guān)的法律法規(guī)事實(shí)上發(fā)揮了類(lèi)似完備合約的作用。

關(guān)系8是本級(jí)政府將算法監(jiān)管職責(zé)授予特定的政府部門(mén)（算法監(jiān)管部門(mén)）， 本級(jí)政府必須給予該部門(mén)充分授權(quán)， 并為其提供履行法定職責(zé)的資源。因此， 本級(jí)政府與算法監(jiān)管部門(mén)的關(guān)系是典型的資源類(lèi)委托代理關(guān)系， 算法監(jiān)管部門(mén)的經(jīng)管責(zé)任同樣由財(cái)務(wù)責(zé)任和業(yè)務(wù)責(zé)任組成， 其業(yè)務(wù)責(zé)任就是算法監(jiān)管。

2. 委托代理關(guān)系中的代理問(wèn)題和次優(yōu)問(wèn)題及其應(yīng)對(duì)機(jī)制。根據(jù)經(jīng)典審計(jì)理論， 各類(lèi)委托代理關(guān)系中都有可能出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題， 代理問(wèn)題是因?yàn)槿说淖岳a(chǎn)生的問(wèn)題， 次優(yōu)問(wèn)題是因?yàn)槿说挠邢蘩硇远a(chǎn)生的問(wèn)題（鄭石橋，2021）。許多情形下， 代理問(wèn)題和次優(yōu)問(wèn)題相互交織， 難以區(qū)分。與算法相關(guān)的委托代理關(guān)系有三種類(lèi)型， 一是資源類(lèi)委托代理關(guān)系（關(guān)系1、關(guān)系8）， 二是合約類(lèi)委托代理關(guān)系（關(guān)系2、關(guān)系3、關(guān)系4）， 三是監(jiān)管類(lèi)委托代理關(guān)系（關(guān)系5、關(guān)系6、關(guān)系7）。上述三類(lèi)關(guān)系中都有可能出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題， 前者是關(guān)系一方（代理人）基于自身利益而采取的自利行為， 這種行為通常會(huì)對(duì)關(guān)系對(duì)方（委托人）的利益造成負(fù)面影響。例如： 算法開(kāi)發(fā)者開(kāi)發(fā)的算法有缺陷， 對(duì)算法使用者造成負(fù)面影響； 算法營(yíng)運(yùn)者職責(zé)履行不到位， 造成算法被不當(dāng)使用， 進(jìn)而對(duì)算法使用者造成負(fù)面影響； 算法共同責(zé)任者履職不到位， 對(duì)算法相對(duì)人造成負(fù)面影響； 算法監(jiān)管者未能有效履行其法定的監(jiān)管職責(zé)， 造成算法相對(duì)人的合法權(quán)益未能得到有效保護(hù)。

雖然各類(lèi)與算法相關(guān)的委托代理關(guān)系中都有可能出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題， 但是， 由于這些關(guān)系的性質(zhì)不同（對(duì)算法的權(quán)責(zé)安排不同）， 應(yīng)對(duì)問(wèn)題的機(jī)制也就不同。

在合約類(lèi)委托代理關(guān)系中， 合約條款（包括隱性條款）是雙方行為的規(guī)范， 如果一方違背合約條款， 另一方可以通過(guò)司法訴訟來(lái)解決。例如： 在關(guān)系2中， 如果算法使用者使用的算法違反了國(guó)家有關(guān)法律法規(guī)， 在算法相對(duì)人看來(lái)， 算法使用者的這種行為屬于違約行為， 可以通過(guò)司法訴訟來(lái)解決； 在關(guān)系3中， 如果算法開(kāi)發(fā)者開(kāi)發(fā)的算法存在合法性問(wèn)題、 倫理性問(wèn)題和效率效果性問(wèn)題， 則可以視同算法開(kāi)發(fā)者存在違約行為， 算法使用者可以通過(guò)司法訴訟來(lái)追究責(zé)任； 在關(guān)系4中， 如果因算法營(yíng)運(yùn)者的營(yíng)運(yùn)不當(dāng)， 導(dǎo)致算法的不恰當(dāng)使用， 則算法使用者可以將這種行為作為違約行為， 通過(guò)司法訴訟來(lái)解決?？傮w來(lái)說(shuō)， 合約類(lèi)委托代理關(guān)系中的矛盾， 通過(guò)司法訴訟來(lái)解決是成本最低的制度安排。算法下合約類(lèi)委托代理關(guān)系中的矛盾也不例外。因此， 這種關(guān)系中不存在審計(jì)需求。也許在某些情形下需要以算法審計(jì)結(jié)果為基礎(chǔ)來(lái)解決司法訴訟問(wèn)題， 但這并不表明這種關(guān)系中存在審計(jì)需求， 算法審計(jì)結(jié)果只是作為司法訴訟的證據(jù)。

在監(jiān)管類(lèi)委托代理關(guān)系中， 相關(guān)的法律法規(guī)發(fā)揮了類(lèi)似合約條款的作用， 對(duì)于被監(jiān)管方的任何違法違規(guī)行為， 監(jiān)管機(jī)構(gòu)可以通過(guò)行政制裁進(jìn)行處理， 對(duì)于監(jiān)管機(jī)構(gòu)的任何違法違規(guī)行為， 被監(jiān)管方可以通過(guò)行政申訴或行政訴訟的方式予以解決。人類(lèi)歷史已經(jīng)證明， 監(jiān)管類(lèi)委托代理關(guān)系中的矛盾， 通過(guò)行政制裁、 行政申訴和行政訴訟來(lái)解決， 是成本最低的制度安排。算法下監(jiān)管類(lèi)委托代理關(guān)系中的矛盾也不例外。行政制裁、 行政申訴和行政訴訟中， 也許會(huì)用到算法審計(jì)結(jié)果作為證據(jù)， 但這并不表明這種關(guān)系中存在審計(jì)需求。當(dāng)然， 算法監(jiān)管部門(mén)可以借鑒算法審計(jì)的一些方法來(lái)履行其監(jiān)管職責(zé)， 甚至直接使用“算法審計(jì)”這種詞匯， 但從實(shí)質(zhì)上來(lái)說(shuō)， 此時(shí)的“算法審計(jì)”是算法合法性檢查， 并不存在經(jīng)典審計(jì)意義上的算法審計(jì)需求。

在資源類(lèi)委托代理關(guān)系中， 激勵(lì)不相容、 信息不對(duì)稱(chēng)、 合約不完備和環(huán)境不確定同時(shí)存在， 代理人更容易出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題。算法的資源類(lèi)委托代理關(guān)系（關(guān)系1）中， 算法是代理人履行其經(jīng)管責(zé)任的手段， 委托人對(duì)代理人如何履行其經(jīng)管責(zé)任應(yīng)充分授權(quán)， 因此， 與算法相關(guān)的主要權(quán)力應(yīng)該在代理人手中， 那么， 代理人能否最大善意地使用委托人對(duì)算法的授權(quán)來(lái)良好地履行其承擔(dān)的經(jīng)管責(zé)任呢？答案是“不一定”！第一， 委托人和代理人之間存在一定的激勵(lì)不相容， 因此， 代理人很有可能利用算法權(quán)來(lái)追求自己的目標(biāo)， 而不是委托人的目標(biāo)； 第二， 委托人和代理人之間在算法方面存在信息不對(duì)稱(chēng)， 委托人對(duì)代理人如何使用算法的許多信息并不了解， 正是這種信息不對(duì)稱(chēng)為代理人掩蓋其算法方面的代理問(wèn)題和次優(yōu)問(wèn)題提供了條件； 第三， 委托人和代理人在算法方面存在合約不完備， 委托人對(duì)代理人使用的算法可以提出一些原則性要求， 但是， 無(wú)法細(xì)化為可執(zhí)行的合約條款， 因此， 即使委托人對(duì)代理人的某些算法不滿意， 也無(wú)法將這些行為作為違約行為提起司法訴訟， 這進(jìn)一步為代理人在算法方面出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題提供了條件； 第四， 算法服務(wù)于代理人履行經(jīng)管責(zé)任， 但是， 經(jīng)管責(zé)任履行的結(jié)果除了受到算法的影響， 還會(huì)受到其他許多環(huán)境因素的影響， 且這些環(huán)境因素本身還具有不確定性， 進(jìn)而導(dǎo)致它們對(duì)經(jīng)管責(zé)任履行結(jié)果的影響也具有不確定性， 從而難以根據(jù)經(jīng)管責(zé)任履行結(jié)果來(lái)判斷代理人使用的算法之優(yōu)劣， 這就進(jìn)一步為代理人在算法方面出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題提供了條件。

那么， 如何應(yīng)對(duì)資源類(lèi)委托代理關(guān)系中的代理問(wèn)題和次優(yōu)問(wèn)題呢？人類(lèi)歷史已經(jīng)證明， 為了應(yīng)對(duì)資源類(lèi)委托代理關(guān)系中的代理問(wèn)題和次優(yōu)問(wèn)題， 行政手段和司法手段并不是最有效的制度安排， 而是必須建構(gòu)一整套的治理體系（當(dāng)然，司法手段和行政手段也可以成為該體系中的成員）。算法的資源類(lèi)委托代理關(guān)系（關(guān)系1）中， 委托人及利益相關(guān)方會(huì)推動(dòng)建立針對(duì)代理人在算法方面的代理問(wèn)題和次優(yōu)問(wèn)題的治理機(jī)制——算法治理體系。目前， 世界各國(guó)都在探索建構(gòu)本國(guó)的算法治理體系， 現(xiàn)有文獻(xiàn)將算法治理體系進(jìn)行了多種分類(lèi)： 一是將算法治理分為以算法透明為代表的事前規(guī)制和以算法問(wèn)責(zé)為代表的事后規(guī)制（沈偉偉，2019；張旭，2022）； 二是將算法治理分為算法公開(kāi)、 個(gè)人數(shù)據(jù)賦權(quán)與反算法歧視（丁曉東，2020）； 三是將算法治理分為個(gè)體賦權(quán)模式和外部問(wèn)責(zé)模式（付冉冉，2023）； 四是將算法治理分為權(quán)利保護(hù)規(guī)制路徑和義務(wù)設(shè)置規(guī)制路徑（劉建業(yè)，2023）。需要說(shuō)明的是， 現(xiàn)有文獻(xiàn)提出的算法治理體系， 其治理范圍涵蓋圖1中所有情形的算法委托代理關(guān)系， 并不只是針對(duì)資源類(lèi)委托代理關(guān)系（關(guān)系1）， 同時(shí)， 現(xiàn)有文獻(xiàn)主要關(guān)注算法的外部治理機(jī)制， 對(duì)算法的內(nèi)部治理機(jī)制未給予足夠關(guān)注。算法治理體系的建構(gòu)是一個(gè)內(nèi)容非常豐富的課題， 也不是本文的研究主題， 這里不展開(kāi)討論， 但需強(qiáng)調(diào)的是， 對(duì)于算法中的資源類(lèi)委托代理關(guān)系（關(guān)系1）， 其算法方面代理問(wèn)題和次優(yōu)問(wèn)題的應(yīng)對(duì)需要建構(gòu)由外部治理和內(nèi)部治理共同組成的算法治理體系， 算法審計(jì)基于審計(jì)的固有功能， 在這個(gè)治理體系中發(fā)揮重要作用。

圖1中的關(guān)系8是本級(jí)政府與其算法監(jiān)管部門(mén)之間的關(guān)系， 其性質(zhì)是資源類(lèi)委托代理關(guān)系。本級(jí)政府與算法監(jiān)管部門(mén)之間存在信息不對(duì)稱(chēng)、 激勵(lì)不相容、 合約不完備和環(huán)境不確定， 算法監(jiān)管部門(mén)的工作人員有可能出現(xiàn)代理問(wèn)題， 例如， 在算法監(jiān)管中不作為或亂作為。同時(shí)， 算法監(jiān)管部門(mén)的工作人員是有限理性的， 也可能出現(xiàn)次優(yōu)問(wèn)題， 例如， 未能及時(shí)有效地發(fā)現(xiàn)算法責(zé)任主體存在的算法問(wèn)題。為了應(yīng)對(duì)算法監(jiān)管部門(mén)在履行算法監(jiān)管職責(zé)時(shí)可能出現(xiàn)的代理問(wèn)題和次優(yōu)問(wèn)題， 本級(jí)政府會(huì)推動(dòng)建構(gòu)針對(duì)這些問(wèn)題的治理體系， 對(duì)算法監(jiān)管部門(mén)實(shí)施審計(jì)， 是這個(gè)治理體系的一種制度安排。

3. 算法審計(jì)在算法治理體系中的定位。算法治理體系中為什么會(huì)有算法審計(jì)呢？前文的文獻(xiàn)綜述表明， 關(guān)于算法審計(jì)產(chǎn)生的原因， 現(xiàn)有文獻(xiàn)從兩個(gè)方面進(jìn)行了分析， 一是算法治理體系存在缺陷， 二是算法審計(jì)具有獨(dú)特優(yōu)勢(shì)， 這兩個(gè)方面的分析結(jié)合起來(lái)， 對(duì)算法審計(jì)的產(chǎn)生有一定的解釋力。但是， 根據(jù)經(jīng)典審計(jì)理論， 審計(jì)能夠應(yīng)對(duì)代理問(wèn)題和次優(yōu)問(wèn)題的根本原因在于審計(jì)的固有功能， 正是因?yàn)閷徲?jì)的固有功能， 才使得審計(jì)成為應(yīng)對(duì)代理問(wèn)題和次優(yōu)問(wèn)題的治理體系之成員。審計(jì)的固有功能是鑒證， 就是用系統(tǒng)方法核實(shí)審計(jì)事項(xiàng)的真實(shí)情況， 然后將這種真實(shí)情況與既定標(biāo)準(zhǔn)相比較以發(fā)現(xiàn)偏差， 并將審計(jì)發(fā)現(xiàn)提供給能夠采取行動(dòng)的利益相關(guān)者， 推動(dòng)這些偏差得到整改， 最終促使代理人履行經(jīng)管責(zé)任時(shí)的偏差越來(lái)越小， 從而其經(jīng)管責(zé)任的履行質(zhì)量也就越來(lái)越好（鄭石橋，2021）。

圖1所示的資源類(lèi)算法委托代理關(guān)系（關(guān)系1）中， 代理人在履行其經(jīng)管責(zé)任時(shí)使用了算法， 因此， 代理人對(duì)委托人承擔(dān)了最大善意地使用算法的責(zé)任， 這種責(zé)任可以稱(chēng)為算法責(zé)任②， 內(nèi)容至少包括： 算法不存在合法性問(wèn)題、 不存在倫理性問(wèn)題、 不存在效率效果性問(wèn)題。但是， 由于激勵(lì)不相容、 信息不對(duì)稱(chēng)、 合約不完備和環(huán)境不確定， 代理人不一定能夠良好地履行算法責(zé)任， 而會(huì)出現(xiàn)代理問(wèn)題和次優(yōu)問(wèn)題， 算法審計(jì)基于審計(jì)固有功能對(duì)算法責(zé)任履行情況實(shí)施鑒證， 發(fā)現(xiàn)其中存在的代理問(wèn)題和次優(yōu)問(wèn)題， 報(bào)告給委托人及其他利益相關(guān)者并推動(dòng)整改， 從而為算法責(zé)任的良好履行提供一定的保障。正是因?yàn)樗惴▽徲?jì)的上述功能， 算法審計(jì)制度將技術(shù)、 法律和倫理深度融合， 以合理透明度和專(zhuān)業(yè)技術(shù)保證彌合算法“黑箱”和商業(yè)秘密間的制度張力， 為構(gòu)建事前預(yù)警識(shí)別機(jī)制、 事中風(fēng)險(xiǎn)管控機(jī)制和事后責(zé)任追溯機(jī)制提供了有效決策參考， 成為當(dāng)下各國(guó)算法治理圖景中日益引發(fā)關(guān)注的新興治理工具（張欣和宋雨鑫，2022）。Raji 等（2020）指出， 審計(jì)旨在從系統(tǒng)外部識(shí)別相關(guān)風(fēng)險(xiǎn)， 并作為已部署模型的問(wèn)責(zé)措施。Beckstrom（2022）指出， 現(xiàn)已提出引入專(zhuān)業(yè)的、 有執(zhí)照的人工智能系統(tǒng)審計(jì)員的想法。

算法審計(jì)基于審計(jì)固有功能發(fā)揮上述作用， 進(jìn)而產(chǎn)生的算法治理效率效果， 是算法審計(jì)所特有的， 因此也成為算法審計(jì)的優(yōu)勢(shì)。同時(shí)， 這些作用的效率效果也是許多算法治理機(jī)制所沒(méi)有的， 相對(duì)來(lái)說(shuō)， 其他的算法治理機(jī)制也就存在缺陷。但是， 算法審計(jì)相對(duì)于其他的算法治理機(jī)制， 同樣也存在一些缺陷。例如， 算法審計(jì)制度的彈性較大， 如果授權(quán)不夠， 則權(quán)威性可能不夠， 如果算法審計(jì)結(jié)果不能得到有效利用， 則算法審計(jì)可能徒有虛名。既然如此， 算法審計(jì)作為算法治理體系的成員， 就應(yīng)該與其他算法治理機(jī)制相協(xié)同， 既不能超越自身的固有功能去發(fā)揮作用， 也不能對(duì)屬于固有功能范圍的事項(xiàng)不作為。

圖1所示的關(guān)系8中， 本級(jí)政府針對(duì)其各個(gè)部門(mén)的治理體系有多種機(jī)制， 通常包括制衡機(jī)制、 激勵(lì)機(jī)制、 道德機(jī)制、 透明機(jī)制和監(jiān)督機(jī)制等（鄭石橋，2021）， 審計(jì)以其固有功能對(duì)政府各個(gè)部門(mén)的經(jīng)管責(zé)任履行情況進(jìn)行檢查， 發(fā)現(xiàn)各個(gè)部門(mén)經(jīng)管責(zé)任履行中存在的問(wèn)題并督促整改， 因此， 審計(jì)成為針對(duì)政府各個(gè)部門(mén)的主要治理機(jī)制， 算法監(jiān)管部門(mén)作為本級(jí)政府的組成部門(mén)， 當(dāng)然也就成為審計(jì)的治理對(duì)象之一。特別之處在于， 本級(jí)政府建立的審計(jì)機(jī)關(guān)對(duì)算法監(jiān)管部門(mén)的經(jīng)管責(zé)任履行情況進(jìn)行審計(jì)時(shí)， 其重要內(nèi)容之一就是檢查其算法監(jiān)管責(zé)任履行情況， 通過(guò)發(fā)現(xiàn)該部門(mén)算法監(jiān)管責(zé)任履行中存在的問(wèn)題并推動(dòng)整改， 促使該部門(mén)更好地履行責(zé)任， 從而也為整個(gè)社會(huì)的算法向善奠定一定的基礎(chǔ)。

四、 結(jié)論

算法已經(jīng)深入人們生活及工作的各個(gè)方面， 在增進(jìn)人類(lèi)福祉的同時(shí)， 也帶來(lái)一些問(wèn)題， 人類(lèi)必須建構(gòu)算法治理體系來(lái)應(yīng)對(duì)這些問(wèn)題。算法審計(jì)是算法治理體系的重要成員， 本文以經(jīng)典審計(jì)理論為基礎(chǔ)， 提出算法審計(jì)需求的一個(gè)理論框架。

算法中存在多種關(guān)系， 這些關(guān)系中都存在信息不對(duì)稱(chēng)， 因此， 都屬于委托代理關(guān)系。這些關(guān)系可以分為三種類(lèi)型： 合約類(lèi)委托代理關(guān)系、 監(jiān)管類(lèi)委托代理關(guān)系和資源類(lèi)委托代理關(guān)系。不同類(lèi)型的關(guān)系中， 算法權(quán)責(zé)安排不同， 因此， 應(yīng)對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題的機(jī)制也不同。在算法的合約類(lèi)委托代理關(guān)系中， 由于存在完備合約， 應(yīng)對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題的主要機(jī)制是司法訴訟； 在算法的監(jiān)管類(lèi)委托代理關(guān)系中， 由于算法相關(guān)法律法規(guī)發(fā)揮了類(lèi)似完備合約的作用， 應(yīng)對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題的主要機(jī)制是行政制裁、 行政申訴和行政訴訟； 在算法的資源類(lèi)委托代理關(guān)系中， 由于激勵(lì)不相容、 信息不對(duì)稱(chēng)、 合約不完備和環(huán)境不確定同時(shí)存在， 必須建構(gòu)算法治理體系來(lái)應(yīng)對(duì)算法代理問(wèn)題和次優(yōu)問(wèn)題， 算法審計(jì)是算法治理體系的重要成員， 算法審計(jì)基于審計(jì)固有功能對(duì)算法責(zé)任履行情況實(shí)施鑒證， 發(fā)現(xiàn)其中存在的代理問(wèn)題和次優(yōu)問(wèn)題， 報(bào)告給委托人及其他利益相關(guān)者并推動(dòng)整改， 從而為算法責(zé)任的良好履行提供一定的保障。

【 注 釋 】

① The New York City Council， Subchapter 25： Automated Employment Decision Tools， https：//codelibrary.amlegal.com/codes/newyorkcity/latest/NYCadmin/0-0-0-135598。

② 代理人（算法使用者）通過(guò)合同，將某些算法責(zé)任轉(zhuǎn)移給算法開(kāi)發(fā)者和算法營(yíng)運(yùn)者，因此，算法使用者、算法開(kāi)發(fā)者和算法營(yíng)運(yùn)者共同成為算法責(zé)任人。

【 主 要 參 考 文 獻(xiàn) 】

陳雄燊．人工智能倫理風(fēng)險(xiǎn)及其治理——基于算法審計(jì)制度的路徑［ J］．自然辯證法研究，2023（10）：138 ～ 141．

丁曉東．論算法的法律規(guī)制［ J］．中國(guó)社會(huì)科學(xué)，2020（12）：138 ～ 159+203．

付冉冉．大數(shù)據(jù)時(shí)代算法審計(jì)構(gòu)想［ J］．網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023（2）：48 ～ 52．

劉建業(yè)．論我國(guó)算法審計(jì)的法治化建構(gòu)［ J］．河南財(cái)經(jīng)政法大學(xué)學(xué)報(bào)，2023（3）：14 ～ 23．

沈偉偉．算法透明原則的迷思——算法規(guī)制理論的批判［ J］．環(huán)球法律評(píng)論，2019（6）：20 ～ 39．

沈艷．推行算法審計(jì)大有可為［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

師文，陳昌鳳．國(guó)內(nèi)主流搜索引擎的算法審計(jì)研究［ J］．新聞大學(xué)，2022（10）：84 ～ 100+123．

蘇宇．論算法規(guī)制的價(jià)值目標(biāo)與機(jī)制設(shè)計(jì)［ J］．自然辯證法通訊，2019（10）：8 ～ 15．

蘇宇．算法規(guī)制的譜系［ J］．中國(guó)法學(xué)，2020（3）：165 ～ 184．

孫瑩．人工智能算法規(guī)制的原理與方法［ J］．西南政法大學(xué)學(xué)報(bào)，2020（1）：83 ～ 95．

湯志偉，方錄，韓嘯，鄧明磊．基于委托代理視角的算法治理問(wèn)題研究［ J］．情報(bào)雜志，2023（7）：170 ～ 177．

王玉鳳．模型算法審計(jì)：理論內(nèi)涵、國(guó)際經(jīng)驗(yàn)與審計(jì)框架［ J］．審計(jì)研究，2023（3）：11 ～ 18．

徐明華，魏子瑤．算法倫理的治理新范式：算法審計(jì)的興起，發(fā)展與未來(lái)［ J］．當(dāng)代傳播，2023（1）：80 ～ 86．

張濤．通過(guò)算法審計(jì)規(guī)制自動(dòng)化決策：以社會(huì)技術(shù)系統(tǒng)理論為視角［ J］．中外法學(xué)，2024（1）：261 ～ 279．

張文魁．?dāng)?shù)字經(jīng)濟(jì)中的數(shù)據(jù)和算法規(guī)制［ J］．重慶理工大學(xué)學(xué)報(bào)：社會(huì)科學(xué)，2022（10）：8 ～ 13．

張欣．從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑［ J］．華東政法大學(xué)學(xué)報(bào)，2019（6）：17 ～ 30．

張欣，宋雨鑫．算法審計(jì)的制度邏輯和本土化構(gòu)建［ J］．鄭州大學(xué)學(xué)報(bào)：哲學(xué)社會(huì)科學(xué)版，2022（6）：33 ～ 42．

張旭．基于人權(quán)標(biāo)準(zhǔn)的算法治理新思路：企業(yè)算法合規(guī)義務(wù)［ J］．人權(quán)研究，2022（2）：88 ～ 104．

張永忠，張寶山．算法規(guī)制的路徑創(chuàng)新：論我國(guó)算法審計(jì)制度的構(gòu)建［ J］．電子政務(wù)，2022（10）：48 ～ 61．

趙德勇，張子輝．“大數(shù)據(jù)殺熟”的法律規(guī)制——從個(gè)人信息保護(hù)到算法規(guī)制［J］，經(jīng)濟(jì)論壇，2023（10）：16 ～ 23．

鄭石橋．審計(jì)基礎(chǔ)理論［M］．北京：中國(guó)人民大學(xué)出版社，2021．

莊尚文，陳王薏．?dāng)?shù)字經(jīng)濟(jì)時(shí)代算法權(quán)力問(wèn)題及其審計(jì)規(guī)制探討［ J］．吉林工商學(xué)院學(xué)報(bào)，2021（4）：75 ～ 79．

Abeba Birhane， Ryan Steed， Victor Ojewale， et al.. AI auditing： The broken bus on the road to AI accountability［EB/OL］．https：//arxiv.org/pdf/2401.14462.pdf，2024-01-25．

Aragona B.. Algorithm audit： Why， what， and how？［EB/OL］．http：//doi.org/10.4324/9781003080381，2021-08-02．

Beckstrom J. R.. Auditing machine learning algorithms： A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2024-09-23．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A framework for assurance audits of algorithmic systems［EB/OL］．https：//arxiv.org/pdf/2401.14908.pdf，2023-01-26．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］．https：//arxiv.org/abs/2001.00973，2020-01-03．