美國算法治理分析及思考

司偉攀，劉鑫怡

（中國科學(xué)技術(shù)信息研究所，北京 100038）

算法治理是當(dāng)今全球的一項重要議題，國際社會競相開展相關(guān)研究與實踐。2022年2月，美國民主黨參議員提出《2022算法問責(zé)法案》，成為美國關(guān)于算法治理專門立法的最新探索。無獨有偶，我國第一部以算法推薦服務(wù)為規(guī)制對象的部門規(guī)章——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也于2022年3月正式實施。本文以美國算法治理立法為主線，梳理與分析其算法治理背景、模式、策略與制度，以期助力我國相關(guān)工作的深化推進(jìn)。

1 美國開展算法治理的重要背景

隨著算法技術(shù)與社會生活融合程度的日益加深，其產(chǎn)生的影響也愈加深刻。同時，在第四次工業(yè)革命浪潮下，國家未來發(fā)展前景與對新興技術(shù)的掌握息息相關(guān)。這兩方面的原因構(gòu)成了美國開展算法治理的重要背景。

1.1 算法影響的正反二重性

本質(zhì)上，算法是一套包含一系列數(shù)學(xué)運(yùn)算（如方程式、代數(shù)、微積分、邏輯學(xué)等）并將其轉(zhuǎn)換為計算機(jī)代碼的完整指令[1]。其作為現(xiàn)代科學(xué)技術(shù)重要成果之一，不僅為機(jī)器創(chuàng)造現(xiàn)代奇跡提供了重要動力，更已深刻嵌入社會發(fā)展結(jié)構(gòu)的肌理，重塑了社會傳統(tǒng)決策機(jī)制——由機(jī)器替代人做出部分決策，涉及交通、金融、住房、醫(yī)療、銷售、教育、就業(yè)等諸多領(lǐng)域。如智能出行App，可以直接為用戶規(guī)劃最佳出行路線，實現(xiàn)交易成本的降低。同時，算法也因在公共部門的擴(kuò)展應(yīng)用而逐漸參與到社會治理中來。公共部門已經(jīng)習(xí)慣（甚至依賴）通過算法模型參與社會日常治理，以緩解日益增長的治理壓力與相對有限的治理資源之間的緊張關(guān)系[2]。研究還發(fā)現(xiàn)，通過算法模型觀察離散事件的時間和空間坐標(biāo)，甚至可提前一周預(yù)測兩個街區(qū)內(nèi)的犯罪，且在美國8個城市的試驗準(zhǔn)確率高達(dá)90%[3]。應(yīng)認(rèn)為，算法在公私領(lǐng)域的應(yīng)用，為社會治理與公眾生活提供了高效、便捷的服務(wù)。

但與此同時，算法也展現(xiàn)出了益處與風(fēng)險并存的“正反二重性”。按照風(fēng)險社會理論，工業(yè)化發(fā)展在給人類社會帶來益處的同時，也會產(chǎn)生“現(xiàn)代性風(fēng)險”，引發(fā)新的危險和不安。文明的進(jìn)步并不總能消解人類對風(fēng)險的擔(dān)憂，特別是在技術(shù)學(xué)科等現(xiàn)代化發(fā)展的核心領(lǐng)域，風(fēng)險正披著數(shù)字和方程的外衣，悄無聲息地潛入生活之中[4]。

算法風(fēng)險的產(chǎn)生與其運(yùn)行機(jī)制密不可分，算法運(yùn)行需要以數(shù)據(jù)為支撐，輸入帶有偏見的數(shù)據(jù)則輸出不公正的決策結(jié)果，即“偏見入，偏見出”。密歇根州的算法自動化審核失業(yè)補(bǔ)貼申請者系統(tǒng)就曾導(dǎo)致4萬人受害[5]；一些高校也因利用算法決策學(xué)生招錄和獎學(xué)金的分配，導(dǎo)致了可能有損學(xué)生利益和加劇教育危機(jī)的質(zhì)疑[6]；一份關(guān)于美國刑事司法系統(tǒng)利用算法的報告也指出，智能量刑工具的使用面臨有效性、準(zhǔn)確性和偏見等擔(dān)憂，應(yīng)停止使用或改進(jìn)此類智能工具[7]。在這些事例中，算法充當(dāng)了看不見的“裁決者”，算法黑箱的存在使得外界無法清晰了解算法決策的過程。有學(xué)者甚至將有害的算法模型描述為具有“不透明、規(guī)?；蜌缧浴碧卣鳎⒃斐伞皵?shù)字難民”的“數(shù)學(xué)殺傷性武器”（Weapons of Math Destruction）[8]。在這種情況下，有關(guān)算法歧視、算法操縱、算法繭房、算法權(quán)力等的爭議不絕于耳，引發(fā)了強(qiáng)化算法治理的時代訴求。

1.2 算法治理進(jìn)入全球化時代

面對算法現(xiàn)實風(fēng)險及技術(shù)發(fā)展需要，以聯(lián)合國、歐盟、英國、加拿大等為代表的國際組織、國家開始探索算法治理方案，反映出算法治理進(jìn)入全球化時代。

2021年11月，聯(lián)合國頒布《人工智能倫理問題建議書》，闡明人工智能算法可能復(fù)制和加深現(xiàn)有的偏見，產(chǎn)生新的倫理挑戰(zhàn)，并在算法研發(fā)、可解釋性、透明度、隱私影響評估等方面提出了治理要求[9]。該建議書由聯(lián)合國的193個成員國共同簽署，對國際社會的算法治理具有重要指導(dǎo)意義。

歐盟算法治理規(guī)范建設(shè)已取得了較為豐碩的成果。2016年4月通過《通用數(shù)據(jù)保護(hù)條例》，賦予個人關(guān)于算法自動化決策的事前拒絕權(quán)和事后獲得人工干預(yù)和表達(dá)觀點、提出異議權(quán)，以增強(qiáng)個人在自動化決策中的數(shù)據(jù)權(quán)益保護(hù)[10]。2019年4月發(fā)布《算法問責(zé)及透明度監(jiān)管框架》，建立“算法影響評估”機(jī)制[11]。2021年4月出臺《人工智能法》，設(shè)計“人為監(jiān)督”制度，強(qiáng)化對高風(fēng)險人工智能，尤其是為人的決策提供信息或建議的高風(fēng)險人工智能系統(tǒng)的監(jiān)督[12]。

英國是世界上最早在國家層面制定算法透明度標(biāo)準(zhǔn)的國家之一。2021年11月發(fā)布了一項開創(chuàng)性標(biāo)準(zhǔn)，旨在為政府和公共服務(wù)部門提供有關(guān)利用算法工具進(jìn)行自動化決策的具體指導(dǎo)（尤其是對個人可能產(chǎn)生法律或經(jīng)濟(jì)影響時），包括透明度數(shù)據(jù)標(biāo)準(zhǔn)、透明度模板和行動指南等重要內(nèi)容[13]。

加拿大在認(rèn)識算法自動化決策功能的基礎(chǔ)上，為降低公共部門采用該決策方式的風(fēng)險，于2019年2月出臺了《自動化決策指令》，就算法影響評估、算法決策透明度和質(zhì)量保證、算法決策的救濟(jì)和責(zé)任承擔(dān)等，提出了一系列要求[14]。

基于算法現(xiàn)實風(fēng)險及其治理的全球化，美國也在不斷探索治理方案，并形成了頗具自身特點的“多元共治”模式。

2 美國算法多元共治模式與特點

多元共治意味著多方主體的共同參與，這是美國算法治理模式所體現(xiàn)的鮮明特點。聯(lián)邦政府、州和地方政府、相關(guān)行業(yè)、私營部門等主體都參與到了治理行列之中，但這些主體并非一定采用統(tǒng)一的規(guī)范行事，而是呈現(xiàn)出去中心化和動態(tài)發(fā)展的治理特征[15]。在此基礎(chǔ)上，形成了以州和地方政府率先立法、聯(lián)邦政府持續(xù)推進(jìn)、企業(yè)行業(yè)自治自律、研究院所/機(jī)構(gòu)積極參與為主要特點的治理模式。

2.1 州和地方政府率先立法

美國州和地方政府是推動算法治理的先行者、主力軍，涌現(xiàn)出了多個“第一”。2018年1月，紐約市議會正式通過美國第一部算法問責(zé)法案——《1696法案》，開創(chuàng)了美國算法立法治理的先河。本法旨在對政府使用的各種算法進(jìn)行監(jiān)管，以促進(jìn)自動化決策的公平性、推動政府決策算法開源和建立問責(zé)制，增強(qiáng)公眾對算法的信任。但由于市政府和企業(yè)基于隱私安全、政府網(wǎng)絡(luò)安全和商業(yè)秘密等理由，反對立法公開算法設(shè)計、使用情況，同時立法也未清晰界定執(zhí)法范圍，導(dǎo)致本法存在先天不足，實施效果大打折扣。

盡管如此，《1696法案》仍具有里程碑意義。之后的4年里，為規(guī)范政府機(jī)構(gòu)等對算法決策系統(tǒng)的使用，美國各地的立法者提出了近40項法案[16]。如2018年5月，佛蒙特州通過了全美第一部針對數(shù)據(jù)代理商的法律——《第171號法案》，要求在本州注冊的數(shù)據(jù)代理商告知消費者個人信息收集方式、是否有權(quán)退出及退出機(jī)制等。2018年6月，加州頒布了美國第一部全面的隱私法——美國“史上最嚴(yán)”的《加州消費者隱私法》（CCPA），并于2020年11月在其基礎(chǔ)上通過了新的《加州隱私權(quán)法》（CPRA），對以自動化方式處理個人信息的活動進(jìn)行了更為細(xì)致、全面的規(guī)定。2019年8月，伊利諾伊州頒布了美國第一部規(guī)范以人臉識別方式視頻面試的法案——《人工智能視頻面試法》，適用于所有通過人工智能視頻面試方式申請該州工作職位的應(yīng)聘者。

2.2 聯(lián)邦政府持續(xù)推進(jìn)

美國聯(lián)邦政府也在積極推進(jìn)相關(guān)立法，但與州和地方政府頗有成效的立法進(jìn)展不同，聯(lián)邦政府諸多提案仍處在審議程序中，至今尚未正式頒布專門立法。

2019年4月，參議員伊薇特·克拉克（Yvette Clarke）等提出《2019算法問責(zé)法案》，圍繞個人信息保護(hù)和隱私安全問題，要求大型科技公司評估和消除其“自動決策系統(tǒng)”有關(guān)風(fēng)險，并對監(jiān)管規(guī)則的適用主體、責(zé)任承擔(dān)等進(jìn)行了較為體系化的設(shè)置[17]。2019年10月，參議員約翰·圖恩（John Thune）提出《過濾氣泡透明度法案》，要求大型平臺向用戶提供關(guān)閉個性化推薦的選項，提升算法排序結(jié)果的透明度[18]。2020年6月，參議員謝羅德·布朗（Sherrod Brown）提出《數(shù)據(jù)問責(zé)和透明度法案》，賦予消費者對數(shù)據(jù)收集提出質(zhì)疑、要求人工審查和解釋自動化決策的權(quán)利[19]。2020年10月，眾議員湯姆·馬林諾夫斯基（Tom Malinowski）等提出《保護(hù)美國人免受危險算法侵害法案》，要求擁有1 000萬以上用戶的大型平臺對有損人生命和福祉的算法負(fù)責(zé)[20]。2021年5月，參議員愛德華·馬基（Edward J. Markey）提出《算法正義與互聯(lián)網(wǎng)平臺透明度法案》，設(shè)置在線平臺義務(wù)、提出算法使用的有效性和安全性標(biāo)準(zhǔn)、賦予用戶權(quán)利、成立算法專項監(jiān)管小組等，以提升算法透明度和防止平臺利用算法歧視性地處理個人信息[21]。2021年10月，民主黨議員提出《2021對抗惡意算法的正義法案》，以規(guī)制算法個性化推薦[22]。2022年2月，伊薇特·克拉克等又在《2019算法問責(zé)法案》的基礎(chǔ)上提出《2022算法問責(zé)法案》，聚焦算法自動化決策問題，力圖構(gòu)建一個更為安全和公平的算法使用環(huán)境[23]，這也是美國算法治理專門立法的最新嘗試。

除推動立法之外，聯(lián)邦政府還發(fā)布了多項行政措施。在奧巴馬、特朗普政府時期，政府均通過制定計劃和指導(dǎo)性文件支持開展人工智能治理機(jī)制的研究和實踐[24]。拜登政府同樣重視算法治理，如住房和城市發(fā)展部擬推翻一項既有規(guī)則，允許人們對與住房分配有關(guān)的算法決策不公提起歧視訴訟和索賠[25]。在專門立法之外，美國一些其他既有立法，如《公平信用報告法》《公平住房法》《平等信貸機(jī)會法》等，因遵循“技術(shù)中立”理念而不區(qū)分決策是否由人做出，也發(fā)揮著相應(yīng)的治理功能。

2.3 企業(yè)行業(yè)自治自律

企業(yè)行業(yè)作為算法技術(shù)的直接研發(fā)、應(yīng)用主體，面對算法風(fēng)險，社會要求其積極履行有關(guān)治理責(zé)任。尤其是2018年發(fā)生的“劍橋分析事件”，更是掀起了反思與批評大型在線平臺侵犯用戶隱私、權(quán)力過大、逃避社會責(zé)任的“抨擊科技潮”（Techlash）[26]。在這種趨勢下，企業(yè)行業(yè)開始以各種方式探索與構(gòu)建算法治理機(jī)制。

如Twitter公司成立了由工程師、研究人員和數(shù)據(jù)科學(xué)家組成的專業(yè)治理機(jī)構(gòu)，評估其所使用的算法可能產(chǎn)生的風(fēng)險，并通過舉辦“算法賞金挑戰(zhàn)賽”這種創(chuàng)新方式，邀請有關(guān)開發(fā)人員發(fā)現(xiàn)和幫助解決相關(guān)問題。在行業(yè)方面，亞馬遜、谷歌、Facebook、IBM和微軟共同成立一家以向公眾科普人工智能知識、提供人工智能研究范例和參與討論渠道為目標(biāo)的非營利組織——人工智能合作組織，為算法技術(shù)的合規(guī)應(yīng)用提出了相應(yīng)行業(yè)要求。

2.4 研究院所/機(jī)構(gòu)積極參與

除政府、企業(yè)行業(yè)外，研究院所/機(jī)構(gòu)也從第三方的角度參與算法治理，并主要存在兩種途徑：一是與政府等其他機(jī)構(gòu)合作。如哈佛大學(xué)與舊金山政府共同設(shè)計了一個主要由“評估”和“管理”算法風(fēng)險兩部分組成的倫理和算法工具包，圍繞公共部門如何更加透明和負(fù)責(zé)地使用算法這一問題，闡明算法潛在風(fēng)險，提高對算法影響的認(rèn)識和確定減輕風(fēng)險的方法。二是研究院所/機(jī)構(gòu)單獨提出治理建議。如2017年1月，美國計算機(jī)協(xié)會從責(zé)任制、對算法決策提出質(zhì)疑并獲得救濟(jì)、可解釋性、可審查性等角度發(fā)布了7條關(guān)于算法透明和可責(zé)性的原則，以應(yīng)對算法歧視問題。研究院所/機(jī)構(gòu)的參與，為美國算法治理提供了新視角與智力支持。

整體而言，美國各級政府和企業(yè)行業(yè)都比較重視算法治理，并支持有關(guān)研究機(jī)構(gòu)的參與，構(gòu)建了由諸多主體組成的多元共治模式。但該模式仍在發(fā)展之中。一方面，該模式吸納了多方力量，形成了較為強(qiáng)大的治理合力，為消除算法風(fēng)險、引導(dǎo)算法技術(shù)合規(guī)發(fā)展起到了積極作用；另一方面，該模式仍是不完善的，尤其是聯(lián)邦算法立法仍然缺位。

3 美國算法治理重要策略與制度

3.1 算法治理重要策略

3.1.1 將基于風(fēng)險的具體場景治理作為重點

當(dāng)前，美國各級政府都未致力于出臺“大而全”的算法治理法案，而主要以風(fēng)險作為基本考慮因素，根據(jù)算法具體應(yīng)用場景提出不同治理方案。如2021年11月，紐約市議會與伊利諾伊州、馬里蘭州聯(lián)合批準(zhǔn)了Int.1894-2020A號法案——《自動化就業(yè)決策工具法》，設(shè)置招聘、晉升決策中雇主采用自動化工具時應(yīng)遵循的要求，如防止偏見的審查、該工具使用的事前告知制度等，以保護(hù)就業(yè)公平，但豁免了不會對人產(chǎn)生實質(zhì)影響的自動化工具，如垃圾郵件過濾器、防火墻、電子表格、數(shù)據(jù)集或其他數(shù)據(jù)匯編等[27]。這種以風(fēng)險為導(dǎo)向的立法策略，體現(xiàn)了敏捷使用監(jiān)管方法和支持技術(shù)創(chuàng)新的態(tài)度。

3.1.2 治理對象涵蓋公共和私營部門

隨著算法在公共與私營部門的擴(kuò)展應(yīng)用，其對社會治理和社會生活的影響更加深刻，為此美國同時對公共與私營部門設(shè)置了相關(guān)規(guī)制制度。在公共部門領(lǐng)域，如開創(chuàng)美國算法立法治理先河的《1696法案》，試圖通過監(jiān)管政府使用自動化決策的行為，防范和解決公共部門中的算法歧視問題。紐約州、舊金山市、薩默維爾市等州和城市也發(fā)布了禁止警方和市政部門使用人臉識別軟件的禁令。

在私營部門領(lǐng)域，對個性化推薦服務(wù)等的應(yīng)用提出了要求，尤其是注重對大型平臺的規(guī)制。多部聯(lián)邦政府提案都指出大型平臺應(yīng)履行更多的義務(wù)和承擔(dān)更大的責(zé)任?！端惴ㄕx與互聯(lián)網(wǎng)平臺透明度法案》規(guī)定，在線平臺應(yīng)嚴(yán)格履行算法使用、處理記錄的保留義務(wù)和算法審核義務(wù)，但小型在線平臺無需履行其中的某些具體義務(wù)事項?！镀脚_問責(zé)制和透明度法案》要求大型互聯(lián)網(wǎng)社交媒體平臺必須向適格研究人員共享數(shù)據(jù)，否則將失去根據(jù)《通信規(guī)范法》而享有的豁免權(quán)。對大型平臺的判斷主要是以資金數(shù)額和使用的用戶信息量為標(biāo)準(zhǔn)，根據(jù)《2022算法問責(zé)法案》，最近3個財年的應(yīng)稅期間，平均年總收入超5 000萬美元或擁有超2.5億美元股權(quán)的，以及以擁有、管理、分析等方式使用超100萬名用戶或消費設(shè)備識別信息的，是受本法案強(qiáng)制性約束的對象。美國之所以重視規(guī)制大型平臺，重要原因可能在于其一般擁有較大規(guī)模的用戶群和較強(qiáng)的信息收集、檢索、分析等能力，即便對個人較小的風(fēng)險也可能因涉及眾多用戶而釀成較大風(fēng)險，因此有必要強(qiáng)化對大型平臺的監(jiān)管。

3.1.3 構(gòu)建算法治理邏輯閉環(huán)

為引導(dǎo)算法合規(guī)研發(fā)與應(yīng)用，提升算法透明度和可解釋性，消弭算法風(fēng)險，美國諸多治理規(guī)范設(shè)計了一系列具體措施，包括要求算法控制者、使用者等履行相應(yīng)義務(wù)，賦予受算法影響的個人獲得救濟(jì)權(quán)和設(shè)置監(jiān)管機(jī)構(gòu)的職責(zé)等。但這些措施目的的實現(xiàn)，需要以問責(zé)制為保障。與歐盟通過“個體賦權(quán)”，即賦予數(shù)據(jù)主體算法權(quán)利來影響與控制算法決策不同，美國基于其對算法治理的認(rèn)識和多元價值定位，構(gòu)建了“外部問責(zé)”范式，即建立以政府或第三方為主體的算法問責(zé)制[28]，將由算法歧視等導(dǎo)致的危害后果，直接歸責(zé)于算法研發(fā)者與使用者，而非算法本身，以此滿足算法的可追責(zé)性[29]。通過建立這種范式的問責(zé)制，美國形成了算法治理的邏輯閉環(huán)。

3.2 算法治理重要制度

3.2.1 算法影響評估制度

建立健全算法影響評估制度，是美國算法治理的核心制度之一。該制度實現(xiàn)了對算法風(fēng)險的動態(tài)化、常態(tài)化監(jiān)測，可以發(fā)揮及時防控不同研發(fā)與應(yīng)用階段出現(xiàn)的各種風(fēng)險的作用。以《2022算法問責(zé)法案》為例，本文將美國算法影響評估制度簡要歸納為評估主體、要求、程序、時間和監(jiān)督五大方面。

第一，評估主體。在整個評估制度的運(yùn)行中，存在三大關(guān)鍵參與主體：聯(lián)邦貿(mào)易委員會（FTC）、提供算法技術(shù)支持的公司以及聯(lián)邦貿(mào)易委員會按照《聯(lián)邦貿(mào)易委員會法》對其享有管轄權(quán)的實體（個人、合伙企業(yè)和公司）。算法自動化決策的應(yīng)用實體和為其提供技術(shù)支持的其他公司，都應(yīng)對有關(guān)評估結(jié)果負(fù)責(zé)。

第二，評估要求。法案共提出了13項具體的評估要求，主要包括但不限于以下內(nèi)容：一是評估決策開始前任何已存在的用于關(guān)鍵決策的相關(guān)信息，如已知的危害、故障案例等。二是評估決策過程中的隱私風(fēng)險和隱私增強(qiáng)措施，如數(shù)據(jù)最小化措施、隱私安全技術(shù)等。三是評估任何用于決策的數(shù)據(jù)集和其他信息，如用戶的種族、性別、年齡、社會經(jīng)濟(jì)狀況等。四是評估用戶的權(quán)利，如知情權(quán)、選擇權(quán)、異議權(quán)等。五是評估對用戶可能產(chǎn)生的重大影響及其緩解策略。六是記錄已經(jīng)履行的評估要求、時間和關(guān)鍵節(jié)點，以及未能履行評估要求的原因。七是評估聯(lián)邦貿(mào)易委員會認(rèn)為合適的其他事項。

第三，評估程序。聯(lián)邦貿(mào)易委員會應(yīng)會同其他部門（如標(biāo)準(zhǔn)機(jī)構(gòu)、私營公司、學(xué)術(shù)界、技術(shù)專家等）制定相關(guān)法規(guī)，為評估的開展提供指導(dǎo)。有關(guān)實體應(yīng)按照要求自行評估本實體因開展自動化決策而產(chǎn)生的影響，并形成報告報送聯(lián)邦貿(mào)易委員會。

第四，評估時間。一是評估活動持續(xù)時間。對自動化決策及其對公眾的影響應(yīng)進(jìn)行持續(xù)性評估，包括決策開展之前和決策持續(xù)過程中的評估。二是評估記錄保存時間。開展評估的實體應(yīng)將評估報告予以保存，保存時間比利用相關(guān)自動化決策的過程多3年。

第五，評估監(jiān)督。聯(lián)邦貿(mào)易委員會將發(fā)布年度匿名綜合報告并建立向公眾開放的信息庫，公眾可以審查所涉實體做出自動化決策的類別、基于哪些因素考量（如數(shù)據(jù)源、指標(biāo)等）做出決策，以及享有哪些提出異議（質(zhì)疑、糾正或退出自動化決策系統(tǒng)等）的權(quán)利。

3.2.2 算法披露制度

算法披露制度的重要作用是增強(qiáng)算法透明度，維護(hù)個人的知情權(quán)。理論上對“透明”的理解，存在狹義與廣義之分：狹義上，是指公開算法代碼、數(shù)據(jù)、決策樹等信息；廣義上，是實現(xiàn)算法運(yùn)行全過程的透明，除上述內(nèi)容外，還包括對算法決策機(jī)制的解釋[30]，即除了“靜態(tài)”地公示與所使用算法有關(guān)的信息外，還應(yīng)對算法運(yùn)行決策機(jī)制做出解釋，可謂“動態(tài)”的透明。

美國算法披露制度的設(shè)計和履行分為以下三類情況：第一，僅披露算法的存在。《過濾氣泡透明度法案》規(guī)定，平臺應(yīng)向用戶告知算法的存在，并以清晰、醒目的方式，向用戶提供可以一次性拒絕算法的提示。第二，披露算法技術(shù)信息?！?696法案》規(guī)定，應(yīng)使公眾能夠有意義地評估自動化決策系統(tǒng)的應(yīng)用情況，必要時可酌情公開該系統(tǒng)的有關(guān)技術(shù)信息。第三，解釋算法決策機(jī)制。《2022算法問責(zé)法案》規(guī)定，消費者有權(quán)獲得關(guān)于系統(tǒng)決策的信息，包括有助于做出特定決策的任何相關(guān)因素，如解釋哪些因素會導(dǎo)致系統(tǒng)做出不同決策等。盡管美國在算法披露制度的建構(gòu)上存在披露程度的差異，但毫無疑問的是，該制度已經(jīng)成為強(qiáng)化算法治理的重要理念。

3.2.3 算法問責(zé)制度

雖然美國各部法案在具體問責(zé)制度的設(shè)計上不盡相同，但從整個算法治理體系考察，美國主要構(gòu)建了行政法和民法層面的問責(zé)制。在行政法方面，對于違反法規(guī)的有關(guān)行為，由聯(lián)邦貿(mào)易委員會根據(jù)《聯(lián)邦貿(mào)易委員會法》以構(gòu)成“不公平或欺詐”進(jìn)行處罰。在民法層面，違反規(guī)定的法律主體將受到民事起訴，并處以一定數(shù)額的民事罰款。

4 關(guān)于美國算法治理經(jīng)驗的思考

我國高度重視算法治理工作，并取得了較為豐富的研究成果與實踐經(jīng)驗，如我國《個人信息保護(hù)法》對利用個人信息進(jìn)行自動化決策的活動進(jìn)行了專門規(guī)定，并通過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)范算法推薦服務(wù)行為。當(dāng)前，我國正逐步向構(gòu)建完備的算法治理體系邁進(jìn)。作為一項全球性議題，美國所構(gòu)建的多元共治模式和采用的重要治理策略、制度，可為我國相關(guān)工作的開展提供思考。

第一，保持發(fā)展與安全的相互協(xié)調(diào)。我國《新一代人工智能發(fā)展規(guī)劃》做出了“最大程度發(fā)揮人工智能潛力”和“最大限度防范風(fēng)險”的總體部署。在當(dāng)前人工智能技術(shù)與社會發(fā)展高度融合的趨勢下，算法作為支撐人工智能發(fā)展的關(guān)鍵要素之一，應(yīng)盡可能地發(fā)揮其積極功能，彰顯數(shù)據(jù)的生產(chǎn)要素價值。因此，在算法功能發(fā)揮與風(fēng)險防范之間，應(yīng)恰當(dāng)把握發(fā)展與安全的平衡，既要防止過于嚴(yán)格的制度設(shè)計阻礙技術(shù)創(chuàng)新，也要盡力減小算法風(fēng)險。

第二，健全多元共治算法治理模式。目前，在我國算法治理模式的探索中，政府、企業(yè)行業(yè)、研究院所/機(jī)構(gòu)等都已成為引導(dǎo)算法向上向善的重要主體。我國應(yīng)進(jìn)一步強(qiáng)調(diào)政府的基礎(chǔ)性作用，完善有關(guān)政策規(guī)范，營造良好的制度環(huán)境；發(fā)揮企業(yè)行業(yè)的主體性作用，推動構(gòu)建深層次的自治自律機(jī)制；激發(fā)研究院所/機(jī)構(gòu)的智力支撐作用，支持其結(jié)合實際開展深入研究。

第三，加強(qiáng)重點領(lǐng)域算法治理立法。依據(jù)算法風(fēng)險發(fā)生的可能性和嚴(yán)重性，算法治理的必要性和難度也隨之變化，應(yīng)根據(jù)算法應(yīng)用領(lǐng)域的不同，厘清治理重點領(lǐng)域，加強(qiáng)分類分級治理研究。對于低風(fēng)險的算法應(yīng)用不需監(jiān)管或僅需實施算法備案即可，而對于高風(fēng)險的算法應(yīng)用應(yīng)進(jìn)行重點規(guī)制，如刑事司法領(lǐng)域、自動駕駛領(lǐng)域等。同時，還應(yīng)充分發(fā)揮既有法律規(guī)范、政策的作用，對能夠有效規(guī)制有關(guān)算法風(fēng)險的，不需額外增設(shè)專門的算法規(guī)范，以免增加不必要的負(fù)擔(dān)。

第四，注重規(guī)制大型平臺算法應(yīng)用。事實上，任何類型的平臺應(yīng)用算法時都可能產(chǎn)生某些風(fēng)險，但相比而言，對大型平臺的規(guī)制更為急迫。這是因為，大型平臺通常擁有龐大的用戶群、強(qiáng)大的數(shù)據(jù)持續(xù)收集和分析能力，并可能在單一或多元市場領(lǐng)域獲得支配地位，從而成為“關(guān)鍵信息基礎(chǔ)設(shè)施”。因此，大型平臺不當(dāng)使用算法造成的危害將達(dá)到相當(dāng)?shù)膹V度和深度，對用戶個人利益、社會秩序等都可能造成嚴(yán)重影響。

第五，建立健全相應(yīng)算法治理制度。首先，堅持算法風(fēng)險評估制度的常態(tài)化適用。建立從算法研發(fā)到應(yīng)用的全流程風(fēng)險評估機(jī)制，尤其是重視評估可能損害公共利益和個人權(quán)益的風(fēng)險，根據(jù)評估結(jié)果適時調(diào)整治理措施。其次，恰當(dāng)適用算法披露制度。披露算法的重要目的在于維護(hù)公眾的知情權(quán)，提升算法透明度和可解釋性，受算法決策負(fù)面影響的主體可因此更容易獲得救濟(jì)。但同時也應(yīng)注意協(xié)調(diào)算法披露與算法知識產(chǎn)權(quán)、商業(yè)秘密保護(hù)之間的關(guān)系，防止因不當(dāng)披露而侵犯企業(yè)的利益，從而限制創(chuàng)新發(fā)展。再次，建立多層級的算法問責(zé)制。問責(zé)的對象應(yīng)是與造成算法危害有關(guān)的自然人或法人，但為保護(hù)創(chuàng)新，只有當(dāng)產(chǎn)生嚴(yán)重危害時，才宜適用行政、民事等相對嚴(yán)厲的處罰措施。對于一般的、能夠及時消除的算法風(fēng)險，應(yīng)賦予算法使用者、控制者等自查自糾的機(jī)會，優(yōu)先發(fā)揮市場的調(diào)節(jié)作用予以解決。