以行業(yè)協(xié)會(huì)為中心構(gòu)建算法治理模式

桂 雪

（西北政法大學(xué)經(jīng)濟(jì)法學(xué)院，陜西 西安 710122）

進(jìn)入強(qiáng)人工智能時(shí)代后，算法（Algorithm）作為人工智能的支撐技術(shù)，其主要表現(xiàn)為解決特定問題而通過分析輸入信息最終得出結(jié)論的技術(shù)程序。然而，在對(duì)個(gè)人信息數(shù)據(jù)進(jìn)行價(jià)值提取的過程中，算法模型因其開發(fā)者或使用者所欲達(dá)成的特定目的、個(gè)體利益最大化的自利性考量以及因信息不對(duì)稱產(chǎn)生的優(yōu)勢(shì)地位等，極易產(chǎn)生具有法益侵犯性的負(fù)外部效應(yīng)［1］。也就是說在算法設(shè)計(jì)者的“偏好”下會(huì)存在“算法黑箱”，進(jìn)而隨之帶來信息濫用、差別化對(duì)待、牽制公權(quán)力等問題。在進(jìn)入以自主學(xué)習(xí)為代表的強(qiáng)人工智能時(shí)代后，學(xué)界展開了對(duì)算法的相關(guān)研究，主要研究成果大都集中在算法歧視、算法共謀等具體問題，而對(duì)算法治理模式的研究并不多見。算法作為一門智能技術(shù)，與其他技術(shù)一樣，都將在法律的監(jiān)管下運(yùn)行，但在算法高度隱蔽性、強(qiáng)制性和固有的知識(shí)產(chǎn)權(quán)性的特征下，原先以政府監(jiān)管為中心的事后懲戒式治理模式則表現(xiàn)出了弱監(jiān)管性的現(xiàn)象。在人工智能時(shí)代下，如何將算法這一具有自主學(xué)習(xí)的高智能技術(shù)進(jìn)行有效監(jiān)管，是本文研究的主要問題。

一、算法技術(shù)溯源與算法應(yīng)用風(fēng)險(xiǎn)

（一）算法運(yùn)行的基礎(chǔ)理論

算法（algorithm）源于9世紀(jì)波斯數(shù)學(xué)家花拉子模，本意為阿拉伯?dāng)?shù)字的運(yùn)算法則?，F(xiàn)代意義上的算法，更多被提及為計(jì)算機(jī)算法，“算法是一種有限、確定、有效的并適合用計(jì)算機(jī)程序來實(shí)現(xiàn)的解決問題的方法”［2］，算法的運(yùn)行分為三個(gè)層次：數(shù)據(jù)輸入層—數(shù)據(jù)分析層—結(jié)果輸出層。輸入層將實(shí)際數(shù)據(jù)置入算法模型中，是算法運(yùn)行的信息基礎(chǔ)。數(shù)據(jù)分析層即算法技術(shù)層，是使用算法模型對(duì)輸入數(shù)據(jù)進(jìn)行分析得到結(jié)論，并最終輸出分析結(jié)果。算法技術(shù)就是將輸入值轉(zhuǎn)化為輸出值的關(guān)鍵步驟［3］。

算法產(chǎn)生社會(huì)作用需經(jīng)過兩個(gè)步驟：算法設(shè)計(jì)階段與算法應(yīng)用階段。算法設(shè)計(jì)是算法應(yīng)用的前提，是由算法研發(fā)者基于應(yīng)用目的開發(fā)算法程序的階段。算法應(yīng)用是算法使用者部署應(yīng)用算法技術(shù)，使算法作用于社會(huì)領(lǐng)域的步驟。算法設(shè)計(jì)者與使用者掌握算法運(yùn)行機(jī)理、明確算法目的，依靠算法技術(shù)獲得利益，擁有強(qiáng)大的算法能力，規(guī)制算法本質(zhì)上是規(guī)制算法主體的行為，必然需要將算法主體納入監(jiān)管范圍，對(duì)其濫用算法侵犯社會(huì)公共利益與個(gè)人權(quán)利的行為承擔(dān)相應(yīng)的責(zé)任。

（二）“算法黑箱”引發(fā)社會(huì)風(fēng)險(xiǎn)

算法本身?yè)碛懈叨鹊募夹g(shù)復(fù)雜性和專業(yè)性。算法運(yùn)行的整個(gè)過程涉及龐大的數(shù)據(jù)資料和繁雜的算法方法，并以計(jì)算機(jī)語(yǔ)言——數(shù)字代碼的形式出現(xiàn)，不能被大多數(shù)人理解。在算法技術(shù)應(yīng)用中，由于技術(shù)公司研發(fā)算法而掌握算法技術(shù)，政府公共部門僅掌握輸入數(shù)據(jù)以及輸出結(jié)果，社會(huì)公眾則被完全排除在算法之外。由此，算法的不透明性導(dǎo)致了“算法黑箱”的產(chǎn)生?！八惴ê谙洹本科涓緦儆诩夹g(shù)的“黑箱”［4］，對(duì)于算法設(shè)計(jì)者、使用者而言，其創(chuàng)造、控制算法必然掌握算法機(jī)理，對(duì)于技術(shù)人員之外的普通公眾，因難以跨越技術(shù)知識(shí)的鴻溝、難以探明其運(yùn)行內(nèi)部結(jié)構(gòu)和運(yùn)行程序而被排除在算法程序之外。

“算法黑箱”為算法主體違法行為的實(shí)施提供了不易察覺的封閉空間，在潛移默化的算法應(yīng)用過程中悄無聲息地侵害公共利益，導(dǎo)致社會(huì)風(fēng)險(xiǎn)的發(fā)生。

首先，私益操縱算法損害社會(huì)利益。算法作為人工智能的技術(shù)工具，理應(yīng)是客觀公正的，但由于算法自身的“黑箱”特征以及算法技術(shù)運(yùn)用不當(dāng)，在現(xiàn)實(shí)運(yùn)用中往往難免陷入偏私與歧視。作為算法設(shè)計(jì)者的私人企業(yè)往往以利益驅(qū)動(dòng)為導(dǎo)向，收集算法使用者的數(shù)據(jù)信息，通過設(shè)計(jì)不同算法模型針對(duì)不同情況作出相應(yīng)的場(chǎng)景分析，并基于算法分析結(jié)果獲利。算法主體違法收集個(gè)人數(shù)據(jù)、忽視算法漏洞導(dǎo)致輸出結(jié)果錯(cuò)誤、設(shè)計(jì)歧視性算法程序，最終使算法擁有者通過算法工具造成個(gè)人權(quán)益和社會(huì)公共利益嚴(yán)重受損的惡果。

其次，私權(quán)控制公權(quán)風(fēng)險(xiǎn)。政府部門由于缺乏專業(yè)知識(shí)和技術(shù)人才，在設(shè)計(jì)公用算法程序時(shí)往往無奈選擇與私人企業(yè)合作，將所擁有的公民個(gè)人信息、基礎(chǔ)數(shù)據(jù)的所有權(quán)與控制權(quán)移交給算法公司，并將算法設(shè)計(jì)、運(yùn)行以及結(jié)果分析的權(quán)限全權(quán)交給私人企業(yè)，私人企業(yè)擁有了全面的數(shù)據(jù)信息，掌握核心的算法技術(shù)而政府部門卻逐漸喪失了對(duì)于關(guān)鍵數(shù)據(jù)、算法技術(shù)的控制權(quán)，導(dǎo)致算法與資本甚至是公權(quán)力相連接，造成私人資本控制公權(quán)力的風(fēng)險(xiǎn)。

最后，政府監(jiān)管失靈風(fēng)險(xiǎn)。政府作為監(jiān)管者，具有對(duì)算法設(shè)計(jì)與運(yùn)用進(jìn)行監(jiān)督管理的職責(zé)。然而限于算法程序的復(fù)雜性與極度專業(yè)化特性，公權(quán)力部門往往很難察覺算法運(yùn)行漏洞與算法缺陷的出現(xiàn)，對(duì)于算法的糾正與治理更是無從下手。政府部門無法識(shí)別和判斷病灶所在，難以對(duì)算法問題進(jìn)行及時(shí)、正確的問責(zé)與糾正，埋下政府監(jiān)管失靈的隱患。算法“黑箱”使得算法流程呈現(xiàn)不透明狀態(tài)，公眾的知情權(quán)必然在一定程度上受到損害。公眾對(duì)于政府監(jiān)管失靈以及算法公共應(yīng)用的隱憂也引發(fā)了社會(huì)對(duì)算法風(fēng)險(xiǎn)的合理懷疑，從而造成了公眾對(duì)于政府的信任危機(jī)。

二、規(guī)制難題：監(jiān)管模式現(xiàn)實(shí)困境

如何確保算法的合理性與正當(dāng)性、有效提升政府監(jiān)管能力、化解政府信任危機(jī)，必須回歸監(jiān)管問題?，F(xiàn)行監(jiān)管方式從主體而言具體可劃分為政府監(jiān)管、公司自我監(jiān)管、社會(huì)公眾監(jiān)督、行業(yè)協(xié)會(huì)自律監(jiān)管。算法專業(yè)化特性使得現(xiàn)行監(jiān)管模式無法適應(yīng)算法技術(shù)監(jiān)管。

政府監(jiān)管是為保證算法合法、合理使用而利用公權(quán)力實(shí)現(xiàn)對(duì)算法的強(qiáng)制監(jiān)管，本質(zhì)上是規(guī)制算法設(shè)計(jì)者、算法使用者，現(xiàn)實(shí)中通常以市場(chǎng)微觀主體即私人企業(yè)為被監(jiān)管對(duì)象。但是算法高度專業(yè)化和不透明性使政府監(jiān)管部門缺乏專業(yè)性，難以有效實(shí)施管制。算法現(xiàn)階段還屬于新興技術(shù)，更多地將算法納入商業(yè)秘密或知識(shí)產(chǎn)權(quán)進(jìn)行保護(hù)，私人企業(yè)期望擁有獨(dú)家技術(shù)而保持自身市場(chǎng)話語(yǔ)權(quán)以獲取巨大經(jīng)濟(jì)利益。企業(yè)將技術(shù)牢牢掌握在自己手中，若要求算法對(duì)行政機(jī)關(guān)進(jìn)行公開，必然損害市場(chǎng)主體積極性，阻礙經(jīng)濟(jì)的發(fā)展。

自我監(jiān)管是對(duì)算法主體提出道德要求，期望算法設(shè)計(jì)者、使用者以良好職業(yè)倫理、道德標(biāo)準(zhǔn)要求自己，對(duì)自身違法違規(guī)行為自查自糾，保證算法正當(dāng)。從算法技術(shù)風(fēng)險(xiǎn)產(chǎn)生的源頭即算法主體著手監(jiān)管雖然能直接防范、化解算法風(fēng)險(xiǎn)，然而算法主體的趨利性往往使得對(duì)行為主體提出高度的道德自律要求是不現(xiàn)實(shí)的，僅依靠主體自我監(jiān)管太過理想化。

社會(huì)公眾是輸入層基礎(chǔ)數(shù)據(jù)的所有者，賦予社會(huì)公眾算法監(jiān)督的權(quán)利，提升監(jiān)督范圍、影響力的廣泛性和普遍性。然而社會(huì)公眾因缺乏專業(yè)性被排除在算法“黑箱”之外，對(duì)算法監(jiān)督的途徑、方式阻塞，未打通公眾與算法的連接渠道，也就無法實(shí)現(xiàn)社會(huì)公眾有效監(jiān)督。

政府監(jiān)督、企業(yè)自我監(jiān)督、社會(huì)監(jiān)督的嚴(yán)重弊端，使得行業(yè)自律監(jiān)管的優(yōu)勢(shì)凸顯。行業(yè)協(xié)會(huì)作為管理下級(jí)企業(yè)、溝通上級(jí)行政機(jī)關(guān)的中間層組織，具有一定程度的管理權(quán)，了解專業(yè)知識(shí)，以促進(jìn)行業(yè)發(fā)展為宗旨，能夠有效彌補(bǔ)政府監(jiān)管、自我監(jiān)管及社會(huì)監(jiān)管的不足，實(shí)現(xiàn)算法行業(yè)的有效監(jiān)督管理。構(gòu)建以行業(yè)協(xié)會(huì)自律監(jiān)管為中心結(jié)合配套監(jiān)管措施的算法治理架構(gòu)，彌補(bǔ)“算法黑箱”導(dǎo)致的監(jiān)管空白。

三、制度進(jìn)路：以行業(yè)協(xié)會(huì)監(jiān)管為核心的全面監(jiān)管模式

面對(duì)因“黑箱”化暴露出來的算法風(fēng)險(xiǎn)，我國(guó)目前還未確立相應(yīng)的監(jiān)管機(jī)構(gòu)。德國(guó)建立的由技術(shù)專家和資深媒體人為主的非營(yíng)利性組織，用以監(jiān)測(cè)、評(píng)估公共社會(huì)領(lǐng)域算法運(yùn)用和決策過程，率先借助第三方獨(dú)立組織的力量規(guī)制算法技術(shù)。隨著人工智能的廣泛應(yīng)用，我國(guó)相繼出現(xiàn)了許多互聯(lián)網(wǎng)相關(guān)行業(yè)自律組織，這些行業(yè)協(xié)會(huì)擁有專業(yè)技術(shù)人員和齊全設(shè)備，掌握行業(yè)全面信息，選擇行業(yè)協(xié)會(huì)作為規(guī)制算法風(fēng)險(xiǎn)的核心機(jī)構(gòu)具有良好基礎(chǔ)。

（一）制定算法技術(shù)統(tǒng)一標(biāo)準(zhǔn)

算法本質(zhì)上是計(jì)算機(jī)技術(shù)，是算法設(shè)計(jì)企業(yè)向其他私人公司或政府提供的技術(shù)產(chǎn)品。行業(yè)協(xié)會(huì)擁有專業(yè)技術(shù)知識(shí)和算法信息，由其牽頭主導(dǎo)制定統(tǒng)一的算法技術(shù)標(biāo)準(zhǔn)最為合適。經(jīng)營(yíng)者使用算法技術(shù)的目的不同，其所采取的技術(shù)手段和使用計(jì)算機(jī)代碼設(shè)計(jì)的算法系統(tǒng)必然完全不同且不為非專業(yè)人士所知，統(tǒng)一的算法技術(shù)標(biāo)準(zhǔn)有利于追蹤、監(jiān)管算法設(shè)計(jì)與運(yùn)行，從技術(shù)層面實(shí)現(xiàn)算法對(duì)于行業(yè)監(jiān)管主體的相對(duì)透明性。此外，算法技術(shù)標(biāo)準(zhǔn)要求設(shè)計(jì)者在創(chuàng)造算法時(shí)必須符合技術(shù)標(biāo)準(zhǔn)，在一定程度上限制設(shè)計(jì)者的行為，能夠糾正算法設(shè)計(jì)之初就存在的人為導(dǎo)致的歧視與偏私，保持算法工具的中立性。當(dāng)然，算法不是一成不變的，算法技術(shù)標(biāo)準(zhǔn)也應(yīng)隨之而變，但需始終堅(jiān)持算法技術(shù)標(biāo)準(zhǔn)是以實(shí)現(xiàn)算法公正合理為核心內(nèi)涵。

（二）建立算法備案制度

算法備案制要求研發(fā)者在算法設(shè)計(jì)完成后投入應(yīng)用前向行業(yè)協(xié)會(huì)進(jìn)行算法備案。對(duì)算法信息包含設(shè)計(jì)主體、技術(shù)標(biāo)準(zhǔn)、運(yùn)行模式、應(yīng)用領(lǐng)域、算法漏洞、可能產(chǎn)生的算法風(fēng)險(xiǎn)以及解決方式等信息進(jìn)行全面?zhèn)浒?。行業(yè)協(xié)會(huì)在收到算法備案申請(qǐng)后，應(yīng)當(dāng)核查信息準(zhǔn)確性、真實(shí)性，若發(fā)現(xiàn)違反算法技術(shù)標(biāo)準(zhǔn)、可能導(dǎo)致算法歧視、引發(fā)算法風(fēng)險(xiǎn)的算法應(yīng)當(dāng)不予備案并退回研發(fā)主體進(jìn)行更改和糾正，直至符合備案條件才準(zhǔn)予備案，并同意該算法程序投入應(yīng)用。對(duì)于可能引發(fā)重大風(fēng)險(xiǎn)或設(shè)計(jì)主體拒不彌補(bǔ)算法漏洞的，行業(yè)協(xié)會(huì)有權(quán)決定不予備案。備案是算法進(jìn)入使用階段的必經(jīng)程序，賦予行業(yè)協(xié)會(huì)備案核查權(quán)，能夠利用行業(yè)協(xié)會(huì)的專業(yè)性替代行政機(jī)構(gòu)進(jìn)行技術(shù)核驗(yàn)，防止“不良”算法投入使用后發(fā)生算法風(fēng)險(xiǎn)引起社會(huì)恐慌。但同時(shí)應(yīng)建立算法設(shè)計(jì)者的申訴渠道，允許對(duì)于不予備案決定有異議的研發(fā)者向上級(jí)組織或相應(yīng)行政機(jī)構(gòu)申請(qǐng)救濟(jì)，請(qǐng)求其進(jìn)行核查，防止行業(yè)協(xié)會(huì)過度干預(yù)算法。

（三）建立行業(yè)“黑名單”制度

對(duì)于違反法律法規(guī)與行業(yè)規(guī)章、嚴(yán)重破壞行業(yè)秩序、違背行業(yè)倫理道德、違規(guī)算法備案或逃避算法備案以及有其他可能引發(fā)或造成重大算法風(fēng)險(xiǎn)的企業(yè)，由行業(yè)協(xié)會(huì)列入“黑名單”，并向社會(huì)公示。對(duì)“黑名單”實(shí)行分級(jí)管理，實(shí)行不同的懲罰措施。對(duì)于惡意造成嚴(yán)重社會(huì)風(fēng)險(xiǎn)的算法主體，應(yīng)實(shí)行行業(yè)禁入。政府部門采購(gòu)算法技術(shù)時(shí)也應(yīng)以此作為重要考量因素，其他市場(chǎng)主體也可以依據(jù)“黑名單”選擇交易對(duì)象。在一定程度上限制算法主體的交易機(jī)會(huì)，發(fā)揮警示作用，督促算法主體嚴(yán)格合法合規(guī)開發(fā)算法技術(shù)。

同時(shí)，未來算法領(lǐng)域相關(guān)立法還應(yīng)賦予行業(yè)協(xié)會(huì)一定的處罰權(quán)，對(duì)已經(jīng)引發(fā)重大算法風(fēng)險(xiǎn)、未經(jīng)備案就直接投入應(yīng)用的嚴(yán)重違規(guī)者進(jìn)行處罰，以提高行業(yè)協(xié)會(huì)監(jiān)管效率與效力。

（四）建立公司自我審查制度

算法公司既包括算法研發(fā)公司也包括算法應(yīng)用公司，它們作為算法的開發(fā)主體和實(shí)際運(yùn)用主體對(duì)于算法治理應(yīng)承擔(dān)相應(yīng)責(zé)任。首先，算法主體應(yīng)向政府和行業(yè)協(xié)會(huì)提供真實(shí)且充足的算法信息，例如公開源代碼，為監(jiān)管提供基礎(chǔ)的設(shè)計(jì)信息和數(shù)據(jù)資料，積極配合監(jiān)管。其次，公司應(yīng)注重技術(shù)人員職業(yè)道德、社會(huì)道德的培養(yǎng)，在算法設(shè)計(jì)過程中嵌入算法倫理［5］，防止算法偏私，保持算法設(shè)計(jì)階段的中立性、正當(dāng)性，實(shí)現(xiàn)算法源頭治理。同時(shí)算法主體還應(yīng)主動(dòng)、定期對(duì)所擁有的算法進(jìn)行全流程的自我檢查，完善算法漏洞，對(duì)于算法應(yīng)用向有關(guān)部門提交風(fēng)險(xiǎn)應(yīng)急預(yù)案，防止可能引發(fā)的算法風(fēng)險(xiǎn)。