算法歧視的法律規(guī)制

周先偉

（東華理工大學(xué)，江西南昌，330000）

一、算法歧視現(xiàn)狀

（一）事例導(dǎo)入

1.2016年，劉某在某機(jī)場(chǎng)通過(guò)網(wǎng)約車平臺(tái)預(yù)約“普通型車輛”，實(shí)際來(lái)的卻是七座商務(wù)車。盡管網(wǎng)約車平臺(tái)特殊時(shí)期實(shí)行“調(diào)換車型，費(fèi)用不變”舉措，但實(shí)際卻按商務(wù)車型收費(fèi)。

2.廖某因出差需要經(jīng)常預(yù)訂國(guó)內(nèi)某知名酒店。廖某用自己和朋友的賬戶在相同條件下查詢的房?jī)r(jià)居然相差50元。酒店平臺(tái)回復(fù)稱可能是手機(jī)后臺(tái)緩存的問(wèn)題。

3.2014年，亞馬遜公司上線了一款名為“算法篩選系統(tǒng)”的程序，設(shè)計(jì)人員發(fā)現(xiàn)該算法程序識(shí)別出“女性”或“女生”相關(guān)詞匯的時(shí)候，會(huì)給該份簡(jiǎn)歷相對(duì)較低的分?jǐn)?shù)。

（二）問(wèn)題歸納

上述事例共同點(diǎn)體現(xiàn)為當(dāng)事人受到算法不平等的對(duì)待。事例1中，網(wǎng)約車針對(duì)同一客戶給出不同價(jià)格，盡管網(wǎng)約車平臺(tái)給出“服務(wù)升級(jí)，費(fèi)用不變”的解釋，但實(shí)際仍按升級(jí)后的車型計(jì)費(fèi)；事例2中，不同用戶查詢的客房?jī)r(jià)格不同，按常理，回頭客都會(huì)有相應(yīng)的優(yōu)惠待遇，然而廖某不僅沒(méi)有享受到優(yōu)惠反而因?yàn)椤疤厥馍矸荨笔盏搅烁邇r(jià)格待遇[1]；事例3中，“算法篩選系統(tǒng)”在無(wú)形之中對(duì)女性產(chǎn)生歧視。分析可知，造成該結(jié)果的原因在于程序設(shè)計(jì)員輸入的原始數(shù)據(jù)存在片面性，缺少足夠數(shù)量的女性求職者簡(jiǎn)歷。

三事例顯然違背了企業(yè)經(jīng)營(yíng)應(yīng)遵循的公平誠(chéng)信原則，同時(shí)也違背了正當(dāng)程序要求。舉例言之，當(dāng)下線上購(gòu)物狂潮火熱，愈來(lái)愈多人選擇線上購(gòu)物，消費(fèi)者在特定網(wǎng)站平臺(tái)購(gòu)物，網(wǎng)站顯示的商品價(jià)格比同一平臺(tái)其他用戶查詢的價(jià)格高，此種行為即違背正當(dāng)程序的要求；專門用來(lái)預(yù)測(cè)罪犯在未來(lái)再次犯罪的概率和對(duì)社會(huì)危險(xiǎn)性程度的COMPAS算法人工智能程序，對(duì)不同膚色測(cè)試者給出的結(jié)論各異，由此，可以認(rèn)為無(wú)論此預(yù)測(cè)結(jié)果是否對(duì)測(cè)試者有利，皆表明該算法程序違反正當(dāng)程序之要求[2]。

二、算法歧視表現(xiàn)及影響

結(jié)合國(guó)內(nèi)相關(guān)學(xué)者研究，算法歧視本質(zhì)是大數(shù)據(jù)悖論，是互聯(lián)網(wǎng)時(shí)代算法程序?qū)?shù)據(jù)收集、分析、整合、輸出過(guò)程中產(chǎn)生的同現(xiàn)實(shí)世界表現(xiàn)一致的歧視，形式為性別歧視、年齡歧視、種族歧視、政治歧視、弱勢(shì)群體歧視、價(jià)格歧視[3]等。價(jià)格歧視是經(jīng)濟(jì)學(xué)中的術(shù)語(yǔ)，指商品或服務(wù)的提供者在向不同的消費(fèi)者提供相同級(jí)別、相同性能和質(zhì)量的產(chǎn)品或服務(wù)時(shí)，所對(duì)應(yīng)的價(jià)格或者制定的收費(fèi)標(biāo)準(zhǔn)存在差異。

（一）大數(shù)據(jù)殺熟

算法歧視已滲入到社會(huì)生活方方面面，購(gòu)物、租房、出行等領(lǐng)域都有其身影。主要表現(xiàn)為隱性歧視和顯性歧視，顯性歧視極易被察覺(jué)。例如，公司招聘員工時(shí)設(shè)置身高、性別、年齡等敏感選項(xiàng)，由于勞動(dòng)法等法律明確禁止歧視，故此類歧視較少存在。狹義上的算法歧視指隱性歧視，現(xiàn)階段大有不斷擴(kuò)張之勢(shì)。于現(xiàn)實(shí)世界，基于不同生活經(jīng)歷、認(rèn)知能力、教育背景，對(duì)同一事物形成的印象存在差異，僅依據(jù)上述特征形成的看法存有片面性。此類似“刻板印象理論”，即人們對(duì)某個(gè)事物或物體形成一種概括固定的看法，并把這種看法推而廣之，認(rèn)為該事物或者整體都具有該特征，從而忽視個(gè)體差異。換言之，任何人在任何地點(diǎn)針對(duì)同一事物都有可能產(chǎn)生片面性的看法，這點(diǎn)是不可避免的[4]。隱性歧視通常體現(xiàn)為大數(shù)據(jù)殺熟。即商家運(yùn)用算法程序，對(duì)平臺(tái)內(nèi)消費(fèi)者瀏覽、購(gòu)物記錄進(jìn)行匯總分析，產(chǎn)生囊括消費(fèi)者個(gè)人偏好、購(gòu)物習(xí)慣、消費(fèi)水平的畫像，再經(jīng)由差異化定價(jià)測(cè)試，最終得到消費(fèi)者最大支付意愿信息，進(jìn)而針對(duì)不同人設(shè)計(jì)不同價(jià)[5]。

1.亞馬遜差異化定價(jià)

2000年，一位亞馬遜用戶反映，自己在亞馬遜購(gòu)物平臺(tái)瀏覽一款產(chǎn)品之后，將其刪除，再次瀏覽該產(chǎn)品卻發(fā)現(xiàn)曾經(jīng)瀏覽過(guò)的DVD商品銷售價(jià)格由原來(lái)的26.24美元下降為現(xiàn)在的22.74美元。對(duì)此不少用戶反映自己也曾遭遇過(guò)亞馬遜平臺(tái)這種區(qū)別定價(jià)行為。一經(jīng)報(bào)道，一時(shí)間亞馬遜平臺(tái)成為眾矢之的，此事發(fā)生后不久，亞馬遜CEO貝索斯針對(duì)此事公開道歉，稱這只是平臺(tái)進(jìn)行的一項(xiàng)差別定價(jià)實(shí)驗(yàn)，并非專門針對(duì)某一用戶，也絕不存在竊取用戶數(shù)據(jù)信息行為，這僅僅是測(cè)試[6]。亞馬遜的這一行為無(wú)疑是利用搜集來(lái)的用戶數(shù)據(jù)，使價(jià)格歧視成為了可能。

2.線上企業(yè)店大欺客

2018年，中國(guó)青年報(bào)社社會(huì)調(diào)查中心聯(lián)合問(wèn)卷網(wǎng)對(duì)2008名受訪者進(jìn)行的一項(xiàng)調(diào)查顯示，有51.3%的受訪者明確表示自己遇到過(guò)互聯(lián)網(wǎng)企業(yè)利用“大數(shù)據(jù)殺熟”的情況，59.2%的受訪者指出信息不對(duì)稱在大數(shù)據(jù)時(shí)代愈演愈烈，處于弱勢(shì)一環(huán)的消費(fèi)者最易受到不平等對(duì)待，59.1%的受訪者希望價(jià)格主管部門盡快出臺(tái)相關(guān)規(guī)定以此規(guī)范互聯(lián)網(wǎng)企業(yè)歧視性定價(jià)行為[7]。

線下購(gòu)物環(huán)節(jié)明碼標(biāo)價(jià)，故難成差異化定價(jià)之格局，然互聯(lián)時(shí)代到來(lái)，使商家差異化定價(jià)變?yōu)榭赡堋?018年，人民日?qǐng)?bào)發(fā)表評(píng)論稱“殺熟”是“店大欺客”的表現(xiàn)，不利平臺(tái)發(fā)展也損害消費(fèi)者利益。古人做生意講以誠(chéng)相待，誠(chéng)信經(jīng)營(yíng)，對(duì)新用戶和老客戶提供的價(jià)格應(yīng)相同，即使存在差異也應(yīng)明示，且皆應(yīng)盡可能提供優(yōu)質(zhì)服務(wù)。買賣雙方往往經(jīng)多次交易才建立互相了解、彼此信賴關(guān)系，本應(yīng)更加悉心維護(hù)[8]。但大數(shù)據(jù)“殺熟”的到來(lái)，顛覆了普通人的常識(shí)，此模式下越熟悉的客戶越要付出更高的代價(jià)。商家借助算法實(shí)施差異化定價(jià)顯然是利用顧客的信任度來(lái)追求短期的超額利潤(rùn)。

（二）算法歧視影響

人民日?qǐng)?bào)稱算法歧視本質(zhì)為隱藏型差別化定價(jià)，即“大數(shù)據(jù)殺熟”歸根結(jié)底是一種“店大欺客”行為。企業(yè)商家通常經(jīng)濟(jì)實(shí)力雄厚，具有一定業(yè)內(nèi)影響力，依仗自身在行業(yè)中所占主導(dǎo)地位，自認(rèn)為擁有客戶的信任度，實(shí)施隱藏的差別化定價(jià)，如此導(dǎo)致客戶獲得有瑕疵的服務(wù)。與線下差別化定價(jià)行為比較，線上“殺熟”行為更具隱秘性、維權(quán)之路更艱難。隨著互聯(lián)網(wǎng)發(fā)展，引發(fā)線上消費(fèi)井噴之勢(shì)，隱藏型差別化定價(jià)套路給消費(fèi)者帶來(lái)的消極影響逐漸加深。有學(xué)者言，差別化定價(jià)，實(shí)為老客替新客的差價(jià)買單。長(zhǎng)此以往，差別化定價(jià)不僅損害老顧客，更斷送了企業(yè)長(zhǎng)久發(fā)展之資源。這種殺敵八百，自損一千行為實(shí)則愚昧至極。

1.損害公平交易權(quán)和隱私權(quán)

算法歧視對(duì)消費(fèi)者的公平交易權(quán)和隱私權(quán)造成不利影響。差異化定價(jià)導(dǎo)致消費(fèi)者在購(gòu)買商品時(shí)不能得到與他人相同價(jià)格的待遇，是對(duì)消費(fèi)者公平交易權(quán)的損害；算法平臺(tái)將收集到的用戶數(shù)據(jù)在不同平臺(tái)間互換，借此給用戶推送特定廣告，損害用戶隱私權(quán)。與誠(chéng)實(shí)、守信、公平等原則背離的算法歧視通過(guò)自身發(fā)展進(jìn)化，逐漸發(fā)展為一種與現(xiàn)代社會(huì)相隔離的“黑箱社會(huì)”。凱茜·奧尼爾在《數(shù)學(xué)毀滅武器：大數(shù)據(jù)增加不平等和威脅民主》中強(qiáng)調(diào)，我們逐漸依賴的算法已被證明具有不透明、可擴(kuò)展且不公平的特性，如不加規(guī)制，可能會(huì)給我們?cè)斐筛蟮臍?，算法歧視?huì)加深民眾對(duì)黑人的歧視、強(qiáng)化種族歧視和加劇人與人之間的不平等。公共領(lǐng)域算法判斷某人是否具有危險(xiǎn)性,可能恰巧與恐怖分子同名,便被算法系統(tǒng)標(biāo)記為疑似恐怖分子而受到警方詢問(wèn)查驗(yàn),此事例在美國(guó)已經(jīng)發(fā)生多起[9]。

2.損害經(jīng)營(yíng)者合法利益

Page Rank算法是運(yùn)行在Google的網(wǎng)頁(yè)排序算法。Page Rank將每個(gè)目標(biāo)網(wǎng)頁(yè)進(jìn)行附權(quán)值，網(wǎng)頁(yè)越靠前表明該網(wǎng)頁(yè)權(quán)重越大，網(wǎng)頁(yè)越靠后則權(quán)重越小。另言之：誰(shuí)被引用的次數(shù)多，誰(shuí)就越重要。Google Shopping服務(wù)業(yè)務(wù)進(jìn)入歐洲市場(chǎng)初期，Google公司為增強(qiáng)該業(yè)務(wù)競(jìng)爭(zhēng)力，將Google Shopping所含商品排除在Page Rank算法等網(wǎng)頁(yè)排序算法審查范圍之外，并將上述商品信息置頂于搜索頁(yè)面。歐盟競(jìng)爭(zhēng)和反壟斷事務(wù)調(diào)查人員經(jīng)過(guò)調(diào)查表明，Google濫用了它在搜索引擎方面的市場(chǎng)主導(dǎo)優(yōu)勢(shì)——在歐洲，Google的市場(chǎng)占有率超過(guò)90%。自從Google Shopping在搜索結(jié)果中的顯示位置被突出之后，其他比價(jià)服務(wù)網(wǎng)站（例如英國(guó)的Foundem）流量應(yīng)聲下降。Google公司這種以算法為工具，限制其他經(jīng)營(yíng)者的正常經(jīng)營(yíng)行為，是不正當(dāng)?shù)腫10]。經(jīng)營(yíng)者運(yùn)用算法技術(shù)限制其他經(jīng)營(yíng)者正常經(jīng)營(yíng)的行為，損害了正常經(jīng)營(yíng)者的合法利益，破壞了市場(chǎng)秩序。

三、域外規(guī)制現(xiàn)狀

（一）美國(guó)：司法審查算法與賦予算法“可解釋性”

1973年，聯(lián)邦最高法院審理了一件算法歧視案。原告訴稱麥克唐納道格拉斯公司在雇傭算法中刻意設(shè)置種族、膚色、宗教、性別或國(guó)籍等因素限制應(yīng)聘者就業(yè)權(quán)。法院經(jīng)過(guò)審理查明，麥克唐納道格拉斯公司雇傭算法程序確實(shí)存在限制應(yīng)聘者平等就業(yè)權(quán)行為，故判決公司行為構(gòu)成歧視[11]。2010年“岡薩雷斯訴谷歌”案中，法院通過(guò)對(duì)“95年《指令》的適用范圍、95年《指令》的適用地域、搜索引擎的經(jīng)營(yíng)管理者在95年《指令》下的責(zé)任范圍、95年《指令》確認(rèn)的數(shù)據(jù)主體的權(quán)利范圍”綜合審查后認(rèn)為谷歌公司以獲取利潤(rùn)為目的，借助早已過(guò)時(shí)數(shù)據(jù)來(lái)提高自身搜索引擎能力的行為侵害了原告隱私權(quán)，給原告造成了歧視性影響，其行為違法。故此判決谷歌公司刪除搜索結(jié)果列表中的鏈接[12]。賦予算法“可解釋性”，加州伯克利大學(xué)研究人員針對(duì)算法歧視性問(wèn)題提出，在設(shè)計(jì)A算法程序時(shí)加入B算法作為對(duì)前者的監(jiān)測(cè)記錄算法。

（二）德國(guó)：數(shù)據(jù)采集行為雙重規(guī)制

1977年德國(guó)聯(lián)邦立法機(jī)關(guān)頒布《德國(guó)聯(lián)邦數(shù)據(jù)保護(hù)法》（BDSG），該法規(guī)定，對(duì)公共領(lǐng)域和私人機(jī)構(gòu)數(shù)據(jù)采集行為進(jìn)行統(tǒng)一規(guī)制，公共領(lǐng)域和私人機(jī)構(gòu)按要求必須對(duì)個(gè)人數(shù)據(jù)盡到謹(jǐn)慎保護(hù)義務(wù)，法定機(jī)構(gòu)和人員負(fù)責(zé)對(duì)保護(hù)工作跟蹤監(jiān)督，以減少數(shù)據(jù)濫用行為，實(shí)現(xiàn)個(gè)人數(shù)據(jù)保護(hù)工作全面覆蓋為目的。

（三）歐盟：禁存“算法偏見(jiàn)”

《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡(jiǎn)稱GDPR）在前言中對(duì)profiling系統(tǒng)中的算法偏見(jiàn)進(jìn)行定義，并在其后規(guī)定一系列用于減少甚至消除算法偏見(jiàn)的方法。為保證在處理數(shù)據(jù)過(guò)程中始終保持公平和透明，特定情況下數(shù)據(jù)掌握者應(yīng)盡量避免人為因素干預(yù)，應(yīng)借助計(jì)算或統(tǒng)計(jì)程序，采用組織化與技術(shù)化相結(jié)合的方法，一定程度上將個(gè)人數(shù)據(jù)中的不確定性和風(fēng)險(xiǎn)影響性減少到最低水平；數(shù)據(jù)主體的利益和權(quán)利是否遭受潛在風(fēng)險(xiǎn)、數(shù)據(jù)主體的個(gè)人基因或健康等敏感數(shù)據(jù)同樣需要嚴(yán)格保護(hù)。此外，GDPR為數(shù)據(jù)擁有者設(shè)置一項(xiàng)義務(wù)：對(duì)數(shù)據(jù)保護(hù)風(fēng)險(xiǎn)進(jìn)行識(shí)別和最大程度減少，即“數(shù)據(jù)保護(hù)影響評(píng)估”（Data Protection Impact Assessments，DPIA）。

四、法律規(guī)制建議

為更好地貫徹落實(shí)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》規(guī)定的個(gè)人信息收集、使用的“合法、正當(dāng)、必要”基本原則，2020年10月1日實(shí)施的《信息安全技術(shù)個(gè)人信息安全規(guī)范》，對(duì)APP安全認(rèn)證問(wèn)題作出規(guī)定。該規(guī)范旨在解決公眾反映強(qiáng)烈的APP“任意索權(quán)、關(guān)聯(lián)授權(quán)、任意收集信息”等問(wèn)題。同時(shí)，對(duì)現(xiàn)階段各類APP在運(yùn)行期間存在的不合理現(xiàn)象，例如，未對(duì)用戶盡合理告知義務(wù)、APP賬戶注銷困難、任意索要用戶照片、個(gè)性化信息推送難關(guān)閉、第三方未經(jīng)授權(quán)隨意接入等問(wèn)題，制定了一系列規(guī)制舉措，指導(dǎo)APP設(shè)計(jì)、運(yùn)行標(biāo)準(zhǔn)，進(jìn)一步完善個(gè)人信息保護(hù)體系。

（一）拓寬《反壟斷法》主體范圍

部分學(xué)者認(rèn)為，國(guó)內(nèi)算法歧視行為的立法技術(shù)尚未成熟，為避免立法失誤，現(xiàn)階段不適合貿(mào)然立法。一項(xiàng)法律從孕育至誕生，離不開與現(xiàn)實(shí)社會(huì)的結(jié)合，算法歧視雖產(chǎn)生消極影響，然現(xiàn)階段遵循底線思維，結(jié)合當(dāng)前社會(huì)實(shí)際，修正完善現(xiàn)有法律，使其對(duì)算法歧視更具針對(duì)性，對(duì)其實(shí)行可“保守規(guī)制”更符合實(shí)際。通過(guò)對(duì)大量實(shí)例分析可知，算法歧視實(shí)施主體有時(shí)并不具有市場(chǎng)支配地位。根據(jù)《反壟斷法》第六條之規(guī)定，構(gòu)成不正當(dāng)競(jìng)爭(zhēng)之主體必須具備以下特征：具有市場(chǎng)支配地位。依據(jù)該條規(guī)定，不具市場(chǎng)支配地位的經(jīng)營(yíng)者主體所實(shí)施的行為不構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。然而，算法歧視本質(zhì)上即為經(jīng)營(yíng)者依托算法程序建立優(yōu)勢(shì)地位，濫用算法技術(shù)和消費(fèi)者數(shù)據(jù)，實(shí)施侵害消費(fèi)者合法利益、損害其他經(jīng)營(yíng)者利益及擾亂正常社會(huì)秩序的行為。借助該種不正當(dāng)競(jìng)爭(zhēng)行為，經(jīng)營(yíng)者獲取了超額利潤(rùn)。因此，應(yīng)當(dāng)適當(dāng)拓寬《反壟斷法》中“支配市場(chǎng)地位的經(jīng)營(yíng)者”范圍，認(rèn)定“經(jīng)營(yíng)者濫用算法技術(shù)實(shí)施差異化定價(jià)，導(dǎo)致消費(fèi)者和其他經(jīng)營(yíng)者合法權(quán)益受損失的行為”同樣構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。

（二）對(duì)算法源數(shù)據(jù)實(shí)行安全監(jiān)管

首先，對(duì)算法源數(shù)據(jù)作恰當(dāng)分類。將算法源數(shù)據(jù)分隱私數(shù)據(jù)和普通數(shù)據(jù)。細(xì)言之，針對(duì)隱私數(shù)據(jù)（姓名、住址、聯(lián)系方式等）應(yīng)盡特別謹(jǐn)慎之義務(wù)限制使用：禁止商家將消費(fèi)者隱私數(shù)據(jù)儲(chǔ)存流轉(zhuǎn)；就普通數(shù)據(jù)則只需盡一般注意義務(wù)即可。如此規(guī)定可在一定程度減少平臺(tái)“大數(shù)據(jù)殺熟”行為，又可以最大程度提高源數(shù)據(jù)的利用率。其次，應(yīng)完善源數(shù)據(jù)分析技術(shù)，該技術(shù)應(yīng)由政府掌握并行使，針對(duì)平臺(tái)“大數(shù)據(jù)殺熟”，源數(shù)據(jù)分析技術(shù)對(duì)消費(fèi)者的消費(fèi)行為作出整合后，及時(shí)將可能產(chǎn)生殺熟之預(yù)測(cè)反饋給消費(fèi)者，目的是最大程度避免消費(fèi)者受到算法歧視的損害[13]。

（三）建立平臺(tái)算法審核機(jī)制

由政府人員、算法技術(shù)員、高校老師和普通人員組建“算法審查委員會(huì)”，定期或不定期對(duì)平臺(tái)算法運(yùn)行情況進(jìn)行審查監(jiān)督，減少企業(yè)利用算法實(shí)施算法歧視行為。“算法審查委員會(huì)”人員配比最大程度保證其公平合理性：政府人員的參與可保證其權(quán)威性，算法技術(shù)人員的參與可解決技術(shù)問(wèn)題，高校老師的參與有利于向?qū)W生普及算法相關(guān)知識(shí)，普通人員的參與可在一定程度落實(shí)公民參與權(quán)?！八惴▽彶槲瘑T會(huì)”要求企業(yè)定期對(duì)平臺(tái)算法開展復(fù)查，并將復(fù)查報(bào)告對(duì)外界公布（涉及機(jī)密的算法應(yīng)做技術(shù)處理），以復(fù)查報(bào)告作為企業(yè)是否存在算法歧視的重要審核依據(jù)之一，針對(duì)復(fù)查結(jié)果中可能存在不當(dāng)使用算法的企業(yè)，“算法審查委員會(huì)”有權(quán)將其公示在國(guó)家企業(yè)信用信息系統(tǒng)；對(duì)于確定存在運(yùn)用算法擾亂市場(chǎng)秩序的企業(yè)，市場(chǎng)監(jiān)管部門可依據(jù)《反壟斷法》《消費(fèi)者權(quán)益保護(hù)法》或其他既有法律法規(guī)作出處罰[14]。

（四）算法解釋權(quán)

賦予數(shù)據(jù)主體算法解釋權(quán)。即數(shù)據(jù)主體認(rèn)為平臺(tái)算法輸出之結(jié)論偏離自己預(yù)期且該結(jié)論與自己合法權(quán)益關(guān)系密切時(shí)，有權(quán)要求平臺(tái)對(duì)該算法工作原理（相關(guān)數(shù)據(jù)分析處理過(guò)程）解釋。杜宴林教授認(rèn)為，設(shè)置算法解釋權(quán)一方面賦予數(shù)據(jù)主體在算法程序得出的結(jié)論與自我預(yù)期差異過(guò)大時(shí)有知悉真相之權(quán)利；另一方面，當(dāng)平臺(tái)算法存在設(shè)計(jì)不合理、源數(shù)據(jù)表現(xiàn)偏差，數(shù)據(jù)主體有要求救濟(jì)的依據(jù)。于此需要說(shuō)明的是，算法解釋權(quán)并非意味將平臺(tái)算法所有運(yùn)算代碼公開，這既違反《反不正當(dāng)競(jìng)爭(zhēng)法》等相關(guān)法律規(guī)定同樣也違背公平性，多數(shù)算法運(yùn)算代碼涉及商業(yè)機(jī)密，數(shù)據(jù)主體完全知悉算法的運(yùn)算原理及過(guò)程缺乏現(xiàn)實(shí)操作可能性。另言之，算法解釋權(quán)最終目的乃通過(guò)有針對(duì)性的開放以可被理解的方式提升平臺(tái)算法的透明度，在保證合法公正前提下不干擾企業(yè)正常運(yùn)行[15]。賦予數(shù)據(jù)主體算法解釋權(quán)能夠明確平臺(tái)管理者算法解釋義務(wù)，增強(qiáng)算法透明性，維護(hù)數(shù)據(jù)主體知情權(quán)，增強(qiáng)算法可責(zé)性。

五、結(jié)語(yǔ)

算法歧視涉及到個(gè)性化定價(jià)，殺熟是通俗表述，針對(duì)算法歧視問(wèn)題需要根據(jù)我國(guó)現(xiàn)階段國(guó)情來(lái)解決?！按髷?shù)據(jù)殺熟”本身是一個(gè)中性詞，并沒(méi)有好壞之分。運(yùn)用大數(shù)據(jù)殺熟實(shí)施不正當(dāng)競(jìng)爭(zhēng)和損害消費(fèi)者利益的行為，有規(guī)制之必要性和急迫性。算法歧視是否形成競(jìng)爭(zhēng)損害可從消費(fèi)者福利和社會(huì)總福利兩方面分析。消費(fèi)者福利標(biāo)準(zhǔn)以保護(hù)消費(fèi)者利益為原則，認(rèn)為差異化定價(jià)行為比統(tǒng)一定價(jià)更加損害消費(fèi)者利益,即消費(fèi)者無(wú)任何義務(wù)為高低價(jià)“買單”；整體福利標(biāo)準(zhǔn)以提高社會(huì)總體福利為原則，允許經(jīng)營(yíng)者運(yùn)用差異化定價(jià)方式最大程度吸引消費(fèi)者,借此補(bǔ)償經(jīng)營(yíng)者因低價(jià)銷售環(huán)節(jié)之損失。故此應(yīng)以消費(fèi)者福利標(biāo)準(zhǔn)作為違法審查標(biāo)準(zhǔn)基礎(chǔ)，防止算法歧視行為野蠻生長(zhǎng)?！斗磯艛喾ā贰断M(fèi)者權(quán)益保護(hù)法》《民法典》等不同部門法應(yīng)相互協(xié)調(diào)，尤其要發(fā)揮《反壟斷法》在殺熟行為中的特別作用。針對(duì)消費(fèi)者群體，市場(chǎng)監(jiān)管機(jī)構(gòu)要及時(shí)通過(guò)監(jiān)管規(guī)則向市場(chǎng)釋放信號(hào)，通過(guò)進(jìn)一步提升算法透明度來(lái)解決算法歧視引起的問(wèn)題。算法歧視規(guī)制體系的完善不僅有助于人工智能的良性發(fā)展，人工智能輔助下的科技發(fā)展對(duì)我國(guó)建設(shè)現(xiàn)代化的科技強(qiáng)國(guó)也大有裨益。