• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      算法偏見的法律矯正研究

      2020-12-24 07:25:20趙學(xué)剛馬羽男
      關(guān)鍵詞:個(gè)人信息算法

      趙學(xué)剛 馬羽男

      (西南大學(xué)法學(xué)院,重慶400715)

      當(dāng)今信息化社會(huì)中,實(shí)現(xiàn)了全球海量數(shù)據(jù)的集中與分享,這種環(huán)境下推動(dòng)了云計(jì)算、大數(shù)據(jù)、人工智能等現(xiàn)代信息技術(shù)的迅速發(fā)展。尤其是算法①算法是在有限的步驟內(nèi),將輸入值(Inputs)轉(zhuǎn)化為輸出值(Out-puts),其意義在于減少計(jì)算機(jī)完成任務(wù)的效率。為了提高效率,解決同一種類問(wèn)題,可將其處理問(wèn)題的過(guò)程模式化,就形成了算法。技術(shù),其依托著數(shù)據(jù)信息的幾何倍數(shù)增長(zhǎng)以及機(jī)器學(xué)習(xí)技能的提升,對(duì)社會(huì)整個(gè)領(lǐng)域產(chǎn)生深遠(yuǎn)的影響〔1〕。然而,以統(tǒng)計(jì)學(xué)為支撐的算法,考察的是事物之間的相關(guān)性和蓋然性,而非必然的因果關(guān)系,其決策結(jié)果可能是根據(jù)偶然性因素做出的,并不能保證正確,所以先進(jìn)的算法技術(shù)給社會(huì)各方面帶來(lái)極大便利的同時(shí),也潛藏著諸多新的社會(huì)問(wèn)題。著眼于全世界而言,算法偏見或算法歧視、算法操控等社會(huì)問(wèn)題已頻繁暴露出來(lái),如通過(guò)COMPAS 罪犯再犯概率預(yù)測(cè)系統(tǒng)評(píng)估的結(jié)論顯示,黑人再犯罪率明顯高于白人,前者是后者的兩倍;美國(guó)每周有超過(guò)1000 人被機(jī)場(chǎng)使用的算法錯(cuò)誤地標(biāo)記為恐怖分子。相對(duì)于無(wú)端的歧視與腐敗而言,這種披著科學(xué)外衣顯示出的結(jié)果通常很難引起民眾的廣泛質(zhì)疑,相反,融合了自動(dòng)算法與人工智能形成的決策機(jī)制得到民眾的信服,但同時(shí)也使得人們更容易受到歧視并且限制了民眾的自我選擇〔2〕。目前學(xué)界多關(guān)注事后救濟(jì)措施,并未著眼于算法偏見的源頭,因此其制定的策略可行性嚴(yán)重不足。如何對(duì)算法偏見進(jìn)行有效規(guī)制是當(dāng)今信息化社會(huì)中的焦點(diǎn)問(wèn)題。

      一、算法偏見的常見類型歸納

      現(xiàn)代社會(huì)中,算法自動(dòng)決策系統(tǒng)在各個(gè)領(lǐng)域的應(yīng)用極為普遍,算法偏見問(wèn)題也比較頻繁。由于本文篇幅有限,在此只對(duì)算法技術(shù)呈現(xiàn)出來(lái)的價(jià)格、就業(yè)、信用三方面偏見的弊端進(jìn)行具體考察分析,發(fā)現(xiàn)其中的基本特性,總結(jié)出算法偏見治理過(guò)程中的癥結(jié),為后續(xù)應(yīng)對(duì)策略的制定提供參考。

      (一)算法的價(jià)格偏見

      價(jià)格偏見是指在交易條件、交易商品質(zhì)量、等級(jí)相同的情況下,供應(yīng)商針對(duì)不同的交易對(duì)象提供差異化的價(jià)格。企業(yè)實(shí)施價(jià)格偏見的目的追根溯源不過(guò)是為了賺取消費(fèi)者剩余②消費(fèi)者剩余,是指消費(fèi)者愿意為一種商品支付的最高價(jià)減去實(shí)際支付的價(jià)格。。一般來(lái)說(shuō),價(jià)格偏見的落實(shí)在如下三方面條件缺一不可:首先是企業(yè)在市場(chǎng)競(jìng)爭(zhēng)中占據(jù)明顯優(yōu)勢(shì),擁有定價(jià)的話語(yǔ)權(quán)。若不具備競(jìng)爭(zhēng)優(yōu)勢(shì),在市場(chǎng)完全競(jìng)爭(zhēng)狀況下,企業(yè)也就不具備定價(jià)的能力,商品價(jià)格由市場(chǎng)形成;其次是企業(yè)需要全面掌握眾多消費(fèi)群體的支付意愿與消費(fèi)能力,以此作為差異化定價(jià)的依據(jù);最后對(duì)于以較低的價(jià)格購(gòu)進(jìn)商品的購(gòu)買者,企業(yè)需具備防止其高價(jià)轉(zhuǎn)賣以獲得價(jià)格差利的能力。若以較低的價(jià)格購(gòu)進(jìn)商品的購(gòu)買者以較高的價(jià)格轉(zhuǎn)售商品,對(duì)于企業(yè)獲利產(chǎn)生嚴(yán)重影響,其很難獲得較高的出售價(jià)格的利潤(rùn),價(jià)格偏見的目的就不容易實(shí)現(xiàn)。因此,企業(yè)全面掌握消費(fèi)者最高支付意愿是實(shí)施價(jià)格偏見策略的重要前提。然而在具體實(shí)踐中,企業(yè)在這方面信息的獲取中存在較多困難,限制了其價(jià)格偏見策略的實(shí)施。隨著數(shù)據(jù)挖掘、分析工具等新的人工智能技術(shù)的進(jìn)步,上述困難得到了有效解決。企業(yè)借助于先進(jìn)的算法技術(shù),根據(jù)消費(fèi)者消費(fèi)明細(xì)、網(wǎng)上瀏覽記錄等信息,統(tǒng)計(jì)分析出消費(fèi)者的消費(fèi)偏好、支付意愿與能力等眾多詳細(xì)信息,進(jìn)而通過(guò)針對(duì)性地定價(jià)進(jìn)行驗(yàn)證,得到較為準(zhǔn)確的消費(fèi)者偏好與能力信息,以此為差異化價(jià)格策略的制定與實(shí)施提供科學(xué)指導(dǎo)。即人們常說(shuō)的“大數(shù)據(jù)殺熟”。這種環(huán)境中,借助于大數(shù)據(jù),那些在市場(chǎng)中不具備明顯競(jìng)爭(zhēng)優(yōu)勢(shì)的企業(yè)也可以輕松地獲得消費(fèi)者偏好、支付意愿等信息,進(jìn)而為價(jià)格偏見策略實(shí)施提供指導(dǎo)。

      (二)算法的就業(yè)偏見

      數(shù)據(jù)挖掘等人工智能技術(shù)的不斷發(fā)展與普及,催生了算法技術(shù)在人力分析系統(tǒng)中的廣泛應(yīng)用。近來(lái),更多的用人單位在員工招聘、考核、升遷、淘汰等人事調(diào)整中依靠算法技術(shù)做出決策。有些人認(rèn)為,算法技術(shù)在人力資源管理中的應(yīng)用大大提高了效率,同時(shí)也提升了決策的客觀性,避免了人工決策的主觀性。然而,也有些人指出,算法技術(shù)會(huì)對(duì)現(xiàn)有的偏見產(chǎn)生惡化,相關(guān)數(shù)據(jù)不具備天然的中立性,甚至?xí)a(chǎn)生新的偏見。通過(guò)廣泛的研究也發(fā)現(xiàn),算法技術(shù)在人力資源管理中的應(yīng)用引發(fā)了嚴(yán)重的就業(yè)歧視現(xiàn)象。如某個(gè)用人單位通過(guò)員工家與單位的距離來(lái)評(píng)估員工工作的穩(wěn)定性。若以此為員工招錄的依據(jù),則對(duì)于那些家庭住址距離公司較遠(yuǎn)的應(yīng)聘者構(gòu)成了歧視。研究者Latanya Sweeney 分析表明,通過(guò)谷歌系統(tǒng)搜索,輸入非裔美國(guó)人比輸入白種人的名字,軟件出現(xiàn)的犯罪審查資料就會(huì)多一些〔3〕。由此表明,算法能夠跟名字和種族密切相關(guān),同時(shí)對(duì)少數(shù)種族人就業(yè)情況有不利影響。研究者Anja Lambrecht 等人分析指出,被推送的有關(guān)科技與科技數(shù)學(xué)或者工程等名詞廣告中,男性高于女性很多。在卡內(nèi)基梅隆大學(xué)研究者AmitDatta 等分析探究關(guān)于求職人員性別和發(fā)送招聘信息間的聯(lián)系,先根據(jù)系統(tǒng)性能擬定一般使用者瀏覽求職網(wǎng)站,之后通過(guò)統(tǒng)計(jì)谷歌發(fā)送“年薪20 萬(wàn)美元以上的相關(guān)工作信息數(shù)據(jù)”,總結(jié)出男士用戶得到的推送要遠(yuǎn)高于女性用戶,其中男士有1852 次,女性只有318 次,分析看到女士受到高薪工作的推薦只占男性的六分之一比例〔4〕。此類研究表明,算法本身肯定不具備種族與性別的特征偏見,一旦算法設(shè)計(jì)者具有自身偏見,則歧視就會(huì)充斥到其中且一直被使用。

      (三)算法的信用偏見

      如果征信行業(yè)發(fā)展興旺,必然會(huì)帶來(lái)諸多正面影響,首先通過(guò)提高金融風(fēng)險(xiǎn)識(shí)別方式有利于加快金融業(yè)發(fā)展,促進(jìn)信用消費(fèi),有助于提高經(jīng)濟(jì)發(fā)展效率,增加經(jīng)濟(jì)收益,同時(shí)促進(jìn)低碳經(jīng)濟(jì)。但是其也存在問(wèn)題,在于征信業(yè)具有的信用歧視一直以來(lái)并不能受到重視。每個(gè)國(guó)家都有關(guān)于征信的法律制度規(guī)定,不允許按照不同民族以及信仰、籍貫、年齡與性別等諸多因素針對(duì)某個(gè)人的信用做出不恰當(dāng)評(píng)判或者直接差評(píng)待遇,但是相關(guān)的信用評(píng)分系統(tǒng)總是背道而馳。此時(shí),算法在信用歧視中發(fā)揮的用途重點(diǎn)表現(xiàn)為,研究征信行業(yè)歧視相關(guān)情況的原因均來(lái)自信用評(píng)分算法,類似于黑盒,以商業(yè)機(jī)密對(duì)其保護(hù)致使外部以及國(guó)家監(jiān)控部門均不能進(jìn)入。征信行業(yè)的代表提到,保證算法秘密性的目的在于防止消費(fèi)人員出現(xiàn)信用欺騙;還有部分人指出,即便了解算法也不能理解它的繁雜。信用評(píng)價(jià)在美國(guó)具有重要意義,成為金融的必備證件,決定個(gè)人是否擁有工作和貸款以及保險(xiǎn)或者汽車租房等事項(xiàng)。美國(guó)的征信市場(chǎng)在其發(fā)展過(guò)程中,始終面臨著問(wèn)題:一方面是錯(cuò)誤率較高,據(jù)有關(guān)部門調(diào)查分析得出在消費(fèi)群體中大約25 個(gè)百分點(diǎn)的人的信用報(bào)告出現(xiàn)不止一處影響評(píng)分的錯(cuò)誤;另一方面信用評(píng)分的因素與信用降級(jí)的原因均不明確,當(dāng)消費(fèi)者發(fā)現(xiàn)報(bào)告存在錯(cuò)誤時(shí)又很難被救濟(jì),有關(guān)征信部門難以針對(duì)低信用評(píng)分說(shuō)明原因,甚至于,企業(yè)根據(jù)此類信用報(bào)告對(duì)部分群體產(chǎn)生歧視,包括女士以及少數(shù)民族與殘疾人員等,造成此類弱勢(shì)群體在就業(yè)、安家以及貸款等事項(xiàng)上要付出更高的代價(jià)。

      二、算法偏見的緣由分析

      算法偏見追根溯源,最主要的兩個(gè)方面原因即機(jī)器學(xué)習(xí)偏見以及數(shù)據(jù)的偏見屬性。這兩種原因又在運(yùn)算的過(guò)程中相互影響,導(dǎo)致算法偏見的問(wèn)題愈演愈烈,規(guī)制起來(lái)困難重重。

      (一)機(jī)器學(xué)習(xí)偏見

      所謂機(jī)器學(xué)習(xí),就是計(jì)算機(jī)程序由經(jīng)驗(yàn)E 學(xué)習(xí)同時(shí)完成任務(wù)T,機(jī)器學(xué)習(xí)就是提升完成任務(wù)的性能P,使其伴隨積累經(jīng)驗(yàn)得以提升。應(yīng)用于垃圾郵件分類中,經(jīng)驗(yàn)E 的身份指郵件集合,任務(wù)T 的身份指識(shí)別郵件同時(shí)把它分出類別,所謂的性能度量P 是等同于精準(zhǔn)度的比例。如此運(yùn)行程序的過(guò)程就是訓(xùn)練,郵件集合指訓(xùn)練數(shù)據(jù),所謂機(jī)器學(xué)習(xí)即程序依靠實(shí)例提取方法同時(shí)逐漸優(yōu)化的過(guò)程,促進(jìn)不成熟的算法與模型通過(guò)實(shí)踐逐漸得到優(yōu)化的過(guò)程〔5〕。根據(jù)階段劃分,把機(jī)器學(xué)習(xí)可劃分成為兩個(gè)階段,一是機(jī)器學(xué)習(xí)訓(xùn)練階段,二是模型運(yùn)用階段〔6〕。又將第一階段細(xì)分為九個(gè)步驟,具體如圖1 所示。

      圖1 機(jī)器學(xué)習(xí)階段簡(jiǎn)圖

      算法設(shè)計(jì)人員把自我價(jià)值判斷融入整個(gè)過(guò)程,包括收集數(shù)據(jù)、清洗與分割等過(guò)程。也就是說(shuō),數(shù)據(jù)中隱藏的社會(huì)歧視與算法設(shè)計(jì)人員的個(gè)人意識(shí)被融入了模型訓(xùn)練中。所以,機(jī)器學(xué)習(xí)中存在的偏見來(lái)源于問(wèn)題定義,通過(guò)模型訓(xùn)練逐漸成熟,在應(yīng)用過(guò)程中得以強(qiáng)化。機(jī)器學(xué)習(xí)偏見重點(diǎn)來(lái)源于兩個(gè)方面:

      1.算法設(shè)計(jì)者的個(gè)人意識(shí)??v觀機(jī)器學(xué)習(xí)進(jìn)展情況,算法設(shè)計(jì)人員的評(píng)判糅合在機(jī)器學(xué)習(xí)的每個(gè)過(guò)程,從擬解決問(wèn)題的轉(zhuǎn)換到收集數(shù)據(jù)再到模型的完善與評(píng)估,都由算法設(shè)計(jì)者主觀決斷,其評(píng)斷決定著輸入與結(jié)果的變量以及收集數(shù)據(jù)的范圍與如何選擇數(shù)據(jù)特征。其主觀意識(shí)貫穿于模型中,使之成為飽含個(gè)人偏見的模型。

      2.后期學(xué)習(xí)過(guò)程中出現(xiàn)的偏見。不論在模型的訓(xùn)練過(guò)程還是應(yīng)用過(guò)程,都使用機(jī)器學(xué)習(xí)技術(shù),人工智能的運(yùn)用最終實(shí)現(xiàn)機(jī)器智能化。根據(jù)實(shí)踐經(jīng)驗(yàn)逐漸吸收優(yōu)勢(shì)用以補(bǔ)充模型完整,模型運(yùn)用的過(guò)程會(huì)由于新數(shù)據(jù)囊括的偏見使算法異化。2016 年曾推出的機(jī)器人Tay,發(fā)布不到一天的時(shí)間便展現(xiàn)出其種族歧視、性別歧視與反猶太人的“不良一面”,因此被迫下線。

      (二)算法偏見的數(shù)據(jù)屬性緣由

      1.數(shù)據(jù)的偶然性

      各種樣本存在的地位差距較大,數(shù)據(jù)具備偶然性,必將造成算法出現(xiàn)歧視現(xiàn)象。樣本多與少?zèng)Q定大部分族群以及少數(shù)民族的差異性。如何對(duì)算法數(shù)據(jù)進(jìn)行訓(xùn)練?大多數(shù)依賴于抽樣,但很難保證隨機(jī)性,有關(guān)少數(shù)族群的數(shù)據(jù)就不容易被選擇,因此導(dǎo)致訓(xùn)練的結(jié)果偏向于在統(tǒng)計(jì)上占多數(shù)的族群。

      另外,多數(shù)與少數(shù)族群對(duì)于特征空間具有的表現(xiàn)存在差異,出于方便設(shè)計(jì),算法會(huì)不經(jīng)意間將少數(shù)族群部分不顯著特征的數(shù)據(jù)納入多數(shù)族群的不正確數(shù)據(jù)內(nèi),而非仔細(xì)研究其是否正確,是否歸于少數(shù)族群。若某個(gè)算法可以保證85%的精準(zhǔn)度,它的精度已經(jīng)達(dá)標(biāo)。在實(shí)踐中已經(jīng)應(yīng)用在芝加哥警局的工作助力算法,即便所有黑人族群的計(jì)算結(jié)果不正確,也無(wú)太大影響。因?yàn)槠鋽?shù)量少,占有百分比低,不會(huì)使全部預(yù)測(cè)精準(zhǔn)度有大的改變。

      2.數(shù)據(jù)的不敏感屬性

      數(shù)據(jù)本身是具有敏感屬性的,但是在大數(shù)據(jù)時(shí)代,這些被隱藏的屬性很難被保護(hù)。因?yàn)槭占臄?shù)據(jù)豐富,源頭較多,其內(nèi)部間很強(qiáng)的相互聯(lián)系性以及相互印證等因素,決定了大數(shù)據(jù)具有多樣性。大數(shù)據(jù)算法擁有的很大的優(yōu)勢(shì),是能夠根據(jù)現(xiàn)有數(shù)據(jù)屬性預(yù)測(cè)出當(dāng)前未知屬性,比如性別與種族。原因在于,部分原本受到保護(hù)的屬性,顯式或者隱式地通過(guò)編碼出現(xiàn)在多樣化的特征空間內(nèi)。

      例如,若設(shè)定大數(shù)據(jù)算法不可以依靠網(wǎng)頁(yè)與運(yùn)用過(guò)程得到使用者精準(zhǔn)的族群資料。但這樣卻沒(méi)有對(duì)現(xiàn)如今大數(shù)據(jù)算法造成困難。沒(méi)有這些信息,大數(shù)據(jù)依然可以依靠其他方面維度的印記,認(rèn)知并標(biāo)識(shí)指定群體。比如在美國(guó),大數(shù)據(jù)算法單純依靠使用者姓名的獨(dú)特性質(zhì),同時(shí)依靠其他維度的相關(guān)歷史背景特點(diǎn),使得大數(shù)據(jù)操作者相對(duì)精準(zhǔn)地標(biāo)識(shí)黑人群體。原因在于,從前歷史中記載,非洲黑人起初被運(yùn)至美國(guó)時(shí),名字比較特殊,均由奴隸主賜予。比方利用白人常見姓名約翰與威廉,稍微修改為杰克和威爾,就賜予了男性奴隸;比方某個(gè)男性姓名是杰克并非約翰,根據(jù)歷史記錄,那么很大程度上其會(huì)被標(biāo)識(shí)成黑人。同樣道理,如果見到姓名為熱依汗古麗,就很大概率定位為新疆女性。因此研究得出,某些數(shù)據(jù)曾在保護(hù)中的敏感性質(zhì),應(yīng)用多維算法后,失去了私密性。

      3.數(shù)據(jù)的偏見性

      在計(jì)算機(jī)科學(xué)領(lǐng)域,有一個(gè)知名度較高的“GIGO 定律(Garbage In,Garbage Out)”,指計(jì)算機(jī)運(yùn)算過(guò)程中如果輸入的是垃圾數(shù)據(jù),那么輸出的也是垃圾數(shù)據(jù)。面對(duì)大數(shù)據(jù)算法存在的歧視性,也存在類似的說(shuō)法?!蹲匀弧飞缯撝?,通過(guò)“偏見進(jìn),則偏見出(Bias In, Bias Out)”對(duì)此進(jìn)行闡述〔7〕。

      在大數(shù)據(jù)時(shí)代,收集數(shù)據(jù)人員與算法設(shè)計(jì)者均存在自身的偏見卻不自知,會(huì)將其帶入數(shù)據(jù)本身隱藏在其代碼內(nèi),最后得出帶有偏見的結(jié)論?,F(xiàn)實(shí)中,跟銀行關(guān)于企業(yè)貸后監(jiān)管實(shí)施合作過(guò)程中,識(shí)別到某個(gè)指定籍貫者創(chuàng)辦的企業(yè)出現(xiàn)數(shù)額貸款且不能按時(shí)償還情況,此數(shù)據(jù)結(jié)論顯示給銀行后,便會(huì)對(duì)股東人員內(nèi)對(duì)應(yīng)籍貫與法人注冊(cè)在本地區(qū)的單位,增加更高的要求,同時(shí)特意收緊貸款業(yè)務(wù)。這并非完美的處理方式,卻造成數(shù)據(jù)與模型更加復(fù)雜。此地域存在的高風(fēng)險(xiǎn)情況,很大程度上可能由于本地的特殊經(jīng)濟(jì)形勢(shì),如實(shí)踐中在鄂爾多斯由于能源價(jià)位降低出現(xiàn)系統(tǒng)性經(jīng)濟(jì)風(fēng)險(xiǎn),在溫州由于違法集資現(xiàn)象使整個(gè)范圍受限制。當(dāng)狀況結(jié)束后,出現(xiàn)的問(wèn)題會(huì)得以緩和且消失。但是,這些情況一旦出現(xiàn),數(shù)據(jù)的偏見均存在其中,以前的技術(shù)人員可能已經(jīng)進(jìn)行了調(diào)動(dòng),而新的技能管理者并不能很好地了解此類特殊的數(shù)據(jù)采集與風(fēng)控模型的思維和邏輯,因此造成此類針對(duì)特殊區(qū)域的風(fēng)控偏見將始終存在并延續(xù)下去。

      三、算法偏見法律矯正的必然與必要

      自網(wǎng)絡(luò)形成至今,與網(wǎng)絡(luò)相關(guān)的法律也不斷成型和完善,即便如此,法律對(duì)網(wǎng)絡(luò)的約束仍始終存有一定的疏漏和缺失。社會(huì)的進(jìn)步,離不開先進(jìn)技術(shù)的開拓者,更離不開基本價(jià)值的守望者。隨著人工智能技術(shù)的快速崛起,法律對(duì)這一領(lǐng)域的引導(dǎo)與規(guī)制更應(yīng)引起足夠的重視。

      (一)為強(qiáng)化人的主體地位來(lái)規(guī)制算法

      一旦我們將重心過(guò)多地投向于大數(shù)據(jù)產(chǎn)業(yè)發(fā)展,而對(duì)我們的基本權(quán)利以及自由保護(hù)予以嚴(yán)重的忽視,勢(shì)必會(huì)對(duì)我們的生活造成巨大的威脅。人并非數(shù)據(jù),無(wú)法像電子一樣進(jìn)行數(shù)據(jù)化、進(jìn)行整合,更無(wú)法像數(shù)據(jù)一樣進(jìn)行自動(dòng)化區(qū)分、評(píng)分和決策〔8〕。通常情況下,算法權(quán)力并不會(huì)將我們視為“主體”加以對(duì)待,久而久之,在算法規(guī)訓(xùn)下,人們逐漸成為可計(jì)算、可預(yù)測(cè)甚至是可控的客體〔9〕。試想,一旦我們的投資觀念、消費(fèi)心理等無(wú)不被機(jī)器學(xué)習(xí)算法分析所捕獲,并基于此推出讓我們無(wú)法拒絕的“套餐”,則多數(shù)人勢(shì)必會(huì)將選擇的自由權(quán)主動(dòng)出讓,并對(duì)自己所獲得的服務(wù)給予認(rèn)可。

      人是世界的主體這一觀念是世人所共識(shí)的,沙特因向機(jī)器人賦予公民身份而備受關(guān)注〔10〕。隨著這一事件的轟動(dòng),標(biāo)志著世界科學(xué)技術(shù)水平已然發(fā)展到相當(dāng)高的層面,機(jī)器人在意識(shí)以及創(chuàng)造性等方面與人類正在日趨同步。但是從法律層面來(lái)看,機(jī)器人的法律主體仍是由人所賦予,換言之,法律應(yīng)然和實(shí)然主體始終是人類。

      德沃金表示,在眾多個(gè)人權(quán)利中,關(guān)懷與尊重的平等權(quán)利尤為重要。具體來(lái)說(shuō),即每個(gè)人都應(yīng)享有“作為平等的人對(duì)待”“社會(huì)應(yīng)當(dāng)予以尊重,承認(rèn)其尊嚴(yán)以及平等考慮”的自然權(quán)利〔11〕。鑒于此,算法的暗箱操作需要破除,通過(guò)對(duì)算法法律規(guī)制的重新梳理與強(qiáng)化,確保這一算法與社會(huì)倫理基礎(chǔ)、價(jià)值基礎(chǔ)更加貼合。在信息技術(shù)快速覆蓋和普及的現(xiàn)今,活躍于網(wǎng)絡(luò)社會(huì)中的人更應(yīng)對(duì)平等對(duì)待給予關(guān)注,凸顯人這一主體,正視網(wǎng)絡(luò)技術(shù),從而充分利用和發(fā)揮這項(xiàng)技術(shù),更好地為我們服務(wù)。

      (二)為保護(hù)數(shù)據(jù)的權(quán)利來(lái)規(guī)制算法

      縱觀計(jì)算機(jī)技術(shù)快速發(fā)展,其參與人們生活的程度也隨之深入,基于傳統(tǒng)媒體進(jìn)行傳輸?shù)男畔⒕D(zhuǎn)化為數(shù)據(jù)上傳至網(wǎng)絡(luò)?,F(xiàn)如今,數(shù)據(jù)分析技術(shù)在數(shù)據(jù)處理方面日漸龐大。齊愛民教授曾表示,“電子檔案中的信息和載體可分離”〔12〕。在人工智能的大環(huán)境下,數(shù)據(jù)是絕大多數(shù)信息的載體。與此同時(shí),信息和數(shù)據(jù)兩者間又存有顯著的差異,《網(wǎng)絡(luò)安全法》對(duì)此給出了詳盡的闡釋①《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第76 條規(guī)定:網(wǎng)絡(luò)數(shù)據(jù),是指通過(guò)網(wǎng)絡(luò)收集、存儲(chǔ)、傳輸、處理和產(chǎn)生的各種電子數(shù)據(jù);個(gè)人信息,是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別自然人個(gè)人身份的各種信息。。

      網(wǎng)絡(luò)中,數(shù)據(jù)實(shí)則是可編碼的“0/1”字符,而對(duì)于信息載體的數(shù)據(jù)來(lái)說(shuō),其是不具備價(jià)值判斷的。波斯納大法官曾指出,在經(jīng)過(guò)載體、編譯代碼、服務(wù)協(xié)議等一系列操作后,數(shù)據(jù)才會(huì)形成實(shí)際法律關(guān)系,進(jìn)而具備天然工具中立性〔13〕。信息在實(shí)質(zhì)上是人對(duì)數(shù)據(jù)的主觀理念與認(rèn)知,其中囊括人的情感。并且,受當(dāng)時(shí)情緒、知識(shí)背景等因素的影響不同,對(duì)數(shù)據(jù)的解讀也會(huì)形成差異。不僅如此,可量化是數(shù)據(jù)最顯著的特征,因此,數(shù)據(jù)是可被存儲(chǔ)、傳輸乃至交易的。最近幾年,大數(shù)據(jù)交易平臺(tái)對(duì)其財(cái)產(chǎn)屬性更是給出了進(jìn)一步的強(qiáng)化②我國(guó)北京中關(guān)村、貴陽(yáng)和武漢等地相繼設(shè)立了大數(shù)據(jù)交易平臺(tái),在數(shù)據(jù)交易的過(guò)程當(dāng)中數(shù)據(jù)的財(cái)產(chǎn)屬性得以凸顯。值得注意的是,只有成規(guī)模的數(shù)據(jù)才具有高額的價(jià)值,針對(duì)個(gè)人而言一條數(shù)據(jù)僅需數(shù)角人民幣。。

      綜上所述,數(shù)據(jù)被機(jī)器識(shí)別,信息則由人們把控,也正因如此,加強(qiáng)主體對(duì)數(shù)據(jù)的控制應(yīng)是算法規(guī)制的重中之重,換言之,便是對(duì)數(shù)據(jù)權(quán)利的法律給予足夠的維護(hù)和保護(hù)。相反,當(dāng)對(duì)數(shù)據(jù)主體的數(shù)據(jù)控制權(quán)益給予過(guò)度的強(qiáng)調(diào),數(shù)據(jù)流動(dòng)將不再充分,服務(wù)以及價(jià)格也難以享有到最優(yōu)和最佳。針對(duì)這一點(diǎn)值得注意的是,在數(shù)據(jù)保護(hù)與數(shù)據(jù)流動(dòng)兩種利益中,數(shù)據(jù)權(quán)利保護(hù)成功的關(guān)鍵,主要取決于兩者間的平衡與恰當(dāng)。

      (三)為引領(lǐng)技術(shù)的發(fā)展來(lái)規(guī)制算法

      現(xiàn)如今,互聯(lián)網(wǎng)已然將整個(gè)社會(huì)全部覆蓋,億萬(wàn)網(wǎng)民通過(guò)這一平臺(tái)獲取所需信息、彼此交互,無(wú)論是對(duì)他們的思維抑或?qū)r(jià)值觀念,都或多或少產(chǎn)生了一定的影響〔14〕。也正是如此,對(duì)互聯(lián)網(wǎng)技術(shù)發(fā)展、應(yīng)用的適時(shí)引導(dǎo)便顯得尤為重要,而法律對(duì)算法的規(guī)制是確保這項(xiàng)技術(shù)始終依照合法軌道發(fā)展的關(guān)鍵。維系科學(xué)與人們生活的核心來(lái)自科技,從另一個(gè)角度分析來(lái)看,科技只有合理、正常地被運(yùn)用,人們的生活才會(huì)向著良性的一面發(fā)展和改善〔15〕。將這種模式放到數(shù)據(jù)方面亦是如此,數(shù)據(jù)的準(zhǔn)確性、有效性是為用戶提供更優(yōu)質(zhì)服務(wù)的前提,唯有如此,才能實(shí)現(xiàn)對(duì)用戶體驗(yàn)感知的提升和優(yōu)化,比如前陣火爆網(wǎng)絡(luò)的中國(guó)科技大學(xué)隱形資助貧困生就是極具說(shuō)服力的一例③中科大學(xué)生資助管理中心利用一卡通系統(tǒng)留下的就餐數(shù)據(jù),分析篩選家庭確有困難、每個(gè)月在學(xué)校食堂消費(fèi)超過(guò)一定次數(shù)而不超過(guò)一定金額的學(xué)生,在不公開宣布的情況下對(duì)之進(jìn)行“隱形資助”,緩解了學(xué)生燃眉之急的同時(shí)又保護(hù)了學(xué)生的自尊心。。由于每一主體基于“數(shù)字化生存”跡象的不同認(rèn)知和理解,從而對(duì)我們就算法精準(zhǔn)分析與定位的憂慮給予了充分的印證。

      法理學(xué)始終圍繞的課題之一即是法律和科學(xué)間的關(guān)系。鑒于自然偏好的邏輯是技術(shù)治理所遵循的重點(diǎn),而社會(huì)共識(shí)邏輯又是法律治理遵循的關(guān)鍵,對(duì)技術(shù)治理的歸化與引領(lǐng)顯然需要為人類制度生活載體而生的法律來(lái)實(shí)現(xiàn)〔16〕。其中,以法律價(jià)值對(duì)技術(shù)發(fā)展引領(lǐng)最為重要。譬如在技術(shù)治理過(guò)程中,人們可以自覺(jué)參照相應(yīng)的法律價(jià)值選擇適宜的工具,以此實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)社會(huì)技術(shù)治理手段的有效疏導(dǎo)〔17〕??茖W(xué)的飛速發(fā)展同時(shí),法律也應(yīng)最大限度地發(fā)揮其作用,保持與科學(xué)發(fā)展的同步。

      四、算法偏見的個(gè)人信息保護(hù)的立法矯正

      在短期內(nèi),對(duì)算法偏見的各個(gè)方面分別立法規(guī)制所需投入的成本過(guò)高,因此,可脫離這些部門法的拘束,以個(gè)人信息保護(hù)法的形式加以規(guī)制。其理由包括三點(diǎn):第一,一切所涉及的算法都來(lái)自收集、使用個(gè)人信息,因此,基于法律調(diào)整對(duì)象的層面來(lái)說(shuō),在個(gè)人信息保護(hù)法中增加個(gè)人信息的非歧視性利用具有十足意義;第二,針對(duì)商業(yè)目的或非商業(yè)目的的數(shù)據(jù)非國(guó)家機(jī)關(guān)數(shù)據(jù)處理主體,可以提出信息披露、收集和處理資格、義務(wù)以及規(guī)范等方面的要求;第三,《個(gè)人信息保護(hù)法》早在第十三屆全國(guó)人大常委會(huì)立法規(guī)劃中被列入第一類項(xiàng)目,條件相對(duì)比較成熟,以此規(guī)制算法歧視的可行性較高。

      (一)《個(gè)人信息保護(hù)法》應(yīng)明確被遺忘權(quán)的保護(hù)

      如今,人們視龐大的數(shù)據(jù)分析理解為深度學(xué)習(xí)的過(guò)程,增加機(jī)器看與聽的感知便是數(shù)據(jù)分析理解這一過(guò)程的最終目的〔18〕。但是不可否認(rèn),算法也有一定的缺陷,以冷啟動(dòng)最為典型。由實(shí)例分析來(lái)看,產(chǎn)品鏈接新用戶后需要先行對(duì)用戶相關(guān)數(shù)據(jù)加以收集,試想基于數(shù)據(jù)缺失的前提下顯然是無(wú)法進(jìn)行全面、有效的分析,算法的作用也將難以充分發(fā)揮。算法的優(yōu)勢(shì)更多地體現(xiàn)在對(duì)數(shù)據(jù)的獲取,人們一旦控制了數(shù)據(jù),同樣也就控制了學(xué)習(xí)算法〔19〕。一位學(xué)者將算法與數(shù)據(jù)兩者間的關(guān)系比喻為食譜與食材,即算法為食譜,數(shù)據(jù)為食材,只有嚴(yán)格依照食譜將食材給予合理的搭配,才能制作出可口的菜品〔20〕。由此可以得知,實(shí)現(xiàn)算法法律規(guī)制的首要前提,便是從源頭對(duì)數(shù)據(jù)加以強(qiáng)化和保護(hù)。

      當(dāng)下,世界范疇內(nèi)對(duì)數(shù)據(jù)保護(hù)的路徑可歸結(jié)為以下三種:第一,美國(guó)以對(duì)市場(chǎng)規(guī)范路徑的重視,實(shí)現(xiàn)對(duì)企業(yè)收集個(gè)人數(shù)據(jù)的規(guī)制,其對(duì)數(shù)據(jù)產(chǎn)業(yè)發(fā)展給予了十足的保護(hù),而個(gè)人數(shù)據(jù)權(quán)利并未給予過(guò)多的要求,發(fā)生數(shù)據(jù)侵權(quán)主要交由FTC(聯(lián)邦貿(mào)易委員會(huì))全權(quán)處理;第二,德國(guó)在對(duì)個(gè)人數(shù)據(jù)的保護(hù)方面主要采取聯(lián)邦數(shù)據(jù)保護(hù)專員制度來(lái)實(shí)現(xiàn),這也是其數(shù)據(jù)保護(hù)法中尤為重要的一個(gè)組成部分,其中明確規(guī)定了自動(dòng)收集、處理和使用個(gè)人數(shù)據(jù)的公共機(jī)構(gòu)以及個(gè)人組織均需要書面任命一名數(shù)據(jù)保護(hù)官,并要求數(shù)據(jù)保護(hù)官需要具備過(guò)硬的專業(yè)知識(shí)和必要的責(zé)任意識(shí);第三,歐盟對(duì)數(shù)據(jù)的保護(hù)則主要采用制定詳備的法案。譬如于2012 年發(fā)布的《通用數(shù)據(jù)保護(hù)條例(草案)》(GDPR 草案)至2016 通過(guò)再到2018 正式生效已歷經(jīng)六余年的時(shí)間,在此過(guò)程中,GDPR 對(duì)數(shù)據(jù)的規(guī)定也進(jìn)一步完善和細(xì)化,這一法案的巨大反響引起了全世界的高度重視。

      被遺忘權(quán)的實(shí)現(xiàn)問(wèn)題,可以說(shuō)是控制數(shù)據(jù)、制約算法的重中之重。部分學(xué)者將數(shù)據(jù)和數(shù)據(jù)權(quán)利進(jìn)行了細(xì)化:“用戶對(duì)含有個(gè)人信息、使用痕跡的底層數(shù)據(jù)享有所有權(quán);數(shù)據(jù)控制者對(duì)匿名處理過(guò)的數(shù)據(jù)擁有受限的所有權(quán);數(shù)據(jù)控制者對(duì)經(jīng)過(guò)數(shù)據(jù)清理、加工后產(chǎn)生的衍生數(shù)據(jù)享有所有權(quán)”〔21〕?!睂?duì)底層數(shù)據(jù)的控制,可經(jīng)由與關(guān)聯(lián)主體脫鉤的方式實(shí)現(xiàn)數(shù)據(jù)被算法遺忘的目的,而刪除并非唯一的方式,還可采用數(shù)據(jù)脫敏的技術(shù)降低數(shù)據(jù)黏性,在搜索結(jié)果中劣后排列、表明爭(zhēng)議內(nèi)容。

      (二)《個(gè)人信息保護(hù)法》應(yīng)提出算法結(jié)果拒絕權(quán)

      1.算法透明和解釋的不可行性

      在探討如何規(guī)制算法時(shí),很多學(xué)者提出了要增加大數(shù)據(jù)算法的透明性,認(rèn)為“技術(shù)只有透明才能獲益”〔22〕。有的學(xué)者提出應(yīng)賦予個(gè)人對(duì)算法的解釋請(qǐng)求權(quán),以“限制算法權(quán)力”。其要求是鑒于合同法、侵權(quán)法和消費(fèi)者保護(hù)法等都沒(méi)法充分救濟(jì)當(dāng)事人,法律應(yīng)賦予個(gè)人事后的算法解釋權(quán);相對(duì)人可對(duì)自動(dòng)化決策及算法具體決定對(duì)相對(duì)人有法律上或經(jīng)濟(jì)上顯著影響的算法使用人提出異議,要求其對(duì)具體決策給出合理解釋〔23〕;自動(dòng)化決策的相對(duì)人即算法解釋權(quán)的主體,譬如量刑、假釋輔助算法決策相對(duì)人以及經(jīng)過(guò)算法評(píng)估不被雇傭的候選人等〔24〕。但是,筆者認(rèn)為算法的公開和解釋權(quán)并不可行。首先,從技術(shù)上就難以實(shí)現(xiàn),因?yàn)樽詣?dòng)決策算法依賴大量的數(shù)據(jù)和強(qiáng)大的硬件的支撐,就連算法的設(shè)計(jì)者也無(wú)法完全解釋決策產(chǎn)生的依據(jù);其次,就算算法真的公開,由于其專業(yè)性質(zhì)普通群眾也難以理解;最后,根本的一點(diǎn)在于這兩種解決方法并不適用于現(xiàn)代商業(yè)。其具體原因如下:

      首先,公開算法邏輯侵犯商業(yè)秘密。如果法律強(qiáng)行要求企業(yè)解釋算法的過(guò)程,數(shù)據(jù)企業(yè)唯一的選擇就是將自動(dòng)決策算法程序給予公開,這等同企業(yè)將自身辛苦研究的成果進(jìn)行公布,將自身完全地暴露在競(jìng)爭(zhēng)對(duì)手面前。企業(yè)對(duì)算法秘密的保護(hù)是維護(hù)自身競(jìng)爭(zhēng)優(yōu)勢(shì)與商業(yè)機(jī)密最為有利的舉措,這一點(diǎn)對(duì)于競(jìng)爭(zhēng)日漸殘酷的市場(chǎng)來(lái)說(shuō)尤其重要〔25〕。算法解釋請(qǐng)求權(quán)在根本上干擾了互聯(lián)網(wǎng)企業(yè)的經(jīng)營(yíng)行為。

      其次,算法解釋權(quán)擾亂商業(yè)模式。自動(dòng)決策算法的使用需要海量的數(shù)據(jù)和強(qiáng)大的硬件支持,強(qiáng)如谷歌、蘋果、阿里巴巴等互聯(lián)網(wǎng)巨鱷對(duì)大數(shù)據(jù)的處理都感覺(jué)吃不消。實(shí)體企業(yè)出于節(jié)省成本、降低技術(shù)難度等考慮也傾向于將業(yè)務(wù)外包,借助外部數(shù)據(jù)公司的輔助,在控制風(fēng)險(xiǎn)的同時(shí)實(shí)現(xiàn)收益的最大化。所以在這種外包模式下,算法解釋缺乏實(shí)質(zhì)意義。

      2.數(shù)據(jù)主體應(yīng)享受算法結(jié)果拒絕權(quán)

      受限于數(shù)據(jù)庫(kù)規(guī)模及算法的價(jià)值判斷局限,哪怕數(shù)據(jù)主體被處理的個(gè)人數(shù)據(jù)并不存在瑕疵,算法決定也可能是不合理的。所以,我國(guó)《個(gè)人信息保護(hù)法》可以借鑒歐盟《通用數(shù)據(jù)保護(hù)條例》第22 條的規(guī)定,賦予數(shù)據(jù)主體對(duì)算法結(jié)果的拒絕權(quán)。具體而言:首先,算法結(jié)果拒絕權(quán)針對(duì)的是自動(dòng)決策算法的運(yùn)行結(jié)果,以決策樹為基礎(chǔ)的簡(jiǎn)單決策算法并非該權(quán)利的規(guī)范對(duì)象;其次,算法結(jié)果拒絕權(quán)為事后的防御權(quán),數(shù)據(jù)主體不得事先拒絕自動(dòng)決策算法的應(yīng)用;再次,算法結(jié)果拒絕權(quán)旨在防止和個(gè)體有關(guān)的決定僅僅通過(guò)對(duì)個(gè)體特征的自動(dòng)評(píng)估而做出,防止個(gè)體成為計(jì)算機(jī)的客體。如果自動(dòng)決策算法僅僅發(fā)揮輔助作用,最后結(jié)果實(shí)質(zhì)由人工做出,此時(shí)就并不存在個(gè)體淪為算法客體的危險(xiǎn),也就沒(méi)有算法結(jié)果拒絕權(quán)的適用必要;最后,數(shù)據(jù)主體應(yīng)遭受算法結(jié)果的嚴(yán)重影響。不利影響并非限于法律狀態(tài)的改變,也包括對(duì)類似利益的影響,如支付方式和支付條件等。

      3.數(shù)據(jù)企業(yè)應(yīng)享受正當(dāng)?shù)幕砻饪赡?/p>

      法秩序?qū)ψ詣?dòng)決策算法的監(jiān)管,絕非以犧牲技術(shù)創(chuàng)新和社會(huì)進(jìn)步為代價(jià)。數(shù)據(jù)主體的權(quán)利同時(shí)也是數(shù)據(jù)企業(yè)的負(fù)擔(dān)。如果我國(guó)《個(gè)人信息保護(hù)法》承認(rèn)算法結(jié)果的拒絕權(quán),那么也應(yīng)提供數(shù)據(jù)企業(yè)在下列情況的豁免可能。筆者認(rèn)為,《個(gè)人信息保護(hù)法》應(yīng)規(guī)定算法結(jié)果拒絕權(quán)在下列情況下并不適用:首先自動(dòng)決策算法使用乃締結(jié)或履行合同所必須;其次個(gè)人明確表示同意;最后是法律規(guī)定的其他情況。在此,“法律規(guī)定的其他情況”為兜底條款,目的是使得法秩序獲得根據(jù)客觀環(huán)境變化靈活調(diào)整規(guī)則的可能性。

      4.數(shù)據(jù)企業(yè)應(yīng)提供充分的程序性保障

      即使?jié)M足例外的豁免條件,數(shù)據(jù)主體也應(yīng)該提供妥當(dāng)?shù)某绦蛐员U?,以滿足數(shù)據(jù)主體的申訴要求。關(guān)于程序性保障,我國(guó)《個(gè)人信息保護(hù)法》可以通過(guò)《實(shí)施條例》來(lái)進(jìn)行細(xì)化:個(gè)人信息控制者應(yīng)主動(dòng)告知主管人員身份及便捷的聯(lián)系方式,應(yīng)確保數(shù)據(jù)主體表達(dá)自己的觀點(diǎn)的機(jī)會(huì);一旦數(shù)據(jù)主體提出異議,算法決定即處于不生效狀態(tài)。此外,數(shù)據(jù)企業(yè)負(fù)有主動(dòng)告知數(shù)據(jù)主體上開申訴機(jī)制的義務(wù),以確保規(guī)制目的的實(shí)現(xiàn)。

      五、算法偏見矯正的法律監(jiān)管

      算法監(jiān)管內(nèi)容、流程乃至對(duì)互聯(lián)網(wǎng)企業(yè)承擔(dān)的強(qiáng)制披露義務(wù)都有著極強(qiáng)的專業(yè)性和技術(shù)性。所以,設(shè)立專業(yè)的監(jiān)管部門和具有系統(tǒng)性、層次性的監(jiān)管,便顯得尤為重要。

      (一)設(shè)立企業(yè)內(nèi)部的個(gè)人信息保護(hù)人

      為了更好地監(jiān)管算法,數(shù)據(jù)企業(yè)內(nèi)部應(yīng)確立明確的自動(dòng)決策算法的處理責(zé)任人。根據(jù)《信息安全技術(shù):個(gè)人信息安全規(guī)范》(以下簡(jiǎn)稱規(guī)范)第10.1 條b 項(xiàng),個(gè)人信息控制者應(yīng)任命個(gè)人信息保護(hù)負(fù)責(zé)人和個(gè)人信息保護(hù)工作機(jī)構(gòu)。2019 年1 月公布的《規(guī)范》(修改稿)新設(shè)第d 項(xiàng)和第8 子項(xiàng),要求個(gè)人信息保護(hù)負(fù)責(zé)人“公布投訴、舉報(bào)方式等信息并及時(shí)受理投訴舉報(bào)”。我國(guó)已經(jīng)嘗試在數(shù)據(jù)企業(yè)內(nèi)部設(shè)計(jì)對(duì)口的崗位來(lái)確保企業(yè)的合規(guī)性。為了實(shí)現(xiàn)對(duì)自動(dòng)決策算法的有效控制,立法也應(yīng)要求個(gè)人信息保護(hù)負(fù)責(zé)人負(fù)責(zé)處理對(duì)自動(dòng)決策算法結(jié)果的拒絕或申訴事務(wù)。如果數(shù)據(jù)主體不滿意自動(dòng)決策算法結(jié)果,可以直接聯(lián)系數(shù)據(jù)活動(dòng)顧問(wèn),行使數(shù)據(jù)訪問(wèn)權(quán)、算法結(jié)果拒絕權(quán)和申訴復(fù)議權(quán)。

      (二)建立企業(yè)外部的監(jiān)管機(jī)構(gòu)

      只有存在專門的監(jiān)管機(jī)關(guān),數(shù)據(jù)主體才能及時(shí)向權(quán)力機(jī)關(guān)尋求支持,保障自身權(quán)利的實(shí)現(xiàn)。同時(shí),公司內(nèi)部的數(shù)據(jù)活動(dòng)顧問(wèn)如果無(wú)法獲得外部的數(shù)據(jù)活動(dòng)監(jiān)管部門的支持,也無(wú)法有效地對(duì)抗來(lái)自高層的壓力。為此,我國(guó)可以考慮借助《個(gè)人信息保護(hù)法》建立專門的數(shù)據(jù)活動(dòng)監(jiān)管部門,以為個(gè)人行使權(quán)利對(duì)抗算法提供必要的保障。如果數(shù)據(jù)主體的訴求遭到數(shù)據(jù)企業(yè)的不當(dāng)拒絕,數(shù)據(jù)主體可以直接向數(shù)據(jù)活動(dòng)監(jiān)管部門尋求幫助。相較于常規(guī)的行政和司法機(jī)構(gòu),高度的專業(yè)性、技術(shù)性應(yīng)是數(shù)據(jù)活動(dòng)監(jiān)管部門所需具備的首要條件,唯有如此,才可結(jié)合相關(guān)行業(yè)準(zhǔn)則制定出與之匹配的規(guī)則,確保算法運(yùn)用得更為合理。

      (三)建立數(shù)據(jù)企業(yè)的信息披露義務(wù)

      對(duì)于算法偏見矯正法律監(jiān)管來(lái)說(shuō),需要首先創(chuàng)建相應(yīng)的信息披露義務(wù),即要求算法開發(fā)者、使用者結(jié)合這一準(zhǔn)則履行自身義務(wù)。譬如,算法是以預(yù)定義策略議程為設(shè)計(jì)目的時(shí),此時(shí)的算法設(shè)計(jì)應(yīng)以道德準(zhǔn)則為設(shè)計(jì)前提,同時(shí)監(jiān)管部門也應(yīng)對(duì)此加以審核,其內(nèi)容包括設(shè)計(jì)目的、策略議程等。

      (四)限制歧視性數(shù)據(jù)資產(chǎn)的使用

      數(shù)據(jù)反映的內(nèi)容源自現(xiàn)實(shí)社會(huì),所以其內(nèi)容不乏現(xiàn)實(shí)社會(huì)中的各類歧視。算法決策是對(duì)未來(lái)的一種預(yù)測(cè)、一種判斷,當(dāng)過(guò)去的歧視在算法中被放大、被強(qiáng)化后,勢(shì)必對(duì)未來(lái)的預(yù)測(cè)造成嚴(yán)重的影響和誤導(dǎo)。所以,數(shù)據(jù)資產(chǎn)管理中,需對(duì)數(shù)據(jù)資產(chǎn)質(zhì)量的重要性給予高度重視,杜絕使用一切具有歧視性的數(shù)據(jù)。監(jiān)管部門應(yīng)以風(fēng)險(xiǎn)防范為目標(biāo),強(qiáng)化數(shù)據(jù)資產(chǎn)質(zhì)量的分析,其中可采用的方式包括數(shù)據(jù)去噪篩查機(jī)制、數(shù)據(jù)評(píng)估機(jī)制,或借助專業(yè)人士的研究以實(shí)現(xiàn)對(duì)數(shù)據(jù)的修復(fù)或還原。

      (五)設(shè)計(jì)明確的損害賠償和罰款規(guī)則

      如果法律秩序不設(shè)計(jì)義務(wù)違反的法效果,規(guī)范將形同虛設(shè),淪為笑柄。我國(guó)相關(guān)部門進(jìn)行制度設(shè)計(jì)時(shí)可以參考?xì)W盟的《通用數(shù)據(jù)保護(hù)條例》的相關(guān)規(guī)定,如第82 條第1 款:任何因?yàn)檫`反本條例而受到物質(zhì)或非物質(zhì)性傷害的人都有權(quán)從數(shù)據(jù)控制者或受托處理者那里獲得對(duì)損害的賠償;第83 條第5 款:如果數(shù)據(jù)企業(yè)違反第22 條的規(guī)定阻礙個(gè)人行使算法結(jié)果拒絕權(quán)或其他相關(guān)權(quán)利,監(jiān)管機(jī)關(guān)可以處以最高2000 萬(wàn)歐元的行政處罰或相當(dāng)于其上一年全球營(yíng)業(yè)額的4%金額的罰款(二者取其高),明確數(shù)據(jù)企業(yè)違反義務(wù)時(shí)的損害賠償責(zé)任和行政處罰規(guī)則。我國(guó)可以根據(jù)國(guó)情,制定一個(gè)既合理又具有懲罰性的罰款規(guī)則,來(lái)對(duì)數(shù)據(jù)主體企業(yè)進(jìn)行規(guī)范。

      結(jié)語(yǔ)

      吳漢東教授曾言道,“對(duì)于現(xiàn)代各國(guó)而言,人工智能發(fā)展的政策考量,其實(shí)是基于風(fēng)險(xiǎn)的制度選擇和法律安排,我們應(yīng)通過(guò)法律化解風(fēng)險(xiǎn),通過(guò)法律吸納風(fēng)險(xiǎn),將風(fēng)險(xiǎn)置于法治社會(huì)的背景之中,即對(duì)智能革命時(shí)代的法律制度乃至整個(gè)社會(huì)規(guī)范進(jìn)行新的建構(gòu)”〔26〕。算法偏見將是未來(lái)社會(huì)的一項(xiàng)主要風(fēng)險(xiǎn),但是無(wú)論我們?nèi)绾螐?qiáng)調(diào)算法監(jiān)管,不扼殺行業(yè)的創(chuàng)新力和競(jìng)爭(zhēng)力應(yīng)是管理的底線。若我們“責(zé)之過(guò)苛”,則無(wú)異于因噎廢食,必將落后于時(shí)代。歐盟的經(jīng)驗(yàn)表明,立法的目標(biāo)應(yīng)是在不損及算法創(chuàng)新價(jià)值的基礎(chǔ)上建構(gòu)一套新的對(duì)抗算法不公的法律體系。通過(guò)《個(gè)人信息保護(hù)法》,來(lái)明確被遺忘權(quán)的保護(hù)和個(gè)人對(duì)算法結(jié)果的拒絕權(quán)來(lái)矯正算法偏見,構(gòu)建新的內(nèi)外監(jiān)管機(jī)構(gòu)來(lái)對(duì)數(shù)據(jù)企業(yè)進(jìn)行監(jiān)管,雙管齊下,一定可以吸納和化解算法偏見帶來(lái)的風(fēng)險(xiǎn)。

      猜你喜歡
      個(gè)人信息算法
      評(píng)刊表
      課外閱讀(2025年2期)2025-02-20 00:00:00
      如何保護(hù)勞動(dòng)者的個(gè)人信息?
      個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
      警惕個(gè)人信息泄露
      基于MapReduce的改進(jìn)Eclat算法
      Travellng thg World Full—time for Rree
      進(jìn)位加法的兩種算法
      算法初步兩點(diǎn)追蹤
      基于增強(qiáng)隨機(jī)搜索的OECI-ELM算法
      一種改進(jìn)的整周模糊度去相關(guān)算法
      文山县| 胶州市| 新平| 朔州市| 顺义区| 宁晋县| 雷波县| 玛沁县| 克什克腾旗| 雷波县| 内江市| 昌都县| 闽侯县| 阜阳市| 桐柏县| 太仆寺旗| 布拖县| 稷山县| 称多县| 枣阳市| 新野县| 阿拉善左旗| 石棉县| 双峰县| 宝应县| 安图县| 武汉市| 日喀则市| 察隅县| 墨竹工卡县| 黑龙江省| 阳城县| 乐平市| 台中县| 长沙市| 图片| 十堰市| 红河县| 汾阳市| 嘉鱼县| 轮台县|