怎樣應(yīng)對“大數(shù)據(jù)殺熟”

武鳳珠

“年齡25—35周歲，多數(shù)為女性，60%以上生活在二三線城市”“40周歲以上男性居多，平均年收入為30萬—50萬元，企業(yè)中高級管理人員占比約為33%”……許多企業(yè)通過計算機程序進行大數(shù)據(jù)分析后，會為產(chǎn)品或服務(wù)勾勒出一幅客戶“畫像”。

這些“畫像”，是企業(yè)根據(jù)客戶性別、年齡、職業(yè)、居住地等個人信息，經(jīng)過一系列數(shù)據(jù)分析后得出的客戶群概況。伴隨互聯(lián)網(wǎng)技術(shù)進步、商業(yè)營銷向精準化方向發(fā)展，通過分析潛在客戶個人信息實現(xiàn)廣告精準推送、客戶精準鎖定，成為許多平臺與企業(yè)降低營銷成本、獲得優(yōu)質(zhì)客源的“常規(guī)舉措”。

在購物網(wǎng)站查看過某一類商品后，不斷收到類似商品的產(chǎn)品信息推送;在新聞網(wǎng)站瀏覽過某一條新聞后，手機推送中的新聞信息便出現(xiàn)大量類別相近的信息……大數(shù)據(jù)對互聯(lián)網(wǎng)用戶“畫像”的細致分析、精準推送，使互聯(lián)網(wǎng)時代的個人猶如生活在“信息繭房”中，信息接收渠道被與個人特征、個人喜好等高度相關(guān)的各種自動推送緊密包裹。

通過計算機程序?qū)€人行為習(xí)慣、興趣愛好、經(jīng)濟狀況、健康情況、信用狀況等進行自動分析、評估并進行決策的過程，便是自動化決策過程。建立在個人信息收集基礎(chǔ)上的自動化決策，正在加速非法交易個人信息產(chǎn)業(yè)鏈的擴張。

11月1日施行的《中華人民共和國個人信息保護法》，對個人信息處理者利用個人信息進行自動化決策作出規(guī)范：應(yīng)當保證決策的透明度和結(jié)果公平、公正;通過自動化決策方式向個人進行信息推送、商業(yè)營銷，應(yīng)當同時提供不針對其個人特征的選項或向個人提供便捷的拒絕方式;個人信息處理者應(yīng)當事前進行個人信息保護影響評估，并對處理情況進行記錄……

“個人信息保護法關(guān)于自動化決策的條文雖然相對較少，但是建立了包括預(yù)防、合法程序、個人權(quán)利等在內(nèi)的多維度規(guī)制框架，對于重點問題都有所涉及。在未來落地的過程中，還需要通過相應(yīng)配套規(guī)則的建立和執(zhí)法活動的開展進一步細化?！敝袊嗣翊髮W(xué)法學(xué)院未來法治研究院執(zhí)行院長、中國法學(xué)會網(wǎng)絡(luò)與信息法學(xué)研究會副秘書長張吉豫表示。

免于接受自動化決策，是個人信息保護法賦予公民的權(quán)利

“為保證良好的用戶體驗，盡可能地減少與您無關(guān)的廣告對您造成的侵擾，我們一直在改進和優(yōu)化廣告推薦機制。您可以選擇對不感興趣的標簽進行為期6個月的關(guān)閉。選擇關(guān)閉部分興趣類別后，不會停止您的信息收集，但是，所收集的信息都不會用于向您推薦個性化廣告內(nèi)容。”淘寶APP將推送廣告劃分為“創(chuàng)意禮品”“廚房用品”“園藝生活”“糧油米面”等50個類別，用戶只需要點擊類別按鈕，便可以停止接收這一類別的個性化廣告推薦。

通過自動化決策方式向個人進行信息推送、商業(yè)營銷，應(yīng)當向個人提供不針對個人特征的選項或便捷的拒絕方式，這是個人信息保護法關(guān)于互聯(lián)網(wǎng)平臺自動化決策的明確規(guī)定?！斑@一規(guī)定是2019年1月1日起施行的《中華人民共和國電子商務(wù)法》‘電子商務(wù)經(jīng)營者根據(jù)消費者的興趣愛好、消費習(xí)慣等特征向其提供商品或服務(wù)搜索結(jié)果的，應(yīng)當同時向該消費者提供不針對其個人特征的選項這一條款的延續(xù)，同時建立了使個人擁有免于接受自動化決策權(quán)利的機制?！睆埣フf。

在張吉豫看來，商業(yè)廣告進行個性化推送有合理、正當?shù)木売桑怯纱藥淼摹按髷?shù)據(jù)殺熟”“信息繭房”等問題也確實受到社會公眾熱議，并得到立法部門的高度關(guān)注?！霸诮?jīng)過討論達成共識的基礎(chǔ)上，可以將廣告推送、商業(yè)營銷確立為一種特殊情況。個人信息保護法的相關(guān)規(guī)定，是針對這種特殊情況使個人免于接受自動化決策的規(guī)則?！?/p>

而提供不針對個人特征的選項和提供便捷的拒絕方式，是法律規(guī)則列明的、在自動化決策中實現(xiàn)個人信息保護的兩條可行路徑。張吉豫認為，相比直接拒絕，提供不針對個人特征的選項保留了信息推薦的可能性，二者適用于不同的應(yīng)用場景?！氨热缭诟鶕?jù)個人信息決定能否發(fā)放貸款的場景下，不針對個人特征的計算機算法設(shè)計就不太具有可行性。但是在商業(yè)營銷等信息推送情形下，就存在推送不針對個人特征信息的可能性，只是這種不針對個人特征的推薦，個人的歡迎度或許并不高?！?/p>

張吉豫表示，個人信息保護法的這一機制設(shè)計有助于促進不同算法間的競爭。“??一方面是推送針對個人特征的信息，另一方面是推送??不針對個人特征的信息。如果個人信息保護法有效實施，不僅能夠?qū)︶槍€人特征的算法起到修正作用，也能夠?qū)φ幱诎l(fā)展過程中的算法設(shè)計起到推進作用?！?/p>

關(guān)于個人對以自動化決策方式推送信息的拒絕，個人信息保護法明確：通過自動化決策方式作出的決定，如果將對個人權(quán)益產(chǎn)生重大影響，個人有權(quán)要求個人信息處理者予以說明，并有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定?！皩€人權(quán)益有重大影響的決定，個人信息保護法雖然沒有進行明確，但是結(jié)合學(xué)界意見，這些決定應(yīng)當包含兩個方面：一是對法律權(quán)利或法律效果有明確影響的，二是??對個人經(jīng)濟地位、社會地位、長期評價等可能產(chǎn)生影響的。在法律落實過程中，個人信息處理者提供的說明必須是對決策有意義的信息，??而不能是簡單、泛泛的電商信息。”張吉豫分析道。

??引入人工干預(yù)，可以增強自動化決策對人的關(guān)懷

保障個人真正獲得拒絕自動化決策的??權(quán)利，是個人信息保護法關(guān)于自動化決策條款最重要的設(shè)計目的之一。個人信息保護法明確，個人有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。

“這就需要給條款中‘僅通過自動化決策的方式一個恰當?shù)慕忉專荒懿扇—M義的解釋。”張吉豫表示，如果有一個人工參與到??自動化決策過程中就視之為??不是僅通過自動化決策方式，條款可能被架空?！氨热纾瑢λ惴Q策??的結(jié)果只是人工簡單復(fù)核一遍，這就不能認為人工對決策過程產(chǎn)生了實際影響，而仍然應(yīng)當視之為??通過自動化決策方式作出的決定?！?/p>

在張吉豫看來，??引入人工干預(yù)可以增強自動化決策對人的關(guān)懷。“引入對決策結(jié)果產(chǎn)生實際影響的人工干預(yù)不僅會提升算法的準確度，更重要的是，在決策中加入人的判斷可以體現(xiàn)出人格尊嚴?！?/p>

那么，??引入人工干預(yù)是否會影響自動化決策效率，增加決策的不確定性，或者導(dǎo)致決策結(jié)果不公正的情況出現(xiàn)？對此，張吉豫表示，在尚處于智能設(shè)備初期階段的當下，計算機算法本身仍然存在很大的改進與提升空間?！叭斯じ深A(yù)環(huán)節(jié)的引入，其實是算法多元治理的一個必要環(huán)節(jié)，這也能夠為算法的改進提供??一個有益途徑。算法在現(xiàn)階段一些生活典型場景的應(yīng)用中，其實都存在一定程度的人工干預(yù)。引入人工干預(yù)，可以為自動化決策提供合理的補充，也是切實落實保障個人免于接受自動化決策的可行途徑?！?/p>

張吉豫認為，個人信息處理者在事前進行個人信息保護影響評估時，就應(yīng)當考慮未來如果個人權(quán)益受到重大影響應(yīng)當提供的說明與解釋，引入人工干預(yù)則可以為此提供更多保障。“個人免受自動化決策權(quán)益的保障，應(yīng)該從個人信息保護影響評估階段??就開始建立。建立人工干預(yù)機制，匹配建立情況分析說明機制和根據(jù)個人事宜進行考察改進的機制，都是在個人信息保護影響評估環(huán)節(jié)就應(yīng)當著重開始設(shè)計的?！?/p>

個人信息保護影響評估也涉及個人信息法要求的決策透明、結(jié)果公平公正等，對此都應(yīng)當進行相應(yīng)的設(shè)計。“這一環(huán)節(jié)不僅包括利用個人信息進行自動化決策會對個人信息權(quán)益產(chǎn)生怎樣的影響、面臨何種風(fēng)險等，企業(yè)是否??采取了適當、??有效的風(fēng)險處理機制也應(yīng)當包含在內(nèi)?！睆埣フf。