大數(shù)據(jù)背景下算法失衡的挑戰(zhàn)與應(yīng)對

摘要：在大數(shù)據(jù)時代，算法的廣泛運用給消費者權(quán)益帶來了新挑戰(zhàn)。盡管現(xiàn)有法律提供了一定保護，但仍有局限。因此，需要采取更多措施來保護消費者權(quán)益。政府應(yīng)加強算法監(jiān)管，確保其公平和透明。企業(yè)應(yīng)探索減少算法偏見和歧視的技術(shù)手段，并加強數(shù)據(jù)安全保護。消費者也應(yīng)提高對算法的認知和意識，了解自己的權(quán)益和保護方式。只有這樣，我們才能更好地應(yīng)對算法挑戰(zhàn)，保護消費者權(quán)益。

關(guān)鍵詞：算法失衡；算法規(guī)制；算法黑箱；司法規(guī)制困境

中圖分類號：F25文獻標識碼：Adoi：10.19311/j.cnki.16723198.2024.15.011

1國內(nèi)算法法律規(guī)制發(fā)展的現(xiàn)狀

1.1《個人信息保護法》與國內(nèi)算法法律規(guī)制的發(fā)展

《個人信息保護法》施行至今，已逾兩載。在此期間，我國對個人信息保護的監(jiān)管力度持續(xù)加大，法律體系也日趨健全?！敖刂?020年12月，我國網(wǎng)民規(guī)模達989億，互聯(lián)網(wǎng)普及率達704%?！眰€人信息保護面臨著挑戰(zhàn)，且低文化網(wǎng)民數(shù)量多，初中、小學(xué)及以下網(wǎng)民占比分別為405%和192%，對網(wǎng)絡(luò)個人信息了解不足。僅188%的人受過85PVZ6VfQDfcR3Q+2xEN6ggm3WzAaQzLyCxE+7Pi+5o=大專及以上教育，對網(wǎng)絡(luò)個人信息了解有限。

《個人信息保護法》對“個人信息”的定義進行了完善，與《民法典》和《網(wǎng)絡(luò)安全法》中的定義不同，明確經(jīng)匿名化處理后不屬于個人信息。該法第24條增加了算法平臺對重要事項的說明義務(wù)，旨在制約算法權(quán)力擴張。此外，我國還通過規(guī)定個人信息的采集和使用等方面，對算法使用實施間接限制，實現(xiàn)多層次的算法治理。

1.2我國基層司法判例現(xiàn)狀

在大學(xué)生創(chuàng)新創(chuàng)業(yè)項目調(diào)研期間，項目成員接觸了大量新型案件。這些案件涉及隱私權(quán)和信息安全侵犯以及原告信息被平臺公開等。從請求權(quán)基礎(chǔ)角度看，平臺沒有合同或類合同請求權(quán)，但當(dāng)事人擁有信息自決請求權(quán)。根據(jù)民法典1037條，當(dāng)事人可以申請更正信息，如果平臺處理不及時，則構(gòu)成侵權(quán)行為?！秱€人信息保護法》出臺后，使用者維權(quán)意識增強。新型案件中，個人對平臺的訴訟案件開始出現(xiàn)，當(dāng)事人認為平臺不應(yīng)收集過多個人信息，在法院調(diào)研期間，我們發(fā)現(xiàn)大平臺都進行了個人信息模塊更新，但功能仍需細化。比如APP將讀取設(shè)備內(nèi)信息作為必選條件，不同意就無法使用APP。這種授權(quán)看似給用戶主動權(quán)，實際上仍是強制使用個人信息，且無法關(guān)閉，這種授權(quán)為算法失衡現(xiàn)象提供了土壤。

1.3算法對個人用戶的滲透影響

算法在現(xiàn)代生活中占有重要地位，對個人和社會產(chǎn)生影響。新經(jīng)濟模式下，算法被用于評估個人社會信用和標簽化個體。作為信息中介的算法，還影響著人們對信息的獲取。我們小組通過問卷調(diào)查收集了大量數(shù)據(jù)，發(fā)現(xiàn)算法在大數(shù)據(jù)時代已深入人們的日常生活。

在調(diào)研對象的社會身份里，將近一半的調(diào)研對象是大學(xué)生，高校教師、法律工作者、公共專業(yè)類或者會計專業(yè)類人士占總數(shù)的4成、退休人員、中學(xué)生、其他占比1成。

調(diào)研圖2顯示，網(wǎng)購平臺已成為人們生活中的必需品，因此，如何把控好平臺對個人用戶的數(shù)據(jù)收集變得至關(guān)重要。同時，圖3顯示，超過一半的用戶因為需要使用app而不得不讓渡個人信息。因此，探索算法的規(guī)制路線成為大數(shù)據(jù)時代的首要任務(wù)。

最后，我們在訪談“對電子個人信息被侵權(quán)的現(xiàn)象有什么意見想法”中，得到以下這些建議：加強個人隱私的保護，加大對個人信息使用范圍的監(jiān)管，明晰使用企業(yè)的責(zé)任，倡議用戶不要亂點鏈接，系統(tǒng)減少個性化推薦等。

2歐美日算法法律規(guī)制的發(fā)展及經(jīng)驗借鑒

2.1歐美日的個人信息保護發(fā)展

歐盟在2019年發(fā)布《算法責(zé)任與透明治理框架》，要求公共部門將各責(zé)任主體帶進算法評估機制，對私營部門使用分級管理方案；2021年4月發(fā)布《歐洲議會和理事會關(guān)于制定人工智能統(tǒng)一規(guī)則（人工智能法案）和修訂某些歐盟立法的條例》，對人工智能系統(tǒng)定義，表明算法失衡規(guī)制對象不僅包括黑箱AI，還包括傳統(tǒng)邏輯推理、線性回歸等算法，對私營部門作系統(tǒng)性管理規(guī)定。

美國在立法方面不斷完善算法的監(jiān)管機制。早在1914年所制定的《聯(lián)邦貿(mào)易委員會法》中指出，F(xiàn)TC有權(quán)“防止商業(yè)中或影響商業(yè)的不公平的競爭方法和不公平或欺騙性的行為或做法”。該法案明確了責(zé)任歸屬，也為FTC有權(quán)介入算法的監(jiān)管提供了依據(jù)。2017年，全美第一部《算法問責(zé)法》在紐約市通過；2019年，《2019年算法問責(zé)法案》指示FTC制定評估規(guī)則，要求各公司評估自身算法的缺陷；同年，《過濾泡沫透明度法案》則以AI算法（系統(tǒng)）設(shè)計相關(guān)要求的視角去規(guī)制算法；2022年，美國國會提出的《算法問責(zé)法案》相較于2019年的法案，仍在《聯(lián)邦貿(mào)易委員會》框架內(nèi)設(shè)計，但更加精細化地對算法進行監(jiān)管。

1988年，日本制定了第一部有關(guān)數(shù)據(jù)安全的法律《行政機關(guān)持有的計算機處理個人信息保護法》，但此法僅針對行政機關(guān)；2001年，出臺了提出保護用戶信息安全的《高度信息通信網(wǎng)絡(luò)社會形成基本法》；2021年，頒布了從各方面對數(shù)字平臺進行了規(guī)劃的《數(shù)字社會形成基本法》；日本最新的《改善特定數(shù)字平臺上的交易的透明度和公平性法》是以事中監(jiān)管式和事后救濟式的視角出發(fā)，通過日本經(jīng)濟產(chǎn)業(yè)省部檢查年度報告以及用戶報告去監(jiān)管特定數(shù)字交易平臺。

2.2經(jīng)驗借鑒

2.2.1治理主體：責(zé)任主體明確，多元化

歐盟在《通用數(shù)據(jù)保護條例》中授予各數(shù)據(jù)主體可獲取相關(guān)信息的權(quán)限；美國明確責(zé)任部門FTC對算法影響評估進行監(jiān)管，以及各企業(yè)應(yīng)承擔(dān)的職責(zé)；日本在2019年通過內(nèi)閣發(fā)布文件，由政府各責(zé)任部門對其所負責(zé)板塊進行監(jiān)管。

2.2.2治理工具：算法影響評估

算法影響評估要求設(shè)計或運營算法的主體闡述算法系統(tǒng)的技術(shù)特征和實現(xiàn)目標，識別潛在風(fēng)險，準備補救措施。歐盟和美國的《算法責(zé)任與透明治理框架》與《2019年算法問責(zé)法案》，前者提出了算法評估機制，后者明確了算法評估規(guī)則，二者都從算法影響評估入手，從目的、設(shè)計、數(shù)據(jù)及個人信息獲取安全問題等多方面、多維度對算法進行規(guī)制。

2.2.3治理對象：多層次、多方面、多角度

歐盟通過立法規(guī)定將公共部門和私營部門列入算法治理監(jiān)管范圍內(nèi)，要求各部門承擔(dān)相應(yīng)責(zé)任；美國紐約通過第一部《算法問責(zé)法》，其對政府及司法部門進行算法監(jiān)管，而在《2019年算法問責(zé)法案》中則是囊括網(wǎng)絡(luò)平臺的各公司；日本最新的《改善特定數(shù)字平臺上的交易的透明度和公平性法》是以事中監(jiān)管式和事后救濟式的視角出發(fā)，通過日本經(jīng)濟產(chǎn)業(yè)省部檢查年度報告以及用戶報告去監(jiān)管特定數(shù)字交易平臺。

3現(xiàn)有電商平臺算法規(guī)制實踐之困境

隨著算法權(quán)力的擴張，導(dǎo)致信息不平等和算法失衡等問題。為此，需要對算法進行有效的規(guī)制。當(dāng)前的算法規(guī)制方式包括算法透明、反算法歧視和個人數(shù)據(jù)賦權(quán)三大類，但這些手段在實際應(yīng)用中存在局限性，難以全面適應(yīng)現(xiàn)實需求。

3.1算法透明的規(guī)制方式可行性與效益不足

針對算法黑箱的問題，提高算法透明度有助于降低不確定性，但實施面臨挑戰(zhàn)。公開算法代碼與知識產(chǎn)權(quán)保護存在沖突，企業(yè)如淘寶、拼多多、京東等將其算法視為核心競爭力并采取措施確保機密性，所以公開算法可能影響企業(yè)競爭優(yōu)勢。2019年，日本政府試圖立法要求亞馬遜等平臺公開其A9推薦算法的具體內(nèi)容和運作機制，但實施過程中面臨阻力，未能如愿。于消費者，公開算法無實質(zhì)性意義，因為披露技術(shù)秘密僅涉及保密內(nèi)容，而算法黑箱與商業(yè)秘密的原理存在差異，主要源于編程設(shè)計的復(fù)雜性。因此，對不具備專業(yè)知識的消費者公開算法源代碼和架構(gòu)無實質(zhì)性益處。

3.2反算法歧視規(guī)制措施未能根治問題

個性化推薦算法的歧視主要分為算法人格歧視和算法價格歧視。本文將重點探討算法價格歧視，它涉及到消費者權(quán)益。電商平臺利用個性化推薦算法搜集消費者信息，為其賦予標簽并進行分類，根據(jù)消費習(xí)慣、能力和身份特征等因素進行自動化決策，實施定向內(nèi)容推送和差異化定價策略。

雖然我國法律框架下已有規(guī)范實踐，但實際效果不理想。電商平臺現(xiàn)在采用更難以察覺的方式進行“價格殺熟”，例如針對特定用戶發(fā)放定向優(yōu)惠券、實施價格組合等策略，導(dǎo)致不同用戶購買同一商品或服務(wù)的價格差異過大且難以察覺，同時也規(guī)避了相關(guān)法律規(guī)范的要求，使得法律難以有效實施監(jiān)管。

3.3個人數(shù)據(jù)賦權(quán)規(guī)制的成效尚不顯著

近年來，全球各國圍繞個人數(shù)據(jù)賦權(quán)核心，強化個人信息保護及對算法的約束。歐盟和德國分別頒布了《通用數(shù)據(jù)保護條例》（簡稱GDPR）和《聯(lián)邦數(shù)據(jù)保護法》等法律法規(guī)，賦予用戶知情選擇權(quán)、刪除請求權(quán)、被遺忘權(quán)等多項權(quán)利。個人數(shù)據(jù)賦權(quán)模式既明確了用戶的主體權(quán)利，又為數(shù)據(jù)收集、處理者及算法持有者設(shè)定了相應(yīng)責(zé)任，要求其在協(xié)助個人行使數(shù)據(jù)權(quán)利的同時，保障數(shù)據(jù)安全。

我國《民法典》和《個人信息保護法》也確立了個人信息受法律保護原則和“同意+告知”的個人信息利用模式，賦予個人算法解釋請求權(quán)和算法排除權(quán)。然而，實際操作中個人數(shù)據(jù)賦權(quán)對算法的規(guī)制作用有限，用戶對隱私風(fēng)險的認知也有限，企業(yè)利用優(yōu)勢地位實施“選擇綁架”，用戶反對權(quán)無法真正落實，且個人數(shù)據(jù)賦權(quán)面臨救濟困境。

4電商平臺算法困境的治理路徑

在大數(shù)據(jù)時代，隨著算法應(yīng)用范圍的不斷拓展，無序發(fā)展可能導(dǎo)致的風(fēng)險和危害將進一步加劇。為此，我們應(yīng)秉持發(fā)展與監(jiān)管并重的原則，一方面積極推動算法相關(guān)技術(shù)的進步，另一方面強化對算法的監(jiān)管及對算法所引發(fā)困境的治理。

4.1算法公開不如特定監(jiān)管

算法公開本質(zhì)是為了防治算法黑箱的問題，大多數(shù)消費者難以發(fā)現(xiàn)在消費過程中網(wǎng)站的“殺熟”行為，僅僅意識到自身消費或許與周圍新用戶的金額相比較高，但并不理解其核心問題，更不知維護的權(quán)利是什么，去哪維權(quán)以及如何維權(quán)。因此，與其將算法給看不懂的人看，不如政府發(fā)揮職能，在市場監(jiān)督局內(nèi)部讓專門的人員對算法進行定期審查，吸收日本讓日本經(jīng)濟產(chǎn)業(yè)省部對各企業(yè)的算法報告進行審查的制度，通過事中監(jiān)管和事后救濟的手段去治理算法黑箱問題。

4.2算法歧視問責(zé)

對于反算法歧視規(guī)制會導(dǎo)致算法歧視“隱蔽化”的問題，算法歧視在實踐中的問題不可估量且屢禁不止，企業(yè)為爭奪經(jīng)濟效益對群眾利益進行損害，被發(fā)現(xiàn)也只是不了了之，所以，應(yīng)當(dāng)建立相關(guān)政策對算法歧視問題進行處罰，可以借鑒美國的《算法問責(zé)法案》，對發(fā)生了算法歧視的企業(yè)進行罰款整改等行政處罰，通過事后救濟和后果震懾的方式對算法歧視進行規(guī)制。

4.3個人數(shù)據(jù)賦權(quán)與倫理結(jié)合

個人數(shù)據(jù)賦權(quán)需要動態(tài)調(diào)控和倫理約束，為算法高效運作創(chuàng)造條件。過去數(shù)十年間，算法進展有限，提高準確率主要依賴于大數(shù)據(jù)的發(fā)展。大數(shù)據(jù)核心特征為全面性、復(fù)雜性和關(guān)聯(lián)性。因此，部分法律原則如目的限制原則和限期存儲原則不適應(yīng)大數(shù)據(jù)時代算法運作規(guī)律。

面臨大數(shù)據(jù)時代的算法挑戰(zhàn)，個體難以有效行使多項數(shù)據(jù)權(quán)利。在這一背景下，法律應(yīng)更多地對數(shù)據(jù)控制者和處理者履行職責(zé)，而非僅依賴個人數(shù)據(jù)控制。過度依賴個人對數(shù)據(jù)的控制可能導(dǎo)致個體陷入無法有效維護合法權(quán)益的困境，同時數(shù)據(jù)收集和處理者也可能失去對數(shù)據(jù)與算法進行有效治理的積極性。

為實現(xiàn)通過個人數(shù)據(jù)進行算法治理的實際效果，有必要將責(zé)任倫理融入數(shù)據(jù)收集、流通和處理的各個環(huán)節(jié)，從而推動算法治理。在此基礎(chǔ)上，企業(yè)和個人共同參與數(shù)據(jù)與算法的協(xié)同治理，既能確保個人權(quán)益得到保障，又能促進數(shù)據(jù)資源的合理利用和共享。

5結(jié)語

在大數(shù)據(jù)時代，算法與生活緊密相連。面對算法，我們應(yīng)積極應(yīng)對其問題和挑戰(zhàn)，對于算法失衡產(chǎn)生的新問題，我們不能直接用理論處理案件，而應(yīng)在案件中總結(jié)共性，結(jié)合我國國情進行處理，為構(gòu)建法治社會貢獻力量。

參考文獻

[1]丁曉東.論算法的法律規(guī)制[J].中國社會科學(xué)，2020，（12）：138159+203.

[2]喻玲.算法消費者價格歧視反壟斷法屬性的誤讀及辨明[J].法學(xué)，2020，（09）：8399.

[3]梅傲，李坤佳.日本數(shù)據(jù)安全治理制度述評及其啟示[J].情報理論與實踐，2023，46（07）：195200.

[4]張惠彬，何易平.平臺算法監(jiān)管的困境與出路——基于美國算法監(jiān)管模式的研究[J/OL].科學(xué)學(xué)研究：125[20231210].

[5]曾雄，梁正，張輝，等.歐美算法治理實踐的新發(fā)展與我國算法綜合治理框架的構(gòu)建[J].電子政務(wù)，2022，（07）：6775.