社會性異常算法及其對數(shù)字經(jīng)濟的影響

摘要：違背社會倫理道德和經(jīng)濟可持續(xù)發(fā)展理念、具有較大負外部性的算法，對數(shù)字經(jīng)濟文明建設(shè)和社會安全穩(wěn)定構(gòu)成了日益明顯的挑戰(zhàn)。面對大數(shù)據(jù)殺熟、智能監(jiān)工、惡性推薦等具有社會性異常價值傾向的算法產(chǎn)物，法律需要及時介入調(diào)整，確保科技倫理、技術(shù)正義和法治原則在數(shù)字經(jīng)濟體系中的應(yīng)有地位。

關(guān)鍵詞：算法;數(shù)字經(jīng)濟;影響;法律規(guī)制

算法是數(shù)字經(jīng)濟的重要基礎(chǔ)，甚至被認(rèn)為是智能社會的靈魂掌舵者。也正因此，被社會性異常算法主導(dǎo)的數(shù)字化生存體系，將會累積巨大的技術(shù)與社會風(fēng)險，法律需要對其及時關(guān)注并有效介入調(diào)整，從而維護正常、健康的數(shù)字社會秩序。

一、社會性異常算法的概念與表現(xiàn)

算法是企業(yè)獲取市場競爭力的一種重要技術(shù)工具。在信息時代，算法主要是指信息系統(tǒng)解決問題時所需要遵循的一系列規(guī)則、指令和程序，形象地講，就是“機器解決問題”時所依據(jù)的一套系統(tǒng)化策略機制或策略集合。社會性異常算法是指看似符合經(jīng)濟理性人邏輯和計算機運算邏輯，但實際上卻是具有顯著負外部性（即帶來巨大社會成本）甚至社會破壞性的價值失衡型算法。近年來，社會性異常算法在數(shù)字營銷、數(shù)字服務(wù)、數(shù)字交易等領(lǐng)域攻城略地、甚囂塵上，對市場的可持續(xù)發(fā)展和社會穩(wěn)定造成了嚴(yán)重的不良影響。具體表現(xiàn)包括：

（一）大數(shù)據(jù)殺熟。相關(guān)算法根據(jù)網(wǎng)絡(luò)用戶的消費歷史、收入水平、職業(yè)領(lǐng)域、硬件品牌、所在地域等，呈現(xiàn)和推薦不同的產(chǎn)品價格，用低價吸引新客戶消費，用高價榨取老客戶利潤。網(wǎng)店購物、在線旅游訂票、app打車等領(lǐng)域多次暴露這類問題，引發(fā)了普遍的社會不滿與擔(dān)憂，并引發(fā)了消費者、企業(yè)和監(jiān)管部門的博弈“持久戰(zhàn)”。

（二）智能監(jiān)工。相關(guān)算法根據(jù)數(shù)字追蹤器實時記錄的物流倉儲部門員工從貨架上挑選與打包貨物的速度，判斷員工的工作效率，并在此基礎(chǔ)上生成解雇與否的指令;或者根據(jù)電子地圖上的理論距離，嚴(yán)格控制外賣騎手的行駛路線與送達時間，并據(jù)此生成關(guān)于超時罰款的處分結(jié)論?！按蚬ふ弑焕г谒惴ɡ铩眴栴}已經(jīng)成為數(shù)字就業(yè)領(lǐng)域的巨大困擾。

（三）惡性推薦。相關(guān)算法優(yōu)先呈現(xiàn)向網(wǎng)絡(luò)搜索引擎公司繳納了推廣費的醫(yī)療診所，全然不顧消費者安全，導(dǎo)致了“莆田系醫(yī)院騙錢索命”等一系列惡果;或者根據(jù)用戶在線歷史痕跡，反復(fù)向用戶推薦相關(guān)主題的文章、視頻，向青少年推薦過度娛樂化的不良信息，刻意制造傳播障礙，影響不同群體價值觀的形成，對網(wǎng)絡(luò)環(huán)境造成破壞。

此外，在網(wǎng)絡(luò)文學(xué)、網(wǎng)絡(luò)影視、網(wǎng)絡(luò)銷售、網(wǎng)絡(luò)評比等領(lǐng)域，相關(guān)算法助長了惡意刷分、虛構(gòu)播放量、好評與銷售額造假、花錢打榜等破壞市場正當(dāng)競爭的行為。而許多交不起推廣費用的網(wǎng)店、小微企業(yè)、個人創(chuàng)作者，則無法獲得推薦、流量或靠前的排名，其生存和發(fā)展受到很大影響。

二、社會性異常算法對數(shù)字經(jīng)濟的影響

算法的作為與不作為現(xiàn)象共存，對數(shù)字經(jīng)濟發(fā)展的負面影響日益顯現(xiàn)。從實踐來看，算法涉及消費安全、勞動安全乃至產(chǎn)業(yè)安全、社會安全。從理論上看，社會性異常算法在很大程度上已經(jīng)成為一種半公開半隱秘的社會財富搜集、獲取（奪?。?、轉(zhuǎn)移與積累工具，牽動著社會的敏感神經(jīng)。因此，它既具有潛在的經(jīng)濟與政治雙重屬性，又存在明顯的道德風(fēng)險與法律風(fēng)險，在風(fēng)險累積到一定程度后，可能會引發(fā)相當(dāng)規(guī)模的社會問題，導(dǎo)致社會矛盾爆發(fā)。

（一）破壞數(shù)字經(jīng)濟的社會基礎(chǔ)。社會性異常算法容易導(dǎo)致消費者對數(shù)字技術(shù)喪失信任、導(dǎo)致勞動者對科技進步產(chǎn)生厭惡，制造消極情緒和不穩(wěn)定因素，從而使得數(shù)字經(jīng)濟喪失和諧穩(wěn)定的外部發(fā)展環(huán)境，陷入基于技術(shù)性強迫的社會性緊張之中。

（二）沖擊經(jīng)濟法律秩序?！八惴湘i”“每時每刻須勞動”等數(shù)字經(jīng)濟領(lǐng)域的“996”現(xiàn)象，對勞動法、社會保障法等造成了重大沖擊，就業(yè)保護、勞動者休息權(quán)、公民健康權(quán)等制度被“技術(shù)性架空”，不利于人力資源可持續(xù)養(yǎng)護與開發(fā)。

（三）導(dǎo)致數(shù)字經(jīng)濟秩序的控制權(quán)轉(zhuǎn)移?！安恢v道德者獲利”“投機取巧者勝出”這類經(jīng)營哲學(xué)如果在數(shù)字經(jīng)濟領(lǐng)域大行其道，將催生不計后果的商業(yè)逐利沖動和資本擴張風(fēng)險，不僅使科技偏離善治軌道，更會嚴(yán)重侵蝕數(shù)字經(jīng)濟的制度性根基，最終在算法綁架下，數(shù)字經(jīng)濟秩序的實際控制權(quán)將可能被完全置于資本手中，而游離于政府監(jiān)管之外，進而政府在宏觀調(diào)控與行政監(jiān)管領(lǐng)域作用式微、應(yīng)對數(shù)字經(jīng)濟風(fēng)險能力降低。

三、法律規(guī)制建議

算法的社會性異常在本質(zhì)上是市場主體對最大化商業(yè)利潤的超越道德底線的追求所導(dǎo)致的市場失靈和社會規(guī)則破壞，是資本無序擴張的一種技術(shù)化了的社會性擠壓效應(yīng)的表現(xiàn)。算法涉及法律權(quán)利與倫理道德，對社會性異常算法的規(guī)制實質(zhì)上是制度、社會、人性和資本的博弈。

（一）將法治思維與制度框架納入算法的底層架構(gòu)，將“算法正義”作為數(shù)字經(jīng)濟法律制度設(shè)計的基本目標(biāo)與要求。一方面，法律可以成為算法的組成部分，算法不得違反法律的強制性規(guī)定（如勞動權(quán)益、隱私保護等），也不得違背社會公德、破壞公序良俗。另一方面，法律在數(shù)字經(jīng)濟領(lǐng)域的技術(shù)性解釋或具體實施需要依賴正當(dāng)算法。正當(dāng)算法是受法律認(rèn)可或保護的算法，彰顯了“算法正義”。

（二）將性質(zhì)惡劣或引發(fā)嚴(yán)重后果的社會性異常算法編制與使用行為納入執(zhí)法打擊范圍，確保算法在社會心理與秩序可承受的限度內(nèi)運行。可以逐步將嚴(yán)重的算法歧視、算法欺詐認(rèn)定為違法行為，特別是要涵蓋那些容易引發(fā)網(wǎng)絡(luò)公共群體事件、嚴(yán)重扭曲正常財富分配機制（如過度克減勞動者權(quán)益）的算法;將嚴(yán)重的算法詐騙（如惡意虛構(gòu)點擊量騙取巨額廣告費）、算法加害（如強迫外賣騎手從事公路逆行等危險作業(yè)活動）認(rèn)定為犯罪行為。

（三）構(gòu)建算法互動規(guī)制體系，綜合發(fā)揮政府監(jiān)督、技術(shù)監(jiān)督、消費者監(jiān)督、社會輿論監(jiān)督等的作用。設(shè)立專門政府機構(gòu)對算法的社會性異常運行活動進行監(jiān)管，引入人工與智能混合技術(shù)對虛擬世界的算法運行情況進行監(jiān)測預(yù)警，建立向消費者開放的算法違法線索在線投訴舉報平臺，動員新聞媒體和公共輿論對算法違規(guī)違法問題進行揭露與批判，推動算法在良法善治軌道內(nèi)運行。

參考文獻：

[1]丁曉東.論算法的法律規(guī)制[J].中國社會科學(xué)，2020（12）：138-159+203.

[2]鄒舉. 算法歧視法律規(guī)制的路徑探析[N]. 中國社會科學(xué)報，2020-11-11（003）.

[3]王懷勇.金融科技的算法風(fēng)險及其法律規(guī)制[J].政法論叢，2021（01）：105-116.

作者簡介：

白續(xù)輝（1982- ），男，山西興縣人，博士，副研究員，研究方向：數(shù)字經(jīng)濟治理等。

梧州市人民政府發(fā)展研究中心? 白續(xù)輝