算法潛意識操縱的理論問題和規(guī)制標準

蘇新建 程佳琪

一、問題的提出

隨著算法應用的普及，有很多學者以區(qū)分算法操縱類別為出發(fā)點對算法操縱的規(guī)制路徑進行研究，然而操縱的損害結果這一標準在分類過程中鮮少被提及。算法操縱包括“抽象的操縱”，即對個人自主性的傷害，也包括“具體的操縱”，如大數據殺熟[1]。抽象操縱存在諸多方式與手段，潛意識操縱便為其中一種。潛意識屬于人類思維活動，其核心特征在于無法為人察覺。通過潛意識操縱這一方式，算法操縱剝奪了個人的自主性與決策的參與性，具有損害性危險性。如何引導潛意識技術的正向使用并避免算法潛意識操縱行為所帶來的風險是值得關注和研究的重要課題。

對于算法潛意識操縱這類應被法律絕對禁止的行為，目前缺少完整的法律規(guī)制。在“潛意識操縱”禁令實踐樣態(tài)中，歐盟、美國和中國都試圖通過原則性立法規(guī)范“潛意識技術”。然而，此類立法仍未直擊算法潛意識技術的根源問題，首先，權力主體隱藏在技術之后，面對冷冰冰的機器，個人無法意識到其行為受到操縱，難以對權益受侵害這一事實作出反饋，對此，法律應當如何介入？其次，法律介入情況下，純粹結果式導向的實體規(guī)制是否能真正起到法律的指引作用，引導背后的權力主體停止使用相關技術？最后，傳統(tǒng)程序正義對主體規(guī)制的補充作用在算法技術背景下是否依然可以實現？這些問題都是未來需要直面和解答的。

二、算法潛意識技術的風險辨識

算法潛意識操縱通過算法技術與潛意識技術得以實現，潛意識技術背后關乎“意識”與“潛意識”的神經科學：在外界刺激未達致一定閾值前，個人對刺激有感受但卻不會引發(fā)個人對其的知覺，即不會意識到該刺激的存在，該領域內屬于潛意識范疇；直到刺激水平達致一定閾值，個人才能意識到其存在，也即進入意識的范疇[2]。潛意識技術便是利用這個優(yōu)勢向個人發(fā)送刺激水平在潛意識域內的信息，進而影響個人的行為。由于目的不同，技術的實踐樣態(tài)有正面影響也有負面影響，算法技術是通過算法使?jié)撘庾R操縱成為可能的一種數字技術，原本的潛意識影響較為局限，但結合了算法技術的高效性，其影響范圍更為廣泛，效果更為顯著。

（一）算法潛意識技術的實踐樣態(tài)

潛意識操縱的實踐具有兩種形態(tài)，一是由算法設計者通過“暗黑模式”觸發(fā)認知操縱的“自上而下”形態(tài)；二是由算法通過算法黑箱與個人的潛意識進行交流實現操縱目的的“自下而上”形態(tài)，可謂“交互模式”?！鞍岛谀Ｊ健敝溉藱C交互領域中，資本方為了獲取最大化利益而采用非道德的數字技術，引導用戶作出會產生不利結果的決策。Harry Brignull最早提出了“暗黑模式”，并指出其16種具體類型①Harry Brignull認為“暗黑模式”包括比較預防（Comparison prevention）、確認羞辱（Confirmshaming）、偽裝廣告（Disguised ads）、假稀缺（Fake scarcity）、虛假社會證明（Fake social proof）、假緊急（Fake urgency）、強制行動（Forced action）、難以取消（hard to cancel）、隱性成本（Hidden Costs）、隱藏訂閱（Hidden subscription）、嘮叨（Nagging）、梗阻（Obstruction）、預選（Preselection）、鬼鬼祟祟（Sneaking）、詭計措辭（Trick wording）、視覺干擾（Visual interference）16種類型。。在算法技術等數字技術背景下，操縱個人變得愈發(fā)容易，例如，在保護隱私權益的過程中產生了一種矛盾，著名的“隱私悖論”指出在理性人假設下個人應當會作出理性披露信息的決定，然而事實上個人聲明的隱私偏好與實際的披露行為存在不一致，換言之，互聯網用戶對其隱私的披露十分重視，卻在同時為了微薄的回報而披露大量的個人信息[3]。這種披露決策并不是單獨作出的，是算法的設計者通過精心設計的內在環(huán)境，以“暗黑模式”的方式來操縱用戶作出其本來不會做的行為[4]。大規(guī)模數字技術的使用在客觀上將人們局限在幾個給出的選擇之中，用戶只能點擊呈現在他面前的按鈕，在一些刻意的設計下，人們以為自己有選擇不同按鈕的自主決策能力，然而其選擇實際已經受到了算法潛意識的操縱。“暗黑模式”通過隱藏、混淆和迷惑，在用戶不知情的情況下，達成潛意識操縱的目的?！鞍岛谀Ｊ健钡乃惴撘庾R操縱是算法背后設計者的歧視與偏見造成的，將他們本身帶有的觀念加入代碼之中，形成與“垃圾進，垃圾出”相似的“偏見進，偏見出”生成機理[5]。例如，TikTok在向13-17歲兒童顯示兩個彈出式通知時所采用的設計方法未能以客觀中立的方式向用戶提供選項，歐洲數據保護局認定TikTok這一設置違反公平原則，并加以行政罰款3.45億歐元[6]。

“交互模式”則建立在算法的“輸入—分析—輸出”機制基礎之上。算法在被給予大量數據的情況下，以代碼為支撐完成深度學習進而在分析過程中形成迭代。在算法設計之初，技術開發(fā)者往往會先設定一個目標，并不斷輸入數據，讓算法完成深度學習以達成最初的目標。在這個過程中，容易出現一種情況：即算法在深度學習完成迭代的過程中抓取到一個高效達成目的的路徑信息——利用與人的潛意識交互的方式。因此，在此種算法偏差的存在前提下，輸出結果最終以與個人潛意識交互的方式引導人作出決策，達成算法潛意識操縱。在該類操縱中，雖然技術開發(fā)者并沒有試圖操縱他人的想法，并且使用了客觀中立的數據，但這些合規(guī)的數據結合之下，算法抓取到了潛意識影響與人的行為之間的聯系，并加深了該聯系，從而對人群決策產生影響，甚至因為算法出眾的高效表現，它所產生影響的能量將大于個案中的潛意識操縱影響。

（二）算法潛意識操縱的理論應對

為證成規(guī)范算法潛意識操縱的必要性，突破其表層形態(tài)，解剖風險可能性，分析算法潛意識操縱行為侵犯的法益，并探析背后具有深層指引意義的價值理念，這其中最顯著的就是程序正義理論。

正當程序作為行為法意義上規(guī)定的一項要求，《布萊克法律辭典》中將其解釋為：“任何權益受到判決結果影響的當事人，都享有被告知和陳述自己意見并獲得聽審的權利?！盵7]自“田永案”以來，正當程序在我國發(fā)展已20余年且卓有成效，實踐中的正當程序之上，是程序正義理論在進行指導，它不僅可用來指引立法方向，同時也在司法實踐中提供補充性適用[8]，在內容上程序正義與正當程序二者具備高度一致性，一般認為合乎程序正義的程序就是正當程序[9]。程序正義理論在不同的時代具有鮮明的時代特征，隨著規(guī)制對象的變化而不斷豐富自身內涵[10]。從程序正義的理論演進道路看，有客觀程序正義和主觀程序正義兩條進路。客觀程序正義理論誕生于實體正義的需求，注重程序的工具合理性，即人們?yōu)榱双@得實質上的結果正義而去遵守程序規(guī)則。主觀程序正義理論采取實證研究方法探索公眾對程序公正性的主觀感受[11]，以形成更讓人感到滿意的程序機制，最終增強人們的守法意識[12]。

從外部看，算法潛意識操縱需要有正當程序來規(guī)制。正當程序原本在于限制權力的無邊界擴張，產生于行政法領域，后在法律實踐中不斷推廣，逐漸在法律的各個領域中都有了正當程序的影子。如今，算法基于深度學習等技術逐漸形成“算法權力”，且算法權力較傳統(tǒng)權力的力量更強，輻射區(qū)域更廣，對個人與群體的影響更甚。數字社會中，算法權力在實質上擁有了控制個人的力量，鑒于其“權力”般的體量，限制權力的濫用、避免權力使用的任意性成為必然[13]。相應的，潛意識操縱作為算法操縱的手段之一，正處于算法權力濫用的范疇之內，對其規(guī)范也具有了必要性和正當性。從內部看，算法潛意識技術具有一定的“程序”特征，卻違背程序正義的價值。廣義的“程序”指一定的結果或狀態(tài)形成之前的一段時間或過程[14]，算法在輸出結果前也是一套邏輯程式的體現，屬于程序的范疇。主觀程序正義要求保障人的在場和主體間的互動，這是對人的尊嚴的保護。杰瑞·馬修提出的“尊嚴理論”同樣支持這一觀點，他認為維護程序的最根本目的在于使那些受裁決影響的人們的尊嚴得到尊重[15]。既有的數據保護法律框架以數據主體的“同意”以及數據處理者的“控制”為核心，數據主體的“同意”是個人數據進入數據處理過程的第一道關卡，而算法潛意識操縱正涉嫌干擾個人的“同意”原則?！巴狻睒酥局鴶祿黧w和數據處理者之間達成了一種合意，即數據主體預期其數據會被數據處理者處理加工，然而在算法潛意識操縱下，這種“同意”不再體現雙方真正的合意。算法潛意識操縱通過干擾個人的“同意”，個人看似自己做出了“同意”的動作，然而這個動作是受到蒙蔽的，個人并沒有充分陳述自己的意見，其尊嚴由此被侵犯，違反主觀程序正義中的四個要求：陳述的機會、決策的中立性、決策者的可信度、對待爭議者的尊重程度[16]。算法潛意識技術的應用不僅容易侵害陳述的機會，而且其本身喪失了中立性，操縱行為對個體的不尊重，讓個體對算法及算法背后的操縱者失去信任，是算法這一新興“程序”對傳統(tǒng)程序正義要求的挑戰(zhàn)[17]。

三、算法潛意識操縱對既有法律的挑戰(zhàn)

算法潛意識操縱不僅具有不符合現有法律理論的風險，更對目前的法律框架提出挑戰(zhàn)。歐盟的立法順從《歐洲人權公約》和《歐盟基本權利憲章》的思路屬于權利保護路徑，主張自上而下保護權利。美國則主要依據《聯邦貿易委員會法案》第5條針對消費者的數據保護問題展開執(zhí)法活動，具有鮮明的普通法系特征。歐盟和美國以截然不同的方式對算法潛意識操縱行為加以規(guī)制，我國雖然沒有在法律中明文指出對算法潛意識操縱行為的規(guī)范，但也可以通過一些法律方法進行解釋。

（一）域外立法框架分析

針對算法潛意識操縱這類侵犯個人的參與性與自主性的行為，歐盟已經進行立法規(guī)制。《歐盟基本權利憲章》第3條第1款規(guī)定每個人都有權利保障他/她的身體健全或心理健全。雖然《歐盟基本權利憲章》中并沒有解釋什么是“心理健全”，但該條款起到了原則性指引作用，且將該條款的解釋余地留給了法院，有學者將“心理健全權”定義為“免受直接和強制的不必要的精神干擾或操縱的權利”，實現了對算法潛意識操縱的規(guī)制[18]。2020年通過的《數字服務法》首次明確提出禁止在線平臺使用欺騙、操縱的設計、組織或操作界面，特別是信息超載、虛假等級制度和阻礙技術等操縱性技術手段扭曲或損害用戶自由和知情權。該法特別指出了需要保護用戶的知情權，是對算法潛意識操縱規(guī)制的進一步發(fā)展。歐盟的《人工智能法案》第5條第1款a項規(guī)定：禁止將部署潛意識技術的人工智能系統(tǒng)投放市場或投入使用，該系統(tǒng)在實質上扭曲人的行為，從而導致或可能導致該人或另一個人的身體或心理傷害。該條款明確指出，對人類的潛意識造成影響進而影響個人的行為的人工智能系統(tǒng)是要被禁止的，其背后的原理就在于“潛意識技術”可能會非法操縱個人的思想，侵犯個人主體性。美國式的規(guī)制則不同，歐盟在規(guī)則制定上有一個統(tǒng)領作用，美國是將重心置于規(guī)則的監(jiān)督與執(zhí)行上。美國聯邦貿易委員會（FTC）根據企業(yè)所做出的關于信息保護的自律性承諾對其行為進行監(jiān)管，以實現對市場的秩序維護。根據《聯邦貿易委員會法案》（FTCA）第 5 條，美國聯邦貿易委員會有權對企業(yè)貿易中不公平行為或欺騙性行為加以監(jiān)督[19]，算法潛意識操縱行為自然也在監(jiān)督的范圍之內。2021年4月，FTC在研討會中重申“暗黑模式”規(guī)制的重要性，并于同年10月，公布一項政策要求企業(yè)不能在訂閱服務中使用暗黑模式，這些舉措皆表明了政府對規(guī)范算法潛意識操縱行為的重視與努力。

（二）我國法律實踐現狀

在我國現有法律實踐中，沒有明確以“算法潛意識操縱”為對象的規(guī)范條款，“潛意識”往往以裁判理由的身份出現，作為說理的一部分，但這里采用的“潛意識”是社會生活的慣常用語。司法實踐中有考量到潛意識的存在，卻并沒有以它為主要說法理由進行判決。本文繼而轉向法律解釋的分析方法，探索現有法律框架中是否可以解釋出規(guī)范算法潛意識操縱行為的規(guī)范。

以隱形廣告為例，廣告商在廣告中加入一些強度在意識閾值以下的刺激，以此進行商品推銷。隱性廣告隨處可見，具有很強的滲透性，出現在電視劇、電影、節(jié)目等多個場景中。1982年，導演史蒂芬·斯皮爾伯格執(zhí)導的《外星人》中，小主角用“里斯”的巧克力吸引外星人，“里斯”巧克力為《外星人》提供100萬美元的宣傳贊助，伴隨電影的熱映，“里斯”糖果的銷量也提高了65%，被視為隱性廣告的一座里程碑。如今實踐中的隱性廣告已經是被規(guī)范后的結果，《中華人民共和國廣告法》第14條規(guī)定，“廣告應當具有可識別性，能夠使消費者辨明其為廣告……通過大眾傳播媒介發(fā)布的廣告應當顯著標明為‘廣告’，與其他非廣告信息相區(qū)別，不得使消費者產生誤解”，防止消費者喪失消費選擇的自主意愿。同時，《中華人民共和國消費者權益保護法》第9條規(guī)定，“消費者享有自主選擇商品或者服務的權利”，也隱含著廣告透明化的要求。以上兩條規(guī)范雖然沒有在字面上提及“潛意識技術”，但蘊含的規(guī)范要求正是在保護消費者的決策自主性，所以完成了對廣告領域中“潛意識技術”的變相規(guī)制。另外，科技部等十部門共同頒發(fā)的《科技倫理審查辦法（試行）》中規(guī)定了需要開展倫理審查復核的科技活動清單，其中包括侵入式腦機接口用于神經、精神類疾病治療的臨床研究以及對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統(tǒng)的研發(fā)?？梢?，潛意識技術明顯包括在內，但是該辦法著重從監(jiān)督角度對技術的應用加以審查，而由于潛意識操縱行為的特殊性，對其審查往往難以實踐。

現存法律規(guī)范都是實體性法律規(guī)范，實體法律規(guī)范的特點在于以結果為導向的行為規(guī)制，這些規(guī)制無法解決算法潛意識操縱的問題。首先，算法潛意識技術對個人的操縱標準難以確認，究竟在什么程度上算達成對一個人的潛意識操縱，每個人的潛意識閾值都不相同，要設定一個固定的標準似乎較難。其次，實體法中所規(guī)定的造成人的身心傷害同樣難于認定，損害結果包括累積危害的個人層面及集體層面，在個人層面，累積危害指“一種產品在消耗更多單位時會對個人產生累積危害”[20]，這些傷害可能會隨著時間的推移而累積，并在低于正常意識水平的情況下發(fā)生，但是因果關系卻難以證明[21]。集體層面的累積危害表現在社會影響上。數字技術對人造成的危害可能微不足道，但會在社會層面形成巨大影響，這種傷害表現間接但影響重大。因此，光是憑借實體規(guī)制無法完全覆蓋立法本意。最后，基于算法的“程序”特點，實體性法律規(guī)范只關注到操縱結果產生后對算法潛意識操縱者的責任，沒有充分保障個人的自主性與參與性，對于個人的基本權利保護仍較為欠缺。

四、算法潛意識操縱規(guī)制的適用方法構造

技術的風險性通常可以通過制度化設計進行規(guī)避，潛意識操縱本身的特殊性要求其規(guī)制方法也具有特殊性，行為入法雖能一刀切式地截斷潛意識操縱的可能，但也斬斷了算法技術以及神經科學的發(fā)展。為了平衡此二者，在現有法律的實體性行為規(guī)制基礎之上，引入算法程序正義理念，形成實體性正當程序與程序性正當程序規(guī)制相結合的法律適用方法，完善“數據收集—數據處理—人機交互”全鏈條式規(guī)范，形成對技術的發(fā)展引導，并盡量降低其負面影響。

（一）算法程序正義的框架重塑

程序正義理論隨著規(guī)制對象的變化而不斷豐富其內涵[22]，傳統(tǒng)程序正義理論關注主體的參與性，并起到防止權力濫用的功能。隨著技術的革命，主體的參與性受到挑戰(zhàn)，技術性正當程序理論得以興起①杰伊（Jay Thornton）對技術性正當程序提出反駁，他在《法律信息技術中的成本、準確性與主觀公平——對技術性正當程序批評的回應》一文中回應，公開算法代碼不僅會讓本來不被算法程序通過的主體利用代碼的關注點故意修改相關數據使其通過，還會增加程序機制的成本，喪失了技術本身的獨特優(yōu)勢。，該理論建基于傳統(tǒng)客觀程序正義理論，在全新的技術背景下，強調事前程序測試、審計跟蹤機制等新的程序制度來維護程序的客觀性和中立性[23]。技術性正當程序要求從算法源頭加以監(jiān)管，其關鍵在于通過算法的可解釋性來達成規(guī)制目的，然而算法本身具有“黑箱”屬性，且作為私主體開發(fā)的算法要求公開本身并不實際，在此背景下，形成一套私主體關系間的算法程序正義框架勢在必行，算法程序正義是在算法技術背景下對程序正義理論的補充與發(fā)展，指涉的是透明、準確、參與以及可問責性在算法技術中的滿足程度[24]。

算法程序正義背后最深層的價值仍是人權，即以人為本?，F代化過程中人的需求層次不斷提高，人的自我意識覺醒揭示了堅持人民至上是現代社會的內在意蘊[25]，數字技術背景下提出的“數字人權”將該價值內涵不斷豐富，并要求數字時代下堅決捍衛(wèi)人權價值，捍衛(wèi)人的主體性，將人權作為一個指引性的價值觀來評價或指引數字科技的應用[26]。主觀程序正義同樣出于以人為本的考量，將該理論納入算法程序正義的框架之下，更有助于實現對人的主體性、參與性等的保障。明確以人為本的指引理念后，要實現算法程序正義，使該理論不浮于表面而具有一定的實踐意義，重點在于對數字人權與算法權力的平衡。二者具有可平衡性的基礎在于二者背后都有值得法律保護的價值，數字人權自不待言，算法權力背后則是算法技術的發(fā)展。數字時代剛剛起步，其未來發(fā)展離不開算法技術，如若在發(fā)展之初就將算法技術否決，生產力無法實現突破，社會的發(fā)展也將停滯。因此，在推動算法技術不斷前進的基礎上，還要保障數字人權，如何在法律上平衡兩者關系，是亟待解決的問題。

（二）實體性正當程序：保障基本權利

實體性正當程序旨在保護憲法中未明確列舉的基本權利，基本權利平衡木的另一端是操縱者及算法技術，代表的是操縱者欲實現的商業(yè)價值及社會發(fā)展所必要的數字技術的進步。算法技術以一種完全計算的方式來對待人類，強迫人類接受其操縱，使人類失去了身為人類的獨特性，換言之，也是對人類尊嚴、自主性的侵犯，因此加強人在技術過程中的參與性是維護人的主體性的重要方式，而人機交互權是實現二者平衡的一道具有可實踐性的橋梁[27]。

在算法潛意識操縱規(guī)制中加強個體感受的參與是人機交互權的一種體現，人機交互權看似是人類和算法系統(tǒng)之間的關系和交互，實際上其真正想實現的是個人與算法系統(tǒng)背后設計者的交流。歐盟的《通用數據保護條例》中明確規(guī)定了“人機交互權”，要求在進行自動化決策時，需要有人類參與并進行評估和決策，這個要求強調了人類在自動化過程中的重要性，以保護數據主體的尊嚴和權利，同時也可以促進算法的透明度和公正性，避免算法對數據主體造成不公正的影響。因此，“人機交互權”可以作為一種重要的規(guī)制工具，幫助保護數據主體的權利和利益。現有人工智能系統(tǒng)對決策的不同層次的審查[28]，包括人類主導模式、人類參與模式、人類監(jiān)督模式、人類排除模式四種模式①人類主導模式下人類完全掌控自動化系統(tǒng)，自動化系統(tǒng)只是執(zhí)行人類的指令，人類對自動化系統(tǒng)的決策結果負有全部責任。人類參與模式中自動化系統(tǒng)進行決策時需要人類參與并進行評估和決策，這種機制下，人類可以對自動化系統(tǒng)的決策結果進行監(jiān)督和糾正，以保護數據主體的權利和利益。人類監(jiān)督模式下自動化系統(tǒng)進行決策時，人類可以對決策結果進行監(jiān)督和糾正以確保自動化系統(tǒng)的決策結果符合人類的期望和要求，但不需要直接參與決策過程。人類排除模式中自動化系統(tǒng)完全獨立進行決策，人類不參與決策過程，也無法對決策結果進行監(jiān)督和糾正。。前三種模式皆體現了一定程度上的人機交互，其中人類參與模式是允許人工智能系統(tǒng)發(fā)揮其技術優(yōu)勢前提下，人類參與程度最深的一種模式。人機交互體現了主觀程序正義的主張，有助于緩解操縱者與被操縱者之間的壓迫關系，二者之間存在一個基本平等的商談環(huán)境，要求躲在技術背后的包括權力意志機構及組織在內的主體應當尊重被操縱者的自主性，以一種不同于行為規(guī)范的方式緩和雙方之間的博弈關系。

面對算法潛意識操縱，要維護個人的自主性，個人在其中應當發(fā)揮主導作用，由于不同的人對潛意識影響的反應并不相同，因此為個人準備一個反饋機制顯得尤為必要。反饋機制目的是在算法中設計一個空間，該空間為算法背后的組織和個人提供一個商談的空間，實現“人—機—人”式的交互。面對冷酷的機器及算法，個人仍然有機會陳述自己的觀點，且其所陳述的內容應當得到傾聽。反饋機制可以以兩種方式開展：第一種是“電子客服”，個人陳述完自己的意見后，機器可以初步處理信息并給出解決方案；第二種是“人工客服”，個人會有不信任機器的時候，應當向其提供一個人工客服的選擇，保證個人有溝通的渠道與可能性，對個人而言，也是一個確保其個人權益不被機器單方面處置的保障[29]。

（三）程序性正當程序：防止權力濫用

除了在內部設計一條允許個人反饋的通道之外，還需要有一種正當程序從外部防止權力的濫用。算法本身具有形成算法權力的潛能，再以潛意識影響的方式行事，算法潛意識行為幾乎必然會導致權力濫用的現象，因此，如何監(jiān)測其是否屬于算法潛意識操縱也是一項重要程序。對此，學界多次提出算法透明化的對策，然而效果不彰。在實踐中，算法黑箱在事實上存在，算法設計者并不必然能夠解釋最終結果；算法透明化意味著向全社會開源，對于企業(yè)而言，以算法不公開為原則，算法公開為例外，公開的結果會引起數據市場經濟的停滯，對于技術的進步也并無益處。經過平衡，本文提出三點對策，旨在數據收集與數據處理過程中加強管理。

其一，強化輸入端審查，保障數據收集合法性。在現有法律框架下，數據收集階段以同意為原則，要求數據控制者只能在數據主體同意的前提下開展收集以及后續(xù)的數據處理工作。鑒于認識的欠缺，數據主體不一定能意識到數據控制者意在收集數據主體的潛意識相關數據，也不一定能認識到收集潛意識相關數據對個人會產生的危害，便需要法律加以強制規(guī)定，要求數據控制者不得收集個人潛意識相關信息。換言之，在算法的輸入端應該加強審查，確保數據控制者沒有收集不合規(guī)數據。

其二，完善輸出端監(jiān)測，確保不存在操縱現象。在算法構成的世界中，只給予個人有限的選擇，然而并非構成有限選擇就必然意味著存在操縱的事實，而是在這些可能的選項中，通過算法借力，引導個人選擇了其中一個具體的選項，才構成了算法潛意識操縱。這要求被展示在個人面前的信息應當是全面不加以刻意篩選的，除非得到用戶的同意。以潛意識影響的方式達成的算法操縱，于個人而言難以意識，但卻可以經過一定次數的輸出端監(jiān)測來確認。簡單來說，正當程序中有輸入端與輸出端兩端，如果輸入端數據存在瑕疵那毫無疑問不符合正當程序，而且容易被審查出來，然而如果在輸出端經過多次檢測后，發(fā)現個人有很高的幾率被指引選擇其中某一個選項，那便有操縱的嫌疑[30]，應當要求該算法予以修正。潛意識操縱本身具有隱蔽的特點，在巨大體量的信息面前隱蔽性更是得以強化，算法設計者應當謹慎使用推薦算法的方式，尤其不得利用潛意識相關標準來篩選信息。這對于保護心智尚不成熟的人非常重要，因為他們極其容易受到所見所聽之影響，如果展示在他們面前的信息是加以篩選過的，那么必然會受到算法的操縱。

其三，加強審計控制，審核重要節(jié)點算法解釋。算法設計者雖然不需要向社會開源，公開其代碼所有內容，但是應當在算法中的一些重要節(jié)點中作出說明。歐盟《通用數據保護條例》第12條明確表示數據控制者要以清晰和通俗易懂的語言進行算法解釋，這個解釋包括重要的決策解釋、信息解釋和理念解釋，在解釋時著重注意對算法中立性的說明。依我國《個人信息保護合規(guī)審計管理辦法（征求意見稿）》規(guī)定，國家網信部門等相關部門正統(tǒng)籌協調組織形成第三方審計機構推薦目錄，對數據處理者的數據處理是否合規(guī)進行審計。待第三方審計機構建立完畢后，其審計業(yè)務范圍也可以擴張，包含對算法合規(guī)情況的審計，在審計過程中需關注重要節(jié)點如篩選理由等的算法解釋，并且確保算法解釋與最終運行結果的一致性。

五、結語

算法潛意識技術的出現是數字技術、心理學與神經科學發(fā)展必然的結果，雖然技術的使用存在負面影響，但是數字法學是按照以人為中心的思維構建的，傾向于在知道、了解技術危害后進行規(guī)范管理后對技術進行使用。潛意識操縱行為對人的自主性、尊嚴等有不同程度的損害，存在缺乏監(jiān)管的現狀，一是歐盟的《人工智能法案》中規(guī)定的潛意識條款為我國提供了在實體行為規(guī)范角度中潛意識操縱行為規(guī)范的參考。二是依據算法程序正義理論構建實體性正當程序與程序性正當程序結合的路徑，完善“數據收集—數據處理—人機交互”全鏈條式規(guī)范。由于“潛意識”相關概念尚不成熟，仍待各學科專家共同探討諸如閾值、通感等相關問題，未來對“潛意識技術”監(jiān)管需要世界各國及地區(qū)的廣泛參與和合作，甚至還需要利用跨學科的知識，來建立一個新的全球法律框架?？梢灶A見的是，當下算法技術從多維角度向全社會滲透，為人們帶來效益的同時引起了人們的警覺。若不對其加以引導，算法操縱將愈發(fā)超越人意識的閾值范圍，潛意識操縱不再局限于概念界定之中，在實踐中或將大量存在，產生變革性甚至破壞性影響。技術的發(fā)展對應著人類的某種需求，算法技術毫無疑問讓人們的生活更加簡便，解放了生產力，但同時對人類提出重大挑戰(zhàn)，這些挑戰(zhàn)仍待我們一一解決。在此情況下，算法程序正義堅持以人為中心，關心人在技術中的地位與作用，正是突破與技術相關的重重矛盾的一大突破口。