算法取證的倫理危機與法律規(guī)制

劉爾晴

（南京審計大學,江蘇 南京 211815）

在大數(shù)據(jù)時代，刑事案件偵查實踐常面臨案件數(shù)量多、取證數(shù)據(jù)分析難、依靠人工分析數(shù)據(jù)成本高等各類現(xiàn)實挑戰(zhàn)。算法取證是指大數(shù)據(jù)時代偵查機關在辦理刑事案件的過程中，利用人工智能算法對網(wǎng)絡電子數(shù)據(jù)進行搜集、篩選，并通過算法模型對數(shù)據(jù)進行分析、處理，獲得與案件事實相關聯(lián)的電子數(shù)據(jù)，以發(fā)現(xiàn)、提取、固定證據(jù)的過程。以大數(shù)據(jù)、物聯(lián)網(wǎng)、人工智能等為基礎的大數(shù)據(jù)取證的取證對象，與傳統(tǒng)電子數(shù)據(jù)在取證理念、方式和技術上有本質差別[1]。既有研究從電子數(shù)據(jù)取證的視角展開論述，抑或在社會治理層面對算法進行倫理學探討，但針對刑事偵查中的算法取證所涉及的倫理問題和法律規(guī)制的研究還不夠充分。

1 算法取證的運行邏輯及其誤差

1.1 效率主導的運行邏輯

算法取證作為證據(jù)搜集的一種手段，在處理海量電子數(shù)據(jù)、證據(jù)時能充分發(fā)揮大數(shù)據(jù)算法高處理效率和清晰的數(shù)據(jù)來源等優(yōu)勢，其效率主導機制是多方面原因導致的。其一，偵查活動需要算法取證提供高效的運算結果。面對大量的數(shù)據(jù)信息，偵查人員利用算法進行自動化分析，可以快速、準確地處理大量數(shù)據(jù)，提供及時、準確的線索和證據(jù)，進而優(yōu)化警力、資源分配，提高整體偵查效率。其二，算法的自主學習能力十分有限，處理的多是程式化的、可量化的工作。在偵查活動的各種價值取向中，“效率”這一價值是最容易被量化的指標[2]，可以通過減少算法循環(huán)次數(shù)、優(yōu)化算法計算公式以提升算法運行的效率。

1.2 算法運算機制存在誤差

網(wǎng)絡電子數(shù)據(jù)的算法取證基于機器計算，看似錯誤率極低，其結果具有天然的科學性，為證據(jù)的可靠性提供了強有力的支撐，但是卻忽略了可能存在的誤差。首先，數(shù)據(jù)集的選取具有主觀性。在訓練算法時，輸入端數(shù)據(jù)集的選取經(jīng)過了一定程度上的人為判斷，加入了訓練人員的主觀偏向。其次，大數(shù)據(jù)具有不確定性。數(shù)據(jù)一直處于流動的狀態(tài)，無論何時進行數(shù)據(jù)集選取都是一個抽樣的過程[1]。最后，算法本身的運算機制并不具備百分之百的準確率。而利用算法對網(wǎng)絡電子數(shù)據(jù)進行取證，存在不可忽略的誤差可能性。

2 算法取證引發(fā)的倫理危機

在大數(shù)據(jù)時代，算法取證通過完成人為設置的各種算法指令，幫助偵查人員獲取偵查線索和證據(jù)，具有處理效率高、數(shù)據(jù)來源清晰等優(yōu)勢，在偵查活動中得到廣泛運用[3]。這是一次偵查取證方式的變革。但算法取證效率主導的運行邏輯、運算機制造成的天然誤差，引發(fā)的倫理危機現(xiàn)實存在，必須予以重視。

2.1 弱化了人在偵查活動中的主體地位

黑格爾認為主體性主要包括“個人（個體）主義”“批判的權利”“行為自由”“把握自我意識的理念”四個方面的內涵[4]?，F(xiàn)代社會強調“以人為本”，因此在算法取證中，應當全面貫徹個人主義、理性主義等基本原則。

偵查人員在偵查過程中依賴算法、信任算法取證結果，使算法從一種取證工具成為取證主體。偵查人員利用已經(jīng)訓練好的類案模型進行證據(jù)篩選，但目前算法模型的識別準確率達不到百分之百，而且偵查人員僅對算法運行結果所涉及的數(shù)據(jù)進行確認，而不對算法運行過程進行審查[5]。利用算法對網(wǎng)絡電子數(shù)據(jù)進行取證所獲得的結果會趨向于模式化，忽略了偵查人員作為偵查活動實施者的主觀能動性，不斷消解人的主體性，從而弱化了人在偵查取證活動中的主體地位。

2.2 沖擊了權利優(yōu)先的傳統(tǒng)正義觀

人是正義反映的主體，也是評價正義的主體。羅爾斯認為，個人的基本權利應當優(yōu)先于公共的“善”。只有在尊重他人權利的前提下，才能去追求個人的“善”。正義的社會，應當體現(xiàn)自由、平等的人類社會價值，應當確立個體權利優(yōu)先性的基本理念。

而算法取證所體現(xiàn)的是以效率為核心的正義觀，其往往追求取證的結果，過于注重取證過程的效率，忽略了涉案人員的個人私權利。這實際上是將效率和便利凌駕于個人權利之上，認為效率應當優(yōu)先于私權利，這種以“效率至上”的方式去追求特定的“善”忽略了算法本身對涉案人員的私權利的侵害，動搖了權利本位的核心理念，進而沖擊了權利優(yōu)先的傳統(tǒng)正義觀。

2.3 侵害了涉案人員的基本權利

隨著大數(shù)據(jù)的快速發(fā)展，個人信息的采集和分析變得更加廣泛和深入，這顯然對個人隱私權構成了潛在威脅。而算法取證作為一種取證方式，對涉案人員信息進行提取分析也可能侵害了涉案人員的基本權利。

在算法取證的過程中，算法將涉案人員視為可以被獲取、計算、預測的客體，將其信息、行為等進行拆解分析，其個人信息就此在數(shù)據(jù)庫中“裸奔”，個人信息權、隱私權遭到任意侵害，在某種程度上是對相對人的重要權益造成侵害的“強制偵查行為”。并且算法取證無須受到令狀原則、比例原則等刑事強制偵查原則的限制，權責還缺乏有效制衡和匹配，導致取證過程可能對涉案人員的權利造成“以非人格化的、彌漫性的、以數(shù)理定律的方式呈現(xiàn)出來”[6]的侵害。

3 算法取證法律規(guī)制的現(xiàn)實困境

在多種規(guī)制路徑中，只有法律規(guī)制具有法定強制力，而其他規(guī)制路徑如倫理規(guī)制、行業(yè)規(guī)制和自身規(guī)制等都無法預防和遏制上述倫理危機的發(fā)生，因此法律規(guī)制應當作為算法取證的主要規(guī)制路徑。但現(xiàn)階段對算法取證進行法律規(guī)制存在一些不可避免的現(xiàn)實困境。

3.1 算法及其載體不能承擔法律責任

在算法取證中，算法和作為算法載體的人工智能體被賦予了一定的“偵查權”，若算法取證出現(xiàn)錯誤并造成了對涉案人員的不利影響，根據(jù)權責相統(tǒng)一的原則，算法及其載體應承擔相應的法律責任，但這一點目前無法實現(xiàn)。

一方面，算法及其載體不是法律主體。法律主體是指具有人格意義的人，其應當具有意志且能夠自律。而算法本質上是一套符號運算程序，在深度學習的基礎上，其懂運算，能夠進行自我學習，但這僅僅是一種機械意志，而非心理認知意義上的意志[7]。并且，自律性的形成受到多種社會文化因素的影響，表現(xiàn)為一種理性反思、抑制本能的糾偏性意志。算法及其載體所擁有的知識和能力都是由人加工編程而來的，其深度學習無法像人類一樣與常變常新的物質世界保持一致，不具有道德感和反思能力，因而也不具有自律性，不能成為法律主體。

另一方面，算法及其載體的行為不具有法律意義。在算法取證中，人工智能體的行為是算法程序運行的結果。訓練算法模型的輸入端數(shù)據(jù)集在選取時，已經(jīng)加入了訓練者的人為判斷。在運行過程中，算法及其載體只是執(zhí)行被預設的算法程序指令，而不能認識到自己行為所具有的法律意義和社會意義。無論從哪個部門法的角度都無法對人工智能體的行為進行評價。

現(xiàn)代法律制度以人具有獨立人格為前提，而算法及其載體都只是一種工具性存在，既不具有自由意志和自律性，其行為也不具有法律意義。因此，無論是算法還是其載體，都不具有現(xiàn)代法律意義上的主體資格，也無法承擔相應的法律責任。

3.2 算法取證無法適用公開透明原則

公開透明原則一直貫穿于現(xiàn)代法律制度之中。美國大法官路易斯·布蘭代斯（Louis Brandeis）有一句流傳甚廣的名言——“陽光是最好的消毒劑”[8]。為了規(guī)制算法權力，打開“算法黑箱”，有學者提出要保證人工智能司法證據(jù)推理的內容在一定程度上公開透明，這既是保障公正的需要，也是接受檢驗保障準確性的有效途徑[9]，然而算法取證很難做到公開透明。

第一，公開透明原則在防止算法技術過度侵害個人信息方面雖然能起到一定的作用，但由于算法取證并非由簡單編程形成的一套源代碼系統(tǒng)，而是由多個算法合并運算得出結論，對其公開解釋難度較高。并且，隨著大數(shù)據(jù)的發(fā)展，算法模型的運行機制也在不斷更新，普通偵查人員認知能力的提升速度難以匹配技術發(fā)展帶來的知識增量，即使偵查機關對算法運作機理進行了詳細的公開解釋，非專業(yè)的普通公眾也無法發(fā)現(xiàn)算法存在的問題和漏洞。因此，所謂的公開透明原則在算法取證活動中難以實現(xiàn)。

第二，算法取證作為偵查活動之一，還應當具有隱蔽性，這與公開透明原則形成了不可調和的矛盾。就算法的性質而言，其往往涉及敏感的個人隱私、關鍵的商業(yè)秘密和知識產(chǎn)權，在刑事偵查中算法取證還涉及偵查思路和方法。若為了適用所謂的“公開透明原則”，打開算法取證的“黑箱”，讓公眾對其進行評判和監(jiān)督，可能會導致犯罪分子采取更加復雜的反偵查手段來應對算法取證活動，這會給打擊犯罪帶來更大阻礙。

3.3 數(shù)據(jù)權利難以約束算法取證的權力

算法能將數(shù)據(jù)加以轉化和控制，進而形成一種“準公權力”，這是算法異化的一個重要原因[10]。算法取證中需要大量運用公民數(shù)據(jù)，有學者認為應當盡快出臺保護數(shù)據(jù)和數(shù)據(jù)生產(chǎn)者合法權利的法律法規(guī)[11]。但是對個人數(shù)據(jù)賦權并不能很好地回應算法取證帶來的倫理問題。

一方面，互聯(lián)網(wǎng)絡平臺上的數(shù)據(jù)權利的歸屬難以明確，其既可以被界定為平臺的數(shù)據(jù)權利、個體的數(shù)據(jù)權利或二者共有的權利，也可以被界定為網(wǎng)絡空間的公共數(shù)據(jù)。偵查機關在算法取證中針對的不是單個主體的數(shù)據(jù)，而是網(wǎng)絡空間的公共數(shù)據(jù)。在取證過程中，權利主體身份的可識別狀態(tài)往往不是數(shù)據(jù)搜集的起點，而是取證的結果。所以，從保護個體數(shù)據(jù)權利入手規(guī)制算法取證，無法達到保護個人權益的目的。

另一方面，當個體數(shù)據(jù)被處理時，公民很難行使數(shù)據(jù)權利。面對算法取證“黑箱”，個體很難知曉其個人數(shù)據(jù)是否被處理、何時被處理、被誰處理。運用公民的數(shù)據(jù)權益來制約算法權力的思路是一種以單個的個體為中心來對抗“準公權力”的思路[2]。這種思路忽視了偵查機關的強制偵查權和算法異化形成的權力。即使個體知道算法取證中存在侵犯隱私權益的行為，也難以向法院提起侵權之訴。

4 算法取證法律規(guī)制的完善路徑

算法本身由人類創(chuàng)造，其背后邏輯的道德基礎是人類的有限理性，算法的底層指令和代碼歸根結底是人類思考方式的展現(xiàn)。因此，對算法取證的法律規(guī)制在本質上應是對偵查人員使用算法取證行為的法律規(guī)制。為了應對上述困境，可以采取以下措施。

4.1 明確算法取證中的責任承擔制度

4.1.1 明確偵查人員作為算法取證的責任承擔主體

算法取證在案件中如何發(fā)揮作用主要取決于取證主體——偵查人員。需要明確的是，算法及其載體既沒有自由意志，其行為也不具備法律意義，本質上是一種工具。因此，偵查人員應當承擔算法取證的責任。

一方面，偵查人員應當充分發(fā)揮自身的主觀能動性。偵查人員在使用算法取證時，既要堅持自身的人權理念和倫理道德，又要充分利用算法的工具性特點，理解算法、駕馭算法。具體而言，偵查人員應當理解算法原理和局限性，避免過度依賴算法取證結果；參與數(shù)據(jù)收集和預處理過程，確保取證數(shù)據(jù)的準確性和完整性；關注算法取證領域的最新技術發(fā)展，以便及時引入和應用最新的技術和方法，使算法取證真正為人所用。

另一方面，偵查人員應當對算法取證的結果進行理性分析和綜合認定。經(jīng)過算法抓取的數(shù)據(jù)和結果最終能否被用于某一案件，取決于偵查人員對取證結果證據(jù)能力和證明力的判定。偵查人員要防止用機器的思維方式代替人類的判斷，避免偵查思維被算法化和在取證活動中出現(xiàn)“算法統(tǒng)治思想”。

4.1.2 細化算法取證中的責任承擔規(guī)則

偵查機關作為算法取證的主導方，對于算法取證過程中出現(xiàn)的失誤或錯誤，故意侵害涉案人員權利的、導致案件無法偵破或出現(xiàn)錯誤判決的，應當予以行政處分；對涉案人的財產(chǎn)權利造成侵害時，偵查機關應承擔相應的行政賠償責任。只有明確偵查人員是算法取證中的責任承擔者，才能有效督促偵查人員認真履行偵查職責，審核算法取證的結果，減少乃至杜絕冤假錯案的發(fā)生。除此之外，如果因為算法本身的程序漏洞導致偵查工作失誤所造成的錯案，在對具體偵查人員追責的同時，也應視情況追究算法設計人員的民事賠償責任。

4.2 建立算法取證的正當程序

算法透明原則僅僅是一種事前規(guī)制方式，盡管在某些情形下它有可能發(fā)揮“防患于未然”的作用，但不能過分夸大其在規(guī)制中的效用。建議從以下幾個方面入手建立算法取證的正當程序，規(guī)制算法取證。

首先，就算法本身而言，偵查機關應確保在取證活動中所運用的算法以可信、可用的狀態(tài)得以設計、部署、應用和執(zhí)行[12]，定期向公眾公開算法的基本技術原理、數(shù)據(jù)庫來源、主要用途、適用范圍等不涉密的基礎信息，以通俗易懂的語言向普通公民披露算法取證的基本運行機制。

其次，完善算法取證的審批備案制度。對于深度挖掘、分析公民隱私的算法，應實行“分案分級”的審批模式。對于偵查人員難以及時申請審批的特殊情況，可以適用備案制度。明確偵查機關上級機構為審批主體，嚴格限制偵查人員對公民個人數(shù)據(jù)的使用，并要求偵查人員遵守保密義務。

再次，規(guī)范算法取證的操作流程。在得到偵查機關上級機構批準后，偵查機關應依照數(shù)據(jù)爬取、預處理（清洗）、挖掘、分析等步驟[13]嚴格運行算法取證程序，做好證據(jù)保全措施，實行完善的檔案管理，使得算法取證過程“可視化”，從而推動算法取證的規(guī)范化發(fā)展。

最后，設置對算法取證結果的異議機制。算法本身的誤差、數(shù)據(jù)不準確或算法模型選取不適配等問題可能導致算法取證結果的錯誤，若涉案人員對算法取證結果持有異議，可以在偵查階段申請偵查機關重新進行算法檢測，或委托第三方專門機構對原有數(shù)據(jù)集進行檢測，借此來保留算法取證中個人權利的救濟途徑。

4.3 引入檢察機關監(jiān)督算法取證合理應用

除了賦予個人數(shù)據(jù)權利和獲得救濟權利來對抗算法權力的侵害之外，還可以通過“加強行業(yè)自律和引入第三方規(guī)制力量”[14]對算法權力進行規(guī)制。在確立公民數(shù)據(jù)權利效果十分有限的情況下，可以在算法取證活動中引入檢察機關監(jiān)督、促進算法取證合理應用。

算法取證系統(tǒng)由算力、算法與數(shù)據(jù)等要素構成[15]。算力作為“基礎設置”，指的是數(shù)據(jù)分析處理的能力，對數(shù)據(jù)分析結果公正性的影響較小。而算法的框架由研發(fā)人員構建，可能存在主觀價值判斷，數(shù)據(jù)的選取與導入時也可能存在偏差。所以，檢察監(jiān)督促進算法取證合理應用應當以算法取證系統(tǒng)中的算法和數(shù)據(jù)為切入點。

一方面，確立檢察機關參與取證算法研發(fā)機制。避免“以犯罪偵查”為導向的單一目的算法設計，將監(jiān)督偵查等檢察職能導入其中，從算法建構開始就減弱其“入罪”的偏見風險。此外，檢察機關也應當對算法展開定期糾偏，及時修復算法取證系統(tǒng)中出現(xiàn)的偏誤，對偵查機關已作出的取證結果進行定期抽樣重復檢驗，確保算法運行的公正性。

另一方面，公檢機關協(xié)商共建算法取證數(shù)據(jù)互通規(guī)則。準許檢察機關接入偵查機關數(shù)據(jù)庫，對訓練算法模型時所依據(jù)的原始數(shù)據(jù)展開真實性核查。促進公檢間數(shù)據(jù)共享，將不敏感、不涉密、已結案的案件數(shù)據(jù)上傳至公檢數(shù)據(jù)平臺，打破數(shù)據(jù)孤島和信息繭房，充分利用已結案的案件數(shù)據(jù)來完善算法取證運行程序，充分發(fā)揮數(shù)據(jù)價值。

5 結語

身處大數(shù)據(jù)時代，可以說每個人的行為在高度數(shù)據(jù)化的今天都有跡可循。顯然，犯罪分子在這樣的環(huán)境下也無所遁形。毋庸置疑，在偵查活動中使用算法取證可以更加快速、精準、有效地打擊犯罪。但筆者認為，依賴算法取證的今天，人在算法取證中的主體性地位被弱化，權利優(yōu)先的傳統(tǒng)正義觀遭到?jīng)_擊，涉案人員的基本權利無法得到保障。然而對算法取證進行法律規(guī)制并非易事，由于算法及偵查活動的特殊性，算法及其載體無法承擔法律責任，取證活動無法適用公開透明原則，并且明確涉案人員數(shù)據(jù)權利對算法取證權力的約束效果也十分有限。為了應對上述倫理和實踐困境，筆者認為，應當堅持“以人為本”，明確算法取證中的責任承擔制度，建立算法取證的正當程序，引入檢察機關監(jiān)督促進算法取證的合理應用，以完善算法取證的法律規(guī)制路徑。