人工智能時代個人信用信息權(quán)益實現(xiàn)的法律缺位與補足

馮慧敏

（對外經(jīng)濟貿(mào)易大學(xué)法學(xué)院，北京 100029）

一、引 言

社會信用體系的建設(shè)，有助于降低社會主體交易成本、防范交易風(fēng)險，并提升社會信用意識、營造守信社會氛圍。社會信用活動中，征信是指對信用信息進行采集、利用，并向社會提供的活動，失信懲戒與信用修復(fù)則是對失信行為主體的懲戒和約束，以及對糾正失信行為主體的守信激勵的活動。個人征信，以及其基礎(chǔ)上的失信懲戒與信用修復(fù)，是個人信用信息權(quán)益實現(xiàn)的主要途徑，亦是社會信用體系建設(shè)的重要內(nèi)容。社會經(jīng)濟水平的提升和人工智能技術(shù)手段的廣泛應(yīng)用推動了信用相關(guān)行業(yè)快速發(fā)展，一方面，高質(zhì)量、個性化的征信服務(wù)市場需求急劇增加，另一方面，征信與失信懲戒所依賴的基礎(chǔ)數(shù)據(jù)、算法模型、評價模式日益豐富。

人工智能貫穿信用信息采集與共享環(huán)節(jié)、信用信息處理與利用環(huán)節(jié)和失信行為懲戒與信用修復(fù)環(huán)節(jié)。在信用信息采集與共享環(huán)節(jié)，大數(shù)據(jù)技術(shù)對海量基礎(chǔ)信用信息和替代性信息進行數(shù)據(jù)清洗、數(shù)據(jù)挖掘等大數(shù)據(jù)處理，數(shù)字平臺技術(shù)則為信用信息跨界傳輸共享提供渠道。在信用信息處理與利用環(huán)節(jié)，自動化算法模型通過機器學(xué)習(xí)開發(fā)和細化評分模型。在失信行為懲戒和信用修復(fù)環(huán)節(jié)，智能運算工具對海量信用信息進行計算、存儲與傳輸，以實現(xiàn)不同信息歸集主體間的信息共享，為聯(lián)合失信懲戒和同步信用修復(fù)奠定了基礎(chǔ)。

人工智能工具的使用，優(yōu)化了信用資源的社會配置，提升了征信行業(yè)的工作效率，加深了智能工具在社會運行中的參與程度。但在技術(shù)應(yīng)用的同時，如何防范其帶來的法律風(fēng)險，避免因人工智能技術(shù)深度介入社會信用管理而產(chǎn)生的管理失范，是法律研究所關(guān)注的問題。

二、征信業(yè)務(wù)與失信懲戒場景中人工智能的使用

信用信息是征信的核心要素、失信懲戒的依據(jù)和信用修復(fù)的對象。全面、準確、有效、合法的信用信息的采集與共享、利用與處理，以及基于前者的失信行為懲戒與信用修復(fù)，是社會信用管理的主要環(huán)節(jié)。人工智能工具在社會信用管理中的使用，能夠提高上述工作效率，但同時也會增加個人信用權(quán)益的受損風(fēng)險。

（一）信用信息采集、共享環(huán)節(jié)

個人信息因具有極高數(shù)據(jù)化價值而備受數(shù)據(jù)企業(yè)的青睞，但個人信用信息采集邊界被不斷拓寬，例如，百行征信公司及樸道征信公司在與信息中介公司共享信用信息的同時，引入大量替代性數(shù)據(jù)，并基本實現(xiàn)了個性化信用信息評估[1]47。但是，在《征信業(yè)管理條例》第14 條的負面禁止的規(guī)范模式之下，公民個人信用信息的具體類型難以劃分進入禁止采集的范圍之中。征信行業(yè)企業(yè)受到個人信息高聚合價值特征的影響而廣泛采集公民個人信息的行為，不僅使公民隱私權(quán)、知情權(quán)受侵犯的風(fēng)險增大，而且廣泛采集的不具有征信價值的個人信息，更會給征信系統(tǒng)帶來極大成本負荷。

個人信用權(quán)益受損也可能來源于公共信用信息的共享環(huán)節(jié)。公共信用信息資源共享與開放的本質(zhì)，是實現(xiàn)信用信息的資源整合。公共信用信息的共享，是以打破傳統(tǒng)的地域之間、行業(yè)之際、體制之內(nèi)存在的信息共用障礙為手段，以提升信用信息資源的利用價值為目的的。目前，公共信用信息共享初見成效。由國家公共信用信息中心主辦的“信用中國”網(wǎng)站作為信用信息公開的“總窗口”，整合發(fā)布各部門的公開信用信息，推動實現(xiàn)各地區(qū)信用門戶網(wǎng)站的互聯(lián)互通①具體參見由國家公共信用信息中心主辦的“信用中國”官方網(wǎng)站“https://www．creditchina．gov．cn”。該網(wǎng)站已日益成為社會信用體系建設(shè)領(lǐng)域溝通社情民意、推進信用信息公開的共享服務(wù)平臺。。但是公共信用信息分享模式的建設(shè)仍存在問題：信用信息共享開放，尤其是信用信息面向公眾開放的法律依據(jù)不足。信用信息是對信用主體信用形象的刻畫，失信信息則是對其信用形象的減損，若公權(quán)力部門向社會開放的信用信息涉及到信用主體的名譽權(quán)和其他民事權(quán)利，在未獲得信用主體授權(quán)、未進行脫敏處理、未進行區(qū)分開放的情形中，個人信用主體的合法權(quán)益將可能受到損害。

（二）信用信息處理、利用環(huán)節(jié)

信用信息的利用處理，呈現(xiàn)公共信用信息和市場信用信息相貫通、跨區(qū)域及跨行業(yè)信用信息相整合的趨勢。為實現(xiàn)大量聚合的信用信息的處理與利用，人工智能工具以對信用主體信息的深度挖掘、對信用相關(guān)信息的廣泛抓取，以及對信用主體信用形象的精準刻畫為發(fā)展方向。此種深度、廣度、精度兼具的信用信息數(shù)據(jù)庫的建設(shè)與利用的負外部性作用是明顯的。最顯著的負面影響是信用信息處理中的算法歧視和信用信息的跨場景利用。

1．信息處理中的算法歧視

人工智能技術(shù)在個人信用信息的處理中存在算法歧視問題。人工智能和消費信息的結(jié)合給消費市場帶來了算法歧視的惡果，表現(xiàn)為價格歧視和地域歧視。而在人工智能和信用信息的結(jié)合中，算法歧視則可能反映成為帶有偏見的信用評價結(jié)果。

《征信管理條例》第14 條明確禁止將個人的宗教信仰、疾病和病史信息納入征信信息范圍。但是，算法參與并且起主導(dǎo)作用的黑箱式自動化信用評價系統(tǒng)，則可能由于技術(shù)限制、合規(guī)考量、利益傾向等原因，將歧視性評價標準納入模型之中，隱蔽地影響算法輸出的結(jié)果，進而導(dǎo)致對信用主體的歧視問題。受到《征信管理條例》約束，雖然與歧視算法結(jié)果相關(guān)的信用信息被禁止納入數(shù)據(jù)源，但由于信用主體信息的關(guān)聯(lián)性，以及替代信息采集的合法性，作為人工智能的算法工具仍然可以基于用戶家庭住址、用戶消費習(xí)慣和水平、用戶特定類別物品購買類目及頻次以及用戶網(wǎng)絡(luò)瀏覽信息記錄等替代性信息，精準推測出禁止納入征信信息的有關(guān)特定信用主體的信用特征[2]671。在此類算法的影響之下，如果算法過程將地理位置、網(wǎng)絡(luò)消費頻次、網(wǎng)絡(luò)消費價格區(qū)間、消費物品種類等納入模型進行考量，即有可能將偏遠貧困地區(qū)的群眾排除在獲得民生信貸的適格主體之外。如果算法過程將前往醫(yī)院的交通信息、網(wǎng)上購藥頻次及藥品類目記錄，以及涉病通訊、聊天記錄等納入模型進行考量，則有可能將老年人和患有重大疾病的群眾排除在獲得民生信貸的適格主體之外。算法通過綜合地理位置、物流記錄和郵政編碼數(shù)據(jù)也可能推測出本應(yīng)禁止采用的用戶民族成份情況信息。以上通過替代性信息獲取禁止獲取信息相關(guān)用戶特征的算法模型，可能產(chǎn)出歧視性信用評級結(jié)果，進而影響普惠金融公共政策的實施效果。當(dāng)然，此種歧視性算法的運行并非一定受到人為影響，基于機器學(xué)習(xí)管理的人工智能有可能受到了上述因素與信用風(fēng)險的高相關(guān)性評估的干擾，而此種相關(guān)性則是算法不應(yīng)考量的。

算法為公權(quán)力部門在信用信息評級時的權(quán)力誤用提供可能，此種誤用也將導(dǎo)致對個人信用信息權(quán)益的侵害。信用信息評級場景中使用的人工智能工具，賦予了行政管理部門和行政相對人不對等的權(quán)利與義務(wù)。例如，基于大數(shù)據(jù)分析和算法技術(shù)的“失信懲戒黑名單”，使得行政機關(guān)隱于人工智能背后，依法行政原則、比例原則遭遇被突破的風(fēng)險。此外，由于用于信用評級的人工智能工具，多由行政主管部門交由私營主體進行開發(fā)，在行政管理目標與技術(shù)實現(xiàn)水平不能完全匹配時，技術(shù)人員將在算法設(shè)計的過程中擁有較大的自主權(quán)力。這可能導(dǎo)致私營主體對行政需求有理解偏差，甚至有些私營主體將對特定評價對象的認識不足與偏見嵌入基于算法的行政行為之中，致使信用評級結(jié)果產(chǎn)生偏差。

2．信用信息的跨場景利用

所謂信用信息的跨場景利用，是指將以a 為評價核心的A 場景信用信息利用至以b 為核心的B 場景。在信用主體不知情的情況下，信息利用者將甲在A 場景中的信用肖像挪用至B 場景，不僅將增加用戶個人隱私泄露的風(fēng)險，產(chǎn)生信用資源浪費的可能，更甚至造成對個人信用信息合法權(quán)益的嚴重侵害。

用戶的金融信息是被跨場景利用的主要對象。金融支付便利以用戶自身信息安全為代價，在個人消費者不知情的情況下，以整合、深度分析用戶個人地理位置信息、交易記錄信息、金融交往信息等為方式，金融機構(gòu)為信用信息來源用戶描繪“信用畫像”。該精準畫像的跨場景利用可能會因為過度披露個人敏感信息要素，而對個人隱私造成侵害。例如，信用信息數(shù)據(jù)聚合而成的信用畫像，為市場營業(yè)主體實現(xiàn)識別客戶、精準營銷提供參照，也使用戶個人隱私泄露的風(fēng)險急劇增大，從而加劇了用戶被盜取信用身份等風(fēng)險，可能引發(fā)洗錢、精準電信詐騙等擾亂社會秩序的下游犯罪[3]46。另外，區(qū)別于就業(yè)、教育、婚戀其他應(yīng)用場景，征信場景中，信用信息收集利用的目的是減少征信機構(gòu)和征信主體之間的信息不對稱性，為征信主體的信用行為提供證明。若信用信息被跨場景使用，例如在以工作能力為評價核心的就業(yè)市場，以學(xué)習(xí)能力為評價核心的教育市場，以及以經(jīng)濟能力、個人觀念為評價核心的婚戀市場，考察個人信用評級，除了將增加信用主體個人隱私泄露的風(fēng)險，更可能會造成社會資源的浪費。更嚴重的是，信用信息的跨場景使用還可能對個人權(quán)利的實現(xiàn)造成直接阻礙，甚至降低相關(guān)權(quán)力部門的社會評價，侵蝕了當(dāng)?shù)卣墓帕Α?/p>

（三）失信懲戒與信用修復(fù)環(huán)節(jié)

征信結(jié)果為針對失信主體的失信懲戒提供了重要參考。而信用修復(fù)則是失信懲戒機制的退出環(huán)節(jié)，保護了失信主體的正當(dāng)權(quán)益，保障了失信懲戒機制的正常運行。人工智能工具在失信懲戒和信用修復(fù)制度中的不當(dāng)應(yīng)用，也會增加個人信用信息權(quán)益的受損風(fēng)險。

1．失信懲戒制度

失信懲戒是一種通過預(yù)防而非強制性制裁來治理失信的治理手段[4]6。效果層面，失信懲戒的本質(zhì)是一種對交易風(fēng)險的管控[5]136。手段層面，失信懲戒的本質(zhì)是通過減損失信被執(zhí)行人一項或者幾項權(quán)利，促使其履行法律義務(wù)。在人工智能技術(shù)的輔助下，失信聯(lián)合懲戒制度的適用范圍廣泛涵蓋至判決執(zhí)行、金融交易、環(huán)境保護、食藥品生產(chǎn)等多個領(lǐng)域。在中央和地方多個工作部門的聯(lián)合參與下，從“高鐵霸座”、強行插隊等不文明行為，到拒不履行判決裁定等違法行為，都受到失信聯(lián)合懲戒的約束。

失信聯(lián)合懲戒的根本目的是保障公民權(quán)利。但由于該種懲戒的落實路徑是對失信行為人的權(quán)利約束，如果權(quán)利限制存在過當(dāng)，則懲戒可能產(chǎn)生侵害失信行為人合法權(quán)利的可能。例如，滾動播放、在失信人居住地大范圍傳播失信信息的方式，可能對當(dāng)事人造成超限度的名譽減損，從而影響其進行社會交往、經(jīng)濟交易的機會獲取和行為進行[6]3。禁止進行高消費、禁止乘坐特定等級的飛機和輪船艙位的懲戒手段，則可能超限度影響當(dāng)事人的人身自由[7]146。另外，失信被執(zhí)行人的子女不得報考特定公職崗位、不得錄取進入公辦學(xué)校的懲戒，涉嫌對公民的勞動權(quán)、受教育權(quán)的侵犯[8]114。

2．信用修復(fù)制度

信用修復(fù)制度是失信聯(lián)合懲戒制度的退出機制[9]58。信用信息主體已糾正失信行為的，有權(quán)向認定單位申請信用修復(fù)?！吨腥A人民共和國社會信用體系建設(shè)法（向社會公開征求意見稿）》（以下簡稱《社會信用體系建設(shè)法》（征求意見稿）》）第98 條、第99 條、第100 條分別在信用修復(fù)措施內(nèi)容、信用信息主體投訴和復(fù)議訴訟權(quán)以及信用信息主體投訴監(jiān)督三個方面，對失信行為糾正后的信用修復(fù)作出制度安排①此外，《關(guān)于為加快建設(shè)全國統(tǒng)一大市場提供司法服務(wù)和保障的意見》《關(guān)于公布失信被執(zhí)行人名單信息的若干規(guī)定》《關(guān)于在執(zhí)行工作中進一步強化善意文明執(zhí)行理念的意見》中均規(guī)定了對失信被執(zhí)行人信用進行修復(fù)的程序和方式。。信用修復(fù)不僅是社會信用體系的子體系，更是司法執(zhí)行和社會信用治理的重要一環(huán)。

根據(jù)《社會信用體系建設(shè)法（征求意見稿）》第98 條，移出嚴重失信主體名單，終止查詢、集中公示等提供失信行為信息的行為，以及刪除失信行為信息，是信用修復(fù)的方法。實踐中，無論是移除公示名單，還是停止提供查詢、對相關(guān)信息進行刪除等，本質(zhì)上都是斷開失信信息的網(wǎng)絡(luò)接入，停止失信信息的繼續(xù)傳播。但是，在對特定失信主體的信用交往行為進行風(fēng)險管控目的指導(dǎo)下，失信懲戒公示以可識別并且公開方式進行。正如前述，人工智能技術(shù)所依賴的底層數(shù)據(jù)是“全數(shù)據(jù)模式”，即“全數(shù)據(jù)即信用數(shù)據(jù)”模式。所以，即使信用主體已滿足糾正失信行為的前提條件，認定單位采取的屏蔽或刪除措施很難完全將失信信息全面從互聯(lián)網(wǎng)中移除，更難在具有黑箱特征的算法中，將信用評價中受到失信記錄影響的信息進行精準識別且剔除。

此種不完全信用修復(fù)帶來的負面后果有三：其一，對信用信息主體來說，其已對失信行為進行了糾正，但由于失信信息無法從基礎(chǔ)數(shù)據(jù)中根本抹去，其將持續(xù)受到相關(guān)信用評級的影響。該影響具有對其人身自由限制的隱形性、對其人格尊嚴負面影響的持續(xù)性，以及信用恢復(fù)的有限性等特征。并且，經(jīng)過算法的加工，信用主體受到的負面影響是隱匿的，此種隱匿對信用主體針對修復(fù)效果行使申訴權(quán)極為不利。其二，對社會信用體系建設(shè)來說，失效失信信息仍參與評價體系，不僅會造成信用監(jiān)管資源的浪費，更會使信用評價結(jié)果產(chǎn)生偏差，失信懲戒的風(fēng)險管控效能被削弱。其三，對社會信用治理來說，如果未能受到信用修復(fù)制度的保障，失信懲戒手段的使用可能超越原有目的，新的社會治理矛盾將可能產(chǎn)生。

三、人工智能時代個人信用信息權(quán)益實現(xiàn)的法律缺位

人工智能在數(shù)據(jù)信用信息采集與共享、處理與利用，以及其基礎(chǔ)上的失信懲戒與信用修復(fù)中的應(yīng)用，增大了信用主體隱私權(quán)與名譽權(quán)等實體權(quán)利的受侵害風(fēng)險，增加了知情權(quán)與異議權(quán)等程序權(quán)利的實現(xiàn)難度。通過侵蝕公權(quán)力部門信用監(jiān)管權(quán)力、為征信市場主體提供逃避監(jiān)管的空間，人工智能也可能產(chǎn)生擾亂社會信用環(huán)境的間接負面效用。

（一）信用主體實體權(quán)利存在受侵犯風(fēng)險

海量數(shù)據(jù)基礎(chǔ)上的信用肖像描繪可能侵犯用戶的隱私權(quán)，而基于錯誤信用信息和不當(dāng)算法過程產(chǎn)生的信用評級，則可能會不恰當(dāng)?shù)亟档托庞弥黧w的社會評價，侵犯信用主體的名譽權(quán)。

1．隱私權(quán)

信用信息數(shù)據(jù)挖掘和共享的目的，在于破除信用信息孤島，實現(xiàn)大數(shù)據(jù)基礎(chǔ)上相關(guān)信息的合理勾連。但是，信用信息的深度挖掘和廣泛勾連給信用信息主體隱私權(quán)保護帶來隱患。智能時代，個人隱私在智能設(shè)備、信息技術(shù)、虛擬系統(tǒng)的審視和轉(zhuǎn)換下液化為流動的集合數(shù)據(jù)[10]229。根據(jù)《征信業(yè)管理條例》第3 條，從事征信業(yè)務(wù)及相關(guān)活動，應(yīng)當(dāng)遵守法律法規(guī)，誠實守信，不得危害國家秘密，不得侵犯商業(yè)秘密和個人隱私。然而，人工智能的信用信息采集挖掘?qū)﹄[私的侵犯往往為非直接的，表現(xiàn)為將非隱私的片段信息拼接，通過智能算法加工成信用主體的全息信用投影。

隱私侵犯問題可能存在于眾多應(yīng)用智能工具的場景中，并非信用監(jiān)管場景所獨有[11]14。但無論應(yīng)用場景為何，確保隱私的三個核心策略——個人知情同意、選擇退出和匿名化——已普遍大大失效[12]153-175。雖然以上策略確為信用主體控制信用信息和保護信息隱私提供了形式上的可能，然而在人工智能介入的社會信用體系中，信用主體管理和保護自身信用信息的負擔(dān)加重、信用信息控制者侵害他人信息隱私的風(fēng)險增大、信用信息控制者獲取和利用的信用信息不完整、信用主體信息隱私被侵害后陷入權(quán)利救濟困境等問題仍然存在，傳統(tǒng)隱私保護策略很難發(fā)揮預(yù)期作用。在涉及個人信用信息的數(shù)據(jù)出境問題上，該個人隱私侵害問題甚至還有可能蔓延至國土、軍事、科技領(lǐng)域[13]105。而現(xiàn)行規(guī)范就信用信息相關(guān)活動侵犯隱私權(quán)進行的籠統(tǒng)規(guī)定，更面臨規(guī)制有限、落實不力的艱難困境[14]161。

2．名譽權(quán)

名譽是對民事主體的品德、聲望、才能、信用等的社會評價。學(xué)理上，有學(xué)者認為在民法體系下討論信用問題，可以將信用與名譽等而視之[15]68。規(guī)范上，《民法典》第1024 條將信用定義為名譽的一類①參見《民法典》第1024 條第2 款：“名譽是對民事主體的品德、聲望、才能、信用等的社會評價。”。實踐中，建立在錯誤或不完整信用信息基礎(chǔ)上的對個人信用度的低評價會導(dǎo)致個人名譽在一定范圍內(nèi)的貶損②參見河南省商丘市中級人民法院﹝2020﹞豫14 民終855 號民事判決書。。

錯誤的信用信息數(shù)據(jù)源、歧視性的黑箱式算法以及失控的失信公示管理都可能侵犯信用主體的名譽權(quán)。失信主體失信行為信用修復(fù)制度的建設(shè)缺陷是導(dǎo)致信用主體名譽權(quán)受損的典型原因。宋海勇訴泰安市岱岳農(nóng)村商業(yè)銀行股份有限公司名譽權(quán)糾紛案中，二審法院認為，“上訴人的不良記錄雖然確因其提供擔(dān)保形成，但上訴人的擔(dān)保責(zé)任已經(jīng)被生效的民事判決書免除，即不再是擔(dān)保人身份，其不應(yīng)再出現(xiàn)該筆貸款的不良擔(dān)保記錄”③參見山東省泰安市中級人民法院﹝2017﹞魯09 民終896 號民事判決書。。因未及時消除信用不良記錄而產(chǎn)生的對信用主體的社會評價持續(xù)性的負面影響，即是對信用主體名譽權(quán)的侵犯。

失信行為懲戒，以限制失信被執(zhí)行人行為自由和使被執(zhí)行人名譽受損為手段[16]74。而信用修復(fù)，則是信用主體退出信用懲戒、恢復(fù)名譽的實體性和程序性權(quán)利保障，且具有矯正社會價值的功能[17]1。雖然信用修復(fù)機制在地方立法中多有出現(xiàn)，但這些地方性法規(guī)仍將信用修復(fù)的申請主體限定于法人，自然人申請信用修復(fù)的渠道尚不暢通。將對名譽的暫時減損通過有效制度設(shè)計，轉(zhuǎn)化為失信主體修正失信行為的強勁動力，以及規(guī)范保障信用主體名譽權(quán)恢復(fù)程序，從根本上維護失信被執(zhí)行人的人格尊嚴，維護社會信用秩序、司法公信力等公共利益，都將依賴于對信用主體名譽限制與恢復(fù)手段的合法約束。

（二）信用主體程序性權(quán)利難以得到保障

1．知情權(quán)

《社會信用體系建設(shè)法（征求意見稿）》第93 條規(guī)定，信用信息主體有權(quán)知曉與其相關(guān)的信用信息的收集、歸集、加工和共享情況，以及其信用報告載明的信息來源和變動理由。知情權(quán)的實現(xiàn)是其他個人信用信息權(quán)能實現(xiàn)的基礎(chǔ)和前提[18]125，而人工智能在信用數(shù)據(jù)挖掘過程的隱匿性和算法的黑箱特征則阻礙公眾知情權(quán)的行使。人工智能不僅在未獲信用主體同意的基礎(chǔ)上抓取其信用信息，更可能剝奪了個人質(zhì)疑和挑戰(zhàn)自動化評分結(jié)果的能力和機會。

信用主體知情權(quán)的受損，一方面源于個人信用信息采集范圍的無限擴張，例如，疫苗接種記錄納入征信系統(tǒng)的行為即引發(fā)社會爭議。這種違規(guī)利用征信系統(tǒng)的行為不僅影響了個人信用評價的準確性，而且會降低征信系統(tǒng)的社會公信力。另一方面，則源于算法過程透明度的有限性。算法的自動化學(xué)習(xí)性能使得信用評級模型日趨復(fù)雜，信用評價體系難以為一般公眾所理解，實質(zhì)上阻礙了信用主體知情權(quán)的行使[19]65。

2．異議權(quán)

在阻礙信用信息主體知情權(quán)實現(xiàn)的基礎(chǔ)之上，由于基于人工智能的信用評價所依賴的數(shù)據(jù)基礎(chǔ)在范圍上遠超傳統(tǒng)征信系統(tǒng)，征信機構(gòu)普遍在用戶不知情的情況下采集的信用信息，可能被作為參照對用戶進行錯誤的信用評級。而受到影響的用戶，因處于信息不對稱的信用信息采集結(jié)構(gòu)中，無法及時行使異議權(quán)①參見《征信業(yè)管理條例》第25 條：“信息主體認為征信機構(gòu)采集、保存、提供的信息存在錯誤、遺漏的，有權(quán)向征信機構(gòu)或者信息提供者提出異議，要求更正。征信機構(gòu)或者信息提供者收到異議，應(yīng)當(dāng)按照國務(wù)院征信業(yè)監(jiān)督管理部門的規(guī)定對相關(guān)信息作出存在異議的標注，自收到異議之日起20 日內(nèi)進行核查和處理，并將結(jié)果書面答復(fù)異議人。經(jīng)核查，確認相關(guān)信息確有錯誤、遺漏的，信息提供者、征信機構(gòu)應(yīng)當(dāng)予以更正；確認不存在錯誤、遺漏的，應(yīng)當(dāng)取消異議標注；經(jīng)核查仍不能確認的，對核查情況和異議內(nèi)容應(yīng)當(dāng)予以記載?！钡葯?quán)利。

根據(jù)《社會信用體系建設(shè)法（征求意見稿）》第95 條、《信息安全技術(shù)個人信息安全規(guī)范（征求意見稿）》第7 條，當(dāng)信用信息的收集、加工等過程存在錯誤、遺漏等情況，或是信用信息的收集處理侵犯了信用主體的合法權(quán)益，信用信息主體可向信用信息處理者提出異議。然而，作為權(quán)利實現(xiàn)基礎(chǔ)的個人征信異議處理機制需要完善。根據(jù)《征信業(yè)管理條例》第25 條、第26 條，以及《社會信用體系建設(shè)法（征求意見稿）》第95 條、第96 條之規(guī)定，我國已建立了初步的征信信息主體異議和投訴機制。但實踐中，不僅個人異議處理機制的效率有待提升，相關(guān)機構(gòu)是否因錯誤承擔(dān)法律責(zé)任、以何種形式承擔(dān)何種程度的法律責(zé)任也有待明確。

（三）監(jiān)管主體信用監(jiān)管過程失范

與人工智能對信用信息的實體性和程序性權(quán)利產(chǎn)生的負面影響不同，監(jiān)管失范對個人信用信息權(quán)益的侵害是間接的，但卻是長久的、深遠的。該種侵害主要表現(xiàn)為算法運行對監(jiān)管權(quán)的侵蝕，以及社會征信主體對監(jiān)管的規(guī)避，而產(chǎn)生的擾亂社會信用環(huán)境、減損信用監(jiān)管效能的后果，對個人信用信息權(quán)益造成的不利影響。

1．信用監(jiān)管權(quán)遭到算法侵蝕

隨著機器學(xué)習(xí)方法對信用監(jiān)管過程的深度介入，人工干預(yù)將逐步被算法自動決策所替代[20]1。以信用評分模型的建立和優(yōu)化為例，此種替代在一定程度上是主動的有意為之——面對復(fù)雜的信用評級問題，算法在變量選取、特征篩選、變化感知方面優(yōu)勢明顯。但同時，隨著算法模型在機器學(xué)習(xí)模式下的快速迭代，模型復(fù)雜度在準確度要求下不斷提升，算法黑箱的形成甚至使得算法專家被迫陷入信息不對稱的另一端，信用監(jiān)管權(quán)責(zé)部門更難以解釋和質(zhì)疑算法信用評級結(jié)果的準確性。

人工智能輔助的信用監(jiān)管可能會造成信用歧視、評級錯誤等后果，進而使信用信息喪失可參考性，違背信用監(jiān)管的初衷。算法低透明度的問題不僅導(dǎo)致了信用主體知情權(quán)和隱私權(quán)受損，也使得人工智能抓取的個人信息真實性和準確性難以獲得保證。自我規(guī)制方面，考慮到信用信息算法模型的復(fù)雜性和專業(yè)性，即使信用評價出現(xiàn)錯誤甚至歧視的結(jié)果，由于監(jiān)管責(zé)任缺位，信用監(jiān)管部門也難以發(fā)現(xiàn)且缺乏對此種錯誤修改的流程。外部監(jiān)督方面，模型的復(fù)雜性阻礙了個人對評價過程和結(jié)果進行實質(zhì)性監(jiān)督。

2．監(jiān)管范圍被征信機構(gòu)規(guī)避

以海量替代性數(shù)據(jù)代替信用信息進行個人信用評價，不僅可能侵犯信用主體的個人權(quán)利，更有可能使得征信機構(gòu)采取繞開監(jiān)管機構(gòu)監(jiān)管，并可能產(chǎn)生以信息缺乏信用相關(guān)性為由進行監(jiān)管抗辯的不利局面。2020 年12 月30 日，中國人民銀行以鵬元征信“擅自從事個人征信業(yè)務(wù)活動”為由對其作出行政處罰——沒收1917．55 萬元違法所得，并處罰款①銀罰字﹝2020﹞28 號顯示，鵬元征信的違法行為包括：未經(jīng)批準擅自從事個人征信業(yè)務(wù)活動和企業(yè)征信機構(gòu)任命高級管理人員未及時備案。http://law．uibe．edu．cn/jwjx/jwgg/bs/dbsy/d1aa0bb3cc174ae4b69fc467f387880d．htm，2023 年5 月20 日訪問。。鵬元征信并未取得個人征信營業(yè)許可，其擅自開展征信業(yè)務(wù)活動的基礎(chǔ)是其通過替代數(shù)據(jù)的獲得開展征信業(yè)務(wù)，這側(cè)面反映了替代數(shù)據(jù)的聚集利用已經(jīng)具備了信用指示的功能，此種替代功能為征信機構(gòu)逃避監(jiān)管提供了可能。

四、人工智能時代個人信用信息權(quán)益實現(xiàn)的法律回應(yīng)

為實現(xiàn)人工智能時代的個人信用信息權(quán)益保護，規(guī)范征信行業(yè)發(fā)展，促進個人信用信息作為數(shù)據(jù)要素有序流動，個人信用信息權(quán)益保護工作應(yīng)在技術(shù)向規(guī)范靠攏和法律對技術(shù)約束的互促中展開。

（一）替代數(shù)據(jù)采集利用的約束

信用主體隱私權(quán)、知情權(quán)受到人工智能技術(shù)應(yīng)用侵害的源頭，在于征信行業(yè)在技術(shù)輔助下將數(shù)據(jù)的采集范圍無序擴大?！秱€人信息保護法》《征信業(yè)務(wù)管理辦法》等法律法規(guī)明確了個人信息的內(nèi)涵，設(shè)定了個人信用信息的基本要素。為提高信用服務(wù)行業(yè)的精準有效性，擴大信用數(shù)據(jù)的來源范圍，替代信用數(shù)據(jù)采集的合法性并未得到否定。替代數(shù)據(jù)主要是指在傳統(tǒng)信貸場景產(chǎn)生的信用信息之外，個人通過社交、購物等互聯(lián)網(wǎng)平臺產(chǎn)生的大量非結(jié)構(gòu)化數(shù)據(jù)。

《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》關(guān)于數(shù)據(jù)分類分級的工作安排[21]62，是替代性數(shù)據(jù)的采集和利用管理的有效參考。具體路徑為，制定行業(yè)標準，對不同類別、不同敏感度的替代數(shù)據(jù)進行區(qū)別采集。違法記錄、社保繳納信息、住房公積金信息、公民學(xué)籍學(xué)歷等政務(wù)信息，可在滿足條件的前提下逐步向市場征信主體開放，并進行常規(guī)監(jiān)管。較為敏感的互聯(lián)網(wǎng)消費等有關(guān)信息，則應(yīng)在堅持告知同意規(guī)則基礎(chǔ)上的限制采集。高敏感度信息，如醫(yī)療信息、區(qū)域信息等，則應(yīng)禁止作為信用信息和替代性信用信息進行采集。信用信息采集區(qū)分標準的設(shè)定，還應(yīng)考量標準的實效性、時效性、動態(tài)調(diào)整性等問題。

分類分級規(guī)范之外，在采集環(huán)節(jié)，應(yīng)將告知同意原則落實于數(shù)據(jù)的初始采集端，并堅持替代數(shù)據(jù)采集的“必要原則”，合理劃定替代數(shù)據(jù)的采集邊界。除基于“最大公約”原則規(guī)范數(shù)據(jù)采集的必要范圍以外，在征信機構(gòu)、授信機構(gòu)、行業(yè)協(xié)會、數(shù)據(jù)管理部門和監(jiān)管部門的協(xié)調(diào)下，建立清晰準確、靈活動態(tài)的替代數(shù)據(jù)采集目錄，將信用數(shù)據(jù)指標體系建設(shè)嵌入數(shù)據(jù)管理的大框架下，將有利于信用信息價值開發(fā)和安全保障雙重目標的實現(xiàn)。在應(yīng)用環(huán)節(jié)，除對替代數(shù)據(jù)使用的潛在風(fēng)險進行評估及預(yù)防外，數(shù)據(jù)利用人面向用戶的特定通知要求將有效限制對替代數(shù)據(jù)的不當(dāng)利用。例如，當(dāng)替代數(shù)據(jù)被應(yīng)用于拒絕信貸、提高服務(wù)價格等不利于信用主體的場合時，替代數(shù)據(jù)利用人應(yīng)向信用信息主體明示信息來源、信息內(nèi)容及信息對決策的影響程度，以保障信息主體知情權(quán)、異議權(quán)的實現(xiàn)。

（二）信用算法透明度的提升

維護信用主體知情權(quán)與增強信用信息收集處理機制透明度建設(shè)相向而行。算法的可靠性、透明性、可解釋性及可問責(zé)性[22]102問題，直接決定了應(yīng)用人工智能進行數(shù)據(jù)處理利用的有效性、合法性，進而影響信用主體實體和程序性權(quán)利的實現(xiàn)。人工智能算法透明度的提升，以賦予信用主體算法解釋請求權(quán)和增強第三方對算法設(shè)計運行的外部監(jiān)督為有力途徑。

增強算法透明的關(guān)鍵手段在于賦予信用主體算法解釋請求權(quán)。該解釋請求權(quán)表現(xiàn)為，當(dāng)信用主體有理由認為信用服務(wù)機構(gòu)形成信用報告所依賴的算法產(chǎn)出了不合邏輯的評價結(jié)果，或有理由認為算法本身存在歧視性評價等問題時，其有權(quán)在提供一定支持證據(jù)的基礎(chǔ)上，通過法定渠道要求相關(guān)機構(gòu)，對其所運用的算法設(shè)計方式、算法運行流程、評價演算過程以及算法所依賴的數(shù)據(jù)集進行解釋及說明。信用主體算法解釋請求權(quán)，可為黑箱式算法歧視的修正提供監(jiān)督渠道和改進空間。具體權(quán)利行使和制度運行模式的建設(shè)，可參考歐盟《通用數(shù)據(jù)保護條例》中的以個體賦權(quán)為核心的算法治理體系[23]1425。即在立法層面上對特定信用主體的算法解釋請求權(quán)予以保障，明確該請求權(quán)的行使對象及其未能履行解釋義務(wù)的法律責(zé)任后果。當(dāng)然，該算法解釋請求權(quán)的實際效果仍受到算法目的與法律目的存在錯位、算法解釋與理解有一定專業(yè)性要求的限制，但是該權(quán)利的設(shè)置與保障仍是增強算法透明度的可行性嘗試。

增強算法透明度措施的有效落實，還在于監(jiān)督主體尤其是外部監(jiān)督主體對算法權(quán)力的全方位監(jiān)督。應(yīng)支持學(xué)術(shù)性組織和社會非營利機構(gòu)的適當(dāng)介入，加強第三方監(jiān)管力量。德國出現(xiàn)了以“監(jiān)控算法”為活動目的的社會組織，該組織由算法專家、媒體人等社會人士組成，其活動宗旨為評估算法決策對公共生活的影響程度。在手段方面，該組織主要考察算法用戶間訪問協(xié)議的合理性、數(shù)據(jù)管理活動的道德性和數(shù)據(jù)利用的高效性與采集的必要性、數(shù)據(jù)利用者合規(guī)管理活動的專人負責(zé)性、以及數(shù)據(jù)訪問的留痕準確性[24]43。在借鑒德國民間團體監(jiān)督模式的同時，算法設(shè)計過程中，也應(yīng)考慮引入社會專業(yè)人士，對算法設(shè)計過程和決策部署進行監(jiān)督[25]29。

（三）懲戒修復(fù)機制的修構(gòu)

在以失信懲戒為內(nèi)容的算法規(guī)制中，應(yīng)堅持以管控懲戒不當(dāng)風(fēng)險為核心原則。首先，應(yīng)剔除信用算法的道德目的，警惕將以失信懲戒作為地方社會品德提升慣用手段的不當(dāng)做法，防止失信懲戒手段的濫用。其次，要提升信用算法的精確度、塑造信用算法失信懲戒的謙抑性，盡量保障市場主體的交易自由以激發(fā)市場活力。再次，應(yīng)根據(jù)類型化的失信場景，匹配類型化的信用算法。最后，信用算法應(yīng)當(dāng)確保懲戒手段與風(fēng)險的匹配，即懲戒手段必須是能夠管控該風(fēng)險的手段中對相對人限制最小的手段。

規(guī)制算法之外，提升算法利用在失信懲戒中的效能更值得關(guān)注。人工智能工具能夠通過算法模型綜合分析失信行為主體的失信原因?；诖?，可分別對因履約能力不足等客觀原因遭受懲戒的失信主體，和出于主觀惡意不愿履約的失信主體，分別適用不同的懲戒措施。對于后者，考慮到其行為習(xí)慣的高風(fēng)險性，懲戒措施除應(yīng)覆蓋金融信用領(lǐng)域，也應(yīng)涵蓋與失信行為相關(guān)的從業(yè)范圍，以實現(xiàn)實質(zhì)性風(fēng)險監(jiān)測。此外，失信懲戒程度和聯(lián)合懲戒范圍也應(yīng)根據(jù)失信行為人的行為性質(zhì)和影響程度進行精準劃分，人工智能工具對失信行為進行的綜合研判，為失信懲戒監(jiān)管效率的提高提供參照。

信用修復(fù)機制的建立，應(yīng)以“數(shù)字正義原則”為前提[26]98，以“技術(shù)治理路徑”為手段[27]58。信用修復(fù)制度建設(shè)的關(guān)鍵一方面在于落實信用修復(fù)的實效性，另一方面則在于提升信用修復(fù)的規(guī)范性。針對前者，應(yīng)切實保障信用主體類似“被遺忘權(quán)”的實現(xiàn)和監(jiān)督權(quán)的行使。為此，應(yīng)首先在數(shù)據(jù)輸入端將相關(guān)信息進行清除，并剔除以該數(shù)據(jù)為中心進行計算的特定勾連關(guān)系。其次，應(yīng)保障信用主體信用修復(fù)異議權(quán)。信用主體對信用修復(fù)工作有異議的，可以提出申請。相關(guān)部門在參考大數(shù)據(jù)基礎(chǔ)上算法對該信用主體修正失信行為成效的評估結(jié)果后，在一定范圍和程度內(nèi)依法開展信用修復(fù)工作。針對后者，應(yīng)使用互聯(lián)網(wǎng)檢測工具對謊稱信用修復(fù)的非法經(jīng)營活動進行實時監(jiān)測，并及時斷開其網(wǎng)絡(luò)接入，減少非法經(jīng)營活動對公眾認知的誤導(dǎo)。

（四）提供者和用戶監(jiān)管基本原則的引入

提供者和用戶監(jiān)管是應(yīng)對高風(fēng)險人工智能應(yīng)用的最后屏障。肇始于2021 年4 月的歐盟《人工智能法案》備受關(guān)注。該法案基于風(fēng)險分析的方法，為不同類型的人工智能系統(tǒng)施加不同的要求和義務(wù)。針對高風(fēng)險人工智能工具，歐盟人工智能法案將“確保人類對于AI 系統(tǒng)在使用時的有效監(jiān)管”作為最重要的核心監(jiān)管措施。此處“人類”是指提供者和用戶，而其可以采取的監(jiān)管措施，包括監(jiān)督系統(tǒng)運作，認識到系統(tǒng)的“自動化偏見”，對系統(tǒng)的輸出進行正確解釋，在特定情況下拒絕使用系統(tǒng)輸出，干預(yù)（如終止）系統(tǒng)運行等。在信用指標成為社會交往關(guān)鍵評價標準的今天，信用場景成為人工智能利用的高風(fēng)險領(lǐng)域?；陲L(fēng)險管控的基本要求和信用信息保護的目的，人工智能工具在信用場景中的使用，應(yīng)防止或盡量減少因算法失控、數(shù)據(jù)污染、數(shù)據(jù)泄露而導(dǎo)致的信用信息權(quán)益受損風(fēng)險。

綜上所述，人工智能工具不僅為社會信用體系的構(gòu)建提供了便捷化、智能化、精準化的技術(shù)支持，也可能為個人信用信息權(quán)益的實現(xiàn)帶來風(fēng)險。為此，減少人工智能工具使用的因噎廢食做法無助于社會信用管理事業(yè)的發(fā)展。約束替代數(shù)據(jù)的采集過程，提升信用算法的透明度，同時修構(gòu)懲戒修復(fù)機制，才能夠為保障個人信用信息權(quán)益實現(xiàn)提供制度基礎(chǔ)。這對營造良好的信用環(huán)境，健全誠信建設(shè)長效機制，助力社會信用體系建設(shè)等也有著重要意義。