生成式人工智能中信用數(shù)據(jù)法律保護(hù)的邏輯與進(jìn)路

摘 "要：生成式人工智能場(chǎng)域下，信用數(shù)據(jù)法律保護(hù)是實(shí)現(xiàn)數(shù)字法治的關(guān)鍵一環(huán)。信用數(shù)據(jù)應(yīng)以“用于識(shí)別判斷企業(yè)和個(gè)人信用狀況”作為核心判斷標(biāo)準(zhǔn)，其具有實(shí)現(xiàn)直接效益、承擔(dān)金融信貸以及維系社會(huì)信用的特有屬性。就信用數(shù)據(jù)的流程性風(fēng)險(xiǎn)而言，其存在生成式人工智能的違法爬取與算法濫用風(fēng)險(xiǎn)；就信用數(shù)據(jù)的內(nèi)生性風(fēng)險(xiǎn)而言，其存在生成式人工智能的回溯流轉(zhuǎn)與深度偽造風(fēng)險(xiǎn)。信用數(shù)據(jù)的宏觀治理應(yīng)當(dāng)重申目的限制原則的約束、確保利益衡量原理的運(yùn)用以及實(shí)現(xiàn)多元治理理念的貫徹。信用數(shù)據(jù)的具體保障進(jìn)路應(yīng)當(dāng)圍繞事前監(jiān)督的管理舉措、事中監(jiān)管的審查機(jī)制以及事后救濟(jì)的責(zé)任分配展開(kāi)，凸顯生成式人工智能場(chǎng)域下信用數(shù)據(jù)法律治理的效率性、安全性以及公平性。

關(guān)鍵詞：生成式人工智能；信用數(shù)據(jù)；風(fēng)險(xiǎn)治理；法律保障

中圖分類號(hào)：D 923 " " 文獻(xiàn)標(biāo)志碼：A " " " 文章編號(hào)：2096-9783（2025）02?0103?11

自O(shè)penAI推出自然語(yǔ)言處理工具ChatGPT、文生視頻工具Sora以來(lái)，以該類工具為代表的生成式人工智能（Generative Artificial Intelligence，以下簡(jiǎn)稱GAI）實(shí)現(xiàn)了人機(jī)交互領(lǐng)域革命式的飛躍。當(dāng)下，GAI在諸多領(lǐng)域的亮眼成就為人造科學(xué)與工程、生物學(xué)、醫(yī)學(xué)等基礎(chǔ)學(xué)科的融合發(fā)展鋪平了道路，其將減少真實(shí)人工產(chǎn)品和虛擬人工產(chǎn)品之間的差異，實(shí)現(xiàn)虛擬世界和物理世界中人類經(jīng)驗(yàn)和行為的交叉融合[1]。毋庸置疑，GAI的交互性、自主性以及創(chuàng)新性深刻地影響和改變了既有的人際生活關(guān)系、社會(huì)利益分配，成為推動(dòng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展、實(shí)現(xiàn)國(guó)家治理現(xiàn)代化的又一著力點(diǎn)。例如，2024年法國(guó)數(shù)據(jù)團(tuán)隊(duì)基于公共服務(wù)實(shí)用信息訓(xùn)練研發(fā)了模塊化GAI“Albert”，其旨在提升行政手續(xù)的效率而滿足行政機(jī)關(guān)提供公共服務(wù)的不同場(chǎng)景需要[2]。然而，GAI特有的傾向性預(yù)訓(xùn)練語(yǔ)言模型、周期性數(shù)據(jù)處理流程、“黑箱式”算法邏輯規(guī)則等纏附諸多未知的風(fēng)險(xiǎn)，如美國(guó)一名律師借助ChatGPT搜集類案資料呈交法官，該機(jī)器人明確表示生成的案例信息“千真萬(wàn)確”并且附帶了相關(guān)信息的出處，但法院最后證實(shí)，原告方所提交資料的判決結(jié)果和引語(yǔ)等全部是子虛烏有[3]。

既有研究尚未針對(duì)性地關(guān)注GAI中信用數(shù)據(jù)的風(fēng)險(xiǎn)治理和法律保護(hù)問(wèn)題，但這是十分特殊且必要的。因?yàn)樵谕暾腉AI運(yùn)行過(guò)程中，信息抑或數(shù)據(jù)1成為構(gòu)筑GAI應(yīng)用的核心，是預(yù)訓(xùn)練、算法決策、結(jié)果輸出三個(gè)階段的重要參數(shù)，是在不同神經(jīng)網(wǎng)絡(luò)架構(gòu)下開(kāi)展機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的“養(yǎng)料”。從金融風(fēng)險(xiǎn)來(lái)看，由AI生成的小作文欺騙性與迷惑性極強(qiáng)，低門檻、影響大的謠言出現(xiàn)抑或反轉(zhuǎn)讓以“信息＋信心”為核心的股市市場(chǎng)交易秩序混亂、動(dòng)搖投資者信心[4]，造成資本市場(chǎng)嚴(yán)重的信用毀損。鑒于此，本文將GAI場(chǎng)域下信用數(shù)據(jù)作為研究對(duì)象并具體展開(kāi)如下探討：分析信用數(shù)據(jù)有別于傳統(tǒng)數(shù)據(jù)的規(guī)范定位，探析GAI中信用數(shù)據(jù)潛在的法律風(fēng)險(xiǎn)，辨析GAI中實(shí)現(xiàn)信用數(shù)據(jù)審慎治理的宏觀邏輯，最后縷析GAI中信用數(shù)據(jù)法律保障的全流程進(jìn)路。

一、生成式人工智能中信用數(shù)據(jù)的規(guī)范定位

信用與信用數(shù)據(jù)的關(guān)系在于：信用數(shù)據(jù)是傳統(tǒng)觀念上的信用在GAI場(chǎng)域下物理化的電磁記錄，而信用是信用數(shù)據(jù)的保護(hù)法益，二者分屬保護(hù)對(duì)象、保護(hù)目的范疇。信用數(shù)據(jù)的內(nèi)涵和屬性決定了GAI場(chǎng)域中信用數(shù)據(jù)的保護(hù)范圍，有必要優(yōu)先探尋其相應(yīng)的規(guī)范定位。

（一）信用數(shù)據(jù)的基本內(nèi)涵

從信用的發(fā)展歷程來(lái)看，信用數(shù)據(jù)的出現(xiàn)拓寬了法律對(duì)信用的保護(hù)場(chǎng)景。在鄉(xiāng)土社會(huì)的差序格局中，社會(huì)關(guān)系是逐漸從一個(gè)一個(gè)人推出去的，社會(huì)范圍是私人聯(lián)系的增加而構(gòu)成的網(wǎng)絡(luò)[5]，此時(shí)信用只有在私人聯(lián)系的“熟人”社會(huì)關(guān)系中發(fā)生意義，其調(diào)整的社會(huì)規(guī)范主要是道德而無(wú)需法律過(guò)多介入。在受到大數(shù)據(jù)、人工智能深遠(yuǎn)影響的當(dāng)前社會(huì)格局下，信用以數(shù)據(jù)為載體，在“陌生”社會(huì)關(guān)系中淡化了人格屬性而導(dǎo)向了財(cái)產(chǎn)屬性一側(cè)，法律規(guī)范便強(qiáng)化了保護(hù)的正當(dāng)性根基。從鄉(xiāng)土社會(huì)到人工智能社會(huì)的轉(zhuǎn)型，信用也相應(yīng)地發(fā)生了時(shí)代性的變遷：即交易者從基于人身血緣的信任、契約合同的信任逐漸轉(zhuǎn)化為對(duì)信息（數(shù)據(jù)）的真實(shí)性和有效性的信任，數(shù)據(jù)信用成為人與數(shù)據(jù)之間形成的一種單向信任的生產(chǎn)關(guān)系和社會(huì)關(guān)系[6]。比如，就有效性保護(hù)而言，在網(wǎng)絡(luò)交易平臺(tái)惡意刷競(jìng)爭(zhēng)店鋪的銷量和信譽(yù)導(dǎo)致店鋪被平臺(tái)以虛假交易事由搜索降權(quán)，此種“反向刷單炒信”行為被司法實(shí)踐認(rèn)定為破壞生產(chǎn)經(jīng)營(yíng)罪2，其大幅擴(kuò)充了信用的法秩序保護(hù)場(chǎng)景。

從既有規(guī)范對(duì)信用信息基本內(nèi)涵的框定來(lái)看，其主要包含“技術(shù)信用、經(jīng)濟(jì)信用以及社會(huì)信用”三種類型。第一種，國(guó)標(biāo)《信用基本術(shù)語(yǔ)》（GB/T 22117-2018）2.22將“信用信息”規(guī)定為：個(gè)人或組織在社會(huì)與經(jīng)濟(jì)活動(dòng)中產(chǎn)生的與信用有關(guān)的記錄，以及與評(píng)價(jià)其信用價(jià)值相關(guān)的各類信息。其聚焦國(guó)家技術(shù)標(biāo)準(zhǔn)領(lǐng)域，對(duì)信用信息采取了“信用或信用價(jià)值”的“相關(guān)性”判斷標(biāo)準(zhǔn)，其因界定范圍過(guò)于寬泛而屬于廣義層面的信用信息。第二種，2022年《社會(huì)信用體系建設(shè)法（向社會(huì)公開(kāi)征求意見(jiàn)稿）》（以下簡(jiǎn)稱《信用建設(shè)法》）第二條將其規(guī)定為：可用以識(shí)別具有完全民事行為能力的自然人、法人和非法人組織身份和信用狀況的信息。其圍繞社會(huì)信用體系建設(shè)的領(lǐng)域，對(duì)信用信息采取了“身份與信用狀況”的“可識(shí)別性”判斷標(biāo)準(zhǔn)。相較于第一種而言，第二種類型中的“可識(shí)別性”比前述“相關(guān)性”標(biāo)準(zhǔn)的識(shí)別范圍更窄，因而屬于中義層面的定義。第三種，2022年《征信業(yè)務(wù)管理辦法》（以下簡(jiǎn)稱《征信辦法》）第三條將其規(guī)定為：依法采集，為金融等活動(dòng)提供服務(wù)，用于識(shí)別判斷企業(yè)和個(gè)人信用狀況的基本信息、借貸信息、其他相關(guān)信息，以及基于前述信息形成的分析評(píng)價(jià)信息。其關(guān)注經(jīng)濟(jì)信用的領(lǐng)域而采用了“合法性、目的性以及信用狀況的識(shí)別性”判斷標(biāo)準(zhǔn)，屬于狹義層面的界定。三種信用數(shù)據(jù)并非既有規(guī)范的內(nèi)容沖突，而是從關(guān)涉業(yè)務(wù)場(chǎng)景進(jìn)行的分類，因而難以按照某一時(shí)點(diǎn)規(guī)范的效力層級(jí)確定信用信息的統(tǒng)一內(nèi)涵。實(shí)際上，信用大數(shù)據(jù)時(shí)代已不存在嚴(yán)格意義上的信用信息而無(wú)法通過(guò)列舉識(shí)別，無(wú)論是征信還是社會(huì)信用立法領(lǐng)域，為實(shí)現(xiàn)立法的安定性和周延性，應(yīng)將“用于識(shí)別判斷企業(yè)和個(gè)人信用狀況”的信用目的作為判斷“信用信息”的核心標(biāo)準(zhǔn)[7]。唯有對(duì)信用信息基本內(nèi)涵的識(shí)別標(biāo)準(zhǔn)達(dá)成共識(shí)，探討GAI中信用數(shù)據(jù)潛在的法律風(fēng)險(xiǎn)才有章可循。

（二）信用數(shù)據(jù)的特有屬性

《中華人民共和國(guó)民法典》第一千零二十四條第二款將信用作為名譽(yù)權(quán)保護(hù)內(nèi)容之一，名譽(yù)權(quán)與信用的法律保護(hù)問(wèn)題在名譽(yù)數(shù)據(jù)與信用數(shù)據(jù)的保護(hù)問(wèn)題上存在競(jìng)合關(guān)系。鑒于此，有必要對(duì)名譽(yù)數(shù)據(jù)與信用數(shù)據(jù)的規(guī)范屬性加以甄別。

第一，信用數(shù)據(jù)具有實(shí)現(xiàn)直接效益的功能，是信用主體提升市場(chǎng)競(jìng)爭(zhēng)地位的關(guān)鍵要素。除了文首利用GAI生成與信用有關(guān)的虛假小作文造成股價(jià)損失外，信用與收益的直接性關(guān)聯(lián)還體現(xiàn)在互聯(lián)網(wǎng)電商領(lǐng)域。因?yàn)樵陔娮由虅?wù)領(lǐng)域，刷單炒信直接損害的是電子商務(wù)信用評(píng)價(jià)機(jī)制，刷單者偽造信用指標(biāo)侵犯了消費(fèi)者的知情權(quán)、造成了不公平競(jìng)爭(zhēng)以及平臺(tái)運(yùn)營(yíng)者的巨大經(jīng)濟(jì)損失[8]。類似的數(shù)據(jù)造假借助GAI迭代技術(shù)會(huì)變得愈發(fā)簡(jiǎn)單和門檻極低，但其皆未必與民事主體的道德、能力、聲望，以及身體狀態(tài)等有關(guān)而關(guān)涉名譽(yù)權(quán)。

第二，信用數(shù)據(jù)具備承擔(dān)金融信貸的功能，是促進(jìn)社會(huì)征信業(yè)務(wù)健康發(fā)展的核心要素。在征信領(lǐng)域，信用數(shù)據(jù)一般包含信息主體的借貸、擔(dān)保、欠稅、消費(fèi)、生產(chǎn)經(jīng)營(yíng)等，在取得信息主體書(shū)面同意下，還得以涵蓋個(gè)人的收入、存款、有價(jià)證券、商業(yè)保險(xiǎn)等。信用數(shù)據(jù)得以揭示金融市場(chǎng)信用風(fēng)險(xiǎn)、減少信息不對(duì)稱對(duì)市場(chǎng)效率的影響，授信方得以衡量貸款風(fēng)險(xiǎn)、減少交易成本、提高信貸決策效率；被授信方能夠降低實(shí)物抵押擔(dān)保負(fù)擔(dān)、提升融資力度；監(jiān)管者可以提高金融體系的穩(wěn)定性、穩(wěn)定國(guó)家金融秩序以及優(yōu)化營(yíng)商環(huán)境[9]。盡管信用數(shù)據(jù)范圍十分廣泛，但《征信業(yè)管理?xiàng)l例》（以下簡(jiǎn)稱《征信條例》）第十四條明確禁止征信機(jī)構(gòu)采集有關(guān)個(gè)人宗教信仰、基因、指紋、血型、疾病等個(gè)人信息，然而實(shí)踐中的名譽(yù)侵權(quán)卻多與前述被禁止采集的數(shù)據(jù)存在密切關(guān)聯(lián)。

第三，信用數(shù)據(jù)具有維系社會(huì)信用的功能，是建立健全社會(huì)信用體系建設(shè)的基礎(chǔ)要素?！缎庞媒ㄔO(shè)法》將社會(huì)信用體系區(qū)分為政務(wù)誠(chéng)信、商務(wù)誠(chéng)信、社會(huì)誠(chéng)信、司法公信四大類，其皆離不開(kāi)對(duì)信用數(shù)據(jù)的合理收集以及安全保障；依據(jù)其第五十八條，信息數(shù)據(jù)可界定包含基礎(chǔ)信用信息（用以識(shí)別信用信息主體身份和記載基本情況的信息）、能夠反映信用信息主體信用的信息（如行政許可、法院判決以及榮譽(yù)表彰等）兩類。于是，信用數(shù)據(jù)包含除了“個(gè)人信息”以外的其他數(shù)據(jù)，而關(guān)涉名譽(yù)權(quán)的數(shù)據(jù)則以“已識(shí)別”或者“可識(shí)別”為限，否則行為難以符合名譽(yù)貶損對(duì)象要件中的“他人性”要素。

二、生成式人工智能中信用數(shù)據(jù)的法律風(fēng)險(xiǎn)

眾所周知，GAI引發(fā)新一輪技術(shù)革命的同時(shí)也引起了各國(guó)對(duì)數(shù)據(jù)風(fēng)險(xiǎn)的擔(dān)憂，比如2023年意大利數(shù)據(jù)保護(hù)局（DPA）“一刀切式”地禁止使用ChatGPT，并限制OpenAI處理本國(guó)用戶信息，而歐盟則于2024年公布《人工智能法案》（以下簡(jiǎn)稱AI Act）展現(xiàn)了對(duì)新技術(shù)的謹(jǐn)慎態(tài)度。GAI模式運(yùn)行的流程性與信用數(shù)據(jù)的流動(dòng)性決定了數(shù)據(jù)安全風(fēng)險(xiǎn)的泛在性，要探索GAI場(chǎng)域中信用數(shù)據(jù)的法律保護(hù)邏輯與進(jìn)路，應(yīng)結(jié)合GAI的“數(shù)據(jù)訓(xùn)練、算法決策、結(jié)果輸出”運(yùn)行階段展開(kāi)風(fēng)險(xiǎn)分析。

（一）信用數(shù)據(jù)的流程性風(fēng)險(xiǎn)：生成式人工智能的違法爬取與算法濫用

其一，GAI的數(shù)據(jù)訓(xùn)練階段存在對(duì)信用數(shù)據(jù)的違法爬取而引發(fā)安全性風(fēng)險(xiǎn)。第一，在數(shù)據(jù)訓(xùn)練的輸出階段，驗(yàn)證數(shù)據(jù)集預(yù)訓(xùn)練依賴于GAI對(duì)原生性信用數(shù)據(jù)的正向式、主動(dòng)地爬取而纏附危險(xiǎn)。以ChatGPT為代表的GAI在預(yù)訓(xùn)練階段需要大量的數(shù)據(jù)支撐，當(dāng)其被投喂數(shù)據(jù)時(shí)能夠及時(shí)將社會(huì)所有個(gè)體的姓名、性別、電話、居住地址、出行軌跡、消費(fèi)記錄、診療檔案等相關(guān)信息予以儲(chǔ)存記錄，此時(shí)僅需借助簡(jiǎn)單的機(jī)器算法便可輕而易舉地推測(cè)出特定個(gè)體的個(gè)人偏好、財(cái)務(wù)狀況、信用評(píng)級(jí)等隱私信息，加劇了信息泄露和被濫用的潛在風(fēng)險(xiǎn)[10]。例如，2023年谷歌就曾被指控違法竊取數(shù)百萬(wàn)用戶的數(shù)據(jù)來(lái)訓(xùn)練AI，Clarkson律所起訴谷歌“一直在秘密竊取數(shù)億美國(guó)人在互聯(lián)網(wǎng)上創(chuàng)造和分享的一切”，并利用這些數(shù)據(jù)來(lái)訓(xùn)練其AI產(chǎn)品（如Chatbot Bard），起訴書(shū)還稱谷歌在構(gòu)建其產(chǎn)品時(shí)“幾乎占用了我們的整個(gè)數(shù)字足跡”，包括“創(chuàng)意和文案作品”[11]。第二，在數(shù)據(jù)訓(xùn)練的輸入階段，GAI同樣能夠反向式、被動(dòng)地借助系統(tǒng)模型將使用者輸入的文字、圖像、音頻等內(nèi)容以數(shù)據(jù)形式違規(guī)留存。例如，2024年11月OpenAI隱私政策的第4條明確規(guī)定了“個(gè)人數(shù)據(jù)的保留”，即平臺(tái)保留用戶個(gè)人數(shù)據(jù)的時(shí)長(zhǎng)取決于多種因素，其判斷取決于處理數(shù)據(jù)的目的、數(shù)量、性質(zhì)、敏感性以及未經(jīng)授權(quán)使用或披露造成的潛在風(fēng)險(xiǎn)等，但僅在某些情形下取決于用戶的個(gè)人設(shè)置，其平臺(tái)自主性決定程序極高而可能侵害GAI信用數(shù)據(jù)服務(wù)使用者的知情權(quán)、決定權(quán)以及刪除權(quán)等。尤其是在以WarrenQ-Chat為代表的AI金融垂直平臺(tái)中，信用主體數(shù)據(jù)處理的正當(dāng)程序、合理期限等要素至關(guān)重要，其與信用主體的利益具有直接性關(guān)聯(lián)而安全保護(hù)必要性顯著增強(qiáng)。

其二，GAI的算法決策階段從自發(fā)到自覺(jué)的數(shù)據(jù)處理模式容易造成算法濫用而招致失秩性風(fēng)險(xiǎn)。第一，在GAI算法模型的自主研發(fā)中，研發(fā)者在預(yù)訓(xùn)練階段就已經(jīng)通過(guò)循環(huán)式人工標(biāo)注的打分模型優(yōu)化改進(jìn)了原算法決策模型，將生成的信用數(shù)據(jù)內(nèi)容以符合研發(fā)者、使用者同行人領(lǐng)域的偏好標(biāo)準(zhǔn)，抑或外行人領(lǐng)域的平行評(píng)價(jià)呈現(xiàn)，該算法對(duì)信用數(shù)據(jù)的形成邏輯固有地內(nèi)含了某種歧視性和壟斷性風(fēng)險(xiǎn)。就歧視性風(fēng)險(xiǎn)而言，比如編程算法以一定的基準(zhǔn)預(yù)先設(shè)立抓取的特定路徑而帶有明顯的個(gè)人偏見(jiàn)色彩；就實(shí)效性的征信數(shù)據(jù)而言，如若個(gè)人征信系統(tǒng)包含個(gè)人信息的數(shù)據(jù)庫(kù)更新頻次不足而導(dǎo)致數(shù)據(jù)不準(zhǔn)確，則算法對(duì)數(shù)據(jù)分析的結(jié)果與個(gè)人真實(shí)的信用評(píng)價(jià)便不匹配，進(jìn)而影響個(gè)人的貸款成功率等[12]，其屬算法濫用造成信用主體的不當(dāng)“畫(huà)像”、評(píng)分評(píng)級(jí)以及技術(shù)偏見(jiàn)，明顯造成以信用數(shù)據(jù)為核心的征信體系、社會(huì)信用建設(shè)體系的秩序性混亂。在風(fēng)險(xiǎn)社會(huì)中，風(fēng)險(xiǎn)對(duì)立分配的邏輯在于：此種分配不僅取決于一個(gè)人的絕對(duì)財(cái)富水平，還取決于一個(gè)人相對(duì)于他人的財(cái)富水平；尤其是在此種風(fēng)險(xiǎn)對(duì)立下并非每個(gè)人都能從危險(xiǎn)加劇情境中擁有“私人逃生路線”，于是個(gè)人相較于他人財(cái)富水平的對(duì)比關(guān)系決定了是否會(huì)被分配諸多風(fēng)險(xiǎn)[13]。此種基于財(cái)富差異形成的風(fēng)險(xiǎn)分配邏輯，在GAI領(lǐng)域體現(xiàn)在算法設(shè)計(jì)的風(fēng)險(xiǎn)配置上：即在GAI三方法律關(guān)系下，算法研發(fā)者、服務(wù)提供者多以資力雄厚的網(wǎng)絡(luò)數(shù)據(jù)平臺(tái)、高新科技公司以及相關(guān)的金融信用公司為主，信用數(shù)據(jù)服務(wù)使用者可能因?yàn)槲促Y本性實(shí)質(zhì)參與算法的設(shè)計(jì)階段而明顯處于弱勢(shì)地位。于是，GAI中算法濫用（尤其是當(dāng)前服務(wù)研發(fā)者與提供者多以混同存在）能夠形成?經(jīng)營(yíng)者過(guò)度集中而限制市場(chǎng)競(jìng)爭(zhēng)，進(jìn)而通過(guò)限制信用數(shù)據(jù)流通制造市場(chǎng)的規(guī)模性壟斷。比如，除去電子商務(wù)領(lǐng)域通過(guò)搜索引擎算法設(shè)計(jì)操縱店鋪主體信用的自然搜索結(jié)果、等級(jí)排序而侵害數(shù)據(jù)信用的真實(shí)有效外，部分企業(yè)基于算法使用形成的價(jià)格政策可能會(huì)因違反市場(chǎng)規(guī)則而嚴(yán)重侵害國(guó)民對(duì)市場(chǎng)信用的信賴。比如，在金融高頻交易領(lǐng)域，代表性的例子就是2014年美國(guó)的雅典娜資本調(diào)查事件，該資本編譯了一種算法用于實(shí)施非常經(jīng)典但迄今為止難以想象的金融操作，即利用算法作為一種市場(chǎng)收盤標(biāo)記策略，允許在收盤前的幾秒鐘進(jìn)行大規(guī)模市場(chǎng)交易以影響最后的交易價(jià)格[14]，通過(guò)算法濫用破壞信用數(shù)據(jù)的秩序價(jià)值內(nèi)核。第二，GAI算法決策除了研發(fā)者的自主設(shè)計(jì)外同時(shí)包含了AI的自覺(jué)性部分，其形塑了“算法黑箱”生成信用數(shù)據(jù)機(jī)制的不可知性與可解釋性危機(jī)。在算法安全風(fēng)險(xiǎn)形成的機(jī)制中，人為性是安全風(fēng)險(xiǎn)的前因，人是一切安全風(fēng)險(xiǎn)的起點(diǎn)，“人的意志”經(jīng)由開(kāi)發(fā)訓(xùn)練貫徹至“算法黑箱”的形成維護(hù)中，又以決策和行為的形式擊穿開(kāi)發(fā)、應(yīng)用乃至監(jiān)管的場(chǎng)景層而抵達(dá)“風(fēng)險(xiǎn)側(cè)”[15]。針對(duì)此種周期性與往復(fù)式的算法決策修改、對(duì)非專業(yè)人士代碼技術(shù)解讀壁壘的考量，GAI研發(fā)者與提供者實(shí)際上難以向被決策方說(shuō)明算法生成信用數(shù)據(jù)的數(shù)理邏輯。于是，GAI算法技術(shù)的門檻性導(dǎo)致信用數(shù)據(jù)存在不可解釋性的困難。同時(shí)，算法的應(yīng)公開(kāi)性與商業(yè)秘密的受保護(hù)性存在底層規(guī)范邏輯的沖突，于是GAI算法理解的非透明性造就了信用數(shù)據(jù)輸出的不可知性。

（二）信用數(shù)據(jù)的內(nèi)生性風(fēng)險(xiǎn)：生成式人工智能的回溯流轉(zhuǎn)與深度偽造

其一，信用數(shù)據(jù)在GAI的結(jié)果輸出階段存在跨境的流動(dòng)性風(fēng)險(xiǎn)。第一，該跨境流動(dòng)性風(fēng)險(xiǎn)表現(xiàn)為對(duì)數(shù)據(jù)安全評(píng)估的違規(guī)風(fēng)險(xiǎn)。前已述及，信息數(shù)據(jù)包含識(shí)別性的基礎(chǔ)信用信息、反映主體信用的信息兩類。從事實(shí)上來(lái)看，其毫無(wú)疑問(wèn)與個(gè)人信息存在重合。從規(guī)范上來(lái)看，《中華人民共和國(guó)數(shù)據(jù)出境安全評(píng)估辦法》（以下簡(jiǎn)稱《評(píng)估辦法》）第二條明確規(guī)定，數(shù)據(jù)處理者在我國(guó)境內(nèi)收集和產(chǎn)生的重要數(shù)據(jù)和個(gè)人信息的安全評(píng)估適用本辦法?！洞龠M(jìn)和規(guī)范數(shù)據(jù)跨境流動(dòng)規(guī)定》（以下簡(jiǎn)稱《流動(dòng)規(guī)定》）第七條規(guī)定，作為境內(nèi)關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者的數(shù)據(jù)處理者向境外提供個(gè)人信息、重要數(shù)據(jù)（運(yùn)營(yíng)者以外的數(shù)據(jù)處理者向境外提供重要數(shù)據(jù)或者達(dá)到一定標(biāo)準(zhǔn)的個(gè)人、敏感個(gè)人信息）需要申報(bào)數(shù)據(jù)出境安全評(píng)估?！缎庞媒ㄔO(shè)法》第六十四條亦規(guī)定，信用信息的處理應(yīng)當(dāng)在境內(nèi)進(jìn)行。然而，國(guó)內(nèi)用戶在使用以ChatGPT為代表的域外GAI應(yīng)用時(shí)，相關(guān)信息卻是傳輸至該服務(wù)提供者的境外數(shù)據(jù)處理中心，再經(jīng)由AI應(yīng)用反饋回復(fù)服務(wù)使用者；是否需要針對(duì)個(gè)人信息的收集、存儲(chǔ)履行具體的事前告知同意便存在難題，而且其存在事實(shí)上的數(shù)據(jù)出境行為[16]。因?yàn)椋谑褂谜吲cGAI應(yīng)用如此回溯交互之余，提供者已然完成域內(nèi)信用數(shù)據(jù)的境外流轉(zhuǎn)以及留存，因而當(dāng)然地違反前述強(qiáng)制性規(guī)范中的安全評(píng)估義務(wù)。第二，該跨境流動(dòng)性風(fēng)險(xiǎn)體現(xiàn)為對(duì)國(guó)家安全以及社會(huì)公共利益的風(fēng)險(xiǎn)。從規(guī)范上來(lái)看，《評(píng)估辦法》第十九條和《中華人民共和國(guó)網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》（以下簡(jiǎn)稱《網(wǎng)安條例》）第六十二條將“重要數(shù)據(jù)”定義為：一旦遭到篡改、破壞、泄露或者非法獲取、非法利用等，可能危害國(guó)家安全、經(jīng)濟(jì)運(yùn)行、社會(huì)穩(wěn)定、公共健康和安全等的數(shù)據(jù)。2021年《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——網(wǎng)絡(luò)數(shù)據(jù)分類分級(jí)指引》（以下簡(jiǎn)稱網(wǎng)安指南》）2.2則對(duì)“重要數(shù)據(jù)”又作出如下限制性規(guī)定：原則上不包含國(guó)家秘密、個(gè)人信息以及企業(yè)內(nèi)部管理信息，但當(dāng)個(gè)人信息達(dá)到“規(guī)模性”或者基于海量個(gè)人信息加工形成衍生數(shù)據(jù)而關(guān)涉國(guó)家安全、公共利益時(shí)不受此限。于是，識(shí)別性的基礎(chǔ)信用信息（即個(gè)人信息）和重要數(shù)據(jù)并非水火不容的概念，二者在前述謂之“規(guī)模性、關(guān)涉性”下存在包容的余地。從事實(shí)上來(lái)看，當(dāng)前絕大多數(shù)的GAI應(yīng)用除了支持自然語(yǔ)言文本、聲音、圖像以及函數(shù)調(diào)用等方式互動(dòng)外，尚且配有數(shù)據(jù)實(shí)證分析、金融統(tǒng)計(jì)分析輸入的特色功能模塊，其為大規(guī)模、海量的信用數(shù)據(jù)跨境流動(dòng)提供了可能。于是，信用數(shù)據(jù)的違規(guī)跨境流動(dòng)不僅可能危及個(gè)人信用法益，而且極有可能危及國(guó)家安全、社會(huì)公共利益的超個(gè)人法益。也正是基于上述原因，中國(guó)支付清算協(xié)會(huì)就曾發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，避免企業(yè)員工因使用此類智能化工具導(dǎo)致跨境數(shù)據(jù)泄露的風(fēng)險(xiǎn)出現(xiàn)。

其二，信用數(shù)據(jù)于GAI的結(jié)果輸出階段呈現(xiàn)數(shù)據(jù)失真性風(fēng)險(xiǎn)。在利用GAI深度合成領(lǐng)域，此種失真性風(fēng)險(xiǎn)體現(xiàn)在“深度偽造”（Deepfake）問(wèn)題上。從技術(shù)上來(lái)看，深度偽造技術(shù)在誘發(fā)網(wǎng)絡(luò)攻擊方面帶來(lái)了毀滅性挑戰(zhàn)，該技術(shù)能夠創(chuàng)建生成虛假視頻、虛假圖像以及克隆語(yǔ)音信息，網(wǎng)絡(luò)釣魚(yú)者可以生成幾乎完美而足以代表各種大公司（主要是商業(yè)銀行）股東的語(yǔ)音復(fù)制品，說(shuō)服員工和公眾泄露他們的登錄憑證，從而導(dǎo)致網(wǎng)絡(luò)攻擊[17]。例如，香港就曾發(fā)生詐騙分子利用AI的深度偽造技術(shù)從國(guó)外視聽(tīng)網(wǎng)站YouTube上下載視頻，模仿跨國(guó)公司高層人員的聲音并制作AI“多人換臉”視頻，通過(guò)營(yíng)造多人線上參與公司內(nèi)部視頻會(huì)議的假象成功欺騙公司職員轉(zhuǎn)賬2億港元[18]。2023年《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十四條規(guī)定，深度合成服務(wù)提供者和技術(shù)支持者在提供人臉、人聲等生物識(shí)別信息編輯功能時(shí)，應(yīng)當(dāng)提示該技術(shù)服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。然而，從實(shí)踐上來(lái)看，深度合成服務(wù)的提供者不僅可能難以取得個(gè)人的單獨(dú)授權(quán)同意，而且完全可能是根本不具備取得授權(quán)的規(guī)范意識(shí)。比如，在“林某肖像權(quán)糾紛案”中，原告是坐擁25.4萬(wàn)粉絲的某短視頻博主，被告是運(yùn)營(yíng)“AI視頻換臉”微信小程序的某科技公司，法院查明被告未經(jīng)同意便使用AI視頻換臉技術(shù)侵犯了原告肖像權(quán)3，本案難謂被告不存在取得原告單獨(dú)授權(quán)同意的機(jī)會(huì)。

三、生成式人工智能中信用數(shù)據(jù)的宏觀治理邏輯

雖然GAI的不當(dāng)利用會(huì)造成信用數(shù)據(jù)的諸多風(fēng)險(xiǎn)，但毋庸置疑，其具有技術(shù)中立、技術(shù)向善的一面，有必要對(duì)GAI中信用數(shù)據(jù)宏觀的治理邏輯先予探討。

（一）重申目的限制原則的約束

一般認(rèn)為，處理數(shù)據(jù)應(yīng)當(dāng)符合目的主義的原則源于《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》）第六條規(guī)定，其與最小必要原則存在親和性。同時(shí)，該法第十七、十九條又規(guī)定了個(gè)人信息處理目的的合理告知、保存期限的目的性限制等標(biāo)準(zhǔn)。此處，目的限制原則與GAI的技術(shù)邏輯存在緊張沖突關(guān)系。因?yàn)?，從?shù)據(jù)訓(xùn)練階段來(lái)看，就OpenAI而言，其官網(wǎng)General FAQ部分就“何種類型的信息被用來(lái)訓(xùn)練ChatGPT？”指出，GAI以及其他服務(wù)是使用互聯(lián)網(wǎng)上公開(kāi)的信息、與第三方合作的信息、用戶或人力訓(xùn)練師和研究人員提供和產(chǎn)出信息三類。而正如前文所述，OpenAI對(duì)用戶所提供的信息數(shù)據(jù)保留了極高的自主決定權(quán)，信用數(shù)據(jù)可能被反復(fù)性、無(wú)限次地用于模型訓(xùn)練，于是目的原則的限制自然落空。從算法決策、結(jié)果輸出階段來(lái)看，對(duì)數(shù)據(jù)處理目的限制原則的偏離主要源自GAI的數(shù)據(jù)挖掘。即個(gè)人數(shù)據(jù)在被收集的時(shí)候需要被詳細(xì)說(shuō)明且不得超越既定的目的限制，數(shù)據(jù)挖掘?qū)儆跀?shù)據(jù)收集過(guò)程中典型的二次目的；但由于數(shù)據(jù)挖掘的探索性本質(zhì)，確定何種合理的模式實(shí)際上是不可能的，因而數(shù)據(jù)挖掘的目的具有不確定性而難以被目的性限制[19]。正是源自前述兩方面目的限制原則的適用窘境，有學(xué)者認(rèn)為：在GAI模型訓(xùn)練下，目的性限制原則陷入了循環(huán)論證的悖論；而在人機(jī)互動(dòng)對(duì)話的場(chǎng)景下，該原則亦難以明確劃定個(gè)人數(shù)據(jù)的行為邊界，因?yàn)榇竽Ｐ团cGAI所嵌入應(yīng)用進(jìn)行服務(wù)和數(shù)據(jù)的交互可能是實(shí)現(xiàn)服務(wù)所必要的[20]。

然而，目的性限制原則在人工智能領(lǐng)域中處理數(shù)據(jù)的“遇冷”并不意味著應(yīng)當(dāng)排除此原則的適用；相反，目的性限制原則在GAI的信用數(shù)據(jù)處理中具有重要指導(dǎo)作用而理應(yīng)被強(qiáng)調(diào)和重申。理由包括如下幾個(gè)方面：第一，從既有處理信用數(shù)據(jù)的規(guī)范條文來(lái)看，《民法典》第一千零三十五條（明示處理信息的目的）、《個(gè)人信息保護(hù)法》第六條、《征信辦法》第十二、十五條（分別規(guī)定針對(duì)個(gè)人和企業(yè)采集信用信息的目的限制）以及意見(jiàn)稿《信用建設(shè)法》第六十條（處理信用信息與目的的直接性相關(guān)）等皆規(guī)定了數(shù)據(jù)處理的目的性限制抑或直接性關(guān)聯(lián)。第二，從信用數(shù)據(jù)的識(shí)別標(biāo)準(zhǔn)來(lái)看，“用于識(shí)別判斷企業(yè)和個(gè)人信用狀況”是判斷何為信用數(shù)據(jù)的核心標(biāo)準(zhǔn)，其同時(shí)也構(gòu)成對(duì)GAI中信用數(shù)據(jù)處理的目的性限制。例如，在GAI的數(shù)據(jù)訓(xùn)練、算法決策、結(jié)果輸出三個(gè)階段，其處理的信用數(shù)據(jù)范圍并不涵攝個(gè)人宗教信仰、基因、指紋、血型、疾病和病史信息等，其不僅是因?yàn)榍笆觥墩餍艞l例》第十四條的禁止性規(guī)范的形式要求，更重要的實(shí)質(zhì)原因在于此類數(shù)據(jù)與具體個(gè)人信用狀況并無(wú)直接性關(guān)聯(lián)，對(duì)其應(yīng)當(dāng)進(jìn)行數(shù)據(jù)處理的場(chǎng)景性脫離。第三，從目的性限制原則與相關(guān)數(shù)據(jù)處理指導(dǎo)原則的關(guān)系角度來(lái)看，本原則處于個(gè)人數(shù)據(jù)保護(hù)法中的“基石”地位，如若削弱乃至放棄該原則，那么建立在本原則基礎(chǔ)之上而彼此關(guān)聯(lián)的最小必要性、透明、質(zhì)量原則等皆會(huì)難以適用[21]。

（二）確保利益衡量原理的運(yùn)用

利益衡量原理是個(gè)人數(shù)據(jù)處理領(lǐng)域的指導(dǎo)性原則，信用數(shù)據(jù)靜態(tài)控制與動(dòng)態(tài)利用關(guān)系的對(duì)立實(shí)際上是對(duì)信用數(shù)據(jù)主體權(quán)益與GAI研發(fā)者、服務(wù)提供者利益沖突的反映。在人工智能場(chǎng)景下處理信用數(shù)據(jù)應(yīng)當(dāng)堅(jiān)持利益衡量原理的運(yùn)用，其正當(dāng)性類型具體包含法益侵害闕如和保護(hù)優(yōu)越法益原理兩種。第一，法益侵害闕如原理的適用尊重信用數(shù)據(jù)主體的自主性。即GAI服務(wù)的研發(fā)者與使用者已經(jīng)遵循公開(kāi)、透明原則合理地履行了信用數(shù)據(jù)的告知義務(wù)，明示了信用數(shù)據(jù)采集的方式、范圍以及可能存在的風(fēng)險(xiǎn)，詳細(xì)說(shuō)明了數(shù)據(jù)的收集、存儲(chǔ)、使用、加工、傳輸、提供、公開(kāi)、刪除等具體處理規(guī)則，GAI服務(wù)給予用戶信息選擇權(quán)。比如為防止終端用戶信息的泄露，訊飛公司生產(chǎn)的翻譯機(jī)專門設(shè)計(jì)了離線翻譯版本，用戶在離線狀態(tài)下使用該產(chǎn)品并不會(huì)將信息上傳至網(wǎng)絡(luò)空間；法律可以對(duì)AI制造者進(jìn)行規(guī)制，即凡是能實(shí)現(xiàn)離線使用的產(chǎn)品，制造者應(yīng)當(dāng)保障終端用戶的信息選擇權(quán)而設(shè)計(jì)該替代性程序[22]。當(dāng)GAI服務(wù)平臺(tái)遵守了《個(gè)人信息保護(hù)法》第十六條“處理者不得以個(gè)人不同意處理其個(gè)人信息或者撤回同意為由，拒絕提供產(chǎn)品或者服務(wù)；處理個(gè)人信息屬于提供產(chǎn)品或者服務(wù)所必需的除外”的規(guī)定為用戶提供了替代性方案、基礎(chǔ)性服務(wù)的情形下，使用者單獨(dú)同意選擇某種服務(wù)時(shí)，依據(jù)同意阻卻之法理，GAI服務(wù)平臺(tái)無(wú)需對(duì)信用數(shù)據(jù)風(fēng)險(xiǎn)承擔(dān)責(zé)任。第二，保護(hù)優(yōu)越法益原理的適用強(qiáng)調(diào)人工智能平臺(tái)的決定權(quán)。即實(shí)施相關(guān)信用數(shù)據(jù)處理行為積極創(chuàng)設(shè)或者消極保護(hù)的利益明顯優(yōu)越于對(duì)數(shù)據(jù)處理所創(chuàng)設(shè)的風(fēng)險(xiǎn)時(shí)，信用主體理應(yīng)忍受必要的風(fēng)險(xiǎn)。從私法來(lái)看，《民法典》一千零三十六條第三款規(guī)定了為維護(hù)公共利益或自然人合法權(quán)益合理實(shí)施信息處理無(wú)須承擔(dān)民事責(zé)任。從專法來(lái)看，《個(gè)人信息保護(hù)法》第十三條第四至六項(xiàng)規(guī)定了應(yīng)對(duì)突發(fā)公共衛(wèi)生事件或緊急情況下人身財(cái)產(chǎn)安全、公共利益新聞報(bào)道與輿論監(jiān)督、個(gè)人自行公開(kāi)或合法公開(kāi)的情形下無(wú)須取得個(gè)人同意。從域外來(lái)看，除了歐盟GDPR第6條（f）規(guī)定了“合法利益”事由外，英國(guó)信息專員辦公室（ICO）在《人工智能和數(shù)據(jù)保護(hù)指南》中同樣指出，數(shù)據(jù)處理者可以基于合法利益處理個(gè)人數(shù)據(jù)以開(kāi)發(fā)和持續(xù)使用AI，但是處理者必須承擔(dān)額外責(zé)任以保護(hù)個(gè)人權(quán)益，證明數(shù)據(jù)處理的必要性和相稱性[23]。因此，在通用性、實(shí)時(shí)性AI廣泛普及之下，信用數(shù)據(jù)的處理自應(yīng)確保利益衡量原理的適用，并以此構(gòu)建GAI中的信用數(shù)據(jù)應(yīng)用模塊。

（三）實(shí)現(xiàn)多元治理理念的貫徹

互聯(lián)網(wǎng)時(shí)代的重要特點(diǎn)是去中心化，國(guó)家與社會(huì)、政府與市民、國(guó)家機(jī)構(gòu)與非國(guó)家機(jī)構(gòu)之間的關(guān)系轉(zhuǎn)變?yōu)楸馄交⑷ブ行幕男履Ｊ?，不同主體之間相互依賴、科層較少而漸趨于網(wǎng)絡(luò)體系的綜合治理[24]。因此，GAI場(chǎng)域下信用數(shù)據(jù)的治理既不能強(qiáng)調(diào)監(jiān)管機(jī)關(guān)的過(guò)度“家長(zhǎng)主義式”監(jiān)管，也不能完全依賴于平臺(tái)“自由主義式”自治。因?yàn)椋叨然谋O(jiān)管模式在周延保障信用數(shù)據(jù)安全的同時(shí)也會(huì)導(dǎo)致數(shù)據(jù)流通的低效和GAI應(yīng)用模塊發(fā)展的受阻，而完全的平臺(tái)自治在全面實(shí)現(xiàn)數(shù)據(jù)賦能的同時(shí)也可能誘發(fā)信用主體的權(quán)益風(fēng)險(xiǎn)和GAI的失范危機(jī)。實(shí)際上，人工智能領(lǐng)域信用數(shù)據(jù)法律保護(hù)問(wèn)題是技術(shù)與規(guī)范如何統(tǒng)籌協(xié)調(diào)的問(wèn)題，其問(wèn)題的本質(zhì)在于如何妥當(dāng)調(diào)和法律規(guī)范穩(wěn)定性、適應(yīng)性間的對(duì)立統(tǒng)一關(guān)系。應(yīng)當(dāng)認(rèn)為，GAI場(chǎng)域下信用數(shù)據(jù)的治理需要堅(jiān)持多元化的思維理念，尤其是注重將“內(nèi)部管理型規(guī)制”引入人工智能領(lǐng)域。所謂“內(nèi)部管理型規(guī)制”，是指為實(shí)現(xiàn)人工智能技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控的同頻共振，主張以內(nèi)部管理為源頭治理而以最小成本遏制風(fēng)險(xiǎn)，在內(nèi)部管理無(wú)效時(shí)訴諸外部規(guī)制，其呈現(xiàn)“平臺(tái)自律、政府治理、法律規(guī)制”的三種邏輯順位關(guān)系[25]。具體而言，平臺(tái)自治是目標(biāo)，GAI研發(fā)者與服務(wù)提供者以及關(guān)聯(lián)的行業(yè)自律是實(shí)現(xiàn)GAI技術(shù)創(chuàng)新、AI場(chǎng)景應(yīng)用優(yōu)化的最前端，平臺(tái)內(nèi)部風(fēng)險(xiǎn)的識(shí)別、介入以及制度性保障是信用數(shù)據(jù)安全保護(hù)的第一道屏障。行政監(jiān)管是主體，多元治理并非淡化行政主體的主導(dǎo)地位，而是強(qiáng)調(diào)GAI研發(fā)者、服務(wù)提供者與行政監(jiān)管主體的協(xié)商溝通，對(duì)GAI中信用數(shù)據(jù)流通實(shí)現(xiàn)有形的政府引導(dǎo)與無(wú)形的市場(chǎng)調(diào)節(jié)。法律規(guī)制是基礎(chǔ)，旨在將GAI中信用數(shù)據(jù)的流程性、內(nèi)生性風(fēng)險(xiǎn)劃歸至損害賠償抑或制裁預(yù)防中實(shí)現(xiàn)規(guī)制，其處于治理的末端?？傊?，應(yīng)將內(nèi)部管理型的多元治理模式納入信用數(shù)據(jù)的治理，培育AI技術(shù)新發(fā)展的同時(shí)細(xì)化信用數(shù)據(jù)在AI場(chǎng)景中的治理規(guī)則，防范信用數(shù)據(jù)全流程性風(fēng)險(xiǎn)。

四、生成式人工智能中信用數(shù)據(jù)的具體保障進(jìn)路

基于前述宏觀治理邏輯的指引，GAI中信用數(shù)據(jù)的具體保障進(jìn)路可以圍繞事前監(jiān)督、事中監(jiān)管以及事后救濟(jì)三個(gè)層面展開(kāi)具體探討。

（一）信用數(shù)據(jù)的事前監(jiān)督保護(hù)：著力構(gòu)建以效率為導(dǎo)向的管理舉措

事前監(jiān)督能夠大幅降低GAI中信用數(shù)據(jù)治理的成本投入，在規(guī)避信用數(shù)據(jù)風(fēng)險(xiǎn)的同時(shí)實(shí)現(xiàn)經(jīng)濟(jì)效益的穩(wěn)定產(chǎn)出，應(yīng)以效率為導(dǎo)向積極構(gòu)建以下三種具體的管理舉措。

其一，強(qiáng)化推進(jìn)GAI市場(chǎng)評(píng)估和信用數(shù)據(jù)保護(hù)顧問(wèn)的雙維舉措。就GAI的市場(chǎng)評(píng)估準(zhǔn)入而言，歐盟AI Act第6條以“是否對(duì)自然人的健康、安全或基本權(quán)利造成顯著損害風(fēng)險(xiǎn)”為標(biāo)準(zhǔn)，對(duì)AI系統(tǒng)有高風(fēng)險(xiǎn)、非高風(fēng)險(xiǎn)之分，當(dāng)高風(fēng)險(xiǎn)人工智能系統(tǒng)作為產(chǎn)品的安全部件抑或本身屬于產(chǎn)品時(shí)，其必須接受第三方合格性評(píng)估，并根據(jù)附件所列的歐盟統(tǒng)一立法將該產(chǎn)品投放市場(chǎng)或投入服務(wù)。而我國(guó)《生成式人工智能服務(wù)管理暫行辦法 》（以下簡(jiǎn)稱《暫行辦法》）第十七條僅聚焦于提供輿論屬性、社會(huì)動(dòng)員能力的GAI服務(wù)領(lǐng)域，規(guī)定了AI應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。對(duì)比發(fā)現(xiàn)，歐盟對(duì)GAI的市場(chǎng)準(zhǔn)入制度采取的是風(fēng)險(xiǎn)性標(biāo)準(zhǔn)，而我國(guó)采取的則是領(lǐng)域性標(biāo)準(zhǔn)。域外對(duì)GAI市場(chǎng)準(zhǔn)入的范圍明顯寬于我國(guó)，未來(lái)我國(guó)人工智能領(lǐng)域可以借鑒該風(fēng)險(xiǎn)高低標(biāo)準(zhǔn)，將動(dòng)態(tài)的市場(chǎng)準(zhǔn)入和安全評(píng)估推行至對(duì)自然人、法人信用侵犯的信用數(shù)據(jù)治理領(lǐng)域，于事前端防范信用數(shù)據(jù)的違法爬取以及跨境流動(dòng)風(fēng)險(xiǎn)。同時(shí)，除了《暫行辦法》第八條規(guī)定服務(wù)提供者應(yīng)當(dāng)對(duì)數(shù)據(jù)標(biāo)注人員進(jìn)行培訓(xùn)、監(jiān)督以及指導(dǎo)外，可以借鑒德國(guó)《聯(lián)邦數(shù)據(jù)保護(hù)法》第4f條第1款所規(guī)定的“個(gè)人數(shù)據(jù)保護(hù)顧問(wèn)”制度，將其獨(dú)立作為阻擋層的制度保護(hù)實(shí)現(xiàn)GAI中信用數(shù)據(jù)治理的平臺(tái)自律。個(gè)人數(shù)據(jù)保護(hù)顧問(wèn)作為公共機(jī)構(gòu)和私法主體書(shū)面任命的常設(shè)主體能夠直接閱讀算法而比一般人和行政官員更容易發(fā)現(xiàn)問(wèn)題，其本身作為企業(yè)員工所形成的信任關(guān)系不僅能夠保護(hù)企業(yè)內(nèi)部的商業(yè)秘密，而且也使得外部的行政部門保持適當(dāng)?shù)闹t抑性[26]，契合內(nèi)部管理型制度原理。

其二，積極落實(shí)GAI提供信用數(shù)據(jù)服務(wù)平臺(tái)的數(shù)字守門人義務(wù)。雖然數(shù)字平臺(tái)在本世紀(jì)初開(kāi)始涌現(xiàn)，但直到最近它們都一直相對(duì)較少地受到監(jiān)管限制，盡管監(jiān)管機(jī)構(gòu)一直在奮力跟上技術(shù)迭代以及迅速演化的商業(yè)環(huán)境，但強(qiáng)大的網(wǎng)絡(luò)效應(yīng)、數(shù)據(jù)使用的高回報(bào)、低邊際成本、低分銷成本等都使處在核心的數(shù)字平臺(tái)市場(chǎng)易于傾斜[27]。為避免GAI服務(wù)平臺(tái)經(jīng)營(yíng)者集中、形成數(shù)據(jù)孤島效應(yīng)以及將數(shù)據(jù)流通風(fēng)險(xiǎn)不當(dāng)?shù)剞D(zhuǎn)嫁至服務(wù)使用者身上，有必要落實(shí)和強(qiáng)化GAI中服務(wù)提供平臺(tái)的代理式監(jiān)管義務(wù)。歐盟2022年公布的《數(shù)字市場(chǎng)法案》（Digital Markets Act，以下簡(jiǎn)稱DMA）確立了“守門人”（Gatekeeper）地位，明確規(guī)定禁止守門人使用第三方的終端用戶個(gè)人數(shù)據(jù)以及將不同主體提供的數(shù)據(jù)進(jìn)行合并等義務(wù)，確保了數(shù)字領(lǐng)域市場(chǎng)中“業(yè)務(wù)用戶、終端用戶以及提供核心平臺(tái)服務(wù)提供者”三者間的競(jìng)爭(zhēng)性、公平性以及穩(wěn)定性關(guān)系。歐盟并非針對(duì)所有數(shù)據(jù)服務(wù)提供者皆加擔(dān)此種義務(wù)，而是對(duì)守門人規(guī)定了“指定條件、狀況審查、名單更新、義務(wù)更新”等限制性條件，比如就指定條件而言，DMA第3條規(guī)定了成為被指定“守門人”需要具備的條件要素：對(duì)內(nèi)部市場(chǎng)有重大影響、提供核心平臺(tái)服務(wù)（比如在線中介服務(wù)、在線搜索引擎、云計(jì)算服務(wù)等）而成為業(yè)務(wù)用戶接觸終端用戶的重要門戶以及在業(yè)務(wù)中（包含在不久的將來(lái)）享有穩(wěn)固和持久的地位。我國(guó)GAI信用數(shù)據(jù)治理領(lǐng)域可以借鑒此種守門人制度，將部分提供核心平臺(tái)服務(wù)的網(wǎng)絡(luò)數(shù)據(jù)平臺(tái)、金融信用公司等確立為信用數(shù)據(jù)領(lǐng)域的數(shù)字守門人，區(qū)分提供GAI信用數(shù)據(jù)服務(wù)存儲(chǔ)、查詢、公開(kāi)、刪除等功能的業(yè)務(wù)用戶以及實(shí)際查詢使用的終端用戶，并針對(duì)數(shù)字守門人進(jìn)行兩端信用數(shù)據(jù)訪問(wèn)、數(shù)據(jù)移植以及數(shù)據(jù)互通制定相應(yīng)的技術(shù)標(biāo)準(zhǔn)。

其三，溝通探索GAI提供信用數(shù)據(jù)服務(wù)平臺(tái)的監(jiān)管沙盒新舉措。監(jiān)管沙盒（Regulatory sandbox）是指，監(jiān)管者與運(yùn)營(yíng)者齊聚一堂，后者開(kāi)展新興產(chǎn)品、技術(shù)、服務(wù)方面的安全風(fēng)險(xiǎn)實(shí)驗(yàn)，前者則學(xué)習(xí)和理解相關(guān)技術(shù)的特征機(jī)制而獲取法規(guī)起草的專業(yè)知識(shí)，是一種相對(duì)孤立的、循環(huán)的學(xué)習(xí)和實(shí)驗(yàn)環(huán)境，根據(jù)實(shí)驗(yàn)?zāi)康牟煌斜O(jiān)管或政策沙盒、創(chuàng)新沙盒、軟件開(kāi)發(fā)沙盒和數(shù)據(jù)沙盒四類。[28]從域外來(lái)看，歐盟AI Act不僅明確將AI沙盒視為應(yīng)當(dāng)支持的創(chuàng)新舉措，而且于第58條明確規(guī)定歐盟委員會(huì)應(yīng)以法案形式確定AI沙盒的建立、開(kāi)發(fā)、實(shí)施、運(yùn)行以及監(jiān)督方式，該法案以規(guī)定監(jiān)管沙盒的參與資格、沙盒計(jì)劃以及退出機(jī)制等為共同原則。從域內(nèi)來(lái)看，我國(guó)《暫行辦法》第十六條規(guī)定，生成式人工智能服務(wù)的監(jiān)管主體包含了網(wǎng)信辦、發(fā)展改革委、工業(yè)和信息化部、公安部等，各個(gè)主管部門依據(jù)GAI技術(shù)特點(diǎn)、行業(yè)應(yīng)用去完善和創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式。因此，我國(guó)將監(jiān)管沙盒作為GAI中信用數(shù)據(jù)治理的創(chuàng)新舉措具有前置規(guī)范層面的依據(jù)，有助于實(shí)現(xiàn)AI平臺(tái)自治的審慎治理目標(biāo)。當(dāng)然，聚焦于GAI提供信用數(shù)據(jù)領(lǐng)域，運(yùn)營(yíng)平臺(tái)所應(yīng)溝通協(xié)商的監(jiān)管主體除前述第16條規(guī)定的部門外，還應(yīng)尤為重視向中國(guó)人民銀行提交監(jiān)管沙盒入駐申請(qǐng)，由其對(duì)運(yùn)營(yíng)者信用數(shù)據(jù)的技術(shù)制度、安全管理、系統(tǒng)開(kāi)發(fā)、風(fēng)險(xiǎn)防范進(jìn)行齊備性、合規(guī)性以及可操作性審核，以此保障信用數(shù)據(jù)的高效率、低風(fēng)險(xiǎn)流通。

（二）信用數(shù)據(jù)的事中監(jiān)管保護(hù)：積極健全以安全為價(jià)值的審查機(jī)制

對(duì)算法的事中監(jiān)管是GAI中信用數(shù)據(jù)治理的主體部分以及重心所在，應(yīng)當(dāng)在數(shù)據(jù)治理的全生命周期中以安全為價(jià)值有序推動(dòng)如下兩種審查機(jī)制。

其一，切實(shí)履行形式實(shí)質(zhì)并重的平臺(tái)算法審查機(jī)制。第一，GAI信用數(shù)據(jù)服務(wù)提供者與終端用戶所簽訂的用戶使用協(xié)議、行業(yè)自律標(biāo)準(zhǔn)等“軟法”成為判斷算法透明、算法可知、算法精準(zhǔn)的直接性依據(jù)，其屬于平臺(tái)算法形式審查機(jī)制的對(duì)象。比如在由GAI提供信用風(fēng)險(xiǎn)評(píng)估服務(wù)而訂立用戶使用協(xié)議時(shí)，為避免算法運(yùn)營(yíng)商以故弄玄虛的話術(shù)搪塞算法披露或歧視，應(yīng)當(dāng)樹(shù)立以效果為導(dǎo)向的算法披露理念而確保非專業(yè)人士能夠知悉該智能預(yù)測(cè)的邏輯與過(guò)程，其包括但不限于公開(kāi)算法設(shè)計(jì)方式、數(shù)學(xué)模型及源代碼、如何使用預(yù)測(cè)變量評(píng)估信用這一目標(biāo)變量、算法優(yōu)劣等[29]。又如，我國(guó)金融領(lǐng)域的行業(yè)標(biāo)準(zhǔn)《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》（JR/T 0221—2021）于5.1部分指出，金融行業(yè)應(yīng)用AI算法安全性評(píng)價(jià)主要是從目標(biāo)函數(shù)安全性、算法攻擊防范能力、算法依賴庫(kù)安全性、算法可追溯性、算法內(nèi)控等方面提出了基本要求、評(píng)價(jià)方法與判定準(zhǔn)則等。此類“軟法”除應(yīng)符合前述相應(yīng)的技術(shù)設(shè)計(jì)目的需要外，還應(yīng)嵌入倫理規(guī)范、行業(yè)習(xí)慣以及廣義上的公序良俗、誠(chéng)實(shí)信用等目的理性檢驗(yàn)要素，其共同構(gòu)成形式審查機(jī)制的基礎(chǔ)標(biāo)準(zhǔn)而對(duì)算法偏見(jiàn)、算法歧視問(wèn)題予以初篩。第二，應(yīng)當(dāng)訴諸高位階規(guī)范擴(kuò)大GAI場(chǎng)域下信用數(shù)據(jù)主體享有的算法解釋權(quán)范圍，通過(guò)對(duì)該解釋權(quán)的法定化建構(gòu)平臺(tái)算法的實(shí)質(zhì)審查機(jī)制。我國(guó)既有規(guī)范對(duì)信用數(shù)據(jù)服務(wù)提供者加擔(dān)算法解釋義務(wù)依然是條件式、鼓勵(lì)性以及局域性的，比如《暫行辦法》第十九條規(guī)定僅在配合主管部門監(jiān)督檢查的場(chǎng)景下GAI提供者才應(yīng)按要求對(duì)算法機(jī)制予以說(shuō)明；又如，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十二條規(guī)定鼓勵(lì)算法推薦服務(wù)提供者優(yōu)化檢索、排序、選擇、推送等規(guī)則的透明度和可解釋性；再如，最高法《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見(jiàn)》第六條規(guī)定，保障AI系統(tǒng)中的司法數(shù)據(jù)采集管理模式、法律語(yǔ)義認(rèn)知過(guò)程等各個(gè)環(huán)節(jié)能夠以可解釋、可測(cè)試、可驗(yàn)證的方式接受相關(guān)責(zé)任主體的審查、評(píng)估和備案。然而，在包含自動(dòng)化決策合同場(chǎng)景下，自動(dòng)化決策者與相對(duì)人之間的民事主體關(guān)系已然從平等關(guān)系過(guò)渡為權(quán)力支配關(guān)系，創(chuàng)制算法解釋權(quán)的目的便旨在調(diào)整平衡前述地位關(guān)系，為相對(duì)方提供額外制度救濟(jì)以實(shí)現(xiàn)實(shí)質(zhì)平等[30]。此種算法解釋權(quán)的內(nèi)容涵攝信用數(shù)據(jù)處理行為、利弊結(jié)果、因果關(guān)系與責(zé)任歸屬、安全保障等，將其法定化能夠?qū)⑺惴ā皺?quán)力—支配”關(guān)系調(diào)整為算法“權(quán)利—義務(wù)”關(guān)系，其為判斷研發(fā)者、提供者成立不作為犯罪的作為義務(wù)來(lái)源、過(guò)失犯中注意義務(wù)的違反等提供規(guī)范指引。

其二，嚴(yán)格執(zhí)行信用數(shù)據(jù)分類分級(jí)的安全審查機(jī)制。GAI場(chǎng)域下信用數(shù)據(jù)全鏈?zhǔn)教幚戆俗⑨?、?biāo)注、清洗、脫敏、更新、充實(shí)和聚合等步驟，而前述“技術(shù)信用、經(jīng)濟(jì)信用以及社會(huì)信用”的三種類型僅僅是信用數(shù)據(jù)內(nèi)涵層面的大類劃分，其無(wú)法與數(shù)據(jù)處理的審查程序、違法后果相勾連，有必要探索新的審查識(shí)別機(jī)制。2021年《數(shù)據(jù)安全法》第二十一條規(guī)定“國(guó)家建立數(shù)據(jù)分類分級(jí)保護(hù)制度”并強(qiáng)調(diào)對(duì)“重要數(shù)據(jù)、核心數(shù)據(jù)”的安全保護(hù)，其確立了數(shù)據(jù)分類分級(jí)的基本原則而自然得以作為信用數(shù)據(jù)的審查識(shí)別機(jī)制存在。同時(shí)，2021年《網(wǎng)安指南》4.2按照《數(shù)據(jù)安全法》第二十一條規(guī)定進(jìn)一步拓展了該數(shù)據(jù)分類分級(jí)框架，依據(jù)“遭到篡改、破壞、泄露或者非法獲取、非法利用，對(duì)國(guó)家安全、公共利益或者個(gè)人、組織合法權(quán)益造成的危害程度”，將數(shù)據(jù)從低到高分成“一般數(shù)據(jù)、重要數(shù)據(jù)、核心數(shù)據(jù)”。然而，2022年《中共中央 國(guó)務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見(jiàn)》（以下簡(jiǎn)稱《數(shù)據(jù)二十條》）“第二部分第（三）項(xiàng)”對(duì)數(shù)據(jù)產(chǎn)權(quán)的分類分級(jí)確權(quán)授權(quán)是圍繞“公共數(shù)據(jù)、企業(yè)數(shù)據(jù)、個(gè)人數(shù)據(jù)”三種建立的。此時(shí)，存在依照“等級(jí)不同”和“主體不同”劃分的兩套數(shù)據(jù)分類分級(jí)標(biāo)準(zhǔn)而理應(yīng)確定契合GAI場(chǎng)域下信用數(shù)據(jù)治理的區(qū)分標(biāo)準(zhǔn)。毋庸諱言，應(yīng)當(dāng)采取依照“等級(jí)不同”區(qū)分的標(biāo)準(zhǔn)而將信用數(shù)據(jù)相應(yīng)地劃分為“一般信用數(shù)據(jù)、重要信用數(shù)據(jù)、核心信用數(shù)據(jù)”三類，以此開(kāi)展信用數(shù)據(jù)的安全審查和識(shí)別保護(hù)機(jī)制。理由在于，第一，從效力等級(jí)上看，“等級(jí)不同”的分類標(biāo)準(zhǔn)有利于保證信用數(shù)據(jù)治理的穩(wěn)定性?！稊?shù)據(jù)二十條》作為政策性規(guī)范，其效力較低而富于變動(dòng)性；相反，《數(shù)據(jù)安全法》作為專門性法律具有高位階、穩(wěn)定性，能夠?qū)崿F(xiàn)GAI場(chǎng)域下信用數(shù)據(jù)治理的連貫性。第二，從既有規(guī)范中看，《評(píng)估辦法》和《流動(dòng)規(guī)定》的第二條在數(shù)據(jù)跨境安全和自由流動(dòng)方面、《網(wǎng)安條例》第四章在網(wǎng)絡(luò)數(shù)據(jù)處理和數(shù)據(jù)安全方面皆明確使用了“重要數(shù)據(jù)”概念。因此，采取依照“等級(jí)不同”區(qū)分的標(biāo)準(zhǔn)有利于實(shí)現(xiàn)域內(nèi)信用數(shù)據(jù)安全保護(hù)、域外信用數(shù)據(jù)跨境流動(dòng)治理的銜接性。

（三）信用數(shù)據(jù)的事后救濟(jì)保護(hù)：注重實(shí)現(xiàn)以公平為目標(biāo)的責(zé)任分配

事后救濟(jì)是GAI中信用數(shù)據(jù)治理的末端與最后保護(hù)的屏障，應(yīng)當(dāng)以公平為目標(biāo)通過(guò)賠價(jià)（補(bǔ)償、賠償）和非難（報(bào)應(yīng)、懲罰）實(shí)現(xiàn)風(fēng)險(xiǎn)結(jié)果的合理劃歸。

其一，作為GAI中信用數(shù)據(jù)損害責(zé)任分配的前提問(wèn)題，應(yīng)當(dāng)堅(jiān)持人工智能責(zé)任主體（能力）否定論。在前置法領(lǐng)域，責(zé)任的本質(zhì)是應(yīng)答，即行為人對(duì)自己行為的自我答責(zé)而以自由意志和自我決定為前提，AI因?yàn)椴痪哂星笆鲆庵九c決定而無(wú)法對(duì)自己行為予以應(yīng)答，其只對(duì)人類輸入的指令有算法反應(yīng)，對(duì)于自身所造成的侵權(quán)或損害責(zé)任不具有認(rèn)識(shí)而勿論反應(yīng)一說(shuō)[31]。在刑法領(lǐng)域，非難的前提系以辨認(rèn)和控制能力組成的責(zé)任能力為基礎(chǔ)，其性質(zhì)可分為“犯罪能力說(shuō)”與“刑罰適應(yīng)能力說(shuō)”[32]，AI明顯既不具備有責(zé)行為能力、意思能力，抑或犯罪能力，同時(shí)也不可能享有被科處刑罰的資格。有鑒于此，GAI場(chǎng)域下信用數(shù)據(jù)的風(fēng)險(xiǎn)治理問(wèn)題不應(yīng)聚焦于人工智能本身的能否答責(zé)性問(wèn)題上，探究信用數(shù)據(jù)的現(xiàn)實(shí)化危險(xiǎn)應(yīng)當(dāng)如何實(shí)現(xiàn)結(jié)果歸屬公平性、責(zé)任承擔(dān)終局性的歸責(zé)機(jī)制問(wèn)題成為邏輯之使然。

其二，應(yīng)當(dāng)注重GAI場(chǎng)域下信用數(shù)據(jù)處理現(xiàn)實(shí)化危險(xiǎn)結(jié)果中的結(jié)果歸屬與責(zé)任承擔(dān)判斷。在典型的GAI提供信用數(shù)據(jù)服務(wù)領(lǐng)域，存在GAI研發(fā)者、服務(wù)提供者以及終端用戶使用者三方主體，對(duì)于侵害用戶信用數(shù)據(jù)的法益侵害后果并非斷然歸屬于研發(fā)者抑或提供者，其主要包括如下類型。第一，僅由研發(fā)者對(duì)損害結(jié)果負(fù)責(zé)的情形。比如在GAI信用數(shù)據(jù)服務(wù)研發(fā)階段采用了監(jiān)管沙盒模式，研發(fā)者通過(guò)隱瞞處理信用數(shù)據(jù)的算法缺陷、算法漏洞或者偽造沙盒計(jì)劃、研發(fā)報(bào)告等欺詐手段通過(guò)了沙盒監(jiān)管主體的監(jiān)管抑或風(fēng)險(xiǎn)測(cè)評(píng)而實(shí)現(xiàn)GAI投入運(yùn)行，此時(shí)提供者提供信用數(shù)據(jù)服務(wù)所造成的用戶損害結(jié)果應(yīng)當(dāng)單獨(dú)歸屬于研發(fā)者本身，其類似于間接正犯的構(gòu)造（即研發(fā)者利用了無(wú)責(zé)任能力提供者的行為），而應(yīng)當(dāng)將被利用者行為造成的結(jié)果歸屬于利用者本身。第二，僅由提供者對(duì)損害結(jié)果負(fù)責(zé)的情形。信用數(shù)據(jù)事實(shí)上存在類似于前述依照“等級(jí)不同”區(qū)分的“一般信用數(shù)據(jù)、重要信用數(shù)據(jù)、核心信用數(shù)據(jù)”的劃分，提供者對(duì)經(jīng)由分類分級(jí)的信用數(shù)據(jù)處理存在注意義務(wù)（安全保障義務(wù)）的程度高低問(wèn)題。如果因?yàn)榉?wù)提供者未盡到合理的注意義務(wù)而錯(cuò)誤設(shè)置算法導(dǎo)致運(yùn)行失誤，那么其應(yīng)當(dāng)承擔(dān)刑事責(zé)任；如若平臺(tái)在設(shè)計(jì)伊始便合理設(shè)置算法邏輯、預(yù)測(cè)安全風(fēng)險(xiǎn)、將數(shù)據(jù)的保護(hù)需求嵌入算法以及合理展開(kāi)全流程合規(guī)監(jiān)管，那么算法生成錯(cuò)誤結(jié)論就超出了平臺(tái)的期待可能性[33]。第三，僅由使用者對(duì)損害結(jié)果自我答責(zé)的情形。當(dāng)提供者已明確告知使用者信用數(shù)據(jù)服務(wù)的禁止性條款，使用者依然利用信息系統(tǒng)漏洞、基于不法使用目的抑或通過(guò)刪除、干擾以及修改等方式破壞GAI系統(tǒng)功能進(jìn)而導(dǎo)致信用數(shù)據(jù)泄露的，其因介入了明顯異常的被害人自身行為因素而切斷服務(wù)提供者、研發(fā)者對(duì)損害結(jié)果的因果力。

五、結(jié)語(yǔ)

伴隨著大數(shù)據(jù)、云計(jì)算、人工智能等高新技術(shù)的快速發(fā)展，傳統(tǒng)存在于“熟人間”的倫理信用、道德信用以及自然信用轉(zhuǎn)變?yōu)榱恕吧鐣?huì)中”的技術(shù)信用、法律信用以及經(jīng)濟(jì)信用。通過(guò)數(shù)據(jù)這一有形載體，具有社會(huì)經(jīng)濟(jì)價(jià)值的信用開(kāi)始具備識(shí)別性、無(wú)限復(fù)制性、非消耗性的新表現(xiàn)形式。眾所周知，GAI具有顯著放大信用數(shù)據(jù)效益與引發(fā)信用數(shù)據(jù)風(fēng)險(xiǎn)的優(yōu)劣秉性，因而GAI場(chǎng)域下信用數(shù)據(jù)的法律治理既應(yīng)注重AI技術(shù)迭代更新與異化風(fēng)險(xiǎn)的問(wèn)題，同時(shí)也應(yīng)當(dāng)關(guān)注信用數(shù)據(jù)區(qū)別于名譽(yù)數(shù)據(jù)、隱私數(shù)據(jù)等數(shù)據(jù)的特有屬性。當(dāng)前，GAI正由“人—人”交互的現(xiàn)實(shí)空間朝著“人—機(jī)”交互的虛擬空間迅速發(fā)展，信用數(shù)據(jù)治理的邏輯與進(jìn)路需要進(jìn)行相應(yīng)地動(dòng)態(tài)調(diào)整，通過(guò)規(guī)范與技術(shù)的融合實(shí)現(xiàn)科技向善而止于“智”善的遠(yuǎn)景目標(biāo)。

參考文獻(xiàn)：

[1] JOVANOVIC M. Generative artificial intelligence： trends and prospects[J]. Computer， 2022， 55（10）： 107?112.

[2] 人工智能：你知道Albert嗎？［EB/OL］. （2024-05-22）［2024-11-01］. https： //www. info. gouv. fr/actualite/ia-connaissez-vous-albert.

[3] 武樂(lè)之．讓ChatGPT協(xié)助辦案 美國(guó)資深律師被坑［EB/OL］. （2023-05-29）［2024-12-01］. https： //m. gmw. cn/2023-05/29/content_1303388480. htm.

[4] 李華林. 依法治理股市AI“小作文”[N]. 經(jīng)濟(jì)日?qǐng)?bào)， 2024-06-20（007）.

[5] 費(fèi)孝通. 鄉(xiāng)土中國(guó)[M]. 北京： 生活·讀書(shū)·新知三聯(lián)書(shū)店， 2013： 34.

[6] 高艷東， 李瑩. 數(shù)據(jù)信用的刑法保護(hù)——以“流量黑灰產(chǎn)”為例[J]. 浙江大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版）， 2020， 50（3）： 63?78.

[7] 王苑. 信用大數(shù)據(jù)背景下信用的私法保護(hù)[J]. 中國(guó)法律評(píng)論， 2023（1）： 68?78.

[8] 王華偉. 刷單炒信的刑法適用與解釋理念[J]. 中國(guó)刑事法雜志， 2018（6）： 95?111.

[9] 李曉安. 論信用的法權(quán)性質(zhì)與權(quán)利歸屬[J]. 法學(xué)論壇， 2020， 35（2）： 50?61.

[10] 龍柯宇. 生成式人工智能應(yīng)用失范的法律規(guī)制研究——以ChatGPT和社交機(jī)器人為視角[J]. 東方法學(xué)， 2023（4）： 44?55.

[11] CNN官網(wǎng)．谷歌被指控竊取數(shù)百萬(wàn)用戶的數(shù)據(jù)來(lái)訓(xùn)練其人工智能工具［EB/OL］．（2023-07-12）［2024-12-01］. https： //edition. cnn. com/2023/07/11/tech/google-ai-lawsuit/index. html.

[12] 吳椒軍， 郭婉兒. 人工智能時(shí)代算法黑箱的法治化治理[J]. 科技與法律（中英文）， 2021（1）： 19?28.

[13] DEAN C. Risk society and the distribution of bads： theorizing class in the risk society[J]. The British Journal of Sociology， 2013， 64（1）： 44?62.

[14] MARTY F. Algorithmes de prix， intelligence artificielle et équilibres collusifs[J]. Revue Internationale de Droit économique， 2017（2）： 83?116.

[15] 陳嘉鑫，李寶誠(chéng)．風(fēng)險(xiǎn)社會(huì)理論視域下生成式人工智能安全風(fēng)險(xiǎn)檢視與應(yīng)對(duì)［EB/OL］．（2024?11?5）[2024-12-31]. http： //kns. cnki. net/kcms/detail/61. 1167. G3. 2024 1105. 1028. 010. html.

[16] 畢文軒. 生成式人工智能的風(fēng)險(xiǎn)規(guī)制困境及其化解：以ChatGPT的規(guī)制為視角[J]. 比較法研究， 2023（3）： 155?172.

[17] DASH B， SHARMA P. Are ChatGPT and deepfake algorithms endangering the cybersecurity industry？ a review[J]. International Journal of Engineering and Applied Sciences， 2023， 1（1）： 1?5.

[18] 王展．被騙2億港元！男子參加多人視頻會(huì)議只有自己是真人［EB/OL］. （2024-03-04）［2024-12-01］. https： //sft. henan. gov. cn/2024/03?04/2956493. html.

[19] HAN J W， KAMBER M. Data mining： concepts and techniques[M]. Amsterdam： Elsevier， 2006： 679.

[20] 尹玉涵，李劍．生成式人工智能的個(gè)人信息保護(hù)問(wèn)題及其規(guī)制［EB/OL］．（2024-09-12）[2024-12-01]. https： //doi. org/10. 15886/j. cnki. hnus. 202310. 0241.

[21] 武騰. 人工智能時(shí)代個(gè)人數(shù)據(jù)保護(hù)的困境與出路[J] . 現(xiàn)代法學(xué)， 2024， 46（4）： 116?130.

[22] 祝高峰. 論人工智能領(lǐng)域個(gè)人信息安全法律保護(hù)[J]. 重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）， 2020， 26（4）： 150?160.

[23] 張濤. 生成式人工智能訓(xùn)練數(shù)據(jù)集的法律風(fēng)險(xiǎn)與包容審慎規(guī)制[J]. 比較法研究， 2024（4）： 86?103.

[24] 黃細(xì)江. 人工智能技術(shù)下的個(gè)人信息保護(hù)：邁向合作的多元治理[J]. 中國(guó)科技論壇， 2022（3）： 140?147.

[25] 童云峰. 生成式人工智能技術(shù)風(fēng)險(xiǎn)的內(nèi)部管理型規(guī)制[J] . 科學(xué)學(xué)研究， 2024， 42（10）： 2038?2046.

[26] 林洹民. 自動(dòng)決策算法的法律規(guī)制： 以數(shù)據(jù)活動(dòng)顧問(wèn)為核心的二元監(jiān)管路徑[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）， 2019， 37（3）： 43?53.

[27] WITT A C. The digital markets act-regulating the wild west[J]. Common Market Law Review， 2023（60）： 625?666.

[28] BOURA M. The digital regulatory framework through EU AI Act： The regulatory sandboxes' approach[J]. Athens Journal of Law， 2024， 10（3）： 385?398.

[29] 賀譯葶. 人工智能在信用監(jiān)管中應(yīng)用的法律風(fēng)險(xiǎn)及其應(yīng)對(duì)[J]. 甘肅社會(huì)科學(xué)， 2022（4）： 142?150.

[30] 張凌寒. 商業(yè)自動(dòng)化決策的算法解釋權(quán)研究[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）， 2018， 36（3）： 65?74.

[31] 劉艷紅. 人工智能的可解釋性與AI的法律責(zé)任問(wèn)題研究[J]. 法制與社會(huì)發(fā)展， 2022， 28（1）： 78?91.

[32] 張明楷. 刑法學(xué)[M]. 北京： 法律出版社，2021： 396?397.

[33] 陳禹衡. 生成式人工智能中個(gè)人信息保護(hù)的全流程合規(guī)體系構(gòu)建[J]. 華東政法大學(xué)學(xué)報(bào)， 2024， 27（2）： 37?51.

Logic and Approach of Legal Protection of Credit Data

in Generative Artificial Intelligence

Liu Hao

（School of Law， Tsinghua University， Beijing 100084， China）

Abstract： In the field of Generative Artificial Intelligence， legal protection of credit data is a crucial link in realizing digital rule of law. Credit data should take \"used for identifying and judging the credit status of enterprises and individuals\" as the core criterion. It has unique attributes such as realizing direct benefits， undertaking financial credit， and maintaining social credit. In terms of process risks of credit data， there are risks of illegal crawling and algorithm abuse by Generative Artificial Intelligence. Regarding endogenous risks of credit data， there are risks of retrospective circulation and deep forgery by Generative Artificial Intelligence. Macro governance of credit data should reaffirm the constraints of the principle of purpose limitation， ensure the application of the principle of interest measurement， and realize the implementation of the concept of multi-governance. The specific guarantee approach for credit data should revolve around management measures of pre-event supervision， review mechanisms of in-event supervision， and responsibility allocation of post-event relief， highlighting the efficiency， security， and fairness of legal governance of credit data in the field of Generative Artificial Intelligence.

Keywords： GAI; credit data; risk management; legal protection