• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化因應(yīng)

    2023-12-22 05:48:29羅世杰賀國榮
    金融發(fā)展研究 2023年11期

    羅世杰 賀國榮

    摘? ?要:隨著生成式AI時(shí)代的到來,金融科技實(shí)現(xiàn)智能技術(shù)層面的飛躍即將成為現(xiàn)實(shí),而風(fēng)險(xiǎn)治理制度層面的跟進(jìn)尚未實(shí)現(xiàn)。生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)的防范與規(guī)制應(yīng)成為全新且熱潮的法律課題,亟待以更先進(jìn)、更全面的法律路徑對其進(jìn)行治理。立足生成式AI階段金融科技的數(shù)據(jù)質(zhì)量合規(guī)風(fēng)險(xiǎn)、隱私合規(guī)風(fēng)險(xiǎn)以及壟斷合規(guī)風(fēng)險(xiǎn),合規(guī)治理的法律化體系構(gòu)建被賦予必要性與正當(dāng)性。但由于其是一種新的法律提法,故而我國的生成式AI階段金融數(shù)據(jù)合規(guī)體系的構(gòu)建存在法律制度供給留白、行政引導(dǎo)與監(jiān)管困境以及司法保護(hù)不敷三個(gè)層面的法律化障礙。應(yīng)具有針對性地從立法指引、行政執(zhí)法、司法運(yùn)行三個(gè)層面實(shí)現(xiàn)其法律化體系構(gòu)建的嘗試與突破,但金融數(shù)據(jù)合規(guī)法律化不是生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理的終點(diǎn),而只是金融科技發(fā)展進(jìn)程中風(fēng)險(xiǎn)治理的階段性成果,其仍需更多法律化手段的出現(xiàn)。

    關(guān)鍵詞:生成式AI;金融科技;數(shù)據(jù)合規(guī);合規(guī)治理;合規(guī)法律化

    中圖分類號:F830? ?文獻(xiàn)標(biāo)識(shí)碼:B? ?文章編號:1674-2265(2023)11-0082-09

    DOI:10.19647/j.cnki.37-1462/f.2023.11.010

    持續(xù)走紅的ChatGPT象征著生成式AI正在快速迭代升級,在重塑人們認(rèn)知邏輯的同時(shí),還革新了傳統(tǒng)產(chǎn)業(yè)的運(yùn)作方式(龍柯宇,2023)[1]。我國已逐漸開始在金融科技領(lǐng)域應(yīng)用生成式AI技術(shù)(如文心一言),其應(yīng)用場景主要包括智能投顧、智能投研、智能風(fēng)控以及保險(xiǎn)科技等。恰似Gartner官網(wǎng)預(yù)言,到2025年,超過30%的金融營銷內(nèi)容將由生成式AI創(chuàng)建并由人類增強(qiáng)。但隨著生成式AI階段金融科技的逐漸落地與迅速發(fā)展,一系列生成式AI技術(shù)與金融數(shù)據(jù)相交融的新型風(fēng)險(xiǎn)也可能悄然滋生。

    一、生成式AI階段金融科技數(shù)據(jù)合規(guī)法律化的現(xiàn)實(shí)需求

    金融數(shù)據(jù)是金融行業(yè)在數(shù)字經(jīng)濟(jì)時(shí)代下的發(fā)展根基,亦是金融科技的運(yùn)作基礎(chǔ)。金融業(yè)作為最早進(jìn)行數(shù)字化轉(zhuǎn)型的行業(yè),積累了大量數(shù)據(jù)。隨著數(shù)據(jù)已成為基礎(chǔ)的生產(chǎn)要素,更多挑戰(zhàn)正向具有高價(jià)值、高度隱私性的金融數(shù)據(jù)迎面襲來(黃文超,2023)[2]。

    (一)生成式AI階段金融科技數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)嬗變

    1. 數(shù)據(jù)質(zhì)量合規(guī)風(fēng)險(xiǎn)。一是模型訓(xùn)練庫的金融數(shù)據(jù)來源不合規(guī)。一方面,金融科技機(jī)構(gòu)在利用生成式AI獲取金融數(shù)據(jù)時(shí)具有侵犯知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)。以ChatGPT為例,依據(jù)OpenAI介紹的ChatGPT的工作機(jī)制,模型需要預(yù)先對既有文本和數(shù)據(jù)學(xué)習(xí)訓(xùn)練,但OpenAI未公開其學(xué)習(xí)語料的來源(鄧建鵬和朱懌成,2023)[3]。另一方面,金融科技機(jī)構(gòu)可能利用生成式AI算法模型非法盜取金融數(shù)據(jù)。金融科技機(jī)構(gòu)既可以利用其自主標(biāo)注和隨意獲取數(shù)據(jù)的特征,也可以利用人工標(biāo)注使其算法模型具有隨意爬取第三方數(shù)據(jù)庫的趨向與能力。而且,預(yù)訓(xùn)練模型在不斷接觸各種對話的過程中,時(shí)刻記錄各方的相關(guān)敏感信息,很可能發(fā)生“順帶扒竊”數(shù)據(jù)的現(xiàn)象。二是不良、虛假金融數(shù)據(jù)的“毒性”訓(xùn)練。生成式AI階段金融科技面臨著數(shù)據(jù)訓(xùn)練過程中深度偽造、數(shù)據(jù)“投毒”(污染)、內(nèi)容偏見等金融數(shù)據(jù)內(nèi)容質(zhì)量風(fēng)險(xiǎn)。以ChatGPT為例,相較于傳統(tǒng)算法模型,ChatGPT的特殊之處在于其不僅依靠機(jī)器學(xué)習(xí),還在機(jī)器學(xué)習(xí)的同時(shí),通過大量的人工標(biāo)注來修正和校對機(jī)器學(xué)習(xí)所得出的結(jié)論,以人工標(biāo)注方式來推動(dòng)技術(shù)的進(jìn)化,同時(shí)校正機(jī)器學(xué)習(xí)中存在的錯(cuò)誤,從而達(dá)到事半功倍的效果(劉艷紅,2023)[4]。然而,算法標(biāo)注是一個(gè)充滿風(fēng)險(xiǎn)的過程,易遇到人工惡意標(biāo)注和機(jī)器自主標(biāo)注的問題,導(dǎo)致算法模型可能偏離既定的訓(xùn)練目標(biāo)和軌道,從而給金融數(shù)據(jù)質(zhì)量帶來挑戰(zhàn)。

    對于金融數(shù)據(jù)獲取和訓(xùn)練層面的合規(guī)風(fēng)險(xiǎn),如果不加以防范和規(guī)制,將直接影響后一階段金融數(shù)據(jù)的整合與生成,形成生成式AI階段金融科技數(shù)據(jù)質(zhì)量合規(guī)風(fēng)險(xiǎn)的連鎖反應(yīng)(寧宣鳳等,2023)[5]。

    2. 數(shù)據(jù)隱私合規(guī)風(fēng)險(xiǎn)。(1)金融科技消費(fèi)者個(gè)人信息泄漏風(fēng)險(xiǎn)。此類風(fēng)險(xiǎn)將導(dǎo)致金融消費(fèi)者福利損害。一方面,個(gè)人金融數(shù)據(jù)被生成式AI技術(shù)濫用和泄露。隨著生成式AI技術(shù)逐漸進(jìn)入金融科技領(lǐng)域,大數(shù)據(jù)“殺熟”、過度營銷等現(xiàn)象將不斷出現(xiàn)。另一方面,個(gè)人金融數(shù)據(jù)被金融科技平臺(tái)泄露。以亞馬遜公司為例,其發(fā)現(xiàn)ChatGPT生成的內(nèi)容與其保密數(shù)據(jù)高度相似,這顯然是有員工將保密數(shù)據(jù)輸入ChatGPT所致(Cismag,2023)[6]。在金融科技領(lǐng)域此現(xiàn)象也可能出現(xiàn)。(2)金融科技機(jī)構(gòu)商業(yè)秘密泄漏風(fēng)險(xiǎn)。此類風(fēng)險(xiǎn)將導(dǎo)致金融科技機(jī)構(gòu)利益受損,且有一部分風(fēng)險(xiǎn)將轉(zhuǎn)嫁到金融科技消費(fèi)者身上。一方面,金融科技機(jī)構(gòu)的員工為完成工作任務(wù),或因商業(yè)競爭原因?qū)⒔鹑诳萍紮C(jī)構(gòu)涉及商業(yè)秘密的金融數(shù)據(jù)上傳至生成式AI終端,從而導(dǎo)致相關(guān)數(shù)據(jù)的泄露。另一方面,生成式AI的爆火使得其成為黑客的攻擊目標(biāo),黑客通過新型工具與手段入侵生成式AI算法訓(xùn)練鏈以獲取金融數(shù)據(jù)(夏詩園和尹振濤,2022)[7]。這也是金融科技機(jī)構(gòu)商業(yè)秘密泄露的源頭之一。

    3. 數(shù)據(jù)反壟斷合規(guī)風(fēng)險(xiǎn)。在數(shù)字經(jīng)濟(jì)時(shí)代,金融數(shù)據(jù)作為金融市場重要的生產(chǎn)要素,影響著價(jià)值分配。近年來我國金融科技行業(yè)發(fā)展迅速,大型金融科技公司憑借絕對技術(shù)優(yōu)勢、較強(qiáng)的議價(jià)能力和顯著的網(wǎng)絡(luò)溢出效應(yīng),不斷擴(kuò)大消費(fèi)群體和業(yè)務(wù)范圍,積累了大量個(gè)人信息和金融交易數(shù)據(jù),形成數(shù)據(jù)寡頭濫用市場地位(袁康和程揚(yáng),2023)[8]。

    然而,在生成式AI與金融科技相融合的場域下,其數(shù)據(jù)生成也涉及大量的金融數(shù)據(jù),極易導(dǎo)致新的數(shù)據(jù)壟斷合規(guī)風(fēng)險(xiǎn)。其一,是技術(shù)市場層面上的壟斷。以GPT-4大語言模型為例,在金融服務(wù)領(lǐng)域,GPT-4已經(jīng)顯露出了其絕對優(yōu)勢,或者說“AI霸權(quán)”。其二,是生成式AI金融的智能模型在算法訓(xùn)練過程中實(shí)現(xiàn)的金融科技數(shù)據(jù)和算法壟斷。在生成式AI金融服務(wù)的場景中,其算法訓(xùn)練需要對大量的金融數(shù)據(jù)進(jìn)行處理,如果這些數(shù)據(jù)來自一個(gè)特定的金融數(shù)據(jù)集,那么可能會(huì)存在壟斷風(fēng)險(xiǎn)。

    (二)生成式AI階段金融科技數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)亟需合規(guī)法律化應(yīng)對

    鑒于此,有學(xué)者提出為保障生成式AI階段金融科技的健康發(fā)展,首先要解決其對金融數(shù)據(jù)安全帶來的挑戰(zhàn)和風(fēng)險(xiǎn)。由于金融行業(yè)的特殊性,對數(shù)據(jù)管理的要求更嚴(yán)格、敏感度更高,應(yīng)當(dāng)特別關(guān)注以下問題:怎么避免技術(shù)創(chuàng)新產(chǎn)生的新型金融數(shù)據(jù)安全問題?怎么評價(jià)和估算新型數(shù)據(jù)“投毒”和數(shù)據(jù)“越獄”等風(fēng)險(xiǎn)對核心業(yè)務(wù)的潛在威脅?怎么構(gòu)建法律制度來強(qiáng)化數(shù)據(jù)金融的持續(xù)性安全?等(汪壽陽等,2023)[9]。由于這是一個(gè)較新的議題,僅有一小部分學(xué)者提出了適用于我國國情的生成式AI階段數(shù)據(jù)風(fēng)險(xiǎn)治理的對策建議,如應(yīng)當(dāng)加強(qiáng)監(jiān)管機(jī)制( 張凌寒,2023)[10],建立風(fēng)險(xiǎn)分級評估體系(Torsten等,2023)[11],推動(dòng)制定國際信息保護(hù)協(xié)定、制定統(tǒng)一標(biāo)準(zhǔn)的數(shù)據(jù)開放規(guī)則(Jing和Yuan,2023)[12],出臺(tái)相關(guān)指南和司法解釋以應(yīng)對生成式AI引發(fā)的反壟斷性問題(陳永偉,2023)[13]等。但是,以上對策并不完全貼合金融科技場景,應(yīng)當(dāng)構(gòu)建更適合生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理的法律機(jī)制。

    筆者以為,應(yīng)以硬法與軟法相協(xié)調(diào)的范式對生成式AI階段金融科技的數(shù)據(jù)風(fēng)險(xiǎn)進(jìn)行治理:“硬法—軟法”范式要求拓展法律的規(guī)制因素,將包括公共利益在內(nèi)的廣泛因素納入規(guī)制領(lǐng)域,完善互動(dòng)協(xié)調(diào)的二元法體系以及成熟的法解釋學(xué)等制度與技術(shù)支持,進(jìn)而在此基礎(chǔ)上構(gòu)建生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理的二元法構(gòu)造模式(董正愛,2023)[14]。此前鮮有學(xué)者直接從合規(guī)視角來探究人工智能金融科技的數(shù)據(jù)風(fēng)險(xiǎn)治理,故本文主要探討作為軟法的合規(guī)工具的硬法化,即合規(guī)法律化,這應(yīng)是實(shí)現(xiàn)生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理的重要法律路徑①。

    二、生成式AI階段金融科技數(shù)據(jù)合規(guī)法律化的學(xué)理依據(jù)

    生成式AI階段的金融科技數(shù)據(jù)具有高敏感性和高價(jià)值性,這也決定其合規(guī)治理的嚴(yán)格性。然任何法律客體都非憑空出現(xiàn),只有通過充分的證成,使得生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化具有合理性與可行性,才能進(jìn)一步探討其法律化體系如何構(gòu)建。

    (一)合規(guī)法律化的合理性

    1. 與數(shù)字化金融數(shù)據(jù)合規(guī)治理目標(biāo)的一致性。自國家“十四五”規(guī)劃對“加快數(shù)字化發(fā)展,建設(shè)數(shù)字中國”提出明確目標(biāo)要求后,不但數(shù)據(jù)安全成為國家的重要戰(zhàn)略資源,數(shù)據(jù)合規(guī)也成為各行各業(yè)數(shù)字化轉(zhuǎn)型的必經(jīng)之路。而金融數(shù)據(jù)合規(guī)也是建立在數(shù)據(jù)合規(guī)框架之下的,是數(shù)據(jù)合規(guī)的延伸與深化。對于宏觀角度的金融數(shù)據(jù)治理來說,合規(guī)治理的目標(biāo)在于:在金融行業(yè)數(shù)據(jù)合規(guī)業(yè)務(wù)的主要法律體系框架下,把握金融數(shù)據(jù)周期的合規(guī)要點(diǎn),對內(nèi)實(shí)現(xiàn)金融企業(yè)的合規(guī)管理和自查,對外周全對金融數(shù)據(jù)合規(guī)的行政監(jiān)管和司法適用。對于微觀角度的金融企業(yè)來說,一方面,其要認(rèn)識(shí)到金融數(shù)據(jù)合規(guī)的必要性,掌握相關(guān)目標(biāo)與準(zhǔn)則,避免遭遇行政監(jiān)管甚至刑事風(fēng)險(xiǎn)的被動(dòng)局面;另一方面,也可以通過增強(qiáng)合規(guī)性提高自身市場競爭力,保護(hù)客戶的數(shù)據(jù)信息安全。

    生成式AI階段金融科技的數(shù)據(jù)風(fēng)險(xiǎn)也應(yīng)囊括于數(shù)據(jù)合規(guī)的治理對象框架中,其與金融數(shù)據(jù)合規(guī)的目標(biāo)在本質(zhì)上并無太大不同。區(qū)別在于,在合規(guī)治理的內(nèi)容上,生成式AI階段金融科技數(shù)據(jù)合規(guī)更多地關(guān)注生成式AI技術(shù)失范帶給金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理的新難題。在合規(guī)治理的對象上,生成式AI階段金融科技數(shù)據(jù)合規(guī)治理既需要關(guān)注金融科技數(shù)據(jù)合規(guī)視域下的金融企業(yè),還需要關(guān)注生成式AI技術(shù)本身。

    2. 與人工智能風(fēng)險(xiǎn)善治原則和路徑的契合性。已有諸多學(xué)者對“人工智能風(fēng)險(xiǎn)善治”展開了廣泛且有深度的討論與研究,比如:有學(xué)者提出了其三大目標(biāo),具體包括控制風(fēng)險(xiǎn)和保證安全、促進(jìn)生產(chǎn)力和提升競爭力以及優(yōu)化生產(chǎn)關(guān)系和服務(wù)群眾(唐鈞,2019)[15];也有學(xué)者認(rèn)為應(yīng)當(dāng)將人工智能風(fēng)險(xiǎn)作為法學(xué)視域下的負(fù)外部性進(jìn)行調(diào)控與約束,并且應(yīng)當(dāng)與人工智能研發(fā)與應(yīng)用的正外部性激勵(lì)協(xié)調(diào)并行(胡元聰和廖娟,2020)[16]。不管人工智能風(fēng)險(xiǎn)善治的分類和路徑如何,其最終的目標(biāo)都是實(shí)現(xiàn)對人工智能風(fēng)險(xiǎn)的規(guī)制與約束,為技術(shù)健康發(fā)展蓄能,從而使得技術(shù)與社會(huì)、經(jīng)濟(jì)發(fā)展共進(jìn)。

    故而生成式AI技術(shù)引發(fā)的數(shù)據(jù)風(fēng)險(xiǎn)是囊括于人工智能風(fēng)險(xiǎn)善治目標(biāo)里的。生成式AI階段金融科技的數(shù)據(jù)風(fēng)險(xiǎn)系生成式AI研發(fā)與應(yīng)用風(fēng)險(xiǎn)在金融應(yīng)用領(lǐng)域的具體衍生和發(fā)展,故而不應(yīng)當(dāng)直接摒棄人工智能風(fēng)險(xiǎn)治理的規(guī)范路徑與法律制度,其中自然包括合規(guī)路徑。且合規(guī)視域下的主體自治、政府監(jiān)管、法律激勵(lì)等內(nèi)涵外延與實(shí)踐路徑將給生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)治理賦予更多可能性。

    (二)合規(guī)法律化的可行性

    作為AI技術(shù)迭代升級與創(chuàng)新過程中衍生的全新法律客體類型,實(shí)現(xiàn)生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化,需要以相對成熟的法律制度作為基礎(chǔ)保障。

    1. 已有相關(guān)的合規(guī)法律化經(jīng)驗(yàn)作為制度支撐。(1)我國針對生成式AI數(shù)據(jù)風(fēng)險(xiǎn)的合規(guī)治理已有相關(guān)法律化基礎(chǔ)。生成式AI發(fā)展的基礎(chǔ)是對海量數(shù)據(jù)進(jìn)行處理,目前我國對其數(shù)據(jù)處理行為進(jìn)行規(guī)范的法律是《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》,此外還包括《網(wǎng)絡(luò)安全法》和一些專項(xiàng)合規(guī)監(jiān)管規(guī)定。此后,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以及《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱《服務(wù)辦法》)先后出臺(tái),亦為生成式AI數(shù)據(jù)合規(guī)治理提供了思路。這些法律文件包含的AI合規(guī)法律化精神和規(guī)則都將為生成式AI技術(shù)風(fēng)險(xiǎn)的合規(guī)治理指明方向。(2)金融數(shù)據(jù)風(fēng)險(xiǎn)的合規(guī)治理本身也已有制度可供參考。當(dāng)前我國金融行業(yè)數(shù)據(jù)合規(guī)的法律體系已經(jīng)有了基本的框架和規(guī)模,包括《民法典》《刑法》《網(wǎng)絡(luò)安全法》《征信業(yè)管理?xiàng)l例》《個(gè)人存款賬戶實(shí)名制規(guī)定》等十余項(xiàng)法律法規(guī)以及《金融信息服務(wù)管理規(guī)定》等規(guī)范性文件?;谝陨辖鹑跀?shù)據(jù)合規(guī)法律框架,可以在“解釋論”兼并“立法論”的基礎(chǔ)上尋求生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化路徑。

    2. 內(nèi)部自治與外部監(jiān)管的協(xié)同治理功能擴(kuò)張。(1)生成式AI階段金融科技數(shù)據(jù)合規(guī)的企業(yè)內(nèi)部自治。合規(guī)法律化治理的目的是確保體現(xiàn)“共同利益”的生成式AI階段金融科技在“善”的軌道上運(yùn)行(張旭,2022)[17]。內(nèi)部自治要求生成式AI階段金融科技技術(shù)層面(包括算法與數(shù)據(jù))的可靠性,即要求金融科技機(jī)構(gòu)在研發(fā)、訓(xùn)練與投入應(yīng)用生成式AI模型技術(shù)時(shí)秉持合規(guī)義務(wù),在確保自身發(fā)展的同時(shí)履行技術(shù)研發(fā)與應(yīng)用主體和金融主體雙重身份的社會(huì)責(zé)任。(2)生成式AI階段金融科技數(shù)據(jù)合規(guī)的企業(yè)外部監(jiān)管。雖然監(jiān)管部門應(yīng)當(dāng)充分尊重主動(dòng)實(shí)現(xiàn)金融數(shù)據(jù)合規(guī)“內(nèi)部自治”的企業(yè),優(yōu)先適用激勵(lì)型和寬容型的執(zhí)法方式,審慎適用強(qiáng)制性程度高的制裁措施(王瑞雪,2020)[18]。但是作為公權(quán)力機(jī)關(guān)的政府應(yīng)當(dāng)身負(fù)起金融科技機(jī)構(gòu)數(shù)據(jù)合規(guī)義務(wù)履行的監(jiān)管角色,當(dāng)其出現(xiàn)合規(guī)風(fēng)險(xiǎn)甚至違規(guī)動(dòng)作時(shí),需要主動(dòng)介入,扮演好“看門人”角色(張旭和田園,2022)[19],對其進(jìn)行監(jiān)管,促使其回歸合規(guī)軌道。

    三、生成式AI階段金融科技數(shù)據(jù)合規(guī)法律化的現(xiàn)實(shí)困境

    (一)法律制度供給留白

    1. 相關(guān)法律詞義模糊。生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化作為一項(xiàng)全新且重要的法律課題,需要對其涉及的關(guān)鍵詞涵義進(jìn)行界定,然囿于我國金融科技數(shù)據(jù)合規(guī)的法律制度較不成熟,相關(guān)法律詞義未得到較好的法律化表達(dá)。

    一是關(guān)于“金融科技”,雖然金融穩(wěn)定委員會(huì)已經(jīng)對“金融科技”下了定義②,但是在生成式AI發(fā)展之下的“金融大模型”等金融科技并沒有形成統(tǒng)一概念?!敖鹑诳萍紨?shù)據(jù)合規(guī)”雖然已被學(xué)界討論,但是其定義并未被真正法律性地表達(dá)。此外,生成式AI階段金融科技數(shù)據(jù)合規(guī)涉及生成式AI技術(shù)引用問題,需要對其技術(shù)服務(wù)提供者和使用者進(jìn)行準(zhǔn)確界定,才能更好地對其法律地位進(jìn)行確定。

    二是“數(shù)據(jù)化證據(jù)”的用語亟待澄清。在生成式AI時(shí)代,“數(shù)據(jù)化證據(jù)”這一革新性語詞具有邏輯上的可接受性。然而,縱覽我國現(xiàn)今的司法訴訟實(shí)踐,卻尚未發(fā)現(xiàn)“數(shù)據(jù)化證據(jù)”一詞的現(xiàn)實(shí)使用。筆者在“威科先行”法律數(shù)據(jù)庫進(jìn)行裁判文書檢索,以“數(shù)據(jù)化證據(jù)”為搜索主題,尚未發(fā)現(xiàn)直接使用“數(shù)據(jù)化證據(jù)”的判例,這導(dǎo)致生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律糾紛在司法證據(jù)方面缺少專業(yè)用詞上的支撐。

    2. 制度供給體系雜亂。目前我國生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律制度供給體系主要由通用性、金融科技專門化以及生成式AI三類數(shù)據(jù)合規(guī)法律制度構(gòu)成,具言之:

    對于通用性,隨著數(shù)據(jù)保護(hù)相關(guān)法律法規(guī)的出臺(tái),各行各業(yè)都根據(jù)《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全審查辦法》等法律法規(guī)和標(biāo)準(zhǔn)加強(qiáng)自身數(shù)據(jù)安全和隱私保護(hù)能力建設(shè),生成式AI階段的金融行業(yè)也不例外,其數(shù)據(jù)合規(guī)仍要遵循通用性數(shù)據(jù)法律制度。對于金融科技專門化。我國當(dāng)前金融科技數(shù)據(jù)合規(guī)的法律體系尚未形成基本的框架和規(guī)模,僅有《金融科技創(chuàng)新自律工作指引(試行)》③直接對金融科技數(shù)據(jù)合規(guī)作出了強(qiáng)制性規(guī)定,但尚不具體,且只體現(xiàn)為技術(shù)創(chuàng)新方面,涵蓋范圍較不全面。此外,還零星可見于各項(xiàng)法律法規(guī)和規(guī)范性文件中,前文已詳述,此處不再贅述。對于生成式AI,有一些相關(guān)的算法與數(shù)據(jù)合規(guī)法律法規(guī),如《服務(wù)辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》以及《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等。但以上法律體系并不能給生成式AI應(yīng)用下的金融數(shù)據(jù)風(fēng)險(xiǎn)合規(guī)治理提供統(tǒng)一的框架和指引:一方面,各項(xiàng)法律制度之間存在著對生成式AI應(yīng)用下金融數(shù)據(jù)合規(guī)監(jiān)管的差異化規(guī)定;另一方面,對于生成式AI階段的金融科技平臺(tái)的數(shù)據(jù)合規(guī)指引不明確。

    (二)執(zhí)法效能困局

    1. 柔性執(zhí)法效果不佳。生成式AI階段金融科技數(shù)據(jù)合規(guī)的柔性執(zhí)法手段以行政引導(dǎo)為主,多偏向于程序性、流程性的引導(dǎo)。如《金融領(lǐng)域科技倫理指引》雖然對金融科技機(jī)構(gòu)的數(shù)據(jù)合規(guī)提出了獲取、使用與共享、保存和清除等流程的合規(guī)指引④,但是缺乏對合規(guī)效果標(biāo)準(zhǔn)的指引,從而無法統(tǒng)一對金融科技機(jī)構(gòu)數(shù)據(jù)合規(guī)的設(shè)計(jì)與履行進(jìn)行指導(dǎo)和評價(jià)。究其根本,生成式AI階段金融科技數(shù)據(jù)合規(guī)的行政引導(dǎo)是技術(shù)引導(dǎo)還是制度引導(dǎo),抑或是雙重引導(dǎo),尚無明晰的體現(xiàn)。如果是技術(shù)引導(dǎo),則是著重于向生成式AI階段的金融科技服務(wù)提供者數(shù)據(jù)獲取、使用與生成行為的引航和導(dǎo)向;而制度引導(dǎo)則既注重對服務(wù)提供者內(nèi)部數(shù)據(jù)合規(guī)管理提供方向,也注意對金融科技平臺(tái)出臺(tái)數(shù)據(jù)合規(guī)“軟法”提出要求。

    2. 剛性執(zhí)法存在阻礙。剛性執(zhí)法手段主要表現(xiàn)為行政監(jiān)管。生成式AI階段金融科技帶來的顛覆性、創(chuàng)新性、多樣性的金融產(chǎn)品和金融服務(wù)大大增加了分業(yè)監(jiān)管體制對混業(yè)經(jīng)營行為的監(jiān)管難度,造成行政監(jiān)管困局(徐冬根和楊瀟,2023)[20]。

    一是執(zhí)法主體“多頭執(zhí)法”局面。目前,金融科技機(jī)構(gòu)的金融監(jiān)管部門體系主要由中國人民銀行、國家外匯管理局、國家金融監(jiān)督管理總局和中國證監(jiān)會(huì)等部門組成;針對通用性數(shù)據(jù)合規(guī),還有公安部門、網(wǎng)信部門、電信部門和工商部門等。當(dāng)前以上機(jī)構(gòu)界限不明,形成了多頭監(jiān)管的局面,金融科技機(jī)構(gòu)數(shù)據(jù)合規(guī)需要應(yīng)對不同的監(jiān)管機(jī)構(gòu),既不利于其構(gòu)建科學(xué)高效的數(shù)據(jù)合規(guī)體系,也會(huì)給其利用金融數(shù)據(jù)創(chuàng)新業(yè)務(wù)模式造成障礙(胡玲和馬忠法,2023)[21]。

    二是現(xiàn)有監(jiān)管工具適用性不足。截至2021年末,我國已公布149個(gè)創(chuàng)新監(jiān)管應(yīng)用,基本實(shí)現(xiàn)2019—2021年發(fā)展規(guī)劃的目標(biāo)。2021年12月,中國人民銀行印發(fā)《金融科技發(fā)展規(guī)劃(2022—2025年)》,提出第二階段金融科技發(fā)展規(guī)劃和構(gòu)想,相關(guān)創(chuàng)新應(yīng)用持續(xù)公布(陳培林和項(xiàng)建強(qiáng),2022)[22]。但是,大語言模型的加入與深度應(yīng)用給生成式AI階段的金融科技合規(guī)監(jiān)管工具適用帶來了新一輪挑戰(zhàn),主要體現(xiàn)為“監(jiān)管沙盒”制度的執(zhí)行存在問題?!氨O(jiān)管沙盒”具有主體平等性、風(fēng)險(xiǎn)可控性、設(shè)計(jì)個(gè)性化、消費(fèi)者權(quán)益保護(hù)差異化等監(jiān)管應(yīng)用優(yōu)勢,但是在生成式AI階段金融科技數(shù)據(jù)合規(guī)方面應(yīng)用“監(jiān)管沙盒”,存在準(zhǔn)入、運(yùn)行和退出方面的技術(shù)和制度雙重困境,遂需構(gòu)建生成式AI應(yīng)用下的金融科技“監(jiān)管沙盒”工具機(jī)制。

    (三)司法保護(hù)不敷

    1. 數(shù)據(jù)化證據(jù)適用壁壘。(1)我國目前尚未有“數(shù)據(jù)化證據(jù)”一詞的法律化正式表達(dá),進(jìn)而使得數(shù)據(jù)化證據(jù)的適用缺乏體系化依據(jù)??v使在實(shí)際訴訟中數(shù)據(jù)化證據(jù)的確已被現(xiàn)實(shí)使用,如有觀點(diǎn)主張,“刑事大數(shù)據(jù)證據(jù)”有被使用的痕跡(張全濤,2023)[23],然而,這些例證多是在持續(xù)增長的數(shù)據(jù)量化背景下,謹(jǐn)慎援引之前的電子數(shù)據(jù)分析、偵查信息化路徑。數(shù)據(jù)化技術(shù)應(yīng)用也大多僅體現(xiàn)為工具價(jià)值,而非基于混亂數(shù)據(jù)集群獲取核心數(shù)據(jù)的實(shí)際應(yīng)用價(jià)值(黃健,2023)[24]。囿于數(shù)據(jù)化證據(jù)在我國證據(jù)法上的缺失、證據(jù)審查判斷規(guī)則的缺位,司法階段的數(shù)據(jù)化證據(jù)在審理、判斷時(shí)表現(xiàn)形式混亂,在舉(質(zhì))證時(shí)效率低下。(2)由于生成式AI階段的金融科技融入了大語言模型的數(shù)據(jù)生成和算法訓(xùn)練方面的技術(shù),故對其所涉及司法案件的數(shù)據(jù)化證據(jù)的獲取、保存的安全性與合法性產(chǎn)生阻礙。但生成式AI大語言模型的數(shù)據(jù)存儲(chǔ)具有其特殊性:其數(shù)據(jù)呈現(xiàn)“多源異構(gòu)”的復(fù)雜情況,通常以“多對多”的發(fā)散式形式和數(shù)據(jù)協(xié)議進(jìn)行獲取和使用,遂安全存儲(chǔ)成為生成式AI階段數(shù)據(jù)保護(hù)的瓶頸(曹建峰,2023)[25]。故而在司法程序中,對其數(shù)據(jù)進(jìn)行獲取與存儲(chǔ)同樣也存在相當(dāng)難題。此外,生成式AI階段金融科技仍存在“數(shù)據(jù)孤島”問題,即金融數(shù)據(jù)由于主體能動(dòng)性、客體技術(shù)性以及制度環(huán)境形成的不對稱、冗余等封閉、半封閉式現(xiàn)象。這會(huì)導(dǎo)致以下問題:在對數(shù)據(jù)化證據(jù)進(jìn)行調(diào)查時(shí)與大數(shù)據(jù)相隔離,所獲取與保存的數(shù)據(jù)證據(jù)只是“數(shù)據(jù)孤島”影響下的片面或部分證據(jù);由于信息閉塞而無法對獲取的數(shù)據(jù)化證據(jù)異常性進(jìn)行查證,等等。

    2. 司法裁判難題。立法供給不足和司法裁判機(jī)制的缺失,導(dǎo)致司法機(jī)關(guān)“難以司法”,甚至“無法司法”。具言之:一是在面對此類案件時(shí),由于立法尚未對生成式AI階段金融科技的數(shù)據(jù)違規(guī)、違法標(biāo)準(zhǔn)作出準(zhǔn)確認(rèn)定,司法機(jī)關(guān)對金融科技企業(yè)是否侵權(quán)或者是否違約等存在認(rèn)識(shí)分歧;二是金融科技數(shù)據(jù)合規(guī)糾紛案件法律適用在民法和金融法等部門法之間徘徊,比如生成式AI階段的金融科技企業(yè)“數(shù)據(jù)兜售”問題,適用民商法規(guī)則的裁判多主張合同有效,適用金融法規(guī)則及規(guī)范性文件的裁判更傾向認(rèn)定合同無效,法院有較大的選擇裁量空間,導(dǎo)致立法限制與司法自由失衡。

    四、生成式AI階段金融科技數(shù)據(jù)合規(guī)法律化的體系構(gòu)建

    (一)補(bǔ)足立法供給

    1. 厘清相關(guān)法律詞義。(1)厘清法律含義角度下“生成式AI階段金融科技”的相關(guān)含義。《服務(wù)辦法》規(guī)定,生成式AI技術(shù)是指“具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”⑤,該法也明確界定生成式AI技術(shù)服務(wù)者是指“利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)的組織、個(gè)人”⑥。何為“生成式AI階段的金融科技”?從法律用詞角度而言,其應(yīng)為:在“生成式AI技術(shù)”與“金融行業(yè)”均被監(jiān)管的法治環(huán)境之下,其應(yīng)履行雙重合規(guī)法律義務(wù)。(2)厘清什么是“金融科技數(shù)據(jù)合規(guī)”。生成式AI階段的金融科技發(fā)展是金融業(yè)數(shù)字化轉(zhuǎn)型的重要節(jié)點(diǎn),而金融業(yè)數(shù)字化轉(zhuǎn)型的起點(diǎn)是做好數(shù)據(jù)治理,需要真正完善數(shù)據(jù)治理體系,增強(qiáng)數(shù)據(jù)管理能力,加強(qiáng)數(shù)據(jù)質(zhì)量控制,提高數(shù)據(jù)應(yīng)用能力。故本文所述“金融科技數(shù)據(jù)合規(guī)”應(yīng)是在金融科技“數(shù)據(jù)法治化治理”框架下運(yùn)用合規(guī)工具對生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)進(jìn)行防范和規(guī)制。(3)確定生成式AI應(yīng)用視域下“數(shù)據(jù)化證據(jù)”的定義與范疇。結(jié)合生成式AI階段大語言模型材料的定義和范圍,生成式AI應(yīng)用視域下“數(shù)據(jù)化證據(jù)”應(yīng)以廣義的大語言模型材料為基礎(chǔ)進(jìn)行確定,即包括人機(jī)交流材料、大語言模型本體相關(guān)材料和大語言模型運(yùn)行環(huán)境信息三個(gè)部分(徐繼敏和嚴(yán)若冰,2023)[26]。申言之,在生成式AI階段金融科技數(shù)據(jù)立法場景下,其“數(shù)據(jù)化證據(jù)”應(yīng)被定義為——與生成式階段金融科技使用行為相關(guān)的、在司法證明活動(dòng)中可能作為證據(jù)使用的所有數(shù)據(jù)化材料。具體包括金融科技用戶與大模型的交互數(shù)據(jù)、金融科技平臺(tái)或企業(yè)所應(yīng)用的生成式AI語言模型本體相關(guān)數(shù)據(jù)以及運(yùn)作環(huán)境的相關(guān)數(shù)據(jù)。

    2. 整合制度供給體系。一是通過調(diào)整優(yōu)化立法,實(shí)現(xiàn)現(xiàn)有通用性數(shù)據(jù)合規(guī)法律制度的協(xié)調(diào)。應(yīng)優(yōu)化我國生成式AI階段金融科技數(shù)據(jù)合規(guī)的通用性立法指引體系,主要由《服務(wù)辦法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》組成。應(yīng)將《服務(wù)辦法》作為指導(dǎo)性、總領(lǐng)性的立法指引,在其統(tǒng)攝下實(shí)現(xiàn)對《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》的周延與補(bǔ)足。

    其一,主體方面協(xié)調(diào)?!稊?shù)據(jù)安全法》所規(guī)定的合規(guī)主體系“在中華人民共和國境內(nèi)開展數(shù)據(jù)處理活動(dòng)及其安全監(jiān)管”的主體⑦;《個(gè)人信息保護(hù)法》規(guī)定為“在中華人民共和國境內(nèi)處理自然人個(gè)人信息”以及特殊地“在境外處理自然人個(gè)人信息”的主體⑧;而《服務(wù)辦法》規(guī)定為“利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”的主體⑨。通過對三項(xiàng)法律制度對數(shù)據(jù)合規(guī)主體規(guī)定的共性與差異分析,本文認(rèn)為應(yīng)將生成式AI階段金融科技數(shù)據(jù)合規(guī)主體確定為利用生成式人工智能技術(shù)在我國境內(nèi)研發(fā)與應(yīng)用金融科技技術(shù)與服務(wù)的企業(yè)及相關(guān)個(gè)人。

    其二,法律義務(wù)內(nèi)容協(xié)調(diào)。一方面,是數(shù)據(jù)安全內(nèi)容。應(yīng)以《數(shù)據(jù)安全法》為總指導(dǎo),輔以數(shù)據(jù)安全相關(guān)的金融數(shù)據(jù)合規(guī)法律規(guī)定加以約束與規(guī)制,如《金融數(shù)據(jù)安全 數(shù)據(jù)生命周期安全規(guī)范》《金融數(shù)據(jù)安全 數(shù)據(jù)安全分級指南》等。需要特別注意的是,還應(yīng)把握《刑法》關(guān)于保護(hù)數(shù)據(jù)的規(guī)定⑩,其同樣適用于生成式AI階段的金融科技數(shù)據(jù)合規(guī)。另一方面,是個(gè)人信息保護(hù)內(nèi)容。應(yīng)適用《民法典》從人格利益角度對于“個(gè)人信息定義與保護(hù)”的軟法規(guī)定?。此外,在尊重和保護(hù)個(gè)人信息人格尊嚴(yán)方面,應(yīng)在《民法典》總的規(guī)定基礎(chǔ)上,以《個(gè)人信息保護(hù)法》為基礎(chǔ)性規(guī)定,以其他金融數(shù)據(jù)合規(guī)相關(guān)的法律法規(guī)和規(guī)范性文件作為個(gè)人信息保護(hù)方面的數(shù)據(jù)合規(guī)管理行為操作和數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)預(yù)防與處置的具體指引,如《個(gè)人金融信息保護(hù)技術(shù)規(guī)范》《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定辦法》以及《互聯(lián)網(wǎng)個(gè)人信息安全保護(hù)指南》。

    二是嘗試針對生成式AI階段的金融科技數(shù)據(jù)風(fēng)險(xiǎn)出臺(tái)專門的金融科技數(shù)據(jù)合規(guī)實(shí)施條例。金融科技的數(shù)據(jù)泄露和個(gè)人隱私侵權(quán)案件不斷增多,執(zhí)法和司法都面臨不小的挑戰(zhàn)。隨著生成式AI階段金融科技數(shù)據(jù)風(fēng)險(xiǎn)的翻新與更迭,直接出臺(tái)單行法律存在較大難度,但是出臺(tái)國家層面數(shù)據(jù)合規(guī)實(shí)施條例有其必要性。需要注重以下幾點(diǎn):首先,注重對生成式AI給金融科技數(shù)據(jù)合規(guī)帶來的新挑戰(zhàn)進(jìn)行識(shí)別與規(guī)制。針對本文第一部分對生成式AI階段數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)的闡述與總結(jié),立法部門在訂立與出臺(tái)金融科技數(shù)據(jù)合規(guī)實(shí)施條例時(shí)應(yīng)充分將該類風(fēng)險(xiǎn)的凸顯與嬗變作為考慮因素,使得該實(shí)施條例符合生成式AI階段數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)治理的具體需求。其次,把握生成式AI階段金融科技涉及的數(shù)據(jù)跨境合規(guī)問題。金融數(shù)據(jù)跨境合規(guī)也是當(dāng)前金融科技立法領(lǐng)域非常重要的議題,結(jié)合生成式AI技術(shù)帶來的數(shù)據(jù)跨境安全問題,應(yīng)當(dāng)在實(shí)施條例的訂立中加以考慮。最后,給生成式AI階段金融科技機(jī)構(gòu)數(shù)據(jù)合規(guī)專項(xiàng)管理體系與制度的構(gòu)建提供充分指引。該實(shí)施條例應(yīng)當(dāng)能夠?yàn)榻鹑诳萍紮C(jī)構(gòu)提供生成式AI階段金融數(shù)據(jù)合規(guī)的基礎(chǔ)、專門合規(guī)要素,以及為合規(guī)管理流程與組織建設(shè)等提供法律意義上的指導(dǎo)。

    (二)提高執(zhí)法效能

    1. 重視柔性執(zhí)法。參考英國金融機(jī)構(gòu)數(shù)據(jù)行政合規(guī)經(jīng)驗(yàn),其司法部發(fā)布了相關(guān)實(shí)施指南,兩份實(shí)施指南同時(shí)規(guī)定了充分程序六項(xiàng)原則,即該國金融機(jī)構(gòu)合規(guī)的六項(xiàng)指導(dǎo)原則。其可以幫助金融機(jī)構(gòu)了解其可以制定哪些程序來做好金融數(shù)據(jù)合規(guī)(薛志華和方舒倩,2023)[27]。為完善我國生成式AI階段金融科技數(shù)據(jù)合規(guī)的行政引導(dǎo),政府應(yīng)當(dāng)發(fā)布相關(guān)的金融科技數(shù)據(jù)合規(guī)行政引導(dǎo)手冊,對金融科技機(jī)構(gòu)的數(shù)據(jù)合規(guī)范圍、流程、標(biāo)準(zhǔn)均進(jìn)行詳細(xì)的規(guī)定。例如,為克服生成式AI技術(shù)給金融科技立法滯后性帶來的挑戰(zhàn),應(yīng)在《金融領(lǐng)域科技倫理指引》中補(bǔ)充說明對金融數(shù)據(jù)合規(guī)效果標(biāo)準(zhǔn)的指引,在實(shí)質(zhì)內(nèi)容與流程程序兩個(gè)方面實(shí)現(xiàn)對生成式AI階段金融科技企業(yè)數(shù)據(jù)合規(guī)的行政引導(dǎo)。

    2. 調(diào)適生成式AI階段金融科技數(shù)據(jù)合規(guī)的剛性執(zhí)法。一是選取混合式監(jiān)管模式以應(yīng)對監(jiān)管部門之間的分工不明和職責(zé)不清帶來的監(jiān)管挑戰(zhàn),混合式監(jiān)管是指監(jiān)管部門可以根據(jù)所在司法管轄區(qū)監(jiān)管機(jī)構(gòu)的性質(zhì),以及司法管轄區(qū)是大型科技公司的總部所在地還是活動(dòng)所在地,來對實(shí)體監(jiān)管?與活動(dòng)監(jiān)管?兩種監(jiān)管模式進(jìn)行個(gè)性化整合。一方面,針對金融科技應(yīng)用的技術(shù)多樣性和金融科技本身發(fā)展迅速的特點(diǎn),采取活動(dòng)監(jiān)管模式,數(shù)據(jù)合規(guī)監(jiān)管部門可以對金融科技機(jī)構(gòu)的數(shù)據(jù)合規(guī)與不合規(guī)活動(dòng)均進(jìn)行監(jiān)管,不給監(jiān)管部門的監(jiān)管權(quán)限加設(shè)“金融行業(yè)”枷鎖。例如,針對研發(fā)與應(yīng)用生成式AI金融服務(wù)工具的金融科技機(jī)構(gòu)的個(gè)人金融信息泄露行為,既可以由金融科技行業(yè)監(jiān)管部門對其進(jìn)行執(zhí)法監(jiān)管,也可以由信息安全監(jiān)管部門進(jìn)行,還可以由生成式AI技術(shù)監(jiān)管部門進(jìn)行。另一方面,對于固定的金融科技機(jī)構(gòu)實(shí)體數(shù)據(jù)合規(guī)管理制度與程序,則采取實(shí)體監(jiān)管模式,對提供受監(jiān)管的金融科技服務(wù)的持牌實(shí)體或集團(tuán)實(shí)施監(jiān)管。二是引入與應(yīng)用適應(yīng)性更強(qiáng)的監(jiān)管工具與系統(tǒng)。善用生成式AI階段金融科技數(shù)據(jù)合規(guī)“監(jiān)管沙盒”機(jī)制,圍繞準(zhǔn)入、運(yùn)作與退出三個(gè)階段展開。其一,明確準(zhǔn)入階段的申請資格和準(zhǔn)入標(biāo)準(zhǔn)。在申請資格方面,主體資質(zhì)和主體構(gòu)成應(yīng)該以追求金融科技數(shù)據(jù)合規(guī)但是又不抑制技術(shù)發(fā)展的原則進(jìn)行設(shè)計(jì);在準(zhǔn)入標(biāo)準(zhǔn)方面,應(yīng)起到“監(jiān)管沙盒”申請者自我審視金融數(shù)據(jù)獲取、使用與合成的安全與合規(guī)的作用。其二,在運(yùn)行階段實(shí)現(xiàn)金融科技數(shù)據(jù)風(fēng)險(xiǎn)防控與合規(guī)處置的技術(shù)化。“監(jiān)管沙盒”測試的申請者利用大數(shù)據(jù)、人工智能及其他金融基礎(chǔ)設(shè)施,搭建數(shù)據(jù)風(fēng)險(xiǎn)識(shí)別與處置合規(guī)化的平臺(tái),真正實(shí)現(xiàn)以技術(shù)來監(jiān)管技術(shù)的目標(biāo)。其三,在退出階段設(shè)置分類分別機(jī)制。金融科技數(shù)據(jù)合規(guī)的“監(jiān)管沙盒”退出應(yīng)分為被動(dòng)退出和主動(dòng)退出。被動(dòng)退出,即當(dāng)金融科技機(jī)構(gòu)的測試產(chǎn)品或者技術(shù)升級被檢驗(yàn)出具有數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)時(shí),將會(huì)被監(jiān)管主管部門停止測試并要求其退出;而主動(dòng)退出則是由“監(jiān)管沙盒”申請者自己申請,但是仍受限于特定事由,該事由應(yīng)由監(jiān)管部門與申請者提前確定。

    (三)增強(qiáng)司法保護(hù)

    針對前文司法方面存在的問題,本文認(rèn)為應(yīng)從完善數(shù)據(jù)化證據(jù)適用機(jī)制和加強(qiáng)金融科技數(shù)據(jù)合規(guī)類案研究兩方面來補(bǔ)足生成式AI階段金融科技數(shù)據(jù)合規(guī)的司法保護(hù)機(jī)制。

    1. 搭建數(shù)據(jù)化證據(jù)適用機(jī)制。數(shù)據(jù)化證據(jù)成為生成式AI階段金融科技數(shù)據(jù)合規(guī)案件調(diào)查與裁判的重要因素,其適用機(jī)制亟須得到完善。(1)應(yīng)確定數(shù)據(jù)化證據(jù)的適用程序和技術(shù)。一方面,在確立“數(shù)據(jù)化證據(jù)”法律化用詞后,將其具體化進(jìn)各項(xiàng)法律制度中并在程序法中增加其適用程序和標(biāo)準(zhǔn);在司法實(shí)踐中,考慮將“數(shù)據(jù)化證據(jù)”的價(jià)值加以量化,進(jìn)行分等級獲取與保存,使得其得到最大化保護(hù)與利用(楊繼文,2022)[28]。另一方面,升級數(shù)據(jù)化證據(jù)獲取與保全技術(shù)。采用一套完整的金融科技數(shù)據(jù)化證據(jù)管理系統(tǒng),以獲取各種來源的證據(jù),以及支持多種格式的整合存儲(chǔ)、保護(hù)和分析功能。(2)調(diào)適數(shù)據(jù)化證據(jù)的司法審查方法。在司法活動(dòng)中,對生成式AI階段金融科技數(shù)據(jù)化證據(jù)的審查應(yīng)分為兩個(gè)方面:單一審查和綜合審查。單一審查可以沿用證據(jù)“三性”分析思路;綜合審查則強(qiáng)調(diào)從整體主義的進(jìn)路審慎地對待數(shù)據(jù)化證據(jù),重視自然事實(shí)背景的分析和經(jīng)驗(yàn)法則的理性運(yùn)用(張迪,2023)[29]。

    2. 加強(qiáng)類案研究。(1)明確類案裁判的可視化標(biāo)準(zhǔn)。關(guān)鍵在于能否將金融科技涉案糾紛中的數(shù)據(jù)合規(guī)要素進(jìn)行提取和分類,然后將前后案件的基本事實(shí)在法律評價(jià)環(huán)節(jié)進(jìn)行研判,實(shí)現(xiàn)金融科技數(shù)據(jù)合規(guī)案件事實(shí)與金融科技數(shù)據(jù)合規(guī)法律規(guī)范的勾連。同時(shí),應(yīng)將生成式AI數(shù)據(jù)風(fēng)險(xiǎn)案件進(jìn)行透析,將其與數(shù)據(jù)合規(guī)案件進(jìn)行統(tǒng)一類比,尋求最大可能性的案件共性突破,以方便司法機(jī)關(guān)借由對該類案件的經(jīng)驗(yàn)來對生成式AI階段金融科技數(shù)據(jù)合規(guī)案件進(jìn)行判斷和審理。此外,金融科技數(shù)據(jù)合規(guī)主體、合規(guī)管理內(nèi)容與失范行為以及金融數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)的程度大小這些要素也可以作為生成式AI階段金融科技數(shù)據(jù)合規(guī)類案判斷的比較要點(diǎn)。(2)劃定合規(guī)類案裁判的價(jià)值邊界。在生成式AI階段,并不是所有的金融科技數(shù)據(jù)合規(guī)類案都有標(biāo)準(zhǔn)的、成體系的判斷要素可供考察,故而需要司法機(jī)關(guān)進(jìn)行獨(dú)立的價(jià)值判斷,此時(shí)則需要對其可以評斷的價(jià)值邊界進(jìn)行劃定。其主要包括:第一,對個(gè)案正義的考慮。公平正義是社會(huì)主義法治的核心價(jià)值追求,必須將其貫徹融入金融科技數(shù)據(jù)合規(guī)案件審理中。第二,對法官自由裁量空間的放權(quán)與控制。第三,對技術(shù)穩(wěn)健發(fā)展的考量。對生成式AI階段金融科技數(shù)據(jù)合規(guī)案件進(jìn)行司法審理的本質(zhì)是為了保障金融科技在生成式人工智能時(shí)代的健康發(fā)展,而不是抵制技術(shù)進(jìn)步,即強(qiáng)調(diào)生成式AI階段金融科技數(shù)據(jù)合規(guī)的“司法保護(hù)”。同樣地,生成式AI階段金融科技數(shù)據(jù)合規(guī)體系的法律化構(gòu)建也是出于鼓勵(lì)技術(shù)的研發(fā)與應(yīng)用,為使生成式AI技術(shù)在金融科技領(lǐng)域更符合數(shù)據(jù)風(fēng)險(xiǎn)防控和安全保護(hù)的目標(biāo)和標(biāo)準(zhǔn)。

    注:

    ①“硬法—軟法”范式并不是以調(diào)整方式和調(diào)整范圍為標(biāo)準(zhǔn)對實(shí)在法體系進(jìn)行的部門劃分,而是以“是否依賴國家強(qiáng)制力保證實(shí)施”為尺度對現(xiàn)有法律規(guī)范進(jìn)行的類型化建構(gòu)。

    ②即金融服務(wù)中以科學(xué)技術(shù)為基礎(chǔ)的創(chuàng)新,產(chǎn)生新的業(yè)務(wù)模式、應(yīng)用程序、流程或產(chǎn)品。且我國已進(jìn)入金融科技3.5時(shí)代,正在向4.0時(shí)代跨進(jìn)。

    ③《金融科技創(chuàng)新自律工作指引(試行)》第五條第一款,第十四條第一款。

    ④針對數(shù)據(jù)安全,標(biāo)準(zhǔn)從6個(gè)方面劃定了相關(guān)規(guī)范,包括充分獲取用戶授權(quán)、最小必要采集數(shù)據(jù)、專事專用使用數(shù)據(jù)、嚴(yán)格采取防護(hù)措施、依法合規(guī)共享數(shù)據(jù)、主動(dòng)清理留存數(shù)據(jù)。

    ⑤《生成式人工智能服務(wù)管理暫行辦法》第二條第一款。

    ⑥《生成式人工智能服務(wù)管理暫行辦法》第二十二條第二款。

    ⑦《數(shù)據(jù)安全法》第二條。

    ⑧《個(gè)人信息保護(hù)法》第三條第二款。

    ⑨《生成式人工智能服務(wù)管理暫行辦法》第二條。

    ⑩《刑法》第二百八十六條第一款、第二百八十七條第二款。

    ?《民法典》第一百一十條、第一千零三十四條。

    ?指對提供受監(jiān)管服務(wù)(如接收存款、支付便利化、貸款和證券承銷)的持牌實(shí)體或集團(tuán)實(shí)施監(jiān)管。

    ?指對從事某些受監(jiān)管活動(dòng)(例如促進(jìn)投資買賣或提供貸款服務(wù))的個(gè)人或公司開展監(jiān)管。

    參考文獻(xiàn):

    [1]龍柯宇.生成式人工智能應(yīng)用失范的法律規(guī)制研究——以ChatGPT和社交機(jī)器人為視角 [J].東方法學(xué),2023,(04).

    [2]黃文超.個(gè)人金融數(shù)據(jù)保護(hù)與治理:以金融機(jī)構(gòu)數(shù)據(jù)產(chǎn)權(quán)為視角 [J].科技與法律(中英文),2023,(03).

    [3]鄧建鵬,朱懌成.ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對之策件[J].新疆師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2023,44(05).

    [4]劉艷紅.生成式人工智能的三大安全風(fēng)險(xiǎn)及法律規(guī)制——以ChatGPT為例 [J].東方法學(xué),2023,(04).

    [5]寧宣鳳,吳涵,張浣然 .AI監(jiān)管觀察|對《生成式人工智能服務(wù)管理辦法》的分析和思考 [OL].https://baijiahao.baidu.com/s?id=1763558366334483600&wfr=spider&for=pc.

    [6]Cismag.簡述ChatGPT等生成式人工智能的信息安全風(fēng)險(xiǎn) [OL].https://www.elecfans.com/d/2093781.html.

    [7]夏詩園,尹振濤.數(shù)字經(jīng)濟(jì)下金融數(shù)據(jù)風(fēng)險(xiǎn)及治理研究 [J].電子政務(wù),2022,(07).

    [8]袁康,程揚(yáng).金融科技的數(shù)據(jù)風(fēng)險(xiǎn)及其防控策略[J].北京航空航天大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023,36(2).

    [9]汪壽陽,李明琛,楊昆,林文燦,姜尚榮,魏云捷.ChatGPT+金融:八個(gè)值得關(guān)注的研究方向與問題 [J].管理評論,2023,35(04).

    [10]張凌寒.深度合成治理的邏輯更新與體系迭代——ChatGPT等生成型人工智能治理的中國路徑 [J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2023,41(03).

    [11]Maier Torsten,Menold Jessica,McComb Christopher. 2023. The Relationship Between Performance and Trust in AI in E-Finance [J].Frontiers in Artificial Intelligence.

    [12]Lin Jing,Ngiam Kee Yuan. 2023. How Data Science and AI-based Technologies Impact Genomics [J].Singapore Medical Journal.

    [13]陳永偉.超越ChatGPT:生成式AI的機(jī)遇、風(fēng)險(xiǎn)與挑戰(zhàn) [J].山東大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2023,(03).

    [14]董正愛.環(huán)境風(fēng)險(xiǎn)的規(guī)制進(jìn)路與范式重構(gòu)——基于硬法與軟法的二元構(gòu)造 [J].現(xiàn)代法學(xué),2023,45(02).

    [15]唐鈞.人工智能的風(fēng)險(xiǎn)善治研究 [J].中國行政管理,2019,(04).

    [16]胡元聰,廖娟.人工智能的負(fù)外部性及其經(jīng)濟(jì)法規(guī)制 [J].大連理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020,41(03).

    [17]張旭.基于人權(quán)標(biāo)準(zhǔn)的算法治理新思路:企業(yè)算法合規(guī)義務(wù) [J].人權(quán)研究,2022,(02).

    [18]王瑞雪.公共治理視野下的軟法工具 [J].財(cái)經(jīng)法學(xué),2020,(04).

    [19]張旭,田園.算法治理視閾下的企業(yè)合規(guī):困境、邏輯與進(jìn)路 [J].蘭州大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2022,50(02).

    [20]徐冬根,楊瀟.三重變奏:法律語境下監(jiān)管科技與金融監(jiān)管數(shù)字治理變革創(chuàng)新 [J].南通大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023,39(03).

    [21]胡玲,馬忠法.論我國企業(yè)數(shù)據(jù)合規(guī)體系的構(gòu)建及其法律障礙 [J].科技與法律(中英文),2023,(02).

    [22]陳培林,項(xiàng)建強(qiáng).我國金融科技監(jiān)管工具及工作過程探究 [J].金融科技時(shí)代,2022,30(11).

    [23]張全濤.從實(shí)踐應(yīng)用到證據(jù)法定:大數(shù)據(jù)證據(jù)的理論證成與規(guī)則建構(gòu) [J].四川輕化工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023,38(03).

    [24]黃健.刑事大數(shù)據(jù)證據(jù)現(xiàn)實(shí)論 [J].新疆大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2023,51(04).

    [25]曹建峰.邁向可信AI:ChatGPT類生成式人工智能的治理挑戰(zhàn)及應(yīng)對[J].上海政法學(xué)院學(xué)報(bào)(法治論叢),2023,38(04).

    [26]徐繼敏,嚴(yán)若冰.論大語言模型材料的證據(jù)屬性——以ChatGPT和文心一言為例 [J/OL].四川師范大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023-08-27.

    [27]薛志華,方舒倩.英國金融機(jī)構(gòu)的合規(guī)監(jiān)管制度及對中國的啟示 [J].現(xiàn)代金融導(dǎo)刊,2023,(03).

    [28]楊繼文.算法證據(jù):作為證據(jù)的算法及其適用規(guī)則前瞻 [J].地方立法研究,2022,7(03).

    [29]張迪.刑事訴訟中的算法證據(jù):概念、機(jī)理及其運(yùn)用 [J].河南大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023,63(03).

    欧美激情 高清一区二区三区| 日韩,欧美,国产一区二区三区| 亚洲伊人色综图| 最近手机中文字幕大全| 国产精品一区二区在线不卡| 色婷婷av一区二区三区视频| 最近最新中文字幕大全免费视频 | 免费观看在线日韩| 两个人免费观看高清视频| 三上悠亚av全集在线观看| 下体分泌物呈黄色| av在线播放精品| 国产精品三级大全| 日本午夜av视频| 精品国产露脸久久av麻豆| 在线观看免费视频网站a站| 狠狠精品人妻久久久久久综合| 久久午夜福利片| 亚洲国产精品一区三区| 777米奇影视久久| 久久精品亚洲av国产电影网| 天堂中文最新版在线下载| 夫妻性生交免费视频一级片| 精品一品国产午夜福利视频| 妹子高潮喷水视频| 精品国产国语对白av| 男女国产视频网站| 日韩一卡2卡3卡4卡2021年| 日产精品乱码卡一卡2卡三| 国产成人精品在线电影| 少妇被粗大的猛进出69影院| 亚洲精品一区蜜桃| 天堂俺去俺来也www色官网| 久久国内精品自在自线图片| 夫妻午夜视频| 美女国产视频在线观看| 婷婷色综合大香蕉| 电影成人av| 国产一区二区激情短视频 | 中文字幕亚洲精品专区| 最近手机中文字幕大全| 91久久精品国产一区二区三区| 美女国产视频在线观看| 男人操女人黄网站| 电影成人av| 精品国产乱码久久久久久小说| 久久久亚洲精品成人影院| 亚洲成色77777| 国产伦理片在线播放av一区| 成人午夜精彩视频在线观看| 国产一区有黄有色的免费视频| 韩国精品一区二区三区| 欧美 日韩 精品 国产| 欧美日韩av久久| 丝袜美足系列| 亚洲色图综合在线观看| 日本爱情动作片www.在线观看| 成人影院久久| 一本色道久久久久久精品综合| 久久99蜜桃精品久久| 母亲3免费完整高清在线观看 | 2022亚洲国产成人精品| 久久人妻熟女aⅴ| 国产精品国产三级专区第一集| 亚洲精品,欧美精品| 日本av免费视频播放| 丝袜人妻中文字幕| 国产精品国产三级专区第一集| 人成视频在线观看免费观看| 永久免费av网站大全| 国产福利在线免费观看视频| 国产白丝娇喘喷水9色精品| 久久毛片免费看一区二区三区| 日韩视频在线欧美| 极品少妇高潮喷水抽搐| 日日啪夜夜爽| www.自偷自拍.com| 丝袜在线中文字幕| 亚洲国产欧美日韩在线播放| 97精品久久久久久久久久精品| 精品卡一卡二卡四卡免费| 性色avwww在线观看| 久久国产亚洲av麻豆专区| 精品少妇久久久久久888优播| 9色porny在线观看| 中国国产av一级| 最近中文字幕高清免费大全6| 久久精品久久精品一区二区三区| 精品一区在线观看国产| 在线观看国产h片| 中文字幕最新亚洲高清| 国产综合精华液| 久久97久久精品| 一本久久精品| 亚洲一区中文字幕在线| 国产成人aa在线观看| 国产黄色视频一区二区在线观看| 在线 av 中文字幕| 国产片特级美女逼逼视频| 午夜激情av网站| 国产精品国产三级国产专区5o| 麻豆精品久久久久久蜜桃| 国产精品久久久久久久久免| 香蕉精品网在线| 久久久国产精品麻豆| 日韩电影二区| a级片在线免费高清观看视频| 亚洲国产精品999| 黄色一级大片看看| 成人亚洲欧美一区二区av| av.在线天堂| 永久免费av网站大全| 亚洲av国产av综合av卡| 大香蕉久久成人网| 两性夫妻黄色片| 欧美精品一区二区免费开放| 亚洲色图 男人天堂 中文字幕| 哪个播放器可以免费观看大片| 亚洲欧洲国产日韩| 女人精品久久久久毛片| 可以免费在线观看a视频的电影网站 | 侵犯人妻中文字幕一二三四区| 黄色视频在线播放观看不卡| 韩国高清视频一区二区三区| 亚洲国产色片| 韩国av在线不卡| 97精品久久久久久久久久精品| 热re99久久精品国产66热6| 欧美成人精品欧美一级黄| 欧美亚洲日本最大视频资源| 纯流量卡能插随身wifi吗| 久久精品国产亚洲av天美| 女人高潮潮喷娇喘18禁视频| 老女人水多毛片| tube8黄色片| 午夜福利乱码中文字幕| 国产av一区二区精品久久| 久久亚洲国产成人精品v| 不卡视频在线观看欧美| 99国产综合亚洲精品| 亚洲欧美精品自产自拍| 美女大奶头黄色视频| 国产黄频视频在线观看| 日韩大片免费观看网站| 国产视频首页在线观看| 天堂8中文在线网| 国产综合精华液| 国产免费视频播放在线视频| 咕卡用的链子| 国产老妇伦熟女老妇高清| 国产精品免费视频内射| 亚洲三区欧美一区| 午夜精品国产一区二区电影| 欧美成人午夜免费资源| 国产精品久久久久久久久免| 如何舔出高潮| 亚洲国产精品国产精品| 欧美97在线视频| 91精品三级在线观看| 色网站视频免费| 成人毛片60女人毛片免费| 久久99一区二区三区| 国产极品天堂在线| 日本午夜av视频| 亚洲伊人久久精品综合| 日韩三级伦理在线观看| 亚洲欧洲日产国产| av在线播放精品| 最近手机中文字幕大全| 麻豆乱淫一区二区| 国产日韩欧美在线精品| 国产午夜精品一二区理论片| av有码第一页| 中文天堂在线官网| 国产熟女午夜一区二区三区| 99久久中文字幕三级久久日本| 国产男女内射视频| 国产精品女同一区二区软件| 一本久久精品| 欧美日韩精品网址| 精品国产超薄肉色丝袜足j| 女的被弄到高潮叫床怎么办| 国产精品麻豆人妻色哟哟久久| 免费看不卡的av| 最近中文字幕2019免费版| 日韩人妻精品一区2区三区| 日本午夜av视频| 国产精品欧美亚洲77777| 国产1区2区3区精品| 大片免费播放器 马上看| 不卡av一区二区三区| 国产亚洲一区二区精品| 十八禁高潮呻吟视频| 精品一品国产午夜福利视频| 国产精品二区激情视频| 久久国产精品大桥未久av| av在线观看视频网站免费| 久久久久视频综合| 色视频在线一区二区三区| 卡戴珊不雅视频在线播放| a级毛片黄视频| 久久久久久人妻| 午夜免费男女啪啪视频观看| 欧美日韩综合久久久久久| av网站免费在线观看视频| 五月伊人婷婷丁香| www.精华液| 亚洲,一卡二卡三卡| 精品少妇内射三级| 啦啦啦在线观看免费高清www| av视频免费观看在线观看| 午夜福利乱码中文字幕| 久久人妻熟女aⅴ| 菩萨蛮人人尽说江南好唐韦庄| 国产黄频视频在线观看| 欧美成人午夜免费资源| 亚洲av国产av综合av卡| 午夜福利网站1000一区二区三区| 精品人妻偷拍中文字幕| 国产精品秋霞免费鲁丝片| 多毛熟女@视频| 日韩欧美精品免费久久| 婷婷成人精品国产| 午夜福利乱码中文字幕| 美女脱内裤让男人舔精品视频| 丝袜人妻中文字幕| 国产精品人妻久久久影院| 久久综合国产亚洲精品| 一本大道久久a久久精品| 18禁动态无遮挡网站| 一区福利在线观看| 色94色欧美一区二区| 久久99蜜桃精品久久| 自拍欧美九色日韩亚洲蝌蚪91| 国产免费视频播放在线视频| a 毛片基地| 国产欧美日韩一区二区三区在线| 男人添女人高潮全过程视频| 国产白丝娇喘喷水9色精品| 欧美精品一区二区大全| 精品久久久久久电影网| 丰满迷人的少妇在线观看| 在线 av 中文字幕| 成年av动漫网址| 国产伦理片在线播放av一区| 久久99一区二区三区| 亚洲国产av影院在线观看| 成人18禁高潮啪啪吃奶动态图| 一本大道久久a久久精品| 黑人巨大精品欧美一区二区蜜桃| 99国产精品免费福利视频| 久久久亚洲精品成人影院| 国产成人免费观看mmmm| 午夜福利影视在线免费观看| 午夜福利视频在线观看免费| 日韩,欧美,国产一区二区三区| 男女边摸边吃奶| 久久热在线av| 一本大道久久a久久精品| 国产精品久久久久久久久免| a级片在线免费高清观看视频| 午夜福利网站1000一区二区三区| 十分钟在线观看高清视频www| 综合色丁香网| 中文乱码字字幕精品一区二区三区| 18禁观看日本| 亚洲精品美女久久久久99蜜臀 | 免费观看无遮挡的男女| 人妻人人澡人人爽人人| 黄网站色视频无遮挡免费观看| 天天影视国产精品| 波野结衣二区三区在线| 亚洲精品久久久久久婷婷小说| 成人国产av品久久久| 国产欧美日韩一区二区三区在线| 少妇的逼水好多| 你懂的网址亚洲精品在线观看| 国产熟女午夜一区二区三区| 激情五月婷婷亚洲| 毛片一级片免费看久久久久| 老汉色∧v一级毛片| 国产又色又爽无遮挡免| 日本免费在线观看一区| 国产熟女午夜一区二区三区| 国产亚洲最大av| 曰老女人黄片| 亚洲国产看品久久| 免费女性裸体啪啪无遮挡网站| 91aial.com中文字幕在线观看| 午夜久久久在线观看| 丰满少妇做爰视频| 999久久久国产精品视频| 午夜福利,免费看| 男女边摸边吃奶| 久久久久久伊人网av| 啦啦啦在线免费观看视频4| 天堂俺去俺来也www色官网| 久久毛片免费看一区二区三区| 纵有疾风起免费观看全集完整版| 国产极品粉嫩免费观看在线| 欧美日韩视频高清一区二区三区二| 天堂俺去俺来也www色官网| 免费看不卡的av| 人成视频在线观看免费观看| 日韩三级伦理在线观看| 夜夜骑夜夜射夜夜干| 久久久国产欧美日韩av| 叶爱在线成人免费视频播放| 美女国产视频在线观看| 久久午夜福利片| 新久久久久国产一级毛片| 国产成人精品在线电影| 欧美日韩一级在线毛片| 啦啦啦视频在线资源免费观看| 婷婷成人精品国产| 国产精品.久久久| 国产麻豆69| 男男h啪啪无遮挡| 国产欧美日韩一区二区三区在线| 欧美最新免费一区二区三区| 性少妇av在线| 亚洲色图综合在线观看| 亚洲国产成人一精品久久久| 亚洲精品美女久久av网站| 视频区图区小说| 熟妇人妻不卡中文字幕| 在线观看一区二区三区激情| 你懂的网址亚洲精品在线观看| 爱豆传媒免费全集在线观看| 亚洲综合精品二区| 久久精品国产鲁丝片午夜精品| 久久国产精品大桥未久av| 精品一区二区免费观看| 一二三四中文在线观看免费高清| 狠狠精品人妻久久久久久综合| 午夜福利,免费看| 免费人妻精品一区二区三区视频| 日韩成人av中文字幕在线观看| 亚洲五月色婷婷综合| 高清视频免费观看一区二区| 亚洲天堂av无毛| 亚洲国产精品一区三区| 99热全是精品| 久久av网站| 亚洲色图 男人天堂 中文字幕| 精品第一国产精品| 国产精品久久久久久精品古装| 国产成人精品福利久久| 精品国产一区二区久久| 王馨瑶露胸无遮挡在线观看| 精品人妻一区二区三区麻豆| 欧美激情高清一区二区三区 | 亚洲人成电影观看| 色视频在线一区二区三区| 女人被躁到高潮嗷嗷叫费观| 国产高清不卡午夜福利| 国产成人91sexporn| 2021少妇久久久久久久久久久| 精品国产一区二区三区四区第35| 亚洲一码二码三码区别大吗| 国产精品 欧美亚洲| 一区二区三区激情视频| 大香蕉久久网| 少妇的丰满在线观看| 少妇人妻精品综合一区二区| 另类亚洲欧美激情| 国产精品无大码| 久久青草综合色| 国产在线一区二区三区精| 黄频高清免费视频| 国产片内射在线| 天天躁夜夜躁狠狠躁躁| 日本-黄色视频高清免费观看| 免费久久久久久久精品成人欧美视频| 狂野欧美激情性bbbbbb| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久久久国产一级毛片高清牌| 夜夜骑夜夜射夜夜干| 99久久人妻综合| 叶爱在线成人免费视频播放| 国产男女内射视频| 一边摸一边做爽爽视频免费| 国产又色又爽无遮挡免| 免费人妻精品一区二区三区视频| 国产成人av激情在线播放| 久久精品国产鲁丝片午夜精品| 在线看a的网站| 男女国产视频网站| 久久久久久久大尺度免费视频| 成人免费观看视频高清| 亚洲欧美成人综合另类久久久| 美国免费a级毛片| 国产成人午夜福利电影在线观看| 亚洲天堂av无毛| 人妻人人澡人人爽人人| 国产精品香港三级国产av潘金莲 | 亚洲欧美精品综合一区二区三区 | 男的添女的下面高潮视频| 多毛熟女@视频| 丰满饥渴人妻一区二区三| 国产在线免费精品| xxx大片免费视频| 国产无遮挡羞羞视频在线观看| 99国产精品免费福利视频| 日韩一卡2卡3卡4卡2021年| 男人爽女人下面视频在线观看| kizo精华| 精品一区二区免费观看| 国产精品免费视频内射| 人人妻人人爽人人添夜夜欢视频| 黄片无遮挡物在线观看| 国产精品女同一区二区软件| 韩国高清视频一区二区三区| 美女高潮到喷水免费观看| 日韩一卡2卡3卡4卡2021年| 色婷婷久久久亚洲欧美| 亚洲第一av免费看| 免费观看a级毛片全部| 久久国产亚洲av麻豆专区| 伊人久久国产一区二区| 精品国产乱码久久久久久男人| 久久久精品94久久精品| 国产乱来视频区| 国产欧美亚洲国产| 成人国产av品久久久| 亚洲,欧美,日韩| 久久精品国产自在天天线| 性色avwww在线观看| 一区福利在线观看| 欧美日韩精品成人综合77777| 2021少妇久久久久久久久久久| 久久久久久久亚洲中文字幕| 亚洲精品日韩在线中文字幕| 亚洲情色 制服丝袜| 999精品在线视频| 香蕉丝袜av| 国产高清国产精品国产三级| 狠狠精品人妻久久久久久综合| 成年美女黄网站色视频大全免费| av福利片在线| 我的亚洲天堂| 国产xxxxx性猛交| 日韩伦理黄色片| 狂野欧美激情性bbbbbb| 国产成人精品在线电影| 国产精品欧美亚洲77777| 亚洲国产欧美日韩在线播放| 午夜福利在线观看免费完整高清在| 久久影院123| 如何舔出高潮| 成人毛片60女人毛片免费| 中文字幕av电影在线播放| 欧美97在线视频| 亚洲熟女精品中文字幕| 亚洲精品日本国产第一区| 十八禁网站网址无遮挡| 一级片'在线观看视频| 三上悠亚av全集在线观看| 电影成人av| 人妻人人澡人人爽人人| 十八禁网站网址无遮挡| www.精华液| 高清在线视频一区二区三区| 一区二区三区精品91| 国产精品久久久久成人av| 中文字幕人妻丝袜一区二区 | 色吧在线观看| 欧美日韩亚洲高清精品| 纵有疾风起免费观看全集完整版| 91精品伊人久久大香线蕉| 国产精品不卡视频一区二区| 亚洲国产欧美在线一区| 在线亚洲精品国产二区图片欧美| 精品人妻偷拍中文字幕| 亚洲综合精品二区| 久久鲁丝午夜福利片| 久久久精品94久久精品| 午夜福利视频在线观看免费| 亚洲天堂av无毛| 一级a爱视频在线免费观看| 肉色欧美久久久久久久蜜桃| 美女福利国产在线| 欧美激情 高清一区二区三区| 大码成人一级视频| 伊人久久大香线蕉亚洲五| 在线观看免费日韩欧美大片| 在线 av 中文字幕| 久久久久久久久久人人人人人人| 久久热在线av| 久热这里只有精品99| 可以免费在线观看a视频的电影网站 | 久久久国产一区二区| 涩涩av久久男人的天堂| 久久精品久久久久久噜噜老黄| 国产精品国产三级国产专区5o| 亚洲一码二码三码区别大吗| 欧美日韩国产mv在线观看视频| 午夜福利,免费看| 国产视频首页在线观看| 精品国产一区二区三区四区第35| 日韩一卡2卡3卡4卡2021年| 国产精品久久久久久久久免| 视频在线观看一区二区三区| 99久久综合免费| 中文字幕人妻丝袜一区二区 | 亚洲精品国产一区二区精华液| 亚洲av在线观看美女高潮| 午夜av观看不卡| 亚洲五月色婷婷综合| 天天躁夜夜躁狠狠久久av| 日本欧美国产在线视频| 久久久久久久久久久免费av| 久久久久久久久免费视频了| 秋霞伦理黄片| 一级片'在线观看视频| 十八禁高潮呻吟视频| 日韩伦理黄色片| 天堂俺去俺来也www色官网| 亚洲成人av在线免费| 少妇猛男粗大的猛烈进出视频| 国产成人一区二区在线| 激情五月婷婷亚洲| 欧美精品高潮呻吟av久久| 少妇人妻久久综合中文| 久久久久久人妻| 亚洲熟女精品中文字幕| 国语对白做爰xxxⅹ性视频网站| 赤兔流量卡办理| www.精华液| 18禁观看日本| 久久99一区二区三区| 亚洲欧美清纯卡通| 国产av精品麻豆| 黄色毛片三级朝国网站| 99国产精品免费福利视频| 成人漫画全彩无遮挡| 欧美黄色片欧美黄色片| 国产片内射在线| 国产成人午夜福利电影在线观看| 一级片'在线观看视频| 日本91视频免费播放| 日韩一卡2卡3卡4卡2021年| 丝瓜视频免费看黄片| 亚洲欧美成人综合另类久久久| 如何舔出高潮| 精品国产乱码久久久久久小说| 亚洲国产欧美日韩在线播放| 欧美精品一区二区免费开放| 久久精品久久久久久久性| 在线观看免费日韩欧美大片| 三级国产精品片| 亚洲精品,欧美精品| 建设人人有责人人尽责人人享有的| 亚洲av国产av综合av卡| 97人妻天天添夜夜摸| 美女大奶头黄色视频| 男人爽女人下面视频在线观看| 寂寞人妻少妇视频99o| 五月天丁香电影| 永久免费av网站大全| 五月天丁香电影| 国产成人精品久久二区二区91 | 18禁裸乳无遮挡动漫免费视频| 国产日韩欧美亚洲二区| 日韩一卡2卡3卡4卡2021年| 新久久久久国产一级毛片| 国产精品秋霞免费鲁丝片| 乱人伦中国视频| 极品人妻少妇av视频| 十八禁高潮呻吟视频| 性少妇av在线| 精品人妻一区二区三区麻豆| 亚洲av.av天堂| 国产精品麻豆人妻色哟哟久久| 亚洲国产欧美在线一区| 精品一区二区三卡| 日韩av免费高清视频| 午夜免费观看性视频| 日本猛色少妇xxxxx猛交久久| 午夜福利乱码中文字幕| 一级毛片电影观看| 赤兔流量卡办理| 成人漫画全彩无遮挡| 欧美激情 高清一区二区三区| 黑人欧美特级aaaaaa片| 欧美黄色片欧美黄色片| 色视频在线一区二区三区| 国产在线视频一区二区| 亚洲,一卡二卡三卡| 五月开心婷婷网| 嫩草影院入口| 国产av码专区亚洲av| www日本在线高清视频| 寂寞人妻少妇视频99o| 国产黄色视频一区二区在线观看| 视频在线观看一区二区三区| 国产精品一二三区在线看| 久久精品亚洲av国产电影网| 啦啦啦啦在线视频资源| 香蕉国产在线看| 女人被躁到高潮嗷嗷叫费观| 亚洲色图 男人天堂 中文字幕| 久久久久久人妻| 日韩大片免费观看网站| 久久久久久久亚洲中文字幕| 国产亚洲欧美精品永久| 午夜福利乱码中文字幕| 久久午夜综合久久蜜桃| 亚洲在久久综合| 毛片一级片免费看久久久久| 国产熟女欧美一区二区| 国产片特级美女逼逼视频| 日产精品乱码卡一卡2卡三| 婷婷成人精品国产| 人人妻人人澡人人看|