• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能算法個(gè)人信息利用刑法規(guī)制與個(gè)人信息安全刑法保護(hù)

    2022-04-23 12:45:42麥買提·烏斯曼,阿不都米吉提·吾買爾
    關(guān)鍵詞:刑法保護(hù)刑法規(guī)制個(gè)人信息

    麥買提·烏斯曼,阿不都米吉提·吾買爾

    摘要:在智能社會(huì),刑法對(duì)個(gè)人信息的保護(hù)是以個(gè)人信息權(quán)入法為基礎(chǔ),將信息的私權(quán)保障與利用作為基本原則,導(dǎo)致了人工智能算法個(gè)人信息利用刑法規(guī)制的錯(cuò)位和提前。當(dāng)人工智能利用個(gè)人信息進(jìn)行算法分析,一方面,信息主體擁有個(gè)人信息權(quán),另一方面,信息使用者也應(yīng)當(dāng)擁有信息用益權(quán)。個(gè)人信息的刑法保護(hù)必須從權(quán)利說出發(fā)并超越權(quán)利說,重新回到信息主體和信息使用者共同擁有個(gè)人信息安全法益的軌道。然而,刑法尚未明確規(guī)定個(gè)人信息安全法益,人工智能算法個(gè)人信息利用刑法規(guī)制與個(gè)人信息刑法保護(hù)應(yīng)考慮信息主體和信息使用者對(duì)個(gè)人信息各自擁有的利益,從場(chǎng)景化行為主義規(guī)制的進(jìn)路出發(fā),對(duì)人工智能算法個(gè)人信息進(jìn)行刑法保護(hù)和刑法規(guī)制。

    關(guān)鍵詞:人工智能;個(gè)人信息;刑法保護(hù);刑法規(guī)制

    中圖分類號(hào):D925.2;D923

    文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):1673-8268(2022)01-0048-13

    為了達(dá)到監(jiān)管和改造罪犯的目的,1785年,英國(guó)哲學(xué)家杰里米·邊沁設(shè)計(jì)并提出了新型監(jiān)獄——“圓形監(jiān)獄”。在這種圓形監(jiān)獄中,獄警處在中心望塔,犯人卻在中心望塔外圍環(huán)形建筑之中,警察能夠完全監(jiān)視犯人的一舉一動(dòng),犯人無(wú)隱私可言。雖然邊沁的此一監(jiān)獄設(shè)計(jì)未被當(dāng)時(shí)的英國(guó)政府所采納,但是并不能說邊沁的此種想法在現(xiàn)實(shí)社會(huì)就不能實(shí)現(xiàn)。因?yàn)?0世紀(jì)70年代,??略凇兑?guī)訓(xùn)與懲罰》中就提到“全景敞視主義”,認(rèn)為“圓形監(jiān)獄”理論應(yīng)該適用在整個(gè)當(dāng)代社會(huì)范圍之中[1]。隨著智能社會(huì)的到來,算法成為了驅(qū)動(dòng)人工智能的驅(qū)動(dòng)器[2],算法應(yīng)用早已無(wú)處不在。但是,正如英國(guó)科學(xué)家貝爾納所指出:“科學(xué)技術(shù)的發(fā)展本身既為我們揭開了改善人類生活的前景,也為我們開辟了毀滅人類的可能?!盵3]人們通過海量數(shù)據(jù)的智能算法分析,實(shí)現(xiàn)了海量數(shù)據(jù)的智能挖掘,得到了高效、便捷和經(jīng)濟(jì)的決策根據(jù)。與此同時(shí),人工智能算法的應(yīng)用也產(chǎn)生了一系列法律和社會(huì)治理問題。其中,人工智能算法個(gè)人信息利用與個(gè)人信息安全的保護(hù)問題最為典型。

    一、人工智能算法應(yīng)用表征:法益增長(zhǎng)與危機(jī)

    英國(guó)科學(xué)家霍金斷言:“人工智能也有可能是人類文明史的終結(jié),除非我們學(xué)會(huì)如何避免危險(xiǎn)?!盵4]自人工智能算法在我國(guó)使用以來,其憑借技術(shù)優(yōu)勢(shì)迅速搶占了用戶的注意力市場(chǎng),遠(yuǎn)遠(yuǎn)超過了人工算法,相繼在新聞?lì)I(lǐng)域、社交平臺(tái)、短視頻平臺(tái)中被廣泛運(yùn)用。但是,人工智能算法的應(yīng)用在為用戶提供便捷的同時(shí),也引發(fā)了人們對(duì)個(gè)人信息安全問題的大討論。因?yàn)槿斯ぶ悄芩惴ǖ膽?yīng)用使人“無(wú)往不在枷鎖之中”。例如,“今日頭條”向用戶推薦的新聞界面是根據(jù)用戶注冊(cè)時(shí)使用的姓名、手機(jī)號(hào)等基本信息和用戶點(diǎn)擊瀏覽的相關(guān)類新聞的次數(shù)、停留時(shí)間等數(shù)據(jù)推算出用戶的愛好后推薦的私人訂制式新聞界面。也就是說,人工智能算法的實(shí)質(zhì)是算法系統(tǒng)處理、利用用戶存在于網(wǎng)絡(luò)之中的個(gè)人信息。從這種意義上講,算法系統(tǒng)類似于一座圓形監(jiān)獄,算法作為中心望塔無(wú)時(shí)無(wú)刻不在讀取并挖掘著個(gè)人信息。用戶作為環(huán)形建筑中不斷被監(jiān)視下的犯人,面臨著“天下誰(shuí)人不識(shí)君”的尷尬場(chǎng)面,用戶個(gè)人信息權(quán)益遭受損害,用戶個(gè)人隱私也受到了極大的威脅。因此,有必要在理論上對(duì)人工智能算法個(gè)人信息利用刑法規(guī)制與個(gè)人信息安全的刑法保護(hù)進(jìn)行前瞻性的研究。

    (一)人工智能算法應(yīng)用的價(jià)值剖析與法益的增長(zhǎng)

    人類社會(huì)的發(fā)展在進(jìn)入21世紀(jì)之后呈現(xiàn)出了加速變革的態(tài)勢(shì),其表現(xiàn)就是人們?cè)趲缀鯖]有做好準(zhǔn)備之前就被迅速地推入智能社會(huì)。雖然智能社會(huì)借用“智能”來命名,但是,智能社會(huì)標(biāo)志性的先進(jìn)生產(chǎn)力是人工智能算法。那么,人工智能算法應(yīng)用的巨大價(jià)值是如何體現(xiàn)的呢?從本質(zhì)上講,人工智能算法是智能社會(huì)中的超級(jí)力量,是智能社會(huì)的驅(qū)動(dòng)器[2]。在智能社會(huì),信息和數(shù)據(jù)是最重要的資源[5]。但是,互聯(lián)網(wǎng)中海量的數(shù)據(jù)使有價(jià)值的信息變得極為分散,不能在有限的時(shí)間內(nèi)抓取用戶全面的數(shù)據(jù)。隨著人工智能算法的廣泛應(yīng)用,蘊(yùn)藏在網(wǎng)絡(luò)空間中的海量個(gè)人信息(瀏覽記錄、閱讀興趣、行為習(xí)慣、位置信息和消費(fèi)記錄等)像滾雪球般地急速增加,人工智能能夠在極短的時(shí)間內(nèi)通過算法統(tǒng)計(jì)挖掘分析信息,使數(shù)據(jù)成為了具有高度應(yīng)用價(jià)值和商業(yè)價(jià)值的“數(shù)據(jù)黃金”[6]。其中,人工智能的商業(yè)價(jià)值尤為凸顯。對(duì)商業(yè)環(huán)境的健康運(yùn)行而言,個(gè)人信息至關(guān)重要[7]。例如,網(wǎng)站為了擴(kuò)展自己的商業(yè)機(jī)會(huì),通過算法推薦技術(shù)分析網(wǎng)站用戶的個(gè)人消費(fèi)習(xí)慣數(shù)據(jù);網(wǎng)絡(luò)購(gòu)物網(wǎng)站通過算法對(duì)消費(fèi)者以往的消費(fèi)習(xí)慣進(jìn)行分析后推薦同類的商品,這已經(jīng)成為了各大購(gòu)物網(wǎng)站的促銷手段。再比如,在購(gòu)物網(wǎng)站瀏覽圖書或商品之后,緊接著登錄“今日頭條”等新聞平臺(tái)時(shí),平臺(tái)會(huì)自動(dòng)推薦之前瀏覽過的圖書或商品甚至相關(guān)或類似的書籍??梢园l(fā)現(xiàn),人工智能算法應(yīng)用已經(jīng)充分發(fā)揮了個(gè)人信息在我們?nèi)粘I钪械慕?jīng)濟(jì)價(jià)值和社會(huì)價(jià)值。鑒于此,人工智能算法不僅推動(dòng)了電子商務(wù)的變革,而且也轉(zhuǎn)變了商業(yè)運(yùn)營(yíng)模式甚至有學(xué)者斷言:“個(gè)人信息已經(jīng)成為現(xiàn)代商業(yè)和政府運(yùn)行的基礎(chǔ)動(dòng)力。”(參見Perri Six, Private Life and Public Policy, The Future o f Privacy,Vol.1, 1998,pp23)“在商業(yè)運(yùn)行中,個(gè)人信息已經(jīng)成為營(yíng)銷之目的而被廣泛使用?!保▍⒁姶鞫鳌ち_蘭德、伊麗莎白·麥克唐納德:《信息技術(shù)法》,武漢大學(xué)出版社2004年版,第298頁(yè)),個(gè)人信息的經(jīng)濟(jì)價(jià)值和商業(yè)價(jià)值急劇膨脹,引發(fā)了個(gè)人信息使用者財(cái)產(chǎn)性法益的擴(kuò)張。

    (二)人工智能算法應(yīng)用的危機(jī)與刑法關(guān)切

    人工智能算法的本質(zhì)是解決問題的數(shù)學(xué)過程[8]。人工智能算法獨(dú)特的運(yùn)行邏輯導(dǎo)致法律賴以存在和生存的社會(huì)場(chǎng)景發(fā)生變化[9],使人們?nèi)找姹粩?shù)據(jù)化和算法化[10],可能對(duì)個(gè)人權(quán)益甚至對(duì)公共安全法益帶來風(fēng)險(xiǎn)。尤其是人工智能算法的應(yīng)用提升了個(gè)人信息所具有的經(jīng)濟(jì)價(jià)值,使得針對(duì)個(gè)人信息的違法犯罪行為與日俱增。

    1.個(gè)人信息整合后的不當(dāng)利用造成隱私風(fēng)險(xiǎn)

    對(duì)于大多數(shù)用戶而言,人工智能算法如同一個(gè)“技術(shù)黑箱”[11],難以看清廬山真面目。根據(jù)2017年5月8日最高人民法院和最高人民檢察院聯(lián)合發(fā)布的《關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問題的解釋》(以下簡(jiǎn)稱《解釋》)第1條的規(guī)定《解釋》第1條規(guī)定:“刑法第二百五十三條之一規(guī)定的‘公民個(gè)人信息’,是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份或者反映特定自然人活動(dòng)情況的各種信息,包括姓名、身份證件號(hào)碼、通信通訊聯(lián)系方式、住址、賬號(hào)密碼、財(cái)產(chǎn)狀況、行蹤軌跡等?!?,公民個(gè)人信息是身份識(shí)別信息,身份識(shí)別的標(biāo)準(zhǔn)分為“單獨(dú)識(shí)別”與“結(jié)合識(shí)別”。對(duì)于人工智能算法而言,任何可數(shù)字化的事物,都是信息[12],即涉及個(gè)人的可數(shù)字化的分散單一信息或行為痕跡,經(jīng)過應(yīng)用人工智能算法就會(huì)形成具有指向性的身份識(shí)別信息,故通過應(yīng)用人工智能算法結(jié)合識(shí)別出來的個(gè)人信息就是信息性隱私根據(jù)我國(guó)民法學(xué)界通說,隱私大致可分為安寧性隱私和信息性隱私兩大類。安寧性隱私要求私人住宅不被侵犯、秘密活動(dòng)不被他人偷窺或監(jiān)控;信息性隱私則要求個(gè)人秘密不被他人隨意公開或?yàn)E用。(參見程嘯:《侵權(quán)責(zé)任法》,法律出版社2015年版,第168-173頁(yè))。這種整合形成的整合型信息性隱私已經(jīng)成為了隱私信息的常態(tài)現(xiàn)象[5]。例如,用戶在購(gòu)物平臺(tái)中所點(diǎn)擊、瀏覽或者購(gòu)買過的各類商品都會(huì)被人工智能記錄下來。雖然這些記錄簡(jiǎn)單粗糙,但是,人工智能通過算法來推算出用戶的興趣。因此,人工智能算法在此就會(huì)被看作用戶行為信息的收集器和分析器[13]??陀^而言,這些通過應(yīng)用人工智能算法整合后取得的信息,如果合理運(yùn)用可以帶來很多便利。例如,從用戶對(duì)算法新聞?wù)J可度的調(diào)查來看,約40%的參與者認(rèn)可人工智能算法應(yīng)用在新聞分發(fā)領(lǐng)域;42%的參與者認(rèn)為人工智能算法可以為用戶提供全新的閱讀習(xí)慣和信息獲取模式;約41%的參與者認(rèn)為人工智能算法節(jié)省了用戶大量時(shí)間[14]。

    智能社會(huì)多領(lǐng)域人工智能算法的創(chuàng)新應(yīng)用對(duì)個(gè)人信息性隱私構(gòu)成了嚴(yán)峻的沖擊。根據(jù)學(xué)者的研究可知,約67%的參與者認(rèn)為其隱私通過個(gè)人信息收集或?yàn)g覽記錄被披露并被他人利用[14]。人工智能在用戶不知曉的情況下對(duì)用戶信息進(jìn)行追蹤和密集收集,并對(duì)這些數(shù)據(jù)進(jìn)行算法分析,挖掘了用戶不愿為他人知曉的敏感信息,構(gòu)建出了用戶完整的人格圖像[15]。更為嚴(yán)重的是,用戶個(gè)人信息被許多企業(yè)二次或多次利用獲取了一定的經(jīng)濟(jì)價(jià)值,例如廣告投放等。傳統(tǒng)個(gè)人信息保護(hù)架構(gòu)其機(jī)制建構(gòu)在“知情同意”(notice-and-consent framework)架構(gòu)的基礎(chǔ)上,其立法模式通常是“強(qiáng)同意”。但是,正如學(xué)者所言,“隱私聲明遠(yuǎn)非為人類使用而設(shè)計(jì)”[16]。用戶對(duì)信息獲取者提供的冗長(zhǎng)隱私聲明僅僅是一瞥而過并點(diǎn)擊“同意”,使隱私聲明淪為一紙空文相關(guān)研究表明,用戶僅閱讀一年中使用的網(wǎng)絡(luò)服務(wù)的隱私聲明就要花費(fèi)244小時(shí)的時(shí)間。(參見范為:《大數(shù)據(jù)時(shí)代個(gè)人信息保護(hù)的路徑重構(gòu)》,《環(huán)球法律評(píng)論》2016年第5期,第93頁(yè))。與此同時(shí),“知情同意”架構(gòu)在司法實(shí)踐中也表現(xiàn)出了鮮明的弱化傾向。例如,在“百度公司與朱某隱私侵權(quán)糾紛案”中,法院根據(jù)“場(chǎng)景和風(fēng)險(xiǎn)導(dǎo)向”模式認(rèn)為,網(wǎng)絡(luò)服務(wù)提供者通過算法向用戶提供的個(gè)性化推薦服務(wù),并未是個(gè)人信息直接向第三方或公眾展示或公開,不符合侵害個(gè)人信息隱私的行為??梢姡朔N現(xiàn)實(shí)和司法實(shí)踐使得數(shù)據(jù)獲得使用者逃脫了傳統(tǒng)“知情同意”架構(gòu)[17]。然而,這種告知義務(wù)和同意形式的放寬本身就存在個(gè)人信息被濫用的風(fēng)險(xiǎn)。

    2.信息主體的控制力減弱

    人工智能算法應(yīng)用使個(gè)人信息作為基礎(chǔ)性的生產(chǎn)資料,個(gè)人信息日益成為了企業(yè)提升競(jìng)爭(zhēng)力的核心。人工智能在收集個(gè)人信息,通過算法使個(gè)人信息成為價(jià)值創(chuàng)造的源泉的同時(shí),也重構(gòu)了向去中心化方向發(fā)展的個(gè)人信息生態(tài)系統(tǒng)(personal data ecosystem)[18]。與此同時(shí),在人工智能算法中,算法定義的對(duì)象逐漸變成被數(shù)據(jù)化和計(jì)算化的個(gè)人,客體個(gè)人可以被計(jì)算、被預(yù)測(cè)和被控制[19]。這種技術(shù)的異化導(dǎo)致的最終結(jié)果就是個(gè)人對(duì)自身信息的控制能力日益削弱,人與人之間的信任逐漸轉(zhuǎn)向?qū)C(jī)器和算法的信任[20]。

    二、問題的提出:個(gè)人信息利用與刑法保護(hù)再平衡

    人工智能算法是智能社會(huì)及其法律秩序的核心[2]。在智能社會(huì),整個(gè)社會(huì)對(duì)人工智能算法的應(yīng)用依賴和應(yīng)用需求不斷在增強(qiáng),人工智能算法利用個(gè)人信息在不斷增進(jìn)個(gè)人和社會(huì)福祉的同時(shí),也可能引起信息主體的權(quán)益受到威脅和侵害。由此,個(gè)人乃至整個(gè)社會(huì)都催生了個(gè)人信息保護(hù)的需要。但是,人工智能算法在利用個(gè)人信息時(shí)卻又增加了信息使用者的利益,即增加了信息使用者合法、合理和安全使用個(gè)人信息的法益。面對(duì)彼此沖突化的個(gè)人信息生產(chǎn)者和信息使用者本文中的信息生產(chǎn)者是信息主體,信息使用者是信息企業(yè)。的利益,刑法必須在無(wú)限需求和有限資源之間尋求平衡的最佳機(jī)制,實(shí)現(xiàn)不同利益上下位階的合理安排[7],而目前我國(guó)刑法尚未完成此種合理安排。

    (一)信息私權(quán)化使人工智能算法個(gè)人信息利用刑法規(guī)制錯(cuò)位

    人們已經(jīng)從互聯(lián)網(wǎng)、大數(shù)據(jù)時(shí)代進(jìn)入到了智能時(shí)代。在智能時(shí)代,信息的開發(fā)和利用在很大程度上依賴于信息的共享,而信息使用者盈利的主要模式也是信息的共享。所以,智能時(shí)代信息采集和共享的方式在發(fā)生日新月異的變化。在智能時(shí)代,應(yīng)用人工智能算法最大限度地獲取了個(gè)人信息,既節(jié)省了成本,又創(chuàng)造了更大的社會(huì)效益,成為信息共享利用的一種重要方式。但是,現(xiàn)階段信息刑法立法是以信息權(quán)入法為基礎(chǔ),將信息的私權(quán)保障與利用作為基本原則,輕信息使用者的利益、重信息主體的保護(hù)。所以,如不對(duì)個(gè)人信息私權(quán)化進(jìn)行調(diào)整,除了抹殺信息的共享之外,更為嚴(yán)重的是會(huì)扼殺人工智能算法技術(shù)的繼續(xù)發(fā)展,不利于合作、共享、繁榮社會(huì)的構(gòu)建。

    法律是時(shí)代的產(chǎn)物[21]。隨著信息技術(shù)的發(fā)展,刑法作為“后置法”也開始回應(yīng)信息和隱私威脅的持續(xù)蔓延[22]。我國(guó)以《刑法修正案(七)》《刑法修正案(九)》和《解釋》為標(biāo)志,正式設(shè)立了“侵犯公民個(gè)人信息罪”并擴(kuò)大了犯罪主體和侵犯行為的范圍,初步建立了個(gè)人信息的刑法保護(hù)體系。由此可知,目前我國(guó)刑事立法對(duì)大數(shù)據(jù)(信息)保護(hù)等方面的表現(xiàn)就是犯罪化[23]。除此之外,侵犯公民個(gè)人信息罪的法條設(shè)置屬于典型的空白罪狀立法模式,為了確保統(tǒng)一法秩序下公民個(gè)人信息的有效保護(hù),法條中“個(gè)人信息”的認(rèn)定無(wú)疑應(yīng)以《民法典》在內(nèi)的前置法為基礎(chǔ)[24]。然而,一方面,我國(guó)《民法典》總則第五章第111條規(guī)定,“自然人的個(gè)人信息受法律保護(hù)”;另一方面,第四編人格權(quán)第六章第1034條至第1039條則對(duì)個(gè)人信息保護(hù)做了詳細(xì)的規(guī)定。所以,在民法領(lǐng)域出現(xiàn)了個(gè)人信息是隱私權(quán)還是新型個(gè)人信息權(quán)之爭(zhēng)。而我國(guó)民事司法實(shí)踐則更傾向于在隱私權(quán)的框架內(nèi)對(duì)公民個(gè)人信息的保護(hù)參見北京市第三中級(jí)人民法院(2016)京03民終9992號(hào)民事判決書;北京市第一中級(jí)人民法院(2017)京01民終509號(hào)民事判決書;廣西壯族自治區(qū)百色市人民法院(2015)百中民一終字第1199號(hào)民事判決書。。但是,隨著個(gè)人信息內(nèi)容的不斷擴(kuò)充,“隱私性”不再是個(gè)人信息的構(gòu)成要素2016年11月7日發(fā)布的《網(wǎng)絡(luò)安全法》對(duì)個(gè)人信息的定義刪除了“隱私信息”的描述,不再區(qū)分“能夠識(shí)別公民個(gè)人身份”的信息與“涉及公民個(gè)人隱私”的信息,統(tǒng)稱為“能夠識(shí)別公民個(gè)人身份”的信息。(參見商希雪:《個(gè)人信息隱私利益與自決權(quán)益的權(quán)利實(shí)現(xiàn)路徑》,《法律科學(xué)》2020年第3期,第72頁(yè))。與此同時(shí),除了《民法典》明確并列規(guī)定個(gè)人信息保護(hù)和隱私權(quán)保護(hù)[25]之外,在網(wǎng)絡(luò)信息技術(shù)迅猛發(fā)展之下,個(gè)人信息財(cái)產(chǎn)利益的保護(hù)需求也愈發(fā)強(qiáng)烈[17]。所以,個(gè)人信息權(quán)益在性質(zhì)上屬于一種集人格利益與財(cái)產(chǎn)利益于一體的綜合性權(quán)利[26],即個(gè)人信息權(quán)。個(gè)人信息權(quán)起源于德國(guó),作為不同類型和性質(zhì)[27]的新型權(quán)利本文中的新型權(quán)利和新興權(quán)利是同一概念。,個(gè)人信息權(quán)是指“個(gè)人依照法律控制自己的個(gè)人信息并決定是否收集和利用的權(quán)利”[28]。根據(jù)當(dāng)今民法通說觀點(diǎn),“權(quán)利就是為了滿足個(gè)人利益,由法律規(guī)范授予人的意思力”[29]。所以,個(gè)人信息權(quán)的基礎(chǔ)是個(gè)人的自決權(quán),權(quán)利人同意他人收集、利用都是權(quán)利人控制權(quán)的具體表現(xiàn)[30],其本身體現(xiàn)的就是一種私益[28]。所以,為了保護(hù)個(gè)人自身信息利益而產(chǎn)生的權(quán)利是個(gè)人信息權(quán),由當(dāng)事人決定個(gè)人信息權(quán)的行使和利用,其是當(dāng)事人的一項(xiàng)私法權(quán)利[31],即絕對(duì)控制權(quán)。

    侵犯公民個(gè)人信息罪中,“個(gè)人信息”所包括的內(nèi)容成為侵犯公民個(gè)人信息罪的構(gòu)成要件之一,所以,民法中對(duì)“個(gè)人信息”權(quán)利的私權(quán)性認(rèn)定則成為侵犯公民個(gè)人信息罪的違法性根據(jù)[32]。這也決定了侵犯公民個(gè)人信息罪是法定犯[33]。對(duì)于法定犯而言,要確定行為違法性的前提是確定行為人是否實(shí)施了違反前置法的行為[34]。根據(jù)民法關(guān)于個(gè)人信息控制權(quán)屬性的認(rèn)定,個(gè)人信息權(quán)與物權(quán)一樣屬于民法中的絕對(duì)權(quán)[28],信息使用者在收集、利用個(gè)人信息時(shí)必須盡到最大的注意義務(wù)[34]。鑒于此,為了明確“個(gè)人信息”所包含的內(nèi)容,使信息收集、利用者能夠更好地履行注意義務(wù),刑法在不斷擴(kuò)大“個(gè)人信息”的范圍。根據(jù)《刑法》第253條“違反國(guó)家有關(guān)規(guī)定”此表述,該條文的前置法并不僅僅局限于民法,作為行政法的《網(wǎng)絡(luò)安全法》可以是另一個(gè)前置法。我國(guó)2017年頒布實(shí)施的《網(wǎng)絡(luò)安全法》第76條規(guī)定了個(gè)人信息的范圍《網(wǎng)絡(luò)安全法》第76條第5款規(guī)定:“個(gè)人信息,是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別自然人個(gè)人身份的各種信息,包括但不限于自然人的姓名、出生日期、身份證件號(hào)碼、個(gè)人生物識(shí)別信息、住址、電話號(hào)碼等?!惫駛€(gè)人信息,是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份或者反映特定自然人活動(dòng)情況的各種信息,包括姓名、身份證件號(hào)碼、通信通訊聯(lián)系方式、住址、賬號(hào)密碼、財(cái)產(chǎn)狀況、行蹤軌跡等。。與此同時(shí),《解釋》第1條也明確規(guī)定了個(gè)人信息的范圍。但是,個(gè)人信息的范圍大于《網(wǎng)絡(luò)安全法》的規(guī)定,即增加了“賬號(hào)密碼、財(cái)產(chǎn)狀況、行蹤軌跡等”。然而,刑法中的個(gè)人信息概念與《網(wǎng)絡(luò)安全法》規(guī)定的不一致的現(xiàn)象,已經(jīng)違背了法定犯的立法初衷[33]。所以,如果刑法在保護(hù)個(gè)人信息中完全以個(gè)人信息主體對(duì)信息的私權(quán)保護(hù)為原則,則極有可能造成對(duì)人工智能算法行為處罰范圍的擴(kuò)大就《刑法》適用而言,辦理侵犯公民個(gè)人信息刑事案件,特別是對(duì)相關(guān)獲取、提供公民個(gè)人信息行為定性時(shí),要對(duì)標(biāo)《民法典》的相關(guān)規(guī)定,堅(jiān)決防止將符合《民法典》規(guī)定的行為認(rèn)定為“違反國(guó)家有關(guān)規(guī)定”,甚至按照犯罪處罰。,導(dǎo)致應(yīng)用人工智能算法只要分析個(gè)人任何一類信息就有可能構(gòu)成犯罪,此為刑法規(guī)制的錯(cuò)位。如果此種趨勢(shì)繼續(xù)發(fā)展,則必然導(dǎo)致個(gè)人信息的共享利用會(huì)遇到根本上的難題首先,信息越關(guān)聯(lián)越有價(jià)值,但是,“個(gè)人信息”內(nèi)容的擴(kuò)大不利于破解地域性、狹隘性、封閉式的運(yùn)營(yíng)模式;其次,信息不能被獨(dú)占,不能有絕對(duì)排他性狀態(tài)存在,如果“個(gè)人信息”內(nèi)容不斷擴(kuò)大,則必然導(dǎo)致信息領(lǐng)域新型“公地悲劇”的出現(xiàn)。(參見任穎:《數(shù)據(jù)立法轉(zhuǎn)向:從數(shù)據(jù)權(quán)利入法到數(shù)據(jù)法益保護(hù)》,《政治與法律》2020年第6期,第136頁(yè))。

    (二)信息私權(quán)化使人工智能算法個(gè)人信息利用刑法規(guī)制提前

    如前所述,在信息已經(jīng)成為“黃金”的時(shí)代,人工智能算法將從以能源、資本為核心的工業(yè)時(shí)代的經(jīng)濟(jì)發(fā)展模式轉(zhuǎn)變?yōu)橐跃W(wǎng)絡(luò)信息為核心的經(jīng)濟(jì)發(fā)展模式,其正在成為一種創(chuàng)造財(cái)富的手段。特別是信息使用者(數(shù)據(jù)控制者)信息控制者又稱為數(shù)據(jù)控制者,數(shù)據(jù)控制者來源于歐洲委員會(huì)的《個(gè)人數(shù)據(jù)自動(dòng)化處理中的個(gè)人保護(hù)公約》,其使用“檔案控制人”,之后的《個(gè)人數(shù)據(jù)保護(hù)令》《通用數(shù)據(jù)保護(hù)條例》都采用了數(shù)據(jù)控制人,用來涵蓋所有可以決定數(shù)據(jù)處理或使用目的的主體,并非實(shí)際控制個(gè)人數(shù)據(jù)者。因此,信息使用者和數(shù)據(jù)控制者可以互換使用。通過人工智能算法增長(zhǎng)著自己對(duì)數(shù)據(jù)的財(cái)產(chǎn)權(quán)益數(shù)據(jù)經(jīng)濟(jì)是一種雙向動(dòng)態(tài)結(jié)構(gòu),且在生產(chǎn)重要經(jīng)濟(jì)價(jià)值的數(shù)據(jù)收集、存儲(chǔ)、加工、利用等環(huán)節(jié)中,用戶授權(quán)或協(xié)議同意數(shù)據(jù)經(jīng)營(yíng)者進(jìn)行數(shù)據(jù)采集,數(shù)據(jù)經(jīng)營(yíng)者則通過開展集合加工等活動(dòng)實(shí)現(xiàn)數(shù)據(jù)的資產(chǎn)化。(參見劉新宇:《大數(shù)據(jù)時(shí)代數(shù)據(jù)權(quán)屬分析及其體系構(gòu)建》,《上海大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2019年第6期,第20頁(yè))。然而,《刑法》第253條“侵犯公民個(gè)人信息罪”的空白罪狀特征,使得民法領(lǐng)域?qū)€(gè)人信息作為一種新型權(quán)利即個(gè)人信息權(quán)的認(rèn)定影響到了刑法對(duì)個(gè)人信息的保護(hù),其結(jié)果就是除了擴(kuò)大侵犯對(duì)象“個(gè)人信息”所包含的內(nèi)容之外,更為重要的是又導(dǎo)致侵犯公民個(gè)人信息罪客觀構(gòu)成要件行為的擴(kuò)大化。

    根據(jù)我國(guó)《刑法》第253條第1款的規(guī)定,侵犯公民個(gè)人信息罪的客觀構(gòu)成要件是“違反國(guó)家有關(guān)規(guī)定,向他人出售或者提供公民個(gè)人信息”。民法作為前置法,個(gè)人信息權(quán)在民法領(lǐng)域不斷被承認(rèn)導(dǎo)致我國(guó)《刑法》對(duì)個(gè)人信息的保護(hù)從以轉(zhuǎn)移型侵害為核心的刑法規(guī)制思路當(dāng)前,個(gè)人信息專門刑法規(guī)定只對(duì)非法提供(出售)、獲取、泄露個(gè)人信息的轉(zhuǎn)移信息型行為處以刑事責(zé)任。擴(kuò)大到包括信息濫用在內(nèi)的行為的刑法規(guī)制上。尤其是我國(guó)《刑法》對(duì)“合法取得,不當(dāng)濫用”個(gè)人信息行為尚未作明確規(guī)定,難以通過刑法規(guī)制加以有效防范,導(dǎo)致刑法的嚴(yán)重失靈。所以,《解釋》第3條就規(guī)定:“未經(jīng)被收集者同意,將合法收集的公民個(gè)人信息向他人提供的,屬于刑法253條之一規(guī)定的‘提供公民個(gè)人信息’?!钡牵督忉尅窡o(wú)法適應(yīng)數(shù)據(jù)流動(dòng)和利用的巨大市場(chǎng)需求,除了抬高個(gè)人信息使用的門檻之外,還加速了侵犯公民個(gè)人信息罪的成立,即只要信息使用者(數(shù)據(jù)控制者)未經(jīng)信息主體同意而使用他人信息,就能認(rèn)定信息主體的信息自決權(quán)受到侵犯,信息使用者(數(shù)據(jù)控制者)的行為構(gòu)成侵犯?jìng)€(gè)人信息罪。進(jìn)一步說,“同意規(guī)則”一般化的法律效果就是個(gè)人信息被刑法所保護(hù),其目的就是防范因個(gè)人信息被濫用而可能產(chǎn)生的抽象危險(xiǎn),因?yàn)榍址競(jìng)€(gè)人信息的行為具有造成個(gè)人隱私權(quán)受侵害、名譽(yù)受損或財(cái)產(chǎn)損失的潛在危險(xiǎn)性。可以說,在刑法犯罪構(gòu)成要件中規(guī)定行為與結(jié)果之間具有典型的危險(xiǎn)關(guān)系,不考察行為是否實(shí)際侵犯了法益或制造了法益侵害

    危險(xiǎn)的犯罪就是抽象危險(xiǎn)犯。所以,侵犯?jìng)€(gè)人信息罪是一種抽象危險(xiǎn)犯。在刑法學(xué)界,刑法為什么規(guī)定抽象危險(xiǎn)犯?筆者認(rèn)為,除了體系內(nèi)因素,即“抽象危險(xiǎn)犯是對(duì)法益保護(hù)的前置化措施”[35]之外,還有一個(gè)體系外因素,就是現(xiàn)代性風(fēng)險(xiǎn)控制邏輯與抽象危險(xiǎn)犯理論結(jié)構(gòu)相互暗合。具體到信息時(shí)代,網(wǎng)絡(luò)技術(shù)的發(fā)展使得個(gè)人信息生態(tài)系統(tǒng)朝著去中心化方向發(fā)展,個(gè)人信息主體除了與服務(wù)提供者之間產(chǎn)生直接的聯(lián)系之外,還要面對(duì)信息間接使用者和信息后續(xù)利用者對(duì)信息的使用。因此,信息主體對(duì)個(gè)人信息的控制能力日益削弱。更為嚴(yán)重的是,隨著人工智能算法技術(shù)的出現(xiàn),信息使用者(數(shù)據(jù)控制者)通過算法更容易獲得他人不愿讓人知曉的明暗信息,為個(gè)人帶來了不安、困擾,乃至造成財(cái)產(chǎn)損失。所以,為了讓個(gè)人能更好地控制自身個(gè)人信息,在積極的個(gè)人信息支配權(quán)的影響下,刑法秉承了大數(shù)據(jù)時(shí)代個(gè)人信息利用的嚴(yán)格控制,并制定了相關(guān)規(guī)定。但是,這些規(guī)定在信息主體利益保護(hù)方面具有嚴(yán)重的規(guī)制超前性《解釋》意在強(qiáng)調(diào),侵犯公民個(gè)人信息罪不是針對(duì)結(jié)果,而是對(duì)行為人進(jìn)行非難,只要求行為人明知自己提供或購(gòu)買個(gè)人信息就構(gòu)成犯罪。,其極容易忽視數(shù)據(jù)使用者(數(shù)據(jù)控制者)的合法利益。

    三、新型法益的證成:人工智能算法個(gè)人信息利用與個(gè)人信息刑法保護(hù)之法益

    侵犯公民個(gè)人信息罪作為刑法分則侵犯公民人身權(quán)利、民主權(quán)利罪中的具體罪名,其侵犯的是公民最基本、最重要的個(gè)人專屬權(quán)利。就目前來講,在新型權(quán)利——個(gè)人信息權(quán)的影響下,刑法對(duì)信息主體賦予了權(quán)利,對(duì)信息使用者(數(shù)據(jù)控制者)則增加了義務(wù)。但是,這種脫胎于隱私保護(hù)、以個(gè)人自決為核心的個(gè)人信息權(quán),其強(qiáng)調(diào)個(gè)人對(duì)自身信息的控制美國(guó)學(xué)者認(rèn)為,隱私必須被重新界定為“個(gè)人、群體或機(jī)構(gòu)對(duì)自身信息在何時(shí)、何地以及在什么程度與他人溝通的主張,導(dǎo)致個(gè)人對(duì)自身信息控制的獨(dú)立意義”。(參見Alan Westin,Privacy and Freedom,Atheneum Press,1967,pp7)德國(guó)理論界認(rèn)為,通過“小普查案”和“人口普查案”等案例,德國(guó)已經(jīng)確立了個(gè)人信息自決權(quán)。(參見彭禮堂、饒傳平:《網(wǎng)絡(luò)隱私權(quán)的屬性:從傳統(tǒng)人格權(quán)到資訊自決權(quán)》,《法學(xué)評(píng)論》2006年第1期,第60頁(yè)),在理論上有一定的缺陷。

    首先,個(gè)人信息權(quán)不具有周延性。從個(gè)人信息權(quán)在西方提出的社會(huì)背景和立法軌跡來看,電子計(jì)算機(jī)出現(xiàn)并廣泛應(yīng)用是個(gè)人信息權(quán)出現(xiàn)的前提,即個(gè)人信息權(quán)是電子計(jì)算機(jī)技術(shù)的產(chǎn)物。所以,個(gè)人信息權(quán)僅僅適用于電子網(wǎng)絡(luò)環(huán)境下的個(gè)人信息的控制,并不能適用于日常生活和傳統(tǒng)媒體的信息控制,也不能成為一種普遍適用的權(quán)利。

    其次,在以個(gè)人信息權(quán)為基礎(chǔ)的個(gè)人信息保護(hù)規(guī)則中,并不能找到個(gè)人信息為個(gè)人所獨(dú)占《通用數(shù)據(jù)保護(hù)條例》第1條第2款明確規(guī)定:“本條例保護(hù)自然人的基本權(quán)利和自由,特別是保護(hù)自然人享有的個(gè)人數(shù)據(jù)保護(hù)的權(quán)利?!痹摋l文明確表明了個(gè)人享有個(gè)人數(shù)據(jù)而非獨(dú)占。,并能排除他人合理使用、分享和流通的相關(guān)規(guī)則。立法確立個(gè)人信息權(quán)的目的似乎更多傾向于有效阻止個(gè)人信息被非法濫用。

    最后,個(gè)人信息權(quán)忽視了大量個(gè)人信息已經(jīng)被他人分享的現(xiàn)實(shí),無(wú)法保證信息使用者(數(shù)據(jù)控制者)的利益。在智能社會(huì),個(gè)人信息使用者(數(shù)據(jù)控制者)利用算法對(duì)個(gè)人信息進(jìn)行分析,從而生產(chǎn)出更受大眾歡迎的產(chǎn)品,如果個(gè)人信息再依“權(quán)利說”成為信息主體的“專屬品”,則不能刺激個(gè)人信息使用者(數(shù)據(jù)控制者)保護(hù)個(gè)人信息安全的積極性,不利于個(gè)人信息使用者(數(shù)據(jù)控制者)利益的保護(hù)。

    法律是為保護(hù)利益而生,法所保護(hù)的利益即為法益,在立法中,保護(hù)利益的手段之一是創(chuàng)設(shè)權(quán)利。所以,有些學(xué)者指出,現(xiàn)今新型權(quán)利的研究“僅僅將重心放在外在經(jīng)驗(yàn)的生活化描述上”[36],少有本質(zhì)的探討。具體到人工智能算法技術(shù)下個(gè)人信息的刑法保護(hù),其本質(zhì)是共同保護(hù)信息主體和信息使用者(數(shù)據(jù)控制者)的利益,所以,必須從權(quán)利說出發(fā)并超越權(quán)利說,即從作為權(quán)利上位概念的法益[37]角度來平衡人工智能算法個(gè)人信息利用與個(gè)人信息刑法保護(hù)之間的利益沖突。

    (一)信息用益權(quán)是人工智能算法信息使用者利益的基礎(chǔ)

    在物理世界,個(gè)人特征與特定主體不可分離,即個(gè)人特征必須依附著某個(gè)特定主體。但是,在互聯(lián)網(wǎng)時(shí)代,個(gè)人特征的表現(xiàn)形式則轉(zhuǎn)換成為數(shù)據(jù)并廣泛存在于網(wǎng)絡(luò)世界中[38]。當(dāng)下,隨著互聯(lián)網(wǎng)和新一代信息技術(shù)的發(fā)展,人類又進(jìn)入了網(wǎng)絡(luò)信息時(shí)代,數(shù)據(jù)已經(jīng)成為創(chuàng)造和捕獲價(jià)值的新經(jīng)濟(jì)資源,成為財(cái)產(chǎn)權(quán)的客體。例如,我國(guó)《民法典》第127條明確規(guī)定:“法律對(duì)數(shù)據(jù)、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)的保護(hù)有規(guī)定的,依照其規(guī)定?!钡牵覈?guó)《民法典》對(duì)數(shù)據(jù)和個(gè)人信息做了明確的區(qū)分,即上述表明個(gè)人特征的數(shù)據(jù)在《民法典》第四編人格權(quán)中稱為個(gè)人信息,并通過第1034條至第1039條對(duì)個(gè)人信息權(quán)進(jìn)行了較為詳盡的保護(hù)。所以,在我國(guó)《民法典》中,表述個(gè)人特征的個(gè)人數(shù)據(jù)被稱為個(gè)人信息,這與其他類型的數(shù)據(jù)是相互區(qū)分的,具有不同的權(quán)利屬性。當(dāng)下,民法作為前置法深深地影響著刑法,特別是對(duì)我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”的影響尤為深刻。民法中數(shù)據(jù)與個(gè)人信息兩者權(quán)利屬性的不同認(rèn)定,在《刑法》第253條之一“侵犯公民個(gè)人信息罪”中出現(xiàn)了單一賦權(quán)思維模式,即侵犯公民個(gè)人信息罪僅保護(hù)人格權(quán)下信息主體的個(gè)人信息權(quán),并造成了信息主體與信息使用者之間利益的失衡。為此,刑法必須調(diào)整思路,重新構(gòu)建個(gè)人信息權(quán)利體系,以便信息使用者利益的有效保護(hù)。

    刑法在保護(hù)個(gè)人信息時(shí)出現(xiàn)信息使用者和信息主體利益的失衡,其問題的根本在于對(duì)個(gè)人信息屬性的認(rèn)定。根據(jù)我國(guó)《民法典》的規(guī)定,無(wú)論是隱私權(quán)還是新型個(gè)人信息權(quán),都屬于人格權(quán)下的權(quán)利我國(guó)《民法典》中個(gè)人信息的保護(hù)條款體現(xiàn)在第四編人格權(quán)編中。,所以,其不具有財(cái)產(chǎn)權(quán)屬性。其中,隱私權(quán)倡導(dǎo)者認(rèn)為,對(duì)任何數(shù)據(jù)的控制都會(huì)對(duì)個(gè)人信息控制造成風(fēng)險(xiǎn),如果信息使用者通過財(cái)產(chǎn)權(quán)來控制個(gè)人數(shù)據(jù),則不可能保護(hù)隱私權(quán)。此種推理的結(jié)果就是個(gè)人數(shù)據(jù)等于個(gè)人信息[39]。但是,筆者認(rèn)為,個(gè)人信息并不等同于個(gè)人數(shù)據(jù),因?yàn)椋阂皇菙?shù)據(jù)是人類發(fā)明的一種符號(hào),而信息是人對(duì)這種符號(hào)的認(rèn)識(shí),具有一定的主觀性,信息是經(jīng)過加工處理后的數(shù)據(jù)[40]。除此之外,在互聯(lián)網(wǎng)信息時(shí)代,許多單個(gè)零星的個(gè)人數(shù)據(jù)并不必然是個(gè)人信息。尤其是通過人工智能算法應(yīng)用取得的相關(guān)個(gè)人信息更不是簡(jiǎn)單的個(gè)人數(shù)據(jù)。如果把侵犯公民個(gè)人信息罪中的個(gè)人信息簡(jiǎn)單等同于個(gè)人數(shù)據(jù),那么,不屬于個(gè)人信息的個(gè)人數(shù)據(jù)就不能被納入到保護(hù)范圍中。二是通過人工智能算法應(yīng)用取得的個(gè)人信息。根據(jù)洛克所倡導(dǎo)的勞動(dòng)論,利用人工智能算法的信息使用者在對(duì)個(gè)人數(shù)據(jù)進(jìn)行分析的過程中付出了勞動(dòng),享有勞動(dòng)產(chǎn)品的財(cái)產(chǎn)權(quán)。有鑒于此,個(gè)人信息的實(shí)際控制者是信息使用者,那么,在人工智能技術(shù)下,信息使用者對(duì)個(gè)人信息的實(shí)際控制其權(quán)利屬性是什么?筆者認(rèn)為,在網(wǎng)絡(luò)信息時(shí)代,大多數(shù)信息使用者通過授權(quán)協(xié)議取得相關(guān)個(gè)人數(shù)據(jù)并通過人工智能算法分析出所需要的個(gè)人信息。所以,信息使用者除了具有使用該信息的權(quán)利,還擁有通過信息獲益的權(quán)利。此種具有利用和收益兩種權(quán)能的權(quán)利就是一種用益權(quán)[41]。

    用益權(quán)制度發(fā)端于羅馬法,并對(duì)后世民法典產(chǎn)生了重大影響。在大陸法系的傳統(tǒng)意義上,用益權(quán)屬于人役權(quán)的范疇,是為了特定人的利益而設(shè)立。所以,對(duì)權(quán)利主體、權(quán)利行使等方面作了較大的限制,其體現(xiàn)在“人役權(quán)不可轉(zhuǎn)移原則”上。但是,網(wǎng)絡(luò)信息時(shí)代,特別是當(dāng)下與數(shù)字經(jīng)濟(jì)相結(jié)合的網(wǎng)絡(luò)信息時(shí)代,作為信息所有人的信息主體只能支配著作為信息基礎(chǔ)的數(shù)據(jù),尚不發(fā)生網(wǎng)絡(luò)信息時(shí)代意義上的信息的利用和收益問題。所以,為促進(jìn)信息權(quán)益的暢通流轉(zhuǎn)并確保各方的交易安全,構(gòu)建信息用益權(quán)制度尤為重要。與此同時(shí),信息用益權(quán)顯然不能等同于我國(guó)立法上的“用益物權(quán)”。信息用益權(quán)是圍繞著信息管理和利用所形成的一種兼容性財(cái)產(chǎn)權(quán)[39]。信息用益權(quán)的出現(xiàn)并不違反物權(quán)法定原則。根據(jù)《民法典》第三分編用益物權(quán)第323條的規(guī)定,對(duì)“他人所有的不動(dòng)產(chǎn)或者動(dòng)產(chǎn)都可以設(shè)定占有、使用和收益的權(quán)利”。所以,對(duì)他人個(gè)人數(shù)據(jù)權(quán)可以設(shè)定信息使用者對(duì)信息使用和收益的用益權(quán)。有鑒于此,在民法領(lǐng)域應(yīng)該確認(rèn)信息使用者所擁有的信息用益權(quán),其中,個(gè)人信息權(quán)屬于作為信息來源的信息主體,而用益權(quán)則屬于信息使用者。只有民法中信息用益權(quán)的確立,才能使刑法中形成個(gè)人信息保護(hù)的“個(gè)人信息權(quán)+用益權(quán)”的兩權(quán)分立模式。當(dāng)信息使用者對(duì)信息具有控制、開發(fā)、許可和轉(zhuǎn)讓等用益權(quán)時(shí),刑法才能保護(hù)信息使用者的合法權(quán)益,侵犯公民個(gè)人信息罪才能在保護(hù)信息使用者和信息主體利益方面達(dá)到平衡。

    (二)個(gè)人信息安全是侵犯公民個(gè)人信息罪中保護(hù)的法益

    隨著信息用益權(quán)的提出而形成的對(duì)個(gè)人信息保護(hù)的“個(gè)人信息權(quán)+用益權(quán)”的兩權(quán)分立模式,使得刑法在侵犯公民個(gè)人信息罪中所要保護(hù)的不僅僅是信息主體的利益,而且也應(yīng)該包括合法擁有公民個(gè)人信息的信息使用者(數(shù)據(jù)控制者)的利益。而要達(dá)到這一目的,就必須對(duì)刑法中公民個(gè)人信息罪保護(hù)的法益進(jìn)行重新定義,以使其能夠促成個(gè)人信息刑法保護(hù)體系的形成。

    1.刑法應(yīng)從局部特殊保護(hù)到整體同等保護(hù)

    德國(guó)憲法法院的相關(guān)判決指出,為了實(shí)現(xiàn)國(guó)家賦予的保護(hù)責(zé)任,立法者有義務(wù)動(dòng)用刑法手段來保護(hù)人民共同有效的生活。但是,立法者動(dòng)用刑罰必須具有憲法上的正當(dāng)性,即當(dāng)刑法是共同生活保護(hù)的最后手段時(shí)才能允許動(dòng)用刑罰[42]。這明確確立并形成了刑法與其他部門法之間的規(guī)范分工和結(jié)構(gòu)安排,即在憲法價(jià)值秩序的指引下,刑法之外的前置法確立了法律保護(hù)的生活利益即法益,所以,前置法應(yīng)作為調(diào)整性規(guī)范調(diào)整性規(guī)范以法律權(quán)利和義務(wù)的設(shè)定為內(nèi)容,以假定和處理為形式。。而刑法包含著責(zé)任和制裁形式,對(duì)調(diào)整性規(guī)范確立的法益給予了保護(hù),所以,刑法應(yīng)該具有保護(hù)性規(guī)范保護(hù)性規(guī)范以法律責(zé)任的設(shè)定為內(nèi)容,以假定和制裁為形式。的任務(wù)。雖然前置法也包含著一定的保護(hù)性規(guī)范,即第一保護(hù)性規(guī)范,但是,通過第一保護(hù)性規(guī)范來實(shí)現(xiàn)責(zé)任的強(qiáng)度和嚴(yán)厲性終究有限,難以有效恢復(fù)重要的調(diào)整性法益,通過刑事責(zé)任的追究與制裁的實(shí)施來對(duì)第一保護(hù)性規(guī)范予以強(qiáng)力增援就只能是作為第二保護(hù)性規(guī)范的刑法的任務(wù)。具體到人工智能算法技術(shù)下個(gè)人信息的刑法保護(hù)問題而言,作為前置法第一保護(hù)性規(guī)范的我國(guó)民法對(duì)信息用益權(quán)尚未作明確規(guī)定我國(guó)《民法典》規(guī)定,用益物權(quán)包括土地承包經(jīng)營(yíng)權(quán)、建設(shè)用地使用權(quán)、宅基地使用權(quán)、居住權(quán)和地役權(quán)等。,導(dǎo)致了作為前置法的民法對(duì)信息使用者信息用益權(quán)的保護(hù)滯后。同時(shí),作為最嚴(yán)厲、對(duì)前置法的利益保護(hù)起到增援作用的刑法,在前置法的影響下也同樣不能保護(hù)信息使用者的利益。所以,在刑法對(duì)前置法起到增援作用的同時(shí),必須把保護(hù)的范圍從僅僅保護(hù)信息主體利益的局部特殊保護(hù)擴(kuò)大到包含信息使用的利益的范圍,以便達(dá)到信息主體和信息使用者利益整體的同等保護(hù)。

    2.刑法應(yīng)從權(quán)利保護(hù)轉(zhuǎn)變?yōu)樾畔踩ㄒ娴谋Wo(hù)

    利益作為事實(shí)概念,是法益的“前生”,而法益是規(guī)范概念,是利益的“來世”[43]。刑法法益的來源是經(jīng)驗(yàn)事實(shí),即利益,而刑法保護(hù)利益的手段之一就是在立法中創(chuàng)設(shè)權(quán)利。但是,刑法并非保護(hù)權(quán)利,而是保護(hù)利益,即在刑法中通過規(guī)范評(píng)價(jià)被稱為法益的利益。有鑒于此,《刑法》第253條之一“侵犯公民個(gè)人信息罪”中刑法保護(hù)的利益是信息主體的法益和信息使用者的法益,而兩者的法益都涉及信息利用、使用和收益等有關(guān)信息安全的問題。所以,重視個(gè)人信息自身安全或許能夠滿足信息主體個(gè)人信息權(quán)利和信息使用者信息用益權(quán)保護(hù)的雙重需求。所以,刑法對(duì)個(gè)人信息的保護(hù)應(yīng)從新型權(quán)利轉(zhuǎn)變?yōu)樾滦头ㄒ?,即個(gè)人信息安全法益。

    個(gè)人信息安全法益是法律所識(shí)別、確認(rèn)、保護(hù)的信息安全利益。個(gè)人信息安全法益不同于個(gè)人信息權(quán)利,兩者之間的差異是刑法信息立法從新型權(quán)利保障轉(zhuǎn)向新型法益保護(hù),并為個(gè)人信息安全法益的保護(hù)奠定了法理基礎(chǔ)。從功能方面看,個(gè)人信息安全法益的刑法保障是刑法對(duì)特定主體(信息使用者和信息主體)信息利益的認(rèn)可。正如哈賽默所說:

    “構(gòu)成合法法益基礎(chǔ)的是單個(gè)的個(gè)人利益,而非群體的和國(guó)家的利益。”[44]“刑法的任務(wù)是法益保護(hù)”[45],這是現(xiàn)代刑法學(xué)的核心概念。而個(gè)人信息權(quán)利則強(qiáng)調(diào)的是信息權(quán)利人(信息主體)的自由意志以及由此而來的選擇自由[46]不被非法干預(yù)。從價(jià)值方面看,個(gè)人信息安全法益既保護(hù)公益又保護(hù)私益,而個(gè)人信息權(quán)以信息私益保護(hù)為側(cè)重點(diǎn),忽視了社會(huì)共同信息秩序的維護(hù)。從應(yīng)用方面看,個(gè)人信息安全法益除了可以保護(hù)信息主體和信息使用者的利益之外,還可以保護(hù)信息間接使用者等多主體的利益。因此,個(gè)人信息安全法益的適用前提是多樣化的信息利益的衡量。而信息權(quán)利的適用則是單向度的,即僅僅保護(hù)信息主體的利益。從總體上看,刑法中個(gè)人信息安全法益的確立不僅具備現(xiàn)實(shí)基礎(chǔ),而且還有深刻的理論基礎(chǔ)。首先,刑法確立個(gè)人信息安全法益源于刑法對(duì)多樣化的信息利益保護(hù)的現(xiàn)實(shí)需求。作為社會(huì)的實(shí)在利益,個(gè)人信息安全法益的存在對(duì)個(gè)人乃至社會(huì)具有有用性和有益性。特別是在人工智能算法技術(shù)下,對(duì)于信息主體而言,個(gè)人信息安全的保障有利于個(gè)人人身權(quán)和財(cái)產(chǎn)權(quán)的保障,而對(duì)信息使用者而言,其通過算法使個(gè)人信息成為爭(zhēng)奪市場(chǎng)占有率的新型手段參見山東省泰安市中級(jí)人民法院(2014)泰刑終字第27號(hào)刑事裁決書。。在此基礎(chǔ)上,個(gè)人信息安全法益應(yīng)當(dāng)成為獨(dú)立的法律保護(hù)對(duì)象,“個(gè)人信息法益可以成為刑法法益的新內(nèi)容,并成為獨(dú)立的刑法保護(hù)對(duì)象”[47]。其次,個(gè)人信息安全法益應(yīng)成為刑法信息保護(hù)立法的核心。一是個(gè)人信息安全法益在刑法信息保護(hù)中的確立可以破解刑法個(gè)人信息保護(hù)的私權(quán)化,避免刑法規(guī)制錯(cuò)位現(xiàn)象的出現(xiàn)。個(gè)人信息安全法益是數(shù)字經(jīng)濟(jì)背景下的新型法益[48]。正如有些學(xué)者指出的,信息“不能歸入表彰民事權(quán)利的客體”“也不宜將其獨(dú)立視作財(cái)產(chǎn)”。但是,隨著前置法民法對(duì)個(gè)人信息權(quán)利的不斷承認(rèn),片面認(rèn)為個(gè)人信息是個(gè)人信息權(quán)的客體,個(gè)人對(duì)自身個(gè)人信息具有絕對(duì)排他權(quán),使刑法個(gè)人信息保護(hù)私權(quán)化,導(dǎo)致了刑法個(gè)人信息規(guī)制的錯(cuò)位,即不管什么原因,未經(jīng)信息生產(chǎn)者同意使用個(gè)人信息都受刑法的追究。個(gè)人信息安全法益的確立賦予了信息使用者刑法法益保障,形成了二元刑法保護(hù)模式,避免了刑法規(guī)制錯(cuò)位的出現(xiàn)。二是個(gè)人信息安全法益在刑法中的確立使侵犯公民個(gè)人信息犯罪成為具體危險(xiǎn)犯?!靶谭ㄊ且詮?qiáng)制措施來威懾危害社會(huì)的行為,從而維系社會(huì)秩序的重要手段?!盵49]但是,刑法介入并成為維系社會(huì)秩序的重要手段必須具有正當(dāng)性。即,刑法“除了維系社會(huì)秩序之外,在規(guī)范保護(hù)層面還有規(guī)制的必要性”[50]。所以,刑法在規(guī)范層面規(guī)定,只要有“出售或者提供”行為,就構(gòu)成侵犯公民個(gè)人信息罪,使侵犯?jìng)€(gè)人信息罪成了抽象危險(xiǎn)犯。但是,刑法中個(gè)人信息安全法益的確立給予了信息使用者使用和收益的利益,信息使用者只有通過非法收集信息、非法交易信息獲取利益時(shí),才能受到刑法否定性評(píng)價(jià)。即只有信息使用者的行為產(chǎn)生具體的危險(xiǎn)時(shí),才能承擔(dān)侵犯公民個(gè)人信息罪的刑事責(zé)任。

    四、場(chǎng)景化行為主義規(guī)制:個(gè)人信息安全刑法保護(hù)與人工智能算法個(gè)人信息利用刑法規(guī)制

    “刑法在國(guó)家對(duì)公民權(quán)利的所有干涉中是最嚴(yán)厲的一種,只有在比較輕緩的手段不能充分保證效果的情況下,才允許適用刑法。”[51]有鑒于此,刑法并不保護(hù)所有的法益,刑法只保護(hù)其他前置法不能給予充分保護(hù)的法益,即刑法向前置法保護(hù)法益提供增援。所以,根據(jù)罪刑法定原則,刑法所保護(hù)的法益必須在刑法中明文規(guī)定。現(xiàn)階段,我國(guó)刑法在侵犯公民個(gè)人信息罪中承認(rèn)的遭到破壞的法益是個(gè)人的人身權(quán)利。對(duì)新型個(gè)人信息安全法益,刑法尚未給予承認(rèn)。雖然如此,但是這不能成為我們坐以待斃的理由,出現(xiàn)問題必須勇敢面對(duì)并予以解決。通過對(duì)人工智能個(gè)人信息利用與個(gè)人信息刑法保護(hù)之間緊張關(guān)系的分析了解到,兩者之間的主要問題在于個(gè)人信息主體與信息使用者在個(gè)人信息利用和收益方面的利益沖突。所以,筆者認(rèn)為,首先,刑法個(gè)人信息安全問題不能通過個(gè)人信息權(quán)來解決。侵犯公民個(gè)人信息罪的核心是通過重點(diǎn)防控個(gè)人信息非法獲取、泄露的行為來保護(hù)個(gè)人信息本身的保密性、完整性和可用性等靜態(tài)安全問題[52]。但是,隨著人工智能算法技術(shù)的迅猛發(fā)展,個(gè)人信息安全在形式、內(nèi)容上均有了不斷的異化,尤其是信息使用者通過算法分析個(gè)人信息,不斷提供各類新產(chǎn)品,推動(dòng)著數(shù)字經(jīng)濟(jì)乃至社會(huì)經(jīng)濟(jì)的發(fā)展。信息使用者與個(gè)人信息之間有密切的財(cái)產(chǎn)聯(lián)系,此種趨勢(shì)給現(xiàn)行刑法對(duì)侵犯公民個(gè)人信息罪的評(píng)價(jià)治理模式帶來了新的挑戰(zhàn)。其次,人工智能算法技術(shù)承認(rèn)個(gè)人信息使用者在個(gè)人信息方面的利用和收益的用益權(quán),如不做好監(jiān)管,則必然會(huì)導(dǎo)致過度采集目標(biāo)用戶的基本信息、上網(wǎng)習(xí)慣、消費(fèi)記錄、位置信息等,給個(gè)人信息生產(chǎn)者的個(gè)人信息安全帶來風(fēng)險(xiǎn)。例如,2018年的美國(guó)Facebook數(shù)據(jù)泄露事件等。由此可見,大數(shù)據(jù)信息的龐大性、復(fù)雜性容易造成信息的泄露和受損,一旦作為信息使用者的企業(yè)等對(duì)信息利用安全的控制力度不足,就會(huì)帶來信息的濫用風(fēng)險(xiǎn)[53]。所以,必須對(duì)信息使用者設(shè)定大量的數(shù)據(jù)安全保障義務(wù),確立信息使用者的保證人地位。總之,互聯(lián)網(wǎng)信息時(shí)代,人工智能算法技術(shù)下個(gè)人信息的刑法保護(hù)問題的來源及出現(xiàn)的各類問題的根源都在于人們對(duì)信息使用者利用個(gè)人信息的恐懼,其解決問題的路徑是在不損害信息使用者合法利益的前提下,合理規(guī)制信息利用的算法行為,不對(duì)信息主體的個(gè)人信息安全造成損害。筆者認(rèn)為,考慮到信息主體和信息使用者對(duì)個(gè)人信息各自具有的利益,從行為主義規(guī)制的進(jìn)路出發(fā),在個(gè)人信息使用的不同階段和不同場(chǎng)景分不同的情況進(jìn)行刑法規(guī)制和保護(hù)。場(chǎng)景化行為主義規(guī)制不同于刑法上的行為主義規(guī)制,刑法上某些行為被確定為犯罪之后,該行為在任何一類場(chǎng)景中都會(huì)被認(rèn)定為犯罪。場(chǎng)景化行為主義規(guī)制是指對(duì)行為進(jìn)行規(guī)制的必要性和合理性完全取決于不同的場(chǎng)景,即行為的規(guī)制高度場(chǎng)景化。人工智能算法個(gè)人信息利用的刑法規(guī)制和個(gè)人信息的刑法保護(hù)都與個(gè)人信息安全有關(guān),使得個(gè)人信息方面存有多重權(quán)益。正因?yàn)檫@種多重權(quán)益的存在,使人工智能算法個(gè)人信息利用刑法規(guī)制和個(gè)人信息刑法保護(hù)不能制定出統(tǒng)一或單一的規(guī)制和保護(hù)標(biāo)準(zhǔn)。為了保護(hù)個(gè)人信息和促進(jìn)信息使用者的權(quán)益,刑法必定要重點(diǎn)考慮行為實(shí)施的場(chǎng)景變化。

    (一)個(gè)人信息安全的刑法行為主義保護(hù)

    人工智能算法是指“網(wǎng)絡(luò)服務(wù)提供者對(duì)網(wǎng)絡(luò)用戶在一定時(shí)間內(nèi)已經(jīng)做出的歷史選擇記錄、評(píng)論以及相關(guān)輔助信息進(jìn)行分析后發(fā)現(xiàn)網(wǎng)絡(luò)用戶所關(guān)注的信息并進(jìn)行個(gè)性化推送信息的技術(shù)”[54]。所以,在人工智能算法中,信息(數(shù)據(jù))成為了基礎(chǔ)原料,信息(數(shù)據(jù))在人工智能算法下得到了進(jìn)一步的分析并產(chǎn)生出了新的信息(數(shù)據(jù))。但是,隨著人工智能算法的不斷推廣應(yīng)用,個(gè)人信息保護(hù)方面的風(fēng)險(xiǎn)在日益增加。例如,信息使用者未經(jīng)個(gè)人信息生產(chǎn)者同意,擅自使用他們的信息,侵犯信息主體個(gè)人信息權(quán)的行為不斷出現(xiàn)。因此,個(gè)人信息的刑法保護(hù)應(yīng)根據(jù)不同行為所可能侵犯的信息主體與信息使用者的權(quán)益而進(jìn)行不同程度的規(guī)制。

    信息收集階段,對(duì)個(gè)人信息的保護(hù)應(yīng)采取相對(duì)寬松的刑事政策。侵犯?jìng)€(gè)人信息罪的源頭是信息的收集行為。但是,在智能社會(huì),個(gè)人大量信息已經(jīng)被他人分享,個(gè)人信息被他人所收集已成為普遍行為。為此,如若在個(gè)人信息的收集階段,刑法采取的是嚴(yán)格保護(hù)個(gè)人信息的刑事政策,那么,必然會(huì)阻礙個(gè)人信息的合理使用、分享和流通,造成信息使用者法益受損。所以,在信息收集階段,信息收集者只要不使用欺詐或脅迫等刑法禁止的行為,其收集信息的行為則不構(gòu)成犯罪。即使在信息收集階段個(gè)人信息擁有者和收集者之間發(fā)生爭(zhēng)議,也要盡量使用前置法(民法或行政法)來解決爭(zhēng)議。

    相比起個(gè)人信息的收集,個(gè)人信息的處理會(huì)直接造成信息主體法益的受損,所以,在個(gè)人信息的分析處理階段應(yīng)采取嚴(yán)格、區(qū)分的刑事政策。信息使用者具有合理使用、分享和流通信息的權(quán)益,但此種權(quán)益不能濫用。所以,刑法必須在保護(hù)信息使用者合法權(quán)益的同時(shí),也要嚴(yán)格限制并處罰信息使用者的濫用權(quán)益行為。為此,必須對(duì)我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”進(jìn)行修訂。根據(jù)我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”的規(guī)定,該條文并沒有明確“向他人出售或者提供的公民個(gè)人信息”是經(jīng)過算法分析的可識(shí)別性個(gè)人信息還是原始取得的非可識(shí)別性個(gè)人信息。這種不區(qū)分直接導(dǎo)致的結(jié)果就是只要向他人提供任何一類個(gè)人信息都可能構(gòu)成“侵犯公民個(gè)人信息罪”。所以,為了保護(hù)信息使用者的合法權(quán)益,同時(shí)又不失去權(quán)益濫用行為的刑法處罰,《刑法》第253條之一“侵犯公民個(gè)人信息罪”就要進(jìn)一步明確“向他人提供的個(gè)人信息”的類型。

    (二)人工智能算法個(gè)人信息利用的刑法行為主義規(guī)制

    2019年發(fā)布的《數(shù)據(jù)安全管理辦法(征求意見稿)》第17條規(guī)定:“網(wǎng)絡(luò)運(yùn)營(yíng)者以營(yíng)利為目的收集重要數(shù)據(jù)或個(gè)人敏感信息的,應(yīng)當(dāng)明確數(shù)據(jù)安全責(zé)任人。”人工智能從某種意義上說是一種能夠自主學(xué)習(xí)、判斷的算法[55]。智能社會(huì),人類把選擇權(quán)和決策權(quán)讓渡于算法,算法取得了決策權(quán)和控制權(quán)。但是,算法的高度技術(shù)性,使算法的運(yùn)行往往掌握在專業(yè)人士手中,這使得技術(shù)中立原則早已消失,算法并非絕對(duì)中立。在信息利用者通過人工智能算法分析信息生產(chǎn)者的個(gè)人信息時(shí),刑法規(guī)制的中心應(yīng)當(dāng)立足于人工智能算法利用者的主觀故意或過失。

    具有主觀故意并實(shí)施行為是構(gòu)成侵犯公民個(gè)人信息罪的重要構(gòu)成要件。信息使用者利用人工智能算法技術(shù)分析他人個(gè)人信息時(shí),不得有故意侵犯信息主體個(gè)人信息的主觀故意并實(shí)施行為,如果明知是屬于他人敏感個(gè)人信息還繼續(xù)使用并進(jìn)行算法分析,應(yīng)構(gòu)成侵犯公民個(gè)人信息罪。如果因過錯(cuò)利用了他人敏感信息并進(jìn)行分析,在收到他人的通知之后應(yīng)立即停止對(duì)個(gè)人信息的進(jìn)一步算法分析,收到通知之后仍不停止算法分析行為,信息使用者的行為應(yīng)構(gòu)成侵犯公民個(gè)人信息罪。

    我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”的規(guī)定并沒有區(qū)分行為人在實(shí)施行為時(shí)是故意、過失還是過錯(cuò),即“向他人提供公民個(gè)人信息時(shí)”對(duì)信息使用者的主觀條件沒有進(jìn)行區(qū)分。此種對(duì)信息使用者主觀條件的不區(qū)分直接導(dǎo)致的結(jié)果就是只要向他人提供了公民個(gè)人信息,即提供行為不管是故意、過失還是過錯(cuò)都構(gòu)成侵犯公民個(gè)人信息罪。在智能社會(huì),為了算法技術(shù)的發(fā)展和信息使用者信息利用權(quán)益的保護(hù),不應(yīng)擴(kuò)大信息使用者行為的處罰范圍。所以,我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”應(yīng)明確主觀條件。

    五、結(jié)語(yǔ)

    智能社會(huì),算法早已是社會(huì)發(fā)展的驅(qū)動(dòng)器。人工智能算法的應(yīng)用除創(chuàng)造了新的法益之外,還對(duì)個(gè)人信息安全造成了恐懼和不安。

    所以,“加強(qiáng)個(gè)人信息保護(hù)已成為社會(huì)共識(shí)”[56]。

    刑法作為最嚴(yán)厲的法,對(duì)人工智能算法技術(shù)下個(gè)人信息的保護(hù)問題也作出了回應(yīng)。但是,我國(guó)刑法侵犯公民個(gè)人信息罪以個(gè)人信息權(quán)入法為基礎(chǔ),以信息的私權(quán)保障與利用為基本原則,導(dǎo)致了人工智能算法個(gè)人信息利用刑法規(guī)制的錯(cuò)位和刑法規(guī)制的提前。筆者認(rèn)為,人工智能算法個(gè)人信息利用與個(gè)人信息安全刑法保護(hù)之間的此種緊張關(guān)系可通過以下路徑加以解決。

    第一,人工智能算法技術(shù)下個(gè)人信息的刑法保護(hù),其本質(zhì)是共同保護(hù)信息主體和信息使用者的利益。

    第二,個(gè)人信息的擁有并非信息主體的絕對(duì)控制權(quán),信息使用者也有安全使用信息的權(quán)益。所以,侵犯?jìng)€(gè)人信息罪的傳統(tǒng)法益應(yīng)從權(quán)利轉(zhuǎn)變?yōu)榉ㄒ?,即個(gè)人信息安全法益。

    第三,刑法中的法益應(yīng)在刑法中明文規(guī)定,在刑法尚未對(duì)個(gè)人信息安全法益作明文規(guī)定的情況下,考慮到信息主體和信息使用者對(duì)個(gè)人信息具有的利益,對(duì)人工智能算法個(gè)人信息利用的刑法規(guī)制和個(gè)人信息安全的刑法保護(hù)應(yīng)從行為主義規(guī)制的進(jìn)路出發(fā),在個(gè)人信息利用的不同階段和不同場(chǎng)景分不同的情況進(jìn)行刑法規(guī)制。

    首先,在信息利用的不同階段,刑法應(yīng)采取不同的刑事政策。在個(gè)人信息的收集階段,為了使個(gè)人信息合理使用、分享和流通,進(jìn)而保護(hù)信息使用者的合法權(quán)益,刑法應(yīng)采取相對(duì)寬松的刑事政策。在個(gè)人信息的分析和處理階段,刑法應(yīng)采取嚴(yán)格、區(qū)分的刑事政策,即除了限制信息使用者濫用權(quán)益行為之外,還要保護(hù)信息使用者的合法權(quán)益。為此,對(duì)《刑法》第253條之一“侵犯公民個(gè)人信息”中的“向他人提供的個(gè)人信息”的類型進(jìn)行進(jìn)一步明確。

    其次,根據(jù)信息利用的不同場(chǎng)景,區(qū)分信息使用者的故意或過失。但是,《刑法》第253條之一“侵犯公民個(gè)人信息罪”的規(guī)定并沒有區(qū)分行為人在實(shí)施行為時(shí)是故意、過失還是過錯(cuò),即“向他人提供公民個(gè)人信息時(shí)”對(duì)信息使用者的主觀條件沒有進(jìn)行區(qū)分。所以,我國(guó)《刑法》第253條之一“侵犯公民個(gè)人信息罪”應(yīng)明確主觀條件。

    參考文獻(xiàn):

    [1]米歇爾·福柯.規(guī)訓(xùn)與懲罰[M].劉北成,楊遠(yuǎn)嬰,譯.北京:生活·讀書·新知三聯(lián)書店,2013:2.

    [2]張文顯.構(gòu)建智能社會(huì)的法律秩序[J].東方法學(xué),2020(5):7.

    [3]貝爾納 J D.科學(xué)的社會(huì)功能[M].陳體芳,譯.北京:商務(wù)印書館,1982:317.

    [4]霍金.讓人工智能造福人類及其賴以生存的家園[J].科技中國(guó),2017(6):87.

    [5]顧理平.無(wú)感傷害:大數(shù)據(jù)時(shí)代隱私侵權(quán)的新特點(diǎn)[J].新聞大學(xué),2019(2):25.

    [6]維克托·邁爾-舍恩伯格,肯尼思·庫(kù)克耶.大數(shù)據(jù)時(shí)代:生活、工作與思維的大變革[M].盛楊燕,周濤,譯.杭州:浙江人民出版社,2013:57.

    [7]張寶新.從隱私到個(gè)人信息:利益再衡量的理論與制度安排[J].中國(guó)法學(xué),2015(3):46.

    [8]VALENTINE S. Impoverished Algorithms: Misguided Governments, Flawed Technologies, and Social Control[J]. Fordham Urban Law Journal,2019(2):365.

    [9]齊延平.論人工智能時(shí)代法律場(chǎng)景的變遷[J].法律科學(xué),2018(4):38.

    [10]鄭智航.人工智能算法的倫理危機(jī)與法律規(guī)制[J].法律科學(xué),2021(1):15.

    [11]陳昌鳳,霍婕.權(quán)力遷移與人本精神:算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作,2018(1):63.

    [12]卡爾·夏皮羅,哈爾·R·范里安.信息規(guī)則:網(wǎng)絡(luò)經(jīng)濟(jì)的策略指導(dǎo)[M].孟邵莉,牛露晴,譯.北京:中國(guó)人民大學(xué)出版社,2017:2.

    [13]莫雅嫻.算法推薦新聞與個(gè)人信息保護(hù)的沖突和平衡[J].編輯學(xué)刊,2019(5):41.

    [14]黃忻淵.用戶對(duì)于算法新聞的認(rèn)知與態(tài)度研究——基于1075名算法推薦資訊平臺(tái)使用者的實(shí)證調(diào)查[J].編輯之友,2019(6):65.

    [15]范為.大數(shù)據(jù)時(shí)代個(gè)人信息保護(hù)的路徑重構(gòu)[J].環(huán)球法律評(píng)論,2016(5):93.

    [16]LANDAU S. Control use of data to protect privacy[J].Science,2015(6221):504-506.

    [17]張憶然.大數(shù)據(jù)時(shí)代“個(gè)人信息”的權(quán)利變遷與刑法保護(hù)的教義學(xué)限縮——以“數(shù)據(jù)財(cái)產(chǎn)權(quán)”與“信息自決權(quán)”的二分為視角[J].政治與法律,2020(6):63.

    [18]The World Economic Forum. Rethinking Personal Data: Trust and Context in User-Centred Data Ecosystems[R/OL] (2014-05-01)[2020-01-12].http://www3.weforum.org/docs/WEF_Rethinking Personal Data_Trustand Context_Report_2014.pdf.

    [19]CHENEY-LIPPOLD J. We Are Data: Algorithms and the Making of Our Digital Selves[M]. New York: New York University Press,2017:141.

    [20]LUSTIG C,NARDI B. Algorithmic Authority: The Case of Bitcoin [J].Hawaii International Conference on System Sciences,2015(48):743.

    [21]喻海松.《民法典》視域下侵犯公民個(gè)人信息罪的司法適用[J].北京航空航天大學(xué)學(xué)報(bào),2020(11):2.

    [22]DODD J D. Data Security Law-State Statutory Requirements for Protecting Personal Data[J].American Journal of Trial Advocacy,2015(38):623.

    [23]劉艷紅.以科學(xué)立法促進(jìn)刑法話語(yǔ)體系發(fā)展[J].學(xué)術(shù)月刊,2019(4):94.

    [24]程嘯.民法典編纂視野下的個(gè)人信息保護(hù)[J].社會(huì)科學(xué)文摘,2019(11):71-73.

    [25]李永軍.論《民法總則》中個(gè)人隱私與信息的“二元制”保護(hù)及請(qǐng)求權(quán)基礎(chǔ)[J].浙江工商大學(xué)學(xué)報(bào),2017(3):10.

    [26]王利明.論個(gè)人信息權(quán)的法律保護(hù)——以個(gè)人信息權(quán)與隱私權(quán)的界分為中心[J].現(xiàn)代法學(xué),2013(7):66.

    [27]姚建宗.新興權(quán)利研究[M].北京:中國(guó)人民大學(xué)出版社,2011:7.

    [28]王利明.論個(gè)人信息權(quán)在人格權(quán)法中的地位[J].蘇州大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2012(6):70.

    [29]程嘯.論大數(shù)據(jù)時(shí)代的個(gè)人數(shù)據(jù)權(quán)利[J].中國(guó)社會(huì)科學(xué),2018(3):111.

    [30]李震山.人性尊嚴(yán)與人權(quán)保障[M].臺(tái)北:元照出版有限公司,2000:288.

    [31]嚴(yán)鴻雁.論個(gè)人信息權(quán)益的民事權(quán)利性質(zhì)與立法路徑——兼評(píng)《個(gè)人信息保護(hù)法》(專家建議稿)的不足[J].情報(bào)理論與實(shí)踐,2013(4):44.

    [32]劉艷紅.侵犯公民個(gè)人信息罪法益:個(gè)人法益及新型權(quán)利之確證[J].中國(guó)刑事法雜志,2019(5):24.

    [33]李懷勝.公民個(gè)人信息保護(hù)的刑法擴(kuò)展路徑及策略轉(zhuǎn)變[J].江淮論壇,2020(3):118.

    [34]蔣玲.刑法中“違反國(guó)家規(guī)定”的理解與適用[J].中國(guó)刑事雜志,2012(7):30-37.

    [35]王皇玉.論販賣毒品罪[J].正大法學(xué)評(píng)論,2005(84):225-275.

    [36]周赟.新興權(quán)利的邏輯基礎(chǔ)[J].江漢論壇,2017(5):115.

    [37]孫山.尋找被遺忘的法益[J].法律科學(xué),2011(1):60.

    [38]周斯佳.個(gè)人數(shù)據(jù)權(quán)與個(gè)人信息權(quán)關(guān)系的厘清[J].華東政法大學(xué)學(xué)報(bào),2020(2):89.

    [39]申衛(wèi)星.論數(shù)據(jù)用益權(quán)[J].中國(guó)社會(huì)科學(xué),2020(11):110-131,207.

    [40]李建新.兩岸四地的個(gè)人信息保護(hù)與行政信息公開[J].法學(xué),2013(7):95-104.

    [41]李永軍.論我國(guó)民法典上用益物權(quán)的內(nèi)涵與外延[J].清華法學(xué),2020(3):85.

    [42]徐凱.抽象危險(xiǎn)犯正當(dāng)性問題研究——以德國(guó)法為視角[M].北京:中國(guó)政法大學(xué)出版社,2014:135.

    [43]田宏杰.刑法法益:現(xiàn)代刑法的正當(dāng)根基和規(guī)制邊界[J].法商研究,2020(6):78.

    [44]京特·雅各布斯.保護(hù)法益?——論刑法的合法性[G]//當(dāng)代德國(guó)刑事法研究:第1卷.趙書鴻,譯.北京:法律出版社,2016:13.

    [45]伊沃·阿佩爾.通過刑法進(jìn)行法益保護(hù)?——以憲法為視角的評(píng)注[G]//當(dāng)代德國(guó)刑事法研究:第1卷.馬寅翔,譯.北京:法律出版社,2016:49.

    [46]陳景輝.權(quán)利的規(guī)范力:一個(gè)對(duì)利益論的批判[J].中外法學(xué),2019(3):585.

    [47]趙秉志.中國(guó)刑法改革與適用研究:上冊(cè)[M].北京:中國(guó)人民公安大學(xué)出版社,2016:454.

    [48]任穎.數(shù)據(jù)立法轉(zhuǎn)向:從數(shù)據(jù)權(quán)利入法到數(shù)據(jù)法益保護(hù)[J].政治與法律,2020(6):140.

    [49]凱爾森.法與國(guó)家的一般理論[M].沈宗靈,譯.北京:商務(wù)印書館,2013:49.

    [50]姚萬(wàn)勤.高利轉(zhuǎn)貸除罪化實(shí)證研究[J].政治與法律,2018(3):39.

    [51]克勞斯·羅克辛.德國(guó)刑法學(xué) 總論:第1卷——犯罪原理的基礎(chǔ)構(gòu)造[M].王世洲,譯.北京:法律出版社,2005:23.

    [52]于沖.數(shù)據(jù)安全犯罪的迭代異化與刑法規(guī)制路徑——以刑事合規(guī)計(jì)劃的引入為視角[J].西北大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2020(5):94.

    [53]張尼,張?jiān)朴?,胡?大數(shù)據(jù)安全:技術(shù)與應(yīng)用[M].北京:人民郵電出版社,2014:62-72.

    [54]熊琦.“算法推送”與網(wǎng)絡(luò)服務(wù)提供者共同侵權(quán)認(rèn)定規(guī)則[J].中國(guó)應(yīng)用法學(xué),2020(4):126.

    [55]鄭戈.算法的法律與法律的算法[J].中國(guó)法律評(píng)論,2018(2):77.

    [56]張力,黃鑫.大數(shù)據(jù)背景下個(gè)人信息保護(hù)的公私法銜接[J].重慶郵電大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2021(1):47.

    Artificial Intelligence Algorithm Personal Information Utilization Criminal

    Regulations and Personal Information Security Criminal Law Protection:

    From New Rights to New Legal Interests

    MAIMAITI Usman1, ABUDUMIJITI Wumaier2

    (1. School of Management, Xinjiang Agricultural University, Urumqi 830052, China;

    2. School of Politics and Law, Xinjiang Normal University, Urumqi 830054, China)

    Abstract:

    In the intelligent society, the protection of personal information in criminal law is based on the entry of personal information right into the law, and takes the protection and utilization of private rights of information as the basic principle, which leads to the dislocation and advance of the regulation of criminal law on the utilization of personal information by artificial intelligence algorithm. When artificial intelligence uses personal information for algorithm analysis, in addition to the personal information right, the information user should also have the information usufruct. Therefore, the criminal protection of personal information must start from the right theory and go beyond the right theory, and return to the personal information security legal interests shared by the information subject and the information user. However, the criminal law has not clearly stipulated the legal interests of personal information security. The criminal law regulation and criminal law protection of artificial intelligence algorithm personal information utilization should consider the respective interests of information subjects and information users on personal information, and carry out criminal law protection and criminal law regulation on personal information and artificial intelligence algorithm personal information utilization from the perspective of situational behaviorism regulation.

    Keywords:artificial intelligence; personal information; criminal law protection; criminal law regulation

    (編輯:劉仲秋)

    收稿日期:2021-02-21修訂日期:2021-06-15

    基金項(xiàng)目:新疆維吾爾自治區(qū)文科基地重點(diǎn)項(xiàng)目:新疆未成年人犯罪早期預(yù)防機(jī)制研究(XJEDU2017RI014)

    作者簡(jiǎn)介:

    麥買提·烏斯曼,副教授,法學(xué)博士(博士后),主要從事人權(quán)法和刑法學(xué)研究,E-mail:mamat2002@163.com;

    阿不都米吉提·吾買爾,副教授,法學(xué)博士,主要從事刑事訴訟法研究,E-mail:23600348@qq.com。

    猜你喜歡
    刑法保護(hù)刑法規(guī)制個(gè)人信息
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    警惕個(gè)人信息泄露
    以司法實(shí)務(wù)為視角論傳銷的刑法規(guī)制
    我國(guó)行賄犯罪的刑法規(guī)制
    食品安全犯罪的刑法規(guī)制
    法制博覽(2016年12期)2016-12-28 14:37:54
    論對(duì)代孕行為中遺傳基因的刑法保護(hù)
    網(wǎng)絡(luò)游戲的虛擬財(cái)產(chǎn)的法律性質(zhì)及其刑法保護(hù)
    淺述非法利用信息網(wǎng)絡(luò)罪的相關(guān)問題
    公民個(gè)人信息刑法保護(hù)的若干研究論述
    亚洲av成人精品一区久久| 欧美黑人巨大hd| 亚洲av熟女| 少妇裸体淫交视频免费看高清| 高清毛片免费观看视频网站| 一卡2卡三卡四卡精品乱码亚洲| 中文资源天堂在线| 99久久久亚洲精品蜜臀av| 男女下面进入的视频免费午夜| 最近视频中文字幕2019在线8| 久久九九热精品免费| 高清在线国产一区| av福利片在线观看| av国产免费在线观看| 成年女人永久免费观看视频| 国产麻豆成人av免费视频| 国产成人a区在线观看| 免费无遮挡裸体视频| 亚洲精品日韩av片在线观看| 日本a在线网址| 桃色一区二区三区在线观看| 欧美+日韩+精品| 嫩草影视91久久| 免费高清视频大片| 亚洲人与动物交配视频| 欧美高清成人免费视频www| 身体一侧抽搐| 美女大奶头视频| 国产精品久久久久久精品电影| 亚洲无线在线观看| 免费无遮挡裸体视频| 久久久国产成人精品二区| 欧美精品国产亚洲| 国产精品美女特级片免费视频播放器| 免费av观看视频| 婷婷色综合大香蕉| 欧美性感艳星| 国产午夜精品久久久久久一区二区三区 | 亚洲成人中文字幕在线播放| 日日撸夜夜添| 成人特级av手机在线观看| 精品久久久久久久末码| 久久午夜福利片| 国产69精品久久久久777片| 中文在线观看免费www的网站| 99精品在免费线老司机午夜| 国产成人一区二区在线| 两性午夜刺激爽爽歪歪视频在线观看| 欧美潮喷喷水| 成人永久免费在线观看视频| 国产免费男女视频| 伦理电影大哥的女人| 国产熟女欧美一区二区| 成人毛片a级毛片在线播放| 亚洲精品亚洲一区二区| 色在线成人网| 午夜福利欧美成人| 久久亚洲精品不卡| 床上黄色一级片| 免费观看人在逋| 日韩欧美精品免费久久| 在现免费观看毛片| 久久久久性生活片| 亚洲第一电影网av| 免费观看精品视频网站| 国产午夜精品论理片| 国产黄片美女视频| 久久热精品热| 五月伊人婷婷丁香| 久久亚洲真实| 成人综合一区亚洲| 国产男靠女视频免费网站| 国产黄a三级三级三级人| 日本a在线网址| 免费在线观看成人毛片| 久久国产精品人妻蜜桃| 国产欧美日韩精品一区二区| 亚洲欧美日韩高清在线视频| 美女被艹到高潮喷水动态| 99久久精品一区二区三区| 不卡一级毛片| 亚洲专区国产一区二区| 亚洲中文字幕日韩| 我的老师免费观看完整版| 女人被狂操c到高潮| 国产综合懂色| 欧美日韩国产亚洲二区| 伊人久久精品亚洲午夜| 久久久午夜欧美精品| 少妇丰满av| a级毛片免费高清观看在线播放| 亚洲国产精品成人综合色| 久久亚洲真实| 熟女人妻精品中文字幕| 最近最新中文字幕大全电影3| 成人国产综合亚洲| 国产熟女欧美一区二区| 日韩人妻高清精品专区| 最好的美女福利视频网| 国产高清激情床上av| 99在线人妻在线中文字幕| 国产中年淑女户外野战色| 搡老妇女老女人老熟妇| 国产淫片久久久久久久久| 色av中文字幕| 色综合婷婷激情| 免费看光身美女| 我的老师免费观看完整版| 国产午夜福利久久久久久| 国产乱人伦免费视频| 亚洲av一区综合| 老司机深夜福利视频在线观看| av在线老鸭窝| 给我免费播放毛片高清在线观看| 国产精品女同一区二区软件 | 看片在线看免费视频| 一区二区三区高清视频在线| 亚洲精品粉嫩美女一区| 18禁黄网站禁片午夜丰满| 狠狠狠狠99中文字幕| 国产精品久久久久久av不卡| 韩国av在线不卡| 色综合婷婷激情| 久久热精品热| 国产一区二区亚洲精品在线观看| 国产一区二区三区在线臀色熟女| 给我免费播放毛片高清在线观看| 国产人妻一区二区三区在| 中文字幕人妻熟人妻熟丝袜美| h日本视频在线播放| 成人国产麻豆网| 亚洲aⅴ乱码一区二区在线播放| 免费观看的影片在线观看| 国产精品久久电影中文字幕| 国产伦在线观看视频一区| 日本与韩国留学比较| 亚洲最大成人av| 一进一出抽搐动态| 人妻丰满熟妇av一区二区三区| 国产高清不卡午夜福利| 久久精品91蜜桃| 亚洲 国产 在线| 床上黄色一级片| 人妻少妇偷人精品九色| 国产精品电影一区二区三区| 日韩国内少妇激情av| 日本免费一区二区三区高清不卡| 国产精品日韩av在线免费观看| 中文字幕精品亚洲无线码一区| 国产精品一区www在线观看 | 久久精品夜夜夜夜夜久久蜜豆| 他把我摸到了高潮在线观看| 淫秽高清视频在线观看| 国产精品久久视频播放| 国产麻豆成人av免费视频| 亚洲av成人精品一区久久| 尤物成人国产欧美一区二区三区| 久久精品国产鲁丝片午夜精品 | 欧美黑人巨大hd| 一夜夜www| 一区二区三区免费毛片| 精品国产三级普通话版| 成人国产麻豆网| 精品午夜福利在线看| 日韩欧美免费精品| 日本一二三区视频观看| 成人二区视频| 亚洲中文日韩欧美视频| 国产精品野战在线观看| 国产极品精品免费视频能看的| 内射极品少妇av片p| 老熟妇乱子伦视频在线观看| 精品人妻1区二区| 国产精品,欧美在线| 亚洲av电影不卡..在线观看| av专区在线播放| av福利片在线观看| 午夜福利视频1000在线观看| 精品久久久久久成人av| 欧美人与善性xxx| av在线蜜桃| 亚洲精品色激情综合| 男插女下体视频免费在线播放| 日本三级黄在线观看| 午夜免费男女啪啪视频观看 | 欧洲精品卡2卡3卡4卡5卡区| 国内久久婷婷六月综合欲色啪| 精品久久久久久久久久久久久| 国产毛片a区久久久久| 精华霜和精华液先用哪个| 一个人免费在线观看电影| 亚洲人成伊人成综合网2020| 在线国产一区二区在线| 深夜a级毛片| 超碰av人人做人人爽久久| 97超级碰碰碰精品色视频在线观看| 真人做人爱边吃奶动态| 亚洲精品亚洲一区二区| a级毛片a级免费在线| 国产人妻一区二区三区在| 国产欧美日韩精品一区二区| 网址你懂的国产日韩在线| 特大巨黑吊av在线直播| 国产人妻一区二区三区在| 桃色一区二区三区在线观看| 黄色欧美视频在线观看| 一级黄色大片毛片| 午夜福利在线在线| 少妇裸体淫交视频免费看高清| 免费看av在线观看网站| 欧美不卡视频在线免费观看| 国产91精品成人一区二区三区| 一区二区三区免费毛片| 国产在视频线在精品| 伦精品一区二区三区| 97人妻精品一区二区三区麻豆| 国内毛片毛片毛片毛片毛片| 51国产日韩欧美| 国产探花在线观看一区二区| 夜夜看夜夜爽夜夜摸| 色吧在线观看| 国产一区二区在线观看日韩| 全区人妻精品视频| 欧美精品国产亚洲| 99在线视频只有这里精品首页| 免费在线观看日本一区| 91午夜精品亚洲一区二区三区 | 真人一进一出gif抽搐免费| 亚洲人成网站高清观看| 动漫黄色视频在线观看| 国产精品,欧美在线| 国产欧美日韩一区二区精品| 国产伦一二天堂av在线观看| 午夜a级毛片| 国产精华一区二区三区| 亚洲欧美精品综合久久99| 国产老妇女一区| 国产成年人精品一区二区| 久99久视频精品免费| 国产在线男女| 精品人妻1区二区| 我要搜黄色片| xxxwww97欧美| 亚洲午夜理论影院| 国产一区二区三区av在线 | 久久人人精品亚洲av| 亚洲av第一区精品v没综合| 亚洲一区高清亚洲精品| 国产成人一区二区在线| 国产男靠女视频免费网站| 色哟哟·www| 狂野欧美白嫩少妇大欣赏| 亚洲国产精品合色在线| 午夜福利欧美成人| 日韩av在线大香蕉| 成年免费大片在线观看| 欧美黑人巨大hd| 老司机福利观看| 国产视频一区二区在线看| 啦啦啦观看免费观看视频高清| 亚洲av成人精品一区久久| 国产精品国产高清国产av| 国产乱人视频| 99久久精品一区二区三区| 亚洲欧美日韩高清在线视频| 久久香蕉精品热| 国产一区二区在线av高清观看| 午夜福利视频1000在线观看| 日韩强制内射视频| 深爱激情五月婷婷| av视频在线观看入口| 有码 亚洲区| 成人午夜高清在线视频| 久久九九热精品免费| 亚洲天堂国产精品一区在线| 在线观看舔阴道视频| 18禁黄网站禁片午夜丰满| 真实男女啪啪啪动态图| 国产高清不卡午夜福利| 他把我摸到了高潮在线观看| 欧美在线一区亚洲| 亚洲久久久久久中文字幕| 国产白丝娇喘喷水9色精品| 日韩中字成人| 免费观看在线日韩| 久久99热这里只有精品18| 久久久色成人| 亚洲成av人片在线播放无| 亚洲自拍偷在线| 亚洲熟妇熟女久久| 久久久久久久久大av| 欧美色视频一区免费| 欧美一级a爱片免费观看看| 大型黄色视频在线免费观看| 免费大片18禁| 免费黄网站久久成人精品| 亚洲中文字幕日韩| 淫秽高清视频在线观看| 欧美极品一区二区三区四区| 国产精品亚洲一级av第二区| 哪里可以看免费的av片| 桃色一区二区三区在线观看| 亚洲经典国产精华液单| 波多野结衣高清作品| 在线看三级毛片| 看十八女毛片水多多多| 亚洲精品色激情综合| 夜夜爽天天搞| 国产色婷婷99| 免费看a级黄色片| 色精品久久人妻99蜜桃| 免费观看精品视频网站| 久久精品国产清高在天天线| 嫩草影院新地址| 老女人水多毛片| 久久欧美精品欧美久久欧美| 久久6这里有精品| 久久久久久久亚洲中文字幕| 日韩欧美国产一区二区入口| 欧美激情在线99| 国内精品久久久久精免费| 日本五十路高清| 国产精品久久久久久av不卡| 成人综合一区亚洲| 亚洲精品日韩av片在线观看| 春色校园在线视频观看| 中文字幕av在线有码专区| 精品久久久久久,| 丝袜美腿在线中文| 亚洲三级黄色毛片| 男人舔奶头视频| 久久天躁狠狠躁夜夜2o2o| 成人美女网站在线观看视频| 国产av在哪里看| 亚洲精品久久国产高清桃花| 欧美高清成人免费视频www| 日本 av在线| 国产精品美女特级片免费视频播放器| 又黄又爽又免费观看的视频| 国产成年人精品一区二区| 美女高潮的动态| 一区二区三区激情视频| 舔av片在线| 久久精品国产鲁丝片午夜精品 | 日本爱情动作片www.在线观看 | 国产亚洲精品综合一区在线观看| 日本 av在线| 少妇人妻精品综合一区二区 | 69av精品久久久久久| 成人美女网站在线观看视频| 美女大奶头视频| 给我免费播放毛片高清在线观看| 亚洲,欧美,日韩| 亚洲av成人av| 如何舔出高潮| 日韩精品中文字幕看吧| 成人永久免费在线观看视频| 国产精品无大码| 毛片女人毛片| 亚洲欧美日韩东京热| 日本 av在线| 日韩 亚洲 欧美在线| 精品一区二区三区人妻视频| 岛国在线免费视频观看| 人妻丰满熟妇av一区二区三区| 97人妻精品一区二区三区麻豆| 啪啪无遮挡十八禁网站| 又黄又爽又刺激的免费视频.| 日韩欧美国产一区二区入口| 中国美女看黄片| or卡值多少钱| 狂野欧美白嫩少妇大欣赏| 一个人看的www免费观看视频| 有码 亚洲区| 国产精品永久免费网站| 欧美又色又爽又黄视频| 久久久久九九精品影院| 久久精品国产亚洲av涩爱 | 国产探花在线观看一区二区| 一区福利在线观看| 在线看三级毛片| 免费观看在线日韩| 女人十人毛片免费观看3o分钟| 国产激情偷乱视频一区二区| 色吧在线观看| 桃色一区二区三区在线观看| 国产极品精品免费视频能看的| 狠狠狠狠99中文字幕| a级一级毛片免费在线观看| 久久婷婷人人爽人人干人人爱| 中文字幕精品亚洲无线码一区| 熟女电影av网| av视频在线观看入口| 波多野结衣巨乳人妻| 国产精品国产三级国产av玫瑰| 精品午夜福利视频在线观看一区| 亚洲专区中文字幕在线| 久久天躁狠狠躁夜夜2o2o| 成人永久免费在线观看视频| 九色成人免费人妻av| 久久精品国产鲁丝片午夜精品 | 最新在线观看一区二区三区| 日韩中文字幕欧美一区二区| 一区二区三区四区激情视频 | 别揉我奶头 嗯啊视频| 国内精品一区二区在线观看| 久久精品夜夜夜夜夜久久蜜豆| 熟女人妻精品中文字幕| 三级男女做爰猛烈吃奶摸视频| 国产免费av片在线观看野外av| 久久久久久久久久黄片| 老司机午夜福利在线观看视频| 精品人妻偷拍中文字幕| 禁无遮挡网站| 亚洲成人免费电影在线观看| 一区二区三区四区激情视频 | 成人av一区二区三区在线看| 国产精品久久视频播放| 日本熟妇午夜| 成人特级av手机在线观看| 免费在线观看日本一区| 五月玫瑰六月丁香| 精品久久久久久久久久久久久| 一区福利在线观看| 人妻久久中文字幕网| 人人妻,人人澡人人爽秒播| 精品欧美国产一区二区三| 国产乱人伦免费视频| 精品久久国产蜜桃| 国产白丝娇喘喷水9色精品| 国产精品日韩av在线免费观看| 欧美一级a爱片免费观看看| 国产精品久久久久久精品电影| 韩国av在线不卡| 国产精品久久久久久久电影| 日本色播在线视频| 亚洲狠狠婷婷综合久久图片| 精品久久久久久久久久免费视频| 精品国产三级普通话版| 男人狂女人下面高潮的视频| 国产乱人视频| 国产精华一区二区三区| 免费av不卡在线播放| 一区二区三区四区激情视频 | 亚洲av熟女| 日日摸夜夜添夜夜添av毛片 | 午夜视频国产福利| 免费不卡的大黄色大毛片视频在线观看 | 久久国产乱子免费精品| 在线看三级毛片| 在线观看av片永久免费下载| 一本一本综合久久| av.在线天堂| 一个人观看的视频www高清免费观看| 久久久久免费精品人妻一区二区| 国产精品三级大全| 亚洲在线自拍视频| 老司机午夜福利在线观看视频| 久久亚洲真实| 欧美日韩国产亚洲二区| 欧美精品国产亚洲| 99久久成人亚洲精品观看| 97人妻精品一区二区三区麻豆| 热99re8久久精品国产| 国产一级毛片七仙女欲春2| 亚州av有码| 一个人观看的视频www高清免费观看| 窝窝影院91人妻| 亚洲国产欧洲综合997久久,| 久久国产精品人妻蜜桃| 日日撸夜夜添| 又爽又黄a免费视频| 久久精品国产亚洲av香蕉五月| 校园春色视频在线观看| 亚洲精品日韩av片在线观看| 亚洲精品影视一区二区三区av| 欧美xxxx性猛交bbbb| 国产亚洲精品久久久久久毛片| videossex国产| 看免费成人av毛片| 欧美精品国产亚洲| 欧美日韩中文字幕国产精品一区二区三区| 可以在线观看的亚洲视频| 国产午夜福利久久久久久| 国产高清有码在线观看视频| 波多野结衣巨乳人妻| 亚洲熟妇中文字幕五十中出| 久久草成人影院| 久久人人精品亚洲av| 久久草成人影院| 18禁黄网站禁片免费观看直播| 老司机福利观看| 久久婷婷人人爽人人干人人爱| 亚洲天堂国产精品一区在线| 亚洲国产欧洲综合997久久,| 成人美女网站在线观看视频| 婷婷六月久久综合丁香| 一级黄片播放器| 国产乱人伦免费视频| 在线观看午夜福利视频| 99久久九九国产精品国产免费| 免费搜索国产男女视频| 亚洲专区国产一区二区| 国产精品久久久久久av不卡| 精品福利观看| 在线观看午夜福利视频| 国产熟女欧美一区二区| 国模一区二区三区四区视频| 久久久久国产精品人妻aⅴ院| 亚洲av熟女| 色5月婷婷丁香| 欧美日韩中文字幕国产精品一区二区三区| 国产探花在线观看一区二区| 亚洲av成人av| 可以在线观看毛片的网站| 麻豆国产97在线/欧美| 欧美一级a爱片免费观看看| 国产黄a三级三级三级人| 久久久精品大字幕| 精华霜和精华液先用哪个| 成熟少妇高潮喷水视频| 久久这里只有精品中国| 精品久久久久久久久久久久久| 国产91精品成人一区二区三区| 高清在线国产一区| 久久久久久伊人网av| 中文在线观看免费www的网站| 91麻豆精品激情在线观看国产| 真实男女啪啪啪动态图| 国产一区二区激情短视频| 美女被艹到高潮喷水动态| 亚洲av日韩精品久久久久久密| 18+在线观看网站| 18禁在线播放成人免费| 久久久久免费精品人妻一区二区| 舔av片在线| 中文资源天堂在线| 国产精品女同一区二区软件 | 国产 一区精品| 亚洲男人的天堂狠狠| 在线免费观看的www视频| 免费在线观看日本一区| 亚洲最大成人av| 伦精品一区二区三区| 嫩草影院新地址| 伦理电影大哥的女人| 九色成人免费人妻av| 性色avwww在线观看| 国产视频一区二区在线看| 久久久久九九精品影院| 夜夜看夜夜爽夜夜摸| 久久久国产成人免费| 在线观看av片永久免费下载| 精品人妻熟女av久视频| 在线观看av片永久免费下载| xxxwww97欧美| 色在线成人网| 精品久久久久久成人av| 国产高清激情床上av| 级片在线观看| 日本精品一区二区三区蜜桃| 亚洲欧美日韩高清在线视频| 国产一区二区亚洲精品在线观看| 看黄色毛片网站| 观看美女的网站| 看免费成人av毛片| 亚洲黑人精品在线| av天堂中文字幕网| 2021天堂中文幕一二区在线观| bbb黄色大片| 国产真实伦视频高清在线观看 | 身体一侧抽搐| 久99久视频精品免费| 亚洲精品一区av在线观看| 成人鲁丝片一二三区免费| 亚洲av.av天堂| 欧美极品一区二区三区四区| 午夜福利欧美成人| 中文在线观看免费www的网站| 国产国拍精品亚洲av在线观看| 国产又黄又爽又无遮挡在线| 高清日韩中文字幕在线| 大又大粗又爽又黄少妇毛片口| 2021天堂中文幕一二区在线观| 最近最新免费中文字幕在线| 国产乱人伦免费视频| 久久国内精品自在自线图片| 波多野结衣高清无吗| 女人被狂操c到高潮| 丰满的人妻完整版| 小蜜桃在线观看免费完整版高清| 岛国在线免费视频观看| 999久久久精品免费观看国产| 两人在一起打扑克的视频| 在线观看一区二区三区| 免费黄网站久久成人精品| 97超视频在线观看视频| 亚洲av中文字字幕乱码综合| 国产主播在线观看一区二区| 欧美在线一区亚洲| 国语自产精品视频在线第100页| 午夜免费激情av| 国产高清视频在线播放一区| 一区二区三区免费毛片| 国产女主播在线喷水免费视频网站 | 精品99又大又爽又粗少妇毛片 | 九九爱精品视频在线观看| 99热网站在线观看| 日韩一区二区视频免费看| 搡老妇女老女人老熟妇| 国产老妇女一区| 国产精品美女特级片免费视频播放器| 国产男靠女视频免费网站| 搡老妇女老女人老熟妇| 亚洲天堂国产精品一区在线|