• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時(shí)代個(gè)人信息權(quán)利法治化研究

    2022-11-24 10:33:54楊明勳陳逸飛
    關(guān)鍵詞:人工智能信息

    楊明勳, 陳逸飛

    (1.中山大學(xué) 粵港澳發(fā)展研究院,廣東 廣州 510000;2.安徽財(cái)經(jīng)大學(xué) 法學(xué)院,安徽 蚌埠 233030)

    伴隨著互聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展,人類歷經(jīng)網(wǎng)絡(luò)社會(huì)時(shí)代、大數(shù)據(jù)時(shí)代再到人工智能時(shí)代,這三者構(gòu)成了21世紀(jì)第2個(gè)十年的時(shí)代標(biāo)簽。技術(shù)產(chǎn)品日新月異的同時(shí),潛藏著風(fēng)險(xiǎn)加劇的危機(jī),尤其在憲法所保障的個(gè)人獨(dú)立自決的人格利益以及安寧安全利益,正不斷被科技產(chǎn)品侵蝕。人工智能時(shí)代所帶來的方便快捷恰是以人工智能技術(shù)對(duì)個(gè)人生活滲透上為條件,是人類以“支付”個(gè)人信息為對(duì)價(jià)而換取的。人工智能技術(shù)不成熟和配套制度缺失的背景下,個(gè)人信息保護(hù)和利用問題也深受社會(huì)各界的重視。社會(huì)對(duì)個(gè)人信息的關(guān)注大多是從個(gè)人隱私維度考慮,重視人工智能時(shí)代個(gè)人安全問題。法學(xué)界內(nèi)對(duì)個(gè)人信息的關(guān)注更多則是從權(quán)利角度出發(fā),出現(xiàn)了個(gè)人信息權(quán)利、個(gè)人數(shù)據(jù)權(quán)利、個(gè)人信息權(quán)等提法,并有加快個(gè)人信息保護(hù)立法的聲音。2021年6月10日《中華人民共和國數(shù)據(jù)安全法》在人大常委會(huì)通過,并于2021年9月1日開始實(shí)施。《中華人民共和國數(shù)據(jù)安全法》第一條規(guī)定,“保障數(shù)據(jù)安全,促進(jìn)數(shù)據(jù)開發(fā)利用,保護(hù)個(gè)人、組織的合法權(quán)益”。《中華人民共和國個(gè)人信息保護(hù)法》經(jīng)十三屆全國人大常委會(huì)第三十次會(huì)議通過,將于2021年11月1日起施行。上述兩部重要法律均是貫徹落實(shí)習(xí)近平法治思想的鮮活立法實(shí)踐,回應(yīng)了時(shí)代關(guān)切?!睹穹ǖ洹返?11條規(guī)定自然人個(gè)人信息受法律保護(hù),2021年4月29日公布的《個(gè)人信息保護(hù)法(草案二次審議稿)》第2條使用個(gè)人信息權(quán)益作表述。從保護(hù)層級(jí)上看,權(quán)利化因體系健全、內(nèi)容豐富,對(duì)個(gè)人信息保護(hù)大有裨益。本文從個(gè)人信息權(quán)利保護(hù)的角度出發(fā),探索人工智能領(lǐng)域中個(gè)人信息如何保護(hù)的問題,把要研究的內(nèi)容和特色或創(chuàng)新簡短介紹。

    一、人工智能與個(gè)人信息權(quán)利保護(hù)

    1.人工智能時(shí)代個(gè)人信息的商業(yè)化利用

    人工智能的本質(zhì)是對(duì)人的思維信息過程的模擬。它可以按照設(shè)定的程序代替人獨(dú)自處理事務(wù),例如加工生產(chǎn)、清潔掃地、行車駕駛等。人工智能運(yùn)行的邏輯原理是模仿人的思維過程發(fā)出行動(dòng)指令,而行動(dòng)目標(biāo)也是服務(wù)于人。這意味著人工智能需要編入、收集大量的個(gè)人信息支撐功能的有效運(yùn)行。人工智能越智能,就越需要海量的個(gè)人信息作為支撐,同時(shí)也意味著其處理個(gè)人信息能力越強(qiáng)[1]。個(gè)人信息對(duì)人工智能而言,既是運(yùn)行基礎(chǔ),也是處理對(duì)象。

    所謂“人工”,即表明人工智能歸根結(jié)底是人類創(chuàng)造活動(dòng)的產(chǎn)物,系經(jīng)特定的科研人士研究、設(shè)計(jì)、制作。在這一過程中,為追求極度的“智能”,科研人員需要收集大量的他人信息,以之為樣本數(shù)據(jù),設(shè)計(jì)相應(yīng)的算法程序,注入人工智能中。此時(shí),個(gè)人信息通過數(shù)據(jù)形式被存儲(chǔ)在人工智能中,而科研人員因擁有對(duì)人工智能的財(cái)產(chǎn)權(quán)利和知識(shí)產(chǎn)權(quán)而可以支配、控制所承載的個(gè)人信息。如果研發(fā)中獲得個(gè)人信息的過程包含授權(quán),那么這些個(gè)人信息當(dāng)然地為科研人員支配。在將人工智能推向市場后,人工智能逐漸具備產(chǎn)品屬性,普遍適用性是人工智能產(chǎn)品化的前提。此時(shí),雖然個(gè)人信息因人工智能產(chǎn)權(quán)為企業(yè)家所擁有而被企業(yè)家掌控,但為了產(chǎn)品銷路,此類人工智能也不再僅面向研發(fā)時(shí)某些特定信息源主體,而是面向更大市場主體,因此在研發(fā)人工智能中會(huì)將收集的個(gè)人信息技術(shù)化處理,從中抽象出一般人的行為模式,再轉(zhuǎn)為基本數(shù)據(jù),以適用于一般大眾。這時(shí)的個(gè)人信息已經(jīng)無法與特定個(gè)人建立聯(lián)系。

    人工智能的運(yùn)行需要不斷讀取服務(wù)對(duì)象的個(gè)人信息。人工智能的便捷性體現(xiàn)在所具備的人與物之間搭建互聯(lián)平臺(tái)的功能。人可以通過人工智能對(duì)外界自然物施加物理性影響,這需要建立在人工智能與服務(wù)對(duì)象之間良好互動(dòng)的基礎(chǔ)上?;?dòng)的本質(zhì)在于信息的溝通,對(duì)方需要知道你的所思所想所欲。人工智能具備模擬人的思維的優(yōu)勢,能夠在與人的互動(dòng)中不斷讀取、分析服務(wù)對(duì)象的生理特征、行為習(xí)慣、興趣愛好等,形成個(gè)人數(shù)據(jù)并存儲(chǔ),再利用算法技術(shù)進(jìn)行推算,作出反應(yīng),以滿足服務(wù)對(duì)象的需求。人工智能有強(qiáng)大的分析演算能力,被服務(wù)對(duì)象無須直接將自己的信息以列清單的方式“告知”人工智能,人工智能亦可通過被服務(wù)對(duì)象的操作跡象分析個(gè)人特征,讀取個(gè)人信息,按照已設(shè)定的程序提供服務(wù),甚至可以提前預(yù)判。而人工智能讀取的個(gè)人信息越多,其分析演算能力就越強(qiáng)大,也越被服務(wù)對(duì)象所青睞。

    人工智能的創(chuàng)新發(fā)展依托于多元豐富的個(gè)人信息。人工智能的進(jìn)步受兩大因素的影響,一是技術(shù)的更新,二是個(gè)人信息的“喂養(yǎng)”。技術(shù)更新可以提升人工智能的交互能力、應(yīng)激反應(yīng)能力、處理信息能力、演算能力,降低出錯(cuò)率,提高靈敏度,在物理形態(tài)上進(jìn)行創(chuàng)新。而擁有多元豐富的個(gè)人信息,研發(fā)者可以根據(jù)不同主體類型的個(gè)人信息設(shè)計(jì)出符合需求的產(chǎn)品,可以根據(jù)帶有行為習(xí)慣含義的個(gè)人信息設(shè)計(jì)產(chǎn)品,可以根據(jù)有關(guān)興趣愛好的個(gè)人信息設(shè)計(jì)產(chǎn)品等。人工智能即便交付個(gè)人使用,也離不開后臺(tái)管理的操控。為確保產(chǎn)品的適用性,后臺(tái)管理者需要對(duì)人工智能處理信息過程監(jiān)控、評(píng)估,收集人工智能不能處理的信息,在提升技術(shù)的基礎(chǔ)上修補(bǔ)人工智能的漏洞。

    2.權(quán)利意識(shí)高漲下的個(gè)人信息人格化

    信息是人們感知和適應(yīng)外部世界過程中作出反應(yīng)的內(nèi)容和名稱,即信息記載人的外部表現(xiàn),記錄人內(nèi)心的世界。人工智能服務(wù)于人,對(duì)人工智能發(fā)展而言,個(gè)人信息具有極高的商業(yè)價(jià)值和經(jīng)濟(jì)屬性。人工智能需要大量個(gè)人信息的“投喂”,這些個(gè)人信息可以成為產(chǎn)品經(jīng)理研究市場需求的素材,利用人工智能技術(shù)向特定主體投放產(chǎn)品和服務(wù)信息,在個(gè)人做出消費(fèi)決策前進(jìn)行推薦,引導(dǎo)他們購買投放的產(chǎn)品和服務(wù)信息??梢哉f,個(gè)人信息就相當(dāng)于生產(chǎn)原料,取得個(gè)人信息就等于掌控出擊市場的主動(dòng)權(quán)。個(gè)人可以通過上傳個(gè)人信息來獲得人工智能企業(yè)支付的對(duì)價(jià)。與此同時(shí),社會(huì)又處在個(gè)人權(quán)利保護(hù)意識(shí)陡增大潮中,個(gè)人信息因能與特定主體建立聯(lián)系而又與人格相關(guān),進(jìn)而喚起信息制造者對(duì)其進(jìn)行支配和控制的利益訴求。

    在我國,主張對(duì)個(gè)人信息進(jìn)行私權(quán)保護(hù)經(jīng)歷過從隱私權(quán)到財(cái)產(chǎn)權(quán)再到人格權(quán)的過程。早期對(duì)個(gè)人信息的理解多建立于個(gè)人隱私不受干擾的角度,將個(gè)人信息劃入隱私權(quán)保護(hù)范圍內(nèi),如王澤鑒等學(xué)者認(rèn)為:“隱私權(quán)包括保護(hù)私生活不受干擾及信息自主兩個(gè)生活領(lǐng)域?!盵2]隨著互聯(lián)網(wǎng)的普及,個(gè)人信息大量充斥在互聯(lián)網(wǎng)上,從私密敏感到公開共享,能作為商業(yè)化使用。從財(cái)產(chǎn)權(quán)角度來解釋個(gè)人信息的地位,物化個(gè)人信息,試圖用產(chǎn)權(quán)觀念和對(duì)價(jià)交易的經(jīng)濟(jì)學(xué)思維來定位個(gè)人信息。之后,由于侵犯個(gè)人信息事例時(shí)有發(fā)生,個(gè)人信息所包含的人格尊嚴(yán)、人格自由等人格利益得到關(guān)注。個(gè)人信息因具有可識(shí)別性,信息的類型也不局限于私密信息,主張納入人格權(quán)保護(hù)成為主流的呼聲,如王利明提出,要在未來的民法典中將個(gè)人信息權(quán)作為具體的人格權(quán)進(jìn)行規(guī)定[3]。

    個(gè)人信息歸根結(jié)底是外界與信息產(chǎn)生者交流的紐帶,借助個(gè)人信息可以進(jìn)入信息產(chǎn)生者的主觀世界,進(jìn)而影響其身體行動(dòng)。顯然,無論是隱私權(quán)、財(cái)產(chǎn)權(quán)還是人格權(quán),主張保護(hù)信息的本質(zhì)實(shí)質(zhì)上還是在保護(hù)個(gè)人基本人權(quán)。個(gè)人信息的核心特征在于可識(shí)別性,即個(gè)人信息與信息產(chǎn)生者之間存在緊密的聯(lián)系,獲知個(gè)人信息后可以與某個(gè)特定主體聯(lián)系起來,尤其是具有獨(dú)特性、唯一性的隱秘信息,更容易確定某個(gè)特定主體。因此信息產(chǎn)生者需要控制、支配自己的信息,并決定信息用于何處,否則,即有可能因信息的泄露使自己陷入不利的境地。正如個(gè)人信息自決權(quán)理論所主張的那樣,“當(dāng)事人的自由決定自己的個(gè)人信息上承載著何種價(jià)值”[4],個(gè)人信息私權(quán)化保護(hù)的核心在于個(gè)人對(duì)所有反映自身信息的“行為痕跡”控制的必要性。

    3.人工智能時(shí)代個(gè)人信息權(quán)利失格風(fēng)險(xiǎn)

    良好的人工智能在收集和分析個(gè)人信息上必然具備精準(zhǔn)化、全面化、簡便化的特性。首先,人工智能收集的個(gè)人信息要與信息產(chǎn)生者高度匹配,即有較高的可識(shí)別性,通過該信息能夠精準(zhǔn)定位到某特定主體。其次,人工智能要收集到與其功能發(fā)揮相關(guān)的所有者的個(gè)人信息,并能全方位地分析和處理,給出周全、貼切的反應(yīng)。最后,人工智能在收集和分析個(gè)人信息的過程中要滿足簡便性,無需使用者經(jīng)過一系列復(fù)雜的操作,也無須借助其他設(shè)備,通過單設(shè)備與人的互動(dòng)收集分析。人工智能在造福人類的同時(shí)也讓人類面臨由社會(huì)所制造的風(fēng)險(xiǎn)的威脅?!叭斯ぶ悄軙r(shí)代是一個(gè)高度技術(shù)化的社會(huì),科學(xué)技術(shù)的高度發(fā)展既是風(fēng)險(xiǎn)社會(huì)的特征,也是風(fēng)險(xiǎn)社會(huì)的成因”[5]。人工智能對(duì)個(gè)人信息需求與個(gè)人信息私權(quán)屬性的沖突阻礙了人工智能時(shí)代發(fā)展和個(gè)人信息權(quán)利的順利磨合。人工智能技術(shù)擁有者合規(guī)使用個(gè)人信息意識(shí)的淡漠與信息產(chǎn)生者對(duì)自身信息重要性的忽視加劇了個(gè)人信息權(quán)利失格風(fēng)險(xiǎn)。

    第一,個(gè)人信息自決權(quán)落空。個(gè)人信息權(quán)利是信息產(chǎn)生者對(duì)自我信息的控制權(quán)利,控制的首要表現(xiàn)即為對(duì)信息使用的決定權(quán)利。以往,對(duì)個(gè)人信息的收集主要采用默認(rèn)授權(quán)的模式,只要使用該智能產(chǎn)品,如注冊成為互聯(lián)網(wǎng)產(chǎn)品會(huì)員,便默認(rèn)接受互聯(lián)網(wǎng)企業(yè)對(duì)個(gè)人在該產(chǎn)品中記錄的身份信息、操作留下的痕跡信息收集和使用。目前人工智能在收集個(gè)人信息過程中雖然已改采事前同意模式,但較少做到以明確方式載明個(gè)人信息授權(quán)提示條款,且將同意授權(quán)與使用產(chǎn)品進(jìn)行捆綁,只有勾選已閱讀并同意包含個(gè)人信息授權(quán)使用在內(nèi)的服務(wù)協(xié)議相關(guān)選項(xiàng)后,才能進(jìn)行下一步操作,使用該產(chǎn)品,不同意則意味著無法使用。因此,個(gè)人為使用該人工智能產(chǎn)品不得不讓渡信息權(quán)利。個(gè)人無法決定何種信息可以被收集和使用,何種信息不得被收集和使用,相當(dāng)于讓渡了一切決定權(quán),人工智能可以根據(jù)自己的需要收集個(gè)人信息。

    第二,個(gè)人信息知情權(quán)落空。對(duì)個(gè)人信息收集和使用的知情是充分行使個(gè)人信息權(quán)利的前提。人工智能在收集、使用個(gè)人信息過程中的隱秘性使得信息產(chǎn)生者對(duì)個(gè)人信息何時(shí)被收集、何種信息被收集、收集后如何使用、用在何處、收集的目的毫不知情。雖然2017年出臺(tái)的《網(wǎng)絡(luò)安全法》第四十一條互聯(lián)網(wǎng)領(lǐng)域?qū)€(gè)人信息知情權(quán)做出了明確規(guī)定,要求網(wǎng)絡(luò)運(yùn)營者“公開”“明示”“經(jīng)被收集者同意”,并不得違反法律法規(guī)及雙方的約定使用個(gè)人信息,但該條款執(zhí)行的現(xiàn)實(shí)情況與法律預(yù)設(shè)情況存在脫節(jié),因服務(wù)協(xié)議系格式條款,使用者幾乎無法就決定個(gè)人信息的用途及收集方式與經(jīng)營者達(dá)成約定。并且,使用者對(duì)自己授權(quán)給經(jīng)營者使用個(gè)人信息是知情的,但對(duì)經(jīng)營者將個(gè)人信息用于何處是不知情的?;ヂ?lián)網(wǎng)領(lǐng)域尚且如此,其他人工智能技術(shù)領(lǐng)域還無統(tǒng)一的上位法對(duì)個(gè)人信息知情權(quán)保障做出規(guī)定。

    第三,個(gè)人信息處分權(quán)落空。人工智能時(shí)代,個(gè)人信息因是營銷、推廣、產(chǎn)品運(yùn)行、產(chǎn)品升級(jí)的主要“原料”而倍受重視。個(gè)人信息雖是抽象、無形的,但它可被數(shù)據(jù)記載,因而通過遷移數(shù)據(jù)、分享數(shù)據(jù)可以實(shí)現(xiàn)個(gè)人信息的轉(zhuǎn)讓,成為交易客體,進(jìn)而具備經(jīng)濟(jì)屬性。信息產(chǎn)生者對(duì)自身信息本應(yīng)有處分的權(quán)利,這種處分可以是事實(shí)處分,如上傳、修改、銷毀,也可以是法律處分,如買賣、置換、抵押等。但現(xiàn)階段,人工智能與信息產(chǎn)生者之間就信息使用達(dá)成的服務(wù)協(xié)議(有的稱為隱私政策)中較少提及含有處分權(quán)利的內(nèi)容,信息產(chǎn)生者在同意服務(wù)協(xié)議的同時(shí)就已讓渡本人對(duì)留在人工智能產(chǎn)品上信息的權(quán)利。信息承載于人工智能的數(shù)據(jù)中,信息產(chǎn)生者也缺乏技術(shù)手段處分自我的信息。另外,個(gè)人信息對(duì)人工智能運(yùn)營者而言也相當(dāng)于商業(yè)秘密,出于市場競爭考慮,人工智能運(yùn)營者在收集到個(gè)人信息后不太可能允許信息產(chǎn)生者將帶有個(gè)人信息的數(shù)據(jù)再處分。因此,處分權(quán)利在服務(wù)協(xié)議中被淡化。目前,多數(shù)人工智能的服務(wù)協(xié)議(或稱隱私權(quán)政策)還是保留個(gè)人事實(shí)處分的權(quán)利,如淘寶客戶端、微信客戶端,在法律處分保障這一塊幾乎處于空白。

    人工智能時(shí)代,人們在與人工智能互動(dòng)中享受著科技的便利,也在互動(dòng)中面臨個(gè)人信息權(quán)利失格的風(fēng)險(xiǎn)。如AI換臉技術(shù)在滿足網(wǎng)民娛樂需求的同時(shí)侵犯了個(gè)人肖像權(quán)、名譽(yù)權(quán)。公民行使個(gè)人信息權(quán)利的需求和意識(shí)已經(jīng)跟不上人工智能收集和使用個(gè)人信息技術(shù)的進(jìn)步。個(gè)人信息權(quán)利失格帶來的不僅僅是個(gè)人隱私危機(jī)、安全危機(jī),更深層次的是基本人權(quán)保障危機(jī),信息與人格利益相關(guān),喪失對(duì)信息的控制權(quán)利,無異于喪失人格的自由。技術(shù)終歸由人控制,個(gè)人信息看似由人工智能控制,但最終會(huì)回到人工智能運(yùn)營者手中。將自我的內(nèi)心想法、行為活動(dòng)交由人工智能掌握等同于交由他人掌握,然而目前他人如何使用這些信息以及保證這些信息的安全尚不確定,這恰是個(gè)人信息權(quán)利失格最大的風(fēng)險(xiǎn)。

    二、個(gè)人信息保護(hù)的立法考評(píng)

    1.個(gè)人信息權(quán)利與個(gè)人數(shù)據(jù)權(quán)利

    人工智能時(shí)代,個(gè)人信息以數(shù)據(jù)為載體,被數(shù)字指令所記載和存儲(chǔ),通過對(duì)數(shù)據(jù)的編譯得出具體的信息內(nèi)容。因數(shù)據(jù)包含個(gè)人信息,對(duì)個(gè)人數(shù)據(jù)權(quán)利的立法也很多。1980年歐洲經(jīng)濟(jì)合作與發(fā)展組織(OECD)發(fā)布的《隱私保護(hù)與個(gè)人數(shù)據(jù)跨境流動(dòng)的指導(dǎo)方針》將個(gè)人數(shù)據(jù)定義為“與識(shí)別或可識(shí)別的個(gè)人(數(shù)據(jù)主體)有關(guān)的任何信息”。德國1990年《聯(lián)邦數(shù)據(jù)保護(hù)法》同樣定義為“關(guān)于個(gè)人或已識(shí)別、能識(shí)別的個(gè)人(數(shù)據(jù)主體)的客觀情況的信息”。英國1998年《數(shù)據(jù)保護(hù)法》則定義為“由一個(gè)活著的人的信息組成的數(shù)據(jù)”。歐盟2016年4月27日通過的《一般數(shù)據(jù)保護(hù)條例》也采用1980年《指導(dǎo)方針》的定義,在其第15條至第22條中具體規(guī)定了個(gè)人數(shù)據(jù)權(quán)利的類型,包括訪問權(quán)、更正權(quán)、被遺忘權(quán)、限制處理權(quán)、數(shù)據(jù)攜帶權(quán)等。2020年12月15日歐盟推出《數(shù)字服務(wù)法》和《數(shù)字市場法》,從數(shù)據(jù)使用者的權(quán)利義務(wù)角度來保障個(gè)人數(shù)據(jù)安全?!稊?shù)字服務(wù)法》加強(qiáng)了在線平臺(tái)對(duì)數(shù)據(jù)訪問及推薦算法的透明度,并依托新設(shè)立的歐洲數(shù)字服務(wù)委員會(huì)建立應(yīng)對(duì)網(wǎng)絡(luò)復(fù)雜空間的監(jiān)管機(jī)構(gòu)?!稊?shù)字市場法》創(chuàng)設(shè)了“守門人”概念,這個(gè)“守門人”指向掌握如搜索引擎、社交網(wǎng)絡(luò)等平臺(tái)服務(wù),充當(dāng)著企業(yè)連接數(shù)據(jù)主體的門戶,并規(guī)定了守門人向企業(yè)提供所獲得數(shù)據(jù)的權(quán)限和禁止性行為,以加強(qiáng)對(duì)大型門戶平臺(tái)數(shù)據(jù)使用的監(jiān)管。

    考察發(fā)現(xiàn),雖然歐洲國家和歐盟對(duì)個(gè)人數(shù)據(jù)的定義都含有信息并通過保護(hù)數(shù)據(jù)權(quán)來保護(hù)個(gè)人信息,但在我國法域內(nèi),個(gè)人信息權(quán)利與個(gè)人數(shù)據(jù)權(quán)利仍有較大差別。首先,數(shù)據(jù)和信息是兩種不同的概念。我國目前的法律層面,包括2021年9月生效的《數(shù)據(jù)保護(hù)法》,其中并沒有個(gè)人數(shù)據(jù)這一術(shù)語,僅稱為數(shù)據(jù);故數(shù)據(jù)權(quán)利主體既可以是自然人,也可以是法人、其他組織。而我國《網(wǎng)絡(luò)安全法》有專門對(duì)個(gè)人信息進(jìn)行規(guī)定并使用個(gè)人信息這一概念;其次,《民法典》第111條規(guī)定了自然人信息權(quán),第127條又規(guī)定了法律保護(hù)數(shù)據(jù)。顯然,立法者有意區(qū)分個(gè)人信息權(quán)利和數(shù)據(jù)權(quán)利,并且不同于上述國家和組織將個(gè)人數(shù)據(jù)視同于個(gè)人信息來保護(hù)。按照《民法典》第127條的規(guī)定,數(shù)據(jù)的法律地位同網(wǎng)絡(luò)虛擬財(cái)產(chǎn)一般,被視為“一種特殊類型的物”[6],具有財(cái)產(chǎn)性質(zhì)。我國的數(shù)據(jù)權(quán)利在法律性質(zhì)上更多指向財(cái)產(chǎn)性權(quán)利。再次,個(gè)人信息的價(jià)值在于可識(shí)別性,可以在信息與特定主體之間建立聯(lián)系。而數(shù)據(jù)本身沒有價(jià)值,其價(jià)值和功能的發(fā)揮完全取決于數(shù)據(jù)分析技術(shù)。只有借助數(shù)據(jù)分析技術(shù),才能解讀出數(shù)據(jù)中的內(nèi)容。最后,個(gè)人信息也不總以數(shù)據(jù)形式體現(xiàn),數(shù)據(jù)是聯(lián)結(jié)諸如機(jī)器設(shè)備與個(gè)人信息的橋梁,使用機(jī)器設(shè)備獲取個(gè)人信息時(shí),需要借助數(shù)據(jù),按照數(shù)據(jù)處理工具將信息轉(zhuǎn)換為數(shù)據(jù),再將數(shù)據(jù)編譯成個(gè)人信息。在其他場合中,個(gè)人信息還以字母、語言、肢體等形式表達(dá),可以記載于書面,隨著人工智能技術(shù)的發(fā)展,未來可能出現(xiàn)更多記載個(gè)人信息的形式,因此,數(shù)據(jù)僅是個(gè)人信息的載體之一,用個(gè)人數(shù)據(jù)權(quán)利無法支撐起個(gè)人信息權(quán)利法律適用架構(gòu)。

    2.個(gè)人信息權(quán)利與隱私權(quán)保護(hù)

    將個(gè)人信息權(quán)利納入隱私權(quán)保護(hù)模式的做法源于美國的“信息隱私權(quán)”理論。在美國的法律中,隱私權(quán)作為一項(xiàng)公民基本權(quán)利代表著個(gè)人自由和個(gè)人獨(dú)處權(quán)利,并被納入普通法體系中。美國聯(lián)邦最高法院1977年華倫訴羅(Whalen v.Roe)一案的判決則正式將信息隱私權(quán)從理論帶入到司法實(shí)踐中,用來保護(hù)個(gè)人信息處理與流通領(lǐng)域中的個(gè)人隱私,在很多場合下,“隱私保護(hù)與個(gè)人信息保護(hù)有相同的含義”[7]。個(gè)人信息的價(jià)值在于可識(shí)別性,通過某種數(shù)據(jù)、圖像、聲音、符號(hào)等傳達(dá)出的含義,這樣的含義即是信息,他人可以通過這類信息與某個(gè)特定的主體建立聯(lián)系。當(dāng)聯(lián)系程度越高,透過這類信息能感知該特定主體的身份特征、方位地址、行為習(xí)慣、興趣愛好、行動(dòng)內(nèi)容等時(shí),就越有可能落入私密信息范疇。探知、公開、使用這樣的私密信息,就進(jìn)入隱私權(quán)保護(hù)的范圍??梢哉f,個(gè)人信息保護(hù)與隱私權(quán)保護(hù)存在交叉[8],但不能僅以保護(hù)隱私權(quán)的方式代替?zhèn)€人信息保護(hù)和合理利用的法律機(jī)制。

    首先,除了私密信息以外,還有其它類型的個(gè)人信息,甚至具有一定的經(jīng)濟(jì)價(jià)值,需要共享才能實(shí)現(xiàn)信息的價(jià)值。如互聯(lián)網(wǎng)企業(yè)收集特定主體購物偏好的信息并利用算法技術(shù),為該主體投放對(duì)應(yīng)的購物廣告。一方面,互聯(lián)網(wǎng)企業(yè)利用這種“類似商品”推薦可以向賣方收取中介費(fèi)、廣告費(fèi),提高旗下平臺(tái)的點(diǎn)擊量,促進(jìn)交易的達(dá)成;另一方面,購物者也需要平臺(tái)能準(zhǔn)確為其推送所感興趣的商品信息,減少不必要的檢索時(shí)間。這類信息若歸入私密,給予隱私權(quán)地位,既不合相關(guān)主體之意,徒增麻煩,也有悖大數(shù)據(jù)時(shí)代精準(zhǔn)、快捷、效率的目標(biāo)追求。值得一提的是,有學(xué)者提出個(gè)人信息財(cái)產(chǎn)權(quán)利概念,認(rèn)為個(gè)人信息是一種對(duì)個(gè)人信息的商業(yè)價(jià)值進(jìn)行支配的權(quán)利[9]。

    其次,隱私權(quán)被作為一項(xiàng)具體人格權(quán)規(guī)定于私法領(lǐng)域中,出于維護(hù)個(gè)人生活安寧的價(jià)值取向[10],而個(gè)人信息入法注重的特定主體對(duì)能夠反映自身信息的支配,強(qiáng)調(diào)保護(hù)的意義不在于限制利用,而是合法合規(guī)利用。大數(shù)據(jù)技術(shù)發(fā)展恰是以數(shù)據(jù)應(yīng)用分析為基石,目的是收集個(gè)人信息,科學(xué)利用個(gè)人信息為互聯(lián)網(wǎng)經(jīng)濟(jì)的發(fā)展、生產(chǎn)水平的提高、國家治理能力現(xiàn)代化助力,需要借助個(gè)人上網(wǎng)留下的痕跡數(shù)據(jù)分析背后的個(gè)人信息,進(jìn)而統(tǒng)計(jì)、分析并預(yù)測未來。人工智能的發(fā)展需要個(gè)人信息,對(duì)個(gè)人信息保護(hù)更應(yīng)注重信息治理,從企業(yè)、個(gè)人、國家出發(fā)構(gòu)建多方共治的格局[11]。

    最后,隱私權(quán)是一種消極的、防御型的權(quán)利[12]。隱私權(quán)保護(hù)是一種事后救濟(jì)方式,觸發(fā)隱私權(quán)保護(hù)的前提是權(quán)利受侵害,在權(quán)利未被侵害時(shí),個(gè)人無法主張行使隱私權(quán)來干預(yù)別人的行動(dòng)。而作為人工智能時(shí)代下的“新能源”——承載著個(gè)人信息的數(shù)據(jù)而言,個(gè)人可以通過買賣、置換、授權(quán)等方式事先將對(duì)自己信息支配利益轉(zhuǎn)讓給他方。大體而言往往是由互聯(lián)網(wǎng)企業(yè)受讓,例如信息產(chǎn)生者在注冊為平臺(tái)會(huì)員之時(shí)便已通過勾選“用戶須知”的選項(xiàng)表明轉(zhuǎn)讓意愿,獲得的對(duì)價(jià)是免費(fèi)使用平臺(tái)的權(quán)限。這恰好反映了個(gè)人信息保護(hù)不限于事后救濟(jì),還需要事前規(guī)范,在信息未產(chǎn)生前便已開始重視個(gè)人對(duì)今后產(chǎn)生信息的自決權(quán)。當(dāng)然,個(gè)人信息保護(hù)也包括事后救濟(jì),如平臺(tái)超越授權(quán)范圍將個(gè)人信息用于他處甚至違法之處,導(dǎo)致個(gè)人安寧、安全受損。本文認(rèn)為,個(gè)人信息保護(hù)既需私法救濟(jì),還需公法懲戒;雙軌并存才能起到賠償個(gè)體并起到警示全社會(huì)的功效。

    3.個(gè)人信息權(quán)利與財(cái)產(chǎn)法的關(guān)系

    對(duì)個(gè)人信息進(jìn)行保護(hù)取決于個(gè)人信息所牽涉主體的利益。以波斯納為代表的財(cái)產(chǎn)權(quán)說主張用財(cái)產(chǎn)權(quán)視角保護(hù)個(gè)人信息,源于對(duì)個(gè)人信息商業(yè)價(jià)值的發(fā)現(xiàn)。在人工智能時(shí)代,個(gè)人信息可以被商業(yè)主體用于分析消費(fèi)群體的行為偏好,描繪出行為圖譜,并借此改造產(chǎn)品,進(jìn)行營銷,引導(dǎo)消費(fèi)選擇。個(gè)人信息亦可以借助載體的轉(zhuǎn)讓進(jìn)行轉(zhuǎn)移,可以被定價(jià),故而逐漸“商品化”,因人的需求而成為可交易的客體。當(dāng)個(gè)人信息具有財(cái)產(chǎn)性利益時(shí),信息產(chǎn)生者對(duì)財(cái)產(chǎn)性利益的控制需求因而被激發(fā)。對(duì)個(gè)人信息進(jìn)行財(cái)產(chǎn)權(quán)保護(hù),能夠在理清個(gè)人信息靜態(tài)歸屬與規(guī)范動(dòng)態(tài)轉(zhuǎn)移的基礎(chǔ)上平衡人工智能對(duì)個(gè)人信息的商業(yè)化需要與信息產(chǎn)生者對(duì)個(gè)人信息的利益訴求,用對(duì)價(jià)思維來保護(hù)個(gè)人信息也能避免在無序狀態(tài)下導(dǎo)致個(gè)人信息的財(cái)產(chǎn)性利益被商人所竊取。有學(xué)者就提出,產(chǎn)權(quán)保護(hù)能實(shí)現(xiàn)個(gè)人信息控制權(quán)的回歸。

    從國外的立法來看,美國對(duì)個(gè)人信息的保護(hù)“并不是視其為一種攸關(guān)主體人格尊嚴(yán)的基本權(quán)利,而是將其放在促進(jìn)電子商務(wù)和信息經(jīng)濟(jì)發(fā)展的理念之下”[13]。在美國法律的模式中,雖然沒有立法明確將個(gè)人信息納入財(cái)產(chǎn)法中,但允許包括個(gè)人信息在內(nèi)的一切有價(jià)值信息作為商品在市場上交易。歐盟在《基本權(quán)利憲章》中視個(gè)人信息權(quán)利為一項(xiàng)憲法性權(quán)利[14],體現(xiàn)為對(duì)個(gè)人信息保護(hù)的《一般數(shù)據(jù)保護(hù)條例》具有功能主義立法特征,保護(hù)個(gè)人對(duì)數(shù)據(jù)權(quán)的多樣性法益,包括數(shù)據(jù)控制者、處理者對(duì)數(shù)據(jù)的收益權(quán)(1)《個(gè)人信息保護(hù)法(草案二次審議稿)》全文及修改情況匯報(bào)[EB/OL].搜狐網(wǎng),https://www.sohu.com/a/464008085_316950.。

    就我國而言,雖然《民法典》在民事權(quán)利一章專條規(guī)定自然人信息受法律保護(hù),但既未界定其權(quán)利屬性,也未界定其為財(cái)產(chǎn)權(quán)屬性。因此,若從現(xiàn)行財(cái)產(chǎn)性權(quán)利法律規(guī)范尋找個(gè)人信息所適用法律的空間,可以發(fā)現(xiàn)個(gè)人信息不具備“物”的屬性,個(gè)人信息權(quán)利無法得到《物權(quán)法》保護(hù)。首先,物權(quán)的對(duì)世性決定了“物”必須滿足特定性的要求。個(gè)人信息范圍之廣且隨著個(gè)人自然變化而始終處于動(dòng)態(tài)變化過程,就連個(gè)人的基本信息,如聯(lián)系方式、身高、體重都可能發(fā)生變化,更何況行為偏好,個(gè)人信息無法特定化限制了劃定權(quán)利邊界的可能,在不能確定排他支配范圍的情況下必將影響義務(wù)人的行為自由。其次,“物”需具備有體性。雖然現(xiàn)代物權(quán)法的發(fā)展出現(xiàn)了諸如權(quán)利等無形財(cái)產(chǎn)可以成為物權(quán)的客體,但在所有權(quán)中,對(duì)“物”的要求仍然是有體性,有體之物才能界定排他支配的范圍。個(gè)人信息屬于無體物,需要借助特定載體來表達(dá),同樣的個(gè)人信息可以被記載在不同物理形態(tài)的載體上,如果以所有權(quán)思路保護(hù)個(gè)人信息,就可能因載體不同但信息內(nèi)容相同而導(dǎo)致所有權(quán)沖突,這違背了一物一權(quán)原則。最后,“物”需具備可支配性。從自然人以特定形式表達(dá)出個(gè)人信息開始,個(gè)人信息就已附著在某個(gè)數(shù)據(jù)、符號(hào)等載體上,脫離自然人的支配,而自然人也不可能支配無形之物,最多是支配含有個(gè)人信息的載體。對(duì)信息的控制權(quán)利實(shí)際上是信息處理這種行為的支配。知識(shí)產(chǎn)權(quán)兼具人身性權(quán)利和財(cái)產(chǎn)性權(quán)利。從知識(shí)產(chǎn)權(quán)法律體系同樣也無法找到保護(hù)個(gè)人信息權(quán)利的依據(jù)。個(gè)人信息只是反映個(gè)人的生理、心理、思想、行為等內(nèi)容,雖然有可識(shí)別性,但不具有創(chuàng)造性,更不屬于智力成果。因此,在個(gè)人信息權(quán)利沒有納入財(cái)產(chǎn)性權(quán)利法律規(guī)范的情況下,適用侵權(quán)責(zé)任法來為個(gè)人信息保護(hù)提供救濟(jì)手段也就無從談起。

    三、人工智能領(lǐng)域個(gè)人信息權(quán)利法治化路徑

    1.私法上構(gòu)建個(gè)人信息權(quán)利體系

    權(quán)利的體系化建設(shè)是權(quán)利行使、權(quán)利救濟(jì)的重要保證,權(quán)利有范圍和內(nèi)容,可作處分轉(zhuǎn)讓,構(gòu)建個(gè)人信息權(quán)利體系也是個(gè)人信息保護(hù)和治理并行的良好工具。現(xiàn)階段在個(gè)人信息立法上,法律層面有《消費(fèi)者權(quán)益保護(hù)法》《網(wǎng)絡(luò)安全法》等對(duì)各自領(lǐng)域的個(gè)人信息保護(hù)問題進(jìn)行規(guī)定;規(guī)章層面有工信部2013年7月發(fā)布的《電信和互聯(lián)網(wǎng)用戶個(gè)人信息保護(hù)規(guī)定》、國家互聯(lián)網(wǎng)信息辦公室2019年8月發(fā)布的《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》;其他規(guī)范性文件有《信息安全技術(shù)公共及商用服務(wù)信息系統(tǒng)個(gè)人信息保護(hù)指南》《互聯(lián)網(wǎng)個(gè)人信息安全保護(hù)指南》等。總體而言,個(gè)人信息權(quán)利立法尚顯單薄。目前,《民法典》第111條已規(guī)定自然人信息受法律保護(hù),并置于民事權(quán)利一章。而《個(gè)人信息保護(hù)法(草案二次審議稿)》第2條使用個(gè)人信息權(quán)益作表述,也尚未用權(quán)利化視角對(duì)待(2)《個(gè)人信息保護(hù)法(草案二次審議稿)》全文及修改情況匯報(bào)[EB/OL].搜狐網(wǎng),https://www.sohu.com/a/464008085_316950.。人工智能時(shí)代技術(shù)更新迅速,為克服法律的滯后性和確保前瞻性,有必要借助個(gè)人信息保護(hù)的專項(xiàng)立法來搭建個(gè)人信息權(quán)利基本體系:

    首先,要以可識(shí)別性作為個(gè)人信息內(nèi)涵界定模式。個(gè)人信息保護(hù)的價(jià)值在于其與個(gè)人之間的特定聯(lián)系,這一聯(lián)系紐帶將個(gè)人與信息控制者連接起來??勺R(shí)別性的優(yōu)勢在于可以區(qū)分是否侵犯個(gè)人信息的行為界限。若未經(jīng)同意使用的信息無法識(shí)別個(gè)人,則很難主張適用個(gè)人信息權(quán)利保護(hù)。需注意的是,可識(shí)別性不等同于顯名化。諸如有特色含義的標(biāo)簽(外號(hào)、網(wǎng)名、身份等),大眾根據(jù)該標(biāo)簽可以定位于具體個(gè)人,也具備可識(shí)別性特征。同樣,對(duì)企業(yè)采取匿名化、假名化的技術(shù)處理也無法作為消弭可識(shí)別性、不構(gòu)成侵權(quán)的抗辯理由,關(guān)鍵還在于信息的內(nèi)容是否能讓信息獲得者將其與特定個(gè)人聯(lián)系起來。

    其次,要在區(qū)分個(gè)人信息類型的基礎(chǔ)上差別化對(duì)待個(gè)人信息權(quán)利。個(gè)人信息包含私密信息,這些私密信息可能是本人不愿公開或者公開后會(huì)影響個(gè)人生活空間的安寧,因此個(gè)人信息可以分為敏感信息和一般信息。對(duì)于敏感信息存在兩種保護(hù)模式,一是對(duì)本人不愿公開的、具有私密性的信息,參照隱私權(quán)保護(hù)模式;二是公開后會(huì)影響個(gè)人生活,則要嚴(yán)格知情同意程序,如身份識(shí)別信息,要逐項(xiàng)逐次授權(quán),除用于公共管理需要,經(jīng)同意收集后可以再轉(zhuǎn)用,否則對(duì)再轉(zhuǎn)用也要有知情同意程序。敏感信息不得用于交易,以防經(jīng)濟(jì)市場帶來道德人倫危機(jī)。對(duì)于一般信息,如行為偏好等價(jià)值發(fā)揮完全取決于個(gè)人最終行為選擇的信息,可以采概括式授權(quán)同意方式,并告知用處,允許授權(quán)再轉(zhuǎn)讓,允許個(gè)人自行交易。對(duì)已公開的個(gè)人信息也應(yīng)當(dāng)堅(jiān)持合理處理原則,《民法典》第一千零三十六條規(guī)定“合理處理該自然人自行公開的或者其他已經(jīng)合法公開的信息”屬于行為人無需承擔(dān)民事責(zé)任的情形?!秱€(gè)人信息保護(hù)法(草案二次審議稿)》第二十八條對(duì)合理使用范圍以公開時(shí)的用途為判斷依據(jù)。

    最后,明確個(gè)人信息權(quán)利的類型,可分為知情權(quán)、決定權(quán)、處分權(quán)、修改權(quán)、更正權(quán)等。知情權(quán)是信息主體(自然人) 對(duì)信息持有、使用人的權(quán)利;權(quán)利內(nèi)容包括對(duì)信息收集方式的知情,對(duì)權(quán)利讓渡程序的知情、對(duì)信息使用的知情等。決定權(quán)指自然人對(duì)信息內(nèi)容、信息使用、信息公開等的決定,修改權(quán)、更正權(quán)也屬于決定權(quán)一種,因錯(cuò)誤信息、信息內(nèi)容的完整度會(huì)實(shí)在地影響個(gè)人生活行動(dòng),個(gè)人有權(quán)決定修改,選擇允許使用的信息,有權(quán)決定更正,調(diào)整錯(cuò)誤信息。處分權(quán)體現(xiàn)為自然人有權(quán)對(duì)個(gè)人信息處分,凸顯對(duì)個(gè)人信息財(cái)產(chǎn)價(jià)值支配的保護(hù)。我國《消費(fèi)者權(quán)益保護(hù)法》第19條也已確認(rèn)上述幾項(xiàng)個(gè)人信息權(quán)利,未來則是將個(gè)人信息權(quán)利納入統(tǒng)一的立法文本中,使之成為各個(gè)領(lǐng)域的指導(dǎo),拓寬運(yùn)用范圍。另外,對(duì)侵犯個(gè)人信息權(quán)利的法律責(zé)任承擔(dān)和救濟(jì)方式除了個(gè)人信息保護(hù)專項(xiàng)立法中規(guī)定以外,還可以適用侵權(quán)責(zé)任法,對(duì)造成損失的,可以根據(jù)個(gè)人信息的價(jià)值及給個(gè)人造成的具體損失進(jìn)行賠償。

    2.公法上完善個(gè)人信息保護(hù)和治理制度

    “在公民個(gè)體不足以對(duì)信息風(fēng)險(xiǎn)進(jìn)行客觀和有效判斷的情況下,國家有責(zé)任為公民提供信息安全這一公共產(chǎn)品”[15]。對(duì)個(gè)人信息的保護(hù)除了需要健全的個(gè)人信息權(quán)利體系為公民個(gè)人控制、支配、處分反映自己信息的“行為痕跡”提供權(quán)利依據(jù)和救濟(jì)途徑,還需要國家公權(quán)機(jī)關(guān)加強(qiáng)對(duì)人工智能企業(yè)的公法責(zé)任。

    構(gòu)筑有效的外部執(zhí)法制度是規(guī)范和管理人工智能企業(yè)利用個(gè)人信息秩序的保障。在執(zhí)法層面,首先,要采取統(tǒng)一立法和分散立法結(jié)合模式,在今后的個(gè)人信息保護(hù)法律中規(guī)定使用個(gè)人信息的原則、禁止性行為清單、行政責(zé)任的類型和處罰范圍,并規(guī)定授權(quán)制定條款,由不同的法規(guī)、部門規(guī)章作具體安排。其次,成立專門的信息監(jiān)管部門以替代目前由公安部門監(jiān)管的機(jī)構(gòu)設(shè)置,強(qiáng)化其監(jiān)管職責(zé),轉(zhuǎn)變治安管理的信息保護(hù)理念,突出信息的治理。再次,個(gè)人信息在用來標(biāo)識(shí)、記錄特定主體時(shí),具有公共產(chǎn)品屬性,并不必然地為個(gè)人排他性支配,出于國家管理和公共利益需要,也存在合理使用個(gè)人信息的正當(dāng)性。設(shè)立許可制度、備案制度、報(bào)告制度、公示制度等,要求對(duì)人工智能企業(yè)制定的信息授權(quán)協(xié)議審查許可,對(duì)合理利用信息的采事后備案制度,對(duì)涉及重大敏感信息的使用報(bào)告有關(guān)部門,定期公告?zhèn)€人信息使用情況。最后,處罰上要引入按次數(shù)計(jì)算累犯加罰和按條數(shù)、結(jié)果嚴(yán)重程度引入加重處罰制度。

    在刑事責(zé)任層面,《刑法修正案(七)》首次將涉及侵犯個(gè)人信息單獨(dú)規(guī)定為一項(xiàng)罪名——非法獲取公民個(gè)人信息罪,對(duì)掌握個(gè)人信息的特定單位工作人員,處罰其出售和非法提供個(gè)人信息的行為,對(duì)其他主體,則處罰竊取等非法獲取行為,單位也能構(gòu)成該罪。并且該罪名被置于“侵犯公民人身權(quán)利、民主權(quán)利罪”章節(jié),體現(xiàn)了立法機(jī)關(guān)對(duì)個(gè)人信息權(quán)利納入人身權(quán)利保護(hù)范疇的意識(shí)。到《刑法修正案(九)》出臺(tái)時(shí),非法獲取公民個(gè)人信息罪被修改為侵犯個(gè)人信息罪,就違反規(guī)定出售和提供個(gè)人信息的行為,取消身份的限制,而對(duì)履行職責(zé)或者提供服務(wù)過程中出售和提供行為從重處罰。這種規(guī)定擴(kuò)大了處罰的主體范圍,并區(qū)分一般主體和具備特殊身份的責(zé)任,具有一定的前瞻性。但未對(duì)個(gè)人信息作界定,可能導(dǎo)致適用過程中入罪和出罪的標(biāo)準(zhǔn)不一,影響該條款的操作性;也未對(duì)個(gè)人信息的類型作區(qū)分,可能導(dǎo)致罪責(zé)刑不相適應(yīng),比如侵犯隱秘信息比侵犯一般信息的情節(jié)更嚴(yán)重;對(duì)侵犯行為的類型規(guī)定不足,比如服務(wù)者未經(jīng)同意收集個(gè)人信息的行為沒有相應(yīng)處罰依據(jù),宜采動(dòng)態(tài)模式定義行為類型;對(duì)條文中“違反國家有關(guān)規(guī)定”的概念含糊且容易導(dǎo)致適用范圍過寬,違背罪行法定原則,故應(yīng)明確為法律、行政法規(guī);個(gè)人信息還具有商業(yè)性價(jià)值,也需要在侵犯財(cái)產(chǎn)權(quán)利犯罪中規(guī)定非法出售、竊取具有一定經(jīng)濟(jì)價(jià)值個(gè)人信息犯罪等。此外,要探索行政責(zé)任和刑事責(zé)任的銜接機(jī)制,行政執(zhí)法與刑事立案的銜接程序。

    3.強(qiáng)化人工智能行業(yè)個(gè)人信息使用的自律規(guī)范

    行業(yè)協(xié)會(huì)的飛速發(fā)展使得行業(yè)內(nèi)的自律規(guī)范成為社會(huì)治理手段的有效補(bǔ)充,黨的十九屆四中全會(huì)提出“推進(jìn)國家治理體系和治理能力現(xiàn)代化”后,強(qiáng)化行業(yè)自律規(guī)范無疑是今后國家提升經(jīng)濟(jì)社會(huì)治理能力的重點(diǎn)。相較于法律治理和政府管控,行業(yè)自律規(guī)范的優(yōu)勢在于:

    第一,行業(yè)自律規(guī)范更具專業(yè)性、可操作性和靈活性。人工智能集聚計(jì)算機(jī)科學(xué)、統(tǒng)計(jì)學(xué)、數(shù)據(jù)開發(fā)、神經(jīng)生理學(xué)、信息論等,知識(shí)包羅萬象。人工智能運(yùn)用個(gè)人信息的邏輯原理專業(yè)性強(qiáng),有賴于行業(yè)人士的解讀、分析個(gè)人信息技術(shù)手段,給出準(zhǔn)確、有效和可操作的規(guī)范建議。同時(shí)人工智能與經(jīng)濟(jì)、科技發(fā)展程度有關(guān),具有階段性和地域性,由各地行業(yè)針對(duì)不同時(shí)期、特定區(qū)域人工智能技術(shù)發(fā)展制定相應(yīng)的個(gè)人信息使用規(guī)范,可以避免法律的滯后性和統(tǒng)一適用的僵化性問題。

    第二,行業(yè)自律規(guī)范制定程序簡便、彈性大。行業(yè)可以自己決定會(huì)議的召集程序、決定自律規(guī)范的通過程序,而法律的制定具有嚴(yán)格的提請、審議、表決、公告程序和時(shí)限規(guī)定,由行業(yè)協(xié)會(huì)在授權(quán)范圍內(nèi)進(jìn)行自律性管理可以“消除認(rèn)證帶來的官僚拖延,更有利于技術(shù)創(chuàng)新”[16]。且法律具有穩(wěn)定性和普適性,為保證法律的權(quán)威,不宜經(jīng)常修改,也不宜作具體性規(guī)定,而各個(gè)行業(yè)可以采用不同的自律規(guī)范制定程序,便于及時(shí)根據(jù)行業(yè)發(fā)展需求出臺(tái)或調(diào)整行業(yè)自律規(guī)范。

    第三,強(qiáng)化行業(yè)自律規(guī)范更具長效性,符合保護(hù)個(gè)人信息權(quán)利的長遠(yuǎn)目標(biāo)。制定法律規(guī)范的終極目標(biāo)是促進(jìn)人工智能企業(yè)自覺主動(dòng)地保護(hù)個(gè)人信息權(quán)利。以行業(yè)規(guī)則和競爭機(jī)制倒逼人工智能企業(yè)樹立起保護(hù)個(gè)人信息權(quán)利的理念,形成規(guī)范意識(shí),嵌入具體行動(dòng)中。突出行業(yè)自律規(guī)范作用恰是貫徹市場自治為主、國家適度干預(yù)為輔原則的理想狀態(tài),即以法律為基本框架指引,以行業(yè)自律為具體行動(dòng)指南。在行業(yè)充分自律的前提下,國家只需扮演監(jiān)督者的角色,監(jiān)控和防范行業(yè)內(nèi)的聯(lián)合壟斷與集體式的侵犯個(gè)人信息權(quán)利行為的出現(xiàn)。目前,我國提及個(gè)人信息使用問題的行業(yè)自律規(guī)范不多[17],這與人工智能發(fā)展尚在起步階段、行業(yè)組織不成熟及相關(guān)法律制度還未出臺(tái)有關(guān)。本文以為現(xiàn)階段可以采取的方式有:以通知性、意見性文件出臺(tái),鼓勵(lì)各地區(qū)人工智能企業(yè)自發(fā)組建相關(guān)的行業(yè)組織,將個(gè)人信息權(quán)利保護(hù)納入行業(yè)組織的職責(zé)范疇[18]。還可以以全國性人工智能行業(yè)組織或建構(gòu)較為成熟的區(qū)域性行業(yè)組織為試點(diǎn),就個(gè)人信息使用制定自律規(guī)范,形式不限于公約、行動(dòng)指南、行動(dòng)倡議等,以此作為推廣借鑒的依據(jù)。未來,在制定了人工智能法律規(guī)范或個(gè)人信息保護(hù)法律規(guī)范后,可以借鑒歐盟《一般數(shù)據(jù)保護(hù)條例》第4章第5部分的做法,對(duì)政府監(jiān)管機(jī)構(gòu)和行業(yè)組織制定個(gè)人信息使用規(guī)范進(jìn)行權(quán)力分配,賦權(quán)于行業(yè)組織,并允許政府監(jiān)管機(jī)構(gòu)委托行業(yè)組織參與個(gè)人信息使用的規(guī)范管理工作。

    四、研究建議

    我國人工智能領(lǐng)域個(gè)人信息權(quán)利法治化建議有三點(diǎn):一是立法者應(yīng)當(dāng)構(gòu)建完整的權(quán)利體系,在權(quán)利創(chuàng)設(shè)上尊重人民的基本權(quán)利和尊嚴(yán);二是充分發(fā)揮政府各部門的管理職能,在實(shí)施保障中關(guān)照人民的現(xiàn)實(shí)困境,強(qiáng)化個(gè)人信息使用者的違法責(zé)任;三是引導(dǎo)人工智能行業(yè)建立起保護(hù)個(gè)人信息權(quán)利的秩序,建立起個(gè)人信息權(quán)利保護(hù)的長效機(jī)制。在政府和行業(yè)組織共同參與個(gè)人信息保護(hù)治理時(shí),要理順政府與行業(yè)組織的關(guān)系,扮演好“守夜人”角色。一方面,我國需要建立起一般信息的行業(yè)自律規(guī)范備案機(jī)制和敏感信息行業(yè)自律規(guī)范的審批機(jī)制,確保行業(yè)自律規(guī)范不偏離合法的軌道;另一方面,行業(yè)自律規(guī)范的制定過程要落實(shí)公眾參與原則,在規(guī)則設(shè)計(jì)中回應(yīng)人民的迫切需求。只要牢固堅(jiān)持貫徹落實(shí)習(xí)近平法治思想、堅(jiān)持以人民為中心,未來我國個(gè)人信息權(quán)利法治化之路必將回應(yīng)時(shí)代關(guān)切。

    猜你喜歡
    人工智能信息
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    下一幕,人工智能!
    下一幕,人工智能!
    展會(huì)信息
    信息
    健康信息
    祝您健康(1987年3期)1987-12-30 09:52:32
    好男人视频免费观看在线| av.在线天堂| 少妇丰满av| 丰满迷人的少妇在线观看| 男人爽女人下面视频在线观看| videos熟女内射| 亚洲最大成人中文| 日本色播在线视频| 美女xxoo啪啪120秒动态图| 国产人妻一区二区三区在| 涩涩av久久男人的天堂| 免费观看av网站的网址| 爱豆传媒免费全集在线观看| 久久国内精品自在自线图片| 免费黄频网站在线观看国产| 男女免费视频国产| 国产精品三级大全| 少妇熟女欧美另类| 在线精品无人区一区二区三 | 男人和女人高潮做爰伦理| 久久精品国产a三级三级三级| 黄色配什么色好看| 九九久久精品国产亚洲av麻豆| 久久6这里有精品| 建设人人有责人人尽责人人享有的 | 国产av码专区亚洲av| 久久精品久久久久久噜噜老黄| 国产综合精华液| a级毛色黄片| 日韩在线高清观看一区二区三区| 久久99蜜桃精品久久| 狂野欧美激情性xxxx在线观看| 丝袜脚勾引网站| 国产免费又黄又爽又色| 中文字幕av成人在线电影| 大片电影免费在线观看免费| 久久久久国产精品人妻一区二区| 中文资源天堂在线| 欧美xxxx黑人xx丫x性爽| 国产一级毛片在线| 国产黄片美女视频| 一本—道久久a久久精品蜜桃钙片| videossex国产| 内地一区二区视频在线| 国产有黄有色有爽视频| 大片电影免费在线观看免费| 韩国av在线不卡| 欧美97在线视频| 黄色一级大片看看| 久久久久久久久大av| 亚洲婷婷狠狠爱综合网| 国产成人a区在线观看| 寂寞人妻少妇视频99o| 爱豆传媒免费全集在线观看| 国产成人aa在线观看| 精品一品国产午夜福利视频| 久久99精品国语久久久| 久久6这里有精品| 中文字幕免费在线视频6| 亚洲国产日韩一区二区| 色婷婷av一区二区三区视频| 热99国产精品久久久久久7| 乱码一卡2卡4卡精品| 人体艺术视频欧美日本| 国产精品免费大片| 亚洲欧美一区二区三区国产| 人人妻人人爽人人添夜夜欢视频 | 一区二区av电影网| 国产亚洲精品久久久com| 观看免费一级毛片| 男女啪啪激烈高潮av片| 国产亚洲最大av| 99热全是精品| 看十八女毛片水多多多| 国产精品人妻久久久影院| 国产精品嫩草影院av在线观看| 国产精品麻豆人妻色哟哟久久| 你懂的网址亚洲精品在线观看| 丰满人妻一区二区三区视频av| 我要看黄色一级片免费的| 免费黄频网站在线观看国产| 男人舔奶头视频| 在线观看国产h片| a级毛色黄片| 一个人看视频在线观看www免费| 欧美精品一区二区免费开放| 亚洲成人手机| 欧美97在线视频| 男女边摸边吃奶| 激情 狠狠 欧美| 国产无遮挡羞羞视频在线观看| 亚洲在久久综合| 婷婷色综合大香蕉| 六月丁香七月| 观看免费一级毛片| av在线观看视频网站免费| 天堂8中文在线网| 极品教师在线视频| 久久国产精品大桥未久av | 99久久精品国产国产毛片| 欧美一级a爱片免费观看看| 1000部很黄的大片| 午夜免费鲁丝| 中文字幕亚洲精品专区| 制服丝袜香蕉在线| 久久ye,这里只有精品| 国产亚洲一区二区精品| 国产一区二区三区综合在线观看 | 免费人成在线观看视频色| 日韩av在线免费看完整版不卡| 国产高清国产精品国产三级 | 亚洲一级一片aⅴ在线观看| 男人和女人高潮做爰伦理| a级一级毛片免费在线观看| 亚洲精品自拍成人| 好男人视频免费观看在线| 国产成人a区在线观看| 久久热精品热| 深爱激情五月婷婷| 中文字幕人妻熟人妻熟丝袜美| 国产免费福利视频在线观看| 国产综合精华液| 欧美高清性xxxxhd video| 国产有黄有色有爽视频| 欧美性感艳星| 亚洲国产精品国产精品| 国产黄色免费在线视频| videossex国产| 亚洲三级黄色毛片| 日本午夜av视频| 97热精品久久久久久| 国产成人精品一,二区| 中文字幕av成人在线电影| 一级二级三级毛片免费看| 国产91av在线免费观看| 成人毛片60女人毛片免费| 狂野欧美激情性xxxx在线观看| 如何舔出高潮| 高清黄色对白视频在线免费看 | 国产亚洲一区二区精品| 精品熟女少妇av免费看| 成人影院久久| 国产一级毛片在线| 永久免费av网站大全| 伦理电影免费视频| 久久精品国产亚洲av天美| 欧美xxⅹ黑人| 超碰av人人做人人爽久久| 欧美高清性xxxxhd video| 寂寞人妻少妇视频99o| 久久ye,这里只有精品| 欧美极品一区二区三区四区| 午夜福利网站1000一区二区三区| 久久精品久久精品一区二区三区| 男女无遮挡免费网站观看| 免费人妻精品一区二区三区视频| 亚洲综合精品二区| 欧美成人午夜免费资源| 亚洲人成网站在线观看播放| 男的添女的下面高潮视频| 青青草视频在线视频观看| 老熟女久久久| 免费人妻精品一区二区三区视频| 国内精品宾馆在线| 久久久久国产网址| 国产亚洲欧美精品永久| 亚洲美女搞黄在线观看| 午夜福利在线在线| 性色avwww在线观看| 国产伦精品一区二区三区四那| 国产精品无大码| 精品久久久久久久末码| 少妇的逼水好多| 男女下面进入的视频免费午夜| 热99国产精品久久久久久7| 中文资源天堂在线| 大码成人一级视频| 晚上一个人看的免费电影| 18禁动态无遮挡网站| 国产av精品麻豆| 激情五月婷婷亚洲| 一个人免费看片子| 五月伊人婷婷丁香| 乱系列少妇在线播放| 日本黄色日本黄色录像| 一级a做视频免费观看| 嘟嘟电影网在线观看| 高清午夜精品一区二区三区| 校园人妻丝袜中文字幕| 精品一品国产午夜福利视频| 日本vs欧美在线观看视频 | av视频免费观看在线观看| 最黄视频免费看| 男人和女人高潮做爰伦理| 高清视频免费观看一区二区| 少妇的逼好多水| 久久久久久久大尺度免费视频| 欧美日韩一区二区视频在线观看视频在线| 嫩草影院新地址| 国产一区有黄有色的免费视频| 欧美高清成人免费视频www| 交换朋友夫妻互换小说| 王馨瑶露胸无遮挡在线观看| 18+在线观看网站| 美女国产视频在线观看| 国产69精品久久久久777片| 精品国产一区二区三区久久久樱花 | 日韩免费高清中文字幕av| 欧美老熟妇乱子伦牲交| 啦啦啦在线观看免费高清www| 国产无遮挡羞羞视频在线观看| 国产精品久久久久久久电影| 国产免费视频播放在线视频| 午夜视频国产福利| 日韩中文字幕视频在线看片 | 日韩三级伦理在线观看| 亚洲人成网站在线播| 国产永久视频网站| 亚洲欧美清纯卡通| 日本黄色日本黄色录像| 在线观看国产h片| 老师上课跳d突然被开到最大视频| 亚洲精品久久久久久婷婷小说| 欧美xxxx黑人xx丫x性爽| 国产精品不卡视频一区二区| 国产国拍精品亚洲av在线观看| 国产v大片淫在线免费观看| 高清黄色对白视频在线免费看 | 老熟女久久久| av免费观看日本| 女性被躁到高潮视频| 亚洲国产日韩一区二区| 深爱激情五月婷婷| 国产av一区二区精品久久 | 久久久久久久大尺度免费视频| 欧美精品一区二区大全| 插阴视频在线观看视频| 亚洲中文av在线| 97在线视频观看| 尤物成人国产欧美一区二区三区| 五月伊人婷婷丁香| 欧美丝袜亚洲另类| 纵有疾风起免费观看全集完整版| 18禁裸乳无遮挡免费网站照片| 91狼人影院| 大码成人一级视频| 久久精品国产a三级三级三级| 欧美亚洲 丝袜 人妻 在线| 一本久久精品| 亚洲成色77777| 国产精品女同一区二区软件| 久久毛片免费看一区二区三区| 久久99热这里只有精品18| 成年免费大片在线观看| 日韩人妻高清精品专区| 国产淫片久久久久久久久| 看十八女毛片水多多多| 国产高清有码在线观看视频| 日韩成人伦理影院| 黑人猛操日本美女一级片| av黄色大香蕉| 99久久精品热视频| 亚洲精品国产av蜜桃| 男女啪啪激烈高潮av片| 久久久久精品性色| av在线蜜桃| 大片免费播放器 马上看| 国产成人一区二区在线| 久久影院123| 国产高清三级在线| 国产精品秋霞免费鲁丝片| 99热全是精品| 亚洲精品视频女| 免费观看的影片在线观看| 国产精品一区二区三区四区免费观看| 天堂8中文在线网| 秋霞伦理黄片| 一级片'在线观看视频| 久久精品国产亚洲av天美| 国产精品偷伦视频观看了| 下体分泌物呈黄色| 午夜福利网站1000一区二区三区| 男人和女人高潮做爰伦理| 国产精品一区二区在线观看99| 校园人妻丝袜中文字幕| 国产精品99久久久久久久久| 青青草视频在线视频观看| 99久久精品一区二区三区| 99久久中文字幕三级久久日本| 香蕉精品网在线| 久久久午夜欧美精品| 男人和女人高潮做爰伦理| av福利片在线观看| 天天躁日日操中文字幕| 大香蕉久久网| 高清不卡的av网站| 色5月婷婷丁香| 色哟哟·www| 国产亚洲av片在线观看秒播厂| 观看av在线不卡| 久久久久性生活片| 男女啪啪激烈高潮av片| 狂野欧美白嫩少妇大欣赏| 亚洲第一区二区三区不卡| 国产免费一区二区三区四区乱码| 国产精品一区二区在线观看99| av在线播放精品| 欧美日本视频| 在线观看国产h片| 久久久精品免费免费高清| 97超视频在线观看视频| 久久久a久久爽久久v久久| 美女主播在线视频| 如何舔出高潮| 看非洲黑人一级黄片| 成年免费大片在线观看| 黄片无遮挡物在线观看| 韩国高清视频一区二区三区| 只有这里有精品99| 热re99久久精品国产66热6| freevideosex欧美| 王馨瑶露胸无遮挡在线观看| 久久毛片免费看一区二区三区| 成人亚洲欧美一区二区av| 亚洲精品亚洲一区二区| 一级毛片我不卡| 日韩一区二区视频免费看| 一区在线观看完整版| 春色校园在线视频观看| av视频免费观看在线观看| 亚洲美女黄色视频免费看| 2021少妇久久久久久久久久久| 亚洲在久久综合| 国产一区亚洲一区在线观看| 亚洲av综合色区一区| 日本黄大片高清| 日本av手机在线免费观看| 国产精品麻豆人妻色哟哟久久| 亚洲熟女精品中文字幕| 美女cb高潮喷水在线观看| 亚洲,欧美,日韩| 一个人免费看片子| 美女脱内裤让男人舔精品视频| 精品久久国产蜜桃| 精品99又大又爽又粗少妇毛片| 午夜福利在线观看免费完整高清在| 国产精品一区二区在线不卡| 日日啪夜夜爽| 自拍偷自拍亚洲精品老妇| 99久国产av精品国产电影| 内射极品少妇av片p| 免费不卡的大黄色大毛片视频在线观看| 麻豆乱淫一区二区| 国产精品一区二区在线观看99| 成人影院久久| 观看免费一级毛片| 欧美日韩视频精品一区| 高清欧美精品videossex| 亚洲久久久国产精品| 777米奇影视久久| 国产一级毛片在线| 一级毛片黄色毛片免费观看视频| 国产精品精品国产色婷婷| 观看免费一级毛片| 国产真实伦视频高清在线观看| 亚洲av免费高清在线观看| 日韩,欧美,国产一区二区三区| xxx大片免费视频| 亚洲精品国产av蜜桃| 精品人妻偷拍中文字幕| 亚洲成人手机| 色5月婷婷丁香| 爱豆传媒免费全集在线观看| 美女视频免费永久观看网站| 两个人的视频大全免费| 美女福利国产在线 | 国产精品.久久久| 男女国产视频网站| 99久久人妻综合| 街头女战士在线观看网站| 欧美成人一区二区免费高清观看| 国产精品国产av在线观看| 亚洲精品乱久久久久久| 欧美日韩亚洲高清精品| 久久精品人妻少妇| 日韩免费高清中文字幕av| 十八禁网站网址无遮挡 | 噜噜噜噜噜久久久久久91| 尤物成人国产欧美一区二区三区| 欧美精品一区二区免费开放| 久久久久精品性色| 国产黄片美女视频| 舔av片在线| 一级爰片在线观看| 亚洲精品日韩av片在线观看| 国产老妇伦熟女老妇高清| 国产一区二区三区综合在线观看 | 久久久久精品性色| 国产欧美亚洲国产| 欧美国产精品一级二级三级 | 成人一区二区视频在线观看| 男女下面进入的视频免费午夜| 国产精品一区www在线观看| 亚洲中文av在线| 成人18禁高潮啪啪吃奶动态图 | 在线观看一区二区三区| 久久精品夜色国产| 欧美日韩综合久久久久久| av国产精品久久久久影院| 亚洲人成网站在线观看播放| 色吧在线观看| 嘟嘟电影网在线观看| 亚洲av国产av综合av卡| 大香蕉97超碰在线| 九草在线视频观看| 成人18禁高潮啪啪吃奶动态图 | 日韩中文字幕视频在线看片 | 亚洲怡红院男人天堂| 欧美3d第一页| 久久久亚洲精品成人影院| 99久久精品国产国产毛片| 成人免费观看视频高清| 天堂8中文在线网| 国产成人一区二区在线| 欧美国产精品一级二级三级 | 久久亚洲国产成人精品v| 精品午夜福利在线看| 老熟女久久久| 久久国产乱子免费精品| 最近的中文字幕免费完整| 成人亚洲欧美一区二区av| 国产综合精华液| 国产av一区二区精品久久 | 国产成人aa在线观看| 天堂中文最新版在线下载| 91精品国产国语对白视频| 久久久精品免费免费高清| 一本—道久久a久久精品蜜桃钙片| 女的被弄到高潮叫床怎么办| 亚洲精品久久久久久婷婷小说| 久久久色成人| 一个人看的www免费观看视频| 国产综合精华液| 人妻 亚洲 视频| 五月玫瑰六月丁香| 久热久热在线精品观看| 婷婷色麻豆天堂久久| 中文字幕精品免费在线观看视频 | 亚洲成人中文字幕在线播放| 最近2019中文字幕mv第一页| 亚洲成人av在线免费| av国产精品久久久久影院| 久热这里只有精品99| 一级毛片 在线播放| 亚洲欧美日韩东京热| 99久久精品热视频| 如何舔出高潮| 只有这里有精品99| 久久精品夜色国产| 男女免费视频国产| 欧美日韩国产mv在线观看视频 | 久久99热这里只频精品6学生| 国产成人午夜福利电影在线观看| 中文精品一卡2卡3卡4更新| av线在线观看网站| 婷婷色综合大香蕉| 欧美丝袜亚洲另类| 国产高潮美女av| 18禁裸乳无遮挡免费网站照片| 五月开心婷婷网| 天美传媒精品一区二区| 亚洲三级黄色毛片| 一本—道久久a久久精品蜜桃钙片| 国产v大片淫在线免费观看| 汤姆久久久久久久影院中文字幕| 久久久久精品性色| 国产免费福利视频在线观看| 一区二区三区免费毛片| 女人久久www免费人成看片| 久久99热这里只频精品6学生| 久久精品人妻少妇| 日韩欧美精品免费久久| 精品酒店卫生间| 嫩草影院新地址| 亚洲在久久综合| 深爱激情五月婷婷| 日韩在线高清观看一区二区三区| 夫妻午夜视频| 日韩视频在线欧美| 爱豆传媒免费全集在线观看| videos熟女内射| 日本wwww免费看| 中文字幕亚洲精品专区| 国产精品无大码| 99热这里只有是精品在线观看| 婷婷色麻豆天堂久久| 日韩 亚洲 欧美在线| 国产av精品麻豆| 欧美成人一区二区免费高清观看| 岛国毛片在线播放| av在线播放精品| 日本黄色日本黄色录像| 亚洲色图综合在线观看| 国产一区二区三区综合在线观看 | 一区二区三区四区激情视频| 久久av网站| 天堂8中文在线网| 亚洲在久久综合| 综合色丁香网| 人妻一区二区av| 久久人人爽av亚洲精品天堂 | 国产精品爽爽va在线观看网站| 精品一品国产午夜福利视频| 精品久久久久久久久av| 免费少妇av软件| 日韩中文字幕视频在线看片 | 免费不卡的大黄色大毛片视频在线观看| 成年av动漫网址| 久久精品久久久久久噜噜老黄| 国产精品蜜桃在线观看| 哪个播放器可以免费观看大片| 干丝袜人妻中文字幕| 国产极品天堂在线| 久久久久性生活片| 日韩av不卡免费在线播放| 乱系列少妇在线播放| 男女啪啪激烈高潮av片| 少妇熟女欧美另类| 亚洲真实伦在线观看| 日韩一区二区三区影片| 国产精品国产三级专区第一集| 亚洲精品第二区| 亚洲真实伦在线观看| 性色av一级| 五月伊人婷婷丁香| 成年av动漫网址| 国产精品av视频在线免费观看| 欧美高清性xxxxhd video| 亚洲美女视频黄频| 国产乱人偷精品视频| 国产精品秋霞免费鲁丝片| 久久精品国产鲁丝片午夜精品| 亚洲国产精品专区欧美| av黄色大香蕉| 色吧在线观看| 亚洲第一av免费看| 大片电影免费在线观看免费| 亚洲丝袜综合中文字幕| 丰满乱子伦码专区| 97超碰精品成人国产| 青青草视频在线视频观看| 人妻制服诱惑在线中文字幕| 毛片一级片免费看久久久久| 九九在线视频观看精品| 春色校园在线视频观看| 男女免费视频国产| 国产美女午夜福利| 国产黄色免费在线视频| 免费看av在线观看网站| 26uuu在线亚洲综合色| 99久久人妻综合| 日韩中文字幕视频在线看片 | 亚洲内射少妇av| 97超碰精品成人国产| 在线观看美女被高潮喷水网站| 久久鲁丝午夜福利片| 亚洲国产最新在线播放| 日本-黄色视频高清免费观看| 丝袜脚勾引网站| 亚洲精品久久久久久婷婷小说| 狂野欧美激情性bbbbbb| 国产精品国产三级专区第一集| 国产无遮挡羞羞视频在线观看| 婷婷色综合大香蕉| 久久精品国产a三级三级三级| av免费在线看不卡| 亚洲人成网站高清观看| 日本猛色少妇xxxxx猛交久久| 国产精品不卡视频一区二区| 黄色怎么调成土黄色| 国产精品一区二区在线观看99| 国产在视频线精品| 国产精品一区二区性色av| 最近2019中文字幕mv第一页| 国产午夜精品久久久久久一区二区三区| 国产精品伦人一区二区| 日韩不卡一区二区三区视频在线| av黄色大香蕉| 2018国产大陆天天弄谢| 国产精品国产av在线观看| 一级毛片久久久久久久久女| 国产白丝娇喘喷水9色精品| 一本久久精品| 男的添女的下面高潮视频| 国产精品一二三区在线看| 日本色播在线视频| 国产 一区 欧美 日韩| 麻豆国产97在线/欧美| 91狼人影院| 王馨瑶露胸无遮挡在线观看| 国产成人精品久久久久久| av女优亚洲男人天堂| 久久99精品国语久久久| 狠狠精品人妻久久久久久综合| 亚洲国产精品专区欧美| 联通29元200g的流量卡| 久久ye,这里只有精品| 国产在线免费精品| 2021少妇久久久久久久久久久| 久久久午夜欧美精品| 精品99又大又爽又粗少妇毛片| 亚洲一级一片aⅴ在线观看| 人妻 亚洲 视频| 啦啦啦中文免费视频观看日本| 夜夜看夜夜爽夜夜摸|