• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      第四代人權(quán)論:數(shù)字時代的數(shù)字權(quán)利總綱

      2022-04-22 09:30:36楊學(xué)科
      關(guān)鍵詞:人權(quán)權(quán)利數(shù)字

      楊學(xué)科

      (廣東金融學(xué)院 法學(xué)院,廣東 廣州 510521)

      第四代人權(quán)(1)本文意義上的人權(quán)都是所有人作為人的法律和(或)道德權(quán)利,所以下文“權(quán)利”與“人權(quán)”不作細(xì)分。,對于國人而言,最先目睹耳聞的是徐顯明教授第四代人權(quán)“和諧權(quán)”(2)此文最有遠(yuǎn)見卓識的是對三代人權(quán)的反思,而非和諧權(quán)本身的提出。在此文中,徐顯明教授對三代人權(quán)的反思領(lǐng)先于國際同期研究成果。參見徐顯明:《和諧權(quán):第四代人權(quán)》,《人權(quán)》2006年第2期第30-32頁。的論斷,這曾引起學(xué)界褒貶不一的廣泛討論。至于和諧權(quán)是否能成“代”,學(xué)術(shù)有爭鳴,思想有爭論,是不可厚非的。后續(xù)研究上,馬長山教授在首屆中國人權(quán)青年論壇上的主旨發(fā)言中認(rèn)為,伴隨著數(shù)字科技革命的到來,傳統(tǒng)人權(quán)自身存有問題,新人權(quán)問題也批量出現(xiàn)。當(dāng)時,馬教授雖未詳細(xì)展開,但將其歸結(jié)為第四代人權(quán)問題,[1]后來再加上張文顯教授論述的“無數(shù)字,不人權(quán)”[2]的新時代人權(quán)法理的啟發(fā),這些學(xué)術(shù)智識與我既往的“人工智能時代的人權(quán)研究”[3]產(chǎn)生了共鳴:數(shù)字時代的數(shù)字人權(quán)問題是可以成“代”的。

      實際上,西方多有著述宣揚數(shù)字時代的第四代人權(quán)問題,并且在法律中已經(jīng)承認(rèn)了隸屬于第四代人權(quán)中的若干數(shù)據(jù)權(quán)利。最早的第四代人權(quán)主張是來自羅伯特·B.格爾曼(Robert B. Gelman),他于1997年根據(jù)1948年《世界人權(quán)宣言》提出了一項《網(wǎng)絡(luò)空間人權(quán)宣言》的提案。西班牙加泰羅尼亞人權(quán)研究所(IDHC)于2004年在巴塞羅那舉辦的題為“人權(quán):新需求和新承諾”對話基礎(chǔ)上,通過了《世界新興人權(quán)宣言》(DUDHE)。該宣言以民主為中心,納入了近五十個新興人權(quán)清單,包括飲水和衛(wèi)生設(shè)施的權(quán)利、基本收入的權(quán)利、獲得持續(xù)和包容性教育的權(quán)利等,促進了對人權(quán)的認(rèn)識和辯論。自從在日內(nèi)瓦(2003年)和突尼斯(2005年)舉行的信息社會世界峰會之后,全球整合信息社會概念以來,與互聯(lián)網(wǎng)相關(guān)的法規(guī)辯論也變得越來越重要,舉辦了一系列對制定數(shù)字人權(quán)政策和法規(guī)有直接影響的公開辯論。2011年6月1日,由聯(lián)合國言論自由報告員簽署了《言論自由和互聯(lián)網(wǎng)聯(lián)合宣言》。2014年,歐洲委員會通過了《互聯(lián)網(wǎng)用戶人權(quán)指南》。2015年,世界經(jīng)濟論壇認(rèn)為,數(shù)字權(quán)利基本上是互聯(lián)網(wǎng)時代的人權(quán)。例如,確定在線隱私權(quán)和言論自由權(quán)是《世界人權(quán)宣言》中確立的權(quán)利的延伸。西班牙德烏斯托大學(xué)于2018年11月26日提出了《數(shù)字環(huán)境中的德烏斯托人權(quán)宣言》,識別出數(shù)字環(huán)境中的第四代人權(quán)清單,廣泛提及數(shù)字時代的人權(quán),以及涉及互聯(lián)網(wǎng)和其他信息通信技術(shù)的訪問和使用的權(quán)利。2021年,葡萄牙、西班牙政府先后公布了帶有詳細(xì)人權(quán)清單的數(shù)字人權(quán)(權(quán)利)宣言。

      第四代人權(quán)問題于我們而言,是一個嶄新且所知甚少的學(xué)術(shù)領(lǐng)域,而西方對第四代人權(quán)問題的相應(yīng)關(guān)注已經(jīng)有二十多年了,且最早關(guān)注的時間比谷歌公司創(chuàng)建年份還早一年,在谷歌公司成立二十年的時候,更是提出了詳列數(shù)字人權(quán)清單的“第四代人權(quán)宣言”。不可否認(rèn)的是,國內(nèi)也產(chǎn)生了大量關(guān)于數(shù)字時代的單項新興權(quán)利的研究,例如被遺忘權(quán)、個人信息權(quán)、算法解釋權(quán)等,但多是“散兵游勇”式的“單項研究”,缺乏提綱挈領(lǐng)的總體性的“總綱研究”,也缺乏時間軸上的“代”的歷史承繼考量。有鑒于此,專門把第四代人權(quán)放在三代人權(quán)譜系中研究,對數(shù)字時代的新型(興)權(quán)利進行總體性的“總綱研究”,是有理論意義的,并會對推動制定中國版本的“數(shù)字人權(quán)宣言”提供些許借鑒。

      一、三代人權(quán)譜系

      1972年,在法國斯特拉斯堡國際人權(quán)研究所的一次演講中,聯(lián)合國教科文組織總干事長阿馬杜-馬塔爾·姆博(Amadou-Mathar M’Bow)(3)阿馬杜-馬塔爾·姆博出生于1921年,是塞內(nèi)加爾政治家,1974年到1987年,任聯(lián)合國教科文組織總干事長達(dá)13年。提出了第三代人權(quán)的第一個權(quán)利:發(fā)展權(quán)。后來,法國法學(xué)家卡雷爾·瓦薩克(Karel Vasak)(4)卡雷爾·瓦薩克出生于前捷克斯洛伐克。在法國大革命三個主題的啟發(fā)下,他提出了“三代人權(quán)譜系”理論。1969年到1980年,他在擔(dān)任斯特拉斯堡國際人權(quán)研究所第一任秘書長之前,曾在歐洲委員會工作。他還擔(dān)任人權(quán)與和平司司長,后來擔(dān)任聯(lián)合國教科文組織和世界旅游組織的法律顧問。他曾在多所大學(xué)教授國際法和國際人權(quán)法課程,出版了多部論著,并于1982年主編了《人權(quán)的國際維度》一書。用廣泛的理論概念體系予以界定。在1979年斯特拉斯堡國際人權(quán)研究所會議上,卡雷爾·瓦薩克介紹了三代人權(quán)的概念。他的靈感來自法國國旗,藍(lán)、白、紅三種顏色及其象征意義“自由、平等和博愛”。但他至少早在1977年11月就使用過這個詞,他在為《教科文組織通訊》撰寫的一篇文章中,介紹了三代人權(quán)的概念,認(rèn)為《世界人權(quán)宣言》宣布的權(quán)利包括公民權(quán)利和政治權(quán)利,經(jīng)濟、社會和文化權(quán)利兩大類。由于社會形態(tài)的變化,制定聯(lián)合國教科文組織總干事所謂的“第三代人權(quán)”(The third generation of human rights)勢在必行。第一代人權(quán)涉及“消極”權(quán)利,因為對這些權(quán)利的尊重要求國家不做任何事情來干涉?zhèn)€人自由,并且大致相當(dāng)于公民權(quán)利和政治權(quán)利。另一方面,第二代人權(quán)需要國家采取積極行動保障大多數(shù)社會、經(jīng)濟和文化權(quán)利。國際社會著手實行的第三代人權(quán)可稱之為“團結(jié)權(quán)利”(rights of solidarity)。這些權(quán)利包括發(fā)展權(quán)、健康和生態(tài)平衡環(huán)境的權(quán)利、和平權(quán),以及人類共同遺產(chǎn)的所有權(quán)。由于這些權(quán)利反映了共同體生活的某種概念,只能通過每個主體——個人、國家,以及公共和私營機構(gòu)等其他機構(gòu)——的共同努力來實現(xiàn)。[4]通過瓦薩克的文章,阿馬杜-馬塔爾·姆博提出了旨在重新強調(diào)發(fā)展權(quán)、和平和健康環(huán)境權(quán)的“第三代人權(quán)”。瓦薩克繼續(xù)演繹,發(fā)明了第一代和第二代人權(quán),來適應(yīng)姆博所倡導(dǎo)的第三代人權(quán)框架。簡而言之,姆博發(fā)明了“第三代人權(quán)”概念,而瓦薩克完善了三代人權(quán)譜系。

      瓦薩克三代人權(quán)的世代方法是存在爭議的,爭議主要集中在以下幾個方面。

      首先,人權(quán)概念不分代,也不斷代,人為區(qū)分人權(quán)類別,削弱了人權(quán)的不可分割性、普遍性和相互依賴性的概念特性。一般意義上,世代觀念意味著一代的出現(xiàn)與另一代的滅絕,實際上,人權(quán)的概念界限是具有可滲透性的。例如自由屬于所有世代,且自由對公民的政治、經(jīng)濟、社會、文化權(quán)利,都有可滲透性,如存在政治自由、經(jīng)濟自由等。進一步講,第一代、第二代和第三代的標(biāo)簽有靜態(tài)定義人權(quán)、人權(quán)邊緣化的危險,如第一代人權(quán)概念有偏重公民權(quán)利和政治權(quán)利優(yōu)先的可能,而經(jīng)濟社會文化權(quán)利等其他類型則可以不用考慮,(5)這個問題規(guī)范爭論源于國際人權(quán)文書起草的時候?!妒澜缛藱?quán)宣言》雖然沒有對人權(quán)明確分類,但其承認(rèn)兩套權(quán)利,即公民權(quán)利和政治權(quán)利、經(jīng)濟社會文化權(quán)利。起草《世界人權(quán)宣言》時,美國、英國等一些國家認(rèn)為,公民權(quán)利和政治權(quán)利可以立即強制執(zhí)行和審查,而經(jīng)濟社會文化權(quán)利不能立即得到保護,最好通過漸進性報告制度來實現(xiàn)。后來分別起草了《公民權(quán)利和政治權(quán)利國際公約》《經(jīng)濟、社會和文化權(quán)利國際公約》,《公民權(quán)利和政治權(quán)利國際公約》要求立刻保護公民權(quán)利和政治權(quán)利,《經(jīng)濟、社會和文化權(quán)利國際公約》則只要在可用資源基礎(chǔ)上逐步實現(xiàn)權(quán)利。一定程度上可以說,只有第一代(公民和政治)權(quán)利被視為“真正的”權(quán)利,因為它們需要立即得到保護和實施。另一方面,其他類別的權(quán)利可能被視為不值得這種真正權(quán)利地位。參見MUBANGIZI J C. Towards a new approach to the classification of human rights with specific reference to the African context. African Human Rights Law Journal, 2004(1): 98-99。思想淵源上源于西方啟蒙運動的人權(quán)觀(現(xiàn)代自然權(quán)利理論),這一西方傳統(tǒng)人權(quán)觀認(rèn)為,人權(quán)是針對國家的個人權(quán)利。經(jīng)濟和社會權(quán)利被認(rèn)為是可取的,但并不像公民和政治權(quán)利那樣重要。這種觀念受到了霍布斯、洛克、盧梭和孟德斯鳩作品的決定性影響。參見ANYANGWE C. Human rights: Generations, holism and relativity. Zambia Law Journal, 1993(25): 90。經(jīng)濟社會文化權(quán)利這些其他類型權(quán)利有偏廢的邊緣化傾向,這種人權(quán)等級排序的相對重要性或優(yōu)越性無法從經(jīng)驗上證明。因此,法律學(xué)者帕特里克·麥克勒姆(Patrick Macklem)批評用世代概念割裂人權(quán)概念,認(rèn)為將人權(quán)分為世代概念的分析范疇“沒有捕捉到其法律性質(zhì)和特征”,并且“沒有理解國際法中所有人權(quán)的共同點”。[5]62

      其次,人權(quán)歷史以歐洲為鏡鑒,歐洲中心主義色彩濃重。三代人權(quán)夸大歐洲啟蒙運動對當(dāng)代人權(quán)規(guī)范的影響,忽視了權(quán)利主張產(chǎn)生的各國歷史背景。不同國家的人權(quán)發(fā)展歷程是不同的,將歐洲人權(quán)歷史發(fā)展軌跡作為非西方國家的模式是存在問題的。例如我國的人權(quán)發(fā)展軌跡很難用三代人權(quán)來解釋,如果從政治維度分析我國的人權(quán)發(fā)展軌跡,可分為人權(quán)政策的正名宣示期、人權(quán)立法保障建設(shè)期、人權(quán)司法保障建設(shè)期、人權(quán)全面保障建設(shè)期。[6]我國人權(quán)政策始終把保障人民生存權(quán)和發(fā)展權(quán)放在首位,按照瓦薩克的三代人權(quán)觀,生存權(quán)是第二代人權(quán),發(fā)展權(quán)是第三代人權(quán),這就很難符合三代人權(quán)中的歷史(世代)更替問題。三代人權(quán)觀如果放在世界范圍內(nèi)講,可能會忽略人權(quán)提出、解釋和爭論的歷史背景?!笆来椒ǖ膯栴}在于它永久地對權(quán)利進行分類,不僅通過固定歷史上的分類,而且通過在每一世代中找到不相容的哲學(xué)靈感來源?!盵7]誠然,根據(jù)意識形態(tài)、地緣政治和經(jīng)濟劃分,第一代人權(quán)來自西方,第二代人權(quán)來自社會主義國家陣營,第三代人權(quán)來自不發(fā)達(dá)的第三世界國家。這清楚地反映了三種不同且對立的人權(quán)概念,即西方個人主義、東方集體主義和第三世界家庭/社區(qū)取向,更是三種對立的政治取向或意識形態(tài)之間的分歧:自由主義、社會主義和社群主義。[8]

      再次,現(xiàn)有的三代人權(quán)范式未能全面反映當(dāng)代世界中各種侵犯人權(quán)的行為形態(tài)及其解決辦法,以及人權(quán)的共同目的。國際法中關(guān)于人權(quán)的世代描述未能理解這樣一個事實,即國際法中的人權(quán)有著共同的目的,即減輕國際法賦予全球政治法律秩序的方式所產(chǎn)生的不公正。[5]62還有就是未能全面反映當(dāng)代世界中各種侵犯人權(quán)的行為形態(tài)和解決辦法,例如貧困問題,這其中涉及的是一個權(quán)利束的問題,不是簡單的一代權(quán)利問題??赡苡械谝淮駲?quán)利不平等問題(基于種族、階級、性別、性取向等),第二代生存權(quán)問題,第三代發(fā)展權(quán)問題,解決方法上,可能有國家政府“積極”的扶貧義務(wù),還有國家政府的“消極”義務(wù)——即不能把不公正的經(jīng)濟制度強加給窮人。

      更有學(xué)者系統(tǒng)批評了三代人權(quán)理論,認(rèn)為“這個理論不僅無益,而且過時,還是一種虛假陳述。它破壞了歷史的復(fù)雜性,將其他地理區(qū)域排除在人權(quán)的演變之外,并幫助灌輸了一種權(quán)利等級制度,從而培養(yǎng)了分析的自滿和過度簡化。”[9]一個典型的例子就是,將西方的人權(quán)主張簡化為“人權(quán)從投票箱(警察局)開始”,將東方的人權(quán)主張簡化為“人權(quán)從吃飽肚子(吃早餐)開始”,這就以語境的敏感性破壞了人權(quán)的整體概念性和人類尊嚴(yán)的共同目的。

      對三代人權(quán)的攻瑕指失似乎將世代方法批得體無完膚,但類型化幾乎不可避免總是存在這樣那樣的缺陷。不能因此而否認(rèn)掉“世代方法”是一種類型化權(quán)利的努力,對思考權(quán)利是有價值的類型框架。如果世代方法在人權(quán)類型化中沒有些許價值,也就沒有繼續(xù)探討的價值了。瓦薩克的三代人權(quán)框架言簡旨明,卻并未詳細(xì)展開,就此有必要詳細(xì)陳述發(fā)展完善了的三代人權(quán)的內(nèi)容,以賡續(xù)第四代人權(quán)論述。

      第一代公民權(quán)利和政治權(quán)利,有時被稱為“藍(lán)色”權(quán)利,主要關(guān)注那些影響個人自由表達(dá)和參與政治生活的權(quán)利。這些權(quán)利一般與“自由”有關(guān),主要源于自由憲治主義傳統(tǒng)的兩個核心思想啟蒙:個人自由和保護個人免受國家侵犯,主張保護個人作為公民對抗國家權(quán)力的權(quán)利(防御權(quán))。這些權(quán)利最初載于1787年法國的《人權(quán)和公民權(quán)利宣言》中。之后,公民權(quán)利主要載于《世界人權(quán)宣言》第3至第21條,包括生命權(quán)、自由和安全權(quán)、隱私權(quán)、公平審判權(quán)、平等權(quán)、免遭酷刑和不人道待遇、免于奴役和強迫勞動、宗教自由、言論自由、結(jié)社自由和行動自由等權(quán)利。政治權(quán)利載于《世界人權(quán)宣言》第19至第21條,以及《公民權(quán)利和政治權(quán)利國際公約》(第18、19、21、22、25條),主要包括保障個人直接或通過當(dāng)選代表間接參與政治的權(quán)利。在冷戰(zhàn)期間,公民權(quán)利和政治權(quán)利成為西方國家的優(yōu)先事項。有些西方國家將這些公民權(quán)利、政治權(quán)利僵硬地等同于民主法治國家的唯一根基,并將其作為冷戰(zhàn)人權(quán)較量、人權(quán)陣營劃分的主要標(biāo)準(zhǔn),對世界人權(quán)分化(界分公民權(quán)利和政治權(quán)利、經(jīng)濟社會文化權(quán)利)發(fā)展產(chǎn)生了深遠(yuǎn)影響。

      第二代經(jīng)濟社會文化權(quán)利,主要分布在《經(jīng)濟、社會和文化權(quán)利國際公約》(1966年)以及《世界人權(quán)宣言》第22至第29條。其中,經(jīng)濟和社會權(quán)利列于《世界人權(quán)宣言》第22至第26條。經(jīng)濟權(quán)利主要有工作權(quán)、自由選擇或接受工作的權(quán)利、公平工資的權(quán)利、合理的工作時間限制,以及工會權(quán)利。社會權(quán)利列于《經(jīng)濟、社會和文化權(quán)利國際公約》第6至第14條,主要有健康權(quán)、住房權(quán)、食物權(quán)、社會照顧權(quán)和受教育權(quán)。文化權(quán)利主要在《世界人權(quán)宣言》第27條和第28條:自由參與社區(qū)文化生活,分享科學(xué)進步的權(quán)利,以及保護科學(xué)所產(chǎn)生的道德和物質(zhì)利益的權(quán)利。這些權(quán)利涉及人們?nèi)绾喂餐詈凸ぷ饕约吧畹幕颈匦杵?,它們基于“平等”的理念,保證獲得必要的社會和經(jīng)濟產(chǎn)品、服務(wù)和機會。這些權(quán)利的出現(xiàn)是19世紀(jì)人文主義和社會主義思想產(chǎn)生的普遍平等觀念的結(jié)果,因此,第二代經(jīng)濟社會文化權(quán)利也被稱為“紅色”權(quán)利。經(jīng)濟、社會和文化權(quán)利要求國家采取更積極的行動(主要是受益權(quán)),以提供或至少為獲得這些被認(rèn)為對現(xiàn)代生活至關(guān)重要的設(shè)施創(chuàng)造條件。也就是說,要求政府履行尊重、促進和實現(xiàn)其義務(wù),但這些義務(wù)的履行還取決于國家的資源可用性。總體上,從第一代人權(quán)到第二代人權(quán),是從政治民主轉(zhuǎn)向物質(zhì)民主、從民主法治國到社會法治國的嬗變。這其間嬗變的原因在于,工人運動和國際主義意識形態(tài)無疑提高了公民對所有需求的認(rèn)識,人們對尊嚴(yán)生活意義有了新要求和新想法。人們意識到,人的尊嚴(yán)需要的不僅僅是公民權(quán)利和政治權(quán)利所提出的最低限度的國家干預(yù),還有經(jīng)濟社會文化權(quán)利的國家最高程度的積極行動。于是,第二代人權(quán)在經(jīng)濟社會文化權(quán)利的要求下,提出了一個保障體面生活發(fā)展手段的社會國構(gòu)想。

      第三代人權(quán)集體、環(huán)境和發(fā)展權(quán)利屬于比較新銳的類別,包括自決權(quán)、和平權(quán)、發(fā)展權(quán)、健康環(huán)境、文化遺產(chǎn)、消費者、兒童和老年人的權(quán)利,以及保護免受基因操縱等權(quán)利。這些權(quán)利主要是20世紀(jì)下半葉民族國家興衰的產(chǎn)物,得到了第三世界的支持,與第三世界民族主義的興起以及發(fā)展中國家認(rèn)識到現(xiàn)有的國際秩序?qū)ζ洳焕兄芮嘘P(guān)系。第三代人權(quán)也被稱為團結(jié)權(quán),如和平、環(huán)境或保護免受基因操縱等權(quán)利,本質(zhì)上是集體性的,與“博愛”的價值觀有關(guān),影響到所有人的生命,因此需要在全球范圍內(nèi)進行合作才能實現(xiàn)。但第三代人權(quán)仍然存在不少爭議,這造成了“第三代人權(quán)”一詞在很大程度上仍然是非官方的,正如“綠色”權(quán)利的稱謂一樣。事實上,除了自決權(quán)之外,迄今為止享有官方人權(quán)地位的第三代人權(quán)是發(fā)展權(quán)。這項權(quán)利官方地位的獲得,在于《維也納宣言》確認(rèn)了發(fā)展權(quán)作為集體權(quán)利和個人權(quán)利,個人可被視為發(fā)展的主要主體。第三代人權(quán)不同于第一代和第二代人權(quán)的一點,是主體變?yōu)閳F體或集體(對抗國際強權(quán)以及人類共同合作的連帶權(quán)),而不是對抗國家的公民(第一代人權(quán))、社會面前的個人(第二代人權(quán))。正如許多進步的國際法文件所表達(dá)的那樣,包括1972年《聯(lián)合國人類環(huán)境會議的宣言》(《斯德哥爾摩宣言》)、1992年《關(guān)于環(huán)境與發(fā)展的里約宣言》和其他一些軟法,第三代人權(quán)超越了囿于一個國家疆界內(nèi)的公民權(quán)和社會權(quán),與全球化一致,回應(yīng)了人類社會和地球的需要,為地球上所有人民宣揚和平權(quán)利和健康的自然環(huán)境,將團結(jié)作為基本價值。從這個意義上講,第三代人權(quán)有保護環(huán)境、負(fù)責(zé)任消費、結(jié)束歧視少數(shù)群體的特征。

      二、數(shù)字科技與權(quán)利糾葛中的第四代人權(quán)

      世代人權(quán)類型化方法的合理性是世代人權(quán)得以繼續(xù)探討的前提,世代人權(quán)類型化方法雖不甚完美,但也具有人權(quán)分類、分期的時代意義。我們知道,只要社會在進步,新權(quán)利問題將是永恒的主題。我們生活在一個不斷變化的時代,一個鮑曼所形容的“流動的現(xiàn)代性”(Liquid Modernity)的時代,技術(shù)創(chuàng)新變革不會停止。這既是機遇,也可能因濫用和使用不當(dāng)帶來新危害。人類在新的數(shù)字時代經(jīng)歷著轉(zhuǎn)型,新技術(shù)在法律環(huán)境滲透頗深,人權(quán)也經(jīng)歷了不小的轉(zhuǎn)型。這不僅帶來了從技術(shù)角度重新解釋傳統(tǒng)人權(quán)的創(chuàng)新方式,而且產(chǎn)生了新的人權(quán)類別,特別是在互聯(lián)網(wǎng)和網(wǎng)絡(luò)空間?!耙环矫鏅?quán)利被擴大,另一方面權(quán)利被削弱”。[10]這帶來的可能是一個人權(quán)挑戰(zhàn)和人權(quán)機遇并存的人權(quán)新時代,這些類別可以被確定為獨特的數(shù)字權(quán)利一代。

      (一)數(shù)字時代的權(quán)利進步

      現(xiàn)在正處于第四次工業(yè)革命的中期,一個由數(shù)字科技的快速發(fā)展所定義的數(shù)字革命中。當(dāng)下歷史時期的特點是所謂的數(shù)字信息“元技術(shù)”,即那些能夠從根本上改變和影響其發(fā)展的數(shù)字化、網(wǎng)絡(luò)化、智能化技術(shù),創(chuàng)生了互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等新應(yīng)用,催生了全新的數(shù)字化生活方式。智慧商業(yè)、移動支付、智慧交通、智慧醫(yī)療、共享經(jīng)濟等出現(xiàn)在我們生活的方方面面,這些數(shù)字科技對我們生活的影響比以往任何時候都要強烈??梢哉f,以人工智能、大數(shù)據(jù)、云計算和智能機器人等為特征的數(shù)字革命所塑造的數(shù)字世界的雛形已經(jīng)形成。

      粗略回顧數(shù)字化的發(fā)展歷程,無人不驚嘆數(shù)字化普及的迅捷。電腦商用始于微軟1985年推出的Windows程序,互聯(lián)網(wǎng)普及始于1998年成立的谷歌公司,智能手機面世始于2007年喬布斯推出的第一部iPhone。就我國而言,國內(nèi)最大的互聯(lián)網(wǎng)通訊工具QQ由騰訊公司于1999年推出,國內(nèi)最大的網(wǎng)絡(luò)購物網(wǎng)站淘寶始建于2003年。這些在物理時間上多則不過三十余年,少則不過十余年,而今數(shù)字化普及的結(jié)果是使用電腦網(wǎng)上沖浪辦公,智能手機在手已經(jīng)成為數(shù)字時代的標(biāo)配。這得益于這些數(shù)字公司開發(fā)應(yīng)用數(shù)字工具的創(chuàng)新速度、拓展數(shù)字工具應(yīng)用范圍和新可及性的商業(yè)能力,才讓數(shù)字化普及如此迅捷,數(shù)字革命加速到來,且數(shù)字化的加速將持續(xù)存在。歸根到底,數(shù)字化普及的迅捷對我們的影響就是,把我們從模擬世界帶到數(shù)字世界,在數(shù)字世界中構(gòu)建了數(shù)字化驅(qū)動的新型生活形態(tài),并最終走向元宇宙。

      一般而言,數(shù)字世界是數(shù)字符碼表達(dá)和信息數(shù)據(jù)流構(gòu)成的數(shù)字虛擬世界,是一個開放互聯(lián)的、自由度相對擴大的、與物理世界相對的共享性世界。在數(shù)字世界中,數(shù)字科技日甚一日的加速創(chuàng)新和迅猛發(fā)展是不是一定會帶來權(quán)利的進步?數(shù)字時代能否為數(shù)字人權(quán)構(gòu)建方法提供新的可能?這將是數(shù)字科技和人權(quán)思量的基點。

      首先,數(shù)字時代的進步確實催變了一些傳統(tǒng)人權(quán)內(nèi)容。人權(quán)并非一勞永逸的權(quán)利體系,它會隨著政治意識形態(tài)、社會經(jīng)濟事實(件)的演變而演化。新興數(shù)字科技(如社交媒體平臺、物聯(lián)網(wǎng)、人工智能、自動駕駛汽車等)的發(fā)展和社會應(yīng)用使得“舊”權(quán)利呈現(xiàn)出“新”現(xiàn)象、“新”樣態(tài),主要體現(xiàn)為以自由權(quán)與社會權(quán)的權(quán)利數(shù)字化升級所表現(xiàn)出的新樣態(tài)。[11]傳統(tǒng)經(jīng)典權(quán)利隱私權(quán)就是一個顯明的例子。數(shù)字世界可能意味著一個透明的社會、巨大的計算能力和無處不在的高速數(shù)據(jù)流,對人們的隱私構(gòu)成威脅,因而需要更強大的隱私保護系統(tǒng)在全球范圍內(nèi)適用。實際上,早在2012年6月29日聯(lián)合國大會決議中就指出,人權(quán)也在網(wǎng)上適用,隱私也必須在數(shù)字領(lǐng)域得到保護。實踐中,在數(shù)字時代進步的影響下,隱私權(quán)的確呈現(xiàn)出了“新”樣態(tài),“從最初限縮于物理世界的人格意義領(lǐng)域,到逐漸表現(xiàn)在線上世界的數(shù)據(jù)權(quán),也可以說是隱私權(quán)逐漸數(shù)據(jù)化”。[12]隱私權(quán)的數(shù)據(jù)化新樣態(tài)之變,就需要隱私權(quán)的相應(yīng)政策與時俱進,改進知情同意原則,最大限度發(fā)揮知情同意原則的數(shù)據(jù)隱私保護功用。

      其次,數(shù)字時代的進步的確催生了一些新的人權(quán)類別。在現(xiàn)代生活中,信息和通信技術(shù)基礎(chǔ)設(shè)施龐大、信息流動廣泛,生塑了新社會情況、新社會關(guān)系,因此出現(xiàn)了各種人權(quán)新現(xiàn)象、新類型、新樣態(tài)。這也生成了重新思考人權(quán)范圍和拓展問題的契機,數(shù)字化領(lǐng)域中許多懸而未決的問題也需要被人權(quán)所回答。例如,數(shù)據(jù)在數(shù)字時代的價值愈益彰顯,有“數(shù)字石油”“數(shù)字黃金”的譬喻,無非是表明數(shù)據(jù)作為一種資源能帶來商業(yè)價值,數(shù)據(jù)也因這一特征而具有財產(chǎn)屬性。數(shù)據(jù)還與隱私密切相關(guān)而呈現(xiàn)人格權(quán)特征。因此,數(shù)據(jù)的人格權(quán)屬性可能下轄數(shù)據(jù)知情同意權(quán)、被遺忘權(quán)、數(shù)據(jù)修改權(quán),而數(shù)據(jù)的財產(chǎn)屬性則可能下轄數(shù)據(jù)采集權(quán)、數(shù)據(jù)可攜權(quán)、數(shù)據(jù)收益權(quán)和數(shù)據(jù)使用權(quán)。這就推動人權(quán)譜系新增了以數(shù)據(jù)為中心的數(shù)據(jù)人權(quán),絕大多數(shù)被歐盟《通用數(shù)據(jù)保護條例》(GDPR)所容納而具有合法性,譬如數(shù)據(jù)訪問權(quán)、數(shù)據(jù)修改權(quán)、數(shù)據(jù)擦除權(quán)、數(shù)據(jù)可攜權(quán)。由此可見,隨著數(shù)字科技的進展,數(shù)字人權(quán)的保障日漸變成全球數(shù)據(jù)立法趨勢,數(shù)據(jù)權(quán)也成為數(shù)字時代新的人權(quán)類別。

      (二)數(shù)字時代的權(quán)利風(fēng)險與挑戰(zhàn)

      數(shù)字時代已經(jīng)成為權(quán)利進步的新時代,數(shù)字工具(例如互聯(lián)網(wǎng)、人工智能)已經(jīng)成為實現(xiàn)數(shù)字化轉(zhuǎn)型所生塑的新型人權(quán)的助推器。但不容忽視的是,數(shù)字環(huán)境的破壞性技術(shù)權(quán)力也讓人權(quán)出現(xiàn)新的風(fēng)險和挑戰(zhàn)。人權(quán)歷史已表明,捍衛(wèi)人權(quán)的每次革命性進步都是社會對濫用權(quán)力的反應(yīng)。因而,如何規(guī)制數(shù)字科技權(quán)力以捍衛(wèi)人權(quán),也是數(shù)字時代應(yīng)對人權(quán)新風(fēng)險和新挑戰(zhàn)的舉措。

      時至數(shù)字時代,數(shù)字科技的陰暗面日益在數(shù)字生活中層出迭見,數(shù)字環(huán)境也成了某些基本權(quán)利保護堪憂的領(lǐng)域,數(shù)字生活的監(jiān)管環(huán)境處于“無法無天”(lawless)[13]的狀態(tài)。個人數(shù)據(jù)信息泄露,黑箱算法的不負(fù)責(zé)任決策,網(wǎng)絡(luò)跟蹤、欺凌、騷擾,網(wǎng)絡(luò)欺詐、盜竊、敲詐勒索,網(wǎng)絡(luò)裸露、色情、性交易,網(wǎng)絡(luò)黑客暴力,網(wǎng)絡(luò)恐怖主義等,都在數(shù)字環(huán)境下時有發(fā)生、事有涉及、勢不可小覷。

      除了數(shù)字科技的陰暗面讓人權(quán)存在隱憂外,數(shù)字科技權(quán)力對人權(quán)風(fēng)險和挑戰(zhàn)也是一大問題。通常,隱私權(quán)、言論自由權(quán)、平等及反歧視權(quán)是受數(shù)字科技權(quán)力影響較大的人權(quán)類別。

      1.數(shù)字時代的隱私權(quán)風(fēng)險與挑戰(zhàn)

      隱私的概念植根于個人主義,與保護個人的自主權(quán)及其個人身份、尊嚴(yán)息息相關(guān)。當(dāng)然,隱私也不是一成不變的,而是隨著時間的推移而演變。過去的隱私權(quán)更多的是在“八卦”意義上搬弄口舌,而數(shù)字社會的隱私問題則主要是在數(shù)據(jù)上可以唯利是求,隱私的界限幾乎被模糊。數(shù)據(jù)上有利可圖,就必然造成有些公司數(shù)據(jù)攫利不擇手段,這是造成數(shù)據(jù)隱私問題的主要原因所在。在數(shù)字時代,個人信息數(shù)字化,活生生的人變成以數(shù)字化信息為載體的數(shù)據(jù)集合。這就可能造成這樣的后果,一旦信息觸網(wǎng),將永世留痕,即便終端刪除,網(wǎng)絡(luò)服務(wù)器和運營商仍保留了數(shù)據(jù),也就很難控制副本的流通或流入其他數(shù)據(jù)庫。正因如此,隱私在數(shù)字時代可能顯得越來越稀缺。與此擔(dān)心相同的是,前所未有的隱私剝奪正在發(fā)生。個人的隱私隨時可以通過數(shù)據(jù)信息的泄露、監(jiān)視和攔截而暴露。人越來越“透明”,不用說數(shù)字活動痕跡的曝光,甚至只要通過一張面部照片,就能“相”出你的疾病,更不用說人工智能技術(shù)面部識別所帶來的生物信息安全問題了。但最關(guān)鍵的是隱私權(quán)利人對隱私技術(shù)理解不多,況且人類分享的沖動壓倒了人類對隱私的沖動,造成了數(shù)字時代的隱私權(quán)雖是一項有價值的權(quán)利,但同樣是一項脆弱的權(quán)利,越來越容易成為技術(shù)的犧牲品。更可怕的是,當(dāng)數(shù)字科技系統(tǒng)拒絕將您視為個人,僅僅是0或1的數(shù)字組合的時候,就不可能擁有隱私。因此,隱私權(quán)問題是數(shù)字時代的決定性人權(quán)問題之一。

      2.數(shù)字時代的言論自由權(quán)風(fēng)險與挑戰(zhàn)

      享有言論自由的權(quán)利是一種崇高的善,它能以任何方式向他人表達(dá)自己的思想和情感,而不必害怕因此受到懲罰。因此,言論自由權(quán)是衡量一個社會的民主能力和對民主的制度承諾的重要指標(biāo)。在數(shù)字時代,數(shù)字網(wǎng)絡(luò)上的濫用言論自由和監(jiān)控資本主義風(fēng)靡一時,于是,言論自由也變得更為復(fù)雜。一方面,極端主義言論、仇恨言論以及利用互聯(lián)網(wǎng)傳播暴力謠言等濫用言論自由的行為在數(shù)字環(huán)境有了不小的存在空間,這也是數(shù)字環(huán)境中言論網(wǎng)絡(luò)監(jiān)管的難題。另一方面,非常廣泛、強大而且有利可圖的“小兄弟”監(jiān)控體系,[14]68-69以及監(jiān)控資本主義盛行產(chǎn)生的“老大哥”數(shù)字壓迫系統(tǒng),使得言論自由空間彌足可貴。數(shù)字網(wǎng)絡(luò)上實施監(jiān)控的主要是企業(yè),其工作模式呈現(xiàn)為,通過監(jiān)視人們來提供“免費”的個性化數(shù)字服務(wù)。人們通常高估了明面上的“免費”,暗面上,這種免費卻是一種“跟蹤狂經(jīng)濟”,[14]73跟蹤我們的日歷、文檔、聊天記錄、通話記錄等涉及言論的數(shù)據(jù)信息內(nèi)容。在這種無所不在的商業(yè)監(jiān)視中,個人的一舉一動都會被記錄,會對言論自由造成寒蟬效應(yīng)。相對而言,假若政府監(jiān)視的系統(tǒng)性濫用常態(tài)化,搜集一切,掌握一切,利用一切,更會戕害言論自由。在愛德華·斯諾登揭露的絕密電子監(jiān)聽計劃“棱鏡計劃”中,表明有些國家政府通過竊聽電話、短信、社交媒體甚至GPS位置等來進行大規(guī)模監(jiān)視、過濾和屏蔽數(shù)字內(nèi)容,甚至中斷對互聯(lián)網(wǎng)的訪問,來限制信息流動,壓制批評,監(jiān)視政治異見。言論自由不是隨心所欲言說、惡意嘩眾取寵的權(quán)利,而是別人擁有質(zhì)疑其所言所說的權(quán)利。但繞過公開的辯論質(zhì)疑,通過數(shù)字技術(shù)直接隨心所欲將異見編輯為失敗或者永久禁言封號,無疑類似于強者才能說話的動物王國之類的野蠻世界。這就是美國學(xué)者諾姆·喬姆斯基的言論自由立場的第二選項:你雖討厭其觀點,但大力捍衛(wèi)其言論自由,或者你拒絕言論自由,傾向于法西斯標(biāo)準(zhǔn)。[15]167可見,言論自由政策的選擇對個人權(quán)利和民主運作都有實實在在的影響。

      3.數(shù)字時代的平等及反歧視權(quán)風(fēng)險與挑戰(zhàn)

      歧視從來都不是文明社會的標(biāo)志,所有歧視——無論采取何種形式——都是邪惡的。歧視也是數(shù)字環(huán)境中一個突出且至關(guān)重要的問題,在大學(xué)錄取、人事招聘、信用評級、銀行業(yè)務(wù)、兒童社會支持系統(tǒng)、社會保障系統(tǒng)等系統(tǒng)的算法都存在偏差的可能,可能因“種族、膚色、性別、語言、宗教、政治或其他見解、國籍或社會出身、財產(chǎn)、出生或其他身份等”而受到直接或間接歧視,也就很容易造成算法紅線、算法吉姆·克勞、算法身份政治等算法歧視。數(shù)字歧視強化了對現(xiàn)實的偏見,其對象主要集中在過去曾受到負(fù)面歧視和偏見影響的群體。例如,符合條件卻因種族而被大學(xué)排除在外;據(jù)申請人所來自的社區(qū),拒絕其獲得銀行信貸和其他金融服務(wù);網(wǎng)絡(luò)相關(guān)高薪招聘職位推薦更傾向于男性而非女性,等等。這些都會惡化資源分配不公,造成難以彌補的實際損失,形成黑箱社會。[16]歧視在數(shù)字時代表現(xiàn)形式可能會發(fā)生些許變化,特別是在社會共識松動的虛擬世界中,歧視進一步放大,但其本質(zhì)還是對人權(quán)平等精神的挑戰(zhàn)。美國算法歧視研究學(xué)者薩菲亞·諾布爾(Safiya Noble)認(rèn)為,數(shù)字算法作為最流行和中立的工具,通常被認(rèn)為具有客觀性,反而會引起和放大歧視和仇恨。[17]當(dāng)然,不能認(rèn)為數(shù)字科技只是復(fù)制和強化歧視問題,歧視社會弱者、有偏見地為某些類型的人提供便利的社會結(jié)構(gòu)才是問題的關(guān)鍵。(6)美國黑人女權(quán)學(xué)者金伯利·克倫肖在其交叉性理論框架的“地下室隱喻”中批評了忽視主流特權(quán)的問題。它設(shè)定了一個虛擬的地下室,各種在社會和歷史上受到壓迫的群體在其中堆疊在一起。在那些肩膀上是一些受歧視、壓迫較少的人,而在天花板下方是受歧視、壓迫最少的人。最受歧視、壓迫的人是站在地下室的地板上,因為空間中最低的人不僅受到那些有特權(quán)住在天花板上的人的壓迫,而且受到那些占據(jù)較少重疊身份位置的人的壓迫。其“地下室隱喻”指向了身份的等級劃分,支配個人社會、工作場所不公平體驗的復(fù)雜的特權(quán)和劣勢矩陣。參見CRENSHAW K. Demarginalizing the intersection of race and sex: A black feminist critique of antidiscrimination doctrine, feminist theory and antiracist politics. The University of Chicago Legal Forum, 1989(1): 151。對于這個問題的解決,如果沒有自動決策工具來明確消除這些結(jié)構(gòu)性不平等現(xiàn)象,算法的速度和規(guī)模還會加劇這些不平等現(xiàn)象,[18]特別是涉及使用生物特征信息和人臉識別等大數(shù)據(jù)的人工智能。這種無意識歧視是一種結(jié)構(gòu)性現(xiàn)象,可以反映在法律制度、社會規(guī)范,或者映射到數(shù)字技術(shù)中,強化現(xiàn)有的不平等或創(chuàng)造新的不平等。在制度上,放任歧視比制造歧視更糟糕,反歧視法并非為時過早,而是為時過遲。因此,面對數(shù)字歧視,法律制度設(shè)計亟需明確數(shù)字歧視是非法的,確定數(shù)字歧視受害者可獲得的制度救濟手段和范圍。

      (三)第四代人權(quán)的核心特質(zhì)

      人權(quán)的本質(zhì)是擁有權(quán)利的權(quán)利,權(quán)利主張都源于巨大的歷史劇變。如果將1789年法國大革命后承認(rèn)的公民和政治權(quán)利視為第一代人權(quán),19世紀(jì)工人運動所催生的經(jīng)濟社會文化權(quán)利就是第二代人權(quán),二戰(zhàn)后第三世界民族主義興起引發(fā)了第三代人權(quán)集體、環(huán)境和發(fā)展權(quán)利浪潮,而第四代人權(quán)則是伴隨著20世紀(jì)末數(shù)字革命以來保護公民免受數(shù)字技術(shù)危害、享受數(shù)字技術(shù)福利而發(fā)展起來的。建立第四代人權(quán)的必要性,正是前三代人權(quán)——公民政治權(quán)利、經(jīng)濟社會文化權(quán)利、團結(jié)權(quán)利所代表的工商業(yè)背景知識,已經(jīng)是大變大異的數(shù)字社會的背景知識。背景知識從工商業(yè)階段躍升到數(shù)字社會階段,人權(quán)也必須按照數(shù)字社會的生產(chǎn)生活規(guī)律來重塑,這就必須有按照數(shù)字社會邏輯的權(quán)利進步,否則沒有足夠的權(quán)利工具有效保護個人的權(quán)利。簡而言之,數(shù)字社會的特殊特征需要特殊的權(quán)利來保障。正如馬長山教授指出的那樣,以啟蒙精神為價值來源的近代人權(quán)觀念面對數(shù)字時代的人權(quán)挑戰(zhàn),這種近代人權(quán)保障模式難以為繼,必須按照數(shù)字社會的生產(chǎn)生活規(guī)律來重塑人權(quán)價值觀,確認(rèn)和保護“數(shù)字人權(quán)”。[20]數(shù)字人權(quán)區(qū)別于前三代人權(quán)的特點是:特定對象是以特殊數(shù)字形式呈現(xiàn)的信息(數(shù)據(jù));數(shù)字人權(quán)是通過使用數(shù)字科技實現(xiàn)的(權(quán)利的數(shù)字化實現(xiàn)),并且只屬于“數(shù)字人類”(具有數(shù)字屬性的人);數(shù)字人權(quán)的義務(wù)包括了國家和私人行為者的積極義務(wù)和消極義務(wù)。所以,數(shù)字人權(quán)更適合歸屬于一個新的獨立權(quán)利代際(或系統(tǒng))。這就解決了“沒有新權(quán)利就沒有新一代”的問題。同時,第四代人權(quán)作為整體權(quán)利的框架,可以解決數(shù)字時代“有了新權(quán)利,但不一定是人權(quán)”的問題。例如一些國家也賦予機器人相應(yīng)的權(quán)利,但很難說這是人權(quán),(7)此處的人權(quán)并非“非人化”人權(quán),也就是說,第四代人權(quán)框架內(nèi)的人權(quán)的主體還是人類。本部分立場是,“非人化”的權(quán)利主要是第五代權(quán)利部分,同時認(rèn)為,在數(shù)字時代,不只有第四代人權(quán),還有第五代權(quán)利。說簡單點,即數(shù)字時代的“非人化”權(quán)利是第五代權(quán)利。不是人權(quán)也就不能被納入到第四代人權(quán)的范疇。綜上可言,第四代人權(quán)的核心特質(zhì)在于數(shù)字社會背景下的數(shù)字化的權(quán)利需求和權(quán)利的數(shù)字化實現(xiàn)。

      三、數(shù)字人權(quán)清單

      數(shù)字科技與權(quán)利的糾葛實際證明了數(shù)字人權(quán)的必要性,在數(shù)字世界中,如何尊重、保護和實現(xiàn)人權(quán)的問題已經(jīng)避無可避,數(shù)字權(quán)利也應(yīng)是固有的人權(quán),與其他人權(quán)一樣不可剝奪。我們正處于在數(shù)字環(huán)境中保護人權(quán)的關(guān)鍵時刻,(8)季衛(wèi)東教授認(rèn)為,2019年是數(shù)字人權(quán)元年。參見季衛(wèi)東:《數(shù)據(jù)、隱私以及人工智能時代的憲法創(chuàng)新》,《南大法學(xué)》2020年第1期第2頁。福布斯網(wǎng)站刊文卻認(rèn)為,2020年是數(shù)字人權(quán)之年。參見KOLOMEICHUK S.Why 2020 will be the year of digital human rights.https:∥www.forbes.com/sites/forbestechcouncil/2019/12/26/why-2020-will-be-the-year-of-digital-human-rights/?sh=14a3a5c34cd8。因而,數(shù)字權(quán)利清單的建立正好切中肯綮,有助于數(shù)字人權(quán)的理解、宣傳和傳播。

      關(guān)于數(shù)字人權(quán)清單,最早可追溯到羅伯特·B.格爾曼的《網(wǎng)絡(luò)空間人權(quán)宣言》提案的21條,包括了最基本的數(shù)字人權(quán)平等權(quán),隱私、匿名和安全權(quán),言論自由權(quán)等,其中第1、2條(9)第1條規(guī)定,所有人的想法和表達(dá)應(yīng)該由發(fā)起者和接受者直接或間接地自行決定,與其他人一起表達(dá),考慮和分享平等的機會。第2條規(guī)定,人人有權(quán)享有本宣言所載的所有權(quán)利和自由,不分種族、膚色、性別、語言、宗教、政治或其他見解、國籍或社會出身、經(jīng)濟、出生或其他狀態(tài)。此外,不應(yīng)根據(jù)政治或物理管轄權(quán)以及訪問網(wǎng)絡(luò)的方法加以區(qū)分。主要強調(diào)的是平等權(quán)。這之后也有不少網(wǎng)絡(luò)空間人權(quán)的提議,但主要是關(guān)于網(wǎng)絡(luò)(或互聯(lián)網(wǎng))提議,最著名的是歐盟的《互聯(lián)網(wǎng)用戶人權(quán)指南》。該指南旨在以用戶友好的方式解釋《歐洲人權(quán)公約》保障互聯(lián)網(wǎng)用戶的權(quán)利和自由,列舉的主要是互聯(lián)網(wǎng)用戶的不受歧視、言論自由、信息自由、隱私和數(shù)據(jù)保護等網(wǎng)絡(luò)權(quán)利,并特別指出兒童或青少年擁有該指南中概述的所有權(quán)利和自由,并能因年齡在使用互聯(lián)網(wǎng)時有權(quán)獲得特殊保護和指導(dǎo)??梢?,這段時間“數(shù)字人權(quán)(權(quán)利)”一詞尚未被廣泛使用,通常用“互聯(lián)網(wǎng)權(quán)利”“網(wǎng)絡(luò)空間中的人權(quán)”“網(wǎng)絡(luò)權(quán)利”“信息人權(quán)”等表述指代數(shù)字人權(quán)(權(quán)利)。(10)數(shù)字人權(quán)概念的發(fā)展大致經(jīng)歷了互聯(lián)網(wǎng)人權(quán)階段、信息人權(quán)階段和數(shù)字人權(quán)階段。

      但僅將數(shù)字人權(quán)限于互聯(lián)網(wǎng)是不夠的,有必要涵蓋用戶體驗的所有當(dāng)前和未來的數(shù)字交互領(lǐng)域,也就是說,數(shù)字人權(quán)是廣泛適用于數(shù)字領(lǐng)域的人權(quán)。(11)國內(nèi)學(xué)界對數(shù)字人權(quán)接受度不高,很大程度上在于沒從技術(shù)原理上明白數(shù)字科技與機器人技術(shù)、人工智能、大數(shù)據(jù)和物聯(lián)網(wǎng)等數(shù)字科技具體技術(shù)的區(qū)別,后者只是數(shù)字科技的組成部分,只是代表數(shù)字變革的幾個關(guān)鍵詞。在物理世界中受尊重的任何人權(quán)都應(yīng)在數(shù)字形式中得到同等尊重。實踐中,較早完整提出數(shù)字人權(quán)(權(quán)利)說法的是德國和西班牙。2016年12月始,德國一個組織中27名專家撰寫的《歐盟數(shù)字基本權(quán)利憲章》(CharterofDigitalFundamentalRightsoftheEuropeanUnion)在多家報紙以整版廣告的形式刊登。此憲章共23條,包含了有關(guān)個人的自主權(quán)和自由,人工智能的開發(fā)和使用,信息自決和數(shù)據(jù)安全,以及其他方面(例如選舉、被遺忘權(quán)、免費使用等)。2018年11月26日,西班牙德烏斯托大學(xué)公布了《數(shù)字環(huán)境中的德烏斯托人權(quán)宣言》(DeustoDeclarationHumanRightsinDigitalEnvironments)。在這份宣言中,主張采用適合數(shù)字時代的第四代基本權(quán)利,共列舉了17項數(shù)字人權(quán),包括互聯(lián)網(wǎng)上被遺忘權(quán)、離線權(quán)、個人保護其“數(shù)字遺產(chǎn)”的權(quán)利、與技術(shù)相關(guān)的保護個人誠信的權(quán)利、在線言論自由權(quán)、數(shù)字身份權(quán)、技術(shù)環(huán)境中的隱私權(quán)、使用算法的透明度和問責(zé)權(quán)、在專家系統(tǒng)作出的決策中最終由實際人員支持的權(quán)利、數(shù)字經(jīng)濟中平等機會的權(quán)利、電子商務(wù)中的消費者權(quán)利、在線知識產(chǎn)權(quán)、普遍的互聯(lián)網(wǎng)訪問權(quán)、數(shù)字素養(yǎng)權(quán)、在線公正的權(quán)利、在線安全權(quán)。隨后的12月7日,西班牙新法律《數(shù)據(jù)保護和數(shù)字人權(quán)保障組織法》(LOPDGDD)生效,這部法律是以國家立法的形式補充適用歐盟《通用數(shù)據(jù)保護條例》中已有的權(quán)利制度,但有些數(shù)字人權(quán)新內(nèi)容,包括普遍接入互聯(lián)網(wǎng)的權(quán)利、數(shù)字教育的權(quán)利、工作場所的隱私權(quán)和使用數(shù)字設(shè)備的權(quán)利、工作場所中數(shù)字?jǐn)嚅_的權(quán)利、工作場所視頻監(jiān)控和錄音設(shè)備前的隱私權(quán)、數(shù)字遺囑權(quán)。2021年5月17日公布的《葡萄牙數(shù)字時代人權(quán)憲章》(PortugueseCharterofHumanRightsintheDigitalAge)規(guī)定“公民在網(wǎng)絡(luò)空間中的權(quán)利、自由和保障”,將互聯(lián)網(wǎng)轉(zhuǎn)變?yōu)閷崿F(xiàn)自由、平等和社會正義的工具,以及促進、保護和自由行使人權(quán)的空間,以期實現(xiàn)在數(shù)字環(huán)境中的社會包容,并指出“葡萄牙法律秩序中包含和保護權(quán)利、自由和保障的規(guī)范完全適用于網(wǎng)絡(luò)空間”。該文件提及公民在網(wǎng)絡(luò)空間的數(shù)字人權(quán):訪問數(shù)字環(huán)境的權(quán)利;數(shù)字環(huán)境中的表達(dá)和創(chuàng)作自由;防止虛假信息的權(quán)利;數(shù)字環(huán)境中集會、示威、結(jié)社和參與的權(quán)利;數(shù)字環(huán)境中的隱私權(quán)和數(shù)據(jù)保護;使用人工智能和機器人;網(wǎng)絡(luò)中立權(quán);數(shù)字技能發(fā)展權(quán),即數(shù)字教育權(quán);身份權(quán)和其他個人權(quán)利;被遺忘權(quán);在數(shù)字平臺上的權(quán)利;網(wǎng)絡(luò)安全權(quán);創(chuàng)作和保護內(nèi)容的自由權(quán);防止濫用地理定位的權(quán)利;數(shù)字遺囑權(quán);相對于公共行政部門的數(shù)字權(quán)利;兒童權(quán)利;數(shù)字公民行動的權(quán)利。這展示了葡萄牙參與數(shù)字化轉(zhuǎn)型和促進數(shù)字環(huán)境的進程,以促進和捍衛(wèi)人權(quán)的法律行動而提出的一項倡議,它定義了數(shù)字轉(zhuǎn)型的新范式:促進基于道德原則和價值觀以及尊重人權(quán)的數(shù)字化轉(zhuǎn)型。歐盟理事會于2021年6月1日在“引領(lǐng)數(shù)字十年”活動期間,推出一項倡議《里斯本宣言——目的導(dǎo)向的數(shù)字民主》(LisbonDeclaration-DigitalDemocracywithaPurpose)。該倡議附件中提出了一個關(guān)于數(shù)字原則的框架,(12)數(shù)字原則通用框架包括:1.數(shù)字身份,2.隱私、數(shù)據(jù)保護和網(wǎng)絡(luò)安全,3.訪問、使用和互聯(lián)網(wǎng)中立,4.人工智能的使用,5.言論和信息自由,6.集會和結(jié)社自由,7.兒童保護、照料和言論自由,8.數(shù)字教育,9.數(shù)字平臺,10.數(shù)字公共服務(wù),11.版權(quán)及其他知識產(chǎn)權(quán),12.數(shù)字遺產(chǎn),13.有效補救和訴諸司法。此框架可以進一步發(fā)展為數(shù)字權(quán)利憲章,同時,此宣言已經(jīng)獲得歐盟27個成員國的批準(zhǔn)。西班牙政府于2021年7月14日通過了《數(shù)字權(quán)利憲章》(TheDigitalRightsCharter)。數(shù)字權(quán)利法案規(guī)定諸如匿名和數(shù)據(jù)保護、數(shù)字繼承權(quán)、言論自由和獲取真實信息的權(quán)利、數(shù)字?jǐn)嚅_、未成年人保護、網(wǎng)絡(luò)安全、教育可訪問性和互聯(lián)網(wǎng)的中立性、每個人控制自己身份的權(quán)利以及平等和不受歧視的權(quán)利、在人工智能和神經(jīng)技術(shù)面前人的權(quán)利等25項數(shù)字權(quán)利。(13)保障數(shù)字世界中的權(quán)利和自由,數(shù)據(jù)保護權(quán),數(shù)字環(huán)境中的身份權(quán),匿名權(quán),不被定位和描述的權(quán)利,數(shù)字安全權(quán),數(shù)字繼承權(quán),數(shù)字環(huán)境中的平等和不受歧視權(quán),數(shù)字環(huán)境中的未成年人保護,在數(shù)字環(huán)境中保護殘疾人,數(shù)字環(huán)境中的老年人保護,中立權(quán),言論自由和信息自由,通過數(shù)字手段參與政治的權(quán)利,數(shù)字教育權(quán),公民在與公共行政部門的關(guān)系中的數(shù)字權(quán)利,工作場所的權(quán)利,數(shù)字環(huán)境中的公司為科學(xué)研究、創(chuàng)新和發(fā)展目的獲取數(shù)據(jù)的權(quán)利,技術(shù)發(fā)展和可持續(xù)數(shù)字環(huán)境的權(quán)利,數(shù)字環(huán)境中的健康保護權(quán),數(shù)字環(huán)境中的創(chuàng)造自由和獲取文化的權(quán)利,人工智能面前的權(quán)利,使用神經(jīng)技術(shù)的數(shù)字權(quán)利,數(shù)字環(huán)境中的權(quán)利保障。該憲章是數(shù)字西班牙2025議程中設(shè)定的十個目標(biāo)之一,不具有規(guī)范性,但提供了一個參考框架,以保障新數(shù)字社會中公民的權(quán)利,旨在認(rèn)識到將當(dāng)前權(quán)利適應(yīng)數(shù)字社會所帶來的挑戰(zhàn)。歐盟委員會于2022年1月26日向歐洲議會提出了一項關(guān)于以人為本的數(shù)字化轉(zhuǎn)型的數(shù)字權(quán)利和原則的宣言《歐洲數(shù)字權(quán)利和數(shù)字原則宣言》(EuropeanDeclarationonDigitalRightsandPrinciples),宣稱數(shù)字權(quán)利是允許人們訪問、使用、創(chuàng)建和發(fā)布數(shù)字媒體,以及訪問和使用計算機、其他電子設(shè)備和通信網(wǎng)絡(luò)的權(quán)利,數(shù)字權(quán)利與言論自由和隱私密切相關(guān),數(shù)字權(quán)利也被稱為數(shù)字時代人權(quán)的延伸。關(guān)鍵數(shù)字權(quán)利包括訪問和使用計算機和其他電子設(shè)備的權(quán)利、訪問和使用數(shù)字內(nèi)容的權(quán)利、創(chuàng)建和共享數(shù)字媒體的權(quán)利、數(shù)字社區(qū)的隱私權(quán)、自由表達(dá)自己想法和意見的權(quán)利、有權(quán)舉報任何看似不當(dāng)?shù)娜嘶蚴虑椤W盟希望這些權(quán)利和原則能夠作為歐盟“數(shù)字化轉(zhuǎn)型”的指南,并為人們提供參考框架以及為企業(yè)和政策制定者提供指南,甚至成為塑造全球數(shù)字權(quán)利保護標(biāo)準(zhǔn)。

      “數(shù)字權(quán)利是人權(quán)”不只是口號,也正在被寫入法律當(dāng)中。筆者直認(rèn)不諱,上述的數(shù)字人權(quán)內(nèi)容周詳備至且適切得當(dāng),不激進偏激,也不甘處落后。這些數(shù)字權(quán)利清單主要集中在數(shù)字自由權(quán)(數(shù)據(jù)保護,數(shù)字環(huán)境中的身份權(quán)、匿名權(quán),數(shù)字安全權(quán),數(shù)字繼承權(quán),防止濫用地理定位的權(quán)利);數(shù)字平等權(quán)利(保護未成年人、殘疾人和老年人,數(shù)字環(huán)境中的平等和不受歧視權(quán),互聯(lián)網(wǎng)接入權(quán)和數(shù)字環(huán)境中普遍無障礙的權(quán)利);參與和構(gòu)建數(shù)字公共環(huán)境的權(quán)利(言論自由權(quán),自由接收真實信息的權(quán)利,公民通過數(shù)字手段參與的權(quán)利和數(shù)字教育的權(quán)利等);工作場所、商業(yè)環(huán)境及特定環(huán)境中的數(shù)字權(quán)利(數(shù)字?jǐn)嚅_權(quán),人工智能和神經(jīng)科技面前的權(quán)利,以及技術(shù)發(fā)展和可持續(xù)數(shù)字環(huán)境的權(quán)利)。對其中絕大多數(shù)內(nèi)容,國內(nèi)學(xué)者已有討論,沒有再過度闡釋的必要,如個人有權(quán)控制其在線身份,并防止任何不受歡迎的第三方干擾他們?nèi)绾喂芾砥鋽?shù)字身份權(quán);每個人都有權(quán)管理其死后的數(shù)字身份和數(shù)字財產(chǎn)的“數(shù)字遺產(chǎn)”權(quán)利;個人有權(quán)從互聯(lián)網(wǎng)搜索引擎中刪除其個人數(shù)據(jù)的被遺忘權(quán)。但有一項離線權(quán),國人還是比較陌生的,有必要總結(jié)闡釋。

      離線權(quán)(right to disconnect),也被稱為數(shù)字?jǐn)嚅_權(quán),是指所有個人都有權(quán)停止在線提供自己的服務(wù)并實施斷開連接的措施,以防止被要求在線和可以聯(lián)系,并保證其有權(quán)獲得休息。法國是世界上第一個賦予工人數(shù)字?jǐn)嚅_權(quán)的國家,法國勞工法第55條于2016年8月8日簽署成為法律條文,要求一定員工規(guī)模以上的公司不能在員工下班后發(fā)郵件,員工有權(quán)利不回復(fù)或處理郵件內(nèi)容。也就是說,工人和公共雇員有權(quán)進行數(shù)字?jǐn)嚅_,以確保在合法或常規(guī)工作時間之外,尊重他們的休息時間和隱私。實際上,在數(shù)字軟件跟蹤、監(jiān)視員工任務(wù)和工作成為單位量化工作利器的今天,離線權(quán)的提出是一種保護個人數(shù)據(jù)的手段,也可以尊重個人自主自決權(quán),保障員工休息權(quán)、健康權(quán)。

      四、數(shù)字人權(quán)的風(fēng)險預(yù)防:數(shù)字科技權(quán)力的規(guī)制

      諾姆·喬姆斯基曾言,“社會行動必須由對未來社會的愿景以及對這個未來社會特征的明確價值判斷來推動。”[15]113我們正處于一個數(shù)字權(quán)利的新增長時代,但同時,也是一個數(shù)字科技權(quán)力的新膨脹時代,更確實地說,是數(shù)字科技和權(quán)力結(jié)盟的時代。數(shù)字科技權(quán)力體現(xiàn)了在數(shù)字社會背景下的一種支配,改變著人們的工作、學(xué)習(xí)、社交、購物和旅行方式等。數(shù)字軟件監(jiān)視人們的神經(jīng)數(shù)據(jù)以提高工作效率;數(shù)字教育產(chǎn)品能決定學(xué)生課堂成績的評定甚至教師授課成效;數(shù)字社交工具讓人們上下班時間的界限開始模糊,隨時聽候工作安排,社交工具變成工作交涉工具,社交疏離、孤立、沮喪情感有加無已;購物、旅行網(wǎng)站可以根據(jù)人們購物、旅行的習(xí)慣,推薦相應(yīng)產(chǎn)品,甚至不時搞個大數(shù)據(jù)殺熟的價格歧視。這些都呈現(xiàn)出一種被數(shù)字科技宰制的權(quán)力結(jié)構(gòu),讓數(shù)字科技“同意識形態(tài)一樣,具有明顯的工具性和奴役性,起著統(tǒng)治人和奴役人的社會功能”。[21]由此可知,為了避免在數(shù)字科技的“黃金時代”中出現(xiàn)數(shù)字人權(quán)的“黑鐵時代”,如何規(guī)制數(shù)字科技權(quán)力就成為數(shù)字權(quán)利風(fēng)險預(yù)防的根本。

      (一)構(gòu)建數(shù)字科技包容性價值

      數(shù)字權(quán)利的風(fēng)險預(yù)防,首要一步是尋求在數(shù)字科技理性主導(dǎo)的社會中為數(shù)字科技引入包容性價值的最佳方式。人權(quán)的當(dāng)代理解包含三種相互關(guān)聯(lián)的品質(zhì):權(quán)利必須是與生俱來的(所有人固有的)、平等的(每個人都是一樣的)和普遍的(適用于任何地方)。[22]在此品質(zhì)上,數(shù)字人權(quán)也是固有人權(quán),能平等適用,能普遍使用,而現(xiàn)實生活中的數(shù)字科技對人權(quán)這些特征都有所挑戰(zhàn)。為減少數(shù)字科技權(quán)力與數(shù)字人權(quán)的分歧與背離,需要的不是新價值觀,而是數(shù)字世界價值觀的新應(yīng)用,數(shù)字科技需要融入包容性價值。數(shù)字科技包容性價值的構(gòu)建需要在包容性治理中的數(shù)字科技向善、以人為本、享受科學(xué)進步及應(yīng)用福利權(quán)利保障方面下功夫。這就需要數(shù)字科技在包容性治理內(nèi)容上,以人為本,尊重所有的數(shù)字公民,使他們能充分享受到數(shù)字科技進步及應(yīng)用的福利,并促進數(shù)字科技享有的平等和機會,努力消除數(shù)字科技環(huán)境中一切形式的歧視。數(shù)字科技在包容性治理過程中,數(shù)字治理主體要多元化,各種數(shù)字利益相關(guān)者都能參與;數(shù)字治理程序上合作善治,重塑科技向善、不為惡的數(shù)字文化,特別關(guān)注數(shù)字鴻溝受害者;數(shù)字治理成效的普惠性,公平分享數(shù)字科技進步及應(yīng)用的福利。[23]一言以概之,數(shù)字科技包容性價值構(gòu)建就是為了人人都能享受沒有歧視的數(shù)字社會,讓所有公民在不受歧視和疏遠(yuǎn)的情況下成為數(shù)字社會的一員;以便所有公民都可以根據(jù)自己的需要利用數(shù)字科技的發(fā)展并從中受益;讓差異、弱勢的個體在數(shù)字科技面前變好,而不是變壞。(14)近年來,聯(lián)合國關(guān)注新技術(shù)和新興技術(shù)對人權(quán)的影響。2020年6月,聯(lián)合國秘書長安東尼奧·古特雷斯(António Guterres)提出了一份“數(shù)字合作路線圖”。這是一套建議的行動,旨在幫助確保所有人在數(shù)字時代都得到連接、尊重和保護,包括確保所有人(包括最弱勢群體)的數(shù)字包容性,確保數(shù)字時代的人權(quán)保護等八個關(guān)鍵行動領(lǐng)域。可能上述目標(biāo)有點過于理想,但構(gòu)建數(shù)字科技包容性價值最低目標(biāo)是實現(xiàn)包容性和最大多數(shù)人的最大幸福。

      (二)數(shù)字科技權(quán)力異化的規(guī)制

      異化是指將主體的人從真實的自我和真實的社會關(guān)系中分離出來的非人性化的狀態(tài)素描,被馬克思描述為人們認(rèn)為他們越來越無法控制塑造他們生活的社會力量。與數(shù)字科技有關(guān)的異化概念卻已經(jīng)超出了馬克思“異化”的定義,數(shù)字科技異化發(fā)生自一個人的數(shù)字生活世界,通過數(shù)字科技權(quán)力,脅迫操縱一個人的數(shù)字活動追求數(shù)據(jù)商品化而獲得剝削價值,使數(shù)字科技從人權(quán)進步力量變成人權(quán)進步的桎梏。這經(jīng)常發(fā)生在數(shù)字監(jiān)控中,會發(fā)生監(jiān)控資本主義的“受控蜂窩”(controlled hive)問題——犧牲民主、自由和人類的未來。[24]數(shù)字科技異化是伴隨著數(shù)字科技權(quán)力異化的,數(shù)字科技權(quán)力存在支配優(yōu)勢和資源壟斷、準(zhǔn)監(jiān)管角色、準(zhǔn)國家狀態(tài)的特征,[25]已經(jīng)開始對“我們身邊發(fā)生的所有現(xiàn)象的數(shù)字化高度解析”,[26]讓“人類正在進入一切皆可計算的時代”。[27]數(shù)字全景監(jiān)控主義盛行,“國家對暴力工具的傳統(tǒng)壟斷讓位于新的控制形式:操縱而不是強制,微芯片代替酒吧,遠(yuǎn)程和隱形連線而不是手銬或拘束衣,這些全景變化可能在整個社會蔓延”。[28]可怕的是,政府正在與私營部門公私合作,以“自動化、預(yù)測、識別和監(jiān)控”將國家數(shù)字化,世界正在“像僵尸一樣跌跌撞撞地進入數(shù)字反烏托邦”。[29]因此,從科技巨頭的不斷監(jiān)視和操縱中解放出來,成為數(shù)字人權(quán)風(fēng)險預(yù)防的重要方面。

      當(dāng)然,并非所有的數(shù)字科技權(quán)力都必然向惡,但數(shù)字科技權(quán)力異化則必然是惡的。數(shù)字科技權(quán)力異化也不得不讓人類思量數(shù)字科技的未來走向以及最壞的風(fēng)險應(yīng)對。在這一點上,馬長山教授認(rèn)為,在新科技革命影響下,上帝規(guī)則會不斷被改寫,將由現(xiàn)在智能互聯(lián)網(wǎng)影響的人類作為制定規(guī)則的上帝,轉(zhuǎn)化為人工智能時代數(shù)字科技變成制定規(guī)則的上帝的可能。[30]這里就有一個關(guān)鍵問題:將決策的責(zé)任委托給數(shù)字機器人后,如何規(guī)制數(shù)字科技權(quán)力異化,防止數(shù)字機器人將人給奴役了?

      尚需強調(diào)的是,人權(quán)作為一種法律框架和道德語言,具有重要的道德合法性,人權(quán)本身就是權(quán)力的源泉。同時,人權(quán)框架具有普遍適用性,也特別適合應(yīng)對數(shù)字科技此類全球性、跨境性、顛覆性、無界性、非中心化的挑戰(zhàn)。人權(quán)如何適應(yīng)數(shù)字空間、將人的尊嚴(yán)置于數(shù)字科技發(fā)展中心,是當(dāng)今數(shù)字人權(quán)保障的重心所在,數(shù)字人權(quán)的風(fēng)險防范還得靠人權(quán)機制這種人類文明的最偉大成就。特別是在數(shù)字科技權(quán)力異化明顯卻沒有相應(yīng)的國內(nèi)法律救濟措施的時候,人權(quán)是譴責(zé)數(shù)字科技權(quán)力的普遍接受、認(rèn)可、有話語分量的有用工具,可以說是監(jiān)管規(guī)制數(shù)字科技權(quán)力異化的“燈塔”。因此,規(guī)制數(shù)字科技權(quán)力異化,必然要走上數(shù)字科技與人權(quán)互濟共利的發(fā)展策略,引導(dǎo)數(shù)字科技以人權(quán)為方法的發(fā)展,促進人權(quán)結(jié)果生產(chǎn)的方式引導(dǎo)適度數(shù)字科技的發(fā)展,最終生成保護數(shù)字人權(quán)和限制數(shù)字權(quán)力的數(shù)字憲治主義。在這一點上,歐盟邁出了嘗試的第一步。2022年,歐盟提出了所謂的“數(shù)字十年原則”,將“數(shù)字權(quán)利”作為關(guān)鍵賣點,將隱私、基本權(quán)利和強有力的消費者保護置于技術(shù)要求的核心,這是歐盟將其數(shù)字治理方法(包括數(shù)字科技權(quán)力異化的規(guī)制)變成全球標(biāo)準(zhǔn)的嘗試。[31]這其中的邏輯就是,數(shù)字科技權(quán)力異化可能有違人權(quán)精神和目的,因此,需要通過數(shù)字科技權(quán)力的人權(quán)規(guī)制,逆向重塑數(shù)字科技權(quán)力的權(quán)利基因。

      五、第五代權(quán)利的可能

      數(shù)字時代正在改變?nèi)祟惖臋?quán)利觀念。實際上,現(xiàn)在的權(quán)利已經(jīng)不嚴(yán)格局限于人類,部分“非人化”的權(quán)利已經(jīng)存在。人工智能機器人被賦予公民資格,憲法中規(guī)定自然享有生存、堅持、維持和再生生命周期的自然權(quán)利,還有地球母親、河流等生態(tài)系統(tǒng)開始享有權(quán)利受到法律保護,[32]都已經(jīng)實實在在地發(fā)生。權(quán)利制度具有了潛在的變革性,第五代權(quán)利正在悄然生塑,這也是思考后人類時代權(quán)利架構(gòu)的新的權(quán)利時刻。于我國而言,第四代權(quán)利還遠(yuǎn)未達(dá)成共識,第五代權(quán)利只是愿景,世代權(quán)利的嬗遞也可能存在世代權(quán)利發(fā)展的悖論——“新權(quán)利的不受控制的擴散將更有可能導(dǎo)致人權(quán)貨幣的嚴(yán)重貶值,而不是大大豐富現(xiàn)有權(quán)利提供的總體覆蓋范圍”,[33]這就需要學(xué)界進行廣泛的人權(quán)研究和論辯。

      猜你喜歡
      人權(quán)權(quán)利數(shù)字
      我們的權(quán)利
      論不存在做錯事的權(quán)利
      法大研究生(2018年2期)2018-09-23 02:19:50
      答數(shù)字
      論人權(quán)的代際劃分
      數(shù)字看G20
      權(quán)利套裝
      Coco薇(2015年12期)2015-12-10 02:43:39
      論社會組織的人權(quán)價值
      論人權(quán)的三個化身
      成雙成對
      性人權(quán)與性多元化
      铜陵市| 光山县| 黑水县| 阳曲县| 潍坊市| 鹿泉市| 会昌县| 剑河县| 运城市| 嘉祥县| 青铜峡市| 德清县| 苏尼特左旗| 海口市| 聂荣县| 枣强县| 景宁| 龙泉市| 梁河县| 仪征市| 略阳县| 长汀县| 青神县| 天门市| 卢龙县| 海城市| 丰宁| 五华县| 古田县| 米脂县| 怀柔区| 濮阳市| 铜川市| 财经| 鸡东县| 社旗县| 静宁县| 唐海县| 青龙| 治县。| 泽库县|