——以互聯(lián)網(wǎng)和生物倫理為例①"/>
  • <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    民主如何做到知情同意
    ——以互聯(lián)網(wǎng)和生物倫理為例①

    2021-11-25 01:08:55卡羅爾古爾德黎春嫻
    哲學(xué)分析 2021年5期

    【美】卡羅爾·C.古爾德/文 黎春嫻/譯

    引 言

    自從20世紀60年代和70年代,應(yīng)用倫理學(xué)作為哲學(xué)的一個獨特分支建立以來,知情同意的概念一直是該領(lǐng)域的支柱。眾所周知,它最初出現(xiàn)在醫(yī)學(xué)倫理學(xué)中,源于一種傳統(tǒng)的擔(dān)憂——來自醫(yī)生的外科手術(shù)干預(yù),必然侵犯一個人的身體完整性①參見案例:Ruth R. Faden & Tom L. Beauchamp, A History and Theory of Informed Consent, New York and Oxford: Oxford University Press, 1986, pp. 53—113。。知情同意的要求也很早擴展到了科研倫理的新領(lǐng)域,作為一種對人類受試者有權(quán)被告知并同意在他們身上進行的實驗的承認。隨著計算機網(wǎng)絡(luò)的出現(xiàn),通過應(yīng)用倫理學(xué)家(包括我自己)的努力,有人提出,知情同意可以在保護某種程度的信息隱私方面發(fā)揮作用,而這一原則最終也在那里扎下了根。對知情同意要求的早期版本是作為網(wǎng)絡(luò)倫理的原則制定的,并在我1989年編輯的《信息網(wǎng)絡(luò):計算機網(wǎng)絡(luò)的倫理和社會影響》一書中闡明。②Carol C. Gould (ed.), The Information Web: Ethical and Social Implications of Computer Networking, Boulder,CO: Westview Press, 1989.我認為,互聯(lián)網(wǎng)涌現(xiàn)的新用途應(yīng)遵循一項原則,即在表明了知情同意的情況下,最大限度地自由和開放地獲取信息和通信,并且使其與隱私規(guī)范相符合。③Ibid., pp. 1—35.

    顯然,隨著時間的推移,無論知情同意的要求在保護某種程度的個人自由和隱私方面(無論是關(guān)于個人的身體還是關(guān)于自己的信息)有多大價值,它都面臨著壓力。不說別的,單從目前的解釋來看,知情同意似乎無法達到預(yù)期的目的。這在用于研究新生物技術(shù)的影響方面最為明顯,例如基因組學(xué)、生物樣本庫和更廣泛的大數(shù)據(jù),近來將這一原則擴展到影響公共衛(wèi)生案例的嘗試也是如此。此外,知情同意在政府和企業(yè)通過互聯(lián)網(wǎng)和網(wǎng)絡(luò)技術(shù),特別是通過社交媒體,進行的廣泛和密集的監(jiān)測形式下,達到了極限。即使在它的發(fā)源領(lǐng)域——醫(yī)學(xué)倫理學(xué),知情同意要求的力量已經(jīng)被一種趨勢所削弱,這種趨勢將其削弱到僅僅是法律和形式上的保護,往往沒有提供足夠的信息,只是一種形式上的敷衍的同意。

    在這篇文章中,我將分析知情同意這一概念的一些局限性,這些局限性與知情同意所嵌入的各種社會和技術(shù)環(huán)境有關(guān)。我將建議引入結(jié)構(gòu)性不公正(structural injustice)的概念(后文將明確定義),以便正確理解界定這一要求有效性的當(dāng)代挑戰(zhàn)。在當(dāng)前形勢下,為了保護和增進人們的自由,我們需要超越傳統(tǒng)的應(yīng)用倫理學(xué),引入民主理論和社會哲學(xué)的觀點。我會重點介紹一些來自生物倫理學(xué)和網(wǎng)上信息隱私的案例,并嘗試說明如何應(yīng)用全影響原則,以及民主參與和協(xié)商的新形式,來幫助構(gòu)建更精確的知情同意原則。我們將看到,所言之集體同意以及在各種決策環(huán)境下的民主代議,可以幫助解決目前面臨的困難問題。本文闡述的方法主要是概念性的,并且只涉及一些政策影響。但我希望至少能提出建議——關(guān)于如何在更民主和社會化的方向上來擴展應(yīng)用倫理學(xué)。

    一、知情同意的概念及其語境

    如前所述,知情同意原則起源于醫(yī)學(xué),源于對預(yù)防身體遭受侵犯的關(guān)注,如外科手術(shù)干預(yù),這與“疏忽”的概念(這里的疏忽表示某種不作為,在法律中是應(yīng)受指責(zé)的,甚至屬于一種犯罪,例如,如果醫(yī)生未能正確標記身體部位,錯誤地進行手術(shù)。商家未將牛奶冷藏導(dǎo)致變質(zhì),使客戶生病。這些缺乏關(guān)照或未采取適當(dāng)預(yù)防措施而他人受到傷害的行為,都可能被指控為“疏忽”)及其相關(guān)法律有著不同根源。①關(guān)于知情同意法的發(fā)展,參見Faden & Beauchamp, A History and Theory of Informed Consent, pp. 114—150。在大多數(shù)情況下,理論家們普遍認為,知情同意要求的規(guī)范核心在于保護一個人的自主和尊嚴,在于理解在前瞻性干預(yù)方面,或者說在研究環(huán)境中,在成為實驗研究主體方面,人類應(yīng)該被視為是有自決權(quán)的。該原則包含了對程序、成本、收益、風(fēng)險和替代方案的全面披露的要求,確保對這些內(nèi)容的理解,以及對相關(guān)干預(yù)或研究的自愿許可。有些批判者注意到,這一要求已幾乎完全縮窄到僅披露信息,只關(guān)注所傳達的信息,而忽視了溝通的其他方面(比如:如何表達,病人是否真正理解了他們被告知的內(nèi)容、是否真正同意)②Neil C. Manson & Onora O’Neill, Rethinking Informed Consent in Bioethics, Cambridge: Cambridge University Press, 2007, pp. 48—49, 68—69.,在任何情況下,它主要涉及損害的責(zé)任問題,特別是法律責(zé)任。

    與對知情同意的主流解釋相異,奧諾拉·奧尼爾(Onora O’Neill)和尼爾·曼森(Neil Manson)認為,事實上,自主并不是一個關(guān)鍵問題。相反,關(guān)鍵因素是放棄其他道德要求的適用性,相關(guān)要求和所涉及的放棄在很大程度上取決于語境。③Ibid., pp. 68—96.雖然知情同意仍然有一定的相關(guān)性和重要性,但奧尼爾認為它應(yīng)該被理解為主要適用于醫(yī)學(xué)倫理和科研倫理,而不是擴展到公共衛(wèi)生倫理。④Onora O’Neill, “Informed Consent and Public Health”, Philosophical Transactions of the Royal Society B: Biological Sciences,Vol. 359, No. 1447, pp. 1133—1136.盡管奧尼爾聲稱知情同意不能適用于全人類,但一些公共衛(wèi)生研究人員實際上仍努力堅持這一愿景(人們將會看到),至少在尊重這些人的自主權(quán)和尊嚴的基礎(chǔ)上,應(yīng)用“非剝削(nonexploitation)”的原則。

    這也有助于了解,在評估新干預(yù)措施對公共衛(wèi)生的影響時,知情同意是困難的,甚至是不可能的,例如使用轉(zhuǎn)基因生物,其具有超出給定地區(qū)或人口范圍的不可預(yù)見的影響,比如說種子可以由昆蟲或風(fēng)廣泛傳播。正如卡洛琳·紐豪斯(Carolyn Neuhaus)近來討論過的情況所呈現(xiàn)的那樣,涉及釋放昆蟲或動物等轉(zhuǎn)基因生物的試驗在此形成了特殊的困難,因為它們往往超越了給定的社區(qū),引發(fā)了應(yīng)該告知誰,以及如何獲得同意的問題。①Carolyn P. Neuhaus, “Community Engagement and Field Trials of Genetically Modified Insects and Animals”, Hastings Center Report,Vol. 48.1,2018, pp. 25—36.事實上,一些倫理學(xué)家已經(jīng)提議在實地試驗中使用大量的同意表單。②Ibid., p. 28.然而,取得這種同意顯然是不切實際的,在這種情況下,還有什么其他程序能夠尊重人們的自主權(quán)和尊嚴呢?

    同樣地,在另一個信息隱私案例中,可以看到知情同意的概念確實有部分實用價值。它的應(yīng)用與醫(yī)學(xué)倫理學(xué)的案例在側(cè)重上有所差異。通過特定的外科手術(shù)或其他干預(yù)措施,風(fēng)險和益處通??梢郧宄乇磉_(至少在給定的時間點上)。在隱私方面,盡管個人信息的特定用途,比如廣告,是可以指定的,由于互聯(lián)網(wǎng)上的數(shù)據(jù)大量且永久性的積累、不同的信息收集者的數(shù)量、能夠在網(wǎng)上進行的監(jiān)控以及關(guān)于我們自己的信息在未來的潛在用途,在很大程度上是不可預(yù)見的。因此,任何同意都不能是完全明確的。

    這表明互聯(lián)網(wǎng)發(fā)展中暴露的倫理問題與生物倫理學(xué)的問題呈現(xiàn)出相同特征,越來越多的理論家提出所謂的“廣泛(或廣泛或普遍)同意”,這種應(yīng)該涵蓋那些沒有明顯偏離原初同意的新研究,或者如同某些觀點所言——涉及對未來特定類型研究框架的同意,這也是收集了有關(guān)個體的大量基因組數(shù)據(jù)的生物樣本庫所需要的。③Kristin SolumSteinsbekk & Berge Solberg, “Biobanks—When Is Re-consent Necessary?”, Public Health Ethics, Vol. 4.3,2011,pp. 236—250.這些更廣泛的同意形式似乎對于為未來的科學(xué)研究或其他用途鋪平道路來說是至關(guān)重要的,而這些用途目前還沒有任何細節(jié)上的明確劃分。然而,以“大數(shù)據(jù)”的形式積累和隨之聚集的數(shù)據(jù),可能導(dǎo)致對最初提取DNA片段的個人的重新識別,從而給他們帶來不可預(yù)見的后果和潛在的傷害??紤]到這些無法確定的用途及其相關(guān)的風(fēng)險,唯一可能的同意將是廣泛或普遍的,而不是具體的或者某一類的。然而,人類目前還未完全明晰,這種普遍同意意味著什么(有多普遍,又是為了什么?)以及它實際上能為個人的自由和隱私提供多少保護。

    同樣的,目前關(guān)于信息隱私的討論熱點是:發(fā)展中的互聯(lián)網(wǎng)為廣泛共享信息和新的網(wǎng)絡(luò)交流形式開辟了新的可能性,所以需要有一種方式來保護個人關(guān)于自身信息的隱私。事實上,在互聯(lián)網(wǎng)從阿帕網(wǎng)(ARPANET)和美國國家科學(xué)基金網(wǎng)(NSFnet)出現(xiàn)的早期,我就認為,考慮到存儲的可能性和大型數(shù)據(jù)庫的出現(xiàn),重要的是要利用個人信息使用相關(guān)的知情同意所展現(xiàn)的對個人隱私的保護,來補充(令人向往的)在線自由和開放通信。所謂的知情同意的合法收集——通過隱私政策,即同意這些條款是獲取在線服務(wù)的前提條件,已經(jīng)發(fā)展成為一個完整的產(chǎn)業(yè)鏈。

    除了上述具體、廣泛和普遍同意造成的問題之外,還需要問:作為處理在線隱私的一種方式,知情同意是否足夠?很明顯,個人信息越來越商品化,對廣告商來說非常有價值。①Sebastian Sevignani, “The Commodification of Privacy on the Internet”, Science and Public Policy, Vol. 40,2013, pp. 733—739.此外,除了由非營利組織維基媒體(Wikimedia)托管的維基百科(Wikipedia),最大的在線信息和交流提供商是私營商業(yè)實體。②https://wikimediafoundation.org/about/.這些大公司依賴于廣告收入和定向廣告用戶信息的銷售,這是它們盈利的主要來源。事實上,像臉書(Facebook)和色拉布(Snapchat)這樣的公司已經(jīng)被商業(yè)媒體描述為廣告公司。③例如,在討論色拉布(Snapchat)最近用戶數(shù)量的下降時,商業(yè)分析師布萊恩維澤(Brian Wieser)表示,他同意該公司高管的觀點,即吸引廣告客戶比用戶數(shù)量的增長更重要。他說“這些業(yè)務(wù)首先是廣告業(yè)務(wù),消費者就是產(chǎn)品,廣告商是客戶”,https://www.nytimes.com/2018/08/07/technology/snapchat-users.html。這就造成了權(quán)力不平等的(除了財富不平等外)結(jié)構(gòu)性問題,用戶提供了大部分的主要信息內(nèi)容,但對如何處理他們的信息幾乎沒有發(fā)言權(quán)。同樣,社交媒體網(wǎng)絡(luò)的參與者也會受到不同公司的各種形式的監(jiān)控,這種現(xiàn)象被稱為“監(jiān)控資本主義”④Shoshana Zuboff, “Big Other: Surveillance Capitalism and the Prospects of an Information Civilization”, Journal of Information Technology, Vol. 30, Issue. 1,2015, pp. 75—89.。這一發(fā)展擴充了政府的線上監(jiān)控,人們對此也幾乎沒有發(fā)言權(quán)。⑤有關(guān)討論,參見 Neil M. Richards, “The Dangers of Surveillance”, Harvard Law Review, Vol. 126, No. 7, 2013, pp. 1934—1965.私有和公共變量都廣泛地使用了數(shù)據(jù)分析,但對于最初提供數(shù)據(jù)的個人來說,它們的使用方式是不透明的。

    顯然,僅憑知情同意的要求是無法應(yīng)對這些事態(tài)發(fā)展的(尤其是在美國)。由于人們想要并且需要交流并獲取相關(guān)信息(而且,我認為他們有權(quán)利這樣做),他們不得不接受不公平的,甚至可能是強制性的交易。通常情況下,這些同意書都很長,并且難以理解,即使已經(jīng)按照歐盟對易于理解的同意書的相關(guān)要求進行了更新,比如默認選項更改為選擇加入而不是選擇退出(在這些更改實際執(zhí)行程度上),情況也是如此。此外,有如此多的實體在尋求訪問個人信息,而這些信息的用途是如此模糊,以至于僅僅在方框中打個鉤就同意這些用途成了一種空洞的姿態(tài)。顯然,關(guān)于這些概念的任何解釋,都沒有充分地保護人們的隱私或自由。

    當(dāng)然,我認為知情同意在互聯(lián)網(wǎng)領(lǐng)域和生物倫理學(xué)中仍然有重要作用。盡管如此,要應(yīng)對結(jié)構(gòu)性不公正和商業(yè)利益的支配,使知情同意有效,還需要作出更多努力。

    二、規(guī)范性考慮

    一些理論家已經(jīng)注意到,在醫(yī)學(xué)和科研的案例中,完全依賴知情同意的個人主義原則產(chǎn)生了諸多問題,在公共衛(wèi)生政策和互聯(lián)網(wǎng)更是如此。有些生物倫理學(xué)家已經(jīng)開始主張,比如,面對人們自愿將他們的DNA捐獻給生物樣本庫,或者同意捐獻器官的意愿的情況,需要考慮團結(jié)和其他親社會動機。另外一部分人關(guān)注自主和隱私的規(guī)范,并批評對這些規(guī)范的解釋只適用于個人。①Ulrike Felt, Milena D. Bister, Michael Strassnig & Ursula Wagner, “Refusing the Information Paradigm: Informed Consent, Medical Research, and Patient Participation”, Health: An Interdisciplinary Journal for the Social Study of Health, Illness and Medicine, Vol. 13, No. 1,2009,pp. 87—106; Barbara Prainsack & Alena Buyx, Solidarityin Biomedicine and Beyond, Cambridge: Cambridge University Press, 2017.在互聯(lián)網(wǎng)的案例中,狹隘地強調(diào)個人決策,就好像這只是個人財產(chǎn)的處置問題一般,實質(zhì)是在支持當(dāng)前放松保護個人信息的政策。②James Q. Whitman, “The Two Western Cultures of Privacy: Dignity versus Liberty”, The Yale Law Journal, Vol. 113.6,2004,pp. 1151—1221; 應(yīng)該指出的是,個人信息是否可以被視為個人財產(chǎn)是有爭議的。有時有人認為,在數(shù)據(jù)的形式中,它部分是通過收集而產(chǎn)生的,因此數(shù)據(jù)收集者可能對它有一些權(quán)利。(有關(guān)討論,請參見https://leidenlawblog.nl/articles/privacy-of-your-personal-data)此外,目前只有知識產(chǎn)權(quán)得到法律承認。因此,雖然一個人的照片可能受版權(quán)保護,但實際上他可能對自己的許多其他信息沒有所有權(quán)。盡管臉書(Facebook)實際上聲稱用戶擁有他們在臉書(Facebook)上創(chuàng)建和發(fā)布的內(nèi)容,但他們也要求獲得使用和發(fā)布個人照片的許可,特別是“可轉(zhuǎn)讓、可分許可、免版稅、可修改、可運行、可復(fù)制、可公開執(zhí)行或顯示、可翻譯以及可創(chuàng)建內(nèi)容衍生作品的全球許可”,參見https://www.facebook.com/terms. 盡管該許可受個人隱私和應(yīng)用程序設(shè)置的限制,但事實上,如果一個人與他人分享了照片,很難甚至不可能從臉書(Facebook)上完全刪除這些照片。因為個人信息的商品化,反過來又加強了網(wǎng)絡(luò)的商業(yè)化,這些信息可以通過合法的方式交換,以換取參與社交網(wǎng)絡(luò)或在線商務(wù)。

    其他理論家則認為,歐洲人對待隱私的方式具有優(yōu)越性。歐洲人對待隱私的方式訴諸尊嚴準則,并且進一步伴隨著更多的對隱私規(guī)范的社會解釋,強調(diào)隱私在確保被(他人)認可和保全面子方面的作用。在這些描述中,隱私不再是對某個私人空間或個人財產(chǎn)的保護,而更多的是個人對世界的自我呈現(xiàn),或在不同的環(huán)境中與不同人群接觸的適當(dāng)邊界的確定。但是,如果把信息隱私簡單地定義為“保全面子”,那么它仍然是對隱私的一種相當(dāng)消極的辯護,盡管它與美國許多人理解中的“消極自由(negative freedom)”概念構(gòu)成有所差異,后者被理解為“不受干涉的自由”③Ibid.; Julie E. Cohen, “What Privacy Is for”, Harvard Law Review, Vol. 7,2013, pp. 1904—1933.。

    與此相反,我提倡的是積極的或有效的自由概念,這一概念以消極自由為前提,但超越了消極自由,需要獲得各種條件才能進行人們的自我發(fā)展或自我改造活動。人們實際上有獲得這些條件的初步的平等權(quán)利,從而產(chǎn)生了我所闡述的平等積極自由原則(正義原則)。除了要求公民自由和政治權(quán)利之外,自我改造的條件包括不受統(tǒng)治和剝削的自由,以及一系列有利的社會和物質(zhì)條件。④對積極自由和能動性條件這一概念的最初闡述是在Carol C. Gould, Rethinking Democracy: Freedom and Social Cooperation in Politics, Economy and Society, Cambridge: Cambridge University Press, 1988, pp. 31—90; 最近的闡述參見C.C. Gould, Interactive Democracy: The Social Roots of Global Justice, Cambridge: Cambridge University Press, 2014, pp. 13—80。此外,所涉及的個體被理解為關(guān)系中的個體,從而引入了比現(xiàn)有的自由主義本體論更關(guān)系化的本體論。⑤關(guān)于這種社會本體論的進路,參見 Carol C. Gould, Marx’s Social Ontology: Individuality and Community in Marx’s Theory of Social Reality, Cambridge, MA: The MIT Press, 1978, pp. 30—39; Carol C. Gould Rethinking Democracy: Freedom and Social Cooperation in Politics,Economy and Society, pp. 91—113; Carol C. Gould, Globalizing Democracy and Human Rights, Cambridge: Cambridge University Press, 2004, pp. 33, 61—74, 97, 118—122.

    我進一步地認為,參與到共同和集體的決策活動中,是人們自身發(fā)展的社會條件之一。這催生了類似于個人自主權(quán)的民主參與或共同決定的權(quán)利(實際上部分取決于這種權(quán)利)。然而,團體或社區(qū)的共同決定需要成員之間的協(xié)商,然后才能作出決策。如果涉及的群體很大,通常還需要一個民主代議制度。在這種解釋中,民主決策的范圍是廣泛的(不僅僅理解為投票和多數(shù)決定),因為它與圍繞共同目標而組織的制度環(huán)境有關(guān),而不僅限于傳統(tǒng)的政治領(lǐng)域。①Carol C. Gould, Rethinking Democracy: Freedom and Social Cooperation in Politics, Economy and Society, pp. 80—90, 247—261; Carol C. Gould, Interactive Democracy: The Social Roots of Global Justice, pp. 81—96, 226—255.

    在接下來的部分中,我考慮如何通過社會本體論尤其是民主理論(在某種程度上的解釋)的視角對知情同意進行調(diào)和,從而對其進行補充和強化。迄今為止,在應(yīng)用倫理學(xué)中發(fā)揮作用的民主的主要概念來自協(xié)商民主理論。這些應(yīng)用是具有啟發(fā)性的,并對公民陪審團和小型社群、民主論壇和其他模式提出了有益的建議,特別是在公共衛(wèi)生領(lǐng)域。②例如,參見David, M. Secko, Nina Preto, Simon Niemeyer & Michael M. Burgess, “Informed Consent in Biobank Research: A Deliberative Approach to the Debate”, Social Science & Medicine, Vol. 68, 2009, pp. 781—789; John S. Dryzek, Robert E. Goodin, Aviezer Tucker & Bernard Reber, “Promethean Elites Encounter Precautionary Publics: The Case of GM foods”, Science, Technology, & Human Values, Vol. 34, No. 3, 2009, pp. 263—288; and Chris Degeling, Stacy M. Carter & Lucie Rychetnik, “Which Public and Why Deliberate? A Scoping Review of Public Deliberation in Public Health and Health Policy Research”, Social Science & Medicine, Vol. 131,2015, pp. 114—121.共同審議也被用來擴大互聯(lián)網(wǎng)的交流和信息功能,以達到民主的目的。③例如,參見Todd Davies & Seeta Pena Gangadharan(eds.), Online Deliberation: Design, Research, and Practice, Stanford, CA: CSLI Publications/University of Chicago Press, 2009.近期,有人開始考慮在生物樣本庫的管理委員會中吸收病人代表。④Barbara Prainsack & Alena Buyx, Solidarityin Biomedicine and Beyond, especially pp. 114—119; Carol C. Gould, “Solidarity and the Problem of Structural Injustice in Healthcare”, Bioethics, Vol. 32, No. 9, 2018, pp. 541—552.此外,我利用民主理論提出了一個重要的論點,即把研究參與者納入各種跨國機構(gòu)之中,這些跨國機構(gòu)提出了確定科學(xué)實驗和數(shù)據(jù)庫的倫理地位準則。⑤Maxwell Smith & Daniel Weinstock, “Political Legitimacy and Research Ethics”, Bioethics,2018, https://doi.org/10.1111/bioe.12489.然而,民主理論和社會本體論對應(yīng)用倫理學(xué)的適用性,顯然還未被充分挖掘出來,特別是在本文所關(guān)注的這些問題上,我將在接下來的章節(jié)中進一步探討它們的效用。

    三、加強知情同意:生物倫理學(xué)領(lǐng)域

    如果要把問題表述為使知情同意更有效,或是提出相關(guān)的補充或替代方案,使其擺脫通常以法律條文呈現(xiàn)的形式,那么可以發(fā)現(xiàn):即使在傳統(tǒng)的醫(yī)療干預(yù)語境中,也有一個有趣的建議來加強這一概念的“知情”部分。盡管大多數(shù)醫(yī)生都很認真地向病人解釋可預(yù)見的風(fēng)險和手術(shù)的好處,但他們目前面臨的壓力(尤其是在美國)可能會導(dǎo)致他們中斷必要的全面討論,而且可能令他們不愿提出其他觀點。實際上在避免任何利益沖突和提供完整信息的標準規(guī)范要求范圍內(nèi),對于加強知情同意的一項建議是,允許獨立醫(yī)生、內(nèi)科或外科醫(yī)生參與這一過程。如果有必要,在已有的醫(yī)生建議之外,這個獨立的醫(yī)生可以提出一個替代的或相反的觀點,這將使病人更充分地了解風(fēng)險。這項工作可以由醫(yī)院的醫(yī)生或醫(yī)院道德委員會的醫(yī)生輪流執(zhí)行。①我把這個建議歸功于亞倫·哈雷爾(Yaron Harel)醫(yī)生,他是美國新澤西州里奇伍德(Ridgewood)山谷醫(yī)療服務(wù)中心兒科重癥監(jiān)護的副主任。

    在公共衛(wèi)生方面,雖然通常不征求受影響人群的知情同意,但有時還是會涉及,尤其是在田野試驗中。②該討論見David. B. Resnik, “Ethical Issues in Field Trials of Genetically Modified Disease-resistant Mosquitoes”, Developing World Bioethics, Vol. 14, No. 1,2014, pp. 37—46。然而,如紐豪斯所觀察到的,傳統(tǒng)意義上的知情同意都不會十分有效,它還需訴諸民主方式。正如我們所見,紐豪斯的建議是所謂的共同體參與的形式。③Carolyn P. Neuhaus, “Community Engagement and Field Trials of Genetically Modified Insects and Animals”.人們可以問,在諸如此類的案例中,在生物樣本庫中,以及在令人不安的網(wǎng)絡(luò)信息隱私問題上,是否能從民主理論中得到其他啟示?

    在接下來的篇幅中,我想重點討論民主理論三個有所助益的方面。包括(1)民主理論的全影響原則,(2)關(guān)于共同活動(如我所提及的④Carol C. Gould, Rethinking Democracy: Freedom and Social Cooperation in Politics, Economy and Society, pp. 71—80.)的共同決定的概念,或更多地設(shè)想關(guān)于現(xiàn)有政治團體或民族國家的共同決定的概念,以及(3)民主代議制的作用。此外,人們將看到應(yīng)用民主理論對于處理深刻的結(jié)構(gòu)性不公正是何等重要,這種不公正往往是問題產(chǎn)生的根源。出于這個目的,首先要區(qū)分通常被混淆的兩種意義上的結(jié)構(gòu)性不公正。

    當(dāng)人們認識到民主決策可以被理解為集體同意,或者更進一步地,同意有關(guān)集體或共同活動的政策或計劃,就可以看出知情同意民主思想的哲學(xué)意義。共同決定這些聯(lián)合活動的權(quán)利,與個人對自己活動的自決權(quán)類似,而且部分來源于這種自決權(quán)。我認為,在更深入的層面上,民主參與相關(guān)共同活動的決定權(quán)利也可以被理解為對活動的共同控制問題,因為所涉及的活動是集體的而不是個人的。由于這些長期的共同活動對于個人自我改造和自我發(fā)展的重要性,我認為,那些能夠被確定是所討論的社群或是團體成員的人,應(yīng)該享有平等的參與權(quán),因為其具有平等的能動性。⑤Ibid., pp. 31—90.這種需要并不意味著他們需要去(甚至說可以去)決定所有集體所關(guān)注的問題,但是他們有權(quán)利參與這些決定,或者授權(quán)他人來代表他們參與,代表對他們負責(zé)。

    另一種社會和政治觀點也認為,諸如知情同意這樣的要求是嵌入在一套社會實踐中的,而不是獨立的程序,無論是倫理上的還是法律上的。盡管在我看來,知情同意被正確地理解為旨在保護患者或互聯(lián)網(wǎng)參與者的自由,但是實踐中的知情同意實際上是一種歷史地涌現(xiàn),它存在于一個政治、經(jīng)濟和社會制度的語境中,對在其中運作的人來說,這涉及差異的、不平等的權(quán)力地位。這些制度和做法通常是以所謂的系統(tǒng)或結(jié)構(gòu)式的不公正為特點的。我認為,知情同意只有在能夠解決個人面臨的結(jié)構(gòu)性權(quán)力形式的民主決策框架內(nèi)發(fā)揮作用,才能成功地增加個人控制。此外,人們將看到,決定如何實施知情同意政策——即誰應(yīng)該同意和以何種方式同意,也取決于對上述民主理論的核心問題的回答。

    全影響原則和社群成員參與決策權(quán)利的適用性,在轉(zhuǎn)基因昆蟲田野試驗的公共衛(wèi)生案例中得到了明確體現(xiàn),卡羅琳·紐豪斯最近對這一案例進行了有益分析。關(guān)于轉(zhuǎn)基因昆蟲和動物在特定地區(qū)的實驗釋放,不能像一些研究人員所建議的那樣,通過征求當(dāng)?shù)厣鐓^(qū)所有成員的知情同意來處理,一方面是因為不可能獲得居民的一致同意,另一方面,對整個社群產(chǎn)生的影響還需要被考慮。紐豪斯認為,為了確定釋放的可接受性和隨之而來的風(fēng)險,需要社群的參與。她建議,這應(yīng)該包括社群成員之間以及他們和實驗者之間的協(xié)商機會,并且建議成立共同體顧問委員會。①Carolyn P. Neuhaus, “Community Engagement and Field Trials of Genetically Modified Insects and Animals”.

    然而,社群參與的概念有兩個局限性。首先,簡單地從參與的角度來看,可能還沒有給予社群中潛在的受影響的成員和社群之外的成員在實際決策中足夠的發(fā)言權(quán),甚至還未給予協(xié)商以明確的重要性。如果涉及他們未來的健康和幸福,似乎不足以讓調(diào)查人員擁有最終決定的全部權(quán)力。顯然,社群成員及其政治代表需要在實際決策過程中發(fā)揮一定的作用。雖然小型公眾和民主論壇等審議性民主手段是有用的,但它們需要作出比目前更認真對待有關(guān)投入的承諾,包括在某些情況下將其視為是具有約束力的。

    第二個局限是通過反思全影響原則的內(nèi)涵而產(chǎn)生的。在評估各種公共衛(wèi)生政策對人口的影響時,這種概念可能已經(jīng)被默認了。但就轉(zhuǎn)基因生物而言,尤其是對那些可以遠離釋放地的昆蟲而言,給予所有受影響者一定發(fā)言權(quán)的問題變得尤其具有挑戰(zhàn)性。考慮到無論如何都不能充分預(yù)測他們的發(fā)展軌跡,除了最接近的社群成員外,還應(yīng)該向誰咨詢,他們在決策過程中應(yīng)該有何種形式的參與?這個案例呼吁更廣泛的公眾,超越所涉及的地區(qū),參與到?jīng)Q策中來。這些影響的范圍也可以證明在更廣泛的層面,包括國家和區(qū)域?qū)用?,引入框架性法?guī)是合理的,可以指導(dǎo)這些試驗和類似研究方向的實施。

    部分民主理論家,如羅伯特·古?。≧obert Goodin),在決定誰有權(quán)參加民主決策時,完全依賴全影響原則②Robert E. Goodin, “Enfranchising All Affected Interests, and Its Alternatives”, Philosophy and Public Affairs, Vol. 35, Issue. 1,2007,pp. 4—68.,而我認為它主要適用于主要集體決策的外生效應(yīng),即它們對外界的影響(因此,在我看來,全影響原則補充了共同活動原則)。當(dāng)某個共同體或其代表的決定對共同體以外的其他人(包括遠方的其他人)產(chǎn)生可預(yù)見的重要影響時,這些受影響的其他人也應(yīng)該參與到民主中來(“其他人”通常缺乏平等的參與權(quán))。為了使這一原則可行,需要界定重要影響或效果的概念。什么才是重要的?我的建議是,應(yīng)該把它理解為對這些局外人的基本人權(quán)及其實現(xiàn)這些人權(quán)的能力的影響(其中人權(quán)還包括基本的經(jīng)濟和社會權(quán)利)。①Carol C. Gould, Globalizing Democracy and Human Rights, pp. 201—216; Carol C. Gould, Interactive Democracy: The Social Roots of Global Justice, pp. 81—96, pp. 226—241.顯然,以這種方式使用全影響原則,來處理超出某一特定地區(qū)(或民族國家)范圍的政策影響,效果是顯著的。這些不斷擴大的影響是當(dāng)代政策制定的重要參考,它可以產(chǎn)生跨地區(qū)、跨國或全球性的影響。雖然共同活動原則要求成員或公民平等參與,但全影響原則可以容許不同程度的參與,與所涉及的影響成比例,這使它在這些環(huán)境下具有優(yōu)勢。

    在生物倫理學(xué)的其他一些領(lǐng)域,引入全影響原則可能也是有用的。關(guān)于處理基因組信息的倫理需要,例如,對于生物樣本庫,全影響原則可以幫助構(gòu)建知情同意的要求。雖然有可能被確定的是,只有那些直接貢獻基因組數(shù)據(jù)需要獲得正式許可,但對于他們之外受到影響的人,也應(yīng)該考慮他們的利益,甚至要讓他們直接或者由受托人參與進來(對遠方的其他人來說)。在設(shè)計代表以及誰可以參與制定相關(guān)法規(guī)的問題上,全影響原則可以作出富有成效的啟發(fā)。

    在我所提的關(guān)于民主參與和代表權(quán)的寬泛概念中,關(guān)于決策執(zhí)行的規(guī)范性要求不僅在一般政府或政治領(lǐng)域是可用的,還適用于許多經(jīng)濟和社會機構(gòu)。在生物倫理學(xué)中,當(dāng)治理問題處于危急關(guān)頭,這種擴展就會產(chǎn)生影響。當(dāng)涉及管理生物樣本庫,甚至更普遍的醫(yī)療機構(gòu)問題時,所有可以被視為參與其中的機構(gòu)成員,都應(yīng)該對他們的管理有一些發(fā)言權(quán)。此外,全影響原則將支持納入那些參與的人——比如說在醫(yī)療數(shù)據(jù)庫中,因為他們有權(quán)在其理事會中享有代表權(quán),并在理事會制定政策時獲得民主參與(但沒有平等參與的權(quán)利)。這些建議不僅要求理事會成員考慮各種利益相關(guān)者的利益,甚至要求他們進行非固定形式的協(xié)商。我在其他地方曾提出另一些有用的形式,包括參與委員會的認知審議、審議機制以及其他一些有分量的新代議模式。②Carol C. Gould, Interactive Democracy: The Social Roots of Global Justice, pp. 197—212, pp. 235—241.

    四、加強知情同意:信息隱私

    讓我們把視角轉(zhuǎn)到信息隱私的層面,從民主理論的角度探討關(guān)注信息隱私的效用。正如我在1989年提出,并在上文重申過的那樣,對個人信息的使用進行知情同意確實是有作用的。③Carol C. Gould, The Information Web: Ethical and Social Implications of Computer Networking, pp. 25—29.但是,如果要考慮現(xiàn)有法律認可的基本形式是否足夠的話,需要更深入地研究這種形式的隱私保護的理據(jù)。人們還需要了解,在這種令人不安的背景條件下,對于個人信息被廣泛用于監(jiān)控和商業(yè)目的,我們能做些什么?此外,需要了解,在保障個人信息保密的同時,要為個人獲取信息和溝通提供哪些便利?我將在本文的結(jié)語部分概述一種解決方案上的概要。

    信息隱私通常被認為是對個人信息的控制。在這方面,它被看作保護消極自由或不受國家或(在某些情況下)企業(yè)干涉的自由。在生物倫理學(xué)案例中,隱私作為需要被保護的相關(guān)規(guī)范,通常被解釋為自主或自決,而對個人信息的控制被視為自主選擇的一個條件。我在1989年的文章中討論過這種控制的概念①Carol C. Gould, The Information Web: Ethical and Social Implications of Computer Networking, pp. 21—25.,這涉及某種程度的自主,并且應(yīng)該受到保護。然而,正如我在其他地方所論述過的,自主并不是對人類行為所特有的自由的充分解釋。即便被理解成關(guān)系化的自治時,它也沒有闡明自由的動態(tài)性和個人經(jīng)歷的維度,所以我用自我發(fā)展或自我改造的概念來描述自由的這些方面。盡管基于人類的選擇和意向性(如同自主性),這些替代概念在響應(yīng)創(chuàng)造力和隨時間變化方面超越了自主性,并通過整合與活動條件相關(guān)的整體關(guān)系使得選擇有效。如果沒有這些條件,選擇仍然是空洞的、無法實現(xiàn)的。這些條件包括:沒有限制(包括傳統(tǒng)的干涉)、不受壓迫、統(tǒng)治的自由、存在有利的自然和社會條件(包括承認和照料,以及對生活活動的基本物質(zhì)支助)。因此,這構(gòu)成了一種積極或有效的自由概念,但不是以賽亞·伯林(Isaiah Berlin)所批評的那種意義上的自由(我在其他地方討論過②Carol C. Gould,Interactive Democracy: The Social Roots of Global Justice, pp. 58—80; Carol C. Gould, “Retrieving Positive Freedom and Why It Matters”, in B. Baum & R. Nichols (eds.), Isaiah Berlin and the Politics of Freedom : “Two Concepts of Liberty” 50 Years Later, New York: Routledge, 2013, pp. 102—113.)。這是一個以選擇和意向性的基本過程為前提的概念,這些過程本身就需要尊重和保護,以及隨著時間的推移自我轉(zhuǎn)變的模式,包括能力的發(fā)展、長期項目的實現(xiàn)和關(guān)系的培養(yǎng)。然而,這一觀點在本質(zhì)上不是完美主義,因為發(fā)展的形式仍然是開放的,主要制約因素是,它需要與他人自身發(fā)展的平等權(quán)利保持一致。(注:這類似密爾的“傷害原則”,以犧牲他人自身發(fā)展的可能性作為代價來進行自我發(fā)展是不可行的。)③Carol C. Gould,Rethinking Democracy: Freedom and Social Cooperation in Politics,Economy and Society, pp. 52—59; Carol C. Gould, Globalizing Democracy and Human Rights, pp. 50—74; Carol C. Gould, Interactive Democracy: The Social Roots of Global Justice, p. 65.

    自我改造活動的模式以此種方式來說是開放的,但使它們得以實現(xiàn)的條件是廣泛共享的。我曾論述過,人類活動(在任何意義上的任何活動)所需要的條件可以用一套基本的或主要的人權(quán)來具體規(guī)定,而那些使其更充分繁榮所需要的條件構(gòu)成了一套次要的,但仍然重要的人權(quán)。這里的人權(quán)概念包括公民權(quán)利、政治權(quán)利、社會權(quán)利和經(jīng)濟權(quán)利。隨著時間的推移,這些條件本身可以有不同解釋,盡管如此,那些反映人類基本需求的條件,例如對人的食物或安全的需求,具有持續(xù)的核心意義。此外,實現(xiàn)這些權(quán)利的社會和政治形式,往往隨著時間和文化的跨越而相異。①更深入的討論,參見Carol C. Gould, Interactive Democracy: The Social Roots of Global Justice, pp. 13—57。

    這種積極自由和社會關(guān)系的模式如何能擴展到信息及其隱私?將信息隱私理解為對個人信息的控制有一個問題,那就是很容易將信息與一種概念聯(lián)系起來——信息是一種可以買賣的商品,在某種程度上可以將其理解為類似于私有財產(chǎn)。如果一個人認為私人信息屬于廣告商,或者像臉書或谷歌這樣的公司,當(dāng)這些公司把這些信息賣給廣告商,廣告商可以隨意處理這些信息,這就產(chǎn)生了問題②該論證參見Sebastian Sevignani, “The Commodification of Privacy on the Internet”, pp. 733—739。。我們注意到公司和政府都進行了廣泛的網(wǎng)絡(luò)監(jiān)測,但是從積極的自由的角度來看,信息的獲取和隱私本身都可以被理解為自由的基本條件之一,并且應(yīng)該被包括在人權(quán)之中。事實上,《世界人權(quán)宣言》第19條主張“通過任何媒介和不分國界尋求、接受和傳播信息和思想”的權(quán)利;在美國,隱私權(quán)被認為與《權(quán)利法案》中包含的幾項不同的保護措施有關(guān)。③不消說,這并不是說這兩份文件都是人權(quán)的理想體現(xiàn)。除此之外,相比于通常情況,如果更多地從社會和關(guān)系層面去理解信息隱私和個人信息,它們可能會在如何理解所涉及的規(guī)范以及如何尊重和實現(xiàn)這些規(guī)范方面產(chǎn)生一些差異。我將在本節(jié)的其余部分探討這些差異。

    如上所述,一些法律理論家最近試圖從控制和尊嚴之間的對比來區(qū)分當(dāng)代歐洲和美國對信息隱私的理解。④特別參見Paul M. Schwartz, “The EU-U.S. Privacy Collision: A Turn to Institutions and Procedures”, Harvard Law Review, Vol. 126, No. 7,2013, pp. 1966—2009。并且參考Whitman op. cit。他們認為,歐洲人對隱私價值的理解,訴諸社會認可的重要性,并且,人們關(guān)心自己在他人眼中的形象,他們是否值得尊重,他們的尊嚴是否完好無損。這種理解也存在一些問題,因為它依賴于一種相當(dāng)古老的尊嚴感,這種尊嚴感與尊嚴的待遇形式相聯(lián)系,與過去只給予貴族、顯貴的那種認可和尊重相聯(lián)系,而這種尊重現(xiàn)在擴展到了更廣泛的領(lǐng)域。⑤例如參見 Elizabeth Anderson, “Human Dignity as a Concept for Economy”, in M. Duwell (ed.),The Cambridge Handbook of Human Dignity, Cambridge: Cambridge University Press, 2014, pp. 492—497。事實上,尊嚴當(dāng)前的內(nèi)涵具有更深層次,相比以前,具有較少的文化相關(guān)性。⑥我在我的作品中給出了一個這樣的解釋, 參見Carol C. Gould, “Reconceiving Human Dignity as Relational and Embodied” (未發(fā)表的手稿)。盡管如此,這種所謂的歐洲人對隱私和個人數(shù)據(jù)保護的觀點,對于闡明個人信息是如何在我們與特定他人建立聯(lián)系的過程中發(fā)揮作用,是很重要的,而不是說只作為我們的擁有物而具有重要意義。在這種觀點中,隱私關(guān)系到我們希望在日常生活中如何向他人展示自己(就像我們的衣服一樣,或者比它更重要),以及我們希望在特定的方式和不同的情境中向誰展示自己。這也帶來了一個概念,即我們希望為我們的各種關(guān)系以及我們自身設(shè)定什么樣的界限,也就是說,我們希望與誰分享個人信息。⑦參見Julie E. Cohen,“What Privacy Is for”。對關(guān)系的關(guān)注也會影響到權(quán)力差異的概念,而這種權(quán)力差異是由目前法律和經(jīng)濟結(jié)構(gòu)(這種結(jié)構(gòu)能夠進行廣泛監(jiān)測和監(jiān)視)所賦予的①有關(guān)討論參見 Lisa M. Austin, “Enough about Me: Why Privacy is about Power, not Consent (or Harm)”, in A. Sarat(ed.), A World Without Privacy? What Can/Should Law Do, Cambridge: Cambridge University Press, 2014。事實上,奧斯汀堅持反對完全地強調(diào)知情同意??梢詤⒁?Lisa M. Austin, “Is Consent the Foundation of Fair Information Practices? Canada’s Experience under Pipeda”, The University of Toronto Law Journal, Vol. 56,No. 2, Spring,2006,pp. 181—215。。

    在我看來,歐洲最近出臺了關(guān)于個人信息使用要有明確的知情同意的保護措施,無論信息環(huán)境中的隱私被理解為一個自治和控制的問題,還是被理解為一個尊嚴和自我展示的問題,這都具有重要意義。我建議,要有效地處理當(dāng)前對信息隱私的威脅,要使知情同意真實地被告知,并且真實地成為同意的產(chǎn)物,無論是個人的,還是某種意義上的集體的,知情同意都需要超越現(xiàn)有的共同的法律形式。

    為了進一步理解在這些情況下如何才能使知情同意更有意義,不僅需要考慮信息隱私的價值,還需要考慮許多信息的社會性及其公共價值。在這方面,我想進一步發(fā)展之前所提出的早期網(wǎng)絡(luò)倫理原則第一部分的內(nèi)涵。該部分主張最大限度地自由和開放地獲取信息,并且我在原則的第二部分中補充了一個想法,即這種訪問應(yīng)該與通過知情同意表達的隱私權(quán)相一致。我們應(yīng)該如何理解所涉及的信息,以及所需的免費和開放訪問?盡管可以努力以1和0來表示所有的數(shù)字信息,事實上,許多信息不僅是社會產(chǎn)生的,而且是與語境相關(guān)的。隨著社會實踐的發(fā)展,以及新理解模式的發(fā)展,這些信息的意義也有所不同。②Marx W. Wartofsky, “The Digitalization of Mind”(未出版的手稿),以及Marx W. Wartofsky,“Epistemology Historicized”, in A. Shimony & D. Nails (eds.), Naturalistic Epistemology, Boston, Studies and the Philosophy of Science, Dordrecht and Boston: D. Reidel, Vol. 100,1987, pp. 357—377.信息的社會建構(gòu)適用于許多政治和文化信息(在某些方面甚至適用于科學(xué)信息),也適用于個人信息。很明顯,諸如社會保險號、出生日期,甚至我們的個人感受和政治觀點等,都是以社會實踐和制度為背景的,并且在互動、社會和公共環(huán)境中作為重要的表達方式。不僅是信息本身,還有信息隱私,就像我們的家庭和家庭的隱私一樣,對于促進我們作為個人的創(chuàng)造性發(fā)展和加強我們與他人的關(guān)系,無論是我們認識的人還是不認識的人,都是很重要的。我認為,這并不是說隱私本身的價值就一定是語境化的,正如海倫·尼森鮑姆(Helen Nissenbaum)所認為的那樣,③Helen Nissenbaum,Privacy in Context: Technology, Policy, and the Integrity of Social Life, Stanford, CA: Stanford University Press, 2010.但是涉及的信息和我們想要保護的特定形式的隱私是具有重要的社會和語境維度的。

    獲取信息應(yīng)該是最大限度的自由和開放,這個想法源于一種認識,即信息既是個人自由發(fā)展的重要條件,也是公共目的的重要條件。從歷史的角度來看,信息可以被看作一種社會創(chuàng)造,因為很難把個人的貢獻完全與使其成為可能的社會環(huán)境隔離開來,無論這些多樣的個人貢獻和共同貢獻是多么不可或缺。這一觀察結(jié)果揭示了當(dāng)代企業(yè)信息控制形式存在的問題。如前所述,最大的信息提供者,它們已成為在線信息的把關(guān)人——私營企業(yè),有時確實在其領(lǐng)域擁有虛擬壟斷權(quán)力。然而信息的創(chuàng)造者和在社交媒體上交流的大眾是大部分內(nèi)容的提供者。然而,他們通常對這些信息缺乏真正的控制,還必須同意放棄自身的個人信息,以換取一般的信息訪問權(quán)和在線交流的基本權(quán)利。相反地,他們的個人信息被當(dāng)作商品,以定向廣告的形式賣給公司牟利。這些購買個人信息的個體既沒有明顯的商業(yè)動機來保護這些信息,也沒有對他們的使用進行透明化處理。在這種情況下,企業(yè)(和政府)用戶的個人信息經(jīng)常違反原則的第一部分——要求信息和通信的自由和開放獲取,正如他們侵犯隱私權(quán)一樣。特別需要指出的是,當(dāng)人們意識到個人信息被商用、監(jiān)視和分析的時候,有研究表明,他們變得更加謹慎和不愿意給予必要的同意。①Sebastian Sevignani, “The Commodification of Privacy on the Internet”, p. 736.但是,即使存在這種默認選項,大多數(shù)人繼續(xù)參與進來也不足為奇,因為他們非常需要獲得信息和社交媒體提供的與朋友和同事交流的機會。

    如果要使知情同意有效,我建議,人們不僅需要尋找保護和加強信息隱私的方法,而且要使信息更加自由和公開。這再次表明,當(dāng)像知情同意這樣的原則被用來處理當(dāng)代的社會、政治和經(jīng)濟制度時,社會哲學(xué)和民主理論在應(yīng)用倫理學(xué)中應(yīng)扮演的角色。

    民主理論的一個相關(guān)的要點是,為了解決信息領(lǐng)域及其隱私領(lǐng)域所特有的結(jié)構(gòu)性不公正,民主決策是最需要的。目前,知情同意讓個人用戶承擔(dān)了跟蹤和響應(yīng)大量公司、其他機構(gòu)和那些尋求獲得他們信息的數(shù)據(jù)挖掘網(wǎng)站的責(zé)任。而且,正如所指出的那樣,盡管個人提供了大部分信息內(nèi)容,但他們?nèi)狈刂菩畔⒂猛镜臋?quán)力,他們必須將個人信息交給強大的機構(gòu),只是為了獲得一般的信息訪問和在線交流。由于信息在很大程度上是一種社會產(chǎn)品、公共產(chǎn)品,同時也是一種個人產(chǎn)品,這表明人們需要尋求民主框架和我所說的集體同意來補充個人知情同意的現(xiàn)有缺陷。此外,如果結(jié)構(gòu)性不公正干擾了人們對個人信息的控制,或其保密性,再或是侵犯了人們的尊嚴或設(shè)定界限的能力,那么僅憑個人行動不足以改變這種情況。相反,改革需要民主決策才能實現(xiàn)。

    但在就這種民主框架可能涉及的內(nèi)容提出一些建議之前,應(yīng)該澄清“結(jié)構(gòu)性不公正”一詞的含義。事實上,我認為這個術(shù)語有兩個內(nèi)涵,盡管在不同的方面有關(guān)聯(lián),但在文獻中沒有被區(qū)分。近來,這個詞主要由艾利斯·馬瑞恩·楊(Iris Marion Young)在她的“社會關(guān)系模型”中曾作出詳細闡述。①Iris Marion Young, “Responsibility and Global Justice: A Social Connections Model”, Social Philosophy and Policy, Vol. 23, No. 1,2006,pp. 102—130, and Responsibility for Justice, New York: Oxford University Press, 2011.雖然第一個概念確實有其可取之處,但我認為它還沒有充分反映我們所面臨問題的結(jié)構(gòu)或系統(tǒng)性的本質(zhì),需要用第二個更符合當(dāng)代政治經(jīng)濟的、更制度化的概念加以補充。楊所強調(diào)的結(jié)構(gòu)性不公正的第一個含義,指出了人們在日常社會生活中的運作方式必然會受到更廣泛的社會實踐和結(jié)構(gòu)影響,從而導(dǎo)致不公正的社會生活形式的延續(xù),盡管這些社會生活形式通常是出于好的意圖。楊進一步認為,雖然人們的具體責(zé)任往往不能用使他們對這些過程承擔(dān)法律責(zé)任的方式來追究,但他們有前瞻性的義務(wù)來努力糾正這些不公正。楊承認,在這些結(jié)構(gòu)中,特權(quán)和權(quán)力存在一些差異,但她回避了追責(zé)的概念,并認為,由于每個人每天都參與其中,每個人都對實踐負有一定的責(zé)任。

    在我看來,第一個結(jié)構(gòu)性不公正模式的重要性在于,它反映了一種認識,即我們的社會制度和實踐在某種意義上是社會的創(chuàng)造或構(gòu)建,因此是可以改變的。通過參與其中并通過我們的行動復(fù)制它們,可以使它們永久化,也可以采取行動改變它們。我認為還有第二種結(jié)構(gòu)性不公正(這個概念我和一些學(xué)者都使用過)。②Carol C. Gould, “Varieties of Global Responsibility: Reflections on Iris Marion Young’s Last Writings”, in A. Ferguson & M. Nagel(eds.), Dancing with Iris: Between Phenomenology and the Body Politic in the Political Philosophy of Iris Marion Young, Oxford: Oxford University Press, 2009, pp. 199—211; Carol C. Gould, “Solidarity and the Problem of Structural Injustice in Healthcare”.這需要結(jié)構(gòu)更加直接應(yīng)用于我們所生活的政治和經(jīng)濟體制的范圍,以及我們選擇的構(gòu)成之中。在當(dāng)下的環(huán)境中,這種觀念通常集中在對資本主義經(jīng)濟結(jié)構(gòu)的批判上,以及對民族國家制度和政府形式的批判上,這些批判往往會對人們的生活施加不應(yīng)有的權(quán)力。我認為,這些制度也是人類的創(chuàng)造物,它們在歷史上出現(xiàn)過,并通過社會行動得以維持,因此是可以改變的,盡管這往往是非常困難的。但是,它們所體現(xiàn)的不公正形式具有深刻的結(jié)構(gòu)性,因為它們體現(xiàn)在法律所規(guī)定的體制的運作中,并通過既定的權(quán)力階層和官僚機構(gòu)加以管理。它們有自己的邏輯和運作方式,而這正是這些機構(gòu)運作所需要的,因此,改造它們不僅需要大規(guī)模的有組織的集體行動或“團結(jié)運動”(solidarity movements),而且還需要通過民主立法對法律進行根本的改革,以及對基本經(jīng)濟制度形式的改革。即使生活在這個系統(tǒng)框架內(nèi)的每個參與者都決定將自己定位于正義,并為此采取個人或社會組織的行動(無論這有多么重要),這本身還不足以產(chǎn)生所需的變化。具體的系統(tǒng)或結(jié)構(gòu)要求不僅需要集體解決,而且需要通過法律和政治來解決。這表明民主政治行動在改變這些背景結(jié)構(gòu)條件方面能夠發(fā)揮作用。

    從這個角度來看,我們需要認識到,限制網(wǎng)絡(luò)信息及其隱私的知情同意權(quán)的結(jié)構(gòu)性不公正,與資本主義制度的潛在特征有關(guān),即與企業(yè)私有產(chǎn)權(quán)和大型機構(gòu)參與者的無限逐利相關(guān)。雖然私人的(像谷歌和臉書這樣的)公司確實在某種程度上促進了訪問在線信息源以及朋友和熟人之間的通信,但是資本主義企業(yè)的功能,加劇了增加壟斷權(quán)力和財富、收入的集中化,增強了訪問的約束限制,控制了信息的創(chuàng)造者和提供者。如果不能通過對現(xiàn)有政治、經(jīng)濟和法律框架進行更根本的改革來解決此類結(jié)構(gòu)性不公正,那么就需要通過一種新的監(jiān)管來改善這類不公。事實上,已經(jīng)有人提出了超越歐洲現(xiàn)有保護的具體監(jiān)管建議。包括制定反托拉斯法來對付互聯(lián)網(wǎng)壟斷,促進建立由社區(qū)運營的市政寬帶網(wǎng)絡(luò),以及為公共服務(wù)新聞提供廣泛的支持。①Victor Pickard, “Toward a People’s Internet: The Fight for Positive Freedoms in an Age of Corporate Libertarianism” in M. Edstrom, A.T. Kenyon & E-M. Svensson(eds.), NORDICOM, Special issue on Blurring the Lines: Marketdriven and Democracy-driven Freedom of Expression, 2016,pp. 61—68.從這個有利的角度來看,保護網(wǎng)絡(luò)中立性盡管至關(guān)重要,但這僅僅是使充分獲取信息成為可能所需的一個開始。此外,如果需要進一步的規(guī)章制度,這些規(guī)章制度(至少在理想情況下)應(yīng)通過比現(xiàn)有的民主程序更真實和有效的民主程序產(chǎn)生,這些民主程序應(yīng)包括公眾及其代表的參與和審議。

    另一個解決結(jié)構(gòu)性不公正干擾信息隱私的方向是引入一個新的非商業(yè)網(wǎng)絡(luò)來增加或取代現(xiàn)有的網(wǎng)絡(luò)。這實際上是蒂姆·伯納斯·李(Tim Berners-Lee)目前的計劃,他以開發(fā)萬維網(wǎng)而聞名。②https://solid.mit.edu/.考慮到信息和通信是極為重要的公共產(chǎn)品,具有許多公共和集體的組成部分,有人可能會說,理想情況下,網(wǎng)絡(luò)和互聯(lián)網(wǎng)本身應(yīng)該轉(zhuǎn)變?yōu)楣苍O(shè)施。盡管這種轉(zhuǎn)變在目前看來是遙不可及的,但事實上,人們正在努力沿著這些方向開發(fā)合作和民主運行的平臺。他們傾向于在維基百科的基礎(chǔ)上建立自己的模型,但又超越了維基百科,致力于發(fā)展所謂的真正的“數(shù)字共享”(不同于這個術(shù)語當(dāng)前的專有用法③https://www.bepress.com/products/digital-commons/.)。與此相關(guān)的是,知識共享許可證的引入,試圖在個人權(quán)利和機會之間建立一種平衡,以便比傳統(tǒng)制度下更廣泛地共享人們的創(chuàng)造性工作(同時仍在版權(quán)法范圍內(nèi))。④https://creativecommons.org/about/.不消說,與谷歌等在提供信息方面擁有巨大優(yōu)勢的公司或臉書等在線上溝通方面具有類似優(yōu)勢的公司相比,當(dāng)前的這些小規(guī)模努力顯得相形見絀。

    然而,由于缺乏這些重大變革的創(chuàng)新努力,個人和團體獲取在線信息和交流的重要性表明,制定允許此類廣泛訪問的法規(guī)是必要的。此外,如果我們承認應(yīng)該有更多可平等獲取信息和交流(針對能動性平等的原則,考慮到這些功能對這個能動者的重要性及其發(fā)展),那么社會將需要通過民主采取的政策找到方法來促進這種訪問。盡管在縮小所謂的數(shù)字鴻溝方面已經(jīng)取得了一些進展,但即使保證了每個人都能使用電腦也是不夠的。為了消除由商業(yè)使用和把關(guān)所帶來的信息獲取上的扭曲,有人可能會說,在非營利(如果不是完全公開)的基礎(chǔ)上提供信息和通信將是更合適的。如果需要訂閱這些替代形式的信息服務(wù)以支持它們的運作,這些訂閱則可以得到補貼,以最低成本或免費提供給那些負擔(dān)不起的人。事實上,現(xiàn)在大量用于監(jiān)控活動的部分資金,無論是政府還是企業(yè)的,都可以用于提供新的、更廣泛的訪問渠道,并支持公共或非營利信息提供者。

    還有一個不那么激進的方案,很明顯,在短期內(nèi)需要對人們的個人數(shù)據(jù)采取更多的保護措施,而不僅僅是引入那些最近出臺的歐洲法律。關(guān)于個人信息的各種用途的透明度要求應(yīng)被理解為是超越法律(所需)披露范圍的,并應(yīng)包括不論是公司還是政府對監(jiān)視范圍和有可能進行的目標的明確解釋。還應(yīng)提供關(guān)于這些不同用途的批判性觀點,以便人們能夠認識到并更準確地評估所涉風(fēng)險的范圍。此外,可以對需要披露的個人信息的類型和范圍加以限制。通過此類以及其他的方式,我們將在隱私和信息獲取方面用民主決策來構(gòu)建知情同意。因而,我建議,需要在民主政治和法律的宏觀層面上為更充分知情的集體同意提供機會。這些新的形式反過來可以使個人更容易通過傳統(tǒng)的知情同意來保護自己的信息,更好地管理自己在網(wǎng)上與他人聯(lián)系時的自我呈現(xiàn)和邊界設(shè)定。

    到目前為止,所討論的各種變化都與共同決定共同活動的概念有關(guān),這是我認為在當(dāng)前與加強知情同意有關(guān)的民主理論的三個方面之一。除了需要民主立法和管理之外,還應(yīng)該提供在線和離線的審議機制,以幫助人們更好地了解獲得同意的條件,并評估任何結(jié)構(gòu)性變化或新法規(guī)對政治社會的影響。例如,如前所述,目前廣泛的監(jiān)視所伴隨的風(fēng)險往往不能被很好地理解,需要公開地討論。還可以設(shè)計和實現(xiàn)小型公共平臺和民主論壇等流程和實踐,以便為決策者或代表提供重要的信息,以更好地保護信息隱私,例如,關(guān)于匿名的重要性①關(guān)于這個問題的討論,參見 Karen Frost-Arnold, “Trustworthiness and Truth: The Epistemic Pitfalls of Internet Accountability”, Episteme, Vol. 11, Issue.1,2014,pp. 63—81; Gould 2014 op. cit., pp. 213—225; John Francis & Leslie Francis, “Identifying Political Participants on Social Media: Conflicts of Epistemic Justice”, 論文發(fā)布于IVR美國分會2018年8月的年會上。,或評估個人的身份驗證形式的可接受性。

    我們最終可以轉(zhuǎn)向我提出的民主理論的另外兩個維度的內(nèi)涵,這兩個維度與我們在生物倫理學(xué)和信息隱私方面的疑難案件相關(guān),即全影響原則和新的民主代議和治理形式。就第一個方面而言,互聯(lián)網(wǎng)顯然是當(dāng)代全球化進程的一個關(guān)鍵維度,它本身就是一項完全全球化的技術(shù),或許是所有技術(shù)中最引人注目的一個。我已經(jīng)提出,全影響原則是非常有用的,在那些決定對局外人有重要影響的情況下,對那些不屬于給定集體的人進行劃分,來決定誰應(yīng)該在相關(guān)集體或機構(gòu)的決策中提供民主參與。作為這一原則的一種應(yīng)用,對當(dāng)前所有受到隱私政策影響的人有所關(guān)注是必要的,特別是在國家或區(qū)域機構(gòu)的決定越來越具有超越這些政治團體界限的廣泛影響的情況下。的確,全影響原則可以作為一種指導(dǎo),即應(yīng)要求誰給予個人知情同意,以及在這些國家或區(qū)域?qū)用婢蛿?shù)據(jù)保護作出決定時應(yīng)征求誰的意見。在這方面,民主參與的概念通常不需要充分的民主參與權(quán)利。全影響原則也可能支持從簡單的個人知情同意向集體知情同意的形式轉(zhuǎn)變,在這種情況下,數(shù)據(jù)收集可預(yù)期地對在任何特定場合明確同意的個人以外的人有所作用,特別是對遠方的、不在場的其他人。在這種情況下,應(yīng)請較遠地區(qū)受影響的人的代表參與正在考慮的相關(guān)政策和條例。

    我們已經(jīng)看到了,這些考慮是如何引導(dǎo)我們探討在充分的國際層面上就數(shù)據(jù)保護達成協(xié)議的必要性,而不僅僅是目前涌現(xiàn)的區(qū)域性協(xié)議,尤其是在歐洲。它們還提出了如何在互聯(lián)網(wǎng)實踐方面加強跨國治理的問題,這是一個有待進一步發(fā)展的領(lǐng)域。在這里,如同在地方和國家的民主政策制定中一樣,“民主代議”(democratic representation)的問題直接成為首要問題。顯然,信息和在線通信形式的用戶應(yīng)在與互聯(lián)網(wǎng)活動相關(guān)的各種現(xiàn)有管理委員會中占有一席之地。除此之外,互聯(lián)網(wǎng)治理似乎為發(fā)展新的跨國審議和代議制提供了舞臺,這些形式與目前在跨國環(huán)境治理方面正在實施的形式類似。①John S. Dryzek & Hayley Stevenson, “Global Democracy and Earth System Governance”, Ecological Economics, Vol. 70,2011, pp. 1865—1874.

    更廣泛地說,無論是關(guān)于現(xiàn)有的互聯(lián)網(wǎng)治理形式,還是關(guān)于民主“數(shù)字共享空間”(digital commons)或合作運營的信息平臺的更有遠見的建議,都需要有一個民主參與和/或代表那些使用互聯(lián)網(wǎng)以及被要求同意使用其個人信息的人的參與。審議性論壇和投票也可能有幫助,特別是對公共政策制定提供參考。無論如何,我們可以提出,這些新型的民主參與和代議制的目標不僅應(yīng)該保護個人和社會創(chuàng)造性發(fā)展所需的隱私,還應(yīng)設(shè)法開放更廣泛地獲取網(wǎng)上信息和交流。如我所建議的,在這一進程中,加強信息獲取和建立信息隱私的努力不一定相互沖突,甚至可以相互促進和支持自由的實現(xiàn),無論是在線上還是線下。

    我的老师免费观看完整版| 国产成年人精品一区二区| 亚洲丝袜综合中文字幕| 亚洲av成人精品一区久久| 成人亚洲精品av一区二区| 亚洲婷婷狠狠爱综合网| 最近视频中文字幕2019在线8| 亚洲av福利一区| 亚洲av免费在线观看| 少妇丰满av| 亚洲欧洲国产日韩| 午夜日本视频在线| 亚洲欧美一区二区三区黑人 | 丰满乱子伦码专区| 国产成人免费观看mmmm| 美女主播在线视频| 人人妻人人澡欧美一区二区| 久久鲁丝午夜福利片| 国产精品久久久久久精品电影小说 | 国产精品久久久久久精品电影| ponron亚洲| 22中文网久久字幕| 日韩av在线免费看完整版不卡| 两个人的视频大全免费| 永久网站在线| 午夜视频国产福利| 欧美+日韩+精品| 少妇高潮的动态图| 精品一区二区三区人妻视频| 一个人看视频在线观看www免费| 国产精品人妻久久久久久| 亚洲欧美成人精品一区二区| 免费av观看视频| 亚洲性久久影院| 国产男女超爽视频在线观看| 成年女人看的毛片在线观看| 神马国产精品三级电影在线观看| 亚洲真实伦在线观看| 欧美bdsm另类| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 欧美日韩综合久久久久久| 街头女战士在线观看网站| 色哟哟·www| 午夜精品在线福利| 青春草视频在线免费观看| 免费观看av网站的网址| 少妇的逼好多水| 国产片特级美女逼逼视频| 精品人妻一区二区三区麻豆| 国产白丝娇喘喷水9色精品| 精华霜和精华液先用哪个| 青春草亚洲视频在线观看| 国产淫片久久久久久久久| 麻豆av噜噜一区二区三区| 久久99热6这里只有精品| 一级片'在线观看视频| 国产伦精品一区二区三区视频9| 国产精品爽爽va在线观看网站| 一二三四中文在线观看免费高清| 国产美女午夜福利| 亚洲不卡免费看| 99久久精品一区二区三区| 国产成人精品福利久久| 久久精品人妻少妇| 99久久中文字幕三级久久日本| 丝袜美腿在线中文| 亚洲成人一二三区av| 天堂影院成人在线观看| 精品久久久久久久人妻蜜臀av| 波野结衣二区三区在线| 国产爱豆传媒在线观看| 午夜福利网站1000一区二区三区| 国产精品国产三级专区第一集| 热99在线观看视频| av黄色大香蕉| 美女脱内裤让男人舔精品视频| 国产不卡一卡二| 一夜夜www| 国产亚洲一区二区精品| 国产探花极品一区二区| 久久精品夜夜夜夜夜久久蜜豆| 久久6这里有精品| 18禁动态无遮挡网站| 内射极品少妇av片p| 亚洲成人中文字幕在线播放| 少妇猛男粗大的猛烈进出视频 | 97精品久久久久久久久久精品| 一级毛片aaaaaa免费看小| 欧美精品一区二区大全| 夫妻午夜视频| 91精品国产九色| 欧美激情久久久久久爽电影| 日韩欧美精品v在线| a级毛片免费高清观看在线播放| 国产片特级美女逼逼视频| 免费人成在线观看视频色| 天天躁夜夜躁狠狠久久av| 国产成人福利小说| 国产黄色视频一区二区在线观看| 亚洲欧美成人精品一区二区| 黄片wwwwww| 丝袜美腿在线中文| 高清毛片免费看| 国产精品一区二区在线观看99 | 欧美丝袜亚洲另类| 国产伦理片在线播放av一区| 97人妻精品一区二区三区麻豆| 在线观看美女被高潮喷水网站| 国产麻豆成人av免费视频| 亚洲精品456在线播放app| 有码 亚洲区| 久久久久久国产a免费观看| 一夜夜www| 久久99热这里只频精品6学生| 亚洲国产精品成人综合色| 久久午夜福利片| 一本一本综合久久| 在线免费观看不下载黄p国产| 婷婷色av中文字幕| 成人二区视频| 中文字幕免费在线视频6| 亚洲精品乱码久久久v下载方式| 国产精品麻豆人妻色哟哟久久 | 中文资源天堂在线| 少妇熟女aⅴ在线视频| 亚洲精品一二三| 色尼玛亚洲综合影院| 亚洲天堂国产精品一区在线| 国产大屁股一区二区在线视频| 中文在线观看免费www的网站| 日日啪夜夜爽| 伊人久久国产一区二区| 国产色爽女视频免费观看| 久久这里有精品视频免费| 国产精品人妻久久久久久| 小蜜桃在线观看免费完整版高清| 日韩视频在线欧美| 亚洲美女搞黄在线观看| 成人鲁丝片一二三区免费| 最后的刺客免费高清国语| 淫秽高清视频在线观看| 久久久久久久久久黄片| 免费播放大片免费观看视频在线观看| 日本色播在线视频| 一边亲一边摸免费视频| 美女xxoo啪啪120秒动态图| 一夜夜www| 精品欧美国产一区二区三| 国产亚洲91精品色在线| 看非洲黑人一级黄片| 欧美性感艳星| 三级毛片av免费| 日韩电影二区| 一级毛片黄色毛片免费观看视频| 男女下面进入的视频免费午夜| 日本免费a在线| 精品一区二区三区视频在线| 国产成人a区在线观看| 国产一级毛片七仙女欲春2| 亚洲av男天堂| 最近视频中文字幕2019在线8| 麻豆成人午夜福利视频| 伊人久久国产一区二区| 国产白丝娇喘喷水9色精品| 黄片无遮挡物在线观看| 青春草亚洲视频在线观看| 乱系列少妇在线播放| 又黄又爽又刺激的免费视频.| 日本免费在线观看一区| 免费不卡的大黄色大毛片视频在线观看 | 有码 亚洲区| 久99久视频精品免费| 亚洲三级黄色毛片| 日韩欧美 国产精品| 久久精品综合一区二区三区| 在现免费观看毛片| 观看免费一级毛片| 最近中文字幕2019免费版| 亚洲乱码一区二区免费版| 18禁在线播放成人免费| 免费看av在线观看网站| 可以在线观看毛片的网站| 男的添女的下面高潮视频| 国产男人的电影天堂91| 大香蕉97超碰在线| 免费观看精品视频网站| 乱人视频在线观看| 禁无遮挡网站| 亚洲av成人精品一区久久| 少妇高潮的动态图| 哪个播放器可以免费观看大片| 久久97久久精品| 国产久久久一区二区三区| av天堂中文字幕网| 婷婷色综合大香蕉| 两个人视频免费观看高清| 亚洲精品456在线播放app| 看免费成人av毛片| 少妇被粗大猛烈的视频| 国产综合精华液| 亚洲成人一二三区av| 亚洲色图av天堂| 国产 亚洲一区二区三区 | 一级二级三级毛片免费看| 三级国产精品片| 久久久久免费精品人妻一区二区| 婷婷色麻豆天堂久久| 欧美另类一区| 亚洲四区av| 春色校园在线视频观看| 亚洲人与动物交配视频| 成人一区二区视频在线观看| 男女啪啪激烈高潮av片| 一边亲一边摸免费视频| 欧美xxxx性猛交bbbb| 秋霞伦理黄片| 日韩av在线免费看完整版不卡| 床上黄色一级片| 91精品伊人久久大香线蕉| 午夜福利成人在线免费观看| 亚洲激情五月婷婷啪啪| 2021少妇久久久久久久久久久| 日日摸夜夜添夜夜添av毛片| 美女国产视频在线观看| 国产单亲对白刺激| 国产精品综合久久久久久久免费| 国产精品久久视频播放| 午夜免费观看性视频| 久久精品国产自在天天线| 老司机影院成人| 日韩国内少妇激情av| 亚洲精品色激情综合| 啦啦啦啦在线视频资源| 中文天堂在线官网| av国产久精品久网站免费入址| 看黄色毛片网站| 草草在线视频免费看| 秋霞在线观看毛片| 成人毛片60女人毛片免费| 嫩草影院新地址| 亚洲在线观看片| 亚洲精品成人久久久久久| 久久久久网色| 精品国产露脸久久av麻豆 | 国产老妇伦熟女老妇高清| 日韩,欧美,国产一区二区三区| 国产精品国产三级国产av玫瑰| 免费黄色在线免费观看| 亚洲国产高清在线一区二区三| 偷拍熟女少妇极品色| 十八禁国产超污无遮挡网站| 婷婷色综合大香蕉| 少妇熟女欧美另类| 国内少妇人妻偷人精品xxx网站| 91精品伊人久久大香线蕉| 亚洲人成网站在线观看播放| 国产伦精品一区二区三区视频9| 人妻系列 视频| 欧美日韩综合久久久久久| 激情 狠狠 欧美| 亚洲天堂国产精品一区在线| 欧美日韩精品成人综合77777| 国产淫片久久久久久久久| 岛国毛片在线播放| 国产黄a三级三级三级人| 国产91av在线免费观看| 国产精品综合久久久久久久免费| 少妇猛男粗大的猛烈进出视频 | 91久久精品电影网| 一本久久精品| 三级男女做爰猛烈吃奶摸视频| 我要看日韩黄色一级片| a级一级毛片免费在线观看| 国产精品久久久久久精品电影| 日韩一区二区三区影片| 中文天堂在线官网| 免费观看的影片在线观看| 不卡视频在线观看欧美| 嘟嘟电影网在线观看| 精品国内亚洲2022精品成人| 中文字幕制服av| 97超碰精品成人国产| 男女边摸边吃奶| 男女边吃奶边做爰视频| 一级黄片播放器| 日本熟妇午夜| 美女国产视频在线观看| 亚洲欧美清纯卡通| 亚洲图色成人| 精品不卡国产一区二区三区| 久久久精品94久久精品| 黄色欧美视频在线观看| 我的女老师完整版在线观看| 国产久久久一区二区三区| 国产精品国产三级专区第一集| 一区二区三区免费毛片| 免费看光身美女| 床上黄色一级片| 日本三级黄在线观看| 黄片无遮挡物在线观看| 亚洲人与动物交配视频| 国产精品综合久久久久久久免费| 亚洲av免费高清在线观看| 少妇高潮的动态图| 国产黄色小视频在线观看| 国产激情偷乱视频一区二区| 国产av不卡久久| 久久精品国产鲁丝片午夜精品| 中文欧美无线码| 精品人妻熟女av久视频| 三级国产精品欧美在线观看| 色播亚洲综合网| 欧美日本视频| 欧美另类一区| 国产在视频线在精品| 精品熟女少妇av免费看| 亚洲aⅴ乱码一区二区在线播放| 成人一区二区视频在线观看| 国产一区二区三区av在线| 男插女下体视频免费在线播放| 黄色一级大片看看| 色哟哟·www| 老女人水多毛片| 搡女人真爽免费视频火全软件| 免费看日本二区| 亚洲精品久久久久久婷婷小说| 亚洲欧美中文字幕日韩二区| 亚洲欧美精品自产自拍| 国产亚洲av嫩草精品影院| 三级男女做爰猛烈吃奶摸视频| 女人十人毛片免费观看3o分钟| 在线播放无遮挡| 国产成人福利小说| 亚洲av成人精品一区久久| 亚洲熟女精品中文字幕| 国产亚洲一区二区精品| 男女啪啪激烈高潮av片| 亚洲欧美一区二区三区国产| 国产爱豆传媒在线观看| 国产精品久久久久久精品电影小说 | 亚洲av一区综合| a级一级毛片免费在线观看| 亚州av有码| 精品亚洲乱码少妇综合久久| 久久精品国产自在天天线| 男人狂女人下面高潮的视频| 亚洲成人中文字幕在线播放| 亚洲av不卡在线观看| 亚洲精品,欧美精品| 久久精品夜色国产| 亚洲精品视频女| 精品人妻熟女av久视频| 日韩av不卡免费在线播放| 久久久久精品性色| 男女啪啪激烈高潮av片| 韩国av在线不卡| 久久久亚洲精品成人影院| 99久国产av精品国产电影| 精品国产一区二区三区久久久樱花 | 国产成人精品福利久久| 欧美激情在线99| 亚洲在久久综合| 国产综合精华液| 日韩在线高清观看一区二区三区| 一级毛片电影观看| 天堂av国产一区二区熟女人妻| 亚洲自偷自拍三级| 国产亚洲av片在线观看秒播厂 | 亚洲va在线va天堂va国产| 久久久久久久久久久免费av| 精品久久久久久久末码| 插逼视频在线观看| 国产精品熟女久久久久浪| 高清午夜精品一区二区三区| 欧美日韩国产mv在线观看视频 | av在线亚洲专区| 成人漫画全彩无遮挡| 精品久久久久久久人妻蜜臀av| 精品久久久久久久久av| 18+在线观看网站| 搡老乐熟女国产| 赤兔流量卡办理| 亚洲精品国产成人久久av| 久久久精品免费免费高清| 床上黄色一级片| 中文字幕久久专区| 国产精品三级大全| 久久久久久久久中文| 国产一区二区亚洲精品在线观看| 成年女人在线观看亚洲视频 | 久久久色成人| 国产永久视频网站| 韩国av在线不卡| 午夜福利在线在线| 亚洲精品成人av观看孕妇| 日韩av在线免费看完整版不卡| 亚洲成人久久爱视频| 国产免费一级a男人的天堂| 日韩亚洲欧美综合| 国产成人精品久久久久久| 99久久精品国产国产毛片| 国产免费福利视频在线观看| 国产人妻一区二区三区在| 91久久精品电影网| 在线免费观看不下载黄p国产| 亚洲激情五月婷婷啪啪| 久久精品国产亚洲网站| 国产午夜精品久久久久久一区二区三区| 久久99热6这里只有精品| 人人妻人人澡欧美一区二区| 一级av片app| 深夜a级毛片| 亚洲精品456在线播放app| 哪个播放器可以免费观看大片| 中文字幕亚洲精品专区| 亚洲怡红院男人天堂| 国产综合懂色| 麻豆国产97在线/欧美| 少妇的逼水好多| 成人特级av手机在线观看| 亚洲精华国产精华液的使用体验| 亚洲av一区综合| 日本熟妇午夜| 男女视频在线观看网站免费| 夫妻性生交免费视频一级片| 亚洲国产最新在线播放| 永久网站在线| 亚洲国产精品成人久久小说| 亚洲乱码一区二区免费版| 如何舔出高潮| 久久久久久久久大av| 国产一区有黄有色的免费视频 | 男人狂女人下面高潮的视频| 久久久久精品久久久久真实原创| 老师上课跳d突然被开到最大视频| 五月玫瑰六月丁香| 欧美变态另类bdsm刘玥| 天美传媒精品一区二区| 免费av不卡在线播放| 亚洲va在线va天堂va国产| 寂寞人妻少妇视频99o| 好男人在线观看高清免费视频| 欧美精品一区二区大全| 97精品久久久久久久久久精品| 婷婷色麻豆天堂久久| 成年免费大片在线观看| 亚洲精品日韩av片在线观看| 中文字幕免费在线视频6| 日日撸夜夜添| 国产综合懂色| 国产精品日韩av在线免费观看| 丰满人妻一区二区三区视频av| 中文字幕人妻熟人妻熟丝袜美| 中文精品一卡2卡3卡4更新| 欧美97在线视频| 狂野欧美激情性xxxx在线观看| 精品少妇黑人巨大在线播放| 亚洲国产最新在线播放| av在线蜜桃| 51国产日韩欧美| 国产 一区精品| 色尼玛亚洲综合影院| xxx大片免费视频| 国产又色又爽无遮挡免| 免费看美女性在线毛片视频| 三级经典国产精品| 亚洲精品日本国产第一区| 久久久午夜欧美精品| 极品教师在线视频| 日韩欧美三级三区| kizo精华| 色播亚洲综合网| 肉色欧美久久久久久久蜜桃 | 国产色婷婷99| 狂野欧美激情性xxxx在线观看| 国内精品一区二区在线观看| 99久久精品国产国产毛片| 男女边摸边吃奶| 国产乱来视频区| 亚洲av成人精品一二三区| 99热这里只有是精品50| 国产精品爽爽va在线观看网站| 亚洲欧美日韩东京热| 一区二区三区乱码不卡18| 国内少妇人妻偷人精品xxx网站| 啦啦啦啦在线视频资源| 美女国产视频在线观看| 80岁老熟妇乱子伦牲交| av在线播放精品| 九九在线视频观看精品| 少妇人妻精品综合一区二区| 成人国产麻豆网| 欧美一级a爱片免费观看看| 嫩草影院精品99| 国产毛片a区久久久久| 久久国内精品自在自线图片| 国产极品天堂在线| 亚洲精品国产av蜜桃| 国产精品一区二区三区四区久久| kizo精华| 久久午夜福利片| 在线观看av片永久免费下载| 亚洲av电影不卡..在线观看| 欧美精品国产亚洲| 不卡视频在线观看欧美| 毛片女人毛片| 国产午夜精品久久久久久一区二区三区| 日日啪夜夜爽| 91久久精品国产一区二区三区| 国产成人freesex在线| 久久午夜福利片| 国产乱人视频| 国产91av在线免费观看| 九色成人免费人妻av| 天天一区二区日本电影三级| 2021少妇久久久久久久久久久| 免费高清在线观看视频在线观看| 色尼玛亚洲综合影院| 国产精品三级大全| 久久久久国产网址| 男人爽女人下面视频在线观看| 深夜a级毛片| av黄色大香蕉| 欧美性猛交╳xxx乱大交人| 精品不卡国产一区二区三区| 一级黄片播放器| 国产伦精品一区二区三区视频9| 可以在线观看毛片的网站| 久久99热这里只频精品6学生| 高清午夜精品一区二区三区| 天堂俺去俺来也www色官网 | 国产v大片淫在线免费观看| 在线免费观看的www视频| 免费看不卡的av| 国产精品蜜桃在线观看| 男女下面进入的视频免费午夜| 大又大粗又爽又黄少妇毛片口| 亚洲精品久久午夜乱码| 午夜福利在线观看免费完整高清在| 干丝袜人妻中文字幕| 97超视频在线观看视频| 伦精品一区二区三区| 午夜福利视频1000在线观看| 国产真实伦视频高清在线观看| 99热这里只有是精品50| 免费观看性生交大片5| 我的老师免费观看完整版| 女的被弄到高潮叫床怎么办| 2018国产大陆天天弄谢| 伦理电影大哥的女人| 日韩 亚洲 欧美在线| 亚洲国产av新网站| 在线播放无遮挡| 国产在视频线精品| 精品人妻视频免费看| 国产色婷婷99| 国产免费视频播放在线视频 | 欧美3d第一页| 99热网站在线观看| 国产亚洲精品av在线| 午夜福利视频1000在线观看| 91av网一区二区| 久久精品熟女亚洲av麻豆精品 | 欧美最新免费一区二区三区| 3wmmmm亚洲av在线观看| 99热6这里只有精品| 国产极品天堂在线| 国产亚洲一区二区精品| 哪个播放器可以免费观看大片| 蜜桃久久精品国产亚洲av| 国产成人免费观看mmmm| 国产一区有黄有色的免费视频 | av在线天堂中文字幕| 久久久久国产网址| 国产片特级美女逼逼视频| 日韩中字成人| 一级爰片在线观看| 国产高清有码在线观看视频| 在线天堂最新版资源| 亚洲国产最新在线播放| 日本黄大片高清| 蜜桃亚洲精品一区二区三区| 日韩av免费高清视频| 国产精品一区二区在线观看99 | 伦理电影大哥的女人| 国产片特级美女逼逼视频| 91午夜精品亚洲一区二区三区| 九九爱精品视频在线观看| 男女国产视频网站| 全区人妻精品视频| 建设人人有责人人尽责人人享有的 | 2018国产大陆天天弄谢| 欧美激情久久久久久爽电影| 国语对白做爰xxxⅹ性视频网站| 亚洲自拍偷在线| 国产探花在线观看一区二区| 免费观看性生交大片5| 欧美最新免费一区二区三区| 国产亚洲一区二区精品| 久久人人爽人人爽人人片va| 日韩一区二区视频免费看| 国产黄片视频在线免费观看| 久久精品人妻少妇| 老师上课跳d突然被开到最大视频| 日日撸夜夜添| 秋霞伦理黄片| 少妇的逼好多水| 看免费成人av毛片| 秋霞在线观看毛片| 五月玫瑰六月丁香| 精品酒店卫生间| 国产精品一二三区在线看| 免费播放大片免费观看视频在线观看| kizo精华| 久久久久网色|