• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    公眾科學(xué)的科研倫理道德問題研究及治理實(shí)踐述評*

    2023-01-16 20:06:33
    世界科技研究與發(fā)展 2022年4期
    關(guān)鍵詞:倫理科學(xué)家公眾

    曾 敬

    (粵港澳大灣區(qū)戰(zhàn)略研究院,廣州 510070;廣東省科學(xué)院信息研究所,廣州 510070;廣東省科技圖書館,廣州 510070)

    現(xiàn)代科技的發(fā)展,尤其是互聯(lián)網(wǎng)以及移動(dòng)終端的發(fā)展,促進(jìn)了人與人之間的信息與知識共享。以往需要大范圍、遠(yuǎn)距離、長時(shí)間進(jìn)行數(shù)據(jù)監(jiān)測的很多科研項(xiàng)目逐漸引入了公眾力量,“公眾科學(xué)”(又稱“公民科研”)的概念應(yīng)運(yùn)而生。公眾科學(xué)的社會(huì)影響可以分為三個(gè)維度,教育維度、社會(huì)決策維度和科學(xué)研究維度,具體指公眾科學(xué)有助于提升參與者的科學(xué)文化素養(yǎng);多應(yīng)用于社區(qū)監(jiān)測,產(chǎn)生的數(shù)據(jù)對社區(qū)公共決策有重要參考意義;另外,作為眾包模式在科學(xué)界的延伸應(yīng)用,被認(rèn)為是分布式科學(xué)知識生產(chǎn)的重要形式。公眾科學(xué)項(xiàng)目日趨增多,其社會(huì)影響也越來越廣泛和深刻。部分公眾科學(xué)項(xiàng)目中公眾不只是數(shù)據(jù)提供者,還可能是項(xiàng)目發(fā)起者甚至是方案設(shè)計(jì)者。公眾不是職業(yè)科學(xué)家,對科學(xué)家的職業(yè)倫理和規(guī)范知之甚少。我國現(xiàn)有的科研誠信監(jiān)督體系對科學(xué)項(xiàng)目中的公眾參與還沒有明確的監(jiān)管機(jī)制。公眾科學(xué)的理念誕生于西方,西方也率先對相關(guān)科研誠信監(jiān)督進(jìn)行了探討。筆者在對這些成果進(jìn)行梳理的基礎(chǔ)上,對照國內(nèi)現(xiàn)狀提出相關(guān)建議,以期對我國公眾科學(xué)項(xiàng)目的開展提供參考。

    1 國外公眾科研項(xiàng)目倫理問題探討

    科學(xué)是一把雙刃劍。要保證科學(xué)向善,朝著有利于社會(huì)的方向發(fā)展,必須對科學(xué)家的行為加以規(guī)范。歐盟委員會(huì)地平線2020計(jì)劃提出了“負(fù)責(zé)任的研究與創(chuàng)新(Responsible Research and Innovation,RRI)”理念,強(qiáng)調(diào)從道德可接受性、風(fēng)險(xiǎn)管理和人類利益這三方面來思考研究和創(chuàng)新行為,使科學(xué)更好地嵌入到人們的生活[1]。負(fù)責(zé)任的研究和創(chuàng)新倡導(dǎo)開放,并希望讓利益相關(guān)者參與整個(gè)研究和創(chuàng)新過程,這與公眾科學(xué)實(shí)踐有明顯的重疊。公眾科學(xué)活動(dòng)的每一個(gè)階段,從確定研究問題到收集數(shù)據(jù)、開展數(shù)據(jù)分析和利用研究結(jié)果,都能實(shí)現(xiàn)科學(xué)界與公民的互動(dòng)。與傳統(tǒng)科研范式相比,公眾科學(xué)與社會(huì)互動(dòng)的頻率、深度大幅增加,對社會(huì)的影響也不局限于通過宣傳研究成果來實(shí)現(xiàn)。值得警惕的是,公眾科學(xué)項(xiàng)目中,研究者與“研究對象”緊密相連,甚至研究者本身就是研究對象,這使得人們產(chǎn)生了研究可靠性隱憂。相當(dāng)部分職業(yè)科學(xué)家對公眾科學(xué)所產(chǎn)生的數(shù)據(jù)持懷疑態(tài)度。

    從研究手段上看,公眾科學(xué)多涉及社交媒體和大數(shù)據(jù)的應(yīng)用,會(huì)帶來嚴(yán)重的隱私保護(hù)問題。從應(yīng)用上看,公眾科學(xué)主要應(yīng)用到了環(huán)境監(jiān)測和公共衛(wèi)生與流行病學(xué)領(lǐng)域,與其他傳統(tǒng)研究一樣,要遵守動(dòng)植物保護(hù)和涉及人的生物醫(yī)學(xué)研究倫理準(zhǔn)則。此外,利益沖突、信息和資源不對稱、權(quán)利義務(wù)不對稱等都可能使公眾科學(xué)項(xiàng)目蘊(yùn)藏潛在的學(xué)術(shù)不端風(fēng)險(xiǎn)[2]??赡苓€存在一些值得探討的責(zé)任問題,如研究人員邀請志愿者徒步穿越險(xiǎn)惡的山路,尋找并記錄難以捉摸的植物或動(dòng)物物種數(shù)據(jù),他們各自的責(zé)任是什么[3]?不難看出,公眾科學(xué)中職業(yè)科學(xué)家與公民科學(xué)家的權(quán)利義務(wù)如何分配、人們非常隱私的經(jīng)歷如何被分享和公開、參與者的不同需求和期望如何在研究中得到平衡,這些是必須審慎對待并加以解決的科研倫理道德問題[4]?,F(xiàn)有的科研倫理道德規(guī)范主要針對職業(yè)科學(xué)研究從業(yè)者,必須加以延展,以覆蓋到公眾科學(xué)活動(dòng)。

    1.1 隱私保護(hù)問題

    公眾科學(xué)項(xiàng)目通常需要收集個(gè)人數(shù)據(jù)或可能導(dǎo)致身份被識別出的數(shù)據(jù),如姓名、地址、或者環(huán)境監(jiān)測和流行病學(xué)研究中收集到的地理定位數(shù)據(jù)[5]。此類隱私問題往往影響公民參與公眾科學(xué)的意愿。以西班牙巴塞羅那開展的公共廣場噪音監(jiān)測項(xiàng)目為例,廣場附近的居民被要求在家中使用傳感器測量噪音水平,但是部分參與者出于隱私問題擔(dān)憂,會(huì)選擇切斷傳感器并拒絕共享數(shù)據(jù)[6]。社交媒體和數(shù)據(jù)收集工具的使用也是公眾科學(xué)活動(dòng)存在隱私風(fēng)險(xiǎn)的主要環(huán)節(jié)??▋?nèi)基梅隆大學(xué)Sunyoung Kim等[7]的調(diào)查研究發(fā)現(xiàn),11%的公眾科學(xué)項(xiàng)目提供了配套的移動(dòng)應(yīng)用程序進(jìn)行數(shù)據(jù)收集,約53%的公眾科學(xué)項(xiàng)目使用網(wǎng)站作為主要的數(shù)據(jù)交互工具。

    在信息技術(shù)層面,比較流行的隱私保障措施是從原始數(shù)據(jù)中模糊掉部分敏感信息,或者通過隱私增強(qiáng)程序加強(qiáng)隱私保障。弗吉尼亞理工大學(xué)Hannah M Roth等[8]發(fā)現(xiàn),公眾科學(xué)的參與者較為重視隱私,并愿意安裝隱私增強(qiáng)應(yīng)用程序,但半數(shù)以上的參與者并不能很好地理解如何實(shí)現(xiàn)隱私保障。提升參與者數(shù)字素養(yǎng)、增強(qiáng)數(shù)據(jù)工具的用戶友好性,也是規(guī)避隱私風(fēng)險(xiǎn)的重要方面。此外,保障公民科學(xué)參與者的隱私不受侵犯主要依賴于充分的溝通。活動(dòng)前的培訓(xùn)、講座以及為志愿者投保等措施,都能提高參與者對相關(guān)活動(dòng)風(fēng)險(xiǎn)的理解以及對項(xiàng)目的認(rèn)同[2]。公眾科學(xué)活動(dòng)的領(lǐng)導(dǎo)者有義務(wù)告知參與者可能被收集的個(gè)人信息及其如何被使用和共享、參與者可以采取哪些措施來限制個(gè)人信息濫用。Galdon Clavell[9]總結(jié)了公眾科學(xué)項(xiàng)目隱私保護(hù)風(fēng)險(xiǎn)及其應(yīng)對策略,他認(rèn)為應(yīng)該將設(shè)計(jì)隱私原則和默認(rèn)隱私原則結(jié)合起來,確保數(shù)據(jù)交互符合法律要求和用戶期望;要增加公眾科學(xué)活動(dòng)的透明度、明確權(quán)利義務(wù)和審查機(jī)制;允許其他人驗(yàn)證所聲明的隱私策略是否真實(shí)、清晰地落實(shí)到位;應(yīng)制定明確的規(guī)則確定哪些數(shù)據(jù)可以發(fā)布以及在哪些條件下發(fā)布;項(xiàng)目應(yīng)只收集最少的參與者個(gè)人信息,并給予充分的隱私選項(xiàng)提示。

    1.2 數(shù)據(jù)質(zhì)量問題

    公眾科學(xué)作為一種數(shù)據(jù)收集模式,成本低廉是最大的優(yōu)點(diǎn)。公民科學(xué)家不是職業(yè)的科學(xué)研究從業(yè)者,收集到的數(shù)據(jù)是否符合科學(xué)研究標(biāo)準(zhǔn)決定了相應(yīng)的研究項(xiàng)目是否有實(shí)際意義。盡管職業(yè)科學(xué)家開展的研究也可能出現(xiàn)數(shù)據(jù)質(zhì)量問題,但普通公民由于缺乏系統(tǒng)的數(shù)據(jù)采集、管理及科研誠信教育,可能對如何正確收集、記錄和管理數(shù)據(jù)認(rèn)識不足,從而導(dǎo)致較高的數(shù)據(jù)質(zhì)量風(fēng)險(xiǎn)。尤其在空氣質(zhì)量監(jiān)測、流行病監(jiān)測當(dāng)中,部分公民科學(xué)家可能由于預(yù)設(shè)立場或是別的原因,存在捏造或篡改數(shù)據(jù)的可能。

    針對數(shù)據(jù)質(zhì)量問題,英國水文生態(tài)中心Isaac[10]、哈佛大學(xué)Kosmala等[11]的分析研究認(rèn)為,各類公眾科學(xué)項(xiàng)目所產(chǎn)生數(shù)據(jù)的準(zhǔn)確性可以等于或超過專業(yè)人員,成功的項(xiàng)目可依靠一整套方法來提高數(shù)據(jù)準(zhǔn)確性,這些方法包括迭代式項(xiàng)目修正、志愿者培訓(xùn)和測試、專家驗(yàn)證、志愿者冗余以及系統(tǒng)錯(cuò)誤的統(tǒng)計(jì)建模等。志愿者培訓(xùn)可以使參與者充分了解如何進(jìn)行觀測、使用科學(xué)儀器、記錄數(shù)據(jù)和管理研究記錄,指導(dǎo)參與者如何保存完整、準(zhǔn)確、有序和有備份的記錄,還可以增加科研倫理道德相關(guān)內(nèi)容,倡導(dǎo)負(fù)責(zé)任的研究與創(chuàng)新行為。志愿者資格測試可以篩選出符合項(xiàng)目要求的志愿者,從人的角度保障數(shù)據(jù)質(zhì)量。公眾科學(xué)活動(dòng)中,專家驗(yàn)證至關(guān)重要。專家定期跟進(jìn)志愿者的研究活動(dòng),詢問他們有關(guān)如何收集、記錄和管理數(shù)據(jù)的問題,獲取他們的項(xiàng)目實(shí)施日志或報(bào)告,判別他們是否貫徹落實(shí)了適當(dāng)?shù)闹笇?dǎo)方針,并發(fā)現(xiàn)數(shù)據(jù)收集可能存在和需要解決的問題。研究完成后,專家也可以通過技術(shù)手段再次審查數(shù)據(jù),丟棄或更正他們認(rèn)為收集不當(dāng)?shù)臄?shù)據(jù),確保公眾科學(xué)活動(dòng)所取得的數(shù)據(jù)成果真實(shí)有效。

    1.3 數(shù)據(jù)共享與知識產(chǎn)權(quán)問題

    數(shù)據(jù)共享是允許其他人在已完成的工作基礎(chǔ)上再發(fā)展,并促進(jìn)對話、辯論和批判性反饋。公民科學(xué)家使用的方法過程和收集的數(shù)據(jù)應(yīng)在研究結(jié)束后向公眾披露。但過早發(fā)布未經(jīng)專業(yè)科學(xué)家審查的數(shù)據(jù)可能會(huì)損害研究的有效性、權(quán)威性,并誤導(dǎo)科學(xué)家或公眾,帶來不可估量的后果。公眾科學(xué)中,誰有權(quán)利發(fā)布數(shù)據(jù)、何時(shí)發(fā)布數(shù)據(jù),其核心問題是知識產(chǎn)權(quán)問題。公民科學(xué)家的付出通常沒有實(shí)際報(bào)酬,盡管他們可能在其他方面有所收獲。由于沒有形成勞務(wù)合同關(guān)系,公民科學(xué)家就不受大多數(shù)與勞動(dòng)有關(guān)的法律和實(shí)踐的約束,而知識產(chǎn)權(quán)相關(guān)規(guī)定通常在勞動(dòng)合同中有所提及[12]。例如,公眾科學(xué)活動(dòng)中志愿者拍攝的照片、獲得的科研數(shù)據(jù),如果沒有其他有效協(xié)議,可能不構(gòu)成職務(wù)成果。那么,志愿者是成果的版權(quán)“作者”和所有者,根據(jù)適用的知識產(chǎn)權(quán)法律規(guī)定,保留其作品所有權(quán)的公民科學(xué)家可以拒絕給予項(xiàng)目組出版許可,這可能會(huì)擾亂科學(xué)進(jìn)程,影響科學(xué)成果的傳播。另外,貢獻(xiàn)度較大的情況下,公眾科學(xué)的志愿者很可能成為專利的共同發(fā)明者。例如,美國莎倫·特里幫助發(fā)現(xiàn)了導(dǎo)致她孩子患有罕見疾病彈性假黃瘤(pseudoxanthoma elasticum)的基因,他是與這一發(fā)現(xiàn)相關(guān)的美國專利的共同發(fā)明人[13]。如果保留知識產(chǎn)權(quán)的公民科學(xué)發(fā)明人不同意實(shí)施知識產(chǎn)權(quán)轉(zhuǎn)化項(xiàng)目,或者與共同發(fā)明人在是否申請專利或向他人許可發(fā)明方面存在分歧,那么成果很難轉(zhuǎn)化應(yīng)用。另外,在環(huán)境監(jiān)測相關(guān)的公眾科學(xué)活動(dòng)中,收集的是區(qū)域性物種、醫(yī)學(xué)、氣候、生態(tài)和地理信息,公民科學(xué)家及當(dāng)?shù)厣鐓^(qū)可能會(huì)對外來者保持謹(jǐn)慎態(tài)度,并對收集到的信息主張所有權(quán)或一定的使用控制權(quán)[14]。

    公眾科學(xué)的知識產(chǎn)權(quán)問題重在預(yù)防。研究人員和項(xiàng)目設(shè)計(jì)人員應(yīng)考慮到是否對研究項(xiàng)目資助方做出特別的知識產(chǎn)權(quán)承諾,重視知識產(chǎn)權(quán)的細(xì)節(jié),包括如何處理研究成果、是否公開數(shù)據(jù)或與參與者社區(qū)分享數(shù)據(jù)、已公開的研究數(shù)據(jù)是否要采取措施限制下游用戶使用等[15]。在項(xiàng)目啟動(dòng)前,研究人員應(yīng)與參與的公民科學(xué)家就知識產(chǎn)權(quán)問題進(jìn)行充分溝通,簽署書面協(xié)議,定期或根據(jù)需要與公民科學(xué)家進(jìn)行相關(guān)問題討論并達(dá)成共識。在環(huán)境監(jiān)測類公眾科學(xué)活動(dòng)中,科學(xué)家應(yīng)該與當(dāng)?shù)鼐用翊硪约笆煜ぎ?dāng)?shù)卣Z言、歷史、傳統(tǒng)和文化的人類學(xué)家和律師合作,在事前與所有利益相關(guān)者進(jìn)行談判并簽署協(xié)議。

    1.4 利益沖突引發(fā)的科研誠信問題

    公眾科學(xué)活動(dòng)也應(yīng)警惕利益沖突帶來的不良影響。公眾科學(xué)活動(dòng)的參與者中部分人與贊助研究的私人、非營利組織、政治組織有關(guān)系時(shí),很可能產(chǎn)生不符合客觀實(shí)際的研究結(jié)果。例如,某公民科學(xué)家可能曾獲某環(huán)境組織資助,或?yàn)槠涮峁┙ㄗh,或在其董事會(huì)任職;有些公民科學(xué)家可能參與了與所協(xié)助的研究有關(guān)的法律訴訟[14]。某些組織參與到研究中,聲稱為了維護(hù)公共利益,但它很有可能已經(jīng)受控于公關(guān)公司。部分公民科學(xué)家自愿幫助研究人員搜集數(shù)據(jù),其本身也可能懷有其他政治目標(biāo)。以美國國家自然基金會(huì)資助的有關(guān)頁巖氣勘探對水源影響的公眾科學(xué)活動(dòng)為例,盡管國家并非出于明確的政治目的資助該項(xiàng)目,但是一些參與者認(rèn)為他們參與數(shù)據(jù)收集是幫助收集水力壓裂有害影響證據(jù)的一個(gè)機(jī)會(huì)[16]。受預(yù)設(shè)立場的影響,研究本身的客觀性和可信度難以保障。

    處理利益沖突的常見策略是披露。公民科學(xué)家應(yīng)該向他們的專業(yè)科學(xué)家合作者披露他們在經(jīng)濟(jì)和非經(jīng)濟(jì)方面的利益相關(guān)關(guān)系,讓專業(yè)科學(xué)家來評估這些利益相關(guān)關(guān)系可能帶來的影響。由專業(yè)科學(xué)家來決定如何處理這些利益相關(guān)信息。值得一提的是,公民科學(xué)家很可能數(shù)量較多,大量的利益相關(guān)關(guān)系信息的處理和共享會(huì)帶來挑戰(zhàn)。最佳方法可能是將公民科學(xué)家視為一個(gè)整體進(jìn)行披露。例如,在美國頁巖氣勘探對水源影響的公眾科學(xué)項(xiàng)目中,相關(guān)調(diào)查人員可以在報(bào)紙和其他公共平臺(tái)發(fā)表聲明,稱數(shù)百名參與數(shù)據(jù)收集的志愿者表示他們強(qiáng)烈反對水力壓裂。解決利益沖突回避的另一個(gè)策略是進(jìn)行數(shù)據(jù)公開,數(shù)據(jù)公開后每一個(gè)單獨(dú)的數(shù)據(jù)都可能被檢視。有時(shí)候,也有少量技術(shù)手段用于解決利益沖突問題,例如采用的監(jiān)測傳感器使用了加密數(shù)據(jù)格式,傳感器所獲數(shù)據(jù)直接傳輸至專業(yè)科學(xué)家,公民科學(xué)家難以解讀和篡改。在公眾科學(xué)活動(dòng)中,必須在數(shù)據(jù)質(zhì)量、隱私保護(hù)、資源安全、透明度和信任之間加以權(quán)衡[17]。

    1.5 權(quán)利義務(wù)及信息不對等問題

    公眾科學(xué)活動(dòng)中,專業(yè)科學(xué)家往往擔(dān)任組織者角色,而公民科學(xué)家通常在沒有報(bào)酬的情況下向研究人員提供協(xié)助。專業(yè)科學(xué)家有義務(wù)確保公民科學(xué)家對他們工作安排,如截止日期、工作條件、可交付成果等感到滿意,避免不適當(dāng)?shù)陌才攀顾麄儨S為“廉價(jià)勞動(dòng)力”或感覺不受尊重。當(dāng)一個(gè)人或團(tuán)體不公平地利用另一個(gè)人或團(tuán)體時(shí),兩者的權(quán)利義務(wù)難免失衡。公眾科學(xué)活動(dòng)中,不知情、不公平時(shí)有發(fā)生。例如,美國PatientsLikeMe、23andMe等公眾科學(xué)項(xiàng)目中,用戶產(chǎn)生的數(shù)據(jù)被共享至制藥公司,但是制藥公司的商業(yè)目的卻未被充分披露[6]。區(qū)域性傳統(tǒng)知識產(chǎn)生的某些藥物專利被商業(yè)化,但是當(dāng)?shù)鼐用窕騾⑴c者卻未能共享到相應(yīng)的收益[18]。

    有時(shí),公民科學(xué)家本身也可以發(fā)起或主導(dǎo)某項(xiàng)研究,項(xiàng)目在無專業(yè)科學(xué)家指導(dǎo)和參與的情況下,倫理道德風(fēng)險(xiǎn)會(huì)進(jìn)一步加大。尤其是生命健康相關(guān)的研究,如自我實(shí)驗(yàn)、自我監(jiān)測、基因組數(shù)據(jù)分析和全基因組關(guān)聯(lián)研究等,項(xiàng)目計(jì)劃很可能未經(jīng)機(jī)構(gòu)倫理審查委員會(huì)審查,難以確保參與者獲得足夠信息進(jìn)行倫理道德監(jiān)督[19]。Effy Vayena等[20]提出,對這類研究應(yīng)分類考量倫理審查需要,以醫(yī)學(xué)最低風(fēng)險(xiǎn)為標(biāo)準(zhǔn)判斷是否需要進(jìn)行標(biāo)準(zhǔn)的倫理審查程序,可以通過配備公民科學(xué)倫理學(xué)家或者眾包倫理審查的模式來實(shí)現(xiàn)倫理監(jiān)督。

    很多公眾科學(xué)項(xiàng)目中,志愿者受限于信息,很難公平地享受到成果利益。這可能包括知識產(chǎn)權(quán)所有權(quán)、作者署名權(quán)、正式的貢獻(xiàn)認(rèn)可(如證書或感謝信),以及金錢收益。這些權(quán)益得不到保障會(huì)使志愿者無法從中獲得成就感,并打消對項(xiàng)目行動(dòng)的熱情。而且傳統(tǒng)的科研不端定義需要擴(kuò)展才能覆蓋到公眾科學(xué)[21]。尤其是作者署名權(quán),在科學(xué)界,作者身份對專業(yè)科學(xué)家的職業(yè)發(fā)展和聲望很重要,這會(huì)誘使專業(yè)科學(xué)家有意抹掉公民科學(xué)家的作者身份。對于公民科學(xué)家而言,署名權(quán)的意義更多是一種尊重和贊許,但是授予作者署名權(quán)對于公平分配科學(xué)榮譽(yù)、促進(jìn)研究中的責(zé)任和誠實(shí)很重要。目前,還沒有定量的方式來評判公民科學(xué)家何時(shí)具有署名資格,亦或是只出現(xiàn)在致謝當(dāng)中。

    1.6 公眾科學(xué)科研誠信治理

    公眾科學(xué)只有在可信的時(shí)候才會(huì)被使用,只有在使用時(shí)才會(huì)成為一種力量。傳統(tǒng)的科學(xué)研究中雖然也存在欺詐、剽竊、違反知情同意等學(xué)術(shù)不端行為,但各國已經(jīng)從科學(xué)研究的各個(gè)流程和環(huán)節(jié)入手,建立了相應(yīng)的規(guī)章制度和治理體系來防范和應(yīng)對。然而,已經(jīng)成熟的科研誠信治理體系主要適用于專業(yè)科學(xué)家,公民科學(xué)中仍然有部分研究行為處于現(xiàn)有科研誠信治理體系以外,如志愿者自籌資金和發(fā)起的研究活動(dòng)。公眾科學(xué)參與門檻低、人員分布廣的特點(diǎn)使其很難制定和落實(shí)學(xué)術(shù)不端調(diào)查和懲戒。公眾科學(xué)不當(dāng)行為的指控由誰受理、調(diào)查,如何使參與者踐行科研誠信的承諾值得探究。

    目前防范公眾科學(xué)活動(dòng)學(xué)術(shù)不端的事前、事中機(jī)制與前述幾個(gè)問題的防范機(jī)制基本相同。但是在事后機(jī)制方面,有學(xué)者認(rèn)為主要有三種方式,第一是出版商和編輯部撤回稿件;第二是撤銷組織執(zhí)照或發(fā)布黑名單以及開除學(xué)術(shù)不端人員,第三是援引侵權(quán)法[22]。實(shí)際上,仍然缺乏實(shí)際的依托機(jī)構(gòu)來進(jìn)行監(jiān)督、調(diào)查和問責(zé)。對于非專業(yè)科學(xué)家而言,撤稿、取締公眾科學(xué)活動(dòng)組織或?qū)⒂胁欢诵袨榈娜藛T從組織中除名威懾作用有限。公民科學(xué)活動(dòng)的學(xué)術(shù)不端治理仍然倚重事前的科研誠信教育。

    2 國外公眾科研項(xiàng)目倫理監(jiān)管實(shí)踐

    歐美國家最早興起公眾科學(xué),也較早關(guān)注相關(guān)倫理道德問題的治理。政府及研究資助機(jī)構(gòu)、學(xué)術(shù)專業(yè)團(tuán)體、編輯和出版商等分別在各自的作用范圍采取了舉措,以推動(dòng)公眾科學(xué)遵循負(fù)責(zé)任的研究行為準(zhǔn)則。

    在政府措施層面,2018年5月25日,歐盟出臺(tái)了《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,GDPR),以增強(qiáng)用戶對個(gè)人信息的控制[23]。與此同時(shí),英國發(fā)布了《2018年數(shù)據(jù)保護(hù)法》[24];德國制定了《歐盟個(gè)人數(shù)據(jù)保護(hù)通用條例適應(yīng)法及刑事司法領(lǐng)域個(gè)人數(shù)據(jù)保護(hù)指令轉(zhuǎn)化法》,對GDPR條例進(jìn)行具體化[25]。個(gè)人數(shù)據(jù)保護(hù)的加強(qiáng),對公眾科學(xué)來說是把雙刃劍,一方面,公眾科學(xué)活動(dòng)的開展有了制度保障,但另一方面,嚴(yán)格遵循保護(hù)條例會(huì)帶來科學(xué)數(shù)據(jù)傳輸和利用的經(jīng)濟(jì)成本增加,如一些生物醫(yī)學(xué)數(shù)據(jù)很難再次創(chuàng)建或再次創(chuàng)建的代價(jià)高昂,諸多限制會(huì)影響數(shù)據(jù)重用效率。生物醫(yī)學(xué)和公共衛(wèi)生研究中,如何平衡數(shù)據(jù)共享和個(gè)人信息保護(hù)仍然存在一些爭議[26]。另外,歐盟也從行動(dòng)倡議、意識培育、公共平臺(tái)搭建、相關(guān)研究資助等方面推動(dòng)了公眾科學(xué)發(fā)展,主要負(fù)責(zé)機(jī)構(gòu)包括歐盟科研與創(chuàng)新總司,通信網(wǎng)絡(luò)、內(nèi)容和技術(shù)總司,歐盟聯(lián)合研究中心等[27]。歐盟廣泛推行負(fù)責(zé)任的研究和創(chuàng)新理念,加強(qiáng)了科學(xué)界科研倫理道德教育和治理體系建設(shè)。2013年12月,歐洲議會(huì)和歐洲理事會(huì)通過了實(shí)施“地平線2020”計(jì)劃的法律依據(jù)《“地平線2020”計(jì)劃條例》,與該條例配套發(fā)布的還有《關(guān)于參加“地平線2020”研發(fā)框架計(jì)劃與擴(kuò)散科研成果的規(guī)則》[28]。歐盟地平線2020計(jì)劃設(shè)立了科學(xué)與社會(huì)項(xiàng)目專項(xiàng)(Swafs),目標(biāo)之一是提升科技人才的社會(huì)意識和責(zé)任感[29]。此外該計(jì)劃還資助了公眾科學(xué)的數(shù)據(jù)采集工具開發(fā)、項(xiàng)目應(yīng)用和項(xiàng)目管理研究等項(xiàng)目。其中,針對數(shù)據(jù)采集和交互工具的隱私保護(hù)問題資助了CSI-COP項(xiàng)目,旨在調(diào)查網(wǎng)站和Android移動(dòng)設(shè)備應(yīng)用程序的GDPR遵守情況[30]。每年,歐盟聯(lián)合研究中心都會(huì)組織有關(guān)公眾參與的方法培訓(xùn),與公眾就公眾科學(xué)所產(chǎn)生的實(shí)踐、政治、社會(huì)和倫理問題進(jìn)行專題研討和對話。

    學(xué)術(shù)團(tuán)體采取的非正式措施對公眾科學(xué)活動(dòng)的發(fā)展也起到了重要的推動(dòng)作用。2014年4月,歐洲公眾科學(xué)協(xié)會(huì)(European Citizen Science Association)在德國注冊成立。目前,該協(xié)會(huì)有來自30個(gè)國家的156個(gè)組織或個(gè)人會(huì)員,致力于作為中間橋梁促進(jìn)公眾科學(xué)的健康可持續(xù)發(fā)展。2015年,該協(xié)會(huì)率先制定了公眾科學(xué)10大準(zhǔn)則,其中最后一條指出“公眾科學(xué)項(xiàng)目的領(lǐng)導(dǎo)者應(yīng)充分考慮相關(guān)版權(quán)、知識產(chǎn)權(quán)、數(shù)據(jù)共享協(xié)議、保密性、歸屬和活動(dòng)環(huán)境影響的法律和道德問題”,明確公眾科學(xué)項(xiàng)目的領(lǐng)導(dǎo)者對公眾科學(xué)活動(dòng)的倫理道德問題負(fù)主要責(zé)任。2021年5月,歐盟啟動(dòng)了“Responsible Open Science:an Ethics and Integrity Perspective”行動(dòng)[31],系統(tǒng)探討開放科學(xué)相關(guān)的倫理、法律和社會(huì)影響/挑戰(zhàn),并提出相應(yīng)解決方案,例如會(huì)根據(jù)開放科學(xué)的需要來修訂《歐洲研究誠信行為守則》。2019年9月,美國主導(dǎo)成立的公眾科學(xué)協(xié)會(huì)(Citizen Science Association,CSA)提出的2019—2022戰(zhàn)略目標(biāo)中,第一個(gè)就是提高對公眾科學(xué)誠信和卓越的關(guān)注[32]。澳大利亞公眾科學(xué)協(xié)會(huì)正致力于推動(dòng)公眾科學(xué)在澳大利亞蓬勃發(fā)展,其認(rèn)為領(lǐng)導(dǎo)和管理志愿者是公眾科學(xué)發(fā)展面臨的一大挑戰(zhàn)。部分專業(yè)領(lǐng)域?qū)W術(shù)團(tuán)體也根據(jù)本領(lǐng)域特點(diǎn)制定了覆蓋面更廣的公眾科學(xué)倫理準(zhǔn)則,例如自發(fā)性危機(jī)繪圖界根據(jù)國際紅十字會(huì)和紅新月會(huì)聯(lián)合會(huì)的人道主義原則制定了自己的倫理框架。DIY生物學(xué)組織聯(lián)合華盛頓威爾遜中心基于1948年的《人權(quán)宣言》制定了倫理框架,其中明確提出“增加透明度,促進(jìn)創(chuàng)意、知識、數(shù)據(jù)和成果的分享;生物技術(shù)只能用于和平目的;尊重人類和所有生命;對自身的行為負(fù)責(zé)”[33],自我實(shí)驗(yàn)、自我監(jiān)測等非專業(yè)科學(xué)家發(fā)起的項(xiàng)目也應(yīng)該遵循這個(gè)倫理準(zhǔn)則。此外,志愿者管理協(xié)會(huì)制定的道德標(biāo)準(zhǔn)也可以為公眾科學(xué)提供參考。

    作為科學(xué)研究活動(dòng)的主要承擔(dān)者,學(xué)術(shù)機(jī)構(gòu)紛紛出臺(tái)數(shù)據(jù)管理政策對接GDPR標(biāo)準(zhǔn)和響應(yīng)行業(yè)準(zhǔn)則要求。英國、美國、澳大利亞眾多高校發(fā)布了數(shù)據(jù)管理政策,涵蓋了數(shù)據(jù)創(chuàng)建、組織、存儲(chǔ)、訪問、重用、歸檔、安全和產(chǎn)權(quán)等各個(gè)方面。根據(jù)GDPR標(biāo)準(zhǔn),科研機(jī)構(gòu)主要在以下方面加強(qiáng)了對科研數(shù)據(jù)的管理:1)作為數(shù)據(jù)控制者需要獲得明確同意才能處理個(gè)人數(shù)據(jù);2)員工人數(shù)超過250人時(shí)強(qiáng)制性要求設(shè)置“數(shù)據(jù)保護(hù)官”職位;3)數(shù)據(jù)主體擁有新增的擦除權(quán)(被遺忘權(quán))和可攜帶權(quán);4)引入“默認(rèn)隱私原則”和“設(shè)計(jì)隱私原則”;5)在可行的或無不當(dāng)延誤的情況下,有義務(wù)在24小時(shí)內(nèi)通知個(gè)人數(shù)據(jù)泄漏;6)在進(jìn)行某些處理之前,有義務(wù)進(jìn)行隱私影響評估(Privacy impact Assessment,PIA)[34]。英國愛丁堡大學(xué)制定的參與者信息表很詳盡,專用以收集研究參與者的明確同意,對其他公眾科學(xué)項(xiàng)目有重要的參照意義。

    在成果發(fā)表環(huán)節(jié),編輯和出版商擔(dān)負(fù)著防止科技信息被謬用、誤用的責(zé)任。國際醫(yī)學(xué)期刊編輯委員會(huì)(International Committee of Medical Journal Editors,ICMJE)、出 版 倫 理 委 員 會(huì)(Committee on Publication Ethics,COPE)以及歐洲科學(xué)編輯學(xué)會(huì)(The European Association of Science Editors,EASE)等機(jī)構(gòu)制定的出版道德標(biāo)準(zhǔn)對全球編輯和出版界頗有影響。在倫理道德風(fēng)高發(fā)的生物醫(yī)藥領(lǐng)域,科研成果發(fā)表都是遵循ICMJE的準(zhǔn)則,即涉及人體試驗(yàn)的任何調(diào)查研究,作者應(yīng)能夠出示研究倫理委員會(huì)或機(jī)構(gòu)倫理審查委員會(huì)簽發(fā)的《研究批準(zhǔn)聲明》,如果不能,文章應(yīng)對這一情況進(jìn)行說明并解釋無須進(jìn)行倫理審批的原因。近年來,ICMJE為推進(jìn)數(shù)據(jù)的廣泛利用和加強(qiáng)形式審查,推出了數(shù)據(jù)共享計(jì)劃,該計(jì)劃對科研不端行為也有積極的防治作用。另外,針對難以判定是否產(chǎn)生負(fù)面影響的兩用性研究成果,PNAS或Nature等期刊也已經(jīng)開始制定相關(guān)出版指南[35]。

    3 國際經(jīng)驗(yàn)對我國的啟示與建議

    自2004年國家科技部發(fā)文啟動(dòng)實(shí)施“國家重點(diǎn)實(shí)驗(yàn)室公眾開放”活動(dòng)以來,我國科技基礎(chǔ)設(shè)施、科研數(shù)據(jù)的對外開放程度不斷提高。2006年,科技部發(fā)布《關(guān)于科研機(jī)構(gòu)和大學(xué)向社會(huì)開放開展科普活動(dòng)的若干意見》,建議科研機(jī)構(gòu)和大學(xué)向社會(huì)開放研究場地及設(shè)施。2012年,《中共中央國務(wù)院關(guān)于深化科技體制改革加快國家創(chuàng)新體系建設(shè)的意見》明確對財(cái)政資金資助的科技項(xiàng)目和科研基礎(chǔ)設(shè)施,加快建立統(tǒng)一的管理數(shù)據(jù)庫和科技報(bào)告制度,并依法向社會(huì)開放。2014年,國務(wù)院發(fā)布了《國務(wù)院關(guān)于國家重大科研基礎(chǔ)設(shè)施和大型科研儀器向社會(huì)開放的意見》。

    我國具有公眾科研內(nèi)涵的科研活動(dòng),在生物多樣性、環(huán)境監(jiān)測、生態(tài)保護(hù)等領(lǐng)域開展較多[36]。2002年,中國觀鳥記錄中心開始組織觀鳥愛好者觀測并記錄鳥類活動(dòng),并建設(shè)了中國觀鳥記錄中心網(wǎng)絡(luò)平臺(tái)(http://www.birdreport.cn/),截至2020年底該平臺(tái)已有近15000名包括觀鳥愛好者、科研人員、一線自然保護(hù)人員在內(nèi)的活躍用戶,記錄涉及1321種在中國有分布的鳥類,記錄地點(diǎn)涵蓋全國71.44%的縣級行政單位[37]。中國科學(xué)院植物研究所2007年開始建設(shè)中國自然標(biāo)本館生物多樣性信息平臺(tái)(http://www.cfh.ac.cn/),促使植物分類學(xué)家和公眾參與者形成了調(diào)查和發(fā)現(xiàn)物種的廣泛性協(xié)作網(wǎng)絡(luò),截至2021年10月底,該平臺(tái)注冊用戶達(dá)2萬人,其中鑒定照片達(dá)1183萬張[38]。北京大學(xué)生命科學(xué)學(xué)院呂植教授發(fā)起成立的山水自然保護(hù)中心,建立了覆蓋全國的生物多樣性調(diào)查與監(jiān)測網(wǎng)絡(luò),用于評估全國1085個(gè)瀕危物種的保護(hù)狀況,并發(fā)布《中國自然觀察》報(bào)告[39]。值得一提的是,也有部分公眾科研平臺(tái)走向了停滯,如2013年4月,以中國科學(xué)院植物研究所陳彬等科學(xué)家組建的中國公眾科學(xué)項(xiàng)目平臺(tái),幾乎沒有熱度和后續(xù)維護(hù)[40]。與國外相比,我國公眾科學(xué)開展的范圍和深度還有較大差距。我國公眾與科學(xué)界的互動(dòng)仍然以科學(xué)界面向公眾開展科學(xué)傳播,公眾作為受試者、被調(diào)研對象對科學(xué)研究做出貢獻(xiàn)兩種形式為主?!肮娀顒?dòng)日”等活動(dòng)更多的價(jià)值在于弘揚(yáng)科學(xué)精神,營造科學(xué)氛圍[41]。

    公眾科學(xué)是開放科學(xué)的一部分。我國有少量學(xué)者對開放科學(xué)的科研道德誠信問題進(jìn)行了研究。中國科學(xué)技術(shù)信息研究所姚長青[42]認(rèn)為,在數(shù)據(jù)密集型科研范式下,通過促進(jìn)科研過程中的數(shù)據(jù)開放性和透明度,并對數(shù)據(jù)科學(xué)進(jìn)行評價(jià)以提高科學(xué)嚴(yán)謹(jǐn)性等措施有利于科研誠信建設(shè)。北京大學(xué)梅亮[43]等基于責(zé)任式創(chuàng)新視角,從科學(xué)研究、技術(shù)開發(fā)、社會(huì)發(fā)展的全過程,構(gòu)建了與之適配的以開放科學(xué)、開放戰(zhàn)略及開放社會(huì)為基礎(chǔ)的科技創(chuàng)新責(zé)任治理開放機(jī)制框架。黑龍江大學(xué)信息資源管理研究中心姜鑫[44]等參考國外經(jīng)驗(yàn)認(rèn)為,我國科學(xué)數(shù)據(jù)開放政策中的個(gè)人數(shù)據(jù)保護(hù)相關(guān)政策內(nèi)容需要補(bǔ)充、調(diào)整與完善。清華大學(xué)技術(shù)創(chuàng)新研究中心陳勁[45]認(rèn)為,我國的開放科學(xué)發(fā)展尚處于一個(gè)推動(dòng)科研數(shù)據(jù)、成果開放獲取的階段,需要從政府制度設(shè)計(jì)、社會(huì)共享文化培育以及個(gè)體倫理道德意識提升等方面系統(tǒng)推進(jìn)。較少有研究專門討論公眾科學(xué)的科研倫理道德問題。綜合歐美國家經(jīng)驗(yàn),筆者對國內(nèi)公眾科學(xué)科研倫理道德監(jiān)督建議如下:

    1)深入開展公共政策研究,拓展其對公眾科學(xué)場景的適用性

    與公眾科學(xué)密切相關(guān)的公共政策主要涉及個(gè)人信息保護(hù)、知識產(chǎn)權(quán)、涉及人類受試者的研究監(jiān)管和科研誠信。2019年10月,科技部、中央宣傳部等20個(gè)部委聯(lián)合發(fā)布了《科研誠信案件調(diào)查處理規(guī)則(試行)》。2021年,我國先后出臺(tái)了《生物安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等重要法律。然而,統(tǒng)一的法律政策無法完美適用于所有場景??茖W(xué)研究的場景下,嚴(yán)苛的數(shù)據(jù)安全政策也可能降低科學(xué)技術(shù)活動(dòng)的效率。歐美等國對公眾科學(xué)場景下的具體法律政策問題有較為系統(tǒng)的研究,甚至細(xì)致到了公眾科學(xué)所產(chǎn)生數(shù)據(jù)的下游分發(fā)知識產(chǎn)權(quán)策略[46]、FDA食品藥品監(jiān)督管理局是否應(yīng)該監(jiān)管以及如何監(jiān)管健康追蹤器配套軟件相關(guān)的數(shù)據(jù)收集和研究[47]、如何應(yīng)用合同法解決公眾科學(xué)中的倫理道德問題[48]、兩用性生物制劑的監(jiān)管列表更新和使用管理等等。相反,我國對公共政策如何調(diào)整以適應(yīng)公眾科學(xué)研究的新情景探討不多,應(yīng)該組織系列專門研究項(xiàng)目,提升對這一問題的認(rèn)識和應(yīng)對水平。

    2)搭建公共平臺(tái),增強(qiáng)公眾科學(xué)活動(dòng)的組織性和規(guī)范性

    歐美國家建立的公眾科學(xué)協(xié)會(huì)實(shí)際上是公眾科學(xué)活動(dòng)的組織交流平臺(tái),它們聯(lián)系公眾科學(xué)各利益相關(guān)方,通過凝聚共識,為公眾科學(xué)發(fā)展過程中的障礙問題尋求解決方案。公眾科學(xué)協(xié)會(huì)具有公眾科學(xué)家的組織引領(lǐng)作用,為公眾科學(xué)活動(dòng)的合規(guī)合法提供指引,并通過內(nèi)部倡議、指南和規(guī)范,實(shí)現(xiàn)公眾科學(xué)的自我監(jiān)督。對于廣泛引起關(guān)注的“生物黑客”問題,部分國家也在探索建立具備一定實(shí)驗(yàn)條件的社區(qū)實(shí)驗(yàn)室,使其成為生物黑客的活動(dòng)空間,通過對社區(qū)實(shí)驗(yàn)室的管控實(shí)現(xiàn)對生物黑客的管控[49]。此外,歐美公眾科學(xué)項(xiàng)目主要在幾大網(wǎng)站,如美國著名的公眾科研平臺(tái)CitSci.org、Zooniverse等,公開招募參與者。在集中的網(wǎng)絡(luò)環(huán)境中匯聚研究需求、研究人員、工具庫、知識庫也有利于公眾科學(xué)活動(dòng)的集中監(jiān)管。

    我國公眾科學(xué)項(xiàng)目開展層次和水平不高。也有零星的DIY生命科學(xué)研究事件被報(bào)道,如2021年10月,云南建水父親自制藥物拯救罕見病孩子事件[50]。隨著開放科學(xué)的發(fā)展,科學(xué)研究的門檻進(jìn)一步降低,公眾參與科學(xué)研究的廣度和深度有望得到拓展??梢越梃b歐美經(jīng)驗(yàn)預(yù)防相關(guān)風(fēng)險(xiǎn),一是由公眾科學(xué)開展較多的科學(xué)研究機(jī)構(gòu)發(fā)起成立公眾科學(xué)協(xié)會(huì),切實(shí)推動(dòng)公眾科學(xué)的組織性、規(guī)范性;二是繼續(xù)開發(fā)、完善和推廣中國公眾科學(xué)項(xiàng)目平臺(tái),使其成為中國公眾科學(xué)項(xiàng)目的匯聚平臺(tái),為公眾科學(xué)項(xiàng)目的健康發(fā)展準(zhǔn)備技術(shù)條件;三是對個(gè)人開展生命科學(xué)研究活動(dòng)所需的支撐條件,如制劑、設(shè)施等重點(diǎn)管控,間接實(shí)現(xiàn)對活動(dòng)的管控。

    3)完善科研項(xiàng)目倫理審查組織體系,力爭覆蓋非公共資助項(xiàng)目

    公眾科學(xué)項(xiàng)目的科研倫理道德不能完全被傳統(tǒng)的科研倫理治理體系所覆蓋。如何擴(kuò)展科研倫理治理體系是一個(gè)重要命題。2017年,丹麥學(xué)術(shù)不端行為預(yù)防委員會(huì)成立,將私人研究也包括在委員會(huì)的監(jiān)管領(lǐng)域。美國部門地區(qū)甚至探索建立社區(qū)倫理審查委員會(huì)(community IRBs)來補(bǔ)充機(jī)構(gòu)倫理審查覆蓋面不足的問題[12]。

    2017年10月8日,中共中央辦公廳和國務(wù)院辦公廳聯(lián)合發(fā)布的《關(guān)于深化審評審批制度改革鼓勵(lì)藥品醫(yī)療器械創(chuàng)新的意見》指出,“各地可根據(jù)需要設(shè)立區(qū)域倫理委員會(huì),指導(dǎo)臨床試驗(yàn)機(jī)構(gòu)倫理審查工作,可接受不具備倫理審查條件的機(jī)構(gòu)或注冊申請人委托對臨床試驗(yàn)方案進(jìn)行倫理審查,并監(jiān)督臨床試驗(yàn)開展情況?!眳^(qū)域倫理委員會(huì)可以為沒有建立機(jī)構(gòu)倫理審查委員會(huì)的機(jī)構(gòu)或組織所用,擴(kuò)大了科研倫理監(jiān)管覆蓋面,公眾科學(xué)的有關(guān)項(xiàng)目可以從中受益。目前,全國多個(gè)省市建立了區(qū)域倫理委員會(huì),如四川中醫(yī)藥區(qū)域倫理審查委員會(huì)、山東省區(qū)域醫(yī)藥倫理審查委員會(huì)、上海市區(qū)域倫理委員會(huì)、北京中醫(yī)藥研究倫理委員會(huì)、廣東省藥學(xué)會(huì)區(qū)域倫理委員會(huì)等,但是這些委員會(huì)的運(yùn)作機(jī)制、審查責(zé)任認(rèn)定、審查程序都還在探索[51]。強(qiáng)化區(qū)域倫理委員會(huì)建設(shè),將更多的公眾科學(xué)項(xiàng)目納入倫理審查,有助于促進(jìn)科技安全。

    4)開展科技倫理道德教育專項(xiàng),提升公眾科學(xué)安全意識

    總結(jié)來看,公眾科學(xué)項(xiàng)目的倫理道德問題可能由職業(yè)科學(xué)家引起也可能由公民科學(xué)家引起,部分問題的解決仍然倚重“教育”。歐盟認(rèn)為,“負(fù)責(zé)任的研究和創(chuàng)新”是立足于科學(xué)共同體但面向社會(huì)廣泛傳播的理念和教育。

    針對我國科研工作者的調(diào)查來看,科研工作者有科研倫理意識,但知識掌握不夠[52],數(shù)據(jù)重要性認(rèn)識深刻但數(shù)據(jù)權(quán)益及倫理知識不足[53]。職業(yè)科學(xué)家尚且如此,何況公眾科學(xué)參與者。開放科學(xué)快速發(fā)展的背景下,將科技倫理教育納入公民科學(xué)素質(zhì)教育已是時(shí)代要求,有必要在公民科學(xué)素質(zhì)教育中增設(shè)圍繞公民科學(xué)的內(nèi)容。具體策略可以包括:第一,加強(qiáng)個(gè)人信息保護(hù)、知識產(chǎn)權(quán)、合同法等相關(guān)法律知識普及,公眾科學(xué)參與方的法律意識和知識對預(yù)防公眾科學(xué)項(xiàng)目倫理道德問題有重要作用;第二,依托公共圖書館、專業(yè)圖書館等非正式教育體系,加大對社會(huì)的科學(xué)倫理知識,尤其是數(shù)據(jù)倫理知識普及;第三,依托高校、研究機(jī)構(gòu)開展面向科研工作者群體及預(yù)備群體的科研倫理道德意識培養(yǎng)。

    猜你喜歡
    倫理科學(xué)家公眾
    《心之死》的趣味與倫理焦慮
    公眾號3月熱榜
    公眾號9月熱榜
    公眾號8月熱榜
    公眾號5月熱榜
    假如我是科學(xué)家
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    與科學(xué)家面對面
    當(dāng)天才遇上科學(xué)家(二)
    當(dāng)天才遇上科學(xué)家(一)
    91大片在线观看| 亚洲精品中文字幕在线视频| 在线视频色国产色| 亚洲狠狠婷婷综合久久图片| 午夜精品久久久久久毛片777| 精品久久久久久成人av| 啦啦啦在线免费观看视频4| 99国产精品一区二区三区| 99久久久亚洲精品蜜臀av| 婷婷六月久久综合丁香| 亚洲国产欧美一区二区综合| 91麻豆av在线| 757午夜福利合集在线观看| 亚洲av成人不卡在线观看播放网| 日韩三级视频一区二区三区| 国产精华一区二区三区| 9色porny在线观看| 女人被躁到高潮嗷嗷叫费观| 一二三四社区在线视频社区8| 日韩人妻精品一区2区三区| 亚洲成国产人片在线观看| 亚洲 欧美一区二区三区| 国产视频一区二区在线看| 国产又爽黄色视频| 久久99一区二区三区| 日本vs欧美在线观看视频| 亚洲 欧美一区二区三区| 久久久久久免费高清国产稀缺| 久久狼人影院| 高清黄色对白视频在线免费看| 久久这里只有精品19| 一级片'在线观看视频| 欧美大码av| 欧美日韩精品网址| 国产精品久久久人人做人人爽| 亚洲七黄色美女视频| aaaaa片日本免费| 丁香六月欧美| 日韩欧美国产一区二区入口| 午夜福利在线免费观看网站| 免费在线观看亚洲国产| 午夜福利影视在线免费观看| 国产成人系列免费观看| av在线天堂中文字幕 | 久久青草综合色| 亚洲人成网站在线播放欧美日韩| 欧美午夜高清在线| 久久九九热精品免费| 伦理电影免费视频| 中文字幕高清在线视频| 热99国产精品久久久久久7| 国产熟女xx| 亚洲精品在线观看二区| 国产真人三级小视频在线观看| 亚洲av日韩精品久久久久久密| 久久人妻熟女aⅴ| 麻豆国产av国片精品| aaaaa片日本免费| 国产日韩一区二区三区精品不卡| 好看av亚洲va欧美ⅴa在| 免费在线观看视频国产中文字幕亚洲| 大码成人一级视频| 熟女少妇亚洲综合色aaa.| 久久国产亚洲av麻豆专区| 中文亚洲av片在线观看爽| 国产亚洲av高清不卡| 成人av一区二区三区在线看| 老汉色∧v一级毛片| 亚洲精品一二三| 中国美女看黄片| 在线播放国产精品三级| 国产一区二区三区视频了| 老汉色av国产亚洲站长工具| 欧美色视频一区免费| 黄色怎么调成土黄色| 精品国产超薄肉色丝袜足j| 精品乱码久久久久久99久播| 夜夜爽天天搞| av天堂久久9| 精品国产亚洲在线| 亚洲精品美女久久久久99蜜臀| 麻豆av在线久日| 校园春色视频在线观看| 九色亚洲精品在线播放| 国产精品一区二区三区四区久久 | 91成人精品电影| av在线天堂中文字幕 | 纯流量卡能插随身wifi吗| 亚洲中文av在线| 无人区码免费观看不卡| 香蕉久久夜色| 一a级毛片在线观看| 国产成人精品无人区| 国产亚洲欧美精品永久| 欧美精品亚洲一区二区| 亚洲久久久国产精品| 久久午夜亚洲精品久久| 亚洲av片天天在线观看| 欧美av亚洲av综合av国产av| 精品福利永久在线观看| 50天的宝宝边吃奶边哭怎么回事| 97碰自拍视频| 国产成人精品无人区| 丰满人妻熟妇乱又伦精品不卡| 久热爱精品视频在线9| 欧美午夜高清在线| 热99re8久久精品国产| 亚洲av片天天在线观看| 另类亚洲欧美激情| 亚洲一卡2卡3卡4卡5卡精品中文| 91在线观看av| 国产蜜桃级精品一区二区三区| 一边摸一边抽搐一进一小说| 可以在线观看毛片的网站| ponron亚洲| 国产成人精品在线电影| 91国产中文字幕| 最近最新免费中文字幕在线| av欧美777| 欧美激情极品国产一区二区三区| 国产av精品麻豆| 久久 成人 亚洲| 9热在线视频观看99| 国产免费av片在线观看野外av| 久久性视频一级片| 午夜日韩欧美国产| 日本 av在线| 中国美女看黄片| 怎么达到女性高潮| 99久久人妻综合| 香蕉丝袜av| 熟女少妇亚洲综合色aaa.| 亚洲人成网站在线播放欧美日韩| 亚洲精品久久午夜乱码| 成熟少妇高潮喷水视频| 日韩有码中文字幕| 亚洲五月天丁香| 精品无人区乱码1区二区| 久久 成人 亚洲| 亚洲三区欧美一区| 久久国产乱子伦精品免费另类| 国产成人精品在线电影| 老司机午夜十八禁免费视频| 欧美最黄视频在线播放免费 | 老司机在亚洲福利影院| 精品福利观看| 999精品在线视频| 亚洲成人精品中文字幕电影 | 国产av又大| 91麻豆av在线| 热re99久久国产66热| 久久香蕉精品热| 丁香欧美五月| 久久久久久久午夜电影 | 变态另类成人亚洲欧美熟女 | av视频免费观看在线观看| 日韩视频一区二区在线观看| 国产欧美日韩一区二区精品| 欧美 亚洲 国产 日韩一| 国产精品久久久人人做人人爽| 两性夫妻黄色片| 一区二区三区国产精品乱码| 国产精品久久久人人做人人爽| 久9热在线精品视频| 9191精品国产免费久久| 他把我摸到了高潮在线观看| 色婷婷av一区二区三区视频| 一级黄色大片毛片| 嫩草影院精品99| 法律面前人人平等表现在哪些方面| 亚洲三区欧美一区| 亚洲七黄色美女视频| 国产精品国产高清国产av| 国产精品99久久99久久久不卡| 午夜福利,免费看| 女警被强在线播放| 成年版毛片免费区| 国产三级黄色录像| 法律面前人人平等表现在哪些方面| 亚洲精品国产区一区二| 嫩草影院精品99| 久久伊人香网站| 午夜精品国产一区二区电影| 18美女黄网站色大片免费观看| 黄色怎么调成土黄色| 国产亚洲精品第一综合不卡| 在线观看午夜福利视频| netflix在线观看网站| 男人舔女人下体高潮全视频| 国产欧美日韩综合在线一区二区| 国产精品一区二区精品视频观看| 久久久久久大精品| 天堂影院成人在线观看| 亚洲美女黄片视频| 久久午夜亚洲精品久久| 又黄又爽又免费观看的视频| 亚洲中文av在线| 高清av免费在线| 国产无遮挡羞羞视频在线观看| 午夜福利在线免费观看网站| 国产精品一区二区在线不卡| 国产又爽黄色视频| 国产麻豆69| 老司机在亚洲福利影院| videosex国产| 欧美中文综合在线视频| 亚洲精品在线观看二区| 真人一进一出gif抽搐免费| 又黄又粗又硬又大视频| 成年人免费黄色播放视频| 欧美中文日本在线观看视频| 999精品在线视频| 亚洲精品中文字幕一二三四区| 亚洲在线自拍视频| 国产又色又爽无遮挡免费看| 极品人妻少妇av视频| 精品福利观看| 午夜亚洲福利在线播放| 啦啦啦在线免费观看视频4| 男人舔女人下体高潮全视频| 夜夜夜夜夜久久久久| 一级黄色大片毛片| 满18在线观看网站| 看黄色毛片网站| 黄色女人牲交| 少妇的丰满在线观看| 999精品在线视频| 满18在线观看网站| 久久精品国产综合久久久| 亚洲成人国产一区在线观看| 美女扒开内裤让男人捅视频| 久久久国产欧美日韩av| 在线观看免费午夜福利视频| 久久精品91蜜桃| 性色av乱码一区二区三区2| 国产精品一区二区免费欧美| 在线观看一区二区三区| 欧美黄色淫秽网站| 国产成人欧美| 成年人免费黄色播放视频| 精品久久久久久成人av| 亚洲欧美日韩无卡精品| 在线观看日韩欧美| 黄色成人免费大全| 国产精品av久久久久免费| 熟女少妇亚洲综合色aaa.| 超碰成人久久| 亚洲精品一二三| 少妇的丰满在线观看| 午夜视频精品福利| 久久午夜亚洲精品久久| 亚洲成人免费电影在线观看| a级毛片在线看网站| 看黄色毛片网站| 99热只有精品国产| 正在播放国产对白刺激| 亚洲美女黄片视频| 精品久久久久久电影网| 麻豆久久精品国产亚洲av | 国产99白浆流出| 亚洲国产毛片av蜜桃av| 后天国语完整版免费观看| 中文字幕精品免费在线观看视频| 99在线人妻在线中文字幕| 国产精品久久电影中文字幕| 久久国产乱子伦精品免费另类| 欧美人与性动交α欧美精品济南到| 欧美激情久久久久久爽电影 | 亚洲一区高清亚洲精品| 男人舔女人的私密视频| 别揉我奶头~嗯~啊~动态视频| 手机成人av网站| 亚洲av电影在线进入| 成人18禁高潮啪啪吃奶动态图| 美女大奶头视频| av福利片在线| 12—13女人毛片做爰片一| 国产精品 国内视频| 91九色精品人成在线观看| 国产成年人精品一区二区 | 亚洲av成人av| 男女高潮啪啪啪动态图| 美女午夜性视频免费| 18禁黄网站禁片午夜丰满| 日韩中文字幕欧美一区二区| 亚洲精华国产精华精| 好看av亚洲va欧美ⅴa在| 亚洲精品粉嫩美女一区| 黄色a级毛片大全视频| avwww免费| 97超级碰碰碰精品色视频在线观看| 超碰97精品在线观看| 国产精品 国内视频| 高清欧美精品videossex| 欧美激情极品国产一区二区三区| 国产99久久九九免费精品| 日韩欧美一区二区三区在线观看| 日本三级黄在线观看| 人人妻,人人澡人人爽秒播| 香蕉国产在线看| 国产精品一区二区精品视频观看| 啪啪无遮挡十八禁网站| 老司机亚洲免费影院| 天天添夜夜摸| 咕卡用的链子| 国产一区二区三区在线臀色熟女 | 久久欧美精品欧美久久欧美| 成人亚洲精品一区在线观看| 窝窝影院91人妻| 久久天堂一区二区三区四区| 伦理电影免费视频| 日韩欧美一区二区三区在线观看| 久久伊人香网站| 国产xxxxx性猛交| 国产麻豆69| 老熟妇仑乱视频hdxx| 国产精华一区二区三区| 激情视频va一区二区三区| 一级片免费观看大全| 色婷婷久久久亚洲欧美| 51午夜福利影视在线观看| 色综合婷婷激情| 国产午夜精品久久久久久| 两个人看的免费小视频| 日本精品一区二区三区蜜桃| 亚洲情色 制服丝袜| 国产精品国产av在线观看| 欧美日韩亚洲国产一区二区在线观看| 日韩 欧美 亚洲 中文字幕| 99久久精品国产亚洲精品| 国产高清视频在线播放一区| 国产欧美日韩一区二区精品| 国产高清视频在线播放一区| 青草久久国产| 激情视频va一区二区三区| 这个男人来自地球电影免费观看| 亚洲欧美激情在线| 午夜福利在线观看吧| 欧美激情久久久久久爽电影 | 亚洲欧美精品综合久久99| 久久久国产欧美日韩av| 久久精品国产99精品国产亚洲性色 | 欧美性长视频在线观看| 男女之事视频高清在线观看| 老司机深夜福利视频在线观看| 久久中文字幕一级| 欧美乱色亚洲激情| 午夜亚洲福利在线播放| 岛国在线观看网站| 一级片免费观看大全| 亚洲av五月六月丁香网| 老鸭窝网址在线观看| 亚洲色图av天堂| 亚洲七黄色美女视频| 老司机深夜福利视频在线观看| 欧美日韩亚洲综合一区二区三区_| 99久久99久久久精品蜜桃| 国产三级黄色录像| 精品国产国语对白av| 亚洲狠狠婷婷综合久久图片| 欧美乱色亚洲激情| 男女下面插进去视频免费观看| 欧美 亚洲 国产 日韩一| 国产伦人伦偷精品视频| 美女国产高潮福利片在线看| 亚洲黑人精品在线| 国产精品1区2区在线观看.| 99国产精品一区二区蜜桃av| 精品福利观看| 久久久久九九精品影院| 久久婷婷成人综合色麻豆| 国产av又大| 9热在线视频观看99| 国产一区二区激情短视频| 国产区一区二久久| 久99久视频精品免费| 50天的宝宝边吃奶边哭怎么回事| 涩涩av久久男人的天堂| 日韩av在线大香蕉| 国产日韩一区二区三区精品不卡| 国产精品久久久av美女十八| 国产av又大| 欧美日韩精品网址| 大陆偷拍与自拍| 国产在线精品亚洲第一网站| 少妇粗大呻吟视频| 亚洲性夜色夜夜综合| 国产成人欧美在线观看| 超碰97精品在线观看| 亚洲精品中文字幕一二三四区| 精品国产乱子伦一区二区三区| 国产一区在线观看成人免费| 国产熟女午夜一区二区三区| 757午夜福利合集在线观看| 啦啦啦 在线观看视频| 黑人猛操日本美女一级片| 女人高潮潮喷娇喘18禁视频| 一边摸一边抽搐一进一小说| 亚洲专区字幕在线| 美女高潮喷水抽搐中文字幕| www国产在线视频色| 亚洲一区二区三区色噜噜 | 欧美日韩福利视频一区二区| 九色亚洲精品在线播放| 精品国产乱码久久久久久男人| 脱女人内裤的视频| 丰满的人妻完整版| 欧美大码av| 日本精品一区二区三区蜜桃| 成人精品一区二区免费| 国产伦人伦偷精品视频| 亚洲精品一卡2卡三卡4卡5卡| 国产精品久久视频播放| 天堂俺去俺来也www色官网| 一级,二级,三级黄色视频| 亚洲欧美日韩另类电影网站| 欧美精品一区二区免费开放| 日本免费一区二区三区高清不卡 | 午夜日韩欧美国产| 久久中文字幕一级| 777久久人妻少妇嫩草av网站| 又大又爽又粗| 亚洲精品中文字幕在线视频| 亚洲人成伊人成综合网2020| 免费女性裸体啪啪无遮挡网站| 亚洲午夜理论影院| 精品免费久久久久久久清纯| 亚洲欧美日韩另类电影网站| 中文字幕人妻熟女乱码| 精品人妻1区二区| 女人被狂操c到高潮| 午夜福利欧美成人| 9色porny在线观看| 90打野战视频偷拍视频| 女性被躁到高潮视频| 一个人观看的视频www高清免费观看 | 国产伦一二天堂av在线观看| 男女下面插进去视频免费观看| 又紧又爽又黄一区二区| 欧美在线黄色| 国产精品永久免费网站| 日本精品一区二区三区蜜桃| 亚洲午夜理论影院| 亚洲一码二码三码区别大吗| 亚洲精品成人av观看孕妇| 欧美乱妇无乱码| 97碰自拍视频| 高清av免费在线| 亚洲成人国产一区在线观看| 美女福利国产在线| 国产成人精品久久二区二区91| 九色亚洲精品在线播放| 久久香蕉激情| 国产野战对白在线观看| 欧美另类亚洲清纯唯美| 99国产精品免费福利视频| 午夜日韩欧美国产| 午夜福利在线免费观看网站| 美女福利国产在线| 天天添夜夜摸| 国产精品98久久久久久宅男小说| 久久精品91无色码中文字幕| 国产精品98久久久久久宅男小说| 免费看十八禁软件| 久久久久久人人人人人| 欧美丝袜亚洲另类 | 中国美女看黄片| 国产成人欧美| 女人被狂操c到高潮| 精品人妻在线不人妻| 国产精品一区二区免费欧美| 国产精品自产拍在线观看55亚洲| 国产精品国产高清国产av| 高清毛片免费观看视频网站 | 国产色视频综合| 亚洲av成人不卡在线观看播放网| 亚洲精品国产一区二区精华液| 1024香蕉在线观看| 久久久久久久久中文| 99国产精品一区二区蜜桃av| 欧美亚洲日本最大视频资源| 免费在线观看亚洲国产| 精品人妻在线不人妻| 一级毛片女人18水好多| 国产伦人伦偷精品视频| 成人特级黄色片久久久久久久| 精品熟女少妇八av免费久了| 欧美在线黄色| 怎么达到女性高潮| 男女之事视频高清在线观看| 激情视频va一区二区三区| 免费在线观看亚洲国产| 午夜福利一区二区在线看| 午夜免费鲁丝| 一夜夜www| 日本黄色视频三级网站网址| 色婷婷av一区二区三区视频| 他把我摸到了高潮在线观看| 久久久久久久久中文| 啪啪无遮挡十八禁网站| 久久久久久人人人人人| 成人亚洲精品av一区二区 | 又黄又粗又硬又大视频| 嫁个100分男人电影在线观看| 日韩欧美国产一区二区入口| 久久伊人香网站| av有码第一页| 亚洲国产精品合色在线| 欧美乱妇无乱码| 色在线成人网| 久久热在线av| 久久久精品欧美日韩精品| av免费在线观看网站| 99热国产这里只有精品6| 国产成人系列免费观看| 精品一区二区三区av网在线观看| 俄罗斯特黄特色一大片| 亚洲中文字幕日韩| 日韩一卡2卡3卡4卡2021年| 午夜a级毛片| 黄色怎么调成土黄色| 久久人妻熟女aⅴ| 激情视频va一区二区三区| 国产97色在线日韩免费| 亚洲视频免费观看视频| 色综合婷婷激情| 国产精品久久视频播放| 神马国产精品三级电影在线观看 | 午夜福利免费观看在线| 在线观看66精品国产| 国产精品秋霞免费鲁丝片| 日韩精品免费视频一区二区三区| 一级毛片精品| 男女下面插进去视频免费观看| 免费在线观看影片大全网站| 成年女人毛片免费观看观看9| 欧美老熟妇乱子伦牲交| 午夜91福利影院| 超色免费av| 亚洲少妇的诱惑av| 国产av一区在线观看免费| 国产一区二区三区在线臀色熟女 | 精品无人区乱码1区二区| 国产免费av片在线观看野外av| 久久久久久久久中文| 一边摸一边抽搐一进一小说| 婷婷精品国产亚洲av在线| av天堂久久9| 香蕉丝袜av| 欧美日韩黄片免| 91麻豆av在线| av有码第一页| 麻豆成人av在线观看| av片东京热男人的天堂| 国产成年人精品一区二区 | 久久九九热精品免费| 美女大奶头视频| xxxhd国产人妻xxx| 国产精品久久久久久人妻精品电影| 每晚都被弄得嗷嗷叫到高潮| 自拍欧美九色日韩亚洲蝌蚪91| 黄色视频不卡| 老熟妇乱子伦视频在线观看| 久久这里只有精品19| 国产一卡二卡三卡精品| 香蕉久久夜色| 波多野结衣一区麻豆| avwww免费| 丝袜美足系列| av超薄肉色丝袜交足视频| 久久人人97超碰香蕉20202| 正在播放国产对白刺激| 免费观看人在逋| 精品一区二区三区视频在线观看免费 | 欧美乱码精品一区二区三区| 久久精品亚洲av国产电影网| 日本欧美视频一区| 91精品国产国语对白视频| 日韩人妻精品一区2区三区| 日本五十路高清| 国产成人av激情在线播放| 欧美在线一区亚洲| 三上悠亚av全集在线观看| 午夜成年电影在线免费观看| 99精国产麻豆久久婷婷| 亚洲精品国产区一区二| 欧美中文综合在线视频| 成在线人永久免费视频| 色哟哟哟哟哟哟| 校园春色视频在线观看| 精品久久久久久久毛片微露脸| 黑人巨大精品欧美一区二区mp4| 操美女的视频在线观看| 国产欧美日韩精品亚洲av| 美女国产高潮福利片在线看| 极品人妻少妇av视频| 天堂动漫精品| 九色亚洲精品在线播放| 欧美丝袜亚洲另类 | 国产成人一区二区三区免费视频网站| 欧美激情 高清一区二区三区| 国产精品乱码一区二三区的特点 | 9191精品国产免费久久| 如日韩欧美国产精品一区二区三区| 欧美在线黄色| 精品国产国语对白av| 成人黄色视频免费在线看| 国产av一区二区精品久久| 91九色精品人成在线观看| 久9热在线精品视频| 国产精品国产av在线观看| 超碰成人久久| 热99re8久久精品国产| 日本精品一区二区三区蜜桃| 777久久人妻少妇嫩草av网站|