科學(xué)家像你一樣對(duì)大數(shù)據(jù)引發(fā)的道德問(wèn)題充滿困惑

張莎拉（Sarah Zhang）

滕智紅/譯

科學(xué)家像你一樣對(duì)大數(shù)據(jù)引發(fā)的道德問(wèn)題充滿困惑

張莎拉（Sarah Zhang）

滕智紅/譯

伯恩哈特·朗恩（Bernhard Lang）

2016年5月中旬，當(dāng)一位研究人員惡作劇地公布了約會(huì)網(wǎng)站（OkCupid）7萬(wàn)份包括用戶名和性取向在內(nèi)的個(gè)人檔案時(shí)，人們很憤怒。當(dāng)臉譜網(wǎng)（Facebook）研究人員把2014年發(fā)表在信息流上的情緒感染研究編成故事時(shí)，人們真的憤怒了。于是，約會(huì)網(wǎng)站整理版權(quán)歸屬問(wèn)題撤下了這些資料；出版臉譜網(wǎng)研究的期刊發(fā)表了一篇《提請(qǐng)注意》（expression of concern）的文章。憤怒成為構(gòu)筑道德界限的一種方式。我們從錯(cuò)誤中吸取教訓(xùn)。

但是令人吃驚的是，爆料出上述兩種大數(shù)據(jù)的研究人員從未料到公眾會(huì)憤怒（約會(huì)網(wǎng)站的研究似乎沒(méi)有經(jīng)過(guò)任何形式的道德審查流程，而臉譜網(wǎng)的實(shí)驗(yàn)得到了康奈爾道德審查委員會(huì)的同意）。這表明了這一新的研究領(lǐng)域未經(jīng)道德審查的情況有多嚴(yán)重。與經(jīng)過(guò)幾十年臨床試驗(yàn)形成的醫(yī)學(xué)研究不同，分析龐大的、半公開的數(shù)據(jù)庫(kù)的風(fēng)險(xiǎn)-回報(bào)問(wèn)題才剛剛開始。

而負(fù)責(zé)監(jiān)管這些風(fēng)險(xiǎn)的審查委員會(huì)是東拼西湊、蝸牛慢爬似地進(jìn)入了 21世紀(jì)。根據(jù)美國(guó)普遍法則（the Common Rule），由聯(lián)邦基金資助的研究必須經(jīng)過(guò)道德審查。而審查系統(tǒng)并不統(tǒng)一，每一所大學(xué)都有自己的機(jī)構(gòu)審查委員會(huì)，即IRB （institutional review board）。審查委員會(huì)成員大多是大學(xué)研究人員，最普遍的是生物醫(yī)學(xué)專業(yè)。幾乎沒(méi)有職業(yè)道德家。

電腦學(xué)家或安全專家就更少了，而在這類新穎研究中，為保護(hù)參與者的利益，這些專家是不可或缺的。未來(lái)隱私論壇的政策顧問(wèn)凱爾西·芬奇（Kelsey Finch）說(shuō)：“機(jī)構(gòu)審查委員會(huì)所做的決策可能會(huì)因委員會(huì)成員、大學(xué)和成員當(dāng)天的心情不同而不同?！泵绹?guó)有成千上萬(wàn)個(gè)類似的道德審查委員會(huì)——它們?cè)跀?shù)字化時(shí)代大多要依靠自己來(lái)把握研究的道德問(wèn)題。

醫(yī)學(xué)的起源

普通法則和道德審查委員會(huì)制度也是憤怒的產(chǎn)物——當(dāng)然它們犯過(guò)的錯(cuò)誤更嚴(yán)重。在20世紀(jì)70年代，公眾最終得知，在美國(guó)政府所做的時(shí)間跨度為幾十年的亞拉巴馬州的塔斯基吉實(shí)驗(yàn)中，醫(yī)生對(duì)那些身患梅毒的非裔美國(guó)佃農(nóng)不予治療，為的是研究疾病的發(fā)展?fàn)顩r。爭(zhēng)論結(jié)果是美國(guó)衛(wèi)生及公共服務(wù)部（the United States Department of Health and Human Services）以人類為研究對(duì)象的課題研究新法規(guī)得以建立，并被推廣到所有聯(lián)邦機(jī)構(gòu)。現(xiàn)在，任何獲得聯(lián)邦基金資助的機(jī)構(gòu)必須成立道德審查委員會(huì)來(lái)監(jiān)督涉及人類的研究，無(wú)論是新的流感疫苗還是土耳其地毯銷售商的人種學(xué)。

喬治梅森大學(xué)（George Mason University）歷史學(xué)家、關(guān)于社會(huì)科學(xué)道德審查委員會(huì)一書的作者扎卡里·施拉格（Zachary Schrag）說(shuō)：“醫(yī)療機(jī)構(gòu)的實(shí)驗(yàn)研究構(gòu)架得到了相當(dāng)大的發(fā)展?！钡皇撬械娜祟愌芯勘举|(zhì)上都是醫(yī)學(xué)的，很多社會(huì)學(xué)家就感到審查過(guò)程不適用于自己的研究，因?yàn)樯鐣?huì)研究往往比生與死的風(fēng)險(xiǎn)要微妙得多。

某些道德審查委員會(huì)的要求對(duì)社會(huì)科學(xué)而言顯得很荒謬。例如，知情同意書上經(jīng)常有“選擇參與是……”的話來(lái)減少病人可能因拒絕參與將意味著放棄醫(yī)學(xué)治療產(chǎn)生的恐懼。但如果是志愿者填寫關(guān)于應(yīng)試習(xí)慣的調(diào)查表，那么很顯然，對(duì)于同樣的問(wèn)詢，人們唯一的回答是“不參與”。

社會(huì)學(xué)家一時(shí)間強(qiáng)烈抗議道德審查委員會(huì)不公正。美國(guó)大學(xué)教授協(xié)會(huì)建議增加道德審查委員會(huì)中社會(huì)學(xué)家的人數(shù)或者成立只評(píng)估社會(huì)科學(xué)研究的獨(dú)立委員會(huì)。2013年，該協(xié)會(huì)甚至提交了一份報(bào)告，建議對(duì)于自己風(fēng)險(xiǎn)極小的工作，研究人員應(yīng)當(dāng)自行決定是否需要征得道德審查委員會(huì)的同意。這樣做還能為道德審查委員會(huì)騰出更多的時(shí)間致力于生死攸關(guān)的生物醫(yī)學(xué)研究。

新的風(fēng)險(xiǎn)

這不是說(shuō)社會(huì)科學(xué)研究整體上——特別是社會(huì)科學(xué)大數(shù)據(jù)研究——沒(méi)有風(fēng)險(xiǎn)。有了新科技以后，從來(lái)不怎么起作用的系統(tǒng)所起的作用更小了。

威斯康辛大學(xué)斯托特分校（the University of Wisconsin-Stout）的道德學(xué)家伊麗莎白·布坎南（Elizabeth Buchanan）認(rèn)為，基于網(wǎng)絡(luò)的研究進(jìn)入了第三階段，產(chǎn)生了新的道德問(wèn)題。第一階段開始于20世紀(jì)90年代的網(wǎng)絡(luò)調(diào)查，第二階段是社交媒體網(wǎng)站帶來(lái)的數(shù)據(jù)。現(xiàn)在處于第三階段，研究人員能購(gòu)買推特（Twitter）幾年前的數(shù)據(jù)，并把它合并到其他公開的數(shù)據(jù)中。她說(shuō)：“就是在相互融合中我們發(fā)現(xiàn)了道德和隱私的沖突?！?/p>

布坎南最近在一家道德審查委員會(huì)那里，審查一項(xiàng)建議把社交媒體提到毒品的街道名稱合并到公眾可查詢的犯罪信息中的提議。從技術(shù)上來(lái)說(shuō)，所有這些信息在某種程度上都是公開的——即使有些推文曾被刪除了或者封鎖在個(gè)人日志里。但把信息合并起來(lái)的行為意味著通過(guò)例行研究能夠識(shí)別犯罪背后的人。道德審查委員會(huì)最終同意了該項(xiàng)目。布坎南說(shuō)，在這些案例中，你必須權(quán)衡社會(huì)研究?jī)r(jià)值與風(fēng)險(xiǎn)的關(guān)系，并首先通過(guò)剝離公開發(fā)布的潛在標(biāo)識(shí)符的數(shù)據(jù)，使風(fēng)險(xiǎn)最小化。

隨著科技發(fā)生變化，對(duì)參與者來(lái)說(shuō)，風(fēng)險(xiǎn)很難預(yù)測(cè)。2013年，美國(guó)麻省理工學(xué)院（MIT）的研究人員發(fā)現(xiàn)，根據(jù)最初一批研究人員自己發(fā)表在網(wǎng)上的參與者信息，就能把姓名和公開提供的DNA序列匹配起來(lái)。指出這一點(diǎn)的是遺傳學(xué)家嗎？他曾經(jīng)是位電腦安全專家。“我認(rèn)為委員會(huì)成員中有統(tǒng)計(jì)專家、電腦專家或網(wǎng)絡(luò)技術(shù)安全專家真的非常重要，”布坎南說(shuō)，“現(xiàn)實(shí)的確如此。我們要考慮的不僅僅是有人對(duì)調(diào)查中提出的問(wèn)題感到沮喪?！?/p>

也許其他機(jī)構(gòu)，如要求研究人員分享數(shù)據(jù)的公共的科學(xué)資源庫(kù)，應(yīng)當(dāng)收拾道德問(wèn)題的爛攤子。西奈山（Mount Sinai）的生物倫理學(xué)家米歇爾·梅爾（Michelle Meyer）在一封郵件中說(shuō)：“需要有人監(jiān)管，但最佳的監(jiān)管主體不可能是在分離識(shí)別和重新鑒定技術(shù)方面通常缺少項(xiàng)目專業(yè)知識(shí)的道德審查委員會(huì)?！?/p>

即使在熟悉大數(shù)據(jù)威力的網(wǎng)絡(luò)研究者中，態(tài)度也不一而同。馬里蘭大學(xué)（Michelle Meyer）的信息技術(shù)研究員凱蒂·希爾頓（Katie Shilton）采訪了20名在線數(shù)據(jù)研究人員后發(fā)現(xiàn)，對(duì)待像忽視服務(wù)條款和取得知情同意書方面的道德問(wèn)題，受訪者的“分歧相當(dāng)大”。令人奇怪的是，研究人員還說(shuō)，道德審查委員會(huì)從來(lái)不質(zhì)疑自己工作存在道德問(wèn)題——但審查人員和同僚們質(zhì)疑過(guò)。網(wǎng)絡(luò)研究者協(xié)會(huì)和互聯(lián)網(wǎng)數(shù)據(jù)分析應(yīng)用中心等各種團(tuán)體發(fā)布了指導(dǎo)方針，而那些真正有權(quán)力的人——那些機(jī)構(gòu)審查委員會(huì)成員——才勉強(qiáng)跟上步伐。

在非學(xué)術(shù)界，像微軟那樣的公司開始制定自己的道德審查流程。2015年12月，未來(lái)隱私論壇的芬奇組織了一個(gè)叫做“在道德審查委員會(huì)之外”的研討會(huì)來(lái)思考非聯(lián)邦基金資助的研究如何進(jìn)行道德審查流程。畢竟，像臉譜網(wǎng)、 約會(huì)網(wǎng)站、“閱后即焚”照片應(yīng)用（Snapchat）和網(wǎng)飛（Netflix）這樣的現(xiàn)代科技公司坐擁一堆20世紀(jì)的社會(huì)學(xué)家想象不到的數(shù)據(jù)。

當(dāng)然，公司任何時(shí)候都在拿我們做實(shí)驗(yàn)，不管是網(wǎng)址A 或B的測(cè)試標(biāo)題還是雜貨店改變付款排隊(duì)外形。但當(dāng)這些公司聘請(qǐng)更多具有博士項(xiàng)目的統(tǒng)計(jì)專家時(shí)，學(xué)術(shù)界看到了縮小差別和使用數(shù)據(jù)來(lái)豐富公眾知識(shí)的機(jī)會(huì)。也許通過(guò)這些合作能形成不斷更新的道德指導(dǎo)方針?；蛟S這只是一時(shí)的混亂。

原文標(biāo)題：Scientists Are Just as Confused About the Ethics of Big-Data Research as You