政府需要得到數(shù)據(jù)的管控權(quán)

編譯 胡德良

英國宣布要建立一個新的數(shù)據(jù)倫理中心，這是一件受歡迎的事情。但是，我們必須確保該中心要有能力解決其所認(rèn)定的倫理問題。

叫停研發(fā)殺手機(jī)器人的活動引起了人們對自動武器危害的關(guān)注

數(shù)據(jù)無處不在。然而，數(shù)據(jù)會讓我們的生活變得更好，還是會使我們處于危險之中呢？近幾個月來，人們已經(jīng)搞清楚的一點(diǎn)是，雖然不斷擴(kuò)大的數(shù)據(jù)所呈現(xiàn)的機(jī)會是很多的，但是所造成的威脅也很多。因此，我們需要更加合理地管控數(shù)據(jù)——針對如何利用和開發(fā)這種新技術(shù)出臺一套指導(dǎo)原則，這么做是因為數(shù)據(jù)誤用會帶來威脅，會致使公眾反對此類創(chuàng)新。

包括優(yōu)步公司和莫里森公司在內(nèi)的企業(yè)發(fā)生了數(shù)據(jù)泄漏，這已經(jīng)成為頭條新聞。但是，以自身的商業(yè)應(yīng)用為目的而開發(fā)人工智能和查明信息，在這種情況下企業(yè)能夠以何種方式合法地使用數(shù)據(jù)，這一點(diǎn)并沒有較為廣泛地公開化。

對于人工智能潛在的軍事用途，來自各方面的擔(dān)憂不斷加劇，以致20000多名研究人員最近簽署了一封警告信，警告政策制定者要當(dāng)心自動武器的危害，因為這些自動武器能夠利用運(yùn)算法則來襲擊具體的目標(biāo)。我了解到開發(fā)這些技術(shù)相對容易和廉價，這是令人震驚的。對自動無人機(jī)進(jìn)行編程，可以使其搜尋目標(biāo)的特征，而且可以在沒有監(jiān)視的情況下從遠(yuǎn)處對其進(jìn)行控制……所有這一切都是通過數(shù)據(jù)驅(qū)動的運(yùn)算法則實現(xiàn)的。

如果這就是市場的發(fā)展所致，那么很可能需要進(jìn)一步加強(qiáng)有力的管控和監(jiān)督了。我們需要一套倫理和管理法規(guī)，不僅僅是為了數(shù)據(jù)保護(hù)，而是為了讓社會群眾擁有真正的發(fā)言權(quán)，讓他們?nèi)ソㄗh各個組織能夠怎樣利用我們的數(shù)據(jù)來獲得優(yōu)勢，不管是商業(yè)優(yōu)勢、政治優(yōu)勢還是其他方面的優(yōu)勢。畢竟，那是我們的數(shù)據(jù)，保護(hù)人民必須是重中之重。在數(shù)據(jù)立法背后，對原則的公共保證是關(guān)鍵。因此，以人們可以理解的方式來傳達(dá)這種保證很重要。

我樂意接受最近由英國科學(xué)院和皇家學(xué)會所做的一份有關(guān)數(shù)據(jù)管控的報告，他們在這些問題上已經(jīng)做了認(rèn)真的工作。該報告涵蓋了制定數(shù)據(jù)管控措施所需要的環(huán)境，解釋了社會正在以何種方式發(fā)生變化，為何制定數(shù)據(jù)政策一定要考慮“數(shù)據(jù)相關(guān)爭議”帶來的風(fēng)險，一定要考慮具有警告意義的歷史故事——“廣泛采用新技術(shù)會增加公眾的焦慮感，或者會導(dǎo)致激烈的公共爭議”之類的故事。報告還闡述了什么叫數(shù)據(jù)管控原則，需要利用這些原則來明確地制定所有形式的數(shù)據(jù)管控措施，確保數(shù)據(jù)具有可信性，要相信對整體數(shù)據(jù)的管理和使用。透明度是關(guān)鍵：允許問責(zé)制的存在，使任何引入的管控法規(guī)都具有合法性。

正值英國脫歐之時，局面混亂不堪，但英國仍然提出要建立一個新的數(shù)據(jù)倫理中心，這是一項迎合了英國技術(shù)行業(yè)呼聲的新發(fā)展，因此備受歡迎。

英國科學(xué)院和皇家學(xué)會認(rèn)為，首要的數(shù)據(jù)管控原則應(yīng)該是“促進(jìn)人類的繁榮昌盛”。對于某些人來講，這個說法可能聽起來有點(diǎn)理想化了，但是他們認(rèn)為應(yīng)該支持?jǐn)?shù)據(jù)治理和管控的觀點(diǎn)是正確的。這些觀點(diǎn)如下：保護(hù)個人和集體權(quán)益；確保在數(shù)據(jù)管理和數(shù)據(jù)利用影響下的交易具有透明性、可解釋性和包容性；找出最佳實踐案例，從中吸取成功的經(jīng)驗和失敗的教訓(xùn)；加強(qiáng)現(xiàn)有的民主管理。

該報告還提倡由一個新的機(jī)構(gòu)來管理整個數(shù)據(jù)格局，而不是僅僅管理某些部門和領(lǐng)域的數(shù)據(jù)。這樣才會在符合上面列出的這些原則的情況下支持?jǐn)?shù)據(jù)管理權(quán)的移交，并提出改進(jìn)建議。該機(jī)構(gòu)在對話中將會具有包容性，而且也擁有獨(dú)立性，同時又與不同的社區(qū)相連。

有跡象表明，該報告所提的建議并未被忽視。正值英國脫歐之時，局面混亂不堪，預(yù)算在一定程度上也受到了影響，但英國仍然提出要建立一個新的數(shù)據(jù)倫理中心，這是一項迎合了英國技術(shù)行業(yè)呼聲的新發(fā)展，因此備受歡迎。然而，這樣一個中心的資金來源并不明確。對于提議的數(shù)據(jù)倫理中心，政府的概述如下：“這是世界上首個能夠在人工智能和數(shù)據(jù)驅(qū)動技術(shù)領(lǐng)域確保安全創(chuàng)新和倫理創(chuàng)新的咨詢機(jī)構(gòu)。”但是，該機(jī)構(gòu)是否擁有當(dāng)前數(shù)據(jù)格局所需要的管控優(yōu)勢或權(quán)力呢？就其地位跟信息專員辦公室（ICO）的關(guān)系而言，這個新機(jī)構(gòu)可能會產(chǎn)生進(jìn)一步的問題，有可能會遇到近年來信息專員辦公室本身所經(jīng)歷的管控影響力不足的問題。我們需要確保英國科學(xué)院和皇家學(xué)會所設(shè)想的多元化的、包容性的和教育性的管控機(jī)構(gòu)能夠取得成效，并且需要確保其有能力帶來變革。

那么，為了使公民免受數(shù)據(jù)使用不當(dāng)可能造成的公共傷害，《數(shù)據(jù)保護(hù)法案》目前正在通過議會審核，該法案還將需要什么附加條款呢？我們拭目以待。作為全黨派議會數(shù)據(jù)分析小組的主席，我聽到過無數(shù)組織為了更加有效地進(jìn)行民事保護(hù)而發(fā)起運(yùn)動的情況，還聽說過數(shù)據(jù)驅(qū)動的營銷組織將數(shù)據(jù)當(dāng)作搖錢樹、利用數(shù)據(jù)打開潛在商機(jī)的情況。毫不奇怪，公眾對于其個人數(shù)據(jù)可能被用于哪些領(lǐng)域感到擔(dān)憂，并且對數(shù)據(jù)立法持懷疑態(tài)度，特別是最近媒體對有關(guān)面部生物識別技術(shù)等問題的報道，更是讓人憂心忡忡。就在今年夏天，維權(quán)機(jī)構(gòu)“老大哥觀察組織”（Big Brother Watch）報道說，倫敦大都會警察局提議，試用帶有人臉識別軟件的相機(jī)來掃描諾丁山狂歡節(jié)上人群的臉部，這樣是為了給他們提個醒，讓他們知道他們所懼怕的人可能會出來鬧事。這種人工智能軟件創(chuàng)造了面部特征的生物識別運(yùn)算法則，這對警方可能是有幫助的，但是議會對于數(shù)據(jù)的這種用法沒有進(jìn)行過任何討論。從法律的角度來看，警方?jīng)]有做任何錯事，但是可以理解的是這樣利用人工智能使一些人感到非常不自在。除此之外，該技術(shù)不能代表正常維持治安的未來，而且目前準(zhǔn)確度的欠缺使這種方法存在風(fēng)險，有許多匹配出現(xiàn)錯誤，這意味著在未經(jīng)無辜的人們許可的情況下正在生成他們的面部生物特征。

因此，我們需要解決一系列的倫理難題。在數(shù)據(jù)方面，有些人會本能地懷疑國家機(jī)構(gòu)，其他人會對私營部門的數(shù)據(jù)使用情況保持謹(jǐn)慎態(tài)度。對于運(yùn)算法則引導(dǎo)下的自動武器不存在任何審查，這一情況應(yīng)該引起各方的關(guān)注。議會跟公眾一起制定更加合理的數(shù)據(jù)倫理規(guī)則，出臺保障每個人安全的管控措施，這是至關(guān)重要的。

此前，我們已經(jīng)看到在不了解公眾需要充分參與決策、需要權(quán)衡風(fēng)險和收益的情況下，創(chuàng)新技術(shù)被商業(yè)利益所推動時會產(chǎn)生怎樣的結(jié)果。由于新技術(shù)提出了類似的難題，我們需要正確的政治體系和倫理體系來幫助確保每個人都能受益。作為政治家，我們有責(zé)任出臺數(shù)據(jù)管控措施，使人們保持健康和安全，這是放在第一位的。如果想要利用大數(shù)據(jù)來真正地“促進(jìn)人類的繁榮昌盛”，提高人們的生活質(zhì)量和工作質(zhì)量，就必須要先保護(hù)人民的利益，而不是保護(hù)商業(yè)利益。