英國西米德蘭茲郡警方數(shù)據(jù)倫理委員會的運作機制

文/苗穎

西米德蘭茲郡警察局是英國僅次于倫敦大都會警察局的第二大警察局。作為英國警務數(shù)據(jù)分析領域的引領者，該警察局建有數(shù)據(jù)分析實驗室，其主要職能是分析各種數(shù)據(jù)集，為警察局的行動和戰(zhàn)略提供輔助決策?？紤]到警務數(shù)據(jù)分析和使用可能引發(fā)倫理問題，該警察局于2019 年初成立了數(shù)據(jù)倫理委員會，旨在將具有相關背景和不同立場的人員匯聚在一起，就數(shù)據(jù)分析中出現(xiàn)的倫理問題向警察局長、警察與犯罪事務專員提供實用和獨立的建議，確保大數(shù)據(jù)警務的工具和使用方法受到公眾的監(jiān)督。

一、數(shù)據(jù)倫理委員會的定位

西米德蘭茲郡警察局數(shù)據(jù)倫理委員會將人的權利置于技術發(fā)展的核心，在實施獨立的監(jiān)督過程中，將人、法律和標準作為工作的“三大支柱”，即警務工作中承擔相關責任的各級人員，相關法律、法規(guī)和政策，以標準規(guī)范與個人責任為依據(jù)的倫理標準。其中，人是根本因素，既包括警務人員，又包括在相關咨詢和監(jiān)督職能機構中的人。

數(shù)據(jù)倫理委員會審查和建議的對象主要是警務工作中的人工智能項目，通過集體審議、全周期監(jiān)督和動態(tài)審查，數(shù)據(jù)倫理委員會提出響應建議，以其影響力、透明性和獨立性，確保在警務工作中可靠和負責任地使用人工智能。該機構致力于發(fā)掘法律和倫理標準的潛在應用價值，并有權質疑人工智能警務項目的開發(fā)和應用。此外，委員會建立了一種由高層領導的自上而下的文化，以開放的態(tài)度接受監(jiān)督和問責。

數(shù)據(jù)倫理委員會的構成和職責體現(xiàn)了成功監(jiān)督機構應具有的特征，其中包括：擇優(yōu)聘任，擁有眾多專業(yè)的獨立成員；承諾發(fā)表會議文件、會議記錄和決議；獨立于其正在審查的警務技術使用機構；監(jiān)督職權范圍涵蓋技術解決方案的整個生命周期和所有應用環(huán)境。

二、數(shù)據(jù)倫理委員會的職能

作為英國警察隊伍中第一個成立的數(shù)據(jù)倫理委員會，西米德蘭茲郡警察局數(shù)據(jù)倫理委員會自成立伊始，便確定了其職能定位，即僅具有咨詢職能，無正式的監(jiān)管職能。

（一）數(shù)據(jù)倫理委員會的職能

與許多其他倫理治理機構一樣，數(shù)據(jù)倫理委員會的職責是利用其專業(yè)知識進行全面的倫理分析，向警察局長、警察與犯罪事務專員提供務實、有價值的建議。其中包括：就內部數(shù)據(jù)分析實驗室提出的研究項目以及警務機構感興趣的國家警務數(shù)據(jù)研究項目（如國家數(shù)據(jù)分析解決方案），向警察局長、警務與犯罪事務專員提供建議；從項目提案、測試到實施，確保在整個生命周期和特定應用環(huán)境中，以不間斷評估的方式監(jiān)督技術解決方案等。此外，數(shù)據(jù)倫理委員會還定期召開會議，發(fā)布會議紀要和建議，所有文件及會議記錄均須符合保密要求。

2019 年4 月至2020 年9 月，該委員會共審查了18個數(shù)據(jù)分析/建模項目。其中13 個項目來自數(shù)據(jù)分析實驗室，4 個項目來自國家數(shù)據(jù)分析解決方案項目，還有1個來自內政部。根據(jù)數(shù)據(jù)分析模型的類型，這些項目大致分為兩大類：預測模型和探索性、解釋性網(wǎng)絡分析模型。

在項目審議中，數(shù)據(jù)倫理委員會主要探討六大內容：解決重要的警務和社會問題；項目運行與干預；數(shù)據(jù)保護影響評估（DPIA）及法律建議；數(shù)據(jù)采集與應用的有效性；數(shù)據(jù)中的偏見、誤報和保障措施；透明度和伙伴關系。數(shù)據(jù)倫理委員會的主要任務是在職能范圍內提供切合實際的咨詢意見，以便為下一步工作推進提供有價值的建議。

（二）數(shù)據(jù)倫理委員會的審查原則

數(shù)據(jù)倫理委員會認為，判斷是否符合倫理，往往涉及復雜因素，沒有明確的答案或解決方案，因此鼓勵成員隨時自由地提出他們認為存在倫理問題的個人觀點或建議。警察局長、警察與犯罪事務專員在參考相關觀點或建議的基礎上作出符合公共利益的決定，從而將其轉化為有意義的行動。

為此，在審查項目時，數(shù)據(jù)倫理委員會充分考慮了英國國家統(tǒng)計學家數(shù)據(jù)倫理咨詢委員會的類似原則。主要包括：必要性和相稱性、對新技術的有限性和風險進行人為監(jiān)督；足夠準確、適當和嚴格以得出合理結論；不污名化。

（三）數(shù)據(jù)倫理委員會的運作機制

在不違反保密要求和聘任合同條款的前提下，西米德蘭茲郡警察局不要求數(shù)據(jù)倫理委員會成員對所提供的建議負責。盡管如此，數(shù)據(jù)倫理委員會成員仍應盡其所能，謹慎地提供專業(yè)咨詢意見。數(shù)據(jù)倫理委員會成員應獨立行事，無包括政治偏見在內的任何偏見。

1.數(shù)據(jù)倫理委員會人員組成與聘任

數(shù)據(jù)倫理委員會成員包括數(shù)據(jù)科學、數(shù)據(jù)保護和隱私以及法律等領域的學者和從業(yè)人員，還包括警務和刑事司法專家。由具備技術或跨學科背景的外部專家組成的數(shù)據(jù)倫理委員會為原有治理結構提供了有益補充，能夠很好地評估擬計劃進行的技術解決方案是否必要，與將要應用的特定環(huán)境是否相稱等。數(shù)據(jù)倫理委員會成員通常由下列人員組成。

（1）2 名經驗豐富的數(shù)據(jù)科學專家。他們幫助其他成員了解項目分析時采用的數(shù)據(jù)方法。

數(shù)據(jù)倫理委員會委員

（2）有經驗的人權專家。該成員向其他成員通報人權原則以及相關法律問題，如歧視、偏見、數(shù)據(jù)保護和隱私權。

（3）在政策執(zhí)行方面有經驗的高級公務員。該成員向其他成員通報公共部門執(zhí)行政策的實際情況。

（4）4 名當?shù)鼐用?。這些居民不需要任何特定的資格或專長，但他們必須證明自己有助于數(shù)據(jù)倫理委員會的工作，對歧視、隱私和其他倫理問題具有強烈意識。一些成員也可能因其具備預防犯罪和警務領域的專業(yè)知識而受聘。

（5）警察與犯罪事務專員辦公室高級代表。該成員告知數(shù)據(jù)倫理委員會其所代表的警察和犯罪專員對相關問題的態(tài)度，且不得干涉數(shù)據(jù)倫理委員會的獨立性和中立原則。

（6）警察局高級代表。該成員應向數(shù)據(jù)倫理委員會通報業(yè)務信息，例如，在實踐中收集某些數(shù)據(jù)的相關信息、警察局的業(yè)務優(yōu)先事項或其他相關信息。

（7）1 名或多名在警務、社會學、犯罪學、倫理學和倫理哲學（或與廣義倫理學有關的專業(yè)）領域具有專業(yè)知識的從業(yè)人員。

（8）人權運動團體代表。該成員應在數(shù)據(jù)隱私和偏見、歧視相關方面具備廣博知識。

（9）與預防犯罪和解決社會矛盾相關的組織代表。該成員應了解犯罪預防、警務和倫理問題，無論這些問題是否涉及歧視、隱私、一般人權或其他倫理因素。

為保持決策公正性，數(shù)據(jù)倫理委員會成員不領取報酬，但可以報銷合理必要的費用。

2.數(shù)據(jù)倫理委員會成員任期與審查

數(shù)據(jù)倫理委員會成員任期為三年。任期屆滿成員可以續(xù)聘，但通常不超過兩個任期。

由于數(shù)據(jù)倫理委員會工作中涉及的信息、數(shù)據(jù)具有機密性，相關成員可能需要接受不定期審查，是否需要審查以及審查類型將由西米德蘭茲郡警察局決定。

3.會議和記錄

數(shù)據(jù)倫理委員會會議通常每季度舉行一次。如委員會成員認為有必要為特定項目提供及時建議時，可以通過委員會主席向警務與犯罪事務專員辦公室秘書處建議召開額外專項會議。在這種情況下，警務與犯罪事務專員辦公室秘書處將與數(shù)據(jù)分析實驗室進行協(xié)商，并向數(shù)據(jù)倫理委員會確認是否增加一次會議。

數(shù)據(jù)倫理委員會對所有會議記錄、簡報文件和建議均予以保存。警務與犯罪事務專員辦公室秘書處可以根據(jù)數(shù)據(jù)倫理委員會、警察局長、警察與犯罪事務專員的指示，行使自由裁量權，對記錄和文件等進行全部或部分編輯，以維護與商業(yè)機密、敏感事項和個人隱私等相關的權益。

4.審議流程

西米德蘭茲郡警察局對數(shù)據(jù)分析實驗室開展內部保密管理、數(shù)據(jù)保護和信息管理治理，包括聘任數(shù)據(jù)保護官，向獨立專家尋求有關法律或數(shù)據(jù)保護建議，并在數(shù)據(jù)倫理委員會審議擬議項目前對這些項目進行數(shù)據(jù)保護影響評估。提交到數(shù)據(jù)倫理委員會的任何項目提案都應提供明確聲明，表明數(shù)據(jù)分析實驗室已收到警察局的建議，且該提案在法律上是合規(guī)的。

對于審議項目，數(shù)據(jù)倫理委員會以協(xié)商一致的方式向警察局長、警察與犯罪事務專員提供建議，且審查和建議均具有一定規(guī)范。在擬議項目分析的每個階段，數(shù)據(jù)倫理委員會都會發(fā)布書面建議，解釋立場并作出說明。警察局長、警察與犯罪事務專員應當考慮數(shù)據(jù)倫理委員會提供的建議，但不受數(shù)據(jù)倫理委員會建議的約束。

如果警察局長、警察與犯罪事務專員不接受數(shù)據(jù)倫理委員會的建議，應盡快通知數(shù)據(jù)倫理委員會，并提供不接受理由，破壞合法的保密要求（包括與國家安全有關的事項）或根據(jù)公法原則應予以保密的情況除外。

如果警察局長、警察與犯罪事務專員在收到建議后，認為有關問題和方法符合適當?shù)膫惱順藴剩瑪?shù)據(jù)倫理委員會將在后續(xù)工作中考慮：（1）根據(jù)擬議政策、業(yè)務戰(zhàn)略的分析結果，提出干預措施；（2）評價任何已采取行動的政策、業(yè)務戰(zhàn)略是否成功地實現(xiàn)了既定目標，并評估由此帶來的公共利益或損害。

三、數(shù)據(jù)倫理委員會示范效應及借鑒

西米德蘭茲郡警察局數(shù)據(jù)倫理委員會將透明的獨立建議與規(guī)范的審查過程相結合的做法，不僅為具體政策的制定提供了必要的保證和監(jiān)測，而且有助于確保在警務工作中可靠、負責地使用新興技術?；跀?shù)據(jù)倫理委員會在警務數(shù)據(jù)項目中良好的示范作用，該警察局在內政部的支持下向英國國內其他警察部隊和執(zhí)法機構推廣數(shù)據(jù)倫理委員會的經驗做法，并準備與其他有經驗的警察部隊和執(zhí)法機構合作，建立一個全國性的數(shù)據(jù)倫理研究所。

西米德蘭茲郡警察局數(shù)據(jù)倫理委員會的運作機制激發(fā)了英國警方對國家數(shù)據(jù)倫理治理模式的思考。英國《2020-2030 年國家警務數(shù)字化戰(zhàn)略》指出，要開發(fā)新的國家數(shù)據(jù)倫理治理模型，使該模型成為警務部門進行決策的指南。2021 年11 月，英國內政部國務大臣表示，要在西米德蘭茲郡警察局數(shù)據(jù)倫理委員會的基礎上，同數(shù)據(jù)倫理與創(chuàng)新中心（CDEI）以及內政部合作建立全國通用模式。