人工智能技術(shù)在國(guó)際移民治理中的應(yīng)用及影響*

陳程，吳瑞君

（1.上海社會(huì)科學(xué)院 信息研究所，上海 200020；2.華東師范大學(xué) 中國(guó)現(xiàn)代城市研究中心暨社會(huì)發(fā)展學(xué)院，上海 200062）

自1956年誕生以來，人工智能學(xué)科已有60多年歷史，其發(fā)展經(jīng)歷了兩次高潮和低谷，并于2010年迎來第三次發(fā)展浪潮，成為21世紀(jì)最為重要的核心技術(shù)之一。人工智能本質(zhì)上是為了研制出具有類人智能的機(jī)器，能夠模擬、延伸和擴(kuò)展人類智能的理論、方法、技術(shù)以及應(yīng)用形式。［1］該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。伴隨著信息技術(shù)革命的浪潮，以大數(shù)據(jù)和算法等為核心的人工智能技術(shù)已成為未來社會(huì)發(fā)展的重要驅(qū)動(dòng)力，人類社會(huì)向智能化發(fā)展的大潮勢(shì)不可擋。

在大數(shù)據(jù)的推動(dòng)下，人工智能算法能夠簡(jiǎn)化重復(fù)性任務(wù)，特別是那些需要審查大量文書工作的任務(wù)，從而推動(dòng)工作流程的自動(dòng)化，提升信息處理速度和工作效率。［2］在社會(huì)層面，人工智能有助于提升社會(huì)勞動(dòng)生產(chǎn)率，并有效降低勞動(dòng)成本、優(yōu)化產(chǎn)品和服務(wù)、創(chuàng)造新市場(chǎng)和就業(yè)等，從而為人類的生產(chǎn)和生活帶來革命性的轉(zhuǎn)變。在國(guó)家治理層面，人工智能技術(shù)在信息收集、決策制定、方案執(zhí)行和監(jiān)控實(shí)施等認(rèn)知域和物理域的應(yīng)用將極大地提升國(guó)家治理水平和效能，有效地推動(dòng)國(guó)家治理范式的轉(zhuǎn)型與升級(jí)。［3］政府和公共行政部門日益認(rèn)識(shí)到人工智能對(duì)經(jīng)濟(jì)和社會(huì)發(fā)展的重要性，并大力支持人工智能研究。截至2019年，共有23個(gè)獨(dú)立的國(guó)家或超國(guó)家人工智能戰(zhàn)略達(dá)成，多數(shù)戰(zhàn)略價(jià)值達(dá)數(shù)十億美元。

除此以外，人工智能在解決人類面臨的共同挑戰(zhàn)方面也發(fā)揮著日益重要的作用。全球化時(shí)代，國(guó)際移民問題日益凸顯其非傳統(tǒng)安全的特點(diǎn)?？鐕?guó)遷移的流動(dòng)性和信息的不對(duì)稱性，使得移民數(shù)量、方向和影響都無法進(jìn)行精準(zhǔn)測(cè)量或預(yù)估；國(guó)際移民問題橫跨政治、經(jīng)濟(jì)、公共衛(wèi)生和人權(quán)等多個(gè)領(lǐng)域，復(fù)雜性特征也使得移民安全、難民接收和融入等問題更加突出。技術(shù)創(chuàng)新往往伴隨著公平和效率的提升，為了應(yīng)對(duì)規(guī)模龐大的移民和難民等復(fù)雜問題，各國(guó)迫切希望將新技術(shù)作為快速解決移民問題的辦法。［4］近年來，國(guó)際組織和各國(guó)就將大數(shù)據(jù)及人工智能技術(shù)應(yīng)用于國(guó)際移民管理領(lǐng)域展開了積極探索。如國(guó)際移民組織發(fā)起了“大數(shù)據(jù)移民聯(lián)盟”（Big Data For Migration Alliance），探索人工智能技術(shù)在國(guó)際移民中的應(yīng)用；［5］歐盟通過了在移民和安全領(lǐng)域利用人工智能和相關(guān)技術(shù)的新立法（第2018/1860號(hào)法規(guī)、第2019/816號(hào)法規(guī)、第2019/818號(hào)法規(guī)）；為應(yīng)對(duì)災(zāi)害和恐怖主義行為，歐盟綜合政治危機(jī)應(yīng)對(duì)委員會(huì)（Integrated Political Crisis Response，ICPR）建立了具有預(yù)警功能的監(jiān)測(cè)系統(tǒng)，并于2015年10月“移民危機(jī)”期間首次啟動(dòng)信息共享模式，同時(shí)各國(guó)也在研究利用人工智能技術(shù)預(yù)測(cè)下一次“移民危機(jī)”的可能性；經(jīng)濟(jì)合作與發(fā)展組織成員國(guó)，如孟加拉國(guó)、尼泊爾和馬來西亞開始在其移民管理系統(tǒng)中采用自動(dòng)化技術(shù)。［6］

當(dāng)下，人工智能技術(shù)的發(fā)展還處于弱人工智能（Artificial Narrow Intelligence，ANI）階段，跨領(lǐng)域解決問題的通用人工智能技術(shù)仍然面臨著極大的不確定性。人工智能技術(shù)的發(fā)展會(huì)逐步成為社會(huì)治理和行業(yè)轉(zhuǎn)型升級(jí)的關(guān)鍵，但先期技術(shù)能力優(yōu)勢(shì)帶來的范式轉(zhuǎn)變及其影響必然有一個(gè)過程。在國(guó)際移民治理領(lǐng)域，人工智能技術(shù)的創(chuàng)新性發(fā)展具有高度的戰(zhàn)略價(jià)值，但其演進(jìn)路徑的不明也蘊(yùn)含著潛在的風(fēng)險(xiǎn)和問題。

一、人工智能技術(shù)在國(guó)際移民領(lǐng)域中的應(yīng)用場(chǎng)景

當(dāng)前，人工智能技術(shù)在國(guó)際移民領(lǐng)域應(yīng)用普遍，并主要集中在以下技術(shù)領(lǐng)域：移民的預(yù)測(cè)管理、自動(dòng)化決策、身份識(shí)別、機(jī)器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測(cè)及機(jī)器人技術(shù)等。

（一）移民遷移的預(yù)測(cè)和管理

在國(guó)際移民日益增長(zhǎng)的背景下，預(yù)測(cè)遷移趨勢(shì)并做出適當(dāng)而迅速的策略反應(yīng)至關(guān)重要?？傮w來看，國(guó)際遷移不穩(wěn)定且難預(yù)測(cè)。若進(jìn)行細(xì)分，某些類型的移民比其他類型更穩(wěn)定或更易預(yù)測(cè)，如常規(guī)勞工移民和家庭遷移等；被迫移民和非正規(guī)流動(dòng)通常很難預(yù)測(cè)，而預(yù)測(cè)這類遷移趨勢(shì)對(duì)支持國(guó)家和地方層面的一體化服務(wù)特別有價(jià)值，這就需要提前進(jìn)行預(yù)測(cè)以便制定應(yīng)急計(jì)劃或迅速調(diào)整庇護(hù)和服務(wù)措施。

移民流動(dòng)預(yù)測(cè)和管理依賴于大數(shù)據(jù)或可分析的、以揭示人類行為關(guān)聯(lián)模式的超大型數(shù)據(jù)集，大數(shù)據(jù)或超大型數(shù)據(jù)具有容量高、速度快和多樣性三個(gè)特征。［7］遷移預(yù)測(cè)主要取決于底層數(shù)據(jù)的質(zhì)量、關(guān)鍵驅(qū)動(dòng)因素的復(fù)雜程度和所考慮的時(shí)間框架。與移民流動(dòng)預(yù)測(cè)有關(guān)的大數(shù)據(jù)可來源于基于通信的信息源，如互聯(lián)網(wǎng)搜索、智能手機(jī)應(yīng)用程序、網(wǎng)站登錄和電子郵件IP地址以及通話記錄等極具“地理定位”特征的數(shù)據(jù)，也包括從文本、音頻、視頻和社交媒體渠道中提取的有意義的信息。大數(shù)據(jù)分析是從大數(shù)據(jù)中獲取情報(bào)的技術(shù)，能夠發(fā)現(xiàn)并捕獲數(shù)據(jù)中的關(guān)系和模式。［8］例如，數(shù)據(jù)科學(xué)家使用自然災(zāi)害或沖突期間個(gè)人生成的數(shù)據(jù)（如Facebook登記功能、YouTube在線視頻、Instagram或Pinterest在線平臺(tái)上公開發(fā)布的照片、在谷歌上在線搜索的特定術(shù)語(yǔ)等），以預(yù)測(cè)沖突或自然災(zāi)害發(fā)生時(shí)的移民潮。［9］

海量數(shù)據(jù)研究所和喬治敦大學(xué)國(guó)際移民研究所開發(fā)了一個(gè)數(shù)據(jù)密集型預(yù)警系統(tǒng)，用于檢測(cè)沖突和地震、颶風(fēng)等自然災(zāi)害造成的被迫緊急移民情況。［10］人工智能算法可以提高“移民危機(jī)”預(yù)測(cè)精度，［11］大數(shù)據(jù)技術(shù)還可用于預(yù)測(cè)移民安置的布局和密度等，實(shí)現(xiàn)移民安置點(diǎn)更公平、更周全的接收和整合戰(zhàn)略。同樣，大數(shù)據(jù)和傳統(tǒng)統(tǒng)計(jì)數(shù)據(jù)可用于描繪城市移民社區(qū)的多樣性，使決策者能夠預(yù)見哪些地區(qū)或社區(qū)可以吸引特定的移民，從而更好地規(guī)劃基礎(chǔ)設(shè)施建設(shè)，實(shí)現(xiàn)公共服務(wù)的合理配置。

以大數(shù)據(jù)分析為基礎(chǔ)的預(yù)測(cè)著眼于關(guān)聯(lián)共現(xiàn)關(guān)系的沖突特征和模式識(shí)別。［12］通過人工智能技術(shù)的嵌入可以實(shí)現(xiàn)這一過程的智能化，通過擴(kuò)大數(shù)據(jù)收集、減少信息未知性以及建立相關(guān)分析模型，人工智能技術(shù)能夠在擴(kuò)大預(yù)測(cè)適用范圍的同時(shí)提高預(yù)測(cè)的準(zhǔn)確性和實(shí)效性。聯(lián)合國(guó)難民署嘗試使用天氣數(shù)據(jù)來預(yù)測(cè)人們可能的流向，國(guó)際移民組織開發(fā)了“流離失所追蹤矩陣”（Displacement Tracking Matrix），利用移動(dòng)電話記錄和地理標(biāo)記以及對(duì)社交媒體活動(dòng)的分析，監(jiān)測(cè)正在遷移的人口，以更好地預(yù)測(cè)流離失所者的需求。人工智能技術(shù)同樣可以應(yīng)用于全球范圍內(nèi)的自然災(zāi)害和其他社會(huì)危機(jī)的預(yù)測(cè)預(yù)警。例如，公共衛(wèi)生部門能夠利用人工智能技術(shù)對(duì)疫情數(shù)據(jù)進(jìn)行分析，準(zhǔn)確、有效地對(duì)各類傳染疾病進(jìn)行跟蹤和預(yù)防，從而更高效地分配公共衛(wèi)生資源。［13］

（二）移民申請(qǐng)與庇護(hù)決策

為了應(yīng)對(duì)繁雜的移民申請(qǐng)和認(rèn)定程序，各移民國(guó)也嘗試在各種應(yīng)用程序中使用“自動(dòng)決策系統(tǒng)”。自動(dòng)決策技術(shù)需要大量數(shù)據(jù)形成的數(shù)據(jù)集，通過分析這些數(shù)據(jù)集的模式和關(guān)聯(lián)性，可以模擬人類認(rèn)知并根據(jù)結(jié)果做出決定。自動(dòng)決策系統(tǒng)以輸入數(shù)據(jù)的形式處理信息，使用算法生成輸出。一個(gè)算法可以被認(rèn)為是一組指令，就像“一個(gè)由可編程步驟組成的配方……組織并作用于一組數(shù)據(jù)以快速達(dá)到預(yù)期的結(jié)果”。某些算法是使用一個(gè)大型的現(xiàn)有數(shù)據(jù)集“訓(xùn)練”的，它允許算法分類并“概括”出訓(xùn)練集。訓(xùn)練數(shù)據(jù)可以是案例的一部分、照片的集合或統(tǒng)計(jì)數(shù)據(jù)庫(kù)，其中一些或全部已經(jīng)根據(jù)設(shè)計(jì)師的標(biāo)準(zhǔn)進(jìn)行了預(yù)分類或標(biāo)記。［14］

依據(jù)最終的“決策”，政府或私營(yíng)部門可以將自動(dòng)化決策系統(tǒng)用于多種多樣的應(yīng)用程序中，自動(dòng)化系統(tǒng)可以做出看似“中立”的決定，例如移民申請(qǐng)程序是否完成；也可以做出更復(fù)雜的決定，例如移民婚姻情況是否真實(shí)，或者移民是否符合“人道主義”救助的條件等。自2014年以來，加拿大一直在其移民和難民系統(tǒng)中使用自動(dòng)化決策。2018年又啟動(dòng)了兩個(gè)試點(diǎn)項(xiàng)目：一個(gè)用于幫助評(píng)估來自印度和中國(guó)的臨時(shí)居留簽證申請(qǐng)，另一個(gè)用來對(duì)簡(jiǎn)單移民申請(qǐng)進(jìn)行分類。項(xiàng)目實(shí)施后，簡(jiǎn)單的程序可由自動(dòng)化決策系統(tǒng)實(shí)施，從而釋放出更多的人力和時(shí)間投入到復(fù)雜的決策程序中。

當(dāng)然，自動(dòng)決策系統(tǒng)的決策規(guī)則由實(shí)施者制定。在美國(guó)，自政府頒布行政命令嚴(yán)厲打擊移民之后，移民與海關(guān)執(zhí)法局（ICE）一直在修改其在美墨邊境的保釋裁定算法，以證明其在每一個(gè)案件中所做出的拘留決定是合理的。2017年，移民與海關(guān)執(zhí)法局還發(fā)布了“極端審核倡議”，對(duì)移民進(jìn)行自動(dòng)篩選和評(píng)估，以確保審批通過的申請(qǐng)人“對(duì)社會(huì)做出積極貢獻(xiàn)”并“為美國(guó)國(guó)家利益服務(wù)”，同時(shí)“預(yù)測(cè)他們?nèi)刖澈笫欠翊蛩銓?shí)施犯罪或恐怖行為”。［15］德國(guó)聯(lián)邦移民和難民辦公室也在其移民項(xiàng)目中使用了方言識(shí)別、姓名音譯和身份驗(yàn)證移動(dòng)數(shù)據(jù)設(shè)備分析等技術(shù)，能夠自動(dòng)核實(shí)移民身份和來源國(guó)等信息，以支持庇護(hù)申請(qǐng)過程中的決策。［16］

（三）移民身份識(shí)別與安全

在國(guó)際移民領(lǐng)域，生物特征或“基于個(gè)人生物學(xué)和行為特征的自動(dòng)識(shí)別”技術(shù)的使用也在增加。生物測(cè)定包括指紋數(shù)據(jù)、視網(wǎng)膜掃描和面部識(shí)別等，可識(shí)別人的靜脈和血管模式、耳朵形狀和步態(tài)等。經(jīng)由人工智能算法訓(xùn)練的人臉識(shí)別、圖像識(shí)別與視頻結(jié)構(gòu)化等技術(shù)，可以用于網(wǎng)絡(luò)文本、圖片、視頻和語(yǔ)音內(nèi)容識(shí)別、監(jiān)測(cè)和分類，為網(wǎng)絡(luò)技術(shù)的各類場(chǎng)景化應(yīng)用提供輔助工具，從而有效提高移民身份識(shí)別能力，并根據(jù)相關(guān)信息給出更優(yōu)判決結(jié)果。聯(lián)合國(guó)一直致力于用生物識(shí)別技術(shù)填充其數(shù)據(jù)庫(kù)，并累計(jì)收集800多萬人的生物數(shù)據(jù)，以幫助難民逃離沖突或?yàn)槠涮峁┤说乐髁x援助。

在政府部門，面部識(shí)別技術(shù)被應(yīng)用于安全和身份管理等用途。在某些情況下，該技術(shù)可以與監(jiān)視公共場(chǎng)所的現(xiàn)有視頻監(jiān)控系統(tǒng)（例如閉路電視攝像機(jī)）連接，執(zhí)法部門用它來識(shí)別、監(jiān)視和抓獲罪犯。政府頒發(fā)的身份證明程序（例如駕照和護(hù)照）也采用面部識(shí)別技術(shù)作為防止身份欺詐的工具。例如，新西蘭等國(guó)家在試驗(yàn)使用基于生物特征的自動(dòng)面部識(shí)別技術(shù)來識(shí)別所謂的外來“麻煩制造者”；歐盟修訂后的申根信息系統(tǒng)（SIS）也通過使用面部識(shí)別、DNA和生物測(cè)定數(shù)據(jù)，方便非正常情況下的移民返回（第2018/1860號(hào)條例）。［17］在私人部門，優(yōu)步（Uber）將該技術(shù)用作防范欺詐的工具，用于確認(rèn)駕駛員身份；一些公司推出了客戶付款系統(tǒng)，通過掃描客戶的面部來尋找物品，根據(jù)其年齡或性別等標(biāo)識(shí)符對(duì)客戶進(jìn)行分類和定位。

（四）移民融入與公共危機(jī)

自2015年開始，歐洲難民激增，各國(guó)接收和安置的難度加大，難民的社會(huì)融入也面臨挑戰(zhàn)。政府急需找到快速收容和重新安置移民個(gè)人和家庭的辦法。對(duì)此，瑞士開發(fā)了一種靈活的數(shù)據(jù)驅(qū)動(dòng)算法，可以橫跨安置地點(diǎn)分配難民，以優(yōu)化其總體就業(yè)率，改善融合效果。該算法采用監(jiān)督式機(jī)器學(xué)習(xí)和最優(yōu)匹配相結(jié)合的方法，發(fā)現(xiàn)并利用難民特征與安置點(diǎn)之間的協(xié)同效應(yīng)實(shí)現(xiàn)匹配。該算法在美國(guó)和瑞士的歷史登記數(shù)據(jù)庫(kù)進(jìn)行了測(cè)試，與之前的分配做法相比，該方法使難民的就業(yè)率平均提高了 40%~70%。［18］

新的數(shù)字核查技術(shù)使來自沖突地區(qū)的數(shù)據(jù)更加可靠，移民管理部門也通過創(chuàng)建各種技術(shù)應(yīng)用程序，幫助難民獲得醫(yī)療、銀行等社會(huì)服務(wù)，如全球性非營(yíng)利組織Techfugees通過技術(shù)支持推動(dòng)移民社區(qū)融入，其口號(hào)是“通過技術(shù)賦予流離失所者權(quán)力”；德國(guó)創(chuàng)建了名為“Ankommen”的智能手機(jī)應(yīng)用程序，提供基礎(chǔ)德語(yǔ)課和關(guān)于庇護(hù)申請(qǐng)程序及如何找工作或培訓(xùn)的信息，同時(shí)也會(huì)發(fā)布關(guān)于德國(guó)人價(jià)值觀和社會(huì)風(fēng)俗的信息，幫助移民更好地融入當(dāng)?shù)厣鐣?huì)。

人工智能技術(shù)應(yīng)用的全質(zhì)性使其能夠同多種物質(zhì)力量結(jié)合，催化算法在諸如意識(shí)形態(tài)感知領(lǐng)域的應(yīng)用。人工智能時(shí)代泛起的網(wǎng)絡(luò)輿情危思潮，威脅著意識(shí)形態(tài)在社會(huì)公眾群體中的傳播效能，也催生了輿情治理的新范式。［19］大數(shù)據(jù)與人工智能技術(shù)能夠協(xié)助政府部門對(duì)多種公共危機(jī)，尤其是以網(wǎng)絡(luò)群體事件為主的新型公共危機(jī)進(jìn)行及時(shí)監(jiān)控。例如，聯(lián)合國(guó)難民署利用人工智能技術(shù)對(duì)網(wǎng)民性格和政治傾向進(jìn)行分析，對(duì)難民的仇外心理和種族主義等社會(huì)情緒進(jìn)行持續(xù)性監(jiān)測(cè)，以幫助制定宣傳戰(zhàn)略，將網(wǎng)絡(luò)負(fù)面情緒降至最小范圍。

（五）邊境監(jiān)測(cè)和非法移民攔截

人工智能技術(shù)也被用于邊境監(jiān)測(cè)和保護(hù)。例如，歐洲邊防和海岸警衛(wèi)隊(duì)（FRONTEX）一直在地中海測(cè)試各種無人駕駛軍用級(jí)無人機(jī)，用于監(jiān)視和攔截試圖抵達(dá)歐洲海岸以便利庇護(hù)申請(qǐng)的移民船只；［20］匈牙利Roborder項(xiàng)目通過配備無人移動(dòng)機(jī)器人，致力于建立一套“全功能的自主邊境監(jiān)視系統(tǒng)，應(yīng)用場(chǎng)景包括空中、水面、水下和地面車輛”；［21］希臘群島周圍海域部署了一個(gè)名為艾米麗（Emily）的自動(dòng)機(jī)器人救生筏，即緊急綜合救生繩，以協(xié)助營(yíng)救難民。［22］

國(guó)際移民的各個(gè)階段相互聯(lián)系和影響，人工智能技術(shù)在國(guó)際移民領(lǐng)域中的應(yīng)用也存在一定的交叉性。我們對(duì)人工智能在國(guó)際移民領(lǐng)域應(yīng)用的認(rèn)知，多數(shù)還是建立在當(dāng)前已有技術(shù)應(yīng)用的基礎(chǔ)上。雖然現(xiàn)階段人工智能技術(shù)的應(yīng)用過程仍存在明顯缺陷，但總體看來，人工智能基于進(jìn)化賦能的實(shí)踐應(yīng)用在國(guó)際移民領(lǐng)域中存在著一定的技術(shù)發(fā)展正循環(huán)，這一廣域治理的特征不僅意味著人工智能將會(huì)成為國(guó)際移民治理的重要驅(qū)動(dòng)力，也說明人工智能將進(jìn)一步拓展國(guó)際移民治理理念、方式與界域，并影響這一復(fù)雜的組織和治理架構(gòu)。但是，從數(shù)據(jù)隱私和安全問題，到移民領(lǐng)域最關(guān)心的人權(quán)問題，人工智能技術(shù)的實(shí)施和應(yīng)用仍然面臨著諸多挑戰(zhàn)和風(fēng)險(xiǎn)。

二、人工智能對(duì)國(guó)際移民治理的影響與挑戰(zhàn)

人工智能的技術(shù)迭代與技術(shù)創(chuàng)新驅(qū)動(dòng)著國(guó)際移民治理理念和模式的全面變革和轉(zhuǎn)型，也將在治理主體的能力代差、治理過程及結(jié)果的公平性和治理規(guī)范等方面，對(duì)國(guó)際移民的治理體系產(chǎn)生一定沖擊。

（一）技術(shù)鴻溝進(jìn)一步拉大國(guó)際移民治理主體間的能力代差

世界移民危機(jī)之后，各主要移民國(guó)及國(guó)際組織都在努力加強(qiáng)全球移民治理機(jī)制的建設(shè)。2016年聯(lián)合國(guó)大會(huì)通過《紐約難民和移民宣言》，隨后通過了《全球難民契約（2018）》《全球安全、有序和正常移民契約（2018）》。在全球?qū)用妫饕泼裰卫碇黧w在移民問題上的互動(dòng)是不對(duì)稱的，盡管更多的國(guó)際移民輸出國(guó)是南方國(guó)家，但制定國(guó)際移民的全球議程卻是北方各移民輸入國(guó)。［23］目前，發(fā)達(dá)國(guó)家在人工智能技術(shù)的發(fā)展上仍然處于絕對(duì)優(yōu)勢(shì)，多數(shù)發(fā)展中國(guó)家在這一領(lǐng)域的發(fā)展則存在著天然的缺陷。因此，這一內(nèi)嵌的技術(shù)霸權(quán)邏輯會(huì)導(dǎo)致國(guó)際移民治理主體之間產(chǎn)生更大的溝壑和差距。

在人工智能時(shí)代背景下，圖像識(shí)別、行為預(yù)測(cè)、風(fēng)險(xiǎn)感知、人群畫像等應(yīng)用實(shí)踐催生出全景式數(shù)據(jù)監(jiān)控的技術(shù)治理模式。社會(huì)的發(fā)展塑造技術(shù)，但也被技術(shù)所影響。人工智能技術(shù)的應(yīng)用在極大地提升治理主體的社會(huì)能見度、風(fēng)險(xiǎn)感知靈敏度和預(yù)警預(yù)防精確度的同時(shí)，也在潛移默化地形塑著數(shù)據(jù)和技術(shù)控制型的社會(huì)結(jié)構(gòu)。在數(shù)據(jù)及技術(shù)的控制下，“技術(shù)利維坦”①注：“利維坦”（Leviathan）原為《舊約圣經(jīng)》中記載的一種海上怪獸，后成為強(qiáng)勢(shì)的國(guó)家（政府）的代名詞?！凹夹g(shù)利維坦”常被理解為“國(guó)家信息技術(shù)的全面裝備，將公民置于徹底而富有成效的監(jiān)控體系之下，而公民卻難以有效地運(yùn)用信息技術(shù)來維護(hù)其公民權(quán)利，即無法通過數(shù)字民主來制衡國(guó)家的監(jiān)控體系”，其本質(zhì)是一種技術(shù)手段與國(guó)家權(quán)力相結(jié)合產(chǎn)生巨大政治效應(yīng)的過程。參見王小芳、王磊：《“技術(shù)利維坦”：人工智能嵌入社會(huì)治理的潛在風(fēng)險(xiǎn)與政府應(yīng)對(duì)》，《電子政務(wù)》2019年第5期。的生成幾乎不可避免，“技術(shù)利維坦”與普通個(gè)體之間的“技術(shù)鴻溝”成為亟待深思的理論焦點(diǎn)。［24］科技革命的發(fā)生往往會(huì)對(duì)國(guó)家力量對(duì)比、地緣政治結(jié)構(gòu)以及社會(huì)治理等多個(gè)方面產(chǎn)生深遠(yuǎn)影響，進(jìn)而也會(huì)從多個(gè)領(lǐng)域?qū)?guó)家治理能力造成根本性挑戰(zhàn)。人工智能作為一項(xiàng)通用性的平臺(tái)技術(shù)，其在移民領(lǐng)域的應(yīng)用場(chǎng)景將會(huì)實(shí)現(xiàn)全面擴(kuò)展。擁有人工智能技術(shù)優(yōu)勢(shì)的國(guó)家（地區(qū)）將會(huì)在更多的領(lǐng)域研發(fā)出適用效用更大和預(yù)期風(fēng)險(xiǎn)更低的技術(shù)，促進(jìn)國(guó)際移民治理能力提升，而技術(shù)劣勢(shì)方則難以用數(shù)量疊層或策略戰(zhàn)術(shù)等手段來彌補(bǔ)這一力量差距。

在實(shí)踐或具體的運(yùn)用中，人工智能擴(kuò)大了國(guó)家之間的技術(shù)或數(shù)字鴻溝。［25］同時(shí)，國(guó)家權(quán)力機(jī)關(guān)并不是掌控海量數(shù)據(jù)的唯一主體，擁有大數(shù)據(jù)和人工智能技術(shù)的高科技巨頭公司也將擁有數(shù)據(jù)支配權(quán)，通過人工智能與大數(shù)據(jù)，高科技巨頭公司不僅能針對(duì)移民習(xí)慣精確投放廣告，甚至可以利用自身的數(shù)據(jù)資源干涉移民政策和選舉等政治事務(wù)。政府的相關(guān)政務(wù)，也需要科技公司的技術(shù)支持才能順利實(shí)施，高科技公司將更深入地介入到政府運(yùn)轉(zhuǎn)和移民治理的過程中。［26］數(shù)據(jù)權(quán)力結(jié)構(gòu)呈多元發(fā)展態(tài)勢(shì)，將會(huì)促進(jìn)中心化的單向治理格局向多元共治格局轉(zhuǎn)向。

（二）算法價(jià)值觀念缺失以及自動(dòng)化偏差帶來了治理過程及結(jié)果的不公

基于大數(shù)據(jù)的人工智能新技術(shù)越來越多地出現(xiàn)在各個(gè)社會(huì)領(lǐng)域，人工智能技術(shù)的介入也將會(huì)從利益再分配、法律規(guī)范等多個(gè)層面對(duì)社會(huì)治理形成沖擊。新技術(shù)有助于改善國(guó)際移民治理，加強(qiáng)對(duì)移民風(fēng)險(xiǎn)的保護(hù)。但不加限制地使用這類技術(shù)實(shí)際上可能對(duì)移民的安全構(gòu)成嚴(yán)重威脅。算法的數(shù)據(jù)運(yùn)用、決策機(jī)制及結(jié)構(gòu)表征等基于開發(fā)者主觀價(jià)值選擇而形成，開發(fā)者潛在的偏見很可能被嵌入其中。同時(shí)，人工智能技術(shù)的甄別邏輯來源于輸入的數(shù)據(jù)，數(shù)據(jù)質(zhì)量缺陷可能會(huì)造成算法過程噪聲的進(jìn)一步放大或固化，導(dǎo)致“自我實(shí)現(xiàn)的歧視性反饋”。［27］例如，緬甸羅興亞難民生物特征數(shù)據(jù)被收集后，專制政府更易識(shí)別該群體并將他們從營(yíng)地中趕走。［28］這種因數(shù)據(jù)或算法導(dǎo)致的歧視可能會(huì)從技術(shù)上強(qiáng)化社會(huì)偏見。

同時(shí)，基于人工智能技術(shù)算法做出的決策也存在責(zé)任性和公平性的問題。技術(shù)治理的邏輯下，政策決策者和所有人一樣偏愛機(jī)器所呈現(xiàn)的結(jié)果，這種現(xiàn)象被稱為“自動(dòng)化偏差”。［29］技術(shù)運(yùn)用被抬到壓倒性地位，決策者希求以技術(shù)手段解決一切問題。算法可以使用無監(jiān)督學(xué)習(xí)進(jìn)行訓(xùn)練、自行學(xué)習(xí)和模式識(shí)別，這些“思維過程”人類無法完全解釋，甚至那些在一開始就設(shè)計(jì)好的算法也不一定會(huì)按照預(yù)期進(jìn)行。［30］機(jī)器可能會(huì)根據(jù)算法的結(jié)果拒絕移民的簽證申請(qǐng)，或?qū)⒁泼竦纳矸菖c恐怖分子嫌疑犯的身份混淆，卻無法對(duì)決策做出明確解釋，這造成了相當(dāng)大的不可預(yù)測(cè)性和不透明性，使其做出的決策難以獲得信任。［31］

同時(shí)，移民權(quán)利受到侵犯時(shí)尋求幫助也面臨重大困難。公平是公正審判權(quán)的重要組成部分，它要求審判（包括在行政當(dāng)局之前的審判）應(yīng)在“不存在任何直接或間接的影響、壓力、恐嚇或來自任何方面和出于任何動(dòng)機(jī)的入侵”。［32］鑒于決策者與移民或?qū)で蟊幼o(hù)的難民之間固有的權(quán)力差異，對(duì)不透明的人工智能算法的依賴，以及持續(xù)存在的自動(dòng)化偏差，會(huì)導(dǎo)致過度影響決策進(jìn)而損害過程的公平性。因此，有必要嚴(yán)格監(jiān)督和規(guī)范新技術(shù)在國(guó)際移民領(lǐng)域的使用情況，警惕技術(shù)濫用和過渡依賴可能帶來的負(fù)面后果。

（三）推進(jìn)面向循證決策的移民治理模式初步轉(zhuǎn)變

《移民問題全球契約（2018）》提出的目標(biāo)之一是加強(qiáng)國(guó)際移民的全球證據(jù)基礎(chǔ)，收集和利用準(zhǔn)確分類數(shù)據(jù)作為循證決策的依據(jù)。［33］循證決策的基本思想可以概括為使用盡可能多的嚴(yán)格制定和嚴(yán)謹(jǐn)闡釋的數(shù)據(jù)、事實(shí)作為政策決策的基礎(chǔ)，核心在于依據(jù)證據(jù)而非依靠經(jīng)驗(yàn)或靈感做出決策。［34］大量可靠、及時(shí)和可比較的移民數(shù)據(jù)、庇護(hù)數(shù)據(jù)以及跨國(guó)統(tǒng)計(jì)數(shù)據(jù)，能有效指導(dǎo)歐盟層面移民政策的制定。［35］國(guó)際移民組織也強(qiáng)調(diào)，需要更可靠的移民數(shù)據(jù)來為決策提供信息。大數(shù)據(jù)搜集、存儲(chǔ)和挖掘工具的應(yīng)用為治理的前瞻性和動(dòng)態(tài)決策帶來了機(jī)遇。［36］人工智能技術(shù)作為一種推動(dòng)國(guó)際移民治理轉(zhuǎn)型的“倒逼機(jī)制”，借助從宏觀、微觀層次無限逼近事實(shí)真相的大數(shù)據(jù)資源，將人工智能等新技術(shù)直接轉(zhuǎn)化為智能服務(wù)和產(chǎn)品，全面應(yīng)用于國(guó)際移民治理過程中，從而幫助政府、移民組織和機(jī)構(gòu)做出更科學(xué)的決策。［37］

數(shù)據(jù)是決策的命脈，也是問責(zé)的基石。受大數(shù)據(jù)的推動(dòng)，移民管理和邊境管制等方面日益依賴不同類型的數(shù)據(jù)，包括衛(wèi)星大數(shù)據(jù)等。數(shù)據(jù)增長(zhǎng)來源于國(guó)家對(duì)邊境監(jiān)視和移民管理軟件和信息管理系統(tǒng)投資的不斷增加，［38］還有部分?jǐn)?shù)據(jù)來源于社交媒體渠道或在線平臺(tái)介導(dǎo)互動(dòng)而產(chǎn)生的“大社會(huì)數(shù)據(jù)”。［39］在國(guó)際移民領(lǐng)域，越來越多的學(xué)者呼吁制定以證據(jù)為基礎(chǔ)的政策，這與人工智能技術(shù)及大數(shù)據(jù)在移民領(lǐng)域應(yīng)用的激增密不可分。日益豐富的遷移數(shù)據(jù)有利于數(shù)據(jù)驅(qū)動(dòng)的人工智能算法的發(fā)展，推動(dòng)領(lǐng)域內(nèi)更多數(shù)據(jù)驅(qū)動(dòng)的決策。遷移管理中的人工智能算法也可以分析大量定性的移民訪談數(shù)據(jù)，歸納移民模式并基于移民意愿對(duì)移民趨勢(shì)進(jìn)行預(yù)測(cè)。算法還可以用于檢測(cè)和評(píng)估政府的移民政策和方案。一些國(guó)際組織和機(jī)構(gòu)一直致力于利用數(shù)據(jù)促進(jìn)移民決策。國(guó)際移民組織建立的移民數(shù)據(jù)門戶和聯(lián)合國(guó)倡議建立的全球脈動(dòng)（UN Global Pulse）等項(xiàng)目為移民決策提供了大量關(guān)鍵數(shù)據(jù)資源。

當(dāng)然，基于數(shù)據(jù)驅(qū)動(dòng)的循證決策也面臨著一些挑戰(zhàn)。由于國(guó)際移民過程的復(fù)雜性，基于數(shù)據(jù)證據(jù)的決策中，對(duì)于“證據(jù)”的定義和分類需要進(jìn)行明確，以便將訓(xùn)練數(shù)據(jù)用于移民治理的人工智能算法，能夠超越對(duì)移民現(xiàn)象純數(shù)字的觀點(diǎn)?；跀?shù)據(jù)的技術(shù)治理在一定程度上提升了移民治理的精細(xì)化水平，卻無法解決深層次的矛盾和社會(huì)問題。在移民治理實(shí)踐中，要謹(jǐn)防將治理技術(shù)的創(chuàng)新作為治理創(chuàng)新的全部，從而消解和稀釋改革動(dòng)力。

（四）對(duì)形成移民治理的全球性框架和責(zé)任體系提出挑戰(zhàn)

在提升國(guó)際移民治理效能的同時(shí)，人工智能技術(shù)的嵌入還將深化移民治理的向度并擴(kuò)展移民治理的維度，進(jìn)而也會(huì)催生一種技術(shù)安全悖論。人工智能不僅是一種顛覆性技術(shù)，也可能是人類遇到的最具破壞性的技術(shù)。［40］隨著以人工智能為代表的新技術(shù)的嵌入及其在移民治理領(lǐng)域不同場(chǎng)景的應(yīng)用，人工智能對(duì)移民治理的影響越來越廣、越來越深，也對(duì)傳統(tǒng)國(guó)際移民治理中的責(zé)任體系帶來挑戰(zhàn)和沖擊。由于其所展現(xiàn)出的“替代人類”的技術(shù)走向，使得傳統(tǒng)圍繞移民和實(shí)體組織所構(gòu)建的責(zé)任體系存在面臨解構(gòu)的風(fēng)險(xiǎn)。漢斯·約納斯（Hans Jonas）、漢斯·昆（Hans Kung）等人在建立責(zé)任倫理學(xué)的過程中，確立了一個(gè)根本原則即“絕對(duì)不可拿整個(gè)人類的存在去冒險(xiǎn)”。從技術(shù)責(zé)任的概念譜系來看，這一原則同樣適用于分析人工智能技術(shù)責(zé)任的負(fù)載對(duì)象，我們要做的就是將這個(gè)根本原則所指稱的“人類的存在”具體化和對(duì)象化。［41］

國(guó)際人權(quán)的規(guī)范性和普遍性為國(guó)際移民領(lǐng)域的全球治理提供了一個(gè)可行的起點(diǎn)，以期從跨國(guó)和全球的角度認(rèn)知和剖析其潛在的危害性。人工智能技術(shù)是建立更有效的國(guó)際移民治理系統(tǒng)的一個(gè)有益的工具，但此類工具的開發(fā)和部署要符合道德規(guī)范以及法律框架，尤其是國(guó)際人權(quán)法律。［42］在實(shí)踐中，移民自動(dòng)決策技術(shù)需要大量的數(shù)據(jù)，大數(shù)據(jù)分析需要搜集并形成龐大的數(shù)據(jù)集，在沒有監(jiān)管和問責(zé)的情況下收集移民人口信息和邊緣移民的數(shù)據(jù)可能導(dǎo)致嚴(yán)重的侵犯隱私和人權(quán)問題。

為了解決這些問題，帕斯奎爾（Pasquale）等提出了“技術(shù)正當(dāng)程序”的概念，包括對(duì)技術(shù)的問責(zé)、公平和透明度保證。［43］世界銀行也提出基于國(guó)際人權(quán)法的框架進(jìn)行人權(quán)影響評(píng)估，以審查在移民管理中使用人工智能技術(shù)是否會(huì)損害移民和尋求庇護(hù)者的利益。［44］麥格雷戈（McGregor）等提議在現(xiàn)有國(guó)際人權(quán)法法律框架的基礎(chǔ)上，解決從設(shè)計(jì)到實(shí)施整個(gè)生命周期所有階段的人工智能算法問責(zé)問題。［45］國(guó)際人權(quán)法的法律框架有助于識(shí)別移民領(lǐng)域算法決策可能帶來的潛在危害，但是國(guó)際人權(quán)法對(duì)于國(guó)際人權(quán)條約的締約國(guó)可能有效，但不適用于公司等非國(guó)家行為體。［46］在聯(lián)合國(guó)層面，《聯(lián)合國(guó)商業(yè)和人權(quán)指導(dǎo)原則》對(duì)于商業(yè)技術(shù)公司適用但卻是一個(gè)不具法律約束力的國(guó)際框架，［47］現(xiàn)有的框架基于企業(yè)應(yīng)尊重、保護(hù)和補(bǔ)救人權(quán)的理念，主要依靠企業(yè)自律來配合。［48］瓦克泰（Wachter）等提出一種同時(shí)適用于國(guó)家和非國(guó)家行為體的解決辦法，即建立“合理推斷權(quán)”，這項(xiàng)權(quán)利要求數(shù)據(jù)控制器能證明數(shù)據(jù)的類型、基于這些數(shù)據(jù)做出的推論，以及所用方法的準(zhǔn)確性和可靠性。如果有足夠的政治意愿推動(dòng)，這項(xiàng)新權(quán)利可能會(huì)改變?nèi)藗儗?duì)算法責(zé)任的認(rèn)知方式，對(duì)移民和庇護(hù)決策也有影響。［49］

三、討論與啟示

移民問題的跨國(guó)性、非對(duì)稱性、不易控性等兼具非傳統(tǒng)安全的特點(diǎn)為國(guó)際移民的治理帶來了很大難度。為了應(yīng)對(duì)規(guī)模龐大的全球移民和難民等復(fù)雜問題，各國(guó)也迫切希望將新技術(shù)視為快速解決移民問題的辦法。大數(shù)據(jù)以及人工智能技術(shù)的廣泛應(yīng)用成為各國(guó)和國(guó)際組織尋求管理國(guó)際移民的方式。當(dāng)前人工智能在國(guó)際移民領(lǐng)域主要應(yīng)用在移民流動(dòng)的預(yù)測(cè)管理、自動(dòng)化決策、身份識(shí)別、機(jī)器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測(cè)及機(jī)器人技術(shù)等場(chǎng)景。

人工智能技術(shù)的發(fā)展從不同層面影響國(guó)際移民治理。首先，人工智能技術(shù)的發(fā)展會(huì)影響到國(guó)家治理格局，人工智能技術(shù)鴻溝加深了國(guó)家間在國(guó)際移民治理方面的能力代差，也加快了移民數(shù)據(jù)權(quán)力結(jié)構(gòu)多元化的發(fā)展態(tài)勢(shì)。其次，新技術(shù)的應(yīng)用有助于改善國(guó)際移民治理狀態(tài)，但對(duì)技術(shù)不加限制的使用，會(huì)對(duì)移民安全和權(quán)利構(gòu)成嚴(yán)重威脅，人工智能算法價(jià)值觀念缺失可能會(huì)加劇社會(huì)偏見，技術(shù)“自動(dòng)化偏差”亦會(huì)造成移民治理過程及結(jié)果的不公平。再次，受大數(shù)據(jù)推動(dòng)，人工智能技術(shù)在國(guó)際移民領(lǐng)域應(yīng)用激增，有助于政府、移民組織和機(jī)構(gòu)擺脫經(jīng)驗(yàn)枷鎖，形成更為科學(xué)的決策，推動(dòng)移民治理向數(shù)據(jù)驅(qū)動(dòng)和循證決策模式的轉(zhuǎn)變。最后，技術(shù)是檢驗(yàn)國(guó)家實(shí)踐、民主、權(quán)利觀念和問責(zé)制的重要視角，人工智能技術(shù)的應(yīng)用在推動(dòng)社會(huì)發(fā)展的同時(shí)也導(dǎo)致了一系列社會(huì)問題，這些問題往往無法在現(xiàn)有的社會(huì)框架下得到妥善解決，這對(duì)塑造人工智能背景下移民治理的全球性框架和責(zé)任體系提出了挑戰(zhàn)。

全球移民時(shí)代，沒有國(guó)家能完全置身于國(guó)際移民潮之外。2016年，中國(guó)正式成為國(guó)際移民組織（IMO）成員國(guó)；2018年，中國(guó)國(guó)家移民管理局正式成立。移民管理局的組建是我國(guó)參與國(guó)際人才競(jìng)爭(zhēng)、實(shí)現(xiàn)人口紅利向人才紅利轉(zhuǎn)型的需要，也是全球化發(fā)展對(duì)完善移民體系提出的新要求。盡管學(xué)界對(duì)于人工智能應(yīng)用于移民領(lǐng)域的研究所涉甚少，但如果中國(guó)能抓住人工智能技術(shù)優(yōu)勢(shì)，更多地發(fā)揮技術(shù)治理在國(guó)際移民領(lǐng)域中的正向循環(huán)作用，將有助于增強(qiáng)中國(guó)在國(guó)際移民治理領(lǐng)域的能力和效能，促進(jìn)中國(guó)參與全球治理的深度，進(jìn)一步提升中國(guó)在國(guó)際移民領(lǐng)域的話語(yǔ)權(quán)和國(guó)際形象。

［注釋］

［1］Jenna Burrell， “How the Machine ‘Thinks’： Understanding Opacity in Machine Learning Algorithms”，Big Data &Society， Vol.3， No.1， Jan 2016， pp.1-12.

［2］Michael Chui et al，Notes from the AI Frontier: Applying Artifi cial Intelligence for Social Good， Washington D.C.：McKinsey Global Institute， 2018.

［3］闕天舒、張紀(jì)騰：《人工智能時(shí)代背景下的國(guó)家安全治理：應(yīng)用范式、風(fēng)險(xiǎn)識(shí)別與路徑選擇》，《國(guó)際安全研究》2020年第1期。

［4］Petra Molna， “Technology on the Margins： AI and Global Migration Management from a Human Rights Perspective”，Cambridge International Law Journal， Vol.8， No.2， 2019， pp.305-330.

［5］“Big Data for Migration Alliance （BD4M）： Harnessing the Potential of New Data Sources and Innovative Methodologies for Migration”， 2017， https://gmdac.iom.int/launch-big-data-migration-alliance， 2020年 7月 21日瀏覽。

［6］Stephen Gelb and Aarti Krishnan，Technology, Migration and the 2030 Agenda for Sustainable Development，London： Overseas Development Institute， 2018.

［7］Marzia Rango， “How Big Data Can Help Migrants”， 2015， https://www.weforum.org/agenda/2015/10/how-big-datacan-help-migrants/， 2020年7月23日瀏覽。

［8］Spyratos Spyridon et al，Migration Data Using Social Media: A European Perspective， Luxembourg： Publications Office of the European Union， 2018.

［9］Ana Beduschi， “The Big Data of International Migration： Opportunities and Challenges for States under International Human Rights Law”，Georgetown Journal of International Law,Vol.49， No.4， 2018.

［10］Jeff Collmann et al， “Measuring the Potential for Mass Displacement in Menacing Contexts”，Journal of Refugee Studies， Vol. 29， Issue 3， Sep 2016， pp. 273-294.

［11］Babusi Nyoni， “How Artificial Intelligence can be Used to Predict Africa’s Next Migration Crisis”， 2017， https://www.unhcr.org/innovation/how-artificial-intelligence-can-be-used-to-predict-africas-next-migration-crisis/，2020年7月20日瀏覽； Marcello Carammia and Jean-Christophe Dumont， “Can We Anticipate Future Migration Flows”，OECD: Migration Policy Debates， 2018.

［12］董青嶺：《大數(shù)據(jù)安全態(tài)勢(shì)感知與沖突預(yù)測(cè)》，《中國(guó)社會(huì)科學(xué)》2018年第6期。

［13］Trang Pham et al， “Predicting Health care Trajectories from Medical Records： A Deep Learning Approach”，Journal of Biomedical Informatics， Vol.69， No.3， May 2017， pp.218-229.

［14］Petra Molna， “Technology on the margins： AI and global migration management from a human rights perspective”，Cambridge International Law Journal， Vol.8， No.2， Dec 2019， pp.305-330.

［15］April Glaser， “ICE Wants to Use Predictive Policing Technology for its ‘Extreme Vetting’ Program”，Slate， 2017.

［16］Julian Tangermann，Documenting and Establishing Identity in the Migration Process—Challenges and Practices in the German Context,Nuremberg： Federal Office for Migration and Refugees， 2017.

［17］The European Parliament and the Council of the European Union， “Regulation （EU） 2018/1860 of the European Parliament and of the Council of 28 November 2018： On the Use of the Schengen Information System for the Return of Illegally Staying Third-Country Nationals”，Official Journal of the European Union,2018.

［18］Kirk Bansak et al， “Improving Refugee Integration through Data-driven Algorithmic Assignment”.Science，Vol.359， Issue 6373， Jan 2018， pp.325-329.

［19］姚翼源：《人工智能時(shí)代政府網(wǎng)絡(luò)輿情治理的邏輯、困局與策略》，《西南民族大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版）》2020年第3期。

［20］Raluca Csernatoni， “Constructing the EU’s High-Tech Borders： FRONTEX and Dual-Use Drones for Border Management”，European Security， Vol.27， Issue 2， 2018， pp.175-200.

［21］Roborder， “Aims & Objectives-Roborder”， 2019， https://roborder.eu/the-project/aims-objectives/， 2020年5月7日瀏覽。

［22］Rebeca Moreno， “Teaching a ‘Robot’ to Detect Xenophobia Online”， UNHCR Innovation Service， 2017， https://www.unhcr.org/innovation/teaching-robot-detect-xenophobia-online/， 2020年7月16日瀏覽。

［23］Guy J. Abel and Nikola Sander， “Quantifying Global International Migration Flows”，Science， Vol.343， Issue 6178，Mar 2014， pp.1520-1522.

［24］單勇：《跨越“數(shù)字鴻溝”：技術(shù)治理的非均衡性社會(huì)參與應(yīng)對(duì)》，《中國(guó)特色社會(huì)主義研究》2019年5期。

［25］Pippa Norris，Digital Divide: Civic Engagement, Information Poverty and the Internet Worldwide， New York：Cambridge University Press， 2001.

［26］岳楚炎：《人工智能革命與政府轉(zhuǎn)型》，《自然辯證法通訊》2019年第1期。

［27］Richard Berk，Machine Learning Risk Assessments in Criminal Justice Settings， Berlin： Springer-Verlag Press，2018， pp.22-23.

［28］Petra Molna， “Technology on the margins： AI and global migration management from a human rights perspective”，Cambridge International Law Journal， Vol.8， No.2， 2019， pp.305-330.

［29］Christopher D. Wickens et al， “Complacency and Automation Bias in the Use of Imperfect Automation”，Human Factors:The Journal of the Human Factors and Ergonomics Society， Vol.57， No.5， 2015， pp.728-739.

［30］Frank Pasquale，The Black Box Society: The Secret Algorithms That Control Money and Information， Cambridge：Harvard University Press， 2015.

［31］Lorna McGregor， Daragh Murray and Vivian Ng， “International Human Rights Law as a Framework for Algorithmic Accountability”，International and Comparative Law Quarterly， Vol.68， No.2， 2019， pp.309-343.

［32］UN. Human Rights Committee， “General Comment No.32： Article 14， Right to Equality before Courts and Tribunals and to Fair Trial”， United Nations Digital Library，2007， https://digitallibrary.un.org/record/606075?ln=en， 2020年7月16日瀏覽。

［33］《安全、有序和正常移民全球契約（移民問題全球契約）》， https://www.un.org/zh/documents/treaty/files/A-RES-73-195.shtml， 2020年7月13日瀏覽。

［34］李強(qiáng)彬：《證據(jù)驅(qū)動(dòng)型政策制定：西方的論爭(zhēng)與回應(yīng)》，《行政科學(xué)論壇》2020年第2期。

［35］Ann Singleton，Migration and Asylum Data for Policy-Making in the European Union: the Problem with Numbers，Brussels： CEPS Paper in Liberty and Security in Europe， 2016.

［36］龍?zhí)骸堆C決策及其在公共政策中應(yīng)用路徑探究》，《四川行政學(xué)院學(xué)報(bào)》2017年第1期。

［37］常保國(guó)：《人工智能+國(guó)家治理智能治理模式的內(nèi)涵建構(gòu)、生發(fā)環(huán)境與基本布局》，《政治學(xué)研究》2020年第2期。

［38］Dennis Broeders and Huub Dijstelbloem， “The Datafification of Mobility and Migration Management： the Mediating State and its Consequences”， 2016， pp.242-260， in： I. Van der Ploeg and J. Pridmore （eds.），Digitizing Identities:Doing Identity in a Networked World， London： Routledge.

［39］Ana Beduschi， “The Big Data of International Migration： Opportunities and Challenges for States under International Human Rights Law”，F(xiàn)orthcoming Georgetown Journal of International Law， vol.49， No.4， 2018.

［40］闕天舒、張紀(jì)騰：《人工智能時(shí)代背景下的國(guó)家安全治理：應(yīng)用范式、風(fēng)險(xiǎn)識(shí)別與路徑選擇》，《國(guó)際安全研究》2020年第1期。

［41］顏佳華：《人工智能場(chǎng)景下公共行政技術(shù)責(zé)任審視》，《理論探索》2019年第3期。

［42］Luciano Floridi et al， “AI4People-An Ethical Framework for a Good AI Society： Opportunities， Risks， Principles，and Recommendations”，Minds and Machines， Vol.28， No.1， 2018， pp.689-707.

［43］Danielle K. Citron and Frank Pasquale， “The Scored Society： Due Process for Automated Prediction”，Washington Law Review， Vol.89， No.1， 2014， pp.1-33.

［44］World Bank，Human Rights Impact Assessments: A Review of the Literature, Differences with Other Forms of Assessments and Relevance for Development， Washington D.C.： World Bank， 2013.

［45］Lorna McGregor， Daragh Murray and Vivian Ng， “International Human Rights Law as a Framework for Algorithmic Accountability”，International and Comparative Law Quarterly， Vol.68， No.2， 2019， pp.309-343.

［46］Andrew Clapham，Human Rights Obligations of Non-State Actors， Oxford： Oxford University Press， 2006.

［47］John Ruggie， “Business and Human Rights： The Evolving International Agenda”，American Journal of International Law， Vol.101， No.4， 2007， pp.819-840； John Ruggie， “Protect， Respect and Remedy： A Framework for Business and Human Rights”，Innovations Technology Governance Globalization,Vol.3， No.2， Feb 2008， pp.189-212.

［48］Michael Addo， “The Reality of the United Nations Guiding Principles on Business and Human Rights”，Human Rights Law Review， Vol.14， No.1， 2014， pp.133-147.

［49］Sandra Wachter and Brent Mittelstadt， “A Right to Reasonable Inferences： Re-thinking Data Protection Law in the Age of Big Data and AI”，Columbia Business Law Review， No.2， 2019， pp.494-620.