• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能技術(shù)在國(guó)際移民治理中的應(yīng)用及影響*

    2021-11-25 13:06:34陳程吳瑞君
    華僑華人歷史研究 2021年3期
    關(guān)鍵詞:移民決策人工智能

    陳程,吳瑞君

    (1.上海社會(huì)科學(xué)院 信息研究所,上海 200020;2.華東師范大學(xué) 中國(guó)現(xiàn)代城市研究中心暨社會(huì)發(fā)展學(xué)院,上海 200062)

    自1956年誕生以來,人工智能學(xué)科已有60多年歷史,其發(fā)展經(jīng)歷了兩次高潮和低谷,并于2010年迎來第三次發(fā)展浪潮,成為21世紀(jì)最為重要的核心技術(shù)之一。人工智能本質(zhì)上是為了研制出具有類人智能的機(jī)器,能夠模擬、延伸和擴(kuò)展人類智能的理論、方法、技術(shù)以及應(yīng)用形式。[1]該領(lǐng)域的研究包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。伴隨著信息技術(shù)革命的浪潮,以大數(shù)據(jù)和算法等為核心的人工智能技術(shù)已成為未來社會(huì)發(fā)展的重要驅(qū)動(dòng)力,人類社會(huì)向智能化發(fā)展的大潮勢(shì)不可擋。

    在大數(shù)據(jù)的推動(dòng)下,人工智能算法能夠簡(jiǎn)化重復(fù)性任務(wù),特別是那些需要審查大量文書工作的任務(wù),從而推動(dòng)工作流程的自動(dòng)化,提升信息處理速度和工作效率。[2]在社會(huì)層面,人工智能有助于提升社會(huì)勞動(dòng)生產(chǎn)率,并有效降低勞動(dòng)成本、優(yōu)化產(chǎn)品和服務(wù)、創(chuàng)造新市場(chǎng)和就業(yè)等,從而為人類的生產(chǎn)和生活帶來革命性的轉(zhuǎn)變。在國(guó)家治理層面,人工智能技術(shù)在信息收集、決策制定、方案執(zhí)行和監(jiān)控實(shí)施等認(rèn)知域和物理域的應(yīng)用將極大地提升國(guó)家治理水平和效能,有效地推動(dòng)國(guó)家治理范式的轉(zhuǎn)型與升級(jí)。[3]政府和公共行政部門日益認(rèn)識(shí)到人工智能對(duì)經(jīng)濟(jì)和社會(huì)發(fā)展的重要性,并大力支持人工智能研究。截至2019年,共有23個(gè)獨(dú)立的國(guó)家或超國(guó)家人工智能戰(zhàn)略達(dá)成,多數(shù)戰(zhàn)略價(jià)值達(dá)數(shù)十億美元。

    除此以外,人工智能在解決人類面臨的共同挑戰(zhàn)方面也發(fā)揮著日益重要的作用。全球化時(shí)代,國(guó)際移民問題日益凸顯其非傳統(tǒng)安全的特點(diǎn)??鐕?guó)遷移的流動(dòng)性和信息的不對(duì)稱性,使得移民數(shù)量、方向和影響都無法進(jìn)行精準(zhǔn)測(cè)量或預(yù)估;國(guó)際移民問題橫跨政治、經(jīng)濟(jì)、公共衛(wèi)生和人權(quán)等多個(gè)領(lǐng)域,復(fù)雜性特征也使得移民安全、難民接收和融入等問題更加突出。技術(shù)創(chuàng)新往往伴隨著公平和效率的提升,為了應(yīng)對(duì)規(guī)模龐大的移民和難民等復(fù)雜問題,各國(guó)迫切希望將新技術(shù)作為快速解決移民問題的辦法。[4]近年來,國(guó)際組織和各國(guó)就將大數(shù)據(jù)及人工智能技術(shù)應(yīng)用于國(guó)際移民管理領(lǐng)域展開了積極探索。如國(guó)際移民組織發(fā)起了“大數(shù)據(jù)移民聯(lián)盟”(Big Data For Migration Alliance),探索人工智能技術(shù)在國(guó)際移民中的應(yīng)用;[5]歐盟通過了在移民和安全領(lǐng)域利用人工智能和相關(guān)技術(shù)的新立法(第2018/1860號(hào)法規(guī)、第2019/816號(hào)法規(guī)、第2019/818號(hào)法規(guī));為應(yīng)對(duì)災(zāi)害和恐怖主義行為,歐盟綜合政治危機(jī)應(yīng)對(duì)委員會(huì)(Integrated Political Crisis Response,ICPR)建立了具有預(yù)警功能的監(jiān)測(cè)系統(tǒng),并于2015年10月“移民危機(jī)”期間首次啟動(dòng)信息共享模式,同時(shí)各國(guó)也在研究利用人工智能技術(shù)預(yù)測(cè)下一次“移民危機(jī)”的可能性;經(jīng)濟(jì)合作與發(fā)展組織成員國(guó),如孟加拉國(guó)、尼泊爾和馬來西亞開始在其移民管理系統(tǒng)中采用自動(dòng)化技術(shù)。[6]

    當(dāng)下,人工智能技術(shù)的發(fā)展還處于弱人工智能(Artificial Narrow Intelligence,ANI)階段,跨領(lǐng)域解決問題的通用人工智能技術(shù)仍然面臨著極大的不確定性。人工智能技術(shù)的發(fā)展會(huì)逐步成為社會(huì)治理和行業(yè)轉(zhuǎn)型升級(jí)的關(guān)鍵,但先期技術(shù)能力優(yōu)勢(shì)帶來的范式轉(zhuǎn)變及其影響必然有一個(gè)過程。在國(guó)際移民治理領(lǐng)域,人工智能技術(shù)的創(chuàng)新性發(fā)展具有高度的戰(zhàn)略價(jià)值,但其演進(jìn)路徑的不明也蘊(yùn)含著潛在的風(fēng)險(xiǎn)和問題。

    一、人工智能技術(shù)在國(guó)際移民領(lǐng)域中的應(yīng)用場(chǎng)景

    當(dāng)前,人工智能技術(shù)在國(guó)際移民領(lǐng)域應(yīng)用普遍,并主要集中在以下技術(shù)領(lǐng)域:移民的預(yù)測(cè)管理、自動(dòng)化決策、身份識(shí)別、機(jī)器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測(cè)及機(jī)器人技術(shù)等。

    (一)移民遷移的預(yù)測(cè)和管理

    在國(guó)際移民日益增長(zhǎng)的背景下,預(yù)測(cè)遷移趨勢(shì)并做出適當(dāng)而迅速的策略反應(yīng)至關(guān)重要??傮w來看,國(guó)際遷移不穩(wěn)定且難預(yù)測(cè)。若進(jìn)行細(xì)分,某些類型的移民比其他類型更穩(wěn)定或更易預(yù)測(cè),如常規(guī)勞工移民和家庭遷移等;被迫移民和非正規(guī)流動(dòng)通常很難預(yù)測(cè),而預(yù)測(cè)這類遷移趨勢(shì)對(duì)支持國(guó)家和地方層面的一體化服務(wù)特別有價(jià)值,這就需要提前進(jìn)行預(yù)測(cè)以便制定應(yīng)急計(jì)劃或迅速調(diào)整庇護(hù)和服務(wù)措施。

    移民流動(dòng)預(yù)測(cè)和管理依賴于大數(shù)據(jù)或可分析的、以揭示人類行為關(guān)聯(lián)模式的超大型數(shù)據(jù)集,大數(shù)據(jù)或超大型數(shù)據(jù)具有容量高、速度快和多樣性三個(gè)特征。[7]遷移預(yù)測(cè)主要取決于底層數(shù)據(jù)的質(zhì)量、關(guān)鍵驅(qū)動(dòng)因素的復(fù)雜程度和所考慮的時(shí)間框架。與移民流動(dòng)預(yù)測(cè)有關(guān)的大數(shù)據(jù)可來源于基于通信的信息源,如互聯(lián)網(wǎng)搜索、智能手機(jī)應(yīng)用程序、網(wǎng)站登錄和電子郵件IP地址以及通話記錄等極具“地理定位”特征的數(shù)據(jù),也包括從文本、音頻、視頻和社交媒體渠道中提取的有意義的信息。大數(shù)據(jù)分析是從大數(shù)據(jù)中獲取情報(bào)的技術(shù),能夠發(fā)現(xiàn)并捕獲數(shù)據(jù)中的關(guān)系和模式。[8]例如,數(shù)據(jù)科學(xué)家使用自然災(zāi)害或沖突期間個(gè)人生成的數(shù)據(jù)(如Facebook登記功能、YouTube在線視頻、Instagram或Pinterest在線平臺(tái)上公開發(fā)布的照片、在谷歌上在線搜索的特定術(shù)語(yǔ)等),以預(yù)測(cè)沖突或自然災(zāi)害發(fā)生時(shí)的移民潮。[9]

    海量數(shù)據(jù)研究所和喬治敦大學(xué)國(guó)際移民研究所開發(fā)了一個(gè)數(shù)據(jù)密集型預(yù)警系統(tǒng),用于檢測(cè)沖突和地震、颶風(fēng)等自然災(zāi)害造成的被迫緊急移民情況。[10]人工智能算法可以提高“移民危機(jī)”預(yù)測(cè)精度,[11]大數(shù)據(jù)技術(shù)還可用于預(yù)測(cè)移民安置的布局和密度等,實(shí)現(xiàn)移民安置點(diǎn)更公平、更周全的接收和整合戰(zhàn)略。同樣,大數(shù)據(jù)和傳統(tǒng)統(tǒng)計(jì)數(shù)據(jù)可用于描繪城市移民社區(qū)的多樣性,使決策者能夠預(yù)見哪些地區(qū)或社區(qū)可以吸引特定的移民,從而更好地規(guī)劃基礎(chǔ)設(shè)施建設(shè),實(shí)現(xiàn)公共服務(wù)的合理配置。

    以大數(shù)據(jù)分析為基礎(chǔ)的預(yù)測(cè)著眼于關(guān)聯(lián)共現(xiàn)關(guān)系的沖突特征和模式識(shí)別。[12]通過人工智能技術(shù)的嵌入可以實(shí)現(xiàn)這一過程的智能化,通過擴(kuò)大數(shù)據(jù)收集、減少信息未知性以及建立相關(guān)分析模型,人工智能技術(shù)能夠在擴(kuò)大預(yù)測(cè)適用范圍的同時(shí)提高預(yù)測(cè)的準(zhǔn)確性和實(shí)效性。聯(lián)合國(guó)難民署嘗試使用天氣數(shù)據(jù)來預(yù)測(cè)人們可能的流向,國(guó)際移民組織開發(fā)了“流離失所追蹤矩陣”(Displacement Tracking Matrix),利用移動(dòng)電話記錄和地理標(biāo)記以及對(duì)社交媒體活動(dòng)的分析,監(jiān)測(cè)正在遷移的人口,以更好地預(yù)測(cè)流離失所者的需求。人工智能技術(shù)同樣可以應(yīng)用于全球范圍內(nèi)的自然災(zāi)害和其他社會(huì)危機(jī)的預(yù)測(cè)預(yù)警。例如,公共衛(wèi)生部門能夠利用人工智能技術(shù)對(duì)疫情數(shù)據(jù)進(jìn)行分析,準(zhǔn)確、有效地對(duì)各類傳染疾病進(jìn)行跟蹤和預(yù)防,從而更高效地分配公共衛(wèi)生資源。[13]

    (二)移民申請(qǐng)與庇護(hù)決策

    為了應(yīng)對(duì)繁雜的移民申請(qǐng)和認(rèn)定程序,各移民國(guó)也嘗試在各種應(yīng)用程序中使用“自動(dòng)決策系統(tǒng)”。自動(dòng)決策技術(shù)需要大量數(shù)據(jù)形成的數(shù)據(jù)集,通過分析這些數(shù)據(jù)集的模式和關(guān)聯(lián)性,可以模擬人類認(rèn)知并根據(jù)結(jié)果做出決定。自動(dòng)決策系統(tǒng)以輸入數(shù)據(jù)的形式處理信息,使用算法生成輸出。一個(gè)算法可以被認(rèn)為是一組指令,就像“一個(gè)由可編程步驟組成的配方……組織并作用于一組數(shù)據(jù)以快速達(dá)到預(yù)期的結(jié)果”。某些算法是使用一個(gè)大型的現(xiàn)有數(shù)據(jù)集“訓(xùn)練”的,它允許算法分類并“概括”出訓(xùn)練集。訓(xùn)練數(shù)據(jù)可以是案例的一部分、照片的集合或統(tǒng)計(jì)數(shù)據(jù)庫(kù),其中一些或全部已經(jīng)根據(jù)設(shè)計(jì)師的標(biāo)準(zhǔn)進(jìn)行了預(yù)分類或標(biāo)記。[14]

    依據(jù)最終的“決策”,政府或私營(yíng)部門可以將自動(dòng)化決策系統(tǒng)用于多種多樣的應(yīng)用程序中,自動(dòng)化系統(tǒng)可以做出看似“中立”的決定,例如移民申請(qǐng)程序是否完成;也可以做出更復(fù)雜的決定,例如移民婚姻情況是否真實(shí),或者移民是否符合“人道主義”救助的條件等。自2014年以來,加拿大一直在其移民和難民系統(tǒng)中使用自動(dòng)化決策。2018年又啟動(dòng)了兩個(gè)試點(diǎn)項(xiàng)目:一個(gè)用于幫助評(píng)估來自印度和中國(guó)的臨時(shí)居留簽證申請(qǐng),另一個(gè)用來對(duì)簡(jiǎn)單移民申請(qǐng)進(jìn)行分類。項(xiàng)目實(shí)施后,簡(jiǎn)單的程序可由自動(dòng)化決策系統(tǒng)實(shí)施,從而釋放出更多的人力和時(shí)間投入到復(fù)雜的決策程序中。

    當(dāng)然,自動(dòng)決策系統(tǒng)的決策規(guī)則由實(shí)施者制定。在美國(guó),自政府頒布行政命令嚴(yán)厲打擊移民之后,移民與海關(guān)執(zhí)法局(ICE)一直在修改其在美墨邊境的保釋裁定算法,以證明其在每一個(gè)案件中所做出的拘留決定是合理的。2017年,移民與海關(guān)執(zhí)法局還發(fā)布了“極端審核倡議”,對(duì)移民進(jìn)行自動(dòng)篩選和評(píng)估,以確保審批通過的申請(qǐng)人“對(duì)社會(huì)做出積極貢獻(xiàn)”并“為美國(guó)國(guó)家利益服務(wù)”,同時(shí)“預(yù)測(cè)他們?nèi)刖澈笫欠翊蛩銓?shí)施犯罪或恐怖行為”。[15]德國(guó)聯(lián)邦移民和難民辦公室也在其移民項(xiàng)目中使用了方言識(shí)別、姓名音譯和身份驗(yàn)證移動(dòng)數(shù)據(jù)設(shè)備分析等技術(shù),能夠自動(dòng)核實(shí)移民身份和來源國(guó)等信息,以支持庇護(hù)申請(qǐng)過程中的決策。[16]

    (三)移民身份識(shí)別與安全

    在國(guó)際移民領(lǐng)域,生物特征或“基于個(gè)人生物學(xué)和行為特征的自動(dòng)識(shí)別”技術(shù)的使用也在增加。生物測(cè)定包括指紋數(shù)據(jù)、視網(wǎng)膜掃描和面部識(shí)別等,可識(shí)別人的靜脈和血管模式、耳朵形狀和步態(tài)等。經(jīng)由人工智能算法訓(xùn)練的人臉識(shí)別、圖像識(shí)別與視頻結(jié)構(gòu)化等技術(shù),可以用于網(wǎng)絡(luò)文本、圖片、視頻和語(yǔ)音內(nèi)容識(shí)別、監(jiān)測(cè)和分類,為網(wǎng)絡(luò)技術(shù)的各類場(chǎng)景化應(yīng)用提供輔助工具,從而有效提高移民身份識(shí)別能力,并根據(jù)相關(guān)信息給出更優(yōu)判決結(jié)果。聯(lián)合國(guó)一直致力于用生物識(shí)別技術(shù)填充其數(shù)據(jù)庫(kù),并累計(jì)收集800多萬人的生物數(shù)據(jù),以幫助難民逃離沖突或?yàn)槠涮峁┤说乐髁x援助。

    在政府部門,面部識(shí)別技術(shù)被應(yīng)用于安全和身份管理等用途。在某些情況下,該技術(shù)可以與監(jiān)視公共場(chǎng)所的現(xiàn)有視頻監(jiān)控系統(tǒng)(例如閉路電視攝像機(jī))連接,執(zhí)法部門用它來識(shí)別、監(jiān)視和抓獲罪犯。政府頒發(fā)的身份證明程序(例如駕照和護(hù)照)也采用面部識(shí)別技術(shù)作為防止身份欺詐的工具。例如,新西蘭等國(guó)家在試驗(yàn)使用基于生物特征的自動(dòng)面部識(shí)別技術(shù)來識(shí)別所謂的外來“麻煩制造者”;歐盟修訂后的申根信息系統(tǒng)(SIS)也通過使用面部識(shí)別、DNA和生物測(cè)定數(shù)據(jù),方便非正常情況下的移民返回(第2018/1860號(hào)條例)。[17]在私人部門,優(yōu)步(Uber)將該技術(shù)用作防范欺詐的工具,用于確認(rèn)駕駛員身份;一些公司推出了客戶付款系統(tǒng),通過掃描客戶的面部來尋找物品,根據(jù)其年齡或性別等標(biāo)識(shí)符對(duì)客戶進(jìn)行分類和定位。

    (四)移民融入與公共危機(jī)

    自2015年開始,歐洲難民激增,各國(guó)接收和安置的難度加大,難民的社會(huì)融入也面臨挑戰(zhàn)。政府急需找到快速收容和重新安置移民個(gè)人和家庭的辦法。對(duì)此,瑞士開發(fā)了一種靈活的數(shù)據(jù)驅(qū)動(dòng)算法,可以橫跨安置地點(diǎn)分配難民,以優(yōu)化其總體就業(yè)率,改善融合效果。該算法采用監(jiān)督式機(jī)器學(xué)習(xí)和最優(yōu)匹配相結(jié)合的方法,發(fā)現(xiàn)并利用難民特征與安置點(diǎn)之間的協(xié)同效應(yīng)實(shí)現(xiàn)匹配。該算法在美國(guó)和瑞士的歷史登記數(shù)據(jù)庫(kù)進(jìn)行了測(cè)試,與之前的分配做法相比,該方法使難民的就業(yè)率平均提高了 40%~70%。[18]

    新的數(shù)字核查技術(shù)使來自沖突地區(qū)的數(shù)據(jù)更加可靠,移民管理部門也通過創(chuàng)建各種技術(shù)應(yīng)用程序,幫助難民獲得醫(yī)療、銀行等社會(huì)服務(wù),如全球性非營(yíng)利組織Techfugees通過技術(shù)支持推動(dòng)移民社區(qū)融入,其口號(hào)是“通過技術(shù)賦予流離失所者權(quán)力”;德國(guó)創(chuàng)建了名為“Ankommen”的智能手機(jī)應(yīng)用程序,提供基礎(chǔ)德語(yǔ)課和關(guān)于庇護(hù)申請(qǐng)程序及如何找工作或培訓(xùn)的信息,同時(shí)也會(huì)發(fā)布關(guān)于德國(guó)人價(jià)值觀和社會(huì)風(fēng)俗的信息,幫助移民更好地融入當(dāng)?shù)厣鐣?huì)。

    人工智能技術(shù)應(yīng)用的全質(zhì)性使其能夠同多種物質(zhì)力量結(jié)合,催化算法在諸如意識(shí)形態(tài)感知領(lǐng)域的應(yīng)用。人工智能時(shí)代泛起的網(wǎng)絡(luò)輿情危思潮,威脅著意識(shí)形態(tài)在社會(huì)公眾群體中的傳播效能,也催生了輿情治理的新范式。[19]大數(shù)據(jù)與人工智能技術(shù)能夠協(xié)助政府部門對(duì)多種公共危機(jī),尤其是以網(wǎng)絡(luò)群體事件為主的新型公共危機(jī)進(jìn)行及時(shí)監(jiān)控。例如,聯(lián)合國(guó)難民署利用人工智能技術(shù)對(duì)網(wǎng)民性格和政治傾向進(jìn)行分析,對(duì)難民的仇外心理和種族主義等社會(huì)情緒進(jìn)行持續(xù)性監(jiān)測(cè),以幫助制定宣傳戰(zhàn)略,將網(wǎng)絡(luò)負(fù)面情緒降至最小范圍。

    (五)邊境監(jiān)測(cè)和非法移民攔截

    人工智能技術(shù)也被用于邊境監(jiān)測(cè)和保護(hù)。例如,歐洲邊防和海岸警衛(wèi)隊(duì)(FRONTEX)一直在地中海測(cè)試各種無人駕駛軍用級(jí)無人機(jī),用于監(jiān)視和攔截試圖抵達(dá)歐洲海岸以便利庇護(hù)申請(qǐng)的移民船只;[20]匈牙利Roborder項(xiàng)目通過配備無人移動(dòng)機(jī)器人,致力于建立一套“全功能的自主邊境監(jiān)視系統(tǒng),應(yīng)用場(chǎng)景包括空中、水面、水下和地面車輛”;[21]希臘群島周圍海域部署了一個(gè)名為艾米麗(Emily)的自動(dòng)機(jī)器人救生筏,即緊急綜合救生繩,以協(xié)助營(yíng)救難民。[22]

    國(guó)際移民的各個(gè)階段相互聯(lián)系和影響,人工智能技術(shù)在國(guó)際移民領(lǐng)域中的應(yīng)用也存在一定的交叉性。我們對(duì)人工智能在國(guó)際移民領(lǐng)域應(yīng)用的認(rèn)知,多數(shù)還是建立在當(dāng)前已有技術(shù)應(yīng)用的基礎(chǔ)上。雖然現(xiàn)階段人工智能技術(shù)的應(yīng)用過程仍存在明顯缺陷,但總體看來,人工智能基于進(jìn)化賦能的實(shí)踐應(yīng)用在國(guó)際移民領(lǐng)域中存在著一定的技術(shù)發(fā)展正循環(huán),這一廣域治理的特征不僅意味著人工智能將會(huì)成為國(guó)際移民治理的重要驅(qū)動(dòng)力,也說明人工智能將進(jìn)一步拓展國(guó)際移民治理理念、方式與界域,并影響這一復(fù)雜的組織和治理架構(gòu)。但是,從數(shù)據(jù)隱私和安全問題,到移民領(lǐng)域最關(guān)心的人權(quán)問題,人工智能技術(shù)的實(shí)施和應(yīng)用仍然面臨著諸多挑戰(zhàn)和風(fēng)險(xiǎn)。

    二、人工智能對(duì)國(guó)際移民治理的影響與挑戰(zhàn)

    人工智能的技術(shù)迭代與技術(shù)創(chuàng)新驅(qū)動(dòng)著國(guó)際移民治理理念和模式的全面變革和轉(zhuǎn)型,也將在治理主體的能力代差、治理過程及結(jié)果的公平性和治理規(guī)范等方面,對(duì)國(guó)際移民的治理體系產(chǎn)生一定沖擊。

    (一)技術(shù)鴻溝進(jìn)一步拉大國(guó)際移民治理主體間的能力代差

    世界移民危機(jī)之后,各主要移民國(guó)及國(guó)際組織都在努力加強(qiáng)全球移民治理機(jī)制的建設(shè)。2016年聯(lián)合國(guó)大會(huì)通過《紐約難民和移民宣言》,隨后通過了《全球難民契約(2018)》《全球安全、有序和正常移民契約(2018)》。在全球?qū)用妫饕泼裰卫碇黧w在移民問題上的互動(dòng)是不對(duì)稱的,盡管更多的國(guó)際移民輸出國(guó)是南方國(guó)家,但制定國(guó)際移民的全球議程卻是北方各移民輸入國(guó)。[23]目前,發(fā)達(dá)國(guó)家在人工智能技術(shù)的發(fā)展上仍然處于絕對(duì)優(yōu)勢(shì),多數(shù)發(fā)展中國(guó)家在這一領(lǐng)域的發(fā)展則存在著天然的缺陷。因此,這一內(nèi)嵌的技術(shù)霸權(quán)邏輯會(huì)導(dǎo)致國(guó)際移民治理主體之間產(chǎn)生更大的溝壑和差距。

    在人工智能時(shí)代背景下,圖像識(shí)別、行為預(yù)測(cè)、風(fēng)險(xiǎn)感知、人群畫像等應(yīng)用實(shí)踐催生出全景式數(shù)據(jù)監(jiān)控的技術(shù)治理模式。社會(huì)的發(fā)展塑造技術(shù),但也被技術(shù)所影響。人工智能技術(shù)的應(yīng)用在極大地提升治理主體的社會(huì)能見度、風(fēng)險(xiǎn)感知靈敏度和預(yù)警預(yù)防精確度的同時(shí),也在潛移默化地形塑著數(shù)據(jù)和技術(shù)控制型的社會(huì)結(jié)構(gòu)。在數(shù)據(jù)及技術(shù)的控制下,“技術(shù)利維坦”①注:“利維坦”(Leviathan)原為《舊約圣經(jīng)》中記載的一種海上怪獸,后成為強(qiáng)勢(shì)的國(guó)家(政府)的代名詞?!凹夹g(shù)利維坦”常被理解為“國(guó)家信息技術(shù)的全面裝備,將公民置于徹底而富有成效的監(jiān)控體系之下,而公民卻難以有效地運(yùn)用信息技術(shù)來維護(hù)其公民權(quán)利,即無法通過數(shù)字民主來制衡國(guó)家的監(jiān)控體系”,其本質(zhì)是一種技術(shù)手段與國(guó)家權(quán)力相結(jié)合產(chǎn)生巨大政治效應(yīng)的過程。參見王小芳、王磊:《“技術(shù)利維坦”:人工智能嵌入社會(huì)治理的潛在風(fēng)險(xiǎn)與政府應(yīng)對(duì)》,《電子政務(wù)》2019年第5期。的生成幾乎不可避免,“技術(shù)利維坦”與普通個(gè)體之間的“技術(shù)鴻溝”成為亟待深思的理論焦點(diǎn)。[24]科技革命的發(fā)生往往會(huì)對(duì)國(guó)家力量對(duì)比、地緣政治結(jié)構(gòu)以及社會(huì)治理等多個(gè)方面產(chǎn)生深遠(yuǎn)影響,進(jìn)而也會(huì)從多個(gè)領(lǐng)域?qū)?guó)家治理能力造成根本性挑戰(zhàn)。人工智能作為一項(xiàng)通用性的平臺(tái)技術(shù),其在移民領(lǐng)域的應(yīng)用場(chǎng)景將會(huì)實(shí)現(xiàn)全面擴(kuò)展。擁有人工智能技術(shù)優(yōu)勢(shì)的國(guó)家(地區(qū))將會(huì)在更多的領(lǐng)域研發(fā)出適用效用更大和預(yù)期風(fēng)險(xiǎn)更低的技術(shù),促進(jìn)國(guó)際移民治理能力提升,而技術(shù)劣勢(shì)方則難以用數(shù)量疊層或策略戰(zhàn)術(shù)等手段來彌補(bǔ)這一力量差距。

    在實(shí)踐或具體的運(yùn)用中,人工智能擴(kuò)大了國(guó)家之間的技術(shù)或數(shù)字鴻溝。[25]同時(shí),國(guó)家權(quán)力機(jī)關(guān)并不是掌控海量數(shù)據(jù)的唯一主體,擁有大數(shù)據(jù)和人工智能技術(shù)的高科技巨頭公司也將擁有數(shù)據(jù)支配權(quán),通過人工智能與大數(shù)據(jù),高科技巨頭公司不僅能針對(duì)移民習(xí)慣精確投放廣告,甚至可以利用自身的數(shù)據(jù)資源干涉移民政策和選舉等政治事務(wù)。政府的相關(guān)政務(wù),也需要科技公司的技術(shù)支持才能順利實(shí)施,高科技公司將更深入地介入到政府運(yùn)轉(zhuǎn)和移民治理的過程中。[26]數(shù)據(jù)權(quán)力結(jié)構(gòu)呈多元發(fā)展態(tài)勢(shì),將會(huì)促進(jìn)中心化的單向治理格局向多元共治格局轉(zhuǎn)向。

    (二)算法價(jià)值觀念缺失以及自動(dòng)化偏差帶來了治理過程及結(jié)果的不公

    基于大數(shù)據(jù)的人工智能新技術(shù)越來越多地出現(xiàn)在各個(gè)社會(huì)領(lǐng)域,人工智能技術(shù)的介入也將會(huì)從利益再分配、法律規(guī)范等多個(gè)層面對(duì)社會(huì)治理形成沖擊。新技術(shù)有助于改善國(guó)際移民治理,加強(qiáng)對(duì)移民風(fēng)險(xiǎn)的保護(hù)。但不加限制地使用這類技術(shù)實(shí)際上可能對(duì)移民的安全構(gòu)成嚴(yán)重威脅。算法的數(shù)據(jù)運(yùn)用、決策機(jī)制及結(jié)構(gòu)表征等基于開發(fā)者主觀價(jià)值選擇而形成,開發(fā)者潛在的偏見很可能被嵌入其中。同時(shí),人工智能技術(shù)的甄別邏輯來源于輸入的數(shù)據(jù),數(shù)據(jù)質(zhì)量缺陷可能會(huì)造成算法過程噪聲的進(jìn)一步放大或固化,導(dǎo)致“自我實(shí)現(xiàn)的歧視性反饋”。[27]例如,緬甸羅興亞難民生物特征數(shù)據(jù)被收集后,專制政府更易識(shí)別該群體并將他們從營(yíng)地中趕走。[28]這種因數(shù)據(jù)或算法導(dǎo)致的歧視可能會(huì)從技術(shù)上強(qiáng)化社會(huì)偏見。

    同時(shí),基于人工智能技術(shù)算法做出的決策也存在責(zé)任性和公平性的問題。技術(shù)治理的邏輯下,政策決策者和所有人一樣偏愛機(jī)器所呈現(xiàn)的結(jié)果,這種現(xiàn)象被稱為“自動(dòng)化偏差”。[29]技術(shù)運(yùn)用被抬到壓倒性地位,決策者希求以技術(shù)手段解決一切問題。算法可以使用無監(jiān)督學(xué)習(xí)進(jìn)行訓(xùn)練、自行學(xué)習(xí)和模式識(shí)別,這些“思維過程”人類無法完全解釋,甚至那些在一開始就設(shè)計(jì)好的算法也不一定會(huì)按照預(yù)期進(jìn)行。[30]機(jī)器可能會(huì)根據(jù)算法的結(jié)果拒絕移民的簽證申請(qǐng),或?qū)⒁泼竦纳矸菖c恐怖分子嫌疑犯的身份混淆,卻無法對(duì)決策做出明確解釋,這造成了相當(dāng)大的不可預(yù)測(cè)性和不透明性,使其做出的決策難以獲得信任。[31]

    同時(shí),移民權(quán)利受到侵犯時(shí)尋求幫助也面臨重大困難。公平是公正審判權(quán)的重要組成部分,它要求審判(包括在行政當(dāng)局之前的審判)應(yīng)在“不存在任何直接或間接的影響、壓力、恐嚇或來自任何方面和出于任何動(dòng)機(jī)的入侵”。[32]鑒于決策者與移民或?qū)で蟊幼o(hù)的難民之間固有的權(quán)力差異,對(duì)不透明的人工智能算法的依賴,以及持續(xù)存在的自動(dòng)化偏差,會(huì)導(dǎo)致過度影響決策進(jìn)而損害過程的公平性。因此,有必要嚴(yán)格監(jiān)督和規(guī)范新技術(shù)在國(guó)際移民領(lǐng)域的使用情況,警惕技術(shù)濫用和過渡依賴可能帶來的負(fù)面后果。

    (三)推進(jìn)面向循證決策的移民治理模式初步轉(zhuǎn)變

    《移民問題全球契約(2018)》提出的目標(biāo)之一是加強(qiáng)國(guó)際移民的全球證據(jù)基礎(chǔ),收集和利用準(zhǔn)確分類數(shù)據(jù)作為循證決策的依據(jù)。[33]循證決策的基本思想可以概括為使用盡可能多的嚴(yán)格制定和嚴(yán)謹(jǐn)闡釋的數(shù)據(jù)、事實(shí)作為政策決策的基礎(chǔ),核心在于依據(jù)證據(jù)而非依靠經(jīng)驗(yàn)或靈感做出決策。[34]大量可靠、及時(shí)和可比較的移民數(shù)據(jù)、庇護(hù)數(shù)據(jù)以及跨國(guó)統(tǒng)計(jì)數(shù)據(jù),能有效指導(dǎo)歐盟層面移民政策的制定。[35]國(guó)際移民組織也強(qiáng)調(diào),需要更可靠的移民數(shù)據(jù)來為決策提供信息。大數(shù)據(jù)搜集、存儲(chǔ)和挖掘工具的應(yīng)用為治理的前瞻性和動(dòng)態(tài)決策帶來了機(jī)遇。[36]人工智能技術(shù)作為一種推動(dòng)國(guó)際移民治理轉(zhuǎn)型的“倒逼機(jī)制”,借助從宏觀、微觀層次無限逼近事實(shí)真相的大數(shù)據(jù)資源,將人工智能等新技術(shù)直接轉(zhuǎn)化為智能服務(wù)和產(chǎn)品,全面應(yīng)用于國(guó)際移民治理過程中,從而幫助政府、移民組織和機(jī)構(gòu)做出更科學(xué)的決策。[37]

    數(shù)據(jù)是決策的命脈,也是問責(zé)的基石。受大數(shù)據(jù)的推動(dòng),移民管理和邊境管制等方面日益依賴不同類型的數(shù)據(jù),包括衛(wèi)星大數(shù)據(jù)等。數(shù)據(jù)增長(zhǎng)來源于國(guó)家對(duì)邊境監(jiān)視和移民管理軟件和信息管理系統(tǒng)投資的不斷增加,[38]還有部分?jǐn)?shù)據(jù)來源于社交媒體渠道或在線平臺(tái)介導(dǎo)互動(dòng)而產(chǎn)生的“大社會(huì)數(shù)據(jù)”。[39]在國(guó)際移民領(lǐng)域,越來越多的學(xué)者呼吁制定以證據(jù)為基礎(chǔ)的政策,這與人工智能技術(shù)及大數(shù)據(jù)在移民領(lǐng)域應(yīng)用的激增密不可分。日益豐富的遷移數(shù)據(jù)有利于數(shù)據(jù)驅(qū)動(dòng)的人工智能算法的發(fā)展,推動(dòng)領(lǐng)域內(nèi)更多數(shù)據(jù)驅(qū)動(dòng)的決策。遷移管理中的人工智能算法也可以分析大量定性的移民訪談數(shù)據(jù),歸納移民模式并基于移民意愿對(duì)移民趨勢(shì)進(jìn)行預(yù)測(cè)。算法還可以用于檢測(cè)和評(píng)估政府的移民政策和方案。一些國(guó)際組織和機(jī)構(gòu)一直致力于利用數(shù)據(jù)促進(jìn)移民決策。國(guó)際移民組織建立的移民數(shù)據(jù)門戶和聯(lián)合國(guó)倡議建立的全球脈動(dòng)(UN Global Pulse)等項(xiàng)目為移民決策提供了大量關(guān)鍵數(shù)據(jù)資源。

    當(dāng)然,基于數(shù)據(jù)驅(qū)動(dòng)的循證決策也面臨著一些挑戰(zhàn)。由于國(guó)際移民過程的復(fù)雜性,基于數(shù)據(jù)證據(jù)的決策中,對(duì)于“證據(jù)”的定義和分類需要進(jìn)行明確,以便將訓(xùn)練數(shù)據(jù)用于移民治理的人工智能算法,能夠超越對(duì)移民現(xiàn)象純數(shù)字的觀點(diǎn)?;跀?shù)據(jù)的技術(shù)治理在一定程度上提升了移民治理的精細(xì)化水平,卻無法解決深層次的矛盾和社會(huì)問題。在移民治理實(shí)踐中,要謹(jǐn)防將治理技術(shù)的創(chuàng)新作為治理創(chuàng)新的全部,從而消解和稀釋改革動(dòng)力。

    (四)對(duì)形成移民治理的全球性框架和責(zé)任體系提出挑戰(zhàn)

    在提升國(guó)際移民治理效能的同時(shí),人工智能技術(shù)的嵌入還將深化移民治理的向度并擴(kuò)展移民治理的維度,進(jìn)而也會(huì)催生一種技術(shù)安全悖論。人工智能不僅是一種顛覆性技術(shù),也可能是人類遇到的最具破壞性的技術(shù)。[40]隨著以人工智能為代表的新技術(shù)的嵌入及其在移民治理領(lǐng)域不同場(chǎng)景的應(yīng)用,人工智能對(duì)移民治理的影響越來越廣、越來越深,也對(duì)傳統(tǒng)國(guó)際移民治理中的責(zé)任體系帶來挑戰(zhàn)和沖擊。由于其所展現(xiàn)出的“替代人類”的技術(shù)走向,使得傳統(tǒng)圍繞移民和實(shí)體組織所構(gòu)建的責(zé)任體系存在面臨解構(gòu)的風(fēng)險(xiǎn)。漢斯·約納斯(Hans Jonas)、漢斯·昆(Hans Kung)等人在建立責(zé)任倫理學(xué)的過程中,確立了一個(gè)根本原則即“絕對(duì)不可拿整個(gè)人類的存在去冒險(xiǎn)”。從技術(shù)責(zé)任的概念譜系來看,這一原則同樣適用于分析人工智能技術(shù)責(zé)任的負(fù)載對(duì)象,我們要做的就是將這個(gè)根本原則所指稱的“人類的存在”具體化和對(duì)象化。[41]

    國(guó)際人權(quán)的規(guī)范性和普遍性為國(guó)際移民領(lǐng)域的全球治理提供了一個(gè)可行的起點(diǎn),以期從跨國(guó)和全球的角度認(rèn)知和剖析其潛在的危害性。人工智能技術(shù)是建立更有效的國(guó)際移民治理系統(tǒng)的一個(gè)有益的工具,但此類工具的開發(fā)和部署要符合道德規(guī)范以及法律框架,尤其是國(guó)際人權(quán)法律。[42]在實(shí)踐中,移民自動(dòng)決策技術(shù)需要大量的數(shù)據(jù),大數(shù)據(jù)分析需要搜集并形成龐大的數(shù)據(jù)集,在沒有監(jiān)管和問責(zé)的情況下收集移民人口信息和邊緣移民的數(shù)據(jù)可能導(dǎo)致嚴(yán)重的侵犯隱私和人權(quán)問題。

    為了解決這些問題,帕斯奎爾(Pasquale)等提出了“技術(shù)正當(dāng)程序”的概念,包括對(duì)技術(shù)的問責(zé)、公平和透明度保證。[43]世界銀行也提出基于國(guó)際人權(quán)法的框架進(jìn)行人權(quán)影響評(píng)估,以審查在移民管理中使用人工智能技術(shù)是否會(huì)損害移民和尋求庇護(hù)者的利益。[44]麥格雷戈(McGregor)等提議在現(xiàn)有國(guó)際人權(quán)法法律框架的基礎(chǔ)上,解決從設(shè)計(jì)到實(shí)施整個(gè)生命周期所有階段的人工智能算法問責(zé)問題。[45]國(guó)際人權(quán)法的法律框架有助于識(shí)別移民領(lǐng)域算法決策可能帶來的潛在危害,但是國(guó)際人權(quán)法對(duì)于國(guó)際人權(quán)條約的締約國(guó)可能有效,但不適用于公司等非國(guó)家行為體。[46]在聯(lián)合國(guó)層面,《聯(lián)合國(guó)商業(yè)和人權(quán)指導(dǎo)原則》對(duì)于商業(yè)技術(shù)公司適用但卻是一個(gè)不具法律約束力的國(guó)際框架,[47]現(xiàn)有的框架基于企業(yè)應(yīng)尊重、保護(hù)和補(bǔ)救人權(quán)的理念,主要依靠企業(yè)自律來配合。[48]瓦克泰(Wachter)等提出一種同時(shí)適用于國(guó)家和非國(guó)家行為體的解決辦法,即建立“合理推斷權(quán)”,這項(xiàng)權(quán)利要求數(shù)據(jù)控制器能證明數(shù)據(jù)的類型、基于這些數(shù)據(jù)做出的推論,以及所用方法的準(zhǔn)確性和可靠性。如果有足夠的政治意愿推動(dòng),這項(xiàng)新權(quán)利可能會(huì)改變?nèi)藗儗?duì)算法責(zé)任的認(rèn)知方式,對(duì)移民和庇護(hù)決策也有影響。[49]

    三、討論與啟示

    移民問題的跨國(guó)性、非對(duì)稱性、不易控性等兼具非傳統(tǒng)安全的特點(diǎn)為國(guó)際移民的治理帶來了很大難度。為了應(yīng)對(duì)規(guī)模龐大的全球移民和難民等復(fù)雜問題,各國(guó)也迫切希望將新技術(shù)視為快速解決移民問題的辦法。大數(shù)據(jù)以及人工智能技術(shù)的廣泛應(yīng)用成為各國(guó)和國(guó)際組織尋求管理國(guó)際移民的方式。當(dāng)前人工智能在國(guó)際移民領(lǐng)域主要應(yīng)用在移民流動(dòng)的預(yù)測(cè)管理、自動(dòng)化決策、身份識(shí)別、機(jī)器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測(cè)及機(jī)器人技術(shù)等場(chǎng)景。

    人工智能技術(shù)的發(fā)展從不同層面影響國(guó)際移民治理。首先,人工智能技術(shù)的發(fā)展會(huì)影響到國(guó)家治理格局,人工智能技術(shù)鴻溝加深了國(guó)家間在國(guó)際移民治理方面的能力代差,也加快了移民數(shù)據(jù)權(quán)力結(jié)構(gòu)多元化的發(fā)展態(tài)勢(shì)。其次,新技術(shù)的應(yīng)用有助于改善國(guó)際移民治理狀態(tài),但對(duì)技術(shù)不加限制的使用,會(huì)對(duì)移民安全和權(quán)利構(gòu)成嚴(yán)重威脅,人工智能算法價(jià)值觀念缺失可能會(huì)加劇社會(huì)偏見,技術(shù)“自動(dòng)化偏差”亦會(huì)造成移民治理過程及結(jié)果的不公平。再次,受大數(shù)據(jù)推動(dòng),人工智能技術(shù)在國(guó)際移民領(lǐng)域應(yīng)用激增,有助于政府、移民組織和機(jī)構(gòu)擺脫經(jīng)驗(yàn)枷鎖,形成更為科學(xué)的決策,推動(dòng)移民治理向數(shù)據(jù)驅(qū)動(dòng)和循證決策模式的轉(zhuǎn)變。最后,技術(shù)是檢驗(yàn)國(guó)家實(shí)踐、民主、權(quán)利觀念和問責(zé)制的重要視角,人工智能技術(shù)的應(yīng)用在推動(dòng)社會(huì)發(fā)展的同時(shí)也導(dǎo)致了一系列社會(huì)問題,這些問題往往無法在現(xiàn)有的社會(huì)框架下得到妥善解決,這對(duì)塑造人工智能背景下移民治理的全球性框架和責(zé)任體系提出了挑戰(zhàn)。

    全球移民時(shí)代,沒有國(guó)家能完全置身于國(guó)際移民潮之外。2016年,中國(guó)正式成為國(guó)際移民組織(IMO)成員國(guó);2018年,中國(guó)國(guó)家移民管理局正式成立。移民管理局的組建是我國(guó)參與國(guó)際人才競(jìng)爭(zhēng)、實(shí)現(xiàn)人口紅利向人才紅利轉(zhuǎn)型的需要,也是全球化發(fā)展對(duì)完善移民體系提出的新要求。盡管學(xué)界對(duì)于人工智能應(yīng)用于移民領(lǐng)域的研究所涉甚少,但如果中國(guó)能抓住人工智能技術(shù)優(yōu)勢(shì),更多地發(fā)揮技術(shù)治理在國(guó)際移民領(lǐng)域中的正向循環(huán)作用,將有助于增強(qiáng)中國(guó)在國(guó)際移民治理領(lǐng)域的能力和效能,促進(jìn)中國(guó)參與全球治理的深度,進(jìn)一步提升中國(guó)在國(guó)際移民領(lǐng)域的話語(yǔ)權(quán)和國(guó)際形象。

    [注釋]

    [1]Jenna Burrell, “How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”,Big Data &Society, Vol.3, No.1, Jan 2016, pp.1-12.

    [2]Michael Chui et al,Notes from the AI Frontier: Applying Artifi cial Intelligence for Social Good, Washington D.C.:McKinsey Global Institute, 2018.

    [3]闕天舒、張紀(jì)騰:《人工智能時(shí)代背景下的國(guó)家安全治理:應(yīng)用范式、風(fēng)險(xiǎn)識(shí)別與路徑選擇》,《國(guó)際安全研究》2020年第1期。

    [4]Petra Molna, “Technology on the Margins: AI and Global Migration Management from a Human Rights Perspective”,Cambridge International Law Journal, Vol.8, No.2, 2019, pp.305-330.

    [5]“Big Data for Migration Alliance (BD4M): Harnessing the Potential of New Data Sources and Innovative Methodologies for Migration”, 2017, https://gmdac.iom.int/launch-big-data-migration-alliance, 2020年 7月 21日瀏覽。

    [6]Stephen Gelb and Aarti Krishnan,Technology, Migration and the 2030 Agenda for Sustainable Development,London: Overseas Development Institute, 2018.

    [7]Marzia Rango, “How Big Data Can Help Migrants”, 2015, https://www.weforum.org/agenda/2015/10/how-big-datacan-help-migrants/, 2020年7月23日瀏覽。

    [8]Spyratos Spyridon et al,Migration Data Using Social Media: A European Perspective, Luxembourg: Publications Office of the European Union, 2018.

    [9]Ana Beduschi, “The Big Data of International Migration: Opportunities and Challenges for States under International Human Rights Law”,Georgetown Journal of International Law,Vol.49, No.4, 2018.

    [10]Jeff Collmann et al, “Measuring the Potential for Mass Displacement in Menacing Contexts”,Journal of Refugee Studies, Vol. 29, Issue 3, Sep 2016, pp. 273-294.

    [11]Babusi Nyoni, “How Artificial Intelligence can be Used to Predict Africa’s Next Migration Crisis”, 2017, https://www.unhcr.org/innovation/how-artificial-intelligence-can-be-used-to-predict-africas-next-migration-crisis/,2020年7月20日瀏覽; Marcello Carammia and Jean-Christophe Dumont, “Can We Anticipate Future Migration Flows”,OECD: Migration Policy Debates, 2018.

    [12]董青嶺:《大數(shù)據(jù)安全態(tài)勢(shì)感知與沖突預(yù)測(cè)》,《中國(guó)社會(huì)科學(xué)》2018年第6期。

    [13]Trang Pham et al, “Predicting Health care Trajectories from Medical Records: A Deep Learning Approach”,Journal of Biomedical Informatics, Vol.69, No.3, May 2017, pp.218-229.

    [14]Petra Molna, “Technology on the margins: AI and global migration management from a human rights perspective”,Cambridge International Law Journal, Vol.8, No.2, Dec 2019, pp.305-330.

    [15]April Glaser, “ICE Wants to Use Predictive Policing Technology for its ‘Extreme Vetting’ Program”,Slate, 2017.

    [16]Julian Tangermann,Documenting and Establishing Identity in the Migration Process—Challenges and Practices in the German Context,Nuremberg: Federal Office for Migration and Refugees, 2017.

    [17]The European Parliament and the Council of the European Union, “Regulation (EU) 2018/1860 of the European Parliament and of the Council of 28 November 2018: On the Use of the Schengen Information System for the Return of Illegally Staying Third-Country Nationals”,Official Journal of the European Union,2018.

    [18]Kirk Bansak et al, “Improving Refugee Integration through Data-driven Algorithmic Assignment”.Science,Vol.359, Issue 6373, Jan 2018, pp.325-329.

    [19]姚翼源:《人工智能時(shí)代政府網(wǎng)絡(luò)輿情治理的邏輯、困局與策略》,《西南民族大學(xué)學(xué)報(bào)(人文社會(huì)科學(xué)版)》2020年第3期。

    [20]Raluca Csernatoni, “Constructing the EU’s High-Tech Borders: FRONTEX and Dual-Use Drones for Border Management”,European Security, Vol.27, Issue 2, 2018, pp.175-200.

    [21]Roborder, “Aims & Objectives-Roborder”, 2019, https://roborder.eu/the-project/aims-objectives/, 2020年5月7日瀏覽。

    [22]Rebeca Moreno, “Teaching a ‘Robot’ to Detect Xenophobia Online”, UNHCR Innovation Service, 2017, https://www.unhcr.org/innovation/teaching-robot-detect-xenophobia-online/, 2020年7月16日瀏覽。

    [23]Guy J. Abel and Nikola Sander, “Quantifying Global International Migration Flows”,Science, Vol.343, Issue 6178,Mar 2014, pp.1520-1522.

    [24]單勇:《跨越“數(shù)字鴻溝”:技術(shù)治理的非均衡性社會(huì)參與應(yīng)對(duì)》,《中國(guó)特色社會(huì)主義研究》2019年5期。

    [25]Pippa Norris,Digital Divide: Civic Engagement, Information Poverty and the Internet Worldwide, New York:Cambridge University Press, 2001.

    [26]岳楚炎:《人工智能革命與政府轉(zhuǎn)型》,《自然辯證法通訊》2019年第1期。

    [27]Richard Berk,Machine Learning Risk Assessments in Criminal Justice Settings, Berlin: Springer-Verlag Press,2018, pp.22-23.

    [28]Petra Molna, “Technology on the margins: AI and global migration management from a human rights perspective”,Cambridge International Law Journal, Vol.8, No.2, 2019, pp.305-330.

    [29]Christopher D. Wickens et al, “Complacency and Automation Bias in the Use of Imperfect Automation”,Human Factors:The Journal of the Human Factors and Ergonomics Society, Vol.57, No.5, 2015, pp.728-739.

    [30]Frank Pasquale,The Black Box Society: The Secret Algorithms That Control Money and Information, Cambridge:Harvard University Press, 2015.

    [31]Lorna McGregor, Daragh Murray and Vivian Ng, “International Human Rights Law as a Framework for Algorithmic Accountability”,International and Comparative Law Quarterly, Vol.68, No.2, 2019, pp.309-343.

    [32]UN. Human Rights Committee, “General Comment No.32: Article 14, Right to Equality before Courts and Tribunals and to Fair Trial”, United Nations Digital Library,2007, https://digitallibrary.un.org/record/606075?ln=en, 2020年7月16日瀏覽。

    [33]《安全、有序和正常移民全球契約(移民問題全球契約)》, https://www.un.org/zh/documents/treaty/files/A-RES-73-195.shtml, 2020年7月13日瀏覽。

    [34]李強(qiáng)彬:《證據(jù)驅(qū)動(dòng)型政策制定:西方的論爭(zhēng)與回應(yīng)》,《行政科學(xué)論壇》2020年第2期。

    [35]Ann Singleton,Migration and Asylum Data for Policy-Making in the European Union: the Problem with Numbers,Brussels: CEPS Paper in Liberty and Security in Europe, 2016.

    [36]龍?zhí)骸堆C決策及其在公共政策中應(yīng)用路徑探究》,《四川行政學(xué)院學(xué)報(bào)》2017年第1期。

    [37]常保國(guó):《人工智能+國(guó)家治理智能治理模式的內(nèi)涵建構(gòu)、生發(fā)環(huán)境與基本布局》,《政治學(xué)研究》2020年第2期。

    [38]Dennis Broeders and Huub Dijstelbloem, “The Datafification of Mobility and Migration Management: the Mediating State and its Consequences”, 2016, pp.242-260, in: I. Van der Ploeg and J. Pridmore (eds.),Digitizing Identities:Doing Identity in a Networked World, London: Routledge.

    [39]Ana Beduschi, “The Big Data of International Migration: Opportunities and Challenges for States under International Human Rights Law”,F(xiàn)orthcoming Georgetown Journal of International Law, vol.49, No.4, 2018.

    [40]闕天舒、張紀(jì)騰:《人工智能時(shí)代背景下的國(guó)家安全治理:應(yīng)用范式、風(fēng)險(xiǎn)識(shí)別與路徑選擇》,《國(guó)際安全研究》2020年第1期。

    [41]顏佳華:《人工智能場(chǎng)景下公共行政技術(shù)責(zé)任審視》,《理論探索》2019年第3期。

    [42]Luciano Floridi et al, “AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles,and Recommendations”,Minds and Machines, Vol.28, No.1, 2018, pp.689-707.

    [43]Danielle K. Citron and Frank Pasquale, “The Scored Society: Due Process for Automated Prediction”,Washington Law Review, Vol.89, No.1, 2014, pp.1-33.

    [44]World Bank,Human Rights Impact Assessments: A Review of the Literature, Differences with Other Forms of Assessments and Relevance for Development, Washington D.C.: World Bank, 2013.

    [45]Lorna McGregor, Daragh Murray and Vivian Ng, “International Human Rights Law as a Framework for Algorithmic Accountability”,International and Comparative Law Quarterly, Vol.68, No.2, 2019, pp.309-343.

    [46]Andrew Clapham,Human Rights Obligations of Non-State Actors, Oxford: Oxford University Press, 2006.

    [47]John Ruggie, “Business and Human Rights: The Evolving International Agenda”,American Journal of International Law, Vol.101, No.4, 2007, pp.819-840; John Ruggie, “Protect, Respect and Remedy: A Framework for Business and Human Rights”,Innovations Technology Governance Globalization,Vol.3, No.2, Feb 2008, pp.189-212.

    [48]Michael Addo, “The Reality of the United Nations Guiding Principles on Business and Human Rights”,Human Rights Law Review, Vol.14, No.1, 2014, pp.133-147.

    [49]Sandra Wachter and Brent Mittelstadt, “A Right to Reasonable Inferences: Re-thinking Data Protection Law in the Age of Big Data and AI”,Columbia Business Law Review, No.2, 2019, pp.494-620.

    猜你喜歡
    移民決策人工智能
    為可持續(xù)決策提供依據(jù)
    移民安置
    移民后期扶持
    決策為什么失誤了
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    簽證移民
    僑園(2016年8期)2017-01-15 13:57:27
    下一幕,人工智能!
    Immigration移民
    留學(xué)(2015年12期)2015-12-19 06:18:40
    亚洲中文av在线| 中文字幕最新亚洲高清| 日韩成人在线观看一区二区三区| 国产亚洲欧美98| 亚洲aⅴ乱码一区二区在线播放 | 精品久久久久久久末码| 国产欧美日韩精品亚洲av| 久久亚洲精品不卡| 又粗又爽又猛毛片免费看| 亚洲中文字幕日韩| 国产精品亚洲美女久久久| 日韩欧美在线二视频| 中文字幕精品亚洲无线码一区| 日本 欧美在线| 我要搜黄色片| 床上黄色一级片| 久久99热这里只有精品18| 最好的美女福利视频网| 日韩欧美 国产精品| 久久香蕉精品热| 国产精品亚洲美女久久久| 日日爽夜夜爽网站| 91大片在线观看| 午夜成年电影在线免费观看| 精品无人区乱码1区二区| 欧美成狂野欧美在线观看| 一级片免费观看大全| 丝袜美腿诱惑在线| 国产精品九九99| 欧美黑人欧美精品刺激| avwww免费| 人人妻,人人澡人人爽秒播| 成人特级黄色片久久久久久久| 超碰成人久久| 99精品在免费线老司机午夜| 国产aⅴ精品一区二区三区波| 亚洲avbb在线观看| 桃色一区二区三区在线观看| 亚洲色图 男人天堂 中文字幕| 中亚洲国语对白在线视频| 51午夜福利影视在线观看| 久久久久久国产a免费观看| 精品乱码久久久久久99久播| 国产精品香港三级国产av潘金莲| 国产三级在线视频| 日韩精品青青久久久久久| 色哟哟哟哟哟哟| 国产一级毛片七仙女欲春2| 小说图片视频综合网站| 欧美激情久久久久久爽电影| 老司机深夜福利视频在线观看| 韩国av一区二区三区四区| 国产1区2区3区精品| 精品久久久久久久久久免费视频| svipshipincom国产片| 久久久久国产一级毛片高清牌| 非洲黑人性xxxx精品又粗又长| 最近在线观看免费完整版| 桃红色精品国产亚洲av| 男女视频在线观看网站免费 | 免费观看精品视频网站| 久久午夜综合久久蜜桃| 色av中文字幕| 99久久综合精品五月天人人| 成人国语在线视频| xxxwww97欧美| 三级毛片av免费| 免费在线观看黄色视频的| 成人手机av| 好男人在线观看高清免费视频| 成年人黄色毛片网站| 99riav亚洲国产免费| 久久亚洲真实| cao死你这个sao货| 成人午夜高清在线视频| 国产黄色小视频在线观看| 欧美日韩亚洲综合一区二区三区_| 亚洲精品粉嫩美女一区| 99久久精品热视频| 精品人妻1区二区| 国产高清视频在线播放一区| 精品福利观看| 亚洲一区二区三区不卡视频| 手机成人av网站| 久久香蕉精品热| 亚洲国产精品sss在线观看| 欧美黄色片欧美黄色片| 久久中文字幕一级| 狠狠狠狠99中文字幕| 制服丝袜大香蕉在线| 91av网站免费观看| 亚洲一码二码三码区别大吗| 国内揄拍国产精品人妻在线| 欧美日本亚洲视频在线播放| 99国产极品粉嫩在线观看| 此物有八面人人有两片| 男人舔奶头视频| 国产野战对白在线观看| 2021天堂中文幕一二区在线观| 免费看a级黄色片| 国产野战对白在线观看| 18禁黄网站禁片免费观看直播| av欧美777| 哪里可以看免费的av片| 成在线人永久免费视频| 欧美在线一区亚洲| 99riav亚洲国产免费| 国产成人aa在线观看| 又爽又黄无遮挡网站| www.熟女人妻精品国产| 日韩大尺度精品在线看网址| 人人妻人人看人人澡| 特级一级黄色大片| 色老头精品视频在线观看| 又紧又爽又黄一区二区| 每晚都被弄得嗷嗷叫到高潮| 国产av在哪里看| 一区福利在线观看| 一进一出好大好爽视频| 变态另类丝袜制服| 欧美日韩亚洲综合一区二区三区_| 国产精品久久久久久人妻精品电影| 中国美女看黄片| 麻豆国产av国片精品| 成人国语在线视频| 国产片内射在线| 免费一级毛片在线播放高清视频| 熟妇人妻久久中文字幕3abv| 白带黄色成豆腐渣| 日本黄大片高清| 99国产极品粉嫩在线观看| 久久亚洲精品不卡| 国产av不卡久久| 一个人免费在线观看电影 | 一个人观看的视频www高清免费观看 | 亚洲精品国产一区二区精华液| 国产伦在线观看视频一区| 国产爱豆传媒在线观看 | 国产精品亚洲av一区麻豆| 看免费av毛片| 国产精品亚洲一级av第二区| 国产av一区二区精品久久| 日本a在线网址| 国产区一区二久久| 成人一区二区视频在线观看| 久久久久久免费高清国产稀缺| 亚洲精品久久成人aⅴ小说| 香蕉丝袜av| 91av网站免费观看| 亚洲人与动物交配视频| 欧美极品一区二区三区四区| 国产成人av激情在线播放| 国产精品免费视频内射| 国产在线观看jvid| 黄色视频,在线免费观看| 欧美日韩福利视频一区二区| 色综合欧美亚洲国产小说| 人人妻人人看人人澡| 久久精品91蜜桃| 亚洲 欧美 日韩 在线 免费| 精品不卡国产一区二区三区| 婷婷精品国产亚洲av| 亚洲精品中文字幕在线视频| 亚洲av五月六月丁香网| 99精品在免费线老司机午夜| 国产精品亚洲美女久久久| 欧美+亚洲+日韩+国产| 亚洲av美国av| 亚洲七黄色美女视频| 18禁黄网站禁片午夜丰满| 日韩欧美国产在线观看| 国产黄片美女视频| 男人舔女人下体高潮全视频| 亚洲七黄色美女视频| 国产成人欧美在线观看| 一本综合久久免费| 此物有八面人人有两片| 国产亚洲欧美在线一区二区| 久久久久九九精品影院| 高清在线国产一区| 精品福利观看| 国产在线观看jvid| 变态另类丝袜制服| 亚洲国产欧美一区二区综合| 国产视频内射| 午夜日韩欧美国产| 男人舔女人的私密视频| 久久香蕉国产精品| 18禁黄网站禁片午夜丰满| 亚洲精品av麻豆狂野| www日本在线高清视频| 久久欧美精品欧美久久欧美| 国产男靠女视频免费网站| 亚洲成人精品中文字幕电影| 精品久久久久久久毛片微露脸| 亚洲国产欧美一区二区综合| 三级毛片av免费| 级片在线观看| 人人妻人人看人人澡| 国语自产精品视频在线第100页| 国产亚洲精品第一综合不卡| 欧美一级毛片孕妇| 午夜日韩欧美国产| 国产一区二区三区视频了| 久久久久久久久久黄片| 母亲3免费完整高清在线观看| 国产精品亚洲av一区麻豆| 国产成人精品久久二区二区免费| 午夜激情av网站| 国产亚洲精品第一综合不卡| 国产午夜精品久久久久久| 色精品久久人妻99蜜桃| 国产片内射在线| 国语自产精品视频在线第100页| 日本 av在线| 国产高清有码在线观看视频 | 高清在线国产一区| 9191精品国产免费久久| 97人妻精品一区二区三区麻豆| 欧美在线一区亚洲| 1024手机看黄色片| 亚洲avbb在线观看| 久久久久免费精品人妻一区二区| 一区二区三区激情视频| 国产精品久久久av美女十八| 亚洲精品粉嫩美女一区| 久久久久国内视频| 性欧美人与动物交配| 人妻丰满熟妇av一区二区三区| 无限看片的www在线观看| 午夜视频精品福利| 久久婷婷人人爽人人干人人爱| 久久中文字幕人妻熟女| 欧美人与性动交α欧美精品济南到| 日本在线视频免费播放| 亚洲专区字幕在线| 久久婷婷成人综合色麻豆| 五月伊人婷婷丁香| 久久久久久国产a免费观看| 91国产中文字幕| 久久久国产成人精品二区| 看免费av毛片| 欧美成人午夜精品| 亚洲自拍偷在线| 亚洲熟妇熟女久久| 男女视频在线观看网站免费 | 久热爱精品视频在线9| 日韩精品免费视频一区二区三区| 亚洲精品中文字幕一二三四区| 久久久久性生活片| 精品高清国产在线一区| 不卡一级毛片| 亚洲av美国av| 国产成人影院久久av| 欧美日韩亚洲国产一区二区在线观看| 亚洲av片天天在线观看| 国产爱豆传媒在线观看 | 亚洲精品av麻豆狂野| 日本黄大片高清| av有码第一页| 欧美色视频一区免费| 九色国产91popny在线| 国产一区二区三区视频了| 久久久水蜜桃国产精品网| 女警被强在线播放| 成人欧美大片| 国产亚洲av高清不卡| 亚洲av成人不卡在线观看播放网| 97人妻精品一区二区三区麻豆| 久久久久久久久久黄片| 精品国产乱码久久久久久男人| tocl精华| 高清在线国产一区| 日韩欧美在线乱码| 亚洲精品一区av在线观看| 黄色视频,在线免费观看| 很黄的视频免费| 国内精品久久久久精免费| 国产一区二区三区视频了| 国产精品日韩av在线免费观看| aaaaa片日本免费| 老司机深夜福利视频在线观看| 国产精品久久久人人做人人爽| 久久久国产成人免费| 中文字幕高清在线视频| 亚洲精品在线美女| 国产成年人精品一区二区| 国产真实乱freesex| 香蕉久久夜色| 欧美黑人精品巨大| 欧美成狂野欧美在线观看| 一本精品99久久精品77| 变态另类成人亚洲欧美熟女| 美女黄网站色视频| 黄色片一级片一级黄色片| 熟妇人妻久久中文字幕3abv| av欧美777| 91国产中文字幕| 成人精品一区二区免费| 亚洲电影在线观看av| 在线观看一区二区三区| 国产一区二区在线av高清观看| 国产真实乱freesex| 国产精品电影一区二区三区| 精品一区二区三区视频在线观看免费| 婷婷六月久久综合丁香| 在线观看美女被高潮喷水网站 | 国产精品av久久久久免费| 特大巨黑吊av在线直播| 欧美三级亚洲精品| 欧美黄色片欧美黄色片| 亚洲一码二码三码区别大吗| 亚洲av电影不卡..在线观看| 757午夜福利合集在线观看| 亚洲国产精品sss在线观看| 一边摸一边抽搐一进一小说| 怎么达到女性高潮| 亚洲自拍偷在线| 在线观看午夜福利视频| 国产99久久九九免费精品| 亚洲精品一区av在线观看| 性色av乱码一区二区三区2| 成年免费大片在线观看| 久久久久免费精品人妻一区二区| 色在线成人网| 国产黄色小视频在线观看| 成人三级做爰电影| 激情在线观看视频在线高清| www日本黄色视频网| av超薄肉色丝袜交足视频| 日韩欧美在线二视频| 中文亚洲av片在线观看爽| 男女床上黄色一级片免费看| 国产熟女午夜一区二区三区| 真人做人爱边吃奶动态| 美女大奶头视频| 这个男人来自地球电影免费观看| 蜜桃久久精品国产亚洲av| 午夜两性在线视频| 琪琪午夜伦伦电影理论片6080| xxxwww97欧美| 亚洲成av人片在线播放无| 精品电影一区二区在线| 国产精品一区二区三区四区久久| 国产精品久久久久久人妻精品电影| 成年免费大片在线观看| 人人妻人人看人人澡| 天天躁夜夜躁狠狠躁躁| 国产精品九九99| 午夜精品在线福利| 男男h啪啪无遮挡| 亚洲美女视频黄频| 久久久精品国产亚洲av高清涩受| 啦啦啦韩国在线观看视频| 久久久久久人人人人人| 岛国在线免费视频观看| 国产在线精品亚洲第一网站| 亚洲乱码一区二区免费版| 麻豆av在线久日| 丁香六月欧美| 国内揄拍国产精品人妻在线| 1024手机看黄色片| 午夜日韩欧美国产| 91麻豆精品激情在线观看国产| e午夜精品久久久久久久| 久久香蕉精品热| 日韩欧美免费精品| 国产久久久一区二区三区| 亚洲中文字幕日韩| 天天添夜夜摸| 99热这里只有精品一区 | svipshipincom国产片| www.自偷自拍.com| 久久精品91无色码中文字幕| 中文字幕高清在线视频| 国产欧美日韩一区二区三| 久久久久久亚洲精品国产蜜桃av| 亚洲 欧美 日韩 在线 免费| 一夜夜www| 免费一级毛片在线播放高清视频| 日韩成人在线观看一区二区三区| 极品教师在线免费播放| 女警被强在线播放| 不卡av一区二区三区| 亚洲精品久久成人aⅴ小说| 别揉我奶头~嗯~啊~动态视频| 韩国av一区二区三区四区| 在线永久观看黄色视频| 久久久久性生活片| 三级国产精品欧美在线观看 | 人成视频在线观看免费观看| 亚洲国产欧美网| 国产精品av视频在线免费观看| 欧美日韩一级在线毛片| 国产成+人综合+亚洲专区| 亚洲av成人av| 少妇的丰满在线观看| ponron亚洲| 18禁裸乳无遮挡免费网站照片| 一区二区三区国产精品乱码| av中文乱码字幕在线| a级毛片a级免费在线| 97超级碰碰碰精品色视频在线观看| 香蕉久久夜色| 巨乳人妻的诱惑在线观看| 人成视频在线观看免费观看| 最新美女视频免费是黄的| 少妇粗大呻吟视频| 琪琪午夜伦伦电影理论片6080| 国产区一区二久久| 国产亚洲av高清不卡| 91成年电影在线观看| 欧美成人免费av一区二区三区| 亚洲专区国产一区二区| 99在线人妻在线中文字幕| 国产精品永久免费网站| 最好的美女福利视频网| 后天国语完整版免费观看| 精品福利观看| 国产黄色小视频在线观看| 国产精品电影一区二区三区| 午夜免费成人在线视频| 国产成人精品久久二区二区91| 精品第一国产精品| 国产又色又爽无遮挡免费看| 久久久久久亚洲精品国产蜜桃av| 午夜福利高清视频| 在线观看免费日韩欧美大片| 色老头精品视频在线观看| 欧美日韩中文字幕国产精品一区二区三区| 国产精品 欧美亚洲| 又粗又爽又猛毛片免费看| 母亲3免费完整高清在线观看| 国内久久婷婷六月综合欲色啪| 日本黄色视频三级网站网址| 一夜夜www| 欧美一级a爱片免费观看看 | 国产成年人精品一区二区| tocl精华| 天天一区二区日本电影三级| 国产91精品成人一区二区三区| 免费搜索国产男女视频| 国产欧美日韩精品亚洲av| 成人亚洲精品av一区二区| 国产三级中文精品| 日本一二三区视频观看| 婷婷精品国产亚洲av| 国产一区二区三区在线臀色熟女| 久久久精品大字幕| 午夜a级毛片| 桃色一区二区三区在线观看| 日本免费一区二区三区高清不卡| 久久久久九九精品影院| 欧美日韩精品网址| 极品教师在线免费播放| 日本一本二区三区精品| 神马国产精品三级电影在线观看 | 国产av麻豆久久久久久久| 久久精品aⅴ一区二区三区四区| 欧美日韩福利视频一区二区| 一级黄色大片毛片| 我要搜黄色片| 成人欧美大片| 精品国产美女av久久久久小说| 亚洲免费av在线视频| 两个人的视频大全免费| 日本 欧美在线| 一本综合久久免费| 国产av不卡久久| 欧美国产日韩亚洲一区| 久久久久亚洲av毛片大全| 久久性视频一级片| 亚洲午夜精品一区,二区,三区| 国产三级黄色录像| 欧美大码av| 中文字幕人成人乱码亚洲影| bbb黄色大片| 日本黄色视频三级网站网址| 精品免费久久久久久久清纯| 精品久久久久久久人妻蜜臀av| 久久中文看片网| 校园春色视频在线观看| av天堂在线播放| 久久香蕉激情| 全区人妻精品视频| 免费人成视频x8x8入口观看| 国产午夜精品论理片| 99国产综合亚洲精品| 看免费av毛片| 丰满的人妻完整版| 欧美3d第一页| 成人国产一区最新在线观看| 久久性视频一级片| 欧美精品亚洲一区二区| 欧美日韩亚洲综合一区二区三区_| 国产精品野战在线观看| www.999成人在线观看| 亚洲精品国产一区二区精华液| 亚洲自拍偷在线| 很黄的视频免费| 欧美一区二区精品小视频在线| 在线观看免费日韩欧美大片| 一二三四在线观看免费中文在| 国产高清有码在线观看视频 | 国产男靠女视频免费网站| 免费在线观看黄色视频的| 黄色 视频免费看| 啪啪无遮挡十八禁网站| 日韩欧美在线乱码| 亚洲熟妇中文字幕五十中出| 国产av一区在线观看免费| 午夜a级毛片| 亚洲第一欧美日韩一区二区三区| 亚洲欧美日韩无卡精品| www国产在线视频色| 国产一级毛片七仙女欲春2| 色精品久久人妻99蜜桃| 久久精品亚洲精品国产色婷小说| 久久天堂一区二区三区四区| 久久天躁狠狠躁夜夜2o2o| 脱女人内裤的视频| 国产成人系列免费观看| 亚洲欧美一区二区三区黑人| 亚洲在线自拍视频| 草草在线视频免费看| 亚洲人成伊人成综合网2020| 妹子高潮喷水视频| 99久久无色码亚洲精品果冻| 757午夜福利合集在线观看| 欧美日韩亚洲综合一区二区三区_| 国产亚洲精品综合一区在线观看 | 很黄的视频免费| 亚洲真实伦在线观看| 一本久久中文字幕| 亚洲国产高清在线一区二区三| 午夜精品在线福利| 老熟妇仑乱视频hdxx| 狂野欧美白嫩少妇大欣赏| www.自偷自拍.com| 国产成人aa在线观看| 亚洲专区中文字幕在线| 免费在线观看亚洲国产| 精品久久久久久,| 欧美另类亚洲清纯唯美| 国产主播在线观看一区二区| 正在播放国产对白刺激| 欧美黑人欧美精品刺激| 欧美国产日韩亚洲一区| 日本 av在线| www.熟女人妻精品国产| 国产精品久久久久久精品电影| www.熟女人妻精品国产| 深夜精品福利| 国产1区2区3区精品| 国产精品av久久久久免费| 国产精品乱码一区二三区的特点| 国产成人精品无人区| 一二三四在线观看免费中文在| 一个人观看的视频www高清免费观看 | 日本免费一区二区三区高清不卡| 一级作爱视频免费观看| 在线观看www视频免费| 后天国语完整版免费观看| 免费在线观看影片大全网站| 欧美色视频一区免费| 18禁观看日本| xxxwww97欧美| 人人妻人人澡欧美一区二区| 老司机福利观看| 国产精品久久久久久精品电影| 99热这里只有是精品50| 哪里可以看免费的av片| 中文字幕高清在线视频| 日本免费a在线| 亚洲午夜精品一区,二区,三区| 99riav亚洲国产免费| 999久久久精品免费观看国产| 精品欧美国产一区二区三| 午夜福利高清视频| 精品一区二区三区四区五区乱码| 国内少妇人妻偷人精品xxx网站 | 久久欧美精品欧美久久欧美| 午夜精品久久久久久毛片777| 全区人妻精品视频| 俺也久久电影网| 老熟妇乱子伦视频在线观看| 中国美女看黄片| 国产一级毛片七仙女欲春2| 成人av在线播放网站| 男女午夜视频在线观看| 99久久综合精品五月天人人| 美女午夜性视频免费| 国产aⅴ精品一区二区三区波| 亚洲熟妇熟女久久| 亚洲一区二区三区不卡视频| 免费搜索国产男女视频| 欧美日韩黄片免| 免费在线观看亚洲国产| 美女免费视频网站| 日本三级黄在线观看| 免费电影在线观看免费观看| 一级毛片女人18水好多| 色综合站精品国产| 无限看片的www在线观看| 欧美成人一区二区免费高清观看 | 男人舔女人的私密视频| 老司机午夜福利在线观看视频| 午夜免费观看网址| 成人精品一区二区免费| 最近视频中文字幕2019在线8| 国产成人精品久久二区二区免费| 天天添夜夜摸| 搞女人的毛片| 日本 欧美在线| 午夜视频精品福利|