• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法的權(quán)力:應(yīng)用與規(guī)制

    2019-01-24 21:33:29陳鵬
    浙江社會科學(xué) 2019年4期

    □陳鵬

    內(nèi)容提要 大數(shù)據(jù)時代的到來和深度學(xué)習(xí)算法的重大突破,推動著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的不斷提升,國家和社會對于算法的依賴不斷加深,作為人工智能基石之一的算法也呈現(xiàn)出一定的權(quán)力特征。算法權(quán)力表象上是技術(shù)權(quán)力,在公眾意見及時感知、治理需求有效回應(yīng)、政策議程精準(zhǔn)設(shè)定、政府績效準(zhǔn)確評估等方面具有顯著的功效,為社會規(guī)制國家機器的運行提供了以權(quán)力制約權(quán)力的可能。同時,算法權(quán)力的背后也潛藏著資本的權(quán)力,資本利用其在數(shù)據(jù)和算法上的技術(shù)優(yōu)勢,有應(yīng)用算法進(jìn)行獨裁和推動數(shù)據(jù)霸權(quán)的可能,國家主權(quán)面臨資本深刻的挑戰(zhàn),全球治理格局也面臨深刻變革。對于算法權(quán)力的規(guī)制,既需要各國在保障數(shù)據(jù)安全和降低對資本的算法技術(shù)依賴等方面付出努力,也需要各國積極開展合作,構(gòu)建全球?qū)用娴乃惴ㄖ卫眢w系并不斷完善全球算法治理機制。

    算法和數(shù)據(jù)是人工智能的兩大基石。深度學(xué)習(xí)算法的重大突破和大數(shù)據(jù)時代的到來,推動著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的逐步加深,智能時代正加速到來。在智能時代,國家治理這一傳統(tǒng)上利用科層體制來維系的治理場域,也開始重視引入人工智能技術(shù)來加快推進(jìn)治理體系和治理能力現(xiàn)代化的步伐。伴隨人工智能技術(shù)在國家治理中應(yīng)用程度的不斷加深,國家治理的形態(tài)也經(jīng)歷了不斷的變遷,智能治理作為一種新型的治理模式正悄然來臨。算法作為智能治理的核心,其在智能時代廣泛而深入的應(yīng)用不斷地賦予權(quán)力以更多的屬性,算法權(quán)力正成為一種新型的權(quán)力形態(tài)。權(quán)力的技術(shù)特征和資本特性在算法權(quán)力上得到了較為緊密的結(jié)合。技術(shù)視角下的算法權(quán)力,為社會找到了一個有效規(guī)制國家機器運行的手段,推動著國家與社會關(guān)系發(fā)生著深刻的變革。資本視角下的算法權(quán)力,助推著擁有算法和數(shù)據(jù)技術(shù)優(yōu)勢的資本逐步建構(gòu)起對國家的優(yōu)勢,國家治理秩序和全球治理格局面臨嚴(yán)峻挑戰(zhàn)。在智能時代,擴大算法的應(yīng)用范圍,利用算法的應(yīng)用來規(guī)制國家公權(quán)力的運行,對于推動國家治理體系的完善和國家治理能力的提升非常必要。但同時,面對算法在應(yīng)用過程中可能會給國家治理秩序和全球治理格局帶來的深刻變革,各主權(quán)國家也需要積極開展合作并采取措施,以有效應(yīng)對算法及其背后的資本給國家治理秩序和全球治理格局帶來的沖擊。

    一、算法權(quán)力:一種新型的權(quán)力形態(tài)

    算法作為人工智能的基石之一,是“一種有限、確定、有效并適合用計算機程序來實現(xiàn)的解決問題的方法,是計算機科學(xué)的基礎(chǔ)”①。20世紀(jì)50年代初期“圖靈測試”的提出,標(biāo)志著人工智能技術(shù)的問世。在此后的很長一段時期內(nèi),人工智能技術(shù)始終停留在科幻小說和電影作品當(dāng)中,并未取得實質(zhì)性的突破。近年來,伴隨人工智能深度學(xué)習(xí)算法取得的重大突破和大數(shù)據(jù)時代的到來,人工智能的應(yīng)用場景不斷拓展,人工智能時代正逐漸從想象成為現(xiàn)實。借助于海量的大數(shù)據(jù)和具備強大計算能力的硬件設(shè)備,擁有深度學(xué)習(xí)算法的人工智能機器可以通過自主學(xué)習(xí)和強化訓(xùn)練來不斷提升自身的能力,解決很多人類難以有效應(yīng)對的治理難題。伴隨人工智能算法在國家和社會治理中重要性的日漸凸顯,國家和社會對于算法的依賴也逐漸加深,一種新型的權(quán)力形態(tài)——算法權(quán)力也隨之出現(xiàn)。算法權(quán)力是一種人工智能技術(shù)平臺的研發(fā)者和控制者在人工智能應(yīng)用過程中,利用自身在數(shù)據(jù)處理和深度學(xué)習(xí)算法上的技術(shù)優(yōu)勢而生成的對政府、公民、社會組織等對象擁有的影響力和控制力。算法權(quán)力從表象上看是一種技術(shù)權(quán)力,但其背后潛藏著控制算法設(shè)計和研發(fā)過程的資本的權(quán)力,而且在不遠(yuǎn)的將來,算法權(quán)力有可能會脫離人類的掌控并演化成人工智能對于人類的技術(shù)優(yōu)勢甚至是霸權(quán)。

    1.算法權(quán)力表象上是一種技術(shù)權(quán)力。算法是人工智能的基石之一,算法水平的高低,在很大程度上決定了人工智能應(yīng)用的廣度和深度。人類社會自進(jìn)入國家狀態(tài)以來,國家和社會的關(guān)系應(yīng)該如何協(xié)調(diào)和平衡一直是政治學(xué)關(guān)注的重要話題,合理配置國家權(quán)力和利用一定的技術(shù)手段來有效規(guī)制國家權(quán)力的行使成為社會應(yīng)對國家權(quán)力的慣常做法。人工智能深度學(xué)習(xí)算法在國家和社會治理中的應(yīng)用,使得政府運行過程更加公開透明,民眾的治理需求能夠得到有效地識別和及時地回應(yīng),有效地降低了國家和社會治理的成本和難度,提升了國家和社會治理的績效,算法也由此成為社會有效規(guī)制國家機器運行的強大技術(shù)支撐。隨著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的不斷加深,依據(jù)人工智能算法分析的結(jié)果來決策、聽取人工智能算法的指令來行為在不久的將來可能會成為人類決策和行為時的常態(tài),人類對于人工智能算法的技術(shù)依賴將會不斷增強,算法作為一種技術(shù)形態(tài)的權(quán)力開始發(fā)揮著越來越大的影響力和控制力。

    2.算法權(quán)力的背后是資本權(quán)力。人工智能深度學(xué)習(xí)算法取得的重大突破,離不開在深度學(xué)習(xí)算法設(shè)計和研發(fā)上投入巨大資金和人力的資本。資本作為算法設(shè)計和研發(fā)過程的主導(dǎo)者,其在算法研發(fā)上的巨大投入在推動人工智能技術(shù)取得重大進(jìn)步的同時,也在不斷強化其自身對國家和社會的影響力和控制力。由于算法的設(shè)計和研發(fā)過程是封閉的,研發(fā)者的價值導(dǎo)向和利益意圖可以隨意地被植入到算法中去,使得算法設(shè)計和研發(fā)過程中存在黑箱操作的可能,人類利用算法來進(jìn)行決策和實施行為時將會面臨一定的風(fēng)險。資本可以非常容易地將自身的利益企圖和行為指向植入到算法中,讓看似在不受任何外界干擾下自行運行的人工智能技術(shù)平臺來幫助資本完成特定的利益訴求,實現(xiàn)利潤最大化的目標(biāo)。同時,擁有算法設(shè)計和研發(fā)優(yōu)勢的資本,通常在數(shù)據(jù)的存儲、提取、分析和處理上也擁有較為明顯的優(yōu)勢,算法技術(shù)和數(shù)據(jù)優(yōu)勢的疊加更加強化了資本對于政府、公民、社會的控制力和影響力,資本和國家的關(guān)系也由此存在重塑的可能。

    3.算法權(quán)力最終可能演化成人工智能對于人類的技術(shù)優(yōu)勢甚至是霸權(quán)。近年來,伴隨人工智能技術(shù)的不斷推進(jìn),人工智能正逐漸從弱人工智能向強人工智能轉(zhuǎn)變,超級人工智能的出現(xiàn)在很多人眼中也將不再遙遠(yuǎn)。人工智能形態(tài)的不斷變革,也給學(xué)界關(guān)于人工智能體的屬性和地位該如何明確帶來了很大的爭論。主張人工智能是機器的學(xué)者主張,人工智能的實質(zhì)是人類設(shè)計出來用于提高企業(yè)生產(chǎn)效率、降低國家和社會治理難度、滿足人類美好生活訴求的機器,人工是智能的前提。而主張人工智能應(yīng)該被賦予主體人格的學(xué)者認(rèn)為,深度學(xué)習(xí)算法的出現(xiàn),使得人工智能具備了越來越多的自主意識和自主行為能力,應(yīng)該賦予其部分的法律人格②和財產(chǎn)權(quán)利。也有的學(xué)者認(rèn)為,“簡單地以機器‘長得是否像人’或者‘表現(xiàn)得是否像人’作為評判其能否獲得法律主體地位的標(biāo)準(zhǔn)要件,不僅容易因概念的含混不清導(dǎo)致可操作性不強,還可能會陷入法律與科學(xué)技術(shù)雙重認(rèn)識不一致的泥潭”③。未來,人工智能是人還是機器的爭論也許還將持續(xù)很久,但是在深度學(xué)習(xí)算法的推動之下,人工智能的自主學(xué)習(xí)能力正不斷增強,自主意識也在不斷形成,這樣的事實是我們無法回避的。面對強人工智能時代的到來和未來可能會出現(xiàn)的超級人工智能時代的臨近,人工智能脫離資本和人類控制的可能性也隨之大大增加,我們有必要擔(dān)心算法權(quán)力有可能正在從技術(shù)權(quán)力的表象和資本權(quán)力的實質(zhì)演化成人工智能對于人類的技術(shù)優(yōu)勢,并最終有可能轉(zhuǎn)變?yōu)槿斯ぶ悄軐τ谡麄€人類的霸權(quán)。

    二、技術(shù)視角下的算法權(quán)力:國家與社會關(guān)系的變革

    國家是人類社會發(fā)展到一定歷史階段的產(chǎn)物。人類社會自從進(jìn)入國家狀態(tài)后,面對強大的國家和政府,如何利用技術(shù)手段來有效規(guī)制國家機器的運轉(zhuǎn)、防止公權(quán)力被濫用、維護(hù)社會的安全,是公民和社會始終關(guān)心的問題。大數(shù)據(jù)時代的到來,使得數(shù)據(jù)化存在逐漸成為人類社會的常態(tài),也為算法權(quán)力的擴張?zhí)峁┝藦V闊的空間。人工智能深度學(xué)習(xí)算法憑借對數(shù)據(jù)的自動提取和快速準(zhǔn)確的分析結(jié)果,在公眾意見及時感知、治理需求有效回應(yīng)、政策議程精準(zhǔn)設(shè)定、政府績效準(zhǔn)確評估等方面具有顯著的功效。伴隨算法在國家治理中應(yīng)用場景的不斷拓展,算法權(quán)力作為一種技術(shù)權(quán)力,為社會有效規(guī)制國家機器的運行提供了以權(quán)力制約權(quán)力的可能,推動著國家與社會之間的關(guān)系發(fā)生著深刻的變革。

    1.公眾意見及時感知。公眾意見表達(dá)了社會民眾真實的心理認(rèn)知和強烈的行為訴求,是民意的真實流露,及時感知公眾意見是國家治理的重要任務(wù),也是提升國家治理水平和治理質(zhì)量的重要前提。公眾意見不同于公共輿論,“沉默的大多數(shù)”現(xiàn)象的存在,使得公共輿論往往成為少數(shù)人利用媒體表達(dá)自身利益訴求的結(jié)果,并不能完全真實地反映出大部分社會民眾的心聲。因此,政府如果完全依據(jù)公共輿論導(dǎo)向來決策和行為,將存在很大的風(fēng)險。大數(shù)據(jù)時代的到來,民眾參與發(fā)表意見的渠道愈發(fā)多樣、成本不斷降低、速度也更加便捷。人工智能深度學(xué)習(xí)算法的突破,使得匯總和處理以數(shù)據(jù)形態(tài)呈現(xiàn)出來的公眾意見所需要的時間成本和技術(shù)難度大大降低,公眾意見被國家及時感知到的可能性大大提高,聽取真實的民眾意見而非營造出的公共輿論來決策和施政成為國家治理的價值使然和行為取向。

    2.治理需求有效回應(yīng)。國家治理是政府、市場、公民和社會組織等多元治理主體圍繞特定的治理議題,運用一定的治理手段來實現(xiàn)特定治理目標(biāo)的行為和過程。治理作為一種理念被引入我國公共管理領(lǐng)域已經(jīng)有較長一段時期,但是治理所要求的多中心的治理體系至今尚未有效建立起來,我國治理體系的中心仍舊是各級政府。面對民眾和社會日漸多元化的治理需求,以政府為主導(dǎo)的國家治理體系如何做到有效回應(yīng)是困擾當(dāng)前我國國家治理的現(xiàn)實問題。政府在回應(yīng)民眾需求方面也存在一定的技術(shù)、時間和經(jīng)費上的障礙,使得政府對民眾的回應(yīng)不足和回應(yīng)不及時的問題并存,政府回應(yīng)力亟待提升。人工智能深度學(xué)習(xí)算法的出現(xiàn)及其廣泛應(yīng)用,使得政府可以通過人工智能技術(shù)平臺實現(xiàn)對數(shù)據(jù)的自動提取和快速分析,將民眾反映比較熱烈的重點、難題問題作為政府治理的重點,政府對民眾治理需求回應(yīng)的及時性顯著提高。同時,借助于人工智能技術(shù)平臺對大數(shù)據(jù)進(jìn)行提取和分析的結(jié)果,政府可以抓住問題的關(guān)鍵并及時加以解決,有利于改善政府治理的績效,提升群眾對于政府的滿意度。

    3.政策議程精準(zhǔn)設(shè)定。公共政策是各級政府履行經(jīng)濟(jì)和社會管理職能的重要手段。公共政策議程大體包括政策問題的界定、政策方案的設(shè)計、政策的執(zhí)行、政策的監(jiān)控與反饋等環(huán)節(jié)。政策問題的界定是政策議程的起點,“由誰決定哪些社會問題成為政策問題,對于政策制定過程來說是關(guān)鍵性的。決定哪些問題成為政策問題,甚至比決定這些問題的解決辦法更為重要”。④在傳統(tǒng)的公共政策議程中,受制于決策信息供給的不充分和決策者在決策能力、價值立場和利益訴求等方面存在的障礙,政策議程難以做到精準(zhǔn)設(shè)定,政策議程的透明度也較低,“政策黑箱”問題較為嚴(yán)重。伴隨人工智能深度學(xué)習(xí)算法的突破,人工智能技術(shù)平臺通過對海量大數(shù)據(jù)的自動提取、匯總和分析,可以做到精準(zhǔn)設(shè)別政策問題并設(shè)計出一定數(shù)量的具有可行性的政策方案供決策者選擇。同時,在政策方案的選擇環(huán)節(jié),人工智能技術(shù)平臺通過模擬政策實施的環(huán)境,可以大體測算出各種方案在實施過程中的收益大小及可能會出現(xiàn)的問題,提高政策方案選擇成功的概率。此外,在政策執(zhí)行過程中,人工智能技術(shù)平臺通過對數(shù)據(jù)的采集和分析結(jié)果,可以實現(xiàn)對政策執(zhí)行過程的全程、實時和有效的監(jiān)控,降低“黑箱”操作的可能,進(jìn)而提高政策執(zhí)行成功的概率和效果。

    4.政府績效準(zhǔn)確評估。政府治理能力的高低,直接影響到政府績效的好壞,進(jìn)而影響到民眾的切身利益。評估政府行為的績效,找出影響政府績效的因素并及時準(zhǔn)確地反饋,既是社會監(jiān)督政府行為的重要手段,也是幫助政府治理能力提升的有效路徑。由于評估主體、評估時間、評估經(jīng)費和評估手段等因素的限制,現(xiàn)有的政府績效評估主要采取隨機抽樣評估的方式來進(jìn)行。隨機抽樣雖然具有一定的科學(xué)性,但因為所抽取的樣本數(shù)量是有限的,難以真實全面地反映政府績效的全貌,而且政府在績效評估樣本的選擇上存在人為操作的空間,更加降低了社會對于政府績效評估結(jié)果的信任度。大數(shù)據(jù)時代的到來,數(shù)據(jù)化存在成為物體和行為的常態(tài),政府行為的過程也被以各種形式的數(shù)據(jù)記錄并保存下來。具有深度學(xué)習(xí)算法的人工智能技術(shù)平臺通過對行政運行過程中產(chǎn)生的數(shù)據(jù)進(jìn)行自動的記錄、存儲和分析,能夠清晰地反映出政府行政行為實施前后有關(guān)事務(wù)和人員狀態(tài)發(fā)生的變化情況,為政府績效的準(zhǔn)確評估提供了可能。同時,人工智能技術(shù)平臺通過對政府行為數(shù)據(jù)的自動提取和有效分析,也可以實現(xiàn)以較低的成本、較快的速度準(zhǔn)確完成政府績效評估的任務(wù),從而實現(xiàn)民眾對政府機關(guān)及其工作人員進(jìn)行有效監(jiān)督的目的,切實規(guī)制國家公權(quán)力的運行空間。

    三、資本視角下的算法權(quán)力:資本與國家關(guān)系的重塑

    科技是一把雙刃劍,“技術(shù)上最偉大的勝利與最大的災(zāi)難幾乎并列”。⑤算法權(quán)力作為一種技術(shù)權(quán)力,在降低行政運行成本、提高行政運行效率、改善政府治理績效的同時,更為公民和社會深度參與國家治理、充分表達(dá)利益訴求和有效規(guī)制國家機器運行提供了堅強的技術(shù)保障,推動了國家與社會關(guān)系發(fā)生著積極的變革。但同時,在算法權(quán)力的技術(shù)權(quán)力表象之下還潛藏著資本的權(quán)力,“算法權(quán)力這種新興的權(quán)力并不把我們當(dāng)成‘主體’來對待,而是作為可計算、可預(yù)測、可控制的客體”⑥。資本憑借其在算法研發(fā)和數(shù)據(jù)處理等方面的技術(shù)優(yōu)勢,在與國家的不斷博弈中重塑著資本與國家的關(guān)系,對民族國家的主權(quán)會產(chǎn)生一定的沖擊,進(jìn)而對全球治理體系和治理秩序也會產(chǎn)生較為深刻的影響。

    1.資本應(yīng)用算法進(jìn)行獨裁的風(fēng)險。人工智能在國家治理、社會治理和公民生活中的深度應(yīng)用,有效地降低了治理的成本和管理的難度,使得人類可以從繁重、枯燥的勞動的解放出來,去追求更加美好的生活。但同時,人工智能算法也是一把雙刃劍,其在推動國家治理、社會管理和社會生活步入智能化階段的同時,也使得國家、社會和公民逐漸產(chǎn)生了對人工智能算法的技術(shù)依賴。算法從表象上來看是一種由人類設(shè)計出來用于完成特定任務(wù)的操作指令而已,但由于算法的設(shè)計和研發(fā)過程是不透明的,算法設(shè)計者在算法的設(shè)計和研發(fā)過程中可能會將其特定的價值取向和利益訴求植入到算法設(shè)計過程中,然后通過人工智能機器的技術(shù)外表來輕松實現(xiàn)其特定的目的。從現(xiàn)有的算法設(shè)計和研發(fā)格局來看,少數(shù)掌握軟件開發(fā)技術(shù)優(yōu)勢的企業(yè)主導(dǎo)著算法的設(shè)計和研發(fā)工作,國家治理、社會治理和企業(yè)管理中使用的智能技術(shù)平臺的供給也被少數(shù)企業(yè)所壟斷。伴隨國家和社會對于算法依賴的加深,主導(dǎo)算法設(shè)計和研發(fā)過程的資本也由此建構(gòu)起對國家、社會和公民的技術(shù)優(yōu)勢。資本為了實現(xiàn)特定的目的,可能會利用算法上的優(yōu)勢來對國家治理和社會管理的過程實施嚴(yán)格的控制,算法獨裁也由此成為國家和社會在算法應(yīng)用過程中需要加以認(rèn)真防控的風(fēng)險。

    2.資本利用數(shù)據(jù)推動霸權(quán)的危險。數(shù)據(jù)是算法的權(quán)力特征得以不斷凸顯的重要支撐。人工智能算法水平的提升依賴于海量大數(shù)據(jù)為其提供了強大的學(xué)習(xí)原料和訓(xùn)練素材,算法在國家治理和社會管理中功效的持續(xù)發(fā)揮也有賴于對海量大數(shù)據(jù)進(jìn)行自動提取和分析的結(jié)果?!叭说谋举|(zhì)是一切社會關(guān)系的總和,在一個由數(shù)據(jù)構(gòu)成的世界,人也是一切數(shù)據(jù)足跡的總和。人工智能時代,公民個體社會經(jīng)濟(jì)生活以數(shù)據(jù)形式留下記錄,每個個體無時無刻不是數(shù)據(jù)的生產(chǎn)者……國家的治理、政治的管理、公民的社會生活等都基于數(shù)據(jù),對數(shù)據(jù)產(chǎn)生巨大的依賴度 ”⑦,數(shù)據(jù)也由此成為人工智能時代重要的戰(zhàn)略資源,誰掌握了數(shù)據(jù)存儲和處理的技術(shù)優(yōu)勢,誰就能在人工智能時代擁有更多的話語權(quán)。數(shù)據(jù)作為重要的戰(zhàn)略資源,它的價值需要通過互聯(lián)和共享并進(jìn)行深度的挖掘方能體現(xiàn)出來,靜態(tài)的、孤立的數(shù)據(jù)是難以體現(xiàn)出巨大價值的。從全社會現(xiàn)有的數(shù)據(jù)分配格局來看,政府掌握的數(shù)據(jù)比市場和社會掌握的數(shù)據(jù)量要多,政府在數(shù)據(jù)的數(shù)量上具有明顯的優(yōu)勢。但是,受到科層體制的束縛,政府內(nèi)部的數(shù)據(jù)存在著較為嚴(yán)重的數(shù)據(jù)壁壘和信息孤島問題,不同區(qū)域之間、不同層級之間和不同部門之間的數(shù)據(jù)在存儲系統(tǒng)的對接和數(shù)據(jù)資源的共享上存在諸多的障礙,大量的政府?dāng)?shù)據(jù)處于沉睡狀態(tài)。同時,政府在數(shù)據(jù)的存儲、分類、處理和分析等方面的技術(shù)積累和人才儲備上也面臨較多的短板。與政府在數(shù)據(jù)的共享和使用等方面存在諸多障礙不同,少數(shù)企業(yè)利用自身研發(fā)的應(yīng)用軟件和智能政務(wù)平臺,不僅掌握了海量的大數(shù)據(jù),而且憑借其在云存儲和云計算等方面的技術(shù)優(yōu)勢能夠充分的挖掘出數(shù)據(jù)的價值并加以有效利用。目前,少數(shù)企業(yè)在數(shù)據(jù)存儲和處理上的技術(shù)優(yōu)勢正演變成為對國家和社會的權(quán)力優(yōu)勢,并有形成數(shù)據(jù)霸權(quán)的可能,對傳統(tǒng)的資本與國家的關(guān)系產(chǎn)生深刻的影響,公民的信息安全也會遭到一定程度的危險。

    3.國家主權(quán)安全面臨資本深刻的挑戰(zhàn)。人工智能時代的到來和智能治理形態(tài)的出現(xiàn),給現(xiàn)代國家治理體系的完善和治理能力的提升帶來了前所未有的機遇,人工智能體已經(jīng)開始成為現(xiàn)代國家治理體系的重要治理主體,推動著國家治理現(xiàn)代化進(jìn)程的加速。但同時,隨著由資本主導(dǎo)的人工智能技術(shù)在國家治理中應(yīng)用場景的不斷拓展和應(yīng)用程度的日漸加深,國家的主權(quán)安全也正面臨著嚴(yán)峻的考驗。首先,國家治理中應(yīng)用的智能技術(shù)平臺在幫助解決國家治理難題的同時,也在不斷地收集國家治理中產(chǎn)生的重要數(shù)據(jù),其中很多是關(guān)系到國家和公民切身利益的核心數(shù)據(jù),主權(quán)國家正面臨著數(shù)據(jù)泄露的危險。其次,在算法研發(fā)和運行過程缺乏必要的透明機制的前提下,國家和社會在治理需求的識別、治理方案的設(shè)計和治理過程的實施等環(huán)節(jié)上對算法產(chǎn)生的高度技術(shù)依賴,使得算法背后的資本擁有了影響和主導(dǎo)國家治理秩序的能力,國家的主權(quán)安全面臨著深刻的危機。最后,資本憑借其在算法技術(shù)上的優(yōu)勢,有發(fā)動算法戰(zhàn)爭的可能。智能治理的核心是算法,資本可以輕易地通過其在算法上的技術(shù)優(yōu)勢,來發(fā)動針對特定主權(quán)國家的算法戰(zhàn)爭,以完成資本對于該國國家主權(quán)控制的目的,特別是那些在算法研制、應(yīng)用和規(guī)制等方面缺乏技術(shù)優(yōu)勢和安全意識淡漠的發(fā)展中國家受到的威脅更大?!坝捎谌狈ο鄳?yīng)技術(shù)積累,發(fā)展中國家并沒有充分有效的方式保護(hù)自己的數(shù)據(jù)安全,也沒有足夠的能力應(yīng)對算法所帶來的干涉。人工智能技術(shù)的進(jìn)步將進(jìn)一步凸顯其在政治安全領(lǐng)域的脆弱性特征,傳統(tǒng)的國家政治安全將面臨嚴(yán)峻的考驗?!雹?/p>

    4.全球治理體系和治理秩序存在被資本重塑的可能。人工智能深度學(xué)習(xí)算法的出現(xiàn)和深度應(yīng)用,不僅對國家的數(shù)據(jù)安全產(chǎn)生影響,誘發(fā)數(shù)據(jù)霸權(quán)和算法獨裁問題的出現(xiàn),進(jìn)而危及到民族國家的主權(quán),而且也正在對全球治理秩序和治理格局產(chǎn)生重大的影響?!霸谕固胤ダ麃嗴w系所確定的國際關(guān)系的基本原則中,主權(quán)國家是國際體系的核心行為體,直到近幾十年國際組織的出現(xiàn)才在一定程度上打破了其壟斷地位,然而,在走向弱人工智能時代的過渡階段,隨著資本權(quán)力和技術(shù)權(quán)力在國家行為體內(nèi)部的擴張,新的異質(zhì)性行為體將在國際關(guān)系活動中發(fā)揮更加重要的作用,不同類型的行為體因其不同的特性將帶來不同的運行規(guī)則及行為邏輯,由內(nèi)而外地推動國際體系變革的發(fā)生?!雹峋唧w來說,一方面,少數(shù)擁有算法技術(shù)和數(shù)據(jù)優(yōu)勢的超級企業(yè)會成為新的全球治理體系的主體,推動著長期以來一直以主權(quán)國家為主導(dǎo)的全球治理體系發(fā)生重大變革。另一方面,傳統(tǒng)的全球治理秩序也面臨解構(gòu)的可能,資本對于國家的強勢會在一定程度上影響到新的全球治理秩序的構(gòu)建,“資本的權(quán)力也將在政治體系中快速擴張,對建立在傳統(tǒng)工業(yè)化生產(chǎn)基礎(chǔ)上的現(xiàn)代政治體系產(chǎn)生影響,最終在政治權(quán)力分配中獲得充分的反映”。⑩

    四、算法權(quán)力的規(guī)制:國家方案和全球視野

    當(dāng)前,“發(fā)展人工智能已經(jīng)成為國際社會的共識,然而人工智能在其提供社會發(fā)展動力和平臺的同時,也對經(jīng)濟(jì)、社會、就業(yè)、倫理、安全諸領(lǐng)域提出新挑戰(zhàn)”。?人工智能深度學(xué)習(xí)算法的出現(xiàn)和廣泛應(yīng)用,在讓人類看到利用技術(shù)權(quán)力來規(guī)制國家權(quán)力良機的同時,也提醒人類要警惕算法背后日漸強勢的資本權(quán)力給國家治理秩序和全球治理格局可能會帶來的巨大沖擊。智能時代,算法的應(yīng)用和發(fā)展將不可阻擋,但是算法給國家主權(quán)、公民、社會和全球治理格局帶來的沖擊并非不可避免,至少可以被積極規(guī)制。21世紀(jì)以來,以現(xiàn)實問題為導(dǎo)向的全球治理研究逐漸成為新趨勢,?對于智能時代算法權(quán)力的規(guī)制,既需要各主權(quán)國家在數(shù)據(jù)安全保障和降低在算法上對資本的技術(shù)依賴等方面付出努力,也需要各主權(quán)國家之間積極開展合作,加強全球?qū)用娴乃惴ūO(jiān)管體制和機制的建設(shè)。

    (一)國家方案

    1.加大對算法設(shè)計和研發(fā)的投入力度。治理手段的更新和治理技術(shù)的進(jìn)步,是推動國家和社會治理績效改善的重要動力。與傳統(tǒng)的治理技術(shù)進(jìn)步不同,人工智能深度學(xué)習(xí)算法的出現(xiàn),不僅大幅提升了國家和社會治理的績效,而且也對國家和社會治理的秩序產(chǎn)生了顛覆性的影響,利用技術(shù)來治理正逐漸變成依賴技術(shù)來治理,治理主體與治理技術(shù)之間的關(guān)系發(fā)生了根本性的逆轉(zhuǎn)。從現(xiàn)有政府使用的智能治理系統(tǒng)的研發(fā)主體來看,表面上是不同層級的政府聯(lián)合有關(guān)企業(yè)進(jìn)行研發(fā)的,但智能治理系統(tǒng)的核心算法是由少數(shù)企業(yè)研發(fā)出來的。而且,智能治理系統(tǒng)在日常運行過程在中也離不開算法研發(fā)企業(yè)提供的技術(shù)支持。為了有效降低國家和社會對于主導(dǎo)算法設(shè)計和研發(fā)過程的資本的技術(shù)依賴,國家需要加大對算法設(shè)計和研發(fā)的投入力度,國家治理中采用的智能治理系統(tǒng)的核心算法應(yīng)該由政府來掌握,確保國家和社會在應(yīng)用人工智能算法推動傳統(tǒng)治理向智能治理轉(zhuǎn)變過程中的技術(shù)安全。為此,可以由國家的信息產(chǎn)業(yè)主管部門牽頭,組織國有的科研院所、高等院校和相關(guān)的國有企業(yè)的技術(shù)力量來負(fù)責(zé)算法的設(shè)計和研制工作,打破政府對少數(shù)企業(yè)的算法依賴,確保智能治理系統(tǒng)運行的安全。

    2.強化對算法設(shè)計、研發(fā)和應(yīng)用過程中的法律監(jiān)管和道德約束。算法作為一定主體設(shè)計和研發(fā)出來用于完成特定任務(wù)的運行程序,其在實踐領(lǐng)域的應(yīng)用表面上看屬于純粹的技術(shù)問題,與設(shè)計者和研發(fā)者的價值取向和利益企圖難以形成關(guān)聯(lián)。但是,由于算法的設(shè)計和研發(fā)過程是封閉的,除了少數(shù)開源算法外,絕大多數(shù)算法是不可解釋的,這就使得算法在運行過程中存在黑箱操作的可能?!坝嬎銠C系統(tǒng)隱含的偏見和利益取向多年前就已引起廣泛關(guān)注。多項研究均顯示,軟件產(chǎn)品具有隱蔽性的特征,特定的權(quán)力結(jié)構(gòu)、價值觀和意識形態(tài)已經(jīng)事先被嵌入其中。在軟件的遮蔽下,‘有限性、許可、特權(quán)和障礙’等限制不易被人察覺。”?

    對于算法黑箱的破解,除了要加大對核心算法研發(fā)的資金和技術(shù)投入力度外,還需要國家在算法設(shè)計、研發(fā)和應(yīng)用等環(huán)節(jié)加強對資本的法律監(jiān)管和道德約束。目前,我國在人工智能犯罪的主體界定和責(zé)任承擔(dān)等方面的立法較為滯后,對于人工智能算法設(shè)計和研制方面的道德規(guī)制也不完善,為不少主體利用人工智能深度學(xué)習(xí)算法來從事違法或犯罪行為提供了很大的空間。為此,國家需要在人工智能算法設(shè)計和研發(fā)的標(biāo)準(zhǔn)、規(guī)則和透明度等方面出臺必要的法律規(guī)范和道德準(zhǔn)則,確保人工智能算法在保障國家、公民和社會公共安全的前提下不斷拓展應(yīng)用場景和深化應(yīng)用程度。

    3.確保公民數(shù)據(jù)和國家數(shù)據(jù)的安全。算法水平的提升和應(yīng)用場景的拓展離不開數(shù)據(jù)的支撐,國家對于算法權(quán)力的規(guī)制也需要對數(shù)據(jù)的存儲和使用等環(huán)節(jié)進(jìn)行必要的規(guī)范和約束。在人工智能時代,數(shù)據(jù)是重要的戰(zhàn)略資源,以資本為主體“大數(shù)據(jù)掌控者們借助越來越智能化的算法分析和利用著我們的數(shù)據(jù),開發(fā)著靠數(shù)據(jù)化的人類經(jīng)驗喂養(yǎng)的人工智能產(chǎn)品,在為我們的生活提供越來越多便利的同時影響著我們的選擇和決策,并在此過程中積累起日益膨脹的財富、技術(shù)和人力資源……而我們在消費的同時也都在生產(chǎn),生產(chǎn)著數(shù)據(jù),但沒人為我們的數(shù)據(jù)生產(chǎn)支付報酬”?。數(shù)據(jù)生產(chǎn)者與數(shù)據(jù)掌控者分離的現(xiàn)狀和有關(guān)數(shù)據(jù)生產(chǎn)者的產(chǎn)權(quán)應(yīng)該如何保護(hù)等方面的法律和制度的缺失,不僅使得公民數(shù)據(jù)和國家數(shù)據(jù)處于不安全的狀態(tài)之中,也進(jìn)一步強化了資本對于公民和國家的強勢地位?!懊鎸Υ髷?shù)據(jù)對個人隱私潛在的威脅,我們必須重視智能革命時代隱私權(quán)的保護(hù)?!?對此,一方面,國家需要盡快出臺保護(hù)數(shù)據(jù)和數(shù)據(jù)生產(chǎn)者合法權(quán)利的法律法規(guī),明確數(shù)據(jù)的產(chǎn)權(quán)主體,建立使用者付費制度,防止資本對于公民數(shù)據(jù)和國家數(shù)據(jù)的濫用。另一方面,要打破橫亙在不同區(qū)域、不同層級政府和不同部門之間的數(shù)據(jù)壁壘,連接起數(shù)據(jù)孤島,在統(tǒng)一數(shù)據(jù)系統(tǒng)、數(shù)據(jù)標(biāo)準(zhǔn)和數(shù)據(jù)處理流程的基礎(chǔ)上,加快構(gòu)建由政府主導(dǎo)的國家大數(shù)據(jù)系統(tǒng),有效確保公民數(shù)據(jù)和國家數(shù)據(jù)的安全。

    (二)全球視野

    1.構(gòu)建全球算法治理體系。經(jīng)濟(jì)全球化的實質(zhì)是資本的全球化,深度學(xué)習(xí)算法的出現(xiàn)和應(yīng)用場景的拓展,不僅危及到主權(quán)國家的安全,也對全球治理體系和治理秩序產(chǎn)生了很大的影響?!搬槍θ斯ぶ悄芗夹g(shù)的兩大重要基礎(chǔ)——大數(shù)據(jù)和算法,很難形成以國家為界的封閉式治理,其天然涉及到一系列跨境治理議題”?。在應(yīng)對算法權(quán)力及其給國家主權(quán)和全球治理帶來的沖擊等問題方面,僅僅依靠單個國家的努力是很難完成的,構(gòu)建全球算法治理體系是解決全球算法治理難題的必由之路。為此,各主權(quán)國家之間需要摒棄以鄰為壑的思想,采取主動合作的姿態(tài),構(gòu)建以主權(quán)國家為主體、相關(guān)國際組織參與的全球算法治理體系。這一算法治理體系,主要對算法設(shè)計、研發(fā)和應(yīng)用過程中涉及到的國家主權(quán)安全、道德倫理、法律規(guī)制、人工智能犯罪防控等問題進(jìn)行積極的協(xié)商和溝通,為相關(guān)算法治理機制的出臺提供良好的平臺和空間。

    2.完善全球算法治理機制。以主權(quán)國家為主體、有關(guān)國際組織參與的全球算法治理體系的構(gòu)建,為在全球?qū)用嫔蠈λ惴?quán)力進(jìn)行監(jiān)管和規(guī)制提供了難得的治理框架。在此框架內(nèi),首先,各主權(quán)國家和國際組織應(yīng)該本著對國家主權(quán)的尊重和對智能時代人類命運的終極關(guān)懷,加強在應(yīng)對數(shù)據(jù)霸權(quán)和防范算法獨裁等方面的技術(shù)合作力度,積極推動全球范圍內(nèi)的算法研發(fā)和運行透明機制的建立,將算法應(yīng)用過程中可能出現(xiàn)的風(fēng)險控制在人類可以預(yù)見并能有效應(yīng)對的范圍內(nèi)。其次,推動能夠為國際社會所接受的有關(guān)算法設(shè)計、研發(fā)和應(yīng)用過程的法律規(guī)則、倫理準(zhǔn)則和道德規(guī)范的制定?!八惴捌錄Q策程序是由它們的研發(fā)者塑造的,在細(xì)節(jié)上滲透著研發(fā)者的主觀特質(zhì)?!?也許算法是沒有偏見的,但是不能確保算法的設(shè)計者、研發(fā)者和使用者也是無私的,構(gòu)建為國際社會所接納并能夠讓算法設(shè)計、研發(fā)和使用者自覺遵守的法律規(guī)則、倫理準(zhǔn)則和道德規(guī)范是在全球?qū)用嬉?guī)制算法使用和防控算法獨裁的重要前提。最后,為了防止未來人工智能在深度學(xué)習(xí)算法的推動下可能會脫離人類控制問題的出現(xiàn),全球算法治理體系有必要推動建立必要的人工智能自我終結(jié)機制,以確保整個人類的安全?!耙陨袣v史學(xué)家尤瓦爾·赫拉利在《未來簡史》中曾不無憂慮地認(rèn)為,人類的進(jìn)程其實是由算法來決定的,在未來,人類的生化算法將被外部算法超越。”?而當(dāng)人類無法控制具備強大學(xué)習(xí)功能并具有獨立自主意識的人工智能時,人工智能自我終結(jié)機制也許是保護(hù)人類安全、維系人類文明的安全閥和緩沖器。

    注釋:

    ①Robert Sedgewick,Kevin Wayne:《算法》(第四版),謝路云譯,人民郵電出版社2012年版。

    ②袁曾:《人工智能有限法律人格審視》,《東方法學(xué)》2017年第5期。

    ③吳習(xí)彧:《論人工智能的法律主體資格》,《浙江社會科學(xué)》2018年第6期。

    ④托馬斯·戴伊:《理解公共政策》(第十二版),中國人民大學(xué)出版社2011年版。

    ⑤漢斯·昆:《世界倫理構(gòu)想》,周藝譯,生活·讀書·新知三聯(lián)書店2002年版。

    ⑥?鄭戈:《算法的法律與法律的算法》,《中國法律評論》2018年第2期。

    ⑦何哲:《人工智能時代的政府適應(yīng)與轉(zhuǎn)型》,《行政管理改革》2016年第8期。

    ⑧封帥、魯傳穎:《人工智能時代的國家安全:風(fēng)險與治理》,《信息安全與通信保密》2018年第10期。

    ⑨⑩封帥:《人工智能時代的國際關(guān)系:走向變革且不平等的世界》,《外交評論》2018年第1期。

    ?張成崗:《人工智能時代:技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)》,《南京社會科學(xué)》2018年第5期。

    ?薛瀾、俞晗之:《邁向公共管理范式的全球治理——基于“問題—主體—機制”框架的分析》,《中國社會科學(xué)》2015年第11期。

    ?張淑玲:《破解黑箱:智媒時代的算法權(quán)力規(guī)制與透明實現(xiàn)機制》,《中國出版》2018年第7期。

    ?吳漢東:《人工智能時代的制度安排與法律規(guī)制》,《法律科學(xué)》2017年第5期。

    ?俞晗之、王晗曄:《人工智能全球治理的現(xiàn)狀:基于主體與實踐的分析》,《電子政務(wù)》2019年第3期。

    ??汝緒華:《算法政治:風(fēng)險、發(fā)生邏輯與治理》,《廈門大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2018年第6期。

    久久精品久久精品一区二区三区| videossex国产| 亚洲国产精品专区欧美| 成人三级黄色视频| 亚洲av成人精品一二三区| 亚州av有码| 精华霜和精华液先用哪个| 免费播放大片免费观看视频在线观看 | 一个人观看的视频www高清免费观看| 色吧在线观看| 国产爱豆传媒在线观看| 久久久欧美国产精品| 欧美+日韩+精品| 亚洲精品aⅴ在线观看| 黄片wwwwww| 日韩大片免费观看网站 | 久久99热这里只频精品6学生 | 国产真实乱freesex| 热99re8久久精品国产| 亚洲国产成人一精品久久久| 亚洲精品一区蜜桃| 少妇的逼水好多| 十八禁国产超污无遮挡网站| 国产欧美日韩精品一区二区| 亚洲人成网站在线观看播放| 十八禁国产超污无遮挡网站| 少妇猛男粗大的猛烈进出视频 | 少妇裸体淫交视频免费看高清| 色综合亚洲欧美另类图片| 日本免费一区二区三区高清不卡| 欧美xxxx性猛交bbbb| 三级国产精品片| 特大巨黑吊av在线直播| 亚洲五月天丁香| 欧美性感艳星| 国产黄片视频在线免费观看| 女人十人毛片免费观看3o分钟| 插阴视频在线观看视频| 亚洲av成人av| 2022亚洲国产成人精品| 亚洲中文字幕一区二区三区有码在线看| 99久久九九国产精品国产免费| 少妇高潮的动态图| 岛国毛片在线播放| 亚洲性久久影院| 免费黄色在线免费观看| www.色视频.com| 99在线人妻在线中文字幕| 又粗又硬又长又爽又黄的视频| 国产一区二区在线av高清观看| 视频中文字幕在线观看| 亚洲精品乱久久久久久| 中文亚洲av片在线观看爽| 午夜福利网站1000一区二区三区| www.av在线官网国产| 青春草国产在线视频| 变态另类丝袜制服| 一边亲一边摸免费视频| 免费电影在线观看免费观看| 丰满人妻一区二区三区视频av| 在线免费观看的www视频| 亚洲电影在线观看av| 色综合色国产| 三级男女做爰猛烈吃奶摸视频| 插逼视频在线观看| 欧美三级亚洲精品| 国产爱豆传媒在线观看| 高清视频免费观看一区二区 | 美女cb高潮喷水在线观看| 99久国产av精品国产电影| 亚洲va在线va天堂va国产| 免费不卡的大黄色大毛片视频在线观看 | 国产一区二区在线av高清观看| 欧美bdsm另类| 91精品一卡2卡3卡4卡| 18禁动态无遮挡网站| 少妇熟女欧美另类| 国产亚洲一区二区精品| 午夜亚洲福利在线播放| 男人舔奶头视频| 成年女人看的毛片在线观看| 亚洲aⅴ乱码一区二区在线播放| 成人特级av手机在线观看| 搡女人真爽免费视频火全软件| 欧美日韩在线观看h| 日本与韩国留学比较| 国产精品国产三级国产专区5o | 美女国产视频在线观看| 乱码一卡2卡4卡精品| 99热这里只有精品一区| 久久久a久久爽久久v久久| 亚洲欧美日韩东京热| 久久欧美精品欧美久久欧美| 黑人高潮一二区| 精品久久久久久久末码| 亚洲一区高清亚洲精品| 国产精品电影一区二区三区| 精品熟女少妇av免费看| 成人毛片a级毛片在线播放| 九九在线视频观看精品| 久久婷婷人人爽人人干人人爱| 我要搜黄色片| 久久人人爽人人片av| 国产精品麻豆人妻色哟哟久久 | 91狼人影院| 国产女主播在线喷水免费视频网站 | 天堂√8在线中文| 简卡轻食公司| 国产伦理片在线播放av一区| 久久精品久久久久久噜噜老黄 | 22中文网久久字幕| 欧美性感艳星| 亚洲精品乱码久久久v下载方式| 在线观看66精品国产| 国产精品人妻久久久影院| 国产精品久久久久久精品电影小说 | 九九久久精品国产亚洲av麻豆| 成人无遮挡网站| 最近最新中文字幕大全电影3| 少妇高潮的动态图| 黄片wwwwww| 超碰av人人做人人爽久久| 水蜜桃什么品种好| 亚洲三级黄色毛片| 日本-黄色视频高清免费观看| 成人国产麻豆网| 69人妻影院| 少妇熟女欧美另类| 免费av观看视频| 在线观看av片永久免费下载| 久久精品影院6| 禁无遮挡网站| 老师上课跳d突然被开到最大视频| 亚洲av二区三区四区| 3wmmmm亚洲av在线观看| 免费观看人在逋| 毛片一级片免费看久久久久| 日韩一区二区三区影片| 欧美变态另类bdsm刘玥| 纵有疾风起免费观看全集完整版 | 国产免费一级a男人的天堂| 久久精品久久久久久噜噜老黄 | 午夜激情福利司机影院| 一级毛片aaaaaa免费看小| 国产一级毛片七仙女欲春2| 国产私拍福利视频在线观看| 国产在视频线精品| 国产大屁股一区二区在线视频| 国语自产精品视频在线第100页| 哪个播放器可以免费观看大片| 我要看日韩黄色一级片| 国产真实乱freesex| 又黄又爽又刺激的免费视频.| 欧美最新免费一区二区三区| 男女下面进入的视频免费午夜| 午夜亚洲福利在线播放| 久久精品夜色国产| 精品久久久久久久人妻蜜臀av| 伦精品一区二区三区| 国产女主播在线喷水免费视频网站 | 国产色爽女视频免费观看| 欧美最新免费一区二区三区| 亚洲国产精品专区欧美| 日韩高清综合在线| 在线播放国产精品三级| h日本视频在线播放| 看非洲黑人一级黄片| 听说在线观看完整版免费高清| 国产淫片久久久久久久久| 男女那种视频在线观看| av在线蜜桃| 亚洲国产欧洲综合997久久,| 精品一区二区三区视频在线| 国产淫语在线视频| 天天躁夜夜躁狠狠久久av| 少妇的逼好多水| 简卡轻食公司| 小蜜桃在线观看免费完整版高清| 久久99精品国语久久久| 国产黄片视频在线免费观看| 久久草成人影院| 少妇熟女aⅴ在线视频| 精品久久久久久久久亚洲| 狠狠狠狠99中文字幕| 国产v大片淫在线免费观看| 两性午夜刺激爽爽歪歪视频在线观看| 91av网一区二区| 国产黄色小视频在线观看| 亚洲熟妇中文字幕五十中出| videossex国产| 秋霞伦理黄片| 色噜噜av男人的天堂激情| 日本一二三区视频观看| 91精品一卡2卡3卡4卡| 欧美日韩精品成人综合77777| 69人妻影院| 亚洲av不卡在线观看| 精品酒店卫生间| 少妇被粗大猛烈的视频| 色播亚洲综合网| 日本三级黄在线观看| 色综合色国产| www.色视频.com| 大香蕉97超碰在线| 啦啦啦韩国在线观看视频| 看黄色毛片网站| 亚洲精品自拍成人| 激情 狠狠 欧美| 干丝袜人妻中文字幕| 国产成人一区二区在线| 26uuu在线亚洲综合色| 欧美zozozo另类| 一级av片app| 国产精品乱码一区二三区的特点| 国产一区二区在线观看日韩| 日本免费a在线| 国产单亲对白刺激| 国产黄片美女视频| 最近最新中文字幕免费大全7| 丰满少妇做爰视频| 国产成人aa在线观看| 亚洲国产日韩欧美精品在线观看| 亚洲成人精品中文字幕电影| av在线播放精品| 免费黄网站久久成人精品| 人人妻人人澡人人爽人人夜夜 | 91狼人影院| 亚洲精品成人久久久久久| 亚洲欧美日韩卡通动漫| 国产av一区在线观看免费| 你懂的网址亚洲精品在线观看 | 少妇熟女欧美另类| 精品一区二区三区视频在线| 国产色爽女视频免费观看| 午夜福利网站1000一区二区三区| 淫秽高清视频在线观看| 老司机福利观看| 三级经典国产精品| 黑人高潮一二区| 精品人妻熟女av久视频| 在线播放无遮挡| 亚洲自拍偷在线| 99国产精品一区二区蜜桃av| 国产精品一二三区在线看| 久久久欧美国产精品| 村上凉子中文字幕在线| 成人无遮挡网站| 夜夜爽夜夜爽视频| 日产精品乱码卡一卡2卡三| 一夜夜www| 精品久久久久久成人av| 中文亚洲av片在线观看爽| 国产国拍精品亚洲av在线观看| 51国产日韩欧美| 亚洲欧美成人精品一区二区| 3wmmmm亚洲av在线观看| 久久国内精品自在自线图片| 免费一级毛片在线播放高清视频| 国产真实伦视频高清在线观看| 日韩av在线大香蕉| 国产综合懂色| 国产爱豆传媒在线观看| 国产黄色小视频在线观看| 别揉我奶头 嗯啊视频| 夜夜看夜夜爽夜夜摸| 五月玫瑰六月丁香| 亚洲精品国产av成人精品| 久久精品熟女亚洲av麻豆精品 | 男女那种视频在线观看| 亚洲真实伦在线观看| 国产高清有码在线观看视频| 老女人水多毛片| 中文欧美无线码| 日韩,欧美,国产一区二区三区 | 内地一区二区视频在线| 亚洲乱码一区二区免费版| 日韩亚洲欧美综合| 免费av不卡在线播放| 最近视频中文字幕2019在线8| 亚洲人成网站高清观看| 国产精品久久久久久精品电影| 成人鲁丝片一二三区免费| av在线蜜桃| 一区二区三区免费毛片| 色综合色国产| 免费观看性生交大片5| 99久久精品一区二区三区| 我的女老师完整版在线观看| 亚洲图色成人| av免费观看日本| 国产黄色视频一区二区在线观看 | 国产视频内射| 日韩av不卡免费在线播放| 国产亚洲av嫩草精品影院| 国语自产精品视频在线第100页| 青青草视频在线视频观看| 可以在线观看毛片的网站| 七月丁香在线播放| 中文字幕免费在线视频6| 久久99精品国语久久久| 简卡轻食公司| 精品熟女少妇av免费看| 插阴视频在线观看视频| 在线观看66精品国产| 青青草视频在线视频观看| 看片在线看免费视频| 日韩三级伦理在线观看| 色尼玛亚洲综合影院| 国产午夜精品久久久久久一区二区三区| 亚洲va在线va天堂va国产| 黄色一级大片看看| 99九九线精品视频在线观看视频| 欧美高清成人免费视频www| 最近最新中文字幕免费大全7| 99热这里只有精品一区| 欧美bdsm另类| 一卡2卡三卡四卡精品乱码亚洲| 亚洲精品,欧美精品| 人妻少妇偷人精品九色| 三级国产精品欧美在线观看| 性色avwww在线观看| 欧美不卡视频在线免费观看| 69av精品久久久久久| 国产免费男女视频| 视频中文字幕在线观看| 国产免费男女视频| 午夜亚洲福利在线播放| 精品少妇黑人巨大在线播放 | 欧美丝袜亚洲另类| 最近中文字幕2019免费版| 校园人妻丝袜中文字幕| 日日摸夜夜添夜夜添av毛片| 国产精品爽爽va在线观看网站| 精品国内亚洲2022精品成人| 精品午夜福利在线看| 老师上课跳d突然被开到最大视频| 免费播放大片免费观看视频在线观看 | 国产亚洲精品av在线| 国产男人的电影天堂91| av在线老鸭窝| 国产成人91sexporn| 国产精品久久电影中文字幕| av国产免费在线观看| 99热这里只有是精品在线观看| 91午夜精品亚洲一区二区三区| 国产精品久久久久久精品电影小说 | 亚洲aⅴ乱码一区二区在线播放| 熟妇人妻久久中文字幕3abv| 日本免费a在线| 国产伦一二天堂av在线观看| 视频中文字幕在线观看| 亚洲最大成人中文| 91久久精品国产一区二区成人| 国产探花极品一区二区| av视频在线观看入口| 天天一区二区日本电影三级| 欧美一区二区亚洲| 精品少妇黑人巨大在线播放 | 在线天堂最新版资源| 国模一区二区三区四区视频| 全区人妻精品视频| 2021少妇久久久久久久久久久| 亚洲国产高清在线一区二区三| 一区二区三区免费毛片| 国产av码专区亚洲av| 插阴视频在线观看视频| 国产成人精品久久久久久| 亚洲va在线va天堂va国产| 插逼视频在线观看| 一本一本综合久久| 日本免费一区二区三区高清不卡| 99热6这里只有精品| 日韩av不卡免费在线播放| 亚洲成人久久爱视频| 日本免费一区二区三区高清不卡| 99热全是精品| av播播在线观看一区| 干丝袜人妻中文字幕| 亚洲欧美日韩无卡精品| 中文字幕免费在线视频6| 久久精品夜夜夜夜夜久久蜜豆| 一卡2卡三卡四卡精品乱码亚洲| 久久精品国产自在天天线| 亚洲精品456在线播放app| 亚洲国产精品sss在线观看| 国产精品伦人一区二区| 精品国产三级普通话版| videos熟女内射| 亚洲av男天堂| 亚洲在线自拍视频| 又粗又硬又长又爽又黄的视频| 久久精品熟女亚洲av麻豆精品 | 女人十人毛片免费观看3o分钟| www.av在线官网国产| 少妇猛男粗大的猛烈进出视频 | 伊人久久精品亚洲午夜| av卡一久久| 色网站视频免费| 最后的刺客免费高清国语| 精品不卡国产一区二区三区| 国产精品熟女久久久久浪| 边亲边吃奶的免费视频| 国产乱来视频区| 亚洲自拍偷在线| 国产精品蜜桃在线观看| 精品久久久久久电影网 | 狂野欧美激情性xxxx在线观看| 午夜免费男女啪啪视频观看| 在线观看美女被高潮喷水网站| 天天一区二区日本电影三级| 久久午夜福利片| 精品不卡国产一区二区三区| 久久久久网色| 神马国产精品三级电影在线观看| 嘟嘟电影网在线观看| eeuss影院久久| 日本三级黄在线观看| 高清日韩中文字幕在线| 久久精品熟女亚洲av麻豆精品 | 91精品伊人久久大香线蕉| 免费av不卡在线播放| 亚洲欧美清纯卡通| 91久久精品电影网| 韩国高清视频一区二区三区| 少妇被粗大猛烈的视频| 高清在线视频一区二区三区 | 99久久人妻综合| 免费av毛片视频| 久久久久久久亚洲中文字幕| 国产一区二区亚洲精品在线观看| 国产伦一二天堂av在线观看| 毛片一级片免费看久久久久| 夜夜看夜夜爽夜夜摸| 1024手机看黄色片| 亚洲精品亚洲一区二区| 又爽又黄无遮挡网站| eeuss影院久久| 一卡2卡三卡四卡精品乱码亚洲| 成人欧美大片| 国产成年人精品一区二区| 秋霞伦理黄片| 一个人免费在线观看电影| 日韩,欧美,国产一区二区三区 | 亚洲精品aⅴ在线观看| 99热6这里只有精品| 美女大奶头视频| 亚洲美女搞黄在线观看| 国产精品,欧美在线| 亚洲丝袜综合中文字幕| 午夜亚洲福利在线播放| 国产老妇女一区| 欧美色视频一区免费| 欧美又色又爽又黄视频| 成年av动漫网址| 97超视频在线观看视频| 精品久久久久久久人妻蜜臀av| 青青草视频在线视频观看| 亚洲色图av天堂| 2021少妇久久久久久久久久久| 男女啪啪激烈高潮av片| 欧美成人免费av一区二区三区| 99久久精品热视频| 亚洲丝袜综合中文字幕| 一夜夜www| 美女脱内裤让男人舔精品视频| 在线免费十八禁| 国产精品福利在线免费观看| 久久精品国产鲁丝片午夜精品| 亚洲av免费在线观看| 少妇的逼水好多| 国产高清有码在线观看视频| 亚洲国产高清在线一区二区三| 亚洲人与动物交配视频| 国产不卡一卡二| 久久久久久久亚洲中文字幕| 日韩强制内射视频| 看免费成人av毛片| 一本久久精品| 日日啪夜夜撸| 亚洲人成网站在线播| 在线免费观看的www视频| 赤兔流量卡办理| 欧美激情在线99| 永久网站在线| 成人鲁丝片一二三区免费| 久久久成人免费电影| 久久精品熟女亚洲av麻豆精品 | 春色校园在线视频观看| 国产精品国产三级专区第一集| 一卡2卡三卡四卡精品乱码亚洲| 黑人高潮一二区| 日韩成人伦理影院| 欧美成人一区二区免费高清观看| 日韩一本色道免费dvd| 嘟嘟电影网在线观看| 九九久久精品国产亚洲av麻豆| 久久精品熟女亚洲av麻豆精品 | 99久久精品国产国产毛片| 2022亚洲国产成人精品| 久久草成人影院| 色综合亚洲欧美另类图片| 日韩一区二区视频免费看| 日本av手机在线免费观看| 欧美日韩一区二区视频在线观看视频在线 | 波多野结衣高清无吗| 精品99又大又爽又粗少妇毛片| av视频在线观看入口| 成人亚洲欧美一区二区av| 亚洲欧美中文字幕日韩二区| 黄片无遮挡物在线观看| 日本三级黄在线观看| 亚洲内射少妇av| 人妻制服诱惑在线中文字幕| 2021少妇久久久久久久久久久| av在线观看视频网站免费| 久久久久久久久久久丰满| 亚洲国产欧洲综合997久久,| 国产激情偷乱视频一区二区| 少妇猛男粗大的猛烈进出视频 | 黄色日韩在线| 亚洲最大成人手机在线| 美女大奶头视频| 国产成人a区在线观看| or卡值多少钱| 色网站视频免费| 99热全是精品| 七月丁香在线播放| 尾随美女入室| 日韩欧美精品免费久久| 久久热精品热| 亚洲美女搞黄在线观看| 精品久久国产蜜桃| 少妇熟女aⅴ在线视频| 99久久精品国产国产毛片| av播播在线观看一区| 蜜桃亚洲精品一区二区三区| 亚洲18禁久久av| 特级一级黄色大片| 两个人视频免费观看高清| 大话2 男鬼变身卡| 国产精品蜜桃在线观看| 床上黄色一级片| 岛国毛片在线播放| 国产精品美女特级片免费视频播放器| 精品久久久久久久久亚洲| 99热精品在线国产| 成人午夜高清在线视频| 日本免费一区二区三区高清不卡| 欧美极品一区二区三区四区| 亚洲自偷自拍三级| 看免费成人av毛片| 水蜜桃什么品种好| 久久99热这里只有精品18| 亚洲精华国产精华液的使用体验| 69av精品久久久久久| 在线观看av片永久免费下载| 久久久久久久久久久丰满| 久久久精品欧美日韩精品| 日韩成人伦理影院| 亚洲最大成人手机在线| 3wmmmm亚洲av在线观看| 免费一级毛片在线播放高清视频| 欧美成人a在线观看| 精品人妻偷拍中文字幕| 久久精品国产鲁丝片午夜精品| 中国国产av一级| 全区人妻精品视频| 91精品国产九色| 精品久久久久久久久av| h日本视频在线播放| 乱系列少妇在线播放| 成人国产麻豆网| 国产成人午夜福利电影在线观看| 久久久久九九精品影院| 亚洲欧美日韩无卡精品| 国产精品电影一区二区三区| 性插视频无遮挡在线免费观看| 午夜福利在线在线| 国产精品麻豆人妻色哟哟久久 | 免费看日本二区| 亚洲内射少妇av| 夫妻性生交免费视频一级片| 久久精品国产亚洲网站| 亚洲18禁久久av| 国产精品.久久久| 免费在线观看成人毛片| 热99在线观看视频| 亚洲精华国产精华液的使用体验| 美女cb高潮喷水在线观看| www日本黄色视频网| 少妇的逼水好多| 美女cb高潮喷水在线观看| 国产真实伦视频高清在线观看| 久久精品熟女亚洲av麻豆精品 | 久久精品夜色国产| av免费在线看不卡| 久久鲁丝午夜福利片| 水蜜桃什么品种好| 99久久中文字幕三级久久日本| 日本熟妇午夜| 午夜激情欧美在线| 亚洲av免费在线观看| 伦理电影大哥的女人| 99热6这里只有精品| 国产成年人精品一区二区| 女人久久www免费人成看片 | 国产成人91sexporn| 国产免费男女视频| 国产麻豆成人av免费视频| 免费不卡的大黄色大毛片视频在线观看 | 中文亚洲av片在线观看爽| 如何舔出高潮| or卡值多少钱| 我的老师免费观看完整版| 99久久成人亚洲精品观看|