• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能發(fā)展的社會風(fēng)險及監(jiān)管路徑研究

    2019-07-23 01:16:14臧阿月
    關(guān)鍵詞:社會風(fēng)險人工智能

    臧阿月

    摘 ?要:人工智能技術(shù)的出現(xiàn)和發(fā)展必然會引發(fā)一系列潛在風(fēng)險,包括倫理道德危機(jī)、技術(shù)濫用隱患、極化異化風(fēng)險以及軍事戰(zhàn)爭災(zāi)難等。與此同時,人工智能時代的到來也使得諸多法律問題陷入困境,如法律主體資格的確定、著作權(quán)的歸屬、侵權(quán)責(zé)任的認(rèn)定、人格權(quán)的保護(hù)以及無人駕駛汽車和替代勞工的相關(guān)問題等。對此,必須深入探究未來人工智能發(fā)展的監(jiān)管路徑,采取塑造多元價值目標(biāo)、構(gòu)建倫理規(guī)范體系、建立法律監(jiān)管制度和加強(qiáng)國際協(xié)同合作等措施,有效規(guī)避人工智能帶來的社會風(fēng)險和法律挑戰(zhàn),從而最大程度發(fā)揮人工智能的積極作用。

    關(guān)鍵詞:人工智能;社會風(fēng)險;法律挑戰(zhàn);監(jiān)管路徑

    中圖分類號:D922.17 ???????文獻(xiàn)標(biāo)識碼:A ?????????文章編號:1671-9255(2019)02-0047-05

    近年來,人工智能(Artificial Intelligence,AI)技術(shù)日趨成熟,已經(jīng)逐漸從封閉的科學(xué)實(shí)驗(yàn)領(lǐng)域進(jìn)入開放的商業(yè)應(yīng)用領(lǐng)域,人工智能產(chǎn)品也充斥于人們的日常生活,如智能手機(jī)、智能電視以及智能汽車等智能硬件和深度學(xué)習(xí)、圖像識別以及語言處理等智能軟件。雖然中外學(xué)界早已對AI技術(shù)的研究和運(yùn)用問題給予高度關(guān)注,各國政府也紛紛出臺相應(yīng)的人工智能發(fā)展戰(zhàn)略和政策,但人工智能存在的潛在風(fēng)險和面臨的法律困境卻并沒有得到足夠重視,盡管已有不少著名學(xué)者、科學(xué)家和企業(yè)家一再發(fā)出警告,如斯蒂芬·霍金、埃隆·馬斯克和比爾·蓋茨一直堅持認(rèn)為的“人工智能惡魔論”或“人工智能威脅論”。因此,基于人工智能技術(shù)的發(fā)展現(xiàn)狀,當(dāng)務(wù)之急便是探索多元化的監(jiān)管路徑來應(yīng)對人工智能技術(shù)引發(fā)的社會風(fēng)險和法律挑戰(zhàn)。

    一、當(dāng)下人工智能發(fā)展?fàn)顩r

    自21世紀(jì)初以來,人工智能浪潮以極其驚人的速度席卷全球。在IBM、Google、Facebook、Microsoft等國際領(lǐng)軍科技企業(yè)和百度、阿里巴巴、騰訊等國內(nèi)知名科技企業(yè)的帶領(lǐng)下,我國人工智能水平急速提升。根據(jù)《2018-2024年中國人工智能行業(yè)市場深度調(diào)研及未來發(fā)展趨勢報告》的數(shù)據(jù)顯示,在AI市場規(guī)模方面,2015年全球約為74億美元,預(yù)計到2024年將達(dá)到406億美元,我國約為12億美元,預(yù)計到2020年將達(dá)到91億美元。[1]另外,根據(jù)《烏鎮(zhèn)指數(shù):全球人工智能發(fā)展報告(2017)》的數(shù)據(jù)顯示,自2000年至2016年,在AI企業(yè)數(shù)量方面,全球新增8107家,我國新增1477家;在AI企業(yè)融資方面,全球約為288億美元,我國約為27億美元。[2]由此可見,人類將正式進(jìn)入新的社會時代

    ——人工智能時代。

    (一)國際社會高度重視

    1956年,在由約翰·麥卡錫、赫伯特·西蒙、艾倫·紐厄爾、馬文·閔斯基以及克勞德·香農(nóng)等眾多科學(xué)家參加的“達(dá)特茅斯(Dartmouth)會議”上,“人工智能”這一全新的標(biāo)志性概念被首次提出,正式宣告著人工智能的誕生。[3]后經(jīng)半個多世紀(jì)的發(fā)展,美國Google公司生產(chǎn)的AI機(jī)器人——“阿爾法狗(AlphaGo)”分別于2016年、2017年接連擊敗人類頂尖棋手李世石(韓國)、 柯潔(中國),將人工智能技術(shù)推向了迄今為止的歷史最高點(diǎn),引起了國際社會的廣泛關(guān)注。隨后,歐美等國和歐盟、聯(lián)合國等國際組織順應(yīng)人工智能時代潮流,相繼出臺了新一輪的人工智能發(fā)展戰(zhàn)略。

    美國作為目前全球科技發(fā)展的頭號強(qiáng)國,正在全面加強(qiáng)對人工智能技術(shù)的研究與開發(fā)。2016年,美國陸續(xù)發(fā)布了《為人工智能的未來做好準(zhǔn)備》(下稱《準(zhǔn)備》)、《國家人工智能研究和發(fā)展戰(zhàn)略計劃》(下稱《計劃》)以及《人工智能、自動化與經(jīng)濟(jì)報告》(下稱《報告》)等多份與人工智能相關(guān)的政策文件。其中,《準(zhǔn)備》詳細(xì)闡述了人工智能的現(xiàn)狀、趨勢、影響和對策;《計劃》全面構(gòu)建了美國人工智能未來的研發(fā)框架、戰(zhàn)略和方式;《報告》深度剖析了AI技術(shù)自動化對經(jīng)濟(jì)和就業(yè)產(chǎn)生的影響。[4]繼美國之后,歐洲各國也都紛紛著手部署人工智能戰(zhàn)略。英國發(fā)展人工智能最為積極,分別于2016年、2017年、2018年發(fā)布了《機(jī)器人技術(shù)和人工智能》、《人工智能:未來決策的機(jī)會和影響》、《在英國發(fā)展人工智能》以及《人工智能行業(yè)新政》等諸多報告,旨在成為全球人工智能技

    術(shù)的領(lǐng)導(dǎo)者;法國人工智能發(fā)展勢頭十分強(qiáng)勁。最新發(fā)布的《法國人工智能發(fā)展戰(zhàn)略》將重點(diǎn)放在了未來幾年法國人工智能技術(shù)的投資規(guī)模和應(yīng)用領(lǐng)域方面;德國人工智能發(fā)展具有極強(qiáng)的前瞻性。2011年率先提出的“工業(yè)4.0”戰(zhàn)略對人工智能發(fā)展做了基礎(chǔ)預(yù)判。2018年發(fā)布的《聯(lián)邦政府人工智能戰(zhàn)略要點(diǎn)》更是表示要將人工智能技術(shù)提升到世界領(lǐng)先水平。

    另外,國際組織尤為重視人工智能發(fā)展。早在2014年,歐盟便發(fā)布了《2014-2020歐洲機(jī)器人技術(shù)戰(zhàn)略》來促進(jìn)AI機(jī)器人行業(yè)的快速發(fā)展。由于該戰(zhàn)略具有局限性,無法完全適用于整個人工智能行業(yè)的發(fā)展,歐盟于2018年4月發(fā)布《歐盟人工智能》報告,較為具體地制訂了日后的AI行動計劃。2016年,聯(lián)合國發(fā)布了《關(guān)于機(jī)器人倫理的草案報告》,呼吁世界各國在AI領(lǐng)域加強(qiáng)合作,共同應(yīng)對機(jī)器人引發(fā)的倫理問題和法律難題。

    (二)國內(nèi)持續(xù)蓬勃發(fā)展

    現(xiàn)階段,我國人工智能的發(fā)展速度相當(dāng)迅猛,發(fā)展?jié)摿O其巨大。

    首先,在國家政策方面,我國近幾年先后制訂了若干人工智能戰(zhàn)略規(guī)劃以此來支持人工智能技術(shù)研發(fā)和產(chǎn)業(yè)發(fā)展。伴隨《“十三五”國家科技創(chuàng)新規(guī)劃》、《新一代人工智能發(fā)展規(guī)劃》、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)》以及《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》等文件的陸續(xù)出臺和落地實(shí)施,我國人工智能已經(jīng)迎來了政策紅利期和發(fā)展黃金期。[5]其次,在技術(shù)研發(fā)方面,我國目前的數(shù)據(jù)資源十分豐富,計算機(jī)運(yùn)算速度非常迅速。人工智能技術(shù)是對大量數(shù)據(jù)進(jìn)行分析,通過不斷調(diào)整尋求最佳結(jié)果的過程,數(shù)據(jù)資源豐富與否對于人工智能技術(shù)研發(fā)至關(guān)重要。21世紀(jì)初以來,我國互聯(lián)網(wǎng)技術(shù)的廣泛應(yīng)用使得數(shù)據(jù)信息能夠得以快速有效收集和儲存,這為人工智能技術(shù)研發(fā)提供了海量的數(shù)據(jù)資源。此外,我國早在2013年就擁有了全球運(yùn)算速度最快的計算機(jī)——“天河二號”,這為人工智能技術(shù)研發(fā)提供了有力的技術(shù)支撐。再次,在人才儲備方面,我國AI領(lǐng)域的技術(shù)人才總量在國際上位居第二,僅次于美國。多年以來,我國特別重視教育發(fā)展,通過科教興國、人才強(qiáng)國等戰(zhàn)略的實(shí)施,培養(yǎng)了眾多有著良好數(shù)理基礎(chǔ)的研究型人才,為人工智能發(fā)展奠定了人才基礎(chǔ)。最后,在市場需求方面,我國經(jīng)濟(jì)發(fā)展亟待人工智能這一新興科技提供動力支撐。近年來,我國勞動力成本逐年上升,傳統(tǒng)人口紅利正在面臨消失危機(jī),產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級已經(jīng)刻不容緩,人工智能的崛起能夠有效促進(jìn)我國部分產(chǎn)業(yè)的自動化生產(chǎn),從而有助于降低生產(chǎn)成本、解決人口紅利危機(jī)、促進(jìn)經(jīng)濟(jì)快速發(fā)展。

    二、人工智能存在的社會風(fēng)險

    (一)倫理道德危機(jī)

    人工智能技術(shù)的發(fā)展給人類社會崇尚的倫理道德帶來諸多危機(jī)。一方面,人工智能產(chǎn)品在自主化運(yùn)行過程中極容易出現(xiàn)妄言、亂舉等違反人道主義的惡性事件。主要包括以下三種情形:第一,算法歧視現(xiàn)象。從表面上看,人工智能算法似乎僅僅只是一種由輸入到輸出的客觀數(shù)學(xué)表達(dá),與人類的價值觀毫無關(guān)聯(lián),但實(shí)際上卻內(nèi)在隱含著各種主觀歧視,包括性別歧視、種族歧視和職業(yè)歧視等,如在Google網(wǎng)站輸入黑人名字進(jìn)行搜索時,犯罪相關(guān)信息出現(xiàn)的概率要比搜索白人名字高得多。[6]與個人歧視的局部性不同,算法歧視是系統(tǒng)化的,一旦形成將對整個社會的公正倫理道德觀造成嚴(yán)重影響。第二,人類情感危機(jī)。從現(xiàn)有研究成果看,已經(jīng)出現(xiàn)了可以感知人類情緒包括分享人類快樂和撫慰人類悲傷的陪伴型機(jī)器人,未來還會出現(xiàn)伴侶型或性愛型機(jī)器人,這無疑是對人類情感需求和社會倫理道德的重大顛覆。第三,人文精神危機(jī)。從目前發(fā)展趨勢看,互聯(lián)網(wǎng)正在使人類變得愈發(fā)孤立、冷漠,可以預(yù)見,人類的自主行為在不久的將來會逐漸被人工智能的模擬行為所取代,人類生存和發(fā)展的意義將不復(fù)存在,人文精神也會日漸衰落。另一方面,人類與生俱來的優(yōu)勢心態(tài),使其在使用人工智能產(chǎn)品過程中極容易出現(xiàn)侮辱、謾罵,甚至毆打、虐待等暴力行為,特別是當(dāng)智能機(jī)器人無限接近于人類時,人類錯誤的價值取向必然很難堅守住社會倫理道德底線。

    (二)技術(shù)濫用隱患

    當(dāng)人工智能技術(shù)逐步成為社會發(fā)展的主導(dǎo)力量時,一旦被肆意濫用,引發(fā)的社會危機(jī)則不可小覷。例如,AI機(jī)器人出現(xiàn)帶來的失業(yè)危機(jī)和經(jīng)濟(jì)動蕩,AI創(chuàng)作平臺廣泛應(yīng)用造成的文化坍塌,甚至發(fā)展到一定程度后與人類生活息息相關(guān)的AI技術(shù)或?qū)?dǎo)致的政治變革。另外,人工智能技術(shù)濫用還會滋生信息泄露、安全風(fēng)險、侵權(quán)行為以及網(wǎng)絡(luò)犯罪等一系列社會問題。對此,OpenAI和Oxford、Cambridge等世界頂尖學(xué)府和其他多家知名機(jī)構(gòu)聯(lián)合發(fā)布了一份預(yù)警AI惡意使用的報告,報告中深刻分析了AI在未來5年內(nèi)遭到濫用的各項(xiàng)風(fēng)險,并提出了多種防范措施。[7]由此可見,人工智能技術(shù)濫用隱患必須引起人類足夠重視,勢必將其扼殺于搖籃。

    (三)極化異化風(fēng)險

    對于極化風(fēng)險,互聯(lián)網(wǎng)背景下大數(shù)據(jù)時代的到來雖然給人工智能技術(shù)的研發(fā)提供了海量數(shù)據(jù)資源,但它帶來的惡性現(xiàn)象或?qū)⑹秦毟粯O化。具體來說,未來人類社會地位和金錢財富的獲得更多的是依靠占有數(shù)據(jù)信息和運(yùn)用智能算法,而不再是僅僅依賴于勞動和投資,例如國外Google、Microsoft和國內(nèi)阿里、騰訊等大型企業(yè)掌握的數(shù)據(jù)信息和算法技術(shù)是創(chuàng)業(yè)公司和小微企業(yè)無法望其項(xiàng)背的,它們就能夠通過信息壟斷和算法活用等手段在非常短的時間內(nèi)獲得巨額財富。

    對于異化風(fēng)險,國內(nèi)外不少專家學(xué)者認(rèn)為,人類目前正在無比積極、主動地創(chuàng)造一個比自身更為先進(jìn)的強(qiáng)大物種,也就是說未來人工智能的智力水平或?qū)⑦h(yuǎn)遠(yuǎn)超越人類。可以預(yù)見,隨著技術(shù)不斷成熟,人工智能的智商和情商發(fā)生異化與畸變的可能與日俱增,那時人類將無法完全預(yù)測其自主獨(dú)立化的思維方式,一旦出現(xiàn)技術(shù)失控,對人類造成的影響和破壞將是毀滅性的。

    (四)軍事戰(zhàn)爭災(zāi)難

    不難想象,成熟之日的人工智能必然要應(yīng)用到軍事戰(zhàn)爭領(lǐng)域,它將改變傳統(tǒng)的軍事戰(zhàn)爭方式,對人類造成的危險性和破壞性絲毫不遜于如今的核武器。也就是說,未來的戰(zhàn)場上會有一批“智能武器”,如作戰(zhàn)冷血、毫無惻隱之心的戰(zhàn)爭機(jī)器人,人類彼此之間正面交戰(zhàn)的幾率會逐漸減少直至為零,只需通過一個簡單指令就能遠(yuǎn)程操控“智能武器”,各國摩擦?xí)兊糜宇l繁,戰(zhàn)爭門檻會變得更低。[8]從表面上看,智能武器在軍事戰(zhàn)爭領(lǐng)域的應(yīng)用貌似很大程度上降低了士兵傷亡的比率,但實(shí)際上智能戰(zhàn)爭的殘忍程度和毀滅程度是傳統(tǒng)戰(zhàn)爭根本無法比擬的。另外,“人工智能恐怖主義”或?qū)⑾砣颉?/p>

    三、人工智能面臨的法律挑戰(zhàn)

    (一)法律主體資格問題

    在民法理論中,民事主體必須具有獨(dú)立人格,也就是說,民事主體要么是具有自然屬性的自然人,要么是具有法律屬性的法人,因而在微觀層面上,很難將智能機(jī)器人認(rèn)定為民事主體。[9]從宏觀層面看,智能機(jī)器人不具備法律主體資格的原因有以下幾點(diǎn):首先,智能機(jī)器人通常都是作為輔助角色存在于人類生活中。即便日后它具有了超強(qiáng)的自主學(xué)習(xí)能力,但就獨(dú)立思維和價值判斷來說,智能機(jī)器人只能是無限接近于人類,永遠(yuǎn)無法超越人類,因而賦予其人類享有的法律主體資格并不合理。其次,法律主體除了具有權(quán)利能力外,還應(yīng)當(dāng)具有責(zé)任能力,智能機(jī)器人根本沒有經(jīng)濟(jì)能力去承擔(dān)任何的法律責(zé)任。最后,在智能機(jī)器人還未實(shí)現(xiàn)完全自主化之前,其啟動運(yùn)行都是基于研發(fā)者的設(shè)定或使用者的操控,若將此種情況下產(chǎn)生的否定性法律后果直接歸于智能機(jī)器人,即讓智能機(jī)器人作為法律主體承擔(dān)法律責(zé)任并不妥當(dāng)。

    (二)著作權(quán)問題

    2017年,“微軟小冰”(人工智能機(jī)器人)創(chuàng)作出人類歷史上首部人工智能作品——《陽光失了玻璃窗》。由此引出一個新問題:人工智能生成作品能否受到《著作權(quán)法》保護(hù)?具體須作以下分析。

    第一,智能機(jī)器人創(chuàng)作的作品是否享有著作權(quán)?答案是肯定的。《著作權(quán)法》保護(hù)的作品勢必要具有獨(dú)創(chuàng)性特征,并且該特征僅針對作品的表現(xiàn)形式,至于作品內(nèi)在蘊(yùn)含的信息、技法、思想以及價值等在所不問。[10]也就是說,智能機(jī)器人創(chuàng)作的作品,只要是由其獨(dú)立完成,而非抄襲或剽竊他人作品,就應(yīng)當(dāng)受《著作權(quán)法》保護(hù),即享有著作權(quán)。第二,著作權(quán)應(yīng)歸屬于智能機(jī)器人還是智能機(jī)器人的研發(fā)者或所有者?毫無疑問應(yīng)當(dāng)歸屬于后者。由于智能機(jī)器人主要是依靠數(shù)據(jù)分析和算法技術(shù)進(jìn)行創(chuàng)作,因而創(chuàng)作的技術(shù)路徑完全都是由人類設(shè)定。據(jù)此,可以借鑒雇傭作品或職務(wù)作品的相關(guān)法律規(guī)定,將著作權(quán)歸屬于研發(fā)者或所有者。

    (三)侵權(quán)責(zé)任問題

    以智能機(jī)器人為例。一方面,如果是人類侵害智能機(jī)器人,就必須首先認(rèn)定智能機(jī)器人是否具備法律主體資格。若持肯定觀點(diǎn),則侵權(quán)人必須承擔(dān)民事侵權(quán)責(zé)任,達(dá)到犯罪程度應(yīng)以故意傷害罪或故意殺人罪追究其刑事責(zé)任;若持否定觀點(diǎn),則侵權(quán)人亦須承擔(dān)民事侵權(quán)責(zé)任,達(dá)到犯罪程度應(yīng)以毀壞財物罪追究其刑事責(zé)任。另一方面,如果是智能機(jī)器人致人損害,可分兩種情形:一是人類故意操控智能機(jī)器人給他人造成損害,此時侵權(quán)責(zé)任毫無疑問應(yīng)由侵權(quán)人承擔(dān);二是智能機(jī)器人自主行為直接給他人造成損害,如工業(yè)機(jī)器人在生產(chǎn)中造成工人死亡,手術(shù)機(jī)器人在治療中造成病人死亡等,這種情況下要看智能機(jī)器人的設(shè)計者、制造者以及使用者是否存有過失。若有,則可按照產(chǎn)品侵權(quán)追究相關(guān)人員的責(zé)任;若無,也就是說完全是智能機(jī)器人的“擅自所為”,此時可參照替代責(zé)任(如雇傭關(guān)系中的雇主替代責(zé)任)追究相關(guān)人員的責(zé)任。[11]

    (四)人格權(quán)問題

    人工智能技術(shù)的發(fā)展對人格權(quán)中隱私權(quán)的侵害最為嚴(yán)重。據(jù)報道,2017年5月,Google公司旗下的DeepMind(人工智能企業(yè))大規(guī)模獲取了英國三家醫(yī)院數(shù)百萬名萬病人的隱私數(shù)據(jù)(包括艾滋病、吸毒、墮胎等信息),引起軒然大波。[12]由此可見,未來人類社會必然是“互聯(lián)網(wǎng)+大數(shù)據(jù)+人工智能”的時代,人類將毫無隱私可言,就如作家洛麗·安德魯斯在書中所述,未來社會將不再僅僅是無隱私或零隱私社會,而是負(fù)隱私社會。在傳統(tǒng)社會,人類隱私泄露是個體性的,但在未來甚至現(xiàn)在隱私泄露就是集體性的、社會性的。因而,人工智能時代的隱私保護(hù)至少要做到以下三點(diǎn):一為增強(qiáng)自我隱私保護(hù)意識;二為強(qiáng)化企業(yè)隱私保護(hù)責(zé)任;三為加快隱私保護(hù)立法進(jìn)程。

    (五)無人駕駛汽車問題

    無人駕駛汽車給現(xiàn)有的交通法律體系帶來諸多挑戰(zhàn)。主要有以下三方面。 第一,規(guī)制對象發(fā)生轉(zhuǎn)變。無人駕駛汽車的出現(xiàn)使得駕駛?cè)烁拍钪饾u消失。駕駛?cè)说鸟{駛技能(是否通過駕駛證考試)亦不再是交通法律規(guī)定的準(zhǔn)入資格。也就是說,交通法律規(guī)制對象不會局限于駕駛?cè)?,智能汽車的研發(fā)者或制造者也會被納入規(guī)制對象范圍。第二,責(zé)任體系面臨重構(gòu)。在傳統(tǒng)的交通法律體系中,交通事故的責(zé)任認(rèn)定一般以過錯責(zé)任為原則。對于無人駕駛汽車造成的交通事故,根本無從考察人工智能汽車的主觀過錯,其責(zé)任認(rèn)定只能看造成的結(jié)果。第三,監(jiān)管重心出現(xiàn)變化。在傳統(tǒng)駕駛中,駕駛?cè)说鸟{駛技能是交通管理部門監(jiān)管的重中之重,另外還包括汽車裝置的安全性能。在智能駕駛中,交通管理部門的監(jiān)管重心變成了智能汽車內(nèi)部的一系列軟硬件,如傳感器系統(tǒng)、緊急避險系統(tǒng)以及智能感知技術(shù)(通過語音、視像識別“理解”駕駛?cè)艘庠福┑取?/p>

    (六)替代勞工問題

    未來,智能機(jī)器人將大規(guī)模進(jìn)入各個行業(yè)領(lǐng)域,雖然可以極大地提高社會生產(chǎn)效率,降低社會生產(chǎn)成本,但也會引發(fā)一系列社會問題,如最直接的失業(yè)率急速上升問題和嚴(yán)重威脅社會穩(wěn)定問題。牛津大學(xué)的一份調(diào)研報告顯示,未來智能機(jī)器人將會取代數(shù)以萬計的非技術(shù)工種,包括收銀員、快遞員、信貸員、司機(jī)、文秘、工人、農(nóng)民等。目前智能分揀技術(shù)已經(jīng)進(jìn)入快遞行業(yè)。[13]智能機(jī)器人能否納入勞動法調(diào)整范疇?這是肯定的。歐盟早在2016年就已經(jīng)提交動議,要求賦予智能機(jī)器人以“工人”身份,享有勞動權(quán)。同時,又該如何保護(hù)大批下崗職工的合法權(quán)益?下崗職工更多的是依靠微薄的社會保障金維持生活,因此完善社會保障法律制度成為保護(hù)下崗職工合法權(quán)益的應(yīng)有之義。

    四、人工智能未來的監(jiān)管路徑

    (一)塑造多元價值目標(biāo)

    塑造多元價值目標(biāo)是制定人工智能監(jiān)管措施的最本質(zhì)追求。首先,塑造正義的普適價值目標(biāo)。正義價值內(nèi)在蘊(yùn)含人格正義、秩序正義、法律正義、道德正義等。它是人工智能時代下構(gòu)建倫理道德規(guī)范體系和建立法律監(jiān)管制度的正當(dāng)性基礎(chǔ),能夠幫助消滅算法歧視和大數(shù)據(jù)“殺熟”等惡性事件。其次,塑造安全的核心價值目標(biāo)。人工智能技術(shù)雖還未完全成熟,但人類對其即將引發(fā)的安全問題已經(jīng)充滿擔(dān)憂,擬人之禍、濫用之患、異化之險以及軍工之孽等都嚴(yán)重威脅著人類社會的安全與穩(wěn)定,因而塑造以安全為核心的價值目標(biāo)對監(jiān)管人工智能發(fā)展極為重要。[14]再次,塑造創(chuàng)新的靈魂價值目標(biāo)。面對人工智能革命,創(chuàng)新理念必須貫穿其中。無論是謀劃宏觀層面上的人工智能國家發(fā)展戰(zhàn)略,還是制定微觀層面上的人工智能產(chǎn)業(yè)促進(jìn)政策,創(chuàng)新激勵機(jī)制的構(gòu)建必不可少。最后,塑造和諧的終極價值目標(biāo)。人工智能產(chǎn)品的性能安全、人工智能技術(shù)的良性發(fā)展以及人工智能社會的安定有序都要求所有的人工智能監(jiān)管措施都必須將和諧價值作為指引方向。

    (二)構(gòu)建倫理規(guī)范體系

    近年來,由于各國針對人工智能監(jiān)管的配套法律法規(guī)尚未成型,因而亟須構(gòu)建一套切實(shí)可行的倫理規(guī)范體系。第一,各國應(yīng)當(dāng)在中央和地方分別設(shè)立“人工智能倫理委員會”,由其制定統(tǒng)一《人工智能倫理章程》,為人工智能技術(shù)研發(fā)預(yù)設(shè)道德標(biāo)準(zhǔn);第二,人工智能行業(yè)組織(如日本人工智能學(xué)會)和公司企業(yè)(如Google)要在內(nèi)部設(shè)置相應(yīng)的倫理委員會,制定科學(xué)規(guī)范的倫理管理規(guī)章制度,包括對科研人員和專家學(xué)者道德約束,對技術(shù)研發(fā)和產(chǎn)品應(yīng)用道德指引等,同時還應(yīng)定期主動召開人工智能安全研發(fā)例會,并及時向政府人工智能倫理委員會匯報。

    (三)建立法律監(jiān)管制度

    對于人工智能技術(shù)引發(fā)的一系列潛在風(fēng)險和法律難題,必須建立全方位的法律監(jiān)管制度。第一,事前應(yīng)預(yù)防。構(gòu)建前瞻性的安全監(jiān)測預(yù)警機(jī)制,將未來人工智能技術(shù)可能造成的惡性事件量化為“特別重大、重大、較大、一般”四個等級,當(dāng)惡性事件突發(fā)時立即對其發(fā)展動向和不良影響進(jìn)行研判、評估和預(yù)防,并及時向社會發(fā)布預(yù)警信息。[15]第二,事中須管控。開發(fā)新型的人工智能測試平臺,對人工智能系統(tǒng)和產(chǎn)品的各項(xiàng)性能(主要是安全性能)進(jìn)行實(shí)時監(jiān)測;建設(shè)動態(tài)的人工智能評價機(jī)制,對人工智能系統(tǒng)和產(chǎn)品的風(fēng)險性、危害性等進(jìn)行定期評估;實(shí)施全面的人工智能監(jiān)管結(jié)構(gòu),對人工智能從研發(fā)到應(yīng)用進(jìn)行全程監(jiān)管,包括設(shè)計問責(zé)、制造監(jiān)督和使用管控。第三,事后必監(jiān)督。新設(shè)專門的人工智能監(jiān)管機(jī)構(gòu)——“人工智能監(jiān)管委員會”(可與“人工智能倫理委員會”合并為“人工智能發(fā)展委員會”)對人工智能技術(shù)進(jìn)行監(jiān)督,加大對技術(shù)濫用(如算法合謀、侵犯隱私)行為的處罰力度,同時督促行業(yè)和企業(yè)采取自律監(jiān)管措施。

    (四)加強(qiáng)國際協(xié)同合作

    世界各國政府和全球國際組織應(yīng)在未來人工智能監(jiān)管中扮演組織機(jī)構(gòu)的角色,協(xié)調(diào)各方利益沖突,構(gòu)建全球治理聯(lián)盟。[16]一方面,世界各國在不斷加大人工智能研發(fā)投入力度的同時,也應(yīng)劃撥專項(xiàng)資金用于研究人工智能極化異化、技術(shù)濫用等國際安全問題,鼓勵引導(dǎo)企業(yè)、公眾(包括專家學(xué)者和普通百姓)等多方社會主體參與人工智能監(jiān)管;另一方面,國際組織就人工智能發(fā)展方向與應(yīng)用領(lǐng)域問題必須制定統(tǒng)一的國際條約,做出明確禁止性規(guī)定(負(fù)面清單),形成全球性的人工智能技術(shù)風(fēng)險控制機(jī)制。另外,在人工智能時代下須強(qiáng)化“人類命運(yùn)共同體”意識。各國都應(yīng)在謀求本國人工智能發(fā)展利益的同時合理兼顧他國利益,最大限度防范人工智能技術(shù)的不可逆危機(jī),共同推進(jìn)人工智能社會安定有序發(fā)展。

    五、結(jié)語

    站在人工智能時代的風(fēng)口,我國必須牢牢抓住發(fā)展機(jī)遇,積極主動作為,全面推動人工智能經(jīng)濟(jì)快速發(fā)展,但同時人工智能技術(shù)帶來的諸多社會風(fēng)險和法律挑戰(zhàn)也不容我們忽視。因此,為了確保人工智能能夠健康持續(xù)發(fā)展,必須做好前瞻預(yù)防和后續(xù)監(jiān)管工作,其中,塑造多元價值目標(biāo)是前提,德治(構(gòu)建倫理規(guī)范體系)與法治(建立法律監(jiān)管制度)相結(jié)合是關(guān)鍵,構(gòu)建全球人工智能治理聯(lián)盟是保障??傊挥袑θ斯ぶ悄芗夹g(shù)發(fā)展采取多元化的監(jiān)管措施,才能迎來一個美好安全的嶄新時代。

    參考文獻(xiàn):

    [1]智研咨詢.2018-2024年中國人工智能行業(yè)市場深度調(diào)研及未來發(fā)展趨勢報告[EB/OL].[2019-01-02]. http://www.

    chyxx.com/research/201807/657002.html.

    [2]烏鎮(zhèn)智庫.烏鎮(zhèn)指數(shù):全球人工智能發(fā)展報告2017 [EB/OL].[2017-08-10].https://www.useit.com.cn/thread-16182-1-1.html.

    [3]閆坤如.人工智能的道德風(fēng)險及其規(guī)避路徑[J].上海師范大學(xué)學(xué)報,2018(2):40-47.

    [4]尹昊智,劉鐵志.人工智能各國戰(zhàn)略解讀:美國人工智能報告解析[J].電信網(wǎng)技術(shù),2017(2):52-57.

    [5]潘敬萍.我國人工智能發(fā)展現(xiàn)狀與應(yīng)對策略研究[J].現(xiàn)代商業(yè),2018(21):25-28.

    [6]周程,和鴻鵬.人工智能帶來的倫理與社會挑戰(zhàn)[J].人民論壇,2018(2):26-28.

    [7]搜狐網(wǎng).OpenAI等機(jī)構(gòu)發(fā)布《人工智能惡意使用》報告,利用AI來犯罪只是時間問題[EB/OL].[2018-02-24].

    http://www.sohu.com/a/223853051_651893.

    [8]張敏,李倩.人工智能應(yīng)用的安全風(fēng)險及法律防控[J].西北工業(yè)大學(xué)學(xué)報,2018(3):108-115.

    [9]王利明.人工智能時代提出的法學(xué)新課題[J].中國法律評論,2018(2):1-4.

    [10]吳漢東.人工智能時代的冷思考[J].中國報業(yè),2018(3):60-61.

    [11]雷悅.人工智能發(fā)展中的法律問題探析[J].北京郵電大學(xué)學(xué)報,2018(1):17-24.

    [12]搜狐網(wǎng).即將進(jìn)入手機(jī)人工智能時代,你的隱私安全誰來保護(hù)?[EB/OL].[2018-10-10].http://www.sohu.com/

    a/197491521_610727,2017-10-11.

    [13]199IT.牛津大學(xué):預(yù)測2035年美國數(shù)百萬勞動力將被機(jī)器人取代[EB/OL].[2018-10-10].http://www.199it.com/

    archives/591916.html.

    [14]吳漢東.人工智能時代的制度安排與法律規(guī)制[J].法律科學(xué),2017(5):128-136.

    [15]黨家玉.人工智能的倫理與法律風(fēng)險問題研究[J].信息安全研究,2017(12):1080-1090.

    [16]馬治國,徐濟(jì)寬.人工智能發(fā)展的潛在風(fēng)險及法律防控監(jiān)管[J].北京工業(yè)大學(xué)學(xué)報,2018(6):65-71.

    Abstract: The emergence and development of AI technology will inevitably lead to a series of potential risks, including ethical and moral crisis, hidden dangers of technology abuse, risk of polarization and alienation, military war disaster, etc. At the same time, the advent of the AI era has caused many problems related to law, such as the determination of the qualification of legal subject, the copyright ownership, and the determination of tort liability, the protection of personality rights, issues related to driverless cars and substitute workers and so on. Therefore, it is necessary to deeply explore the supervision path for AI development in the future, and take measures to effectively avoid the potential AI-related social risks and legal challenges, such as setting up goals with diversified values, building a system of ethical norm, establishing a legal supervision system and strengthening international cooperation, so as to maximize the positive role of AI.

    Key Words: AI (artificial intelligence); social risk; legal challenge; supervision path

    猜你喜歡
    社會風(fēng)險人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    公眾網(wǎng)絡(luò)安全素養(yǎng)如何提升
    人民論壇(2017年1期)2017-02-18 15:55:03
    網(wǎng)絡(luò)社會風(fēng)險規(guī)律及其因應(yīng)策略
    網(wǎng)絡(luò)社會風(fēng)險規(guī)律及其因應(yīng)策略
    下一幕,人工智能!
    下一幕,人工智能!
    低壓集抄改造項(xiàng)目的社會風(fēng)險管理研究
    科技視界(2016年13期)2016-06-13 17:35:37
    少妇丰满av| 在线观看人妻少妇| 人人妻人人澡人人爽人人夜夜 | 久久午夜福利片| 亚洲精品中文字幕在线视频 | 国产欧美另类精品又又久久亚洲欧美| 91在线精品国自产拍蜜月| 麻豆乱淫一区二区| 大又大粗又爽又黄少妇毛片口| 夫妻性生交免费视频一级片| 26uuu在线亚洲综合色| 欧美性感艳星| 欧美丝袜亚洲另类| 人人妻人人看人人澡| 亚洲成人av在线免费| 国产永久视频网站| 国产精品三级大全| 免费黄色在线免费观看| 久久久欧美国产精品| 精品一区二区三区人妻视频| 亚洲av免费在线观看| 国产精品久久视频播放| 色尼玛亚洲综合影院| 日韩,欧美,国产一区二区三区| 汤姆久久久久久久影院中文字幕 | 又爽又黄a免费视频| 天天一区二区日本电影三级| av免费观看日本| 免费大片18禁| 极品教师在线视频| 精品酒店卫生间| 亚洲欧美精品专区久久| 国产视频首页在线观看| 人妻少妇偷人精品九色| 久久久精品免费免费高清| 免费观看a级毛片全部| 国产视频首页在线观看| 婷婷色av中文字幕| 国产精品一区二区三区四区免费观看| 精品国产三级普通话版| 欧美xxxx黑人xx丫x性爽| 免费黄网站久久成人精品| 国内精品一区二区在线观看| 日韩不卡一区二区三区视频在线| 69av精品久久久久久| 亚洲精品456在线播放app| 国产成人一区二区在线| 在线观看一区二区三区| 一本久久精品| 可以在线观看毛片的网站| av在线蜜桃| 亚洲18禁久久av| 日本爱情动作片www.在线观看| a级毛色黄片| 18+在线观看网站| 亚洲激情五月婷婷啪啪| 免费看美女性在线毛片视频| 男人狂女人下面高潮的视频| 亚洲经典国产精华液单| 国产成人免费观看mmmm| 成年人午夜在线观看视频 | 免费少妇av软件| 全区人妻精品视频| 亚洲国产欧美在线一区| 在线免费观看不下载黄p国产| 波多野结衣巨乳人妻| 男女啪啪激烈高潮av片| 色综合站精品国产| 亚洲一区高清亚洲精品| 人人妻人人看人人澡| 日日啪夜夜撸| 69av精品久久久久久| 亚洲久久久久久中文字幕| 女人久久www免费人成看片| eeuss影院久久| 久久6这里有精品| 女的被弄到高潮叫床怎么办| 伊人久久精品亚洲午夜| 亚洲av.av天堂| 春色校园在线视频观看| a级一级毛片免费在线观看| 中文天堂在线官网| 狂野欧美激情性xxxx在线观看| 最近的中文字幕免费完整| 久久久欧美国产精品| 亚洲乱码一区二区免费版| 听说在线观看完整版免费高清| 久久精品国产亚洲网站| 黄色一级大片看看| 一级毛片 在线播放| 春色校园在线视频观看| 免费av观看视频| 只有这里有精品99| 午夜福利视频精品| 精品一区二区三卡| 中文欧美无线码| 国产视频首页在线观看| 久久久久九九精品影院| 成人综合一区亚洲| 亚洲精品视频女| 又粗又硬又长又爽又黄的视频| 亚洲最大成人av| 久久99热6这里只有精品| 国产乱人偷精品视频| 人妻制服诱惑在线中文字幕| 七月丁香在线播放| 少妇人妻精品综合一区二区| 久久鲁丝午夜福利片| 久久久久精品久久久久真实原创| 大香蕉97超碰在线| av专区在线播放| 亚洲精品亚洲一区二区| 嫩草影院新地址| 午夜福利成人在线免费观看| 精品一区二区三区人妻视频| 久久久久久久午夜电影| 亚洲国产成人一精品久久久| 国产精品一区二区性色av| 男女边吃奶边做爰视频| 久久久久久久大尺度免费视频| 国产精品一区二区在线观看99 | 特大巨黑吊av在线直播| 亚洲国产高清在线一区二区三| 欧美精品国产亚洲| 久久99热6这里只有精品| 成人高潮视频无遮挡免费网站| 黄片wwwwww| 日韩欧美精品免费久久| 看黄色毛片网站| 亚洲自拍偷在线| 在线观看免费高清a一片| 极品少妇高潮喷水抽搐| 蜜臀久久99精品久久宅男| 一夜夜www| 蜜桃久久精品国产亚洲av| 欧美最新免费一区二区三区| 国产亚洲最大av| 男人狂女人下面高潮的视频| 国产免费福利视频在线观看| 日本免费a在线| 亚洲不卡免费看| 成年女人看的毛片在线观看| 在线观看美女被高潮喷水网站| 亚洲av电影不卡..在线观看| 国产精品久久久久久久电影| 欧美另类一区| 亚洲不卡免费看| 大话2 男鬼变身卡| 国产黄片视频在线免费观看| 99久久人妻综合| 欧美日韩一区二区视频在线观看视频在线 | 插逼视频在线观看| 中国国产av一级| 精品久久久久久成人av| 纵有疾风起免费观看全集完整版 | 欧美一级a爱片免费观看看| 亚洲精品亚洲一区二区| 国产精品久久久久久av不卡| 亚洲人成网站高清观看| 亚洲熟女精品中文字幕| 能在线免费看毛片的网站| 国产成人a区在线观看| 在线观看av片永久免费下载| 91精品伊人久久大香线蕉| 亚洲av成人精品一区久久| 久久精品人妻少妇| 丰满少妇做爰视频| 99久久精品一区二区三区| 国产精品福利在线免费观看| 美女cb高潮喷水在线观看| 天堂av国产一区二区熟女人妻| 亚洲欧美精品专区久久| 日韩亚洲欧美综合| 人妻一区二区av| 日韩制服骚丝袜av| 精品人妻熟女av久视频| 亚洲最大成人中文| 国产 亚洲一区二区三区 | 精品一区二区三区视频在线| 欧美激情国产日韩精品一区| 爱豆传媒免费全集在线观看| 婷婷色av中文字幕| 久久久久久九九精品二区国产| 国产黄色小视频在线观看| 久久精品国产亚洲av天美| 纵有疾风起免费观看全集完整版 | 精品久久久久久久人妻蜜臀av| 美女主播在线视频| 国产片特级美女逼逼视频| 高清视频免费观看一区二区 | 亚洲av中文字字幕乱码综合| 久久这里只有精品中国| 亚洲人与动物交配视频| 免费大片黄手机在线观看| 色吧在线观看| 麻豆乱淫一区二区| 国产精品一区二区性色av| 午夜亚洲福利在线播放| 国产精品麻豆人妻色哟哟久久 | 九九爱精品视频在线观看| 成人毛片a级毛片在线播放| 亚洲av电影在线观看一区二区三区 | 免费av不卡在线播放| 欧美精品国产亚洲| 99久久人妻综合| 亚洲精品自拍成人| 国产亚洲av嫩草精品影院| 亚洲欧美成人精品一区二区| 亚洲av免费在线观看| 日本黄色片子视频| 边亲边吃奶的免费视频| 国产精品久久久久久av不卡| 欧美高清成人免费视频www| 日韩不卡一区二区三区视频在线| 乱系列少妇在线播放| 国产成人精品福利久久| 国产精品精品国产色婷婷| 直男gayav资源| 久久久久久九九精品二区国产| 欧美zozozo另类| 欧美97在线视频| 2021天堂中文幕一二区在线观| videossex国产| 97超碰精品成人国产| 久久99热这里只有精品18| 国产麻豆成人av免费视频| 色综合色国产| 亚洲精品国产成人久久av| 极品少妇高潮喷水抽搐| eeuss影院久久| 久99久视频精品免费| 少妇高潮的动态图| av在线天堂中文字幕| 乱码一卡2卡4卡精品| 国产亚洲5aaaaa淫片| 国产精品久久久久久av不卡| 十八禁网站网址无遮挡 | 国产午夜精品一二区理论片| 搡女人真爽免费视频火全软件| 久99久视频精品免费| .国产精品久久| 国产精品精品国产色婷婷| 最近最新中文字幕大全电影3| 亚洲成人精品中文字幕电影| 男人和女人高潮做爰伦理| 国产探花极品一区二区| 2018国产大陆天天弄谢| 国产色爽女视频免费观看| 免费观看a级毛片全部| 麻豆成人午夜福利视频| 日本免费在线观看一区| 最近中文字幕高清免费大全6| 大又大粗又爽又黄少妇毛片口| 最新中文字幕久久久久| 99热这里只有是精品在线观看| 国产熟女欧美一区二区| 日韩av在线大香蕉| 免费av观看视频| 亚洲自偷自拍三级| 别揉我奶头 嗯啊视频| 久久久午夜欧美精品| 一区二区三区乱码不卡18| 18+在线观看网站| 深夜a级毛片| 亚洲国产欧美人成| 日韩中字成人| 丰满乱子伦码专区| 国产精品久久久久久精品电影小说 | 亚洲在线观看片| 永久网站在线| 久久久久久久午夜电影| 黄色配什么色好看| 我的老师免费观看完整版| 99热网站在线观看| 在现免费观看毛片| 不卡视频在线观看欧美| 日韩三级伦理在线观看| 国产精品一区www在线观看| 欧美+日韩+精品| 少妇丰满av| 18禁裸乳无遮挡免费网站照片| av在线老鸭窝| 永久免费av网站大全| 中文精品一卡2卡3卡4更新| 能在线免费看毛片的网站| 亚洲国产精品国产精品| 国产精品.久久久| 久久久久久久久大av| 国产一级毛片在线| 亚洲欧美日韩无卡精品| 日韩一区二区三区影片| 日韩一本色道免费dvd| 最后的刺客免费高清国语| 成人高潮视频无遮挡免费网站| 日韩强制内射视频| 国产激情偷乱视频一区二区| 国产男人的电影天堂91| 观看免费一级毛片| 亚洲av.av天堂| 狠狠精品人妻久久久久久综合| 亚洲精品亚洲一区二区| 亚洲人与动物交配视频| 国产毛片a区久久久久| 色吧在线观看| 亚洲四区av| 国产午夜精品一二区理论片| 国产极品天堂在线| 欧美xxxx黑人xx丫x性爽| 亚洲最大成人中文| 最近中文字幕高清免费大全6| 18+在线观看网站| 一边亲一边摸免费视频| 亚洲av成人精品一区久久| 菩萨蛮人人尽说江南好唐韦庄| 一级av片app| 亚洲精品自拍成人| 能在线免费观看的黄片| 免费观看av网站的网址| 免费观看无遮挡的男女| 联通29元200g的流量卡| 久久久成人免费电影| 99久国产av精品| 国产精品国产三级专区第一集| 成人av在线播放网站| 亚洲第一区二区三区不卡| 大片免费播放器 马上看| 十八禁网站网址无遮挡 | 国产精品99久久久久久久久| 国产一区二区亚洲精品在线观看| 99久国产av精品| 边亲边吃奶的免费视频| 亚洲色图av天堂| 草草在线视频免费看| 久久精品国产亚洲网站| 我的老师免费观看完整版| 国产免费视频播放在线视频 | 婷婷六月久久综合丁香| 国产乱来视频区| 国产高清不卡午夜福利| 男女国产视频网站| 国产 一区 欧美 日韩| 蜜臀久久99精品久久宅男| 国产精品熟女久久久久浪| 国产黄片美女视频| 亚洲av一区综合| 黄色欧美视频在线观看| 久久精品国产自在天天线| 99热全是精品| 国产精品一区二区性色av| 18禁在线无遮挡免费观看视频| 97超碰精品成人国产| 免费观看的影片在线观看| 99热这里只有是精品50| 男女边摸边吃奶| 女人十人毛片免费观看3o分钟| 夜夜爽夜夜爽视频| 精品久久久久久电影网| 亚洲精品456在线播放app| 日本黄大片高清| 两个人视频免费观看高清| 国产探花在线观看一区二区| 国产一区二区三区av在线| 老司机影院成人| 大香蕉久久网| 久久人人爽人人爽人人片va| 国产精品蜜桃在线观看| 全区人妻精品视频| 一级a做视频免费观看| 国产精品伦人一区二区| 久久久精品免费免费高清| 久久99精品国语久久久| 六月丁香七月| 国产久久久一区二区三区| 国内精品一区二区在线观看| 精品国产三级普通话版| 亚洲av免费高清在线观看| 国产又色又爽无遮挡免| 热99在线观看视频| 最近2019中文字幕mv第一页| 精品国产一区二区三区久久久樱花 | 亚洲成人av在线免费| 丰满少妇做爰视频| 精品一区二区三区人妻视频| 水蜜桃什么品种好| 亚洲精品久久久久久婷婷小说| 99热6这里只有精品| 免费高清在线观看视频在线观看| 久久草成人影院| 深夜a级毛片| 久99久视频精品免费| 亚洲经典国产精华液单| 97热精品久久久久久| 久久久久久久久久久免费av| 亚洲综合精品二区| 一区二区三区高清视频在线| 亚洲高清免费不卡视频| 亚洲无线观看免费| 日韩成人av中文字幕在线观看| 亚洲精品一二三| 亚洲精品乱久久久久久| 高清在线视频一区二区三区| xxx大片免费视频| 国产欧美日韩精品一区二区| 乱人视频在线观看| www.av在线官网国产| 卡戴珊不雅视频在线播放| 国产精品1区2区在线观看.| 能在线免费看毛片的网站| 夜夜看夜夜爽夜夜摸| 一本一本综合久久| 22中文网久久字幕| 国产视频内射| 美女主播在线视频| 中文字幕人妻熟人妻熟丝袜美| 日日撸夜夜添| 一级毛片aaaaaa免费看小| 国国产精品蜜臀av免费| 欧美人与善性xxx| 一区二区三区四区激情视频| 三级男女做爰猛烈吃奶摸视频| 日韩欧美精品免费久久| 亚洲精品aⅴ在线观看| 人妻少妇偷人精品九色| 国产精品福利在线免费观看| 内地一区二区视频在线| 国产一区亚洲一区在线观看| av专区在线播放| 久久久精品欧美日韩精品| 亚洲无线观看免费| 国产精品久久久久久av不卡| 午夜福利在线观看免费完整高清在| 麻豆成人午夜福利视频| 国产三级在线视频| 丝瓜视频免费看黄片| 一级毛片 在线播放| 夜夜爽夜夜爽视频| 国产精品精品国产色婷婷| 久久鲁丝午夜福利片| 亚洲婷婷狠狠爱综合网| 午夜福利网站1000一区二区三区| 青春草国产在线视频| 美女大奶头视频| 亚洲人成网站在线播| 亚州av有码| 夜夜爽夜夜爽视频| 乱人视频在线观看| 网址你懂的国产日韩在线| av卡一久久| 日本免费在线观看一区| 少妇人妻精品综合一区二区| 亚洲精品成人久久久久久| 久久久久久久久久久丰满| 日韩欧美三级三区| 看黄色毛片网站| 最近中文字幕高清免费大全6| .国产精品久久| 精品欧美国产一区二区三| 午夜日本视频在线| 亚洲av不卡在线观看| 一级毛片 在线播放| 亚洲丝袜综合中文字幕| 欧美一区二区亚洲| 最后的刺客免费高清国语| 免费观看在线日韩| 一级黄片播放器| 免费看a级黄色片| 国产中年淑女户外野战色| 2021天堂中文幕一二区在线观| 国产91av在线免费观看| 国产男人的电影天堂91| 色5月婷婷丁香| 久久韩国三级中文字幕| 欧美三级亚洲精品| 人妻系列 视频| 欧美日韩精品成人综合77777| 天堂影院成人在线观看| 丰满乱子伦码专区| 女人久久www免费人成看片| 禁无遮挡网站| 神马国产精品三级电影在线观看| 99热这里只有精品一区| 国产成年人精品一区二区| kizo精华| 美女内射精品一级片tv| 1000部很黄的大片| 国产精品伦人一区二区| 99热网站在线观看| 午夜免费男女啪啪视频观看| 成人午夜高清在线视频| 免费观看在线日韩| 韩国高清视频一区二区三区| 99久久精品热视频| 日韩欧美一区视频在线观看 | 大陆偷拍与自拍| 乱系列少妇在线播放| 亚洲成人中文字幕在线播放| 国产成人精品一,二区| 我要看日韩黄色一级片| 久久久久久久久久人人人人人人| 狂野欧美白嫩少妇大欣赏| 少妇被粗大猛烈的视频| 欧美97在线视频| 少妇裸体淫交视频免费看高清| 91狼人影院| 深爱激情五月婷婷| 亚洲人成网站高清观看| 日韩在线高清观看一区二区三区| 黑人高潮一二区| 亚洲人成网站高清观看| 美女黄网站色视频| 久久精品国产鲁丝片午夜精品| 亚洲av男天堂| 亚洲图色成人| 欧美bdsm另类| 亚洲久久久久久中文字幕| 又粗又硬又长又爽又黄的视频| 欧美+日韩+精品| 美女cb高潮喷水在线观看| av在线观看视频网站免费| 国产久久久一区二区三区| 国产精品三级大全| 久久久久久久久久久免费av| 亚洲欧美一区二区三区国产| 久久这里只有精品中国| 亚洲人成网站在线观看播放| 大片免费播放器 马上看| 在线观看av片永久免费下载| 欧美高清性xxxxhd video| 国产精品三级大全| 小蜜桃在线观看免费完整版高清| 综合色av麻豆| 亚洲人成网站在线观看播放| 九色成人免费人妻av| 小蜜桃在线观看免费完整版高清| 一级二级三级毛片免费看| 熟女人妻精品中文字幕| 午夜福利网站1000一区二区三区| av女优亚洲男人天堂| 日本黄大片高清| 51国产日韩欧美| 男人舔奶头视频| 亚洲精品第二区| 国产极品天堂在线| 青春草国产在线视频| 黄片无遮挡物在线观看| 欧美丝袜亚洲另类| 亚洲精品久久久久久婷婷小说| 成人鲁丝片一二三区免费| 看非洲黑人一级黄片| 伊人久久国产一区二区| 色吧在线观看| 别揉我奶头 嗯啊视频| 婷婷六月久久综合丁香| 乱码一卡2卡4卡精品| 国产精品一区二区三区四区久久| 日韩视频在线欧美| 噜噜噜噜噜久久久久久91| 99视频精品全部免费 在线| 免费在线观看成人毛片| 国产精品国产三级国产av玫瑰| 国产午夜精品论理片| 美女cb高潮喷水在线观看| 亚洲国产精品sss在线观看| 欧美97在线视频| 亚洲国产精品成人综合色| 亚洲精品亚洲一区二区| 中文在线观看免费www的网站| 国产精品女同一区二区软件| 日本黄大片高清| 久久久久久久国产电影| 91久久精品国产一区二区三区| 久久久久久久久久人人人人人人| 国产精品一二三区在线看| 国产欧美另类精品又又久久亚洲欧美| 日韩,欧美,国产一区二区三区| 成人av在线播放网站| 日本wwww免费看| 看黄色毛片网站| 一本久久精品| 日本午夜av视频| 国产欧美日韩精品一区二区| 午夜福利在线观看吧| 亚洲欧美精品专区久久| 联通29元200g的流量卡| 18禁在线无遮挡免费观看视频| 免费看a级黄色片| 精品久久久噜噜| 日韩av在线大香蕉| 国产极品天堂在线| 成人美女网站在线观看视频| 丝袜美腿在线中文| 男人舔奶头视频| 久久久久久久亚洲中文字幕| 69人妻影院| 日韩av在线免费看完整版不卡| 亚洲天堂国产精品一区在线| 日本爱情动作片www.在线观看| 日韩人妻高清精品专区| 国产大屁股一区二区在线视频| 日本爱情动作片www.在线观看| 久久久亚洲精品成人影院| 国产大屁股一区二区在线视频| 69人妻影院| 亚洲精品日韩在线中文字幕| 国产亚洲av片在线观看秒播厂 | 蜜桃久久精品国产亚洲av| 国产精品精品国产色婷婷| 成人毛片60女人毛片免费| 日日啪夜夜爽| 国产黄片视频在线免费观看| 男女边摸边吃奶| 亚洲av成人精品一区久久| 天天躁日日操中文字幕| 亚洲真实伦在线观看| 午夜精品一区二区三区免费看|