• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能發(fā)展的社會風(fēng)險及監(jiān)管路徑研究

    2019-07-23 01:16:14臧阿月
    關(guān)鍵詞:社會風(fēng)險人工智能

    臧阿月

    摘 ?要:人工智能技術(shù)的出現(xiàn)和發(fā)展必然會引發(fā)一系列潛在風(fēng)險,包括倫理道德危機(jī)、技術(shù)濫用隱患、極化異化風(fēng)險以及軍事戰(zhàn)爭災(zāi)難等。與此同時,人工智能時代的到來也使得諸多法律問題陷入困境,如法律主體資格的確定、著作權(quán)的歸屬、侵權(quán)責(zé)任的認(rèn)定、人格權(quán)的保護(hù)以及無人駕駛汽車和替代勞工的相關(guān)問題等。對此,必須深入探究未來人工智能發(fā)展的監(jiān)管路徑,采取塑造多元價值目標(biāo)、構(gòu)建倫理規(guī)范體系、建立法律監(jiān)管制度和加強(qiáng)國際協(xié)同合作等措施,有效規(guī)避人工智能帶來的社會風(fēng)險和法律挑戰(zhàn),從而最大程度發(fā)揮人工智能的積極作用。

    關(guān)鍵詞:人工智能;社會風(fēng)險;法律挑戰(zhàn);監(jiān)管路徑

    中圖分類號:D922.17 ???????文獻(xiàn)標(biāo)識碼:A ?????????文章編號:1671-9255(2019)02-0047-05

    近年來,人工智能(Artificial Intelligence,AI)技術(shù)日趨成熟,已經(jīng)逐漸從封閉的科學(xué)實(shí)驗(yàn)領(lǐng)域進(jìn)入開放的商業(yè)應(yīng)用領(lǐng)域,人工智能產(chǎn)品也充斥于人們的日常生活,如智能手機(jī)、智能電視以及智能汽車等智能硬件和深度學(xué)習(xí)、圖像識別以及語言處理等智能軟件。雖然中外學(xué)界早已對AI技術(shù)的研究和運(yùn)用問題給予高度關(guān)注,各國政府也紛紛出臺相應(yīng)的人工智能發(fā)展戰(zhàn)略和政策,但人工智能存在的潛在風(fēng)險和面臨的法律困境卻并沒有得到足夠重視,盡管已有不少著名學(xué)者、科學(xué)家和企業(yè)家一再發(fā)出警告,如斯蒂芬·霍金、埃隆·馬斯克和比爾·蓋茨一直堅持認(rèn)為的“人工智能惡魔論”或“人工智能威脅論”。因此,基于人工智能技術(shù)的發(fā)展現(xiàn)狀,當(dāng)務(wù)之急便是探索多元化的監(jiān)管路徑來應(yīng)對人工智能技術(shù)引發(fā)的社會風(fēng)險和法律挑戰(zhàn)。

    一、當(dāng)下人工智能發(fā)展?fàn)顩r

    自21世紀(jì)初以來,人工智能浪潮以極其驚人的速度席卷全球。在IBM、Google、Facebook、Microsoft等國際領(lǐng)軍科技企業(yè)和百度、阿里巴巴、騰訊等國內(nèi)知名科技企業(yè)的帶領(lǐng)下,我國人工智能水平急速提升。根據(jù)《2018-2024年中國人工智能行業(yè)市場深度調(diào)研及未來發(fā)展趨勢報告》的數(shù)據(jù)顯示,在AI市場規(guī)模方面,2015年全球約為74億美元,預(yù)計到2024年將達(dá)到406億美元,我國約為12億美元,預(yù)計到2020年將達(dá)到91億美元。[1]另外,根據(jù)《烏鎮(zhèn)指數(shù):全球人工智能發(fā)展報告(2017)》的數(shù)據(jù)顯示,自2000年至2016年,在AI企業(yè)數(shù)量方面,全球新增8107家,我國新增1477家;在AI企業(yè)融資方面,全球約為288億美元,我國約為27億美元。[2]由此可見,人類將正式進(jìn)入新的社會時代

    ——人工智能時代。

    (一)國際社會高度重視

    1956年,在由約翰·麥卡錫、赫伯特·西蒙、艾倫·紐厄爾、馬文·閔斯基以及克勞德·香農(nóng)等眾多科學(xué)家參加的“達(dá)特茅斯(Dartmouth)會議”上,“人工智能”這一全新的標(biāo)志性概念被首次提出,正式宣告著人工智能的誕生。[3]后經(jīng)半個多世紀(jì)的發(fā)展,美國Google公司生產(chǎn)的AI機(jī)器人——“阿爾法狗(AlphaGo)”分別于2016年、2017年接連擊敗人類頂尖棋手李世石(韓國)、 柯潔(中國),將人工智能技術(shù)推向了迄今為止的歷史最高點(diǎn),引起了國際社會的廣泛關(guān)注。隨后,歐美等國和歐盟、聯(lián)合國等國際組織順應(yīng)人工智能時代潮流,相繼出臺了新一輪的人工智能發(fā)展戰(zhàn)略。

    美國作為目前全球科技發(fā)展的頭號強(qiáng)國,正在全面加強(qiáng)對人工智能技術(shù)的研究與開發(fā)。2016年,美國陸續(xù)發(fā)布了《為人工智能的未來做好準(zhǔn)備》(下稱《準(zhǔn)備》)、《國家人工智能研究和發(fā)展戰(zhàn)略計劃》(下稱《計劃》)以及《人工智能、自動化與經(jīng)濟(jì)報告》(下稱《報告》)等多份與人工智能相關(guān)的政策文件。其中,《準(zhǔn)備》詳細(xì)闡述了人工智能的現(xiàn)狀、趨勢、影響和對策;《計劃》全面構(gòu)建了美國人工智能未來的研發(fā)框架、戰(zhàn)略和方式;《報告》深度剖析了AI技術(shù)自動化對經(jīng)濟(jì)和就業(yè)產(chǎn)生的影響。[4]繼美國之后,歐洲各國也都紛紛著手部署人工智能戰(zhàn)略。英國發(fā)展人工智能最為積極,分別于2016年、2017年、2018年發(fā)布了《機(jī)器人技術(shù)和人工智能》、《人工智能:未來決策的機(jī)會和影響》、《在英國發(fā)展人工智能》以及《人工智能行業(yè)新政》等諸多報告,旨在成為全球人工智能技

    術(shù)的領(lǐng)導(dǎo)者;法國人工智能發(fā)展勢頭十分強(qiáng)勁。最新發(fā)布的《法國人工智能發(fā)展戰(zhàn)略》將重點(diǎn)放在了未來幾年法國人工智能技術(shù)的投資規(guī)模和應(yīng)用領(lǐng)域方面;德國人工智能發(fā)展具有極強(qiáng)的前瞻性。2011年率先提出的“工業(yè)4.0”戰(zhàn)略對人工智能發(fā)展做了基礎(chǔ)預(yù)判。2018年發(fā)布的《聯(lián)邦政府人工智能戰(zhàn)略要點(diǎn)》更是表示要將人工智能技術(shù)提升到世界領(lǐng)先水平。

    另外,國際組織尤為重視人工智能發(fā)展。早在2014年,歐盟便發(fā)布了《2014-2020歐洲機(jī)器人技術(shù)戰(zhàn)略》來促進(jìn)AI機(jī)器人行業(yè)的快速發(fā)展。由于該戰(zhàn)略具有局限性,無法完全適用于整個人工智能行業(yè)的發(fā)展,歐盟于2018年4月發(fā)布《歐盟人工智能》報告,較為具體地制訂了日后的AI行動計劃。2016年,聯(lián)合國發(fā)布了《關(guān)于機(jī)器人倫理的草案報告》,呼吁世界各國在AI領(lǐng)域加強(qiáng)合作,共同應(yīng)對機(jī)器人引發(fā)的倫理問題和法律難題。

    (二)國內(nèi)持續(xù)蓬勃發(fā)展

    現(xiàn)階段,我國人工智能的發(fā)展速度相當(dāng)迅猛,發(fā)展?jié)摿O其巨大。

    首先,在國家政策方面,我國近幾年先后制訂了若干人工智能戰(zhàn)略規(guī)劃以此來支持人工智能技術(shù)研發(fā)和產(chǎn)業(yè)發(fā)展。伴隨《“十三五”國家科技創(chuàng)新規(guī)劃》、《新一代人工智能發(fā)展規(guī)劃》、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)》以及《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》等文件的陸續(xù)出臺和落地實(shí)施,我國人工智能已經(jīng)迎來了政策紅利期和發(fā)展黃金期。[5]其次,在技術(shù)研發(fā)方面,我國目前的數(shù)據(jù)資源十分豐富,計算機(jī)運(yùn)算速度非常迅速。人工智能技術(shù)是對大量數(shù)據(jù)進(jìn)行分析,通過不斷調(diào)整尋求最佳結(jié)果的過程,數(shù)據(jù)資源豐富與否對于人工智能技術(shù)研發(fā)至關(guān)重要。21世紀(jì)初以來,我國互聯(lián)網(wǎng)技術(shù)的廣泛應(yīng)用使得數(shù)據(jù)信息能夠得以快速有效收集和儲存,這為人工智能技術(shù)研發(fā)提供了海量的數(shù)據(jù)資源。此外,我國早在2013年就擁有了全球運(yùn)算速度最快的計算機(jī)——“天河二號”,這為人工智能技術(shù)研發(fā)提供了有力的技術(shù)支撐。再次,在人才儲備方面,我國AI領(lǐng)域的技術(shù)人才總量在國際上位居第二,僅次于美國。多年以來,我國特別重視教育發(fā)展,通過科教興國、人才強(qiáng)國等戰(zhàn)略的實(shí)施,培養(yǎng)了眾多有著良好數(shù)理基礎(chǔ)的研究型人才,為人工智能發(fā)展奠定了人才基礎(chǔ)。最后,在市場需求方面,我國經(jīng)濟(jì)發(fā)展亟待人工智能這一新興科技提供動力支撐。近年來,我國勞動力成本逐年上升,傳統(tǒng)人口紅利正在面臨消失危機(jī),產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級已經(jīng)刻不容緩,人工智能的崛起能夠有效促進(jìn)我國部分產(chǎn)業(yè)的自動化生產(chǎn),從而有助于降低生產(chǎn)成本、解決人口紅利危機(jī)、促進(jìn)經(jīng)濟(jì)快速發(fā)展。

    二、人工智能存在的社會風(fēng)險

    (一)倫理道德危機(jī)

    人工智能技術(shù)的發(fā)展給人類社會崇尚的倫理道德帶來諸多危機(jī)。一方面,人工智能產(chǎn)品在自主化運(yùn)行過程中極容易出現(xiàn)妄言、亂舉等違反人道主義的惡性事件。主要包括以下三種情形:第一,算法歧視現(xiàn)象。從表面上看,人工智能算法似乎僅僅只是一種由輸入到輸出的客觀數(shù)學(xué)表達(dá),與人類的價值觀毫無關(guān)聯(lián),但實(shí)際上卻內(nèi)在隱含著各種主觀歧視,包括性別歧視、種族歧視和職業(yè)歧視等,如在Google網(wǎng)站輸入黑人名字進(jìn)行搜索時,犯罪相關(guān)信息出現(xiàn)的概率要比搜索白人名字高得多。[6]與個人歧視的局部性不同,算法歧視是系統(tǒng)化的,一旦形成將對整個社會的公正倫理道德觀造成嚴(yán)重影響。第二,人類情感危機(jī)。從現(xiàn)有研究成果看,已經(jīng)出現(xiàn)了可以感知人類情緒包括分享人類快樂和撫慰人類悲傷的陪伴型機(jī)器人,未來還會出現(xiàn)伴侶型或性愛型機(jī)器人,這無疑是對人類情感需求和社會倫理道德的重大顛覆。第三,人文精神危機(jī)。從目前發(fā)展趨勢看,互聯(lián)網(wǎng)正在使人類變得愈發(fā)孤立、冷漠,可以預(yù)見,人類的自主行為在不久的將來會逐漸被人工智能的模擬行為所取代,人類生存和發(fā)展的意義將不復(fù)存在,人文精神也會日漸衰落。另一方面,人類與生俱來的優(yōu)勢心態(tài),使其在使用人工智能產(chǎn)品過程中極容易出現(xiàn)侮辱、謾罵,甚至毆打、虐待等暴力行為,特別是當(dāng)智能機(jī)器人無限接近于人類時,人類錯誤的價值取向必然很難堅守住社會倫理道德底線。

    (二)技術(shù)濫用隱患

    當(dāng)人工智能技術(shù)逐步成為社會發(fā)展的主導(dǎo)力量時,一旦被肆意濫用,引發(fā)的社會危機(jī)則不可小覷。例如,AI機(jī)器人出現(xiàn)帶來的失業(yè)危機(jī)和經(jīng)濟(jì)動蕩,AI創(chuàng)作平臺廣泛應(yīng)用造成的文化坍塌,甚至發(fā)展到一定程度后與人類生活息息相關(guān)的AI技術(shù)或?qū)?dǎo)致的政治變革。另外,人工智能技術(shù)濫用還會滋生信息泄露、安全風(fēng)險、侵權(quán)行為以及網(wǎng)絡(luò)犯罪等一系列社會問題。對此,OpenAI和Oxford、Cambridge等世界頂尖學(xué)府和其他多家知名機(jī)構(gòu)聯(lián)合發(fā)布了一份預(yù)警AI惡意使用的報告,報告中深刻分析了AI在未來5年內(nèi)遭到濫用的各項(xiàng)風(fēng)險,并提出了多種防范措施。[7]由此可見,人工智能技術(shù)濫用隱患必須引起人類足夠重視,勢必將其扼殺于搖籃。

    (三)極化異化風(fēng)險

    對于極化風(fēng)險,互聯(lián)網(wǎng)背景下大數(shù)據(jù)時代的到來雖然給人工智能技術(shù)的研發(fā)提供了海量數(shù)據(jù)資源,但它帶來的惡性現(xiàn)象或?qū)⑹秦毟粯O化。具體來說,未來人類社會地位和金錢財富的獲得更多的是依靠占有數(shù)據(jù)信息和運(yùn)用智能算法,而不再是僅僅依賴于勞動和投資,例如國外Google、Microsoft和國內(nèi)阿里、騰訊等大型企業(yè)掌握的數(shù)據(jù)信息和算法技術(shù)是創(chuàng)業(yè)公司和小微企業(yè)無法望其項(xiàng)背的,它們就能夠通過信息壟斷和算法活用等手段在非常短的時間內(nèi)獲得巨額財富。

    對于異化風(fēng)險,國內(nèi)外不少專家學(xué)者認(rèn)為,人類目前正在無比積極、主動地創(chuàng)造一個比自身更為先進(jìn)的強(qiáng)大物種,也就是說未來人工智能的智力水平或?qū)⑦h(yuǎn)遠(yuǎn)超越人類。可以預(yù)見,隨著技術(shù)不斷成熟,人工智能的智商和情商發(fā)生異化與畸變的可能與日俱增,那時人類將無法完全預(yù)測其自主獨(dú)立化的思維方式,一旦出現(xiàn)技術(shù)失控,對人類造成的影響和破壞將是毀滅性的。

    (四)軍事戰(zhàn)爭災(zāi)難

    不難想象,成熟之日的人工智能必然要應(yīng)用到軍事戰(zhàn)爭領(lǐng)域,它將改變傳統(tǒng)的軍事戰(zhàn)爭方式,對人類造成的危險性和破壞性絲毫不遜于如今的核武器。也就是說,未來的戰(zhàn)場上會有一批“智能武器”,如作戰(zhàn)冷血、毫無惻隱之心的戰(zhàn)爭機(jī)器人,人類彼此之間正面交戰(zhàn)的幾率會逐漸減少直至為零,只需通過一個簡單指令就能遠(yuǎn)程操控“智能武器”,各國摩擦?xí)兊糜宇l繁,戰(zhàn)爭門檻會變得更低。[8]從表面上看,智能武器在軍事戰(zhàn)爭領(lǐng)域的應(yīng)用貌似很大程度上降低了士兵傷亡的比率,但實(shí)際上智能戰(zhàn)爭的殘忍程度和毀滅程度是傳統(tǒng)戰(zhàn)爭根本無法比擬的。另外,“人工智能恐怖主義”或?qū)⑾砣颉?/p>

    三、人工智能面臨的法律挑戰(zhàn)

    (一)法律主體資格問題

    在民法理論中,民事主體必須具有獨(dú)立人格,也就是說,民事主體要么是具有自然屬性的自然人,要么是具有法律屬性的法人,因而在微觀層面上,很難將智能機(jī)器人認(rèn)定為民事主體。[9]從宏觀層面看,智能機(jī)器人不具備法律主體資格的原因有以下幾點(diǎn):首先,智能機(jī)器人通常都是作為輔助角色存在于人類生活中。即便日后它具有了超強(qiáng)的自主學(xué)習(xí)能力,但就獨(dú)立思維和價值判斷來說,智能機(jī)器人只能是無限接近于人類,永遠(yuǎn)無法超越人類,因而賦予其人類享有的法律主體資格并不合理。其次,法律主體除了具有權(quán)利能力外,還應(yīng)當(dāng)具有責(zé)任能力,智能機(jī)器人根本沒有經(jīng)濟(jì)能力去承擔(dān)任何的法律責(zé)任。最后,在智能機(jī)器人還未實(shí)現(xiàn)完全自主化之前,其啟動運(yùn)行都是基于研發(fā)者的設(shè)定或使用者的操控,若將此種情況下產(chǎn)生的否定性法律后果直接歸于智能機(jī)器人,即讓智能機(jī)器人作為法律主體承擔(dān)法律責(zé)任并不妥當(dāng)。

    (二)著作權(quán)問題

    2017年,“微軟小冰”(人工智能機(jī)器人)創(chuàng)作出人類歷史上首部人工智能作品——《陽光失了玻璃窗》。由此引出一個新問題:人工智能生成作品能否受到《著作權(quán)法》保護(hù)?具體須作以下分析。

    第一,智能機(jī)器人創(chuàng)作的作品是否享有著作權(quán)?答案是肯定的。《著作權(quán)法》保護(hù)的作品勢必要具有獨(dú)創(chuàng)性特征,并且該特征僅針對作品的表現(xiàn)形式,至于作品內(nèi)在蘊(yùn)含的信息、技法、思想以及價值等在所不問。[10]也就是說,智能機(jī)器人創(chuàng)作的作品,只要是由其獨(dú)立完成,而非抄襲或剽竊他人作品,就應(yīng)當(dāng)受《著作權(quán)法》保護(hù),即享有著作權(quán)。第二,著作權(quán)應(yīng)歸屬于智能機(jī)器人還是智能機(jī)器人的研發(fā)者或所有者?毫無疑問應(yīng)當(dāng)歸屬于后者。由于智能機(jī)器人主要是依靠數(shù)據(jù)分析和算法技術(shù)進(jìn)行創(chuàng)作,因而創(chuàng)作的技術(shù)路徑完全都是由人類設(shè)定。據(jù)此,可以借鑒雇傭作品或職務(wù)作品的相關(guān)法律規(guī)定,將著作權(quán)歸屬于研發(fā)者或所有者。

    (三)侵權(quán)責(zé)任問題

    以智能機(jī)器人為例。一方面,如果是人類侵害智能機(jī)器人,就必須首先認(rèn)定智能機(jī)器人是否具備法律主體資格。若持肯定觀點(diǎn),則侵權(quán)人必須承擔(dān)民事侵權(quán)責(zé)任,達(dá)到犯罪程度應(yīng)以故意傷害罪或故意殺人罪追究其刑事責(zé)任;若持否定觀點(diǎn),則侵權(quán)人亦須承擔(dān)民事侵權(quán)責(zé)任,達(dá)到犯罪程度應(yīng)以毀壞財物罪追究其刑事責(zé)任。另一方面,如果是智能機(jī)器人致人損害,可分兩種情形:一是人類故意操控智能機(jī)器人給他人造成損害,此時侵權(quán)責(zé)任毫無疑問應(yīng)由侵權(quán)人承擔(dān);二是智能機(jī)器人自主行為直接給他人造成損害,如工業(yè)機(jī)器人在生產(chǎn)中造成工人死亡,手術(shù)機(jī)器人在治療中造成病人死亡等,這種情況下要看智能機(jī)器人的設(shè)計者、制造者以及使用者是否存有過失。若有,則可按照產(chǎn)品侵權(quán)追究相關(guān)人員的責(zé)任;若無,也就是說完全是智能機(jī)器人的“擅自所為”,此時可參照替代責(zé)任(如雇傭關(guān)系中的雇主替代責(zé)任)追究相關(guān)人員的責(zé)任。[11]

    (四)人格權(quán)問題

    人工智能技術(shù)的發(fā)展對人格權(quán)中隱私權(quán)的侵害最為嚴(yán)重。據(jù)報道,2017年5月,Google公司旗下的DeepMind(人工智能企業(yè))大規(guī)模獲取了英國三家醫(yī)院數(shù)百萬名萬病人的隱私數(shù)據(jù)(包括艾滋病、吸毒、墮胎等信息),引起軒然大波。[12]由此可見,未來人類社會必然是“互聯(lián)網(wǎng)+大數(shù)據(jù)+人工智能”的時代,人類將毫無隱私可言,就如作家洛麗·安德魯斯在書中所述,未來社會將不再僅僅是無隱私或零隱私社會,而是負(fù)隱私社會。在傳統(tǒng)社會,人類隱私泄露是個體性的,但在未來甚至現(xiàn)在隱私泄露就是集體性的、社會性的。因而,人工智能時代的隱私保護(hù)至少要做到以下三點(diǎn):一為增強(qiáng)自我隱私保護(hù)意識;二為強(qiáng)化企業(yè)隱私保護(hù)責(zé)任;三為加快隱私保護(hù)立法進(jìn)程。

    (五)無人駕駛汽車問題

    無人駕駛汽車給現(xiàn)有的交通法律體系帶來諸多挑戰(zhàn)。主要有以下三方面。 第一,規(guī)制對象發(fā)生轉(zhuǎn)變。無人駕駛汽車的出現(xiàn)使得駕駛?cè)烁拍钪饾u消失。駕駛?cè)说鸟{駛技能(是否通過駕駛證考試)亦不再是交通法律規(guī)定的準(zhǔn)入資格。也就是說,交通法律規(guī)制對象不會局限于駕駛?cè)?,智能汽車的研發(fā)者或制造者也會被納入規(guī)制對象范圍。第二,責(zé)任體系面臨重構(gòu)。在傳統(tǒng)的交通法律體系中,交通事故的責(zé)任認(rèn)定一般以過錯責(zé)任為原則。對于無人駕駛汽車造成的交通事故,根本無從考察人工智能汽車的主觀過錯,其責(zé)任認(rèn)定只能看造成的結(jié)果。第三,監(jiān)管重心出現(xiàn)變化。在傳統(tǒng)駕駛中,駕駛?cè)说鸟{駛技能是交通管理部門監(jiān)管的重中之重,另外還包括汽車裝置的安全性能。在智能駕駛中,交通管理部門的監(jiān)管重心變成了智能汽車內(nèi)部的一系列軟硬件,如傳感器系統(tǒng)、緊急避險系統(tǒng)以及智能感知技術(shù)(通過語音、視像識別“理解”駕駛?cè)艘庠福┑取?/p>

    (六)替代勞工問題

    未來,智能機(jī)器人將大規(guī)模進(jìn)入各個行業(yè)領(lǐng)域,雖然可以極大地提高社會生產(chǎn)效率,降低社會生產(chǎn)成本,但也會引發(fā)一系列社會問題,如最直接的失業(yè)率急速上升問題和嚴(yán)重威脅社會穩(wěn)定問題。牛津大學(xué)的一份調(diào)研報告顯示,未來智能機(jī)器人將會取代數(shù)以萬計的非技術(shù)工種,包括收銀員、快遞員、信貸員、司機(jī)、文秘、工人、農(nóng)民等。目前智能分揀技術(shù)已經(jīng)進(jìn)入快遞行業(yè)。[13]智能機(jī)器人能否納入勞動法調(diào)整范疇?這是肯定的。歐盟早在2016年就已經(jīng)提交動議,要求賦予智能機(jī)器人以“工人”身份,享有勞動權(quán)。同時,又該如何保護(hù)大批下崗職工的合法權(quán)益?下崗職工更多的是依靠微薄的社會保障金維持生活,因此完善社會保障法律制度成為保護(hù)下崗職工合法權(quán)益的應(yīng)有之義。

    四、人工智能未來的監(jiān)管路徑

    (一)塑造多元價值目標(biāo)

    塑造多元價值目標(biāo)是制定人工智能監(jiān)管措施的最本質(zhì)追求。首先,塑造正義的普適價值目標(biāo)。正義價值內(nèi)在蘊(yùn)含人格正義、秩序正義、法律正義、道德正義等。它是人工智能時代下構(gòu)建倫理道德規(guī)范體系和建立法律監(jiān)管制度的正當(dāng)性基礎(chǔ),能夠幫助消滅算法歧視和大數(shù)據(jù)“殺熟”等惡性事件。其次,塑造安全的核心價值目標(biāo)。人工智能技術(shù)雖還未完全成熟,但人類對其即將引發(fā)的安全問題已經(jīng)充滿擔(dān)憂,擬人之禍、濫用之患、異化之險以及軍工之孽等都嚴(yán)重威脅著人類社會的安全與穩(wěn)定,因而塑造以安全為核心的價值目標(biāo)對監(jiān)管人工智能發(fā)展極為重要。[14]再次,塑造創(chuàng)新的靈魂價值目標(biāo)。面對人工智能革命,創(chuàng)新理念必須貫穿其中。無論是謀劃宏觀層面上的人工智能國家發(fā)展戰(zhàn)略,還是制定微觀層面上的人工智能產(chǎn)業(yè)促進(jìn)政策,創(chuàng)新激勵機(jī)制的構(gòu)建必不可少。最后,塑造和諧的終極價值目標(biāo)。人工智能產(chǎn)品的性能安全、人工智能技術(shù)的良性發(fā)展以及人工智能社會的安定有序都要求所有的人工智能監(jiān)管措施都必須將和諧價值作為指引方向。

    (二)構(gòu)建倫理規(guī)范體系

    近年來,由于各國針對人工智能監(jiān)管的配套法律法規(guī)尚未成型,因而亟須構(gòu)建一套切實(shí)可行的倫理規(guī)范體系。第一,各國應(yīng)當(dāng)在中央和地方分別設(shè)立“人工智能倫理委員會”,由其制定統(tǒng)一《人工智能倫理章程》,為人工智能技術(shù)研發(fā)預(yù)設(shè)道德標(biāo)準(zhǔn);第二,人工智能行業(yè)組織(如日本人工智能學(xué)會)和公司企業(yè)(如Google)要在內(nèi)部設(shè)置相應(yīng)的倫理委員會,制定科學(xué)規(guī)范的倫理管理規(guī)章制度,包括對科研人員和專家學(xué)者道德約束,對技術(shù)研發(fā)和產(chǎn)品應(yīng)用道德指引等,同時還應(yīng)定期主動召開人工智能安全研發(fā)例會,并及時向政府人工智能倫理委員會匯報。

    (三)建立法律監(jiān)管制度

    對于人工智能技術(shù)引發(fā)的一系列潛在風(fēng)險和法律難題,必須建立全方位的法律監(jiān)管制度。第一,事前應(yīng)預(yù)防。構(gòu)建前瞻性的安全監(jiān)測預(yù)警機(jī)制,將未來人工智能技術(shù)可能造成的惡性事件量化為“特別重大、重大、較大、一般”四個等級,當(dāng)惡性事件突發(fā)時立即對其發(fā)展動向和不良影響進(jìn)行研判、評估和預(yù)防,并及時向社會發(fā)布預(yù)警信息。[15]第二,事中須管控。開發(fā)新型的人工智能測試平臺,對人工智能系統(tǒng)和產(chǎn)品的各項(xiàng)性能(主要是安全性能)進(jìn)行實(shí)時監(jiān)測;建設(shè)動態(tài)的人工智能評價機(jī)制,對人工智能系統(tǒng)和產(chǎn)品的風(fēng)險性、危害性等進(jìn)行定期評估;實(shí)施全面的人工智能監(jiān)管結(jié)構(gòu),對人工智能從研發(fā)到應(yīng)用進(jìn)行全程監(jiān)管,包括設(shè)計問責(zé)、制造監(jiān)督和使用管控。第三,事后必監(jiān)督。新設(shè)專門的人工智能監(jiān)管機(jī)構(gòu)——“人工智能監(jiān)管委員會”(可與“人工智能倫理委員會”合并為“人工智能發(fā)展委員會”)對人工智能技術(shù)進(jìn)行監(jiān)督,加大對技術(shù)濫用(如算法合謀、侵犯隱私)行為的處罰力度,同時督促行業(yè)和企業(yè)采取自律監(jiān)管措施。

    (四)加強(qiáng)國際協(xié)同合作

    世界各國政府和全球國際組織應(yīng)在未來人工智能監(jiān)管中扮演組織機(jī)構(gòu)的角色,協(xié)調(diào)各方利益沖突,構(gòu)建全球治理聯(lián)盟。[16]一方面,世界各國在不斷加大人工智能研發(fā)投入力度的同時,也應(yīng)劃撥專項(xiàng)資金用于研究人工智能極化異化、技術(shù)濫用等國際安全問題,鼓勵引導(dǎo)企業(yè)、公眾(包括專家學(xué)者和普通百姓)等多方社會主體參與人工智能監(jiān)管;另一方面,國際組織就人工智能發(fā)展方向與應(yīng)用領(lǐng)域問題必須制定統(tǒng)一的國際條約,做出明確禁止性規(guī)定(負(fù)面清單),形成全球性的人工智能技術(shù)風(fēng)險控制機(jī)制。另外,在人工智能時代下須強(qiáng)化“人類命運(yùn)共同體”意識。各國都應(yīng)在謀求本國人工智能發(fā)展利益的同時合理兼顧他國利益,最大限度防范人工智能技術(shù)的不可逆危機(jī),共同推進(jìn)人工智能社會安定有序發(fā)展。

    五、結(jié)語

    站在人工智能時代的風(fēng)口,我國必須牢牢抓住發(fā)展機(jī)遇,積極主動作為,全面推動人工智能經(jīng)濟(jì)快速發(fā)展,但同時人工智能技術(shù)帶來的諸多社會風(fēng)險和法律挑戰(zhàn)也不容我們忽視。因此,為了確保人工智能能夠健康持續(xù)發(fā)展,必須做好前瞻預(yù)防和后續(xù)監(jiān)管工作,其中,塑造多元價值目標(biāo)是前提,德治(構(gòu)建倫理規(guī)范體系)與法治(建立法律監(jiān)管制度)相結(jié)合是關(guān)鍵,構(gòu)建全球人工智能治理聯(lián)盟是保障??傊挥袑θ斯ぶ悄芗夹g(shù)發(fā)展采取多元化的監(jiān)管措施,才能迎來一個美好安全的嶄新時代。

    參考文獻(xiàn):

    [1]智研咨詢.2018-2024年中國人工智能行業(yè)市場深度調(diào)研及未來發(fā)展趨勢報告[EB/OL].[2019-01-02]. http://www.

    chyxx.com/research/201807/657002.html.

    [2]烏鎮(zhèn)智庫.烏鎮(zhèn)指數(shù):全球人工智能發(fā)展報告2017 [EB/OL].[2017-08-10].https://www.useit.com.cn/thread-16182-1-1.html.

    [3]閆坤如.人工智能的道德風(fēng)險及其規(guī)避路徑[J].上海師范大學(xué)學(xué)報,2018(2):40-47.

    [4]尹昊智,劉鐵志.人工智能各國戰(zhàn)略解讀:美國人工智能報告解析[J].電信網(wǎng)技術(shù),2017(2):52-57.

    [5]潘敬萍.我國人工智能發(fā)展現(xiàn)狀與應(yīng)對策略研究[J].現(xiàn)代商業(yè),2018(21):25-28.

    [6]周程,和鴻鵬.人工智能帶來的倫理與社會挑戰(zhàn)[J].人民論壇,2018(2):26-28.

    [7]搜狐網(wǎng).OpenAI等機(jī)構(gòu)發(fā)布《人工智能惡意使用》報告,利用AI來犯罪只是時間問題[EB/OL].[2018-02-24].

    http://www.sohu.com/a/223853051_651893.

    [8]張敏,李倩.人工智能應(yīng)用的安全風(fēng)險及法律防控[J].西北工業(yè)大學(xué)學(xué)報,2018(3):108-115.

    [9]王利明.人工智能時代提出的法學(xué)新課題[J].中國法律評論,2018(2):1-4.

    [10]吳漢東.人工智能時代的冷思考[J].中國報業(yè),2018(3):60-61.

    [11]雷悅.人工智能發(fā)展中的法律問題探析[J].北京郵電大學(xué)學(xué)報,2018(1):17-24.

    [12]搜狐網(wǎng).即將進(jìn)入手機(jī)人工智能時代,你的隱私安全誰來保護(hù)?[EB/OL].[2018-10-10].http://www.sohu.com/

    a/197491521_610727,2017-10-11.

    [13]199IT.牛津大學(xué):預(yù)測2035年美國數(shù)百萬勞動力將被機(jī)器人取代[EB/OL].[2018-10-10].http://www.199it.com/

    archives/591916.html.

    [14]吳漢東.人工智能時代的制度安排與法律規(guī)制[J].法律科學(xué),2017(5):128-136.

    [15]黨家玉.人工智能的倫理與法律風(fēng)險問題研究[J].信息安全研究,2017(12):1080-1090.

    [16]馬治國,徐濟(jì)寬.人工智能發(fā)展的潛在風(fēng)險及法律防控監(jiān)管[J].北京工業(yè)大學(xué)學(xué)報,2018(6):65-71.

    Abstract: The emergence and development of AI technology will inevitably lead to a series of potential risks, including ethical and moral crisis, hidden dangers of technology abuse, risk of polarization and alienation, military war disaster, etc. At the same time, the advent of the AI era has caused many problems related to law, such as the determination of the qualification of legal subject, the copyright ownership, and the determination of tort liability, the protection of personality rights, issues related to driverless cars and substitute workers and so on. Therefore, it is necessary to deeply explore the supervision path for AI development in the future, and take measures to effectively avoid the potential AI-related social risks and legal challenges, such as setting up goals with diversified values, building a system of ethical norm, establishing a legal supervision system and strengthening international cooperation, so as to maximize the positive role of AI.

    Key Words: AI (artificial intelligence); social risk; legal challenge; supervision path

    猜你喜歡
    社會風(fēng)險人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    公眾網(wǎng)絡(luò)安全素養(yǎng)如何提升
    人民論壇(2017年1期)2017-02-18 15:55:03
    網(wǎng)絡(luò)社會風(fēng)險規(guī)律及其因應(yīng)策略
    網(wǎng)絡(luò)社會風(fēng)險規(guī)律及其因應(yīng)策略
    下一幕,人工智能!
    下一幕,人工智能!
    低壓集抄改造項(xiàng)目的社會風(fēng)險管理研究
    科技視界(2016年13期)2016-06-13 17:35:37
    亚洲性久久影院| 国产综合精华液| 哪个播放器可以免费观看大片| av又黄又爽大尺度在线免费看| 日本av手机在线免费观看| 水蜜桃什么品种好| 久久久精品免费免费高清| 欧美区成人在线视频| 国产 一区精品| 国产精品三级大全| 国产淫片久久久久久久久| 国产深夜福利视频在线观看| 在线精品无人区一区二区三 | 亚洲人与动物交配视频| 小蜜桃在线观看免费完整版高清| 午夜日本视频在线| 激情 狠狠 欧美| 久久久久精品性色| 免费少妇av软件| 久久久久久久久久人人人人人人| 国产精品av视频在线免费观看| 成人漫画全彩无遮挡| av天堂中文字幕网| 国产真实伦视频高清在线观看| 国产亚洲最大av| 在线免费十八禁| 精品亚洲成a人片在线观看 | 国产精品国产三级国产专区5o| 精品视频人人做人人爽| 免费观看在线日韩| 最近最新中文字幕免费大全7| 午夜福利视频精品| 免费黄网站久久成人精品| 99国产精品免费福利视频| 汤姆久久久久久久影院中文字幕| 一级二级三级毛片免费看| 狂野欧美白嫩少妇大欣赏| 亚洲三级黄色毛片| 男女啪啪激烈高潮av片| 欧美另类一区| 在线免费十八禁| 日韩视频在线欧美| 日日啪夜夜撸| 嫩草影院新地址| 妹子高潮喷水视频| 黄色日韩在线| 久久久久久久久大av| 99久久综合免费| 久久久久久久国产电影| 女性生殖器流出的白浆| 日韩精品有码人妻一区| 午夜老司机福利剧场| 亚洲图色成人| 精品熟女少妇av免费看| 国产精品免费大片| 久久久久性生活片| 亚洲国产精品999| 午夜福利在线在线| 日本爱情动作片www.在线观看| 嘟嘟电影网在线观看| 欧美+日韩+精品| 黄片无遮挡物在线观看| 日本av手机在线免费观看| 91精品国产九色| 国产精品99久久久久久久久| 视频区图区小说| 毛片一级片免费看久久久久| 国产色爽女视频免费观看| 天堂中文最新版在线下载| 成人国产av品久久久| 自拍欧美九色日韩亚洲蝌蚪91 | 成人综合一区亚洲| 久久精品人妻少妇| 天美传媒精品一区二区| 国产91av在线免费观看| 亚洲第一区二区三区不卡| 爱豆传媒免费全集在线观看| 国产精品一区www在线观看| 成人一区二区视频在线观看| 91午夜精品亚洲一区二区三区| 欧美国产精品一级二级三级 | 人人妻人人爽人人添夜夜欢视频 | 国产欧美另类精品又又久久亚洲欧美| 乱系列少妇在线播放| 亚洲人成网站在线观看播放| 这个男人来自地球电影免费观看 | 一边亲一边摸免费视频| 国产淫片久久久久久久久| 99久久精品一区二区三区| 国产永久视频网站| 天美传媒精品一区二区| 老女人水多毛片| 亚洲电影在线观看av| 免费不卡的大黄色大毛片视频在线观看| 婷婷色综合www| 精品一区二区三卡| 国产精品成人在线| 欧美成人a在线观看| 丝瓜视频免费看黄片| 免费av不卡在线播放| 十分钟在线观看高清视频www | 美女高潮的动态| 内射极品少妇av片p| av免费观看日本| 啦啦啦中文免费视频观看日本| 中文字幕亚洲精品专区| 免费观看av网站的网址| 国产精品一区二区在线不卡| 内地一区二区视频在线| 国产精品一区二区性色av| 色婷婷av一区二区三区视频| 高清日韩中文字幕在线| 国产精品国产av在线观看| 亚洲色图av天堂| 精品久久久久久久久亚洲| 搡老乐熟女国产| 一区二区三区四区激情视频| 好男人视频免费观看在线| 欧美日韩亚洲高清精品| 肉色欧美久久久久久久蜜桃| 中国国产av一级| 国产精品久久久久久久久免| 精品熟女少妇av免费看| 色视频在线一区二区三区| 欧美成人午夜免费资源| 我的老师免费观看完整版| 狂野欧美激情性xxxx在线观看| 国产精品久久久久久精品古装| 看免费成人av毛片| 亚洲国产欧美在线一区| 少妇人妻精品综合一区二区| 亚洲色图av天堂| 日韩中文字幕视频在线看片 | 亚洲国产高清在线一区二区三| 国产成人精品婷婷| 韩国高清视频一区二区三区| 久久女婷五月综合色啪小说| 免费av中文字幕在线| 国产69精品久久久久777片| 女性生殖器流出的白浆| 激情五月婷婷亚洲| 国产深夜福利视频在线观看| 寂寞人妻少妇视频99o| 亚洲国产欧美人成| 美女高潮的动态| 亚洲成色77777| 国产欧美另类精品又又久久亚洲欧美| 国产无遮挡羞羞视频在线观看| 久久精品久久久久久噜噜老黄| 亚洲高清免费不卡视频| 亚洲三级黄色毛片| 亚洲精品日韩av片在线观看| 女性被躁到高潮视频| 国产成人午夜福利电影在线观看| 亚洲av成人精品一二三区| 午夜福利影视在线免费观看| 91狼人影院| 精华霜和精华液先用哪个| 亚洲精品国产av成人精品| 久久婷婷青草| 亚洲美女视频黄频| 日韩 亚洲 欧美在线| 伦精品一区二区三区| 日韩制服骚丝袜av| 国产精品国产三级国产专区5o| 伦理电影大哥的女人| 在线观看三级黄色| 亚洲av不卡在线观看| 全区人妻精品视频| 欧美日韩视频高清一区二区三区二| 蜜桃久久精品国产亚洲av| 高清午夜精品一区二区三区| 亚洲精品国产成人久久av| 韩国高清视频一区二区三区| 国产有黄有色有爽视频| 青青草视频在线视频观看| 纯流量卡能插随身wifi吗| 国产熟女欧美一区二区| 超碰av人人做人人爽久久| 久久精品国产a三级三级三级| 国产高潮美女av| 18禁在线播放成人免费| 久久精品国产鲁丝片午夜精品| 国产免费一级a男人的天堂| 深爱激情五月婷婷| 伊人久久国产一区二区| 欧美亚洲 丝袜 人妻 在线| 好男人视频免费观看在线| 人妻 亚洲 视频| 看非洲黑人一级黄片| 免费观看的影片在线观看| 午夜免费男女啪啪视频观看| 日韩三级伦理在线观看| 男人狂女人下面高潮的视频| av在线蜜桃| 超碰av人人做人人爽久久| 国产亚洲av片在线观看秒播厂| 亚洲精品乱码久久久久久按摩| 在线观看免费高清a一片| 国产色爽女视频免费观看| 汤姆久久久久久久影院中文字幕| 老司机影院成人| 人人妻人人爽人人添夜夜欢视频 | 国产精品爽爽va在线观看网站| 特大巨黑吊av在线直播| 日日啪夜夜撸| 日韩亚洲欧美综合| 五月开心婷婷网| 自拍欧美九色日韩亚洲蝌蚪91 | 精品酒店卫生间| 国产亚洲91精品色在线| 欧美高清性xxxxhd video| 边亲边吃奶的免费视频| 久久午夜福利片| 赤兔流量卡办理| 搡女人真爽免费视频火全软件| av女优亚洲男人天堂| 日本黄色日本黄色录像| 97在线视频观看| 精品99又大又爽又粗少妇毛片| 我的老师免费观看完整版| 久久6这里有精品| 一级毛片aaaaaa免费看小| 成人黄色视频免费在线看| 免费大片18禁| 久久精品人妻少妇| 99热网站在线观看| av国产精品久久久久影院| 水蜜桃什么品种好| 久久精品熟女亚洲av麻豆精品| 亚洲欧美一区二区三区黑人 | 丰满少妇做爰视频| 国产成人freesex在线| av又黄又爽大尺度在线免费看| 香蕉精品网在线| 中文天堂在线官网| 日韩免费高清中文字幕av| 麻豆成人av视频| 国产男人的电影天堂91| 狠狠精品人妻久久久久久综合| 成人毛片a级毛片在线播放| 亚洲欧美日韩卡通动漫| 麻豆成人av视频| 啦啦啦在线观看免费高清www| 国产精品久久久久久久久免| 亚洲精品,欧美精品| 中文字幕精品免费在线观看视频 | 国语对白做爰xxxⅹ性视频网站| 亚洲av成人精品一区久久| 国产爱豆传媒在线观看| 国产熟女欧美一区二区| 男女边吃奶边做爰视频| 性色av一级| 午夜视频国产福利| 天天躁夜夜躁狠狠久久av| 伦理电影免费视频| 色视频www国产| 国产免费又黄又爽又色| 午夜福利高清视频| 久久99热这里只频精品6学生| 国产久久久一区二区三区| 亚洲精品一二三| 边亲边吃奶的免费视频| 一级毛片久久久久久久久女| 久久精品国产亚洲网站| 久久鲁丝午夜福利片| 十分钟在线观看高清视频www | 欧美国产精品一级二级三级 | 在线观看人妻少妇| 高清黄色对白视频在线免费看 | 成人特级av手机在线观看| 国产黄色视频一区二区在线观看| 成年美女黄网站色视频大全免费 | 国产视频首页在线观看| 黄色欧美视频在线观看| 免费不卡的大黄色大毛片视频在线观看| 国产精品蜜桃在线观看| 欧美日韩视频精品一区| 精品一区二区三区视频在线| 亚洲国产高清在线一区二区三| 一二三四中文在线观看免费高清| 国产精品99久久久久久久久| 欧美性感艳星| 亚洲人成网站在线观看播放| 亚洲欧洲日产国产| 精品一品国产午夜福利视频| xxx大片免费视频| 亚洲图色成人| 日本wwww免费看| 夫妻性生交免费视频一级片| 免费观看无遮挡的男女| 九草在线视频观看| 深爱激情五月婷婷| 日韩成人伦理影院| 国产精品爽爽va在线观看网站| 国产色婷婷99| 欧美精品国产亚洲| 国产精品麻豆人妻色哟哟久久| 久久国产乱子免费精品| 国产亚洲一区二区精品| 在线观看免费日韩欧美大片 | 插阴视频在线观看视频| 人人妻人人澡人人爽人人夜夜| 欧美一区二区亚洲| 人妻 亚洲 视频| 自拍欧美九色日韩亚洲蝌蚪91 | 午夜福利在线观看免费完整高清在| 欧美zozozo另类| 亚洲欧美成人精品一区二区| 国产精品人妻久久久影院| 高清在线视频一区二区三区| 亚洲欧洲国产日韩| 啦啦啦啦在线视频资源| 欧美精品一区二区免费开放| 人妻系列 视频| 欧美精品人与动牲交sv欧美| 国产精品熟女久久久久浪| 一个人看的www免费观看视频| 天堂8中文在线网| 80岁老熟妇乱子伦牲交| 一级a做视频免费观看| 国产色爽女视频免费观看| 精品久久久久久电影网| 免费黄网站久久成人精品| av免费观看日本| 性色av一级| 亚洲精品久久久久久婷婷小说| 国产片特级美女逼逼视频| 欧美区成人在线视频| 天天躁日日操中文字幕| 网址你懂的国产日韩在线| 国精品久久久久久国模美| 久久久久久久久久成人| 久久精品久久精品一区二区三区| 人妻制服诱惑在线中文字幕| 日日摸夜夜添夜夜爱| 色5月婷婷丁香| 久久久久人妻精品一区果冻| kizo精华| 国产精品精品国产色婷婷| 亚洲av中文字字幕乱码综合| 一级a做视频免费观看| 青春草视频在线免费观看| 最近最新中文字幕免费大全7| 高清毛片免费看| 又大又黄又爽视频免费| 久久精品国产亚洲av天美| 观看av在线不卡| 超碰97精品在线观看| 日本与韩国留学比较| 午夜激情福利司机影院| 这个男人来自地球电影免费观看 | 麻豆成人午夜福利视频| 天天躁夜夜躁狠狠久久av| 亚洲欧美中文字幕日韩二区| 成人毛片a级毛片在线播放| 亚洲精品日本国产第一区| av.在线天堂| 99久久精品国产国产毛片| 亚洲国产高清在线一区二区三| 一本久久精品| av在线蜜桃| 成年人午夜在线观看视频| 美女脱内裤让男人舔精品视频| 丰满少妇做爰视频| 永久网站在线| 国产人妻一区二区三区在| 男女免费视频国产| 水蜜桃什么品种好| 日产精品乱码卡一卡2卡三| 少妇 在线观看| 欧美精品一区二区大全| 午夜激情福利司机影院| 国产午夜精品久久久久久一区二区三区| 天堂俺去俺来也www色官网| 午夜福利在线在线| 国产精品伦人一区二区| 蜜臀久久99精品久久宅男| 婷婷色综合www| 男女无遮挡免费网站观看| 成人二区视频| 欧美日韩综合久久久久久| 国产男人的电影天堂91| 乱系列少妇在线播放| 尾随美女入室| 男女下面进入的视频免费午夜| 男人爽女人下面视频在线观看| 亚洲丝袜综合中文字幕| 一本色道久久久久久精品综合| 成年av动漫网址| 日本与韩国留学比较| 久久精品夜色国产| 欧美区成人在线视频| 国产精品免费大片| 亚洲av在线观看美女高潮| 日本黄大片高清| 高清av免费在线| 麻豆成人午夜福利视频| 免费av不卡在线播放| 又粗又硬又长又爽又黄的视频| 大香蕉97超碰在线| 日韩国内少妇激情av| 一本—道久久a久久精品蜜桃钙片| 97精品久久久久久久久久精品| 九草在线视频观看| 伦理电影免费视频| 日本欧美视频一区| 一区二区av电影网| 国产视频内射| 国产高清不卡午夜福利| av一本久久久久| 精品久久久噜噜| 少妇人妻久久综合中文| 精品久久久久久久末码| 99国产精品免费福利视频| 精品国产三级普通话版| 国产精品熟女久久久久浪| 黄色日韩在线| 天堂8中文在线网| 免费人成在线观看视频色| 中国三级夫妇交换| 久久久久久久大尺度免费视频| 22中文网久久字幕| 偷拍熟女少妇极品色| 国产精品麻豆人妻色哟哟久久| 在线观看一区二区三区| 18禁在线无遮挡免费观看视频| 欧美日本视频| 爱豆传媒免费全集在线观看| 一级av片app| 久久久久久久久久人人人人人人| 在线观看美女被高潮喷水网站| 国产欧美日韩精品一区二区| 3wmmmm亚洲av在线观看| 国产老妇伦熟女老妇高清| 久久国产精品大桥未久av | 久久综合国产亚洲精品| 国产欧美日韩精品一区二区| 亚洲伊人久久精品综合| 麻豆精品久久久久久蜜桃| 国产黄片美女视频| 免费观看无遮挡的男女| 亚洲,欧美,日韩| 久久ye,这里只有精品| 又爽又黄a免费视频| 男女啪啪激烈高潮av片| av女优亚洲男人天堂| www.av在线官网国产| 国产精品一区二区在线不卡| 日韩电影二区| 久久久久人妻精品一区果冻| 人妻少妇偷人精品九色| 永久网站在线| 春色校园在线视频观看| www.av在线官网国产| xxx大片免费视频| 久久久a久久爽久久v久久| 欧美精品一区二区免费开放| 丝袜脚勾引网站| 国产一区二区三区综合在线观看 | 热99国产精品久久久久久7| 一个人看的www免费观看视频| 成人特级av手机在线观看| 一个人免费看片子| 99久久精品热视频| 亚洲av综合色区一区| 日韩人妻高清精品专区| 能在线免费看毛片的网站| 欧美变态另类bdsm刘玥| 精品国产三级普通话版| 丝袜脚勾引网站| 高清黄色对白视频在线免费看 | 麻豆乱淫一区二区| 国产成人精品久久久久久| av在线播放精品| 欧美激情极品国产一区二区三区 | 少妇 在线观看| 日韩一本色道免费dvd| 18禁裸乳无遮挡免费网站照片| 亚洲av中文字字幕乱码综合| 国产精品人妻久久久影院| 亚洲av在线观看美女高潮| 91aial.com中文字幕在线观看| 97精品久久久久久久久久精品| 亚洲av欧美aⅴ国产| 美女内射精品一级片tv| 国产精品国产av在线观看| 成人国产av品久久久| 老女人水多毛片| 一本色道久久久久久精品综合| 老女人水多毛片| 777米奇影视久久| 亚洲精品乱码久久久v下载方式| 中文欧美无线码| 国产亚洲一区二区精品| 日产精品乱码卡一卡2卡三| 免费看av在线观看网站| 一本—道久久a久久精品蜜桃钙片| 人人妻人人看人人澡| 视频中文字幕在线观看| 国产精品国产av在线观看| 欧美日韩精品成人综合77777| 国产一区亚洲一区在线观看| av在线老鸭窝| 大片电影免费在线观看免费| 一级毛片aaaaaa免费看小| 亚洲内射少妇av| 80岁老熟妇乱子伦牲交| 麻豆国产97在线/欧美| 成人午夜精彩视频在线观看| 亚洲精品国产成人久久av| 在线精品无人区一区二区三 | 国产欧美日韩精品一区二区| 国产高清国产精品国产三级 | 综合色丁香网| 国产伦在线观看视频一区| 国产高清国产精品国产三级 | 欧美另类一区| 美女中出高潮动态图| 国产一区亚洲一区在线观看| 国产精品麻豆人妻色哟哟久久| 精品久久久久久电影网| 丝瓜视频免费看黄片| 日韩三级伦理在线观看| 在线精品无人区一区二区三 | 91久久精品电影网| 在线免费十八禁| 22中文网久久字幕| 水蜜桃什么品种好| 婷婷色麻豆天堂久久| 干丝袜人妻中文字幕| 免费观看a级毛片全部| 亚洲精品一区蜜桃| 亚州av有码| 国产淫语在线视频| 久久人人爽av亚洲精品天堂 | 日韩成人av中文字幕在线观看| 成人免费观看视频高清| 亚洲国产最新在线播放| 制服丝袜香蕉在线| 少妇熟女欧美另类| 街头女战士在线观看网站| 国产精品一二三区在线看| 国产精品福利在线免费观看| 亚洲人成网站在线播| 久久久久久伊人网av| 亚洲国产毛片av蜜桃av| 高清av免费在线| h日本视频在线播放| 又粗又硬又长又爽又黄的视频| 亚洲三级黄色毛片| 欧美国产精品一级二级三级 | 午夜福利网站1000一区二区三区| 啦啦啦啦在线视频资源| 欧美精品国产亚洲| 五月开心婷婷网| 狂野欧美激情性bbbbbb| 亚洲国产精品专区欧美| 久久av网站| 一本久久精品| 亚洲天堂av无毛| 成人一区二区视频在线观看| 毛片一级片免费看久久久久| 日日啪夜夜撸| 国产高清三级在线| 在线观看国产h片| 精品国产一区二区三区久久久樱花 | 丰满少妇做爰视频| 一区二区三区精品91| 精品亚洲成a人片在线观看 | 国产精品久久久久久久电影| 国产精品伦人一区二区| 九色成人免费人妻av| 亚洲成色77777| 青春草国产在线视频| 日韩中文字幕视频在线看片 | 中文乱码字字幕精品一区二区三区| 欧美bdsm另类| 久久久精品免费免费高清| 日韩欧美精品免费久久| 2022亚洲国产成人精品| 老师上课跳d突然被开到最大视频| 国产精品精品国产色婷婷| 亚洲欧美精品自产自拍| 狠狠精品人妻久久久久久综合| 男女国产视频网站| 亚洲国产高清在线一区二区三| 欧美成人精品欧美一级黄| 777米奇影视久久| 网址你懂的国产日韩在线| 麻豆精品久久久久久蜜桃| 五月玫瑰六月丁香| 成人免费观看视频高清| 国产精品一二三区在线看| 欧美精品国产亚洲| 亚洲成色77777| 国产69精品久久久久777片| 2018国产大陆天天弄谢| av福利片在线观看| 国产精品一二三区在线看| 久久人人爽人人爽人人片va| 国产精品.久久久| 国产精品一二三区在线看| 久久久国产一区二区| 欧美最新免费一区二区三区| 干丝袜人妻中文字幕| 一级a做视频免费观看| 九九在线视频观看精品| 亚洲av综合色区一区| 夫妻午夜视频| 99精国产麻豆久久婷婷| 国产v大片淫在线免费观看| 亚洲精品国产色婷婷电影| 亚洲欧美一区二区三区黑人 | 肉色欧美久久久久久久蜜桃|