• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能社會組織監(jiān)管的合規(guī)型路徑

    2021-01-06 05:42:19劉紅春
    天津法學(xué) 2021年2期
    關(guān)鍵詞:人工智能發(fā)展

    劉紅春

    (云南大學(xué) 法學(xué)院,云南 650021)

    《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(以下簡稱《規(guī)劃》)分別在“重點任務(wù)”、“資源配置”及“保障措施”三個章節(jié)中提出:“推動國內(nèi)優(yōu)勢企業(yè)、行業(yè)組織、科研機構(gòu)、高校等聯(lián)合組建中國人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟?!薄凹涌焱苿訜o人駕駛、服務(wù)機器人等細分應(yīng)用領(lǐng)域的行業(yè)協(xié)會和聯(lián)盟制定相關(guān)標(biāo)準(zhǔn)。”“支持相關(guān)行業(yè)協(xié)會、聯(lián)盟及服務(wù)機構(gòu)搭建面向人工智能企業(yè)的全球化服務(wù)平臺?!薄兑?guī)劃》的出臺,回應(yīng)了長期以來法學(xué)界學(xué)者們對人工智能如火如荼的研究。然而,現(xiàn)有研究多集中于“法律主體資格”①,對人工智能社會組織,即《規(guī)劃》中提到的“行業(yè)組織”、“行業(yè)協(xié)會”的發(fā)展概況、特點及法治保障訴求與具體建構(gòu)路徑卻鮮有建樹。改革開放40 年來,社會組織監(jiān)管體制發(fā)展至今,已經(jīng)逐漸從“掌控型監(jiān)管”向“合規(guī)型監(jiān)管”轉(zhuǎn)型[1],“分類管理”、“監(jiān)護型控制”、“嵌入型監(jiān)管”等概念揭示了現(xiàn)行社會組織“雙重管理”體制的“掌控型監(jiān)管”特性。與其相對的“合規(guī)型監(jiān)管”指的是,以促進社會組織自覺尋求符合法律法規(guī)、規(guī)章制度等正式規(guī)則以及社會共同的信念、行動邏輯等道德和認知因素等規(guī)范要求為目的的監(jiān)管??梢?,就促進“掌控型監(jiān)管”向“合規(guī)型監(jiān)管”轉(zhuǎn)型而言,對人工智能社會組織的監(jiān)管不能脫離法治軌道,因此人工智能社會組織在人工智能發(fā)展浪潮中的實踐便值得體察與鑒析。

    本文所稱人工智能社會組織,指的是各級人民政府民政部門依據(jù)《社會團體登記管理條例》(2016年修訂)、《民辦非企業(yè)單位登記管理暫行條例》(1998 年)、《基金會管理條例》(2004 年)以及相關(guān)法律法規(guī)登記注冊的組織名稱里含有“人工智能”的社會團體、基金會及民辦非企業(yè)單位。在全國社會組織查詢V4.2 數(shù)據(jù)庫中的87 萬余家社會組織中,目前共有132 家人工智能社會組織,其中民政部登記1 家,地方民政部門登記131 家②。本文將以這132 家人工智能社會組織為研究對象,深入剖析其成立過程、特點及法治發(fā)展動態(tài),并把法治思維與法治方法融入其發(fā)展之中,以期為人工智能社會組織監(jiān)管體制的“掌控型監(jiān)管”向“合規(guī)型監(jiān)管”轉(zhuǎn)型提供知智支撐。

    一、人工智能社會組織的基本情況與特點

    人工智能社會組織的發(fā)展已經(jīng)寫入了《規(guī)劃》,因此從組織基礎(chǔ)和法治視角認識人工智能社會組織的基本特點就十分必要?!敖M織是人類社會存在的基本形式,社會秩序的維系與其組織基礎(chǔ)聯(lián)系密切?!彪S著人工智能逐漸嵌入互聯(lián)網(wǎng)、教育、醫(yī)療、服務(wù)、社會治理、經(jīng)濟生產(chǎn)、人際交往等領(lǐng)域,傳統(tǒng)社會組織的功能和形態(tài)開始發(fā)生變化,尤其是對于城市社會的組織化能力開始下降,人工智能社會組織的興起與建設(shè)構(gòu)成了社會變革中區(qū)別于傳統(tǒng)社會組織的新的社會秩序單元[2]。人工智能社會組織的發(fā)展實質(zhì)上是由相對“單一型”邁向“復(fù)合型”,即“人工智能+”的社會單元迭代,其組織形態(tài)的確立也并非完全是由其自身的特點所決定的。一方面,在人工智能成為人類文明一大革新的歷史轉(zhuǎn)型時期,人類社會中的各種組織形態(tài)必然發(fā)生深刻的重構(gòu),人工智能社會組織應(yīng)運而生。另一方面,社會組織的生存和發(fā)展始終依賴其所服務(wù)的特定公共目標(biāo),因而人工智能社會組織結(jié)構(gòu)的形成也無法回避來自公共社會各類因素的影響。公開資料顯示:早在1991 年,中國就已成立首家人工智能社會組織——“中國人工智能學(xué)會”③。筆者對包括中國人工智能學(xué)會在內(nèi)的132 家人工智能社會組織的基本情況進行整合、分析,從如下幾大關(guān)鍵要素闡述人工智能社會組織的發(fā)展特點:

    (一)組織類型與組織名稱

    根據(jù)登記注冊形式不同,人工智能社會組織的組織類型可分為社會團體、民辦非企業(yè)單位和基金會三類。在132 家人工智能社會組織中,社會團體類人工智能社會組織67 家,其中民政部登記1 家,地方民政部門及其他部門登記66 家;民辦非企業(yè)單位類65 家,在地方民政部門及其他部門登記;現(xiàn)有公開數(shù)據(jù)中暫無基金會類型的人工智能社會組織。因此,就人工智能社會組織的組織類型而言,社會團體與民辦非企業(yè)單位平分秋色,基金會則尚屬空白。

    人工智能社會組織的名稱在現(xiàn)實中主要有兩個作用:第一,將該人工智能社會組織與其他人工智能社會組織相區(qū)別;第二,代表人工智能社會組織的信譽。通過對132 家人工智能社會組織的命名規(guī)律進行解析發(fā)現(xiàn),多以登記注冊地的地名作為前綴名,中間名為“人工智能”或“人工智能+”,后綴名有“研究院”、“學(xué)會”、“協(xié)會”、“中心”、“研究所”、“聯(lián)盟”、“促進會”7 種類型,其中又以前三者為主④。

    (二)登記管理機關(guān)與注冊地

    人工智能社會組織對于登記管理機關(guān)及注冊地的選擇在一定程度上能反映出人工智能社會組織的登記層級及分布地域的發(fā)展特征。從登記管理機關(guān)的層級來看,在132 家人工智能社會組織中,以民政部作為登記機關(guān)的有1 家,省級民政部門25家,市級民政部門65 家,區(qū)縣級民政部門20 家⑤。不難看出,人工智能類社會組織的登記管理機關(guān)以省市兩級民政部門為主,而民政部最少。從分布地域來看⑥,廣東注冊最多(22 家),注冊數(shù)在5 家以上的有山東(16 家)、北京(13 家)、江蘇(11 家)、上海(11 家)、福建(12 家)、浙江(7 家)。目前,僅天津、甘肅、青海、云南、新疆、寧夏及西藏暫無人工智能社會組織注冊。人工智能社會組織集中分布于東部沿海地區(qū),這也與IDC 和浪潮聯(lián)合研究2019 年3 月發(fā)布的《2018-2019 中國人工智能計算力發(fā)展評估報告》中“人工智能的計算力分布”呈現(xiàn)一定的重合,即“浙江、廣東、北京、湖北等省市分別占據(jù)各自區(qū)域人工智能計算力綜合實力的領(lǐng)頭羊位置”[3]。

    (三)成立登記日期與注冊資金

    如前文所述,人工智能社會組織最早登記注冊于1991 年,此后數(shù)年登記注冊數(shù)量寥寥無幾,且諸多年份呈登記注冊空白狀態(tài),直到2016 年才開始有較大的進展。截至2020 年12 月底,2019 年成立的人工智能社會組織數(shù)量最多共55 家,2020 年9家 ,2018 年共 37 家,2017 年 17 家。2017 年被稱為“人工智能元年”。

    注冊資金是人工智能社會組織在各民政部門注冊登記時核準(zhǔn)的法定資本數(shù)額。在132 家人工智能社會組織中,民辦非企業(yè)單位類的注冊資金整體上高于社會團體類。詳言之,在67 家社會團體類人工智能社會組織和65 家民辦非企業(yè)單位類人工智能社會組織中,注冊資金為3 萬元的,社會團體類42 家,民辦非企業(yè)單位類10 家;10 萬元以上不滿100 萬元的,社會團體類15 家,民辦非企業(yè)單位類19 家;100 萬元以上不滿1000 萬元的,社會團體類0 家,民辦非企業(yè)單位類12 家;1000 萬元以上不滿10 億元的,社會團體類4 家,民辦非企業(yè)單位類1家;10 億元以上的,社會團體類0 家,民辦非企業(yè)單位類12 家。

    (四)業(yè)務(wù)主管單位與業(yè)務(wù)范圍

    人工智能社會組織的業(yè)務(wù)主管機關(guān)類型相對單一。在67 家社會團體類人工智能社會組織中,除了已脫鉤5 家、無業(yè)務(wù)主管單位3 家及不明確1 家之外,剩余58 家的業(yè)務(wù)主管單位以科學(xué)技術(shù)協(xié)會居多,有38 家,其次是經(jīng)濟和信息化委員會,有3家。在65 家民辦非企業(yè)單位中,已脫鉤9 家,無業(yè)務(wù)主管單位的有15 家,直接登記7 家,剩余34 家業(yè)務(wù)主管單位明確的社會組織中,以科學(xué)技術(shù)協(xié)會為主管單位的最多,有6 家。

    人工智能社會組織的業(yè)務(wù)范圍系其在民政部門登記核實可從事的具體事項??傮w而言,現(xiàn)有67家社會團體類人工智能社會組織與65 家民辦非企業(yè)單位類人工智能社會組織的業(yè)務(wù)范圍呈同質(zhì)化局面,多為以人工智能為核心的研究、交流、培訓(xùn)、咨詢、服務(wù)、開發(fā)、推廣、教育等。以江蘇省人工智能學(xué)會為例,該學(xué)會依法登記注冊的業(yè)務(wù)范圍共十三項,包括人工智能領(lǐng)域的科技成果轉(zhuǎn)化與產(chǎn)業(yè)化、技術(shù)咨詢與服務(wù)、科學(xué)技術(shù)的咨詢與培訓(xùn)、開展科普活動、推動學(xué)科發(fā)展與建設(shè)、創(chuàng)辦刊物、編輯出版相關(guān)著作,在相關(guān)部門批準(zhǔn)授權(quán)下為國家制定智能產(chǎn)品的規(guī)范和標(biāo)準(zhǔn)提供服務(wù),組織開展繼續(xù)教育和專業(yè)技術(shù)職稱評審,組織學(xué)術(shù)評審、技術(shù)鑒定和學(xué)術(shù)鑒定,等等。

    二、人工智能社會組織作用發(fā)揮的新保障

    人工智能社會組織作為政府與市場力量之外人工智能發(fā)展的“第三力量”,以其主體性力量的特有優(yōu)勢扮演著人工智能領(lǐng)域的社會智庫建設(shè)者、政策法律倫理倡導(dǎo)者、行業(yè)標(biāo)準(zhǔn)創(chuàng)制者及行業(yè)自律監(jiān)督者等不可替代的建設(shè)性角色,是人工智能發(fā)展的重要一環(huán)。而且,以公益領(lǐng)域為代表的社會組織監(jiān)管體制對其作用發(fā)揮的影響已經(jīng)證明,如果監(jiān)管體制未有序有效從“掌控型監(jiān)管”向“合規(guī)型監(jiān)管”成功轉(zhuǎn)型,并建構(gòu)體系完備的“合規(guī)型監(jiān)管”機制,社會組織在公益等各領(lǐng)域的建設(shè)性角色作用的發(fā)揮將阻礙重重。換言之,體系完備的“合規(guī)型監(jiān)管”機制能保障各類社會組織作用的發(fā)揮,是人工智能及其他類型或領(lǐng)域社會組織作用發(fā)揮的新保障。

    (一)將更好地激活社會組織參與人工智能政策法律倫理倡導(dǎo)活力

    “人工智能因其自主性和學(xué)習(xí)能力帶來不同于以往任何科技的新問題,對人類社會各方面將帶來重大影響。讓人工智能符合人類社會的各種規(guī)范和價值并實現(xiàn)全球普惠發(fā)展,是普惠人工智能和有益人工智能必須解決的問題”[4]。人工智能的問世,不可避免地引發(fā)了人們對其能否表現(xiàn)出一般倫理原則、法律規(guī)范所容忍之行為的疑問,以及如何改進人工智能框架在倫理、法律中的問題,或是何種用途可能被認定為是不道德的、不合法的。在美國政府于2019 年6 月更新的《國家人工智能研究和發(fā)展戰(zhàn)略計劃》中,依舊強調(diào)應(yīng)研發(fā)符合倫理、法律和社會目標(biāo)的人工智能系統(tǒng)以防范人工智能為某些領(lǐng)域帶來的包括就業(yè)、經(jīng)濟、安全、倫理和法律問題等方面的風(fēng)險。我國《規(guī)劃》中明確提出:“要不斷建立健全人工智能法律法規(guī)、倫理規(guī)范和政策體系,形成人工智能安全評估和管控能力”。人工智能的發(fā)展不僅是一個技術(shù)問題,同時也是一個法律問題,無論何種發(fā)展模式與技術(shù)手段都須建立在法律法規(guī)、倫理規(guī)范和政策體系的基礎(chǔ)之上。

    社會組織可以“引導(dǎo)和處理協(xié)會成員的政治意愿,并由此對政治國家產(chǎn)生具有約束力的效果”[5]。從社會組織的發(fā)展來看,在利益結(jié)構(gòu)日益多元化的中國社會轉(zhuǎn)型時期,政府職能的轉(zhuǎn)變、政策法律參與制度的完善為社會組織的發(fā)展提供了“大環(huán)境”保障。十八屆三中全會《決定》以及《關(guān)于改革社會組織管理制度促進社會組織健康有序發(fā)展的意見》等文件從政府與社會的關(guān)系、社會組織自治、公共服務(wù)等角度提供了政策保障⑦。國務(wù)院及各級政府、職能部門在制定有關(guān)行政法規(guī)、規(guī)章及規(guī)范性文件的過程中,科學(xué)合理地選擇、運用多種方式充分聽取社會組織意見,吸納社會組織參與制度實施效果監(jiān)測,及時收集企業(yè)對制度建設(shè)的訴求信息。同時,基層政府也積極提供場地、資金等公共資源作為物質(zhì)保障,以激發(fā)社會組織內(nèi)在活力和發(fā)展動力,促進社會組織真正成為推動立法進程的重要力量⑧。這就意味著,人工智能社會組織通過參與人工智能領(lǐng)域法律法規(guī)、倫理規(guī)范和政策體系創(chuàng)制來發(fā)揮“第三力量”作用獲得了政策支持,并在今后一段時期內(nèi)進入整體性建構(gòu)階段。而法治保障的科學(xué)性、專業(yè)性與合理性,正是人工智能社會組織參與人工智能領(lǐng)域法律法規(guī)、倫理規(guī)范和政策體系創(chuàng)制發(fā)揮“第三力量”作用的應(yīng)然訴求。選擇恰當(dāng)路徑將更好地激活社會組織參與人工智能法律法規(guī)、倫理規(guī)范和政策體系創(chuàng)制的活力,并提升人工智能法律法規(guī)、倫理規(guī)范和政策體系的整體效能,包括質(zhì)量的提升、風(fēng)險的規(guī)制以及共識的達成。

    (二)將更好地助力人工智能類社會智庫建設(shè)

    人工智能類社會智庫指的是社會智庫由境內(nèi)社會力量舉辦,以戰(zhàn)略問題和公共政策為主要研究對象,以服務(wù)黨和政府科學(xué)民主依法決策為宗旨,采取社會團體、社會服務(wù)機構(gòu)、基金會等組織形式,具有法人資格,是中國特色新型智庫的重要組成部分⑨。在高度分工的社會背景下,“第三力量”作用已然成為一項專業(yè)性活動,人工智能社會組織不僅要具備一定的專業(yè)素養(yǎng),還需要有與人工智能及社會組織發(fā)展領(lǐng)域各項活動相匹配的綜合能力,具有智庫的資政啟民能力,進而轉(zhuǎn)型為人工智能領(lǐng)域的社會智庫,助力智能社會建設(shè)。誠如薩托利所言,“隨著政治日趨復(fù)雜,知識——認知能力和控制力——也會越來越成為問題……我們正在陷入‘知識危機'”[6]。人工智能及其社會組織的發(fā)展,同樣不可避免地面臨著“知識危機”,而人工智能社會組織則因其輻射人工智能多元領(lǐng)域的特征對這一危機具有不可取代的化解功效。也正是基于人工智能社會組織的公益性、民間性等特殊屬性,使其根植于人工智能發(fā)展的現(xiàn)實,能夠更為充分、全面地反映社會及其主體對人工智能發(fā)展的真實與長遠訴求,“在人工智能發(fā)展方向和理論、方法、工具、系統(tǒng)等方面取得變革性、顛覆性突破,確保我國在人工智能重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點”⑩等方面添薪續(xù)力。進一步說,“行業(yè)協(xié)會通過發(fā)揮其代表、溝通協(xié)調(diào)等功能,促進了由個人抗衡權(quán)力向團體制衡權(quán)力的轉(zhuǎn)向,有效地制約并保障著公權(quán)力的良性運作”[7]。作為中國特色社會智庫體系的有機組成部分,以及人工智能領(lǐng)域社會智庫支撐主體的社會組織,通過恰當(dāng)?shù)姆ㄖ温窂娇梢杂行岣呷斯ぶ悄茴愔菐斓臎Q策咨詢能力,更好地為人工智能發(fā)展科學(xué)決策提供智力資源,最終推動人工智能社會智庫服務(wù)人工智能發(fā)展的科學(xué)決策,釋放其在促進人工智能及社會組織發(fā)展方面的正能量,形成有助于人工智能發(fā)展的科學(xué)決策、政策法律建議“上達”機制和決策層的“兼聽”機制,使建言獻策的渠道制度化、正規(guī)化,實現(xiàn)人工智能社會智庫與人工智能發(fā)展政策、法律決策主體溝通的常態(tài)化,規(guī)范、引導(dǎo)人工智能社會組織向社會智庫健康有序轉(zhuǎn)型。

    (三)將更好地打造國際性人工智能社會組織與標(biāo)準(zhǔn)

    《規(guī)劃》明確提出:“加快推動無人駕駛、服務(wù)機器人等細分應(yīng)用領(lǐng)域的行業(yè)協(xié)會和聯(lián)盟制定相關(guān)標(biāo)準(zhǔn)。鼓勵人工智能企業(yè)參與或主導(dǎo)制定國際標(biāo)準(zhǔn),以技術(shù)標(biāo)準(zhǔn)‘走出去'帶動人工智能產(chǎn)品和服務(wù)在海外推廣應(yīng)用?!狈叛廴颍?、美、日等國都將人工智能的發(fā)展作為本國未來發(fā)展的一大重要戰(zhàn)略。2016 年英國政府發(fā)布了兩份與人工智能相關(guān)的戰(zhàn)略文件,《人工智能對未來決策的機會和影響》和《機器人技術(shù)和人工智能》。同年,美國國家科學(xué)技術(shù)委員會(NSTC)發(fā)布了《為人工智能的未來做好準(zhǔn)備》和《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》兩份重要文件,2019 年6 月又對《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》進行了更新,將人工智能上升到了國家戰(zhàn)略層面。日本發(fā)布了《防衛(wèi)技術(shù)戰(zhàn)略》和《中長期技術(shù)規(guī)劃》,將無人技術(shù)和智能化技術(shù)作為軍事技術(shù)發(fā)展的重點方向。另外,基于特朗普政府近來對華為的技術(shù)禁令要求,無線網(wǎng)絡(luò)認證組織Wi-Fi 聯(lián)盟、便攜設(shè)備數(shù)據(jù)儲存裝置SD 卡的標(biāo)準(zhǔn)制定組織SD協(xié)會、制訂半導(dǎo)體產(chǎn)品標(biāo)準(zhǔn)的組織JEDEC 以及藍牙技術(shù)聯(lián)盟都紛紛表示對華為已采取、準(zhǔn)備采取或可能采取相應(yīng)措施,這就意味著華為有可能被排除于行業(yè)標(biāo)準(zhǔn)制定組織之外,缺少影響國際標(biāo)準(zhǔn)制定的能力與可能,失去未來參與新標(biāo)準(zhǔn)制訂的決策權(quán),未來公司的國際競爭力將可能受挫。

    全球化與區(qū)域化發(fā)展證明,國際性社會組織及其行業(yè)標(biāo)準(zhǔn)的制定話語權(quán)與影響力是國際社會中的核心競爭力與軟實力。合規(guī)管理是全球化的浪潮。“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有溢出帶動性很強的‘頭雁'效應(yīng)”?,應(yīng)“把握全球人工智能發(fā)展態(tài)勢,找準(zhǔn)突破口和主攻方向”?。打造人工智能國際性人工智能社會組織,提升人工智能及其國際社會組織發(fā)展標(biāo)準(zhǔn)的制定話語權(quán)與影響力是“頭雁”效應(yīng)的重要突破口和主攻方向。以國際金融、環(huán)境保護、公共衛(wèi)生、對外援助等領(lǐng)域相關(guān)的國際與國內(nèi)組織及其標(biāo)準(zhǔn)制定權(quán)與影響力法治保障的有益經(jīng)驗為借鑒,塑造本土化與國際化的人工智能社會組織標(biāo)準(zhǔn)制定話語權(quán)與影響力的法治保障模式,完善人工智能社會組織的合規(guī)監(jiān)管體系,助力我國人工智能及其社會組織和科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升。

    三、人工智能社會組織監(jiān)管機制的完善

    從前述的“合規(guī)型監(jiān)管”概念界定要素中可知,體系完備的人工智能社會組織“合規(guī)型監(jiān)管”機制包括了法律法規(guī)、規(guī)章制度等正式規(guī)則的創(chuàng)制與實施,還包括社會共同的信念、行動邏輯等道德和認知因素等非正式規(guī)范的形成與遵守。而且,實踐證明,對于社會組織的監(jiān)管,正式規(guī)則創(chuàng)制與實施的合規(guī)機制比非正式規(guī)范形成與遵守的合規(guī)機制更為重要,基于此,本文主要從立法引領(lǐng)、執(zhí)法監(jiān)管及司法保障等方面探究體系完備的人工智能社會組織“合規(guī)型監(jiān)管”機制構(gòu)建路徑。

    (一)健全立法引領(lǐng)

    《規(guī)劃》在“保障措施”章節(jié)中明確,要“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”,“完善支持人工智能發(fā)展的重點政策”。2019 年6 月,國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》,其中“和諧友好”原則明確了人工智能的發(fā)展應(yīng)“符合人類的價值觀和倫理道德”,“共擔(dān)責(zé)任”原則明確了“人工智能研發(fā)者、使用者及其他相關(guān)方應(yīng)嚴格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范”,“防范利用人工智能進行非法活動”。政策及規(guī)范的陸續(xù)出臺,表明人工智能的發(fā)展開始走向依法合規(guī)道路。但是,中國現(xiàn)行法律規(guī)范對人工智能社會組織卻只有一些簡單籠統(tǒng)的規(guī)定,這種狀況既與人工智能發(fā)展整體上“良法善治”程度不高有關(guān),也與中國社會對人工智能社會組織的認識有關(guān)。具體而言,國家層面的立法包括《社會團體登記管理條例》(2016 年修訂)、《民辦非企業(yè)單位登記管理暫行條例》(1998 年)、《基金會管理條例》(2004 年)、《取締非法民間組織暫行辦法》(2000 年)、《社會組織信用信息管理辦法》(2018 年)、《社會組織登記管理機關(guān)行政處罰程序規(guī)定》(2010 年)、《社會組織評估管理辦法》(2012年)等等。地方層面的立法目前僅有《遼寧省社會組織管理條例》(2018 年)、《遼寧省社會組織管理辦法》(2017 年)、《汕頭經(jīng)濟特區(qū)社會組織登記管理辦法》(2018 年)、《廣州市社會組織管理辦法》(2014年)。當(dāng)前中國社會組織的數(shù)量已超過87 萬家,如此眾多的社會組織在促進經(jīng)濟發(fā)展、繁榮社會事業(yè)、創(chuàng)新社會治理、擴大對外交往等方面發(fā)揮著重要作用,而其注冊登記及管理所依據(jù)的正是上述法律規(guī)范。顯然,立法保障的不足在一定程度上也限制了社會組織的發(fā)展,使其尚不能成為“真正有活力,真正推動社會發(fā)展,真正讓黨放心、讓人民滿意的社會組織”,也不能滿足國家與社會發(fā)展的現(xiàn)實需要。這其中,自然也包括了132 家人工智能社會組織。

    通過立法路徑對人工智能社會組織予以規(guī)范,不僅是對世界范圍內(nèi)人工智能發(fā)展趨勢的順應(yīng),也是對其他國家及地區(qū)研究成果的吸收與借鑒,既擁抱人工智能的經(jīng)濟福利,又兼顧倫理、安全、公平、包容等社會價值[8]。黨的十九大報告強調(diào)“以良法促進發(fā)展、保障善治”。人工智能社會組織的發(fā)展需要法治保障,其核心價值就是對“良法善治”所選擇的價值標(biāo)準(zhǔn)和持有的穩(wěn)定心態(tài)。強化“良法善治”對人工智能社會組織監(jiān)管機制的價值引領(lǐng),把“良法善治”融入監(jiān)管各方面和全過程,轉(zhuǎn)化為人工智能社會組織對“良法善治”的情感認同和行為習(xí)慣[9]。唯有如此,人工智能社會組織的“良法善治”進程才能滿足現(xiàn)實需求,契合人工智能未來發(fā)展的需要。一項新技術(shù)的創(chuàng)造與研發(fā)有時候能夠帶來整個社會單元秩序及結(jié)構(gòu)的重大變革。目前人工智能社會組織的發(fā)展尚且存在“不應(yīng)同質(zhì)化卻同質(zhì)化,應(yīng)差異化而未差異化”的滯后現(xiàn)象,隨著人工智能的不斷進化與發(fā)展,未來法律的建構(gòu)需要為人工智能社會組織的發(fā)展匹配相應(yīng)的法律制度。另外,人工智能社會組織如何清算、如何退出的相關(guān)操作性規(guī)范并不明確。合規(guī)監(jiān)管首先要有規(guī)可循,鑒于國務(wù)院已將《社會組織登記管理條例》納入2019 年立法工作計劃,建議在此基礎(chǔ)上以2018 年版《社會組織登記管理條例(草案征求意見稿)》為藍本,堅持《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》中的和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理八條原則,結(jié)合《關(guān)于全面推開行業(yè)協(xié)會商會與行政機關(guān)脫鉤改革的實施意見》(2019 年)、《國家發(fā)展改革委、民政部、財政部、國資委關(guān)于進一步規(guī)范行業(yè)協(xié)會商會收費管理的意見》(2017 年)、《關(guān)于改革社會組織管理制度促進社會組織健康有序發(fā)展的意見》(2016年)以及《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國發(fā)〔2017〕35 號)中關(guān)于“人工智能社會組織”在“技術(shù)創(chuàng)新聯(lián)盟、政策法律倫理及標(biāo)準(zhǔn)制定、全球化服務(wù)平臺”等方面的工作要求,從設(shè)立、變更、注銷、組織機構(gòu)、活動準(zhǔn)則、信息公開、監(jiān)督管理、法律責(zé)任等方面制定有關(guān)法律,同時升級《取締非法民間組織暫行辦法》為《非法社會組織監(jiān)督管理辦法》,為人工智能社會組織的發(fā)展提供科學(xué)系統(tǒng)的、適應(yīng)“良法善治”精神的立法保障。

    (二)加強執(zhí)法監(jiān)督

    在人工智能社會組織發(fā)展的新領(lǐng)域,以法治方式或非法治方式監(jiān)管會出現(xiàn)不同的結(jié)果。所以在人工智能社會組織發(fā)展過程中堅持“良法善治”,尤其是在執(zhí)法環(huán)節(jié)能夠做得很好的話,對于人工智能的發(fā)展將會有極大的幫助[10]。人工智能社會組織的執(zhí)法及其保障目前處于起步階段,存在一定的局限性及滯后性,舉其典型而言:其一,2018 年 2 月13 日民政部社會組織管理局公布最新一批未在民政部門登記的組織名單,“中國人工智能協(xié)會”名列其中,這是公開數(shù)據(jù)所顯示的首家也是唯一一家被依法取締的人工智能社會組織。除民政部門外,尚存在其他部門審批管理監(jiān)督問題。其二,社會組織查詢V4.2 數(shù)據(jù)庫這一平臺的監(jiān)管指標(biāo)包括行政許可、年檢信息、評估信息、表彰信息、中央財政支持項目、行政處罰、失信信息、異?;顒用?、嚴重違法失信名單等,但132 家人工智能社會組織在此方面的信息均為空白,該平臺上部分組織的業(yè)務(wù)主管單位、注冊資金、業(yè)務(wù)范圍等關(guān)鍵信息缺失。其三,2018 年版《社會組織登記管理條例(草案征求意見稿)》已用“社會服務(wù)機構(gòu)”取代“民辦非企業(yè)單位”,但銜接機制暫時缺失,部分組織未按照《關(guān)于全面推開行業(yè)協(xié)會商會與行政機關(guān)脫鉤改革的實施意見》(2019)適時脫鉤。

    人工智能社會組織登記管理制度是國家依據(jù)法律法規(guī)、政策規(guī)章、政府文件等對人工智能社會組織進行行政管理的源頭及起始所在。行政的職能決定了依法行政的重心在于行政執(zhí)法,行政執(zhí)法則處在法律規(guī)則與行政管理事態(tài)的結(jié)合點上,如果有了法律卻不嚴格執(zhí)行,法律將形同虛設(shè)[11]。因此,高度重視行政執(zhí)法,是人工智能社會組織發(fā)展“良法善治”進程的必然要求。盡管人工智能社會組織的兩大組織類型——社會團體和民辦非企業(yè)單位的專門性的全新法規(guī)尚未正式出臺,但對包括行業(yè)協(xié)會商會類、科技類在內(nèi)的部分社會組織進行重點培育和優(yōu)先發(fā)展,并實施民政部門直接登記制度或備案制度卻已寓于十二五規(guī)劃、十八大報告、十八屆三中全會決定、十三五規(guī)劃、十九大報告等黨和政府的重要政策文件之中[12]。因此,在政策支持下,可重點培育、優(yōu)先發(fā)展具有全球化、國際化潛質(zhì)的人工智能社會團體、社會服務(wù)機構(gòu)和基金會,如中國人工智能學(xué)會、北京智源人工智能研究院等。秉承雙重與直接相結(jié)合的多元方式,并在人工智能社會組織以功能目標(biāo)更精準(zhǔn)分類的基礎(chǔ)上探索更多符合人工智能及社會組織功能作用發(fā)揮的新的多元化登記注冊標(biāo)準(zhǔn)。

    人工智能社會組織發(fā)展在執(zhí)法環(huán)節(jié)的法治保障應(yīng)當(dāng)是工作機制的法治保障。目前,國務(wù)院、民政部門等已經(jīng)頒布了一些工作意見和改革方案,在此基礎(chǔ)上從制度細化的角度提出一些具體建議。首先,應(yīng)健全人工智能社會組織監(jiān)管制度。民政部門及其他登記管理部門要通過檢查、評估等手段依法監(jiān)督社會組織資金、活動、章程履行等情況,建立社會組織“異常名錄”和“黑名單”;建立由民政部門牽頭,財政、稅務(wù)、審計、金融、公安等部門參加的資金監(jiān)管機制,共享執(zhí)法信息,加強風(fēng)險評估、預(yù)警;建立聯(lián)合執(zhí)法制度,嚴厲查處違法違規(guī)行為,依法取締未經(jīng)登記的各類非法社會組織。其次,應(yīng)健全人工智能社會組織負責(zé)人管理制度。民政部門要會同行業(yè)管理部門及相關(guān)黨建工作機構(gòu),加強對人工智能社會組織發(fā)起人、擬任負責(zé)人資格審查;會同有關(guān)部門建立負責(zé)人任職、約談、警告、責(zé)令撤換等管理制度,落實負責(zé)人離任審計制度;建立負責(zé)人不良行為檔案,強化負責(zé)人過錯責(zé)任追究制度。再次,應(yīng)為人工智能社會組織的發(fā)展?fàn)I造良好的政策空間。民政部門會同其他職能部門,以《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國發(fā)〔2017〕35 號)中關(guān)于“人工智能社會組織”在“技術(shù)創(chuàng)新聯(lián)盟、政策法律倫理及標(biāo)準(zhǔn)制定、全球化服務(wù)平臺”的定位為指導(dǎo),參照社會組織參與社會治理、救災(zāi)減災(zāi)等經(jīng)驗,根據(jù)發(fā)展地域分布、發(fā)展目標(biāo)等實際情況給予專門性指導(dǎo)及政策支撐,為人工智能社會組織國際化及國際行業(yè)標(biāo)準(zhǔn)制定作好鋪墊。

    (三)強化司法保障

    人工智能進入新的發(fā)展階段,面對法律的相對滯后性、人工智能技術(shù)的多邊性、利益格局的多元化、科技與倫理矛盾的多發(fā)性等因素影響,司法調(diào)整社會關(guān)系、保障合法權(quán)益的作用也越來越重要。人工智能社會組織的發(fā)展不可避免地會牽涉多元利益主體,“司法活動的根本目的就是要通過司法判斷權(quán)來判斷是與非、曲與直、對與錯,來解決這一糾紛和沖突”[13]。而人工智能的技術(shù)性、高風(fēng)險性及投資收益不穩(wěn)定性也決定了人工智能社會組織對司法的依賴性。司法同時也是“良法善治”進程及合規(guī)型監(jiān)管的最后一道強有力保障。人工智能社會組織的發(fā)展不能忽略司法手段的介入,對人工智能負面效應(yīng)的監(jiān)管要求借助司法手段約束人工智能研發(fā)者、使用者及其他相關(guān)方的行為。

    從公開的涉社會組織類司法裁判來看,有民辦非企業(yè)單位出資人資格確認資產(chǎn)轉(zhuǎn)讓糾紛案?、教育科技局不予同意成立社會團體申請行政審查二審案、中國關(guān)心下一代健康體育基金會與中華人民共和國民政部二審案?、偽造公司、企業(yè)、社會團體印章案?、中國生物多樣性保護與綠色發(fā)展基金會訴寧夏瑞泰科技股份有限公司環(huán)境污染公益訴訟案等等。另外還有2019 年10 月22 日北京破產(chǎn)法院正式受理的中國電子商務(wù)協(xié)會的強制清算申請,這是全國首例社會組織的強制清算案,具有很強的示范價值和意義。綜上可見,在已生效的司法裁判中,案由涵蓋了民事、刑事、行政、執(zhí)行、賠償,審理程序包括一審、二審及再審,且四個層級的法院都有裁判。盡管目前暫未出現(xiàn)涉及人工智能社會組織的專門性裁判,而且社會組織的退出也是社會組織監(jiān)管的難題,但未來人工智能領(lǐng)域法律糾紛啟動司法程序已是必然趨勢。

    雖然期望將所有潛在的人工智能領(lǐng)域的法律糾紛都訴諸于法院不切實際,但民事訴訟終歸是人工智能社會組織、人工智能研發(fā)者、使用者及其他相關(guān)方權(quán)益免受侵害的有力保護,也是行政執(zhí)法的重要補充,在一定程度上能有效消除由于利益的牽制而出現(xiàn)的監(jiān)管不力現(xiàn)象。因此,建議以已經(jīng)生效的涉社會組織類司法裁判為例,結(jié)合涉及社會團體的8 個公報案例、涉及基金會的1 個指導(dǎo)案例與3個公報案例、涉及民辦非企業(yè)單位的1 個公報案例的司法文書,以尊重和保障人權(quán)這一憲法原則為指引,整理出糾紛類型、法律依據(jù)、證明責(zé)任、事實認定、證據(jù)認定、法律責(zé)任、救濟途徑、法律程序、維權(quán)成本等的訴訟指南。在訴訟主體資格方面,基于環(huán)保社會組織公益訴訟主體資格對人工智能社會組織的趨同性鏡鑒,人工智能的負面效應(yīng)與環(huán)境污染的負面影響不相上下,且常牽涉重大倫理道德問題,諸多共同特性決定了引入人工智能社會組織公益訴訟主體資格有其合理性、正當(dāng)性與合法性。

    人工智能已然發(fā)展為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,而贏得全球科技競爭主動權(quán)及國際行業(yè)標(biāo)準(zhǔn)制定權(quán)需要政府、市場與社會組織的科學(xué)分工及協(xié)同合力。作為社會組織中不容忽視的一類存在,人工智能社會組織通過發(fā)揮信息傳遞、倡導(dǎo)政策法律及倫理規(guī)范等建設(shè)性作用,在親歷人工智能發(fā)展浪潮的過程中身體力行成為其中一股重要力量。本文通過簡單地梳理,試圖在一定程度上還原132 家人工智能社會組織現(xiàn)實發(fā)展?fàn)顩r,對人工智能可能帶來的正、負面效應(yīng)進行前瞻性分析和研判,提出人工智能社會組織監(jiān)管機制向以正式規(guī)則的創(chuàng)制與實施為主,兼顧非正式規(guī)范形成與遵守為輔的“合規(guī)型”轉(zhuǎn)型,將立法引領(lǐng)、執(zhí)法監(jiān)管、司法保障等作為“合規(guī)型”監(jiān)管路徑構(gòu)建的重點,為傳統(tǒng)“掌控型”監(jiān)管機制提供了一種有益參照,期盼能積極回應(yīng)新一代人工智能科學(xué)、規(guī)范、有序發(fā)展與該領(lǐng)域協(xié)同治理功能發(fā)揮的現(xiàn)實訴求。

    注 釋:

    ①2013 年第一次刊文至今,共有69 篇從法律角度研究人工職能,其中研究其“法律主體資格”的較多。檢索截至?xí)r間為2019 年7 月,“法律主體資格研究”論文有:許春明,袁玉玲.論人工智能的法律主體性——以人工智能生成物的著作權(quán)保護為視角[J].科技與法律,2019,(02);彭誠信,陳吉棟.論人工智能體法律人格的考量要素[J].當(dāng)代法學(xué),2019,(02);吳習(xí)彧.人工智能的法理與司法應(yīng)用——論人工智能的法律主體資格[J].浙江社會科學(xué),2018,(06)等。

    ②中國社會組織公共服務(wù)平臺:http://www.chinanpo.gov.cn/search/orgcx.html,統(tǒng)計截至?xí)r間 2020 年12 月 31 日。

    ③該組織是中國智能科學(xué)技術(shù)領(lǐng)域唯一的國家級學(xué)會,目前已設(shè)分支機構(gòu)48 家,覆蓋了智能科學(xué)與技術(shù)領(lǐng)域,業(yè)務(wù)主管單位是中國科學(xué)技術(shù)協(xié)會,是社會團體類的社會組織和全國性4A 級社會組織,是我國智能科學(xué)技術(shù)領(lǐng)域唯一的國家級學(xué)會,掛靠單位為北京郵電大學(xué),住所為北京郵電大學(xué)教一樓121 室。

    ④前綴名有“中國”兩字的有兩家,分別是中國人工智能學(xué)會、武漢·中國光谷人工智能產(chǎn)業(yè)聯(lián)盟,占比2%。其他的都是以登記注冊地的地名作為前綴名,如北京明智人工智能大數(shù)據(jù)研究院、秦皇島市海港區(qū)人工智能行業(yè)協(xié)會、黑龍江省人工智能學(xué)會、上海國科人工智能研究院等,占比98%。后綴名是“研究院”的有33 家,占比37%,如北京前沿國際人工智能研究院、福建省中科人工智能研究院等;后綴名是“學(xué)會”的有26 家,占比29%,如北京人工智能學(xué)會、廣西人工智能學(xué)會等;后綴名是“協(xié)會”的有15 家,占比17%,如成都市人工智能產(chǎn)業(yè)協(xié)會、廈門市人工智能行業(yè)協(xié)會等。中間名90%以上的都只有“人工智能”,其余的都是“人工智能+”:“人工智能+技術(shù)”的有4 家,如北京百博團人工智能技術(shù)研究院;“人工智能+大數(shù)據(jù)”的有3 家,如北京明智人工智能大數(shù)據(jù)研究院;“人工智能+ 醫(yī)療信息”的有1 家,即北京醫(yī)知鹿人工智能醫(yī)療信息技術(shù)研究院;“人工智能+產(chǎn)業(yè)”的有8 家,如大連市人工智能產(chǎn)業(yè)協(xié)會等。后綴名是“中心”的有11 家,占比12%,如北京尚科人工智能研究中心、福建省華智人工智能創(chuàng)新研究中心;后綴名是“研究所”的有2 家,占比2%,如中關(guān)村中創(chuàng)人工智能技術(shù)應(yīng)用研究所;后綴名是“聯(lián)盟”的有3 家,占比3%,如長沙市人工智能產(chǎn)業(yè)聯(lián)盟;后綴名是“促進會”的有1家,占比1%,即廣州市人工智能產(chǎn)業(yè)發(fā)展促進會。

    ⑤另外22 家的登記部門為行政審批局、社會團體管理局、農(nóng)村工作局、行政審批服務(wù)局等。

    ⑥我國港澳臺地區(qū)未在統(tǒng)計范圍內(nèi)。

    ⑦十八屆三中全會《決定》相關(guān)原文為:“要激發(fā)社會組織的活力。正確處理政府與社會的關(guān)系,加快實施政府與社會分開,依法推進各類社會組織權(quán)責(zé)明確與作用發(fā)揮及其自治。對那些適合由社會組織解決的事項與提供的公共服務(wù),應(yīng)當(dāng)交由合適的社會組織承擔(dān)。對社會組織與在華境外非政府組織的管理要加強,并對它們開展活動進行依法引導(dǎo)”?!蛾P(guān)于改革社會組織管理制度促進社會組織健康有序發(fā)展的意見》(2016 年8 月)相關(guān)原文:“改革社會組織管理制度,正確處理政府、市場、社會三者關(guān)系,改革制約社會組織發(fā)展的體制機制,激發(fā)社會組織內(nèi)在活力和發(fā)展動力,促進社會組織真正成為提供服務(wù)、反映訴求、規(guī)范行為、促進和諧的重要力量”。

    ⑧2019 年3 月13 日發(fā)布的《國務(wù)院辦公廳關(guān)于在制定行政法規(guī)規(guī)章行政規(guī)范性文件過程中充分聽取企業(yè)和行業(yè)協(xié)會商會意見的通知》(國辦發(fā)〔2019〕9號)原文。

    ⑨2015 年1 月20 日中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強中國特色新型智庫建設(shè)的意見》原文。

    ⑩?2018 年10 月31 日中共中央政治局第九次集體學(xué)習(xí)上的講話。

    ?2019 年5 月16 日,習(xí)近平致國際人工智能與教育大會的賀信。

    ?安徽省高級人民法院(2013)皖民二終字第00319 號。

    ?北京市高級人民法院(2018)京行終6655 號。

    ?湖南省邵陽市中級人民法院(2018)湘05 行終177 號。

    猜你喜歡
    人工智能發(fā)展
    我校新增“人工智能”本科專業(yè)
    邁上十四五發(fā)展“新跑道”,打好可持續(xù)發(fā)展的“未來牌”
    中國核電(2021年3期)2021-08-13 08:56:36
    從HDMI2.1與HDCP2.3出發(fā),思考8K能否成為超高清發(fā)展的第二階段
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    砥礪奮進 共享發(fā)展
    華人時刊(2017年21期)2018-01-31 02:24:01
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    改性瀝青的應(yīng)用與發(fā)展
    北方交通(2016年12期)2017-01-15 13:52:53
    下一幕,人工智能!
    下一幕,人工智能!
    免费在线观看黄色视频的| 丝袜脚勾引网站| 人妻人人澡人人爽人人| 久久久久网色| 最近2019中文字幕mv第一页| 国语对白做爰xxxⅹ性视频网站| 婷婷色综合www| 久久久久国产精品人妻一区二区| 国产69精品久久久久777片| 亚洲精品中文字幕在线视频| 伊人久久国产一区二区| 青春草视频在线免费观看| kizo精华| 国产成人精品在线电影| 精品熟女少妇av免费看| a级毛片在线看网站| 91国产中文字幕| 菩萨蛮人人尽说江南好唐韦庄| √禁漫天堂资源中文www| 夜夜骑夜夜射夜夜干| 国产在线一区二区三区精| 国产欧美亚洲国产| 免费在线观看黄色视频的| 最近中文字幕高清免费大全6| 啦啦啦啦在线视频资源| 看免费成人av毛片| 国产国语露脸激情在线看| xxxhd国产人妻xxx| 妹子高潮喷水视频| 黄色配什么色好看| 少妇人妻 视频| 啦啦啦视频在线资源免费观看| 国产一级毛片在线| 在线精品无人区一区二区三| 久久精品国产自在天天线| 在线观看美女被高潮喷水网站| 日韩一区二区三区影片| 久久精品熟女亚洲av麻豆精品| 午夜福利在线观看免费完整高清在| 亚洲av男天堂| 亚洲四区av| 国产高清三级在线| 交换朋友夫妻互换小说| 大片电影免费在线观看免费| 一二三四在线观看免费中文在 | 日韩熟女老妇一区二区性免费视频| 一区在线观看完整版| 综合色丁香网| 高清毛片免费看| 国产欧美亚洲国产| 日韩精品有码人妻一区| 国产在视频线精品| 亚洲av免费高清在线观看| 亚洲图色成人| 免费观看av网站的网址| 2018国产大陆天天弄谢| 女性被躁到高潮视频| 亚洲国产看品久久| 免费高清在线观看视频在线观看| 亚洲 欧美一区二区三区| 999精品在线视频| 欧美+日韩+精品| 制服诱惑二区| videossex国产| 亚洲国产精品国产精品| 欧美xxⅹ黑人| 成人18禁高潮啪啪吃奶动态图| 99热全是精品| 国产成人精品福利久久| 日韩大片免费观看网站| 日韩 亚洲 欧美在线| 少妇的逼水好多| 日韩av在线免费看完整版不卡| www.熟女人妻精品国产 | 久久99精品国语久久久| 最近最新中文字幕免费大全7| 色吧在线观看| 欧美激情国产日韩精品一区| 精品人妻熟女毛片av久久网站| 国产高清不卡午夜福利| 午夜福利网站1000一区二区三区| 久久精品国产自在天天线| 亚洲欧洲日产国产| 成人黄色视频免费在线看| 一本色道久久久久久精品综合| av又黄又爽大尺度在线免费看| 99九九在线精品视频| 国产在线一区二区三区精| 欧美3d第一页| 精品视频人人做人人爽| 色94色欧美一区二区| 视频在线观看一区二区三区| 桃花免费在线播放| 最后的刺客免费高清国语| 欧美成人午夜精品| 丝袜脚勾引网站| 成年女人在线观看亚洲视频| 在线天堂最新版资源| 国产黄色免费在线视频| 黑人高潮一二区| 国产成人免费无遮挡视频| 久久人人爽人人片av| 国产无遮挡羞羞视频在线观看| 国产高清三级在线| av视频免费观看在线观看| 最近中文字幕2019免费版| 黄片无遮挡物在线观看| 亚洲精品色激情综合| 久久青草综合色| 天堂俺去俺来也www色官网| 在线观看免费视频网站a站| 看十八女毛片水多多多| av播播在线观看一区| 大码成人一级视频| 久久精品国产综合久久久 | 在线天堂最新版资源| 欧美日韩视频精品一区| 有码 亚洲区| 性色avwww在线观看| 久久久久久久大尺度免费视频| 18+在线观看网站| 婷婷色麻豆天堂久久| 视频中文字幕在线观看| 少妇精品久久久久久久| 国产精品 国内视频| 青春草亚洲视频在线观看| 国产精品久久久久久久久免| 成年美女黄网站色视频大全免费| 黑人欧美特级aaaaaa片| 久久精品国产a三级三级三级| 免费观看av网站的网址| 91久久精品国产一区二区三区| 亚洲av综合色区一区| 五月开心婷婷网| av免费在线看不卡| 亚洲欧美日韩另类电影网站| 黑丝袜美女国产一区| 五月玫瑰六月丁香| 国产成人欧美| 成人毛片60女人毛片免费| 狂野欧美激情性xxxx在线观看| 国产精品蜜桃在线观看| 国产福利在线免费观看视频| 日本av手机在线免费观看| 黑人巨大精品欧美一区二区蜜桃 | 亚洲精品第二区| 亚洲成av片中文字幕在线观看 | 啦啦啦在线观看免费高清www| 国产成人aa在线观看| 欧美+日韩+精品| 精品一区二区免费观看| 国产日韩欧美视频二区| 免费大片黄手机在线观看| 少妇人妻久久综合中文| 激情视频va一区二区三区| 大香蕉久久网| 国产精品三级大全| 亚洲精品一区蜜桃| 最新的欧美精品一区二区| 国精品久久久久久国模美| 午夜福利视频在线观看免费| 亚洲精品乱久久久久久| 国产亚洲最大av| 国产熟女午夜一区二区三区| 插逼视频在线观看| 国产亚洲欧美精品永久| 亚洲人与动物交配视频| 尾随美女入室| 国产极品粉嫩免费观看在线| 亚洲成人手机| 亚洲国产成人一精品久久久| 免费看光身美女| 日本色播在线视频| 亚洲欧美日韩卡通动漫| av线在线观看网站| 成年美女黄网站色视频大全免费| 欧美国产精品一级二级三级| 最近的中文字幕免费完整| 菩萨蛮人人尽说江南好唐韦庄| 一级毛片我不卡| 丝袜喷水一区| 天天操日日干夜夜撸| 亚洲欧美成人综合另类久久久| 99九九在线精品视频| 美女中出高潮动态图| 成人毛片60女人毛片免费| 97在线视频观看| 啦啦啦啦在线视频资源| 人妻一区二区av| 欧美精品一区二区免费开放| 成人漫画全彩无遮挡| 韩国av在线不卡| 九草在线视频观看| 搡女人真爽免费视频火全软件| av在线播放精品| 99久久人妻综合| 大陆偷拍与自拍| 人人妻人人澡人人看| av卡一久久| 久久精品熟女亚洲av麻豆精品| 观看av在线不卡| 国产精品久久久久成人av| 欧美老熟妇乱子伦牲交| 久久久久视频综合| 内地一区二区视频在线| 大香蕉久久成人网| 一本大道久久a久久精品| 亚洲国产精品999| 一级毛片 在线播放| 黄网站色视频无遮挡免费观看| 国产男女超爽视频在线观看| 欧美日韩视频高清一区二区三区二| 精品人妻一区二区三区麻豆| 国产一区二区在线观看日韩| 麻豆乱淫一区二区| 大话2 男鬼变身卡| 国产免费一区二区三区四区乱码| 国产一区二区三区综合在线观看 | 老熟女久久久| 国产黄频视频在线观看| 国产精品一区www在线观看| www.av在线官网国产| 国产激情久久老熟女| 欧美日韩亚洲高清精品| 亚洲精品,欧美精品| 日韩免费高清中文字幕av| 深夜精品福利| 亚洲精品国产色婷婷电影| 亚洲图色成人| av在线观看视频网站免费| 一本久久精品| 女人久久www免费人成看片| 97在线视频观看| 国产乱人偷精品视频| 国产精品国产三级专区第一集| 成人无遮挡网站| 宅男免费午夜| 欧美国产精品一级二级三级| 国产免费又黄又爽又色| 我的女老师完整版在线观看| 女人被躁到高潮嗷嗷叫费观| 亚洲精品视频女| 一本久久精品| 国产成人精品在线电影| 啦啦啦中文免费视频观看日本| 午夜福利乱码中文字幕| 日韩中文字幕视频在线看片| 亚洲国产精品国产精品| 99热国产这里只有精品6| 一二三四在线观看免费中文在 | 免费观看性生交大片5| 欧美97在线视频| 成人国产麻豆网| 99热6这里只有精品| 美女脱内裤让男人舔精品视频| 视频中文字幕在线观看| 熟女av电影| 久久久久精品久久久久真实原创| 最近手机中文字幕大全| 久久国产精品男人的天堂亚洲 | 日日摸夜夜添夜夜爱| 欧美亚洲日本最大视频资源| 女性生殖器流出的白浆| 久久人人爽av亚洲精品天堂| 精品人妻在线不人妻| 国产麻豆69| 性色av一级| 亚洲欧美精品自产自拍| 夜夜骑夜夜射夜夜干| 欧美激情极品国产一区二区三区 | 国产免费现黄频在线看| 日日爽夜夜爽网站| 不卡视频在线观看欧美| 天堂8中文在线网| 青春草视频在线免费观看| 亚洲国产精品专区欧美| 亚洲精品国产av蜜桃| 午夜日本视频在线| av女优亚洲男人天堂| 免费高清在线观看日韩| 卡戴珊不雅视频在线播放| 18禁国产床啪视频网站| 亚洲精品国产色婷婷电影| 国产又爽黄色视频| 十分钟在线观看高清视频www| 亚洲国产成人一精品久久久| av免费观看日本| 免费黄色在线免费观看| 亚洲av欧美aⅴ国产| 丰满少妇做爰视频| 亚洲成色77777| 天堂8中文在线网| 考比视频在线观看| 欧美国产精品一级二级三级| 久久这里有精品视频免费| 各种免费的搞黄视频| 久久人人97超碰香蕉20202| 久久99蜜桃精品久久| 日韩 亚洲 欧美在线| 国产成人精品久久久久久| 精品卡一卡二卡四卡免费| 99re6热这里在线精品视频| 男女国产视频网站| 少妇的逼水好多| 亚洲综合色网址| 亚洲精品一区蜜桃| 极品人妻少妇av视频| 国产成人欧美| 婷婷色综合大香蕉| 晚上一个人看的免费电影| 国产精品国产三级专区第一集| 国产精品久久久久久精品电影小说| 国产精品久久久久久久电影| 春色校园在线视频观看| 国产精品久久久久久久电影| 又黄又粗又硬又大视频| 成人亚洲欧美一区二区av| 啦啦啦中文免费视频观看日本| 欧美激情 高清一区二区三区| 国产精品欧美亚洲77777| 国产xxxxx性猛交| 亚洲国产精品专区欧美| av黄色大香蕉| 国产一区二区在线观看日韩| 精品99又大又爽又粗少妇毛片| av播播在线观看一区| 亚洲精品成人av观看孕妇| 永久免费av网站大全| 中文字幕精品免费在线观看视频 | a级毛片黄视频| 中文字幕人妻丝袜制服| 热99国产精品久久久久久7| 国产av精品麻豆| 卡戴珊不雅视频在线播放| 久久鲁丝午夜福利片| 美女xxoo啪啪120秒动态图| 午夜免费男女啪啪视频观看| 91久久精品国产一区二区三区| 久久婷婷青草| 国国产精品蜜臀av免费| 久热这里只有精品99| 亚洲av福利一区| 午夜影院在线不卡| 国产国拍精品亚洲av在线观看| 两性夫妻黄色片 | 夫妻性生交免费视频一级片| 国产免费一区二区三区四区乱码| 美女脱内裤让男人舔精品视频| 美女内射精品一级片tv| 人人妻人人澡人人爽人人夜夜| 久久 成人 亚洲| 在线天堂中文资源库| 久久人人爽av亚洲精品天堂| 捣出白浆h1v1| 黄色毛片三级朝国网站| 亚洲av电影在线进入| 国产精品久久久久久av不卡| 国产成人精品在线电影| 美国免费a级毛片| 免费高清在线观看日韩| 婷婷色综合www| 免费观看在线日韩| 曰老女人黄片| 精品人妻偷拍中文字幕| 少妇 在线观看| 男女啪啪激烈高潮av片| 国产精品一二三区在线看| 这个男人来自地球电影免费观看 | 欧美国产精品va在线观看不卡| 熟女电影av网| 2021少妇久久久久久久久久久| 99国产综合亚洲精品| 亚洲国产最新在线播放| 国产熟女欧美一区二区| 欧美人与性动交α欧美软件 | 麻豆乱淫一区二区| 国产一区二区三区av在线| 超碰97精品在线观看| 波多野结衣一区麻豆| 欧美成人精品欧美一级黄| 国产一区二区在线观看日韩| 亚洲国产精品国产精品| 日韩中文字幕视频在线看片| 日韩欧美一区视频在线观看| 搡老乐熟女国产| 亚洲欧美成人精品一区二区| 精品少妇久久久久久888优播| 欧美日本中文国产一区发布| 亚洲婷婷狠狠爱综合网| 肉色欧美久久久久久久蜜桃| 男人爽女人下面视频在线观看| 成人毛片a级毛片在线播放| 亚洲国产精品成人久久小说| 日韩av不卡免费在线播放| 侵犯人妻中文字幕一二三四区| 国产精品国产三级专区第一集| 性色av一级| 一区在线观看完整版| 在线亚洲精品国产二区图片欧美| 极品人妻少妇av视频| 日本91视频免费播放| 亚洲av福利一区| 在线观看免费视频网站a站| 丰满乱子伦码专区| 91精品三级在线观看| 久久97久久精品| 五月开心婷婷网| videossex国产| 免费观看av网站的网址| 亚洲人与动物交配视频| 亚洲色图 男人天堂 中文字幕 | 18在线观看网站| 欧美3d第一页| 国产精品秋霞免费鲁丝片| 涩涩av久久男人的天堂| 国产激情久久老熟女| 亚洲精华国产精华液的使用体验| 久久99热这里只频精品6学生| 精品酒店卫生间| 国产成人a∨麻豆精品| 99精国产麻豆久久婷婷| 亚洲欧美中文字幕日韩二区| 超色免费av| 晚上一个人看的免费电影| 搡女人真爽免费视频火全软件| videos熟女内射| 国产成人精品婷婷| 宅男免费午夜| 国产免费视频播放在线视频| 熟女电影av网| 国产黄色视频一区二区在线观看| 午夜av观看不卡| 亚洲精品国产av蜜桃| 国产成人免费观看mmmm| 久久精品aⅴ一区二区三区四区 | 国产亚洲精品久久久com| 亚洲一码二码三码区别大吗| 麻豆精品久久久久久蜜桃| 日本av免费视频播放| 18禁观看日本| 五月玫瑰六月丁香| a级片在线免费高清观看视频| 国产成人av激情在线播放| 在线天堂中文资源库| 午夜91福利影院| 满18在线观看网站| 久久久精品区二区三区| 精品一区二区三区四区五区乱码 | 少妇人妻久久综合中文| 久久精品熟女亚洲av麻豆精品| av天堂久久9| 久久久久国产网址| 美国免费a级毛片| av网站免费在线观看视频| 青春草国产在线视频| 69精品国产乱码久久久| 亚洲国产毛片av蜜桃av| 在线观看国产h片| 欧美激情极品国产一区二区三区 | 18在线观看网站| 久久久久久久大尺度免费视频| 日日撸夜夜添| 国产午夜精品一二区理论片| 亚洲精品av麻豆狂野| 精品国产露脸久久av麻豆| 国产精品99久久99久久久不卡 | 99国产精品免费福利视频| 国产片内射在线| 一区二区三区乱码不卡18| 国产成人精品在线电影| a 毛片基地| 街头女战士在线观看网站| 亚洲精品国产av蜜桃| 日韩三级伦理在线观看| 日韩成人伦理影院| 美女内射精品一级片tv| 一级片免费观看大全| 久久精品久久久久久久性| 久久这里只有精品19| 青春草视频在线免费观看| 9色porny在线观看| 国产av精品麻豆| 国产成人aa在线观看| 日本午夜av视频| av在线老鸭窝| 国产精品一区二区在线不卡| 90打野战视频偷拍视频| 黄色视频在线播放观看不卡| 国产一区二区在线观看日韩| 夜夜爽夜夜爽视频| 两个人看的免费小视频| 国产av码专区亚洲av| 国产精品一区www在线观看| 成人黄色视频免费在线看| av在线app专区| 亚洲国产欧美在线一区| 欧美人与善性xxx| 美国免费a级毛片| 视频在线观看一区二区三区| 黑人巨大精品欧美一区二区蜜桃 | 欧美日本中文国产一区发布| 2021少妇久久久久久久久久久| av在线观看视频网站免费| 久久精品国产a三级三级三级| 日本猛色少妇xxxxx猛交久久| 捣出白浆h1v1| 免费日韩欧美在线观看| 午夜av观看不卡| 免费黄频网站在线观看国产| 制服人妻中文乱码| 亚洲av电影在线进入| 日韩 亚洲 欧美在线| 国产欧美日韩综合在线一区二区| 青春草视频在线免费观看| 最近中文字幕高清免费大全6| 精品熟女少妇av免费看| 婷婷色av中文字幕| 成人国语在线视频| 熟女av电影| 午夜老司机福利剧场| 亚洲激情五月婷婷啪啪| 亚洲图色成人| 国产视频首页在线观看| 国产av精品麻豆| 一边摸一边做爽爽视频免费| 亚洲av男天堂| 久久av网站| 最近手机中文字幕大全| 亚洲美女黄色视频免费看| tube8黄色片| 国产成人av激情在线播放| 免费女性裸体啪啪无遮挡网站| 久久精品久久久久久久性| 国产精品国产三级国产av玫瑰| kizo精华| av电影中文网址| 久久99蜜桃精品久久| 少妇精品久久久久久久| 久久久久久久精品精品| 在线看a的网站| 飞空精品影院首页| 2018国产大陆天天弄谢| 国产精品.久久久| 丝袜喷水一区| 国产精品女同一区二区软件| 亚洲第一区二区三区不卡| 建设人人有责人人尽责人人享有的| 亚洲av.av天堂| 日韩成人伦理影院| 国产精品久久久久成人av| 午夜av观看不卡| 成人综合一区亚洲| 亚洲欧美日韩卡通动漫| 日韩人妻精品一区2区三区| 精品99又大又爽又粗少妇毛片| 国产精品欧美亚洲77777| 亚洲av电影在线进入| 国产乱来视频区| 一本—道久久a久久精品蜜桃钙片| 高清视频免费观看一区二区| 色婷婷久久久亚洲欧美| 国产欧美日韩综合在线一区二区| av视频免费观看在线观看| 国产免费一区二区三区四区乱码| 欧美日韩成人在线一区二区| 国产精品久久久av美女十八| av在线播放精品| 国产精品 国内视频| 伊人久久国产一区二区| 人人澡人人妻人| 亚洲第一区二区三区不卡| 晚上一个人看的免费电影| 国产精品三级大全| 欧美日韩综合久久久久久| 另类精品久久| 国产成人精品婷婷| 看十八女毛片水多多多| 麻豆乱淫一区二区| 国产欧美另类精品又又久久亚洲欧美| 亚洲国产日韩一区二区| 最近2019中文字幕mv第一页| av免费在线看不卡| 国产一区二区三区综合在线观看 | 精品国产乱码久久久久久小说| 成人午夜精彩视频在线观看| av电影中文网址| 国产熟女午夜一区二区三区| 两个人免费观看高清视频| 亚洲婷婷狠狠爱综合网| 中文欧美无线码| 国产xxxxx性猛交| 亚洲成人手机| 中文欧美无线码| 成年女人在线观看亚洲视频| 久久青草综合色| 1024视频免费在线观看| 极品少妇高潮喷水抽搐| 午夜免费鲁丝| 久久免费观看电影| 国产日韩欧美亚洲二区| xxxhd国产人妻xxx| 天天躁夜夜躁狠狠久久av| 精品亚洲成国产av| 亚洲精品av麻豆狂野| 这个男人来自地球电影免费观看 | 亚洲伊人色综图| 色视频在线一区二区三区| 国产永久视频网站| 久久久国产欧美日韩av| 校园人妻丝袜中文字幕| 国产精品 国内视频| 一个人免费看片子| 国精品久久久久久国模美| 亚洲精品久久久久久婷婷小说| 久久精品国产亚洲av天美|