• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    共享經(jīng)濟(jì)“下半場(chǎng)”的秩序規(guī)制

    2020-03-01 07:12:30陳筱貞
    經(jīng)濟(jì)論壇 2020年5期
    關(guān)鍵詞:下半場(chǎng)人工智能算法

    陳筱貞

    一、共享經(jīng)濟(jì)下半場(chǎng)的雙引擎

    中國(guó)共享經(jīng)濟(jì)在前期歷時(shí)將近五年的洗禮和探索,2019 年進(jìn)入深度調(diào)整,盡管受?chē)?guó)際國(guó)內(nèi)宏觀經(jīng)濟(jì)下行壓力等多重因素影響,共享經(jīng)濟(jì)市場(chǎng)交易規(guī)模仍緩慢增長(zhǎng)。國(guó)家信息中心分享經(jīng)濟(jì)研究中心發(fā)布《中國(guó)共享經(jīng)濟(jì)發(fā)展報(bào)告(2020)》顯示,2019年共享經(jīng)濟(jì)市場(chǎng)交易額為32828億元,比上年增長(zhǎng)11.6%①。2020 年初爆發(fā)新冠肺疫情期間,共享教育、共享醫(yī)療、共享自媒體、共享物流、共享制造等成為新增長(zhǎng)極并且成長(zhǎng)為持續(xù)性新業(yè)態(tài)。經(jīng)歷了前半場(chǎng)野蠻競(jìng)爭(zhēng)和資本積累,適逢互聯(lián)網(wǎng)5G技術(shù)應(yīng)用升級(jí),大數(shù)據(jù)、區(qū)塊鏈、人工智能等應(yīng)運(yùn)賦能,共享經(jīng)濟(jì)在數(shù)字化和智能化浪潮的推動(dòng)下進(jìn)入下半場(chǎng),開(kāi)啟了平臺(tái)聚合性優(yōu)勢(shì)與人工智能結(jié)合的雙引擎。

    (一)聚合式平臺(tái)擴(kuò)張升級(jí)

    在與現(xiàn)代信息技術(shù)深度融合中,公共平臺(tái)成為了共享經(jīng)濟(jì)一個(gè)標(biāo)志性特征,人們通過(guò)平臺(tái)獲取積聚式信息、權(quán)衡選擇、操作使用、支付費(fèi)用、評(píng)價(jià)信用,同時(shí)為平臺(tái)留下了不斷新生的用戶信息和行為軌跡數(shù)據(jù)。平臺(tái)商家也就此探索與上下游及相關(guān)服務(wù)的創(chuàng)新融合。共享平臺(tái)成為共享經(jīng)濟(jì)的基礎(chǔ)支撐和核心載體,目前正通過(guò)資源集中整合,形成聚合模式,即“平臺(tái)的平臺(tái)”,用戶可以通過(guò)一個(gè)入口獲得多個(gè)平臺(tái)提供的資源服務(wù),形成行業(yè)競(jìng)爭(zhēng)新策略。

    消費(fèi)領(lǐng)域,共享平臺(tái)聚合式規(guī)模不斷擴(kuò)大,業(yè)務(wù)生態(tài)鏈多元擴(kuò)張。一方面多個(gè)同類(lèi)服務(wù)平臺(tái)聚合在一個(gè)專(zhuān)業(yè)共享大平臺(tái),便于用戶選擇;另一方面不同類(lèi)型服務(wù)聚合在一個(gè)超級(jí)大平臺(tái)上,拓展服務(wù)生態(tài)鏈。如滴滴出行作為一站式移動(dòng)出行服務(wù)平臺(tái),提供出租車(chē)、快車(chē)、專(zhuān)車(chē)、代駕、共享單車(chē)、汽車(chē)服務(wù)以及企業(yè)版等多元化出行和運(yùn)輸服務(wù)。美團(tuán)已打造成集餐飲、打車(chē)、共享單車(chē)、酒店旅游等一體化綜合生活服務(wù)平臺(tái)。超級(jí)平臺(tái)以微信第三方服務(wù)為例,接入了滴滴出行、拼多多、美團(tuán)外賣(mài)、貝殼找房等。支付寶平臺(tái)除了聚合滴滴出行、餓了么外賣(mài)、飛豬酒店等第三方商家服務(wù)外,還聚合了市民中心、醫(yī)療健康、教育公益等更多服務(wù)。

    為加快中國(guó)制造業(yè)向共享制造轉(zhuǎn)型升級(jí),重點(diǎn)考慮解決制造業(yè)產(chǎn)能過(guò)剩、產(chǎn)業(yè)結(jié)構(gòu)失調(diào)、技術(shù)創(chuàng)新能力不足等問(wèn)題,產(chǎn)能共享成為必然的路徑和選擇。國(guó)務(wù)院《關(guān)于深化制造業(yè)與互聯(lián)網(wǎng)融合發(fā)展的指導(dǎo)意見(jiàn)》強(qiáng)調(diào),推動(dòng)中小企業(yè)制造資源與互聯(lián)網(wǎng)平臺(tái)全面對(duì)接,實(shí)現(xiàn)制造能力的在線發(fā)布、協(xié)同和交易,積極發(fā)展面向制造環(huán)節(jié)的共享經(jīng)濟(jì)。工信部2019 年10 月發(fā)布《關(guān)于加快培育共享制造新模式新業(yè)態(tài)促進(jìn)制造業(yè)高質(zhì)量發(fā)展的指導(dǎo)意見(jiàn)》,目標(biāo)旨在協(xié)同中國(guó)制造2025 制造強(qiáng)國(guó)戰(zhàn)略,到2022 年形成20 家創(chuàng)新能力強(qiáng)、行業(yè)影響大的共享制造示范平臺(tái)。目前我國(guó)初步形成了眾創(chuàng)型、技術(shù)服務(wù)型、協(xié)同型等不同類(lèi)型特色的產(chǎn)能共享平臺(tái)。如寧波的“生意幫”平臺(tái)集成了15000家工廠入駐,阿里巴巴旗下的“淘工廠”平臺(tái)匯聚了約3萬(wàn)家服裝加工企業(yè)和1000 萬(wàn)家企業(yè)商鋪,全球注冊(cè)企業(yè)用戶超過(guò)1.2 億個(gè)②。聚合式平臺(tái)共享制造成為我國(guó)共享經(jīng)濟(jì)主力軍。

    (二)人工智能提速共享經(jīng)濟(jì)

    大規(guī)模聚合性平臺(tái)搭建運(yùn)營(yíng),依靠大數(shù)據(jù)和人工智能實(shí)現(xiàn)目標(biāo)任務(wù)并發(fā)揮優(yōu)勢(shì)。安德里亞斯·卡普蘭(Andreas Kaplan)和邁克爾·海恩萊因(Michael Haenlein)將人工智能定義為“系統(tǒng)正確解釋外部數(shù)據(jù),從這些數(shù)據(jù)中學(xué)習(xí),并利用這些知識(shí)通過(guò)靈活適應(yīng)實(shí)現(xiàn)特定目標(biāo)和任務(wù)的能力”?;诖髷?shù)據(jù)支持下的共享平臺(tái),只有應(yīng)用人工智能,才能勝任巨量數(shù)據(jù)采集和處理,才能在整合、挖掘、分析、監(jiān)控、預(yù)測(cè)市場(chǎng)趨勢(shì)及決策匹配等方面實(shí)現(xiàn)快速響應(yīng)能力。配合高速率大容量的5G 技術(shù),能夠承接聚合式平臺(tái)爆發(fā)式網(wǎng)絡(luò)服務(wù)流量,用戶訪問(wèn)質(zhì)量不受影響。阿里云將智能零售稱為“史上最大規(guī)模人機(jī)協(xié)同”,2017年“雙十一”當(dāng)天,機(jī)器智能推薦系統(tǒng)生成超過(guò)5677 億個(gè)專(zhuān)屬貨架,AI 設(shè)計(jì)師“魯班”在雙十一期間設(shè)計(jì)4.1億張海報(bào),阿里云華北數(shù)據(jù)運(yùn)維中心機(jī)器人,接替了運(yùn)維人員30%的重復(fù)性工作③。蘇寧超級(jí)云倉(cāng)通過(guò)人工智能技術(shù),采用大量物流機(jī)器人協(xié)同配合,實(shí)現(xiàn)商品分揀、運(yùn)輸、出庫(kù)等流程自動(dòng)化、智能化作業(yè)。美團(tuán)智能配送、滿幫共享物流、春雨醫(yī)生、喜馬拉雅等共享平臺(tái)紛紛利用人工智能提高交易效率,拓展客戶布局。國(guó)家信息中心首席信息師、分享經(jīng)濟(jì)研究中心主任張新紅評(píng)價(jià),共享經(jīng)濟(jì)是人工智能等新一代信息技術(shù)集成應(yīng)用的產(chǎn)物,也是目前人工智能應(yīng)用最活躍、最成功的領(lǐng)域。

    二、共享經(jīng)濟(jì)下半場(chǎng)的秩序難題

    聚合式平臺(tái)與人工智能給共享經(jīng)濟(jì)下半場(chǎng)帶來(lái)規(guī)模上和技術(shù)上的重大改變,從法律視角考察,相比共享經(jīng)濟(jì)前期會(huì)出現(xiàn)新的問(wèn)題。

    (一)法律關(guān)系圖譜的變化

    共享經(jīng)濟(jì)前期的共享平臺(tái),多為CtoC 模式,平臺(tái)主要提供信息,進(jìn)行交易撮合,用戶與平臺(tái)之間的法律關(guān)系盡管在居間和租賃之間還有爭(zhēng)議,但關(guān)系鏈條比較單一清晰。之后平臺(tái)逐步引入專(zhuān)業(yè)化機(jī)構(gòu)作為服務(wù)主體,走向BtoC 模式,用戶與提供服務(wù)的經(jīng)營(yíng)者之間是消費(fèi)關(guān)系,服務(wù)經(jīng)營(yíng)者與共享平臺(tái)之間是商務(wù)合作關(guān)系,如網(wǎng)約車(chē)平臺(tái)。而當(dāng)下的聚合式共享平臺(tái)發(fā)展方向是在互聯(lián)網(wǎng)環(huán)境中把自打造成一個(gè)“平臺(tái)的平臺(tái)”,更多出現(xiàn)了BtoB 模式。在同一聚合式平臺(tái)上可以積聚不同行業(yè)業(yè)務(wù),多個(gè)同類(lèi)平臺(tái)也可以進(jìn)駐一個(gè)大平臺(tái)里,主體的多樣性與經(jīng)營(yíng)內(nèi)容的多元使新發(fā)的行業(yè)競(jìng)爭(zhēng)關(guān)系、外包服務(wù)關(guān)系、大規(guī)?;鞓I(yè)監(jiān)管關(guān)系等縱橫交織,聚合式平臺(tái)必須面對(duì)并尋求制度與法律的調(diào)整和處理。即使有些關(guān)系的調(diào)整能夠被原有框架容納,但運(yùn)行難度并非能同日而語(yǔ)。

    (二)數(shù)據(jù)安全全域放大

    人機(jī)交融的互聯(lián)網(wǎng)時(shí)代,一切信息都以數(shù)據(jù)的格式被捕獲和存儲(chǔ),如地理位置信息、生物識(shí)別信息、財(cái)務(wù)信息、交通軌跡、消費(fèi)記錄、社會(huì)聯(lián)絡(luò)通訊等,這些數(shù)據(jù)積聚在共享平臺(tái),被大數(shù)據(jù)加人工智能整合、分析和挖掘,實(shí)現(xiàn)共享平臺(tái)聚合式升級(jí)的同時(shí),也把用戶和進(jìn)駐商信息帶進(jìn)更大的數(shù)據(jù)池。同時(shí),平臺(tái)不斷創(chuàng)新業(yè)態(tài),多業(yè)態(tài)長(zhǎng)鏈條的運(yùn)營(yíng),使得數(shù)據(jù)在更復(fù)雜的環(huán)境中增加泄露和侵權(quán)隱患。例如平臺(tái)逐漸加深與金融的協(xié)作與融合,向用戶拓展平臺(tái)理財(cái)、信貸、保險(xiǎn)等金融服務(wù),財(cái)務(wù)與信用信息被抓取,信息安全放大到金融安全;共享醫(yī)療基于醫(yī)療服務(wù)采集的健康大數(shù)據(jù),遇泄露、竊取及服務(wù)決策影響下,信息安全被放大到生命安全;共享制造云平臺(tái)面向企業(yè)實(shí)現(xiàn)在網(wǎng)絡(luò)云端的全流程管理,包括需求采集、項(xiàng)目管理、流程管理、設(shè)計(jì)管理、研發(fā)管理,信息安全被放大到商業(yè)秘密、知識(shí)產(chǎn)權(quán)安全。

    聚合式平臺(tái)對(duì)區(qū)塊鏈的推廣應(yīng)用,實(shí)現(xiàn)著分布式記賬對(duì)權(quán)屬認(rèn)證的信用,可以全程追溯、維權(quán)舉證,同時(shí)也使信息因不可刪除而永存風(fēng)險(xiǎn)。人工智能的深度運(yùn)用,需要為其提供更大量的數(shù)據(jù)進(jìn)行學(xué)習(xí)和決策,平臺(tái)及人工智能技術(shù)可能被黑客植入惡意代碼,攻擊關(guān)鍵信息。在聚合式平臺(tái)接入BtoB模式、行政處理及公益服務(wù)的趨勢(shì)下,如果攻擊對(duì)象是行政信息和國(guó)家秘密,有可能危及國(guó)家安全。

    目前我國(guó)立法將個(gè)人信息、數(shù)據(jù)安全、商業(yè)秘密、知識(shí)產(chǎn)權(quán)、國(guó)家秘密分類(lèi)專(zhuān)門(mén)保護(hù),由于一切信息都能以數(shù)據(jù)形式體現(xiàn),數(shù)據(jù)保護(hù)是關(guān)鍵,而我國(guó)數(shù)據(jù)安全保護(hù)法還在擬定中。數(shù)據(jù)脫敏后能作為資源,反向復(fù)原后又威脅各種權(quán)利和安全,數(shù)據(jù)保護(hù)在標(biāo)準(zhǔn)、程序和管理上難把控邊界,并且須與技術(shù)同步不斷演進(jìn)。

    (三)算法黑箱威脅決策公平

    聚合式共享平臺(tái)的用戶無(wú)論是消費(fèi)者類(lèi)型還是商家類(lèi)型,共同心理動(dòng)機(jī)在于:希望更容易找到或被找到、交易安全、追責(zé)維權(quán)有保障。而平臺(tái)要實(shí)現(xiàn)這些效果,必須動(dòng)用人工智能進(jìn)行大量數(shù)據(jù)分析、營(yíng)銷(xiāo)決策、篩選匹配、動(dòng)態(tài)定價(jià)、跟蹤服務(wù),以及威脅識(shí)別。核心競(jìng)爭(zhēng)力就在于人工智能算法和決策,但是算法真的可靠嗎?目前處于“混合增強(qiáng)智能”階段,將人的作用或人的認(rèn)知模型引入人工智能系統(tǒng),人工智能算法是編程人員的主觀選擇合并預(yù)設(shè)的價(jià)值判斷,并可能在機(jī)器深度學(xué)習(xí)進(jìn)程中自主演變和進(jìn)化,不能保證算法決策的公平和透明。于是我們看到有算法歧視、殺熟抬價(jià)、排行排擠等決策結(jié)果的不公平。

    我國(guó)目前對(duì)于算法監(jiān)控規(guī)制非常有限,《電子商務(wù)法》第40 條規(guī)定,對(duì)于競(jìng)價(jià)排名的商品或服務(wù),應(yīng)當(dāng)顯著標(biāo)明“競(jìng)價(jià)”。這對(duì)算法提出了信息披露義務(wù),保障消費(fèi)者的知情權(quán)、自主性和選擇權(quán),但沒(méi)有規(guī)制算法監(jiān)管。在人工智能尚不能取得法律主體地位的當(dāng)前,人工智能本身不宜成為責(zé)任主體,多數(shù)觀點(diǎn)認(rèn)為算法責(zé)任還是由運(yùn)用者承擔(dān),同時(shí)不排除設(shè)計(jì)者的連帶責(zé)任。人工智能還屬于平臺(tái)的技術(shù)工具,目前對(duì)其內(nèi)部運(yùn)行的觀測(cè)監(jiān)控技術(shù)以及機(jī)制約束還在探索。

    (四)混業(yè)監(jiān)管難于落地

    共享經(jīng)濟(jì)聚合式平臺(tái)監(jiān)管,根據(jù)內(nèi)容可以分平臺(tái)經(jīng)營(yíng)監(jiān)管和行業(yè)經(jīng)營(yíng)監(jiān)管兩方面分析。平臺(tái)有統(tǒng)一的準(zhǔn)入資格、信用標(biāo)準(zhǔn)、評(píng)級(jí)體系、網(wǎng)絡(luò)安全防范、資金池等,這些是共享平臺(tái)對(duì)平臺(tái)內(nèi)經(jīng)營(yíng)者統(tǒng)一監(jiān)管的現(xiàn)實(shí)基礎(chǔ)和理由。但是隨著平臺(tái)經(jīng)營(yíng)的業(yè)務(wù)不斷擴(kuò)張,有些幾乎覆蓋所有消費(fèi)領(lǐng)域,甚至包括行政服務(wù)及公益,對(duì)平臺(tái)內(nèi)經(jīng)營(yíng)者采統(tǒng)一監(jiān)管模式顯得過(guò)于廣泛。《電子商務(wù)法》從法律層面規(guī)定,平臺(tái)內(nèi)經(jīng)營(yíng)者須依法獲市場(chǎng)經(jīng)營(yíng)主體資格,意味著平臺(tái)負(fù)責(zé)監(jiān)管進(jìn)駐資質(zhì),經(jīng)營(yíng)者行業(yè)準(zhǔn)入歸屬行政主管部門(mén)審批??梢?jiàn)立法在監(jiān)管模式上把平臺(tái)經(jīng)營(yíng)與行業(yè)監(jiān)管做了各司其職的劃分。而這對(duì)聚合式共享平臺(tái)是否適用?一是聚合式平臺(tái)里有很多進(jìn)駐平臺(tái),平臺(tái)客戶類(lèi)型也多樣化,行業(yè)跨度越來(lái)越大。例如微信錢(qián)包支付平臺(tái)進(jìn)駐滴滴出行、京東購(gòu)物、火車(chē)票機(jī)票、醫(yī)療健康、轉(zhuǎn)轉(zhuǎn)二手等第三方服務(wù)平臺(tái)。截止2019 年7 月,短視頻共享平臺(tái)“抖音”入駐的機(jī)構(gòu)超過(guò)16000 家,包括公檢法、教育、文旅、衛(wèi)生等領(lǐng)域④。二是混業(yè)經(jīng)營(yíng)拓展中還未能將聚合式平臺(tái)定性為何物。例如支付寶等超級(jí)聚合式平臺(tái)在商業(yè)服務(wù)外,又迅速增加行政繳費(fèi)、公益醫(yī)療教育服務(wù)等,平臺(tái)行業(yè)定位的不確定使得對(duì)其監(jiān)管落地很難。在行業(yè)經(jīng)營(yíng)監(jiān)管方面,中國(guó)貿(mào)促會(huì)商業(yè)行業(yè)委員會(huì)針對(duì)共享經(jīng)濟(jì)努力推進(jìn)團(tuán)體標(biāo)準(zhǔn)規(guī)范,包括《共享經(jīng)濟(jì)平臺(tái)資源提供者入駐審核通則》《共享經(jīng)濟(jì)平臺(tái)糾紛解決通則》等,但均屬行業(yè)自律規(guī)范,相比法律規(guī)范,其強(qiáng)制力有限。國(guó)家信息中心分享經(jīng)濟(jì)研究中心牽頭組織的我國(guó)共享住宿領(lǐng)域首個(gè)自律性標(biāo)準(zhǔn)文件《共享住宿服務(wù)規(guī)范》一定程度上對(duì)共享住宿行業(yè)起到了規(guī)范作用,但該規(guī)范也并不是法律強(qiáng)制執(zhí)行標(biāo)準(zhǔn)。同時(shí),基于民宿等資源在民間閑散資源與經(jīng)營(yíng)者資產(chǎn)之間的游走,行業(yè)管理介入顯得“觀察期”過(guò)長(zhǎng)。對(duì)共享業(yè)態(tài)包容探索與強(qiáng)制監(jiān)管之間的權(quán)衡,已超出規(guī)制技術(shù)本身,這是共享經(jīng)濟(jì)監(jiān)管落地的持續(xù)性難題。

    三、共享經(jīng)濟(jì)下半場(chǎng)的秩序規(guī)制

    聚合模式發(fā)展及人工智能的深度應(yīng)用,讓共享經(jīng)濟(jì)在前期諸多規(guī)制未形成定論的情勢(shì)下,增加了更多新的未解。我們?cè)噲D在國(guó)外經(jīng)驗(yàn)和最具強(qiáng)制力的司法判解中尋找路徑,然而中國(guó)共享經(jīng)濟(jì)在移植歐美共享經(jīng)濟(jì)初級(jí)階段節(jié)約補(bǔ)充型理念后,迅速嬗變升級(jí)為大型全域產(chǎn)業(yè)化樣態(tài),中國(guó)共享經(jīng)濟(jì)已然在引領(lǐng)國(guó)際步伐,前無(wú)所瞻。同時(shí)在我國(guó)法律審慎未規(guī)制之前,我們還不能于法有據(jù)地主張權(quán)益,司法判例也鮮有參照。如果按事前防范,事中監(jiān)管,事后救濟(jì)的劃分階段,在大規(guī)模聚合式平臺(tái)的共享經(jīng)濟(jì)生態(tài)中,筆者傾向于更多地著力事前防范和事中監(jiān)督,至于事后救濟(jì)可能會(huì)因當(dāng)事人不易查找和舉證困難而不易實(shí)現(xiàn),制裁和維權(quán)成本極高。

    (一)數(shù)據(jù)安全

    數(shù)據(jù)之所以有價(jià)值在于承載著信息,在BtoC模式中,信息安全比較關(guān)注的是個(gè)人信息保護(hù),而進(jìn)入下半場(chǎng)的共享經(jīng)濟(jì),在聚合式平臺(tái)環(huán)境中包括互聯(lián)網(wǎng)各類(lèi)場(chǎng)景,如果還包括共享制造,所涉及的信息法律保護(hù)就具有很大張力,包括個(gè)人信息、商業(yè)秘密、知識(shí)產(chǎn)權(quán)和國(guó)家秘密。對(duì)數(shù)據(jù)安全的保護(hù)超越當(dāng)初的個(gè)人信息權(quán)及隱私權(quán)的私法意義,應(yīng)持?jǐn)?shù)據(jù)生態(tài)環(huán)境中確權(quán)、采集、利用等保護(hù)鏈的理念去嚴(yán)謹(jǐn)構(gòu)建。

    1.數(shù)據(jù)權(quán)屬確認(rèn)。數(shù)據(jù)權(quán)屬的厘清和確認(rèn),是數(shù)據(jù)安全保護(hù)鏈的第一環(huán)節(jié),也是推進(jìn)我國(guó)數(shù)據(jù)共享深度和廣度的第一邏輯。我國(guó)并沒(méi)有對(duì)數(shù)據(jù)權(quán)屬明確規(guī)定,在大數(shù)據(jù)作為國(guó)家發(fā)展戰(zhàn)略資源的趨勢(shì)下,數(shù)據(jù)在進(jìn)行大規(guī)模交易,數(shù)據(jù)產(chǎn)權(quán)屬于誰(shuí)?這是基于大數(shù)據(jù)的產(chǎn)業(yè)鏈條無(wú)法回避的邏輯起點(diǎn)。數(shù)據(jù)的價(jià)值基于其內(nèi)容,所以建立在價(jià)值基礎(chǔ)上采集的數(shù)據(jù),原始權(quán)源應(yīng)在于內(nèi)容價(jià)值所依附的被記錄人。如果在數(shù)據(jù)加工后添付了智力再加工價(jià)值,或進(jìn)行了智力產(chǎn)品創(chuàng)意,可以對(duì)數(shù)據(jù)產(chǎn)品另行主張產(chǎn)權(quán),但須遵循數(shù)據(jù)權(quán)源獲得的合法路徑。數(shù)據(jù)所承載的個(gè)人信息,雖然還沒(méi)有被立法專(zhuān)門(mén)系統(tǒng)保護(hù),但我國(guó)《民法總則》在第111條規(guī)定上已明確了其權(quán)利歸屬于自然人本人,任何組織和個(gè)人需要獲取,都應(yīng)當(dāng)依法并確保信息安全。數(shù)據(jù)所承載的商業(yè)秘密、知識(shí)產(chǎn)權(quán)和國(guó)家秘密,其所有權(quán)及保護(hù)規(guī)則,我國(guó)已有專(zhuān)門(mén)立法保護(hù),應(yīng)嚴(yán)格遵循相應(yīng)立法規(guī)定。

    2.數(shù)據(jù)采集。數(shù)據(jù)采集應(yīng)遵循權(quán)利人同意原則,包括知情并許可兩項(xiàng)內(nèi)容。具體標(biāo)準(zhǔn)應(yīng)是向權(quán)利人明示采集的目的、方式和范圍,并采避免歧義的明示許可方式,許可權(quán)的行使須讓渡國(guó)家安全、公共安全利益。國(guó)際上數(shù)據(jù)采集以歐盟為嚴(yán)謹(jǐn)先例,2016 年歐盟頒布《個(gè)人數(shù)據(jù)保護(hù)通用條例》,禁止一切未經(jīng)同意而非法使用公民個(gè)人數(shù)據(jù)的行為,且設(shè)立知情同意、加密、默認(rèn)保護(hù)隱私等程序,并聲明不得作涉及隱私權(quán)和數(shù)據(jù)保護(hù)原則的規(guī)避⑤。我國(guó)2017 年6 月1 日起施行的《網(wǎng)絡(luò)安全法》在第41 條、第42 條規(guī)定,采集數(shù)據(jù)和使用個(gè)人信息應(yīng)當(dāng)經(jīng)被采集人同意,并依法和依約定進(jìn)行處理和保存。未經(jīng)被收集人同意,不得將信息提供給他人。但經(jīng)處理無(wú)法識(shí)別特定個(gè)人且不能復(fù)原的除外。我們注意到,盡管當(dāng)前存在脫敏后可以復(fù)原的技術(shù),而且即使當(dāng)前技術(shù)不能復(fù)原,未來(lái)技術(shù)可能將其復(fù)原,但在個(gè)人信息保護(hù)和數(shù)據(jù)產(chǎn)業(yè)發(fā)展之間,立法做了一個(gè)平衡性規(guī)制,對(duì)脫敏后的數(shù)據(jù)做了一個(gè)例外安排。實(shí)務(wù)中對(duì)數(shù)據(jù)采集“同意”原則的運(yùn)用已比較廣泛,但形式上還存在捆綁簽約、格式條款等的違背權(quán)利人真實(shí)意思表示的強(qiáng)勢(shì)交易。2019年4月公安部網(wǎng)絡(luò)安全保衛(wèi)局聯(lián)合三部門(mén)發(fā)布《互聯(lián)網(wǎng)個(gè)人信息安全保護(hù)指南》規(guī)定,個(gè)人信息收集應(yīng)獲得個(gè)人信息主體的同意和授權(quán),不應(yīng)收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息,不應(yīng)通過(guò)捆綁產(chǎn)品或服務(wù)各項(xiàng)業(yè)務(wù)功能等方式強(qiáng)迫收集個(gè)人信息。2019 年國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心發(fā)布《移動(dòng)APP 違法違規(guī)問(wèn)題及治理舉措》,我們期待從治理過(guò)度收集用戶信息APP開(kāi)始,對(duì)數(shù)據(jù)采集秩序有效治理。

    3.數(shù)據(jù)利用。數(shù)據(jù)利用應(yīng)采必要性原則。基于數(shù)據(jù)的廣泛采集和法律允許的脫敏利用,在大數(shù)據(jù)產(chǎn)業(yè)和人工智能技術(shù)的推動(dòng)下,數(shù)據(jù)可能會(huì)進(jìn)入無(wú)邊界開(kāi)發(fā)使用。數(shù)據(jù)中攜帶的信息會(huì)引發(fā)各種風(fēng)險(xiǎn),這種風(fēng)險(xiǎn)隨著數(shù)據(jù)的永恒性而永遠(yuǎn)存在。例如今天我們利用人臉識(shí)別只是為了開(kāi)啟一個(gè)門(mén)禁,未來(lái)可能因?yàn)槿四樧R(shí)別生物信息被利用,而成為無(wú)人機(jī)恐怖襲擊的目標(biāo),甚至不可知的風(fēng)險(xiǎn)也許會(huì)超出目前想象。所以,平衡大數(shù)據(jù)人工智能發(fā)展與數(shù)據(jù)安全兩方面利弊,我們堅(jiān)持運(yùn)營(yíng)者利用數(shù)據(jù),以業(yè)務(wù)必要為限。即使在人工智能領(lǐng)域,歐盟認(rèn)為也應(yīng)按照必要性原則。但事實(shí)上“業(yè)務(wù)必要性”在數(shù)據(jù)開(kāi)發(fā)的不斷拓展中很難界定。同時(shí)數(shù)據(jù)利用在技術(shù)上應(yīng)采統(tǒng)一標(biāo)準(zhǔn)運(yùn)行,全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《大數(shù)據(jù)安全標(biāo)準(zhǔn)化白皮書(shū)(2018)》,分析了個(gè)人信息安全標(biāo)準(zhǔn)、大數(shù)據(jù)安全標(biāo)準(zhǔn),對(duì)實(shí)現(xiàn)網(wǎng)絡(luò)空間安全與數(shù)據(jù)產(chǎn)業(yè)跨境發(fā)展都是有價(jià)值的技術(shù)參照。

    (二)算法監(jiān)控

    算法透明和可責(zé)性是國(guó)際上可借鑒的算法監(jiān)控策略。

    1.算法透明。馬里蘭大學(xué)教授弗蘭克.帕斯奎爾(Frank Pasquale) 認(rèn)為一切算法的本質(zhì)是黑箱,機(jī)器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中存在隱層邏輯使得設(shè)計(jì)者無(wú)法對(duì)機(jī)器學(xué)習(xí)的優(yōu)化結(jié)果做出合理的解釋。但從算法的外部效應(yīng)來(lái)看,“算法黑箱”僅指對(duì)用戶的不透明,對(duì)設(shè)計(jì)者來(lái)說(shuō)算法是一種公開(kāi)且透明的技術(shù)實(shí)踐方案⑥。算法透明追求的其實(shí)是算法的簡(jiǎn)要說(shuō)明,包括算法的假設(shè)和限制、算法的邏輯、算法的種類(lèi)、算法的功能、算法的設(shè)計(jì)者、算法的風(fēng)險(xiǎn)、算法的重大變化等方面的說(shuō)明⑦。

    歐盟議會(huì)通過(guò)的《機(jī)器人民事法律規(guī)則》要求在任何情況下都可以提供決策背后的算法設(shè)計(jì)規(guī)則。我國(guó)《新一代人工智能發(fā)展規(guī)劃》指出“建立健全公開(kāi)透明的人工智能監(jiān)管體系”,但沒(méi)有要求算法本身的透明。中國(guó)人民銀行聯(lián)合銀保監(jiān)會(huì)、證監(jiān)會(huì)、外匯局發(fā)布《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》,對(duì)人工智能在金融領(lǐng)域投資顧問(wèn)中的算法透明有具體要求,這對(duì)平臺(tái)算法的透明化規(guī)制是一個(gè)可行性的參考。首先,我們可以要求經(jīng)營(yíng)者向主管部門(mén)和算法設(shè)計(jì)機(jī)構(gòu)報(bào)備算法模型的主要參數(shù)和決策邏輯,向客戶充分提示人工智能算法的固有缺陷和風(fēng)險(xiǎn),強(qiáng)化流程痕跡管理。其次,算法應(yīng)用機(jī)構(gòu)可以采技術(shù)手段,對(duì)算法程序和決策結(jié)果進(jìn)行驗(yàn)證。再次,應(yīng)該要求設(shè)計(jì)者編制算法應(yīng)當(dāng)遵循行業(yè)規(guī)則和法律規(guī)則,以合理的選擇路徑運(yùn)行,使其符合社會(huì)和秩序規(guī)范。最后,可以考慮將算法規(guī)范化標(biāo)準(zhǔn)嵌入系統(tǒng),通過(guò)審計(jì)進(jìn)行風(fēng)險(xiǎn)控制。另外,算法及其決策有效地接受中立第三方或機(jī)構(gòu)的審查,接受專(zhuān)業(yè)監(jiān)督和社會(huì)監(jiān)督,也可以更好地防范人工智能算法設(shè)計(jì)和運(yùn)用偏離社會(huì)倫理和秩序規(guī)范。

    2.算法責(zé)任。算法責(zé)任是一個(gè)由責(zé)任主體、責(zé)任方式和責(zé)任強(qiáng)度構(gòu)成的體系。將經(jīng)營(yíng)者作為算法法律責(zé)任的主體,在目前是可以形成共識(shí)的。歐盟委員會(huì)在調(diào)查谷歌公司涉嫌使用搜索算法等早期人工智能技術(shù)打擊競(jìng)爭(zhēng)對(duì)手和支持自身廣告時(shí),就主張定價(jià)算法不能以不正當(dāng)競(jìng)爭(zhēng)的共謀方式設(shè)計(jì),且企業(yè)不能免除隱藏在計(jì)算機(jī)程序后面的共謀責(zé)任。我國(guó)《電子商務(wù)法》第18 條對(duì)經(jīng)營(yíng)者利用人工智能在平臺(tái)向用戶推送搜索結(jié)果進(jìn)行了標(biāo)識(shí)義務(wù)的約束,并對(duì)違規(guī)經(jīng)營(yíng)者施以行政處罰。無(wú)論國(guó)際經(jīng)驗(yàn)還是我國(guó)規(guī)制例,算法責(zé)任都應(yīng)由運(yùn)用算法決策結(jié)果的經(jīng)營(yíng)者承擔(dān)。

    算法責(zé)任方式,目前已有的規(guī)制僅限于行政責(zé)任和行業(yè)責(zé)任,筆者建議進(jìn)一步配套設(shè)計(jì)相應(yīng)民事?lián)p害賠償責(zé)任和刑事懲罰,健全責(zé)任方式體系。我國(guó)《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》提出,因算法模型缺陷或系統(tǒng)異常,影響金融市場(chǎng)秩序穩(wěn)定運(yùn)行的,金融機(jī)構(gòu)應(yīng)當(dāng)強(qiáng)制調(diào)整或中止人工智能使用。我國(guó)《電子商務(wù)法》對(duì)網(wǎng)絡(luò)經(jīng)營(yíng)者的算法責(zé)任,采行政處罰,包括市場(chǎng)監(jiān)督管理部門(mén)責(zé)令限期改正、沒(méi)收違法所得,可以并處罰款。這些都是算法責(zé)任規(guī)制的有益嘗試。對(duì)責(zé)任的嚴(yán)苛程度,視治理需要,這在規(guī)制技術(shù)上不存在困難,我國(guó)在目前金融人工智能顧問(wèn)和電子商務(wù)網(wǎng)絡(luò)經(jīng)營(yíng)者責(zé)任試點(diǎn)后,可以積累經(jīng)驗(yàn),考慮在更多行業(yè)算法決策中推廣。

    (三)混業(yè)監(jiān)管的落地

    對(duì)聚合式平臺(tái)監(jiān)管,可以為其預(yù)留運(yùn)營(yíng)模式和行業(yè)領(lǐng)域擴(kuò)張空間。國(guó)家市場(chǎng)監(jiān)督總局設(shè)立全國(guó)網(wǎng)絡(luò)交易平臺(tái)監(jiān)管服務(wù)系統(tǒng)已于2016年7月上線,通過(guò)匯集國(guó)內(nèi)所有網(wǎng)絡(luò)商品交易平臺(tái)和經(jīng)營(yíng)者的相關(guān)數(shù)據(jù),實(shí)現(xiàn)全國(guó)范圍內(nèi)的工商管理部門(mén)聯(lián)動(dòng)監(jiān)管。可見(jiàn)共享平臺(tái)中市場(chǎng)范疇的監(jiān)管已完成布局,那么市場(chǎng)之外的社會(huì)生活領(lǐng)域呢?如果將聚合式平臺(tái)發(fā)展為網(wǎng)絡(luò)生活城,要匹配一個(gè)能夠勝任的監(jiān)管機(jī)構(gòu),那么建議是公安部門(mén)比較合適。既不會(huì)重復(fù)機(jī)構(gòu)設(shè)置,又能與線下生活中的社會(huì)治安管理及犯罪查處職能對(duì)應(yīng)。

    至于共享經(jīng)濟(jì)經(jīng)營(yíng)的具體行業(yè)監(jiān)管,還是適合保持各行政部門(mén)各司其職,協(xié)同監(jiān)管。國(guó)家發(fā)改委等八部門(mén)發(fā)布《關(guān)于促進(jìn)分享經(jīng)濟(jì)發(fā)展的指導(dǎo)性意見(jiàn)》第4條規(guī)定,合理界定不同行業(yè)領(lǐng)域分享經(jīng)濟(jì)的業(yè)態(tài)屬性,分類(lèi)細(xì)化管理。同時(shí),還應(yīng)加強(qiáng)部門(mén)與地方法規(guī)政策的協(xié)調(diào)制定,更有針對(duì)性地進(jìn)行行業(yè)分類(lèi)規(guī)制監(jiān)管。

    共享經(jīng)濟(jì)的發(fā)展一直伴隨著國(guó)家引導(dǎo)、產(chǎn)業(yè)政策扶持,以及法律制度對(duì)其的認(rèn)可和保障,在規(guī)制與技術(shù)交融的進(jìn)程中,我們不懈地探索構(gòu)建共享經(jīng)濟(jì)在聚合式平臺(tái)趨勢(shì)下的人工智能時(shí)代新秩序。2020 年既是考驗(yàn)也是契機(jī),突發(fā)的新冠肺炎疫情對(duì)全球的貿(mào)易、消費(fèi)、投資都造成明顯影響,全球經(jīng)濟(jì)的不確定性和動(dòng)蕩被進(jìn)一步放大,產(chǎn)業(yè)布局、投資、就業(yè)、金融、外貿(mào)都會(huì)震蕩出與以往大不相同的格局。我國(guó)在疫情沖擊和宏觀經(jīng)濟(jì)下行的壓力下,各領(lǐng)域都需要有序恢復(fù),穩(wěn)健回暖,持續(xù)發(fā)展。共享經(jīng)濟(jì)已從上半場(chǎng)的民間補(bǔ)充模式跨越成為國(guó)家發(fā)展戰(zhàn)略,正以最低邊際成本的優(yōu)勢(shì)模式破冰前行。在這一契機(jī)中,人工智能、大數(shù)據(jù)等科技賦能的大規(guī)模平臺(tái)化全域型共享經(jīng)濟(jì)對(duì)消費(fèi)、投資、貿(mào)易和服務(wù)業(yè)、制造業(yè)的帶動(dòng),既適合中國(guó)國(guó)情,又能對(duì)國(guó)際經(jīng)濟(jì)環(huán)境產(chǎn)生積極效應(yīng)。所以,有序推進(jìn)中國(guó)特色的共享經(jīng)濟(jì),增強(qiáng)中國(guó)抗風(fēng)險(xiǎn)能力,并讓中國(guó)在世界經(jīng)濟(jì)發(fā)展中的作用持續(xù)增強(qiáng),是共享經(jīng)濟(jì)下半場(chǎng)更深刻的使命。

    注釋

    ①④?chē)?guó)家信息中心.中國(guó)共享經(jīng)濟(jì)發(fā)展報(bào)告2020[EB/OL].https://www.100ec.cn/detail--6547821.html

    ②于鳳霞.加快推進(jìn)我國(guó)制造業(yè)產(chǎn)能共享.中國(guó)發(fā)展觀察[EB/OL].http://www.gkong.com/item/news/2019/07/97633.html

    ③一文看懂阿里巴巴人工智能產(chǎn)業(yè)布局[EB/OL].https://www.sohu.com/a/253271186_799090.

    ⑤王鶄峰,欒群.如何確保人工智能安全可靠可控?[EB/OL].https://www.ccidgroup.com/sdgc/11599.htm

    ⑥趙精武.人工智能安全的雙重規(guī)制體系[EB/OL].http://www.china.com.cn/opinion/think/2019-02/22/content_74493026.htm

    ⑦徐鳳.人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開(kāi)[EB/OL].https://www.thepaper.cn/newsDetail_forward_5197829

    猜你喜歡
    下半場(chǎng)人工智能算法
    出海:潮玩發(fā)展進(jìn)入下半場(chǎng)
    玩具世界(2022年1期)2022-06-05 07:42:18
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    進(jìn)位加法的兩種算法
    智能駕駛的下半場(chǎng)
    人工智能與就業(yè)
    共享單車(chē)下半場(chǎng)
    光伏電站下半場(chǎng)
    能源(2018年4期)2018-05-19 01:53:39
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    1024香蕉在线观看| 亚洲国产精品成人久久小说| 久久精品亚洲av国产电影网| 日韩欧美一区视频在线观看| 咕卡用的链子| 国产麻豆69| 深夜精品福利| 免费黄频网站在线观看国产| 在线观看免费高清a一片| 满18在线观看网站| 女人被躁到高潮嗷嗷叫费观| 日本猛色少妇xxxxx猛交久久| 国产av码专区亚洲av| 精品卡一卡二卡四卡免费| 18在线观看网站| 久热这里只有精品99| 亚洲自偷自拍图片 自拍| av福利片在线| 热99久久久久精品小说推荐| 最近2019中文字幕mv第一页| 久久 成人 亚洲| 操美女的视频在线观看| 久久狼人影院| 午夜福利影视在线免费观看| 久久精品亚洲av国产电影网| 亚洲五月色婷婷综合| 狂野欧美激情性xxxx| 国产在线免费精品| 18禁观看日本| 精品少妇久久久久久888优播| 亚洲激情五月婷婷啪啪| 国产成人午夜福利电影在线观看| 老司机亚洲免费影院| 日韩中文字幕视频在线看片| 大话2 男鬼变身卡| 一级爰片在线观看| www日本在线高清视频| √禁漫天堂资源中文www| 免费高清在线观看视频在线观看| 中文字幕人妻丝袜一区二区 | 一级黄片播放器| 亚洲av福利一区| 亚洲一区二区三区欧美精品| 熟女av电影| 老司机靠b影院| 啦啦啦视频在线资源免费观看| 一本—道久久a久久精品蜜桃钙片| 日韩av在线免费看完整版不卡| 国产精品99久久99久久久不卡 | 老司机影院成人| 国产97色在线日韩免费| 国产伦人伦偷精品视频| 在线观看免费视频网站a站| 久久精品久久精品一区二区三区| 90打野战视频偷拍视频| 欧美亚洲日本最大视频资源| 国产亚洲最大av| 日本午夜av视频| 性高湖久久久久久久久免费观看| 日韩制服丝袜自拍偷拍| 国产免费视频播放在线视频| 一本—道久久a久久精品蜜桃钙片| 波多野结衣一区麻豆| 男女之事视频高清在线观看 | 考比视频在线观看| 成人国产麻豆网| 免费女性裸体啪啪无遮挡网站| 国产又色又爽无遮挡免| 我要看黄色一级片免费的| 亚洲天堂av无毛| 亚洲久久久国产精品| 久久久久久久国产电影| 91精品国产国语对白视频| 亚洲人成电影观看| 久久鲁丝午夜福利片| 亚洲精品在线美女| 少妇猛男粗大的猛烈进出视频| 又大又黄又爽视频免费| 免费观看人在逋| 国产野战对白在线观看| 最近2019中文字幕mv第一页| 日韩成人av中文字幕在线观看| 天堂8中文在线网| 亚洲熟女精品中文字幕| 成人亚洲精品一区在线观看| 丁香六月天网| 秋霞在线观看毛片| av国产精品久久久久影院| 成人国产av品久久久| 黑丝袜美女国产一区| 国产亚洲一区二区精品| 搡老乐熟女国产| 久久这里只有精品19| 亚洲av日韩精品久久久久久密 | 亚洲av电影在线进入| 高清视频免费观看一区二区| 国产亚洲av高清不卡| 777久久人妻少妇嫩草av网站| 美女国产高潮福利片在线看| 亚洲国产最新在线播放| 成人国产av品久久久| 欧美国产精品一级二级三级| 国产成人精品福利久久| 亚洲av成人不卡在线观看播放网 | 看非洲黑人一级黄片| 久久鲁丝午夜福利片| 国产亚洲av片在线观看秒播厂| 国产成人a∨麻豆精品| 性少妇av在线| 久久天躁狠狠躁夜夜2o2o | av电影中文网址| 国产精品三级大全| 精品国产一区二区久久| 免费看不卡的av| 久久精品久久久久久久性| 国产精品一区二区在线不卡| 久久国产精品大桥未久av| 丁香六月天网| 日韩中文字幕欧美一区二区 | 精品国产一区二区三区四区第35| 一本久久精品| 国产亚洲午夜精品一区二区久久| 汤姆久久久久久久影院中文字幕| 国产探花极品一区二区| kizo精华| 亚洲三区欧美一区| 久久综合国产亚洲精品| 精品久久蜜臀av无| 亚洲欧美精品自产自拍| 久久国产精品男人的天堂亚洲| 曰老女人黄片| 亚洲av电影在线观看一区二区三区| 母亲3免费完整高清在线观看| 亚洲成人国产一区在线观看 | 最近最新中文字幕免费大全7| 亚洲精品第二区| 99久国产av精品国产电影| 成人手机av| 成人亚洲精品一区在线观看| 久久精品熟女亚洲av麻豆精品| 婷婷成人精品国产| 五月天丁香电影| 中文精品一卡2卡3卡4更新| 色94色欧美一区二区| 国产精品国产av在线观看| 高清在线视频一区二区三区| 久热爱精品视频在线9| av在线播放精品| 亚洲国产欧美在线一区| 成人国产麻豆网| 亚洲精品自拍成人| 日韩一本色道免费dvd| 久久久久久久久久久久大奶| 看免费成人av毛片| 精品一区二区三卡| 亚洲精品中文字幕在线视频| 亚洲三区欧美一区| 黄色 视频免费看| 男女午夜视频在线观看| 亚洲熟女毛片儿| 一本大道久久a久久精品| 成人漫画全彩无遮挡| 交换朋友夫妻互换小说| a级片在线免费高清观看视频| 老汉色∧v一级毛片| 欧美亚洲日本最大视频资源| 18禁观看日本| 伊人久久大香线蕉亚洲五| 中文字幕制服av| 午夜激情av网站| 一级a爱视频在线免费观看| 黄片播放在线免费| 亚洲国产欧美网| 99久国产av精品国产电影| av在线老鸭窝| a级片在线免费高清观看视频| 亚洲国产精品国产精品| 麻豆乱淫一区二区| 午夜免费鲁丝| 老司机亚洲免费影院| 亚洲三区欧美一区| 五月天丁香电影| 亚洲国产最新在线播放| 中国国产av一级| 大片电影免费在线观看免费| 精品久久蜜臀av无| 日本av免费视频播放| 国产成人精品福利久久| 夫妻性生交免费视频一级片| 国产毛片在线视频| 久久久精品免费免费高清| tube8黄色片| 亚洲国产精品国产精品| 精品人妻一区二区三区麻豆| 18禁观看日本| 国产爽快片一区二区三区| 亚洲伊人色综图| 欧美成人精品欧美一级黄| 一级a爱视频在线免费观看| 日本欧美国产在线视频| 欧美国产精品va在线观看不卡| 大片免费播放器 马上看| 色视频在线一区二区三区| 男女高潮啪啪啪动态图| 国产精品亚洲av一区麻豆 | 一级毛片我不卡| 国产99久久九九免费精品| 男女高潮啪啪啪动态图| www.精华液| 亚洲av福利一区| 性少妇av在线| 操出白浆在线播放| 国产黄频视频在线观看| 香蕉丝袜av| 亚洲,欧美精品.| 欧美黑人精品巨大| 精品视频人人做人人爽| 男人添女人高潮全过程视频| 亚洲欧美色中文字幕在线| 免费少妇av软件| 日本欧美视频一区| 亚洲伊人色综图| 999精品在线视频| 亚洲国产精品国产精品| 日韩视频在线欧美| 国产又爽黄色视频| 午夜免费观看性视频| 丁香六月天网| 国产精品麻豆人妻色哟哟久久| 热99久久久久精品小说推荐| 国产午夜精品一二区理论片| 午夜免费观看性视频| 国产成人系列免费观看| 精品视频人人做人人爽| 成年av动漫网址| 国产欧美日韩一区二区三区在线| 欧美成人午夜精品| 丝袜喷水一区| 伦理电影大哥的女人| 久久精品人人爽人人爽视色| 狠狠婷婷综合久久久久久88av| 成年人免费黄色播放视频| 日本黄色日本黄色录像| 伦理电影大哥的女人| 人妻一区二区av| 欧美变态另类bdsm刘玥| 欧美 日韩 精品 国产| 丁香六月天网| 伦理电影大哥的女人| 伊人亚洲综合成人网| 丝袜美腿诱惑在线| 国产一区二区激情短视频 | 国产精品免费视频内射| 久久人人爽av亚洲精品天堂| 免费久久久久久久精品成人欧美视频| 欧美日韩福利视频一区二区| 国产精品偷伦视频观看了| 国产成人精品久久久久久| 精品国产一区二区三区四区第35| 中文字幕亚洲精品专区| 亚洲精品日本国产第一区| 9色porny在线观看| 午夜激情久久久久久久| 日韩精品有码人妻一区| 国产精品久久久久久人妻精品电影 | 欧美人与善性xxx| 99久久人妻综合| 中文乱码字字幕精品一区二区三区| 丝袜美足系列| 日本欧美国产在线视频| 中文乱码字字幕精品一区二区三区| 国产亚洲一区二区精品| 狠狠精品人妻久久久久久综合| 涩涩av久久男人的天堂| 精品视频人人做人人爽| 18禁国产床啪视频网站| 亚洲成av片中文字幕在线观看| 啦啦啦 在线观看视频| 国产精品一区二区在线观看99| 夫妻性生交免费视频一级片| 美女脱内裤让男人舔精品视频| 亚洲成人av在线免费| 免费观看人在逋| 欧美黑人欧美精品刺激| 午夜免费观看性视频| 午夜福利乱码中文字幕| 久热这里只有精品99| 80岁老熟妇乱子伦牲交| 丝瓜视频免费看黄片| 曰老女人黄片| 青春草国产在线视频| 好男人视频免费观看在线| 国产成人免费无遮挡视频| 校园人妻丝袜中文字幕| 亚洲欧洲精品一区二区精品久久久 | 久久鲁丝午夜福利片| 日本黄色日本黄色录像| 女人久久www免费人成看片| 久久国产精品大桥未久av| 午夜福利免费观看在线| 欧美激情高清一区二区三区 | 99香蕉大伊视频| 精品一区二区三区四区五区乱码 | 国产国语露脸激情在线看| 午夜老司机福利片| 色综合欧美亚洲国产小说| 日本猛色少妇xxxxx猛交久久| av一本久久久久| 精品一区在线观看国产| av国产精品久久久久影院| 日韩免费高清中文字幕av| 亚洲四区av| 九色亚洲精品在线播放| 免费黄网站久久成人精品| 伊人久久大香线蕉亚洲五| 韩国精品一区二区三区| 久久毛片免费看一区二区三区| 久久亚洲国产成人精品v| 19禁男女啪啪无遮挡网站| 精品国产一区二区三区久久久樱花| 满18在线观看网站| 色精品久久人妻99蜜桃| 超色免费av| 日韩制服骚丝袜av| 亚洲精品国产色婷婷电影| 免费久久久久久久精品成人欧美视频| 久久影院123| 欧美日韩综合久久久久久| 国产一区二区三区综合在线观看| 精品酒店卫生间| 精品免费久久久久久久清纯 | 国产色婷婷99| kizo精华| 日本av免费视频播放| 日韩不卡一区二区三区视频在线| 在线观看国产h片| 秋霞在线观看毛片| 丝袜脚勾引网站| 超碰97精品在线观看| 亚洲av成人不卡在线观看播放网 | 久久久久久久国产电影| 精品国产超薄肉色丝袜足j| 成年av动漫网址| 自线自在国产av| 精品国产一区二区三区四区第35| 热99久久久久精品小说推荐| www.av在线官网国产| 精品免费久久久久久久清纯 | 国产免费一区二区三区四区乱码| 丝袜喷水一区| 国产一区二区 视频在线| 日本午夜av视频| av福利片在线| 亚洲一级一片aⅴ在线观看| 男女国产视频网站| 成人18禁高潮啪啪吃奶动态图| 亚洲色图综合在线观看| 夜夜骑夜夜射夜夜干| 国产精品一二三区在线看| 亚洲美女搞黄在线观看| 精品一品国产午夜福利视频| 老汉色av国产亚洲站长工具| 国产精品av久久久久免费| 婷婷色麻豆天堂久久| 亚洲精品,欧美精品| 观看av在线不卡| 电影成人av| 欧美精品一区二区免费开放| 国产国语露脸激情在线看| 大片电影免费在线观看免费| 黄色毛片三级朝国网站| av电影中文网址| 国产乱来视频区| 少妇精品久久久久久久| 久久毛片免费看一区二区三区| 人人妻人人澡人人爽人人夜夜| 久久人妻熟女aⅴ| 国产精品成人在线| 午夜激情久久久久久久| xxxhd国产人妻xxx| 99久国产av精品国产电影| a级毛片黄视频| 久久久久久人人人人人| 精品视频人人做人人爽| 成人亚洲欧美一区二区av| 国产精品无大码| 激情五月婷婷亚洲| 看免费av毛片| 丝袜脚勾引网站| 亚洲成人免费av在线播放| 国产欧美亚洲国产| 久久99精品国语久久久| 啦啦啦在线观看免费高清www| 观看美女的网站| 久久久久精品性色| 精品亚洲乱码少妇综合久久| 一区福利在线观看| 成人免费观看视频高清| 一区二区三区精品91| 熟女少妇亚洲综合色aaa.| 建设人人有责人人尽责人人享有的| 十八禁高潮呻吟视频| 九草在线视频观看| 国产精品国产三级专区第一集| 中文精品一卡2卡3卡4更新| 日本爱情动作片www.在线观看| 亚洲熟女毛片儿| 久久毛片免费看一区二区三区| 久久99一区二区三区| 国产精品 欧美亚洲| 午夜91福利影院| 悠悠久久av| kizo精华| 色婷婷av一区二区三区视频| 日韩欧美精品免费久久| 亚洲熟女毛片儿| 久久狼人影院| 欧美日韩一区二区视频在线观看视频在线| 久久精品亚洲av国产电影网| 午夜激情久久久久久久| 99久久99久久久精品蜜桃| 欧美国产精品va在线观看不卡| 婷婷成人精品国产| 精品亚洲成a人片在线观看| 国产毛片在线视频| 国产男女超爽视频在线观看| 亚洲一区二区三区欧美精品| 免费不卡黄色视频| 精品少妇内射三级| 亚洲精品在线美女| 免费少妇av软件| 亚洲成色77777| 中文欧美无线码| 在线观看国产h片| 在现免费观看毛片| 亚洲成人免费av在线播放| 国产av精品麻豆| 国产精品成人在线| 在线观看三级黄色| 亚洲综合色网址| 久久精品久久精品一区二区三区| www日本在线高清视频| 亚洲精品中文字幕在线视频| 日本91视频免费播放| 亚洲精品美女久久av网站| 亚洲精品aⅴ在线观看| 亚洲一级一片aⅴ在线观看| 99久国产av精品国产电影| 亚洲国产成人一精品久久久| 久久久久精品人妻al黑| 国产在线免费精品| 国产免费福利视频在线观看| 在线看a的网站| 美女主播在线视频| 精品一区在线观看国产| 亚洲欧美一区二区三区国产| 久热这里只有精品99| 亚洲av日韩在线播放| 亚洲成国产人片在线观看| 亚洲av福利一区| 男女下面插进去视频免费观看| 成人三级做爰电影| 欧美乱码精品一区二区三区| 国产av一区二区精品久久| 一区二区av电影网| 九色亚洲精品在线播放| 伦理电影大哥的女人| 国产成人啪精品午夜网站| 男女无遮挡免费网站观看| 国产成人午夜福利电影在线观看| av在线观看视频网站免费| 免费久久久久久久精品成人欧美视频| 女性被躁到高潮视频| 精品人妻在线不人妻| 母亲3免费完整高清在线观看| 操美女的视频在线观看| 亚洲欧美激情在线| 黑丝袜美女国产一区| 日本av免费视频播放| www.熟女人妻精品国产| 97精品久久久久久久久久精品| 天天影视国产精品| 国产伦人伦偷精品视频| 日韩制服骚丝袜av| 亚洲婷婷狠狠爱综合网| 极品少妇高潮喷水抽搐| 在线天堂最新版资源| 日韩一卡2卡3卡4卡2021年| 久久精品久久精品一区二区三区| 亚洲精品中文字幕在线视频| 国产精品久久久人人做人人爽| 国产成人精品在线电影| 国产熟女午夜一区二区三区| 国产高清国产精品国产三级| 国产精品熟女久久久久浪| 99久久人妻综合| 19禁男女啪啪无遮挡网站| 日本一区二区免费在线视频| av在线播放精品| 亚洲精品成人av观看孕妇| kizo精华| 在线看a的网站| 日韩一本色道免费dvd| 亚洲精品国产一区二区精华液| 无限看片的www在线观看| 午夜影院在线不卡| 国产精品一区二区在线观看99| 女人精品久久久久毛片| 高清欧美精品videossex| 91成人精品电影| 电影成人av| 成人18禁高潮啪啪吃奶动态图| 999久久久国产精品视频| 波野结衣二区三区在线| 国产黄频视频在线观看| 国产精品女同一区二区软件| 国产爽快片一区二区三区| 日本黄色日本黄色录像| 别揉我奶头~嗯~啊~动态视频 | 母亲3免费完整高清在线观看| 七月丁香在线播放| 好男人视频免费观看在线| 日韩 亚洲 欧美在线| 国产淫语在线视频| 免费高清在线观看视频在线观看| 午夜免费鲁丝| 99久久人妻综合| 中文天堂在线官网| 久久影院123| 在线观看www视频免费| 国产一区二区三区综合在线观看| 亚洲av成人精品一二三区| 侵犯人妻中文字幕一二三四区| 五月开心婷婷网| 一本—道久久a久久精品蜜桃钙片| 欧美国产精品va在线观看不卡| 热re99久久精品国产66热6| 女人久久www免费人成看片| 午夜激情久久久久久久| 麻豆精品久久久久久蜜桃| 捣出白浆h1v1| bbb黄色大片| 亚洲国产最新在线播放| 久久精品aⅴ一区二区三区四区| 成人手机av| 国产免费一区二区三区四区乱码| 日本欧美视频一区| 汤姆久久久久久久影院中文字幕| 亚洲国产欧美在线一区| 少妇 在线观看| 啦啦啦 在线观看视频| 大码成人一级视频| 亚洲成人一二三区av| 制服丝袜香蕉在线| 中国国产av一级| 国产亚洲av片在线观看秒播厂| 最新的欧美精品一区二区| 热re99久久国产66热| av视频免费观看在线观看| 国产福利在线免费观看视频| 夫妻午夜视频| 亚洲专区中文字幕在线 | 成人国语在线视频| 一边摸一边抽搐一进一出视频| 人人妻人人爽人人添夜夜欢视频| e午夜精品久久久久久久| 韩国av在线不卡| 女人久久www免费人成看片| av网站在线播放免费| 老汉色∧v一级毛片| 叶爱在线成人免费视频播放| 成人18禁高潮啪啪吃奶动态图| 一级黄片播放器| 国产一区二区三区综合在线观看| 国产成人91sexporn| 老司机深夜福利视频在线观看 | 久久久久久久久久久免费av| 别揉我奶头~嗯~啊~动态视频 | 侵犯人妻中文字幕一二三四区| 久久精品国产亚洲av涩爱| 色综合欧美亚洲国产小说| 亚洲精品国产av成人精品| 久久精品熟女亚洲av麻豆精品| 成年人免费黄色播放视频| 日韩中文字幕视频在线看片| 亚洲熟女毛片儿| 久久人妻熟女aⅴ| xxxhd国产人妻xxx| 精品一区二区三卡| 久久久久精品久久久久真实原创| 欧美日韩精品网址| 久久女婷五月综合色啪小说| 夫妻午夜视频| 精品亚洲成a人片在线观看| 十八禁人妻一区二区| 青春草亚洲视频在线观看| 国产精品蜜桃在线观看| 亚洲av欧美aⅴ国产| 久久97久久精品| 午夜福利一区二区在线看| e午夜精品久久久久久久| 亚洲成人一二三区av| 人体艺术视频欧美日本| 青春草亚洲视频在线观看| 91成人精品电影| 亚洲一卡2卡3卡4卡5卡精品中文| 老司机深夜福利视频在线观看 | 男女高潮啪啪啪动态图| 男女午夜视频在线观看| 哪个播放器可以免费观看大片| 下体分泌物呈黄色| 丝袜美腿诱惑在线| 久久99热这里只频精品6学生| avwww免费| 日韩一本色道免费dvd|