• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    共享經(jīng)濟(jì)“下半場(chǎng)”的秩序規(guī)制

    2020-03-01 07:12:30陳筱貞
    經(jīng)濟(jì)論壇 2020年5期
    關(guān)鍵詞:下半場(chǎng)人工智能算法

    陳筱貞

    一、共享經(jīng)濟(jì)下半場(chǎng)的雙引擎

    中國(guó)共享經(jīng)濟(jì)在前期歷時(shí)將近五年的洗禮和探索,2019 年進(jìn)入深度調(diào)整,盡管受?chē)?guó)際國(guó)內(nèi)宏觀經(jīng)濟(jì)下行壓力等多重因素影響,共享經(jīng)濟(jì)市場(chǎng)交易規(guī)模仍緩慢增長(zhǎng)。國(guó)家信息中心分享經(jīng)濟(jì)研究中心發(fā)布《中國(guó)共享經(jīng)濟(jì)發(fā)展報(bào)告(2020)》顯示,2019年共享經(jīng)濟(jì)市場(chǎng)交易額為32828億元,比上年增長(zhǎng)11.6%①。2020 年初爆發(fā)新冠肺疫情期間,共享教育、共享醫(yī)療、共享自媒體、共享物流、共享制造等成為新增長(zhǎng)極并且成長(zhǎng)為持續(xù)性新業(yè)態(tài)。經(jīng)歷了前半場(chǎng)野蠻競(jìng)爭(zhēng)和資本積累,適逢互聯(lián)網(wǎng)5G技術(shù)應(yīng)用升級(jí),大數(shù)據(jù)、區(qū)塊鏈、人工智能等應(yīng)運(yùn)賦能,共享經(jīng)濟(jì)在數(shù)字化和智能化浪潮的推動(dòng)下進(jìn)入下半場(chǎng),開(kāi)啟了平臺(tái)聚合性優(yōu)勢(shì)與人工智能結(jié)合的雙引擎。

    (一)聚合式平臺(tái)擴(kuò)張升級(jí)

    在與現(xiàn)代信息技術(shù)深度融合中,公共平臺(tái)成為了共享經(jīng)濟(jì)一個(gè)標(biāo)志性特征,人們通過(guò)平臺(tái)獲取積聚式信息、權(quán)衡選擇、操作使用、支付費(fèi)用、評(píng)價(jià)信用,同時(shí)為平臺(tái)留下了不斷新生的用戶信息和行為軌跡數(shù)據(jù)。平臺(tái)商家也就此探索與上下游及相關(guān)服務(wù)的創(chuàng)新融合。共享平臺(tái)成為共享經(jīng)濟(jì)的基礎(chǔ)支撐和核心載體,目前正通過(guò)資源集中整合,形成聚合模式,即“平臺(tái)的平臺(tái)”,用戶可以通過(guò)一個(gè)入口獲得多個(gè)平臺(tái)提供的資源服務(wù),形成行業(yè)競(jìng)爭(zhēng)新策略。

    消費(fèi)領(lǐng)域,共享平臺(tái)聚合式規(guī)模不斷擴(kuò)大,業(yè)務(wù)生態(tài)鏈多元擴(kuò)張。一方面多個(gè)同類(lèi)服務(wù)平臺(tái)聚合在一個(gè)專(zhuān)業(yè)共享大平臺(tái),便于用戶選擇;另一方面不同類(lèi)型服務(wù)聚合在一個(gè)超級(jí)大平臺(tái)上,拓展服務(wù)生態(tài)鏈。如滴滴出行作為一站式移動(dòng)出行服務(wù)平臺(tái),提供出租車(chē)、快車(chē)、專(zhuān)車(chē)、代駕、共享單車(chē)、汽車(chē)服務(wù)以及企業(yè)版等多元化出行和運(yùn)輸服務(wù)。美團(tuán)已打造成集餐飲、打車(chē)、共享單車(chē)、酒店旅游等一體化綜合生活服務(wù)平臺(tái)。超級(jí)平臺(tái)以微信第三方服務(wù)為例,接入了滴滴出行、拼多多、美團(tuán)外賣(mài)、貝殼找房等。支付寶平臺(tái)除了聚合滴滴出行、餓了么外賣(mài)、飛豬酒店等第三方商家服務(wù)外,還聚合了市民中心、醫(yī)療健康、教育公益等更多服務(wù)。

    為加快中國(guó)制造業(yè)向共享制造轉(zhuǎn)型升級(jí),重點(diǎn)考慮解決制造業(yè)產(chǎn)能過(guò)剩、產(chǎn)業(yè)結(jié)構(gòu)失調(diào)、技術(shù)創(chuàng)新能力不足等問(wèn)題,產(chǎn)能共享成為必然的路徑和選擇。國(guó)務(wù)院《關(guān)于深化制造業(yè)與互聯(lián)網(wǎng)融合發(fā)展的指導(dǎo)意見(jiàn)》強(qiáng)調(diào),推動(dòng)中小企業(yè)制造資源與互聯(lián)網(wǎng)平臺(tái)全面對(duì)接,實(shí)現(xiàn)制造能力的在線發(fā)布、協(xié)同和交易,積極發(fā)展面向制造環(huán)節(jié)的共享經(jīng)濟(jì)。工信部2019 年10 月發(fā)布《關(guān)于加快培育共享制造新模式新業(yè)態(tài)促進(jìn)制造業(yè)高質(zhì)量發(fā)展的指導(dǎo)意見(jiàn)》,目標(biāo)旨在協(xié)同中國(guó)制造2025 制造強(qiáng)國(guó)戰(zhàn)略,到2022 年形成20 家創(chuàng)新能力強(qiáng)、行業(yè)影響大的共享制造示范平臺(tái)。目前我國(guó)初步形成了眾創(chuàng)型、技術(shù)服務(wù)型、協(xié)同型等不同類(lèi)型特色的產(chǎn)能共享平臺(tái)。如寧波的“生意幫”平臺(tái)集成了15000家工廠入駐,阿里巴巴旗下的“淘工廠”平臺(tái)匯聚了約3萬(wàn)家服裝加工企業(yè)和1000 萬(wàn)家企業(yè)商鋪,全球注冊(cè)企業(yè)用戶超過(guò)1.2 億個(gè)②。聚合式平臺(tái)共享制造成為我國(guó)共享經(jīng)濟(jì)主力軍。

    (二)人工智能提速共享經(jīng)濟(jì)

    大規(guī)模聚合性平臺(tái)搭建運(yùn)營(yíng),依靠大數(shù)據(jù)和人工智能實(shí)現(xiàn)目標(biāo)任務(wù)并發(fā)揮優(yōu)勢(shì)。安德里亞斯·卡普蘭(Andreas Kaplan)和邁克爾·海恩萊因(Michael Haenlein)將人工智能定義為“系統(tǒng)正確解釋外部數(shù)據(jù),從這些數(shù)據(jù)中學(xué)習(xí),并利用這些知識(shí)通過(guò)靈活適應(yīng)實(shí)現(xiàn)特定目標(biāo)和任務(wù)的能力”?;诖髷?shù)據(jù)支持下的共享平臺(tái),只有應(yīng)用人工智能,才能勝任巨量數(shù)據(jù)采集和處理,才能在整合、挖掘、分析、監(jiān)控、預(yù)測(cè)市場(chǎng)趨勢(shì)及決策匹配等方面實(shí)現(xiàn)快速響應(yīng)能力。配合高速率大容量的5G 技術(shù),能夠承接聚合式平臺(tái)爆發(fā)式網(wǎng)絡(luò)服務(wù)流量,用戶訪問(wèn)質(zhì)量不受影響。阿里云將智能零售稱為“史上最大規(guī)模人機(jī)協(xié)同”,2017年“雙十一”當(dāng)天,機(jī)器智能推薦系統(tǒng)生成超過(guò)5677 億個(gè)專(zhuān)屬貨架,AI 設(shè)計(jì)師“魯班”在雙十一期間設(shè)計(jì)4.1億張海報(bào),阿里云華北數(shù)據(jù)運(yùn)維中心機(jī)器人,接替了運(yùn)維人員30%的重復(fù)性工作③。蘇寧超級(jí)云倉(cāng)通過(guò)人工智能技術(shù),采用大量物流機(jī)器人協(xié)同配合,實(shí)現(xiàn)商品分揀、運(yùn)輸、出庫(kù)等流程自動(dòng)化、智能化作業(yè)。美團(tuán)智能配送、滿幫共享物流、春雨醫(yī)生、喜馬拉雅等共享平臺(tái)紛紛利用人工智能提高交易效率,拓展客戶布局。國(guó)家信息中心首席信息師、分享經(jīng)濟(jì)研究中心主任張新紅評(píng)價(jià),共享經(jīng)濟(jì)是人工智能等新一代信息技術(shù)集成應(yīng)用的產(chǎn)物,也是目前人工智能應(yīng)用最活躍、最成功的領(lǐng)域。

    二、共享經(jīng)濟(jì)下半場(chǎng)的秩序難題

    聚合式平臺(tái)與人工智能給共享經(jīng)濟(jì)下半場(chǎng)帶來(lái)規(guī)模上和技術(shù)上的重大改變,從法律視角考察,相比共享經(jīng)濟(jì)前期會(huì)出現(xiàn)新的問(wèn)題。

    (一)法律關(guān)系圖譜的變化

    共享經(jīng)濟(jì)前期的共享平臺(tái),多為CtoC 模式,平臺(tái)主要提供信息,進(jìn)行交易撮合,用戶與平臺(tái)之間的法律關(guān)系盡管在居間和租賃之間還有爭(zhēng)議,但關(guān)系鏈條比較單一清晰。之后平臺(tái)逐步引入專(zhuān)業(yè)化機(jī)構(gòu)作為服務(wù)主體,走向BtoC 模式,用戶與提供服務(wù)的經(jīng)營(yíng)者之間是消費(fèi)關(guān)系,服務(wù)經(jīng)營(yíng)者與共享平臺(tái)之間是商務(wù)合作關(guān)系,如網(wǎng)約車(chē)平臺(tái)。而當(dāng)下的聚合式共享平臺(tái)發(fā)展方向是在互聯(lián)網(wǎng)環(huán)境中把自打造成一個(gè)“平臺(tái)的平臺(tái)”,更多出現(xiàn)了BtoB 模式。在同一聚合式平臺(tái)上可以積聚不同行業(yè)業(yè)務(wù),多個(gè)同類(lèi)平臺(tái)也可以進(jìn)駐一個(gè)大平臺(tái)里,主體的多樣性與經(jīng)營(yíng)內(nèi)容的多元使新發(fā)的行業(yè)競(jìng)爭(zhēng)關(guān)系、外包服務(wù)關(guān)系、大規(guī)?;鞓I(yè)監(jiān)管關(guān)系等縱橫交織,聚合式平臺(tái)必須面對(duì)并尋求制度與法律的調(diào)整和處理。即使有些關(guān)系的調(diào)整能夠被原有框架容納,但運(yùn)行難度并非能同日而語(yǔ)。

    (二)數(shù)據(jù)安全全域放大

    人機(jī)交融的互聯(lián)網(wǎng)時(shí)代,一切信息都以數(shù)據(jù)的格式被捕獲和存儲(chǔ),如地理位置信息、生物識(shí)別信息、財(cái)務(wù)信息、交通軌跡、消費(fèi)記錄、社會(huì)聯(lián)絡(luò)通訊等,這些數(shù)據(jù)積聚在共享平臺(tái),被大數(shù)據(jù)加人工智能整合、分析和挖掘,實(shí)現(xiàn)共享平臺(tái)聚合式升級(jí)的同時(shí),也把用戶和進(jìn)駐商信息帶進(jìn)更大的數(shù)據(jù)池。同時(shí),平臺(tái)不斷創(chuàng)新業(yè)態(tài),多業(yè)態(tài)長(zhǎng)鏈條的運(yùn)營(yíng),使得數(shù)據(jù)在更復(fù)雜的環(huán)境中增加泄露和侵權(quán)隱患。例如平臺(tái)逐漸加深與金融的協(xié)作與融合,向用戶拓展平臺(tái)理財(cái)、信貸、保險(xiǎn)等金融服務(wù),財(cái)務(wù)與信用信息被抓取,信息安全放大到金融安全;共享醫(yī)療基于醫(yī)療服務(wù)采集的健康大數(shù)據(jù),遇泄露、竊取及服務(wù)決策影響下,信息安全被放大到生命安全;共享制造云平臺(tái)面向企業(yè)實(shí)現(xiàn)在網(wǎng)絡(luò)云端的全流程管理,包括需求采集、項(xiàng)目管理、流程管理、設(shè)計(jì)管理、研發(fā)管理,信息安全被放大到商業(yè)秘密、知識(shí)產(chǎn)權(quán)安全。

    聚合式平臺(tái)對(duì)區(qū)塊鏈的推廣應(yīng)用,實(shí)現(xiàn)著分布式記賬對(duì)權(quán)屬認(rèn)證的信用,可以全程追溯、維權(quán)舉證,同時(shí)也使信息因不可刪除而永存風(fēng)險(xiǎn)。人工智能的深度運(yùn)用,需要為其提供更大量的數(shù)據(jù)進(jìn)行學(xué)習(xí)和決策,平臺(tái)及人工智能技術(shù)可能被黑客植入惡意代碼,攻擊關(guān)鍵信息。在聚合式平臺(tái)接入BtoB模式、行政處理及公益服務(wù)的趨勢(shì)下,如果攻擊對(duì)象是行政信息和國(guó)家秘密,有可能危及國(guó)家安全。

    目前我國(guó)立法將個(gè)人信息、數(shù)據(jù)安全、商業(yè)秘密、知識(shí)產(chǎn)權(quán)、國(guó)家秘密分類(lèi)專(zhuān)門(mén)保護(hù),由于一切信息都能以數(shù)據(jù)形式體現(xiàn),數(shù)據(jù)保護(hù)是關(guān)鍵,而我國(guó)數(shù)據(jù)安全保護(hù)法還在擬定中。數(shù)據(jù)脫敏后能作為資源,反向復(fù)原后又威脅各種權(quán)利和安全,數(shù)據(jù)保護(hù)在標(biāo)準(zhǔn)、程序和管理上難把控邊界,并且須與技術(shù)同步不斷演進(jìn)。

    (三)算法黑箱威脅決策公平

    聚合式共享平臺(tái)的用戶無(wú)論是消費(fèi)者類(lèi)型還是商家類(lèi)型,共同心理動(dòng)機(jī)在于:希望更容易找到或被找到、交易安全、追責(zé)維權(quán)有保障。而平臺(tái)要實(shí)現(xiàn)這些效果,必須動(dòng)用人工智能進(jìn)行大量數(shù)據(jù)分析、營(yíng)銷(xiāo)決策、篩選匹配、動(dòng)態(tài)定價(jià)、跟蹤服務(wù),以及威脅識(shí)別。核心競(jìng)爭(zhēng)力就在于人工智能算法和決策,但是算法真的可靠嗎?目前處于“混合增強(qiáng)智能”階段,將人的作用或人的認(rèn)知模型引入人工智能系統(tǒng),人工智能算法是編程人員的主觀選擇合并預(yù)設(shè)的價(jià)值判斷,并可能在機(jī)器深度學(xué)習(xí)進(jìn)程中自主演變和進(jìn)化,不能保證算法決策的公平和透明。于是我們看到有算法歧視、殺熟抬價(jià)、排行排擠等決策結(jié)果的不公平。

    我國(guó)目前對(duì)于算法監(jiān)控規(guī)制非常有限,《電子商務(wù)法》第40 條規(guī)定,對(duì)于競(jìng)價(jià)排名的商品或服務(wù),應(yīng)當(dāng)顯著標(biāo)明“競(jìng)價(jià)”。這對(duì)算法提出了信息披露義務(wù),保障消費(fèi)者的知情權(quán)、自主性和選擇權(quán),但沒(méi)有規(guī)制算法監(jiān)管。在人工智能尚不能取得法律主體地位的當(dāng)前,人工智能本身不宜成為責(zé)任主體,多數(shù)觀點(diǎn)認(rèn)為算法責(zé)任還是由運(yùn)用者承擔(dān),同時(shí)不排除設(shè)計(jì)者的連帶責(zé)任。人工智能還屬于平臺(tái)的技術(shù)工具,目前對(duì)其內(nèi)部運(yùn)行的觀測(cè)監(jiān)控技術(shù)以及機(jī)制約束還在探索。

    (四)混業(yè)監(jiān)管難于落地

    共享經(jīng)濟(jì)聚合式平臺(tái)監(jiān)管,根據(jù)內(nèi)容可以分平臺(tái)經(jīng)營(yíng)監(jiān)管和行業(yè)經(jīng)營(yíng)監(jiān)管兩方面分析。平臺(tái)有統(tǒng)一的準(zhǔn)入資格、信用標(biāo)準(zhǔn)、評(píng)級(jí)體系、網(wǎng)絡(luò)安全防范、資金池等,這些是共享平臺(tái)對(duì)平臺(tái)內(nèi)經(jīng)營(yíng)者統(tǒng)一監(jiān)管的現(xiàn)實(shí)基礎(chǔ)和理由。但是隨著平臺(tái)經(jīng)營(yíng)的業(yè)務(wù)不斷擴(kuò)張,有些幾乎覆蓋所有消費(fèi)領(lǐng)域,甚至包括行政服務(wù)及公益,對(duì)平臺(tái)內(nèi)經(jīng)營(yíng)者采統(tǒng)一監(jiān)管模式顯得過(guò)于廣泛。《電子商務(wù)法》從法律層面規(guī)定,平臺(tái)內(nèi)經(jīng)營(yíng)者須依法獲市場(chǎng)經(jīng)營(yíng)主體資格,意味著平臺(tái)負(fù)責(zé)監(jiān)管進(jìn)駐資質(zhì),經(jīng)營(yíng)者行業(yè)準(zhǔn)入歸屬行政主管部門(mén)審批??梢?jiàn)立法在監(jiān)管模式上把平臺(tái)經(jīng)營(yíng)與行業(yè)監(jiān)管做了各司其職的劃分。而這對(duì)聚合式共享平臺(tái)是否適用?一是聚合式平臺(tái)里有很多進(jìn)駐平臺(tái),平臺(tái)客戶類(lèi)型也多樣化,行業(yè)跨度越來(lái)越大。例如微信錢(qián)包支付平臺(tái)進(jìn)駐滴滴出行、京東購(gòu)物、火車(chē)票機(jī)票、醫(yī)療健康、轉(zhuǎn)轉(zhuǎn)二手等第三方服務(wù)平臺(tái)。截止2019 年7 月,短視頻共享平臺(tái)“抖音”入駐的機(jī)構(gòu)超過(guò)16000 家,包括公檢法、教育、文旅、衛(wèi)生等領(lǐng)域④。二是混業(yè)經(jīng)營(yíng)拓展中還未能將聚合式平臺(tái)定性為何物。例如支付寶等超級(jí)聚合式平臺(tái)在商業(yè)服務(wù)外,又迅速增加行政繳費(fèi)、公益醫(yī)療教育服務(wù)等,平臺(tái)行業(yè)定位的不確定使得對(duì)其監(jiān)管落地很難。在行業(yè)經(jīng)營(yíng)監(jiān)管方面,中國(guó)貿(mào)促會(huì)商業(yè)行業(yè)委員會(huì)針對(duì)共享經(jīng)濟(jì)努力推進(jìn)團(tuán)體標(biāo)準(zhǔn)規(guī)范,包括《共享經(jīng)濟(jì)平臺(tái)資源提供者入駐審核通則》《共享經(jīng)濟(jì)平臺(tái)糾紛解決通則》等,但均屬行業(yè)自律規(guī)范,相比法律規(guī)范,其強(qiáng)制力有限。國(guó)家信息中心分享經(jīng)濟(jì)研究中心牽頭組織的我國(guó)共享住宿領(lǐng)域首個(gè)自律性標(biāo)準(zhǔn)文件《共享住宿服務(wù)規(guī)范》一定程度上對(duì)共享住宿行業(yè)起到了規(guī)范作用,但該規(guī)范也并不是法律強(qiáng)制執(zhí)行標(biāo)準(zhǔn)。同時(shí),基于民宿等資源在民間閑散資源與經(jīng)營(yíng)者資產(chǎn)之間的游走,行業(yè)管理介入顯得“觀察期”過(guò)長(zhǎng)。對(duì)共享業(yè)態(tài)包容探索與強(qiáng)制監(jiān)管之間的權(quán)衡,已超出規(guī)制技術(shù)本身,這是共享經(jīng)濟(jì)監(jiān)管落地的持續(xù)性難題。

    三、共享經(jīng)濟(jì)下半場(chǎng)的秩序規(guī)制

    聚合模式發(fā)展及人工智能的深度應(yīng)用,讓共享經(jīng)濟(jì)在前期諸多規(guī)制未形成定論的情勢(shì)下,增加了更多新的未解。我們?cè)噲D在國(guó)外經(jīng)驗(yàn)和最具強(qiáng)制力的司法判解中尋找路徑,然而中國(guó)共享經(jīng)濟(jì)在移植歐美共享經(jīng)濟(jì)初級(jí)階段節(jié)約補(bǔ)充型理念后,迅速嬗變升級(jí)為大型全域產(chǎn)業(yè)化樣態(tài),中國(guó)共享經(jīng)濟(jì)已然在引領(lǐng)國(guó)際步伐,前無(wú)所瞻。同時(shí)在我國(guó)法律審慎未規(guī)制之前,我們還不能于法有據(jù)地主張權(quán)益,司法判例也鮮有參照。如果按事前防范,事中監(jiān)管,事后救濟(jì)的劃分階段,在大規(guī)模聚合式平臺(tái)的共享經(jīng)濟(jì)生態(tài)中,筆者傾向于更多地著力事前防范和事中監(jiān)督,至于事后救濟(jì)可能會(huì)因當(dāng)事人不易查找和舉證困難而不易實(shí)現(xiàn),制裁和維權(quán)成本極高。

    (一)數(shù)據(jù)安全

    數(shù)據(jù)之所以有價(jià)值在于承載著信息,在BtoC模式中,信息安全比較關(guān)注的是個(gè)人信息保護(hù),而進(jìn)入下半場(chǎng)的共享經(jīng)濟(jì),在聚合式平臺(tái)環(huán)境中包括互聯(lián)網(wǎng)各類(lèi)場(chǎng)景,如果還包括共享制造,所涉及的信息法律保護(hù)就具有很大張力,包括個(gè)人信息、商業(yè)秘密、知識(shí)產(chǎn)權(quán)和國(guó)家秘密。對(duì)數(shù)據(jù)安全的保護(hù)超越當(dāng)初的個(gè)人信息權(quán)及隱私權(quán)的私法意義,應(yīng)持?jǐn)?shù)據(jù)生態(tài)環(huán)境中確權(quán)、采集、利用等保護(hù)鏈的理念去嚴(yán)謹(jǐn)構(gòu)建。

    1.數(shù)據(jù)權(quán)屬確認(rèn)。數(shù)據(jù)權(quán)屬的厘清和確認(rèn),是數(shù)據(jù)安全保護(hù)鏈的第一環(huán)節(jié),也是推進(jìn)我國(guó)數(shù)據(jù)共享深度和廣度的第一邏輯。我國(guó)并沒(méi)有對(duì)數(shù)據(jù)權(quán)屬明確規(guī)定,在大數(shù)據(jù)作為國(guó)家發(fā)展戰(zhàn)略資源的趨勢(shì)下,數(shù)據(jù)在進(jìn)行大規(guī)模交易,數(shù)據(jù)產(chǎn)權(quán)屬于誰(shuí)?這是基于大數(shù)據(jù)的產(chǎn)業(yè)鏈條無(wú)法回避的邏輯起點(diǎn)。數(shù)據(jù)的價(jià)值基于其內(nèi)容,所以建立在價(jià)值基礎(chǔ)上采集的數(shù)據(jù),原始權(quán)源應(yīng)在于內(nèi)容價(jià)值所依附的被記錄人。如果在數(shù)據(jù)加工后添付了智力再加工價(jià)值,或進(jìn)行了智力產(chǎn)品創(chuàng)意,可以對(duì)數(shù)據(jù)產(chǎn)品另行主張產(chǎn)權(quán),但須遵循數(shù)據(jù)權(quán)源獲得的合法路徑。數(shù)據(jù)所承載的個(gè)人信息,雖然還沒(méi)有被立法專(zhuān)門(mén)系統(tǒng)保護(hù),但我國(guó)《民法總則》在第111條規(guī)定上已明確了其權(quán)利歸屬于自然人本人,任何組織和個(gè)人需要獲取,都應(yīng)當(dāng)依法并確保信息安全。數(shù)據(jù)所承載的商業(yè)秘密、知識(shí)產(chǎn)權(quán)和國(guó)家秘密,其所有權(quán)及保護(hù)規(guī)則,我國(guó)已有專(zhuān)門(mén)立法保護(hù),應(yīng)嚴(yán)格遵循相應(yīng)立法規(guī)定。

    2.數(shù)據(jù)采集。數(shù)據(jù)采集應(yīng)遵循權(quán)利人同意原則,包括知情并許可兩項(xiàng)內(nèi)容。具體標(biāo)準(zhǔn)應(yīng)是向權(quán)利人明示采集的目的、方式和范圍,并采避免歧義的明示許可方式,許可權(quán)的行使須讓渡國(guó)家安全、公共安全利益。國(guó)際上數(shù)據(jù)采集以歐盟為嚴(yán)謹(jǐn)先例,2016 年歐盟頒布《個(gè)人數(shù)據(jù)保護(hù)通用條例》,禁止一切未經(jīng)同意而非法使用公民個(gè)人數(shù)據(jù)的行為,且設(shè)立知情同意、加密、默認(rèn)保護(hù)隱私等程序,并聲明不得作涉及隱私權(quán)和數(shù)據(jù)保護(hù)原則的規(guī)避⑤。我國(guó)2017 年6 月1 日起施行的《網(wǎng)絡(luò)安全法》在第41 條、第42 條規(guī)定,采集數(shù)據(jù)和使用個(gè)人信息應(yīng)當(dāng)經(jīng)被采集人同意,并依法和依約定進(jìn)行處理和保存。未經(jīng)被收集人同意,不得將信息提供給他人。但經(jīng)處理無(wú)法識(shí)別特定個(gè)人且不能復(fù)原的除外。我們注意到,盡管當(dāng)前存在脫敏后可以復(fù)原的技術(shù),而且即使當(dāng)前技術(shù)不能復(fù)原,未來(lái)技術(shù)可能將其復(fù)原,但在個(gè)人信息保護(hù)和數(shù)據(jù)產(chǎn)業(yè)發(fā)展之間,立法做了一個(gè)平衡性規(guī)制,對(duì)脫敏后的數(shù)據(jù)做了一個(gè)例外安排。實(shí)務(wù)中對(duì)數(shù)據(jù)采集“同意”原則的運(yùn)用已比較廣泛,但形式上還存在捆綁簽約、格式條款等的違背權(quán)利人真實(shí)意思表示的強(qiáng)勢(shì)交易。2019年4月公安部網(wǎng)絡(luò)安全保衛(wèi)局聯(lián)合三部門(mén)發(fā)布《互聯(lián)網(wǎng)個(gè)人信息安全保護(hù)指南》規(guī)定,個(gè)人信息收集應(yīng)獲得個(gè)人信息主體的同意和授權(quán),不應(yīng)收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息,不應(yīng)通過(guò)捆綁產(chǎn)品或服務(wù)各項(xiàng)業(yè)務(wù)功能等方式強(qiáng)迫收集個(gè)人信息。2019 年國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心發(fā)布《移動(dòng)APP 違法違規(guī)問(wèn)題及治理舉措》,我們期待從治理過(guò)度收集用戶信息APP開(kāi)始,對(duì)數(shù)據(jù)采集秩序有效治理。

    3.數(shù)據(jù)利用。數(shù)據(jù)利用應(yīng)采必要性原則。基于數(shù)據(jù)的廣泛采集和法律允許的脫敏利用,在大數(shù)據(jù)產(chǎn)業(yè)和人工智能技術(shù)的推動(dòng)下,數(shù)據(jù)可能會(huì)進(jìn)入無(wú)邊界開(kāi)發(fā)使用。數(shù)據(jù)中攜帶的信息會(huì)引發(fā)各種風(fēng)險(xiǎn),這種風(fēng)險(xiǎn)隨著數(shù)據(jù)的永恒性而永遠(yuǎn)存在。例如今天我們利用人臉識(shí)別只是為了開(kāi)啟一個(gè)門(mén)禁,未來(lái)可能因?yàn)槿四樧R(shí)別生物信息被利用,而成為無(wú)人機(jī)恐怖襲擊的目標(biāo),甚至不可知的風(fēng)險(xiǎn)也許會(huì)超出目前想象。所以,平衡大數(shù)據(jù)人工智能發(fā)展與數(shù)據(jù)安全兩方面利弊,我們堅(jiān)持運(yùn)營(yíng)者利用數(shù)據(jù),以業(yè)務(wù)必要為限。即使在人工智能領(lǐng)域,歐盟認(rèn)為也應(yīng)按照必要性原則。但事實(shí)上“業(yè)務(wù)必要性”在數(shù)據(jù)開(kāi)發(fā)的不斷拓展中很難界定。同時(shí)數(shù)據(jù)利用在技術(shù)上應(yīng)采統(tǒng)一標(biāo)準(zhǔn)運(yùn)行,全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《大數(shù)據(jù)安全標(biāo)準(zhǔn)化白皮書(shū)(2018)》,分析了個(gè)人信息安全標(biāo)準(zhǔn)、大數(shù)據(jù)安全標(biāo)準(zhǔn),對(duì)實(shí)現(xiàn)網(wǎng)絡(luò)空間安全與數(shù)據(jù)產(chǎn)業(yè)跨境發(fā)展都是有價(jià)值的技術(shù)參照。

    (二)算法監(jiān)控

    算法透明和可責(zé)性是國(guó)際上可借鑒的算法監(jiān)控策略。

    1.算法透明。馬里蘭大學(xué)教授弗蘭克.帕斯奎爾(Frank Pasquale) 認(rèn)為一切算法的本質(zhì)是黑箱,機(jī)器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中存在隱層邏輯使得設(shè)計(jì)者無(wú)法對(duì)機(jī)器學(xué)習(xí)的優(yōu)化結(jié)果做出合理的解釋。但從算法的外部效應(yīng)來(lái)看,“算法黑箱”僅指對(duì)用戶的不透明,對(duì)設(shè)計(jì)者來(lái)說(shuō)算法是一種公開(kāi)且透明的技術(shù)實(shí)踐方案⑥。算法透明追求的其實(shí)是算法的簡(jiǎn)要說(shuō)明,包括算法的假設(shè)和限制、算法的邏輯、算法的種類(lèi)、算法的功能、算法的設(shè)計(jì)者、算法的風(fēng)險(xiǎn)、算法的重大變化等方面的說(shuō)明⑦。

    歐盟議會(huì)通過(guò)的《機(jī)器人民事法律規(guī)則》要求在任何情況下都可以提供決策背后的算法設(shè)計(jì)規(guī)則。我國(guó)《新一代人工智能發(fā)展規(guī)劃》指出“建立健全公開(kāi)透明的人工智能監(jiān)管體系”,但沒(méi)有要求算法本身的透明。中國(guó)人民銀行聯(lián)合銀保監(jiān)會(huì)、證監(jiān)會(huì)、外匯局發(fā)布《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》,對(duì)人工智能在金融領(lǐng)域投資顧問(wèn)中的算法透明有具體要求,這對(duì)平臺(tái)算法的透明化規(guī)制是一個(gè)可行性的參考。首先,我們可以要求經(jīng)營(yíng)者向主管部門(mén)和算法設(shè)計(jì)機(jī)構(gòu)報(bào)備算法模型的主要參數(shù)和決策邏輯,向客戶充分提示人工智能算法的固有缺陷和風(fēng)險(xiǎn),強(qiáng)化流程痕跡管理。其次,算法應(yīng)用機(jī)構(gòu)可以采技術(shù)手段,對(duì)算法程序和決策結(jié)果進(jìn)行驗(yàn)證。再次,應(yīng)該要求設(shè)計(jì)者編制算法應(yīng)當(dāng)遵循行業(yè)規(guī)則和法律規(guī)則,以合理的選擇路徑運(yùn)行,使其符合社會(huì)和秩序規(guī)范。最后,可以考慮將算法規(guī)范化標(biāo)準(zhǔn)嵌入系統(tǒng),通過(guò)審計(jì)進(jìn)行風(fēng)險(xiǎn)控制。另外,算法及其決策有效地接受中立第三方或機(jī)構(gòu)的審查,接受專(zhuān)業(yè)監(jiān)督和社會(huì)監(jiān)督,也可以更好地防范人工智能算法設(shè)計(jì)和運(yùn)用偏離社會(huì)倫理和秩序規(guī)范。

    2.算法責(zé)任。算法責(zé)任是一個(gè)由責(zé)任主體、責(zé)任方式和責(zé)任強(qiáng)度構(gòu)成的體系。將經(jīng)營(yíng)者作為算法法律責(zé)任的主體,在目前是可以形成共識(shí)的。歐盟委員會(huì)在調(diào)查谷歌公司涉嫌使用搜索算法等早期人工智能技術(shù)打擊競(jìng)爭(zhēng)對(duì)手和支持自身廣告時(shí),就主張定價(jià)算法不能以不正當(dāng)競(jìng)爭(zhēng)的共謀方式設(shè)計(jì),且企業(yè)不能免除隱藏在計(jì)算機(jī)程序后面的共謀責(zé)任。我國(guó)《電子商務(wù)法》第18 條對(duì)經(jīng)營(yíng)者利用人工智能在平臺(tái)向用戶推送搜索結(jié)果進(jìn)行了標(biāo)識(shí)義務(wù)的約束,并對(duì)違規(guī)經(jīng)營(yíng)者施以行政處罰。無(wú)論國(guó)際經(jīng)驗(yàn)還是我國(guó)規(guī)制例,算法責(zé)任都應(yīng)由運(yùn)用算法決策結(jié)果的經(jīng)營(yíng)者承擔(dān)。

    算法責(zé)任方式,目前已有的規(guī)制僅限于行政責(zé)任和行業(yè)責(zé)任,筆者建議進(jìn)一步配套設(shè)計(jì)相應(yīng)民事?lián)p害賠償責(zé)任和刑事懲罰,健全責(zé)任方式體系。我國(guó)《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見(jiàn)》提出,因算法模型缺陷或系統(tǒng)異常,影響金融市場(chǎng)秩序穩(wěn)定運(yùn)行的,金融機(jī)構(gòu)應(yīng)當(dāng)強(qiáng)制調(diào)整或中止人工智能使用。我國(guó)《電子商務(wù)法》對(duì)網(wǎng)絡(luò)經(jīng)營(yíng)者的算法責(zé)任,采行政處罰,包括市場(chǎng)監(jiān)督管理部門(mén)責(zé)令限期改正、沒(méi)收違法所得,可以并處罰款。這些都是算法責(zé)任規(guī)制的有益嘗試。對(duì)責(zé)任的嚴(yán)苛程度,視治理需要,這在規(guī)制技術(shù)上不存在困難,我國(guó)在目前金融人工智能顧問(wèn)和電子商務(wù)網(wǎng)絡(luò)經(jīng)營(yíng)者責(zé)任試點(diǎn)后,可以積累經(jīng)驗(yàn),考慮在更多行業(yè)算法決策中推廣。

    (三)混業(yè)監(jiān)管的落地

    對(duì)聚合式平臺(tái)監(jiān)管,可以為其預(yù)留運(yùn)營(yíng)模式和行業(yè)領(lǐng)域擴(kuò)張空間。國(guó)家市場(chǎng)監(jiān)督總局設(shè)立全國(guó)網(wǎng)絡(luò)交易平臺(tái)監(jiān)管服務(wù)系統(tǒng)已于2016年7月上線,通過(guò)匯集國(guó)內(nèi)所有網(wǎng)絡(luò)商品交易平臺(tái)和經(jīng)營(yíng)者的相關(guān)數(shù)據(jù),實(shí)現(xiàn)全國(guó)范圍內(nèi)的工商管理部門(mén)聯(lián)動(dòng)監(jiān)管。可見(jiàn)共享平臺(tái)中市場(chǎng)范疇的監(jiān)管已完成布局,那么市場(chǎng)之外的社會(huì)生活領(lǐng)域呢?如果將聚合式平臺(tái)發(fā)展為網(wǎng)絡(luò)生活城,要匹配一個(gè)能夠勝任的監(jiān)管機(jī)構(gòu),那么建議是公安部門(mén)比較合適。既不會(huì)重復(fù)機(jī)構(gòu)設(shè)置,又能與線下生活中的社會(huì)治安管理及犯罪查處職能對(duì)應(yīng)。

    至于共享經(jīng)濟(jì)經(jīng)營(yíng)的具體行業(yè)監(jiān)管,還是適合保持各行政部門(mén)各司其職,協(xié)同監(jiān)管。國(guó)家發(fā)改委等八部門(mén)發(fā)布《關(guān)于促進(jìn)分享經(jīng)濟(jì)發(fā)展的指導(dǎo)性意見(jiàn)》第4條規(guī)定,合理界定不同行業(yè)領(lǐng)域分享經(jīng)濟(jì)的業(yè)態(tài)屬性,分類(lèi)細(xì)化管理。同時(shí),還應(yīng)加強(qiáng)部門(mén)與地方法規(guī)政策的協(xié)調(diào)制定,更有針對(duì)性地進(jìn)行行業(yè)分類(lèi)規(guī)制監(jiān)管。

    共享經(jīng)濟(jì)的發(fā)展一直伴隨著國(guó)家引導(dǎo)、產(chǎn)業(yè)政策扶持,以及法律制度對(duì)其的認(rèn)可和保障,在規(guī)制與技術(shù)交融的進(jìn)程中,我們不懈地探索構(gòu)建共享經(jīng)濟(jì)在聚合式平臺(tái)趨勢(shì)下的人工智能時(shí)代新秩序。2020 年既是考驗(yàn)也是契機(jī),突發(fā)的新冠肺炎疫情對(duì)全球的貿(mào)易、消費(fèi)、投資都造成明顯影響,全球經(jīng)濟(jì)的不確定性和動(dòng)蕩被進(jìn)一步放大,產(chǎn)業(yè)布局、投資、就業(yè)、金融、外貿(mào)都會(huì)震蕩出與以往大不相同的格局。我國(guó)在疫情沖擊和宏觀經(jīng)濟(jì)下行的壓力下,各領(lǐng)域都需要有序恢復(fù),穩(wěn)健回暖,持續(xù)發(fā)展。共享經(jīng)濟(jì)已從上半場(chǎng)的民間補(bǔ)充模式跨越成為國(guó)家發(fā)展戰(zhàn)略,正以最低邊際成本的優(yōu)勢(shì)模式破冰前行。在這一契機(jī)中,人工智能、大數(shù)據(jù)等科技賦能的大規(guī)模平臺(tái)化全域型共享經(jīng)濟(jì)對(duì)消費(fèi)、投資、貿(mào)易和服務(wù)業(yè)、制造業(yè)的帶動(dòng),既適合中國(guó)國(guó)情,又能對(duì)國(guó)際經(jīng)濟(jì)環(huán)境產(chǎn)生積極效應(yīng)。所以,有序推進(jìn)中國(guó)特色的共享經(jīng)濟(jì),增強(qiáng)中國(guó)抗風(fēng)險(xiǎn)能力,并讓中國(guó)在世界經(jīng)濟(jì)發(fā)展中的作用持續(xù)增強(qiáng),是共享經(jīng)濟(jì)下半場(chǎng)更深刻的使命。

    注釋

    ①④?chē)?guó)家信息中心.中國(guó)共享經(jīng)濟(jì)發(fā)展報(bào)告2020[EB/OL].https://www.100ec.cn/detail--6547821.html

    ②于鳳霞.加快推進(jìn)我國(guó)制造業(yè)產(chǎn)能共享.中國(guó)發(fā)展觀察[EB/OL].http://www.gkong.com/item/news/2019/07/97633.html

    ③一文看懂阿里巴巴人工智能產(chǎn)業(yè)布局[EB/OL].https://www.sohu.com/a/253271186_799090.

    ⑤王鶄峰,欒群.如何確保人工智能安全可靠可控?[EB/OL].https://www.ccidgroup.com/sdgc/11599.htm

    ⑥趙精武.人工智能安全的雙重規(guī)制體系[EB/OL].http://www.china.com.cn/opinion/think/2019-02/22/content_74493026.htm

    ⑦徐鳳.人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開(kāi)[EB/OL].https://www.thepaper.cn/newsDetail_forward_5197829

    猜你喜歡
    下半場(chǎng)人工智能算法
    出海:潮玩發(fā)展進(jìn)入下半場(chǎng)
    玩具世界(2022年1期)2022-06-05 07:42:18
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    進(jìn)位加法的兩種算法
    智能駕駛的下半場(chǎng)
    人工智能與就業(yè)
    共享單車(chē)下半場(chǎng)
    光伏電站下半場(chǎng)
    能源(2018年4期)2018-05-19 01:53:39
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    中文字幕熟女人妻在线| 十八禁网站免费在线| 最好的美女福利视频网| 最新美女视频免费是黄的| 欧美中文日本在线观看视频| 欧美绝顶高潮抽搐喷水| 可以在线观看毛片的网站| 亚洲男人的天堂狠狠| 国产麻豆成人av免费视频| 日日干狠狠操夜夜爽| 国产精品嫩草影院av在线观看 | 免费一级毛片在线播放高清视频| 国产精品乱码一区二三区的特点| 欧美日韩瑟瑟在线播放| 色噜噜av男人的天堂激情| 美女黄网站色视频| 麻豆国产97在线/欧美| 欧美一区二区亚洲| 嫁个100分男人电影在线观看| 亚洲久久久久久中文字幕| 夜夜躁狠狠躁天天躁| 窝窝影院91人妻| 精品国产亚洲在线| 色在线成人网| 国产精品精品国产色婷婷| 欧美成人一区二区免费高清观看| 夜夜夜夜夜久久久久| 国产伦精品一区二区三区四那| 成人一区二区视频在线观看| 成人精品一区二区免费| 窝窝影院91人妻| 制服人妻中文乱码| 久久精品亚洲精品国产色婷小说| 午夜福利在线观看免费完整高清在 | 国产一区二区亚洲精品在线观看| 69人妻影院| 国产一区二区亚洲精品在线观看| 亚洲国产色片| 法律面前人人平等表现在哪些方面| 中文字幕人妻熟人妻熟丝袜美 | 亚洲国产精品sss在线观看| 国产精品爽爽va在线观看网站| 夜夜爽天天搞| 国产 一区 欧美 日韩| 国产熟女xx| 在线十欧美十亚洲十日本专区| 国产三级在线视频| 五月玫瑰六月丁香| 偷拍熟女少妇极品色| 99热6这里只有精品| 在线观看免费午夜福利视频| 69av精品久久久久久| 免费搜索国产男女视频| 可以在线观看的亚洲视频| 三级毛片av免费| 国产淫片久久久久久久久 | 日韩欧美在线乱码| 99精品在免费线老司机午夜| 级片在线观看| 一卡2卡三卡四卡精品乱码亚洲| 成人av在线播放网站| 国产成人影院久久av| 男女视频在线观看网站免费| 国产精品 国内视频| 99在线视频只有这里精品首页| 欧美成狂野欧美在线观看| 欧美成人性av电影在线观看| 51午夜福利影视在线观看| 欧美性猛交黑人性爽| 亚洲精品国产精品久久久不卡| 搡老妇女老女人老熟妇| 天美传媒精品一区二区| 国产亚洲欧美在线一区二区| 亚洲av美国av| 国产欧美日韩一区二区三| 搡女人真爽免费视频火全软件 | 人妻久久中文字幕网| 美女 人体艺术 gogo| 亚洲成a人片在线一区二区| 99热6这里只有精品| 无人区码免费观看不卡| 色精品久久人妻99蜜桃| 禁无遮挡网站| 老鸭窝网址在线观看| 成人午夜高清在线视频| 一个人免费在线观看的高清视频| 久久久久久国产a免费观看| 97碰自拍视频| 精品国产亚洲在线| 色哟哟哟哟哟哟| 在线十欧美十亚洲十日本专区| 久久国产精品影院| 悠悠久久av| 精品电影一区二区在线| 精华霜和精华液先用哪个| 国产精品久久久人人做人人爽| 丰满人妻一区二区三区视频av | 色精品久久人妻99蜜桃| av女优亚洲男人天堂| 亚洲最大成人手机在线| 一本一本综合久久| 最近最新免费中文字幕在线| 少妇的丰满在线观看| 欧美丝袜亚洲另类 | 精品国产超薄肉色丝袜足j| 夜夜看夜夜爽夜夜摸| 国产高潮美女av| 亚洲av成人不卡在线观看播放网| 久久精品人妻少妇| 嫩草影视91久久| 国产高潮美女av| 好看av亚洲va欧美ⅴa在| 可以在线观看的亚洲视频| 男人和女人高潮做爰伦理| 男人的好看免费观看在线视频| 亚洲av第一区精品v没综合| 国产伦人伦偷精品视频| 黄色视频,在线免费观看| 国产亚洲精品久久久com| 免费看十八禁软件| 嫩草影院入口| 亚洲av一区综合| 99国产精品一区二区蜜桃av| 国产精品 国内视频| 亚洲五月婷婷丁香| 九九热线精品视视频播放| 国产一区二区在线av高清观看| 免费高清视频大片| 俄罗斯特黄特色一大片| 亚洲七黄色美女视频| 亚洲国产精品成人综合色| 一个人观看的视频www高清免费观看| 最近最新免费中文字幕在线| 熟女人妻精品中文字幕| 嫁个100分男人电影在线观看| 色精品久久人妻99蜜桃| 亚洲七黄色美女视频| 性色av乱码一区二区三区2| 欧美日韩乱码在线| 舔av片在线| 一二三四社区在线视频社区8| 美女免费视频网站| 亚洲精品日韩av片在线观看 | 少妇高潮的动态图| 最新美女视频免费是黄的| 一级黄片播放器| 天天躁日日操中文字幕| 亚洲性夜色夜夜综合| 97超视频在线观看视频| 精品久久久久久,| 欧美最新免费一区二区三区 | 欧美又色又爽又黄视频| 中文字幕av成人在线电影| 亚洲精品在线观看二区| 欧美日本亚洲视频在线播放| 精品久久久久久,| 91麻豆精品激情在线观看国产| 久久久久久久午夜电影| 可以在线观看的亚洲视频| 久久久久久久亚洲中文字幕 | netflix在线观看网站| 午夜福利18| 国产av不卡久久| 好男人在线观看高清免费视频| 99热精品在线国产| 国产精品久久久久久亚洲av鲁大| 90打野战视频偷拍视频| 亚洲男人的天堂狠狠| 色老头精品视频在线观看| 美女高潮喷水抽搐中文字幕| 免费观看的影片在线观看| 很黄的视频免费| 欧美日韩精品网址| 国产一区二区在线观看日韩 | 给我免费播放毛片高清在线观看| 久久久精品大字幕| 精品久久久久久,| 免费大片18禁| 久久久国产成人精品二区| 波野结衣二区三区在线 | 禁无遮挡网站| 免费观看精品视频网站| 日本熟妇午夜| 国产爱豆传媒在线观看| 黄色成人免费大全| 久久国产精品影院| ponron亚洲| 午夜福利18| 18禁国产床啪视频网站| 嫁个100分男人电影在线观看| 欧美一级毛片孕妇| 欧美精品啪啪一区二区三区| 免费高清视频大片| 亚洲欧美激情综合另类| 国内精品美女久久久久久| 日本精品一区二区三区蜜桃| 在线观看午夜福利视频| 成人永久免费在线观看视频| 精品国产三级普通话版| 一级黄片播放器| 色综合婷婷激情| 国产一级毛片七仙女欲春2| 岛国视频午夜一区免费看| 高清毛片免费观看视频网站| 欧美最黄视频在线播放免费| 亚洲 国产 在线| 99热只有精品国产| xxxwww97欧美| 特级一级黄色大片| 一级a爱片免费观看的视频| 日韩高清综合在线| 国产精品 欧美亚洲| 国产精品一区二区三区四区免费观看 | 亚洲av电影不卡..在线观看| a级毛片a级免费在线| 国产高清有码在线观看视频| 亚洲成人久久爱视频| 99热6这里只有精品| 亚洲国产精品久久男人天堂| 欧美成人免费av一区二区三区| av天堂在线播放| 精品人妻偷拍中文字幕| 国产av在哪里看| 嫩草影视91久久| 一区福利在线观看| 久久香蕉国产精品| 麻豆成人午夜福利视频| 国内久久婷婷六月综合欲色啪| 国产色婷婷99| 欧美乱码精品一区二区三区| 国产乱人伦免费视频| 欧美日韩国产亚洲二区| 国产黄片美女视频| 成人特级黄色片久久久久久久| 久久精品夜夜夜夜夜久久蜜豆| 午夜免费观看网址| 国产亚洲欧美在线一区二区| 久久亚洲真实| 熟女少妇亚洲综合色aaa.| 婷婷精品国产亚洲av| 国产乱人视频| 国产精品av视频在线免费观看| 女生性感内裤真人,穿戴方法视频| 亚洲无线在线观看| 90打野战视频偷拍视频| 俄罗斯特黄特色一大片| 男女视频在线观看网站免费| tocl精华| 亚洲男人的天堂狠狠| 午夜视频国产福利| 日韩国内少妇激情av| 99久久精品热视频| 少妇裸体淫交视频免费看高清| 亚洲国产欧美人成| 国产精品女同一区二区软件 | 免费电影在线观看免费观看| 亚洲国产欧美人成| 淫秽高清视频在线观看| 亚洲国产色片| 亚洲精品456在线播放app | av片东京热男人的天堂| 亚洲成av人片在线播放无| 动漫黄色视频在线观看| 亚洲五月天丁香| 久久国产精品人妻蜜桃| 在线视频色国产色| 午夜精品在线福利| 一区二区三区国产精品乱码| 丰满的人妻完整版| 天美传媒精品一区二区| 国产麻豆成人av免费视频| 午夜日韩欧美国产| 亚洲精品一卡2卡三卡4卡5卡| 老熟妇乱子伦视频在线观看| 9191精品国产免费久久| 日韩国内少妇激情av| 欧美一区二区精品小视频在线| 久久精品夜夜夜夜夜久久蜜豆| 国产精品综合久久久久久久免费| 成人永久免费在线观看视频| 一级作爱视频免费观看| 日本一本二区三区精品| 国产极品精品免费视频能看的| 99久久九九国产精品国产免费| 日韩精品中文字幕看吧| 久久久久久九九精品二区国产| 麻豆国产97在线/欧美| 99精品欧美一区二区三区四区| 老汉色av国产亚洲站长工具| 久久久成人免费电影| 欧美黄色片欧美黄色片| 亚洲黑人精品在线| 久久人妻av系列| 宅男免费午夜| 精品免费久久久久久久清纯| 狂野欧美白嫩少妇大欣赏| 欧美中文综合在线视频| 久久国产精品人妻蜜桃| 欧美xxxx黑人xx丫x性爽| 亚洲成人久久爱视频| 网址你懂的国产日韩在线| 一进一出好大好爽视频| 一边摸一边抽搐一进一小说| 国产成人啪精品午夜网站| 欧美激情久久久久久爽电影| 亚洲激情在线av| 女人十人毛片免费观看3o分钟| 亚洲欧美激情综合另类| 天堂影院成人在线观看| 亚洲精品亚洲一区二区| 久久久精品欧美日韩精品| 久99久视频精品免费| 老熟妇乱子伦视频在线观看| eeuss影院久久| 男女之事视频高清在线观看| 欧美一级a爱片免费观看看| 亚洲人成网站在线播放欧美日韩| 高清日韩中文字幕在线| 夜夜爽天天搞| 午夜视频国产福利| 两个人的视频大全免费| 亚洲真实伦在线观看| 久久久久久久午夜电影| 日韩 欧美 亚洲 中文字幕| 国产亚洲精品久久久久久毛片| 最好的美女福利视频网| 亚洲无线在线观看| 日本免费a在线| 操出白浆在线播放| 又黄又粗又硬又大视频| 全区人妻精品视频| 久久亚洲精品不卡| 麻豆国产97在线/欧美| 午夜精品久久久久久毛片777| 精品久久久久久久人妻蜜臀av| 在线观看av片永久免费下载| 国产一区二区三区在线臀色熟女| 国产美女午夜福利| 久久精品91蜜桃| 精品国产三级普通话版| 欧美另类亚洲清纯唯美| 神马国产精品三级电影在线观看| 一级作爱视频免费观看| 精品久久久久久久人妻蜜臀av| 男女下面进入的视频免费午夜| 欧美中文日本在线观看视频| 日韩中文字幕欧美一区二区| 亚洲七黄色美女视频| 内射极品少妇av片p| 欧美午夜高清在线| 午夜福利视频1000在线观看| 国产探花极品一区二区| 色综合亚洲欧美另类图片| 日本三级黄在线观看| 欧美+亚洲+日韩+国产| 亚洲五月婷婷丁香| 老熟妇乱子伦视频在线观看| 99热只有精品国产| 国产探花在线观看一区二区| 久久婷婷人人爽人人干人人爱| 午夜福利成人在线免费观看| 日本免费一区二区三区高清不卡| 国产欧美日韩一区二区精品| 国产毛片a区久久久久| 偷拍熟女少妇极品色| 亚洲欧美日韩高清在线视频| 亚洲av成人av| 国产精品久久电影中文字幕| 国产精品av视频在线免费观看| 在线免费观看不下载黄p国产 | 美女 人体艺术 gogo| 亚洲欧美日韩东京热| 亚洲一区二区三区色噜噜| 亚洲成av人片在线播放无| 亚洲精品亚洲一区二区| 偷拍熟女少妇极品色| bbb黄色大片| 黑人欧美特级aaaaaa片| 亚洲真实伦在线观看| 一个人免费在线观看的高清视频| 别揉我奶头~嗯~啊~动态视频| 高潮久久久久久久久久久不卡| 少妇人妻一区二区三区视频| 岛国在线免费视频观看| 首页视频小说图片口味搜索| 午夜日韩欧美国产| 美女高潮喷水抽搐中文字幕| 一级作爱视频免费观看| 国产日本99.免费观看| 亚洲国产日韩欧美精品在线观看 | 免费在线观看影片大全网站| av国产免费在线观看| 天堂√8在线中文| 嫩草影院入口| 午夜激情福利司机影院| 亚洲国产精品合色在线| 久久国产乱子伦精品免费另类| 亚洲自拍偷在线| 久久精品夜夜夜夜夜久久蜜豆| 午夜免费激情av| 看免费av毛片| 亚洲专区国产一区二区| 久久99热这里只有精品18| 欧美激情在线99| 91麻豆av在线| 色尼玛亚洲综合影院| 小说图片视频综合网站| 免费av毛片视频| 久久久国产成人免费| 天堂网av新在线| 日韩欧美在线乱码| 欧美三级亚洲精品| 国内揄拍国产精品人妻在线| 亚洲国产精品成人综合色| 国产综合懂色| 身体一侧抽搐| 国产不卡一卡二| 精品无人区乱码1区二区| 中文字幕av在线有码专区| 97超视频在线观看视频| 国产成人aa在线观看| 99视频精品全部免费 在线| 久久久久久久精品吃奶| 国语自产精品视频在线第100页| 黄色视频,在线免费观看| 韩国av一区二区三区四区| 19禁男女啪啪无遮挡网站| 成人无遮挡网站| 午夜两性在线视频| 丝袜美腿在线中文| 欧美区成人在线视频| 18禁在线播放成人免费| 午夜福利成人在线免费观看| 国产野战对白在线观看| 中文字幕精品亚洲无线码一区| 精品国产亚洲在线| 日本免费a在线| 国语自产精品视频在线第100页| 香蕉丝袜av| www日本在线高清视频| 国产国拍精品亚洲av在线观看 | 一级黄色大片毛片| 一个人免费在线观看电影| 精品福利观看| 国产伦人伦偷精品视频| av福利片在线观看| 18禁美女被吸乳视频| 欧美最新免费一区二区三区 | 亚洲精华国产精华精| 97人妻精品一区二区三区麻豆| 亚洲av熟女| 天堂影院成人在线观看| 国产爱豆传媒在线观看| 偷拍熟女少妇极品色| 国模一区二区三区四区视频| 内地一区二区视频在线| 午夜福利高清视频| 免费电影在线观看免费观看| 美女 人体艺术 gogo| 午夜视频国产福利| 男人舔奶头视频| 国产精品 国内视频| 99精品在免费线老司机午夜| 国产精品免费一区二区三区在线| 亚洲国产色片| 一级毛片高清免费大全| 丁香欧美五月| 亚洲无线在线观看| 久久久精品大字幕| 亚洲真实伦在线观看| 男女视频在线观看网站免费| 亚洲久久久久久中文字幕| 在线观看免费视频日本深夜| 丰满人妻一区二区三区视频av | 偷拍熟女少妇极品色| 内地一区二区视频在线| 麻豆久久精品国产亚洲av| 一本久久中文字幕| 此物有八面人人有两片| 国内精品久久久久久久电影| 一级a爱片免费观看的视频| 首页视频小说图片口味搜索| 国产野战对白在线观看| 级片在线观看| 久久久成人免费电影| 日日夜夜操网爽| 中文字幕人妻丝袜一区二区| 看片在线看免费视频| 亚洲精品国产精品久久久不卡| www国产在线视频色| 久久精品国产清高在天天线| 精品99又大又爽又粗少妇毛片 | 操出白浆在线播放| 我的老师免费观看完整版| 国产日本99.免费观看| 精品人妻1区二区| 在线观看日韩欧美| 午夜福利欧美成人| 中出人妻视频一区二区| 五月玫瑰六月丁香| 久久伊人香网站| 伊人久久大香线蕉亚洲五| av视频在线观看入口| 黑人欧美特级aaaaaa片| 亚洲自拍偷在线| 国产亚洲精品久久久com| 999久久久精品免费观看国产| 舔av片在线| 久久国产精品人妻蜜桃| 一区福利在线观看| 国产麻豆成人av免费视频| 婷婷精品国产亚洲av| 母亲3免费完整高清在线观看| 日日夜夜操网爽| av国产免费在线观看| 精品熟女少妇八av免费久了| 国产在线精品亚洲第一网站| 久久久成人免费电影| 亚洲成a人片在线一区二区| 黄色日韩在线| 欧美在线一区亚洲| 日日摸夜夜添夜夜添小说| 男女下面进入的视频免费午夜| 婷婷丁香在线五月| 欧美一区二区精品小视频在线| 69av精品久久久久久| 国产欧美日韩精品一区二区| 女人十人毛片免费观看3o分钟| 欧美激情久久久久久爽电影| 久久性视频一级片| 午夜福利在线观看免费完整高清在 | xxxwww97欧美| 久久人人精品亚洲av| 久久亚洲真实| 波多野结衣高清无吗| 午夜精品久久久久久毛片777| 国产一区在线观看成人免费| 国产精品久久电影中文字幕| 久久久国产精品麻豆| 天堂av国产一区二区熟女人妻| 男女视频在线观看网站免费| 一级黄色大片毛片| 成年免费大片在线观看| 久久国产乱子伦精品免费另类| 成熟少妇高潮喷水视频| 大型黄色视频在线免费观看| 91在线精品国自产拍蜜月 | 国产精品香港三级国产av潘金莲| 国产精品嫩草影院av在线观看 | 9191精品国产免费久久| 午夜免费观看网址| 亚洲av成人精品一区久久| 他把我摸到了高潮在线观看| 国产 一区 欧美 日韩| 久久婷婷人人爽人人干人人爱| 日韩欧美在线乱码| 免费看美女性在线毛片视频| 熟女电影av网| 日韩亚洲欧美综合| 美女免费视频网站| 国产av一区在线观看免费| 丁香欧美五月| 国产欧美日韩精品一区二区| or卡值多少钱| 亚洲 欧美 日韩 在线 免费| 99久国产av精品| 十八禁网站免费在线| 国产毛片a区久久久久| 亚洲人与动物交配视频| 国产欧美日韩一区二区三| 香蕉久久夜色| 久久久国产成人免费| 精品国产三级普通话版| 亚洲午夜理论影院| 亚洲成av人片免费观看| 亚洲精品日韩av片在线观看 | 国产一区二区在线观看日韩 | 亚洲18禁久久av| 伊人久久精品亚洲午夜| 麻豆成人午夜福利视频| 久久精品国产亚洲av香蕉五月| 久久精品国产综合久久久| 亚洲成av人片免费观看| 国产精品香港三级国产av潘金莲| 人人妻人人看人人澡| 男插女下体视频免费在线播放| 美女免费视频网站| 一级毛片高清免费大全| 黄片大片在线免费观看| 国产一区二区在线观看日韩 | 一二三四社区在线视频社区8| 成年版毛片免费区| aaaaa片日本免费| 欧美黑人欧美精品刺激| 在线十欧美十亚洲十日本专区| 精品熟女少妇八av免费久了| 神马国产精品三级电影在线观看| 亚洲人成网站高清观看| 岛国在线免费视频观看| 在线天堂最新版资源| 亚洲精品456在线播放app | 国产精品 欧美亚洲| 天天添夜夜摸| 亚洲人成网站在线播| 欧美性猛交黑人性爽| 国产激情偷乱视频一区二区| 午夜福利在线观看吧| 日韩中文字幕欧美一区二区| 人妻久久中文字幕网| 久久精品国产清高在天天线| 在线十欧美十亚洲十日本专区| 欧美zozozo另类| 波多野结衣高清无吗| av片东京热男人的天堂| 在线天堂最新版资源|