• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    《民法典》時代商用人工智能法律地位的商法構(gòu)設(shè)

    2023-01-04 13:27:44丁鳳玲
    關(guān)鍵詞:商法商用客體

    丁鳳玲

    (福州大學(xué) 法學(xué)院,福州 350116)

    作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,人工智能產(chǎn)業(yè)成為國際競爭的新焦點。習(xí)近平總書記指出:“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有溢出帶動性很強的‘頭雁’效應(yīng)?!?1)《習(xí)近平在中共中央政治局第九次集體學(xué)習(xí)時強調(diào) 加強領(lǐng)導(dǎo)做好規(guī)劃 明確任務(wù)夯實基礎(chǔ) 推動我國新一代人工智能健康發(fā)展》,https:/ /baijiahao.baidu.com/s? id=1615844644366106747&wfr=spider&for=pc,最后訪問時間:2022 年1 月4 日。《中共中央關(guān)于制定國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和二〇三五年遠(yuǎn)景目標(biāo)的建議》(以下簡稱“十四五”規(guī)劃)以推動高質(zhì)量發(fā)展為主題,全文6 次提及“人工智能”,56 處有涉及 “智能”與“智慧”的相關(guān)表述。習(xí)近平總書記的重要論述和“十四五”規(guī)劃指明人工智能產(chǎn)業(yè)是中國當(dāng)前和今后高質(zhì)量發(fā)展的重要引擎。人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展涉及方方面面,其中法律制度是重要的支撐。中共中央2021 年印發(fā)的《法治中國建設(shè)規(guī)劃(2020-2025年)》指出,中國要加強信息技術(shù)領(lǐng)域立法,及時跟進人工智能等相關(guān)法律制度,抓緊補齊短板。黨的十九屆六中全會通過的《中共中央關(guān)于黨的百年奮斗重大成就和歷史經(jīng)驗的決議》(以下簡稱《決議》)用“十個明確”進一步概括了習(xí)近平新時代中國特色社會主義思想的核心內(nèi)容,《決議》指出建設(shè)中國特色社會主義法治體系、建設(shè)社會主義法治國家是全面推進依法治國的總目標(biāo)。人工智能法律制度是中國特色社會主義法治體系的有機組成部分,隨著全面依法治國進程的深入,以及人工智能高質(zhì)量發(fā)展的推進,人工智能的法律問題將無法回避,其中最為核心且基礎(chǔ)的問題當(dāng)屬人工智能的法律地位問題。

    已經(jīng)頒布實施的《中華人民共和國民法典》(以下簡稱《民法典》)并沒有直接提到“人工智能”,不過,作為理論研究熱點,人工智能的法律地位問題在民法規(guī)則體系下被廣泛討論?!睹穹ǖ洹繁徽J(rèn)為是市場經(jīng)濟的基本法,但是受限于“倫理性、民族性與人文性”(2)參見趙萬一:《后民法典時代商法獨立性的理論證成及其在中國的實現(xiàn)》,《法律科學(xué)》2021 年第2 期。等根本屬性,《民法典》并未建構(gòu)出滿足社會需求的商法體系(3)參見范健:《中國〈民法典〉頒行后的民商關(guān)系思考》,《政法論壇》2021 年第2 期。,因此,商法學(xué)者廣泛呼吁制定一部能夠統(tǒng)攝商法規(guī)范、彌補商事基本法缺位的“商法通則”。在中國商法學(xué)研究會的推動下該建議得到了有關(guān)部門的重視,且開始付諸立法行動。(4)參見李建偉:《后〈民法典〉時代商法基本原則的再厘定》,《學(xué)術(shù)論壇》2021 年第3 期。人工智能在商業(yè)領(lǐng)域的應(yīng)用獨具特色,AI 董事能夠參與公司治理,動態(tài)定價算法能夠決定商品價格,無人駕駛出租車、智能投顧能夠成為公司員工對外提供服務(wù),如今具有人的外觀、行為與思想的“虛擬數(shù)字人”(5)參見中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟總體組和中關(guān)村數(shù)智人工智能產(chǎn)業(yè)聯(lián)盟數(shù)字人工作委員會:《2020 年虛擬數(shù)字人發(fā)展白皮書》,http:/ /aiiaorg.cn/uploadfile/2020/1209/20201209022415828.pdf,最后訪問時間:2022 年1 月4 日。(“虛擬員工”)更是能夠直接為企業(yè)帶來收益。對于這類人工智能,在商法規(guī)則體系下,“商法通則”應(yīng)當(dāng)如何安排其法律地位是本文討論的問題。

    一、從“一刀切”到“類型化”:商用人工智能的提出

    盡管區(qū)分人工智能在不同領(lǐng)域的應(yīng)用并作專門研究尚未得到理論界的廣泛重視,但是實踐已經(jīng)在強調(diào)并區(qū)分人工智能在不同行業(yè)的應(yīng)用。在2020 年國家五部門印發(fā)的《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》中,區(qū)分行業(yè)應(yīng)用就是建立人工智能標(biāo)準(zhǔn)體系結(jié)構(gòu)的建設(shè)思路之一?!吧逃萌斯ぶ悄堋闭腔趨^(qū)分應(yīng)用領(lǐng)域而提出的概念。在概念歸屬上,商用人工智能是人工智能的下位概念,所以厘清商用人工智能內(nèi)涵的前提是明晰人工智能的含義。

    (一)人工智能是具有自主性的非自然實體

    目前尚未有關(guān)于人工智能統(tǒng)一的、被廣泛接受的、準(zhǔn)確的定義。(6)參見莫里茨·亨內(nèi)曼:《人工智能對競爭法的挑戰(zhàn)》,彭誠信主編:《人工智能與法律的對話》,上海:上海人民出版社,2020年,第414 頁。比較具有代表性的定義當(dāng)屬計算機科學(xué)家斯圖爾特·羅素(Stuart Russell)和皮特·諾維格(Peter Norvig)在其著作《人工智能:一種現(xiàn)代的方法》中所提出的“兩維度四途徑八定義”。(7)參見斯圖爾特·羅素、皮特·諾維格:《人工智能:一種現(xiàn)代的方法》,北京:清華大學(xué)出版社,2013 年,第3 頁。兩大維度將人工智能的定義分為關(guān)注思維與關(guān)注行為;四種途徑將人工智能的定義分為關(guān)注“像人一樣思考” “合理地思考” “像人一樣行動” “合理地行動”;八種定義則是列舉了八種代表性學(xué)者的觀點。在計算機科學(xué)中,不同的定義代表的是不同的人工智能研究方向。美國2017 年的《人工智能未來法案》在詮釋人工智能概念時,就將計算機科學(xué)的不同研究方向全都列入了人工智能范疇(8)參見FUTURE of Artificial Intelligence Act of 2017,SEC.3,H.R.4625,115th Congress 1st Session,December 12,2017.,該做法值得肯定。所有旨在實現(xiàn)人工智能的計算機科學(xué)研究方向都應(yīng)當(dāng)是法學(xué)的研究對象。因此,人工智能的法學(xué)概念可以寬泛地表述為像人一樣思考或行動,或合理地思考或行動。

    更詳細(xì)地,如果將“人工智能”分解為“人工”和“智能”兩個詞語,那么“人工”所指向的就是人造性,即合成的東西、自然界中不存在的實體。(9)參見Jacob Turner,Robot Rule: Regulating Artificial Intelligence,New York: Palgrave Macmillan,2019,p.7.當(dāng)然,這里的實體并不限于有體物,計算機軟件也包括在內(nèi)?!爸悄堋睉?yīng)當(dāng)是“自主性”(autonomous)(10)參見劉艷紅:《人工智能法學(xué)研究的反智化批判》,《東方法學(xué)》2019 年第5 期;Rex Martinez,“Artificial Intelligence: Distinguishing between Types &Definitions,”Nevada Law Journal,19(3),2019,p.1026.,這點法學(xué)家們已達(dá)成共識。自主性指的是無人為干預(yù),能夠在不可預(yù)知的、多變的環(huán)境中實時決策從而完成某些既定的任務(wù)。(11)參見柯蒂斯·E·A·卡諾:《運用傳統(tǒng)侵權(quán)法理論“迎接”機器人智能》,彭誠信主編:《人工智能與法律的對話》,上海:上海人民出版社,2018 年,第58 頁。因此,“人工智能”指的應(yīng)當(dāng)是能夠自主在環(huán)境中獲取信息、自我學(xué)習(xí)和積累經(jīng)驗并做出行動的非自然實體。

    (二)商用人工智能是以營利為目的、在營業(yè)中應(yīng)用的人工智能

    依據(jù)應(yīng)用領(lǐng)域的不同,人工智能可以分為公用人工智能和私用人工智能。公用人工智能是人工智能在公共領(lǐng)域的利用,智能政務(wù)、智慧城市、智能法庭、機器人審訊員、無人駕駛軍用飛機、智能醫(yī)療,等等,都屬于公用人工智能。私用人工智能是人工智能在私人領(lǐng)域的利用,該領(lǐng)域可以進一步劃分為民用(或者說消費用、家用)人工智能與商用人工智能。民用人工智能是在個人或家庭中使用的人工智能,這類人工智能是為了改善個人的生活狀況,例如照顧老人和小孩、幫助安排私人生活行程等(12)參見劉洪華:《人工智能法律主體資格的否定及其法律規(guī)制構(gòu)想》,《北方法學(xué)》2019 年第4 期。,數(shù)字管家、無人駕駛汽車屬于民用人工智能。商用人工智能是在商事營業(yè)中使用的人工智能,AI 董事、無人駕駛出租車、智能投顧、動態(tài)定價算法、定向廣告算法、“虛擬員工”(13)例如華為的“云笙”、湖南衛(wèi)視主持人“小漾”、樂華娛樂和字節(jié)跳動的“A-SOUL”女團等。等都屬于商用人工智能。是否由商事主體使用或控制可以作為商用人工智能的初步識別標(biāo)準(zhǔn),但真正鎖定商用人工智能的要素應(yīng)當(dāng)是營業(yè)。終端使用者是否為個人并不影響商用人工智能的認(rèn)定,關(guān)鍵在于人工智能是否屬于商事主體在營業(yè)中的運用,即“以營利為目的而進行的連續(xù)的、有計劃的、同種類的活動”(14)謝懷栻:《外國民商法精要》,北京:法律出版社,2014 年,第257 頁。。無人駕駛出租車是消費者在使用,但如果商事主體不經(jīng)營無人駕駛出租車業(yè)務(wù),那么消費者將無法使用出租車。

    (三)商用人工智能特別規(guī)制之必要

    提出商用人工智能的意義有三個方面。第一,對社會而言,遵循商業(yè)倫理觀的商用人工智能以營利至上,為避免社會動蕩,必須特別規(guī)制。斯坦福大學(xué)發(fā)布的《2021 年AI 指數(shù)報告》第三章“經(jīng)濟”指出公司較少關(guān)注商用人工智能的平等和公平問題,且與2019 年相比,2020 年公司對商用人工智能所涉及的平等和公平問題的關(guān)注度還有所下降,采取措施應(yīng)對商用人工智能可能存在的平等與公平問題的公司只有不到15%。(15)參見Stanford University Human-Centered Artificial Intelligence,The AI Index Report:Measuring Trends in Artificial Intelligence,https:/ /aiindex.stanford.edu/wp-content/uploads/2021/03/2021-AI-Index-Report-_Chapter-3.pdf,Dec.28,2021.美國數(shù)學(xué)家凱西·奧尼爾在《算法霸權(quán)》一書中也指出,企業(yè)的定向廣告算法使窮人被壓榨,富人被圈養(yǎng)在企業(yè)通過營銷廣告塑造的世界里。(16)參見凱西·奧尼爾:《算法霸權(quán):數(shù)學(xué)殺傷性武器的威脅》,北京:中信出版社,2018 年,第86-87、234 頁。因此,如果放任營利至上的商用人工智能恣意發(fā)展,可能引發(fā)社會倒退。民用人工智能以改善生活為目的,公用人工智能以維護公共利益為目的,這兩類人工智能的目的對人工智能的自主行為作出了根本限制,一般情況下不會引發(fā)社會動蕩與道德墮落。所以,有必要對商用人工智能進行專門研究并規(guī)制。

    第二,對個人而言,商用人工智能強化了平等主體之間的不平等地位,使私權(quán)力向少數(shù)商主體集中。民法講究平等性,私主體之間不存在私權(quán)力而是平等的私權(quán)利,至于公權(quán)力則來自于人民的授權(quán)也符合憲法規(guī)定,只有私權(quán)力是商事實踐衍生的新興事物。肖沙娜·朱伯夫(Shoshana Zuboff)提出的監(jiān)視資本主義理論警示我們,擁有商用人工智能的企業(yè)能夠單方面控制并塑造個體用戶的行為乃至意志,用戶的自決空間正在被逐漸剝奪,企業(yè)私權(quán)力日漸增長。(17)參見丁鳳玲:《個人數(shù)據(jù)治理模式的選擇:個人、國家還是集體》,《華中科技大學(xué)學(xué)報(社會科學(xué)版)》2021 年第1 期。所以,區(qū)分商用人工智能與民用、公用人工智能在人工智能時代具有重要的理論與現(xiàn)實意義。

    第三,對市場而言,商用人工智能具有危害公平與自由競爭市場的可能性。民用人工智能應(yīng)用于生活,公用人工智能應(yīng)用于公共事業(yè),都不涉及市場競爭。商用人工智能中的AI 董事可能提前預(yù)測目標(biāo)公司的財務(wù)危機而觸及“內(nèi)幕交易”(18)參見凱倫·楊、馬丁·洛奇:《馴服算法:數(shù)字歧視與算法規(guī)制》,上海:上海人民出版社,2020 年,第257 頁。,動態(tài)定價算法可能實行差別定價或達(dá)成默示共謀而產(chǎn)生壟斷效應(yīng)(19)參見周圍:《算法共謀的反壟斷法規(guī)制》,《法學(xué)》2020 年第1 期。,智能投顧可能因信息披露與風(fēng)險測評不充分而引發(fā)市場波動。(20)參見郭靂:《智能投顧開展的制度去障與法律助推》,《政法論壇》2019 年第3 期。因此,商用人工智能對市場秩序具有潛在破壞性,對其進行專門研究是維護市場穩(wěn)定的需要。

    總而言之,以營利為目的而應(yīng)用于商事營業(yè)的人工智能,具有引發(fā)社會動蕩、加劇不平等地位、危害市場秩序等負(fù)面影響,研究如何界定其法律地位并構(gòu)建體系化的法律規(guī)則,對全面推進依法治國,建設(shè)中國特色社會主義法治體系具有重要意義。

    二、主體與客體的兼容:商用人工智能法律地位的商法解釋

    確立商用人工智能的法律地位與法律規(guī)則應(yīng)當(dāng)淵源于商法理論,遵循商法理念與思維。但是民法與商法同屬私法,所以基于民法思維而提出的人工智能法律地位理論同樣值得比較分析。

    (一)民法體系下人工智能法律地位的四種對立觀點

    近代民法的偉大貢獻(xiàn)莫過于確立了“人生而平等”的原則,傳統(tǒng)法學(xué)理論將某一事物分為兩類,即主體與客體,某一事物要么是積極的法律主體,具有權(quán)利和義務(wù);要么是被動的從屬對象(21)參見揚-埃里克·施默:《人工智能與法律人格:“部分權(quán)利能力”的引入——德國法上的“部分法律地位”》,彭誠信主編:《人工智能與法律的對話》,上海:上海人民出版社,2020 年,第146 頁。,不可能同時是主體又是客體。除了人與物,并沒有其他的物質(zhì)表現(xiàn)形式。(22)參見楊立新:《論智能機器人的民法地位及其致人損害的民事責(zé)任》,《人工智能法學(xué)研究》2018 年第2 期。受主客體絕對二元劃分思想的影響,學(xué)者的理論綜述普遍將人工智能法律地位的成果分為主體說和客體說。其實不然,除了主體說和客體說,還有人工智能不是主體也不是客體的立場,以及人工智能可以是主體也可以是客體的觀點,總共四大立場。

    主體說與客體說之間的爭議集中在五個方面。第一,人工智能是否具備法律主體要素。第二,賦予人工智能法律主體地位是否會導(dǎo)致人文主義危機。第三,賦予人工智能法律主體地位是否具有社會價值和經(jīng)濟價值。第四,賦予人工智能法律主體地位是否能夠應(yīng)對法律挑戰(zhàn)。第五,賦予人工智能法律主體地位是否符合法學(xué)理論與法律規(guī)定。兩大立場從民法基礎(chǔ)理論出發(fā),各有理據(jù)卻也各有缺陷,無法互相說服。

    認(rèn)為人工智能不是主體也不是客體的觀點突破了傳統(tǒng)民法理論,提出了“中間法律地位”之說。美國學(xué)者瑞恩·卡洛(Ryan Calo)主張應(yīng)當(dāng)將具有社會期望值(social valence)的技術(shù)界定為人與物之外的第三種類別。(23)參見Ryan Calo,“Robotics and the Lessons of Cyberlaw,”California Law Review,103,2015,p.553.杰克·巴爾金(Jack Balkin)予以肯定,他主張人們對機器人的認(rèn)識是不穩(wěn)定的,應(yīng)當(dāng)將人工智能規(guī)定為不是人也不是物的新類別。(24)參見Jack Balkin,“The Path of Robotics Law,”中國學(xué)者易繼明也指出人工智

    CaliforniaLawReview,6,2015,p.57.能不是人,也不是物。(25)參見易繼明:《人工智能創(chuàng)作物是作品嗎?》,《法律科學(xué)》2017 年第5 期。上述觀點雖然突破了民法的主客體二元劃分論,但是上述學(xué)者并沒有就“中間法律地位”理論展開進一步論述,因此該理論目前仍然較為模糊。(26)參見揚-埃里克·施默:《人工智能與法律人格:“部分權(quán)利能力”的引入——德國法上的“部分法律地位”》,第145-146 頁。

    主張人工智能是主體也是客體的代表性成果是俄羅斯的《格里申法案》,該法案是專家建議稿。該法案主張賦予機器人特殊民事主體地位,登記后的機器人可以獨立享有權(quán)利和承擔(dān)義務(wù),但是在機器人屬于高度危險來源時,除機器人本身是法律關(guān)系主體外,機器人被視為財產(chǎn),其行為責(zé)任由機器人所有人或占有人承擔(dān)。(27)參見張建文:《格里申法案的貢獻(xiàn)與局限——俄羅斯首部機器人法草案評述》,《華東政法大學(xué)學(xué)報》2018 年第2 期。該法案將機器人歸為法人,借鑒法人規(guī)則分配機器人及其所有人或占有人之間的法律責(zé)任,表面上是遵循了民法理論,實則是借鑒了商法規(guī)則。主體能夠在例外情形下成為客體,是商法領(lǐng)域獨有的規(guī)則。應(yīng)當(dāng)認(rèn)為依據(jù)商法理論,商用人工智能就是兼具主體與客體屬性的法律存在。

    (二)商法理論中兼具主體性與客體性的企業(yè)

    在商法框架下,主張商用人工智能兼具主體性與客體性是具有理論與立法淵源的,企業(yè)就是具有雙重屬性的法律存在。(28)參見Jacob Turner,Robot Rule: Regulating Artificial Intelligence,p.202.在中國,企業(yè)的雙重屬性是從實然層面理解的。在中國的法律語境下,企業(yè)通常從主體角度理解。(29)參見葉林:《企業(yè)的商法意義及“企業(yè)進入商法”的新趨勢》,《中國法學(xué)》2012 年第4 期?!吨腥A人民共和國公司法》《中華人民共和國合伙企業(yè)法》等都從主體的角度對企業(yè)作出規(guī)定。但是中國也有從客體角度理解企業(yè)的規(guī)則。(30)參見蔣大興:《商人,抑或企業(yè)? ——制定〈商法通則〉的前提性疑問》,《清華法學(xué)》2008 年第4 期?!镀髽I(yè)名稱登記管理規(guī)定》第23 條規(guī)定“企業(yè)名稱可以隨企業(yè)或企業(yè)的一部分一并轉(zhuǎn)讓”;最高人民法院《關(guān)于審理與企業(yè)改制相關(guān)的民事糾紛案件若干問題的規(guī)定》第1 條規(guī)定的“企業(yè)出售合同糾紛”,第17-29條規(guī)定的“國有小型企業(yè)出售”(31)參見蔣大興:《營業(yè)轉(zhuǎn)讓的規(guī)制模型:直接規(guī)制與功能等值》,《清華法學(xué)》2015 年第5 期。,都是從客體角度理解企業(yè),將企業(yè)視為轉(zhuǎn)讓、交換的客體。

    從主體角度理解企業(yè),認(rèn)為企業(yè)是具有一定組織形式而依法成立的,以營利為目的,獨立從事生產(chǎn)經(jīng)營和服務(wù)性活動,具有獨立法律主體地位的經(jīng)濟組織。(32)參見范健、王建文:《公司法》,北京:法律出版社,2018 年,第3 頁。從客體角度理解企業(yè),是將企業(yè)視為一個概括的資產(chǎn),一個財產(chǎn)的有機組合體。雖然中國不像域外國家有客體企業(yè)的法律定義,但是中國也確實存在客體企業(yè)的法律規(guī)則。有學(xué)者明確指出我們既要把企業(yè)作為法律上的主體,也要把企業(yè)作為法律上的客體,企業(yè)是一項概括的資產(chǎn),是財產(chǎn)權(quán)的客體。(33)參見史際春:《財產(chǎn)權(quán)觀念應(yīng)跟上“修憲”步伐》,《檢察日報》2004 年6 月10 日。

    民法強調(diào)主體與客體絕對二元劃分,在民法語境下人是絕對不可以成為物的,《民法典》也沒有規(guī)定客體意義上的企業(yè),所以企業(yè)既可以作為主體又可以成為客體是商法特有的規(guī)則,無法被《民法典》兼容。不過,由于我們國家沒有營業(yè)轉(zhuǎn)讓規(guī)則,也就是沒有企業(yè)自己轉(zhuǎn)讓自己的規(guī)則,而是以股權(quán)轉(zhuǎn)讓與企業(yè)重大資產(chǎn)轉(zhuǎn)讓等作為功能等值替代制度,所以具有雙重屬性的企業(yè)通常指的是企業(yè)可以在此法律關(guān)系中是法律主體,在彼法律關(guān)系中是法律客體。

    (三)商用人工智能應(yīng)當(dāng)具有雙重屬性

    1.商用人工智能可以具有主體屬性

    當(dāng)然,企業(yè)具有雙重屬性并不能直接證成商用人工智能也具有雙重屬性,只有同時滿足法律主體與法律客體的判斷標(biāo)準(zhǔn),商用人工智能才能兼具主體性與客體性。

    就法律主體判斷標(biāo)準(zhǔn)而言,考察商事主體的演進史,我們可以發(fā)現(xiàn),在奴隸社會與封建社會,屬于特權(quán)階級的商人才是主體,經(jīng)商的奴隸(34)參見朱錦清:《公司法學(xué)》上,北京:清華大學(xué)出版社,2017 年,第7 頁。是人但不是主體;在個人主義的資產(chǎn)階級革命時期,所有主體都是人,作為組織體的企業(yè)被視為“擬制人”;在團體主義的工業(yè)革命時期,自然人、法人和非法人組織都是主體,其中,作為團體的法人和非法人組織因為是具有社會價值的社會存在(35)參見梁慧星:《民法總論》,北京:法律出版社,2015 年,第120 頁。而成為獨立的主體。也就是說法律主體的范圍依據(jù)社會背景而變動,成為法律主體的關(guān)鍵在于在特定社會背景下成為有價值的社會存在。

    社會時代的背景是決定某一實體能不能被賦予法律主體地位的首要判斷因素。商用人工智能當(dāng)前所處的社會背景是人工智能成為經(jīng)濟發(fā)展新動能,是新一輪科技革命與產(chǎn)業(yè)革命重要驅(qū)動力量的時代。人工智能正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。就社會存在而言,商用人工智能能夠成為替代人類的決策者。企業(yè)為商用人工智能設(shè)置目標(biāo)或用途后將其投入使用,獨立運營的商用人工智能或是通過企業(yè)收集的數(shù)據(jù)或是自己收集數(shù)據(jù)進而獨立與用戶交互。在這過程中,具有自主性的商用人工智能弱化了企業(yè)與用戶的“決策人”角色,擁有了實際的決策地位。(36)參見Georgios I.Zekos,Economics and Law of Artificial Intelligence,Berlin: Springer,2021,p.363.在動態(tài)定價算法中,商用人工智能自主設(shè)定價格,決策權(quán)從企業(yè)轉(zhuǎn)移到商用人工智能;在無人駕駛出租車中,商用人工智能自主決定駕駛路線,決策權(quán)從用戶轉(zhuǎn)移到商用人工智能。就社會價值而言,商用人工智能所具有的決策角色使其成為社會生活的參與者,具有實用的社會價值。商用人工智能的決策為企業(yè)帶來了利潤,甚至讓企業(yè)產(chǎn)生了依賴。對于谷歌、百度、淘寶、亞馬遜等大型平臺而言,商用人工智能已經(jīng)深深地嵌入在企業(yè)營業(yè)中,是不可缺失的一部分。因此,就社會背景、社會存在與社會價值而言,在人工智能時代,商用人工智能作為獨立的行動者,能夠擁有決策者身份,參與人類社會生活,即商用人工智能是有價值的社會存在。不過要論證其能夠成為法律主體,還需要考慮賦予其法律主體地位是否具有社會效益。

    賦予某一實體法律主體地位并不意味著現(xiàn)有法律完全沒有可供適用的制度,而是相比于主體化,其他替代性的制度明顯沒有效益,非法人組織的主體化就是這種情形。(37)參見張新寶、汪榆淼:《〈民法總則〉規(guī)定的“非法人組織”基本問題研討》,《比較法研究》2018 年第3 期。與之相類似,賦予商用人工智能法律主體地位也是富有效益的制度安排。第一,對企業(yè)具有激勵作用。賦予商用人工智能法律主體地位,企業(yè)可以簡化法律關(guān)系進而降低交易成本,還可以主張有限責(zé)任進而減少責(zé)任風(fēng)險。第二,對個人具有保護作用。賦予商用人工智能法律主體地位,個人可以輕易鎖定責(zé)任主體,減少因果關(guān)系證明難度進而減輕舉證責(zé)任,保護個人權(quán)益。第三,對社會具有促進作用。賦予商用人工智能法律主體地位,可以使個體參與到商用人工智能的治理之中,讓個人穿過企業(yè)直接向商用人工智能傳達(dá)需求,從而營造有利于發(fā)揮人的主觀能動性與創(chuàng)造性的環(huán)境,進而“再造人性” (rehumanizing)。(38)參見約翰·弗蘭克·韋弗:《機器人是人嗎?》,上海:上海人民出版社,2018 年,第232-233 頁。第四,僅將商用人工智能視為法律客體,并企圖用保險制度來簡單地解決商用人工智能的賠付問題是存在不足的。(39)參 見 Rafael Dean Brown, “Property Ownership and the Legal Personhood of Artificial Intelligence,”Information &一方面,商用人工智能引發(fā)的損害不限于經(jīng)濟損害,還包括求職機會喪失、信用評價降低等;另一方面,保險要求的風(fēng)險可預(yù)見性與商用人工智能的不可預(yù)見性存在沖突,是否能夠開設(shè)相應(yīng)的保險項目是個問題,即便有,企業(yè)通過提高定價也可以讓消費者成為保險費的負(fù)擔(dān)者。⑦

    CommunicationsTechnologyLaw,30(2),2021,p.214 .

    ⑦ 參見Georgios I.Zekos,EconomicsandLawofArtificialIntelligence,p.398.

    2.商用人工智能可以具有客體屬性

    商用人工智能能夠成為法律主體的同時,還能夠成為法律客體。就法律客體的判斷標(biāo)準(zhǔn)而言,當(dāng)前中國民法學(xué)者多認(rèn)為民事客體是多元且開放的,抽象民事客體的研究注定是失敗的(40)參見何松威、李建華:《民法體系語境下民事客體理論的權(quán)利思維》,《當(dāng)代法學(xué)》2019 年第1 期。,法律對民事客體的列舉只是示例性的,民事客體不限于法律規(guī)定的范疇。(41)參見楊立新:《我國民事權(quán)利客體立法的檢討與展望》,《法商研究》2015 年第4 期。在商法領(lǐng)域,商事客體也是發(fā)展的,只要具有經(jīng)濟價值、能夠交易,在不違反公序良俗的情況下,新型客體就能成為商事客體。在具體的操作層面,對社會出現(xiàn)的新型客體可以通過類比現(xiàn)有的客體類型,并進行擴大化解釋使其成為法律客體。(42)參見鄭曉劍:《對民事法律關(guān)系“一元客體說”的反思——兼論我國民事法律關(guān)系客體類型的應(yīng)然選擇》,《現(xiàn)代法學(xué)》2011年第4 期。

    依據(jù)法律客體的判斷標(biāo)準(zhǔn),商用人工智能與營業(yè)資產(chǎn)類似,屬于商事客體。商用人工智能與營業(yè)資產(chǎn)具有同質(zhì)性體現(xiàn)在三大方面。首先,商用人工智能具有經(jīng)濟價值,能夠被轉(zhuǎn)讓。其次,作為人造物,商用人工智能都具有一定的目的與功能,且都是以營利為目的而存在的。最后,無論是呈現(xiàn)為軟件形態(tài),還是具有物理外觀,商用人工智能都具有機能性,由數(shù)據(jù)、算法、算力等有機組合而成,且承載了開發(fā)者與設(shè)計者的信譽。因此,商用人工智能與營業(yè)資產(chǎn)類似,是由多個單獨的財產(chǎn)和某些事實關(guān)系構(gòu)成的、組織體化的商事客體,其具有經(jīng)濟價值且能夠被轉(zhuǎn)讓。

    既然依據(jù)法律主體的判斷標(biāo)準(zhǔn),商用人工智能在智能時代是有價值的社會存在,能夠成為法律主體;依據(jù)法律客體的判斷標(biāo)準(zhǔn),商用人工智能在實踐中又已經(jīng)是可轉(zhuǎn)讓的財產(chǎn)有機組合體,能夠成為法律客體,那么商用人工智能就應(yīng)當(dāng)是兼具主體性與客體性的存在。該存在是突破《民法典》法律框架的,淵源于商法中企業(yè)所具有的雙重屬性,所以其法律實現(xiàn)可以交給正在醞釀中的中國“商法通則”。這就涉及如何在法律制度層面理解商用人工智能的雙重屬性并建構(gòu)規(guī)則的問題。

    三、借鑒企業(yè)規(guī)則:商用人工智能雙重屬性的法律實現(xiàn)

    商用人工智能具有雙重屬性,指的是其可以在此法律關(guān)系中是法律主體,在彼法律關(guān)系中是法律客體,所以建構(gòu)有關(guān)商用人工智能的法律規(guī)則,關(guān)鍵在于如何判斷具體情形下商用人工智能的法律屬性,以及不同屬性下的商用人工智能應(yīng)當(dāng)適用的法律規(guī)則。

    就商用人工智能主客體法律屬性的識別來說,正如企業(yè)通常被當(dāng)作法律主體看待一樣,商用人工智能原則上也都被視為法律主體。商用人工智能的法律主體地位應(yīng)當(dāng)依登記取得,商用人工智能登記后是法定的獨立主體,除非出現(xiàn)人格混同或者注銷登記,否則商用人工智能獨立為自己的行為負(fù)責(zé)。主體屬性是商用人工智能的第一屬性,客體屬性是商用人工智能的例外情形。法律可以引入“所有者”概念規(guī)制客體層面的商用人工智能,像公司一樣設(shè)置公司股東,讓商用人工智能的設(shè)計者、開發(fā)者和生產(chǎn)者等利益相關(guān)者可以通過“所有”的法律關(guān)系得到投資補償,同時承擔(dān)有限責(zé)任。在商用人工智能的“所有者”出租或轉(zhuǎn)讓商用人工智能的情形下,商用人工智能會成為客體。需要注意的是,商用人工智能的“所有者”實際操控商用人工智能的行為,并不會使商用人工智能失去主體地位而淪為法律客體,此時可以適用法律人格否認(rèn)制度,“所有者”對商用人工智能的行為承擔(dān)連帶責(zé)任,商用人工智能依然是法律主體。因此,在商用人工智能成為法律主體并具有雙重屬性后,客體屬性的商用人工智能規(guī)則不會出現(xiàn)將商用人工智能作為產(chǎn)品,并以此追究“所有者”產(chǎn)品責(zé)任的問題?!八姓摺痹O(shè)計有瑕疵的商用人工智能,在商用人工智能取得主體地位后,其所承擔(dān)的雖然也是瑕疵設(shè)計與制造責(zé)任,但是該責(zé)任在法律性質(zhì)上應(yīng)當(dāng)屬于“瑕疵出資”責(zé)任,是“所有者”對適當(dāng)履行出資義務(wù)的違反,而非產(chǎn)品責(zé)任。總之,商用人工智能的雙重屬性以商用人工智能具有法律主體地位為原則,在商用人工智能被視為財產(chǎn)轉(zhuǎn)讓或出租時,商用人工智能是客體。

    就商用人工智能的法律規(guī)則來說,依據(jù)商用人工智能是否登記可以區(qū)分法律責(zé)任主體。在研發(fā)與生產(chǎn)階段,商用人工智能只是“半成品”不是法律主體,此時其“所有者”需要對其測試或試驗等行為承擔(dān)類似于產(chǎn)品責(zé)任的無過錯責(zé)任。在研發(fā)與生產(chǎn)后依法登記前,商用人工智能類似于設(shè)立中的公司,從平衡的角度出發(fā),為了避免“所有者”濫用有限責(zé)任制度享有“責(zé)任盾”,同時激勵“所有者”積極登記,“所有者”應(yīng)當(dāng)對商用人工智能的行為承擔(dān)無限連帶責(zé)任。在登記后,商用人工智能獲得獨立的法律地位,應(yīng)當(dāng)獨立享有權(quán)利并承擔(dān)義務(wù)與責(zé)任,法律可以借鑒企業(yè)規(guī)則構(gòu)造商用人工智能的主體規(guī)則。登記后的商用人工智能在“所有者”轉(zhuǎn)讓或出租商用人工智能時是客體,此時主要適用的是財產(chǎn)的瑕疵擔(dān)保與移轉(zhuǎn)、競業(yè)禁止、債權(quán)債務(wù)移轉(zhuǎn)等規(guī)則。

    為了讓商用人工智能成為能夠獨立承擔(dān)責(zé)任的法律主體,同時平衡“所有者”有限責(zé)任的需要與交易相對方安全交易的主張,法律應(yīng)當(dāng)規(guī)定商用人工智能享有財產(chǎn)權(quán)。在商用人工智能成為法律主體的情況下,保險金不是商用人工智能的財產(chǎn),因為保險金在出險后才兌現(xiàn),并且由保險公司直接賠付給受害人,并不歸商用人工智能所有。賦予商用人工智能財產(chǎn)權(quán)的意義在于,當(dāng)商用人工智能作為法律主體時,“所有者”投保的保險并不是商用人工智能承擔(dān)賠付責(zé)任的唯一來源,商用人工智能自己的財產(chǎn)也能承擔(dān)賠償責(zé)任。在擁有財產(chǎn)的方式上,商用人工智能的財產(chǎn)擁有可以通過技術(shù)實現(xiàn),例如利用區(qū)塊鏈技術(shù)為商用人工智能創(chuàng)設(shè)賬戶,輔之以智能合約技術(shù)為商用人工智能收款。(43)參見郭少飛:《人工智能“電子人”權(quán)利能力的法構(gòu)造》,《甘肅社會科學(xué)》2019 年第4 期。

    結(jié) 論

    商用人工智能具有不同于公用人工智能和民用人工智能的特殊性,在《民法典》未能建構(gòu)商法規(guī)則體系、中國可以通過“商法通則”立法以健全中國特色社會主義法治體系之際,從商法理論出發(fā)分析并研究商用人工智能的特殊規(guī)則,對于推動中國制定一部回應(yīng)時代需求,同時彰顯時代特征的“商法通則”具有重要意義。在法律地位上,“商法通則”可以規(guī)定商用人工智能具有像企業(yè)一樣,以法律主體為原則,在特定情況下可以成為法律客體的法律地位,也就是賦予其雙重屬性。當(dāng)然,具體到操作層面,如何賦予主體屬性的商用人工智能權(quán)利、義務(wù)與責(zé)任,如何建構(gòu)客體層面的商用人工智能法律規(guī)則都是需要進一步研究的問題,我們將持續(xù)關(guān)注。

    猜你喜歡
    商法商用客體
    兵學(xué)商用人物
    ——徐小林
    孫子研究(2022年2期)2022-06-09 08:21:36
    2022 年《商用汽車》回顧
    商用汽車(2022年12期)2022-04-24 01:29:10
    2021年《商用汽車》回顧
    商用汽車(2021年12期)2021-07-14 02:13:28
    明股實債的稅法規(guī)制思路——基于商法聯(lián)動的視角
    淺談商法的變革與實踐研究
    韓國商法上關(guān)于認(rèn)股權(quán)證(warrant)導(dǎo)入的議論動向
    商事法論集(2016年2期)2016-06-27 07:21:06
    商用WiFi蓄勢待發(fā)BAT360謹(jǐn)慎布局前景存疑
    IT時代周刊(2015年7期)2015-11-11 05:49:55
    舊客體抑制和新客體捕獲視角下預(yù)覽效應(yīng)的機制*
    商法上的權(quán)利外觀責(zé)任
    商事法論集(2014年1期)2014-06-27 01:20:36
    論著作權(quán)客體的演變
    国产大屁股一区二区在线视频| 国产免费男女视频| 特大巨黑吊av在线直播| 美女高潮的动态| 91麻豆精品激情在线观看国产| 欧美bdsm另类| 国产一区二区三区视频了| 一本综合久久免费| 久久精品国产亚洲av涩爱 | 91麻豆av在线| 国产黄色小视频在线观看| 免费观看人在逋| 精品一区二区免费观看| 久久亚洲精品不卡| 国产精品影院久久| 中文字幕人成人乱码亚洲影| 男人舔女人下体高潮全视频| 91av网一区二区| 一级a爱片免费观看的视频| 国产精品99久久久久久久久| 乱码一卡2卡4卡精品| 国产成人a区在线观看| 日韩 亚洲 欧美在线| 麻豆av噜噜一区二区三区| 99riav亚洲国产免费| 俄罗斯特黄特色一大片| 90打野战视频偷拍视频| 深爱激情五月婷婷| 最新中文字幕久久久久| 热99在线观看视频| 久久久成人免费电影| 国产一区二区激情短视频| а√天堂www在线а√下载| 国产高清有码在线观看视频| 天天躁日日操中文字幕| www.www免费av| 天天躁日日操中文字幕| 91在线精品国自产拍蜜月| 在线观看午夜福利视频| 精品熟女少妇八av免费久了| 欧美丝袜亚洲另类 | 十八禁国产超污无遮挡网站| 国产精品电影一区二区三区| 91狼人影院| 在线观看免费视频日本深夜| 永久网站在线| 村上凉子中文字幕在线| 久久精品久久久久久噜噜老黄 | 色在线成人网| 久久久久久久久大av| 综合色av麻豆| a在线观看视频网站| 国产成人av教育| 中文字幕免费在线视频6| 欧美一级a爱片免费观看看| 久久久久免费精品人妻一区二区| 看十八女毛片水多多多| 91久久精品电影网| 嫩草影视91久久| 久久亚洲精品不卡| 琪琪午夜伦伦电影理论片6080| 免费人成视频x8x8入口观看| 久久久色成人| 男人狂女人下面高潮的视频| 十八禁国产超污无遮挡网站| 国产精品亚洲美女久久久| 在线a可以看的网站| 精品人妻1区二区| 一进一出好大好爽视频| 久久久精品欧美日韩精品| 最后的刺客免费高清国语| 免费在线观看成人毛片| 亚洲美女搞黄在线观看 | 啪啪无遮挡十八禁网站| 别揉我奶头~嗯~啊~动态视频| 亚洲精品456在线播放app | 在线播放无遮挡| 成人特级黄色片久久久久久久| 深夜a级毛片| 国产国拍精品亚洲av在线观看| 天天躁日日操中文字幕| 国产69精品久久久久777片| 国产色婷婷99| 欧美日韩综合久久久久久 | 亚洲成人免费电影在线观看| 日本与韩国留学比较| 亚洲自偷自拍三级| 一区二区三区四区激情视频 | 成人永久免费在线观看视频| 亚洲专区国产一区二区| 欧美区成人在线视频| 亚洲乱码一区二区免费版| 美女黄网站色视频| 搡老妇女老女人老熟妇| 国产真实乱freesex| 精品午夜福利视频在线观看一区| 欧美潮喷喷水| 在线十欧美十亚洲十日本专区| 欧美一区二区精品小视频在线| 少妇被粗大猛烈的视频| 国产精品三级大全| 色精品久久人妻99蜜桃| 国内精品久久久久久久电影| 日本一本二区三区精品| 欧美绝顶高潮抽搐喷水| 亚洲一区二区三区色噜噜| 婷婷色综合大香蕉| 国产精品免费一区二区三区在线| 18禁在线播放成人免费| 一级作爱视频免费观看| 欧洲精品卡2卡3卡4卡5卡区| 一本综合久久免费| 99久久久亚洲精品蜜臀av| 丁香欧美五月| 九色成人免费人妻av| 久久亚洲真实| 夜夜夜夜夜久久久久| 久久久精品大字幕| 成年版毛片免费区| 亚洲真实伦在线观看| 变态另类丝袜制服| a在线观看视频网站| 色av中文字幕| 中文字幕高清在线视频| 精品不卡国产一区二区三区| 亚洲成人精品中文字幕电影| 九色成人免费人妻av| 在线观看午夜福利视频| 婷婷丁香在线五月| 日日摸夜夜添夜夜添小说| 亚洲成人免费电影在线观看| 久久精品久久久久久噜噜老黄 | 国产蜜桃级精品一区二区三区| 欧美日韩乱码在线| 非洲黑人性xxxx精品又粗又长| 天堂网av新在线| 白带黄色成豆腐渣| 成人三级黄色视频| 18禁在线播放成人免费| 欧美日韩福利视频一区二区| 最近最新中文字幕大全电影3| 中文字幕av在线有码专区| 亚洲人成网站在线播放欧美日韩| 美女免费视频网站| 中文字幕熟女人妻在线| 日韩有码中文字幕| 精品一区二区三区av网在线观看| 三级男女做爰猛烈吃奶摸视频| 97人妻精品一区二区三区麻豆| 少妇的逼好多水| 桃红色精品国产亚洲av| 亚洲av不卡在线观看| 特级一级黄色大片| 亚洲精品亚洲一区二区| 女生性感内裤真人,穿戴方法视频| 欧美成狂野欧美在线观看| 国产精品永久免费网站| 老司机深夜福利视频在线观看| 欧美+亚洲+日韩+国产| 亚洲精品粉嫩美女一区| 午夜精品在线福利| 国产 一区 欧美 日韩| 三级男女做爰猛烈吃奶摸视频| 少妇被粗大猛烈的视频| 嫩草影院新地址| x7x7x7水蜜桃| 中文字幕高清在线视频| 免费在线观看影片大全网站| 国产精品免费一区二区三区在线| 久久6这里有精品| 亚洲精品456在线播放app | 国产亚洲精品久久久久久毛片| 色综合亚洲欧美另类图片| 99久久无色码亚洲精品果冻| 色综合欧美亚洲国产小说| 欧美激情国产日韩精品一区| 欧美又色又爽又黄视频| 九色成人免费人妻av| 精品一区二区三区视频在线| 国产综合懂色| 在线a可以看的网站| 一区福利在线观看| 嫩草影院新地址| 久久精品国产99精品国产亚洲性色| 赤兔流量卡办理| 神马国产精品三级电影在线观看| 亚洲熟妇中文字幕五十中出| 禁无遮挡网站| 男女那种视频在线观看| 亚洲 欧美 日韩 在线 免费| 欧美午夜高清在线| 两个人视频免费观看高清| 99久国产av精品| 日韩欧美在线乱码| 嫩草影视91久久| or卡值多少钱| 美女 人体艺术 gogo| 看片在线看免费视频| ponron亚洲| 国产黄a三级三级三级人| 欧美乱妇无乱码| 免费观看精品视频网站| 日韩中文字幕欧美一区二区| 亚洲,欧美精品.| 久久性视频一级片| 日本一本二区三区精品| 夜夜看夜夜爽夜夜摸| 97超视频在线观看视频| 禁无遮挡网站| 淫妇啪啪啪对白视频| 精品久久久久久久久亚洲 | 久久久久久国产a免费观看| 男人的好看免费观看在线视频| 亚洲男人的天堂狠狠| 熟妇人妻久久中文字幕3abv| 丁香欧美五月| 女人十人毛片免费观看3o分钟| 国产精品伦人一区二区| 特级一级黄色大片| 久久国产乱子免费精品| 69人妻影院| 色综合欧美亚洲国产小说| 99久久九九国产精品国产免费| 男女做爰动态图高潮gif福利片| 中亚洲国语对白在线视频| 亚洲美女搞黄在线观看 | 蜜桃久久精品国产亚洲av| 在线观看舔阴道视频| 日韩成人在线观看一区二区三区| 一个人免费在线观看电影| 成年女人毛片免费观看观看9| 91九色精品人成在线观看| 国产爱豆传媒在线观看| 成人特级av手机在线观看| 无人区码免费观看不卡| 午夜日韩欧美国产| 亚洲精品亚洲一区二区| 99国产综合亚洲精品| 99久久精品国产亚洲精品| 少妇熟女aⅴ在线视频| 久久精品国产亚洲av香蕉五月| 一本久久中文字幕| 国产高清三级在线| 国内精品美女久久久久久| 国产一区二区在线av高清观看| 欧美日韩福利视频一区二区| 99久久99久久久精品蜜桃| 深夜a级毛片| 岛国在线免费视频观看| 欧洲精品卡2卡3卡4卡5卡区| 精品一区二区三区视频在线观看免费| 久久99热这里只有精品18| 欧美成人一区二区免费高清观看| 中文字幕人妻熟人妻熟丝袜美| 亚洲第一区二区三区不卡| 亚洲精品粉嫩美女一区| 99热6这里只有精品| 国产午夜精品论理片| av国产免费在线观看| 欧美黑人巨大hd| 国产综合懂色| 又粗又爽又猛毛片免费看| 最近视频中文字幕2019在线8| 99久国产av精品| 波野结衣二区三区在线| 丰满的人妻完整版| 久久午夜亚洲精品久久| 看片在线看免费视频| 亚洲自拍偷在线| 嫩草影院新地址| www.熟女人妻精品国产| 国产一区二区三区视频了| 亚洲性夜色夜夜综合| 蜜桃久久精品国产亚洲av| 欧美三级亚洲精品| 少妇的逼好多水| 性欧美人与动物交配| 婷婷亚洲欧美| 亚洲精品色激情综合| 在线免费观看不下载黄p国产 | 少妇高潮的动态图| 他把我摸到了高潮在线观看| 国产淫片久久久久久久久 | 中文字幕人成人乱码亚洲影| www.www免费av| 成人精品一区二区免费| www日本黄色视频网| 亚洲精品久久国产高清桃花| 人妻丰满熟妇av一区二区三区| 嫩草影视91久久| 欧美成人性av电影在线观看| 99久久成人亚洲精品观看| 一区二区三区高清视频在线| 女生性感内裤真人,穿戴方法视频| 性欧美人与动物交配| 亚洲专区国产一区二区| 九色成人免费人妻av| 久久久国产成人精品二区| 国语自产精品视频在线第100页| 亚洲av成人av| 国产视频内射| 欧美区成人在线视频| 国产亚洲欧美在线一区二区| 特大巨黑吊av在线直播| 国产精品1区2区在线观看.| 亚洲av美国av| 97超级碰碰碰精品色视频在线观看| 少妇熟女aⅴ在线视频| 国产成年人精品一区二区| 精品熟女少妇八av免费久了| 天堂av国产一区二区熟女人妻| 日韩欧美国产一区二区入口| 国产精品自产拍在线观看55亚洲| 久久99热6这里只有精品| 在线观看66精品国产| 天堂动漫精品| 欧美中文日本在线观看视频| 免费av不卡在线播放| 有码 亚洲区| 麻豆av噜噜一区二区三区| 小说图片视频综合网站| 亚洲无线在线观看| 亚洲av不卡在线观看| 一区二区三区激情视频| 亚洲狠狠婷婷综合久久图片| 久久中文看片网| 久久久久久国产a免费观看| 老司机福利观看| 99视频精品全部免费 在线| 国产伦精品一区二区三区视频9| 精品熟女少妇八av免费久了| 欧美日韩国产亚洲二区| 国产高清视频在线播放一区| 精品国内亚洲2022精品成人| 久久欧美精品欧美久久欧美| 久久久久久久精品吃奶| 啦啦啦观看免费观看视频高清| 久久国产乱子免费精品| 久久九九热精品免费| 日韩国内少妇激情av| 少妇的逼好多水| 色av中文字幕| 一区二区三区激情视频| 一进一出好大好爽视频| 国产成人av教育| 在线观看66精品国产| 听说在线观看完整版免费高清| 一本精品99久久精品77| 此物有八面人人有两片| 岛国在线免费视频观看| 日日夜夜操网爽| 日韩中字成人| 99在线视频只有这里精品首页| 亚洲一区二区三区不卡视频| 香蕉av资源在线| 久久久久性生活片| 国产黄片美女视频| 亚洲国产欧美人成| 久久伊人香网站| 街头女战士在线观看网站| 亚洲欧美清纯卡通| 人妻一区二区av| 亚洲精品色激情综合| 久久久久性生活片| 99精国产麻豆久久婷婷| 自拍欧美九色日韩亚洲蝌蚪91 | 国产 一区 欧美 日韩| 精品人妻偷拍中文字幕| 最近中文字幕高清免费大全6| 精品亚洲乱码少妇综合久久| 欧美精品一区二区大全| 女人十人毛片免费观看3o分钟| 日韩一区二区视频免费看| 午夜福利在线在线| 一级毛片我不卡| 特级一级黄色大片| 亚洲精品色激情综合| 香蕉精品网在线| 亚洲精品视频女| 一区二区三区免费毛片| 亚洲精品一二三| 97超视频在线观看视频| 国产精品久久久久久精品古装| 亚洲国产高清在线一区二区三| 激情 狠狠 欧美| 久久久a久久爽久久v久久| 久久99精品国语久久久| 99久久精品国产国产毛片| 人人妻人人爽人人添夜夜欢视频 | 极品少妇高潮喷水抽搐| 亚洲精品视频女| 国产在视频线精品| 亚洲国产日韩一区二区| 精品久久国产蜜桃| av黄色大香蕉| 午夜福利在线在线| 亚洲国产色片| av天堂中文字幕网| 一级毛片久久久久久久久女| 极品教师在线视频| 亚洲精品日韩在线中文字幕| 久久国内精品自在自线图片| 九草在线视频观看| 久久精品综合一区二区三区| 观看免费一级毛片| 久久精品国产自在天天线| 国产中年淑女户外野战色| 欧美xxⅹ黑人| 美女内射精品一级片tv| 高清视频免费观看一区二区| 国产男女内射视频| 亚洲不卡免费看| 国产一区二区三区av在线| 熟女人妻精品中文字幕| 欧美日韩一区二区视频在线观看视频在线 | 欧美xxⅹ黑人| 久久精品综合一区二区三区| 国产欧美日韩一区二区三区在线 | 青春草亚洲视频在线观看| 最近最新中文字幕大全电影3| av免费观看日本| 久久久久性生活片| 国产免费一级a男人的天堂| 国产成人免费无遮挡视频| 国产伦理片在线播放av一区| 国产男女内射视频| 国产成人精品一,二区| 免费av毛片视频| 久久精品久久久久久久性| 男的添女的下面高潮视频| 国产亚洲精品久久久com| av天堂中文字幕网| 日日摸夜夜添夜夜爱| 麻豆成人av视频| 综合色av麻豆| 亚洲丝袜综合中文字幕| 亚洲av.av天堂| 直男gayav资源| 免费观看a级毛片全部| 色视频www国产| 亚洲av国产av综合av卡| 亚洲人与动物交配视频| 国产精品久久久久久久电影| 欧美成人a在线观看| 久久久久国产网址| 色视频在线一区二区三区| 亚洲欧美成人精品一区二区| 午夜激情久久久久久久| 国产精品麻豆人妻色哟哟久久| 国产精品久久久久久精品电影| 亚洲不卡免费看| 99热国产这里只有精品6| 成人二区视频| 婷婷色麻豆天堂久久| 精品一区二区三区视频在线| 成年女人看的毛片在线观看| 欧美xxxx黑人xx丫x性爽| 五月开心婷婷网| 亚洲国产欧美人成| 男女那种视频在线观看| 日韩三级伦理在线观看| av在线app专区| 久久久久精品久久久久真实原创| 亚洲精品中文字幕在线视频 | 亚洲欧美日韩另类电影网站 | 欧美三级亚洲精品| 午夜福利视频精品| 只有这里有精品99| 一级毛片我不卡| av天堂中文字幕网| 性插视频无遮挡在线免费观看| 国产成人精品福利久久| 亚洲精品久久午夜乱码| 麻豆成人av视频| 欧美一区二区亚洲| 亚洲人成网站在线观看播放| 久久久久久国产a免费观看| 久久久a久久爽久久v久久| 久久精品国产自在天天线| 久久久久久久大尺度免费视频| 久久国产乱子免费精品| 婷婷色av中文字幕| 中文欧美无线码| 成人鲁丝片一二三区免费| 国产一区二区三区av在线| 婷婷色av中文字幕| 亚洲自拍偷在线| 国产一级毛片在线| av国产免费在线观看| 在线亚洲精品国产二区图片欧美 | 91久久精品国产一区二区成人| 免费大片黄手机在线观看| 在线观看国产h片| 亚洲性久久影院| 亚洲av一区综合| av在线亚洲专区| 久久99热这里只频精品6学生| 成人高潮视频无遮挡免费网站| 日本爱情动作片www.在线观看| 特级一级黄色大片| 久久99热这里只频精品6学生| 久久鲁丝午夜福利片| 国产成人免费无遮挡视频| 国产精品一区二区三区四区免费观看| 91久久精品国产一区二区成人| 三级经典国产精品| 国产免费一区二区三区四区乱码| 人人妻人人澡人人爽人人夜夜| 欧美成人一区二区免费高清观看| 亚洲av二区三区四区| 91精品伊人久久大香线蕉| 色网站视频免费| 毛片女人毛片| 日韩欧美 国产精品| 秋霞在线观看毛片| av播播在线观看一区| 蜜桃亚洲精品一区二区三区| 成人黄色视频免费在线看| 热re99久久精品国产66热6| 国产极品天堂在线| 欧美3d第一页| 欧美日韩精品成人综合77777| 国产91av在线免费观看| 日日撸夜夜添| 午夜精品一区二区三区免费看| 男女边吃奶边做爰视频| 在线播放无遮挡| 视频中文字幕在线观看| 国产毛片a区久久久久| 好男人视频免费观看在线| 成年女人看的毛片在线观看| 亚洲综合精品二区| 国产女主播在线喷水免费视频网站| 国产黄色视频一区二区在线观看| 只有这里有精品99| 欧美日韩亚洲高清精品| 亚洲国产av新网站| 99热这里只有是精品50| 夫妻午夜视频| 人妻一区二区av| 69av精品久久久久久| 黄色日韩在线| 插阴视频在线观看视频| 1000部很黄的大片| 国产中年淑女户外野战色| 亚洲熟女精品中文字幕| 欧美高清性xxxxhd video| 我的女老师完整版在线观看| 亚洲三级黄色毛片| 91久久精品国产一区二区三区| 日日摸夜夜添夜夜添av毛片| 欧美zozozo另类| 一级毛片黄色毛片免费观看视频| 男人爽女人下面视频在线观看| 国产精品国产三级专区第一集| 热re99久久精品国产66热6| 免费观看a级毛片全部| 国产在线一区二区三区精| xxx大片免费视频| 免费看不卡的av| 免费观看性生交大片5| 人人妻人人澡人人爽人人夜夜| 在现免费观看毛片| 日韩av不卡免费在线播放| 成人二区视频| www.色视频.com| 一级毛片aaaaaa免费看小| 免费大片18禁| 精品酒店卫生间| 热99国产精品久久久久久7| 亚洲一区二区三区欧美精品 | 99热国产这里只有精品6| 又黄又爽又刺激的免费视频.| 日本猛色少妇xxxxx猛交久久| 国产毛片在线视频| 91精品伊人久久大香线蕉| 亚洲欧美精品自产自拍| 一级黄片播放器| 少妇丰满av| 男女那种视频在线观看| 夫妻午夜视频| 国产一区二区三区综合在线观看 | 久久人人爽人人爽人人片va| 91精品一卡2卡3卡4卡| 中文字幕制服av| 精品国产乱码久久久久久小说| 中文字幕人妻熟人妻熟丝袜美| 有码 亚洲区| 日韩国内少妇激情av| 日韩免费高清中文字幕av| 欧美精品一区二区大全| 成人二区视频| 七月丁香在线播放| 久久久欧美国产精品| 国产免费视频播放在线视频| 日本黄大片高清| 免费看av在线观看网站| 免费av毛片视频| 少妇的逼水好多| 69av精品久久久久久| 身体一侧抽搐| 久久99热6这里只有精品| 菩萨蛮人人尽说江南好唐韦庄| 老女人水多毛片| 亚洲最大成人av| 国产精品.久久久| 在线免费十八禁| 精华霜和精华液先用哪个| 国产成人a区在线观看| 欧美一区二区亚洲| 插逼视频在线观看| 国产视频内射| 亚洲av男天堂| 久久亚洲国产成人精品v| 国模一区二区三区四区视频|