• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能體法律地位探析

    2023-09-18 12:21:18費(fèi)艷穎謝雨含
    黨政干部學(xué)刊 2023年8期
    關(guān)鍵詞:法律地位行為能力法律風(fēng)險(xiǎn)

    費(fèi)艷穎 謝雨含

    [摘? 要]人工智能發(fā)展浪潮提高了社會(huì)發(fā)展的智能化水平,促進(jìn)人類(lèi)社會(huì)進(jìn)行新一輪技術(shù)變革。一方面,人們的日常生活充分享受了人工智能所帶來(lái)的便利,另一方面,由于人工智能作為一項(xiàng)新興技術(shù),其在發(fā)展應(yīng)用過(guò)程中也會(huì)引發(fā)一系列新興的法律問(wèn)題。人工智能體作為人工智能技術(shù)的現(xiàn)實(shí)轉(zhuǎn)化,探析人工智能體的法律地位是解決現(xiàn)實(shí)問(wèn)題的前提指向與核心抓手,可以通過(guò)以人工智能的現(xiàn)實(shí)轉(zhuǎn)化為切入點(diǎn),分析現(xiàn)階段人工智能技術(shù)發(fā)展境況,對(duì)學(xué)界觀點(diǎn)進(jìn)行闡述與評(píng)析,分析人工智能體作為法律主體的理論必要與現(xiàn)實(shí)可能,提出具有指向性的針對(duì)人工智能體法律地位的具體規(guī)制路徑。

    [關(guān)鍵詞]人工智能體;法律地位;責(zé)任歸屬;行為能力;法律風(fēng)險(xiǎn)

    [中圖分類(lèi)號(hào)]D921? [文獻(xiàn)標(biāo)識(shí)碼]A? [文章編號(hào)]1672-2426(2023)08-0053-07

    [收稿日期]2023-06-15

    [基金項(xiàng)目]遼寧省社會(huì)科學(xué)規(guī)劃基金重點(diǎn)項(xiàng)目“遼寧人工智能產(chǎn)業(yè)發(fā)展的法治保障研究”(L21AFX002),主持人? ? ? ? ? ? ? ?費(fèi)艷穎。

    [作者簡(jiǎn)介]費(fèi)艷穎(1965— ),女,遼寧營(yíng)口人,大連理工大學(xué)人文與社會(huì)科學(xué)學(xué)部教授、博士生導(dǎo)師,主要從事? ? ? ? ? ? ? ?人工智能法學(xué)研究。

    謝雨含(2000— ),女,內(nèi)蒙古赤峰人,大連理工大學(xué)人文與社會(huì)科學(xué)學(xué)部碩士研究生,主要從事人工? ? ? ? ? ? ? ?智能法學(xué)研究。

    人工智能體,是人工智能的實(shí)在化、具體化,屬于人工智能技術(shù)與外在物質(zhì)形態(tài)結(jié)合的實(shí)體,是人工智能在現(xiàn)實(shí)生活中的具體應(yīng)用表現(xiàn)。人工智能與人工智能體相互依存、不可割裂,前者是后者的關(guān)鍵核心技術(shù),后者是前者的現(xiàn)實(shí)形態(tài)與應(yīng)用實(shí)體。針對(duì)目前人工智能的發(fā)展現(xiàn)況,《人工智能標(biāo)準(zhǔn)化白皮書(shū)(2008年)》根據(jù)技術(shù)、產(chǎn)業(yè)和標(biāo)準(zhǔn)化的發(fā)展將其分為三個(gè)發(fā)展階段:第一階段利用知識(shí)驅(qū)動(dòng)人工智能體,可稱為計(jì)算智能階段,在這一發(fā)展階段,機(jī)器具備初步的邏輯推演能力,并未達(dá)到智能化水平;第二階段是在數(shù)據(jù)驅(qū)動(dòng)下的人工智能體,可稱為感知智能階段,要求人工智能體能說(shuō)會(huì)聽(tīng)、能看會(huì)認(rèn),對(duì)一些基本指令進(jìn)行簡(jiǎn)單操作;第三階段是利用算法、算力與大數(shù)據(jù)技術(shù)共同驅(qū)動(dòng)下的人工智能體,可稱為認(rèn)知智能階段,即讓計(jì)算機(jī)能夠獨(dú)立思考、進(jìn)行深度學(xué)習(xí),對(duì)人類(lèi)的部分工作進(jìn)行輔助或代替。目前,人工智能的發(fā)展處于感知智能階段的初期,即當(dāng)前人工智能處于“弱人工智能”發(fā)展階段。

    法律主體是法律關(guān)系中最為本質(zhì)的基礎(chǔ)性概念,是構(gòu)成法律關(guān)系的原點(diǎn)。一般法理意義上的法律關(guān)系主體是指法律關(guān)系的參與者,即在法律關(guān)系中能夠享有權(quán)利和履行義務(wù)的人。法律主體的概念有三個(gè)特性:首先,法律主體的概念具有時(shí)代發(fā)展性,法律主體的概念與標(biāo)準(zhǔn)并不是與生俱來(lái)、一成不變的,而是在不同的歷史階段被時(shí)代賦予了不同的內(nèi)涵和意義;其次,法律主體的概念是伴隨著人類(lèi)認(rèn)知水平和現(xiàn)實(shí)生活需要而不斷豐富和發(fā)展的;最后,責(zé)任承擔(dān)概念與法律主體概念緊密相連,法律關(guān)系主體的確立意味著其具有承擔(dān)法律責(zé)任的義務(wù),也就是說(shuō),法律關(guān)系主體是法律責(zé)任構(gòu)成的前提與基礎(chǔ)。

    近年來(lái)對(duì)人工智能體法律關(guān)系主體地位的研究,即人工智能體究竟是法律上的“人”還是“物”抑或是介于兩者之間的特殊存在,已經(jīng)成為法學(xué)界激烈討論的熱點(diǎn)問(wèn)題之一。面對(duì)紛繁復(fù)雜的人工智能法律難題,必須回歸至其基本前提——是否具有法律人格。隨著人工智能的發(fā)展,法律主體范圍也相應(yīng)發(fā)生變化,對(duì)于人工智能體的法律主體資格的探析也會(huì)進(jìn)一步發(fā)展,尤其是在責(zé)任能力方面,可以說(shuō),人工智能體是否具有獨(dú)立承擔(dān)責(zé)任的能力是判定人工智能體是否具有法律主體地位的核心問(wèn)題。

    一、關(guān)于人工智能體法律地位的現(xiàn)有學(xué)說(shuō)及其局限

    針對(duì)人工智能體是否具有法律主體地位的辨析可以為人工智能發(fā)展所帶來(lái)的法律問(wèn)題提供解決路徑,推動(dòng)人工智能技術(shù)在法律的框架下行穩(wěn)致遠(yuǎn)。對(duì)于人工智能體是否可以被賦予法律主體地位這一命題的討論,學(xué)界主要形成了三種觀點(diǎn),即肯定說(shuō)、否定說(shuō)與折中說(shuō)。學(xué)者們基于對(duì)人工智能發(fā)展的不同認(rèn)識(shí)與思考維度形成了三種迥異的學(xué)術(shù)觀點(diǎn),三種學(xué)說(shuō)瑕瑜互見(jiàn),既是對(duì)人工智能體是否應(yīng)被賦予法律主體地位的學(xué)術(shù)突破,亦存在著基于人工智能體發(fā)展認(rèn)識(shí)上的不足。

    (一)“肯定說(shuō)”“否定說(shuō)”和“折中說(shuō)”之對(duì)比

    1.肯定說(shuō)。顧名思義,“肯定說(shuō)”是主張賦予人工智能體法律地位的。伴隨著社會(huì)的進(jìn)步與發(fā)展,法律主體的外延范圍不斷進(jìn)行擴(kuò)展,支持“肯定說(shuō)”的學(xué)者們認(rèn)為人工智能由于其高智性,理應(yīng)具有相應(yīng)的法律關(guān)系主體地位,可以在法律上被視為獨(dú)立的人格存在,并且伴隨科技的飛速發(fā)展,賦予人工智能體以法律主體地位是無(wú)法阻擋的時(shí)代浪潮。

    持“肯定說(shuō)”的學(xué)者對(duì)人工智能體的發(fā)展持積極態(tài)度,認(rèn)為人工智能體的發(fā)展注定會(huì)突破原有法律關(guān)系主體認(rèn)定的框架。部分學(xué)者從歷史發(fā)展的角度考慮,認(rèn)為法律主體資格認(rèn)定的標(biāo)準(zhǔn)隨著時(shí)代的發(fā)展而發(fā)生變化,其內(nèi)涵與外延都在不斷豐富與完善,在人工智能發(fā)展的未來(lái),可以通過(guò)法律擬制的方式對(duì)人工智能體法律關(guān)系主體地位加以認(rèn)定。

    2.否定說(shuō)?!胺穸ㄕf(shuō)”認(rèn)為人工智能體不應(yīng)該被賦予法律主體地位,支持該學(xué)說(shuō)的學(xué)者認(rèn)為,人工智能體歸根結(jié)底是作為輔助人的工具而存在,不論其發(fā)展形式如何變化,也不論其智能化發(fā)展形態(tài)如何趨近于“人”,其根本屬性自始至終都是輔助人的工具,是法律關(guān)系的客體,不具有人類(lèi)作為法律關(guān)系主體所具有的行為能力和責(zé)任能力。吳漢東認(rèn)為,人工智能的獨(dú)立意志、學(xué)習(xí)的知識(shí)都是人類(lèi)通過(guò)技術(shù)為其創(chuàng)設(shè)的,根本上其并不具備人之心性與靈性,無(wú)法與人類(lèi)等同而論,不能賦予其法律地位。[1]人工智能技術(shù)的發(fā)展是為了給人類(lèi)的生活提供便利,其本質(zhì)為算法與概率,人工智能技術(shù)的發(fā)展與運(yùn)用處于人類(lèi)的設(shè)計(jì)與控制之下,因此無(wú)須賦予人工智能體以法律主體地位。

    3.折中說(shuō)?!罢壑姓f(shuō)”巧妙地避開(kāi)了“肯定說(shuō)”與“否定說(shuō)”的對(duì)立觀點(diǎn),對(duì)是否應(yīng)該賦予人工智能體以法律主體地位既不肯定,也不否定。其中以“第三種物質(zhì)說(shuō)”為“折中說(shuō)”的代表觀點(diǎn)。該觀點(diǎn)將人工智能體的性質(zhì)界定為一種處于人與物之間的第三種特殊存在,同時(shí)將人工智能體是否具有自主意識(shí)作為判別標(biāo)準(zhǔn),對(duì)不同類(lèi)別的人工智能體進(jìn)行區(qū)別看待,認(rèn)為弱人工智能不具備法律主體地位的資格,而對(duì)于超人工智能,因?yàn)槠浒l(fā)展程度超過(guò)人類(lèi)所賦予的技術(shù)能力,且其具備了獨(dú)立思考和行動(dòng)的能力,具有成為法律關(guān)系主體的可能。

    (二)“肯定說(shuō)”“否定說(shuō)”和“折中說(shuō)”之局限

    肯定說(shuō)、否定說(shuō)和折中說(shuō)都存在著一定的局限。對(duì)于“肯定說(shuō)”而言,目前人工智能處于感知智能的初期發(fā)展階段,人工智能體不具有獨(dú)立思考的能力,它們只是程序的被動(dòng)執(zhí)行者,是作為“輔助者”被應(yīng)用于現(xiàn)實(shí)生活中,它們沒(méi)有感情,無(wú)法應(yīng)對(duì)突發(fā)的變化,與人類(lèi)存在著根本上的差異。歸根結(jié)底,當(dāng)前人工智能體的存在依賴于人的操控。假若根據(jù)部分學(xué)者所持意見(jiàn)將其擬制為法律主體,從根本上回避了針對(duì)人工智能技術(shù)本質(zhì)的拷問(wèn),當(dāng)前人工智能體的行為都是取決于自然人的意思表示,沒(méi)有自己的思想與行為,與人的關(guān)系依然是無(wú)法割裂的。又如部分學(xué)者所持的“電子人格說(shuō)”,而電子人格作為一種新興概念,其范圍標(biāo)準(zhǔn)都不明確,對(duì)于其配套理論目前也并不完善,亦忽視了現(xiàn)階段人工智能的實(shí)際發(fā)展情況。

    “否定說(shuō)”采用“一刀切”的方式對(duì)人工智能體的法律主體地位進(jìn)行全盤(pán)否定,而忽略了人工智能體的自主學(xué)習(xí)能力和獨(dú)立思考能力。就目前發(fā)展階段而言,人工智能尚處于“弱人工智能”的發(fā)展階段[2],但對(duì)于人工智能的發(fā)展前景,是現(xiàn)階段無(wú)法估計(jì)和預(yù)料的。結(jié)合目前人工智能體表現(xiàn)出來(lái)的趨向于人的學(xué)習(xí)能力和智能水平[3],將其長(zhǎng)期定位于法律關(guān)系的客體勢(shì)必不足以滿足社會(huì)發(fā)展的現(xiàn)實(shí)需求。

    “折中說(shuō)”對(duì)尖銳的“是”與“非”問(wèn)題進(jìn)行回避,但實(shí)際上對(duì)于法律主體地位的確定應(yīng)予以明確,否則易引發(fā)更大的問(wèn)題。分析“折中說(shuō)”則可以發(fā)現(xiàn),實(shí)際上“折中說(shuō)”將人工智能整體進(jìn)行割裂處理,它作為客體的同時(shí)又以主體身份存在,同時(shí),提出“第三種物質(zhì)”概念,并不符合當(dāng)前法律體系的規(guī)定,不具有現(xiàn)實(shí)可操作性。此外,“折中說(shuō)”雖然對(duì)人工智能體的法律地位進(jìn)行了有條件的部分認(rèn)可,但是它對(duì)于人工智能體的發(fā)展仍然處于一種回避的中立態(tài)度,通過(guò)對(duì)人工智能體的權(quán)責(zé)劃分,最終回歸到將人作為最終責(zé)任承擔(dān)者,不具有時(shí)代發(fā)展的前瞻性。

    “肯定說(shuō)”對(duì)當(dāng)前人工智能發(fā)展階段認(rèn)識(shí)不清,有部分盲目樂(lè)觀之嫌;而“否定說(shuō)”無(wú)法應(yīng)對(duì)人工智能體向高智化發(fā)展的時(shí)代大勢(shì),因此結(jié)合兩家之言,本文認(rèn)為可以在人工智能體發(fā)展的高級(jí)階段賦予其法律主體地位。在智能化技術(shù)高速發(fā)展的階段,傳統(tǒng)的法律主體理論勢(shì)必?zé)o法滿足發(fā)展中的人工智能體的權(quán)責(zé)歸屬與責(zé)任承擔(dān)。此外,人工智能體的發(fā)展本質(zhì)上是研究人類(lèi)的智能,探索人腦、利用人腦,而人類(lèi)是有著高級(jí)智慧,能夠發(fā)掘自身潛能并加以利用的復(fù)雜個(gè)體集合,這也就意味著人工智能體發(fā)展的高級(jí)階段要具備全面的認(rèn)知和學(xué)習(xí)能力,形成對(duì)外界事物的全面認(rèn)知,有著獨(dú)立思考與自主行動(dòng)的能力,實(shí)現(xiàn)與人類(lèi)的深度對(duì)話,雖然其脫胎于人類(lèi),但不能以單純的行為對(duì)象對(duì)其進(jìn)行界定,而要將其視為獨(dú)立的存在,賦予其法律上獨(dú)立的人格,使其擁有獨(dú)立的權(quán)利能力與責(zé)任能力,在法律的框架內(nèi)得到規(guī)制與保護(hù)。

    二、賦予人工智能體法律主體地位的理論必要與現(xiàn)實(shí)可能

    人工智能的核心是利用智能技術(shù)模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為,從而為人類(lèi)生活創(chuàng)造便利。伴隨著人類(lèi)社會(huì)進(jìn)入智能化時(shí)代,人工智能技術(shù)的發(fā)展將促使人工智能體進(jìn)行深度學(xué)習(xí),更大范圍地參與到社會(huì)生活當(dāng)中,更深度地融入智能社會(huì)。從理論層面與現(xiàn)實(shí)角度梳理賦予人工智能體以法律地位的必要性與可能性,將人工智能體納入法律關(guān)系主體范圍進(jìn)行考量,能為應(yīng)對(duì)人工智能發(fā)展所面臨的法律困境提供思考維度。

    (一)賦予人工智能體法律主體地位的理論必要

    第一,從法律主體范圍擴(kuò)張的規(guī)律來(lái)看,法律主體的認(rèn)定標(biāo)準(zhǔn)隨著時(shí)代發(fā)展而不斷發(fā)展變化。法律主體的范圍并非一定不易的[4],而是隨著社會(huì)發(fā)展而不斷進(jìn)行拓展,逐漸涵蓋了各類(lèi)主體;自然人也并非天然即擁有法律關(guān)系主體地位,也并非每一個(gè)法律主體自其誕生以來(lái)都是平等的。隨著經(jīng)濟(jì)發(fā)展,出現(xiàn)了法人、合伙企業(yè)等不具有法律實(shí)體但卻同樣具有法律人格的主體,因此,賦予法律關(guān)系主體地位已經(jīng)從倫理本位逐漸發(fā)展為“滿足社會(huì)的需要”的價(jià)值本位,目前對(duì)于法律主體人格的判定并不要求當(dāng)然具有倫理性,這一具有價(jià)值趨向性的判別標(biāo)準(zhǔn)已經(jīng)成為是否賦予法律主體地位的主要考量。而人工智能是以“人”為導(dǎo)向進(jìn)行研發(fā)的,具備類(lèi)人的學(xué)習(xí)和行動(dòng)能力。社會(huì)的經(jīng)濟(jì)增長(zhǎng)有賴于經(jīng)濟(jì)創(chuàng)新為其提供發(fā)展動(dòng)力,因此想要人工智能獲得長(zhǎng)足的發(fā)展,勢(shì)必要為其提供新的發(fā)展動(dòng)能。

    第二,賦予人工智能體法律主體地位的根本目的是化解人類(lèi)所面臨的由人工智能發(fā)展所帶來(lái)的法律風(fēng)險(xiǎn)。法律的創(chuàng)設(shè)旨在為維護(hù)人類(lèi)利益提供方法與途徑,人不是手段,而是目的。在法律上賦予人工智能以主體人格,根本目的亦在于解決人工智能體帶來(lái)的法律風(fēng)險(xiǎn),法律制度的創(chuàng)設(shè)和更新都是將滿足人類(lèi)的需求和推動(dòng)人類(lèi)的發(fā)展作為其出發(fā)點(diǎn)和落腳點(diǎn)。而人工智能的發(fā)展也是一把雙刃劍,在為人類(lèi)生活帶來(lái)便利的同時(shí),也產(chǎn)生了相應(yīng)的社會(huì)問(wèn)題。因此,賦予人工智能體法律主體地位[5],使人工智能體在一定程度上可以對(duì)自己的行為承擔(dān)相應(yīng)的責(zé)任,對(duì)人工智能體生產(chǎn)者、使用者、所有者、受害者的責(zé)任進(jìn)行明晰,亦可以有效推動(dòng)人工智能的發(fā)展,也會(huì)對(duì)司法的發(fā)展產(chǎn)生促進(jìn)作用。

    第三,認(rèn)定人工智能體法律主體地位能夠?yàn)榻鉀Q人工智能體帶來(lái)的法律風(fēng)險(xiǎn)提供現(xiàn)實(shí)解決方案。目前,伴隨著人工智能科技的革新發(fā)展,人工智能體不斷涌現(xiàn),在其廣泛應(yīng)用到社會(huì)生活的同時(shí),也會(huì)引發(fā)一系列新的法律問(wèn)題,例如,人工智能體所創(chuàng)造的作品是否具有著作權(quán);無(wú)人駕駛汽車(chē)導(dǎo)致的侵權(quán)損害應(yīng)如何歸責(zé);甚至于計(jì)算機(jī)程序之間因?yàn)闊o(wú)法兼容而導(dǎo)致的算法競(jìng)爭(zhēng)。在這種境況之下,再將人工智能體視為法律關(guān)系“客體”看待,已不足以解決人類(lèi)社會(huì)所面臨的人工智能發(fā)展與應(yīng)用所導(dǎo)致的問(wèn)題,而通過(guò)賦予人工智能體以法律主體地位,破除“非人即物”的固有觀念,可以為人工智能發(fā)展問(wèn)題的解決提供切實(shí)有效的法律路徑。

    (二)賦予人工智能體法律主體地位的現(xiàn)實(shí)可能

    人工智能體理論上具備賦予其法律主體地位的必要性,賦予人工智能體法律主體地位也具備現(xiàn)實(shí)實(shí)現(xiàn)的可能性。

    第一,從人工智能技術(shù)自身發(fā)展而言,能否賦予其法律主體地位,本質(zhì)上即要分析人工智能體是否符合法律關(guān)系主體的構(gòu)成要素。首先,在民法基本法的理論框架下,法律關(guān)系主體必須具備權(quán)利能力與行為能力,成為法律關(guān)系主體的權(quán)利來(lái)源于獨(dú)立的法律人格,即第一層面的權(quán)利能力。李永軍認(rèn)為,權(quán)利能力是法律技術(shù)性的表達(dá)且無(wú)倫理性,那么只要人工智能更具有智能性,并向人的行為靠攏,就可以被賦予權(quán)利能力。在未來(lái)的強(qiáng)人工智能階段,人工智能體的發(fā)展更趨向于人的行動(dòng),并可以進(jìn)行獨(dú)立思考,具備高智性的特點(diǎn),人工智能體有被賦予權(quán)利能力的現(xiàn)實(shí)可能。其次,人工智能體成為法律主體要求其具備相應(yīng)的責(zé)任能力,即可以對(duì)自身行為承擔(dān)責(zé)任,這是成為法律關(guān)系主體的必然要求。對(duì)于未來(lái)強(qiáng)人工智能階段人工智能體的責(zé)任承擔(dān)問(wèn)題,可以通過(guò)設(shè)立人工智能儲(chǔ)備基金或者對(duì)人工智能體架設(shè)強(qiáng)制性保險(xiǎn)機(jī)制來(lái)解決。最后,人工智能體是否具有獨(dú)立的意志,即人工智能體是否可以在不受人類(lèi)干預(yù)的情況下獨(dú)立、完整地作出自主判斷,并進(jìn)行相關(guān)活動(dòng)?!度斯ぶ悄軜?biāo)準(zhǔn)化白皮書(shū)(2018版)》早在2018年就已經(jīng)提出了人工智能獨(dú)立思考的可能性,人工智能體的獨(dú)立意志有賴于智能技術(shù)的發(fā)展與創(chuàng)新,就目前而言,人工智能體確實(shí)依賴于人類(lèi)的編程與操作,但在強(qiáng)人工智能階段,人工智能體的發(fā)展勢(shì)必會(huì)突破現(xiàn)有的技術(shù)局限,因而對(duì)于人工智能體是否具有獨(dú)立的意志,應(yīng)以發(fā)展的眼光看待。

    第二,從人工智能體的現(xiàn)實(shí)應(yīng)用路徑看。首先,在人工智能體主體身份方面,2017年沙特授予人工智能機(jī)器人“索菲亞”以公民身份[6],這是全球第一位擁有公民身份的機(jī)器人,對(duì)“索菲亞”的公民身份的承認(rèn)并不單純是對(duì)其身份的認(rèn)可,更深層次而言,公民身份獲得的前提是對(duì)其法律主體或者權(quán)利主體資格的肯定[7];美國(guó)國(guó)家公路安全交通局將Google無(wú)人駕駛汽車(chē)所采用的人工智能體認(rèn)定為司機(jī);日本基于個(gè)案賦予陪護(hù)機(jī)器人“帕羅”以戶籍地位。其次,在知識(shí)產(chǎn)權(quán)歸屬方面,南非被認(rèn)為是世界上第一個(gè)授予人工智能發(fā)明專利的國(guó)家——將一種基于分形幾何的連鎖食品和飲料容器的專利確定“達(dá)布斯”(統(tǒng)一感知的自主引導(dǎo)裝置)為其發(fā)明者;百度發(fā)布的《百度人工智能專利白皮書(shū)2022》中顯示,截至2022年4月,百度全球人工智能專利申請(qǐng)超過(guò)2.2萬(wàn);北京聯(lián)合出版有限公司將署名為人工智能體“小冰”的“人類(lèi)史上首部人工智能靈思詩(shī)集”進(jìn)行出版。此外,目前生成式人工智能ChatGPT的廣泛應(yīng)用,其生成物是否具有知識(shí)產(chǎn)權(quán)引發(fā)激烈討論。最后,在人工智能體的責(zé)任分配方面,伴隨著人工智能的深度學(xué)習(xí)能力的發(fā)展,例如達(dá)·芬奇手術(shù)機(jī)器人、無(wú)人駕駛汽車(chē)等可能會(huì)出現(xiàn)的侵權(quán)風(fēng)險(xiǎn),也亟須賦予其法律主體地位,使其在法律上承擔(dān)相應(yīng)的責(zé)任成為現(xiàn)實(shí)可能。因此,賦予人工智能體以獨(dú)立的法律主體地位亦是社會(huì)發(fā)展的現(xiàn)實(shí)需求。

    三、人工智能體法律地位的系統(tǒng)規(guī)制

    將人工智能體發(fā)展納入法律治理的框架之下,通過(guò)系統(tǒng)規(guī)制對(duì)人工智能體的法律地位予以明確,規(guī)范人工智能發(fā)展,協(xié)調(diào)人工智能體與社會(huì)主體之間可能潛在的法律沖突,通過(guò)技術(shù)規(guī)范與倫理保障,推動(dòng)人工智能與法治社會(huì)的協(xié)調(diào)發(fā)展。通過(guò)立法回應(yīng)與制度關(guān)照,實(shí)現(xiàn)良法善治,推動(dòng)人類(lèi)社會(huì)與人工智能發(fā)展的同心同向同力同行。[8]

    (一)探索人工智能體的立法架構(gòu)

    第一,要對(duì)人工智能體的法律地位進(jìn)行明確界定。以人工智能技術(shù)迅猛發(fā)展的勢(shì)頭,在未來(lái)其勢(shì)必會(huì)突破現(xiàn)有立法框架的窠臼。目前,我國(guó)雖然在宏觀政策與行業(yè)規(guī)劃上對(duì)人工智能發(fā)展予以肯定與支持,并逐步從人工智能技術(shù)的旁觀者發(fā)展為引領(lǐng)人,但對(duì)于人工智能體的法律地位仍沒(méi)有明確的法律規(guī)范進(jìn)行界定。法律具有滯后性,但法律的制定要求立法者能夠具備前瞻性。因此,我國(guó)需要補(bǔ)足人工智能體法律規(guī)范的短板,通過(guò)制定與完善相關(guān)法律法規(guī),對(duì)不同發(fā)展階段的人工智能體從法律層面予以界定并加以規(guī)制,以法律促進(jìn)人工智能技術(shù)的良性發(fā)展,以人工智能技術(shù)的發(fā)展推動(dòng)法律的完善與進(jìn)步。

    第二,要對(duì)人工智能體權(quán)利的標(biāo)準(zhǔn)與范圍進(jìn)行明確。人工智能體發(fā)展到高級(jí)階段,具備深度學(xué)習(xí)能力與在獨(dú)立意志支配下的自主行動(dòng)能力,需要對(duì)它的權(quán)利邊界進(jìn)行明確的劃定。人工智能體的發(fā)展初衷是更好地滿足人類(lèi)的需求,那么人工智能體法律上的權(quán)利義務(wù)關(guān)系亦應(yīng)在人類(lèi)所設(shè)的標(biāo)準(zhǔn)之下,其權(quán)利的行使也應(yīng)該在嚴(yán)格的限制之中。面對(duì)發(fā)展著的人工智能技術(shù),不能采用列舉法對(duì)人工智能體的權(quán)利加以規(guī)制,而應(yīng)對(duì)人工智能體的權(quán)利范圍進(jìn)行兜底式規(guī)制。在對(duì)人工智能體權(quán)利標(biāo)準(zhǔn)與范圍的劃分這一問(wèn)題上,要結(jié)合現(xiàn)實(shí)社會(huì)的實(shí)際發(fā)展需求,既要賦予其相應(yīng)的權(quán)利,也要對(duì)其權(quán)利行使的標(biāo)準(zhǔn)與范圍進(jìn)行嚴(yán)格限定,實(shí)現(xiàn)人工智能技術(shù)的長(zhǎng)效發(fā)展。

    (二)明確人工智能體侵權(quán)行為的責(zé)任歸屬

    明確人工智能體侵權(quán)行為的責(zé)任歸屬,可以說(shuō)是處理人工智能體侵權(quán)問(wèn)題的痛點(diǎn)與難點(diǎn)。

    第一,目前,我國(guó)法律尚未對(duì)人工智能體法律地位進(jìn)行界定,加之由于無(wú)法明確人工智能體的責(zé)任歸屬,使人工智能體歸責(zé)后續(xù)責(zé)任承擔(dān)問(wèn)題一直處于懸而未決的困境之中。將人工智能體視為法律關(guān)系主體,是人工智能體承擔(dān)侵權(quán)責(zé)任的先決條件?!吨腥A人民共和國(guó)民法典》明確規(guī)定,承擔(dān)侵權(quán)責(zé)任要求主體必須適格。當(dāng)前,人工智能體并非適格的侵權(quán)責(zé)任主體,針對(duì)《中華人民共和國(guó)民法典》中有關(guān)侵權(quán)責(zé)任編的具體規(guī)定無(wú)法進(jìn)行適用。在人工智能技術(shù)高度發(fā)展的前提下,應(yīng)賦予人工智能體以法律主體地位,使人工智能體成為適格的法律關(guān)系主體,使其具有參與法律關(guān)系的“入場(chǎng)券”,為其侵權(quán)責(zé)任承擔(dān)提供路徑[9]。通過(guò)賦予其法律主體地位也為其擁有獨(dú)立財(cái)產(chǎn)權(quán)提供了基礎(chǔ)條件,為其后續(xù)責(zé)任承擔(dān)提供了可能。

    第二,在理論上即便對(duì)人工智能體的法律地位予以認(rèn)可,但在短期內(nèi)其無(wú)法實(shí)現(xiàn)與人類(lèi)比肩的責(zé)任能力,即它雖然具有完整的權(quán)利能力,但其責(zé)任能力的承擔(dān)范圍可能并不能與完全能夠承擔(dān)獨(dú)立責(zé)任的法律主體相比,但作為法律關(guān)系的主體,參與到社會(huì)活動(dòng)當(dāng)中,相應(yīng)地,其理應(yīng)承擔(dān)相應(yīng)的法律責(zé)任。承認(rèn)人工智能體獨(dú)立的法律人格可能更有助于厘清法律關(guān)系,劃分人工智能體具體的權(quán)利義務(wù),將致害責(zé)任進(jìn)行合理分擔(dān),更好地將人工智能發(fā)展納入法制軌道中。例如,為人工智能體強(qiáng)制投保責(zé)任保險(xiǎn),將人工智能體可能存在的現(xiàn)實(shí)風(fēng)險(xiǎn)利用保險(xiǎn)進(jìn)行轉(zhuǎn)移;又如設(shè)立人工智能體發(fā)展基金,為人工智能體獨(dú)立承擔(dān)責(zé)任提供現(xiàn)實(shí)基礎(chǔ)。

    (三)加強(qiáng)人工智能領(lǐng)域的技術(shù)保障

    第一,要對(duì)人工智能設(shè)計(jì)程序加強(qiáng)技術(shù)規(guī)范。人工智能體根植于人工智能技術(shù),至于強(qiáng)人工智能,縱使它可以進(jìn)行獨(dú)立思考并進(jìn)行深度學(xué)習(xí),在創(chuàng)設(shè)之初也都是采用人工智能設(shè)計(jì)程序?qū)ζ溥M(jìn)行編寫(xiě)方可使其不斷發(fā)展,人工智能設(shè)計(jì)程序造就了人工智能體的“性格”,決定了它在后續(xù)深度學(xué)習(xí)中與人類(lèi)社會(huì)的契合度,以及以何種姿態(tài)參與到社會(huì)生產(chǎn)生活中。例如,在與人類(lèi)的相處之中,可以成立專家團(tuán)加強(qiáng)對(duì)人工智能技術(shù)的管控,進(jìn)行技術(shù)報(bào)備,設(shè)立統(tǒng)一的程序編寫(xiě)平臺(tái)對(duì)其進(jìn)行實(shí)時(shí)評(píng)估等。

    第二,要對(duì)人工智能開(kāi)發(fā)階段的程序設(shè)計(jì)提高適用門(mén)檻。對(duì)開(kāi)發(fā)階段的編寫(xiě)代碼進(jìn)行實(shí)質(zhì)審查,對(duì)安全性、保密性、合規(guī)性進(jìn)行全過(guò)程監(jiān)管,從開(kāi)發(fā)源頭避免人工智能體在實(shí)際應(yīng)用中的可能性風(fēng)險(xiǎn)。例如,可以在開(kāi)發(fā)程序設(shè)計(jì)內(nèi)部設(shè)置風(fēng)險(xiǎn)預(yù)警機(jī)制,一旦發(fā)現(xiàn)有疑似違規(guī)行為,立即進(jìn)行警示反應(yīng)并溯源到具體行為人,以技促技,為人工智能的發(fā)展保駕護(hù)航。

    (四)完善人工智能領(lǐng)域的法律監(jiān)管與倫理規(guī)范

    法律是調(diào)整社會(huì)關(guān)系的主要工具,但法律具有不可避免的滯后性,因?yàn)闉榱吮WC法律的權(quán)威性和公平性,需要經(jīng)過(guò)嚴(yán)格且漫長(zhǎng)的立法程序。在法律保障層面,一方面,要通過(guò)法律適用對(duì)人工智能發(fā)展進(jìn)行正向引導(dǎo)與規(guī)制,如不能及時(shí)加以規(guī)制,易使人工智能發(fā)展不受約束,可能會(huì)存在人工智能體擾亂社會(huì)秩序、威脅社會(huì)安定的風(fēng)險(xiǎn);另一方面,可以通過(guò)政府介入,對(duì)人工智能技術(shù)的發(fā)展進(jìn)行引導(dǎo)與管控,同時(shí)建立專業(yè)機(jī)構(gòu)進(jìn)行實(shí)時(shí)綜合監(jiān)管,使設(shè)計(jì)、研發(fā)成員遵守倫理規(guī)則并積極承擔(dān)社會(huì)責(zé)任,使相應(yīng)的制度與機(jī)構(gòu)配套協(xié)調(diào)發(fā)展。此外,人工智能法律監(jiān)管的機(jī)制設(shè)立需要接入國(guó)際人工智能法律監(jiān)管機(jī)制的軌道當(dāng)中,為防范人工智能技術(shù)發(fā)展所帶來(lái)的潛在法律問(wèn)題,需要及時(shí)對(duì)人工智能法律監(jiān)管機(jī)制進(jìn)行提質(zhì)升級(jí),并借鑒國(guó)外的優(yōu)秀經(jīng)驗(yàn)。

    此外,在注重法律保障的同時(shí),也要兼顧倫理規(guī)范保障?!度斯ぶ悄軅惱碇卫順?biāo)準(zhǔn)化指南(2023版)》從全球戰(zhàn)略角度加強(qiáng)倫理規(guī)范在人工智能發(fā)展領(lǐng)域的應(yīng)用,以期建立人工智能倫理治理標(biāo)準(zhǔn)體系與具體標(biāo)準(zhǔn)研制規(guī)范。人工智能發(fā)展的倫理規(guī)范機(jī)制可以將人本位思想作為中心思想貫穿于人工智能的發(fā)展過(guò)程。賦予人工智能體法律主體地位的目的在于更好地保障人類(lèi)的合法權(quán)益。人工智能技術(shù)的發(fā)展本質(zhì)上是為了更好地為人類(lèi)服務(wù)并在現(xiàn)實(shí)生活中為其提供便利,因此,在確立人工智能倫理規(guī)范時(shí)必須堅(jiān)持人本位的中心思想。同時(shí),確立人本位的中心思想是為了使人工智能研發(fā)、創(chuàng)造、發(fā)展的全過(guò)程都可以始終將滿足人類(lèi)的發(fā)展需求作為目標(biāo)和方向,尊重人的尊嚴(yán)與價(jià)值。此外,人工智能倫理規(guī)范的確立需要遵循協(xié)調(diào)發(fā)展原則。人工智能技術(shù)的發(fā)展為現(xiàn)代生活的智能化發(fā)展提供了新契機(jī),同時(shí)由于人工智能在一些體力型工作上大規(guī)模應(yīng)用,取代了傳統(tǒng)人力,使就業(yè)崗位減少,對(duì)工作崗位的要求越來(lái)越專業(yè)化、高素質(zhì)化,因此,在推動(dòng)人工智能發(fā)展的同時(shí),也需要協(xié)調(diào)由于其發(fā)展所帶來(lái)的不相適宜的問(wèn)題。

    四、結(jié)語(yǔ)

    人工智能技術(shù)的進(jìn)步推動(dòng)了社會(huì)生活的智能化發(fā)展,為現(xiàn)代人類(lèi)生活創(chuàng)設(shè)了更多便利,也給人類(lèi)社會(huì)帶來(lái)了一系列新的發(fā)展問(wèn)題,同時(shí)在一定程度上對(duì)人類(lèi)的生存發(fā)展提出了挑戰(zhàn)[10]。就目前人工智能的發(fā)展現(xiàn)狀,結(jié)合未來(lái)的發(fā)展前景,將人工智能體長(zhǎng)期歸類(lèi)于法律關(guān)系的客體,不僅會(huì)阻礙人工智能技術(shù)的長(zhǎng)遠(yuǎn)發(fā)展,同時(shí)對(duì)于解決人工智能體所引發(fā)的法律問(wèn)題與潛在風(fēng)險(xiǎn)也毫無(wú)裨益。對(duì)于是否應(yīng)肯定人工智能體法律主體地位,應(yīng)該在秉持謹(jǐn)慎性的同時(shí),在一定的發(fā)展背景下對(duì)法律主體范圍進(jìn)行擴(kuò)張解釋,為人工智能發(fā)展釋放新動(dòng)能。當(dāng)然,我們不能放棄嚴(yán)謹(jǐn)性的原則,對(duì)人工智能體在一定條件下被賦予法律主體的后續(xù)制度安排,也要進(jìn)一步統(tǒng)籌優(yōu)化,為其具體適用提供完善的程序和制度保障。賦予人工智能體法律主體地位是時(shí)代發(fā)展的現(xiàn)實(shí)要求[11],也是推動(dòng)人工智能技術(shù)發(fā)展的必然選擇,我們要進(jìn)一步加強(qiáng)相關(guān)制度的構(gòu)建和法律保障,為人工智能發(fā)展所帶來(lái)的問(wèn)題提供法律路徑,通過(guò)法律促進(jìn)人工智能的長(zhǎng)足發(fā)展。

    參考文獻(xiàn):

    [1]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2017,35(5):128-136.

    [2]汪慶華.人工智能的法律規(guī)制路徑:一個(gè)框架性討論[J].現(xiàn)代法學(xué),2019(2):54-63.

    [3]呂尚彬,黃榮.智能技術(shù)體“域定”傳媒的三重境界:未來(lái)世界傳播圖景展望[J].現(xiàn)代傳播(中國(guó)傳媒大學(xué)學(xué)報(bào)),2018(11):37-45.

    [4]劉云.論人工智能的法律人格制度需求與多層應(yīng)對(duì)[J].東方法學(xué),2021(1):61-73.

    [5]彭誠(chéng)信,陳吉棟.論人工智能體法律人格的考量要素[J].當(dāng)代法學(xué),2019(2):52-62.

    [6]程承坪.論人工智能的自主性[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2022(1):43-51.

    [7]范進(jìn)學(xué).人工智能法律主體論:現(xiàn)在與未來(lái)[J].政法論叢,2022(3):3-17.

    [8]李海娟.人工智能主體化的法律應(yīng)對(duì)——以未來(lái)強(qiáng)人工智能的出現(xiàn)為視角[J].對(duì)外經(jīng)貿(mào),2022(10):76-79.

    [9]姚遠(yuǎn),劉迎迎.人工智能法律主體性的考察和探究[J].青島科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2019(1):85-90.

    [10]何欣蔚,夏建國(guó).人工智能法律主體地位問(wèn)題研究[J].大學(xué)教育,2020(10):143-146.

    [11]程龍.人工智能體刑事訴訟被追訴人地位審思[J].學(xué)術(shù)交流,2020(7):79-93.

    責(zé)任編輯? 宋桂祝

    猜你喜歡
    法律地位行為能力法律風(fēng)險(xiǎn)
    高校學(xué)生管理中大學(xué)生人格權(quán)的保護(hù)
    完善我國(guó)現(xiàn)行合伙制度的構(gòu)想
    從“成路15輪”看保險(xiǎn)經(jīng)紀(jì)人的法律地位和義務(wù)
    論間接義務(wù)
    合伙企業(yè)法律風(fēng)險(xiǎn)實(shí)證分析
    淺析商業(yè)銀行法律風(fēng)險(xiǎn)防控體系優(yōu)化建設(shè)過(guò)程中存在的問(wèn)題及對(duì)策
    法制博覽(2016年11期)2016-11-14 10:57:01
    淺析大學(xué)生創(chuàng)業(yè)法制教育存在的問(wèn)題及對(duì)策
    文教資料(2016年19期)2016-11-07 10:57:54
    P2B模式法律風(fēng)險(xiǎn)問(wèn)題研究
    商情(2016年11期)2016-04-15 07:47:32
    基于行為能力培訓(xùn)的組織人才戰(zhàn)略管理研究
    通信部隊(duì)作業(yè)人員電磁輻射暴露對(duì)神經(jīng)行為能力的影響
    久久精品人人爽人人爽视色| av视频免费观看在线观看| 高潮久久久久久久久久久不卡| 国产黄色免费在线视频| 亚洲伊人色综图| 亚洲欧美日韩高清在线视频 | 国产97色在线日韩免费| 欧美日韩成人在线一区二区| 久久久久精品人妻al黑| av在线播放免费不卡| 国产亚洲av高清不卡| 国产精品一区二区在线不卡| 最新的欧美精品一区二区| 美女高潮到喷水免费观看| videos熟女内射| 我要看黄色一级片免费的| 自拍欧美九色日韩亚洲蝌蚪91| 色精品久久人妻99蜜桃| 在线永久观看黄色视频| 欧美日韩黄片免| 亚洲国产欧美日韩在线播放| 美女国产高潮福利片在线看| 欧美一级毛片孕妇| 久久午夜亚洲精品久久| 国产精品一区二区在线观看99| 日本欧美视频一区| 国产亚洲一区二区精品| 99国产精品99久久久久| 婷婷丁香在线五月| 亚洲人成电影观看| 久久中文看片网| 在线观看www视频免费| 国产成人免费无遮挡视频| 国产成人精品久久二区二区免费| 欧美黄色淫秽网站| 欧美精品人与动牲交sv欧美| 日韩熟女老妇一区二区性免费视频| 十八禁高潮呻吟视频| 国产精品99久久99久久久不卡| 久久影院123| 极品人妻少妇av视频| av超薄肉色丝袜交足视频| 亚洲av日韩精品久久久久久密| 成人国产一区最新在线观看| 99国产精品99久久久久| 熟女少妇亚洲综合色aaa.| 免费在线观看黄色视频的| 中文字幕另类日韩欧美亚洲嫩草| 无遮挡黄片免费观看| 日韩中文字幕欧美一区二区| 亚洲精品av麻豆狂野| 一级片'在线观看视频| 在线观看免费午夜福利视频| 两性夫妻黄色片| 亚洲欧美色中文字幕在线| 国产精品亚洲一级av第二区| 免费一级毛片在线播放高清视频 | 两性夫妻黄色片| 久久人妻福利社区极品人妻图片| 宅男免费午夜| 亚洲第一av免费看| 黄色 视频免费看| 国产精品一区二区精品视频观看| 一区二区三区国产精品乱码| 久久 成人 亚洲| 日韩中文字幕视频在线看片| 日本一区二区免费在线视频| 国产成人精品久久二区二区91| 狠狠狠狠99中文字幕| 久久久久精品人妻al黑| 亚洲少妇的诱惑av| 超碰成人久久| 日日摸夜夜添夜夜添小说| 午夜成年电影在线免费观看| 成人国语在线视频| 欧美黄色淫秽网站| 亚洲国产精品一区二区三区在线| 国产在线免费精品| 精品亚洲成国产av| 午夜两性在线视频| 国产1区2区3区精品| 欧美另类亚洲清纯唯美| 日本av免费视频播放| 国产亚洲精品久久久久5区| 欧美亚洲 丝袜 人妻 在线| 久久免费观看电影| 日本黄色日本黄色录像| 91麻豆精品激情在线观看国产 | 精品人妻在线不人妻| 不卡一级毛片| 亚洲成人免费电影在线观看| 黄色视频在线播放观看不卡| 国产精品99久久99久久久不卡| 香蕉国产在线看| 一本一本久久a久久精品综合妖精| 蜜桃国产av成人99| 成人特级黄色片久久久久久久 | 中文字幕精品免费在线观看视频| av电影中文网址| 日韩免费高清中文字幕av| 精品国产国语对白av| 欧美久久黑人一区二区| 丰满迷人的少妇在线观看| 青青草视频在线视频观看| 国产熟女午夜一区二区三区| 久久天躁狠狠躁夜夜2o2o| 国产欧美亚洲国产| 日韩三级视频一区二区三区| 午夜福利视频在线观看免费| 激情视频va一区二区三区| 热re99久久精品国产66热6| 亚洲精品国产区一区二| 在线观看66精品国产| 老熟妇乱子伦视频在线观看| 国产精品国产高清国产av | 亚洲 欧美一区二区三区| 精品国产美女av久久久久小说| 又粗又爽又猛毛片免费看| 搡老熟女国产l中国老女人| 国产v大片淫在线免费观看| 国产精品美女特级片免费视频播放器 | 免费av毛片视频| 丰满人妻一区二区三区视频av | 啦啦啦观看免费观看视频高清| 最近最新中文字幕大全电影3| 观看免费一级毛片| 一级毛片女人18水好多| 99在线视频只有这里精品首页| 狠狠狠狠99中文字幕| 哪里可以看免费的av片| 国产欧美日韩一区二区三| 亚洲自拍偷在线| 又粗又爽又猛毛片免费看| 熟女电影av网| 网址你懂的国产日韩在线| 亚洲自偷自拍图片 自拍| 欧美高清成人免费视频www| 成人一区二区视频在线观看| 午夜精品一区二区三区免费看| 亚洲天堂国产精品一区在线| 精品久久久久久久久久久久久| 午夜成年电影在线免费观看| www.精华液| 欧美另类亚洲清纯唯美| 欧美丝袜亚洲另类 | 免费看十八禁软件| 搡老妇女老女人老熟妇| 亚洲七黄色美女视频| 亚洲精品粉嫩美女一区| 成年人黄色毛片网站| 中文字幕人妻丝袜一区二区| 亚洲激情在线av| 久久精品国产清高在天天线| 亚洲激情在线av| 99精品欧美一区二区三区四区| 国内揄拍国产精品人妻在线| 午夜a级毛片| 久久人人精品亚洲av| 精品国产三级普通话版| 欧美午夜高清在线| 国产高清视频在线观看网站| 国产av不卡久久| 亚洲av电影在线进入| 18禁美女被吸乳视频| 精品久久久久久久末码| av女优亚洲男人天堂 | 校园春色视频在线观看| 午夜久久久久精精品| 三级毛片av免费| 嫁个100分男人电影在线观看| 免费观看的影片在线观看| 午夜福利免费观看在线| 长腿黑丝高跟| 国产私拍福利视频在线观看| 99精品欧美一区二区三区四区| 美女免费视频网站| 九九久久精品国产亚洲av麻豆 | 欧美日韩乱码在线| 国产精品久久视频播放| 1024手机看黄色片| 国内精品久久久久久久电影| 免费在线观看成人毛片| 高清在线国产一区| 国产亚洲精品综合一区在线观看| 亚洲国产精品合色在线| 成人特级黄色片久久久久久久| 国产av在哪里看| 亚洲中文字幕一区二区三区有码在线看 | 亚洲人与动物交配视频| 欧美色视频一区免费| 国产成人aa在线观看| 18禁黄网站禁片午夜丰满| xxxwww97欧美| 99久久综合精品五月天人人| 美女扒开内裤让男人捅视频| 99久久成人亚洲精品观看| 精品一区二区三区av网在线观看| 中文资源天堂在线| 国产精品99久久99久久久不卡| 一进一出好大好爽视频| 男女做爰动态图高潮gif福利片| 久久精品aⅴ一区二区三区四区| 99精品欧美一区二区三区四区| 免费电影在线观看免费观看| 热99在线观看视频| 亚洲av成人av| 88av欧美| 91av网站免费观看| 国产亚洲av嫩草精品影院| 老司机午夜十八禁免费视频| www.熟女人妻精品国产| 欧美一级a爱片免费观看看| 久久热在线av| 99热精品在线国产| 国产免费男女视频| 婷婷精品国产亚洲av| av在线蜜桃| 国产av在哪里看| 在线视频色国产色| 国产精品一区二区三区四区久久| av在线天堂中文字幕| 久久久久九九精品影院| 老司机午夜十八禁免费视频| 欧美大码av| 中文资源天堂在线| 欧美日韩黄片免| 一a级毛片在线观看| 此物有八面人人有两片| 久久人人精品亚洲av| 人人妻人人澡欧美一区二区| 长腿黑丝高跟| 欧美黄色片欧美黄色片| 日本 欧美在线| av视频在线观看入口| 国产成人aa在线观看| 一级作爱视频免费观看| 亚洲欧美精品综合久久99| 精品一区二区三区四区五区乱码| 精品久久久久久成人av| 国产成人精品久久二区二区免费| 国产黄片美女视频| 亚洲自拍偷在线| 九色成人免费人妻av| 性色avwww在线观看| 最新在线观看一区二区三区| 精品久久久久久久久久免费视频| 国产精品亚洲一级av第二区| 欧美午夜高清在线| 欧美性猛交黑人性爽| 听说在线观看完整版免费高清| 高清毛片免费观看视频网站| 日本一二三区视频观看| 久久这里只有精品19| 一卡2卡三卡四卡精品乱码亚洲| 久久久精品大字幕| 国产精品亚洲美女久久久| 在线观看免费视频日本深夜| 又粗又爽又猛毛片免费看| 久久99热这里只有精品18| 99国产综合亚洲精品| 男人的好看免费观看在线视频| 国产精品美女特级片免费视频播放器 | 女警被强在线播放| 少妇的丰满在线观看| 又爽又黄无遮挡网站| 中文字幕最新亚洲高清| 国产av麻豆久久久久久久| av天堂中文字幕网| 国产成人系列免费观看| 色综合站精品国产| 男人的好看免费观看在线视频| 免费在线观看亚洲国产| 91麻豆av在线| 高潮久久久久久久久久久不卡| 天堂av国产一区二区熟女人妻| 国内精品一区二区在线观看| 亚洲成人久久性| 黄片小视频在线播放| 亚洲熟妇熟女久久| 亚洲av第一区精品v没综合| 中文字幕精品亚洲无线码一区| 怎么达到女性高潮| 国产精品久久久久久久电影 | 999精品在线视频| 搡老岳熟女国产| 亚洲无线在线观看| 嫁个100分男人电影在线观看| 日韩欧美在线二视频| 欧美中文综合在线视频| 变态另类成人亚洲欧美熟女| 精品国产超薄肉色丝袜足j| 亚洲精品美女久久久久99蜜臀| 后天国语完整版免费观看| 亚洲欧洲精品一区二区精品久久久| 精品一区二区三区av网在线观看| 亚洲自偷自拍图片 自拍| 91在线观看av| 99国产极品粉嫩在线观看| 2021天堂中文幕一二区在线观| 岛国视频午夜一区免费看| 中亚洲国语对白在线视频| 国产97色在线日韩免费| 法律面前人人平等表现在哪些方面| 日本熟妇午夜| 97碰自拍视频| 露出奶头的视频| 久久性视频一级片| 国内久久婷婷六月综合欲色啪| 熟妇人妻久久中文字幕3abv| 每晚都被弄得嗷嗷叫到高潮| 欧美色欧美亚洲另类二区| 亚洲国产精品久久男人天堂| 中文资源天堂在线| 亚洲av成人不卡在线观看播放网| 国产精品免费一区二区三区在线| 免费大片18禁| 熟女人妻精品中文字幕| 伦理电影免费视频| 无限看片的www在线观看| 日本黄大片高清| 九九久久精品国产亚洲av麻豆 | 国产精品久久视频播放| 成人鲁丝片一二三区免费| 亚洲午夜理论影院| 99久久久亚洲精品蜜臀av| 岛国视频午夜一区免费看| 一个人观看的视频www高清免费观看 | 国产精品 国内视频| 两人在一起打扑克的视频| 亚洲欧洲精品一区二区精品久久久| 亚洲专区字幕在线| 国产乱人视频| 91麻豆精品激情在线观看国产| 欧美在线一区亚洲| 国产欧美日韩一区二区精品| 制服人妻中文乱码| 国产毛片a区久久久久| 亚洲国产精品sss在线观看| 偷拍熟女少妇极品色| 午夜激情福利司机影院| 国产1区2区3区精品| 成人国产一区最新在线观看| 欧美日韩中文字幕国产精品一区二区三区| 日本 欧美在线| 精品日产1卡2卡| 国产精品99久久久久久久久| 男人舔奶头视频| 亚洲精品粉嫩美女一区| 亚洲欧美日韩高清专用| 久久人妻av系列| 亚洲成人免费电影在线观看| 黄色女人牲交| 亚洲国产精品成人综合色| 老司机午夜福利在线观看视频| 色综合婷婷激情| 男人舔奶头视频| 久久久久久国产a免费观看| 男人和女人高潮做爰伦理| 亚洲av成人精品一区久久| 亚洲国产高清在线一区二区三| 久久久成人免费电影| 久久久久久久精品吃奶| 99热这里只有精品一区 | 成人av一区二区三区在线看| 国产精品一及| 嫩草影院入口| av黄色大香蕉| 国产亚洲av高清不卡| 免费av毛片视频| 亚洲精品久久国产高清桃花| 国产高清videossex| 国内精品一区二区在线观看| 97人妻精品一区二区三区麻豆| 极品教师在线免费播放| 欧美丝袜亚洲另类 | 免费一级毛片在线播放高清视频| 免费在线观看影片大全网站| 亚洲18禁久久av| 亚洲人与动物交配视频| 国产1区2区3区精品| 国产爱豆传媒在线观看| 变态另类丝袜制服| 国产成人一区二区三区免费视频网站| 国产精品野战在线观看| 午夜福利在线在线| 最近视频中文字幕2019在线8| 成年免费大片在线观看| 99久久99久久久精品蜜桃| 久久久久亚洲av毛片大全| 听说在线观看完整版免费高清| 最新在线观看一区二区三区| 国产伦在线观看视频一区| 久久国产乱子伦精品免费另类| 日本免费a在线| 老司机福利观看| 国产乱人伦免费视频| 久久久成人免费电影| 国产成人影院久久av| 99热这里只有是精品50| 色哟哟哟哟哟哟| 国产成人福利小说| 免费在线观看亚洲国产| 久久久久免费精品人妻一区二区| 精品久久久久久,| 久久久久久久精品吃奶| 高清在线国产一区| 亚洲国产高清在线一区二区三| 五月玫瑰六月丁香| 精品一区二区三区四区五区乱码| 久久精品国产综合久久久| 亚洲精品在线观看二区| 少妇裸体淫交视频免费看高清| 美女扒开内裤让男人捅视频| 亚洲欧美精品综合一区二区三区| 色综合站精品国产| 久久伊人香网站| 久久久久久九九精品二区国产| 99热只有精品国产| 别揉我奶头~嗯~啊~动态视频| 色综合婷婷激情| 天天躁狠狠躁夜夜躁狠狠躁| 岛国在线免费视频观看| 亚洲国产中文字幕在线视频| 欧美三级亚洲精品| 久久香蕉国产精品| 桃色一区二区三区在线观看| 曰老女人黄片| 亚洲,欧美精品.| 亚洲人成电影免费在线| 亚洲国产日韩欧美精品在线观看 | 欧美激情久久久久久爽电影| 国产乱人伦免费视频| 久久久成人免费电影| 午夜精品久久久久久毛片777| 可以在线观看毛片的网站| 欧美+亚洲+日韩+国产| 欧美性猛交╳xxx乱大交人| 国产视频内射| av福利片在线观看| 99精品欧美一区二区三区四区| 欧美日韩福利视频一区二区| 亚洲专区字幕在线| 热99在线观看视频| 亚洲成av人片免费观看| 精品久久久久久久人妻蜜臀av| 最新中文字幕久久久久 | 天堂av国产一区二区熟女人妻| 午夜福利高清视频| 亚洲精华国产精华精| 丁香六月欧美| 美女大奶头视频| 久久久国产成人免费| 免费在线观看视频国产中文字幕亚洲| 久久精品国产亚洲av香蕉五月| 精品熟女少妇八av免费久了| 老司机深夜福利视频在线观看| 国产伦精品一区二区三区视频9 | 亚洲激情在线av| 亚洲成a人片在线一区二区| 亚洲成人免费电影在线观看| 欧美一区二区国产精品久久精品| 亚洲avbb在线观看| 国产高潮美女av| 最近最新中文字幕大全免费视频| 观看免费一级毛片| 亚洲美女黄片视频| 99riav亚洲国产免费| 国产亚洲精品综合一区在线观看| 欧美午夜高清在线| 少妇的丰满在线观看| 动漫黄色视频在线观看| 最近最新中文字幕大全免费视频| 午夜精品一区二区三区免费看| 午夜免费成人在线视频| 色播亚洲综合网| 精品一区二区三区av网在线观看| 亚洲av成人不卡在线观看播放网| 中亚洲国语对白在线视频| 欧美乱码精品一区二区三区| 国产欧美日韩一区二区三| 成年免费大片在线观看| 变态另类成人亚洲欧美熟女| 长腿黑丝高跟| 亚洲avbb在线观看| www.自偷自拍.com| 18美女黄网站色大片免费观看| 天堂av国产一区二区熟女人妻| 美女午夜性视频免费| 女警被强在线播放| 国产精品98久久久久久宅男小说| 国产亚洲欧美在线一区二区| 欧美国产日韩亚洲一区| 男人舔奶头视频| 两性夫妻黄色片| 又黄又爽又免费观看的视频| 国产精品久久久久久精品电影| 亚洲色图 男人天堂 中文字幕| 中文字幕av在线有码专区| 美女午夜性视频免费| 在线免费观看不下载黄p国产 | 亚洲人成网站高清观看| 国产一区在线观看成人免费| 一边摸一边抽搐一进一小说| 麻豆一二三区av精品| 久久精品夜夜夜夜夜久久蜜豆| 男人的好看免费观看在线视频| 两性午夜刺激爽爽歪歪视频在线观看| 国产蜜桃级精品一区二区三区| 麻豆成人午夜福利视频| 成人国产综合亚洲| 亚洲av日韩精品久久久久久密| av黄色大香蕉| 精华霜和精华液先用哪个| 三级毛片av免费| 国产亚洲精品久久久久久毛片| 午夜亚洲福利在线播放| 天堂av国产一区二区熟女人妻| 国产欧美日韩一区二区三| 又爽又黄无遮挡网站| 欧美+亚洲+日韩+国产| 性色avwww在线观看| 亚洲自偷自拍图片 自拍| 国产精品九九99| 亚洲天堂国产精品一区在线| 精品久久久久久,| 成年免费大片在线观看| 三级国产精品欧美在线观看 | 国产免费男女视频| 国产午夜精品久久久久久| 天堂网av新在线| 午夜免费观看网址| 欧美极品一区二区三区四区| 村上凉子中文字幕在线| 久久午夜亚洲精品久久| 女同久久另类99精品国产91| 香蕉丝袜av| 看片在线看免费视频| 宅男免费午夜| 精品久久久久久成人av| 免费看a级黄色片| 国产淫片久久久久久久久 | 国产av不卡久久| 欧美另类亚洲清纯唯美| 午夜免费成人在线视频| 国产真实乱freesex| 亚洲精品一卡2卡三卡4卡5卡| 免费看美女性在线毛片视频| 窝窝影院91人妻| 美女黄网站色视频| 老司机午夜福利在线观看视频| 久久久久亚洲av毛片大全| 麻豆国产av国片精品| 国产极品精品免费视频能看的| www.www免费av| 日韩精品中文字幕看吧| 精品免费久久久久久久清纯| 国产av麻豆久久久久久久| 精品乱码久久久久久99久播| 国内久久婷婷六月综合欲色啪| 午夜a级毛片| 亚洲精品456在线播放app | 国产一区在线观看成人免费| 免费在线观看亚洲国产| 日韩欧美 国产精品| tocl精华| 国产99白浆流出| 又大又爽又粗| 九九在线视频观看精品| 亚洲国产精品成人综合色| 特级一级黄色大片| 黄色视频,在线免费观看| 可以在线观看毛片的网站| 国产成年人精品一区二区| 久久热在线av| 国产私拍福利视频在线观看| 欧美中文综合在线视频| 一级a爱片免费观看的视频| 亚洲一区高清亚洲精品| 男女午夜视频在线观看| 久久这里只有精品19| 一区二区三区高清视频在线| 欧美乱妇无乱码| 九九在线视频观看精品| 男女视频在线观看网站免费| 成年版毛片免费区| 亚洲av熟女| 国产精品一区二区精品视频观看| 久久亚洲真实| 国产精品一区二区三区四区免费观看 | 国产亚洲精品久久久com| 亚洲精品在线美女| 一本久久中文字幕| 全区人妻精品视频| 男人的好看免费观看在线视频| 三级男女做爰猛烈吃奶摸视频| 男女视频在线观看网站免费| h日本视频在线播放| 日本 欧美在线| 国产一区二区三区视频了| 久久久久国内视频| 欧美日韩精品网址| 中亚洲国语对白在线视频| 欧美不卡视频在线免费观看| 岛国在线免费视频观看| 亚洲自偷自拍图片 自拍| av视频在线观看入口| 国产精品乱码一区二三区的特点| 国产精品精品国产色婷婷| 欧美乱色亚洲激情| 亚洲九九香蕉| 欧美日本视频| 香蕉丝袜av| www日本在线高清视频| 制服丝袜大香蕉在线| 老司机深夜福利视频在线观看|