• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能機(jī)器人民事主體地位辨析
    ——機(jī)器人與自然人人格構(gòu)成要素之對(duì)比分析

    2022-03-18 11:18:40暉,袁
    關(guān)鍵詞:意志機(jī)器人人工智能

    安 暉,袁 鎣

    (山西師范大學(xué) 社會(huì)學(xué)與法學(xué)學(xué)院, 太原 030031)

    關(guān)于智能機(jī)器人技術(shù)的發(fā)展對(duì)民事主體制度未來(lái)的影響是民法將要面臨的重大問(wèn)題。就智能機(jī)器人是否享有民法上的人格、是否可以作為民事主體,目前主要有三種意見(jiàn)。一種意見(jiàn)認(rèn)為智能機(jī)器人無(wú)論多么智能,也不過(guò)是一種精密的機(jī)器,仍然是人的工具。(1)郝鐵川:《不可幻想和高估人工智能對(duì)法治的影響》,《法制日?qǐng)?bào)》2018年1月3日。一種意見(jiàn)認(rèn)為隨著高級(jí)人工智能時(shí)代的到來(lái),可以進(jìn)行深度學(xué)習(xí)、感情交流的智能機(jī)器人與自然人之間的界限已然消失,智能機(jī)器人甚至可能成為世界的主宰。(2)金東寒主編:《秩序的重構(gòu)——人工智能與人類社會(huì)》,上海:上海大學(xué)出版社,2017年,第86頁(yè)。第三種意見(jiàn)則認(rèn)為智能機(jī)器人雖不具備自然人所擁有的完全人格,但是享有部分人格。(3)袁曾:《人工智能有限法律人格審視》,《東方法學(xué)》2017年第5期。我們近年來(lái)一直致力于對(duì)人工智能、神經(jīng)網(wǎng)絡(luò)模擬中涉及的主體性、意識(shí)、自由意志等問(wèn)題進(jìn)行思考和拷問(wèn),而這些問(wèn)題構(gòu)成了民事主體制度的基礎(chǔ)。我們注意到即使否定人工智能具有法律人格的學(xué)者也認(rèn)為人工智能具有一定的意識(shí)和意志,因此我們認(rèn)為必須對(duì)人工智能技術(shù)的可行性以及局限性加以分析,并結(jié)合法律本身確立“人格”概念的真正意圖進(jìn)行反思,才能真正厘清這些錯(cuò)誤的理解,看清人工智能對(duì)于民法主體帶來(lái)的影響和挑戰(zhàn),從而更好為人工智能的法律規(guī)則提出建議。

    學(xué)界目前對(duì)于人工智能是否具有主體地位的論證基本采用人工智能體與自然人之間基本屬性的對(duì)比方法,即參照自然人獲得法律主體的基本要素進(jìn)而逐條對(duì)比人工智能體是否具有相應(yīng)的要素,從而得出人工智能體是否具備法律主體資格的結(jié)論。就其基本要素內(nèi)容而言,主要包括生理要素、心理要素以及社會(huì)要素。(4)楊立新:《人工類人格:智能機(jī)器人的民法地位——兼論智能機(jī)器人致人損害的民事責(zé)任》,《求是學(xué)刊》2018年第4期。我們同意這種對(duì)比分析所得出的結(jié)論,即人工智能體無(wú)法通過(guò)類比自然人獲得法律主體資格,但是我們認(rèn)為在具體的分析中還有值得商榷之處。

    一、關(guān)于人格構(gòu)成之生理學(xué)要素比較

    就生理要素而言,法學(xué)家們強(qiáng)調(diào)自然人是由細(xì)胞構(gòu)成的生命形態(tài),“強(qiáng)調(diào)的是蛋白質(zhì)通過(guò)新陳代謝作用不斷地跟周圍環(huán)境進(jìn)行物質(zhì)交換的能力……從法律角度來(lái)說(shuō),民法視野下的生命僅指自然人的生命,是自然人這個(gè)身體機(jī)構(gòu)復(fù)雜、組織和器官分化顯著,能夠制造工具,有語(yǔ)言,有邏輯思維,擁有創(chuàng)造萬(wàn)物能力的高等動(dòng)物體特有的能力和現(xiàn)象……自然人的生命具有不可替代性和不可逆轉(zhuǎn)性。而機(jī)器人顯然并不具備自然生命的這些特點(diǎn)和能力?!?5)趙萬(wàn)一:《機(jī)器人的法律主體地位辨析——兼談對(duì)機(jī)器人進(jìn)行法律規(guī)制的基本要求》,《貴州民族大學(xué)學(xué)報(bào)》2018年第3期。但是無(wú)論是細(xì)胞、人體、還是人腦,它們都是構(gòu)成性要素的范疇。這種構(gòu)成性要素是否能夠被作為區(qū)分自然人和人工智能體的根本標(biāo)準(zhǔn)是存疑的。

    當(dāng)代人工智能的發(fā)展,得益于功能主義這一基本哲學(xué)預(yù)設(shè)。功能主義最大的科學(xué)意義在于突破了事物是什么的構(gòu)成性要素的藩籬,開(kāi)始從功能性要素思考事物形成的機(jī)制。一般認(rèn)為,功能主義發(fā)端于圖靈提出的一個(gè)大膽測(cè)試,即當(dāng)人類在不知道對(duì)方為機(jī)器人的情況下,根據(jù)該機(jī)器人的行為完全無(wú)法將其與人類相區(qū)分時(shí),該機(jī)器人是否可以被視為具備“智能”?圖靈測(cè)試為我們理解事物提供了三個(gè)重要的概念,“描述層次”“多重可實(shí)現(xiàn)性”以及“算法”。“描述層次”認(rèn)為任何復(fù)雜的系統(tǒng)都可以根據(jù)不同的方式被描述。例如,對(duì)于一張桌子,我們可以分別按照其內(nèi)部的分子結(jié)構(gòu)、外部的宏觀的物理形態(tài)、組裝該桌子的各個(gè)零部件以及其他種種方式加以刻畫。“多重可實(shí)現(xiàn)性”則進(jìn)一步表明在這些不同描述層次之間存在著高低之分,而且比較高層次的特征在物理上可以被實(shí)現(xiàn)于不同的低層次的硬件之中,例如,蘋果手機(jī)和安卓手機(jī)雖然具有不同類型的運(yùn)算步驟,但是它們都可以運(yùn)行同一款A(yù)pp運(yùn)用程序?!八惴ā痹臼菙?shù)學(xué)學(xué)科的概念,是指能夠通過(guò)一系列步驟解決一個(gè)問(wèn)題的方法?!斑@些步驟在數(shù)量上必須是有限的,而且只要它們被正確地執(zhí)行,就能保證問(wèn)題的解決?!?6)[美]約翰·塞爾:《心靈導(dǎo)論》,徐英瑾譯,上海:上海人民出版社,2008年,第59頁(yè)。算法概念在圖靈測(cè)試中與“描述層次”“多重可實(shí)現(xiàn)性”兩個(gè)概念相結(jié)合后對(duì)我們理解大腦及其智能產(chǎn)生了革命性變革。我們的大腦被視為一臺(tái)萬(wàn)能圖靈機(jī),只要我們能夠發(fā)現(xiàn)腦中所運(yùn)行的算法或者有效程序,我們就可以研究心靈的運(yùn)作方式。因此我們不必知道腦作為一個(gè)物理系統(tǒng)是如何運(yùn)行的,換言之,生物學(xué)意義上的細(xì)胞、器官、組織等構(gòu)成性要素的具體細(xì)節(jié)性描述與心靈、智能無(wú)關(guān)。只是演化歷程中的一些偶然因素,才使得神經(jīng)元、細(xì)胞去執(zhí)行了那些程序,但是任何其他的物理系統(tǒng)也能夠執(zhí)行同樣的程序、發(fā)揮同樣的功能,只要該系統(tǒng)內(nèi)部相互作用的因果關(guān)系能夠使其執(zhí)行那些程序。

    我們認(rèn)為,人工智能所奉行的功能主義會(huì)對(duì)法律主體制度據(jù)以建立的生物學(xué)基礎(chǔ)產(chǎn)生沖擊。在傳統(tǒng)理念上,將法律主體資格的確立奠基于生物學(xué)意義的人的個(gè)體是一種“法爾自然”的東西。生物體所展現(xiàn)的獨(dú)立形體既從外部劃定了眾多生物個(gè)體之間的邊界,為它們之間的互動(dòng)行為預(yù)留了空間,又從內(nèi)部規(guī)定了單個(gè)生物個(gè)體的獨(dú)立存在,從而才有可能孕育出主體性。因此從這個(gè)意義上,生物形體既是產(chǎn)生主體資格的基礎(chǔ),也是規(guī)范主體行為的前提。但是人工智能的功能主義卻打破了這種對(duì)生物體外在物質(zhì)形態(tài)的頂禮膜拜,它不再是唯一的王者,而被降格為其中一種載體。我們的各種生物機(jī)能、血液循環(huán)、能量攝取,尤其是各項(xiàng)心靈所賦予我們的認(rèn)知能力,包括各種知覺(jué)、記憶、學(xué)習(xí)、問(wèn)題解決等都是某種程序或程序序列下的運(yùn)行結(jié)果,因此就描述層次而言,這種算法性的程序描述層次要比生物結(jié)構(gòu)所處的層次來(lái)得更高,換言之,人的生物基質(zhì)對(duì)于人做出的行為以及確定人的主體性不是充分必要條件,而是一種選擇性條件——我們的行為和心理狀態(tài)可以通過(guò)不同類型的物理結(jié)構(gòu)實(shí)現(xiàn)。因此在理論上,我們不必一定要接受關(guān)于主體資格的“生物類型”理論。

    在實(shí)踐中,堅(jiān)持法律主體必須具備生物基質(zhì)也會(huì)帶來(lái)操作上的困境。如果我們只承認(rèn)細(xì)胞形態(tài)的生命體,那么隨著人機(jī)接口技術(shù)的不斷完善,我們?nèi)绾握J(rèn)定配備了智能裝置的自然人?這種智能裝置與傳統(tǒng)的假肢等被動(dòng)輔助性設(shè)備不同,它完全可以為不健全人士提供一種主動(dòng)的、自主的服務(wù),它可以做出決定、發(fā)出行為。如果承認(rèn)這種“半人半機(jī)”的主體具備法律主體資格,那么也就等于認(rèn)可了功能主義,突破了原有法律主體關(guān)于生物基礎(chǔ)的規(guī)定。如果堅(jiān)持將人的生物屬性作為法律主體的標(biāo)準(zhǔn),可以將配置者視為所有權(quán)人,將這種智能裝置認(rèn)定為一種“物”。由于這種“物”是一種智能產(chǎn)品,那么當(dāng)所有權(quán)人被起訴損害賠償時(shí),所有權(quán)人是否可以無(wú)過(guò)錯(cuò)而主張免責(zé)?如果該智能產(chǎn)品的生產(chǎn)商、銷售商均為過(guò)錯(cuò),受損害人如何獲得補(bǔ)償?因此,從這個(gè)角度看,法律實(shí)踐中的困境其實(shí)質(zhì)是由于對(duì)主體概念的認(rèn)識(shí)不清所導(dǎo)致的。

    二、人格心理學(xué)要素的當(dāng)代發(fā)展與比較

    就心理要素而言,我們需要綜合考慮當(dāng)代認(rèn)知科學(xué)關(guān)于自由意志的實(shí)證證據(jù)以及人工智能自指性算法的局限性兩方面的因素,從而進(jìn)行對(duì)比分析。法學(xué)家認(rèn)為是否具備自由意志是能否獲得主體資格的心理學(xué)要素。人的自由得到系統(tǒng)性論述濫觴于文藝復(fù)興時(shí)期的人文主義思潮。或許盧梭的名言“人生而自由,卻又無(wú)往不在枷鎖之中”最能夠體現(xiàn)自由的多個(gè)面向。一方面,自由是人與生俱有的一種屬性,它賦予了人一種獨(dú)特的、高貴的地位,它將我們從自然界分離出來(lái),將我們與其他動(dòng)物區(qū)分開(kāi)來(lái),因此自由是人之為人的前提,追求自由的沖動(dòng)無(wú)可置疑,自由的價(jià)值對(duì)于人而言是絕對(duì)的,甚至比生命更重要。另一方面,當(dāng)我們通過(guò)言論、行為實(shí)踐這種自由意志時(shí),總會(huì)受到來(lái)自他人、社會(huì),甚至國(guó)家等因素的束縛。前一種自由被弗里特約夫·伯格曼視為內(nèi)在自由,它由我們自身具有的自由意志決定,后一種則被視為外在自由,是我們必須為之奮斗的自由。(7)[美]羅伯特·所羅門、凱思林·希金斯:《大問(wèn)題:簡(jiǎn)明哲學(xué)導(dǎo)論》,張卜天譯,桂林:廣西師范大學(xué)出版社,2014年,第284頁(yè)。

    民法作為實(shí)現(xiàn)私法自治的利器,以順應(yīng)人類個(gè)人生活的本性、尊崇個(gè)人自由生活的愿望為己任,并通過(guò)法律行為制度中的意思表示構(gòu)件較為完整地考慮到內(nèi)在自由本性和外在自由行為之間可能出現(xiàn)的脫節(jié),以確保意識(shí)與行為之間完整的因果鏈條——從主體形成旨在追求某種法律效果的“效果意思”到產(chǎn)生意欲表達(dá)該效果意思的“表示意思”,以及最后向外明確作出含有上述兩種意思的宣示性“表示行為”?!耙馑急硎疽苑ㄐб馑紴榛A(chǔ),具有在法律意思狀態(tài)下自我決定的特點(diǎn),滿足表意人自我決定的真實(shí)意圖,也要求以客觀的社會(huì)外觀形式展現(xiàn)出來(lái),從而在法律上劃清相對(duì)人信賴?yán)嬷Wo(hù)范疇?!?8)龍衛(wèi)球:《民法總論》,北京:中國(guó)法制出版社,2002年,第447頁(yè)。

    意思表示的構(gòu)造符合傳統(tǒng)哲學(xué)關(guān)于自由意志的設(shè)想。我們先有做某事的有意識(shí)的意圖,然后我們?cè)賹?shí)施做某事的行為。兩者形成時(shí)序上一前一后的因果鏈條。但是目前認(rèn)知科學(xué)在自主決定行為中的事件序列的實(shí)驗(yàn)結(jié)果卻表明:“導(dǎo)致一個(gè)自主動(dòng)作的過(guò)程是在有意識(shí)的動(dòng)作意志出現(xiàn)以前由腦無(wú)意識(shí)啟動(dòng)的?!?9)[美]本杰明·里貝特:《心智時(shí)間:意識(shí)中的時(shí)間因素》,李恒熙、李恒威、羅惠怡譯,杭州:浙江大學(xué)出版社,2013年,第135頁(yè)。該實(shí)驗(yàn)最初由著名的認(rèn)知神經(jīng)科學(xué)家本杰明·里貝特提出,隨后獲得了多個(gè)研究團(tuán)隊(duì)的重復(fù)性確認(rèn)。在實(shí)驗(yàn)中,里貝特將自由意志界定為自主行為中有意識(shí)的自主的行動(dòng)意志,通過(guò)比較導(dǎo)致該自主行為的腦活動(dòng)啟動(dòng)時(shí)間、有意識(shí)的覺(jué)知到該自主行為意圖的時(shí)間以及該自愿行為實(shí)際的發(fā)出時(shí)間三者之間的先后順序,他們證明(1)有意識(shí)的自由意志并不啟動(dòng)一個(gè)意志過(guò)程,因?yàn)殛P(guān)于該意志行為的腦活動(dòng)早于該有意識(shí)的行為意圖約400毫秒;(2)雖然自由意志并不啟動(dòng)一個(gè)自愿行為,但是它卻可以通過(guò)有意識(shí)地否定最終實(shí)現(xiàn)對(duì)于自愿行為的控制,因?yàn)閷?duì)自愿行為的有意識(shí)覺(jué)知早于自愿行為150毫秒。

    這個(gè)實(shí)驗(yàn)表明:其一,認(rèn)識(shí)層面的自由意志與行為層面的自主動(dòng)作并非具有前后相續(xù)的因果關(guān)系,對(duì)該行為的有意識(shí)覺(jué)知發(fā)生在該行為產(chǎn)生之后,也就是說(shuō),意思表示構(gòu)件中關(guān)于“效果意思→表示意思→表示行為”的序列分析并不符合自主行為實(shí)際的認(rèn)知發(fā)生學(xué),效果意思對(duì)于表示行為并不具有原發(fā)性的直接因果力,在效果意思出現(xiàn)之前,表示行為已經(jīng)準(zhǔn)備就緒。正確的時(shí)序應(yīng)當(dāng)是“表示行為的啟動(dòng)→效果意思→表示意思→表示行為的作出”。其二,自由意志層面的效果意思、表示意思作為隨后出現(xiàn)的影響該表示行為是否最終能夠?qū)崿F(xiàn)的否定性因素,雖然壓縮了我們?cè)驹O(shè)想的自由意識(shí)存在的空間,但是仍然為自由意志發(fā)揮作用留下了一個(gè)彈性空間,即自由意志不啟動(dòng)一個(gè)自主行為,卻可以阻止該行為的發(fā)生。這種否定構(gòu)成了最高層次的人類智能,一種具有自我覺(jué)知或自我反省能力的意識(shí)。其三,考慮到大量瞬時(shí)行為,法律中通常稱之為“激情行為”等因素,意思表示的內(nèi)部結(jié)構(gòu)可能會(huì)出現(xiàn)以下幾種情況:(1)表示行為的啟動(dòng)→表示行為的作出→后知后覺(jué)地意識(shí)到該表示行為的效果意思、表示意思。這種情況下自由意志對(duì)行為沒(méi)有任何因果作用。(2)表示行為的啟動(dòng)→效果意思→反射性表示意思 表示行為的作出。此時(shí)雖然在表示行為作出前已經(jīng)有了對(duì)其效果意思、表示意思的有意識(shí)覺(jué)知,但是這種效果意識(shí)、表示意思還沒(méi)有完成對(duì)該行為的自主評(píng)估,它只是被動(dòng)地對(duì)行為有了意識(shí),因此,此時(shí)也不能認(rèn)為該行為是自由意志的結(jié)果。(3)表示行為的啟動(dòng)→效果意思→反省性表示意思→ 表示行為的作出。此時(shí)反省性表示意思體現(xiàn)為該意識(shí)表示進(jìn)行反復(fù)的否定、肯定的思慮過(guò)程。正所謂“三思而后行”,傳統(tǒng)意思表示理論只涉及這種類型的自主決定行為,而前兩種類型并非屬于自由意志的范疇,也就是說(shuō),即使在對(duì)效果意思、表示意思有意識(shí)的情況下,也并非具備獨(dú)立的意志,獨(dú)立意志或者自主決定這個(gè)概念還需要吸收當(dāng)代認(rèn)知科學(xué)的新成果進(jìn)行細(xì)化。

    就智能機(jī)器人是否具有獨(dú)立意志這一問(wèn)題,主要有兩種觀點(diǎn),一種為楊立新教授所主張的“部分肯定說(shuō)”,在一定程度上可以認(rèn)定智能機(jī)器人具備獨(dú)立意志。其論證邏輯為:(1)大前提:人的意識(shí)能力和獨(dú)立意志來(lái)源于人的學(xué)習(xí)能力。(2)小前提:人工智能的核心是機(jī)器學(xué)習(xí),智能機(jī)器人也具有學(xué)習(xí)能力。(3)結(jié)論: 智能機(jī)器人也會(huì)擁有獨(dú)立的意志,可以自己做出決斷。一種為趙萬(wàn)一教授所主張的“完全否定說(shuō)”,其理由為 “機(jī)器人作為人類活動(dòng)的結(jié)果其本身并不具有與周圍環(huán)境交互影響的感知能力,因此并無(wú)與自然人類似的基于內(nèi)心觀察(認(rèn)識(shí))、判斷、選擇等一系列復(fù)雜行為所構(gòu)成的意思能力”(10)趙萬(wàn)一:《機(jī)器人的法律主體地位辨析——兼談對(duì)機(jī)器人進(jìn)行法律規(guī)制的基本要求》,《貴州民族大學(xué)學(xué)報(bào)》2018年第3期。。既然兩種觀點(diǎn)都以人工智能的認(rèn)知能力為理?yè)?jù),因此有必要對(duì)其進(jìn)行解釋。

    人工智能從語(yǔ)義上通常被視為人類創(chuàng)造的智能,智能機(jī)器人所具有的各項(xiàng)智能是人所賦予的,受人所操控。但是我們認(rèn)為這種從發(fā)生學(xué)角度看待人與人工智能關(guān)系的理解太過(guò)于寬泛以至于有些粗淺從而產(chǎn)生一些誤導(dǎo)。人工智能的基本假設(shè)是人與機(jī)器具有統(tǒng)一性,它們都是通過(guò)反饋完成某種目的的實(shí)現(xiàn),(11)控制論之父諾伯特·維納深入探討了人與機(jī)器的統(tǒng)一性,并揭示了用機(jī)器模擬人的可能性,為人工智能的發(fā)展奠定了重要基礎(chǔ)。參見(jiàn)[美]維納:《控制論:或關(guān)于在動(dòng)物和機(jī)器中控制和通訊的科學(xué)》,郝季仁譯,北京:北京大學(xué)出版社,2007年。因此人類智能試圖實(shí)現(xiàn)的理想是對(duì)人類智能的模擬,這種模擬不是支配與被支配的主從關(guān)系,而是在計(jì)算等價(jià)性定律下的平行關(guān)系,人工智能是在與人類生物體具有計(jì)算等價(jià)性的系統(tǒng)上對(duì)人類認(rèn)知、思維過(guò)程的模擬,因此人工智能和人類智能作為下位概念皆統(tǒng)攝于算法這一上位概念。如果人類行為具有不可控性,那么智能機(jī)器人的行為也具有不可控性,正如編寫阿爾法狗程序的科學(xué)家也無(wú)法精確知道阿爾法狗下一步會(huì)出哪一步棋。

    另外上述提及的機(jī)器學(xué)習(xí)以及與機(jī)器人與環(huán)境的交互能力這兩個(gè)論據(jù),與人工智能的發(fā)展史所提供的線索并不吻合。從歷史演變看,人工智能相繼出現(xiàn)了三大學(xué)派:從軟件出發(fā)強(qiáng)調(diào)認(rèn)知功能的符號(hào)學(xué)派、從硬件出發(fā)強(qiáng)調(diào)認(rèn)知結(jié)構(gòu)的連接學(xué)派,以及從身體出發(fā)強(qiáng)調(diào)認(rèn)知進(jìn)化的行為學(xué)派。符號(hào)學(xué)派認(rèn)為智能行為產(chǎn)生與符號(hào)表征的操作和轉(zhuǎn)化,它擅長(zhǎng)模擬高級(jí)智能行為,例如比較復(fù)雜的推理、規(guī)劃、邏輯運(yùn)算和判斷等問(wèn)題。連接學(xué)派則主張通過(guò)模擬大量神經(jīng)元集體活動(dòng)進(jìn)而模擬大腦智能,它擅長(zhǎng)處理模式識(shí)別、聚類、聯(lián)想等非結(jié)構(gòu)化的智能問(wèn)題。行為學(xué)派則認(rèn)為智能來(lái)自身體與環(huán)境自下而上的互動(dòng),它擅長(zhǎng)模擬適應(yīng)性、學(xué)習(xí)、快速行為反應(yīng)等低級(jí)智能行為。因此,第一,智能機(jī)器人并非無(wú)法感應(yīng)環(huán)境,行為學(xué)派對(duì)于進(jìn)化計(jì)算的研究初步實(shí)現(xiàn)了機(jī)器與環(huán)境互動(dòng)的算法化,例如在約翰·霍蘭(John Holland)的遺傳算法將生存競(jìng)爭(zhēng)、優(yōu)勝劣汰這一進(jìn)化法則抽象為一個(gè)簡(jiǎn)單的適應(yīng)性函數(shù),以及隨后出現(xiàn)的進(jìn)化策略、進(jìn)化編程和遺傳編程等正在逐步加深我們對(duì)于生物體在適應(yīng)環(huán)境過(guò)程中智能從簡(jiǎn)單到復(fù)雜、從低等到高等的躍遷機(jī)制。第二,不同的學(xué)派從不同的角度理解智能,賦予機(jī)器不同的學(xué)習(xí)能力,從而導(dǎo)致不同的智力行為——它們可以根據(jù)其算法自動(dòng)產(chǎn)生。從這個(gè)意義上智能機(jī)器人的行為和決定具有獨(dú)立性。但是這種獨(dú)立性是否稱得上“意志”,人工智能的三大學(xué)派都沒(méi)有直接予以回答。從人工智能目前對(duì)各種智能能力的細(xì)分來(lái)看,心理上這種具有內(nèi)驅(qū)性“自在自為”的意志力似乎可以被分解為問(wèn)題求解、推理、聯(lián)想等功能模塊,那么這似乎意味著意志也如前述的生物構(gòu)造是可以被等價(jià),可以被多重實(shí)現(xiàn)的?進(jìn)而我們一直以來(lái)尊崇的意志其實(shí)是可以被消解的?

    從前面關(guān)于意思表示內(nèi)部構(gòu)造可能出現(xiàn)的三種時(shí)序來(lái)看,只有第三種才是自由意志真正發(fā)揮因果作用的情形,那么這種反省意識(shí)可以被人工智能所模擬嗎?反省意識(shí),也可以被稱為自我意識(shí)、或自我覺(jué)知,其核心之處在于其獨(dú)特的自指性,例如我們的視覺(jué)和智能攝像設(shè)備的區(qū)別在于,我們會(huì)明白無(wú)誤地體會(huì)到視覺(jué)自身的存在,而后者不會(huì),因此反省意識(shí)的自指性關(guān)注的不是反省意識(shí)程序運(yùn)行的結(jié)果,不是經(jīng)過(guò)反省而獲得的意識(shí)內(nèi)容,而是這個(gè)反省程序本身,這種自己指向自己的能力。目前相對(duì)于其他領(lǐng)域,人工智能在自指程序方面的進(jìn)展可謂微乎其微。20世紀(jì)中期哥德?tīng)柌煌陚湫远ɡ?、圖靈停機(jī)問(wèn)題幾乎完全否定了自指性算法的可能性,后期則隨著自創(chuàng)生理論、自復(fù)制程序、遞歸定理等的討論逐步復(fù)蘇對(duì)于自指程序的理論論證,但是目前尚無(wú)定論。

    綜上,就自由、獨(dú)立意志而言,自然人的自由意志雖受到壓縮,但仍有其發(fā)揮的空間。智能機(jī)器人雖然具有獨(dú)立的決策、判斷等能力,但是因?yàn)樽灾赋绦虻娜笔?,它并不具有意志力。這一點(diǎn)構(gòu)成了自然人與智能機(jī)器人的重大差異。

    三、人格社會(huì)要素之考察及類比

    就社會(huì)要素而言,法律對(duì)于主體的塑造是以社會(huì)角色為基礎(chǔ)的,只有當(dāng)孤立的個(gè)體完成了向社會(huì)角色的轉(zhuǎn)變,實(shí)現(xiàn)了人與人之間的互動(dòng),法律才有必要在此基礎(chǔ)上選擇一部分重要的這個(gè)社會(huì)角色所涉的社會(huì)關(guān)系進(jìn)行規(guī)制,以維護(hù)社會(huì)的運(yùn)行。

    角色是指主體在各種社會(huì)互動(dòng)關(guān)系中所具有的身份,為夫、為妻、為子女,為朋友、為搭檔、為相對(duì)方等等情形。顯然這里的“身份”已經(jīng)不再是“從身份到契約”這句名言中所指稱的不自由、不平等的身份?,F(xiàn)有民法對(duì)于角色的規(guī)制主要體現(xiàn)在法律主體的人格權(quán)、身份權(quán),以及在交易中的權(quán)利義務(wù)規(guī)定。那么,被沙特阿拉伯于2017年授予人類公民身份的機(jī)器人索菲亞是否就當(dāng)然獲得獨(dú)立的社會(huì)角色?是否可以依據(jù)機(jī)器人能夠參與社會(huì)交往、談笑風(fēng)生、應(yīng)答自如而認(rèn)為機(jī)器人也如自然人一樣進(jìn)行著某種角色行為?

    從法理上看,具備社會(huì)角色是法律主體的前提,而不是相反。即使做出這樣的立法,它也不能證明該主體具備社會(huì)角色,正如法有善惡,并不因其立法而自證其內(nèi)容的正義一樣,法的正義性有其更基礎(chǔ)的準(zhǔn)則,而社會(huì)角色也有其形成的基本過(guò)程。通過(guò)拆解社會(huì)角色的形成過(guò)程,我們可以逐條對(duì)比人工智能在社會(huì)角色塑造方面的有效度。

    社會(huì)角色理論認(rèn)為在社會(huì)互動(dòng)過(guò)程中,當(dāng)一個(gè)人能夠嵌入到社會(huì)結(jié)構(gòu)的某個(gè)地位,“并通過(guò)與其他地位的關(guān)系實(shí)現(xiàn)對(duì)它的占據(jù),即該個(gè)體行使構(gòu)成地位的權(quán)利和義務(wù)時(shí),他就是在扮演角色”。(12)R.Linton,The Study of Man,(New York:Appleton-Century-Crofts,1936)28.具體而言,從個(gè)體轉(zhuǎn)變到角色、實(shí)現(xiàn)互動(dòng)需要以下幾個(gè)基本步驟:

    第一,個(gè)體需要具備抽象的符號(hào)表征能力。人類能夠使用符號(hào)表征客觀事物、思想,以及他們所經(jīng)歷的任何事物,這很大程度使人類從動(dòng)物的本能反應(yīng)解放出來(lái)。這一點(diǎn)與人工智能的追求并無(wú)不同,人工智能正是模擬了人類抽象的符號(hào)表征能力才得以迅猛發(fā)展。

    第二,個(gè)體需要配備某種框架性的“知識(shí)儲(chǔ)備”。知識(shí)儲(chǔ)備就是人類所處的現(xiàn)實(shí),包括人們對(duì)于規(guī)則、社會(huì)對(duì)策和恰當(dāng)行為的概念,以及其他能在社會(huì)世界中行動(dòng)的信息。知識(shí)儲(chǔ)備是人在應(yīng)對(duì)他人時(shí)的背景,是一系列不可言喻的假設(shè)和個(gè)人互動(dòng)時(shí)潛移默化地運(yùn)用的程序。例如,人們?cè)诮涣髦谐苏Z(yǔ)言符號(hào),還可以通過(guò)某些面部表情、語(yǔ)音語(yǔ)調(diào)、輔助體態(tài)和其他象征性姿態(tài)獲得對(duì)于一致性含義的“意會(huì)”。但是這樣一種對(duì)于人類而言簡(jiǎn)單的運(yùn)用常規(guī)姿態(tài)、常識(shí)推理的能力,對(duì)于人工智能卻幾乎不可能實(shí)現(xiàn)。

    人工智能科學(xué)對(duì)于智能體的“行為”是否有效的衡量標(biāo)準(zhǔn)是“動(dòng)作+效果”,即智能系統(tǒng)對(duì)環(huán)境施加了一個(gè)動(dòng)作從而產(chǎn)生的某種環(huán)境上的變化和效果。智能機(jī)器人只能通過(guò)檢測(cè)環(huán)境的變化,才能判斷自己是否做出行為,但是要確定環(huán)境的變化,必須要預(yù)先知道環(huán)境中不被行為所改變的部分,而這一部分機(jī)器人無(wú)法預(yù)知,只能通過(guò)程序員在算法中預(yù)先規(guī)定“一個(gè)行為得以在其中發(fā)生的那個(gè)不變的框架”,但是這個(gè)框架內(nèi)所涉及的領(lǐng)域本身是無(wú)法確定的,即使可以確定,信息量也過(guò)于龐大,從而導(dǎo)致系統(tǒng)的運(yùn)算負(fù)擔(dān)過(guò)大,而無(wú)法及時(shí)完成任務(wù)。

    事實(shí)上,這個(gè)問(wèn)題一直是人工智能科學(xué)尚無(wú)法解決的難問(wèn)題,在計(jì)算主義研究范式中被視為無(wú)法解決的“框架問(wèn)題”,在連接主義研究范式中被視為無(wú)法實(shí)現(xiàn)的“通用人工智能”。目前深度學(xué)習(xí)算法進(jìn)展神速,它的應(yīng)用也備受注目,有的學(xué)者甚至認(rèn)為深度學(xué)習(xí)可以使“人工智能物”變成實(shí)實(shí)在在的“人工智能人”。(13)這一觀點(diǎn)是彭誠(chéng)信教授在為譯著《誰(shuí)為機(jī)器人的行為負(fù)責(zé)》所作的序言中所提到的。參見(jiàn)[意大利]烏弋·帕加羅:《誰(shuí)為機(jī)器人的行為負(fù)責(zé)》,張卉林、王黎黎譯,上海:上海人民出版社,2018年,第2頁(yè)。但是深度學(xué)習(xí)仍然沒(méi)有賦予人工智能某種框架性的知識(shí)儲(chǔ)備,它仍然不具備不在程序員的介入下自動(dòng)的“根據(jù)任務(wù)和環(huán)境的變化而切換工作知識(shí)域的能力”,(14)徐英瑾:《人工智能技術(shù)的未來(lái)通途芻議》,《新疆師范大學(xué)學(xué)報(bào)》2019年第1期。它仍然缺乏跨領(lǐng)域的學(xué)習(xí)能力。

    第三,個(gè)體需要不斷地習(xí)得角色領(lǐng)會(huì)能力。這是實(shí)現(xiàn)人際互動(dòng)至關(guān)重要的最后一環(huán)。角色領(lǐng)會(huì)是“一種感受并理解他人角色的能力”“一種視他人態(tài)度和部署而行動(dòng)的能力”(15)[美]喬納森·特納:《社會(huì)學(xué)理論的結(jié)構(gòu)》,邱奇澤、張茂元譯,北京:華夏出版社,2008年,第334頁(yè)。。在角色領(lǐng)會(huì)中,行動(dòng)者需要對(duì)情景進(jìn)行定義,一方面將自己作為其中的一個(gè)客體,核心自我是影響和規(guī)制互動(dòng)的主要因素;另一方面,需要體會(huì)他人的視角,包括那些不在場(chǎng)的他人和群體的視角,并將這些視角作為其考慮問(wèn)題和情景定義的基礎(chǔ)。然后在想象中悄悄地對(duì)可選擇的行動(dòng)方案進(jìn)行預(yù)演,想象每一個(gè)行動(dòng)路線可能產(chǎn)生的后果,通過(guò)排除不適當(dāng)?shù)男袨榉桨?,最終確定一條公開(kāi)行動(dòng)的適當(dāng)方案。因此,單獨(dú)個(gè)體之所以能夠向社會(huì)角色完美轉(zhuǎn)身,人類社會(huì)之所以能夠存在既依賴于人類個(gè)體將自己看作情景中的客體的能力,包括思考、界定的能力和自我反思、自我估價(jià)的能力,也依賴于人類個(gè)體對(duì)其他個(gè)體的“共情”,能夠體味其他個(gè)體的意向、需求、愿望以及行為傾向。

    有的學(xué)者可能會(huì)提出,既然人的智能被視為一種算法,那么角色領(lǐng)會(huì)能力中表征自我、表征他人不也是一種算法嗎?既然是算法它也可以多重實(shí)現(xiàn),因此打造一個(gè)能夠進(jìn)行感情交流的機(jī)器人是完全有可能的。我們并不否認(rèn)未來(lái)人類情感密碼被破解的可能性,但是目前談?wù)撝悄軝C(jī)器人能夠進(jìn)行情感交流還為時(shí)過(guò)早。在對(duì)諸如視覺(jué)、聽(tīng)覺(jué)等知覺(jué)、記憶、問(wèn)題解決等認(rèn)知模塊的模擬中,雖然智能機(jī)器人可以像人那樣表征外部世界,并根據(jù)輸入對(duì)外部世界作出行為,但是他們?nèi)笔Я松w自動(dòng)攜帶的具有驅(qū)動(dòng)性的“感受”。這種“感受”是生命體為了實(shí)現(xiàn)自我保存而演化出來(lái)的一種體內(nèi)平衡動(dòng)力系統(tǒng)。從腦到身體各個(gè)部分所形成的龐大的神經(jīng)映射是“感受”這一心理狀態(tài)的必要基礎(chǔ)。(16)[美]安東尼奧·R·達(dá)馬西奧:《尋找斯賓諾莎——快樂(lè)、悲傷和感受著的腦》,孫延軍譯,北京:教育科學(xué)出版社,2009年,第110頁(yè)。而人工智能科學(xué)還沒(méi)有找到適當(dāng)?shù)臄?shù)學(xué)理論對(duì)這些神經(jīng)映射動(dòng)力系統(tǒng)進(jìn)行建模,即并沒(méi)有找到表征自我以及共情他人的算法,因此人工智能對(duì)角色領(lǐng)會(huì)能力的模擬目前尚不可行??傊?,人工智能機(jī)器人雖然具備了抽象的符號(hào)表征能力,但是它不具備常識(shí)推理能力、存在無(wú)法解決的框架問(wèn)題,并缺乏角色領(lǐng)會(huì)能力,因此機(jī)器人不是一種社會(huì)角色,它并不具有社會(huì)屬性。

    四、結(jié)語(yǔ)

    民法關(guān)于人格的理論主要建立在近代哲學(xué)關(guān)于人之為人的基本假設(shè)之上。而近代哲學(xué)樹(shù)立的人的形象可以說(shuō)是宏大的、近乎完美的“我思故我在”,人擁有無(wú)可置疑的思辨能力,這種思辨能力賦予人獨(dú)一無(wú)二的主體性,當(dāng)人具有了“我”這一觀念,人的行為的邊界才得以產(chǎn)生,于是產(chǎn)生了對(duì)人的行為進(jìn)行規(guī)制的必要;同時(shí)這種思辨能力也成為人類行為的原因,人的行為是其主觀思考的結(jié)果,是慎重選擇的結(jié)果,因此人為自己的行為承擔(dān)責(zé)任成為這一邏輯鏈條的合理結(jié)論。

    但是,現(xiàn)代認(rèn)知科學(xué)對(duì)于近代哲學(xué)關(guān)于人的設(shè)想提出了挑戰(zhàn),人的思辨能力不再高不可攀,思辨不過(guò)是某種算法而已,無(wú)論是人的生物機(jī)能還是認(rèn)知功能都是算法運(yùn)行的結(jié)果,而且這種算法具有多重實(shí)現(xiàn)的等價(jià)性。這種挑戰(zhàn)也必將給以近代哲學(xué)為基礎(chǔ)建立的人文社會(huì)科學(xué)帶來(lái)沖擊。如前所述,作為現(xiàn)代認(rèn)知科學(xué)重要分支的人工智能研究為民法重新理解法律主體人格構(gòu)成要素提供了新的契機(jī)。

    通過(guò)智能機(jī)器人與自然人在生物要素、心理要素、社會(huì)要素三個(gè)方面的對(duì)比,我們認(rèn)為智能機(jī)器人雖然可以在算法等級(jí)性層面實(shí)現(xiàn)自然人所擁有的生物機(jī)能以及認(rèn)知功能,但是目前卻無(wú)法實(shí)現(xiàn)反思性的自指算法以及跨領(lǐng)域的學(xué)習(xí)算法,因此智能機(jī)器人并不具有自然人所擁有的人格要素,故智能機(jī)器人不是民事法律主體。

    這種對(duì)比也啟發(fā)我們反思“何為人格”這個(gè)古老命題。其一,從前面關(guān)于自由意識(shí)的實(shí)證實(shí)驗(yàn)以及社會(huì)角色的轉(zhuǎn)換理論來(lái)看,人格更趨向于一個(gè)過(guò)程性概念,它需要在主體與主體之間的動(dòng)態(tài)交互機(jī)制中逐漸生成。當(dāng)個(gè)體有了明確的自我意識(shí),可以認(rèn)為個(gè)體的人確定地獲得了人格。

    其二,傳統(tǒng)民法關(guān)于人與物的兩分法或許過(guò)于刻板。物質(zhì)形態(tài)的表現(xiàn)形式如同生物演化是一個(gè)不斷發(fā)展的過(guò)程,并沒(méi)有絕對(duì)的非此即彼的標(biāo)準(zhǔn)。司法實(shí)踐中關(guān)于動(dòng)物、人體冷凍胚胎、智能機(jī)器人等主體地位的爭(zhēng)議(它們都處于民法基本范疇劃分的臨界點(diǎn)或交叉點(diǎn))也表明,我們可以采用一種等級(jí)式的人物劃分量表。我們主張這種劃分的核心標(biāo)準(zhǔn)是是否具有自我保存的內(nèi)在驅(qū)動(dòng)力,因此可以粗略地分為三個(gè)等級(jí),第一層級(jí)是純粹的物,它們沒(méi)有自我保存的能力,諸如山川河流、座椅板凳等。智能機(jī)器人目前也屬于這個(gè)等級(jí),它不具有自我生存的原生力量,它還不具有表征自己身體的算法。第二個(gè)等級(jí)是已經(jīng)有了自我保存的生命力,它們的身體內(nèi)部已經(jīng)配備了“努力活下去”這樣的生物算法,它們體內(nèi)有一套平衡法則,它們對(duì)刺激有反應(yīng),可以感應(yīng),不管它們是否意識(shí)到這一點(diǎn),例如動(dòng)物。第三個(gè)等級(jí)則是具有自我意識(shí)的人類,內(nèi)嵌了自指性算法,可以反思,可以感受。未來(lái)我們或許可以根據(jù)這個(gè)量表制定具有不同細(xì)節(jié)的法律規(guī)制。

    猜你喜歡
    意志機(jī)器人人工智能
    動(dòng)物的“自由意志”
    大自然探索(2023年7期)2023-11-14 13:07:52
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    《西廂記》中的理性意志與自由意志
    下一幕,人工智能!
    機(jī)器人來(lái)幫你
    認(rèn)識(shí)機(jī)器人
    機(jī)器人來(lái)啦
    認(rèn)識(shí)機(jī)器人
    新久久久久国产一级毛片| 在线观看三级黄色| 男女边吃奶边做爰视频| 久久久久网色| 亚洲欧美色中文字幕在线| 美女高潮到喷水免费观看| 黄片无遮挡物在线观看| 97在线视频观看| 美国免费a级毛片| 性色av一级| 久久久精品免费免费高清| 欧美日韩一区二区视频在线观看视频在线| 少妇人妻久久综合中文| 美女xxoo啪啪120秒动态图| 99久国产av精品国产电影| 三上悠亚av全集在线观看| 亚洲精品国产av蜜桃| 性色av一级| 2022亚洲国产成人精品| 国产欧美日韩一区二区三区在线| 搡女人真爽免费视频火全软件| 日韩一卡2卡3卡4卡2021年| 精品久久久久久电影网| 日产精品乱码卡一卡2卡三| 久久久亚洲精品成人影院| 在线观看免费日韩欧美大片| 超色免费av| 亚洲国产av新网站| 久久久久视频综合| 欧美少妇被猛烈插入视频| 久久久久人妻精品一区果冻| 综合色丁香网| 久久精品国产综合久久久| www日本在线高清视频| 久久精品夜色国产| 日韩一区二区三区影片| 国产午夜精品一二区理论片| 国产一区二区三区av在线| 成人漫画全彩无遮挡| 亚洲欧美日韩另类电影网站| 一区福利在线观看| 久久99精品国语久久久| 综合色丁香网| 国产深夜福利视频在线观看| 肉色欧美久久久久久久蜜桃| 午夜激情久久久久久久| 黑丝袜美女国产一区| 中文字幕人妻丝袜一区二区 | 国产精品 国内视频| 2018国产大陆天天弄谢| 九色亚洲精品在线播放| 天天影视国产精品| 亚洲精品aⅴ在线观看| 精品一区二区免费观看| 中文字幕精品免费在线观看视频| av在线老鸭窝| 国产有黄有色有爽视频| 人人妻人人澡人人看| 久久久久久久精品精品| 999精品在线视频| 欧美+日韩+精品| 欧美亚洲 丝袜 人妻 在线| 国产精品欧美亚洲77777| 色婷婷久久久亚洲欧美| 男人添女人高潮全过程视频| 老鸭窝网址在线观看| 又粗又硬又长又爽又黄的视频| 春色校园在线视频观看| 国产淫语在线视频| av在线观看视频网站免费| 久久ye,这里只有精品| 久久久久国产精品人妻一区二区| 一区福利在线观看| 国产精品偷伦视频观看了| 国产亚洲最大av| 国产成人a∨麻豆精品| 国产精品免费视频内射| 欧美老熟妇乱子伦牲交| 欧美日韩一级在线毛片| 亚洲国产欧美网| 国产在线一区二区三区精| videosex国产| 色吧在线观看| 一级a爱视频在线免费观看| 午夜免费观看性视频| 人成视频在线观看免费观看| 制服人妻中文乱码| 在线亚洲精品国产二区图片欧美| 精品国产露脸久久av麻豆| 99热网站在线观看| 亚洲国产精品成人久久小说| 欧美老熟妇乱子伦牲交| 亚洲美女视频黄频| 99九九在线精品视频| 涩涩av久久男人的天堂| 天天操日日干夜夜撸| 一边亲一边摸免费视频| 精品国产超薄肉色丝袜足j| 欧美+日韩+精品| 69精品国产乱码久久久| 美国免费a级毛片| 国产精品久久久av美女十八| 国产精品国产三级专区第一集| 久久热在线av| 国产乱人偷精品视频| 久久人妻熟女aⅴ| 午夜激情久久久久久久| 成人二区视频| 叶爱在线成人免费视频播放| 国产亚洲午夜精品一区二区久久| 妹子高潮喷水视频| 欧美最新免费一区二区三区| 国产精品 欧美亚洲| 少妇熟女欧美另类| 国产成人精品在线电影| 国产精品欧美亚洲77777| 黄网站色视频无遮挡免费观看| 91精品三级在线观看| 99香蕉大伊视频| 亚洲婷婷狠狠爱综合网| 成人午夜精彩视频在线观看| 欧美日韩精品成人综合77777| 国产精品久久久久久av不卡| 午夜福利乱码中文字幕| 日韩中字成人| 超碰成人久久| 欧美人与善性xxx| 国产国语露脸激情在线看| 一本久久精品| 国产精品二区激情视频| 亚洲成国产人片在线观看| 老司机亚洲免费影院| 日韩欧美一区视频在线观看| 国产 一区精品| av天堂久久9| 欧美日韩国产mv在线观看视频| 亚洲精品在线美女| av在线app专区| 精品视频人人做人人爽| 日本91视频免费播放| www.自偷自拍.com| 热99久久久久精品小说推荐| 久久久久久久久久久免费av| 亚洲第一区二区三区不卡| 最黄视频免费看| www.精华液| 一本久久精品| 久久人人97超碰香蕉20202| 一区二区日韩欧美中文字幕| 欧美xxⅹ黑人| 免费播放大片免费观看视频在线观看| 久久ye,这里只有精品| 99久国产av精品国产电影| 水蜜桃什么品种好| 久久精品国产自在天天线| 一边亲一边摸免费视频| 国产精品女同一区二区软件| 欧美日韩国产mv在线观看视频| 99热全是精品| 精品视频人人做人人爽| 亚洲人成77777在线视频| 欧美日韩视频精品一区| 国产激情久久老熟女| 美女xxoo啪啪120秒动态图| 美女国产高潮福利片在线看| 伊人久久国产一区二区| 亚洲精品美女久久av网站| 国产极品天堂在线| 亚洲美女视频黄频| xxx大片免费视频| videossex国产| 香蕉精品网在线| 18+在线观看网站| 男女下面插进去视频免费观看| 国产97色在线日韩免费| 91精品伊人久久大香线蕉| 久久国产精品男人的天堂亚洲| 亚洲一区二区三区欧美精品| 一区二区三区乱码不卡18| 久热这里只有精品99| 如日韩欧美国产精品一区二区三区| 99久久综合免费| 久久精品熟女亚洲av麻豆精品| 成人手机av| 好男人视频免费观看在线| h视频一区二区三区| 日本色播在线视频| 777久久人妻少妇嫩草av网站| 国产探花极品一区二区| √禁漫天堂资源中文www| 如何舔出高潮| 一级片免费观看大全| 久久99热这里只频精品6学生| 精品人妻一区二区三区麻豆| 一区二区三区精品91| 99九九在线精品视频| 考比视频在线观看| 色婷婷av一区二区三区视频| 一本久久精品| 免费黄频网站在线观看国产| 少妇被粗大猛烈的视频| 亚洲精品成人av观看孕妇| 五月开心婷婷网| 国产精品一国产av| videossex国产| 免费少妇av软件| 国产av精品麻豆| 日本猛色少妇xxxxx猛交久久| 香蕉精品网在线| 最近最新中文字幕大全免费视频 | 欧美日韩成人在线一区二区| 精品久久久精品久久久| 亚洲在久久综合| 一级毛片 在线播放| 一边摸一边做爽爽视频免费| 成年美女黄网站色视频大全免费| 一二三四中文在线观看免费高清| 亚洲精品久久成人aⅴ小说| 欧美日韩精品成人综合77777| 在线 av 中文字幕| 成人免费观看视频高清| 国产精品三级大全| 久久久国产欧美日韩av| 观看av在线不卡| 久久久久网色| 熟女电影av网| 国产1区2区3区精品| 日韩视频在线欧美| 国产成人免费观看mmmm| 18禁动态无遮挡网站| 伊人亚洲综合成人网| 毛片一级片免费看久久久久| 18+在线观看网站| 七月丁香在线播放| 午夜精品国产一区二区电影| 成人手机av| 在线 av 中文字幕| 国产有黄有色有爽视频| 热re99久久国产66热| 免费看不卡的av| 一级毛片 在线播放| 久久久久久免费高清国产稀缺| 中文字幕人妻丝袜制服| 91精品伊人久久大香线蕉| 午夜免费男女啪啪视频观看| 大码成人一级视频| 亚洲伊人色综图| 汤姆久久久久久久影院中文字幕| 热99国产精品久久久久久7| 九草在线视频观看| 男女高潮啪啪啪动态图| 久久精品熟女亚洲av麻豆精品| 人人妻人人澡人人看| 久久人人爽人人片av| 熟女电影av网| 国产免费一区二区三区四区乱码| 在线天堂中文资源库| 免费av中文字幕在线| 新久久久久国产一级毛片| 亚洲色图 男人天堂 中文字幕| 夜夜骑夜夜射夜夜干| 日本黄色日本黄色录像| 黑人欧美特级aaaaaa片| 国产成人精品一,二区| 久久精品国产自在天天线| 亚洲精品第二区| 国产av精品麻豆| 亚洲精品久久午夜乱码| h视频一区二区三区| 波多野结衣一区麻豆| 久久97久久精品| 高清在线视频一区二区三区| 亚洲av日韩在线播放| 中国国产av一级| 丝袜喷水一区| 美女国产视频在线观看| 日韩制服丝袜自拍偷拍| 少妇被粗大猛烈的视频| 韩国高清视频一区二区三区| 丝袜人妻中文字幕| 水蜜桃什么品种好| 亚洲成av片中文字幕在线观看 | 免费看不卡的av| 人成视频在线观看免费观看| 亚洲一级一片aⅴ在线观看| 美国免费a级毛片| 国产色婷婷99| 麻豆av在线久日| 国产日韩一区二区三区精品不卡| 久久精品夜色国产| 深夜精品福利| 日韩精品有码人妻一区| 99久久综合免费| 久久国产精品男人的天堂亚洲| 亚洲一区二区三区欧美精品| 国产高清国产精品国产三级| 日韩中文字幕欧美一区二区 | 国产精品免费视频内射| 免费大片黄手机在线观看| 亚洲欧洲精品一区二区精品久久久 | 日韩中文字幕视频在线看片| 老女人水多毛片| av福利片在线| 国产精品蜜桃在线观看| 五月伊人婷婷丁香| 女人被躁到高潮嗷嗷叫费观| 婷婷色综合大香蕉| 国产精品久久久久久久久免| 如日韩欧美国产精品一区二区三区| 最近的中文字幕免费完整| 免费观看av网站的网址| 国产高清国产精品国产三级| 午夜激情av网站| 91精品伊人久久大香线蕉| 亚洲av综合色区一区| 18+在线观看网站| 极品人妻少妇av视频| 老司机亚洲免费影院| 波野结衣二区三区在线| 又大又黄又爽视频免费| 丰满少妇做爰视频| 巨乳人妻的诱惑在线观看| 亚洲精品视频女| av国产精品久久久久影院| av线在线观看网站| 精品福利永久在线观看| 亚洲情色 制服丝袜| 午夜精品国产一区二区电影| 亚洲欧美精品自产自拍| 国产激情久久老熟女| 女人被躁到高潮嗷嗷叫费观| 叶爱在线成人免费视频播放| 欧美日韩亚洲国产一区二区在线观看 | 伊人久久国产一区二区| 亚洲综合色惰| 老女人水多毛片| av片东京热男人的天堂| 久久久a久久爽久久v久久| 国产成人91sexporn| 精品99又大又爽又粗少妇毛片| 成人黄色视频免费在线看| 黄网站色视频无遮挡免费观看| 1024视频免费在线观看| 国产精品免费视频内射| 丝袜人妻中文字幕| 免费黄色在线免费观看| 91午夜精品亚洲一区二区三区| 美女国产高潮福利片在线看| a级毛片在线看网站| 国产精品久久久久久精品电影小说| 熟女电影av网| 一区二区三区乱码不卡18| 老司机影院毛片| 亚洲婷婷狠狠爱综合网| 亚洲精品美女久久久久99蜜臀 | 大香蕉久久成人网| 天堂俺去俺来也www色官网| 免费高清在线观看视频在线观看| 妹子高潮喷水视频| av福利片在线| av线在线观看网站| 亚洲一级一片aⅴ在线观看| 午夜福利视频在线观看免费| 免费不卡的大黄色大毛片视频在线观看| videos熟女内射| 亚洲欧洲国产日韩| 亚洲少妇的诱惑av| 精品久久蜜臀av无| 久久婷婷青草| 中文字幕最新亚洲高清| 国产精品不卡视频一区二区| 久久久久久久精品精品| 看十八女毛片水多多多| videossex国产| 人体艺术视频欧美日本| 女性被躁到高潮视频| 亚洲国产精品一区二区三区在线| 国产精品嫩草影院av在线观看| 免费观看av网站的网址| 老司机影院成人| 在线看a的网站| 久久久久网色| 美女大奶头黄色视频| 国产精品免费视频内射| 中文欧美无线码| 丝袜在线中文字幕| 日本wwww免费看| 国产日韩欧美亚洲二区| 啦啦啦在线观看免费高清www| 少妇精品久久久久久久| 有码 亚洲区| 人妻 亚洲 视频| 欧美国产精品一级二级三级| 亚洲男人天堂网一区| xxxhd国产人妻xxx| 国产免费现黄频在线看| 久久国内精品自在自线图片| 久久精品国产亚洲av高清一级| 男人爽女人下面视频在线观看| 天天操日日干夜夜撸| 日韩 亚洲 欧美在线| 18在线观看网站| 久久久久久免费高清国产稀缺| 国产 一区精品| 在线亚洲精品国产二区图片欧美| 美女国产视频在线观看| 青春草视频在线免费观看| 亚洲内射少妇av| 亚洲国产看品久久| 久久影院123| 午夜福利,免费看| 久久久久久久久免费视频了| 日韩熟女老妇一区二区性免费视频| 亚洲婷婷狠狠爱综合网| 亚洲av日韩在线播放| 97人妻天天添夜夜摸| 91午夜精品亚洲一区二区三区| 黄网站色视频无遮挡免费观看| 男人操女人黄网站| 高清在线视频一区二区三区| 国产亚洲欧美精品永久| 午夜福利一区二区在线看| 精品第一国产精品| 国产精品.久久久| 日韩欧美精品免费久久| 交换朋友夫妻互换小说| 人妻系列 视频| 国产一区二区三区av在线| 精品99又大又爽又粗少妇毛片| 性少妇av在线| 在线观看免费视频网站a站| 亚洲欧洲精品一区二区精品久久久 | 在线观看一区二区三区激情| 欧美少妇被猛烈插入视频| 欧美黄色片欧美黄色片| 热re99久久国产66热| 狠狠婷婷综合久久久久久88av| 下体分泌物呈黄色| 国产精品一国产av| 涩涩av久久男人的天堂| 亚洲欧洲日产国产| 老汉色av国产亚洲站长工具| 日韩欧美精品免费久久| 久久免费观看电影| 丝袜在线中文字幕| 亚洲一级一片aⅴ在线观看| 午夜福利乱码中文字幕| 日本爱情动作片www.在线观看| 国产免费现黄频在线看| 亚洲一区中文字幕在线| 亚洲激情五月婷婷啪啪| 中文字幕制服av| 久久久久精品久久久久真实原创| 婷婷色av中文字幕| 国产熟女欧美一区二区| 国产免费现黄频在线看| 国产亚洲最大av| 一个人免费看片子| 日本vs欧美在线观看视频| 妹子高潮喷水视频| 美女大奶头黄色视频| 春色校园在线视频观看| 欧美最新免费一区二区三区| 亚洲,一卡二卡三卡| 夫妻午夜视频| 国产在视频线精品| 国产精品av久久久久免费| 高清不卡的av网站| 捣出白浆h1v1| 观看美女的网站| 亚洲,欧美精品.| 欧美精品av麻豆av| 在线天堂中文资源库| 最近手机中文字幕大全| 视频在线观看一区二区三区| 九九爱精品视频在线观看| 国产精品人妻久久久影院| 亚洲精品一二三| 国产精品久久久久久av不卡| av.在线天堂| 精品少妇一区二区三区视频日本电影 | 亚洲人成网站在线观看播放| 91精品国产国语对白视频| 久久精品国产亚洲av高清一级| 五月天丁香电影| 国产精品成人在线| 精品亚洲成国产av| 男女国产视频网站| 美女高潮到喷水免费观看| 欧美国产精品va在线观看不卡| 欧美日韩成人在线一区二区| 高清在线视频一区二区三区| 成年女人毛片免费观看观看9 | 激情五月婷婷亚洲| 免费看av在线观看网站| 亚洲av国产av综合av卡| 日韩免费高清中文字幕av| av有码第一页| 搡老乐熟女国产| kizo精华| 成年动漫av网址| 99热国产这里只有精品6| 亚洲三区欧美一区| 亚洲精品视频女| 国产精品国产三级国产专区5o| 2022亚洲国产成人精品| 99热全是精品| freevideosex欧美| 一区二区三区激情视频| 久久99精品国语久久久| 久久久久久免费高清国产稀缺| 中文欧美无线码| 香蕉精品网在线| 26uuu在线亚洲综合色| 熟妇人妻不卡中文字幕| 欧美日韩一级在线毛片| 精品99又大又爽又粗少妇毛片| 日韩精品有码人妻一区| 伊人久久大香线蕉亚洲五| 亚洲av成人精品一二三区| 熟妇人妻不卡中文字幕| 国产熟女午夜一区二区三区| 麻豆精品久久久久久蜜桃| 欧美精品一区二区大全| 亚洲国产欧美网| 久久久久久久久久久免费av| 久久97久久精品| 十八禁网站网址无遮挡| 亚洲色图综合在线观看| 18+在线观看网站| 国产精品一区二区在线不卡| 人人妻人人爽人人添夜夜欢视频| 王馨瑶露胸无遮挡在线观看| 亚洲精品aⅴ在线观看| 妹子高潮喷水视频| 七月丁香在线播放| 久久毛片免费看一区二区三区| 一区二区三区四区激情视频| 黄频高清免费视频| 建设人人有责人人尽责人人享有的| 久久久精品国产亚洲av高清涩受| 一级爰片在线观看| 久久人人爽av亚洲精品天堂| 免费高清在线观看日韩| 国产黄色视频一区二区在线观看| 五月伊人婷婷丁香| 天天影视国产精品| 黑人欧美特级aaaaaa片| 精品国产一区二区三区久久久樱花| 亚洲精品成人av观看孕妇| 日韩伦理黄色片| 久久国产精品男人的天堂亚洲| 精品第一国产精品| 最近中文字幕2019免费版| 狂野欧美激情性bbbbbb| 精品国产乱码久久久久久小说| 美女中出高潮动态图| 天堂8中文在线网| 国产av精品麻豆| 国产精品国产三级国产专区5o| 一区二区av电影网| 成年动漫av网址| 亚洲 欧美一区二区三区| 日本-黄色视频高清免费观看| 日韩中文字幕欧美一区二区 | 亚洲三级黄色毛片| 综合色丁香网| 中文字幕人妻丝袜制服| 天堂俺去俺来也www色官网| 日韩大片免费观看网站| 国产成人一区二区在线| 夜夜骑夜夜射夜夜干| 只有这里有精品99| 国产深夜福利视频在线观看| 一边亲一边摸免费视频| 亚洲久久久国产精品| 欧美人与性动交α欧美软件| 青草久久国产| 天天躁狠狠躁夜夜躁狠狠躁| 成人影院久久| 国产av精品麻豆| 三级国产精品片| 国产成人91sexporn| 久久av网站| 一本大道久久a久久精品| 久久99蜜桃精品久久| 免费黄频网站在线观看国产| 天美传媒精品一区二区| 久久人妻熟女aⅴ| 亚洲精品中文字幕在线视频| 日韩三级伦理在线观看| 亚洲精品美女久久久久99蜜臀 | 丝袜人妻中文字幕| 亚洲伊人色综图| 中文字幕最新亚洲高清| 叶爱在线成人免费视频播放| 亚洲av综合色区一区| xxx大片免费视频| 亚洲精品美女久久av网站| 不卡av一区二区三区| 成人黄色视频免费在线看| 国产精品久久久av美女十八| 日本爱情动作片www.在线观看| 满18在线观看网站| 亚洲国产成人一精品久久久| 有码 亚洲区| 色94色欧美一区二区| 久久久久国产精品人妻一区二区| 一级毛片 在线播放| 99国产精品免费福利视频| 女性被躁到高潮视频| 看非洲黑人一级黄片| 男人添女人高潮全过程视频| 久久 成人 亚洲| 亚洲激情五月婷婷啪啪|