• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法律人格的否定及其規(guī)制構(gòu)想

    2021-08-28 19:53:22徐悅偉
    關(guān)鍵詞:理性主義人工智能

    徐悅偉

    摘要:人工智能法律屬性的討論應(yīng)立足于理性本位,試圖突破客體結(jié)構(gòu)限制而將人工智能人格化的觀點混淆了人類自主性與工具自動化的本質(zhì)區(qū)別。不同于自然人或者法人,人工智能未能發(fā)展出社會學(xué)意義上的理性意識,也不具備遵守和解釋法律規(guī)范的能力,賦予其法律人格理由不足且沒有必要。但人工智能與民法上的物仍有較大區(qū)別,鑒于其類人性、技術(shù)性的特征,應(yīng)當(dāng)界定為法律意義上的特殊物格。規(guī)制方面,以侵權(quán)歸責(zé)原則為主,同時參考著作權(quán)、產(chǎn)品責(zé)任等具體責(zé)任認(rèn)定規(guī)則,以回應(yīng)人工智能科技發(fā)展與法律規(guī)制的現(xiàn)實需要。

    關(guān)鍵詞:人工智能;法律人格;理性主義;特殊物格

    中圖分類號:D923

    文獻(xiàn)標(biāo)識碼:A

    文章編號:1673-5595(2021)04-0084-08

    2010年以來,人工智能發(fā)展的狂熱遍及全球,應(yīng)用層面一路高歌猛進(jìn),相關(guān)話題更是層出不窮。2017年5月,AlphaGO以3:0擊敗人類頂尖棋手柯潔,世界為之一震。當(dāng)然,棋盤上的“耀武揚(yáng)威”只是冰山一角,人工智能在各行各業(yè)均有亮眼的表現(xiàn):特斯拉無人駕駛汽車顛覆了傳統(tǒng)道路規(guī)則,沙特授予機(jī)器人“索菲亞”全球首個公民身份,微軟“小冰”創(chuàng)作的新聞與專業(yè)編輯的新聞毫無差異。以上種種無不標(biāo)志著人工智能正大踏步地走進(jìn)人們的生產(chǎn)、生活。當(dāng)然,人工智能不僅是科學(xué)的話題,更是一個法律的話題。當(dāng)科技日益成熟,法學(xué)家往往比科學(xué)家更有發(fā)言權(quán),其中,賦予人工智能法律人格便成為學(xué)者們孜孜以求的目標(biāo)。

    實踐中,國內(nèi)外學(xué)者紛紛就賦予人工智能法律人格的可行性各抒己見,歐盟、日本、美國、俄羅斯以及我國也相繼開展相關(guān)的立法探索。2016年,歐盟法律事務(wù)委員會制定的《歐盟機(jī)器人民事法律規(guī)則》將智能化機(jī)器人界定為“電子人”,并建議賦予其著作權(quán)等法律權(quán)利與義務(wù)。[1]2016年2月,美國加州公路安全管理局將發(fā)生交通事故的人工智能系統(tǒng)認(rèn)定為“司機(jī)”。[2]2017年,俄羅斯學(xué)者起草第一部機(jī)器人法草案——《格里申草案》,該草案提出對機(jī)器人的法律調(diào)整適用動物或者法人的調(diào)整規(guī)則,進(jìn)而增設(shè)專業(yè)的辦理主管機(jī)關(guān)。[3]2017年,我國發(fā)布《新一代人工智能發(fā)展規(guī)劃》,要求“建立追溯與問責(zé)機(jī)制,明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任”①。如此看來,賦予人工智能法律人格似乎已是大勢所趨。

    傳統(tǒng)法學(xué)理論與新興事物發(fā)生碰撞時,如何進(jìn)行理性的辨別與論證至關(guān)重要。事實上,當(dāng)前部分學(xué)者僅憑一腔熱血便著書立說,缺乏冷靜的思考與嚴(yán)謹(jǐn)?shù)耐评恚纱说贸龅慕Y(jié)論自然前后矛盾、漏洞百出,而這無疑偏離了法學(xué)研究的基本立場與方法。因此,筆者在總結(jié)學(xué)界現(xiàn)有研究成果的基礎(chǔ)上,對人工智能法律人格進(jìn)行針對性的否定辨析,明確人工智能的特殊物格定位,進(jìn)而構(gòu)建人工智能的法律規(guī)制路徑,以期對我國人工智能法學(xué)研究有所裨益。

    一、人工智能法律人格的學(xué)界論爭

    長久以來,以智能機(jī)器人為代表的人工智能理所當(dāng)然地被人們歸為“物”的一種。然而,隨著強(qiáng)化學(xué)習(xí)、仿真模擬、生物識別等技術(shù)的發(fā)展及交互融合,人工智能類人化程度不斷提高,越來越多的學(xué)者表達(dá)出對其作為法律客體的質(zhì)疑,并提議對其解禁,使之具有法律上的人格。而在否定人工智能法律人格的學(xué)者看來,人工智能的理性意識并不具有社會學(xué)意義上的價值,也無法與現(xiàn)有的法律規(guī)范體系兼容,因此,賦予人工智能法律人格有待商榷。兩派學(xué)者各執(zhí)一詞,爭論頗為激烈。

    對人工智能的法律人格持“肯定說”的學(xué)者數(shù)量較為可觀,與此相關(guān)的論著也較多。劉憲權(quán)通過對“強(qiáng)人工智能”辨認(rèn)能力與控制能力的分析,主張擁有自我意識的人工智能與自然人并非涇渭分明,也就是說在自主意識支配下的“冰冷”的機(jī)器人與有生命的自然人無異。[4]郭少飛以人工智能所具備的規(guī)范性和自主性為邏輯起點,同時考量社會、文化、倫理以及哲學(xué)等法外因素,主張賦予人工智能以“電子人”身份。[5]袁曾認(rèn)為強(qiáng)人工智能所具有的獨立自主意識決定了其法律人格,但這種法律人格顯然與自然人或法人無法相提并論,人工智能責(zé)任承擔(dān)能力、范圍是有限的,因此可以認(rèn)定為“有限法律人格”。[6]除此之外,學(xué)界關(guān)于人工智能法律定位的理論還有“次等法律人格說”②“位格加等說”③和“人工類人格說”④等,在此不再一一贅述。

    當(dāng)前持“否定說”的學(xué)者們多運用法律實證主義的方法論證人工智能不具有法律人格。皮勇認(rèn)為受人類控制的人工智能根本不具有獨立的主體性,并不能為現(xiàn)行法律中的責(zé)任與刑罰所規(guī)制,賦予其法律主體地位極易與現(xiàn)有法律體系產(chǎn)生“排異反應(yīng)”。[7]時方則根據(jù)意志自由的認(rèn)識要素與意志要素進(jìn)行分析,主張法律規(guī)范只對具有社會評價意義的目的性舉動施加要求或者禁止,人工智能并不符合法律主體認(rèn)定的本質(zhì)內(nèi)涵。[8]冀洋指出“肯定說”學(xué)者對人工智能辨認(rèn)與控制能力的認(rèn)識存在誤解,而且當(dāng)前的法律責(zé)任體系仍應(yīng)以人類為中心,完全沒有必要因科技的進(jìn)步而試圖重構(gòu)原有的責(zé)任體系。[9]

    綜觀兩派學(xué)者的主張,筆者以為,當(dāng)前贊同賦予人工智能法律人格的觀點不僅缺乏基礎(chǔ)理論的支持,在論證邏輯上也難以自洽。

    第一,“肯定說”學(xué)者對人與物的區(qū)分存在誤讀。“有限法律人格說”一方面強(qiáng)調(diào)人工智能本質(zhì)上為工具,明顯屬于客體范圍;另一方面卻極力證明其具有獨立思考能力,應(yīng)當(dāng)賦予法律人格。可見,“肯定說”學(xué)者的主張并沒有勾畫出完整統(tǒng)一的論證體系,反而陷入前后矛盾的邏輯誤區(qū)。同樣,“人工類人格說”“電子人格說”也認(rèn)為人工智能具有人類倫理意識,而這種倫理意識又是基于人類的制造,因此被稱為“人工類人格”或“電子人格”。但是,“人工”的附屬性與“人格”的獨立性存在天生的矛盾。更有甚者,有學(xué)者將人工智能定位為“人工類人格”的同時,又將其歸入“倫理物格”的范疇,[10]此種論證過程不僅難以說服其他學(xué)者,反而增加了對其自身主張的合理懷疑。

    第二,“肯定說”學(xué)者對法律主體的擴(kuò)張邏輯認(rèn)識不足。觀古今中外,盡管法律主體的外延不再局限于生物學(xué)意義上的人,但人格的擴(kuò)展并不是一個無限的過程,而是有一定規(guī)律的。這種規(guī)律表現(xiàn)為人格的擴(kuò)展沿著自然人以及社會組織兩個向度進(jìn)行,前者從自由民擴(kuò)展到異鄉(xiāng)人、奴隸乃至黑人、婦女,后者則由最初的自然人擴(kuò)展到法人、其他組織。[11]總體來看,便是“倫理性—經(jīng)濟(jì)性—工具性”的轉(zhuǎn)化過程。而“肯定說”學(xué)者僅根據(jù)人工智能具有遠(yuǎn)超人類的智識便主張賦予人工智能法律人格,其理想色彩與功利主義過于濃厚。更何況,人工智能法律人格的賦予必然引起更多人格類型的“覺醒”。例如,自20世紀(jì)70年代以來,賦予動物法律主體資格的呼聲日益高漲,倘若動物被賦予了法律人格,那植物呢?其他生命呢?彼時,人類的生存空間或許要因自己設(shè)定的規(guī)則而萎縮。可見,僅在技術(shù)假想之上作過于細(xì)致的制度設(shè)計,并不能為人工智能法律人格之賦予提供充足的理由。

    第三,“肯定說”學(xué)者忽略了人工智能人格化后的社會風(fēng)險。暫且不談立法成本問題,一旦賦予人工智能法律人格,即意味著允許其自負(fù)責(zé)任,這顯然會偏離人工智能的正常發(fā)展方向。倘若如此,制造者、研發(fā)者不必為人工智能的行為負(fù)責(zé),甚至在設(shè)計、制造階段便不會考慮技術(shù)風(fēng)險與社會風(fēng)險,這不僅違反法律規(guī)范中權(quán)義責(zé)建構(gòu)的意義,有失公平正義之價值,更會為社會安全穩(wěn)定增加諸多不確定因素。

    可見,人工智能法律人格“肯定說”學(xué)者的主張似乎并未遵循嚴(yán)謹(jǐn)?shù)姆ㄕ軐W(xué)意義上的理性與意志之證成,也絕非人權(quán)保護(hù)的需要,更像是單純的“去人類中心化”的理念使然。[12]如果一味追求對人工智能法律人格“偽命題”的解答,不假思索擴(kuò)張法學(xué)理論反而會走入形而上的學(xué)術(shù)誤區(qū)。

    反觀人工智能法律人格“否定說”的觀點,已注意到了人工智能缺乏社會學(xué)意義上的自我意識,且其本身無法與法律規(guī)范中的權(quán)利義務(wù)相統(tǒng)一。而且,“否定說”學(xué)者并沒有沉迷于強(qiáng)人工智能的烏托邦里,而是立足實際,通過實證推理與解釋技術(shù)實現(xiàn)了人工智能與現(xiàn)有法律的契合。例如,某些人工智能軟件可視為智力成果的一種,從而歸入《中華人民共和國民法典》(以下簡稱《民法典》)第115條中列明的物的范疇,同時成為著作權(quán)的保護(hù)客體;人工智能致害則可堅持解釋論視角,適用產(chǎn)品責(zé)任規(guī)則或者類推適用動物飼養(yǎng)人、管理人責(zé)任??梢姡F(xiàn)有的法律規(guī)范面對人工智能并非無可奈何,這亟待“肯定說”學(xué)者們的深思與警醒。

    二、人工智能法律人格否定之再審視

    盡管人工智能法律人格“否定說”更符合公眾認(rèn)知與理性邏輯,但事實上,“肯定說”學(xué)者的主張一直處于優(yōu)勢地位。究其原因,有兩點值得反思:其一,“否定說”學(xué)者過于關(guān)注人工智能理性思維、獨立意識等哲學(xué)甚至是玄學(xué)理論的應(yīng)用,而沒有找到一種可修改、可證偽、可操作的論證方式,以至于雖有的放矢,卻千篇一律,毫無新意;其二,即便部分學(xué)者憑借豐富的哲學(xué)、社會學(xué)、法學(xué)、心理學(xué)等知識推翻了“肯定說”的主張,但其忽略了更為重要的后續(xù)問題,那就是人工智能應(yīng)該如何定位,若籠統(tǒng)地歸為民事法律關(guān)系客體的大類范疇,則會加劇理論的脆弱性。要妥善解決以上兩個問題,不僅要在自然法意義上討論人工智能是否符合人的定義,還應(yīng)從實證法角度觀察人工智能是否具備成為法律人格的條件。最重要的是,在數(shù)字法治時代下,為實現(xiàn)對人工智能的有效規(guī)制,亟待為人工智能尋找具體的法律框架。

    自然人是無可爭議的法律人格主體,法人以及其他組織在漫長的法治進(jìn)程中也被賦予了“鮮活的生命”。對比人工智能與自然人、法人法律人格的生成邏輯,便可驗證其法律人格的虛假性。

    (一)人工智能不符合法律對“理性人”的定義

    盡管學(xué)界對“理性人”的表述各有不同,但最終殊途同歸,基本都落到了認(rèn)知理性、行為理性、權(quán)責(zé)義的享有等范疇。因此,對于人工智能法律人格的辨析可從兩個方面尋找思路,分別是理性意識和遵守與解釋法律規(guī)范的能力。

    1.人工智能不具備“人之魂”——理性意識的缺失

    美國大法官霍姆斯曾言:法律的生命在于經(jīng)驗而不是邏輯。[13]霍姆斯的觀點說明法律不僅是規(guī)范體系,還是價值與倫理體系,這種體系下的主體預(yù)設(shè)便是理性人。理性人的設(shè)定在我國法律規(guī)范中同樣有所體現(xiàn),我國《民法典》總則編中的民事主體主要包括自然人和法人、非法人組織等,其主體地位主要通過民事權(quán)利能力與民事行為能力予以確認(rèn)。其中自然人民事權(quán)利能力始于出生終于死亡,民事行為能力則更多考慮到年齡、智力、精神健康狀態(tài)等因素。可見,《民法典》中的民事主體認(rèn)定傾向于對理性的考量,而這種理性可以簡化為認(rèn)知理性與行為理性。前者內(nèi)化于人的感性認(rèn)識與邏輯推理,是透過現(xiàn)象看本質(zhì)的思維過程;后者則是基于前者認(rèn)知,權(quán)衡利弊后對行為結(jié)果的預(yù)測與選擇。

    人工智能只是人類感官與智能的機(jī)械延伸,本身沒有欲望與感情,可以說人工智能的理性屬于數(shù)字理性,其算法程序與運行規(guī)則都是人類預(yù)先設(shè)計的(至少現(xiàn)在是這樣的)。具體而言,一方面,人工智能缺乏認(rèn)識理性。廣義的認(rèn)識包括識別與感情。盡管智能機(jī)器人早已具備遠(yuǎn)超人類的識別能力,但感情的證明頗為艱難。人類之所以作為道德對待的對象,正是因為人類有感情,這種感情體現(xiàn)在對快樂的追求、對痛苦的逃避、對可憐人的同情。雖然機(jī)器人完全可以在高溫或者極寒的環(huán)境中表現(xiàn)出痛苦、恐懼的狀態(tài),但這種狀態(tài)并非內(nèi)發(fā)形成的,不排除人類指令控制的可能。[14]另一方面,人工智能缺乏行為理性。在行為理性方面,人類總是能夠自動根據(jù)特定的情景設(shè)定階段性目標(biāo),即人類并不會直接去執(zhí)行總目標(biāo),而是將過程分為數(shù)個階段性目標(biāo),逐一達(dá)成;而人工智能的運行機(jī)理在于通過在海量數(shù)據(jù)庫中“暴力窮舉”式的搜索找出最佳答案,這一過程目的唯一、方式單一,以至于有學(xué)者曾言:“凡是可以描述的、重要的、有固定規(guī)則和標(biāo)準(zhǔn)答案的工作崗位,都有被智能機(jī)器人取代的可能?!盵15]因此,從理性本位考量,人工智能缺少成為人的“靈魂”,完全沒有理由賦予其法律人格。

    2.人工智能不具備“人之能”——解釋與遵守法律規(guī)范能力的缺乏

    阿西莫夫在科幻小說《我,機(jī)器人》中曾提出“機(jī)器人三定律”:第一,不傷害定律,機(jī)器人不得傷害人類,也不能對受到傷害的人類袖手旁觀;第二服從定律,機(jī)器人必須服從指令,但不得違反第一定律;第三自保定律,機(jī)器人應(yīng)盡可能保護(hù)自己,但不得違反第一第二定律。同時,為了阻止人類彼此傷害,也為了避免前述定律的自相矛盾,后人又補(bǔ)充了“第零定律”,即機(jī)器人不得傷害人類整體,或者坐視人類整體受到傷害。檢視人工智能與法律規(guī)則的“碰撞”,人工智能沒有服從法律規(guī)范的期待可能性,也無法感知違法行為對社會造成的消極后果,自然欠缺將其納入法律主體范圍的可行性。即使在未來,人工智能突破了技術(shù)“奇點”,能夠做到遵從法律規(guī)范,但對法律規(guī)范的解釋又會成為難題?;诜ń塘x學(xué)的視角,人類遵守規(guī)則最好的方式是解釋規(guī)則。對于人類、機(jī)器人、命令、保護(hù)、傷害等法言法語的解釋,人與人之間尚有不同理解,機(jī)器人與人、機(jī)器人與機(jī)器人之間更會大相徑庭。也許人工智能錯誤理解保護(hù)人類的含義,算法自主加劇認(rèn)知危機(jī),最終演化為算法戰(zhàn)爭。

    綜上,人類創(chuàng)設(shè)人工智能的直接目的是讓人從勞動中解放出來,最終目的是提高人類社會的整體福利,其必然不具備獨立意識與自然理性。如果人類賦予人工智能獨立意識,無疑如造物主般創(chuàng)設(shè)了新的物種,這顯然與人工智能的設(shè)計初衷相背離。同時,人工智能無論如何都無法取得社會學(xué)意義上的身份與財產(chǎn),不具備成為法律主體的物質(zhì)性條件,更無法做到理解與遵守規(guī)則。因此,人工智能難以符合法律所接受和關(guān)懷的理性人的定義。

    (二)人工智能難以契合擬制主體法理

    既然人工智能無法比照自然人獲得法律人格,那么能否另辟蹊徑,借助“非人可人”的法律擬制技術(shù),轉(zhuǎn)而走外部賦權(quán)的路徑呢?筆者以為此種解釋同樣存在問題。

    第一,法人屬于人的集合。雖然法人與人工智能都難以與自然人的生理構(gòu)造與倫理觀念相契合,既沒有可譴責(zé)的靈魂也沒有可受罰的身軀。法人作為組織體,無論是社團(tuán)法人還是財團(tuán)法人,均是基于人的意志而設(shè)立的特定組織。也正因為法人的決策是由自然人做出、法人的意志體現(xiàn)著自然人整體的意志,所以我國對單位犯罪采取雙罰制。雙罰制的設(shè)計邏輯又反證法人的責(zé)任并非其獨立承擔(dān),而是與背后的自然人共同承擔(dān),這更加印證了法人所謂的“生命”與“靈魂”源于人腦。反觀人工智能,其作出的決定是基于數(shù)據(jù)與算法的集合,缺乏人格集合的事實基礎(chǔ),無法發(fā)揮法律擬制的技術(shù)價值。[16]因此,僅單純地觀察法人的運行邏輯完全無法得出人工智能具有法律人格的結(jié)論,更難以掙脫以倫理觀念為中心的歸責(zé)桎梏。

    第二,賦予法人擬制人格是社會發(fā)展的必然結(jié)果。古羅馬法曾就生物人和人格人作出區(qū)分,強(qiáng)調(diào)了“homo”(生物人)、“persona”(身份、面具)與“caput”(權(quán)利義務(wù)主體)的區(qū)別,并設(shè)計人格減等制度對市民的人格進(jìn)行限制與規(guī)范,這表明法律對象的評價逐漸由市民中心轉(zhuǎn)向社會中心。正是顧及法人在社會中的獨立地位與獨立價值才使得其成為法律主體有了可能。這種社會價值體現(xiàn)在兩個方面:其一,分離個人財產(chǎn)與團(tuán)體財產(chǎn),使責(zé)任相互獨立,有利于規(guī)避風(fēng)險投資,推動資本主義發(fā)展;其二,將個人與法人兩種人格的地位獨立,節(jié)約了司法成本,便利了交易與訴訟。而人工智能依靠大數(shù)據(jù)與算法運行,不具備控制自身行為的意志能力,其本身的歸屬并不明確,更枉談獨立地位之證成。而且,人工智能法律人格宣示意義遠(yuǎn)勝于實際作用,其不會為解決社會運作中的問題帶來突破性方案,更不會像法人一般產(chǎn)生巨大的社會效益。

    第三,法人的目的仍是服務(wù)自然人。法人本質(zhì)上屬于自然人個體人格的群體化,即便“非人可人”,那也是對自然人能力的順從與周延,擬制技術(shù)的目的仍是服務(wù)于自然人。因此,基于法人與自然人的同質(zhì)性,將法人納入民事主體中無可厚非。如果將人工智能擬制為“法人”或者“電子法人”,不但在實踐中缺乏可操作性,更重要的是會喪失“服務(wù)人”的擬制目的,有導(dǎo)致人的“貶值”之虞。

    三、人工智能的法律定位:特殊物格

    前文提到,造成“否定說”主張劣勢的另一大原因是其沒有為人工智能尋找到精準(zhǔn)適宜的法律框架。筆者以為,人工智能只是人類智商與行為簡單地、機(jī)械地延伸,本身不具備成為法律意義上主體的可能性,不應(yīng)當(dāng)賦予法律人格,而應(yīng)在民法客體的范圍內(nèi)尋找歸宿,特殊物格便是其中頗為適宜的選擇。

    (一)特殊物格的邏輯起點

    在羅馬法中作為社會主體的人與權(quán)利客體的物,在幾千年的發(fā)展歷程中趨向兩極化,即人格的類型逐漸單一化,以人格減等為聯(lián)系紐帶的多元人格走向單一的平等人格;而物的發(fā)展卻因人對社會認(rèn)識與支配范圍的提高而有了極大擴(kuò)展,呈現(xiàn)出多樣化的樣態(tài),[17]這就使得物的種類增加、共性減弱、個性凸顯,物格的內(nèi)涵逐漸豐富。

    物格,顧名思義,是指物的資格或標(biāo)準(zhǔn)。法律意義上的物格是相對于人格而言的概念,強(qiáng)調(diào)物作為權(quán)利客體的資格、規(guī)格或格式。[18]當(dāng)前我國并沒有明確物格的法律定義,而是以財產(chǎn)作為替代。[19]但法律概念的缺失并不代表現(xiàn)實需求的虛無,相反,以人工智能為代表的新興事物正期待著物格理論的回歸。一方面,通過借鑒歷史上法律人格的創(chuàng)設(shè)邏輯塑造民法物格的基本結(jié)構(gòu),可以實現(xiàn)物的類型化保護(hù)。質(zhì)言之,將不同的物賦予不同的物格,方便立法者依據(jù)法律主體支配力、物格特性等因素確定不同的保護(hù)力度,最終制定不同的規(guī)制方法。另一方面,特殊物格的結(jié)構(gòu)設(shè)計為以人工智能為代表的新事物預(yù)留了制度空間。特殊物格并不是封閉的系統(tǒng),而是始終保持著開放的態(tài)勢,這就意味著即便未來出現(xiàn)了顛覆人們傳統(tǒng)認(rèn)知的事物,也可以在現(xiàn)有法律框架中找到規(guī)制方法,避免了無法可依的尷尬局面。

    通說認(rèn)為,根據(jù)物格利益的不同,可將其分為倫理物格、一般物格及特殊物格。倫理物格是指具有生命倫理價值之物的資格,包括與人體或者人格利益有關(guān)的物,如死胎、尸體、脫離人體的器官等;也包括其他生命類型的物,如寵物、野生動物、植物。一般物格是指民法中的物的統(tǒng)稱,也就是傳統(tǒng)的動產(chǎn)或不動產(chǎn)。特殊物格指具有特殊法律屬性并應(yīng)以特殊規(guī)則加以規(guī)范的物的資格,如證券、作品、電子貨幣、虛擬財產(chǎn)等。在理解物格類型的基礎(chǔ)上,接下來要做的便是為人工智能尋找適宜的規(guī)制框架。

    (二)人工智能特殊物格的理性證成

    人工智能不同于民法上一般的物,也與人類生理構(gòu)造、思維邏輯有著本質(zhì)區(qū)別,不宜歸入倫理物格或一般物格的范疇。具言之,一方面,倫理物格始終伴隨著生命與人格利益,可謂是民法客體體系中地位最高、支配力最強(qiáng)的首要物格。如此,對于此類物格的規(guī)制與保護(hù)力度應(yīng)盡可能趨同于法律主體上的自然人。而如前文所述,人工智能無論如何都不具備成為人的物質(zhì)性條件,更無法產(chǎn)生理性意識與解釋能力,這與倫理物格所概括的物的屬性格格不入。另一方面,一般物格是民法中最基本、支配力最低的物的資格,屬于兜底的物的資格。傳統(tǒng)民法對一般物格內(nèi)容的劃分僅局限于有體物,顯然無法應(yīng)對當(dāng)前高端的科技產(chǎn)物與復(fù)雜的社會關(guān)系。因此,若將人工智能籠統(tǒng)的歸為一般物格的范疇,難免有牽強(qiáng)附會之嫌。

    將人工智能歸為倫理物格或者一般物格均有一定的局限性。參考人工智能的構(gòu)造、運行機(jī)理以及與人類的關(guān)系,宜塑造為特殊物格,從而確定其法律地位、權(quán)利規(guī)則以及保護(hù)措施。將人工智能定位于特殊物格有多重意義。首先,確立人工智能特殊物格制度,有利于厘清人機(jī)定位。人工智能是法律客體上的物,更準(zhǔn)確地說是法律客體中特殊的物;而人作為法律主體中的自然人,享有權(quán)利并承擔(dān)義務(wù)。主客體分類可以明確人與機(jī)器人的法律地位,對當(dāng)前法學(xué)界人工智能的研究指引頗有益處。其次,明確人工智能特殊物格定位,有利于為人工智能提供區(qū)分化保護(hù)。從成本-效益角度來看,與人類關(guān)系密切、技術(shù)設(shè)計復(fù)雜的人工智能應(yīng)得到最為完善的保護(hù),而對被廣泛應(yīng)用、操作簡單的人工智能的保護(hù)力度則稍遜一籌。最后,明確人工智能特殊物格定位,有利于人工智能的可控發(fā)展。將人工智能歸為客體范疇,意味著設(shè)計者、制造者、使用者仍應(yīng)盡必要的注意義務(wù),同時人工智能致害事件發(fā)生后也須承擔(dān)相應(yīng)的責(zé)任。這將有助于政府建立和維護(hù)人工智能的管理秩序,從而實現(xiàn)安全可控的發(fā)展。

    四、特殊物格視野下人工智能的法律規(guī)制構(gòu)想

    行文至此,至少可以明確人工智能特殊物格的法理歸屬,而且該構(gòu)想亟待在當(dāng)前的立法規(guī)范中予以體現(xiàn)?;诖?,如何實現(xiàn)《民法典》等法律規(guī)范的補(bǔ)充與完善,如何構(gòu)建與人工智能有關(guān)的責(zé)任承擔(dān)機(jī)制,便成為下文構(gòu)思的重點。

    (一)人工智能特殊物格的宏觀立法建議

    利用特殊物格的理論框架,能夠很好地解決人工智能的屬性定位與規(guī)制問題。遺憾的是,現(xiàn)行立法并無對特殊物格的表述,使得人工智能的法治化建設(shè)缺乏明確的指引。因此,筆者認(rèn)為,基于人工智能與生產(chǎn)生活高度融合以及數(shù)字法治穩(wěn)步推進(jìn)的社會背景,賦予人工智能特殊物格的法律定位正當(dāng)其時,這種特殊物格屬性不僅應(yīng)當(dāng)反映在《民法典》總則編中,而且各分編乃至部門法律也應(yīng)該進(jìn)行規(guī)則的構(gòu)建與銜接。

    第一,在《民法典》總則編中,為特殊物格預(yù)留充分的制度空間。無論是原來的《民法總則》還是《民法典》總則編對私權(quán)客體均無統(tǒng)一的規(guī)定,這顯然不利于人工智能的法律定位與規(guī)制。當(dāng)然,筆者無意構(gòu)建統(tǒng)一的民事法律客體體系,唯想在民法視閾下明確人工智能的物格屬性,如此,方可為人工智能提供規(guī)范的法治框架。誠如前文所述,人工智能不具備成為法律主體的理性意識與守法能力,也無法通過解釋技術(shù)賦予其擬制人格,因此,人工智能只能在民法客體范圍內(nèi)尋找歸宿。筆者建議,在民法客體層面無須改變現(xiàn)有學(xué)理對物的分類序列,而應(yīng)在細(xì)節(jié)上加以補(bǔ)充。例如,按照人工智能的具體形態(tài)可分為有體物和無體物,前者如智能機(jī)器人,后者如自動駕駛系統(tǒng)等;基于公共安全視角,可將人工智能分類為流通物、限制流通物以及禁止流通物;另外,人工智能與人工智能生成物可看作原物與孳息。

    第二,在《民法典》各分編以及其他部門法中,應(yīng)當(dāng)完善內(nèi)部規(guī)則設(shè)計與制度機(jī)制。首先,在物權(quán)領(lǐng)域,明確人工智能特殊物格的定位之后,法律主體對其享有的權(quán)利便可稱為物權(quán)。在整個物權(quán)體系中,立法者不僅要關(guān)注形式意義上的物權(quán)規(guī)范,還要關(guān)注包含各種特殊物權(quán)制度的實質(zhì)意義上的物權(quán)規(guī)范。如《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國道路交通安全法》等對特殊物格的規(guī)制都需要明確與《民法典》物權(quán)編的關(guān)系并做好制度銜接。其次,在債權(quán)領(lǐng)域,主要涉及合同標(biāo)的物及侵權(quán)責(zé)任。前者物之屬性定位完全可以使之成為合同交易的標(biāo)的,對合同成立、生效以及履行不會造成沖擊;后者則須參考產(chǎn)品責(zé)任、著作權(quán)等規(guī)范適用,同時保持規(guī)則張力,以應(yīng)對人工智能的持續(xù)發(fā)展。最后,在侵權(quán)責(zé)任領(lǐng)域,尤其應(yīng)關(guān)注人工智能侵害自然人生命權(quán)、健康權(quán)、隱私權(quán)以及個人信息保護(hù)等情形。

    (二)人工智能特殊物格的微觀規(guī)則設(shè)計

    前文涉及特殊物格法律框架的表述略顯籠統(tǒng),不足以應(yīng)對復(fù)雜的司法實踐。鑒于人工智能造成的糾紛多集中在人身侵權(quán)、人格權(quán)、著作權(quán)等領(lǐng)域,因此,法律規(guī)制的具體細(xì)節(jié)設(shè)計也應(yīng)當(dāng)從這幾個方面展開。

    1.人工智能著作權(quán)規(guī)制構(gòu)想

    《中華人民共和國著作權(quán)法》(以下簡稱《著作權(quán)法》)第11條規(guī)定:在沒有法律規(guī)定以及合同約定的情況下,作品的著作權(quán)歸屬于作者,此處的作者為自然人、法人或非法人組織。人工智能的創(chuàng)作物完全具備相當(dāng)?shù)膭?chuàng)作水準(zhǔn)與藝術(shù)價值,形式上符合作品的外在要求,但由于其不存在自主創(chuàng)作成分,本質(zhì)上仍是人類智能的應(yīng)用與延伸,因此不存在成為作者的可能。質(zhì)言之,人工智能創(chuàng)作之內(nèi)容,實質(zhì)上是人機(jī)合作的成果,并沒有脫離《著作權(quán)法》的人格主義基礎(chǔ)。

    在理解上述邏輯的基礎(chǔ)上,筆者建議可從兩個方面構(gòu)建規(guī)制路徑。一方面,人工智能生成物的歸屬。人工智能本身就是作為設(shè)計者的知識產(chǎn)權(quán)而存在,人工智能生成的“作品”也屬于衍生品,可以視作職務(wù)作品或者雇傭作品,應(yīng)當(dāng)為著作權(quán)法所保護(hù),由投資者、設(shè)計者、開發(fā)者、制造者享有和行使權(quán)利。另一方面,人工智能生成物的保護(hù)。對于人工智能生成物的保護(hù)須重點考察著作權(quán)的取得方式以及保護(hù)期限。著作權(quán)的取得方式,是指著作權(quán)人通過何種方式取得著作權(quán)。目前我國采用自動取得規(guī)則,即創(chuàng)作完成便可自動取得,無須履行相關(guān)手續(xù)??紤]到人工智能在文學(xué)藝術(shù)創(chuàng)作中的廣泛應(yīng)用,未來將涌現(xiàn)海量的人工智能生成“作品”,為便于證明權(quán)益,解決糾紛,可采用登記備查的方式加以確權(quán)。對于保護(hù)期限,著作權(quán)法規(guī)定了兩種保護(hù)期限計算方式:一為“有生之年+死亡后50年”,主要針對作者為自然人的情形;一為“發(fā)表后50年”,主要適用于法人、其他組織或特殊作品。前文提到,人工智能理論上不死不滅,參考自然人保護(hù)期限難以契合現(xiàn)有實踐,因此,可以采取“發(fā)表起算主義”,一方面符合社會理性常識,另一方面可以節(jié)省公眾使用成本。

    2.人工智能致害責(zé)任規(guī)制構(gòu)想

    當(dāng)前,人工智能已經(jīng)作為消費品“飛入尋常百姓家”,同時,人工智能因設(shè)計缺陷等原因造成的人類財產(chǎn)、生命受損的情形也屢見不鮮,其中最為熟知的便是自動駕駛汽車引發(fā)的交通事故。全球首例自動駕駛汽車致死事件于2018年3月發(fā)生在美國亞利桑那州,這也使得其他州的上路測試計劃擱淺。⑤事實上,現(xiàn)有交通規(guī)則往往無法認(rèn)定駕駛者的過失,算法“黑箱”也會導(dǎo)致解密過程需要付出極大代價。基于成本-效益原則,對此類侵權(quán)問題,應(yīng)當(dāng)首先在產(chǎn)品規(guī)則體系內(nèi)考察,即人工智能若因缺陷造成人類財產(chǎn)、生命受損時,由產(chǎn)品的設(shè)計者、制造者、銷售者對此承擔(dān)無過錯責(zé)任;如果是因銷售者的過失造成產(chǎn)品缺陷,則由銷售者承擔(dān)責(zé)任;如果銷售者沒有過錯,其承擔(dān)責(zé)任后,可以向制造者、設(shè)計者追償。法理邏輯在于,自動駕駛汽車所展現(xiàn)出的自主性,正是前期編程對程序的開放性設(shè)計所致,而此種設(shè)計完全可被生產(chǎn)商控制,此為產(chǎn)品責(zé)任的合理基礎(chǔ)。而且,無過錯責(zé)任可以規(guī)制生產(chǎn)行為,倒逼生產(chǎn)者和設(shè)計者盡最大注意義務(wù)保證產(chǎn)品安全。[20]

    當(dāng)然,為了保障人工智能侵權(quán)責(zé)任的落實,有必要建立相應(yīng)的配套機(jī)制。

    第一,健全人工智能產(chǎn)品授權(quán)審批及登記備案制度。通過建立嚴(yán)格的審批與登記備案制度,可以實現(xiàn)事前危機(jī)預(yù)防與事后精準(zhǔn)追責(zé)雙重目的。

    第二,建立人工智能責(zé)任技術(shù)認(rèn)定機(jī)構(gòu)。高度智能化、技術(shù)化以及隱蔽化人工智能無法適用原本屬于自然人的鑒別思維與方式,亟待建立專業(yè)機(jī)構(gòu)對人工智能的倫理價值、算法邏輯以及運行機(jī)理進(jìn)行解釋。

    第三,完善人工智能強(qiáng)制保險制度。人工智能侵權(quán)責(zé)任保險制度可以滿足大部分被侵害人的基本賠償請求,同時減少人工智能生產(chǎn)者的經(jīng)濟(jì)壓力,在具體制度設(shè)計層面,保險費率、承保范圍、免責(zé)條款等可依據(jù)不同的人工智能產(chǎn)品區(qū)別對待。

    3.人工智能侵害人格權(quán)規(guī)制構(gòu)想

    人工智能對人格的侵害集中在隱私權(quán)領(lǐng)域。以當(dāng)下某些流行的網(wǎng)紅App(如抖音、今日頭條、快手等)為例,基于信息與技術(shù)的不對稱,平臺利用大數(shù)據(jù)與算法偏好瘋狂攫取用戶個人信息,增加了信息泄露與違規(guī)使用的風(fēng)險,而用戶對此毫不知情或者明知道卻無能為力。盡管我國《民法典》中人格權(quán)獨立成編,足以顯示出國家對人格保護(hù)的重視,但對于人工智能信息侵權(quán)的規(guī)范尚處于起步階段,難以起到充分保護(hù)用戶隱私的作用。因此,有必要在《民法典》人格權(quán)編、侵權(quán)責(zé)任編加以落實與補(bǔ)充。對此,筆者有如下建議。

    第一,強(qiáng)化人工智能制造者、數(shù)據(jù)控制者的責(zé)任。健全通知機(jī)制,即數(shù)據(jù)控制者應(yīng)當(dāng)以清晰、明顯的方式通知用戶;保障用戶知情權(quán),完善同意機(jī)制,對于人工智能直接或間接使用個人信息,均須得到用戶同意;確立最低限度原則,數(shù)據(jù)控制者對于用戶個人信息的搜集、使用、分析均應(yīng)本著最低限度的原則,防止信息的濫用。

    第二,豐富用戶權(quán)利。如增加個人信息的刪除權(quán)(被遺忘權(quán)),用戶可以向平臺主張刪除自身遺留的包括瀏覽信息、身份信息、出行信息在內(nèi)的隱私信息,當(dāng)然,此處刪除的內(nèi)容不僅包含用戶所能看得見的,還應(yīng)包括看不見的后臺存儲的一切有關(guān)數(shù)據(jù);增加數(shù)據(jù)控制者自動化處理的解釋權(quán),該權(quán)利強(qiáng)調(diào)用戶可以向人工智能設(shè)計者質(zhì)詢個人信息的處理過程,也即算法運行機(jī)理的解釋;增加信息處理的拒絕權(quán),若用戶經(jīng)解釋發(fā)現(xiàn)算法規(guī)則存在信息泄露的危險,法律應(yīng)當(dāng)賦予個人拒絕人工智能自動化處理的權(quán)利。

    五、結(jié)語

    法學(xué)研究固然要與社會發(fā)展同步,但追逐熱點的同時切記放緩腳步,甚至要駐足反思。無論人工智能在體能、智能方面如何“碾壓”人類,最終仍逃脫不掉工具范疇,其必然不具備理性意識,更沒有必要賦予其法律人格。人工智能的法律地位應(yīng)當(dāng)界定為客體范疇,無論這種客體具體內(nèi)涵是筆者主張的特殊物格還是其他類型,相信這都是一條正確的道路。

    注釋:

    ① 參見《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國發(fā)〔2017〕35號),http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm20。

    ② 參見張紹欣《從法律人類學(xué)視角論智能機(jī)器人與人類的關(guān)系》一文,載于《中國法理學(xué)會2017年年會論文集》。

    ③ 參見Gabriel Hallevy, The Criminal Liability of Artificial Intelligence Entities From Science Fiction to Legal Social Control. Akron Intellectual? Proporty Journal, 2010(4)。

    ④ 參見Hubbard F P. "Sophisticated Robots":Balancing Liability, Regulation, and Innovation(2015)。

    ⑤ 全球首例無人車致死案宣判Uber公司無刑責(zé),參見http://news.sina.com.cn/sf/news/hqfx/2019-03-07/doc-ihsxncvh0587667.shtml。

    參考文獻(xiàn):

    [1] 孫占利.智能機(jī)器人法律人格問題論析[J].東方法學(xué),2018(3):10-17.

    [2] 無人駕駛汽車歷史性的一刻:美國官方機(jī)構(gòu)認(rèn)定谷歌自動駕駛機(jī)器人為“司機(jī)”[EB/OL].(2016-02-11)[2020-06-29].http://www.ittime.com.cn/news/news_10179.shtml.

    [3] 張建文.格里申法案的貢獻(xiàn)與局限——俄羅斯首部機(jī)器人法草案述評[J].華東政法大學(xué)學(xué)報,2018,21(2):32-41.

    [4] 劉憲權(quán).人工智能時代刑法中行為的內(nèi)涵新解[J].中國刑事法雜志,2019(4):60-72.

    [5] 郭少飛.“電子人”法律主體論[J].東方法學(xué),2018(3):38-49.

    [6] 袁曾.人工智能有限法律人格審視[J].東方法學(xué),2017(5):50-57.

    [7] 皮勇.人工智能刑事法治的基本問題[J].比較法研究,2018(5):149-166.

    [8] 時方.人工智能刑事主體地位之否定[J].法律科學(xué)(西北政法大學(xué)學(xué)報),2018,36(6):67-75.

    [9] 冀洋.人工智能時代的刑事責(zé)任體系不必重構(gòu)[J].比較法研究,2019(4):123-137.

    [10] 楊立新.人工類人格:智能機(jī)器人的民法地位——兼論智能機(jī)器人致人損害的民事責(zé)任[J].求是學(xué)刊,2018,45(4):84-96.

    [11] 楊立新,朱呈義.動物法律人格之否定——兼論動物之法律“物格”[J].法學(xué)研究,2004(5):86-102.

    [12] 李琛.論人工智能的法學(xué)分析方法——以著作權(quán)為例[J].知識產(chǎn)權(quán),2019(7):14-22.

    [13] E·博登海默.法理學(xué)—法哲學(xué)及其方法[M].鄧正來,姬敬武,譯.北京:華夏出版社,1987:478.

    [14] Woodward J,Emotion versus Cognition in Moral Decision-Making: A Dubious Dichotomy[M]// Matthew Liao S. Moral Brains: The Neuroscience of Morality. Oxford: Oxford University Press,2016:87-116.

    [15] 吳漢東.人工智能時代必須關(guān)注的社會風(fēng)險與四大問題[EB/OL].(2017-12-21)[2020-05-22].http://www.tisi.org/4967.

    [16] 張力,陳鵬.機(jī)器人“人格”理論批判與人工智能物的法律規(guī)制[J].學(xué)術(shù)界,2018(12):53-75.

    [17] 楊立新,王竹.論物權(quán)法規(guī)定的物權(quán)客體中統(tǒng)一物的概念[J].法學(xué)家,2008(5):71-77.

    [18] 楊立新.民法物格制度研究[M].北京:法律出版社,2008:38.

    [19] 梁慧星,陳華彬.物權(quán)法[M].北京:法律出版社,2007:36.

    [20] 劉洪華.人工智能法律主體資格的否定及其法律規(guī)制構(gòu)想[J].北方法學(xué),2019,13(4):56-66.

    責(zé)任編輯:曲 紅、康雷閃

    The Negation of the Qualification of Legal Personality of Artificial Intelligence and Its Legal Regulation Design

    XU Yuewei

    (Legal Affairs Office, China University of Petroleum (East China), Qingdao, Shandong 266580, China)

    Abstract: The discussions on the legal personality of Artificial Intelligence(AI) should be established in the rational standard. The attempt to break through the limitations of object structure and personify artificial intelligence will confuse the difference between human autonomy and tool automation. Different from natural person or legal person, AI lacks rational consciousness in the sociological sense and does not have the ability of observance and interpretation of law. Therefore, its unwarranted and unnecessary to endow AI legal personality. However, there are huge distinctions between AI and objects in civil law. In view of its human-analogy and technicality, it should be regarded as special legal object. In the legal regulation, we should focus on principle of imputation. At the same time, we can refer to copyright and product liability in response to AI development and legal regulation.

    Key words: Artificial Intelligence; legal personality; rationalism; special legal object

    猜你喜歡
    理性主義人工智能
    應(yīng)用型卓越法律人才培養(yǎng)機(jī)制研究
    我校新增“人工智能”本科專業(yè)
    包豪斯理性主義設(shè)計思想芻議
    河北畫報(2020年10期)2020-11-26 07:21:18
    從理性主義到歷史唯物主義——馬克思利益觀的形成理路研究
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    論政治哲學(xué)對確定性的追求
    下一幕,人工智能!
    下一幕,人工智能!
    亚洲色图综合在线观看| 韩国精品一区二区三区| 亚洲男人天堂网一区| 久久99一区二区三区| 嫁个100分男人电影在线观看 | 久久久久久免费高清国产稀缺| 新久久久久国产一级毛片| 国产成人一区二区在线| 久久性视频一级片| 激情五月婷婷亚洲| 777久久人妻少妇嫩草av网站| 亚洲伊人色综图| 日本黄色日本黄色录像| 超色免费av| 狂野欧美激情性xxxx| 亚洲精品国产色婷婷电影| 精品一区二区三区四区五区乱码 | 日韩中文字幕欧美一区二区 | 老司机影院成人| 成年人黄色毛片网站| 成人国产av品久久久| 午夜老司机福利片| 操美女的视频在线观看| 男女高潮啪啪啪动态图| 黄色a级毛片大全视频| 精品高清国产在线一区| 一边摸一边抽搐一进一出视频| 超碰97精品在线观看| 日韩制服丝袜自拍偷拍| 99精国产麻豆久久婷婷| 日韩大码丰满熟妇| 爱豆传媒免费全集在线观看| 2021少妇久久久久久久久久久| 欧美成人午夜精品| 亚洲午夜精品一区,二区,三区| 丝瓜视频免费看黄片| h视频一区二区三区| 欧美xxⅹ黑人| 久久精品久久久久久噜噜老黄| 99香蕉大伊视频| 少妇的丰满在线观看| 久久人人爽av亚洲精品天堂| 国产欧美日韩一区二区三区在线| 成人午夜精彩视频在线观看| 午夜福利在线免费观看网站| 亚洲精品乱久久久久久| 久久综合国产亚洲精品| 中文字幕亚洲精品专区| 欧美激情 高清一区二区三区| 亚洲,欧美,日韩| 老司机亚洲免费影院| 亚洲国产毛片av蜜桃av| 超碰成人久久| 精品一区二区三区av网在线观看 | 日韩熟女老妇一区二区性免费视频| 久久av网站| 久久久久网色| 美女脱内裤让男人舔精品视频| 另类亚洲欧美激情| 50天的宝宝边吃奶边哭怎么回事| 亚洲午夜精品一区,二区,三区| 天天添夜夜摸| 啦啦啦中文免费视频观看日本| 午夜精品国产一区二区电影| 国产黄频视频在线观看| 搡老岳熟女国产| 国产精品久久久久成人av| 99久久精品国产亚洲精品| 久久久国产精品麻豆| 久久久久久免费高清国产稀缺| 国产男人的电影天堂91| 免费高清在线观看视频在线观看| 精品第一国产精品| 建设人人有责人人尽责人人享有的| 亚洲精品久久成人aⅴ小说| 久久中文字幕一级| 欧美日韩亚洲国产一区二区在线观看 | 久久久久视频综合| 免费日韩欧美在线观看| 国产淫语在线视频| 久久天躁狠狠躁夜夜2o2o | 91麻豆精品激情在线观看国产 | 国产片内射在线| 亚洲一区中文字幕在线| 两个人免费观看高清视频| 最近最新中文字幕大全免费视频 | 赤兔流量卡办理| 日韩av在线免费看完整版不卡| 久久久国产一区二区| 国产老妇伦熟女老妇高清| 亚洲国产毛片av蜜桃av| 日韩一本色道免费dvd| 亚洲精品国产一区二区精华液| 在线 av 中文字幕| 国产午夜精品一二区理论片| 超色免费av| 亚洲av电影在线观看一区二区三区| 亚洲精品第二区| av天堂在线播放| 两个人免费观看高清视频| 夫妻性生交免费视频一级片| 亚洲精品乱久久久久久| 久久国产精品影院| 日韩视频在线欧美| 免费看十八禁软件| 大码成人一级视频| 精品一区二区三区av网在线观看 | 别揉我奶头~嗯~啊~动态视频 | 欧美国产精品一级二级三级| 丰满少妇做爰视频| 18禁观看日本| 久久久久精品人妻al黑| 亚洲精品自拍成人| 免费久久久久久久精品成人欧美视频| 久久精品亚洲熟妇少妇任你| 女人高潮潮喷娇喘18禁视频| 日本黄色日本黄色录像| 久久久亚洲精品成人影院| 免费久久久久久久精品成人欧美视频| 女人爽到高潮嗷嗷叫在线视频| 久久人人爽人人片av| 91成人精品电影| 九草在线视频观看| 免费人妻精品一区二区三区视频| 丁香六月欧美| 黄色 视频免费看| 亚洲成人国产一区在线观看 | 首页视频小说图片口味搜索 | 五月开心婷婷网| 欧美精品一区二区大全| 日韩av不卡免费在线播放| 国产精品一区二区在线不卡| 九色亚洲精品在线播放| 在线观看人妻少妇| 国产一区二区激情短视频 | 久久这里只有精品19| www.精华液| 午夜福利影视在线免费观看| 飞空精品影院首页| 亚洲av美国av| 国产黄频视频在线观看| 亚洲欧美日韩高清在线视频 | 岛国毛片在线播放| 波多野结衣一区麻豆| 久久热在线av| 亚洲中文字幕日韩| 一区福利在线观看| 久久中文字幕一级| 精品国产乱码久久久久久小说| 精品一区在线观看国产| 曰老女人黄片| 制服人妻中文乱码| 久久久久国产精品人妻一区二区| 老汉色av国产亚洲站长工具| 桃花免费在线播放| 久久久亚洲精品成人影院| 亚洲国产欧美网| 国产免费又黄又爽又色| 欧美国产精品一级二级三级| 精品视频人人做人人爽| 99国产精品99久久久久| 国产成人av教育| 日韩熟女老妇一区二区性免费视频| 午夜影院在线不卡| 自线自在国产av| 少妇粗大呻吟视频| 丁香六月天网| 91成人精品电影| 精品国产一区二区三区四区第35| 国产不卡av网站在线观看| 亚洲精品一二三| 99re6热这里在线精品视频| 少妇裸体淫交视频免费看高清 | 亚洲专区中文字幕在线| 亚洲人成77777在线视频| 肉色欧美久久久久久久蜜桃| 男人操女人黄网站| 中文字幕最新亚洲高清| 亚洲三区欧美一区| 国产精品国产av在线观看| 美女大奶头黄色视频| 又粗又硬又长又爽又黄的视频| 国产精品久久久久成人av| 极品少妇高潮喷水抽搐| 国产伦人伦偷精品视频| 久久久国产一区二区| 亚洲欧美中文字幕日韩二区| 久久久欧美国产精品| 黄色一级大片看看| 婷婷丁香在线五月| 天天躁日日躁夜夜躁夜夜| 亚洲精品中文字幕在线视频| 亚洲,欧美精品.| 久久性视频一级片| 午夜久久久在线观看| 国产片特级美女逼逼视频| 巨乳人妻的诱惑在线观看| 最近中文字幕2019免费版| 后天国语完整版免费观看| 亚洲av电影在线观看一区二区三区| 亚洲五月色婷婷综合| 国产精品国产av在线观看| 欧美亚洲 丝袜 人妻 在线| 久久ye,这里只有精品| 久久国产精品影院| 亚洲视频免费观看视频| 超色免费av| 色视频在线一区二区三区| 久久精品久久久久久久性| 日本欧美视频一区| 男女免费视频国产| 99九九在线精品视频| 亚洲精品在线美女| 午夜免费成人在线视频| 婷婷色综合www| 热99国产精品久久久久久7| 在线 av 中文字幕| 欧美日韩黄片免| 亚洲av在线观看美女高潮| 国产主播在线观看一区二区 | 免费看十八禁软件| 久久精品成人免费网站| 国产黄色免费在线视频| 叶爱在线成人免费视频播放| 国产精品久久久久久人妻精品电影 | 美国免费a级毛片| 一区二区三区激情视频| 国产精品一二三区在线看| 国产成人欧美| 国产精品麻豆人妻色哟哟久久| 宅男免费午夜| 在线观看一区二区三区激情| 尾随美女入室| 久久精品成人免费网站| 七月丁香在线播放| 亚洲一码二码三码区别大吗| 久久亚洲精品不卡| 亚洲精品久久成人aⅴ小说| 精品人妻熟女毛片av久久网站| 19禁男女啪啪无遮挡网站| 精品久久久久久久毛片微露脸 | 成人18禁高潮啪啪吃奶动态图| 国产成人免费无遮挡视频| 免费在线观看视频国产中文字幕亚洲 | 美女脱内裤让男人舔精品视频| 国产黄色免费在线视频| 男女之事视频高清在线观看 | 亚洲欧美激情在线| av在线老鸭窝| 黄色a级毛片大全视频| 亚洲av综合色区一区| 九草在线视频观看| 人人澡人人妻人| 狠狠精品人妻久久久久久综合| 人体艺术视频欧美日本| 熟女少妇亚洲综合色aaa.| 欧美精品啪啪一区二区三区 | 亚洲五月色婷婷综合| 久久av网站| 国产成人av教育| 王馨瑶露胸无遮挡在线观看| 人妻一区二区av| 亚洲熟女精品中文字幕| av电影中文网址| 国产在线视频一区二区| 观看av在线不卡| 真人做人爱边吃奶动态| 欧美在线黄色| 午夜av观看不卡| 大片免费播放器 马上看| 91字幕亚洲| 国产一区二区激情短视频 | av网站在线播放免费| 2021少妇久久久久久久久久久| av视频免费观看在线观看| 嫁个100分男人电影在线观看 | 国产免费又黄又爽又色| 电影成人av| 激情五月婷婷亚洲| 亚洲中文字幕日韩| 美女高潮到喷水免费观看| 成人国产av品久久久| 你懂的网址亚洲精品在线观看| 国产成人91sexporn| 在线 av 中文字幕| 19禁男女啪啪无遮挡网站| 亚洲成国产人片在线观看| 晚上一个人看的免费电影| 久久精品国产亚洲av高清一级| 男女国产视频网站| 男人爽女人下面视频在线观看| 国产免费现黄频在线看| 国产亚洲欧美精品永久| 精品国产超薄肉色丝袜足j| 母亲3免费完整高清在线观看| 国产高清国产精品国产三级| videos熟女内射| 日本午夜av视频| 美国免费a级毛片| h视频一区二区三区| 99热网站在线观看| 精品人妻一区二区三区麻豆| 一区二区av电影网| 老熟女久久久| 18禁黄网站禁片午夜丰满| 亚洲熟女毛片儿| 99国产精品一区二区蜜桃av | 悠悠久久av| 99精国产麻豆久久婷婷| 久久久久久久久久久久大奶| 一本色道久久久久久精品综合| 性色av一级| 久久鲁丝午夜福利片| 亚洲成国产人片在线观看| 精品少妇一区二区三区视频日本电影| 色94色欧美一区二区| 国产成人91sexporn| 久久久久国产精品人妻一区二区| 成人免费观看视频高清| av片东京热男人的天堂| 亚洲精品第二区| 性高湖久久久久久久久免费观看| av网站在线播放免费| 亚洲精品在线美女| 亚洲七黄色美女视频| 久久人人爽av亚洲精品天堂| 日韩制服丝袜自拍偷拍| 日韩大码丰满熟妇| 国产亚洲一区二区精品| 亚洲成色77777| 成人三级做爰电影| 欧美成人精品欧美一级黄| 国产熟女欧美一区二区| svipshipincom国产片| 美女视频免费永久观看网站| 亚洲九九香蕉| 色视频在线一区二区三区| 18禁观看日本| 汤姆久久久久久久影院中文字幕| 欧美日韩av久久| 国产欧美亚洲国产| 久久久久国产一级毛片高清牌| 秋霞在线观看毛片| 午夜福利在线免费观看网站| 日本wwww免费看| 欧美老熟妇乱子伦牲交| 久久国产精品大桥未久av| 久久精品成人免费网站| 久久久国产一区二区| 午夜91福利影院| 又紧又爽又黄一区二区| 午夜免费观看性视频| 亚洲男人天堂网一区| 亚洲五月婷婷丁香| 操出白浆在线播放| 久久国产精品人妻蜜桃| 亚洲精品日本国产第一区| 999精品在线视频| 1024香蕉在线观看| 免费女性裸体啪啪无遮挡网站| 男人操女人黄网站| 久久99热这里只频精品6学生| 一级黄色大片毛片| 另类亚洲欧美激情| 亚洲一区二区三区欧美精品| 亚洲精品国产一区二区精华液| 久久久久网色| 在线观看免费视频网站a站| 日韩一本色道免费dvd| 中文字幕高清在线视频| 欧美黑人精品巨大| 后天国语完整版免费观看| 亚洲精品中文字幕在线视频| 伊人亚洲综合成人网| 99国产精品99久久久久| 少妇被粗大的猛进出69影院| 国产精品亚洲av一区麻豆| 晚上一个人看的免费电影| 99国产精品一区二区蜜桃av | 各种免费的搞黄视频| a 毛片基地| 大陆偷拍与自拍| 午夜福利免费观看在线| 大码成人一级视频| 999精品在线视频| 99国产精品一区二区蜜桃av | 国产黄色视频一区二区在线观看| 男女午夜视频在线观看| a级毛片在线看网站| 久久国产亚洲av麻豆专区| 80岁老熟妇乱子伦牲交| 成人国语在线视频| 久久精品国产a三级三级三级| 亚洲五月婷婷丁香| 国产精品免费视频内射| 国产成人影院久久av| 中文字幕精品免费在线观看视频| 大香蕉久久网| 女人精品久久久久毛片| 男女午夜视频在线观看| 一区二区三区精品91| 看免费av毛片| 九色亚洲精品在线播放| 国语对白做爰xxxⅹ性视频网站| 亚洲av成人不卡在线观看播放网 | 91精品伊人久久大香线蕉| 美女视频免费永久观看网站| 亚洲精品美女久久久久99蜜臀 | 夫妻午夜视频| 99久久人妻综合| 只有这里有精品99| 国语对白做爰xxxⅹ性视频网站| 人人妻人人爽人人添夜夜欢视频| 老司机在亚洲福利影院| 国产成人精品久久二区二区91| 日韩人妻精品一区2区三区| 18禁国产床啪视频网站| 欧美日韩视频精品一区| 观看av在线不卡| 欧美人与性动交α欧美软件| 日韩欧美一区视频在线观看| 女警被强在线播放| 777久久人妻少妇嫩草av网站| 色94色欧美一区二区| 亚洲 欧美一区二区三区| 国产又爽黄色视频| 操出白浆在线播放| 一边摸一边做爽爽视频免费| 99国产综合亚洲精品| 亚洲伊人久久精品综合| 亚洲精品国产色婷婷电影| 免费久久久久久久精品成人欧美视频| 亚洲成国产人片在线观看| 99国产精品一区二区蜜桃av | 麻豆av在线久日| 亚洲激情五月婷婷啪啪| 色婷婷av一区二区三区视频| 中文精品一卡2卡3卡4更新| 国产成人欧美在线观看 | 狂野欧美激情性xxxx| 人人澡人人妻人| 国产精品久久久久成人av| 国产在线观看jvid| 一级片'在线观看视频| 精品亚洲成国产av| 久久久久国产一级毛片高清牌| 午夜激情av网站| 亚洲欧美一区二区三区国产| 亚洲天堂av无毛| 超色免费av| 精品欧美一区二区三区在线| 久久99热这里只频精品6学生| 97精品久久久久久久久久精品| 国产亚洲av片在线观看秒播厂| 亚洲,欧美,日韩| 天天躁夜夜躁狠狠久久av| 亚洲色图 男人天堂 中文字幕| 国产高清国产精品国产三级| 水蜜桃什么品种好| 侵犯人妻中文字幕一二三四区| 乱人伦中国视频| 国产日韩欧美亚洲二区| 成人亚洲精品一区在线观看| 一级,二级,三级黄色视频| 在线观看免费午夜福利视频| av一本久久久久| 亚洲自偷自拍图片 自拍| 亚洲av成人不卡在线观看播放网 | 一个人免费看片子| 亚洲,欧美,日韩| 精品福利永久在线观看| av又黄又爽大尺度在线免费看| 老司机亚洲免费影院| 国产爽快片一区二区三区| 国产在线免费精品| 18禁黄网站禁片午夜丰满| 国产成人av激情在线播放| a 毛片基地| 精品国产一区二区三区四区第35| 叶爱在线成人免费视频播放| 日韩制服骚丝袜av| 国产免费一区二区三区四区乱码| 啦啦啦 在线观看视频| 欧美老熟妇乱子伦牲交| 欧美亚洲 丝袜 人妻 在线| 久久久精品94久久精品| 水蜜桃什么品种好| 国产午夜精品一二区理论片| 51午夜福利影视在线观看| 国产成人免费观看mmmm| 一级毛片我不卡| 精品人妻1区二区| 51午夜福利影视在线观看| √禁漫天堂资源中文www| 亚洲熟女毛片儿| 国产欧美日韩精品亚洲av| 黄色片一级片一级黄色片| 精品国产国语对白av| 欧美av亚洲av综合av国产av| 欧美激情高清一区二区三区| 亚洲欧洲日产国产| 91九色精品人成在线观看| 巨乳人妻的诱惑在线观看| 90打野战视频偷拍视频| 麻豆国产av国片精品| 国产亚洲欧美精品永久| 97精品久久久久久久久久精品| 亚洲国产日韩一区二区| 日本wwww免费看| 欧美乱码精品一区二区三区| 一个人免费看片子| 亚洲人成电影观看| 中国国产av一级| 亚洲欧美一区二区三区久久| 亚洲欧美激情在线| 午夜两性在线视频| 男女午夜视频在线观看| 国产三级黄色录像| 亚洲天堂av无毛| 国产成人精品久久二区二区免费| 国产免费又黄又爽又色| 男女无遮挡免费网站观看| 中文欧美无线码| 亚洲精品久久午夜乱码| 嫩草影视91久久| 亚洲中文av在线| 七月丁香在线播放| 精品久久久精品久久久| av天堂在线播放| 久久久国产精品麻豆| 午夜av观看不卡| 国产精品三级大全| 日日摸夜夜添夜夜爱| 亚洲专区中文字幕在线| 国产免费现黄频在线看| 久久久久久亚洲精品国产蜜桃av| 亚洲国产精品成人久久小说| 国产av一区二区精品久久| 后天国语完整版免费观看| 高清不卡的av网站| 亚洲精品一区蜜桃| 男女免费视频国产| 中文字幕最新亚洲高清| 日韩电影二区| 免费不卡黄色视频| 老司机靠b影院| 成人手机av| 亚洲中文字幕日韩| 一级片免费观看大全| 男男h啪啪无遮挡| 男女床上黄色一级片免费看| 大片电影免费在线观看免费| 欧美av亚洲av综合av国产av| 国产97色在线日韩免费| 老熟女久久久| 观看av在线不卡| 国产无遮挡羞羞视频在线观看| 亚洲精品日韩在线中文字幕| 在现免费观看毛片| 国产福利在线免费观看视频| 91精品伊人久久大香线蕉| 十八禁网站网址无遮挡| 久久久久久久久免费视频了| 国产精品国产av在线观看| 中文字幕色久视频| 精品国产一区二区三区四区第35| 久久久久视频综合| 亚洲欧美色中文字幕在线| 国产成人欧美在线观看 | 午夜免费观看性视频| svipshipincom国产片| 免费看不卡的av| 9色porny在线观看| 五月开心婷婷网| 国产1区2区3区精品| 99精国产麻豆久久婷婷| 我要看黄色一级片免费的| 电影成人av| 丝袜在线中文字幕| 久久精品久久久久久噜噜老黄| 女人高潮潮喷娇喘18禁视频| 中文精品一卡2卡3卡4更新| 国产精品久久久人人做人人爽| 50天的宝宝边吃奶边哭怎么回事| 色94色欧美一区二区| 不卡av一区二区三区| 在线看a的网站| 国产日韩欧美视频二区| 别揉我奶头~嗯~啊~动态视频 | 免费少妇av软件| 精品一区在线观看国产| 中文字幕人妻丝袜一区二区| 午夜免费鲁丝| 国产亚洲欧美在线一区二区| 丰满少妇做爰视频| 亚洲欧美精品自产自拍| 久久久久国产精品人妻一区二区| 天堂中文最新版在线下载| 亚洲欧美中文字幕日韩二区| 午夜av观看不卡| 国产一区有黄有色的免费视频| av天堂久久9| 欧美激情极品国产一区二区三区| 人妻人人澡人人爽人人| 丝袜美腿诱惑在线| 亚洲中文字幕日韩| 久久久精品国产亚洲av高清涩受| 欧美精品高潮呻吟av久久| 一级毛片电影观看| 一二三四社区在线视频社区8| 亚洲国产最新在线播放| 天天躁夜夜躁狠狠久久av| 免费在线观看影片大全网站 | 侵犯人妻中文字幕一二三四区| 午夜老司机福利片|