• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    民法典視域下人工智能法律規(guī)制論綱

    2023-12-28 19:41:34劉智慧
    學術(shù)交流 2023年9期
    關鍵詞:人工智能法律

    劉智慧

    (中國政法大學 法律碩士學院,北京 100088)

    一、人工智能的《民法典》規(guī)制視域

    隨著各項技術(shù)與互聯(lián)網(wǎng)的飛速發(fā)展,人工智能系統(tǒng)在代替人類從事簡單性、重復性以及危險性工作方面存在廣泛的應用價值,目前人工智能與制造業(yè)、物流、交通、金融、醫(yī)療等諸多行業(yè)領域的融合日益深入,并且在精確度和效率上確實已遠超人工。[1]然而,人工智能技術(shù)是一把“雙刃劍”,在其給人類帶來產(chǎn)業(yè)升級和便利的同時,也帶來新的社會問題。正如布萊恩·阿瑟所言,“本質(zhì)上,技術(shù)是被捕獲并加以利用的現(xiàn)象的集合,或者說,技術(shù)是對現(xiàn)象有目的的編程”[2]。馬丁·海德格爾在其《存在與時間》一書中也指出:“現(xiàn)代技術(shù)業(yè)已不是中性中立的,它架構(gòu)式地滲透、彌散、影響,甚至操控人的現(xiàn)代生活,賦予人新的生命與發(fā)展軌跡?!保?]為此,必須關注人工智能技術(shù)應用可能導致的安全風險、對現(xiàn)有法律規(guī)則的沖擊以及技術(shù)發(fā)展對法律規(guī)制的急迫需求。

    我國《民法典》于2021年1月1日實施。民法典一直被認為具有擔負私權(quán)啟蒙、權(quán)利教化以及引領社會變革的作用[4],而我國《民法典》因應時代的發(fā)展,于多個條款中明確規(guī)定或隱含了規(guī)制人工智能的相關內(nèi)容,本文旨在《民法典》視域下檢視這些條款對人工智能的發(fā)展和應用可能產(chǎn)生的影響,探尋人工智能的法律規(guī)制體系。

    (一)引領:相關規(guī)則的類型化

    《民法典》因應新時代背景,多個條文為涉人工智能規(guī)制的規(guī)則。整體觀察,除了總則編外,這些規(guī)則在人格權(quán)編和侵權(quán)責任編的規(guī)定相對比較集中,主要涉及數(shù)據(jù)與網(wǎng)絡虛擬財產(chǎn)、個人信息保護、隱私權(quán)保護、肖像權(quán)保護、電子合同、網(wǎng)絡侵權(quán)責任承擔等。

    總體來看,可以將《民法典》涉人工智能規(guī)制的規(guī)則分為兩類:

    一類是規(guī)制人工智能發(fā)展應用場景或者領域的規(guī)則。例如,近些年來,不少商業(yè)或非商業(yè)征信系統(tǒng)是通過用戶畫像技術(shù)進行信用評價的,這是人工智能頻繁應用的領域。針對這一領域,《民法典》從基本法層面針對民事主體的信用保護及評價作出了原則性規(guī)定。例如,針對個人信息、隱私權(quán)與肖像權(quán)保護領域,《民法典》第110條、第111條首先明確了自然人的個人信息、隱私權(quán)和肖像權(quán)受法律保護的原則。之后第999條規(guī)定了基于公共利益的個人信息合理使用;第1029—1030條則規(guī)定了民事主體與信用信息處理者的權(quán)利義務以及處理二者的關系應遵循的法律;第1034—1038條界定了個人信息,明確了個人信息包括生物識別信息、行蹤信息等,將生物識別信息和行蹤信息等納入個人信息法律保護范圍,規(guī)定了處理個人信息的原則、條件、免責事由,以及自然人對個人信息的權(quán)利與信息處理者的義務,為生物識別信息的法律保護提供了正當性基礎的同時,也有助于規(guī)制目前已經(jīng)被廣泛應用的生物識別技術(shù)和人工智能追蹤技術(shù)的濫用,同時還規(guī)定個人信息中的私密信息保護可以適用隱私權(quán)保護的規(guī)則,解決了法律適用問題;第1039條、第1226條則明確了國家機關及其工作人員在履職過程中對于個人信息和隱私的保護義務、醫(yī)療機構(gòu)及醫(yī)務人員對個人信息和患者隱私的保護義務。這些針對人工智能發(fā)展應用場景或者領域的規(guī)則安排,有助于直接或者間接地實現(xiàn)對于人工智能的規(guī)制。

    另一類是規(guī)制人工智能支撐要素的規(guī)則。在互聯(lián)網(wǎng)時代,任何一種新技術(shù)都離不開數(shù)據(jù)的產(chǎn)生和保護,而在互聯(lián)網(wǎng)服務中,在數(shù)據(jù)的基礎上創(chuàng)造出了各類網(wǎng)絡虛擬財產(chǎn),因此,對數(shù)據(jù)和虛擬財產(chǎn)的保護無疑是規(guī)制人工智能的支撐性要素。為此,針對網(wǎng)絡虛擬財產(chǎn)與數(shù)據(jù)電文,《民法典》總則編第127條首先明確法律保護數(shù)據(jù)、網(wǎng)絡虛擬財產(chǎn)的基本態(tài)度,用“法律對數(shù)據(jù)、網(wǎng)絡虛擬財產(chǎn)的保護有規(guī)定的,依照其規(guī)定”這一轉(zhuǎn)致的原則性規(guī)定為規(guī)制人工智能提供了很大的立法空間。同時,《民法典》也設計了一些直接規(guī)制具體問題的規(guī)則。例如,《民法典》第137條第2款規(guī)定了以數(shù)據(jù)電文作出意思表示的生效時間(1)《民法典》第137條第2款:以非對話方式作出的意思表示,到達相對人時生效。以非對話方式作出的采用數(shù)據(jù)電文形式的意思表示,相對人指定特定系統(tǒng)接收數(shù)據(jù)電文的,該數(shù)據(jù)電文進入該特定系統(tǒng)時生效;未指定特定系統(tǒng)的,相對人知道或者應當知道該數(shù)據(jù)電文進入其系統(tǒng)時生效。當事人對采用數(shù)據(jù)電文形式的意思表示的生效時間另有約定的,按照其約定。;第469條第3款規(guī)定了可有形地表現(xiàn)內(nèi)容的數(shù)據(jù)電文視為書面形式(2)《民法典》第469條第3款:以電子數(shù)據(jù)交換、電子郵件等方式能夠有形地表現(xiàn)所載內(nèi)容,并可以隨時調(diào)取查用的數(shù)據(jù)電文,視為書面形式。;第491—492條規(guī)定了數(shù)據(jù)電文形式訂立合同的成立時間與成立地點;第512條明確了電子合同標的物的交付時間。再如,《民法典》第1018—1019條、第1023條明確了隱私的含義、隱私侵權(quán)行為的類型,并針對“深度偽造”(3)“深度偽造”(Deep Fake)是“深度學習”(Deep Learning)與“偽造”(Fake)的組合詞,包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)視頻欺騙技術(shù)。雖然“深度偽造”在影視制作、醫(yī)學成像、藝術(shù)創(chuàng)作等不少領域具有重要應用價值,但因“深度偽造”技術(shù)的濫用具有突出的法律、倫理和政治風險,不少國家和地區(qū)采取措施予以規(guī)制。See MICHAEL C,HARLY C:Blame It on the Machine:A Socio-Legal Analysis of Liability in an AI World, Washington Journal of Law,2018,14(1).肖像侵權(quán)和聲音侵權(quán)問題,規(guī)定不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),有助于對目前人工智能技術(shù)應用于“深度偽造”予以規(guī)制,遏制該項技術(shù)被濫用;針對網(wǎng)絡侵權(quán)責任,《民法典》第1028條規(guī)定了民事主體有權(quán)要求媒體更正或刪除失實報道內(nèi)容,第1194—1197規(guī)定了網(wǎng)絡服務提供者的侵權(quán)責任,與網(wǎng)絡用戶的連帶侵權(quán)責任以及網(wǎng)絡用戶侵權(quán)救濟程序。

    正如有學者所言,“人工智能的研發(fā)、生產(chǎn)和應用應遵循基本人類價值,為相關活動提供安全、可信、公平、可解釋性并保障主體權(quán)利等基本價值指引”[5]。在人工智能技術(shù)的快速發(fā)展過程中,技術(shù)影響著法律規(guī)則的形成[6],而《民法典》正是立于民事基本法地位,提供了基本的價值指引,這些規(guī)則對于規(guī)制人工智能的后續(xù)立法無疑具有引領意義。

    (二)亟待推進:因應人工智能的發(fā)展

    人工智能的適用領域不斷擴展和深入,以至在合同法、侵權(quán)責任法、人格權(quán)法、知識產(chǎn)權(quán)法甚至婚姻家庭法等民法各領域,都有了人工智能適用的場景。在發(fā)生這些場景的社會關系中,由于人工智能設計極其復雜,而且存在難以預知的風險,以致既有立法規(guī)則調(diào)整產(chǎn)生的法律關系在加入人工智能因素后,變得或者無法適用或者不確定如何適用。再加之人工智能在發(fā)展過程中的不確定性,對法律關系的穩(wěn)定性也造成極大沖擊,以致《民法典》調(diào)整的法律關系中,有關合同、知識產(chǎn)權(quán)、侵權(quán)行為的認定及責任分配、人格權(quán)益保護,甚至在婚姻家庭領域等的諸多民事法律關系,因人工智能的介入,均需要給予特殊關注。

    在合同法領域,人工智能的參與對合同關系的成立與履行均有重要影響。我國傳統(tǒng)民法調(diào)整的合同關系以“當事人”之間合意的達成為基礎,而在運用人工智能參與的交易中,交易過程有時會體現(xiàn)為由人工智能繞開人類的意思表示或者替代人類作出相關決策,有學者甚至將此歸結(jié)為“契約的死亡”。[7]如前所述,雖然《民法典》已經(jīng)對人工智能參與下通過網(wǎng)絡平臺購物時要約與承諾的判斷(4)《民法典》第491條第2款:當事人一方通過互聯(lián)網(wǎng)等信息網(wǎng)絡發(fā)布的商品或者服務信息符合要約條件的,對方選擇該商品或者服務并提交訂單成功時合同成立,但是當事人另有約定的除外。、網(wǎng)購商品的交付(5)《民法典》第512條:通過互聯(lián)網(wǎng)等信息網(wǎng)絡訂立的電子合同的標的為交付商品并采用快遞物流方式交付的,收貨人的簽收時間為交付時間。電子合同的標的為提供服務的,生成的電子憑證或者實物憑證中載明的時間為提供服務時間;前述憑證沒有載明時間或者載明時間與實際提供服務時間不一致的,以實際提供服務的時間為準。等問題作出原則性回應,但合同以當事人的意思表示為構(gòu)成要素,在人工智能介入的電子合同中,如何在電子合同訂立和履行過程中確保相關技術(shù)的安全性?對因算法形成的錯誤,如何判斷該錯誤是當事人的意思表示錯誤還是操作失誤?對于這些問題,《民法典》規(guī)定闕如。尤其是對隨著區(qū)塊鏈的發(fā)展而勃興的智能合約,這種合約均采取數(shù)字代碼的形式呈現(xiàn)內(nèi)容,在雙方對于智能合約的意思存在理解不一致的情況下,如何解釋這些代碼承載的意思?這些問題均待進一步研究。

    在知識產(chǎn)權(quán)領域,隨著人工智能的介入,有待進一步研究的問題就更多。例如,谷歌機器人Magenta獨立進行藝術(shù)和音樂創(chuàng)作、人工智能“小冰”創(chuàng)作的詩集可以被制作為有音像制品進行出售等消息,又引發(fā)人們對人工智能的創(chuàng)作物是否可以被納入知識產(chǎn)權(quán)客體范疇,以及人工智能創(chuàng)作物的著作權(quán)應當歸誰所有的爭論。[8]此外,人工智能在運作過程中收集、儲存大量他人已享有著作權(quán)的信息是否屬于非法復制他人作品從而構(gòu)成對他人著作權(quán)的侵害?人工智能通過“自我迭代學習”而產(chǎn)生的智力成果是否可以作為知識產(chǎn)權(quán)的客體,如果可以,其權(quán)利歸屬于程序的設計者,人工智能的開發(fā)者,對智力成果的創(chuàng)作進行過必要安排的安排者,抑或是由這些主體共有?人工智能利用獲取的他人享有著作權(quán)的知識和信息創(chuàng)作出的作品是否構(gòu)成剽竊?在人工智能的行為構(gòu)成侵害他人知識產(chǎn)權(quán)的情形下,如何確定責任承擔者等問題?!睹穹ǖ洹分皇窃诳倓t編第123條對知識產(chǎn)權(quán)作了定義性規(guī)定,涉人工智能的知識產(chǎn)權(quán)法律關系的具體處置規(guī)范有待單行法以及司法實踐予以應對。

    在侵權(quán)法領域,我國《民法典》目前有關產(chǎn)品責任、用人單位責任等的侵權(quán)法律制度適用于人工智能侵權(quán)領域也面臨困境。例如,特斯拉在無人駕駛狀態(tài)發(fā)生交通事故致人死亡的事件,不僅降低了公眾對無人駕駛技術(shù)的信任度,同時也讓司法者產(chǎn)生這種情形下是否可以適用既有的以人類駕駛員為中心的法律規(guī)則的疑問,如自動駕駛汽車能否成為法律主體進而自負其責?使用人沒有駕駛行為是否還需承擔責任?自動駕駛系統(tǒng)的缺陷怎么認定?如何追究生產(chǎn)者一方的產(chǎn)品責任?[9]當人工智能由于偶然性原因造成侵害后果時,無論是使用者自己被侵害還是使用者以外的主體被侵害,無論是人工智能侵害人工智能,還是人工智能侵害人類的人身或者財產(chǎn),抑或是人類侵害人工智能,如何確定具體可資適用的歸責原則?如何證明侵權(quán)行為與損害后果之間的因果關系?是否有相應的免責事由?在可能涉及的人工智能的程序設計者、開發(fā)者、運營者,機器的組裝者、調(diào)試者、操作者、所有者等這些本就連身份都難以確定的主體中,鑒于人工智能的高度專業(yè)性和某些情形下的高度自主性,如何確定責任承擔者?是否可能存在共同侵權(quán)?如果數(shù)人均應當承擔責任,是否應當承擔連帶責任?這些問題目前在無人駕駛領域、互聯(lián)網(wǎng)醫(yī)療領域已經(jīng)亟待達成共識,可以預見的是,其他智能設備的廣泛應用也會產(chǎn)生同樣的問題,必須盡快找到可以兼顧侵權(quán)法所追求的公平、正義和效率,從而在充分保護各方主體利益的前提下找到人工智能技術(shù)繼續(xù)發(fā)展的解決方案。

    在隱私權(quán)等人格權(quán)權(quán)益以及個人信息等的保護問題上,也因為人工智能的介入而變得困難重重。例如,人工智能技術(shù)的信息搜集和處理能力在給人類生活帶來便捷的同時,也使得侵害隱私權(quán)和個人信息變得相當容易(6)有學者早就描述了這一現(xiàn)象:“亞馬遜監(jiān)視著我們的購物習慣,谷歌監(jiān)視著我們的網(wǎng)頁瀏覽習慣,而微博似乎什么都知道,不僅竊聽到了我們心中的‘TA’,還有我們的社交關系網(wǎng)?!笨蓞㈤啠塾ⅲ菥S克托·邁爾-舍恩伯格,肯尼斯·庫克耶:《大數(shù)據(jù)時代:生活、工作與思維的大變革》,盛楊燕,周濤譯,浙江人民出版社2013年版,第193頁。,也就增加了對相關權(quán)益予以保護的難度;人工智能人臉識別技術(shù)等在各領域的應用,也使得肖像權(quán)等人格權(quán)益的保護面臨新的挑戰(zhàn)等。如前所述,雖然《民法典》對相關問題予以高度重視,除了總則編作出原則性規(guī)定外,在人格權(quán)編設專章規(guī)定了“隱私權(quán)和個人信息保護”,尤其是對于基因編輯、“深度偽造”技術(shù)等帶來的社會問題均予以明確回應;同時對數(shù)據(jù)和虛擬財產(chǎn)的保護也作了原則性規(guī)定。但是,在適用相關條文時,如何為人工智能的搜集信息行為設定必要的前提和界限(7)吳漢東教授早就提出未來應加強網(wǎng)絡、電訊隱私保護的專門立法。隱私權(quán)的保護應以民法保護為基礎,明確隱私權(quán)的權(quán)利屬性、權(quán)能內(nèi)容、保護方式等;同時以專門法律保護為補充,規(guī)定特定領域的特定主體隱私保護的原則和辦法。參見吳漢東:《人工智能時代的制度安排與法律規(guī)制》,載《法律科學》(西北政法大學學報)2017年第5期,第133頁。,從而在法律層面保證人工智能合法搜集個人信息、保護隱私權(quán)?如何在保護被搜集人的個人信息的前提下,保護數(shù)據(jù)開發(fā)者等民事主體的數(shù)據(jù)財產(chǎn)權(quán)等,這些問題均需要可資適用的具體規(guī)則。

    二、人工智能的發(fā)展現(xiàn)狀與法律規(guī)制的社會基礎

    從國際社會層面來看,人工智能技術(shù)的廣泛應用雖然有助于提高生產(chǎn)力,但為提高生產(chǎn)力,次生的風險就容易被忽視。[10]各國和地區(qū)普遍意識到人工智能技術(shù)是今后科技創(chuàng)新、國際競爭的主要領域之一,均在為占據(jù)未來科技發(fā)展高地而進行戰(zhàn)略部署。例如,美國于2016年10月就連續(xù)發(fā)布《為人工智能的未來做好準備》和《國家人工智能研究和發(fā)展戰(zhàn)略規(guī)劃》兩份報告,為國家資助的人工智能研究和發(fā)展確定了七項國家長期戰(zhàn)略;日本在智能機器人研究領域居全球領先地位,在2016年1月就提出“社會5.0”(第5個科學與技術(shù)基礎五年計劃)戰(zhàn)略,將人工智能作為實現(xiàn)超智能社會的核心,之后又于2017年制定了人工智能產(chǎn)業(yè)化路線圖,計劃分三個階段推進利用人工智能技術(shù);英國在2013年即宣布要力爭成為第四次工業(yè)革命的全球領導者,并于2017年1月宣布了“現(xiàn)代工業(yè)戰(zhàn)略”,增加47億英鎊的研發(fā)資金用在人工智能、“智能”能源技術(shù)、機器人技術(shù)和5G無線等領域;德國政府則是在其“工業(yè)4.0”中對人工智能發(fā)展作出全面布局,確定了重點研究方向;2013—2018年,歐盟集中發(fā)展人工智能技術(shù)與戰(zhàn)略布局,將人工智能確定為優(yōu)先發(fā)展項目,歐盟委員會在2018年4月提交了《歐洲人工智能》報告后,又于2018年12月與其成員國發(fā)布主題為“人工智能歐洲造”的《人工智能協(xié)調(diào)計劃》。[11]且不說在軍事領域,面對全球人工智能軍事化的發(fā)展浪潮,人工智能在軍事方面的應用在更廣范圍、更深層次上不斷拓展,各國軍政領導人、人工智能專家、國際關系學者已經(jīng)共同關注如何實現(xiàn)人工智能領域的安全治理、有效應對風險挑戰(zhàn)[12],即便在民用領域,隨著人工智能技術(shù)進入產(chǎn)業(yè)化發(fā)展階段,在各國和地區(qū)大力推動人工智能的社會應用的同時,人工智能也日漸融入社會安全網(wǎng)絡,從而影響社會和經(jīng)濟權(quán)利。

    從我國人工智能的發(fā)展情況來看,電子商務、智能家居、自動駕駛、智慧醫(yī)療等,我國經(jīng)濟社會的很多領域和行業(yè)都選擇了人工智能,人工智能產(chǎn)業(yè)在我國也呈現(xiàn)出蓬勃發(fā)展的態(tài)勢。人工智能在推動我國經(jīng)濟社會發(fā)展、促進國家治理體系和治理能力現(xiàn)代化,滿足人民日益增長的美好生活需要等方面,發(fā)揮著越來越重要的作用。

    從人類社會法律發(fā)展的歷史來看,科學技術(shù)的發(fā)展進步往往對傳統(tǒng)法律規(guī)范體系的基礎認知和邏輯、具體規(guī)則架構(gòu)乃至新的制度建構(gòu)產(chǎn)生重要的影響。[13]以規(guī)制工業(yè)化社會為目的建立起來的現(xiàn)行法律體系,日益顯示出對人工智能發(fā)展的無所適從。例如,當人工智能能夠獨立創(chuàng)作出柔美的樂曲時,讓司法者頓感保護著作權(quán)的知識產(chǎn)權(quán)規(guī)則杯水車薪;隨著自動駕駛?cè)找鎻V泛地被使用,以及人工智能自主決策能力的日益增強,傳統(tǒng)交通致害侵權(quán)法律關系以駕駛?cè)藶橹行挠枰哉{(diào)整的做法便不足用,立法者不僅要考慮所有與致害有關的利益相關者,甚至車輛、道路這些非主體因素也得納入其考量范圍,這些將直接導致傳統(tǒng)侵權(quán)法體系面臨挑戰(zhàn)。

    在人工智能的法律規(guī)制方面,各國和地區(qū)已經(jīng)著手作出努力,且不少國家和地區(qū)人工智能發(fā)展戰(zhàn)略與政策推動的節(jié)奏和步調(diào)基本一致。例如,美國于2016年5月成立“人工智能和機器學習委員會”,負責協(xié)調(diào)全美各界在人工智能領域的行動,探討制定人工智能相關政策和法律,近幾年美國國會接連頒布了《2019年深度偽造報告法案》《2020年未來人工智能法案》[14]《2020年國家人工智能計劃法案》(8)National Artificial Intelligence Initiative Act of 2020.等,這些法案明確了美國人工智能技術(shù)的優(yōu)先適用領域,提出了提升人工智能健康發(fā)展的諸多措施。日本于2016年設立“人工智能戰(zhàn)略會議”進行國家層面的綜合管理。德國聯(lián)邦參議院于2017年為解決自動駕駛汽車致害問題通過了《道路交通法第八修正案》。2013—2018年,歐盟及其主要成員國日益注重人工智能的技術(shù)倫理和各種風險,提出人工智能立法動議,發(fā)布了《歐洲議會機器人民法規(guī)則》(9)European Civil Law Rules on Robotics.等一系列政策文件,其中對從事醫(yī)療服務和護理的人工智能予以特別規(guī)制。值得關注的還有,歐盟于2022年還發(fā)布了《數(shù)據(jù)法案(草案)》。

    我國自2013年就著手發(fā)布有關人工智能發(fā)展的整體性政策文件與治理規(guī)范準則。2017年國務院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,旨在為人工智能的發(fā)展營造政策環(huán)境。該規(guī)劃已經(jīng)提出警示,“人工智能是影響面廣的顛覆性技術(shù),可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關系準則等問題,將對政府管理、經(jīng)濟安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠影響”。該規(guī)劃已經(jīng)將建設人工智能法律法規(guī)、倫理規(guī)范和政策體系視為在發(fā)展人工智能技術(shù)的過程中所必須同步完成的工作,自此我國開始從對偏技術(shù)性和產(chǎn)業(yè)化的關注,轉(zhuǎn)為對關鍵領域高新技術(shù)發(fā)展中所伴生的倫理風險和社會影響的關注,強調(diào)注重人工智能的社會實用性,從組織推動層面全方位、多維度地進行頂層設計,以期實現(xiàn)人工智能與社會進步的協(xié)調(diào)融合發(fā)展,將人工智能的風險規(guī)制納入法治化軌道。(10)可參閱清華大學公共管理學院政府文獻中心:《國內(nèi)外人工智能政策分析報告2018》;清華大學科技政策研究中心:《中國人工智能發(fā)展報告(2018)》。

    2018年,我國成立了新一代人工智能發(fā)展規(guī)劃推進辦公室與新一代人工智能戰(zhàn)略協(xié)調(diào)專家委員會。2019年6月,我國發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》,確立了人工智能社會治理的整體框架與基本原則。(11)該原則提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理八項具有相當倫理性的原則。2022年8月,科技部等六部門聯(lián)合印發(fā)了《關于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質(zhì)量發(fā)展的指導意見》。新近國家互聯(lián)網(wǎng)信息辦公室通過的《生成式人工智能服務管理暫行辦法》于2023年8月15日起施行。

    在這些政策文件與治理規(guī)范準則之外,我國頒行的《民法典》《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》等法律也確立了不少因應人工智能技術(shù)發(fā)展的規(guī)制規(guī)范,且各部委也有針對性地采取過多次專項行動(12)例如,為凈化網(wǎng)絡環(huán)境、打擊利用互聯(lián)網(wǎng)的侵權(quán)或者犯罪行為,多部委聯(lián)合開展的“劍網(wǎng)行動”“凈網(wǎng)行動”“固邊行動”“清源行動”“秋風行動”“護苗行動”等。,但因人工智能的產(chǎn)業(yè)化應用導致的社會亂象和損害事件仍舊頻發(fā)。綜合近年來的相關規(guī)范來看,更多的還是關注人工智能技術(shù)可以被應用的領域、方式,以及突破禁令應當承擔的責任,且具體規(guī)則多為綜述性的原則,尚缺乏系統(tǒng)、具體的對民事法律關系的規(guī)制。顯然,傳統(tǒng)的法律對于技術(shù)的規(guī)制往往滯后于社會實踐,但人工智能技術(shù)的迅速應用和影響之大已經(jīng)遠超人類想象,如果仍遵循傳統(tǒng)的立法程式,顯然已經(jīng)無法滿足社會治理的需求。有鑒于既有法律規(guī)制模式和體系面臨挑戰(zhàn)的背景,如何應對人工智能的快速發(fā)展和應用,迫切需要法學研究予以理論回應。

    三、人工智能的法律定位:作為法律關系客體予以規(guī)制

    進行法律適用需要厘定法律關系各要素,但在對涉及人工智能民事法律關系的各要素進行判斷的過程中,首先就面臨著對人工智能的法律定位問題,即是否可以賦予人工智能獨立的法律人格,使其成為民事主體的問題。

    人工智能技術(shù)涉及諸多領域,一般認為人工智能作為一門新興的技術(shù)科學,包括對模擬、擴展人的智能的理論、技術(shù)及應用進行研發(fā)。[15]人工智能的復雜性使得人們對其概念仍存在不同認識,或者被認為是一種顯示智能行為的系統(tǒng)[16];或者被認為是具有智能的機器[17];還常被認為是一種理論、方法及技術(shù)。[18]我國發(fā)布的《人工智能標準化白皮書(2018版)》給出的定義是:人工智能是利用數(shù)字計算機或者數(shù)字計算機控制的機器模擬、延伸和擴展人的智能,感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的理論、方法、技術(shù)及其應用系統(tǒng)。[1]顯然這個定義具有相當綜合性。

    2010年11月,日本授予寵物機器人“帕羅”(Paro)以戶籍,其發(fā)明人在戶口簿上的身份是父親;2017年10月,沙特阿拉伯宣布授予智能機器人“索菲亞”公民身份[19];以及2017年歐洲議會法律事務委員會建議可以賦予最精密的自主機器人擁有“電子人”的法律地位,使其承擔相應責任[20],這些事件不斷引發(fā)人們對機器人到底屬于客體機器還是屬于主體人這一問題的思考。從這個意義上來看,人工智能的法律規(guī)制,應當以對人工智能進行法律定位為邏輯起點。

    (一)客體說與主體說之爭

    對于是否應當賦予人工智能法律主體資格這一問題,目前的觀點主要有否定說、肯定說以及折中說。否定說與肯定說觀點的支撐理由主要在三個方面存在分歧:

    其一,從開發(fā)人工智能的目的出發(fā),否定說將人工智能視為為人類服務的工具,是“服務于人”的客體,認為即使人工智能在某些領域已經(jīng)具有超越人類的表現(xiàn),但它依舊是為人類所支配的物。[21]人工智能只是人類為自身之目的而研發(fā)的高級工具,它無法被賦予“權(quán)利義務統(tǒng)一性”,難以改變二者之間的主客體關系。[22]肯定說則認為,人工智能是“代理人”,人工智能的所有人、使用人是被代理人,被代理人對人工智能進行控制的權(quán)利[23],賦予人工智能法律主體資格可以更好地保護人類利益,而且是以最小的成本獲得最大利益的保護。[24]

    其二,從民事主體的范圍來看,我國《民法典》意義上的人,既包括自然人,也包括法人以及非法人組織。其中,自然人是指基于出生而取得民事主體資格且以生命為存在特征的人,法人和非法人組織則是依法享有民事權(quán)利和承擔民事義務的組織,是社會組織體在法律上的人格化。否定說在這個意義上會認為,人工智能既不以生命存在為特征,又不是自然人集合體的法人或者非法人組織,所以很難賦予其合適的法律地位??隙ㄕf認為,法律主體的范圍在人類社會并非一成不變的,在法律發(fā)展歷史上,奴隸、婦女、兒童、外國人、法人等組織體,最初均不可以作為民事主體,而現(xiàn)在這些均已經(jīng)被賦予民事主體資格了,故而人工智能作為自然人、法人和非法人組織之外的第四民事主體未必就沒有可能。

    其三,從認知能力和自主意識的理性層面來看,肯定說認為人工智能在神經(jīng)網(wǎng)絡、區(qū)塊鏈等技術(shù)的支持下,通過深度學習能夠獲得自主意識,在理性層面能夠獲得意志自由,尤其是類人型人工智能體擁有的認知與控制能力已經(jīng)高于被賦予法律主體資格的組織體,而更接近自然人。既然組織體都可以被賦予法律主體資格,人工智能體當然存在被賦予法律主體資格的空間。[25]在刑法領域,也有論者提出,發(fā)展到一定階段的智能機器人可能超越程序的設計和編制范圍,按照自主的意識和意志實施行為,因而完全可能成為法律主體。[26]否定說則認為,即使人工智能體具有較高的認知能力,其也不能內(nèi)生自發(fā)地生成意識,且缺乏對痛苦、幸福等情緒的感知能力,不具有獨立意志和特殊的“人生”經(jīng)驗,也無法對自身行為承擔責任,故而主張人工智能無法擁有法律人格。[27]

    在以上的否定說和肯定說之外,折中說則提出,人工智能已經(jīng)并且正在經(jīng)歷著不同的發(fā)展層次,不加區(qū)分簡單地把“類人”甚至“超人”的人工智能仍然視為一種可供人類支配的工具的看法是不夠?qū)徤鞯?。為?有學者主張賦予人工智能有限法律人格,因為人類創(chuàng)造人工智能的目的就是服務自然人的,因而不能賦予人工智能享有和自然人完全相同的權(quán)利,但可在賦予人工智能法律主體地位的同時,以平衡科技創(chuàng)新和正當規(guī)制的關系為目的,根據(jù)人工智能的特點制定特殊的標準,在一定程度上限制人工智能的權(quán)利和義務范圍。[28]也有學者主張可以如歐盟法律事務委員會向歐盟委員會提出的動議一樣,將人工智能設置為具有類人格的“電子人”,賦予其“特定的權(quán)利和義務”,甚至可以為人工智能開設進行納稅、繳費、領取養(yǎng)老金的資金賬號。[29]還有論者認為,人工智能體應當是介于人與物之間的特殊主體,并提出將人工智能體的智能化程度比擬自然人進行判定。[30]

    (二)確定人工智能法律地位的考量因素檢視

    如果賦予人工智能法律主體地位,無論是權(quán)利的享有、義務的履行抑或責任的承擔,當然均歸于人工智能;如果不賦予人工智能法律主體地位,人工智能就仍然是權(quán)利的客體,相關行為的法律后果,無論是權(quán)利的享有、義務的履行抑或責任的承擔,自然應歸屬于人工智能的設計者或控制者。這也正是將對人工智能進行法律定位作為規(guī)制人工智能邏輯起點的原因。然而,是否賦予人工智能法律主體地位,前述折中說的觀點作為高度抽象的結(jié)果,無論是確定“有限法律人格”之“有限”的標準,抑或是明晰“電子人”與傳統(tǒng)法律人格之間的具體差異,都停留在創(chuàng)立新的概念和理念上,并未真正解決現(xiàn)實的法律問題,本文認為暫不足取。從前述肯定論與否定論觀點的支撐理由觀察,應該說各自的考量均存在可資贊同的因素,茲作簡要分析。

    就人類開發(fā)人工智能的初始目的來看,當然是無意將人工智能作為法律關系中的主體的,但如何解釋和規(guī)制當下人工智能已經(jīng)在多個領域可以代替人類處理事務的情形?尤其是如阿爾法狗(Alpha Go)一樣的人工智能確實已經(jīng)具備了一定的自主學習能力,可以自主進行某些行為的情形,以及一些類人型人工智能體可以模擬人腦部分功能,輔助甚至代替人腦處理事務,其擁有的自主意識、認知與控制能力等已經(jīng)接近自然人的情形,均有待法律規(guī)制,應當考慮如何將其納入法律的調(diào)整范圍。這恐怕已不是簡單地認為人工智能本質(zhì)上仍然是由人腦編程,且其行為仍然受其開發(fā)者設計的算法約束,尚不具備人類所具有的自主思考的意識和能力可以搪塞的。而且,在2017年國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中,就已經(jīng)明確指出人工智能的發(fā)展已呈現(xiàn)出“深度學習、跨界融合、人機協(xié)同、群智開放、自主操控等新特征”[31]。然而,如果賦予人工智能法律主體資格,則人工智能就應當承擔其所實施行為的法律后果,但目前是否亟須擴大法律主體范圍并且已經(jīng)具備了時機?

    從民事主體的發(fā)展歷程可以看出,隨著社會觀念的變化以及生產(chǎn)力水平的提高,民事主體的范圍的確在逐步擴大。在人類社會的早期階段,并非所有自然人都可以成為民事主體,如婦女、奴隸等都曾經(jīng)作為權(quán)利客體存在過。通過不同世紀立法者的努力,民事主體日益呈現(xiàn)多元化態(tài)勢,不僅所有自然人都被賦予民事主體資格,而且將與自然人有著諸多差別的法人也納入民事主體范疇。我國自《民法》總則開始,將非法人組織也賦予了民事主體資格。將組織體賦予民事主體資格,其中很重要的一個原因是因應商事交易的需要,分散投資風險、降低交易成本、促進交易快速進行。從《民法典》總則編規(guī)定的民事主體類型來看,人工智能顯然既不是自然人,也不可能是法人或非法人組織,難以糅合于現(xiàn)有民事主體系統(tǒng)。如果突破現(xiàn)有民事主體系統(tǒng),賦予人工智能民事主體資格,可以實現(xiàn)當下既要進一步發(fā)展人工智能技術(shù),同時很好防控人工智能帶來的風險,何樂而不為?可問題的關鍵在于,目前人工智能的發(fā)展是否已經(jīng)足以顛覆我們既有的民事主體觀念和系統(tǒng),亟須賦予其民事主體地位?

    實際上,在20世紀60年代,對于人工智能是否可以趕超甚至取代人類的問題,就有支持派和反對派兩種不同的觀點。[32]進入21世紀后,理論上逐漸認同將人工智能分為專用人工智能、通用人工智能、超級人工智能三個類別:專用人工智能也被稱為弱人工智能,目前正處于高速發(fā)展階段,是指通過感知以及記憶存儲來實現(xiàn)特定領域或者功能為主的人工智能;通用人工智能又被稱為強人工智能,是接下來人工智能的發(fā)展方向,是指基于認知學習與決策執(zhí)行的能力可實現(xiàn)多領域的綜合智能;超級人工智能目前暫存在于人類想象,是指可能在行動能力、思維能力和創(chuàng)造能力等方面全方位超越人類的人工智能,甚至有學者還描摹了未來強人工智能向人類奪權(quán)的場景。[33]黑格爾有言:“法的基地一般來說是精神的東西,它的確定和出發(fā)點是意志,意志是自由的,所以自由就構(gòu)成法的實體和規(guī)定性?!保?4]有研究者解釋認為人工智能的意志可以通過三種途徑產(chǎn)生:被編程而產(chǎn)生、從復雜性中出現(xiàn)、被習得而學會。[35]由此,隨著未來科技的發(fā)展,如果人工智能的思維能力進一步增強,社會進入強人工智能時代,人工智能在意志方面真的具備與人類相當甚至超越人類的意識,人工智能以第四民事主體的法律地位出現(xiàn)并非沒有可能。

    然而,就以當下的人工智能技術(shù)來看,目前存在的人工智能遠未達到強人工智能的程度。(13)2017年,美國國會議員瑪利亞·坎特維爾(Maria Cantwell)描述的強人工智能應當滿足五個特征:其一,所有可在多變且不可控的情況下作業(yè),無須過多人工監(jiān)管,或可自學以往經(jīng)驗、改善表現(xiàn)的人工系統(tǒng);其二,可像人類一樣思考的系統(tǒng);其三,可像人類一般行動的系統(tǒng);其四,如機器學習等模擬認知任務的技術(shù);其五,理智行事的系統(tǒng)??蓞㈤咲ave Gershgorn:《美國國會計劃重新定義人工智能》,常笑譯,見https://www.weiyangx.com/271094.html,2021年7月3日訪問。如果在今后較長時間內(nèi),我們可以在既有的法律制度和規(guī)則體系有效解決人工智能所引發(fā)的難題,在對法律作根本轉(zhuǎn)型[36]之前,當然就要謹慎對待突破民事主體的范圍。更何況我們創(chuàng)造人工智能的根本目的是為人類服務,我們不能輕易賦予人工智能法律主體資格從而如同保護人類一樣保護人工智能的自由意志。就人與物的關系問題,黑格爾曾經(jīng)有言,“無需從我的意志中獲得它的規(guī)定及內(nèi)核,唯有人擁有意志及靈魂,并對物支配,體現(xiàn)目的與價值”[34]60。既然是我們?nèi)祟悶槿斯ぶ悄芰⒎?對于人工智能的應用和發(fā)展,當然應當以人類期望確立的秩序為基礎,必須將人工智能的發(fā)展建立在人類可控風險的范圍內(nèi)。以人工智能在司法領域的應用為例,有學者提出,人工智能法律系統(tǒng)的開發(fā)主要實現(xiàn)三個方面的功能:一是輔助司法審判,以便讓司法人員更專注于解決復雜疑難案件;二是促進司法公正,人類法官可以將自己的判決與人工智能的判決對照;三是輔助法學教育和法律培訓。[37]從這三個功能來看,至少在當下以及今后較長一段時間,人工智能還是服務于人類的工具,故而人類的立法暫無須賦予人工智能法律主體地位。

    (三)應當確立將人工智能作為法律關系客體的規(guī)制思路

    在社會運行系統(tǒng)中越來越廣泛且日益深入地應用人工智能的背景下,明確人工智能的法律地位,是規(guī)制涉及人工智能法律關系的前提。未來人工智能發(fā)展到怎樣的程度尚不確定,預測的強人工智能狀態(tài)是否會出現(xiàn)、何時能到來,彼時人工智能與人類的關系將如何,這些均未可知。但從當下以及今后較長一段時間,意在用法律規(guī)制人工智能時,當然應當立足于人類創(chuàng)造人工智能的目的,不能把解決人工智能引發(fā)的難題簡單寄希望于賦予人工智能法律主體資格這一可能觸及人類倫理底線,且可能傷害人類、與人類創(chuàng)造人工智能的目的背道而馳的路徑。從這個意義來看,將人工智能賦予法律主體資格予以規(guī)制的道路不可行。在《民法典》視野下,即便人類有朝一日真的進入強人工智能時代,人工智能在智識方面真的全面超越人類,而人類還能掌握立法控制權(quán),還可以采取法律規(guī)制手段防范人工智能帶來的風險的情形下,即便立法賦予人工智能法律主體地位,想必也是基于實現(xiàn)保護人類為宗旨而與人工智能和諧共生的結(jié)果。

    在技術(shù)迅速更新的時代,法律自然面臨著需要應對和承受技術(shù)革新帶來的挑戰(zhàn)。那么,在《民法典》實施過程中,如何解讀適用相關規(guī)則平衡好人工智能的開發(fā)者、制造者、銷售者、操作者、監(jiān)督者等的權(quán)利、義務與責任,以在保障科技創(chuàng)新和技術(shù)進步,實現(xiàn)人工智能戰(zhàn)略目標的同時,還可以有效防范人工智能帶來的風險,這是必須研究的問題。人工智能作為人類的創(chuàng)造物,人類有權(quán)決定創(chuàng)造出怎樣的人工智能。不同類型的人工智能可以根據(jù)其創(chuàng)制過程、目的和功能等歸入不同的權(quán)利客體。例如,人工智能賴以運行的數(shù)據(jù)和算法等資源,初始可能由研發(fā)公司、研發(fā)人員享有物權(quán)或者知識產(chǎn)權(quán),當該人工智能被銷售后,買受人依合同享有占有、使用該人工智能等權(quán)利。即便是具有一定“類人”屬性的強人工智能,也可以作為特殊的客體予以法律規(guī)制。

    當然,從立法層面而言,規(guī)則的相當確定性可以使人們有可能事先據(jù)此安排個人事務,所以相應立法規(guī)則應當盡可能具體。但是,如果立足于將人工智能作為法律關系的客體,以法律規(guī)制人工智能,鑒于人工智能發(fā)展的不確定性,在立法層面上必須為人工智能的發(fā)展預留一定的空間,以保障立法兼具穩(wěn)定性和靈活性。(14)正如有學者指出:“《民法典》作為基本法,若在理論未成熟時對這些新問題倉促立法,通過法典固定規(guī)則,不僅無助于鼓勵社會創(chuàng)新,反而會扼殺生機,故它采取了面向長久未來、預留規(guī)范空間的立法技術(shù)?!币娭x鴻飛:《后〈民法典〉時代的中國民法學:問題與方法》,載《社會科學研究》2021年第1期,第14頁?!睹穹ǖ洹返南嚓P規(guī)則體現(xiàn)出的原則性應當說與此思路直接相關。

    四、建構(gòu)科學的人工智能法律規(guī)制體系

    我國近年來一直積極探索和推進人工智能的法律規(guī)制建設,但如前所述,在《民法典》通過之前,本就寥寥的針對人工智能的限制性或者禁止性條款多散見在多部政策性文件中。習近平總書記在黨的十九大報告中強調(diào)要“科學立法”,而立法體系的確立問題是科學立法的基礎性問題,所以確立科學的規(guī)制人工智能的法律體系也是法律規(guī)制人工智能的基礎性問題。從法制層面來看,政策性文件的強制性程度以及其內(nèi)容易頻繁變動的特點,容易導致制度缺乏可預期性,所以,如果僅僅采取通過頒發(fā)政策性文件的方式規(guī)制人工智能,當然不可能確立具有體系化、規(guī)范化的人工智能法律體系。有學者針對“算法”的規(guī)制,提出建構(gòu)由柔性規(guī)范、中性規(guī)范和剛性規(guī)范組成的多層次體系。[38]這種思路值得關注。人工智能的法律規(guī)制也需要確立多層次規(guī)制體系。整合具有相當規(guī)模的民商事單行法及相關司法解釋是《民法典》編纂的核心目標之一,而《民法典》的頒行也為建構(gòu)科學的人工智能法律規(guī)制體系奠定了重要的民事基本法基礎。

    法律規(guī)制體系的內(nèi)核是法律淵源體系。在我國法學研究中,一般將法律的淵源定位為法律的各種表現(xiàn)形式或者存在形式。有學者進一步分析,認為法律淵源本質(zhì)是多元規(guī)范的集合體,是司法裁判從中發(fā)現(xiàn)或者尋找待決案件所需要的裁判規(guī)范或準則之依據(jù)。[39]就民法而言,橫向考察可以發(fā)現(xiàn),域外民法法源體系均不盡相同,典型的范例可以概括為法律、習慣和法理(15)如我國臺灣地區(qū)“民法”第1條的規(guī)定。,法律、習慣法和法院得依其作為立法者所提出的裁判規(guī)則(16)如《瑞士民法典》第1條第1—2款的規(guī)定。,法律、慣例和法的基本原則(17)如《西班牙民法典》第1條第1款的規(guī)定。,立法及協(xié)議、交易習慣、類推產(chǎn)生的規(guī)則、民事立法的一般原則和精神及善意、合理、公正的要求(18)如《俄羅斯民法典》第6條的規(guī)定。,法律、法規(guī)、習慣、類推產(chǎn)生的規(guī)則和國家法律制度的基本原則(19)如《意大利民法典》“法律之一般規(guī)定”中第1條以及第12條第2款的規(guī)定。這樣五種模式。我國《民法典》總則編第10條的規(guī)定則將民法淵源確定為“法律+習慣”模式。(20)《民法典》總則編第10條規(guī)定:“處理民事糾紛、應當依照法律;法律沒有規(guī)定的,可以適用習慣,但是不得違背公序良俗?!?/p>

    對于我國《民法典》總則編第10條所規(guī)定的“法律”應采用廣義抑或狹義理解的問題,雖然有觀點認為本條中的“法律”僅指全國人大及全國人大常委會制定的法律,國務院行政法規(guī)等其他制定法都不能成為民法法源,即應作狹義理解[40],但目前學界達成的基本共識是應作廣義理解,這一理解的結(jié)果就是認為我國的民法淵源包括憲法(21)也有觀點認為,憲法不屬于民法法源,不能直接成為民事案件的裁判依據(jù)??蓞㈤嗞惍d:《民法總則評注》(上冊),法律出版社2017年版,第73頁。、民法典、商事單行法、行政法規(guī)、地方性規(guī)范或者自治條例和單行條例、相關司法解釋、指導性案例、符合公序良俗原則的民商事習慣。[41]目前雖然不能確定較為廣義的解釋適合于所有領域,但在人工智能領域,較為廣義的解釋正好契合規(guī)制人工智能發(fā)展的不確定性的需要。

    在規(guī)制原則和具體規(guī)則的設計層面,民法基本原則可作為人工智能法律規(guī)制的上位原則。同時,《民法典》涉及人工智能的具有相當開放性的法律規(guī)則,使得人工智能的法律規(guī)制在民事基本法層面獲得了法律適用的基礎和法律解釋的空間,也為之后特別法律規(guī)范的制定提供了基本法依據(jù)。在此基礎上,可以根據(jù)人工智能的應用領域,結(jié)合人工智能的發(fā)展階段,對于某些存在較大風險甚至已經(jīng)發(fā)生致害結(jié)果的人工智能先行制定特別法,或者針對人工智能在特定行業(yè)引發(fā)的特定問題進行專門規(guī)制。以個人信息保護為例,《民法典》明確了保護個人信息的原則,警示在人工智能研發(fā)和應用時應當注意個人信息保護,結(jié)合單行法律《網(wǎng)絡安全法》以及全國信息安全標準化技術(shù)委員會發(fā)布的《信息安全技術(shù)個人信息安全規(guī)范》等,就可以構(gòu)成網(wǎng)絡信息安全保護的一定范圍的法律規(guī)制體系。基于現(xiàn)實的考慮,目前在立法位階層面,可以是單行法律,也可以是行政法規(guī),甚至還可以是地方性立法和部門規(guī)章。當然,位階較低的立法,其適用和影響范圍有限,但在解決現(xiàn)實問題的同時也可為未來針對人工智能的統(tǒng)一立法提供經(jīng)驗積累和規(guī)范基礎。對于專門的人工智能法的制定,有學者已經(jīng)建議該專門立法應以人工智能科技作為特殊規(guī)范對象,并將其作為科技法的特別法而定位。[42]

    在規(guī)則適用層面,司法案例可作為人工智能法律規(guī)制的具體解釋標準。在人工智能引發(fā)的糾紛領域,加快指導案例、參考案例和典型案例制度的建設。為柔化成文法天然的僵硬和刻板,也為克服成文法一直面臨著法的安定性和進化性之間的矛盾,在現(xiàn)代法上不少大陸法系國家和地區(qū)日益采取務實的態(tài)度,主要表現(xiàn)在“司法實務上也愈來愈倚重判例法”[43]。例如,在德國這樣典型的大陸法系國家,雖然制定了成文法典,但德國的習慣法從未停止過其發(fā)展,它主要通過德國各個法院的實踐,特別是最高法院的長期判例而形成。[44]我國自2011年以來建立案例指導制度,且最高人民法院推行的專題性的典型案例、各地高級人民法院發(fā)布的參考案例(22)這種參考性案例旨在實現(xiàn)高級人民法院對下級人民法院工作的指導,相對于指導性案例,這種案例的約束力較弱??梢娮罡呷嗣穹ㄔ骸蛾P于規(guī)范上下級人民法院審判業(yè)務關系的若干意見》第9條:“高級人民法院通過審理案件、制定審判業(yè)務文件、發(fā)布參考性案例、召開審判業(yè)務會議、組織法官培訓等形式,對轄區(qū)內(nèi)各級人民法院和專門人民法院的審判業(yè)務工作進行指導。”等也已成規(guī)模。無論是參考案例、典型案例還是指導案例制度,均已被實踐證明是行之有效的。既然如此,在處理人工智能引發(fā)的糾紛情形,雖然人工智能發(fā)展的不確定性使得暫不宜動輒通過立法確定統(tǒng)一的適用標準,那不妨通過我國的指導案例、典型案例、參考案例制度,在一定時間和地域范圍內(nèi)形成穩(wěn)定或者慣常的做法,同時,也可以此作為隨人工智能技術(shù)的發(fā)展在時機成熟時創(chuàng)制規(guī)則和制定專門立法的基礎。

    猜你喜歡
    人工智能法律
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    我校新增“人工智能”本科專業(yè)
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 04:56:22
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    中文字幕精品亚洲无线码一区| 可以在线观看毛片的网站| 免费在线观看日本一区| 国产伦在线观看视频一区| 欧美日韩精品网址| 精品电影一区二区在线| 丁香欧美五月| 中文字幕人妻丝袜一区二区| 一个人免费在线观看的高清视频| 我要搜黄色片| 免费看十八禁软件| 午夜激情福利司机影院| 国产成人av激情在线播放| h日本视频在线播放| av国产免费在线观看| 叶爱在线成人免费视频播放| xxxwww97欧美| 亚洲一区二区三区不卡视频| 人人妻,人人澡人人爽秒播| 国产一区二区激情短视频| 一本一本综合久久| 91老司机精品| 动漫黄色视频在线观看| 亚洲18禁久久av| www.www免费av| 久久伊人香网站| 99国产精品一区二区三区| 亚洲18禁久久av| 免费观看的影片在线观看| 成人18禁在线播放| 小说图片视频综合网站| 国产欧美日韩一区二区三| 天天躁日日操中文字幕| svipshipincom国产片| 国内精品一区二区在线观看| 男人舔女人下体高潮全视频| 天天躁日日操中文字幕| 级片在线观看| 国产一区二区三区视频了| 在线免费观看的www视频| 免费看十八禁软件| 91老司机精品| 欧美一区二区精品小视频在线| 十八禁网站免费在线| 1024手机看黄色片| 丁香六月欧美| 男人舔奶头视频| 欧美一区二区国产精品久久精品| 最近在线观看免费完整版| 99热这里只有是精品50| 国产精品综合久久久久久久免费| 国产三级黄色录像| 亚洲人成伊人成综合网2020| 亚洲国产日韩欧美精品在线观看 | 国内少妇人妻偷人精品xxx网站 | 国产午夜精品论理片| 亚洲电影在线观看av| 波多野结衣高清无吗| www日本黄色视频网| 亚洲av免费在线观看| 香蕉丝袜av| 桃红色精品国产亚洲av| 观看美女的网站| 18禁裸乳无遮挡免费网站照片| 99热6这里只有精品| 欧美中文综合在线视频| 看免费av毛片| 国产乱人伦免费视频| 国内少妇人妻偷人精品xxx网站 | 成人亚洲精品av一区二区| 免费在线观看日本一区| 久久欧美精品欧美久久欧美| 久久中文字幕一级| 成人三级做爰电影| 一级黄色大片毛片| 1024香蕉在线观看| 国产真实乱freesex| 国产精品野战在线观看| 嫩草影视91久久| 90打野战视频偷拍视频| 欧美3d第一页| 国产精品99久久久久久久久| 丁香欧美五月| 亚洲精品久久国产高清桃花| 亚洲av成人精品一区久久| 麻豆久久精品国产亚洲av| 99在线人妻在线中文字幕| av女优亚洲男人天堂 | 91在线精品国自产拍蜜月 | 亚洲色图av天堂| 热99在线观看视频| 中国美女看黄片| 真实男女啪啪啪动态图| 国产乱人视频| 性色av乱码一区二区三区2| 欧美一级毛片孕妇| 黄色成人免费大全| 亚洲精品美女久久久久99蜜臀| 国产欧美日韩一区二区精品| 欧美乱码精品一区二区三区| 午夜福利欧美成人| 桃红色精品国产亚洲av| 免费观看精品视频网站| 日本五十路高清| 久久久国产精品麻豆| 97超级碰碰碰精品色视频在线观看| 又黄又粗又硬又大视频| 美女午夜性视频免费| 一个人观看的视频www高清免费观看 | 一级毛片精品| 亚洲成人精品中文字幕电影| a级毛片在线看网站| 观看免费一级毛片| 久久久久久人人人人人| 一夜夜www| 亚洲男人的天堂狠狠| 小说图片视频综合网站| 久久精品综合一区二区三区| 成人三级做爰电影| 国内精品美女久久久久久| 国产一区二区在线av高清观看| 国产麻豆成人av免费视频| 无限看片的www在线观看| 国产精品香港三级国产av潘金莲| 又大又爽又粗| 一级毛片女人18水好多| 欧美av亚洲av综合av国产av| 免费搜索国产男女视频| 啦啦啦韩国在线观看视频| 日韩欧美国产一区二区入口| 久久亚洲真实| 脱女人内裤的视频| 成人三级黄色视频| 午夜福利视频1000在线观看| 黑人操中国人逼视频| 啦啦啦免费观看视频1| 18美女黄网站色大片免费观看| 九色国产91popny在线| 亚洲专区中文字幕在线| 日韩欧美免费精品| 国产 一区 欧美 日韩| 免费在线观看影片大全网站| 一个人免费在线观看电影 | 国产精品九九99| 国产成人欧美在线观看| 又紧又爽又黄一区二区| 淫秽高清视频在线观看| 国产精品 欧美亚洲| 国产一级毛片七仙女欲春2| or卡值多少钱| 99久久成人亚洲精品观看| 老熟妇仑乱视频hdxx| 国内毛片毛片毛片毛片毛片| 国产人伦9x9x在线观看| 久久欧美精品欧美久久欧美| 亚洲av熟女| 真实男女啪啪啪动态图| 久久久国产欧美日韩av| 欧美成人一区二区免费高清观看 | 国产伦人伦偷精品视频| xxx96com| 精品久久久久久,| 中国美女看黄片| 可以在线观看毛片的网站| 亚洲国产精品999在线| 日本 欧美在线| 看免费av毛片| 最新中文字幕久久久久 | 亚洲精品一卡2卡三卡4卡5卡| 国产精品一区二区三区四区久久| 亚洲一区高清亚洲精品| 国产精品99久久99久久久不卡| 长腿黑丝高跟| 亚洲av电影不卡..在线观看| 老汉色∧v一级毛片| 99国产综合亚洲精品| 亚洲国产精品久久男人天堂| 国产高潮美女av| 日韩欧美免费精品| 高潮久久久久久久久久久不卡| 亚洲国产高清在线一区二区三| 97超视频在线观看视频| 免费看十八禁软件| 国内久久婷婷六月综合欲色啪| 国产黄片美女视频| 午夜福利欧美成人| 观看美女的网站| 免费在线观看成人毛片| 日日夜夜操网爽| 精品一区二区三区视频在线观看免费| 日本 av在线| cao死你这个sao货| 精品久久蜜臀av无| 国产成+人综合+亚洲专区| 日本与韩国留学比较| 午夜福利免费观看在线| bbb黄色大片| 天堂av国产一区二区熟女人妻| 久久久久久人人人人人| 视频区欧美日本亚洲| 国产亚洲av高清不卡| 亚洲精品美女久久av网站| 老司机福利观看| 午夜福利在线观看免费完整高清在 | 免费在线观看影片大全网站| 久久亚洲真实| 亚洲无线观看免费| 亚洲熟妇中文字幕五十中出| 一卡2卡三卡四卡精品乱码亚洲| 国产一区二区三区视频了| 制服丝袜大香蕉在线| 国产 一区 欧美 日韩| 国产男靠女视频免费网站| 久久久久国内视频| 欧美绝顶高潮抽搐喷水| 亚洲精品粉嫩美女一区| 伦理电影免费视频| 国产精品久久久av美女十八| 无人区码免费观看不卡| av天堂中文字幕网| 免费观看人在逋| 国产av一区在线观看免费| 97碰自拍视频| 亚洲成av人片免费观看| 亚洲av五月六月丁香网| 成在线人永久免费视频| 高潮久久久久久久久久久不卡| 啦啦啦免费观看视频1| 99精品久久久久人妻精品| 色老头精品视频在线观看| 国产午夜精品久久久久久| 精品日产1卡2卡| 久久午夜综合久久蜜桃| 日韩大尺度精品在线看网址| 国产三级在线视频| 麻豆成人午夜福利视频| 老熟妇乱子伦视频在线观看| 免费大片18禁| 国产激情偷乱视频一区二区| 欧美黑人欧美精品刺激| 色尼玛亚洲综合影院| 伊人久久大香线蕉亚洲五| 亚洲精华国产精华精| 日韩欧美在线乱码| 精品乱码久久久久久99久播| 亚洲国产中文字幕在线视频| 此物有八面人人有两片| 国产淫片久久久久久久久 | 蜜桃久久精品国产亚洲av| 国产乱人视频| 国产欧美日韩一区二区精品| 国产亚洲精品久久久久久毛片| 偷拍熟女少妇极品色| 日本一本二区三区精品| 国产精品久久久人人做人人爽| xxxwww97欧美| 亚洲 国产 在线| www.www免费av| 国产免费男女视频| 一个人免费在线观看的高清视频| 天堂网av新在线| 久久精品aⅴ一区二区三区四区| 三级毛片av免费| 国产精品亚洲一级av第二区| 91久久精品国产一区二区成人 | 亚洲午夜精品一区,二区,三区| 欧美性猛交黑人性爽| 一本精品99久久精品77| 色噜噜av男人的天堂激情| 很黄的视频免费| 身体一侧抽搐| 国产亚洲精品久久久com| 曰老女人黄片| а√天堂www在线а√下载| 美女被艹到高潮喷水动态| 日韩欧美一区二区三区在线观看| 日本黄色片子视频| 神马国产精品三级电影在线观看| 一本久久中文字幕| 国产精品1区2区在线观看.| 久久中文字幕一级| 亚洲国产日韩欧美精品在线观看 | 国产精品美女特级片免费视频播放器 | 国产精品爽爽va在线观看网站| 国产高清三级在线| 亚洲国产看品久久| 欧美一级毛片孕妇| 亚洲国产精品999在线| 99久久国产精品久久久| 日韩免费av在线播放| 中亚洲国语对白在线视频| 无限看片的www在线观看| 欧美性猛交黑人性爽| 夜夜躁狠狠躁天天躁| 国产精品久久久人人做人人爽| 精品久久蜜臀av无| 女人高潮潮喷娇喘18禁视频| 别揉我奶头~嗯~啊~动态视频| 亚洲va日本ⅴa欧美va伊人久久| 欧美午夜高清在线| 99久久精品国产亚洲精品| 精品不卡国产一区二区三区| 午夜福利免费观看在线| 久久伊人香网站| ponron亚洲| 啪啪无遮挡十八禁网站| 久久国产精品人妻蜜桃| 伊人久久大香线蕉亚洲五| 国产成+人综合+亚洲专区| 久久久成人免费电影| 在线观看免费午夜福利视频| 熟妇人妻久久中文字幕3abv| 久久久久精品国产欧美久久久| 亚洲午夜精品一区,二区,三区| 宅男免费午夜| 18禁裸乳无遮挡免费网站照片| 日本黄色片子视频| 国产精品亚洲美女久久久| 一二三四在线观看免费中文在| 一进一出好大好爽视频| 熟女人妻精品中文字幕| 99国产精品一区二区三区| 1024香蕉在线观看| 一本一本综合久久| 高潮久久久久久久久久久不卡| 欧美又色又爽又黄视频| 色播亚洲综合网| 真实男女啪啪啪动态图| 日韩欧美国产一区二区入口| 日本a在线网址| 久久热在线av| 日本与韩国留学比较| 18禁裸乳无遮挡免费网站照片| 在线国产一区二区在线| 精品国产美女av久久久久小说| 色av中文字幕| 热99在线观看视频| 久久久久精品国产欧美久久久| 一区福利在线观看| 丰满人妻熟妇乱又伦精品不卡| 国内揄拍国产精品人妻在线| 丰满人妻熟妇乱又伦精品不卡| 国内揄拍国产精品人妻在线| www.熟女人妻精品国产| 少妇裸体淫交视频免费看高清| 在线国产一区二区在线| av在线天堂中文字幕| 亚洲国产欧美网| 国产亚洲欧美在线一区二区| 亚洲中文日韩欧美视频| 精品久久久久久久毛片微露脸| 丁香六月欧美| 欧美性猛交黑人性爽| 一级毛片高清免费大全| 欧美性猛交黑人性爽| 国产1区2区3区精品| АⅤ资源中文在线天堂| 国产1区2区3区精品| 亚洲精品粉嫩美女一区| 在线国产一区二区在线| 国产精品女同一区二区软件 | 黄色视频,在线免费观看| 精品久久久久久久人妻蜜臀av| 国产一区二区在线av高清观看| 国产激情欧美一区二区| 国产精品日韩av在线免费观看| 99久久精品一区二区三区| 国产一区二区激情短视频| 可以在线观看毛片的网站| 久久久水蜜桃国产精品网| 欧美最黄视频在线播放免费| 婷婷六月久久综合丁香| 色视频www国产| 男女那种视频在线观看| 精品99又大又爽又粗少妇毛片 | 欧美乱码精品一区二区三区| 国产精品香港三级国产av潘金莲| 亚洲av日韩精品久久久久久密| 久久久国产成人精品二区| 国产乱人伦免费视频| 黄频高清免费视频| 色综合婷婷激情| 亚洲真实伦在线观看| 国模一区二区三区四区视频 | 国产精品av久久久久免费| 91在线观看av| 亚洲精品中文字幕一二三四区| 在线观看舔阴道视频| 国产欧美日韩精品亚洲av| 国产又黄又爽又无遮挡在线| 午夜a级毛片| 老司机午夜福利在线观看视频| 欧美三级亚洲精品| 制服丝袜大香蕉在线| 人妻丰满熟妇av一区二区三区| 国产精品香港三级国产av潘金莲| 中文字幕精品亚洲无线码一区| 女同久久另类99精品国产91| 亚洲九九香蕉| 窝窝影院91人妻| 国产精品免费一区二区三区在线| 少妇的丰满在线观看| 久久精品人妻少妇| 好男人在线观看高清免费视频| 成人特级黄色片久久久久久久| 一夜夜www| 欧美高清成人免费视频www| 亚洲,欧美精品.| av片东京热男人的天堂| 亚洲国产高清在线一区二区三| 免费搜索国产男女视频| 91九色精品人成在线观看| 2021天堂中文幕一二区在线观| 午夜精品在线福利| 岛国在线观看网站| 国产精品爽爽va在线观看网站| 亚洲欧美日韩高清在线视频| 淫秽高清视频在线观看| 国产精品乱码一区二三区的特点| 亚洲五月天丁香| 亚洲中文字幕日韩| 国产美女午夜福利| 亚洲国产精品sss在线观看| 精品午夜福利视频在线观看一区| 国内揄拍国产精品人妻在线| 99热这里只有是精品50| 综合色av麻豆| 亚洲欧美日韩东京热| 最近最新免费中文字幕在线| 国产一区二区三区视频了| 一进一出抽搐动态| 欧美av亚洲av综合av国产av| 丰满人妻熟妇乱又伦精品不卡| 88av欧美| 9191精品国产免费久久| 亚洲七黄色美女视频| 国产精品1区2区在线观看.| 桃红色精品国产亚洲av| 伊人久久大香线蕉亚洲五| 欧美3d第一页| 国产精品久久久久久精品电影| svipshipincom国产片| www日本黄色视频网| 欧美3d第一页| 精品日产1卡2卡| 成人18禁在线播放| 一进一出好大好爽视频| 久久草成人影院| 亚洲精品在线美女| 香蕉国产在线看| 动漫黄色视频在线观看| 男人的好看免费观看在线视频| 手机成人av网站| 嫩草影院入口| 黄色日韩在线| 日本 欧美在线| av天堂中文字幕网| 18美女黄网站色大片免费观看| 国语自产精品视频在线第100页| 淫秽高清视频在线观看| 99国产精品99久久久久| 十八禁网站免费在线| 成人一区二区视频在线观看| 国产午夜精品久久久久久| 丁香六月欧美| 国产午夜精品久久久久久| 中文字幕久久专区| 久久久成人免费电影| 熟女少妇亚洲综合色aaa.| 亚洲乱码一区二区免费版| 一进一出抽搐动态| 12—13女人毛片做爰片一| 禁无遮挡网站| 三级男女做爰猛烈吃奶摸视频| 日日干狠狠操夜夜爽| 99久久99久久久精品蜜桃| 免费看美女性在线毛片视频| 一二三四在线观看免费中文在| 亚洲色图 男人天堂 中文字幕| 麻豆成人av在线观看| 老鸭窝网址在线观看| 国产午夜福利久久久久久| bbb黄色大片| 18禁观看日本| 18禁黄网站禁片午夜丰满| 久久久国产欧美日韩av| 最新美女视频免费是黄的| 亚洲精品粉嫩美女一区| 欧美精品啪啪一区二区三区| 精品欧美国产一区二区三| 午夜免费成人在线视频| 色综合欧美亚洲国产小说| 色吧在线观看| 国产亚洲精品av在线| 老鸭窝网址在线观看| 国产高清视频在线播放一区| 特大巨黑吊av在线直播| 国产欧美日韩精品亚洲av| 无限看片的www在线观看| 十八禁人妻一区二区| 此物有八面人人有两片| 日本在线视频免费播放| 久久久国产精品麻豆| 成人国产综合亚洲| 好男人在线观看高清免费视频| 色在线成人网| 精品久久久久久久久久免费视频| 99国产综合亚洲精品| 黑人巨大精品欧美一区二区mp4| 黄色片一级片一级黄色片| 午夜福利欧美成人| 国产精品电影一区二区三区| 欧美成人性av电影在线观看| 999精品在线视频| 精品久久蜜臀av无| 村上凉子中文字幕在线| 老司机午夜福利在线观看视频| 丁香欧美五月| 精品午夜福利视频在线观看一区| 国产一区在线观看成人免费| svipshipincom国产片| 国产精品爽爽va在线观看网站| 波多野结衣巨乳人妻| 国产精品精品国产色婷婷| 久久精品亚洲精品国产色婷小说| 日本a在线网址| 网址你懂的国产日韩在线| a级毛片在线看网站| 在线a可以看的网站| 欧美黑人巨大hd| 国产午夜福利久久久久久| 久久久久性生活片| 国产私拍福利视频在线观看| 好看av亚洲va欧美ⅴa在| 嫁个100分男人电影在线观看| 午夜免费成人在线视频| 久久午夜综合久久蜜桃| 精品国产乱码久久久久久男人| 亚洲熟女毛片儿| 国产69精品久久久久777片 | 欧美成人免费av一区二区三区| 一二三四社区在线视频社区8| 亚洲最大成人中文| 成人性生交大片免费视频hd| 日韩 欧美 亚洲 中文字幕| 国产激情偷乱视频一区二区| 19禁男女啪啪无遮挡网站| 日日摸夜夜添夜夜添小说| 亚洲性夜色夜夜综合| 亚洲狠狠婷婷综合久久图片| 欧美另类亚洲清纯唯美| 热99在线观看视频| 久久久精品大字幕| 欧美一区二区国产精品久久精品| 熟妇人妻久久中文字幕3abv| 日本 欧美在线| 亚洲av五月六月丁香网| 91久久精品国产一区二区成人 | 久久久国产成人精品二区| 成人三级黄色视频| 亚洲国产中文字幕在线视频| 亚洲激情在线av| 欧美大码av| 国产欧美日韩精品亚洲av| 午夜日韩欧美国产| 极品教师在线免费播放| 日本熟妇午夜| 操出白浆在线播放| 国产欧美日韩一区二区三| 国产伦在线观看视频一区| 精品欧美国产一区二区三| 最新中文字幕久久久久 | 日韩欧美三级三区| 在线十欧美十亚洲十日本专区| 最近在线观看免费完整版| 精品国产三级普通话版| 亚洲国产欧美网| 禁无遮挡网站| 一a级毛片在线观看| 国产成人精品久久二区二区免费| 丝袜人妻中文字幕| 亚洲欧美日韩无卡精品| 美女被艹到高潮喷水动态| 欧美xxxx黑人xx丫x性爽| 村上凉子中文字幕在线| 啦啦啦韩国在线观看视频| 色精品久久人妻99蜜桃| 无遮挡黄片免费观看| 脱女人内裤的视频| 国产精品久久视频播放| 女人高潮潮喷娇喘18禁视频| 高潮久久久久久久久久久不卡| 99久久无色码亚洲精品果冻| 女人高潮潮喷娇喘18禁视频| 人妻丰满熟妇av一区二区三区| 老鸭窝网址在线观看| 国产野战对白在线观看| 窝窝影院91人妻| 99riav亚洲国产免费| 美女午夜性视频免费| 亚洲av成人一区二区三| 亚洲五月婷婷丁香| 国产精品香港三级国产av潘金莲| 9191精品国产免费久久| 一本一本综合久久| 黄色女人牲交| 两性午夜刺激爽爽歪歪视频在线观看| 午夜精品久久久久久毛片777| 丰满的人妻完整版| 天天一区二区日本电影三级| 国产成人av教育| 亚洲,欧美精品.| 免费无遮挡裸体视频| 欧美丝袜亚洲另类 | 又黄又粗又硬又大视频|