• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論我國人工智能試驗性立法

    2020-08-02 10:50陳光
    安徽師范大學(xué)學(xué)報 2020年4期
    關(guān)鍵詞:確定性協(xié)調(diào)性人工智能

    陳光

    關(guān)鍵詞:人工智能;試驗性立法;確定性;協(xié)調(diào)性;立法原則

    摘 要:試驗性立法在構(gòu)建人工智能法律體系中能夠發(fā)揮重要作用,不僅有助于收集信息、積累經(jīng)驗,使國家立法掌握人工智能法律調(diào)整的主動性,也有助于檢驗和改進(jìn)相關(guān)理論,為人工智能法律體系的構(gòu)建提供科學(xué)的理論依據(jù)。確定性和協(xié)調(diào)性是人工智能試驗性立法需要認(rèn)真對待的兩個重要問題。確定性不僅指立法文本內(nèi)容的確定與否,還包括相關(guān)主體對試驗性立法效力的主觀認(rèn)知。協(xié)調(diào)性則涉及試驗性立法作為一套新的制度體系同現(xiàn)行法律制度和理論體系的融合性問題。立法者在進(jìn)行人工智能試驗性立法時,應(yīng)當(dāng)遵循以人類為中心、人工智能權(quán)利有限等原則,對人工智能相關(guān)權(quán)利義務(wù)、技術(shù)研發(fā)和行政規(guī)制等內(nèi)容加以規(guī)定。試驗性立法可根據(jù)調(diào)整對象或內(nèi)容不同而選擇不同立法模式。日落條款作為試驗性立法必備條款,是啟動立法后評估以決定試驗性立法去留的關(guān)鍵機(jī)制。

    中圖分類號:D901文獻(xiàn)標(biāo)志碼:A文章編號:1001-2435(2020)04-0077-09

    Key words: AI; experimental legislation; certainty; coordination; legislative principles

    Abstract: Experimental legislation plays an important role in the construction of AIs legal system. It can help to collect the information, gather experience, make the state legislation master the initiative to regulate the AI, as well as to test and improve the related theories and provide the scientific theoretical basis for the construction of AIs legal system. Certainty and coordination are two important issues which need to be taken seriously in the experimental legislation. Certainty not only means whether the legislative text is certain or not, but also contains the subjective cognition to the effect of experimental legislation. Coordination refers the integration between the experimental legislation as a new institute system and the current legal institutional and theoretical system. Legislators should obey some principles, such as anthropocentric principle, limited rights of AI, when they make the experimental legislation. They also need to regulate the relative rights and obligations, technology research and development, the administrative regulation, etc. Experimental legislation can choose different legislative model depending on the adjustment objects or contents. As a necessary clause of experimental legislation, sunset clause is the key mechanism to start the post legislative assessment in order to decide how to deal with the experimental legislation.

    ——————————————————————————————————————————

    得益于計算機(jī)技術(shù)大幅改進(jìn)和先進(jìn)算法運用等因素的綜合作用,人工智能開發(fā)及應(yīng)用近年來獲得突飛猛進(jìn)的發(fā)展。考慮到在實踐層面人工智能巨大的發(fā)展?jié)摿ι形闯浞轴尫?,可能帶來的深刻影響有待觀察,在制度層面的一些基礎(chǔ)理論問題仍需深入研討和形成共識,因此現(xiàn)階段體系化的人工智能立法條件并不成熟,而各國政府在人工智能制度回應(yīng)方面也大都秉持一種政策引導(dǎo)和保障為主的開放態(tài)度。然而,長遠(yuǎn)來看,構(gòu)建一套科學(xué)合理的人工智能法律體系既是必要的也是必然的。當(dāng)前,雖然學(xué)者們有關(guān)人工智能與法律關(guān)系問題的研究越來越深入,但是立法層面該如何有序推進(jìn)人工智能法律體系的構(gòu)建呢?筆者認(rèn)為,試驗性立法(Experimental Legislation)或許是一個合理有效的策略選擇。

    一、試驗性立法在人工智能法律體系構(gòu)建中的作用

    對于人工智能立法,各國立法者有著不同的態(tài)度和做法。就我國而言,人工智能立法雖然已被納入第十三屆全國人大常委會立法規(guī)劃,但中央層面尚未出臺人工智能相關(guān)的法律文件,這主要與我國在人工智能領(lǐng)域的政策導(dǎo)向有關(guān)。在2017年國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中,我國人工智能發(fā)展的戰(zhàn)略目標(biāo)分三步走,立法和法律體系的建設(shè)目標(biāo)在三個階段中也分別有著不同的表述。其中,第一步即到2020年目標(biāo)為“部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立”;第二步即到2025年目標(biāo)為“初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,形成人工智能安全評估和管控能力”;第三步即到2030年目標(biāo)為“建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系”。對此,鄭戈認(rèn)為:“在目前這個階段,我國不會針對人工智能進(jìn)行體系化的立法,試圖為技術(shù)發(fā)展留下足夠廣闊的想象力空間。只有在自動駕駛等技術(shù)發(fā)展已經(jīng)相對成熟、產(chǎn)品亟待進(jìn)入市場的應(yīng)用領(lǐng)域,才會嘗試進(jìn)行地方性、試驗性的立法?!盵1]誠然,立法者不會也不宜在當(dāng)前階段全面介入人工智能領(lǐng)域,但要實現(xiàn)國務(wù)院規(guī)劃中關(guān)于人工智能法律體系的構(gòu)建目標(biāo),相關(guān)立法并非一定要等到自動駕駛等技術(shù)相對成熟或產(chǎn)品進(jìn)入市場應(yīng)用領(lǐng)域時才啟動。從現(xiàn)在到2025年第二步目標(biāo)的實現(xiàn)也不過五年的時間,立法者應(yīng)盡快在中央和地方兩個層面推進(jìn)人工智能試驗性立法,為到2030年建成更加完善的人工智能法律體系積累經(jīng)驗和奠定基礎(chǔ)。

    試驗性立法是立法者針對一些特殊領(lǐng)域或事務(wù),先行輸出一套法律原則、規(guī)則或制度,經(jīng)過一定時間后,根據(jù)法律實施過程中所反饋的信息,再行確定更為合理與穩(wěn)定的法律原則、規(guī)則或制度。試驗性立法的基本功能是通過對立法實施情況或信息的收集來提高立法質(zhì)量從而更好地調(diào)整或規(guī)制有關(guān)事務(wù)或關(guān)系?!霸囼炐粤⒎ǎw現(xiàn)出國家穩(wěn)健的法治觀,體現(xiàn)出國家的法治建設(shè)思維已經(jīng)發(fā)展到新的成熟位階,希望通過小步快走、穩(wěn)健為先的價值取向,助推國家法治建設(shè)不斷前行?!盵2]作為一種制度現(xiàn)象,近代以來的試驗性立法最早可追溯到法國路易十六時期,其目的在于更好地提升國家行政管理的效力。我國自改革開放以來,試驗性立法因其兼具改革與法治雙重屬性而被廣泛使用,并在社會主義法律體系建立健全過程中發(fā)揮了重要作用。我國立法法雖未直接使用“試驗性立法”的表述,但實際上規(guī)定了三種類型的試驗性立法。一是“暫時調(diào)整或停止適用”,即第13條:“全國人民代表大會及其常務(wù)委員會可以根據(jù)改革發(fā)展的需要,決定就行政管理等領(lǐng)域的特定事項授權(quán)在一定期限內(nèi)在部分地方暫時調(diào)整或者暫時停止適用法律的部分規(guī)定。”該條所規(guī)定的試驗性立法針對的是我國正在進(jìn)行的自貿(mào)區(qū)建設(shè)。二是“下位法先行規(guī)定”,如第9條關(guān)于國務(wù)院可根據(jù)全國人大及其常委會授權(quán)就部分法律保留事項先行制定行政法規(guī)的規(guī)定,以及第73條和第82條分別關(guān)于先行制定地方性法規(guī)和地方政府規(guī)章的規(guī)定。三是“經(jīng)濟(jì)特區(qū)立法”,即第74條規(guī)定:“經(jīng)濟(jì)特區(qū)所在地的省、市的人民代表大會及其常務(wù)委員會根據(jù)全國人民代表大會的授權(quán)決定,制定法規(guī),在經(jīng)濟(jì)特區(qū)范圍內(nèi)實施?!背藝伊⒎ɑ顒邮褂迷囼?zāi)J剑h內(nèi)法規(guī)和公共政策等規(guī)范領(lǐng)域也經(jīng)常采用試驗的方式。例如,為了加強(qiáng)和規(guī)范黨務(wù)公開工作,中共中央于2017年12月印發(fā)了《中國共產(chǎn)黨黨務(wù)公開條例(試行)》。為了積極促進(jìn)大數(shù)據(jù)發(fā)展,努力打造中國北方數(shù)據(jù)中心,哈爾濱市政府于2016年8月出臺了《哈爾濱市促進(jìn)大數(shù)據(jù)發(fā)展若干政策(試行)》。總之,試驗性立法或以試驗方式先行實施某類規(guī)范在我國立法乃至制度建設(shè)實踐中扮演著重要角色。

    試驗性立法之“試驗”可在空間和時間兩個維度上展開。換言之,試驗性立法既可以在特定區(qū)域或空間內(nèi)進(jìn)行也可以在特定時期內(nèi)開展。在人工智能法律體系構(gòu)建過程中,試驗性立法同樣有著功能優(yōu)勢。試驗性立法所具有的嘗試性、階段性和開放性等屬性同人工智能發(fā)展初期對于法律規(guī)則需求的特點具有很強(qiáng)的契合性。人工智能試驗性立法不屬于立法法規(guī)定的三種試驗性立法中的某一種,而是綜合了三種試驗性立法的內(nèi)在理念,根據(jù)人工智能發(fā)展和規(guī)制需要所作的立法。人工智能試驗性立法是國家立法機(jī)關(guān)針對人工智能領(lǐng)域及受人工智能影響的相關(guān)領(lǐng)域所開展的具有探索性的專門立法。此類試驗性立法可以對現(xiàn)行法律體系中的某些原則或規(guī)制進(jìn)行修改或者暫停適用,也可以由中央立法機(jī)關(guān)授權(quán)部分地方立法機(jī)關(guān)開展先行先試立法。概言之,人工智能試驗性立法可以在我國現(xiàn)行立法法中找到相應(yīng)法律依據(jù)。對于試驗性立法在人工智能法律體系構(gòu)建中的作用,我們可從以下三個方面來認(rèn)識。

    其一,試驗性立法能夠為人工智能的發(fā)展提供規(guī)則依據(jù),表達(dá)的是立法者對于人工智能基本問題的規(guī)則態(tài)度,有助于立法者在人工智能領(lǐng)域的規(guī)范調(diào)整中掌握主動權(quán)。人工智能的出現(xiàn)和應(yīng)用對現(xiàn)行的法律理論和制度體系提出了根本性的挑戰(zhàn)。然而,國家制定法的穩(wěn)定性以及立法的條件成熟度等要求都使得國家制定法很難及時地回應(yīng)人工智能這一新事物所帶來的挑戰(zhàn)。如果國家制定法在一些關(guān)鍵性或基礎(chǔ)性問題上缺乏明確的態(tài)度,其他社會主體如公司或非政府組織等便會輸出相應(yīng)的規(guī)則。盡管這有助于一定程度上填補(bǔ)人工智能規(guī)則調(diào)整的需要,但也會使過多非公益的訴求被引入相應(yīng)的非國家規(guī)范之中。對此,英國學(xué)者Jacob Turner指出,“工業(yè)引領(lǐng)規(guī)制論的支持者們或許會認(rèn)為,既然工作能夠更好地了解科技的風(fēng)險及潛能,那么最好就由公司來負(fù)責(zé)設(shè)定標(biāo)準(zhǔn)。然而,僅讓公司去自我規(guī)制而缺少政府參與監(jiān)督的做法是危險的”[3],原因在于,“政府存在的目的就是為了維護(hù)社會公眾的共同利益。當(dāng)然,有些政府可能會受到利益集團(tuán)的游說或腐蝕而背離此目標(biāo),但這種情形與政府運行的內(nèi)在理念是不符的。相比而言,公司依公司法規(guī)定以實現(xiàn)公司所有者利益最大化為其基本追求?!盵3]那么,如何讓國家或立法者在立法條件尚未完全成熟的情況下介入調(diào)整,在表明國家和立法者對人工智能一些基本問題的判斷或規(guī)則態(tài)度同時,避免出現(xiàn)諸如公司等自利性明顯的組織掌握人工智能規(guī)則調(diào)整主動權(quán)的現(xiàn)象呢?試驗性立法應(yīng)該是一種最為適宜的立法模式選擇。試驗性立法的國家法屬性可以確保其在人工智能規(guī)范體系中的最高效力位階地位,而其嘗試性和階段性特點又為國家立法的及時調(diào)整提供了制度上的可能。

    其二,試驗性立法能夠為人工智能相關(guān)法律的修改完善提供參考信息,為人工智能法律體系的構(gòu)建與完善積累經(jīng)驗。相較于在法律概念、法律原則和立法技術(shù)等方面的立法嘗試,試驗性立法主要在規(guī)則或制度內(nèi)容的選擇方面能夠為之后的人工智能立法提供信息依據(jù)與經(jīng)驗參考。例如,人工智能侵權(quán)的責(zé)任承擔(dān)問題是一個非?,F(xiàn)實的制度問題?,F(xiàn)行的侵權(quán)責(zé)任原理和制度能夠在多大程度上適用于人工智能的侵權(quán)行為,應(yīng)當(dāng)在法律上確定何種歸責(zé)原則和舉證責(zé)任規(guī)則,或者應(yīng)對歸責(zé)原則和舉證責(zé)任規(guī)則做怎樣的調(diào)整等,對這些問題的回答都首先要在立法中加以實際規(guī)定從而才有被實踐檢驗的可能。有學(xué)者區(qū)分了作為工具的機(jī)器人和作為代理人的機(jī)器人這兩類不同類型機(jī)器人的侵權(quán)責(zé)任,認(rèn)為:“目前關(guān)于嚴(yán)格產(chǎn)品責(zé)任、嚴(yán)格故障責(zé)任等方面的規(guī)定,更多強(qiáng)調(diào)對于工業(yè)機(jī)器人的使用,一般來說,也就是機(jī)器人作為人機(jī)互動的工具,關(guān)于機(jī)器人作為代理人的侵權(quán)行為責(zé)任的疑難案件正在涌現(xiàn)。合理分配舉證責(zé)任無法減輕這類機(jī)器人的無過錯責(zé)任;然而,法律制度也認(rèn)可有限責(zé)任的形式,如數(shù)字特有產(chǎn)和強(qiáng)制保險的政策,以便在責(zé)任和風(fēng)險分配中取得平衡?!盵4]類似的制度反映在人工智能法律規(guī)制方面還有很多,立法者通過各種方式的試驗性立法將其融入現(xiàn)行法律規(guī)制體系之中,并通過規(guī)則或制度實施來不斷改進(jìn),確定更為科學(xué)、合理或有效的規(guī)則或制度內(nèi)容,并以此來推動人工智能法律規(guī)則和制度的體系化進(jìn)程。

    其三,試驗性立法可將人工智能法律規(guī)制相關(guān)理論轉(zhuǎn)化為具體的法律原則、規(guī)則或制度,通過立法實踐及法律適用來轉(zhuǎn)化、檢驗和改進(jìn)相應(yīng)的理論體系,從而為人工智能法律體系的構(gòu)建與完善提供更為科學(xué)系統(tǒng)的理論依據(jù)。近年來,學(xué)者們圍繞人工智能與法律問題展開了廣泛研討,在人工智能的法律人格或主體地位、人工智能侵權(quán)的責(zé)任承擔(dān)、人工智能創(chuàng)造物著作權(quán)歸屬與保護(hù)等問題上形成了不少理論認(rèn)知,也提出了很多立法建議。例如,圍繞人工智能創(chuàng)造物的權(quán)利及其保護(hù)問題,有學(xué)者主張從觀念上將純粹“人工智能創(chuàng)作”結(jié)果區(qū)分為數(shù)據(jù)和表達(dá)兩個層面,相應(yīng)的知識產(chǎn)權(quán)制度安排也應(yīng)基于其雙重屬性進(jìn)行架構(gòu)。[5]也有學(xué)者認(rèn)為:“對人工智能創(chuàng)作物直接按照人類作品的保護(hù)方式進(jìn)行保護(hù),必然會導(dǎo)致以激勵人類知識創(chuàng)新為核心的著作權(quán)制度在理論上難以自洽……將人工智能創(chuàng)作物納入鄰接權(quán)制度保護(hù)范圍進(jìn)行保護(hù),不僅可以從理論上明晰人類作品與人工智能創(chuàng)作物的界限,也可解決人工智能創(chuàng)作物法律保護(hù)的現(xiàn)實困境,不失為人工智能創(chuàng)作物法律保護(hù)的可行路徑?!盵6]可見,學(xué)者們對人工智能創(chuàng)造物著作權(quán)歸屬與保護(hù)問題的理論探討,大都會伴隨對相關(guān)立法或制度安排的思考與建議。類似的理論分析與立法建議還反映在人工智能其他法律問題中,這些理論分析及立法建議的科學(xué)性、合理性或有效性只有通過立法轉(zhuǎn)化為實際的法律條文,才有可能獲得實踐驗證的機(jī)會。之所以說選擇試驗性立法更為妥當(dāng),是因為這種立法模式保持了對未來的開放性,既可以使相關(guān)理論獲得實踐轉(zhuǎn)化與檢驗的機(jī)會,也為及時修正和完善相關(guān)理論提供一個穩(wěn)定的預(yù)期。人工智能法律體系的構(gòu)建過程需要這種不斷改進(jìn)和完善的理論體系作為支撐。

    當(dāng)然,試驗性立法在構(gòu)建人工智能法律體系過程中發(fā)揮著積極作用的同時,也面臨相應(yīng)的困境或問題。其中,人工智能試驗性立法的確定性與協(xié)調(diào)性,是立法者以及理論研究者需要認(rèn)真研究和解決的兩個基本問題。

    二、人工智能試驗性立法的確定性與協(xié)調(diào)性問題

    (一)人工智能試驗性立法的確定性之疑

    荷蘭學(xué)者Sofia Ranchord?s認(rèn)為,試驗性立法表面上看似會對一些基本的法律原則如法律確定性原則、平等對待原則和比例原則等形成挑戰(zhàn),但實際上這些挑戰(zhàn)具有兩面性。對于法律確定性原則而言,試驗性立法在某些情形下是“友”(Friend),而在有些情況下則是“敵”(Foe)。[7]相較于平等對待原則和比例原則,人工智能試驗性立法對于確定性原則帶來的挑戰(zhàn),需要立法者更為謹(jǐn)慎的對待,也需要在理論上做出更好的闡釋。對于確定性的含義,我們可以從客觀文本和主觀認(rèn)知兩個層面來理解。其中,客觀文本層面的確定性指的是人工智能試驗性立法所擬定的法律原則、法律規(guī)則甚至法律概念,其含義是明晰可知的,其效力有著充分的保障或?qū)崿F(xiàn)機(jī)制等;而主觀認(rèn)知層面的確定性則來自于理解或適用人工智能試驗性立法條款的主體,是相關(guān)主體對于試驗性立法內(nèi)容明確性的認(rèn)知以及在一定時間內(nèi)相關(guān)法律原則或規(guī)則效力實現(xiàn)程度的心理預(yù)期。確定性在某種意義上可以被視為客觀之于主觀的一種互動關(guān)系。

    就客觀文本層面的確定性而言,人工智能試驗性立法同其他一般性立法相比,并無十分特殊之處,確定性都是無法繞開的問題。我國立法法第6條第2款規(guī)定:“法律規(guī)范應(yīng)當(dāng)明確、具體,具有針對性和可執(zhí)行性?!?這是對立法文本確定性的明確要求,然而由于用來表達(dá)法律原則和規(guī)則的語言文字自身屬性使然,確定性只能是相對的。嚴(yán)格的確定性或精確性不僅是難以真正實現(xiàn)的,也是不經(jīng)濟(jì)的。“法律經(jīng)濟(jì)學(xué)家從中發(fā)現(xiàn)了經(jīng)濟(jì)學(xué)的邏輯,既然信息不是免費的,那么精確就一定不是無成本的,并且越是精確的表達(dá),就需要耗費越高的信息成本。法律的精確性同樣應(yīng)該以法律實施的目標(biāo)為參照,且不能忽略成本的約束,過度精確的法律不僅是一種浪費,而且會帶來額外的麻煩?!盵8]人工智能試驗性立法雖然同樣不追求終極意義上的確定性或精確性,但要平衡好試驗需要與確定性要求之間的關(guān)系?;诖_定性的需要,人工智能試驗性立法在一些基本性的原則或規(guī)則確定上,要表述明確、具體,具有針對性和可執(zhí)行性。不明確的規(guī)則表述會降低試驗性立法文本的質(zhì)量和實施效果。然而,試驗性立法畢竟不同于最終的長期性立法,加之人工智能領(lǐng)域很多問題如何調(diào)整是最適宜的并不十分明確,這就要求試驗性立法在原則或規(guī)則表述方面要留有相應(yīng)的調(diào)整或解釋彈性。因此,在人工智能試驗性立法客觀文本的確定性方面,可能要給法律適用尤其是司法留出更大的解釋空間,由司法者在個案裁判中彌補(bǔ)甚或矯正試驗性立法的不足。

    就主觀認(rèn)知層面的確定性而言,人工智能試驗性立法最大的確定性問題產(chǎn)生自相關(guān)主體對于試驗性立法效力持續(xù)性的擔(dān)憂。主觀認(rèn)知層面的確定性會因認(rèn)知主體的不同而有很大的差異。法官或?qū)I(yè)執(zhí)法者對于法律確定性有著更為嚴(yán)謹(jǐn)?shù)慕缍?biāo)準(zhǔn)和追求。邱昭繼指出:“法律的確定性問題是指法律是否總是對法律糾紛提供唯一正確的答案。這個問題也可以這樣來表述:所有的法律材料能否為法律糾紛提供唯一正確的答案。法律理論中有著形形色色的不確定性主張。不同的學(xué)者往往由于知識背景理論目的的不同而關(guān)注不同類型的不確定性?!盵9]與法官和專業(yè)執(zhí)法者不同,守法者對法律確定性的認(rèn)知會與他們的需求直接掛鉤,并主要在消極意義上來理解和適用法律。指引和預(yù)測是法律兩項基本的規(guī)范作用,一般的守法者(包括個體和組織)會根據(jù)法律原則或規(guī)則的要求,來決定自己的行為方式和內(nèi)容,并據(jù)此來判斷或預(yù)測行為可能產(chǎn)生的法律效果。實踐中,一般的守法者關(guān)心的是他們的行為是否違反法律的強(qiáng)制性規(guī)定。只要不違反,他們就會選擇能夠帶來最大收益的行為方式,或者利用法律去創(chuàng)造相應(yīng)的效益。這樣一來,主觀認(rèn)知層面的確定性在一般的守法者那里主要體現(xiàn)為一種對法律原則和規(guī)則穩(wěn)定性的預(yù)期。如果試驗性立法能夠為他們在一定期限內(nèi)帶來較為明確而穩(wěn)定的收益或收益預(yù)期,就表明試驗性立法具有很好的明確性。顯然,這也是一個客觀與主觀互動的過程。在確定性的主觀認(rèn)知層面,一個最大的問題是,試驗性立法總是要設(shè)定一個試驗期限的,當(dāng)這個試驗期限到來之后,有關(guān)法律原則和規(guī)則經(jīng)過評估之后,是延續(xù)試驗期間的法律原則和規(guī)則還是會做出相應(yīng)的變動,這是很難預(yù)先判定的。這將在很大程度上影響相關(guān)主體對人工智能試驗性立法確定性的認(rèn)知。

    (二)人工智能試驗性立法的協(xié)調(diào)性之問

    如果說確定性之疑著眼于試驗性立法的文本屬性與實踐操作,那么協(xié)調(diào)性問題則涉及人工智能試驗性立法與現(xiàn)行法律制度和理論體系在概念、原則、規(guī)則以及理論基礎(chǔ)等方面的一致性或融洽性。試驗性立法協(xié)調(diào)性在此主要指法律原則和規(guī)則之間的和諧一致或不相沖突,屬于法律體系內(nèi)的協(xié)調(diào)。人工智能的出現(xiàn)和應(yīng)用不同于計算機(jī)或網(wǎng)絡(luò)出現(xiàn)和應(yīng)用對法律制度和理論體系的影響,后者可以在已有的法律制度和理論體系中做出較好應(yīng)對,而前者挑戰(zhàn)的是現(xiàn)行法律制度中的主體制度和倫理基礎(chǔ)。我們無法將人工智能法律制度與理論體系作為一個“規(guī)則孤島”和“理論孤島”,獨立于現(xiàn)行的法律制度與理論體系,而必須設(shè)法將兩者有機(jī)地融合在一起。這也是人工智能試驗性立法不能回避協(xié)調(diào)性問題的原因所在。

    人工智能試驗性立法首先要協(xié)調(diào)好與現(xiàn)行法律制度在概念、原則和規(guī)則等方面的關(guān)系。作為立法調(diào)整的一個新領(lǐng)域,一些新的概念或法律術(shù)語不可避免地會被使用,如“人工智能”“機(jī)器人”和“深度學(xué)習(xí)”等。這些新概念如何在法律上加以界定,使其在具有法律意義同時又能被人工智能相關(guān)的或以外的法律法規(guī)所采用,是需要立法者在確定文本表述時應(yīng)當(dāng)仔細(xì)斟酌的。如果人工智能被賦予法律人格或主體地位,還會涉及對現(xiàn)有法律概念內(nèi)涵和外延的調(diào)整問題,如“法律主體”“意思自治”和“過錯”等。如何避免人工智能試驗性立法在法律原則和規(guī)則層面同現(xiàn)行法律制度體系相沖突,也是立法者必須謹(jǐn)慎對待和處理的問題。例如,對于人工智能是否享有簽訂民事合同的權(quán)利問題,將會在今后的民商事交往中越來越多的遇到。這就需要在試驗性立法中加以明確規(guī)定。有學(xué)者研究了人機(jī)互動的可能性、原理及其控制等問題,認(rèn)為機(jī)器人的認(rèn)知能力可以使其參與一些社會交往活動,當(dāng)然仍有一些機(jī)制或構(gòu)造需要進(jìn)一步開發(fā)和研究。[10]該研究表明人工智能或機(jī)器人在技術(shù)層面能夠做到自主簽訂民商事合同,這也是立法者從法律上加以制度認(rèn)可的科學(xué)依據(jù)。不僅如此,區(qū)塊鏈技術(shù)的使用,使得很多合同在不需要借助自然人的輸入就可以完成簽訂等操作。對于此類合同的法律效力問題,很多法律文件都予以確認(rèn)。2005年聯(lián)合國大會通過并于2013年生效的《聯(lián)合國國際合同使用電子通信公約》(United Nations Convention on the Use of Electronic Communications in International Contracts)第12條規(guī)定:“由自動信息系統(tǒng)和自然人或者自動信息系統(tǒng)之間所簽訂的合同,不應(yīng)當(dāng)僅僅因沒有自然人的審查或介入,而否認(rèn)其法律效力和執(zhí)行力。”這就意味著人工智能作為一方參與簽訂的合同具有法律效力,也即人工智能潛在地獲得了法律主體資格。當(dāng)然,還有一種處理方式,那就是我國電子簽名法第9條所規(guī)定的,將發(fā)件人的信息系統(tǒng)自動發(fā)送的數(shù)據(jù)電文視為發(fā)件人發(fā)送。該規(guī)定并未賦予人工智能以獨立的法律人格,其仍然作為一種工具依附于自然人。但是,隨著人工智能在民商事活動領(lǐng)域應(yīng)用的越來越廣泛,參與或承擔(dān)的民商事行為越來越獨立,承認(rèn)其法律人格或主體地位已經(jīng)勢在必行。人工智能試驗性立法對此顯然應(yīng)當(dāng)具有一定的前瞻性。如此便涉及這種新的規(guī)則或制度與現(xiàn)行相關(guān)法律規(guī)則或制度的協(xié)調(diào)問題。

    張長丹認(rèn)為:“人工智能對民法更深層次的挑戰(zhàn)在于擁有與現(xiàn)行法下自然人同等甚至更高智力水平的機(jī)器人的法律地位認(rèn)定、機(jī)器人相互之間或與自然人之間建立的法律關(guān)系的認(rèn)定、機(jī)器人造成他人損害時責(zé)任承擔(dān)問題已經(jīng)對現(xiàn)行民事主體和民事責(zé)任規(guī)則提出挑戰(zhàn)。”[11]人工智能對民法的上述挑戰(zhàn),表面上是規(guī)則的不協(xié)調(diào),內(nèi)在的是理論上的不兼容。之所以人工智能試驗性立法在規(guī)則或制度層面會出現(xiàn)協(xié)調(diào)問題,是因為人工智能的應(yīng)用從理論上挑戰(zhàn)了支撐現(xiàn)行法律規(guī)則或制度的那套理論體系,而主體理論又在這套理論支撐體系中占據(jù)根本性地位?!爸悄軝C(jī)器人給人類帶來了許多法律問題,究其根本原因在于建構(gòu)整個法律體系基礎(chǔ)的法律主體理論不再牢靠。從根本上解決智能機(jī)器人引發(fā)的法律問題,需要回溯法律主體發(fā)展的歷史脈絡(luò)及其發(fā)展邏輯,有限度地變動以人為中心的法律主體地位構(gòu)造,以回應(yīng)智能機(jī)器人出現(xiàn)所導(dǎo)致的法學(xué)難題?!盵12]在論述人工智能或機(jī)器人的法律人格或主體地位時,很多學(xué)者都會遵循一種歷史分析的思路,將奴隸、動物和公司等作為類比對象,認(rèn)為給予人工智能或機(jī)器人以法律主體資格,是法律主體理論和制度自然發(fā)展的趨勢或結(jié)果,能夠化解很多法律難題。然而,人工智能或機(jī)器人同奴隸、動物和公司等畢竟具有很大的不同。人工智能或機(jī)器人已經(jīng)擁有或者會逐漸擁有與人類相似甚至高于人類的意志能力或思維能力。是否賦予人工智能或機(jī)器人以法律主體地位,已不僅僅是個法律規(guī)則或法學(xué)理論問題,還是一個人類要慎重面對和解決的倫理問題。如此一來,立法者實際上陷入了一個兩難境地:如果不承認(rèn)人工智能或機(jī)器人的法律人格,實踐中的很多問題難以根據(jù)現(xiàn)行法律規(guī)則或制度來有效解決,而如果承認(rèn)人工智能或機(jī)器人的主體地位,盡管會在制度層面解決很多實踐問題,但會帶來新舊兩套規(guī)則系統(tǒng)的摩擦,甚至可能會引發(fā)人類對人工智能或機(jī)器人反控制的恐慌。

    可見,協(xié)調(diào)性問題已非單純的法律概念、原則或規(guī)則的協(xié)調(diào),而是牽涉很多深層次的理論甚至理念問題。那么,立法者該遵循怎樣的原則并在內(nèi)容和技術(shù)上進(jìn)行怎樣的設(shè)計,才能使人工智能試驗性立法在給人們帶來相對確定的預(yù)期同時,又能降低新舊兩套規(guī)則體系之間的排異性,以更好地實現(xiàn)試驗性立法的預(yù)定目標(biāo)呢?

    三、人工智能試驗性立法的制度構(gòu)想與設(shè)計

    (一)人工智能試驗性立法的原則設(shè)定

    盡管立法者很難從根本上解決試驗性立法的確定性與協(xié)調(diào)性問題,但可以通過遵循特定的立法原則并運用相應(yīng)的立法技術(shù)等,盡量降低兩者所包含的或可能帶來的負(fù)面影響。其中,立法原則是立法者在進(jìn)行人工智能試驗性立法時所應(yīng)遵循的基本理念或價值取向,對于人工智能法律規(guī)則的確定具有指引作用。這些立法原則也可以視為國家或立法者對于人工智能開發(fā)與利用的基本態(tài)度以及對整個人工智能法律體系構(gòu)建的基本定位。

    一是以人類為中心的原則。人工智能的設(shè)計、操作及應(yīng)用等各個環(huán)節(jié)和各項活動以及法律規(guī)則或制度的創(chuàng)設(shè)和適用都要非常明確地將服務(wù)于人類的需要作為其首要的原則。2017年荷蘭的研究機(jī)構(gòu)Rathenau Instituut發(fā)布的一份題為《人工智能時代人的權(quán)利——機(jī)器人、人工智能和虛擬與增強(qiáng)現(xiàn)實所帶來的挑戰(zhàn)》的研究報告中指出:“我們發(fā)現(xiàn),這些技術(shù)的使用可以為人的權(quán)利的實現(xiàn)提供新的途徑,但同樣也會造成新的侵害。除了對個體的隱私權(quán)可能帶來多種影響外,數(shù)字化、虛擬化和自動化還會影響到人類的尊嚴(yán)、和平享用財產(chǎn)的權(quán)利、安全和不受侵犯的權(quán)利、自由表達(dá)的權(quán)利、不受歧視的權(quán)利、獲得公正審判的權(quán)利等。有必要指出的是,由于人工智能的使用,還會有很多其他未在本報告中列出的權(quán)利將受到影響?!盵13]鑒于人工智能對人的權(quán)利或自由可能帶來的各種影響,試驗性立法應(yīng)當(dāng)將維護(hù)自然人基本人身權(quán)與財產(chǎn)權(quán)、維護(hù)人類基本道德與價值準(zhǔn)則作為貫徹以人類為中心原則的兩個子原則,并設(shè)計相應(yīng)的規(guī)則或保障機(jī)制。

    二是人工智能權(quán)利有限原則。人類為中心的權(quán)利理念建立在對尊嚴(yán)、自由和隱私等保護(hù)基礎(chǔ)之上,而人工智能權(quán)利的正當(dāng)性基礎(chǔ)與之不同。對于如何在立法中限定人工智能的權(quán)利,張玉潔認(rèn)為,我國在機(jī)器人權(quán)利的擬制上應(yīng)當(dāng)明確必要的權(quán)利邊界。對此可以采用“法律保留”的立法技術(shù),限定機(jī)器人的權(quán)利。具體而言,立法者可將政治權(quán)利、自我復(fù)制權(quán)和緊急避險權(quán)等列為法律保留事項,即不得將上述權(quán)利授予機(jī)器人。[14]無論何時賦予人工智能以法律主體地位,無論對人工智能的權(quán)利范圍施以何種限制,立法者都應(yīng)該明確的是人工智能畢竟不同于自然人,而后者才是一切價值的來源與服務(wù)對象。此外,還應(yīng)當(dāng)設(shè)定相應(yīng)的制度或機(jī)制,確保有明確的主體對人工智能的行為負(fù)責(zé)并承擔(dān)相應(yīng)的行為后果。

    三是平衡與比例原則。試驗性立法承擔(dān)著保障人工智能有序發(fā)展與應(yīng)用和規(guī)制人工智能可能帶來的風(fēng)險這樣雙重使命或目標(biāo)。平衡與比例原則要求立法者應(yīng)當(dāng)具有經(jīng)濟(jì)理性,在對法律原則和規(guī)則進(jìn)行價值判斷和選擇時也應(yīng)當(dāng)進(jìn)行成本收益分析?!白鳛橹贫裙┙o的立法,隨著時代的發(fā)展和立法技術(shù)的完善,自我正當(dāng)性的證成早已不能滿足于單純的價值判斷,更加符合真理性和科學(xué)性要求、解釋力更強(qiáng)的事實判斷漸成主流,由此,立法中的成本收益分析制度應(yīng)運而生”[15]。立法者在進(jìn)行人工智能試驗性立法時盡管要面臨著非常嚴(yán)肅的倫理或價值判斷與選擇,但成本收益分析的經(jīng)濟(jì)思維也很重要。

    四是多元規(guī)范分工協(xié)作原則。盡管試驗性立法在規(guī)范和保障人工智能發(fā)展和促進(jìn)過程中發(fā)揮著重要角色,但仍需要對其他形式的規(guī)范保持開放性,并在分工基礎(chǔ)上實現(xiàn)規(guī)范協(xié)作。這不僅是人工智能試驗性立法階段應(yīng)當(dāng)遵循的一個基本原則,也應(yīng)該是人工智能法律體系構(gòu)建過程中立法者必須具有的一個基本認(rèn)識。試驗性立法要給以公共政策和技術(shù)標(biāo)準(zhǔn)為代表的軟法等規(guī)范類型的作用留有相應(yīng)空間,并將公共政策和軟法等規(guī)范所確定的目標(biāo)和事務(wù)以法律原則和規(guī)則的方式落實。此外,隨著人工智能國際合作的加強(qiáng),各類條約或協(xié)議也是重要的規(guī)范形式,試驗性立法對此類規(guī)范同樣不能忽視。概言之,人工智能試驗性立法應(yīng)當(dāng)保持規(guī)范的開放性,注重多元規(guī)范的協(xié)調(diào)與合作。

    (二)人工智能試驗性立法的內(nèi)容框架

    現(xiàn)階段,人工智能開發(fā)和應(yīng)用對立法的基本需求主要體現(xiàn)在民商事和行政法律領(lǐng)域,即涉及人工智能法律人格或主體地位、責(zé)任承擔(dān)機(jī)制、技術(shù)研發(fā)、產(chǎn)業(yè)發(fā)展和行政規(guī)制措施等問題。當(dāng)然,試驗性立法調(diào)整的內(nèi)容要通過具體的法律原則、規(guī)則或制度等來實現(xiàn),“具體設(shè)計機(jī)器人法律制度時,應(yīng)體現(xiàn)機(jī)器人倫理的基本內(nèi)容,秉持承認(rèn)與限制的基本原則:一是承認(rèn)機(jī)器人的限制性主體地位;二是承認(rèn)機(jī)器人權(quán)利,此種承認(rèn)具有功利主義色彩,本質(zhì)上是為了更好地實現(xiàn)人類利益”[16]。這與試驗性立法應(yīng)遵循的基本原則是一致的,而且確定性和協(xié)調(diào)性問題也要在對相關(guān)事項或內(nèi)容的調(diào)整中轉(zhuǎn)化為具體的規(guī)則或條款來加以解決。對于人工智能試驗性立法所應(yīng)調(diào)整的主要內(nèi)容,我們將其歸納為以下五個方面:

    一是總則性內(nèi)容,主要包括人工智能試驗性立法的政策與法律依據(jù)、立法宗旨、立法所遵循和貫徹的基本原則、適用對象與效力范圍,以及相關(guān)國家機(jī)關(guān)或社會組織的地位或基本職能等具有立法文本中總則屬性的普通條款。此外,針對人工智能試驗性立法的特殊性,在總則中還應(yīng)當(dāng)設(shè)置一些特殊條款,用以規(guī)定人工智能的法律地位、人工智能同自然人的基本關(guān)系、人工智能的類型、人工智能基本倫理,以及國家法之外的其他類型的規(guī)范在人工智能事務(wù)調(diào)整中的作用等內(nèi)容。

    二是人工智能相關(guān)的權(quán)利和義務(wù)問題,主要包括人工智能的主體地位及權(quán)利賦予和義務(wù)設(shè)定、自然人與人工智能互動中的權(quán)利義務(wù)、法人或其他社會組織與人工智能互動中的權(quán)利義務(wù),以及與人工智能之間存在密切關(guān)系的主體的權(quán)利義務(wù)等。該部分內(nèi)容中應(yīng)當(dāng)對人工智能的權(quán)利主體資格及有關(guān)限制加以規(guī)定,使其符合以人類為中心的基本原則和基本倫理,而對于人工以智能所享有的權(quán)利和義務(wù)則可以通過列舉式與概括式相結(jié)合的方式加以規(guī)定。

    三是人工智能技術(shù)研發(fā)與產(chǎn)業(yè)發(fā)展相關(guān)法律問題,主要包括促進(jìn)和規(guī)制人工智能技術(shù)研發(fā)、技術(shù)轉(zhuǎn)化、產(chǎn)品制造和產(chǎn)業(yè)發(fā)展等有關(guān)法律問題。該部分既涉及人工智能技術(shù)研發(fā)和轉(zhuǎn)化中的知識產(chǎn)權(quán)保護(hù)、權(quán)益分配等具體問題,也涉及人工智能產(chǎn)業(yè)及關(guān)聯(lián)產(chǎn)業(yè)發(fā)展等相對宏觀的問題。對此,應(yīng)當(dāng)從全球科技創(chuàng)新與競爭的視角,對如何推動我國人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)變革作出明確的法律回應(yīng)與保障。這部分內(nèi)容應(yīng)注意同國家有關(guān)政策規(guī)定的協(xié)調(diào)。

    四是人工智能行政規(guī)制主體及措施。人工智能是一把“雙刃劍”。在保障人類從中受益的同時,還應(yīng)該通過立法規(guī)制其潛在的風(fēng)險。行政規(guī)制依然是防范或抑制人工智能風(fēng)險的基本方式。當(dāng)然,行政規(guī)制的主體不限于行政機(jī)關(guān),還應(yīng)該將行業(yè)協(xié)會等有關(guān)社會組織納入其中。人工智能試驗性立法應(yīng)當(dāng)對行政機(jī)關(guān)或有關(guān)社會組織在規(guī)制人工智能風(fēng)險中的職責(zé)、可采用的措施以及自身的規(guī)范性等問題作出規(guī)定。

    五是人工智能相關(guān)的法律責(zé)任問題。從立法技術(shù)角度來看,無論是調(diào)整人工智能的義務(wù)性或強(qiáng)制性條款還是行政規(guī)制,都需要配以相應(yīng)的責(zé)任條款。就內(nèi)容完整性而言,法律責(zé)任的規(guī)定也是人工智能試驗性立法不可缺少的內(nèi)容。承擔(dān)法律責(zé)任的主體既包括被賦予主體資格的人工智能,也包括與人工智能有密切關(guān)系的主體,還包括研發(fā)和使用人工智能的有關(guān)自然人或社會組織以及承擔(dān)行政規(guī)制職責(zé)的主體。法律責(zé)任的內(nèi)容包括民事責(zé)任、行政責(zé)任和刑事責(zé)任三種基本類型,但要根據(jù)人工智能的特點和現(xiàn)行法律責(zé)任原理加以設(shè)定。

    由于人工智能在實踐中表現(xiàn)為不同的樣態(tài),這會對試驗性立法調(diào)整內(nèi)容的確定產(chǎn)生影響。上述五個方面的內(nèi)容只是從一般意義上概括了人工智能試驗性立法應(yīng)該包括的內(nèi)容,難以涵蓋所有應(yīng)然的或可能的調(diào)整內(nèi)容,需要立法主體根據(jù)現(xiàn)實的立法需求并借助相應(yīng)的立法技術(shù)科學(xué)合理地在相關(guān)立法中確定相應(yīng)的內(nèi)容。

    (三)人工智能試驗性立法的實現(xiàn)路徑

    人工智能試驗性立法從理論設(shè)想轉(zhuǎn)化為立法實踐,應(yīng)當(dāng)在我國現(xiàn)行立法體制框架內(nèi)并根據(jù)相關(guān)的法律規(guī)定來操作。對于人工智能試驗性立法的實現(xiàn)路徑,本文主要從立法主體與權(quán)限確定、立法模式選擇和日落條款與立法后評估設(shè)置三個方面加以闡述。

    首先,就立法主體與權(quán)限而言,國務(wù)院是現(xiàn)階段進(jìn)行人工智能試驗性立法的最適合主體,國務(wù)院各部門和省級地方立法機(jī)關(guān)可以在各自的立法權(quán)限范圍內(nèi),根據(jù)全國人大決議或國務(wù)院相關(guān)立法制定相應(yīng)的規(guī)范性法律文件。由于人工智能技術(shù)的開發(fā)與應(yīng)用會對現(xiàn)行一些基本法律制度產(chǎn)生根本性影響,所以,就立法權(quán)限而言,全國人大及其常委會在理論和制度上是最為適當(dāng)?shù)牧⒎ㄕ{(diào)整主體。然而,考慮到人工智能的開發(fā)與應(yīng)用尚處于初期,許多問題有待進(jìn)一步觀察并且相關(guān)社會關(guān)系也不夠穩(wěn)定,由國務(wù)院以行政法規(guī)的方式加以調(diào)整可以保持更好的實踐靈活性。立法法第9條規(guī)定:“第八條規(guī)定的事項尚未制定法律的,全國人民代表大會及其常務(wù)委員會有權(quán)作出決定,授權(quán)國務(wù)院可以根據(jù)實際需要,對其中的部分事項先制定行政法規(guī)?!背肆⒎?quán)限的原因,第9條關(guān)于全國人大及其常委會就某些事項授權(quán)國務(wù)院制定行政法規(guī)的規(guī)定本身具有試驗屬性或?qū)?。這層涵義在立法法第65條的規(guī)定中有著非常明顯的體現(xiàn)。根據(jù)第65條的規(guī)定,國務(wù)院根據(jù)憲法和法律制定行政法規(guī),“應(yīng)當(dāng)由全國人民代表大會及其常務(wù)委員會制定法律的事項,國務(wù)院根據(jù)全國人民代表大會及其常務(wù)委員會的授權(quán)決定先制定的行政法規(guī),經(jīng)過實踐檢驗,制定法律的條件成熟時,國務(wù)院應(yīng)當(dāng)及時提請全國人民代表大會及其常務(wù)委員會制定法律?!憋@然,該條規(guī)定可以作為國務(wù)院開展人工智能試驗性立法的直接依據(jù)。由國務(wù)院根據(jù)全國人大及其常委會授權(quán)進(jìn)行人工智能試驗性立法,一方面可以確保該類立法能夠在全國范圍內(nèi)得以實施,有助于增強(qiáng)相關(guān)主體對于試驗性立法確定性的主觀預(yù)期;另一方面也有助于保障試驗性立法的質(zhì)量,尤其在文本內(nèi)容上盡可能地實現(xiàn)所創(chuàng)設(shè)的原則與規(guī)則同現(xiàn)行法律制度與理論相協(xié)調(diào)。此外,國務(wù)院各部門和省級地方立法主體可以依據(jù)國務(wù)院所頒行的試驗性行政法規(guī),在其立法權(quán)限內(nèi)制定相應(yīng)的試驗性實施細(xì)則或規(guī)定,或者在必要時根據(jù)全國人大常委會的特別授權(quán)決議,就人工智能領(lǐng)域特定事項開展試驗性立法。

    其次,在立法模式選擇方面,人工智能試驗性立法可根據(jù)調(diào)整對象或內(nèi)容的需要選擇綜合型立法模式或單一型立法模式。國務(wù)院既可以制定諸如《人工智能民事條例》《人工智能行政規(guī)制條例》等具有通則屬性的綜合型行政法規(guī),也可以制定諸如《人工智能侵權(quán)責(zé)任條例》《人工智能商業(yè)保險條例》和《人工智能產(chǎn)業(yè)發(fā)展促進(jìn)條例》等專門規(guī)定某一領(lǐng)域事務(wù)的單一型行政法規(guī)。需要指出的是,無論是綜合型還是單一型的立法模式所創(chuàng)制的人工智能行政法規(guī)都應(yīng)當(dāng)被視為一種特別法,在行政法規(guī)體系中適用“特別法優(yōu)于一般法”原則,并且只要不違反憲法和法律的基本原則或理念,在人工智能領(lǐng)域也具有優(yōu)先適用的法律效力。這也是解決人工智能法律體系內(nèi)協(xié)調(diào)的重要機(jī)制。

    最后,作為試驗性立法,日落條款和立法后評估條款是必備條款,應(yīng)當(dāng)加以合理設(shè)置。在立法實踐中,日落條款并非一定要與試驗性立法結(jié)合使用,但試驗性立法原則上一定要包含有日落條款。對于日落條款和試驗性條款的關(guān)系,黎娟認(rèn)為:“與日落條款類似,試驗性立法同樣具有暫時性特征,它也限定了規(guī)范的適用期限或范圍。然而,不同的是,試驗性立法允許立法規(guī)范突破現(xiàn)有法律,其主要目的在于將突破性規(guī)范發(fā)展為正式的或不變的(permanent)規(guī)則。據(jù)此,試驗性立法與日落條款的最大區(qū)別在于是否強(qiáng)調(diào)正式規(guī)則的最終形成。試驗性立法旨在將暫時性規(guī)范發(fā)展為正式甚至是永久性的法律規(guī)范,而日落條款或法案往往隨著預(yù)先設(shè)定期限的到來而最終‘隕落?!盵17]既然試驗性立法的目的在于探索新的法律原則和規(guī)則的正式或長期設(shè)定,那么就需要借助日落條款來啟動立法后評估活動,從而為試驗性立法如何轉(zhuǎn)化為長期性立法提供決策依據(jù)。換言之,日落條款在人工智能試驗性立法中主要發(fā)揮兩項基本功能:一是設(shè)定日落條款所在的試驗性立法的試驗期限;二是規(guī)定試驗性立法試驗期限屆滿前一定時期內(nèi)立法者應(yīng)當(dāng)啟動并完成立法后評估。其中,試驗性立法的試驗期限在各國立法實踐雖然沒有統(tǒng)一的規(guī)定或要求,但一般會根據(jù)立法調(diào)整的對象確定在3至5年,過長或者過短都會影響到試驗的效果以及相關(guān)信息的準(zhǔn)確性。我國人工智能試驗性立法可以根據(jù)所調(diào)整對象或內(nèi)容的特點以及立法屬于綜合型還是單一型的行政法規(guī),并結(jié)合《新一代人工智能發(fā)展規(guī)劃》中關(guān)于人工智能法律體系構(gòu)建的階段性目標(biāo)要求,將試驗期限確定為3年或5年。在試驗期限屆滿前半年,立法者應(yīng)當(dāng)啟動立法后評估,就該部試驗性立法的實施效果、存在問題等進(jìn)行科學(xué)而全面的評估,并就如何改進(jìn)或處理該部試驗性立法做出新的立法決策。

    四、結(jié) 語

    人工智能的應(yīng)用和發(fā)展離不開立法規(guī)制。“做好人工智能方面的立法工作已成為我國搶占國際人工智能產(chǎn)業(yè)制高點、掌握國際話語權(quán)的重要基礎(chǔ)和前提?!盵18]當(dāng)然,人工智能法律體系的建立和完善是一個漸進(jìn)的過程,因為立法條件需要隨著人工智能技術(shù)改進(jìn)和廣泛應(yīng)用而不斷成熟。試驗性立法在建構(gòu)科學(xué)合理的人工智能法律體系過程中扮演著探索者角色。從這個意義上講,人工智能試驗性立法是一項目標(biāo)導(dǎo)向的活動:一是為人工智能的開發(fā)與應(yīng)用提供法律規(guī)則,協(xié)調(diào)相關(guān)主體的利益關(guān)系或交往關(guān)系;二是為人工智能法律體系的建構(gòu)與完善收集信息和積累經(jīng)驗。因此,立法者可以基于實用主義立場和結(jié)果主義導(dǎo)向,在不違背有關(guān)立法原則前提下,對試驗性立法的確定性與協(xié)調(diào)性問題進(jìn)行技術(shù)性處理。畢竟在人工智能技術(shù)發(fā)展如此迅猛并且將對現(xiàn)行法律制度和理論體系形成根本性沖擊的今天,立法者需要更大的魄力去探索或嘗試,在逐步構(gòu)建人工智能法律體系的同時,及時推進(jìn)這套新體系融入現(xiàn)行法律制度與理論體系之中。

    參考文獻(xiàn):

    [1] 鄭戈.如何為人工智能立法[J].檢察風(fēng)云,2018(7):16-17.

    [2] 吳仕春.試驗性立法體現(xiàn)穩(wěn)健法治觀[N].法制日報,2014-06-25(7).

    [3] Jacob Turner.Robot Rules—Regulating Artificial Intelligence [M].London: Palgrave Macmillan, 2018.

    [4] 烏戈·帕加羅.誰為機(jī)器人的行為負(fù)責(zé)?[M].張卉林,王黎黎,譯.上海:上海人民出版社,2018.

    [5] 宋紅松.純粹“人工智能創(chuàng)作”的知識產(chǎn)權(quán)法定位[J].蘇州大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2018(6):50-56.

    [6] 許明月,譚玲.論人工智能創(chuàng)作物的鄰接權(quán)保護(hù)——理論證成與制度安排[J].比較法研究,2018(6):42-54.

    [7] Sofia Ranchordas. Constitutional Sunsets and Experimental Legislation [M]. Cheltenham: Edward Elgar, 2014.

    [8] 田源.行為法律經(jīng)濟(jì)學(xué)視野中的“法律確定性命題”——以規(guī)則和標(biāo)準(zhǔn)的分類為線索[J].法制與社會發(fā)展,2018(2):43-60.

    [9] 邱昭繼.法律的不確定性與法治的可能性[J].政法論叢,2013(1):85-92.

    [10] Séverin Lemaignan, Mathieu Warnier, E. Akin Sisbot, Aurélie Clodic, Rachid Alami. Artificial cognition for social human–robot interaction: An implementation [J]. Artificial Intelligence, 2017,247: 45–69.

    [11] 張長丹.法律人格理論下人工智能對民事主體理論的影響研究[J].科技與法律,2018(2):37-43.

    [12] 何麗.基于人工智能視域下的法律主體研究[J].政法學(xué)刊,2018(3):44-51.

    [13] R.Van Est,J.B.A. Gerritsen, Human rights in the robot age: Challenges arising from the use of robotics, artificial intelligence, and virtual and augmented reality [R].The Hague: Rathenau Instituut,2017.

    [14] 張玉潔.論人工智能時代的機(jī)器人權(quán)利及其風(fēng)險規(guī)制[J].東方法學(xué),2017(6):56-66.

    [15] 劉莘,金成波.立法成本收益分析在中國:理念更新與制度確立[J].江蘇社會科學(xué),2016(3):148-155.

    [16] 劉憲權(quán).人工智能時代機(jī)器人行為道德倫理與刑法規(guī)制[J].比較法研究,2018(4):40-54.

    [17] 黎娟.“試驗性立法”的理論建構(gòu)與實證分析——以我國《立法法》第13條為中心[J].政治與法律,2017(7):84-94.

    [18] 李佳霖.人工智能產(chǎn)業(yè)立法當(dāng)加速[N].經(jīng)濟(jì)日報,2018-05-08(9).

    責(zé)任編輯:張昌輝

    猜你喜歡
    確定性協(xié)調(diào)性人工智能
    協(xié)調(diào)性練習(xí)在小學(xué)足球訓(xùn)練中的作用
    2019:人工智能
    人工智能與就業(yè)
    數(shù)讀人工智能
    歷史不可驗證說的語義結(jié)構(gòu)與內(nèi)在邏輯
    Ages in Trouble
    各地區(qū)高等教育與經(jīng)濟(jì)發(fā)展水平協(xié)調(diào)性分析
    下一幕,人工智能!
    淺議跨國企業(yè)破產(chǎn)中“主要利益中心地”的確定
    文學(xué)作品教學(xué)目標(biāo)“確定性”與“不確定性”之我見
    国产免费视频播放在线视频| 九九久久精品国产亚洲av麻豆| 成人毛片a级毛片在线播放| 国产午夜福利久久久久久| 精品酒店卫生间| 久久久久久久久久成人| kizo精华| 80岁老熟妇乱子伦牲交| 99久久精品一区二区三区| videos熟女内射| 一级爰片在线观看| 欧美高清性xxxxhd video| 99久久精品国产国产毛片| 国产免费一区二区三区四区乱码| 日日摸夜夜添夜夜爱| 欧美激情在线99| 欧美成人a在线观看| 国产黄片视频在线免费观看| 中国国产av一级| 国产精品精品国产色婷婷| 久久人人爽av亚洲精品天堂 | 色5月婷婷丁香| 伊人久久精品亚洲午夜| 九草在线视频观看| 看免费成人av毛片| 色网站视频免费| 成人亚洲欧美一区二区av| 网址你懂的国产日韩在线| 免费av不卡在线播放| 国产精品久久久久久久电影| 免费观看av网站的网址| 国内精品美女久久久久久| 亚洲av日韩在线播放| 亚洲av欧美aⅴ国产| 免费看a级黄色片| av免费观看日本| 一级毛片 在线播放| 国产成人精品婷婷| 一级毛片电影观看| 久久人人爽av亚洲精品天堂 | 国产男女内射视频| 搡老乐熟女国产| 少妇裸体淫交视频免费看高清| 国产免费视频播放在线视频| 久久久久九九精品影院| 国产精品久久久久久av不卡| 18禁在线无遮挡免费观看视频| videossex国产| 美女cb高潮喷水在线观看| 色婷婷久久久亚洲欧美| 国产视频内射| 亚洲av不卡在线观看| 亚洲天堂国产精品一区在线| 国产探花在线观看一区二区| 秋霞伦理黄片| 国产毛片在线视频| 成人亚洲精品一区在线观看 | 精品视频人人做人人爽| 免费看不卡的av| 人妻制服诱惑在线中文字幕| 夫妻性生交免费视频一级片| 欧美精品一区二区大全| 免费看a级黄色片| 草草在线视频免费看| www.色视频.com| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产成人a∨麻豆精品| av卡一久久| 久久久色成人| 午夜激情福利司机影院| 久久99热6这里只有精品| a级一级毛片免费在线观看| 免费少妇av软件| 中国美白少妇内射xxxbb| 国产欧美亚洲国产| 美女脱内裤让男人舔精品视频| 国产爱豆传媒在线观看| 欧美日韩视频精品一区| 日韩大片免费观看网站| 欧美国产精品一级二级三级 | 一级毛片aaaaaa免费看小| 国产精品人妻久久久久久| 亚洲成色77777| 成人毛片60女人毛片免费| 男的添女的下面高潮视频| 深夜a级毛片| 视频区图区小说| av又黄又爽大尺度在线免费看| 大片电影免费在线观看免费| 日韩强制内射视频| 国产高清有码在线观看视频| 久久国内精品自在自线图片| 亚洲精品第二区| 晚上一个人看的免费电影| 欧美成人午夜免费资源| 国产综合懂色| 久久精品熟女亚洲av麻豆精品| 国产精品不卡视频一区二区| 久久久久久久久久久免费av| 制服丝袜香蕉在线| 国产高潮美女av| 日韩中字成人| 丰满人妻一区二区三区视频av| 99久久中文字幕三级久久日本| 夫妻午夜视频| 69av精品久久久久久| 最近中文字幕高清免费大全6| 一二三四中文在线观看免费高清| 大香蕉97超碰在线| 人妻系列 视频| 99热这里只有精品一区| 欧美97在线视频| 久久精品国产亚洲av涩爱| 色网站视频免费| 婷婷色麻豆天堂久久| 日韩不卡一区二区三区视频在线| 丰满人妻一区二区三区视频av| 亚洲欧洲日产国产| 精品少妇久久久久久888优播| 久久久久九九精品影院| 精品一区二区三区视频在线| a级毛色黄片| 如何舔出高潮| videos熟女内射| 亚洲欧美成人精品一区二区| 岛国毛片在线播放| 两个人的视频大全免费| 2022亚洲国产成人精品| 日韩不卡一区二区三区视频在线| 97超视频在线观看视频| 超碰av人人做人人爽久久| 午夜亚洲福利在线播放| 亚洲aⅴ乱码一区二区在线播放| 美女cb高潮喷水在线观看| 亚洲欧美日韩另类电影网站 | 一区二区三区四区激情视频| 久久久久九九精品影院| 成人鲁丝片一二三区免费| 极品少妇高潮喷水抽搐| 免费人成在线观看视频色| 免费大片黄手机在线观看| 中文天堂在线官网| 久久精品国产自在天天线| 亚洲精品色激情综合| 嫩草影院精品99| 亚洲精品国产av成人精品| 欧美 日韩 精品 国产| 一级爰片在线观看| 日韩一区二区视频免费看| 高清视频免费观看一区二区| 肉色欧美久久久久久久蜜桃 | 少妇人妻精品综合一区二区| 国产久久久一区二区三区| 成年女人在线观看亚洲视频 | 91久久精品国产一区二区成人| 久久久久国产精品人妻一区二区| 国产91av在线免费观看| 精品久久久久久久人妻蜜臀av| 色网站视频免费| 午夜福利在线在线| 中文精品一卡2卡3卡4更新| 国产av国产精品国产| 熟女人妻精品中文字幕| 又爽又黄无遮挡网站| 联通29元200g的流量卡| 亚洲经典国产精华液单| 午夜福利在线在线| 777米奇影视久久| 美女内射精品一级片tv| 三级国产精品片| 亚洲三级黄色毛片| 亚洲性久久影院| 亚洲电影在线观看av| 只有这里有精品99| 丝袜脚勾引网站| av在线播放精品| 最近2019中文字幕mv第一页| 国产色爽女视频免费观看| www.av在线官网国产| 欧美亚洲 丝袜 人妻 在线| 免费不卡的大黄色大毛片视频在线观看| 偷拍熟女少妇极品色| 好男人在线观看高清免费视频| 女的被弄到高潮叫床怎么办| 联通29元200g的流量卡| 三级男女做爰猛烈吃奶摸视频| 2021天堂中文幕一二区在线观| 午夜激情久久久久久久| 好男人视频免费观看在线| 蜜桃亚洲精品一区二区三区| 成人综合一区亚洲| 亚洲色图av天堂| 国产精品国产三级专区第一集| 又粗又硬又长又爽又黄的视频| 一个人观看的视频www高清免费观看| 国产乱来视频区| 又黄又爽又刺激的免费视频.| 久久久久久久久久人人人人人人| 日产精品乱码卡一卡2卡三| 爱豆传媒免费全集在线观看| 亚洲,一卡二卡三卡| 三级国产精品片| 另类亚洲欧美激情| 亚洲第一区二区三区不卡| 男女下面进入的视频免费午夜| 久久综合国产亚洲精品| 精品人妻熟女av久视频| 国产成人精品一,二区| 欧美最新免费一区二区三区| 国产午夜精品久久久久久一区二区三区| 国产男女内射视频| 亚洲国产最新在线播放| 一级毛片我不卡| 亚洲成人一二三区av| 赤兔流量卡办理| 黄色日韩在线| 亚洲欧美精品专区久久| 国产成人精品婷婷| 婷婷色综合www| 99久久人妻综合| 国产精品.久久久| 精品人妻视频免费看| 搡老乐熟女国产| 国产人妻一区二区三区在| 国产在线一区二区三区精| 一个人看视频在线观看www免费| 欧美亚洲 丝袜 人妻 在线| 国产男人的电影天堂91| 最后的刺客免费高清国语| 久久精品国产亚洲av天美| 不卡视频在线观看欧美| 亚洲成人精品中文字幕电影| 欧美另类一区| 中文乱码字字幕精品一区二区三区| 国产 一区 欧美 日韩| 在线a可以看的网站| av免费观看日本| 最新中文字幕久久久久| 国产欧美另类精品又又久久亚洲欧美| 18禁在线无遮挡免费观看视频| 建设人人有责人人尽责人人享有的 | 毛片女人毛片| 高清毛片免费看| 欧美激情国产日韩精品一区| 2021天堂中文幕一二区在线观| 国产黄a三级三级三级人| 高清欧美精品videossex| 国产大屁股一区二区在线视频| 久久久久国产网址| 亚洲精品成人久久久久久| 国国产精品蜜臀av免费| 亚洲欧美中文字幕日韩二区| 国产色婷婷99| 在线看a的网站| 日韩av免费高清视频| 国产精品久久久久久精品电影小说 | 69av精品久久久久久| 欧美日韩亚洲高清精品| 国产欧美亚洲国产| 国产一区二区在线观看日韩| 嫩草影院新地址| 超碰97精品在线观看| 91狼人影院| 国产精品成人在线| 欧美性感艳星| 天堂俺去俺来也www色官网| 久久久久久久久久成人| 国产黄频视频在线观看| 久久人人爽av亚洲精品天堂 | 美女视频免费永久观看网站| 国产成人一区二区在线| 五月伊人婷婷丁香| 嫩草影院新地址| 亚洲精品国产av蜜桃| 亚洲成色77777| 亚洲欧洲国产日韩| 91久久精品国产一区二区成人| 中文字幕亚洲精品专区| 看十八女毛片水多多多| 日韩不卡一区二区三区视频在线| 91精品伊人久久大香线蕉| 超碰97精品在线观看| 国产伦在线观看视频一区| 国产精品偷伦视频观看了| 免费大片18禁| 美女高潮的动态| 人人妻人人爽人人添夜夜欢视频 | 精品国产露脸久久av麻豆| 最新中文字幕久久久久| 免费观看性生交大片5| 中文字幕免费在线视频6| 99re6热这里在线精品视频| 亚洲天堂av无毛| 午夜福利视频精品| 午夜精品国产一区二区电影 | 菩萨蛮人人尽说江南好唐韦庄| 亚洲国产精品成人综合色| 精品99又大又爽又粗少妇毛片| 白带黄色成豆腐渣| 日本wwww免费看| 婷婷色综合www| 日韩电影二区| 亚洲激情五月婷婷啪啪| 亚洲精品国产成人久久av| 国产亚洲一区二区精品| 在线精品无人区一区二区三 | 亚洲精品成人久久久久久| 少妇裸体淫交视频免费看高清| 蜜桃亚洲精品一区二区三区| 日韩,欧美,国产一区二区三区| 久久精品久久久久久噜噜老黄| 六月丁香七月| videos熟女内射| 麻豆久久精品国产亚洲av| 色哟哟·www| 免费在线观看成人毛片| 日韩在线高清观看一区二区三区| 男女啪啪激烈高潮av片| 欧美一区二区亚洲| 亚洲精品456在线播放app| 99久久九九国产精品国产免费| 国产精品久久久久久精品电影| 性色avwww在线观看| 亚洲三级黄色毛片| 国产永久视频网站| 久久影院123| 亚洲美女搞黄在线观看| 国产老妇女一区| 一级片'在线观看视频| 最近的中文字幕免费完整| 欧美高清成人免费视频www| 国产真实伦视频高清在线观看| 少妇猛男粗大的猛烈进出视频 | 男人舔奶头视频| 久久久精品欧美日韩精品| 欧美成人精品欧美一级黄| 亚洲色图av天堂| av免费在线看不卡| 亚洲四区av| 免费人成在线观看视频色| 免费高清在线观看视频在线观看| 嫩草影院新地址| 97在线人人人人妻| 日韩欧美 国产精品| 青春草亚洲视频在线观看| 色视频www国产| 网址你懂的国产日韩在线| 日韩大片免费观看网站| 国产精品99久久99久久久不卡 | 少妇人妻 视频| 亚洲欧美日韩卡通动漫| av在线app专区| 亚洲av欧美aⅴ国产| 亚洲av电影在线观看一区二区三区 | 少妇的逼水好多| 亚洲成人中文字幕在线播放| 69av精品久久久久久| 国产探花在线观看一区二区| 免费看a级黄色片| 嫩草影院入口| av专区在线播放| 成人黄色视频免费在线看| 在线观看免费高清a一片| tube8黄色片| 两个人的视频大全免费| 中国国产av一级| 欧美高清性xxxxhd video| 日本黄大片高清| 亚洲最大成人av| 国产久久久一区二区三区| eeuss影院久久| 18禁裸乳无遮挡免费网站照片| 久热这里只有精品99| 自拍偷自拍亚洲精品老妇| videossex国产| 少妇的逼水好多| 久久精品久久久久久噜噜老黄| 久久国内精品自在自线图片| 人人妻人人看人人澡| 最新中文字幕久久久久| 日本欧美国产在线视频| 免费av观看视频| www.色视频.com| 97精品久久久久久久久久精品| 99re6热这里在线精品视频| 国产成人免费观看mmmm| 日韩 亚洲 欧美在线| 久久久久久久久久久免费av| 国产男人的电影天堂91| 国产v大片淫在线免费观看| 亚洲国产高清在线一区二区三| 久久久精品欧美日韩精品| 18禁动态无遮挡网站| 你懂的网址亚洲精品在线观看| 欧美精品国产亚洲| 成人鲁丝片一二三区免费| 一级毛片黄色毛片免费观看视频| 91久久精品国产一区二区三区| 内地一区二区视频在线| 22中文网久久字幕| 女人十人毛片免费观看3o分钟| av在线app专区| 2022亚洲国产成人精品| 欧美成人a在线观看| 秋霞伦理黄片| 哪个播放器可以免费观看大片| 国产精品熟女久久久久浪| 欧美高清成人免费视频www| 草草在线视频免费看| 午夜激情福利司机影院| 久久久久久久久久久免费av| 麻豆国产97在线/欧美| 亚洲精品国产成人久久av| 丝瓜视频免费看黄片| 在线观看av片永久免费下载| 欧美一区二区亚洲| 99热这里只有精品一区| 亚洲精品aⅴ在线观看| 国产一区二区三区综合在线观看 | 人人妻人人看人人澡| 少妇人妻久久综合中文| 国产黄色视频一区二区在线观看| 看十八女毛片水多多多| 亚洲国产欧美人成| 亚洲人成网站在线播| 欧美精品人与动牲交sv欧美| 69av精品久久久久久| 亚洲精华国产精华液的使用体验| 日韩大片免费观看网站| 国产精品国产三级国产专区5o| 夜夜看夜夜爽夜夜摸| 久久影院123| 国产成人精品一,二区| 在线观看一区二区三区| 国产淫片久久久久久久久| 99久久九九国产精品国产免费| 激情五月婷婷亚洲| av线在线观看网站| 亚洲av中文av极速乱| 久久国内精品自在自线图片| 欧美+日韩+精品| 国产成人精品婷婷| 成年av动漫网址| 亚洲av国产av综合av卡| 一级二级三级毛片免费看| 51国产日韩欧美| 国产视频内射| 干丝袜人妻中文字幕| 91精品国产九色| 国产日韩欧美在线精品| 小蜜桃在线观看免费完整版高清| 亚洲国产精品999| 十八禁网站网址无遮挡 | 欧美3d第一页| 欧美xxⅹ黑人| 一个人观看的视频www高清免费观看| 日韩欧美一区视频在线观看 | 精品熟女少妇av免费看| 成年版毛片免费区| 嫩草影院精品99| 国产一区有黄有色的免费视频| 亚洲第一区二区三区不卡| 天美传媒精品一区二区| 可以在线观看毛片的网站| 七月丁香在线播放| 成年av动漫网址| 亚洲自拍偷在线| 少妇 在线观看| 我的老师免费观看完整版| 一区二区三区乱码不卡18| 国产精品99久久久久久久久| 精品久久久久久久久av| 国产 一区 欧美 日韩| 男女下面进入的视频免费午夜| 天堂俺去俺来也www色官网| 两个人的视频大全免费| 国产免费一区二区三区四区乱码| 一个人看视频在线观看www免费| 日韩强制内射视频| 欧美成人精品欧美一级黄| 亚洲av国产av综合av卡| 婷婷色综合www| 国产黄片美女视频| 精品少妇久久久久久888优播| 中文资源天堂在线| 亚洲内射少妇av| 直男gayav资源| 2021天堂中文幕一二区在线观| 久久久久精品性色| 日本免费在线观看一区| 91精品伊人久久大香线蕉| 久久久久久久久久成人| 男女国产视频网站| 国产色婷婷99| 精品一区二区免费观看| 18禁动态无遮挡网站| 2021天堂中文幕一二区在线观| 午夜激情福利司机影院| 国产免费一级a男人的天堂| 18禁裸乳无遮挡免费网站照片| 黄色配什么色好看| 青青草视频在线视频观看| 18+在线观看网站| 日本猛色少妇xxxxx猛交久久| 国产成人a区在线观看| 99热国产这里只有精品6| 干丝袜人妻中文字幕| 免费高清在线观看视频在线观看| 51国产日韩欧美| 国产女主播在线喷水免费视频网站| 日韩欧美精品免费久久| 久久久久久久久久久免费av| 最近中文字幕高清免费大全6| 91狼人影院| 精品一区在线观看国产| 日韩欧美一区视频在线观看 | 人妻 亚洲 视频| 有码 亚洲区| 青春草视频在线免费观看| 亚州av有码| 老师上课跳d突然被开到最大视频| 99久久精品热视频| 成年av动漫网址| 久久精品久久久久久噜噜老黄| 亚洲国产成人一精品久久久| 亚洲成人中文字幕在线播放| 成人亚洲欧美一区二区av| 一区二区三区四区激情视频| 亚洲,欧美,日韩| 深爱激情五月婷婷| 欧美变态另类bdsm刘玥| 麻豆国产97在线/欧美| 日韩电影二区| 九色成人免费人妻av| 国产免费又黄又爽又色| 亚州av有码| 免费少妇av软件| xxx大片免费视频| 国产色婷婷99| 精品久久久久久久久av| 成人美女网站在线观看视频| 亚州av有码| 日韩视频在线欧美| 日日撸夜夜添| 国产色爽女视频免费观看| 中国三级夫妇交换| 国产亚洲av片在线观看秒播厂| 国产伦精品一区二区三区视频9| 日本三级黄在线观看| 九九久久精品国产亚洲av麻豆| 国产欧美日韩一区二区三区在线 | 午夜爱爱视频在线播放| 人妻夜夜爽99麻豆av| av女优亚洲男人天堂| 欧美精品人与动牲交sv欧美| 精品人妻熟女av久视频| 精品人妻偷拍中文字幕| 日韩 亚洲 欧美在线| 婷婷色麻豆天堂久久| 美女高潮的动态| 免费观看a级毛片全部| 国产v大片淫在线免费观看| 亚洲熟女精品中文字幕| 如何舔出高潮| 国内揄拍国产精品人妻在线| 国产爽快片一区二区三区| 亚洲欧洲国产日韩| 国产视频内射| 精华霜和精华液先用哪个| 亚洲久久久久久中文字幕| 九九久久精品国产亚洲av麻豆| 精品人妻一区二区三区麻豆| 亚洲一级一片aⅴ在线观看| 亚洲av成人精品一区久久| 又粗又硬又长又爽又黄的视频| 夜夜爽夜夜爽视频| a级毛片免费高清观看在线播放| 国产成人午夜福利电影在线观看| 丰满乱子伦码专区| 亚洲精品一二三| 狂野欧美激情性xxxx在线观看| 国产毛片在线视频| 欧美激情在线99| 色网站视频免费| 在现免费观看毛片| 在线观看av片永久免费下载| 青春草国产在线视频| 日本午夜av视频| 97在线人人人人妻| 大码成人一级视频| 精品久久久久久久人妻蜜臀av| 一级二级三级毛片免费看| 成人高潮视频无遮挡免费网站| 毛片一级片免费看久久久久| 国产精品.久久久| 午夜福利视频1000在线观看| 1000部很黄的大片| 久久人人爽人人片av| 少妇人妻一区二区三区视频| 亚洲精品国产av蜜桃| 七月丁香在线播放| 国产探花在线观看一区二区| 亚洲精品国产成人久久av| 国产成人freesex在线| 国模一区二区三区四区视频| 免费观看在线日韩| 国产美女午夜福利| 日韩欧美精品v在线| 精品99又大又爽又粗少妇毛片| 国产成人免费观看mmmm| 国产探花在线观看一区二区| 中国国产av一级| 五月开心婷婷网| 禁无遮挡网站| 婷婷色麻豆天堂久久|