• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于技術(shù)與法律邏輯對接的無人船海事規(guī)制研究*

    2021-08-04 02:47劉敬賢
    關(guān)鍵詞:海事航行規(guī)制

    張 敏, 劉敬賢

    (1.廣州航海學(xué)院 海運學(xué)院,廣州 510725;2.武漢理工大學(xué) 航運學(xué)院,武漢 430063)

    一、 研究背景與問題的提出

    隨著人工智能的發(fā)展,無人駕駛技術(shù)在道路交通、航空航天、航海及軍事等領(lǐng)域成功應(yīng)用。無人船在技術(shù)上的探索和實踐已經(jīng)在全球展開:歐洲的航海強國已經(jīng)紛紛開發(fā)自己的自動航行船舶。英國羅羅公司公布了開發(fā)自動航行船舶的計劃,勞斯萊斯推出了自己的自主船舶,并進一步制定計劃以加強海上目標識別。挪威政府資助并完成了對自治船舶(如Munin)和基金會(如挪威自治船舶論壇(NFAS))的研究,以開發(fā)完全或部分無人駕駛船舶。歐盟委員會批準了用于倡導(dǎo)歐洲水域無人自動自主航行的新基金。日本郵船2019年宣布完成了全球首次“有人自動航行船舶”的自主航行系統(tǒng)海上試驗。我國近年來在無人船標準制定、實驗場地建設(shè)等方面開展了大量工作。早在2015年,中國船級社就發(fā)布了《智能船舶規(guī)范》,2018年12月,工信部、交通運輸部、國防科工局聯(lián)合印發(fā)了《智能船舶發(fā)展行動計劃(2019-2021年)》,自主航行試驗船“智騰”號成功進行了自主航行和自主避碰演示。

    無人駕駛船舶在國際上被稱autonomous ship或autonomous surface ship,即(水面)自主航行船舶。國際海事組織(IMO)將船舶自動化分為若干級別,由于各國根據(jù)無人駕駛船舶技術(shù)等級稱謂各不相同,本文界定為無人船。

    目前國際上的無人船從技術(shù)上達到的水平,包括配置了遠洋自主航行船舶所必需的智能態(tài)勢感知系統(tǒng)、自主航行決策系統(tǒng)和自主駕駛控制系統(tǒng),構(gòu)建了船岸協(xié)同通信系統(tǒng)和大數(shù)據(jù)系統(tǒng),同步建設(shè)了岸基運控中心,具備自主航行、自動避碰、水下避碰、自主靠離泊和遠程遙控功能,目前已達到MASS第三階段“周期性無人在船”的要求,未來可進一步達到MASS第四等級“完全自主”船舶的功能要求。與傳統(tǒng)船舶相比,無人船排除了人為因素的干擾,提高了安全性,節(jié)省了生活區(qū)和排污設(shè)施,在設(shè)計上可以選擇更加優(yōu)化的方案。因而在運營效率、航運安全性、節(jié)能減排等方面具備突出的特點[1]。

    無人船航行與傳統(tǒng)船舶駕駛在法律上面臨著根本的變化,與傳統(tǒng)的海事公約或協(xié)定以船舶適航性和船員為重點規(guī)制對象相比,無人船規(guī)制的對象是以數(shù)據(jù)治理和人工智能治理在船舶自主駕駛上的應(yīng)用。傳統(tǒng)海事規(guī)則所建立的只是船舶性能和裝備安全以及船員安全駕駛技能考核等制度。以現(xiàn)行國際海上避碰規(guī)則COLREGS為例,這套規(guī)范主要用來規(guī)范傳統(tǒng)人工操作船舶的航行,以圍繞人類行為的國際海事規(guī)制制度,在面對以數(shù)據(jù)、算法為主體的應(yīng)用環(huán)境則會產(chǎn)生不適應(yīng)性和滯后性。對于無人船而言,如何規(guī)制采用算法去進行路徑和避碰規(guī)劃帶來的法律問題,這和人工操作的船舶在航行過程中避碰的反應(yīng)機理存在著巨大的差異,無人船將會給現(xiàn)行的國際海事制度帶來極大挑戰(zhàn)與變革,這幾乎是不可避免的。目前國際國內(nèi)學(xué)界關(guān)注的焦點是,傳統(tǒng)海事規(guī)則如何與人工智能法則相銜接,以何種制度和規(guī)則設(shè)計來開啟無人船的安全應(yīng)用,并引領(lǐng)人工智能等新技術(shù)應(yīng)用在海事領(lǐng)域規(guī)則的深層次變革,以及如何設(shè)計在現(xiàn)行法律與未來法下關(guān)于無人船適用的明確的、適當?shù)摹⒔y(tǒng)一的技術(shù)標準、法律原則與規(guī)則。要解決這些問題,就需要立足于法律對技術(shù)的理解進而把新技術(shù)的邏輯與法律規(guī)制相對接。

    二、 無人船規(guī)則中技術(shù)與法律邏輯的關(guān)系

    (一) 未來法邏輯下無人船法律的應(yīng)然性

    新技術(shù)時代及智能革命的出現(xiàn),在改變甚至顛覆人類現(xiàn)存生活方式的同時,一個以新的技術(shù)結(jié)構(gòu)支撐的社會結(jié)構(gòu)的法律環(huán)境也必將到來,稱之未來法。無人船的核心技術(shù)是通過傳感器與其環(huán)境進行數(shù)據(jù)交換以及數(shù)據(jù)分析等方式獲得自主性的能力、從經(jīng)歷和交互中學(xué)習(xí)的能力以及隨環(huán)境而調(diào)整其行為和行動的能力。因此,智能航運可以說是未來的發(fā)展趨勢,無人船應(yīng)用的法律問題也是未來法學(xué)研究的一個具體場景問題,應(yīng)當置于未來法學(xué)規(guī)則的背景下,運用研究未來法學(xué)的方法去構(gòu)建智能航行規(guī)則。

    未來法學(xué)認為傳統(tǒng)的倫理標準、法律規(guī)則、社會秩序及公共管理體制都會遭受前所未有的危機和挑戰(zhàn)。它不僅與已有法律秩序形成沖突,凸顯傳統(tǒng)法律制度產(chǎn)品供給的缺陷,甚至?xí)嵏参覀儤I(yè)已構(gòu)成的法律認知[2]。未來法下的人工智能等新技術(shù)無疑將改變現(xiàn)行法律體系的規(guī)則形態(tài)乃至價值導(dǎo)向,未來法與傳統(tǒng)法律之間的關(guān)系可能將面臨以下幾種關(guān)系:第一種關(guān)系是代碼替代法律,扎克伯格所稱算法的統(tǒng)治取代法律的統(tǒng)治即為此意。認為大數(shù)據(jù)時代人工智能技術(shù)對于立法行為的本質(zhì)性改變,將法律所追求的價值和原則嵌入式地植入產(chǎn)品中,現(xiàn)有法律框架中面臨重大的創(chuàng)新。第二種關(guān)系是法律馴服或規(guī)制代碼,包括法律規(guī)制代碼的權(quán)力限度,法律如何規(guī)制代碼的問題,即體現(xiàn)現(xiàn)行法律規(guī)則和法律體系適用到科技前沿領(lǐng)域的安定性原則,現(xiàn)行法律的生命力在未來得以延續(xù)。有種觀點認為,以大數(shù)據(jù)和人工智能為代表的技術(shù)正在成為一個個封閉的系統(tǒng),其背后的代碼、算法,都變成為一個個黑箱,法律不能識別這個黑箱內(nèi)部的運行機制。本文認為,如果持這種觀點將導(dǎo)致未來法學(xué)的虛無性,進而導(dǎo)致對現(xiàn)行法律千百年來智慧成果的拋棄。傳統(tǒng)法與未來法兩種法律與其說是對決的,不如說是二者的博弈,只要現(xiàn)行法律的邏輯與基于新技術(shù)邏輯的未來法學(xué)能夠?qū)樱斯ぶ悄芟到y(tǒng)等新技術(shù)帶來的法律風險尚在可規(guī)制范圍之內(nèi),未來法并非將顛覆現(xiàn)行法律,而是在其中建立科技與法律的關(guān)聯(lián),見圖1。

    圖1 未來法與現(xiàn)行法之科技關(guān)聯(lián)

    規(guī)范無人船運行機制的規(guī)則正處于這種未來法變遷的背景之下,對未來航運的規(guī)制也將從傳統(tǒng)的立法、執(zhí)法,演變?yōu)榱⒎?、?zhí)法的代碼化,然后寫入各類無人船的系統(tǒng)保障航行安全。大數(shù)據(jù)及人工智能在船舶應(yīng)用方面所帶來的法律問題既包括形而上學(xué)的研究,也包括尋求解決實際的問題和求得社會共識的研究,二者均在未來法學(xué)框架下展開[3]。

    (二) 無人船法律規(guī)則的實然性

    1.國際海事組織應(yīng)對無人船的立法舉措

    無人船核心技術(shù)進步進一步推動了技術(shù)規(guī)范及國際海事法律體系的變革。國際海事組織開展了對國際海事公約的全面回顧和修正,目的在于研究當下國際海事公約在適用于傳統(tǒng)駕駛技術(shù)的船舶的同時,如何適用于未來的自主航行船舶。國際海事組織五個委員會——海上安全委員會MSC、法律委員會LEG、海洋環(huán)境保護委員會MEPC、便利委員會FAL、技術(shù)合作委員會TC,啟動了對國際海事公約的梳理工作,其中以海上安全委員會和法律委員會主管的公約為主,重點針對《SOLAS公約》《避碰規(guī)則公約》《載重線公約》等公約展開。海上安全委員會(MSC)2019年9月16日發(fā)布了第102次會議的臨時議程,共有23項議程,其中第五項為海上水面自動船舶“Regulatory scoping exercise for the use of Maritime Autonomous Surface Ships(MASS)”使用的監(jiān)管范圍界定。在2020年5月舉行的會議議程上,海事安全委員會對以下內(nèi)容進行了討論:(1)監(jiān)管范圍界定工作的進展情況報告;(2)閉會期間自主船小組的工作報告;(3)會員國關(guān)于第二步所得結(jié)果的任何報告;(4)會員國和國際組織在本議程項目下提交的任何其他文件①。目前相關(guān)委員會完成了其主管公約和規(guī)則的立法范圍界定工作后將進入具體修正階段。

    法律委員會(LEG)關(guān)于自主船舶現(xiàn)階段工作主要關(guān)注于“監(jiān)管范圍確定與國際公約空缺分析”,并把這個項目作為兩年期的議題,預(yù)測在2022年完成。關(guān)于這個議題的工作程序,主要以海事安全委員會的工作方法為基礎(chǔ)加以調(diào)整。第一步,確認法律委員會規(guī)定的適用于自主船的條款,對于適用的條款(可能適用于船舶和在船舶上工作的人員的法規(guī)),評估它們可能包含的空缺和/或可能需要修改、澄清或以其他方式調(diào)整以適應(yīng)自主船的程度。第二步是在第一步完成的基礎(chǔ)上,對確定如何開展MASS船舶操作的最適當方法進行相關(guān)分析,使自主船符合法律委員會的規(guī)定。工作方法的第二步,主要提了四個階段,首先是分析自主船適用的最佳方法,這個階段主要是提了一些程序性的要求,例如必須是會員國才可以參與分析討論。到了評議階段,如果有成員國不同意上一階段得出的結(jié)論,則要給出新的合適的方案。接下來是評議考察與結(jié)果展示階段,每個成員國要對自己的提議進行解釋,根據(jù)智能船的不同類型進行細化規(guī)定,并向委員會提供總結(jié)性文件,最后進行最終審查②。這個階段的主體是法律委員會,由它來進行最后的審核并考慮一切的可能性。

    從IMO海上安全委員會進行的有關(guān)監(jiān)管范圍界定工作時間表(見表1)可以看出,國際海事組織應(yīng)對無人船航行規(guī)則的決心和應(yīng)對這項繁復(fù)的立法工作的科學(xué)合理的行動安排。

    表1 IMO海上安全委員會有關(guān)無人船航行規(guī)則監(jiān)管范圍界定工作時間表

    值得一提的是,法律委員會決定在研究期間主要把自主船分為兩類:船上有人的自主船與無人的自主船,而不是參照之前安全委員會說的劃分四個自動化級別,因為委員會認為細化的分級對監(jiān)管范圍和公約差別分析的研究影響不大,加上智能船處于初步發(fā)展階段,其實細化研究沒有必要,這一點是由中國在文件LEG 106/8/3中提出的。③

    2.技術(shù)與法律邏輯對接的成就與不足:國際海事組織立法評述

    無人船航行安全問題可以說是無人船應(yīng)用和發(fā)展的前提,因此無人船規(guī)制的法律是無人船法律體系中的重要內(nèi)容。國際海事組織成立自主船工作小組MASS,主要研究工作圍繞制定無人船試航指南、確定對無人船運營的監(jiān)管范圍、對于國際公約規(guī)制范圍的制定以及現(xiàn)有公約差距的分析,并倡導(dǎo)世界各國對此提出提案。在對現(xiàn)有相關(guān)公約適用于無人船的梳理過程中,這些提案的提出恰好是對把無人船的技術(shù)邏輯和法律領(lǐng)域的邏輯對接的探索和創(chuàng)新。

    例如,挪威提交關(guān)于SOLAS公約和ISM條款的審查建議:對于無人船適用的爭議點,有三種可能的解決方法。一是針對每一個無人船適用的法規(guī)進行相關(guān)的陳述(類似于司法解釋),二是出一本單行法規(guī)專門記錄無人船的強制性法規(guī),三是為無人船專門修改SOLAS第九章和ISM的相關(guān)條款。日本提交的關(guān)于SOLAS公約第六章的審查之初步審查結(jié)果顯示,有些規(guī)定需要進行人工操作。因此,應(yīng)采取適當?shù)奶娲园踩胧?,以實現(xiàn)現(xiàn)有法規(guī)所規(guī)定的功能。另一方面,也可以考慮根據(jù)另一理念來確保安全。在這種情況下,未來需要解決的問題之一是如何評估由于船上沒有人而減少的風險。芬蘭提交的對SOLAS公約第十一章“加強海上安全的特別措施”和國際船舶和港口設(shè)施保安規(guī)則(ISPS規(guī)則)的審查。專家組根據(jù)強制性的A部分對相關(guān)規(guī)范進行了評估。芬蘭預(yù)先假設(shè)SOLAS公約第XI-2/11條(替代安全協(xié)議)和第XI-2/12條(同等安全安排)將允許為無人駕駛船舶制定特殊的船上計劃和安排。芬蘭認為,重要的是確保SOLAS公約第XI-2章以及有關(guān)適用于傳統(tǒng)載人船舶的相關(guān)準則的完整性,并且不要在如何適用最初的要求上造成混淆??梢姡跓o人船國際規(guī)則的制定過程中,并沒有發(fā)生代碼與傳統(tǒng)法律的對抗、割裂,而是在探索一種彼此補充、完善的模式,最終形成一種互相融合的新型法律應(yīng)具有可行性,從目前國際海事組織及成員國應(yīng)對無人船發(fā)展的立法行動看,其走了一條開放、包容和創(chuàng)新的道路,對如何把無人船的技術(shù)邏輯和法律領(lǐng)域的邏輯對接進行了先行先試。

    然而,從國際海事組織擬對無人船規(guī)制的對象和方法看,國際社會目前對無人船規(guī)制的思路存在明顯的局限性。不足之處仍然在無人船的技術(shù)邏輯和法律領(lǐng)域的邏輯的銜接上受到束縛。以國際海事組織海事安全委員會在其第101次會議(2019年6月5日到14日舉行)上發(fā)布的《無人船試航指南(暫行)》為例。首先,該指南以保障無人船試航及其系統(tǒng)和基礎(chǔ)設(shè)施的安全和保護環(huán)境為目標,這無疑是正確的,但尚未突出人工智能時代海事監(jiān)管重心的變化。傳統(tǒng)海事監(jiān)管以海上交通安全為目標,海事部門監(jiān)管的重點是船舶、航道安全性能和船員安全駕駛技能,而在無人駕駛中,無人船的風險被認為來自復(fù)雜海況及設(shè)備故障等因素,避險保障和精確駕駛的軟硬件體系是海事管理的重點。其次,以人為“核心”的公約規(guī)則體系,已經(jīng)與無人船的發(fā)展不相適應(yīng)。指南明確了指導(dǎo)對象為無人船所在沿岸國、船旗國和港口國以及無人船的船東,操控者,試航相關(guān)人員,其法律規(guī)制還是以人為對象;指南中提供了十個類別的規(guī)制方向④,所強調(diào)的第三類“人員資格和工作人員”,以及無人船的界面要以人為中心來設(shè)計的第四類“人文情懷”等,忽略了人工無人船不僅是具有智慧性質(zhì)的運輸工具,還因其具備一定獨立自主地做出意思表示的能力而享有一定的法律人格,對于無人船法律規(guī)制而言,其欠缺了無人船本身這類重要的主體。同樣,在指南確定的十個類別規(guī)制方向中,第一類“風險控制”,第二類“對強制性法律的遵守”,第六類“試航(明示)表示”,仍反映出國際海事組織在倡導(dǎo)未來無人船法律規(guī)制的框架中,仍然沒有轉(zhuǎn)換以人為唯一規(guī)制對象的海事法律監(jiān)管模式。

    三、 基于技術(shù)與法律邏輯對接的無人船規(guī)制的價值導(dǎo)向

    國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》,提出了人工智能治理的框架和行動指南,強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八條原則。以下基于現(xiàn)行法的邏輯與未來法技術(shù)邏輯存在對接的正當性,分析無人船規(guī)制的基本原則的科學(xué)性與合理性。

    (一) 無人船治理的合法原則

    無人船的海事規(guī)則的立法目標,既需要制定一套規(guī)則系統(tǒng)來設(shè)定相關(guān)主體權(quán)利義務(wù)關(guān)系,同時也必須考慮這些規(guī)則及由其組成的治理體系是否滿足法治主義的基本要求。規(guī)則的建立應(yīng)當充分考慮規(guī)制的形式合法性、體系合法性和實質(zhì)合法性要求。形式合法性的本質(zhì)要求是法律規(guī)則之間的一致性,無人船海事管理規(guī)則的合法性:其一,應(yīng)取得與數(shù)據(jù)治理體系以及人工智能治理的“一致性”;如果突破形式合法性要求,就會突破法治的底線,造成對法治的破壞。其二,應(yīng)滿足體系合法性,所謂的體系合法性,主要是指與數(shù)據(jù)治理以及人工智能的整個法律體系應(yīng)當保持必要的一致性。在數(shù)據(jù)治理方面,我國第十三屆全國人大已經(jīng)對數(shù)據(jù)治理的一些重要立法做了規(guī)劃,包括個人信息保護、數(shù)據(jù)安全,還有民法典中的“人格權(quán)”編等?!缎乱淮斯ぶ悄苤卫碓瓌t——發(fā)展負責任的人工智能》為無人船海事立法所必須遵循的基本方向和原則。

    這就需要避免先行制定位階較低的規(guī)章和規(guī)范性文件帶來立法的“層級錯亂”問題。需要避免監(jiān)管機構(gòu)先于立法制訂一系列規(guī)則,如果需要進行試驗性的立法,需要取得立法機關(guān)的特別授權(quán)。關(guān)于無人船的海事管理,在法律還沒有出臺的情況下,管理的需求當然是一個需要考慮的現(xiàn)實問題,但如果僅僅只考慮眼前的管理需要而不考慮數(shù)據(jù)治理和人工智能立法的系統(tǒng)性,將會顧此失彼,在解決一些問題的同時也會制造新問題。

    (二) 以安全為核心的多元價值原則

    無人船國際海事規(guī)則的實質(zhì)合法性,體現(xiàn)為人工智能治理下國際海事規(guī)則的安全與秩序。人工智能法律既具有一般法價值的構(gòu)成要素,又體現(xiàn)著安全、創(chuàng)新、和諧等特殊法的價值內(nèi)容,以安全為核心的無人船規(guī)則將是未來國際海事規(guī)則設(shè)定的價值目標。未來國際海事規(guī)則的價值不僅是人類法律理想價值觀的追求,而且為無人船法律制度的演進提供目標指引和持續(xù)動力。

    法律應(yīng)當對智能無人系統(tǒng)的安全開發(fā)起引導(dǎo)作用。根據(jù)傳統(tǒng)觀念,法律具有滯后性,其只能被動應(yīng)對現(xiàn)實生活中已經(jīng)出現(xiàn)的問題。但對智能無人系統(tǒng)而言,如果等待其開發(fā)完畢再進行法律規(guī)制,不僅規(guī)制效果不佳,而且會使開發(fā)者承擔過高的開發(fā)成本。因此,我國應(yīng)當增加法律的能動性,通過直接對開發(fā)者的開發(fā)行為進行約束,提高算法的可追溯性,同時明確開發(fā)者的嚴格產(chǎn)品責任,引導(dǎo)其在算法設(shè)計時著重考量算法的可控性,進而提高智能無人系統(tǒng)產(chǎn)品的安全性,避免產(chǎn)品損害風險的發(fā)生。

    人工智能治理下的國際海事法安全與秩序價值的實現(xiàn),根據(jù)數(shù)據(jù)治理和人工智能的風險性質(zhì)與特征,可從算法、數(shù)據(jù)和應(yīng)用等方面來規(guī)制無人船的風險。無人船自主航行的安全監(jiān)管,靜態(tài)方面可以通過通信技術(shù),互聯(lián)網(wǎng)將船舶安全航行的規(guī)則代碼集成到升級的電子基礎(chǔ)設(shè)施中,在船舶自主航行的過程中實施自動導(dǎo)航、自診斷、預(yù)測和運行調(diào)度的法律規(guī)制。動態(tài)方面,可以通過導(dǎo)航傳感器搭載來自海事監(jiān)管機構(gòu)的微指令的信息,或規(guī)避風險的任務(wù)模塊,向船舶自動駕駛系統(tǒng)輸入智能海事執(zhí)法數(shù)據(jù),讓算法采取所需的行政執(zhí)法行動,實時調(diào)控無人船的安全通行,此處就具體體現(xiàn)出法律馴服或規(guī)制代碼的關(guān)系。

    此外,對無人船規(guī)則安全價值的實現(xiàn),還需要增強責任監(jiān)管,建立無人船研發(fā)者、使用者及其他相關(guān)方的責任制度和問責機制的同時,建立給無人船賦予擬制人格權(quán)及歸責制度。籍此建立對無人船航運產(chǎn)業(yè)發(fā)展帶來的長期和間接的倫理風險管控,建立自主航行船舶對社會產(chǎn)生遠期發(fā)展的風險,如對既有的就業(yè)、市場競爭秩序、產(chǎn)權(quán)等法律制度的挑戰(zhàn),甚至生產(chǎn)方式的根本變革的實質(zhì)合法性規(guī)制。

    (三) 以技術(shù)和法律為主導(dǎo)的風險控制原則

    智能技術(shù)的“核爆炸”,既對社會經(jīng)濟帶來變革性的影響,也會產(chǎn)生技術(shù)性風險,即“人類在利用技術(shù)時違背技術(shù)自身規(guī)律而產(chǎn)生的社會風險”。人工智能時代的風險防范和治理,可采取技術(shù)控制與法律控制的綜合治理機制。法律控制是風險治理機制的重要手段,立法者必須重視控制風險功能的法治化。技術(shù)控制是風險治理機制的重要措施:技術(shù)規(guī)制表現(xiàn)為法律規(guī)范、政策規(guī)定和倫理規(guī)則等。防范人工智能的技術(shù)性風險,不僅涉及強化法律規(guī)制的傳統(tǒng)制度改造,而且要求建立以社會監(jiān)管為重要內(nèi)容的政策體系,同時形成以全面理性為基本內(nèi)涵的風險控制機制。

    四、 人工智能法律治理與國際海事技術(shù)規(guī)制的對接

    隨著智能航運的發(fā)展,未來國際海事公約、國內(nèi)法對船舶和海上安全的法律規(guī)制,將面臨從傳統(tǒng)的船舶建造、船舶登記、船舶配員、現(xiàn)場監(jiān)管、危險品管理和防污染等方面,轉(zhuǎn)向應(yīng)對無人船技術(shù)伴隨的風險、大數(shù)據(jù)和人工智能新型風險的防控。首先需要建構(gòu)以下無人船海事管理法律規(guī)制的若干基礎(chǔ)問題路徑:

    (一) 無人船運營主體的權(quán)利界定

    無人船海事規(guī)制的對象包括自然人、無人船運營平臺、網(wǎng)絡(luò)經(jīng)營者、數(shù)據(jù)控制者。從數(shù)據(jù)治理的視角下,不同主體在法律上擁有各自的權(quán)利、義務(wù)。自主航行船舶相關(guān)主體之間的權(quán)利邊界應(yīng)如何設(shè)定,一方面取決于無人船自主系統(tǒng)的運行,另一方面取決于人工智能治理對無人船法律人格屬性的界定,這是從人工智能的技術(shù)規(guī)制和人工智能治理的法律規(guī)制兩個途徑出發(fā)的基礎(chǔ)建構(gòu)。

    從自主船舶智能系統(tǒng)運行功能的三種模式分析:1.船端統(tǒng)一集成平臺,實現(xiàn)船端各系統(tǒng)的互聯(lián)互通,通過數(shù)據(jù)的綜合分析和評估,提供輔助決策功能,同時通過船岸通訊實現(xiàn)遠程監(jiān)測;2.船舶實現(xiàn)自主學(xué)習(xí)能力,并可完成部分的自主操作,通過加強岸端系統(tǒng)的建設(shè)實現(xiàn)對船舶的遠程控制;3.通過船岸港的一體智能化建設(shè),船舶實現(xiàn)最終的無人駕駛,自主航行、自主靠港。傳統(tǒng)海事管理通過管理船長、船員實施對船舶運行安全的管理,無人船時代海事規(guī)制將聚焦于船舶和岸基自動控制系統(tǒng)的設(shè)計、制造和操作者身上,厘清各類主體之間對船舶操縱的權(quán)利,在此基礎(chǔ)上明確各主體作為未來海事管理對象及所承擔的責任。

    自主船舶經(jīng)營的多種主體的行為可歸結(jié)于遠程操作員,其權(quán)利的界定需要確定其與傳統(tǒng)船員職責的關(guān)系:操縱導(dǎo)航系統(tǒng)并確保船舶穩(wěn)定航行的遠程操作員與航行中的船舶有著根本的聯(lián)系。只要遠程操作員負責在合理的時間段內(nèi)管理特定船只或船隊,他們就可以滿足基本的連接測試。在這種情況下,管理者強調(diào)船員身份的中心原則是“與航行中的船舶相關(guān)的就業(yè)聯(lián)系?!睆恼叩慕嵌葋砜?,授予遠程操作員船員身份的意義:遠程操作員將承擔船員的一般職責,以確保船舶及其貨物的安全,并避免船舶直接的損壞或損毀。如果遠程操作員不是船員,那么他們及身后的各類主體是否應(yīng)遵守海事管理所賦予的相應(yīng)職責和規(guī)則?關(guān)于無人駕駛船的遠程操作者的地位將是一個新的法律問題,它不僅可能導(dǎo)致對岸基船員和船員的性質(zhì)重新概念化,而且監(jiān)管者可以確定是否以對船員的管理來確定遠程操作員的責任,以及遠程操作員所代表的平臺、網(wǎng)絡(luò)經(jīng)營者、數(shù)據(jù)控制者等主體。

    (二) 無人船自身的權(quán)利屬性界定

    界定無人船權(quán)利屬性的法理基礎(chǔ)源于現(xiàn)行法律對于機器人的權(quán)利主體地位持開放態(tài)度,既然物種差異構(gòu)成法定權(quán)利的技術(shù)性難題被否定[4],無人船法律人格的擬制為了實現(xiàn)法律背后的制度目的而作出的一種決斷性的虛構(gòu)。這與對傳統(tǒng)意義上純粹作為運輸工具的存在,以船舶具有名稱、性別、國籍、船齡以及被扣押和釋放所做的擬人化具有本質(zhì)的提升。因為自主航行船舶在人工智能作用下將自主完成國際海事法律體系對船舶安全規(guī)制下的基本功能,不再追問無人船是否存在意識,而是強制性地達成智能船(無人船)被擬制的屬人性,擁有權(quán)利主體資格的基本共識;接受智能船本身作為海事法律規(guī)則主體的一種方式,并保證人們按照對待同類的方式處理人機關(guān)系。是在無人船社會化應(yīng)用尚未真正實現(xiàn)之前,法律僅允許智能船權(quán)利的必要、有益的擬制。

    無人船利他主義的權(quán)利屬性體現(xiàn)在航運成本的節(jié)約、更加安全和環(huán)保,這種權(quán)利屬性既是人類應(yīng)自身發(fā)展需求而賦予無人船的擬制權(quán)利,同時也是無人船利他功能的法律表征。1.基于無人船的功能屬性,國際海事法律對無人船的監(jiān)管具有管轄權(quán)的依據(jù)。2.無人船對數(shù)據(jù)資源的共享權(quán)利,將成為未來國際海事組織開展對無人船法律體系建構(gòu)的基石。隨著智能船社會化應(yīng)用的推廣,國際組織和各國政府在大數(shù)據(jù)、航海算法技術(shù)等維護無人船必須的基本權(quán)利方面,依法建立無人船數(shù)據(jù)資源社會共享公開等級制度。3.基于無人船功能約束的自由權(quán),獲得法律救濟的權(quán)利等,無人船能夠獲得法律救濟的權(quán)利,才能真正落實其他權(quán)利的無人船保險機制,并對隨著無人船應(yīng)用而產(chǎn)生的基于網(wǎng)絡(luò)侵權(quán)行為進行控制。4.對無人船航行權(quán)的約束機制,例如,在IMO框架構(gòu)建內(nèi)建立緊急情況下獲取自主船的操控權(quán)限的規(guī)則。

    此外,無人船權(quán)利屬性的界定,為建立無人船航行許可制度,或無人船適航性標準認定制度,無人船操控人員資質(zhì)制度等規(guī)制建立了基礎(chǔ)。無人船的準入資格,不再是代表船員駕駛技術(shù)的培訓(xùn)值班考試的管理,而是無人船的智能化水平。無人船經(jīng)營必須要獲得行政許可、獲得資質(zhì);報備模型參數(shù)、實現(xiàn)算法透明和算法可解釋性;制定應(yīng)急預(yù)案、適時人工干預(yù)[5]。解決了隨著無人船時代船員概念的消失,法律規(guī)制的對象不再是船員、船舶,而是直接規(guī)制無人船智能駕駛系統(tǒng)規(guī)則的開發(fā)者、制造者[6]。

    (三) 無人船法律責任基礎(chǔ)的重構(gòu)

    在未來的海事法律體系中,以過錯責任為基礎(chǔ)建立的風險分配責任體系將不復(fù)存在。對于海上交通事故的認定,其歸責事由只有結(jié)果的對與錯,而無主觀上的故意或過失。無人船將徹底改變現(xiàn)有以“視覺、聽覺”為主的瞭望方式,比如,兩船計算機系統(tǒng)交互信息、人員通信等都可以證明操控系統(tǒng)或岸基人員實施了正規(guī)瞭望。無人船的責任承擔完全依賴于智能設(shè)備搜集、分析、處理信息并據(jù)此做出航行決斷的行為是否滿足《避碰規(guī)則》的要求,傳統(tǒng)意義上的瞭望職責將全部或部分轉(zhuǎn)移給智能設(shè)備。岸基人員的操作依賴于船舶狀況的實時數(shù)據(jù),主要由視頻圖像、電子海圖和雷達提供形成的人機協(xié)作。無人駕駛對安全的潛在影響取決于運營商為其負責的船舶提供的態(tài)勢感知系統(tǒng)。同時,海事監(jiān)管重心從船舶、航道安全性能和船員安全駕駛技能,轉(zhuǎn)化到智能駕駛中,避險保障和精確駕駛的軟硬件體系。由上述原因?qū)е碌臒o人船海上交通責任事故,可采用傳統(tǒng)的產(chǎn)品責任規(guī)則體系。

    以上情形必須在產(chǎn)品責任可追蹤的情形下。在無人船航運中大量存在的情形是,隨著自主船舶智能等級的提高,智能程序在無人駕駛中占據(jù)的地位將越來越大,如果是程序的錯誤或延遲引起的海上責任事故,程序的開發(fā)者是共同的主體,甚至程序的產(chǎn)生可能無法追蹤到某個具體的個人或組織時,產(chǎn)品責任規(guī)則就無法適用。尤其是無人船具有一定的思考能力之后,法律在賦予無人船一定的權(quán)利基礎(chǔ)上,有必要為自主航行船舶設(shè)定一定的責任。

    (四) 無人船網(wǎng)絡(luò)安全風險的控制

    通過互聯(lián)網(wǎng)進行攻擊,危及海上和海上作業(yè)將是海事界最熱門的話題之一,它將成為自主航運貿(mào)易的一個重要組成部分。對完全無人的自主航行船舶,犯罪分子更有便利通過操縱數(shù)據(jù)控制甚至占用船舶,使航運業(yè)務(wù)面臨更大的風險。海事界在私人組織的基礎(chǔ)上采取了預(yù)防措施來對付這些網(wǎng)絡(luò)威脅。國際海事組織已經(jīng)介紹了如何處理網(wǎng)絡(luò)安全的五個要素。聯(lián)合國貿(mào)發(fā)會議秘書處2017年提出了為克服對船舶、公司和港口日益增加的威脅而建議的步驟,即:識別—保護—檢測—回答—恢復(fù)。

    與電子導(dǎo)航相關(guān)的法規(guī)將來可能會作為現(xiàn)有法規(guī)的新法規(guī)或補充而生效。對網(wǎng)絡(luò)的風險防范和治理,可采取技術(shù)控制與法律控制的綜合治理機制,法律控制是風險治理機制的重要手段,技術(shù)控制是風險治理機制的重要措施。技術(shù)規(guī)制表現(xiàn)為法律規(guī)范、政策規(guī)定和倫理規(guī)則等風險社會理論指引下的技術(shù)規(guī)則,其風險規(guī)避的主要路徑是事先預(yù)防而不是事后補救[7]。

    (五) 智慧海事職能行政執(zhí)法的推進

    伴隨人工智能應(yīng)用的擴大,人類對相關(guān)社會領(lǐng)域的監(jiān)管和控制能力也可逐步被替代。未來科技將允許機器替代行政機關(guān)工作人員作業(yè),機器全自動處理意味著模塊或程式化,以此提高行政效率和降低成本。我國當前的AIS岸基網(wǎng)絡(luò)發(fā)揮著良好的海事執(zhí)法功能,諸如,對覆蓋范圍的船舶自動或半自動播發(fā)航警、水文氣象、航標等助航安全信息;通過VTS重放事故發(fā)生時的船舶的AIS數(shù)據(jù),可以清楚地顯示碰撞發(fā)生時各船的動態(tài)情況;海事事故的現(xiàn)場在AIS網(wǎng)絡(luò)的覆蓋區(qū)之內(nèi),AIS可以記錄海事事故的全過程;AIS的數(shù)據(jù)重放功能還可用于追查肇事逃逸船舶[8]。隨著無人船航運的發(fā)展,海事行政面臨向完全智能行政行為轉(zhuǎn)變的條件更加成熟,以人工智能執(zhí)法系統(tǒng)對人工無人船進行海事智能管理,可根據(jù)無人船不配備船員這一特點的需要,更新船舶安全相應(yīng)流程,搭載相應(yīng)任務(wù)模塊自動或者人工遙控的模式完成特定工作目的,如推進無人化現(xiàn)場監(jiān)管模式完善,以及船艇完成海事監(jiān)管和救助、航道測繪、高海況下的巡邏、航行監(jiān)控(晝夜)、事故取證、危險貨物應(yīng)急及防污染處理等工作。

    在海事執(zhí)法領(lǐng)域,隨著智能航運發(fā)展智能執(zhí)法的普及。全自動行政導(dǎo)致具體行政行為成立要件中行政主體的意思表示的缺失,大量行政法上的程序權(quán)利被自動化決策所架空,這需要加強自動化決策方面的行政立法,要求行政機關(guān)考慮自動程序之外對個案相對人重要的事實狀況,以實現(xiàn)人工智能的運用和公民權(quán)利保護的平衡[5]。

    五、 結(jié) 語

    人工智能治理的研究在我國剛好搭建了基本的框架,具體治理制度的構(gòu)建面對各行業(yè)的場景遭遇了法律制度不能識別其內(nèi)部的代碼、算法運行的黑箱。而國際航運領(lǐng)域中自主駕駛船舶的應(yīng)用將挑戰(zhàn)百年的國際航運規(guī)則體系,這表現(xiàn)在從國際海事組織針對現(xiàn)行公約內(nèi)容對自主船舶的適應(yīng)性梳理,到學(xué)界用對常規(guī)船舶的海事規(guī)制理論和實踐來研究自主航行船舶未來的規(guī)則制度。筆者認為,這注定需要將二者統(tǒng)一到一個共同的話語體系下,運用一種超越現(xiàn)實法律的理論和方法進行研究范式的創(chuàng)新嘗試,就是站到未來法的場景下思考人工智能將如何引領(lǐng)一個行業(yè)的規(guī)則體系變革。

    智能航運秩序的構(gòu)建,應(yīng)該在現(xiàn)有理論和實踐基礎(chǔ)上,以符合未來法倫理和正義的導(dǎo)向,來構(gòu)建未來國際海事法律秩序的新圖景。對于我國智能航運的法律規(guī)制而言,其屬于智能科技時代的法律,對無人船的海事規(guī)制切不可掉入“正確但低效”的陷阱。在建立無人船海事管理法律規(guī)制的過程中,我國法律對人工智能的海事運用應(yīng)當持開放的態(tài)度。強監(jiān)管模式的法律體系很難孕育出新技術(shù),適度寬松的法律環(huán)境有利于新技術(shù)的發(fā)展。人工智能引領(lǐng)下國際海事規(guī)則需要從管理觀念、管理方法、管理目標進行轉(zhuǎn)變。基于無人船海事規(guī)制的安全和秩序的構(gòu)建,包括以硬件為主的規(guī)定性規(guī)則、經(jīng)驗型規(guī)范、標準向基于經(jīng)驗及數(shù)字技術(shù)、智能技術(shù)的規(guī)范標準進行轉(zhuǎn)變,即技術(shù)規(guī)則加法律規(guī)則的同時向未來法治進行轉(zhuǎn)變。同時重視高科技帶來的新型風險,人工智能治理面臨的風險也絕非在現(xiàn)有的法律規(guī)則體系下所能解決,正確的進路是在未來法學(xué)的發(fā)展趨勢和基本框架下,結(jié)合人工智能具體應(yīng)用場景的行業(yè)技術(shù)和法律規(guī)則來建構(gòu)。

    注釋:

    ① 參見MSC 102-1 PROVISIONAL AGENDA,https://docs.imo.org/Documents/Detail.aspx?did=118183 最后訪問日期2019年10月1日。

    ② 參見LEG 106-8 Regulatory scoping excise and gap analysis of convention emanating from the legal committee with respect to maritime autonomous surface ship(MASS) https://docs.imo.org/Documents/Detail.aspx?did=114314 最后訪問日期2019年10月2日。

    ③ 參見MSC 101-5-3 Proposals on key aspects of the interim guidelines for MASS trials submitted by China https://docs.imo.org/Documents/Detail.aspx?did=116083 最后訪問日期 2019年10月1日。

    ④ MSC101/INF.17 Draft Interim guidelines for MASS trials https://docs.imo.org/Documents/Detail.aspx?did=115982最后訪問日期 2019年10月1日。

    猜你喜歡
    海事航行規(guī)制
    信息精要與海事掃描
    信息精要與海事掃描
    到慧骃國的航行
    主動退市規(guī)制的德國經(jīng)驗與啟示
    信息精要與海事掃描
    信息精要與海事掃描
    論我國民間借貸法律規(guī)制的發(fā)展和完善——從抑制性規(guī)制到激勵性規(guī)制
    保護與規(guī)制:關(guān)于文學(xué)的刑法
    小舟在河上航行
    航行
    91在线精品国自产拍蜜月 | 国产老妇女一区| 亚洲精品在线观看二区| 黄色视频,在线免费观看| 麻豆成人午夜福利视频| 无人区码免费观看不卡| 国产在视频线在精品| 好看av亚洲va欧美ⅴa在| 亚洲国产高清在线一区二区三| 日本与韩国留学比较| 亚洲精品国产精品久久久不卡| 亚洲五月婷婷丁香| 尤物成人国产欧美一区二区三区| 欧美+日韩+精品| 神马国产精品三级电影在线观看| 天堂√8在线中文| 性色avwww在线观看| 亚洲不卡免费看| 亚洲va日本ⅴa欧美va伊人久久| 亚洲真实伦在线观看| 亚洲av日韩精品久久久久久密| 国产欧美日韩一区二区精品| 亚洲人成网站高清观看| 在线天堂最新版资源| 国产精品久久久久久精品电影| 一个人免费在线观看电影| 很黄的视频免费| 免费一级毛片在线播放高清视频| 国产精品久久久久久亚洲av鲁大| 99国产综合亚洲精品| 免费在线观看亚洲国产| 国产亚洲精品综合一区在线观看| 嫩草影视91久久| 19禁男女啪啪无遮挡网站| 日韩亚洲欧美综合| 国产激情偷乱视频一区二区| av天堂在线播放| 国产亚洲欧美在线一区二区| 在线看三级毛片| 波多野结衣巨乳人妻| 又粗又爽又猛毛片免费看| 国产av不卡久久| 久久久色成人| 中文字幕高清在线视频| 日韩成人在线观看一区二区三区| 91久久精品国产一区二区成人 | 日韩免费av在线播放| 国产av不卡久久| 欧美色视频一区免费| 精品一区二区三区av网在线观看| 国产高潮美女av| 天堂动漫精品| 国产成人av教育| 免费一级毛片在线播放高清视频| 男人舔奶头视频| 中文字幕人妻丝袜一区二区| 免费观看的影片在线观看| 欧美大码av| 精品免费久久久久久久清纯| 性色av乱码一区二区三区2| 夜夜爽天天搞| 美女cb高潮喷水在线观看| bbb黄色大片| 国产69精品久久久久777片| 色av中文字幕| 中文字幕人妻熟人妻熟丝袜美 | 88av欧美| 国内毛片毛片毛片毛片毛片| 欧美在线一区亚洲| 在线观看免费午夜福利视频| 国产v大片淫在线免费观看| 中文字幕久久专区| 伊人久久精品亚洲午夜| 色哟哟哟哟哟哟| 3wmmmm亚洲av在线观看| 亚洲精品久久国产高清桃花| 一级毛片女人18水好多| 女人高潮潮喷娇喘18禁视频| 啪啪无遮挡十八禁网站| 怎么达到女性高潮| 久久人人精品亚洲av| 免费看美女性在线毛片视频| 成人18禁在线播放| 两个人的视频大全免费| a级毛片a级免费在线| 国内精品久久久久久久电影| 国产精品一区二区三区四区免费观看 | 性色avwww在线观看| 国产色爽女视频免费观看| 欧美日韩黄片免| 国产欧美日韩精品亚洲av| 别揉我奶头~嗯~啊~动态视频| 免费在线观看日本一区| 成人国产综合亚洲| 日本黄色视频三级网站网址| 成人特级黄色片久久久久久久| 亚洲 国产 在线| 国产爱豆传媒在线观看| 最新中文字幕久久久久| 国产三级黄色录像| 亚洲欧美一区二区三区黑人| 国产亚洲精品久久久com| 欧美3d第一页| 国内久久婷婷六月综合欲色啪| 中文在线观看免费www的网站| 免费一级毛片在线播放高清视频| 757午夜福利合集在线观看| 国产极品精品免费视频能看的| 欧美在线黄色| 男女视频在线观看网站免费| 看免费av毛片| 国产真人三级小视频在线观看| 色播亚洲综合网| www.熟女人妻精品国产| 国产免费一级a男人的天堂| 欧美日韩中文字幕国产精品一区二区三区| 午夜福利成人在线免费观看| 国产老妇女一区| 国产国拍精品亚洲av在线观看 | 国产99白浆流出| 国产亚洲欧美在线一区二区| 99热这里只有精品一区| 91久久精品电影网| 亚洲国产精品成人综合色| 天堂影院成人在线观看| 亚洲 国产 在线| 在线观看美女被高潮喷水网站 | 国产av麻豆久久久久久久| 成人国产一区最新在线观看| 制服丝袜大香蕉在线| 欧美极品一区二区三区四区| 国产高潮美女av| av在线天堂中文字幕| 欧美极品一区二区三区四区| 老熟妇仑乱视频hdxx| 欧美一区二区亚洲| 黑人欧美特级aaaaaa片| 久久人人精品亚洲av| 免费搜索国产男女视频| a级一级毛片免费在线观看| 欧美日本亚洲视频在线播放| 俺也久久电影网| 成人一区二区视频在线观看| 国产一区二区在线观看日韩 | 欧美不卡视频在线免费观看| 国产一区二区激情短视频| xxxwww97欧美| 亚洲中文字幕日韩| 叶爱在线成人免费视频播放| 黑人欧美特级aaaaaa片| 欧美av亚洲av综合av国产av| 男人和女人高潮做爰伦理| 免费av观看视频| 美女免费视频网站| 一区二区三区免费毛片| 欧美日本视频| 18禁国产床啪视频网站| 美女 人体艺术 gogo| 免费看光身美女| 高清日韩中文字幕在线| 亚洲成a人片在线一区二区| 99久久九九国产精品国产免费| 香蕉av资源在线| 亚洲成人久久爱视频| 久久精品亚洲精品国产色婷小说| 深夜精品福利| 亚洲成a人片在线一区二区| 亚洲av二区三区四区| 国产高清视频在线观看网站| 99久国产av精品| 亚洲人成网站在线播放欧美日韩| 18禁在线播放成人免费| 国产精品一区二区免费欧美| 欧美在线黄色| 狂野欧美白嫩少妇大欣赏| 欧美精品啪啪一区二区三区| 国产精品三级大全| 欧洲精品卡2卡3卡4卡5卡区| 最好的美女福利视频网| 成年人黄色毛片网站| 国产午夜精品论理片| 亚洲成人精品中文字幕电影| av女优亚洲男人天堂| 国产成+人综合+亚洲专区| 国产欧美日韩一区二区三| 三级毛片av免费| 国内精品一区二区在线观看| 琪琪午夜伦伦电影理论片6080| 中出人妻视频一区二区| 久久精品人妻少妇| 99riav亚洲国产免费| 亚洲国产中文字幕在线视频| 亚洲无线观看免费| 亚洲成人久久性| 国产精品久久久久久精品电影| 啪啪无遮挡十八禁网站| 女人被狂操c到高潮| 亚洲一区二区三区不卡视频| 老熟妇仑乱视频hdxx| 黄片小视频在线播放| 毛片女人毛片| 黑人欧美特级aaaaaa片| 日韩精品中文字幕看吧| 久久精品人妻少妇| 国产三级黄色录像| 久99久视频精品免费| a级一级毛片免费在线观看| 欧美+亚洲+日韩+国产| 亚洲精品美女久久久久99蜜臀| 日韩亚洲欧美综合| 99热这里只有是精品50| 岛国在线观看网站| 亚洲乱码一区二区免费版| 亚洲性夜色夜夜综合| 18美女黄网站色大片免费观看| 高清在线国产一区| 又黄又爽又免费观看的视频| 亚洲真实伦在线观看| 最近视频中文字幕2019在线8| 久久九九热精品免费| 高潮久久久久久久久久久不卡| 国产午夜福利久久久久久| 国产主播在线观看一区二区| 欧美成人一区二区免费高清观看| 99久久综合精品五月天人人| 亚洲国产精品合色在线| av中文乱码字幕在线| 欧美性猛交╳xxx乱大交人| 在线观看日韩欧美| 两个人看的免费小视频| 色哟哟哟哟哟哟| 欧美性猛交黑人性爽| 一级黄片播放器| 国产亚洲精品av在线| 女人高潮潮喷娇喘18禁视频| 免费看美女性在线毛片视频| www国产在线视频色| 99久久九九国产精品国产免费| 757午夜福利合集在线观看| 午夜a级毛片| 在线观看午夜福利视频| 真实男女啪啪啪动态图| 一区二区三区激情视频| 中文字幕人妻丝袜一区二区| 黄色片一级片一级黄色片| 日韩国内少妇激情av| 人人妻,人人澡人人爽秒播| 狠狠狠狠99中文字幕| 蜜桃久久精品国产亚洲av| 亚洲电影在线观看av| 国产一区二区在线av高清观看| 久99久视频精品免费| 在线播放无遮挡| 亚洲国产精品sss在线观看| 男女视频在线观看网站免费| 法律面前人人平等表现在哪些方面| 国产免费男女视频| eeuss影院久久| 中亚洲国语对白在线视频| 国产 一区 欧美 日韩| 两个人的视频大全免费| 欧美性猛交黑人性爽| 两人在一起打扑克的视频| 一个人看视频在线观看www免费 | 亚洲av电影不卡..在线观看| 一级黄色大片毛片| 最新中文字幕久久久久| 最后的刺客免费高清国语| 怎么达到女性高潮| 九九在线视频观看精品| 久久香蕉国产精品| 国产视频内射| 老熟妇乱子伦视频在线观看| 午夜福利高清视频| 久久精品综合一区二区三区| 欧美丝袜亚洲另类 | 成人av在线播放网站| 欧美日韩国产亚洲二区| 女人高潮潮喷娇喘18禁视频| 国产精品免费一区二区三区在线| 真人一进一出gif抽搐免费| 99久久成人亚洲精品观看| 国产毛片a区久久久久| 久久精品国产清高在天天线| 欧美成人一区二区免费高清观看| 日日夜夜操网爽| 人妻夜夜爽99麻豆av| 噜噜噜噜噜久久久久久91| 精品午夜福利视频在线观看一区| 国产午夜精品论理片| www.色视频.com| 别揉我奶头~嗯~啊~动态视频| 欧美+日韩+精品| eeuss影院久久| 久久九九热精品免费| 91九色精品人成在线观看| 国产男靠女视频免费网站| 亚洲aⅴ乱码一区二区在线播放| 亚洲天堂国产精品一区在线| 亚洲成人久久性| 免费看美女性在线毛片视频| 成人18禁在线播放| 老熟妇仑乱视频hdxx| 亚洲狠狠婷婷综合久久图片| 三级毛片av免费| 麻豆一二三区av精品| 91av网一区二区| 日本一二三区视频观看| 午夜视频国产福利| eeuss影院久久| 久久性视频一级片| 小蜜桃在线观看免费完整版高清| 美女大奶头视频| www.www免费av| 天堂av国产一区二区熟女人妻| 国产成人系列免费观看| 十八禁人妻一区二区| 中文在线观看免费www的网站| 成人国产一区最新在线观看| 91久久精品国产一区二区成人 | 好男人电影高清在线观看| 18禁美女被吸乳视频| 久久人妻av系列| 欧美又色又爽又黄视频| 欧美zozozo另类| 亚洲国产精品久久男人天堂| 我的老师免费观看完整版| 18美女黄网站色大片免费观看| 国产欧美日韩精品一区二区| 国产高清视频在线播放一区| 午夜亚洲福利在线播放| 日韩欧美国产在线观看| 97碰自拍视频| 啪啪无遮挡十八禁网站| a级一级毛片免费在线观看| 老熟妇仑乱视频hdxx| 欧美激情在线99| 亚洲欧美日韩高清在线视频| 国产三级在线视频| 欧美成人一区二区免费高清观看| 国产伦精品一区二区三区四那| 美女免费视频网站| 国产精品久久久久久人妻精品电影| 怎么达到女性高潮| 搡老岳熟女国产| av女优亚洲男人天堂| 亚洲最大成人中文| 久久精品影院6| 人妻久久中文字幕网| 少妇熟女aⅴ在线视频| 男女床上黄色一级片免费看| 久久精品国产99精品国产亚洲性色| 岛国在线观看网站| 国产av不卡久久| 精品久久久久久成人av| 精品电影一区二区在线| 天天添夜夜摸| 最近最新中文字幕大全电影3| 人人妻人人澡欧美一区二区| 嫁个100分男人电影在线观看| 9191精品国产免费久久| 99久久精品热视频| 在线看三级毛片| 国产午夜福利久久久久久| 国产黄色小视频在线观看| 校园春色视频在线观看| 好男人电影高清在线观看| 国模一区二区三区四区视频| netflix在线观看网站| 美女高潮喷水抽搐中文字幕| 成年免费大片在线观看| 日本黄色视频三级网站网址| 欧美性感艳星| 淫妇啪啪啪对白视频| 成人三级黄色视频| 久久久国产成人免费| 日韩精品中文字幕看吧| 麻豆国产97在线/欧美| 国产久久久一区二区三区| 亚洲精品亚洲一区二区| 嫩草影院入口| 高清在线国产一区| 久久久久亚洲av毛片大全| 高清毛片免费观看视频网站| 国产亚洲精品av在线| 99精品欧美一区二区三区四区| 51国产日韩欧美| 黄色日韩在线| 黄色视频,在线免费观看| 国产成人av激情在线播放| 国产一区在线观看成人免费| 一本一本综合久久| 久久久久国产精品人妻aⅴ院| 成人特级av手机在线观看| 久久久久精品国产欧美久久久| 欧美又色又爽又黄视频| 一本一本综合久久| 中文亚洲av片在线观看爽| 丝袜美腿在线中文| 欧美日韩国产亚洲二区| 国产亚洲欧美在线一区二区| 国产又黄又爽又无遮挡在线| 男人舔女人下体高潮全视频| 精品午夜福利视频在线观看一区| 亚洲国产精品999在线| 国产69精品久久久久777片| 午夜免费成人在线视频| 午夜激情福利司机影院| 伊人久久大香线蕉亚洲五| 国产淫片久久久久久久久 | 成人国产综合亚洲| av视频在线观看入口| 久久精品国产亚洲av涩爱 | 狠狠狠狠99中文字幕| 久久精品国产亚洲av涩爱 | 亚洲欧美日韩卡通动漫| 久久久久免费精品人妻一区二区| 国产黄a三级三级三级人| 尤物成人国产欧美一区二区三区| 欧美在线黄色| 色视频www国产| 国产高潮美女av| 久久久久九九精品影院| 国产精品野战在线观看| 午夜免费观看网址| 99久久综合精品五月天人人| 午夜福利在线在线| 最近在线观看免费完整版| 免费无遮挡裸体视频| 亚洲狠狠婷婷综合久久图片| 夜夜躁狠狠躁天天躁| 婷婷六月久久综合丁香| 国产亚洲欧美98| 国产高清视频在线播放一区| 一边摸一边抽搐一进一小说| 老司机深夜福利视频在线观看| 久久久久久久午夜电影| 少妇的丰满在线观看| 亚洲 国产 在线| 亚洲成av人片免费观看| 久久国产精品影院| 69av精品久久久久久| 好看av亚洲va欧美ⅴa在| 女生性感内裤真人,穿戴方法视频| 别揉我奶头~嗯~啊~动态视频| 五月伊人婷婷丁香| 男人的好看免费观看在线视频| 国产乱人伦免费视频| 欧美日韩乱码在线| 久久精品国产综合久久久| 亚洲精品美女久久久久99蜜臀| 黄色丝袜av网址大全| 久久精品人妻少妇| 欧美日韩福利视频一区二区| 一个人看的www免费观看视频| 少妇裸体淫交视频免费看高清| 99久久99久久久精品蜜桃| 国产成人福利小说| 淫妇啪啪啪对白视频| 国产私拍福利视频在线观看| 亚洲av不卡在线观看| 日韩成人在线观看一区二区三区| 美女被艹到高潮喷水动态| 宅男免费午夜| 亚洲第一电影网av| 亚洲美女黄片视频| 非洲黑人性xxxx精品又粗又长| 悠悠久久av| 成年人黄色毛片网站| 国产极品精品免费视频能看的| 性色avwww在线观看| 国产精品99久久99久久久不卡| 日日干狠狠操夜夜爽| 亚洲无线观看免费| 亚洲无线在线观看| 在线播放国产精品三级| 国产一区在线观看成人免费| www国产在线视频色| 少妇人妻一区二区三区视频| 国产中年淑女户外野战色| 一区二区三区高清视频在线| 欧美色视频一区免费| 精品国产亚洲在线| 亚洲精品影视一区二区三区av| 久久久久国产精品人妻aⅴ院| 精品免费久久久久久久清纯| 特级一级黄色大片| 观看美女的网站| 免费在线观看日本一区| 深夜精品福利| 久久久精品大字幕| 亚洲,欧美精品.| 欧美大码av| 久久精品国产亚洲av香蕉五月| 两人在一起打扑克的视频| 久久欧美精品欧美久久欧美| 狂野欧美白嫩少妇大欣赏| 好男人电影高清在线观看| 热99re8久久精品国产| 成年版毛片免费区| 久久6这里有精品| 婷婷亚洲欧美| 免费搜索国产男女视频| 欧美日韩精品网址| 啪啪无遮挡十八禁网站| 亚洲av二区三区四区| 99国产综合亚洲精品| 国产精品野战在线观看| 久久精品综合一区二区三区| 99久久精品一区二区三区| АⅤ资源中文在线天堂| 欧美一级a爱片免费观看看| 亚洲,欧美精品.| 黑人欧美特级aaaaaa片| 99精品欧美一区二区三区四区| 免费观看精品视频网站| 亚洲精品国产精品久久久不卡| 级片在线观看| 宅男免费午夜| 亚洲在线自拍视频| 长腿黑丝高跟| 美女被艹到高潮喷水动态| 欧美日韩中文字幕国产精品一区二区三区| 少妇的逼水好多| av在线天堂中文字幕| 国产成+人综合+亚洲专区| 欧美一区二区亚洲| 亚洲欧美日韩东京热| 天天躁日日操中文字幕| 久久精品国产亚洲av涩爱 | 中文字幕人妻丝袜一区二区| 淫妇啪啪啪对白视频| 国产国拍精品亚洲av在线观看 | 精品一区二区三区视频在线观看免费| 岛国在线免费视频观看| 欧美精品啪啪一区二区三区| 性色av乱码一区二区三区2| 在线十欧美十亚洲十日本专区| 欧美在线一区亚洲| 国产精品99久久99久久久不卡| 久久久久九九精品影院| 12—13女人毛片做爰片一| 男女视频在线观看网站免费| 日本成人三级电影网站| 亚洲av免费高清在线观看| 久久久久久人人人人人| 国内精品久久久久久久电影| 国产精品影院久久| 国产成人欧美在线观看| 国产精品香港三级国产av潘金莲| 欧美中文综合在线视频| 宅男免费午夜| 看免费av毛片| 九九热线精品视视频播放| 日韩国内少妇激情av| 嫩草影院精品99| 一个人看视频在线观看www免费 | 成年版毛片免费区| 日韩欧美精品免费久久 | 伊人久久精品亚洲午夜| 国产高清视频在线观看网站| 国内精品久久久久精免费| 长腿黑丝高跟| 日本一本二区三区精品| 午夜免费观看网址| 久久国产精品人妻蜜桃| 99久久精品热视频| 亚洲天堂国产精品一区在线| 国产乱人视频| 很黄的视频免费| 精品人妻偷拍中文字幕| 51国产日韩欧美| 国产三级中文精品| 中文字幕精品亚洲无线码一区| ponron亚洲| 国产成人av教育| 日韩欧美国产一区二区入口| 中文字幕精品亚洲无线码一区| 亚洲中文字幕一区二区三区有码在线看| 国产成人影院久久av| 一区二区三区激情视频| 国产亚洲av嫩草精品影院| 精品一区二区三区人妻视频| 男插女下体视频免费在线播放| 老司机在亚洲福利影院| 最后的刺客免费高清国语| 久久午夜亚洲精品久久| 岛国在线免费视频观看| 网址你懂的国产日韩在线| 久久6这里有精品| 91九色精品人成在线观看| 叶爱在线成人免费视频播放| 中文字幕av在线有码专区| 欧美激情在线99| 手机成人av网站| a在线观看视频网站| 欧美一区二区精品小视频在线| 亚洲成a人片在线一区二区| 热99在线观看视频| 国内精品久久久久精免费| 最近视频中文字幕2019在线8| 亚洲一区二区三区不卡视频| 男女视频在线观看网站免费| 国产免费一级a男人的天堂| 亚洲国产色片| 成人三级黄色视频| 国产 一区 欧美 日韩| 噜噜噜噜噜久久久久久91| 老司机深夜福利视频在线观看| www.www免费av| 此物有八面人人有两片| 熟女少妇亚洲综合色aaa.| 亚洲18禁久久av| 亚洲国产日韩欧美精品在线观看 | 麻豆一二三区av精品|