• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論腦機(jī)接口技術(shù)對法秩序的挑戰(zhàn)及其理性規(guī)制

    2024-05-10 10:46:46秦長森張校基
    山東行政學(xué)院學(xué)報 2024年1期
    關(guān)鍵詞:接口技術(shù)腦機(jī)人腦

    秦長森,張?;?/p>

    (東南大學(xué) 法學(xué)院,南京 211189)

    當(dāng)法律人還沉浸在對后工業(yè)時代風(fēng)險社會的研究中時,一種以代碼架構(gòu)為基礎(chǔ)建立起的“算法帝國”正悄然崛起。其中,以大數(shù)據(jù)為背景的數(shù)字技術(shù)正在向人們生活的各個角落蔓延滲透。與工業(yè)時代的大機(jī)器產(chǎn)業(yè)風(fēng)險(如環(huán)境污染、交通風(fēng)險、核風(fēng)險)不同,智能化背景下的技術(shù)風(fēng)險更加隱蔽、虛擬,所造成的現(xiàn)實風(fēng)險也愈加難以在第一時間通過因果關(guān)系的判斷進(jìn)行法律歸責(zé)。技術(shù)發(fā)展風(fēng)險與法律規(guī)制之間逐漸形成了一道深深的領(lǐng)域鴻溝,鴻溝的一端是技術(shù)人員基于技術(shù)發(fā)展帶來巨大社會財富的搖旗吶喊,另一端則是法律工作者因技術(shù)風(fēng)險對法益造成破壞所表現(xiàn)出的隱隱擔(dān)憂。因此,如何跨越這一鴻溝,實現(xiàn)法律對技術(shù)的良善規(guī)制,成為科學(xué)技術(shù)與法學(xué)理論研究中難以回避的時代命題。就前者而言,需要技術(shù)工作者不斷精進(jìn)技術(shù)、驗證算法的科學(xué)性;對于后者而言,則需要法律工作者站在法律實用主義的立場,通過客觀的法律規(guī)范對技術(shù)形成一種主觀上的理論約束(1)[美]勞倫斯·萊茨格:《代碼2.0:網(wǎng)絡(luò)空間中的法律》,李旭、沈偉偉譯,北京:清華大學(xué)出版社,2018年,第364頁。。前者可以促進(jìn)人類創(chuàng)新的不斷延續(xù),后者則能保障人類創(chuàng)新延續(xù)的穩(wěn)定性?;谏鲜鏊伎?選擇以腦機(jī)接口(Brain—Computer Interfaces)技術(shù)為例,從規(guī)范法學(xué)的視角對“如何通過法律手段規(guī)制技術(shù)風(fēng)險”這一命題展開論述。本文將從梳理腦機(jī)接口技術(shù)的主要應(yīng)用場景入手,在法律規(guī)范保護(hù)目的視角下對腦機(jī)接口的應(yīng)用風(fēng)險展開剖析,并在此基礎(chǔ)上就如何規(guī)制腦機(jī)接口技術(shù)提供若干建議。值得一提的是,雖然該項技術(shù)已經(jīng)通過了科學(xué)驗證并在現(xiàn)實生活中有所應(yīng)用,但相關(guān)研究大多基于倫理學(xué)的視角(2)王高峰、張志領(lǐng):《算法倫理視域下的腦機(jī)接口倫理問題研究》,《自然辯證法研究》2022年第7期;陸慧、王志佳:《基于存在主義反思“腦機(jī)接口”技術(shù)的倫理難題與出路》,《自然辯證法研究》2023年第8期。,鮮有法學(xué)分析的文章對這一問題涉獵鋪陳。本文權(quán)以拋磚引玉,并希冀對腦機(jī)接口技術(shù)的理性應(yīng)用提供規(guī)范性支持。

    一、腦機(jī)接口技術(shù)的應(yīng)用場景及其對法秩序的挑戰(zhàn)

    腦機(jī)接口是指通過傳感器設(shè)備獲取大腦的信號,再進(jìn)行數(shù)據(jù)的提取和分析,最終控制體外設(shè)備的人機(jī)交互裝置,腦機(jī)接口也被稱為是大腦端口或是腦機(jī)融合感知(3)魏郡一:《腦機(jī)接口技術(shù):人的自主性問題及其倫理思考》,《醫(yī)學(xué)與哲學(xué)》2021年第4期。。作為一項高端科技,腦機(jī)接口是未來生命科學(xué)和信息技術(shù)交叉融合的主戰(zhàn)場,代表了一種新興的、具有潛在破壞性的技術(shù)領(lǐng)域,是中國最有可能迎頭趕上甚至“彎道超車”的尖端科技之一,目前已在多個場景中展開運用(4)陶虎:《腦機(jī)接口——未來生命科學(xué)和信息技術(shù)交叉融合的主戰(zhàn)場》,《光明日報》2021年6月3日。。與此同時,腦機(jī)接口技術(shù)應(yīng)用場景的多樣化也帶來了諸多的法律風(fēng)險,通過對應(yīng)用場景進(jìn)行類型化分析,可以更為清晰地探尋腦機(jī)接口技術(shù)對法律秩序可能造成的潛在挑戰(zhàn)。

    (一)腦機(jī)接口應(yīng)用場景的發(fā)展軌跡

    作為一項“人機(jī)交互”技術(shù),腦機(jī)接口的前身是人工耳蝸技術(shù)。這項技術(shù)通過將聲音信號轉(zhuǎn)換為電脈沖并傳遞至植入內(nèi)耳的電極,直接刺激聽覺神經(jīng),使聽障人士重新聽到聲音。后來,科學(xué)家將研究指向最神秘的人腦領(lǐng)域,腦機(jī)接口技術(shù)由此正式誕生。如將電極插入大腦皮層中,通過電極來接收大腦皮層的神經(jīng)元發(fā)出的電脈沖,再通過電腦接收,利用人工智能算法轉(zhuǎn)譯為連接到計算機(jī)上的機(jī)器人指令,由此可以借助思想來指揮機(jī)器移動輪椅、與他人交流、撿拾物品等(5)Maartje Schermer, “The Mind and the Machine. On the Conceptual and Moral Implications of Brain-Machine Interaction”, Nanoethics, Vol. 3, 2009, No.3, pp.217-230.。此后,腦機(jī)接口技術(shù)進(jìn)一步發(fā)展,開始逐漸深入人腦內(nèi)部收集大腦信號。這一技術(shù)是用手術(shù)將小電極插入大腦,使其與皮下植入的神經(jīng)刺激器相連,通過激發(fā)神經(jīng)刺激器發(fā)出微小的電脈沖來刺激大腦的特定區(qū)域,以此來治療神經(jīng)系統(tǒng)疾病(6)Peter Rabins et al., “Scientific and Ethical Issues Related to Deep Brain Stimulation for Disorders of Mood, Behavior, and Thought”, Archives of General Psychiatry, Vol. 66, 2009, No.9, pp.931-937.。傳統(tǒng)醫(yī)療型腦機(jī)接口技術(shù)的實施主體往往是醫(yī)療機(jī)構(gòu),通過以侵入式或半侵入式的腦機(jī)接口技術(shù)來達(dá)到治療疾病和恢復(fù)健康的目的。該項技術(shù)目前已經(jīng)在世界各國的臨床醫(yī)療實踐中開展。2021年12月23日,澳大利亞62歲的肌萎縮側(cè)索硬化癥(ALS)患者菲利普·奧基夫通過腦機(jī)接口技術(shù)成功在推特上發(fā)布了一條簡短的消息“你好,世界”(Hello,World),就是典型的示例(7)張夢然:《ALS患者首次通過腦機(jī)接口發(fā)推》,《科技日報》2021年12月30日。。

    隨著技術(shù)的日漸成熟,其應(yīng)用場域也逐漸突破醫(yī)療領(lǐng)域,向著商業(yè)領(lǐng)域不斷邁進(jìn)。在消費領(lǐng)域,信息技術(shù)公司正在使用腦機(jī)接口開發(fā)利用大腦數(shù)據(jù)實現(xiàn)對消費目的進(jìn)行檢測的設(shè)備。例如,Facebook在2017年啟動了腦機(jī)接口研究計劃,旨在制造可穿戴的腦機(jī)接口設(shè)備,使用戶能夠簡單地通過在大腦中想象語音來進(jìn)行打字;微軟公司正在為一般人群開發(fā)非侵入性交互式腦機(jī)接口(8)Marcello Ienca et al., “Towards a Governance Framework for Brain Data”, Neuroethics, Vol. 20, 2022, No.15, pp.1-20.。消費神經(jīng)技術(shù)、電子學(xué)習(xí)、情感計算、心理學(xué)和神經(jīng)營銷等均是利用大腦數(shù)據(jù)作為商品的一些應(yīng)用領(lǐng)域(9)Thomas Roland Insel, “Digital Phenotyping Technology for a New Science of Behavior”, JAMA, Vol. 318, 2017, No.13, pp. 1215-1216.。新式的服務(wù)型腦機(jī)接口技術(shù)以商事企業(yè)為實施主體,以大眾服務(wù)為對象,通過腦機(jī)接口技術(shù)對其運動功能、社會功能、認(rèn)知功能、道德功能等某一個專項進(jìn)行恢復(fù)或增強,但這些增強的指標(biāo)并不會超出人類目前各項能力的極限閾值,僅僅以實現(xiàn)群體的“生活優(yōu)化”為限度。例如,在神經(jīng)游戲領(lǐng)域,腦機(jī)接口設(shè)備可以用作輸入設(shè)備來替代操作桿、鼠標(biāo)和鍵盤,為殘障人士提供方便,同時通過收集用戶大腦的信號作為反饋工具,可以幫助用戶更好地適應(yīng)游戲環(huán)境(10)Ofir Landau, Rami Puzis, and Nir Nissim, “Mind Your Mind:EEG-Based Brain-Computer Interfaces and Their Security in Cyber Space”, ACM Computing Surveys (CSUR), Vol. 53, 2020, No. 1, pp. 1-38.。

    當(dāng)前,腦機(jī)接口技術(shù)的軍事化應(yīng)用也在如火如荼地實踐中。將腦機(jī)接口技術(shù)應(yīng)用于軍事領(lǐng)域,旨在創(chuàng)造性地對人類的認(rèn)知、情感與記憶進(jìn)行本質(zhì)性的改變,以實現(xiàn)人類能力的跨越式增強。例如,美國國防部設(shè)立特定的培育基金開展腦機(jī)接口研究,目的是為了抑制潛在敵人的雷達(dá)干擾,或促進(jìn)戰(zhàn)斗人員與其隊友保持基本的通訊暢通(11)Charles Nelson Munyon, “Neuroethics of Non-Primary Brain Computer Interface: Focus on Potential Military Applications”, Frontiers in Neuroscience, Vol. 12, No. 19, 2018, pp.1-3.。在過去的10年里,美國國防部高級研究計劃局推出“高級語音編碼計劃”,通過腦機(jī)接口技術(shù)的實施可以減少戰(zhàn)爭中對任何聲音或身體手勢的需求(12)Ivan S. Kotchetkov et al., “Brain-Computer Interfaces: Military, Neurosurgical, and Ethical Perspective”, Neurosurgical Focus, Vol.28, No.5, 2010, p.25.??梢灶A(yù)見,未來的軍事領(lǐng)域中將會出現(xiàn)大量應(yīng)用腦機(jī)接口技術(shù)來增強作戰(zhàn)的效能以及減少戰(zhàn)爭傷亡。

    (二)腦機(jī)接口技術(shù)給法秩序帶來的潛在挑戰(zhàn)

    法律是規(guī)范公民生活、調(diào)整公民行為最重要的手段,不同法領(lǐng)域之間各有分工,相互配合,形成了相對穩(wěn)定的法律秩序(13)[奧]凱爾森:《法與國家的一般理論》,沈宗靈譯,北京:中國大百科全書出版社,1996年,第203頁。。腦機(jī)接口是一種通過有線或無線的方式開展人機(jī)交互的技術(shù),實際上是信息媒介的深層次延伸,進(jìn)一步拓展了基于信息交換的生產(chǎn)方式,但同時也帶來了諸多的法律難題(14)胡凌:《理解技術(shù)規(guī)制的一般模式:以腦機(jī)接口為例》,《東方法學(xué)》2021年第4期。。這一技術(shù)改變了傳統(tǒng)的生產(chǎn)方式,極大地促進(jìn)了社會的進(jìn)步與發(fā)展。然而,科技的蓬勃發(fā)展與法律的滯后性之間存在的矛盾,也可能導(dǎo)致一些不法行為無法在第一時間得到控制,無疑會給當(dāng)前的法律制度帶來極大的沖擊與挑戰(zhàn)。具體而言,主要表現(xiàn)在如下三個方面。

    1. 動搖了不法行為的傳統(tǒng)歸責(zé)路徑。運用腦機(jī)接口技術(shù),可以延展人類的行為觸角。譬如,在上述傳統(tǒng)醫(yī)療型腦機(jī)接口應(yīng)用中,殘障人士可以通過意念來控制機(jī)械去處理生活瑣事或進(jìn)行日?;顒印5且揽克惴軜?gòu)起來的腦機(jī)接口技術(shù)也會存在一些難以回避的法律風(fēng)險,當(dāng)風(fēng)險出現(xiàn)時,由誰來承擔(dān)法律責(zé)任就是一個懸而未決的法律問題。腦機(jī)接口技術(shù)可能給患者帶來不可逆的傷害。例如,侵入式的腦機(jī)接口手術(shù)可能會帶來的創(chuàng)傷、出血、感染和麻醉反應(yīng)等,不僅如此,腦芯片的植入有可能導(dǎo)致大腦組織被更改,使大腦的情感發(fā)生改變。在腦機(jī)接口系統(tǒng)無法準(zhǔn)確識別大腦信號時,由于人思維的復(fù)雜性,在控制系統(tǒng)時可能會受到突發(fā)情感的影響(15)葉岸滔:《腦機(jī)接口技術(shù):倫理問題與研究挑戰(zhàn)》,《昆明理工大學(xué)學(xué)報(社會科學(xué)版)》2016年第6期。。當(dāng)患者因為腦機(jī)接口技術(shù)受到不應(yīng)有的傷害時,如何在腦機(jī)接口制造商與醫(yī)療工作者之間進(jìn)行責(zé)任分配,尚無定論。當(dāng)發(fā)生技術(shù)故障時,行為人通過腦機(jī)接口技術(shù)操縱機(jī)器去傷害他人,如何梳理其中的因果關(guān)系并確定責(zé)任承擔(dān)的一方也難以判斷。同時,司法機(jī)關(guān)是否可以運用腦機(jī)接口技術(shù)獲取人工智能生成信息,作為判斷行為人實施過犯罪行為的證據(jù),依然沒有明確的答案。以上問題均是腦機(jī)接口的應(yīng)用場景中所需面臨的現(xiàn)實法律問題。

    2.威脅了公民信息與隱私保護(hù)制度。腦機(jī)接口的技術(shù)原理可分為4個步驟,分別為:(1)記錄和提取大腦活動;(2)將大腦活動解碼為有意義信息;(3)將信息翻譯成需要發(fā)送到輸出設(shè)備的命令;(4)向腦機(jī)接口用戶提供反饋以校準(zhǔn)腦機(jī)關(guān)系以實現(xiàn)更好的控制(16)Anastasia Greenberg, “Inside the Mind’s Eye: An International Perspective on Data Privacy Law in the Age of Brain Machine Interfaces”, Alb. LJ Sci. &Tech, Vol. 29, 2019, No.1, pp. 79-122.。在提取大腦信息并將大腦信息轉(zhuǎn)譯為可供機(jī)器識別的命令時便存在著對公民個人信息與隱私權(quán)益侵犯的風(fēng)險。腦機(jī)接口技術(shù)的運用可以窺探人的思想,與隱私權(quán)的保護(hù)存在一定的抵牾。因為隱私權(quán)主要包括生活安寧和私人秘密兩個方面,腦機(jī)接口通過分析人腦活動及可供識別的信息威脅到了公民的隱私權(quán)(17)王利明:《隱私權(quán)概念的再界定》,《法學(xué)家》2012年第1期。。心靈是個人自由和自決的最后避難場所,雖然人的身體很容易受制于他人的支配與控制,但是我們的思想、信念在很大程度上是不受外部約束的(18)Roberto Andorno and Marcello Ienca, “Towards New Human Rights in the Age of Neuroscience and Neurotechnology”, Life Sciences, Society and Policy, Vol.13, 2017, No.1, pp. 1-27.。然而,腦機(jī)接口技術(shù)的發(fā)展使得人類社會具備了直接窺探思想的能力,能夠?qū)⑷四X的想法通過算法進(jìn)行識別并展現(xiàn)于外部,這會對人類的認(rèn)知自由權(quán)、精神隱私權(quán)、精神完整權(quán)造成前所未有的沖擊。腦機(jī)接口的運作需要對人腦的數(shù)據(jù)進(jìn)行讀取,與公民的個人信息保護(hù)也存在一定的抵牾。我國《個人信息保護(hù)法》第4條規(guī)定“個人信息是以電子或者其他方式記錄的與已識別或者可識別的自然人有關(guān)的各種信息?!币虼?當(dāng)大腦數(shù)據(jù)滿足可識別性的要求時,就應(yīng)當(dāng)受到立法的保護(hù)。腦機(jī)接口系統(tǒng)可以記錄和提取大腦活動,并通過特定的函數(shù)或者算法對這些數(shù)據(jù)參數(shù)進(jìn)行學(xué)習(xí)。然而在人工智能背景下,算法的深度學(xué)習(xí)將眾多程序與機(jī)器連接起來,并將部分決策的權(quán)利轉(zhuǎn)移到機(jī)器上,由于具體的決策對于程序員和用戶來說都是未知的,整個過程在很多方面均是不可控和不明確的(19)Susanne Beck, “Diffusion on Both Ends: Legal Protection and Criminalisation in Neurotechnological Uncertainty”, Clinical Neurotechnology Meets Artificial Intelligence, Philosophical, Ethical, Legal and Social Implications, Springer, 2021, pp. 127-139.,這便對數(shù)據(jù)主體的諸多權(quán)利形成了沖擊。譬如,由于算法決策系統(tǒng)的不可知性,導(dǎo)致了數(shù)據(jù)處理者無法準(zhǔn)確預(yù)測并告知機(jī)器對大腦數(shù)據(jù)的處理會造成何種后果;又如,當(dāng)數(shù)據(jù)主體要求刪除大腦數(shù)據(jù)時,即便當(dāng)時能夠刪除,數(shù)據(jù)處理者或其他人也可能會利用這些數(shù)據(jù)以衍生的方式將其重新連接到相關(guān)的主體。

    3.容易成為不法分子濫用的工具。腦機(jī)接口技術(shù)既能造福人類,也能被人類濫用,甚至實施犯罪。原因在于,植入人腦中的腦機(jī)接口芯片不僅受人腦思想的影響,還會受算法程序的影響。例如,若偵查人員在偵查過程中運用腦機(jī)接口技術(shù)提取犯罪嫌疑人的人腦數(shù)據(jù),并對其進(jìn)行分析,最終作為定罪的證據(jù),無疑會剝奪犯罪嫌疑人的基本權(quán)利。又如,在腦機(jī)接口技術(shù)的商業(yè)化應(yīng)用中,在未告知用戶使用腦機(jī)接口技術(shù)可能帶來何種潛在風(fēng)險的前提下,直接使用該技術(shù)會導(dǎo)致用戶的權(quán)利無法得到保障,一旦商業(yè)領(lǐng)域和政治領(lǐng)域利用腦機(jī)接口技術(shù)制造虛假的用戶體驗,便極有可能導(dǎo)致用戶被潛意識操控而又無法識別。再如,如果有人為了獲得有效情報而強迫他人使用腦機(jī)接口技術(shù),使用者的權(quán)利應(yīng)當(dāng)如何救濟(jì),在當(dāng)前的法律體系下仍不明確。除此之外,當(dāng)腦機(jī)接口設(shè)備出現(xiàn)故障而產(chǎn)生錯誤的指令,致使使用者出現(xiàn)危害他人的行為時,如何在事后進(jìn)行追責(zé)也成為較為棘手的問題。

    二、規(guī)制腦機(jī)接口技術(shù)的方法:協(xié)同機(jī)能視角的選擇

    腦機(jī)接口應(yīng)用場景的多元化及其對法律秩序挑戰(zhàn)的多樣性共同決定了對腦機(jī)接口技術(shù)的法律規(guī)制必須要限定在尊重人類生命與尊嚴(yán)的基礎(chǔ)上,利用多個部門法的功能進(jìn)行協(xié)同化治理。申言之,技術(shù)必須服務(wù)于人類的整體發(fā)展才具有正當(dāng)性,否則便是對人類社會的威脅,不應(yīng)得到發(fā)展。因此,筆者建議對腦機(jī)接口的法律規(guī)制應(yīng)當(dāng)從方法論和知識論的二元視角入手,以多重路徑展開。

    (一)方法論層面:立足法秩序統(tǒng)一原理進(jìn)行協(xié)同保護(hù)

    在法律適用中,只有各個部門法之間相互協(xié)調(diào)、互不沖突才能真正起到法律的指引與評價效果。腦機(jī)接口技術(shù)涉及社會生活的諸多方面,需要通過多個部門法協(xié)同規(guī)制,才能實現(xiàn)技術(shù)發(fā)展與法治保障的雙重效果。這便要求當(dāng)部門法在對腦機(jī)接口技術(shù)進(jìn)行規(guī)制時,需要按照法律適用的位階性,“關(guān)照”其他部門法的適用情況。具體而言,如果一個行為在民法領(lǐng)域是合法的,便不能對其適用行政法或者刑法來進(jìn)行規(guī)制。不僅如此,當(dāng)行為具有民事不法或者行政不法時,還應(yīng)當(dāng)根據(jù)刑法的特殊性質(zhì),謹(jǐn)慎地判斷該行為是否具有刑事不法性(20)歐陽本祺:《論行政犯違法判斷的獨立性》,《行政法學(xué)研究》2019年第4期。。當(dāng)然,若要實現(xiàn)對腦機(jī)接口應(yīng)用的全過程規(guī)制,還需要根據(jù)腦機(jī)接口應(yīng)用領(lǐng)域的不同進(jìn)行分類保護(hù)。例如,對于新式的服務(wù)型腦機(jī)接口技術(shù),由于它屬于市場經(jīng)濟(jì)的范疇,對此類腦機(jī)接口的規(guī)制就需要平衡好市場與政府的關(guān)系,并給予市場主體一定的寬容度以防止過度管制影響市場的自發(fā)秩序。又如,對于傳統(tǒng)醫(yī)療型腦機(jī)接口技術(shù),因為涉及人的生命健康,所以需要突出對人類基本權(quán)利的保護(hù)。具體而言,對于這類腦機(jī)接口技術(shù)的應(yīng)用,需要在民法維度上借鑒傳統(tǒng)醫(yī)事法律研判侵入式腦機(jī)接口技術(shù)致?lián)p責(zé)任的證明等問題;在刑法的維度上,需要結(jié)合技術(shù)發(fā)展情況準(zhǔn)確識別醫(yī)療行為與傷害行為之間的界分,以公民生命健康權(quán)益至上為指導(dǎo)原則展開綜合研判。再如,對于增強型腦機(jī)接口技術(shù)而言,由于涉及對人類主體的改變,則需要在生產(chǎn)源頭上就對其進(jìn)行嚴(yán)格的法律規(guī)制,對于那些制造人與人之間難以消除的不平等狀況的技術(shù),應(yīng)一般性地予以禁止。

    (二)知識論層面:通過法益的識別尋求機(jī)能性保護(hù)

    正如耶林所言:“法律的標(biāo)準(zhǔn)不是真實性這種絕對的標(biāo)準(zhǔn),而是目的這種相對的標(biāo)準(zhǔn)。”(21)[德]英格博格·普珀:《法學(xué)思維小學(xué)堂》,蔡圣偉譯,北京:北京大學(xué)出版社,2011年,第65頁。從法解釋學(xué)的視角來看,法規(guī)范的保護(hù)目的便是法益,即法所保護(hù)的利益,每一個部門法均通過其法律規(guī)范進(jìn)行利益保護(hù)。因此,在對腦機(jī)接口進(jìn)行法律規(guī)制的過程中,離不開對法規(guī)范目的的識別,即法益的識別。

    1.法益識別的過程需要判斷腦機(jī)接口技術(shù)的應(yīng)用中可能會涉及哪些法益,其中法益的不同會導(dǎo)致法律規(guī)制的手段與限度出現(xiàn)差異?,F(xiàn)代立法中的法益分為集體法益與個人法益兩種類型,集體法益更加注重對于秩序的維護(hù),因此可稱其為制度依存型法益(22)秦長森:《妨害安全駕駛罪保護(hù)法益的教義學(xué)反思與重構(gòu)》,《西南政法大學(xué)學(xué)報》2022年第4期。;而個人法益更加注重對于國民權(quán)益的保障,因此可以稱之為國民權(quán)益型法益。對于制度依存型法益而言,民法與行政性立法的保護(hù)往往比較全面,而刑事立法由于需要恪守謙抑性則常常退居其次;對于國民權(quán)益保障型法益而言,民法與行政性立法的保護(hù)往往未臻完善,因此大多需要通過利用刑事手段來進(jìn)行保護(hù)。所以對腦機(jī)接口技術(shù)的法律規(guī)制而言,我們應(yīng)當(dāng)注重關(guān)注腦機(jī)接口技術(shù)應(yīng)用中所涉及的保護(hù)法益,通過識別法益的不同采取不同的保護(hù)策略。

    2.在對法益進(jìn)行識別的過程中還需要把握法益與政策之間的關(guān)系。法律并不是規(guī)范社會的唯一手段,即法律并非是萬能的,通過法律規(guī)制腦機(jī)接口技術(shù)還需要注意法律的有限性,如果能通過社會的其他手段進(jìn)行保護(hù),就沒有必要尋求法律上的利益保護(hù)。此外,對相關(guān)法益的保護(hù)還需要平衡行業(yè)發(fā)展的社會政策與維護(hù)人格權(quán)益兩極之間的平衡,這要求我們在利用法律手段規(guī)制腦機(jī)接口技術(shù)時,需要將法律置身于社會的角度進(jìn)行機(jī)能的考察,通過社會學(xué)的角度來觀察法律規(guī)范保護(hù)目的,如此才能避免法律保護(hù)與社會政策之間的脫節(jié)。

    三、具體的路徑展開:從生產(chǎn)到應(yīng)用法律動態(tài)規(guī)制

    腦機(jī)接口作為近年來出現(xiàn)的新興技術(shù),對倫理與秩序均造成了不同程度的潛在沖擊。在這種背景下,必須要結(jié)合前文法秩序統(tǒng)一性原則與法益保護(hù)原則的要求,建立一套從技術(shù)生產(chǎn)到技術(shù)應(yīng)用的動態(tài)法律規(guī)則。由于當(dāng)前腦機(jī)接口技術(shù)主要應(yīng)用于醫(yī)療領(lǐng)域與商業(yè)領(lǐng)域,因此下文也主要對這兩個領(lǐng)域展開討論。

    (一)對醫(yī)療型腦機(jī)接口技術(shù)的動態(tài)法律規(guī)制

    醫(yī)療型腦機(jī)接口應(yīng)用是該項技術(shù)最為常用的領(lǐng)域,關(guān)涉人體的安全與尊嚴(yán)的保障。醫(yī)療實踐為了更好地凸顯腦機(jī)接口技術(shù)對于疾病的治療效果,往往傾向于采用侵入型腦機(jī)接口技術(shù)。這種技術(shù)雖然治療效果明顯,但同時也存在巨大的侵權(quán)風(fēng)險,必須要在保障身體安全法益的前提下,通過加大民事責(zé)任的方法從源頭上避免行政風(fēng)險與刑事風(fēng)險的出現(xiàn)。具體而言,可以采取如下方案。

    1.在侵權(quán)舉證層面,加大生產(chǎn)商的注意義務(wù)。侵入式腦機(jī)接口技術(shù)直接深入人腦內(nèi)部,對人體的身體安全法益產(chǎn)生了較大的威脅。身體法益是僅次于生命法益的法益類型,與人身安全和健康息息相關(guān)(23)張明楷:《身體法益的刑法保護(hù)》,《政治與法律》2022年第6期。,因此中華人民共和國對于侵入式腦機(jī)接口生產(chǎn)商的義務(wù)設(shè)定更需從嚴(yán),以便更好地保護(hù)身體安全法益。我國《民法典》第1202條對缺陷產(chǎn)品生產(chǎn)者的民事責(zé)任進(jìn)行了規(guī)定,但侵入式腦機(jī)接口產(chǎn)品致?lián)p責(zé)任的認(rèn)定則較為特別。侵入式腦機(jī)接口技術(shù)需要通過開顱手術(shù)將電極植入人腦內(nèi)部,這可能對人腦造成即時性的損傷或排異反應(yīng),此時借助侵權(quán)行為的一般原理足以認(rèn)定。問題在于,大多數(shù)情況下腦機(jī)設(shè)備對人腦的負(fù)面影響未必表現(xiàn)為即時生效的形式,可能是在較長時間之后方才顯露“潛移默化式”的影響。此外,腦機(jī)接口致?lián)p的表現(xiàn)形式不僅僅局限于物理性的身體傷害,腦機(jī)設(shè)備的應(yīng)用可能對人的情感、記憶、性格等精神因素造成不可逆的負(fù)面作用。對此,筆者建議當(dāng)發(fā)生腦機(jī)接口技術(shù)侵害人體健康的糾紛時,應(yīng)類推適用我國《民法典》第1202條規(guī)定的缺陷產(chǎn)品無過錯責(zé)任模式,相關(guān)的產(chǎn)品質(zhì)量技術(shù)鑒定機(jī)構(gòu)應(yīng)在腦機(jī)缺陷產(chǎn)品舉證方面給予當(dāng)事人以必要幫助。侵入式腦機(jī)接口技術(shù)致?lián)p的因果關(guān)系大多是復(fù)雜的“概率提升式”,而非簡單的“造成式”。這就意味著,即便在認(rèn)定因果關(guān)系時采取醫(yī)學(xué)的因果關(guān)系理論,認(rèn)為只需證明受害人的身體損傷與腦機(jī)接口手術(shù)之間存在“高度蓋然性”即可,但此種程度的證明責(zé)任對于缺乏專業(yè)知識的受害者而言依然是不可承受之重。如果受害者在完成因果關(guān)系的證明義務(wù)方面存在顯著困難,那么法律對生產(chǎn)商的民事歸責(zé)必然會存在障礙。就公平正義的角度而言,應(yīng)當(dāng)由相比受害者而言更具壓倒性的技術(shù)優(yōu)勢、信息優(yōu)勢、成本優(yōu)勢的生產(chǎn)商負(fù)責(zé)從各個方面證明腦機(jī)接口技術(shù)的應(yīng)用對人腦無害,如此不僅能降低受害者的證明責(zé)任,還能督促生產(chǎn)商盡到合理的注意義務(wù)。相較于因證明負(fù)擔(dān)過重而無法追究生產(chǎn)者責(zé)任的后果而言,舉證責(zé)任倒置是最為合理的選擇。在腦機(jī)接口產(chǎn)品缺陷已經(jīng)得到證明的前提下,應(yīng)當(dāng)推定缺陷與人身健康損害存在因果關(guān)系,生產(chǎn)者只有在舉證推翻因果關(guān)系推定后才能免于承擔(dān)侵權(quán)責(zé)任。由于腦機(jī)設(shè)備可能與使用者“深度融合”,二者超越一般意義上的“人與工具”關(guān)系而表現(xiàn)為共生的賽博生命體形式,生產(chǎn)商所承擔(dān)的設(shè)備維護(hù)等義務(wù)應(yīng)當(dāng)被特殊規(guī)定。原因在于,腦機(jī)設(shè)備的損壞或拆除可能會對使用者的身心健康造成嚴(yán)重負(fù)面影響。立法應(yīng)當(dāng)考慮到為特定類型的腦機(jī)接口服務(wù)規(guī)定強制保險制度,以及公司解散等客觀上無法持續(xù)提供服務(wù)等情形出現(xiàn)時,為生產(chǎn)商課加妥善處理設(shè)備摘除、更換等售后義務(wù)。

    2.增強醫(yī)療工作者的倫理審查義務(wù),充分保障患者的手術(shù)自決權(quán)。如上文所述,腦機(jī)接口技術(shù)在醫(yī)療領(lǐng)域應(yīng)用的“主陣地”是增強患者的行為能力和治療患者的精神疾病,特別是使用情感計算技術(shù)與病人進(jìn)行交互,以檢測情感,確定并模擬情感答案(24)王祿生:《情感計算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021年第4期。。對于增強患者的行為能力而言,醫(yī)療腦機(jī)接口應(yīng)用的限度在于使身體有缺陷的患者通過技術(shù)的應(yīng)用獲得與正常人基本相同的生活自理能力(25)肖峰:《腦機(jī)接口的價值選擇:治療還是增強?》,《科學(xué)技術(shù)哲學(xué)研究》2022年第4期。。如果腦機(jī)接口技術(shù)的應(yīng)用不是為了患者彌補缺憾,而是為了創(chuàng)造具有超越普通人能力的“超強人類”,便會違反人類公平競爭的權(quán)利和最基本的道德底線,應(yīng)當(dāng)受到法律和道德的絕對限制。換言之,雖然一切腦機(jī)接口技術(shù)在本質(zhì)上而言均屬于一種“人體增強技術(shù)”,但這種增強技術(shù)的上限只能是普通人,而不能是超人。為了強調(diào)對此類逾越倫理行為的禁止態(tài)度,應(yīng)當(dāng)對違法應(yīng)用及進(jìn)行人體實驗的醫(yī)務(wù)工作者適用職業(yè)禁止的資格罰,以起到對其他醫(yī)療工作者的警示作用。對于治療患者精神疾病的情形,由于患者本身的行為能力存在不足,這時便存在著對腦機(jī)接口技術(shù)是否侵犯患者手術(shù)自我決定權(quán)的討論。我國《民法典》第1219條已經(jīng)對醫(yī)務(wù)人員的說明義務(wù)和對患者的知情同意權(quán)保障進(jìn)行了規(guī)定(26)《民法典》第1219條規(guī)定:“醫(yī)務(wù)人員在診療活動中應(yīng)當(dāng)向患者說明病情和醫(yī)療措施。需要實施手術(shù)、特殊檢查、特殊治療的,醫(yī)務(wù)人員應(yīng)當(dāng)及時向患者具體說明醫(yī)療風(fēng)險、替代醫(yī)療方案等情況,并取得其明確同意;不能或者不宜向患者說明的,應(yīng)當(dāng)向患者的近親屬說明,并取得其明確同意。醫(yī)務(wù)人員未盡到前款義務(wù),造成患者損害的,醫(yī)療機(jī)構(gòu)應(yīng)當(dāng)承擔(dān)賠償責(zé)任。”,但如何理解其中的“明確同意”還值得討論。有學(xué)者認(rèn)為:“該條立法的目的在于構(gòu)建以患者為核心的醫(yī)患關(guān)系,對于說明義務(wù)的標(biāo)準(zhǔn),應(yīng)當(dāng)采取具體患者標(biāo)準(zhǔn),只有在患者不具備完全的民事行為能力或在疾病狀態(tài)下無法自主做出決定時,才可由近親屬同意。”(27)楊麗珍:《“告知后同意”:〈民法典〉第1219條第1款的解釋論展開》,《西北大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2020年第5期。筆者也贊同這一立場,但由于腦機(jī)接口技術(shù)風(fēng)險的特殊性,筆者建議進(jìn)一步強化知情同意的認(rèn)定標(biāo)準(zhǔn)。相關(guān)的制度安排可以采取“在第三方機(jī)構(gòu)簽署書面同意書”的形式強化對患者及其近親屬同意的認(rèn)定,在此基礎(chǔ)上,患者可以根據(jù)自身的實際情況隨時撤銷這一授權(quán)。不僅如此,醫(yī)務(wù)工作者也應(yīng)秉持忠實義務(wù),綜合患者的病情進(jìn)行治療,如果有替代腦機(jī)接口技術(shù)的醫(yī)療措施,則應(yīng)該慎用腦機(jī)接口技術(shù),避免由于技術(shù)的不成熟而對患者權(quán)益法益帶來侵害。

    (二)對商業(yè)型腦機(jī)接口技術(shù)的動態(tài)法律規(guī)制

    在商業(yè)領(lǐng)域中,運用腦機(jī)接口技術(shù)的底層邏輯是通過對人腦數(shù)據(jù)進(jìn)行提取與分析,并最終轉(zhuǎn)化為可供商業(yè)化使用的資產(chǎn)。在由人腦數(shù)據(jù)到數(shù)字資產(chǎn)的轉(zhuǎn)譯過程中,用戶不可避免地會面臨算法的支配風(fēng)險。商業(yè)巨頭借助數(shù)據(jù)與技術(shù)的壟斷成為橫亙于國家公權(quán)力與個人私權(quán)利之間的“私權(quán)力”主體,決定了對腦機(jī)接口商業(yè)應(yīng)用的法律規(guī)制需要圍繞保護(hù)公民的信息與隱私權(quán)益這一核心維度進(jìn)行展開。

    在公民信息與隱私權(quán)益的保障方面,由于數(shù)字時代中的信息公開化程度大幅提升,公民隱私權(quán)的保護(hù)工作面臨著巨大的壓力(28)李忠夏:《數(shù)字時代隱私權(quán)的憲法建構(gòu)》,《華東政法大學(xué)學(xué)報》2021年第3期。。腦機(jī)接口技術(shù)通過算法決策搜集人腦信息,并對人腦的信息進(jìn)行分析運算后生成可用數(shù)據(jù),這難免對人的自主價值造成危害。智能算法的不透明性同時催生出了新型“信息壟斷資本”,這決定了對公民隱私權(quán)的保護(hù)需要從算法規(guī)制的角度入手,通過限制“算法權(quán)力”的擴(kuò)大化來保障公民的隱私與自由。對此,可以分別從下述4個方面入手。

    1.明確腦機(jī)接口商業(yè)算法的運用范圍。高度的信息壟斷權(quán)力會使人的自由名存實亡,防止人類自由為壟斷資本所裹挾的理念在當(dāng)代社會中呼聲漸長。盡管在商業(yè)領(lǐng)域中運用算法技術(shù)可以提高生產(chǎn)要素的利用率,但是腦機(jī)接口技術(shù)涉及人腦內(nèi)部最為隱秘的部分,其算法適用的邊界需要得到更為慎重的考量。對此,建議運用法益衡量原則來具體判斷商業(yè)領(lǐng)域中的算法應(yīng)用是否具有正當(dāng)性。通過將腦機(jī)接口商業(yè)算法運用的優(yōu)勢與腦機(jī)接口算法帶來的后果進(jìn)行比較,綜合判斷腦機(jī)接口算法應(yīng)用后果的可接受性。就此而言,以下幾種腦機(jī)接口的應(yīng)用便屬于禁止的情形。例如,在使用腦機(jī)接口技術(shù)判斷他人是否說謊的情形中,技術(shù)應(yīng)用的優(yōu)勢在于通過數(shù)據(jù)分析來進(jìn)行他人情感的可能性判斷,后果則可能會造成他人尊嚴(yán)得不到尊重,對于尊嚴(yán)的保護(hù)要大于可能性的判斷,因而需要禁止使用。再如,在市場買賣中,由于達(dá)成買賣意向是雙方意識自治的表現(xiàn),不應(yīng)通過腦機(jī)接口技術(shù)“強買強賣”,干擾公民的消費自由權(quán)。商家對人腦數(shù)據(jù)的分析往往并不只是為了提高服務(wù)能力,有時會超出合約限制而應(yīng)用于其他領(lǐng)域。因此,只有在腦機(jī)接口商業(yè)算法保護(hù)了更為優(yōu)越的利益時,才有適用的可能性。

    2.建立腦機(jī)接口算法運行的正當(dāng)程序制度。由于腦機(jī)接口技術(shù)具有收集人腦信息的功能,而海量的人腦信息經(jīng)過深度算法學(xué)習(xí)會拼湊成主體的畫像,會對公民的隱私造成威脅。據(jù)此,有必要對腦機(jī)接口技術(shù)背后的算法進(jìn)行程序正當(dāng)性的限定。腦機(jī)接口算法運行必須要遵循可預(yù)測性、透明性、公眾參與等價值理念,以便盡可能地促進(jìn)算法公開。商業(yè)實踐中可以嘗試引入中立的仲裁者的角色對商業(yè)領(lǐng)域腦機(jī)接口存在的法律問題進(jìn)行仲裁。當(dāng)然,仲裁者應(yīng)由兼具技術(shù)與法律雙重背景的成員構(gòu)成,為防止出現(xiàn)規(guī)制對象自我回饋的風(fēng)險,仲裁者必須獨立于商業(yè)利益之外,應(yīng)當(dāng)賦予其獨立行使職權(quán)的權(quán)利。如此既可以節(jié)約外部的行政執(zhí)法成本,還能夠在企業(yè)內(nèi)部隨時檢查算法自動化決策系統(tǒng)可能的瑕疵或者偏誤(29)張凌寒:《算法權(quán)力的興起、異化及法律規(guī)制》,《法商研究》2019年第4期。。

    3.建立腦機(jī)接口商業(yè)應(yīng)用的問責(zé)機(jī)制。當(dāng)發(fā)生腦機(jī)接口算法侵犯他人隱私權(quán)利時,需要明晰商業(yè)問責(zé)的主體和明確問責(zé)的標(biāo)準(zhǔn)。在問責(zé)主體上,依照公共利益原則應(yīng)確定技術(shù)設(shè)計者和產(chǎn)品銷售者為責(zé)任主體。在發(fā)生侵權(quán)事件時,兩者應(yīng)當(dāng)承擔(dān)連帶責(zé)任,如此不僅能夠平衡技術(shù)設(shè)計者和產(chǎn)品銷售者之間的義務(wù)關(guān)系,也能為公民的訴訟提供便利。在問責(zé)的標(biāo)準(zhǔn)上,應(yīng)當(dāng)對產(chǎn)品的質(zhì)量進(jìn)行分級分類,根據(jù)產(chǎn)品質(zhì)量對公民權(quán)益侵害程度的大小適用不同的歸責(zé)標(biāo)準(zhǔn)。對于出現(xiàn)嚴(yán)重瑕疵的腦機(jī)接口產(chǎn)品,應(yīng)當(dāng)對技術(shù)設(shè)計者和產(chǎn)品銷售者施以更為嚴(yán)厲的處罰。

    4.完善腦機(jī)接口應(yīng)用中公民信息權(quán)益的保障機(jī)制。腦機(jī)接口技術(shù)對人腦數(shù)據(jù)的提取與識別需要受到《個人信息保護(hù)法》的規(guī)制。人腦數(shù)據(jù)識別后屬于個人信息的一種且應(yīng)當(dāng)屬于個人的敏感信息,而敏感個人信息與個人隱私可謂是一體兩面的關(guān)系,共同形塑了對公民人格權(quán)的保護(hù),因此對于敏感信息的保護(hù)強度不應(yīng)低于對個人隱私的保護(hù)強度。原因在于,人腦數(shù)據(jù)具有可識別性,且與《個人信息保護(hù)法》第28條規(guī)定的“生物識別”“特定身份”“醫(yī)療健康”等類型的敏感個人信息具有敏感度上的同質(zhì)性,即一旦遭遇泄露或非法使用,將使當(dāng)事人的人身權(quán)益和財產(chǎn)權(quán)益陷入危險。為了防止人腦信息被濫用,應(yīng)當(dāng)對數(shù)據(jù)處理活動進(jìn)行嚴(yán)格規(guī)范,準(zhǔn)確劃定合理的使用范圍。特別是在我國《刑法》規(guī)定了侵犯公民個人信息罪的情況下,明確人腦數(shù)據(jù)屬于敏感個人信息有利于促使數(shù)據(jù)控制者履行合規(guī)義務(wù),以防止出現(xiàn)犯罪的危害后果。我國的行政性法律為企業(yè)建立合規(guī)制度提供了法律依據(jù),但是單憑行政合規(guī)制度并不足以建立完善的企業(yè)合規(guī)體系,還需要通過刑事實體與程序法上的激勵手段來促進(jìn)企業(yè)自覺建立起合規(guī)計劃(30)秦長森:《行刑銜接視野下企業(yè)合規(guī)教義學(xué)化發(fā)展的二元構(gòu)建》,載趙秉志主編:《刑法論叢》,北京:法律出版社,2022年,第5-7頁。。具體而言,我們可以行政合規(guī)性判斷企業(yè)犯罪的行政違法性、以法益保護(hù)判斷企業(yè)犯罪的刑事違法性(31)秦長森:《企業(yè)合規(guī)的刑事化發(fā)展方向與具體路徑》,《民主與法制時報》2021年12月9日。。只有當(dāng)腦機(jī)接口企業(yè)建立的企業(yè)合規(guī)計劃既符合行政性立法關(guān)于合規(guī)內(nèi)控的規(guī)定,又能充分保護(hù)公民個人信息的法益時,才能說明企業(yè)合規(guī)計劃建立的有效性。對于前者而言,需要企業(yè)在合規(guī)計劃制訂時以行政法規(guī)的要求為構(gòu)建原點,結(jié)合相關(guān)合規(guī)指引不斷提升自身的經(jīng)營質(zhì)量。對于后者而言,企業(yè)應(yīng)當(dāng)在個人信息的收集活動中嚴(yán)守“實現(xiàn)產(chǎn)品目的最小范圍”標(biāo)準(zhǔn),堅持以對個人權(quán)益影響最小為原則開展信息處理活動。收集人腦數(shù)據(jù)時必須取得當(dāng)事人的個人單獨同意,對其明確告知信息的收集用途及可能造成的影響。

    網(wǎng)絡(luò)時代社會結(jié)構(gòu)升級以技術(shù)驅(qū)動為推進(jìn)力量,技術(shù)及其風(fēng)險貫穿社會治理全過程(32)劉艷紅:《網(wǎng)絡(luò)時代社會治理迭代升級與犯罪控制協(xié)同化的刑事政策》,《社會科學(xué)輯刊》2024年第1期。。作為法治大國,我國在發(fā)展科學(xué)技術(shù)的同時,更需要依賴法律制度提供重要的保障。以“腦機(jī)接口”技術(shù)為例,通過對其應(yīng)用場景展開具體的分析,指出這一技術(shù)的發(fā)展,在“動搖不法行為的傳統(tǒng)歸責(zé)路徑”“威脅公民信息與隱私保護(hù)制度”“成為犯罪分子的幫兇”等方面存在較大的風(fēng)險,繼而主張建立一套從生產(chǎn)到應(yīng)用的動態(tài)規(guī)制辦法,以消解當(dāng)前腦機(jī)接口技術(shù)面臨的社會問題。當(dāng)然,風(fēng)險是否會現(xiàn)實地發(fā)生依然具有不可知性,未來的技術(shù)發(fā)展,還需要在立法論層面加強設(shè)計,重點分析在科技的發(fā)展中,存在哪些需要保護(hù)的法益,以便從源頭上為公民的基本權(quán)利提供必要的現(xiàn)實保護(hù)。對此,張明楷教授提出了法益立法保護(hù)的4個標(biāo)準(zhǔn),即“內(nèi)容不應(yīng)過于抽象化”“內(nèi)容不應(yīng)過于模糊”“內(nèi)容應(yīng)當(dāng)避免綜合”“內(nèi)容不應(yīng)隨意添加或減少”(33)張明楷:《具體犯罪保護(hù)法益的確定標(biāo)準(zhǔn)》,《法學(xué)》2023年第12期。。雖然這一主張是從刑法層面展開的,但是對于行政性的科技立法也具有一定程度的啟示意義。我們對科技法益保護(hù)要具體分析保障的內(nèi)容,對科技法益的保護(hù)要保護(hù)現(xiàn)實中的利益,而非虛擬的利益,對科技法益的保護(hù)要盡可能穩(wěn)定,只有立法具有穩(wěn)定性,才會具有普遍的適用性。因此,未來的研究重點應(yīng)當(dāng)是加強立法維度的建設(shè),讓法治成為保障科技發(fā)展的重要“武器”。

    猜你喜歡
    接口技術(shù)腦機(jī)人腦
    驚世駭俗的“腦機(jī)接口”技術(shù)
    人腦擁有獨特的紋路
    基于ssVEP與眼動追蹤的混合型并行腦機(jī)接口研究
    載人航天(2021年5期)2021-11-20 06:04:32
    腦機(jī)結(jié)合的未來
    埃隆·馬斯克的新型腦機(jī)接口為何人開發(fā)?
    英語文摘(2020年11期)2020-02-06 08:53:26
    電力系統(tǒng)全網(wǎng)一體化暫態(tài)仿真接口技術(shù)
    電子制作(2018年14期)2018-08-21 01:38:28
    讓人腦洞大開的建筑
    中文GIS自然語言接口技術(shù)研究
    讓人腦洞大開的智能建筑
    天地一體化網(wǎng)絡(luò)和空中接口技術(shù)研究
    videosex国产| 少妇人妻 视频| 久久亚洲国产成人精品v| 亚洲欧美激情在线| 久久综合国产亚洲精品| 在线观看免费午夜福利视频| 午夜福利在线免费观看网站| 国产日韩欧美亚洲二区| 欧美精品啪啪一区二区三区 | 中文字幕亚洲精品专区| 麻豆乱淫一区二区| 亚洲精品一卡2卡三卡4卡5卡 | 久久国产精品大桥未久av| 每晚都被弄得嗷嗷叫到高潮| 国产成人免费无遮挡视频| 国产一区二区三区av在线| 色94色欧美一区二区| 日韩制服丝袜自拍偷拍| 9191精品国产免费久久| 十分钟在线观看高清视频www| 久久精品国产亚洲av高清一级| 久久久精品免费免费高清| 激情视频va一区二区三区| 在线观看免费高清a一片| 亚洲免费av在线视频| 国产成人精品久久二区二区91| 宅男免费午夜| 91字幕亚洲| 热99国产精品久久久久久7| www.熟女人妻精品国产| 免费观看a级毛片全部| 叶爱在线成人免费视频播放| 日韩精品免费视频一区二区三区| 国产精品国产三级国产专区5o| 亚洲中文日韩欧美视频| 久久久国产一区二区| 成人黄色视频免费在线看| 久久人妻福利社区极品人妻图片 | 亚洲国产av影院在线观看| 满18在线观看网站| 亚洲,欧美,日韩| 精品亚洲乱码少妇综合久久| 亚洲欧美一区二区三区国产| 日日爽夜夜爽网站| 中文精品一卡2卡3卡4更新| 久久精品成人免费网站| 在线天堂中文资源库| 亚洲国产毛片av蜜桃av| 97精品久久久久久久久久精品| 我的亚洲天堂| 菩萨蛮人人尽说江南好唐韦庄| 亚洲av欧美aⅴ国产| 看免费成人av毛片| 欧美精品高潮呻吟av久久| 黄网站色视频无遮挡免费观看| 亚洲成人手机| 熟女少妇亚洲综合色aaa.| 国产精品一国产av| 99国产综合亚洲精品| 久热这里只有精品99| 久久久久久人人人人人| 老司机深夜福利视频在线观看 | 狂野欧美激情性xxxx| 免费人妻精品一区二区三区视频| 黑丝袜美女国产一区| 少妇被粗大的猛进出69影院| 嫩草影视91久久| 一级黄色大片毛片| 亚洲中文日韩欧美视频| 国产人伦9x9x在线观看| 国产97色在线日韩免费| 亚洲人成电影观看| 久久中文字幕一级| 中文字幕人妻丝袜一区二区| 丝袜喷水一区| 韩国高清视频一区二区三区| 国产精品久久久久成人av| 久久人人爽av亚洲精品天堂| 又粗又硬又长又爽又黄的视频| 日韩伦理黄色片| 欧美在线一区亚洲| 国产三级黄色录像| 亚洲人成网站在线观看播放| videos熟女内射| 美女视频免费永久观看网站| 美女国产高潮福利片在线看| 91精品国产国语对白视频| 欧美中文综合在线视频| 国产成人av教育| 最新的欧美精品一区二区| 久久人妻福利社区极品人妻图片 | 多毛熟女@视频| 精品国产一区二区久久| xxx大片免费视频| 午夜免费鲁丝| 成人国语在线视频| 国产精品国产av在线观看| 老司机亚洲免费影院| 精品高清国产在线一区| av天堂久久9| 国产精品免费大片| 国产成人免费观看mmmm| 欧美人与性动交α欧美精品济南到| 人成视频在线观看免费观看| 亚洲精品美女久久av网站| 一区二区日韩欧美中文字幕| av线在线观看网站| 妹子高潮喷水视频| 黄色视频在线播放观看不卡| 国产在视频线精品| av国产精品久久久久影院| 国产片内射在线| 成人三级做爰电影| 一级毛片 在线播放| 精品国产乱码久久久久久小说| 欧美亚洲 丝袜 人妻 在线| 亚洲一码二码三码区别大吗| 午夜福利免费观看在线| 久久久久精品人妻al黑| 国产欧美日韩一区二区三 | 精品久久久精品久久久| 午夜福利视频精品| 中国国产av一级| 激情五月婷婷亚洲| 国产男人的电影天堂91| 久久精品久久久久久噜噜老黄| 成年人黄色毛片网站| 男女边摸边吃奶| 精品福利永久在线观看| 国产成人精品无人区| 大陆偷拍与自拍| 国产精品二区激情视频| 80岁老熟妇乱子伦牲交| 久久国产精品男人的天堂亚洲| av线在线观看网站| 黄色 视频免费看| 亚洲专区国产一区二区| 欧美国产精品va在线观看不卡| 午夜福利视频精品| 日日夜夜操网爽| 国产成人av激情在线播放| 久久ye,这里只有精品| 一本色道久久久久久精品综合| 国产欧美日韩综合在线一区二区| 久久99精品国语久久久| 国产福利在线免费观看视频| 免费观看人在逋| 欧美日韩综合久久久久久| 国产在线视频一区二区| 亚洲精品一二三| 国产精品国产av在线观看| 久久亚洲精品不卡| 一区二区日韩欧美中文字幕| 日韩电影二区| 男人添女人高潮全过程视频| 欧美精品高潮呻吟av久久| 国产一区有黄有色的免费视频| 无遮挡黄片免费观看| 一个人免费看片子| 精品亚洲成a人片在线观看| 国产精品一区二区精品视频观看| 啦啦啦在线免费观看视频4| 国产一区二区 视频在线| 午夜av观看不卡| 男的添女的下面高潮视频| 久久亚洲精品不卡| 日韩精品免费视频一区二区三区| 久久狼人影院| 青春草视频在线免费观看| 天天影视国产精品| 国产真人三级小视频在线观看| videos熟女内射| 精品亚洲成国产av| 97在线人人人人妻| 超碰97精品在线观看| 一区二区三区激情视频| 亚洲专区国产一区二区| 精品少妇一区二区三区视频日本电影| 亚洲精品第二区| 国产日韩欧美视频二区| 一区二区三区激情视频| 麻豆乱淫一区二区| 欧美精品亚洲一区二区| 久久久久国产精品人妻一区二区| 国产精品免费视频内射| 国产精品国产三级国产专区5o| 韩国高清视频一区二区三区| 超碰97精品在线观看| 亚洲人成网站在线观看播放| 大型av网站在线播放| 菩萨蛮人人尽说江南好唐韦庄| 亚洲色图综合在线观看| 性色av一级| 成年动漫av网址| 99精品久久久久人妻精品| 肉色欧美久久久久久久蜜桃| 国产精品九九99| av网站免费在线观看视频| 极品人妻少妇av视频| 国产av国产精品国产| 久久久久久久精品精品| 亚洲国产欧美网| 婷婷色综合www| 欧美日韩黄片免| 熟女av电影| 大陆偷拍与自拍| 日本色播在线视频| 国产视频首页在线观看| 久久人人爽人人片av| 国产亚洲av片在线观看秒播厂| 久久精品aⅴ一区二区三区四区| 久久久国产精品麻豆| bbb黄色大片| xxxhd国产人妻xxx| 欧美日韩精品网址| 无遮挡黄片免费观看| 大话2 男鬼变身卡| 各种免费的搞黄视频| 又黄又粗又硬又大视频| 91成人精品电影| 看十八女毛片水多多多| 美女主播在线视频| 国产一区二区 视频在线| 99久久综合免费| 好男人电影高清在线观看| 亚洲av美国av| 日韩av在线免费看完整版不卡| 国产极品粉嫩免费观看在线| 丰满人妻熟妇乱又伦精品不卡| 男女边吃奶边做爰视频| 曰老女人黄片| 亚洲精品国产区一区二| 国产真人三级小视频在线观看| 熟女av电影| 国产在线视频一区二区| 国产在线视频一区二区| 日本欧美视频一区| 在线观看人妻少妇| 久久精品久久久久久久性| 欧美+亚洲+日韩+国产| 天天躁狠狠躁夜夜躁狠狠躁| 一区福利在线观看| 亚洲,欧美精品.| 亚洲男人天堂网一区| 久久久精品区二区三区| 国产黄色视频一区二区在线观看| √禁漫天堂资源中文www| 激情五月婷婷亚洲| 欧美日韩视频高清一区二区三区二| 美女国产高潮福利片在线看| 人妻人人澡人人爽人人| 亚洲国产欧美网| 国产av国产精品国产| 成人18禁高潮啪啪吃奶动态图| 又粗又硬又长又爽又黄的视频| 中文字幕人妻熟女乱码| 美女主播在线视频| 精品熟女少妇八av免费久了| 91国产中文字幕| 亚洲美女黄色视频免费看| 婷婷色综合大香蕉| 国产国语露脸激情在线看| 激情五月婷婷亚洲| 日韩 亚洲 欧美在线| 日韩欧美一区视频在线观看| 天天操日日干夜夜撸| 亚洲天堂av无毛| 桃花免费在线播放| 午夜激情久久久久久久| 熟女少妇亚洲综合色aaa.| 免费久久久久久久精品成人欧美视频| 亚洲欧洲日产国产| 国产一区二区 视频在线| 日日爽夜夜爽网站| 一本久久精品| 一级黄色大片毛片| 亚洲国产成人一精品久久久| 日韩 欧美 亚洲 中文字幕| 日本91视频免费播放| 久久鲁丝午夜福利片| 国产伦人伦偷精品视频| 日韩av在线免费看完整版不卡| 99香蕉大伊视频| 国产成人91sexporn| 中文字幕色久视频| 日韩中文字幕视频在线看片| 国产亚洲欧美精品永久| 国产男人的电影天堂91| 日本av手机在线免费观看| 日韩免费高清中文字幕av| 少妇 在线观看| 黑人巨大精品欧美一区二区蜜桃| 久久精品熟女亚洲av麻豆精品| tube8黄色片| 欧美日韩综合久久久久久| 亚洲欧洲国产日韩| 精品国产乱码久久久久久小说| 国产成人一区二区三区免费视频网站 | 国产97色在线日韩免费| 丰满人妻熟妇乱又伦精品不卡| 50天的宝宝边吃奶边哭怎么回事| 丁香六月欧美| 又黄又粗又硬又大视频| 五月天丁香电影| 亚洲精品在线美女| 黑人巨大精品欧美一区二区蜜桃| 国产精品香港三级国产av潘金莲 | 精品一区二区三区四区五区乱码 | 高潮久久久久久久久久久不卡| netflix在线观看网站| 亚洲精品第二区| 老熟女久久久| 一区二区日韩欧美中文字幕| 久久精品国产亚洲av涩爱| 亚洲人成77777在线视频| 久久天躁狠狠躁夜夜2o2o | 人妻人人澡人人爽人人| 午夜福利视频在线观看免费| 免费观看av网站的网址| 一本—道久久a久久精品蜜桃钙片| 久久国产精品人妻蜜桃| 9191精品国产免费久久| 波多野结衣av一区二区av| 久久人妻福利社区极品人妻图片 | 久久精品久久久久久久性| 精品一品国产午夜福利视频| av有码第一页| 99国产精品一区二区蜜桃av | 天堂中文最新版在线下载| 香蕉国产在线看| 亚洲精品乱久久久久久| 成人影院久久| 老司机深夜福利视频在线观看 | 中文字幕av电影在线播放| 日韩 亚洲 欧美在线| 精品人妻一区二区三区麻豆| 亚洲,欧美,日韩| 国产成人精品无人区| 国产精品一国产av| 女人精品久久久久毛片| 制服人妻中文乱码| 国语对白做爰xxxⅹ性视频网站| 亚洲五月色婷婷综合| 亚洲国产毛片av蜜桃av| 夫妻性生交免费视频一级片| 男人操女人黄网站| 国产日韩一区二区三区精品不卡| 老司机影院成人| 18禁观看日本| 国产午夜精品一二区理论片| 久久鲁丝午夜福利片| 国产成人精品无人区| 精品久久久久久电影网| 在线观看国产h片| 好男人视频免费观看在线| 午夜激情av网站| 国产在线一区二区三区精| 91麻豆精品激情在线观看国产 | 丝袜美腿诱惑在线| 99香蕉大伊视频| 久久午夜综合久久蜜桃| 国产老妇伦熟女老妇高清| 国产深夜福利视频在线观看| 国产不卡av网站在线观看| 叶爱在线成人免费视频播放| 国产精品偷伦视频观看了| 午夜激情久久久久久久| 啦啦啦视频在线资源免费观看| 秋霞在线观看毛片| 精品视频人人做人人爽| 精品国产乱码久久久久久男人| 欧美日韩福利视频一区二区| 成人影院久久| 热99国产精品久久久久久7| 久久久久久人人人人人| 精品国产一区二区三区四区第35| 色94色欧美一区二区| 十八禁人妻一区二区| 男女边吃奶边做爰视频| 女人久久www免费人成看片| 国产成人影院久久av| 日韩中文字幕视频在线看片| av在线播放精品| 久久久久国产精品人妻一区二区| 欧美在线黄色| 考比视频在线观看| 黄色一级大片看看| 国产熟女午夜一区二区三区| 制服人妻中文乱码| 欧美成人午夜精品| 国产av一区二区精品久久| 欧美激情高清一区二区三区| 女警被强在线播放| 亚洲精品av麻豆狂野| 亚洲精品中文字幕在线视频| 久久av网站| 超色免费av| 免费av中文字幕在线| 不卡av一区二区三区| 国产在线一区二区三区精| 精品久久久久久久毛片微露脸 | 亚洲少妇的诱惑av| 亚洲中文av在线| 制服诱惑二区| 日本av手机在线免费观看| 久久精品久久久久久久性| 尾随美女入室| 久久精品亚洲av国产电影网| 欧美精品av麻豆av| 精品福利观看| 日韩电影二区| 天天躁夜夜躁狠狠久久av| 男女边吃奶边做爰视频| 国产精品一区二区精品视频观看| 在线观看免费视频网站a站| 最近最新中文字幕大全免费视频 | 国产高清视频在线播放一区 | 免费在线观看影片大全网站 | 欧美激情高清一区二区三区| 七月丁香在线播放| netflix在线观看网站| 十八禁高潮呻吟视频| 国产精品av久久久久免费| 99久久精品国产亚洲精品| 男男h啪啪无遮挡| 中文字幕亚洲精品专区| 日韩熟女老妇一区二区性免费视频| 国产国语露脸激情在线看| 丝袜美足系列| 亚洲成人免费av在线播放| 国产免费现黄频在线看| 女人精品久久久久毛片| 女性被躁到高潮视频| 久久精品熟女亚洲av麻豆精品| 亚洲欧美一区二区三区黑人| 国产一区亚洲一区在线观看| 咕卡用的链子| 少妇精品久久久久久久| 中文字幕人妻丝袜制服| 国产男人的电影天堂91| 亚洲欧美中文字幕日韩二区| 国产精品香港三级国产av潘金莲 | 黑人欧美特级aaaaaa片| 亚洲欧美激情在线| 黄色视频不卡| 亚洲av成人精品一二三区| 美女福利国产在线| 亚洲精品中文字幕在线视频| 亚洲国产精品999| 亚洲熟女精品中文字幕| 中文字幕av电影在线播放| 十八禁高潮呻吟视频| 免费观看av网站的网址| 大码成人一级视频| 女性被躁到高潮视频| 国产日韩欧美在线精品| 日韩av不卡免费在线播放| 欧美日本中文国产一区发布| 看十八女毛片水多多多| 首页视频小说图片口味搜索 | av有码第一页| 日韩制服骚丝袜av| 亚洲欧美清纯卡通| 国产主播在线观看一区二区 | 精品久久久精品久久久| 国产在线观看jvid| 欧美精品人与动牲交sv欧美| 伦理电影免费视频| 欧美日韩黄片免| 国产亚洲精品久久久久5区| 一级毛片电影观看| 亚洲精品国产区一区二| 精品久久久久久久毛片微露脸 | 女人久久www免费人成看片| 又大又爽又粗| 精品少妇久久久久久888优播| 18禁观看日本| 交换朋友夫妻互换小说| 亚洲av电影在线观看一区二区三区| 在线亚洲精品国产二区图片欧美| 中文字幕人妻丝袜制服| 夫妻午夜视频| 免费看av在线观看网站| 女人久久www免费人成看片| 女人精品久久久久毛片| 午夜免费成人在线视频| 人人妻人人澡人人爽人人夜夜| 国产亚洲欧美精品永久| 亚洲精品国产区一区二| 国产精品av久久久久免费| 一区二区av电影网| 久久影院123| 晚上一个人看的免费电影| 国产欧美日韩一区二区三 | 亚洲精品国产区一区二| 免费高清在线观看日韩| 男女边吃奶边做爰视频| 国产无遮挡羞羞视频在线观看| 性高湖久久久久久久久免费观看| 十分钟在线观看高清视频www| 久久久久国产精品人妻一区二区| 久久鲁丝午夜福利片| 狂野欧美激情性xxxx| 一区二区三区激情视频| videosex国产| 男女边吃奶边做爰视频| 国产爽快片一区二区三区| 日韩人妻精品一区2区三区| 啦啦啦在线免费观看视频4| 男人添女人高潮全过程视频| 久久九九热精品免费| 一本综合久久免费| 国产又色又爽无遮挡免| 美女主播在线视频| 欧美精品亚洲一区二区| 国产在线免费精品| 一级片'在线观看视频| 国产高清视频在线播放一区 | kizo精华| 老司机午夜十八禁免费视频| 下体分泌物呈黄色| 国产亚洲欧美在线一区二区| 午夜久久久在线观看| 亚洲专区中文字幕在线| 国产女主播在线喷水免费视频网站| 久久综合国产亚洲精品| 91成人精品电影| 免费看十八禁软件| netflix在线观看网站| 亚洲人成网站在线观看播放| 菩萨蛮人人尽说江南好唐韦庄| 国产精品免费视频内射| 看十八女毛片水多多多| 熟女少妇亚洲综合色aaa.| 久久久久久久国产电影| 天天躁夜夜躁狠狠久久av| 亚洲成人手机| 蜜桃在线观看..| 老司机午夜十八禁免费视频| 久久国产精品影院| 狠狠婷婷综合久久久久久88av| 人人妻人人添人人爽欧美一区卜| 国产又爽黄色视频| 欧美日韩一级在线毛片| 久久久久网色| 精品久久久久久久毛片微露脸 | 国产欧美日韩精品亚洲av| 成人三级做爰电影| 三上悠亚av全集在线观看| 人成视频在线观看免费观看| 国产1区2区3区精品| kizo精华| 精品久久蜜臀av无| 亚洲精品国产av蜜桃| 男女边摸边吃奶| 美国免费a级毛片| 女性生殖器流出的白浆| 欧美大码av| 日本欧美视频一区| 中文字幕人妻熟女乱码| 侵犯人妻中文字幕一二三四区| 精品免费久久久久久久清纯 | 亚洲一卡2卡3卡4卡5卡精品中文| 欧美日韩精品网址| 亚洲九九香蕉| av国产精品久久久久影院| 国产主播在线观看一区二区 | 久久精品久久久久久久性| 国产成人精品无人区| 国产片特级美女逼逼视频| 性色av乱码一区二区三区2| 欧美乱码精品一区二区三区| 亚洲av电影在线进入| 在线观看免费高清a一片| 亚洲国产日韩一区二区| 色视频在线一区二区三区| 亚洲国产精品999| 国产日韩一区二区三区精品不卡| 午夜免费男女啪啪视频观看| 日本猛色少妇xxxxx猛交久久| 久久久欧美国产精品| 熟女少妇亚洲综合色aaa.| 国产淫语在线视频| 极品人妻少妇av视频| 老汉色∧v一级毛片| 青草久久国产| 亚洲精品第二区| 中文字幕另类日韩欧美亚洲嫩草| 亚洲,一卡二卡三卡| 久久av网站| av天堂久久9| 欧美黑人精品巨大| 精品久久蜜臀av无| 热99久久久久精品小说推荐| 妹子高潮喷水视频| 男女下面插进去视频免费观看| 精品国产国语对白av| 精品少妇黑人巨大在线播放| 男女高潮啪啪啪动态图| 免费在线观看日本一区| 老熟女久久久| 国产一区亚洲一区在线观看| 久热这里只有精品99| 久久人人爽av亚洲精品天堂| 亚洲av日韩精品久久久久久密 | 国产黄色视频一区二区在线观看| 大香蕉久久成人网| 纯流量卡能插随身wifi吗| e午夜精品久久久久久久| 日韩 欧美 亚洲 中文字幕| www.精华液| 尾随美女入室| 免费一级毛片在线播放高清视频 | 欧美日韩福利视频一区二区| av天堂在线播放|