• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    理解技術(shù)規(guī)制的一般模式:以腦機(jī)接口為例

    2021-08-09 02:09:29胡凌
    東方法學(xué) 2021年4期
    關(guān)鍵詞:生產(chǎn)方式架構(gòu)分配

    胡凌

    內(nèi)容摘要:腦機(jī)接口(BCI)技術(shù)是近年來世界范圍內(nèi)前沿技術(shù)之一,有廣泛應(yīng)用前景。首先,借助生產(chǎn)性的法律理論框架,該種技術(shù)可以作為示例討論法律如何看待通用型技術(shù)帶來的新問題。腦機(jī)接口作為通過有線或無線方式開展人機(jī)交互的技術(shù)實(shí)際上是信息媒介的深層次延伸,進(jìn)一步拓展了基于信息交換的生產(chǎn)方式,將使用者納入生產(chǎn)過程,并在使用者與技術(shù)提供者(平臺(tái))的關(guān)系中,圍繞核心法律概念與制度重新塑造法律關(guān)系,最終確立新型生產(chǎn)方式的合法性。其次,腦機(jī)接口架構(gòu)通過新型基礎(chǔ)設(shè)施建設(shè)成為一個(gè)控制/生產(chǎn)過程,其權(quán)力運(yùn)作的微觀機(jī)制同樣通過“賬戶-數(shù)據(jù)-算法”影響用戶的行為。最后,每一次作為系統(tǒng)性生產(chǎn)方式的技術(shù)興起,都更多地解決了生產(chǎn)要素的創(chuàng)制和流通問題,但對(duì)勞動(dòng)價(jià)值的分配的關(guān)注較為緩慢,BCI提供了反思技術(shù)公共性的機(jī)會(huì)。

    關(guān)鍵詞:腦機(jī)接口 生產(chǎn)方式 架構(gòu) 技術(shù)規(guī)制 分配 算法

    中圖分類號(hào):DF0? 文獻(xiàn)標(biāo)識(shí)碼:A? 文章編號(hào):1674-4039-(2021)04-0038-48

    一、引言

    自從信息技術(shù)普及以來,創(chuàng)業(yè)者不斷投入催生更多“革命性”的技術(shù),例如人工智能、區(qū)塊鏈、虛擬現(xiàn)實(shí)、數(shù)字孿生、腦機(jī)接口等,并吸引相當(dāng)多的投資進(jìn)行研發(fā)與推廣,也不斷引發(fā)法律和倫理思考。按照法學(xué)思維的一般路徑,研究者會(huì)謹(jǐn)慎評(píng)估該種技術(shù)的應(yīng)用,對(duì)技術(shù)使用過程中出現(xiàn)的問題嘗試在現(xiàn)有法律框架下進(jìn)行解釋和解決。例如,通過設(shè)定外部技術(shù)標(biāo)準(zhǔn)、監(jiān)管使用場(chǎng)景或通過用戶協(xié)議自治的方式進(jìn)行分析。這一思路容易忽視某種通用性技術(shù)帶來的社會(huì)生產(chǎn)問題,即如果一種技術(shù)不僅是可以隨意裝卸分拆單一功能的物品,還可以是以通用功能構(gòu)成使用者活動(dòng)于其中的系統(tǒng),并不斷在系統(tǒng)中通過信息反饋而組織行為主體進(jìn)行價(jià)值生產(chǎn)的活動(dòng),那么對(duì)于技術(shù)的監(jiān)管就不能單純集中在其本身的設(shè)計(jì)和標(biāo)準(zhǔn)上,而是涉及生產(chǎn)方式和生產(chǎn)關(guān)系等更為核心和實(shí)質(zhì)的問題。

    在諸多新技術(shù)不斷興起的時(shí)代,筆者意在基于經(jīng)驗(yàn)理解法律如何一般性地回應(yīng)通用性技術(shù)帶來的新問題,并進(jìn)行研究路徑的反思。鑒于已經(jīng)有大量研究圍繞人工智能、區(qū)塊鏈、虛擬現(xiàn)實(shí)等技術(shù)應(yīng)用的規(guī)制進(jìn)行了分析, 〔1 〕筆者試圖選取一個(gè)尚未進(jìn)入主流法學(xué)研究者視野的,但在神經(jīng)醫(yī)學(xué)和生物工程領(lǐng)域中研發(fā)較為活躍且有廣泛應(yīng)用前景的技術(shù)——腦機(jī)接口(Brain Computer Interface,BCI),以此為例作進(jìn)一步思考。目前,選擇這一技術(shù)進(jìn)行討論顯然存在風(fēng)險(xiǎn):如果以悲觀態(tài)度討論,容易被詬病為外行,在某種技術(shù)尚未成熟的情況下就進(jìn)行非專業(yè)判斷、夸大技術(shù)風(fēng)險(xiǎn),甚至可能影響技術(shù)發(fā)展,而容易忽視其重要社會(huì)價(jià)值,事實(shí)上大量技術(shù)的使用都是“先興起,后治理”;如果以樂觀態(tài)度討論,又會(huì)被批評(píng)對(duì)尚未發(fā)生(也無法預(yù)測(cè)是否可能發(fā)生)的未來場(chǎng)景進(jìn)行幻想,而法學(xué)研究往往是經(jīng)驗(yàn)性的,現(xiàn)在少有直接經(jīng)驗(yàn)可借鑒;更不用說直接會(huì)被批評(píng)為僅僅是在蹭熱點(diǎn),而相關(guān)討論很快就伴隨技術(shù)的不斷更新或場(chǎng)景的碎片化而消失,無法積累有意義的知識(shí)。此外,在腦機(jī)接口發(fā)展早期,很多時(shí)候倫理問題顯得較為突出,科技倫理研究者傾向從安全風(fēng)險(xiǎn)、自由意志、身份認(rèn)同、隱私、公平等角度進(jìn)行討論, 〔2 〕而法律尚無法給出普遍性回應(yīng),最多只能在發(fā)生糾紛時(shí)進(jìn)行個(gè)案處理,這也給目前深入開展法律研究帶來了困難。然而,選取腦機(jī)接口切入討論一般性法律理論問題也有優(yōu)勢(shì),這不僅可以在技術(shù)開發(fā)之初未雨綢繆,更重要的是,可以通過腦機(jī)接口展示出通用性技術(shù)的潛能,與現(xiàn)有關(guān)于其他在先的信息技術(shù)核心問題討論結(jié)合起來,進(jìn)而推進(jìn)我們對(duì)從網(wǎng)絡(luò)法到人工智能法等學(xué)科領(lǐng)域的連續(xù)性觀察,提煉核心的法律理論問題域,而這些問題雖然在過去二十多年中逐漸穩(wěn)定成型,卻較少有系統(tǒng)性分析。有必要把互聯(lián)網(wǎng)發(fā)展以來的技術(shù)應(yīng)用與規(guī)制模式進(jìn)行總結(jié),嘗試應(yīng)用至新興技術(shù)中,及早發(fā)現(xiàn)既有模式存在的問題并加以改進(jìn)。

    腦機(jī)接口是指在人或動(dòng)物腦(或者腦細(xì)胞的培養(yǎng)物)與計(jì)算機(jī)或其他電子設(shè)備之間建立的不依賴常規(guī)大腦信息輸出通路(外周神經(jīng)和肌肉組織)的一種全新通訊和控制技術(shù)。〔3 〕它可以在概念上進(jìn)行狹義與廣義的區(qū)分,前者指僅限于作用在顱骨周圍的腦機(jī)接口技術(shù)、裝置和系統(tǒng),而后者包括“人工耳蝸”“人工視網(wǎng)膜”和“人工視覺”等信息輸入系統(tǒng)?!? 〕從接口對(duì)人腦的進(jìn)入程度看,腦機(jī)接口按照風(fēng)險(xiǎn)高低可以分為“侵入式”“半侵入式”和“非侵入式”,目前的實(shí)驗(yàn)研究主要集中在“半侵入式”和“非侵入式”。腦機(jī)接口從20世紀(jì)中期開始得到研發(fā),目前發(fā)展迅速,在生物醫(yī)學(xué)、教育、游戲、軍事應(yīng)用等領(lǐng)域的潛在應(yīng)用十分廣泛?!? 〕雖然從目前應(yīng)用場(chǎng)景看這仍然是圍繞單一功能展開的技術(shù),未來可能會(huì)進(jìn)一步擴(kuò)展至更多領(lǐng)域?!? 〕筆者并不試圖(也沒有能力)面面俱到地設(shè)計(jì)在那些尚未發(fā)生的領(lǐng)域中的法律回應(yīng)與監(jiān)管措施,也無意替代未來立法者進(jìn)行基于大量專業(yè)信息的判斷,而仍然是從已有技術(shù)進(jìn)展水平和法律理論框架為出發(fā)點(diǎn)展開討論,將腦機(jī)接口置于生產(chǎn)性的法律理論中觀察其可能的特殊性,分析其是否能夠延伸這一理論框架。從這個(gè)意義上講,筆者既是展望式的,也是經(jīng)驗(yàn)性的,甚至對(duì)技術(shù)應(yīng)用的理解是膚淺的和暫時(shí)性的,但希望通過現(xiàn)有問題意識(shí)對(duì)腦機(jī)接口進(jìn)行透視,理解技術(shù)想要什么,期待未來的政策與制度設(shè)計(jì)能夠回應(yīng)現(xiàn)有框架提出的理論問題。

    生產(chǎn)性的法律理論源于信息技術(shù)帶來的新的生產(chǎn)方式再造,并不斷影響作為上層建筑的法律與知識(shí)生產(chǎn)。信息技術(shù)不僅是一種專用技術(shù)性物品,還是一種服務(wù),它通過特定媒介演化成生產(chǎn)組織,通過對(duì)虛擬“架構(gòu)”的創(chuàng)設(shè)而擁有自身獨(dú)立的利益主張。〔7 〕腦機(jī)接口作為通過有線或無線方式開展人機(jī)交互的技術(shù),實(shí)際上是信息媒介的深層次延伸,進(jìn)一步拓展了基于信息交換的生產(chǎn)方式,將使用者納入生產(chǎn)過程,并在使用者與技術(shù)提供者(平臺(tái))的關(guān)系中圍繞核心法律概念與制度重新塑造法律關(guān)系,最終確立新型生產(chǎn)方式的合法性。筆者將按照如下順序展開討論:第二部分在介紹腦機(jī)接口相關(guān)觀念和發(fā)展過程的基礎(chǔ)上區(qū)分作為單一工具性技術(shù)和通用系統(tǒng)性技術(shù)的腦機(jī)接口,認(rèn)為該種技術(shù)和人工智能技術(shù)一樣,在經(jīng)過“非法興起”后,其大量應(yīng)用和功能可以嫁接在現(xiàn)有平臺(tái)經(jīng)濟(jì)模式中,從而置于生產(chǎn)性的法律理論框架下分析,特別是該技術(shù)會(huì)進(jìn)一步創(chuàng)設(shè)出新的虛擬架構(gòu),要求特定法律制度發(fā)生改變。第三部分詳細(xì)討論BCI架構(gòu)如何通過新型基礎(chǔ)設(shè)施建設(shè)成為一個(gè)控制/生產(chǎn)過程,其權(quán)力運(yùn)作的微觀機(jī)制同樣通過“賬戶-數(shù)據(jù)-算法”影響用戶的行為。第四部分在綜合歷史上各種信息技術(shù)發(fā)展實(shí)踐的基礎(chǔ)上,對(duì)法律如何規(guī)制技術(shù)的路徑進(jìn)行反思,認(rèn)為每一次作為系統(tǒng)性生產(chǎn)方式的技術(shù)興起,都更多地解決了生產(chǎn)要素的創(chuàng)制和流通問題,但對(duì)勞動(dòng)價(jià)值分配的關(guān)注較為緩慢,腦機(jī)接口提供了反思技術(shù)公共性的機(jī)會(huì)。

    二、從單一技術(shù)到生產(chǎn)方式變革

    (一)技術(shù)原理與法律想象

    腦機(jī)接口技術(shù)最初源于腦科學(xué)研究,并迅速擴(kuò)展至相關(guān)交叉學(xué)科領(lǐng)域,被認(rèn)為是21世紀(jì)充滿前景的技術(shù)之一,也是國家之間技術(shù)競(jìng)爭(zhēng)的重要面向。從2016年起我國啟動(dòng)“腦計(jì)劃”,次年“腦科學(xué)和類腦研究”被列入《“十三五”國家基礎(chǔ)研究專項(xiàng)規(guī)劃》,其核心問題包括腦與認(rèn)知、腦機(jī)智能和腦的健康等。美國政府在1989年提出全國性腦科學(xué)計(jì)劃, 〔8 〕2013年提出“白宮腦計(jì)劃”,目的是探索人類大腦工作機(jī)制,繪制腦活動(dòng)全圖,推動(dòng)神經(jīng)科學(xué)研究,針對(duì)目前無法治愈的大腦疾病開發(fā)新療法。美國軍方也十分重視腦機(jī)接口的創(chuàng)新研究及其在醫(yī)療、軍事上的領(lǐng)域的應(yīng)用,探索神經(jīng)控制和恢復(fù)、腦機(jī)接口與外骨骼機(jī)器人、無人機(jī)、無人車等設(shè)備的聯(lián)用等,以研發(fā)醫(yī)療救治和康復(fù)新途徑、增強(qiáng)和開拓腦功能和人體效能、拓展訓(xùn)練方式和作戰(zhàn)環(huán)境。〔9 〕2013年,歐盟啟動(dòng)了規(guī)劃周期為10年的歐盟腦計(jì)劃,包含12個(gè)子項(xiàng)目,側(cè)重研究超級(jí)計(jì)算機(jī)技術(shù)來模擬腦功能。〔10 〕

    從技術(shù)原理看,腦機(jī)接口通過信號(hào)采集設(shè)備從大腦皮層采集腦電信號(hào),經(jīng)過放大、濾波、A/D轉(zhuǎn)換等處理轉(zhuǎn)換為可以被計(jì)算機(jī)識(shí)別的信號(hào),然后對(duì)信號(hào)進(jìn)行預(yù)處理,提取特征信號(hào),再利用這些特征進(jìn)行模式識(shí)別,最后轉(zhuǎn)化為控制外部設(shè)備的具體指令,實(shí)現(xiàn)對(duì)外部設(shè)備的控制。典型的腦機(jī)接口系統(tǒng)主要包括信號(hào)采集、信號(hào)處理、控制設(shè)備和反饋四個(gè)部分。其中信號(hào)處理包括神經(jīng)信息的預(yù)處理、特征提取、特征分類三個(gè)環(huán)節(jié)?!?1 〕如果將該過程與現(xiàn)有通過智能終端進(jìn)行信息生產(chǎn)與反饋的過程相比,就會(huì)發(fā)現(xiàn)在抽象意義上它們都是一個(gè)信息控制的閉環(huán)系統(tǒng),只是腦機(jī)接口會(huì)更加個(gè)人化和精細(xì)化,甚至可能提供因人而異的信息反饋。

    與人工智能一樣,腦機(jī)接口的開發(fā)與媒介形象也經(jīng)歷了不同的社會(huì)想象。〔12 〕如果放在人機(jī)交互的控制論背景下就不難發(fā)現(xiàn),腦機(jī)接口不過是人機(jī)共生系統(tǒng)“賽博格”(cyborg)最前沿的表現(xiàn)方式,其理念早已出現(xiàn)在科幻文學(xué)和影視作品中?!?3 〕人腦通過機(jī)器實(shí)現(xiàn)遠(yuǎn)程控制,并能夠?qū)⒁庾R(shí)轉(zhuǎn)化為更加具象的形態(tài),進(jìn)而在更加自由和解放的“賽博空間”(cyberspace)中不受約束地活動(dòng)。這種想象和新自由主義思潮下商業(yè)力量對(duì)國家監(jiān)管的排斥一脈相承,并最終形成了我們目前看到的全球互聯(lián)網(wǎng)。其后不論是虛擬現(xiàn)實(shí)、人工智能、加密貨幣,還是腦機(jī)接口,都可以追溯到早期這種無政府主義意識(shí)形態(tài)?!?4 〕由于文藝作品的廣泛普及又會(huì)使公眾對(duì)腦機(jī)接口的出現(xiàn)不會(huì)感到極端恐慌或反感,從而為其未來的大規(guī)模應(yīng)用逐漸打下社會(huì)認(rèn)知基礎(chǔ)。

    一般而言,法律處理新興技術(shù)問題的方式往往是放在現(xiàn)有法律框架下進(jìn)行解釋和延伸,以確保法律體系本身的完整性(例如將虛擬物品解釋為財(cái)產(chǎn),將網(wǎng)約車解釋為出租車),但也會(huì)受到一般社會(huì)大眾想象的影響,作出不符合當(dāng)下認(rèn)知和法律規(guī)則的判斷(例如,將人工智能體解釋為法律主體,進(jìn)而擁有各類擬制權(quán)利)。類似地,早期腦機(jī)接口可能停留在純粹醫(yī)學(xué)和健康領(lǐng)域,無法影響大眾的普遍認(rèn)知,而一旦和現(xiàn)有各類虛擬服務(wù)相結(jié)合大規(guī)模推廣至社會(huì),就會(huì)重新以增強(qiáng)用戶控制力和體驗(yàn)、去中心化服務(wù)或宣稱創(chuàng)設(shè)一個(gè)更美好的虛擬世界等名義出現(xiàn)。互聯(lián)網(wǎng)興起的經(jīng)驗(yàn)告訴我們,以信息自由流通名義出現(xiàn)的信息技術(shù)創(chuàng)設(shè)出的虛擬“架構(gòu)”往往在微觀上對(duì)用戶行為形成更加深入地控制?!?5 〕

    目前,我國法律并沒有特別針對(duì)此類技術(shù)進(jìn)行規(guī)范,重要的法律理論問題是:法律在多大程度上能夠準(zhǔn)確回應(yīng)技術(shù)及商業(yè)應(yīng)用想要什么,如何通過不同的法律關(guān)系掩蓋或揭示其背后的價(jià)值生產(chǎn)過程。首先,腦機(jī)接口看起來是一種單一的醫(yī)療康復(fù)技術(shù),更接近于一般的醫(yī)療器械和健康監(jiān)測(cè)終端,它可以從神經(jīng)層面觸發(fā)和修正人腦特定功能的運(yùn)作,從而潛在地取代其他人類器官的交流輔助功能?!?6 〕這種技術(shù)對(duì)感官殘疾患者是一個(gè)福音,一旦成熟也可以進(jìn)一步擴(kuò)展至普通人,即允許他們通過腦機(jī)接口分析其腦信號(hào),進(jìn)而以意念的方式在虛擬空間中操縱和實(shí)現(xiàn)特定服務(wù)。其次,如果初級(jí)階段的腦機(jī)接口延伸到諸如虛擬現(xiàn)實(shí)環(huán)境下的娛樂和內(nèi)容產(chǎn)業(yè)中,就不難看出其重點(diǎn)在于以更加便捷的方式使用戶進(jìn)入服務(wù)領(lǐng)域,擺脫感官和四肢的操控。由此,腦機(jī)接口就成為一種媒介和入口,在特定應(yīng)用程序中實(shí)現(xiàn)中介的功能。最后,一旦用戶開始習(xí)慣通過這種方式接入互聯(lián)網(wǎng),就可以沿用傳統(tǒng)商業(yè)模式開展創(chuàng)新,這體現(xiàn)出腦機(jī)接口還將成為一個(gè)進(jìn)入系統(tǒng)性的生產(chǎn)組織的連接點(diǎn),只有通過雙邊市場(chǎng)模式才能調(diào)動(dòng)各類社會(huì)化資源和市場(chǎng)要素并通過平臺(tái)化進(jìn)行精確匹配。〔17 〕不同層次的視角有助于提前預(yù)判腦機(jī)接口服務(wù)可能使用的各類流行話術(shù),并以完全不同的法律關(guān)系看待它:(1)技術(shù)中立,主張腦機(jī)接口僅僅是一個(gè)接口、管道或信息中介,起到連接器的功能;(2)用戶自由和解放,主張用戶可以將雙手和五官解放出來,并通過大腦開發(fā)無限功能和創(chuàng)意;(3)控制,主張用戶擁有對(duì)技術(shù)使用的控制能力,更加便利。它們都可能掩蓋其背后通過生產(chǎn)性平臺(tái)進(jìn)行的生產(chǎn)組織活動(dòng),以及對(duì)用戶活動(dòng)空間的壓縮。

    由此看來,表面上單一的技術(shù)可能本質(zhì)上是生產(chǎn)組織,進(jìn)而為通過此類技術(shù)進(jìn)行的行為承擔(dān)不同類型的責(zé)任。如果說以往的法律研究更傾向?qū)⒓夹g(shù)看成是可以獨(dú)立存在并交由用戶進(jìn)行自主使用的物品,那么當(dāng)人們一旦認(rèn)識(shí)到技術(shù)本身通過商業(yè)模式可以包裝成服務(wù),并以低成本獲取使用服務(wù)的信息,逐漸引導(dǎo)和動(dòng)員用戶進(jìn)行更有效率的價(jià)值生產(chǎn)活動(dòng),并最終通過商品化過程獲利,形成一個(gè)有效信息閉環(huán)時(shí),那就可以說通用型技術(shù)是一種生產(chǎn)方式和組織形式,能夠有效地動(dòng)員生產(chǎn)、調(diào)配生產(chǎn)要素。通常我們強(qiáng)調(diào)技術(shù)創(chuàng)新僅僅局限于特定種類的工具性發(fā)明創(chuàng)造,而技術(shù)背后的模式創(chuàng)新則將具體技術(shù)嵌入到無處不在的服務(wù)過程中。

    (二)理論框架:生產(chǎn)性的法律

    鑒于我們對(duì)人腦的認(rèn)識(shí)仍在不斷深化,腦機(jī)接口何時(shí)能否成為一種通用型技術(shù),筆者尚無法預(yù)測(cè)。從法律視角而言,最好避免對(duì)某種無法預(yù)料的指數(shù)型技術(shù)創(chuàng)新進(jìn)行過早判斷(例如,何時(shí)從弱人工智能實(shí)現(xiàn)強(qiáng)人工智能,到達(dá)“奇點(diǎn)”),而是關(guān)注當(dāng)下的實(shí)際問題。事實(shí)上,法律并不特別關(guān)注單一功能的特定技術(shù)的外部性問題,它們可以在風(fēng)險(xiǎn)評(píng)估基礎(chǔ)上事前設(shè)定技術(shù)和質(zhì)量標(biāo)準(zhǔn)、事后進(jìn)行侵權(quán)損害賠償救濟(jì)得到解決?!?8 〕只有當(dāng)腦機(jī)接口成為構(gòu)成系統(tǒng)性信息反饋與控制的技術(shù),并嫁接在現(xiàn)有平臺(tái)商業(yè)模式之上,才會(huì)引發(fā)法律體系的廣泛調(diào)整,形成具有特定內(nèi)核的規(guī)則集群。從這個(gè)意義上說,法律更容易受特定技術(shù)的使用和擴(kuò)散過程的影響,特別是當(dāng)這一過程能夠體現(xiàn)并擴(kuò)展為普遍性的生產(chǎn)方式時(shí)。這表明,法律除了對(duì)社會(huì)主體進(jìn)行行為控制和調(diào)整預(yù)期的基本功能外,還有重要的生產(chǎn)性的面向,作為上層建筑需要在深層次上對(duì)新型生產(chǎn)方式和生產(chǎn)關(guān)系進(jìn)行回應(yīng),能夠起到推動(dòng)先進(jìn)生產(chǎn)力發(fā)展的功能。人工智能技術(shù)的廣泛應(yīng)用已經(jīng)證明了這一點(diǎn),以單一功能視角孤立地看待某種智能終端不足以認(rèn)識(shí)其背后主導(dǎo)和組織經(jīng)濟(jì)活動(dòng)的力量,因此需要將智能算法嵌入數(shù)字平臺(tái)的自動(dòng)化生產(chǎn)過程進(jìn)行考察?!?9 〕

    當(dāng)一種新型生產(chǎn)方式興起的時(shí)候,就會(huì)涉及誰在生產(chǎn)、生產(chǎn)什么、如何生產(chǎn)、如何分配等基礎(chǔ)問題,法律必須對(duì)這些問題作出回應(yīng),否則該種生產(chǎn)方式可能處于“非法”狀態(tài),無法穩(wěn)定,并會(huì)持續(xù)給社會(huì)和市場(chǎng)秩序帶來影響?;ヂ?lián)網(wǎng)的早期歷史表明,“非法興起”對(duì)低成本獲取生產(chǎn)要素以便形成新商業(yè)模式至關(guān)重要, 〔20 〕這一過程在隨后的移動(dòng)互聯(lián)網(wǎng)階段不斷出現(xiàn),如分享經(jīng)濟(jì)、人工智能、區(qū)塊鏈和無人駕駛等模式和技術(shù)創(chuàng)新都或多或少經(jīng)歷了這一過程。〔21 〕類似地,腦機(jī)接口技術(shù)一旦成熟,廣泛應(yīng)用最便利的方式就是逐步嵌入已有互聯(lián)網(wǎng)服務(wù)的場(chǎng)景中,并通過特殊的硬件和軟件重新創(chuàng)設(shè)新的虛擬空間入口,或者整合進(jìn)現(xiàn)有信息基礎(chǔ)設(shè)施當(dāng)中加以適當(dāng)改造。對(duì)腦機(jī)接口服務(wù)提供者而言,仍可能會(huì)按照既有免費(fèi)與補(bǔ)貼的商業(yè)模式對(duì)該種技術(shù)進(jìn)行推廣,以便低成本獲取大量人腦腦波信息,培育開發(fā)相關(guān)智能算法,并盡可能以低成本獲取生產(chǎn)資料,盜版、侵權(quán)、不正當(dāng)競(jìng)爭(zhēng)也會(huì)不斷發(fā)生,直至這一新型生產(chǎn)方式擁有足夠多的流量、趨于穩(wěn)定并與既有平臺(tái)開展合作。

    生產(chǎn)性的法律理論認(rèn)為,法律對(duì)系統(tǒng)性技術(shù)變革回應(yīng)的方式往往通過兩個(gè)方面展開:(1)確認(rèn)新興技術(shù)合法性;(2)協(xié)調(diào)新舊生產(chǎn)組織利益沖突。這一過程包含對(duì)新型生產(chǎn)方式、生產(chǎn)工具、生產(chǎn)過程和生產(chǎn)關(guān)系等問題的全面審視。應(yīng)該認(rèn)識(shí)到,對(duì)于特定技術(shù)而言,生產(chǎn)方式視角意味著超越使用者—工具的關(guān)系,而是看到使用者如何被一種外在權(quán)力機(jī)制納入一整套系統(tǒng)中,系統(tǒng)權(quán)力通過微觀機(jī)制展示出來并影響人的行為。一旦確立了合法性,體現(xiàn)新生產(chǎn)方式和內(nèi)容的法律體系才會(huì)逐漸擴(kuò)展趨于穩(wěn)定。

    法律在確認(rèn)這一過程合法性的時(shí)候,逐漸形成和保護(hù)“架構(gòu)”這種主要通過技術(shù)和商業(yè)模式建構(gòu)起來的利益形態(tài)。〔22 〕架構(gòu)本質(zhì)上是通過信息生產(chǎn)、收集、儲(chǔ)存、加工、分析、反饋等活動(dòng)產(chǎn)生衍生的集合性價(jià)值的閉環(huán)控制系統(tǒng),也代表了新型權(quán)力的運(yùn)作方式。用戶在特定架構(gòu)中注冊(cè)獨(dú)一無二的賬戶,形成虛擬身份進(jìn)行在線活動(dòng),無論是在架構(gòu)內(nèi)生產(chǎn)的內(nèi)容數(shù)據(jù)還是其活動(dòng)的元數(shù)據(jù)都可以被追蹤,并通過各種算法集中分析,形成更為多元的數(shù)字身份,進(jìn)而在不同場(chǎng)景下通過評(píng)分、推薦等方式刺激用戶進(jìn)一步按照架構(gòu)的目標(biāo)開展活動(dòng)。不難看出,腦機(jī)接口架構(gòu)作為一種新型信息控制系統(tǒng)實(shí)際上也是按照這一邏輯發(fā)揮其功能的:用戶需要以真實(shí)身份注冊(cè)賬戶以使用腦機(jī)接口,并通過大腦電信號(hào)發(fā)出指令,機(jī)器通過算法模式識(shí)別腦波后實(shí)現(xiàn)架構(gòu)中的特定功能操作,并積累行為數(shù)據(jù)。這無論在速度上還是效能上都可能超過傳統(tǒng)上通過肢體或語音等方式進(jìn)行人機(jī)交互的方式,從而大大便利了價(jià)值生產(chǎn)。

    (三)腦機(jī)接口架構(gòu)想要什么

    從歷史上看,任何一種生產(chǎn)性的系統(tǒng)技術(shù)都會(huì)依托于現(xiàn)有商業(yè)模式進(jìn)行迅速擴(kuò)張,但其基本原理沒有顯著變化,即試圖對(duì)社會(huì)主體進(jìn)行認(rèn)證,創(chuàng)制出新型生產(chǎn)空間,并以低成本組織他們進(jìn)行生產(chǎn)活動(dòng)??臻g的創(chuàng)制是系統(tǒng)技術(shù)的精髓,依賴于使用對(duì)用戶持續(xù)而低成本追蹤的技術(shù),也便利了生產(chǎn)要素的流動(dòng)性。一旦架構(gòu)開始形成,就需要通過技術(shù)、商業(yè)模式和法律不斷保護(hù)其逐漸擴(kuò)張但封閉的邊界。實(shí)際上,架構(gòu)本身也要求在確立自身地位的同時(shí)改變某些法律關(guān)系的適用,主張自己是反映舊生產(chǎn)關(guān)系法律規(guī)則的“例外”,一旦這一非法興起過程完成,這些例外就迅速變成常態(tài)和默認(rèn)設(shè)置,新的規(guī)則和生產(chǎn)秩序會(huì)逐漸穩(wěn)定。

    基于過去二十余年的歷史經(jīng)驗(yàn)總結(jié),生產(chǎn)性系統(tǒng)技術(shù)形成的架構(gòu)從以下幾個(gè)方面不斷要求法律進(jìn)行相應(yīng)調(diào)整,以維護(hù)架構(gòu)本身的權(quán)益,但法律內(nèi)容本身并沒有明顯改變: 〔23 〕①數(shù)字身份:要求通過賬戶為用戶創(chuàng)設(shè)虛擬身份,在架構(gòu)中持續(xù)追蹤賬戶行為,不斷識(shí)別用戶的真實(shí)性和唯一性,確保賬戶追蹤的精準(zhǔn)和管理便利。②虛擬財(cái)產(chǎn):要求用戶只能使用特定服務(wù)中的虛擬道具或裝備,未經(jīng)許可不得轉(zhuǎn)讓或處分,用戶僅能獲得一種有限的使用權(quán)而非絕對(duì)所有權(quán)。③知識(shí)財(cái)產(chǎn):要求用戶在架構(gòu)中的公開區(qū)域生產(chǎn)的信息內(nèi)容授權(quán)架構(gòu)以非排他、永久且免費(fèi)的使用權(quán);用戶無權(quán)改造或破解下載到個(gè)人電腦上的終端軟件架構(gòu)(如添加外掛)。④個(gè)人信息:要求用戶在架構(gòu)內(nèi)的一切行為數(shù)據(jù)會(huì)被記錄和分析,以滿足特定商業(yè)模式(如定向廣告),或者改進(jìn)服務(wù)(如個(gè)性化推薦)。⑤勞動(dòng):要求用戶和平臺(tái)之間是使用、合作關(guān)系,而非勞動(dòng)關(guān)系,因此靈活勞動(dòng)者無法依照勞動(dòng)合同法要求平臺(tái)承擔(dān)雇主責(zé)任,也不享有勞動(dòng)法規(guī)定的各項(xiàng)基本權(quán)利。⑥秩序管理:架構(gòu)有權(quán)對(duì)用戶的不當(dāng)行為和言論進(jìn)行一定程度的管理,防止競(jìng)爭(zhēng)對(duì)手入侵架構(gòu)進(jìn)行不正當(dāng)競(jìng)爭(zhēng)。

    按照這些主張,我們也可以根據(jù)腦機(jī)接口技術(shù)的特殊性合乎邏輯地推導(dǎo)出腦機(jī)接口架構(gòu)需要法律進(jìn)行何種改變以確保其生產(chǎn)性權(quán)益: 〔24 〕①唯一身份:為用戶創(chuàng)設(shè)唯一真實(shí)的賬戶,用戶特定區(qū)域的腦波可以被用來形成唯一獨(dú)特的身份,使用腦機(jī)接口的過程既是真實(shí)身份創(chuàng)設(shè)和認(rèn)證過程,也是多元身份創(chuàng)設(shè)和識(shí)別過程。②虛擬財(cái)產(chǎn):用戶通過腦機(jī)接口在架構(gòu)中生成的信息以非排他、永久、免費(fèi)的方式授權(quán)給服務(wù)提供者,形成集合性價(jià)值,但無權(quán)處分架構(gòu)中提供的虛擬物品,僅能使用。③個(gè)人信息:通過算法解讀出的人腦電信號(hào)屬于個(gè)人敏感信息,需要用戶明確授權(quán)同意使用,以不斷改進(jìn)服務(wù)體驗(yàn),但會(huì)通過去標(biāo)識(shí)化技術(shù)降低隱私泄露風(fēng)險(xiǎn)。④知識(shí)財(cái)產(chǎn):用戶不得嘗試自行破解相關(guān)硬件或軟件進(jìn)行自我調(diào)整,需要根據(jù)腦機(jī)接口服務(wù)提供者的指引進(jìn)行使用,否則可能侵犯相關(guān)知識(shí)產(chǎn)權(quán),并自行承擔(dān)所有可能的安全風(fēng)險(xiǎn)。⑤算法黑箱:用于識(shí)別用戶腦信號(hào)的算法是一項(xiàng)服務(wù),可以以可視化的方式向用戶展示部分功能,或通過服務(wù)人員加以解釋,腦機(jī)接口服務(wù)提供者有權(quán)隨時(shí)進(jìn)行更新和調(diào)整,但算法代碼本身不向用戶及公眾披露。⑥行為規(guī)制:用戶腦波一旦被算法解讀,形成可供識(shí)別的外在行為或操作過程,就不再是用戶思想的一部分,因此需要對(duì)其后果負(fù)責(zé),平臺(tái)有權(quán)對(duì)用戶行為基于信息安全或市場(chǎng)秩序而進(jìn)行管理。⑦合同關(guān)系:用戶與腦機(jī)接口服務(wù)提供者的法律關(guān)系按照用戶協(xié)議性質(zhì)不同分為合作關(guān)系或技術(shù)服務(wù)使用關(guān)系,腦機(jī)接口僅僅是一種技術(shù)接口,并非勞動(dòng)活動(dòng)的組織者。⑧商業(yè)模式:用戶需要容忍定向廣告等基于用戶個(gè)人特征的自動(dòng)推送的服務(wù),不得使用第三方工具屏蔽。⑨競(jìng)爭(zhēng)秩序:在腦機(jī)接口架構(gòu)非法興起過程中,要求法律確認(rèn)適用既有法律的特殊性和例外性,保護(hù)其創(chuàng)新地位,但不允許后續(xù)競(jìng)爭(zhēng)者以同樣方式獲取架構(gòu)內(nèi)的數(shù)據(jù)、內(nèi)容和流量,以維護(hù)架構(gòu)的封閉性。

    需要再次強(qiáng)調(diào),筆者無法設(shè)計(jì)腦機(jī)接口服務(wù)場(chǎng)景及具體的用戶協(xié)議內(nèi)容,但基于已有的生產(chǎn)性架構(gòu)實(shí)踐,完全可以合理推斷出腦機(jī)接口架構(gòu)會(huì)延續(xù)已有法律對(duì)平臺(tái)經(jīng)濟(jì)合法性的確認(rèn)需求。只有先解決了生產(chǎn)行為的合法性,才可能進(jìn)一步討論更為具體的穩(wěn)定狀態(tài)下的法律問題。

    三、腦機(jī)接口架構(gòu)的微觀機(jī)制

    本部分將進(jìn)一步討論腦機(jī)接口架構(gòu)中的微觀控制和生產(chǎn)機(jī)制,試圖理解圍繞這種新型技術(shù)的法律結(jié)構(gòu)如何展開。這一新型架構(gòu)起作用的方式會(huì)延續(xù)以往互聯(lián)網(wǎng)宏觀架構(gòu)的構(gòu)成,并繼續(xù)通過“賬戶-算法-數(shù)據(jù)”的微觀結(jié)構(gòu)對(duì)使用者發(fā)生作用,最終通過其他配套的信息基礎(chǔ)設(shè)施進(jìn)行擴(kuò)展。〔25 〕例如,腦機(jī)接口可以接入現(xiàn)有在線視頻、游戲或自動(dòng)駕駛服務(wù),通過特定終端硬件或軟件與虛擬現(xiàn)實(shí)技術(shù)結(jié)合在一起提供網(wǎng)絡(luò)服務(wù),不斷延伸至各類場(chǎng)景。

    (一)通過賬戶的認(rèn)證

    在虛擬空間中實(shí)現(xiàn)對(duì)使用者的身份認(rèn)證已經(jīng)成為網(wǎng)絡(luò)治理的重要環(huán)節(jié)?!?6 〕賬戶是賽博空間與現(xiàn)實(shí)世界的連接點(diǎn),用戶通過用戶名與密碼進(jìn)行登錄,以唯一賬戶身份行動(dòng)。通過對(duì)用戶真實(shí)身份的認(rèn)證,可以最終定位到具體個(gè)人,也可以持續(xù)在架構(gòu)中追蹤用戶,積累數(shù)據(jù)并畫像,進(jìn)而生成多元的社會(huì)身份。由此賬戶就成了具有獲取在線服務(wù)權(quán)利的個(gè)人化權(quán)限和資質(zhì)。平臺(tái)企業(yè)有能力進(jìn)一步將用戶按照各種標(biāo)準(zhǔn)分類并進(jìn)行預(yù)測(cè),通過引入更多生產(chǎn)性資源實(shí)現(xiàn)商業(yè)創(chuàng)新,進(jìn)而構(gòu)建更多新型網(wǎng)絡(luò),將用戶不斷納入更加復(fù)雜的網(wǎng)絡(luò)中,促成了用戶新的社會(huì)身份生產(chǎn)與再生產(chǎn)。〔27 〕

    從歷史上看,賬戶的法律演進(jìn)原理在于將賽博空間中的賬戶和物理世界中的用戶(及其數(shù)字身份)在法律上盡可能分離,即強(qiáng)調(diào)賬戶是一種屬于平臺(tái)的服務(wù),用戶對(duì)產(chǎn)生在賬戶中的有價(jià)值的數(shù)據(jù)不擁有財(cái)產(chǎn)性權(quán)利,這意味著平臺(tái)企業(yè)使用用戶數(shù)據(jù)的一切分析挖掘試驗(yàn)都只會(huì)關(guān)聯(lián)到賬戶,而不會(huì)直接關(guān)聯(lián)到物理世界中的本人,產(chǎn)生的價(jià)值也與用戶在分配意義上無關(guān)。在既有生產(chǎn)關(guān)系下,法律關(guān)系的松散反而有利于平臺(tái)對(duì)用戶價(jià)值的獲取。直接的結(jié)果便是,匿名或去標(biāo)識(shí)化的數(shù)據(jù)分析仍然可以對(duì)用戶產(chǎn)生影響,持續(xù)地進(jìn)行監(jiān)控,并通過賬戶將其納入生產(chǎn)體系。

    腦機(jī)接口在實(shí)現(xiàn)人腦與機(jī)器交換信息的過程中,實(shí)際上也為用戶開啟了一個(gè)賬戶。這一賬戶的特點(diǎn)是:首先,算法通過識(shí)別不同用戶的腦波,可以為其創(chuàng)設(shè)一個(gè)獨(dú)一無二的基于生物信息的標(biāo)識(shí)符,使用起來會(huì)比傳統(tǒng)的身份證件更加便利,也可以避免像人臉這類標(biāo)識(shí)符的社會(huì)爭(zhēng)議,因此也將成為身份法律制度的一部分,但其推廣使用有賴于國家制定統(tǒng)一的技術(shù)標(biāo)準(zhǔn)。其次,這一賬戶需要通過特殊的硬件和軟件才能登陸訪問,從而進(jìn)一步確保了該賬戶密切的人身屬性,無法轉(zhuǎn)讓,這在技術(shù)上確保了用戶協(xié)議規(guī)定的賬戶只能向唯一用戶提供服務(wù)的要求,但也會(huì)產(chǎn)生賬戶內(nèi)積累數(shù)據(jù)的轉(zhuǎn)移和繼承問題。最后,腦機(jī)接口服務(wù)提供者對(duì)賬戶的管理形式可能不會(huì)發(fā)生較大變化,仍然會(huì)開發(fā)出一整套管理用戶的行為(如封號(hào)、禁言等),也會(huì)通過展示經(jīng)驗(yàn)等方式為這一在線身份賦予聲譽(yù)價(jià)值,進(jìn)而實(shí)現(xiàn)勞動(dòng)管理和交易匹配。

    (二)算法與黑箱

    腦機(jī)接口技術(shù)及其服務(wù)的算法實(shí)際上存在三類功能,一是上述識(shí)別到特定大腦信號(hào)進(jìn)行身份認(rèn)證;二是將大腦信號(hào)轉(zhuǎn)化為機(jī)器識(shí)別的信息并發(fā)出操作指令;三是通過身份識(shí)別創(chuàng)設(shè)多元虛擬身份并進(jìn)行自動(dòng)化服務(wù)推送和決策。這三重算法功能緊密結(jié)合在一起,更為有效地組織生產(chǎn),將用戶納入價(jià)值生產(chǎn)活動(dòng)。

    這里可能存在的問題是:第二階段的算法模型在多大程度上能夠反映用戶大腦真實(shí)的活動(dòng)和意志,進(jìn)而影響用戶意思表示的準(zhǔn)確程度。實(shí)際上對(duì)腦機(jī)接口服務(wù)提供者而言,用戶的意志是否獨(dú)立真實(shí)作為一個(gè)科學(xué)問題并不重要,就像人工智能究竟是否真的有“意識(shí)”的哲學(xué)問題一樣,法律完全可以設(shè)定外在標(biāo)準(zhǔn)加以確認(rèn)。重要的是平臺(tái)算法會(huì)確立一套計(jì)算機(jī)語言進(jìn)行轉(zhuǎn)譯,用戶要做的只是接受用戶協(xié)議并按照算法給出的功能一一確認(rèn)使用,最終轉(zhuǎn)化為可以生產(chǎn)價(jià)值的操作行為即可,如果發(fā)生了認(rèn)知錯(cuò)誤或非入侵腦機(jī)接口情況下解析顆粒度較低等情況,還可以不斷調(diào)整算法予以修正,但不會(huì)影響正常服務(wù)流程。

    隨著算法監(jiān)管越來越傾向?qū)⑺惴ㄒ暈槠脚_(tái)經(jīng)濟(jì)運(yùn)轉(zhuǎn)中的重要環(huán)節(jié),越來越多的資源也已經(jīng)投入到針對(duì)各領(lǐng)域的算法功能與外部性上,如內(nèi)容審查 〔28 〕、自動(dòng)化決策與推薦 〔29 〕、定價(jià)機(jī)制 〔30 〕等。對(duì)未來腦機(jī)接口的發(fā)展而言,也將存在類似針對(duì)算法黑箱的外部監(jiān)管與信息披露問題,在制度上可以不斷銜接,限于篇幅筆者不加詳述。

    (三)開發(fā)神經(jīng)數(shù)據(jù)推動(dòng)生產(chǎn)

    類似于人臉數(shù)據(jù),經(jīng)過腦機(jī)接口轉(zhuǎn)化過的神經(jīng)數(shù)據(jù)也是一種新型生物信息,除了生物倫理爭(zhēng)議外,也會(huì)引發(fā)更進(jìn)一步的數(shù)據(jù)權(quán)屬問題。個(gè)人信息從來都依托于特定技術(shù)的開發(fā),只有當(dāng)腦機(jī)接口終端變得更加普及,經(jīng)由此類技術(shù)開發(fā)出的神經(jīng)數(shù)據(jù)才可能逐漸變得敏感。鑒于腦機(jī)接口已經(jīng)十分接近人的大腦,可以預(yù)見會(huì)有社會(huì)利益群體主張用戶必然應(yīng)當(dāng)有權(quán)控制其神經(jīng)數(shù)據(jù),要求創(chuàng)設(shè)一系列新型民事權(quán)利或消費(fèi)者權(quán)利。而在腦機(jī)接口服務(wù)提供者看來,大腦信號(hào)只有通過專門硬件和軟件的生產(chǎn)和解讀才能成為有意義的信息,平臺(tái)投入了資本和勞動(dòng),仍然希望按照用戶協(xié)議規(guī)定免費(fèi)收集此類新型生產(chǎn)要素,形成穩(wěn)定的集合性數(shù)據(jù)資源池,進(jìn)而開發(fā)出更加符合人腦真實(shí)運(yùn)作的算法模型,其財(cái)產(chǎn)性價(jià)值與用戶個(gè)人無關(guān)。由于腦機(jī)接口操作需要大量腦波信息,由此產(chǎn)生的生物信息在處理過程中勢(shì)必更加敏感。為避免可能的麻煩和糾紛,腦機(jī)接口服務(wù)提供者會(huì)大力開發(fā)個(gè)人數(shù)據(jù)的去標(biāo)識(shí)化處理,或者主張自己有能力證明去標(biāo)識(shí)化技術(shù)手段使得重標(biāo)識(shí)風(fēng)險(xiǎn)較低,不具備識(shí)別特定自然人的能力,那么一旦用戶通過身份認(rèn)證,腦波數(shù)據(jù)被算法轉(zhuǎn)化為操作信息后就接受去標(biāo)識(shí)化處理,使其僅僅能夠關(guān)聯(lián)到賬戶而非個(gè)人,從而在個(gè)人和架構(gòu)之間架設(shè)起適當(dāng)?shù)姆阑饓Α?/p>

    四、反思技術(shù)規(guī)制的研究路徑

    (一)法律如何規(guī)制技術(shù)

    筆者對(duì)腦機(jī)接口技術(shù)討論的前提是:假定腦機(jī)接口技術(shù)未來能夠成為一種通用的系統(tǒng)性技術(shù),才能夠廣泛的應(yīng)用,這需要新的基礎(chǔ)設(shè)施進(jìn)行配套并進(jìn)行生產(chǎn)方式變革,而且其演進(jìn)路徑也可能需要長時(shí)間與其他技術(shù)應(yīng)用的融合,甚至沖突。如果這一假定成立,那么腦機(jī)接口會(huì)逐漸嫁接在現(xiàn)有的平臺(tái)經(jīng)濟(jì)模式當(dāng)中,在嵌入過程中進(jìn)一步調(diào)整和加社會(huì)成員和互聯(lián)網(wǎng)的生產(chǎn)關(guān)系;因此該技術(shù)不僅不是宣稱的革命性的,反而是借助創(chuàng)新之名對(duì)現(xiàn)有生產(chǎn)方式的強(qiáng)化,而非偏離。與此同時(shí),在此過程中,會(huì)出現(xiàn)利用該種技術(shù)非法興起形成的新平臺(tái),和既有平臺(tái)一起推動(dòng)腦機(jī)接口應(yīng)用的合法化,并通過各類意識(shí)形態(tài)和話術(shù)要求法律進(jìn)行調(diào)整。法律在形式上仍然會(huì)保持穩(wěn)定性和連續(xù)性,但背后反映的生產(chǎn)過程和方式則不斷發(fā)生激烈地變化。從這個(gè)意義上說,筆者并不特別關(guān)注腦機(jī)接口本身的特殊性問題(這需要時(shí)間觀察并通過實(shí)踐來解決),而是關(guān)注其反映的法律與技術(shù)關(guān)系的普遍性問題。

    傳統(tǒng)法律處理法律與技術(shù)的關(guān)系這一議題時(shí)往往傾向?qū)⒓夹g(shù)視為可以獨(dú)立存在的人造物,在法律上體現(xiàn)為某種客體。但最近二十余年的網(wǎng)絡(luò)法發(fā)展經(jīng)驗(yàn)告訴我們,將技術(shù)看成孤立物品的視角在21世紀(jì)無法持續(xù),也不反映真實(shí)世界,特別是在物聯(lián)網(wǎng)時(shí)代,任何小型的邊際上的技術(shù)設(shè)計(jì)或終端都可能被嵌入一個(gè)芯片向中心服務(wù)器傳輸數(shù)據(jù),從而和一個(gè)更大的信息網(wǎng)絡(luò)與系統(tǒng)連在一起。因此,需要以一個(gè)更加廣泛的角度看待技術(shù)系統(tǒng),即不論技術(shù)本身,還是技術(shù)的開發(fā)者、控制者、使用者,都共同存在于一個(gè)不斷形成的系統(tǒng)中,在生產(chǎn)經(jīng)濟(jì)價(jià)值過程中具有不同的分工。技術(shù)系統(tǒng)通過對(duì)“空間”的擬制和想象,重新塑造新的空間和價(jià)值增長點(diǎn),并主導(dǎo)形成平臺(tái),進(jìn)行生產(chǎn)。這可能是腦機(jī)接口帶來的真正法律問題的核心,即是否允許該種技術(shù)以擴(kuò)展性的方式存在,以及一旦擴(kuò)展,會(huì)在生產(chǎn)過程中如何擴(kuò)展其權(quán)力,如何在與競(jìng)爭(zhēng)對(duì)手的關(guān)系中、與用戶的關(guān)系中體現(xiàn)出來,等等。這些問題要比諸如賽博格一類的科幻問題更有社會(huì)價(jià)值。

    無人駕駛技術(shù)規(guī)制的研究歷史已經(jīng)表明,將技術(shù)事物本身僅僅視為孤立存在和運(yùn)作的物品無法把握系統(tǒng)性技術(shù)的核心。早期法律研究者對(duì)無人駕駛汽車的想象僅停留在智能汽車會(huì)單獨(dú)賣給消費(fèi)者隨意上路,由此出現(xiàn)關(guān)于交通事故責(zé)任認(rèn)定的討論,這說明研究者實(shí)際上無法預(yù)測(cè)某種新興技術(shù)的使用場(chǎng)景和商業(yè)模式,而且往往是錯(cuò)的。其錯(cuò)誤在于未能看到智能汽車實(shí)際上是一個(gè)生產(chǎn)平臺(tái)的入口(后來改稱為“智能網(wǎng)聯(lián)車”),車體本身被轉(zhuǎn)化為一個(gè)不斷生產(chǎn)匯集數(shù)據(jù)的新型架構(gòu)空間,通過網(wǎng)絡(luò)不斷與云端聯(lián)系,并進(jìn)行車路協(xié)同,從而帶動(dòng)新型基礎(chǔ)設(shè)施的翻新改造;而且從長期看更有效的方式是按照共享單車模式分時(shí)出租而非個(gè)人購買,既便于管理也降低了社會(huì)成本。因此,筆者沒有就事論事地討論腦機(jī)接口具體法律問題,例如技術(shù)標(biāo)準(zhǔn)、風(fēng)險(xiǎn)與安全、侵權(quán)責(zé)任等,而是基于過去技術(shù)發(fā)展和應(yīng)用模式進(jìn)行分析。

    法律與科技的關(guān)系是法學(xué)中持久的話題。如前所述,傳統(tǒng)法律大部分時(shí)候應(yīng)對(duì)的是單一功能的技術(shù),因此需要事前設(shè)定技術(shù)和質(zhì)量標(biāo)準(zhǔn),并在事后通過落實(shí)侵權(quán)責(zé)任進(jìn)行損害賠償救濟(jì),或者保護(hù)特定專利的使用。但法律在應(yīng)對(duì)系統(tǒng)性技術(shù)時(shí)往往無能為力,“只見樹木,不見森林”,這主要是因?yàn)橄到y(tǒng)性技術(shù)改變了生產(chǎn)方式和生產(chǎn)性資源的組織方式,加速了經(jīng)濟(jì)循環(huán)和生產(chǎn)效率,必然要求法律加以確認(rèn)而非抵制。因此,針對(duì)單一功能技術(shù)創(chuàng)造的法律規(guī)范對(duì)系統(tǒng)性技術(shù)和生產(chǎn)組織主體并不適用,也是無效的,后者反而要求對(duì)這些規(guī)則進(jìn)行例外適用。如果腦機(jī)接口僅僅是一個(gè)普通的專用型技術(shù),那么和其他神經(jīng)醫(yī)學(xué)上改進(jìn)人的神經(jīng)心理健康的技術(shù)和藥品就沒有區(qū)別,也會(huì)使筆者的研究變成一個(gè)單純的醫(yī)事法研究。而一旦看到腦機(jī)接口成為可以開展人機(jī)協(xié)作與互動(dòng)的媒介和入口,就會(huì)發(fā)現(xiàn)相較以往的技術(shù)環(huán)境,其具有更強(qiáng)的組織力和控制力,也會(huì)重新塑造關(guān)于模式同意、認(rèn)知行為的問題。

    本著歷史唯物主義的研究思路,筆者將技術(shù)視為一個(gè)不斷演化的系統(tǒng)和組織形態(tài),法律作為另一套相對(duì)獨(dú)立的系統(tǒng)如何介入其運(yùn)作過程將是十分持久的問題。法律究竟需要以反對(duì)不正當(dāng)競(jìng)爭(zhēng)的名義維護(hù)既得利益群體的生產(chǎn)方式及其相關(guān)利益,還是以保護(hù)創(chuàng)新的名義維護(hù)新興創(chuàng)業(yè)者的生產(chǎn)方式及其相關(guān)利益,難以一概而論。我們已經(jīng)看到,任何創(chuàng)造性破壞的技術(shù)本質(zhì)上都是系統(tǒng)性技術(shù),最終幫助確立有效組織生產(chǎn)的數(shù)字基礎(chǔ)設(shè)施?;ヂ?lián)網(wǎng)的非法興起過程表明,法律需要認(rèn)識(shí)到系統(tǒng)性技術(shù)的公共性維度,即數(shù)字基礎(chǔ)設(shè)施建設(shè)和對(duì)流動(dòng)性資源的集合性使用,如果新興技術(shù)及其調(diào)配的生產(chǎn)要素?zé)o法在現(xiàn)有基礎(chǔ)設(shè)施之上開展生產(chǎn)活動(dòng),法律就需要為該種技術(shù)保留一定的灰色空間,允許雙方進(jìn)行(某種“不正當(dāng)”)競(jìng)爭(zhēng),對(duì)其商業(yè)模式應(yīng)當(dāng)保持謙抑態(tài)度。

    如果生產(chǎn)性的法律理論具有解釋力,筆者就可以據(jù)此嘗試總結(jié)出法律在面對(duì)新型技術(shù)時(shí)的一般性規(guī)制模式,并對(duì)我們過去的研究路徑進(jìn)行反思,還可以對(duì)腦機(jī)接口所處階段進(jìn)行預(yù)判。該模式事實(shí)上是一個(gè)歷史和動(dòng)態(tài)的過程。第一階段可以觀察某種新興技術(shù)和服務(wù)在初始階段的變化與發(fā)展,特別是它如何在現(xiàn)有新型經(jīng)濟(jì)模式下得到開發(fā),以及如何與新興商業(yè)模式加以融合,法律在這一過程中保持開放審慎態(tài)度(例如,無人駕駛技術(shù))。第二階段需要區(qū)分單一功能的技術(shù)和通用功能的技術(shù),從而較早跟蹤觀察該種技術(shù)如何進(jìn)一步擴(kuò)展為平臺(tái)經(jīng)濟(jì)模式,并在此過程中解決與既有經(jīng)濟(jì)利益之間發(fā)生的沖突與不正當(dāng)競(jìng)爭(zhēng)問題,如果出現(xiàn)通過網(wǎng)絡(luò)擴(kuò)散急速擴(kuò)大的風(fēng)險(xiǎn),則需要及時(shí)限制叫停(例如,虛擬幣引發(fā)的非法集資)。第三階段是逐步確認(rèn)平臺(tái)模式下的新興技術(shù)的合法性,通過對(duì)現(xiàn)行法律的重新解釋、修改或制訂新的單行法律法規(guī)的方式加以確認(rèn),并推動(dòng)新型基礎(chǔ)設(shè)施的建立和完善。最后階段則是在確認(rèn)生產(chǎn)方式的基礎(chǔ)上加強(qiáng)更細(xì)致的監(jiān)管,包括制定技術(shù)標(biāo)準(zhǔn)、審查用戶協(xié)議、推動(dòng)日常監(jiān)管等,充分利用其生產(chǎn)性優(yōu)勢(shì),推動(dòng)集合性經(jīng)濟(jì)價(jià)值在社會(huì)范圍內(nèi)的公平分配。而法律系統(tǒng)也正是在這一過程中發(fā)生變化,既在形式上保持既有的原則和規(guī)則,又會(huì)逐漸更新內(nèi)容,適應(yīng)新技術(shù)的特殊性。不難發(fā)現(xiàn),筆者正是按照這四個(gè)階段對(duì)腦機(jī)接口的開發(fā)與應(yīng)用軌跡,以及可能的法律影響進(jìn)行討論。這一框架也可以用來分析其他具有潛在平臺(tái)經(jīng)濟(jì)系統(tǒng)能力的技術(shù),從而更好地幫助我們規(guī)劃與評(píng)估不同類型技術(shù)的開發(fā)。

    (二)增強(qiáng)技術(shù)的公共性

    從早期互聯(lián)網(wǎng)到人工智能到腦機(jī)接口,我們見證了一種新型生產(chǎn)方式的不斷形成與擴(kuò)展,并在既有基礎(chǔ)設(shè)施的基礎(chǔ)上開發(fā)調(diào)動(dòng)新的生產(chǎn)要素,但同時(shí)也看到消費(fèi)者權(quán)利的削弱、用戶自主空間的壓縮以及更為抽象意義上更加自動(dòng)化的過程對(duì)人主體性和自由意志的影響。在面對(duì)此類問題時(shí),有必要識(shí)別和避免幾類常見的理論性偏差:第一類是在哲學(xué)上討論在人通過機(jī)器進(jìn)行調(diào)適和改進(jìn)過程中,人的主體性在不斷喪失(例如,人工智能的自動(dòng)化決策機(jī)制會(huì)讓人降低判斷力,或者腦機(jī)接口可能會(huì)允許機(jī)器過度介入人腦而最終取代人自身的判斷和決策),這類討論抽象而言似乎有道理,但如果放在具體時(shí)空條件下審視則會(huì)發(fā)現(xiàn)實(shí)際上社會(huì)看待技術(shù)的方式本身也在不斷調(diào)整變化,有了技術(shù)輔助,人們實(shí)際上可以作出更好的決策。有必要看到,人的主體性問題在相當(dāng)程度上需要放置在社會(huì)經(jīng)濟(jì)生活的生產(chǎn)關(guān)系中理解,即因?yàn)樯a(chǎn)資料占有的不平等,人們的社會(huì)主體地位也持續(xù)保持了某種不平等狀態(tài),機(jī)器的出現(xiàn)反而加劇了這種情況。第二類是按照傳統(tǒng)法學(xué)分析,簡(jiǎn)單以賦權(quán)的方式設(shè)定新型權(quán)利以反對(duì)歧視等問題,如數(shù)據(jù)權(quán)利、算法權(quán)利、神經(jīng)權(quán)利等, 〔31 〕這些權(quán)利(或權(quán)能)可能在具體法律分析中構(gòu)成形式上有效的說辭,但仍然沒有能夠看到其背后的生產(chǎn)過程和分配機(jī)制(實(shí)際上是默認(rèn)接受),因此可能只是在邊際上解決問題。第三類是在面臨政策選擇時(shí)進(jìn)行非黑即白的抉擇,即傾向于夸大技術(shù)的風(fēng)險(xiǎn)(如鼓吹人工智能會(huì)控制或取代人類,或B腦機(jī)接口會(huì)產(chǎn)生非人),這也同樣沒有看到BCI技術(shù)有推動(dòng)生產(chǎn)效率的潛力,而且腦機(jī)接口技術(shù)展示了經(jīng)濟(jì)轉(zhuǎn)型過程中機(jī)器換人的另一種可能性,即人與機(jī)器開展有效協(xié)作,增強(qiáng)人的主體性。第四類主張對(duì)技術(shù)使用的不同場(chǎng)景進(jìn)行特殊規(guī)制,并努力尋找不同場(chǎng)景中的特殊性。“場(chǎng)景化規(guī)制”看起來較為合理,但一般很難厘清何為場(chǎng)景,仍然需要圍繞技術(shù)的特殊性按照其在生產(chǎn)過程中所起到的功能加以剖析(如認(rèn)證、行為評(píng)價(jià)、實(shí)現(xiàn)特定政策目標(biāo)等)。綜上所述,不能僅僅就技術(shù)本身開展討論,而需要穿透技術(shù)背后代表的生產(chǎn)方式,合理認(rèn)定使用者在這一生產(chǎn)過程中所處的地位。

    如前所述,目前法律已經(jīng)開始形成較為穩(wěn)定應(yīng)對(duì)系統(tǒng)性技術(shù)的分步驟思路,而且在每一種新型技術(shù)出現(xiàn)之后,都會(huì)重復(fù)提出上一種系統(tǒng)技術(shù)帶來的治理問題。按照目前的經(jīng)驗(yàn),在技術(shù)發(fā)展過程中需要繼續(xù)思考改進(jìn)如下核心問題:(1)如何持續(xù)推動(dòng)生產(chǎn)要素的跨平臺(tái)流動(dòng),抑制平臺(tái)企業(yè)的壟斷效應(yīng);(2)如何推動(dòng)數(shù)字基礎(chǔ)設(shè)施的建立,并加強(qiáng)互聯(lián)互通;(3)如何強(qiáng)化對(duì)用戶協(xié)議在邊際上的司法審查,保護(hù)消費(fèi)者權(quán)利;(4)如何以低成本推動(dòng)個(gè)人信息逐漸轉(zhuǎn)化為公共信息,鼓勵(lì)基于公共數(shù)據(jù)的創(chuàng)新與開源;(5)如何加強(qiáng)勞動(dòng)者權(quán)益保護(hù),設(shè)計(jì)適應(yīng)流動(dòng)性的社會(huì)保障制度。筆者認(rèn)為,未來關(guān)于腦機(jī)接口的討論也應(yīng)當(dāng)遵循上述思路,既看到該技術(shù)存在的問題,也需要在發(fā)展中不斷探索改進(jìn),并通過大眾媒體與教育過程逐漸達(dá)成關(guān)于技術(shù)使用的共識(shí),避免數(shù)字鴻溝。特別是,我們不僅要看到新興技術(shù)的循環(huán)開發(fā)模式和生產(chǎn)面向,也需要更加關(guān)注價(jià)值的分配面向。每一次系統(tǒng)性技術(shù)興起的過程僅僅解決了生產(chǎn)要素的創(chuàng)制和流通問題,但對(duì)勞動(dòng)價(jià)值的社會(huì)化分配的關(guān)注不足(或者認(rèn)為市場(chǎng)環(huán)境下的流通本身就解決了分配)。類似地,在市場(chǎng)主導(dǎo)下的平臺(tái)經(jīng)濟(jì)過程中,承認(rèn)腦機(jī)接口場(chǎng)景中帶來的碎片化數(shù)字勞動(dòng),推動(dòng)多元獲取收入和報(bào)酬的機(jī)制十分關(guān)鍵。但僅僅依靠市場(chǎng)仍然會(huì)出現(xiàn)富者愈富的情形,因此有必要在現(xiàn)有靈活用工政策的基礎(chǔ)上采取一系列措施,包括推動(dòng)流動(dòng)性、允許用戶個(gè)人積累數(shù)據(jù)性生產(chǎn)資料,推動(dòng)建立一個(gè)更加具有公共性的平臺(tái),及時(shí)跟進(jìn)和發(fā)現(xiàn)因腦機(jī)接口帶來的新型工傷與勞動(dòng)保障問題等。

    結(jié)? 語

    生產(chǎn)性的法律理論認(rèn)為,作為上層建筑的法律需要對(duì)新型生產(chǎn)方式進(jìn)行回應(yīng),并確保生產(chǎn)資料與新生產(chǎn)關(guān)系的合法性。在此過程中,經(jīng)濟(jì)和社會(huì)價(jià)值被不斷生產(chǎn)和再生產(chǎn)出來,通過以生產(chǎn)資料財(cái)產(chǎn)權(quán)利為核心的法律制度加以確認(rèn);同時(shí),以技術(shù)為表現(xiàn)形態(tài)的生產(chǎn)系統(tǒng)逐漸嵌入市場(chǎng)與社會(huì),成為我們?nèi)粘I畹哪J(rèn)設(shè)置,直至下一次經(jīng)由新的“破壞式創(chuàng)新”技術(shù)出現(xiàn),不斷以非法興起的方式對(duì)既有穩(wěn)定系統(tǒng)發(fā)起挑戰(zhàn)。在每次挑戰(zhàn)過程中,新型技術(shù)的特殊性被作為普遍性寫入法律規(guī)范,自互聯(lián)網(wǎng)以來的核心法律問題也會(huì)一直延伸,涉及身份認(rèn)證、數(shù)據(jù)權(quán)屬、算法黑箱、競(jìng)爭(zhēng)政策、數(shù)字基礎(chǔ)設(shè)施以及價(jià)值分配機(jī)制等,它們構(gòu)成了我們所處信息時(shí)代的獨(dú)有法律問題。歷史帶給我們的教訓(xùn)是,越來越需要在每種生產(chǎn)性技術(shù)開發(fā)之初就從深層次上對(duì)這些問題進(jìn)行綜合評(píng)估考量,思索能否在現(xiàn)有治理實(shí)踐基礎(chǔ)上進(jìn)行政策和法律上的調(diào)整改進(jìn),推動(dòng)新舊系統(tǒng)融合改造,從而在確保代表先進(jìn)生產(chǎn)力的新生產(chǎn)方式得以快速興起的同時(shí),降低對(duì)市場(chǎng)秩序、消費(fèi)者與勞動(dòng)者權(quán)益的影響。

    Abstract: Brain Computer Interface (BCI) has been one of the frontier technologies all over the world in recent years with wide and promising prospect. Firstly, under the productive theoretical framework of law, BCI is able to illustrate how law deals with new problems of general technology as an example. As a kind of technology that facilitates human-computer interaction through wire or wireless way, BCI, which is actually a deeper extension of information medium, further extends mode of production based on information exchange, includes the users into the productive process, reshapes the legal relationship between users and platform in terms of key legal concepts and institutions, and finally legitimize the new mode of production. Secondly, BCI structure becomes a process of control/production based on new infrastructure. Its micro mechanism relies on the "account-data-algorithm" model to affect people's behavior. Finally, each rise of? technology as systematic mode of production solves more? problems of creation and dissemination of productive resources rather than focusing on labor value. Besides, BCI also provides opportunity to reflect on publicness of technology.

    Key words: Brain Computer Interface; mode of production; architecture; regulation of technology; allocation; algorithm

    猜你喜歡
    生產(chǎn)方式架構(gòu)分配
    基于FPGA的RNN硬件加速架構(gòu)
    功能架構(gòu)在電子電氣架構(gòu)開發(fā)中的應(yīng)用和實(shí)踐
    汽車工程(2021年12期)2021-03-08 02:34:30
    應(yīng)答器THR和TFFR分配及SIL等級(jí)探討
    遺產(chǎn)的分配
    一種分配十分不均的財(cái)富
    績效考核分配的實(shí)踐與思考
    LSN DCI EVPN VxLAN組網(wǎng)架構(gòu)研究及實(shí)現(xiàn)
    淺析彝族花腰服飾圖案在錫工藝中的運(yùn)用
    人間(2016年27期)2016-11-11 17:21:17
    芻議網(wǎng)絡(luò)經(jīng)濟(jì)影響下我國傳統(tǒng)產(chǎn)業(yè)生產(chǎn)方式的改革
    生態(tài)文明視域下赫哲族生產(chǎn)方式變遷研究
    在线观看国产h片| 亚洲av电影在线观看一区二区三区 | av在线天堂中文字幕| 国产亚洲最大av| 国产极品天堂在线| 成人欧美大片| 91午夜精品亚洲一区二区三区| 欧美精品一区二区大全| 日韩av免费高清视频| 欧美性感艳星| 免费看日本二区| kizo精华| 国产黄色免费在线视频| 免费观看a级毛片全部| 欧美少妇被猛烈插入视频| 亚洲精品日本国产第一区| 97精品久久久久久久久久精品| 99热全是精品| 色5月婷婷丁香| 日韩人妻高清精品专区| 国产成人福利小说| 97精品久久久久久久久久精品| 成年女人在线观看亚洲视频 | 国产片特级美女逼逼视频| 国产v大片淫在线免费观看| a级一级毛片免费在线观看| 大陆偷拍与自拍| 视频区图区小说| 亚洲色图综合在线观看| 嘟嘟电影网在线观看| 久久亚洲国产成人精品v| 日韩av在线免费看完整版不卡| 啦啦啦在线观看免费高清www| 王馨瑶露胸无遮挡在线观看| 久久久久久久久久久丰满| 国产精品一区二区三区四区免费观看| 欧美xxⅹ黑人| 久久久久久久午夜电影| 国产淫片久久久久久久久| 国产亚洲av片在线观看秒播厂| 一个人看的www免费观看视频| 少妇被粗大猛烈的视频| 观看美女的网站| av国产精品久久久久影院| 国产毛片在线视频| 亚洲图色成人| 久久久久久久久久久丰满| 一级毛片aaaaaa免费看小| 精品人妻一区二区三区麻豆| 韩国av在线不卡| 中文乱码字字幕精品一区二区三区| 欧美另类一区| 欧美精品国产亚洲| 精品午夜福利在线看| 美女国产视频在线观看| 亚洲av.av天堂| 爱豆传媒免费全集在线观看| 2018国产大陆天天弄谢| 日韩av免费高清视频| 欧美性猛交╳xxx乱大交人| videossex国产| 欧美日韩亚洲高清精品| 色网站视频免费| 看非洲黑人一级黄片| av在线播放精品| 极品教师在线视频| 人体艺术视频欧美日本| 啦啦啦在线观看免费高清www| 久久久久网色| 成人一区二区视频在线观看| 在线观看av片永久免费下载| 在线观看国产h片| 久久精品久久久久久久性| 亚洲无线观看免费| 精品久久久久久久久亚洲| 校园人妻丝袜中文字幕| 国产在线一区二区三区精| 免费av不卡在线播放| 精品久久久久久电影网| 色婷婷久久久亚洲欧美| 在线播放无遮挡| 久久久午夜欧美精品| 激情五月婷婷亚洲| 91精品国产九色| 九草在线视频观看| 亚洲国产精品专区欧美| 亚洲国产色片| 亚洲无线观看免费| www.色视频.com| 美女cb高潮喷水在线观看| 亚洲人成网站高清观看| 欧美精品一区二区大全| 观看美女的网站| 成人亚洲精品av一区二区| 五月开心婷婷网| 少妇人妻久久综合中文| 国产人妻一区二区三区在| 美女被艹到高潮喷水动态| 中文字幕av成人在线电影| av一本久久久久| 青春草国产在线视频| 高清视频免费观看一区二区| 又大又黄又爽视频免费| 热99国产精品久久久久久7| 午夜精品一区二区三区免费看| 三级国产精品欧美在线观看| 国产成人精品婷婷| 五月天丁香电影| videos熟女内射| 精品熟女少妇av免费看| 日韩av免费高清视频| 少妇熟女欧美另类| 三级经典国产精品| 久久久国产一区二区| 国产美女午夜福利| 搞女人的毛片| 一本色道久久久久久精品综合| 99久国产av精品国产电影| 美女高潮的动态| 国产精品一区二区三区四区免费观看| 久久人人爽人人爽人人片va| 少妇人妻精品综合一区二区| 久久精品国产亚洲av涩爱| 在线观看一区二区三区| 好男人在线观看高清免费视频| 国产成人精品一,二区| 亚洲电影在线观看av| 99热国产这里只有精品6| 欧美少妇被猛烈插入视频| 在现免费观看毛片| 身体一侧抽搐| 蜜臀久久99精品久久宅男| 一本色道久久久久久精品综合| 97热精品久久久久久| 亚洲图色成人| 99精国产麻豆久久婷婷| 美女国产视频在线观看| 国产在视频线精品| 高清在线视频一区二区三区| 特级一级黄色大片| 亚洲精品视频女| 18禁裸乳无遮挡动漫免费视频 | videossex国产| 亚洲成人一二三区av| 少妇的逼水好多| 国产色婷婷99| 国产探花极品一区二区| 精品熟女少妇av免费看| 精品人妻偷拍中文字幕| 国产成人免费观看mmmm| 青春草亚洲视频在线观看| 国产高清国产精品国产三级 | 老司机影院成人| 男人狂女人下面高潮的视频| 在线观看人妻少妇| 日韩国内少妇激情av| 亚洲欧美精品自产自拍| 插逼视频在线观看| 欧美日韩视频精品一区| 欧美日韩在线观看h| 黄片无遮挡物在线观看| 麻豆国产97在线/欧美| 伦理电影大哥的女人| 久久精品国产a三级三级三级| 免费人成在线观看视频色| av天堂中文字幕网| 精品一区二区免费观看| 毛片女人毛片| 国产午夜精品一二区理论片| 2022亚洲国产成人精品| 免费大片18禁| 国产中年淑女户外野战色| 香蕉精品网在线| 亚洲在久久综合| 久久久午夜欧美精品| 欧美国产精品一级二级三级 | 国产男女超爽视频在线观看| 亚洲av国产av综合av卡| 又大又黄又爽视频免费| 最近手机中文字幕大全| 国产精品国产三级国产专区5o| 亚洲欧洲国产日韩| 少妇人妻 视频| 国产一区亚洲一区在线观看| 最近手机中文字幕大全| 99久久人妻综合| 五月开心婷婷网| 草草在线视频免费看| 男女国产视频网站| 亚洲国产色片| 中国美白少妇内射xxxbb| 亚洲av国产av综合av卡| 美女xxoo啪啪120秒动态图| 久久久久久久大尺度免费视频| 亚洲在线观看片| 久久精品国产亚洲av涩爱| 亚洲精品视频女| av又黄又爽大尺度在线免费看| 国产成人免费观看mmmm| 午夜视频国产福利| 观看免费一级毛片| 精品久久久久久久人妻蜜臀av| 亚洲色图av天堂| 91aial.com中文字幕在线观看| 一级片'在线观看视频| 亚洲精品影视一区二区三区av| 一级黄片播放器| 国产成人精品一,二区| 久久久久久久久久人人人人人人| 亚洲欧美精品专区久久| 嫩草影院精品99| 国产精品国产三级国产专区5o| 国产探花在线观看一区二区| 又大又黄又爽视频免费| 人妻系列 视频| 精品国产一区二区三区久久久樱花 | 99精国产麻豆久久婷婷| 女人十人毛片免费观看3o分钟| 男人添女人高潮全过程视频| 草草在线视频免费看| 亚洲欧美日韩另类电影网站 | 日韩av不卡免费在线播放| 丝袜美腿在线中文| 国产欧美日韩精品一区二区| 精品一区二区免费观看| 久久久久性生活片| 午夜福利高清视频| 久久国内精品自在自线图片| 伦精品一区二区三区| 亚洲av福利一区| 女的被弄到高潮叫床怎么办| 午夜日本视频在线| 五月天丁香电影| 女人久久www免费人成看片| 夫妻午夜视频| 欧美一级a爱片免费观看看| 亚洲天堂av无毛| 成年人午夜在线观看视频| 天天一区二区日本电影三级| 97在线视频观看| 精品人妻一区二区三区麻豆| 亚洲成人中文字幕在线播放| 国产美女午夜福利| 午夜福利网站1000一区二区三区| 亚洲婷婷狠狠爱综合网| www.av在线官网国产| 国产亚洲午夜精品一区二区久久 | 久久久久久国产a免费观看| 亚洲精品一区蜜桃| 日本色播在线视频| 亚洲成人久久爱视频| 欧美区成人在线视频| 欧美一区二区亚洲| 人人妻人人看人人澡| 国产伦精品一区二区三区视频9| 秋霞在线观看毛片| 国产高潮美女av| 卡戴珊不雅视频在线播放| 人人妻人人看人人澡| 国产精品国产三级国产av玫瑰| 成人鲁丝片一二三区免费| 成人毛片60女人毛片免费| 男男h啪啪无遮挡| 中文资源天堂在线| 欧美国产精品一级二级三级 | 中文字幕制服av| 久久久亚洲精品成人影院| 欧美成人一区二区免费高清观看| 久久鲁丝午夜福利片| 欧美另类一区| 亚洲精品国产av蜜桃| 国产黄片美女视频| 国产男人的电影天堂91| 午夜亚洲福利在线播放| 亚洲经典国产精华液单| 婷婷色综合大香蕉| 免费观看无遮挡的男女| 亚洲美女搞黄在线观看| 在线a可以看的网站| 久久精品人妻少妇| 亚洲av福利一区| 精品久久久精品久久久| 久久久久性生活片| 国产精品.久久久| 亚洲一级一片aⅴ在线观看| 丝袜脚勾引网站| 亚洲,欧美,日韩| 视频区图区小说| 五月天丁香电影| 人妻一区二区av| 啦啦啦在线观看免费高清www| 丝瓜视频免费看黄片| 国产真实伦视频高清在线观看| 精品人妻熟女av久视频| 欧美精品人与动牲交sv欧美| 亚洲四区av| 久久女婷五月综合色啪小说 | 亚洲美女搞黄在线观看| 日韩精品有码人妻一区| 一级av片app| 日韩一本色道免费dvd| 春色校园在线视频观看| 欧美最新免费一区二区三区| 亚洲国产精品成人综合色| 中文资源天堂在线| 亚洲精品国产色婷婷电影| 日日啪夜夜爽| 黄色配什么色好看| 久久国内精品自在自线图片| 日本三级黄在线观看| 国产精品99久久久久久久久| 精品一区二区免费观看| 麻豆乱淫一区二区| 国产精品99久久久久久久久| 日韩av在线免费看完整版不卡| 国产一区二区亚洲精品在线观看| 18禁在线无遮挡免费观看视频| 少妇人妻精品综合一区二区| av在线亚洲专区| 国产熟女欧美一区二区| 久久99蜜桃精品久久| 嫩草影院精品99| 在线观看一区二区三区激情| 国产午夜精品久久久久久一区二区三区| 大片免费播放器 马上看| 日韩视频在线欧美| 网址你懂的国产日韩在线| 一级a做视频免费观看| 国产视频内射| 久久久精品免费免费高清| 欧美区成人在线视频| 中国国产av一级| 亚洲不卡免费看| 久久久午夜欧美精品| 好男人视频免费观看在线| 亚洲精品国产av蜜桃| 色网站视频免费| 永久免费av网站大全| 久久精品综合一区二区三区| 激情 狠狠 欧美| 国产人妻一区二区三区在| 久久久欧美国产精品| 日韩欧美精品v在线| 亚洲婷婷狠狠爱综合网| 少妇的逼水好多| 亚洲欧洲国产日韩| 午夜爱爱视频在线播放| 免费大片黄手机在线观看| 亚洲av福利一区| 晚上一个人看的免费电影| 99视频精品全部免费 在线| 搡老乐熟女国产| 日日啪夜夜爽| 久久99蜜桃精品久久| 插阴视频在线观看视频| 伦理电影大哥的女人| 天美传媒精品一区二区| 久久久久国产网址| 亚洲高清免费不卡视频| 欧美日韩综合久久久久久| 亚洲国产最新在线播放| 天堂中文最新版在线下载 | 亚洲精品国产av蜜桃| 日韩伦理黄色片| 午夜精品国产一区二区电影 | 久久精品综合一区二区三区| 午夜免费男女啪啪视频观看| 亚洲最大成人av| 人人妻人人看人人澡| 激情五月婷婷亚洲| 高清视频免费观看一区二区| av在线播放精品| 九草在线视频观看| 一区二区三区免费毛片| 国产有黄有色有爽视频| 2021少妇久久久久久久久久久| 天堂中文最新版在线下载 | 大陆偷拍与自拍| 精品久久久精品久久久| 欧美日韩一区二区视频在线观看视频在线 | 国产精品蜜桃在线观看| 亚洲国产av新网站| 成年av动漫网址| 国产精品秋霞免费鲁丝片| 亚洲久久久久久中文字幕| 少妇人妻 视频| 久久久久久久久久久丰满| 亚洲av男天堂| 男女无遮挡免费网站观看| 久久久国产一区二区| 99久久精品一区二区三区| 夫妻午夜视频| 人人妻人人看人人澡| 青春草亚洲视频在线观看| 国产成人一区二区在线| 偷拍熟女少妇极品色| 日韩国内少妇激情av| 亚洲欧美日韩卡通动漫| 99久久九九国产精品国产免费| av卡一久久| 99精国产麻豆久久婷婷| 国内精品宾馆在线| 亚洲av日韩在线播放| 乱系列少妇在线播放| freevideosex欧美| 国产亚洲一区二区精品| 日本色播在线视频| 午夜精品国产一区二区电影 | 菩萨蛮人人尽说江南好唐韦庄| 极品少妇高潮喷水抽搐| 丰满人妻一区二区三区视频av| 天堂网av新在线| 一级片'在线观看视频| 波多野结衣巨乳人妻| 国产亚洲最大av| 麻豆成人av视频| 91在线精品国自产拍蜜月| 免费大片黄手机在线观看| 亚洲高清免费不卡视频| 三级男女做爰猛烈吃奶摸视频| 禁无遮挡网站| 成人毛片60女人毛片免费| 97精品久久久久久久久久精品| 婷婷色麻豆天堂久久| 超碰97精品在线观看| 在线观看一区二区三区| av黄色大香蕉| 五月玫瑰六月丁香| 国产欧美日韩精品一区二区| 搡老乐熟女国产| 午夜视频国产福利| 久久久久久久午夜电影| 国产高清三级在线| 国产黄色免费在线视频| 国产成人精品福利久久| 黑人高潮一二区| 亚洲精品成人av观看孕妇| 欧美三级亚洲精品| 欧美zozozo另类| 日日摸夜夜添夜夜添av毛片| 久久久国产一区二区| 亚洲天堂国产精品一区在线| 少妇丰满av| 青春草国产在线视频| 欧美精品人与动牲交sv欧美| 毛片女人毛片| 国产av码专区亚洲av| 午夜福利视频精品| 国产伦在线观看视频一区| 又粗又硬又长又爽又黄的视频| 国产爽快片一区二区三区| 欧美日韩在线观看h| 韩国av在线不卡| 国产永久视频网站| 少妇人妻精品综合一区二区| 亚洲精品,欧美精品| 国产精品久久久久久精品古装| 少妇丰满av| 男女那种视频在线观看| 久久久久久久午夜电影| 不卡视频在线观看欧美| 丰满少妇做爰视频| 两个人的视频大全免费| 成年免费大片在线观看| 在线观看一区二区三区| 国产一区有黄有色的免费视频| 久久久国产一区二区| 日日摸夜夜添夜夜添av毛片| 91久久精品国产一区二区成人| 国产高清不卡午夜福利| 在线免费十八禁| 国产精品偷伦视频观看了| 亚洲精品乱码久久久v下载方式| 亚洲自偷自拍三级| 免费av观看视频| 亚洲国产精品成人综合色| 九色成人免费人妻av| 久久久精品免费免费高清| 精品少妇久久久久久888优播| 99精国产麻豆久久婷婷| 在线免费观看不下载黄p国产| 黄片wwwwww| 一级爰片在线观看| 91久久精品国产一区二区三区| 国产探花极品一区二区| 国产亚洲av嫩草精品影院| freevideosex欧美| 国产在线一区二区三区精| 一边亲一边摸免费视频| 国产探花极品一区二区| 亚洲四区av| 国产精品偷伦视频观看了| 亚洲av在线观看美女高潮| 国产精品三级大全| 五月开心婷婷网| 亚洲精品日本国产第一区| 日韩欧美精品v在线| 乱码一卡2卡4卡精品| a级毛片免费高清观看在线播放| 国产一区二区三区综合在线观看 | 熟女人妻精品中文字幕| 亚洲精品成人久久久久久| 久久久久久久亚洲中文字幕| 一级毛片久久久久久久久女| 欧美最新免费一区二区三区| 亚洲人与动物交配视频| 免费播放大片免费观看视频在线观看| 欧美97在线视频| 日本av手机在线免费观看| 熟女电影av网| 日本黄色片子视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 男女下面进入的视频免费午夜| 又黄又爽又刺激的免费视频.| 激情 狠狠 欧美| av天堂中文字幕网| 一级黄片播放器| 日韩制服骚丝袜av| 精品久久久久久久人妻蜜臀av| 卡戴珊不雅视频在线播放| 亚洲av欧美aⅴ国产| 久热久热在线精品观看| 国产亚洲91精品色在线| 久久鲁丝午夜福利片| 好男人在线观看高清免费视频| 一区二区三区精品91| videos熟女内射| 99九九线精品视频在线观看视频| 夜夜看夜夜爽夜夜摸| 性色av一级| 99久久中文字幕三级久久日本| 中国美白少妇内射xxxbb| 插阴视频在线观看视频| 亚洲欧美精品专区久久| 免费少妇av软件| 免费观看性生交大片5| 制服丝袜香蕉在线| 女的被弄到高潮叫床怎么办| 有码 亚洲区| h日本视频在线播放| 午夜激情福利司机影院| 亚洲av男天堂| 久久久久久久久久成人| 亚洲精品日本国产第一区| 看非洲黑人一级黄片| 国产伦精品一区二区三区四那| 国产精品久久久久久av不卡| 男女啪啪激烈高潮av片| 晚上一个人看的免费电影| 精品久久久久久久久av| 人人妻人人澡人人爽人人夜夜| 国产成人aa在线观看| 日韩制服骚丝袜av| 国产伦理片在线播放av一区| 日本欧美国产在线视频| 中文欧美无线码| av在线老鸭窝| av在线播放精品| 精品人妻偷拍中文字幕| 久久精品国产a三级三级三级| 狂野欧美激情性xxxx在线观看| 亚洲经典国产精华液单| 麻豆精品久久久久久蜜桃| 高清日韩中文字幕在线| 精品少妇黑人巨大在线播放| 国产精品熟女久久久久浪| 亚洲天堂av无毛| 亚洲丝袜综合中文字幕| 久久午夜福利片| 国产精品国产三级专区第一集| 久久久a久久爽久久v久久| 欧美性感艳星| 麻豆久久精品国产亚洲av| 欧美极品一区二区三区四区| 男女国产视频网站| av.在线天堂| 中文字幕亚洲精品专区| 亚洲国产欧美人成| 国产黄片美女视频| 久久99热6这里只有精品| 亚洲国产欧美在线一区| 看十八女毛片水多多多| 麻豆精品久久久久久蜜桃| 黑人高潮一二区| 精品酒店卫生间| 少妇熟女欧美另类| 黑人高潮一二区| 国产精品.久久久| a级毛色黄片| 国产亚洲91精品色在线| 亚洲经典国产精华液单| 国产69精品久久久久777片| 亚洲国产欧美在线一区| h日本视频在线播放| 成年免费大片在线观看| 2018国产大陆天天弄谢| 三级男女做爰猛烈吃奶摸视频| 免费看av在线观看网站| 亚洲欧洲日产国产| 在线a可以看的网站| 嘟嘟电影网在线观看| 一级毛片电影观看| 肉色欧美久久久久久久蜜桃 | 一边亲一边摸免费视频| 国产高清不卡午夜福利| 美女视频免费永久观看网站| 久久久精品94久久精品| 国产午夜福利久久久久久| 内地一区二区视频在线| 深爱激情五月婷婷| av网站免费在线观看视频| 国产亚洲av片在线观看秒播厂| 女人十人毛片免费观看3o分钟| 日产精品乱码卡一卡2卡三| 国产成人a区在线观看|