• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論人工智能的法律地位*

    2019-01-26 22:50:06劉洪華
    政治與法律 2019年1期
    關(guān)鍵詞:理性主體人工智能

    劉洪華

    (廣東外語外貿(mào)大學,廣東廣州510420)

    一、問題的提出

    今天看來,人工智能(Artificial Intelligence,AI)不僅或?qū)⒐蚕砣祟惇氂械臉s耀,似乎還會很快超越甚至取代人類。人類是無私地促成這一刻的到來,是自私地阻止這一切的發(fā)生,還是視而不見,無動于衷?人類或許應當未雨綢繆,慎重面對這可能是人類最后一個重大的法律問題:法律應當賦予人工智能以“人”的地位,還是否認其主體地位?①著名物理學家霍金表示,“人工智能或許不但是人類歷史上最大的事件,而且還有可能是最后的事件”,“人工智能的全面發(fā)展可能導致人類的滅絕”。轉(zhuǎn)引自孫偉平:《關(guān)于人工智能的價值反思》,《哲學研究》2017年10期。當前思考這個問題并不過于超前。人工智能創(chuàng)造物的歸屬已經(jīng)成為一個現(xiàn)實問題,實踐也迫切需要為正在蓬勃發(fā)展、躍躍欲試的自動駕駛系統(tǒng)提供可具操作性的責任分配規(guī)范。隨著人工智能的廣泛應用,人工智能的安全性與倫理性也提上議事日程。人們一方面擔憂人工智能技術(shù)的濫用,希望出臺管制人工智能的法律與政策,另一方面又擔心對高度智能機器人的虐待,期待賦予人工智能以電子人格。這些問題的解決都需要從法律角度對人工智能的法律地位進行定位:人工智能是人還是物?這將決定人類對待人工智能的方式,甚至決定人類未來的命運。

    目前國內(nèi)直接討論人工智能法律地位的研究并不多,有限的研究中,支持與反對意見針鋒相對。境外哲學家、科學家以及法學家對是否賦予人工智能法律人格展開過激烈的爭論。法國哲學家拉·梅特里(La Mettrie)明確地說:“人的身體是一架鐘表,不過這是一架巨大的、極其精細、極其巧妙的鐘表……”②[法]拉·梅特里:《人是機器》,顧壽觀譯,商務印書館1999年版,第65頁。按照這一邏輯,既然同屬于機器,人類具有主體資格,人工智能也應當具有主體資格?,F(xiàn)實中,人與物的界限愈發(fā)模糊??茖W家正在研究擁有具有生物大腦(biological brain)的人工智能。戴維斯教授認為,人工智能與法人類似,既然法人可以擁有法律人格,人工智能也應當擁有法律人格。③See Colin R.Davies,An Evolutionary Step in Intellectual Property Rights-Artificial Intelligence and Intellectual Property,27 Computer Law&Security Review 601,606(2011).艾博特教授認為,賦予非人類作者/發(fā)明人法律人格,將為人類利用動物和人工智能之創(chuàng)造能力提供新的激勵手段。④See Kalin Hristov,Artificial Intelligence and Copyright Dilemma,57 IDEA:The IP Law Review,431,441(2017).不僅學者討論,立法機構(gòu)也走向前臺。2017年初,歐盟議會法律事務委員會在其向歐盟委員會提交的《就機器人民事法律規(guī)則向歐委會提出建議的報告》中,建議歐盟委員會考慮在未來的立法中賦予最高端的智能機器人電子人地位(status of electronic persons),使其為自己的致害行為承擔責任,并在自主做決定或獨立與第三人互動時利用其電子人格(electronic personality)。⑤參見歐盟議會法律事務委員會:Report with Recommendations to the Commission on Civil Law Rules on Robotics,2015/2103(INL),http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+REPORT+A8-2017-0005+0+DOC+PDF+V0//EN,2017年12月5日訪問。俄羅斯緊隨其后,在由俄羅斯互聯(lián)網(wǎng)技術(shù)專家格里申及其基金會“格里申機器人”發(fā)起并起草的《在完善機器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》(又稱《格里申法案》)第1條中,提出了賦予機器人“機器人-代理人”法律地位的建議,規(guī)定“機器人-代理人”擁有獨立的財產(chǎn)并以之為自己的債務承擔責任,可以以自己的名義取得并行使民事權(quán)利和承擔民事義務。⑥參見張建文:《格里申法案的貢獻與局限》,www.iolaw.org.cn,2018年11月5日訪問。

    目前的研究,無論支持方還是反對方都缺乏相應的理論基礎(chǔ)和邏輯論證。支持方?jīng)]有具體論證賦予人工智能主體地位的理由,反對方也如是。筆者認為,無論是支持方還是反對方都要回答以下問題。第一,法律賦予對象以主體地位的哲學和法學基礎(chǔ)、社會現(xiàn)實基礎(chǔ)是什么。第二,如果有充分的理論與現(xiàn)實基礎(chǔ),則究竟賦予人工智能何種法律地位才屬恰當。

    二、法律主體制度的哲學基礎(chǔ)與法理根據(jù)

    法律地位,指法律對于對象作為主體抑或客體的定位。主體與客體之區(qū)分即人與物之區(qū)分是傳統(tǒng)民法理論的基本支柱。⑦以《德國民法典》為代表的德國法系國家民法典通常在民法總則將主體和客體并列規(guī)定。我國《民法總則》并沒有遵循這一體系,取代客體位置則是“民事權(quán)利”一章。凡具有精神、意識的存在為人,凡不具有精神、意識的存在則為物。一個對象,或為法律主體,或為法律客體,不可能成為主體與客體之間的中間狀態(tài)。因此,討論人工智能的法律地位,可以從其是否具備主體資格著手。主體資格,⑧筆者于本文中僅在私法范疇內(nèi)討論法律主體資格(又稱私法主體資格)問題。又稱人格,是法律賦予那些具備一定條件的“適格者”使其成為法律上的“人”,進而成為法律關(guān)系中的權(quán)利享有者、義務和責任承擔者的資格,⑨馬俊駒:《人格和人格權(quán)理論講稿》,法律出版社2009年版,第36頁。通俗地講就是一個實體要成為法律主體應該具備的條件。目前,人工智能高度自主,并有不斷脫離人類控制的趨勢,似乎具有“精神、意識”的人工智能應當被賦予法律主體地位已成為一個現(xiàn)實問題。當“精神、意識”不再為人類所獨享,似乎“主客體之間這種不可逾越的鴻溝”發(fā)生動搖也是不可逆轉(zhuǎn)的趨勢。⑩梁慧星:《從近代民法到現(xiàn)代民法》,《中外法學》1997年第2期。然而,筆者認為,目前談論人工智能打破人物二分的私法格局為時尚早。人工智能技術(shù)的確取得了巨大進步,能夠進行一些自主選擇,但尚談不上具有“精神、意識”,更談不上要賦予人工智能人格。現(xiàn)代法關(guān)于“人”(主體)的界定是建立在以康德為代表的德國古典哲學對人的本質(zhì)的深刻認識基礎(chǔ)之上的,有深厚的法哲學基礎(chǔ)。

    (一)法律主體制度的哲學基礎(chǔ)

    現(xiàn)代法上,自然人幾乎成為法律主體的代名詞,然而,所有自然人均為法律上的人并非自始即為理所當然之事。古代法以血緣、性別、國籍等外在于人的條件為標準,形成了差異極大的自然人法律地位。現(xiàn)代法自然人主體資格的賦予是建立在對自然人本質(zhì)屬性的深刻認識基礎(chǔ)上的。

    對于“我”是什么,世界的本原是什么,幾千年來,人類孜孜以求。然而,幾千年來,人類一直在“我”的外部世界探尋世界的根基,或?qū)⑵錃w為神靈,或?qū)⑵錃w為水、氣、數(shù),唯有人類將世界的根基歸于“我”時,才真正啟動了對人的本質(zhì)的認識和對世界的認識。近代西方哲學創(chuàng)始人笛卡爾(Ren éDescartes)從理性主義認識論出發(fā)提出“我思故我在”命題,開啟了哲學研究向主體性哲學的轉(zhuǎn)向,從此,“我們再也無須像古希臘和中世紀那樣抬眼望天,而只需返身向內(nèi)就能對一切東西進行確信”。①漠耘:《主體哲學的私法展開:權(quán)利能力研究》,法律出版社2012年版,第50頁。笛卡爾將“我思”(自我意識)作為認知的起點,將人置于認知主體的位置,凸顯了人在認知關(guān)系中的主體性。在笛卡爾看來,成為一個主體必須“轉(zhuǎn)向自身,否定外在的一切標準,從自己那里找到世界的根基,并且,這樣的根基必須能得到思維的確信”。②同上注,漠耘書,第52頁。正如黑格爾所言:“從笛卡爾起,我們踏進了一種獨立的科學。這種哲學明白:它自己是獨立地從理性而來的,自我意識是真理的主要環(huán)節(jié)?!雹郏鄣拢莺诟駹枺骸墩軐W史講演錄(第四卷)》,賀麟、王太慶譯,商務印書館1959年版,第59頁?!拔宜脊饰以凇笔埂白晕乙庾R”從幕后走向臺前??档峦ㄟ^對“我思”的探索,在兩方面確立起人的主體地位:其一,在人與大自然的關(guān)系上,證成人是認知主體,具有為自然立法的能力;其二,在人與社會的關(guān)系上,證成人是倫理主體,具有為自己立法的能力,最終構(gòu)建了“人是目的”的哲學理論。

    人何以成為目的,在于人有理性,有理性是人類與其他生物的根本區(qū)別。人類理性首先在于人類具有先天性的認知機能,是一個能動的認知主體。人認識外部世界的過程是利用特有的思維能力,能動地形成知識的過程,是人的內(nèi)部理性統(tǒng)攝外部感性形象的過程。在康德看來,一切知識都始于經(jīng)驗,但并非直接來源于經(jīng)驗。④參見[德]康德:《純粹理性批判》鄧曉芒譯,楊祖陶校,人民出版社2008年版,第16頁。人類知識的形成是先天的形式和后天的質(zhì)料共同作用的結(jié)果。先天的形式是人類特有的人心的機能、思維的能動性,“這形式不涉及獨立于人的意識的什么東西,它一定屬于人的意識,它來源于人的理性,是先天的”。⑤齊良驥:《康德的知識學》,商務印書館2011年版,第24頁。后天的質(zhì)料是認識的對象刺激人的感官,使人對它們形成表象,這些表象通常僅是一堆雜亂的材料,唯有經(jīng)過人類心靈的處理,才能形成知識。人類對世界的認識就是用先天的形式去把握后天的質(zhì)料形成認知的過程。理性是主體的一種最高的認識能力,它既是人類認識的界限也是人類認識的標桿,“它是一桿旗幟,它永遠在前面”,⑥鄧曉芒:《〈純粹理性批判〉講演錄》,商務印書館2013年版,第196頁。指引人類認識的方向和目標。如此,人類成為認識主體,萬物成為人類認識的客體,人認識世界的過程是人的主觀意識作用于客觀存在的過程,客體唯有被納入主體意識之內(nèi),才能被認識,為此,人具備為自然立法的能力。

    人類理性除了體現(xiàn)在認識能力上之先天條件造就的為自然立法的能力,還體現(xiàn)在實踐能力方面之實踐理性(自由意志)造就的為自己立法的能力。依據(jù)康德哲學,人具有雙重屬性:一方面,作為具有血肉和欲望的動物,人是一種自然存在,具有自然屬性,受制于自然法則,處于受支配的非自由狀態(tài);另一方面,作為具有高級思維能力的生物,人又是一種理性存在,能夠認識世界和改造世界,使自己超脫自然法則的束縛,而又將自己置于理性法則的規(guī)范之下,從而成為自由、自律的倫理主體,人的本身即是目的。倫理屬性是人區(qū)別于其他生物的本質(zhì)屬性。人的倫理屬性使其享有其他生物不可能享有的自由,人之自由的根本在于意志自由。意志自由使人可以擺脫感性欲望的束縛,具備自由選擇的能力,成為真正的獨立主體。動物也具有自由,但是動物的自由是在本能控制下的“病理性的”(可以通過臨床觀察來研究的)和被迫的自由,是為必然性所支配的自由;而人的自由是一種能夠在多種選擇面前作出抉擇的自由,人“能夠獨立于感性沖動的強迫而自行規(guī)定自己,能夠不囿于眼前直接的利害和欲求,而追求間接的對于整體更為有利的東西”。⑦崔拴林:《論私法主體資格的分化與擴張》,法律出版社2009年版,第118頁。人的自由意志既體現(xiàn)為自由,也體現(xiàn)為自律,自由即自律。康德將人的自由區(qū)分為消極自由和積極自由。消極自由指人類擺脫感性欲望束縛,不為感性動機奴役的選擇的自由,積極自由即意志自律,指對普遍道德法則的遵守,對人類自己所立的法的遵守。康德說:“要這樣行動,使你的意志的準則任何時候都能同時被看做一個普遍立法的原則?!雹啵鄣拢菘档拢骸犊档氯笈泻霞ㄏ拢?,鄧曉芒譯,楊祖陶校,人民出版社2009年版,第44頁。因此,作為倫理主體,人有為自己立法的能力,并能對自己的行為加以限制,“人通過意志自律從而自己立法自己遵守,自律是人以及一切有理性者所以尊貴的根據(jù)”。⑨黃瑞英:《康德對人的道德主體地位的論證》,《南京郵電大學學報》2006年第4期。人因為具有自由意志而具有區(qū)別于其他生物的自由,人在每個時刻都可以自由選擇,人因此區(qū)別于物。

    理性使人能夠為自然立法和為自身立法,成為萬物的尺度,人因而是目的。因此,法律上的人,其哲學基礎(chǔ)是理性。以理性為哲學基礎(chǔ)的體系化的法律主體理論和制度是在近代以德國民法為代表的德意志法系中形成的,上述哲學基礎(chǔ)也是我國民法法律人格的哲學基礎(chǔ)。

    (二)法律主體制度的法理根據(jù)

    理性是法律人格的哲學基礎(chǔ),那它無疑是法律賦予調(diào)整對象之發(fā)動者的主體資格的法理根據(jù)。然而,法學與哲學有所不同。哲學直指問題的本質(zhì),法學則需要應對現(xiàn)實??疾旖F(xiàn)代法律主體制度,法律除了賦予有理性的自然人主體地位,還賦予沒有理性的團體以主體地位,謂之法人。有學者指出:“因為人是目的,基于人之發(fā)展需要,可以授予為人之發(fā)展目的所必要的工具以主體地位,賦予工具以主體地位,在于更好地實現(xiàn)其作為服務于人的工具的價值”,其并將法律主體制度的法理根據(jù)歸納為目的性根據(jù)和工具性根據(jù)。⑩參見張保紅:《權(quán)利能力的雙重角色困境與主體資格制度重構(gòu)》,《法學家》2015年第2期。

    私法主體的首要根據(jù)是理性。曾幾何時,人類自認為無法掌握自己的命運。羅馬時代,奴隸被奴隸主當作會說話的工具;中世紀,人的存在是為了顯示上帝的偉大。“人的目的不是追求世俗生活的幸福,而是追求天國里的永恒幸福。”①金可溪:《評“人是目的,不是手段”》,《倫理學與精神文明》1984年第3期。在康德的理性哲學中,“有理性的生靈叫做‘人’,因為人依其本質(zhì)即為目的本身,而不能僅僅作為手段來使用”。②[德]卡爾·拉倫茨:《德國民法通論(上冊)》,王曉曄等譯,法律出版社2003年版,第46頁。人是目的,這一看似簡單的判斷,道出了人的本質(zhì),具有重大的意義。具體地說,這一判斷具有以下含義。第一,人因理性而成為目的??档碌莱隽巳伺c其他生靈和物質(zhì)的區(qū)別——人具有理性。這一判斷徹底地將人從上帝那兒解放出來??档抡J為:“人雖然有著種種的感性欲望,但他并不由這些欲望決定,決定其行為的永遠是理性,正因為這樣,才能對人的行為進行道德評價?!雹郏鄣拢菘档拢骸斗ǖ男味蠈W原理——權(quán)利的科學》,沈叔平譯,商務印書館1991年版,第131頁。人具有雙重性,一方面,人作為具有血肉和欲望的動物,與萬物沒有區(qū)別,但另一方面,人具有理性,從而成為自由自在的倫理主體,具有絕對的價值,本身即是目的。第二,人不得被自己和別人當作手段??档抡J為:“有理性的生靈叫做‘人’,因為人依其本質(zhì)即為目的本身,而不能僅僅作為手段來使用?!比司哂兄粮邿o上的尊嚴與價值,人不是為他人也不是為上帝而存在,人不是他人與社會實現(xiàn)目的的手段。人的存在與發(fā)展,具有最高的價值。人具有獨立性,不允許他人侵犯和奴役。康德說:“你必須這樣行為,做到無論你自己或別的什么人,你始終把人當目的,總不把他只當做工具?!比耍ㄉ锶耍┮蚶硇远蔀槟康模瑥亩坏帽蛔约汉蛣e人當作手段,如此人自然應當成為主體。如前所述,理性并不僅僅限于認知和選擇能力,還取得我們?yōu)樽约毫⒎ǖ牡赖履芰Α?档抡軐W中的理性,“不僅指人類認識可感知世界的事物及其規(guī)律性的能力,而且也包括人類識別道德要求處世行事的能力”。④同前注②,卡爾·拉倫茨書,第46頁。在實踐領(lǐng)域,理性即是指道德能力?;谶@種道德能力,賦予諸如嬰兒、胎兒及精神障礙者主體資格理所當然。

    實踐中,主體資格的根據(jù)并不限于理性,因為人之發(fā)展需求,法律授予團體法人資格。團體何以成為法律主體?其與本身即為目的的自然人不同,團體是社會的產(chǎn)物,它被塑造成法律主體并非因為自身是目的,而是作為實現(xiàn)自然人目的之工具,“真正的目的仍然在于自然人格”。⑤同前注①,漠耘書,第229頁?!叭祟愖怨沤越Y(jié)成團體而生存,而團體享有法律上主體地位卻經(jīng)歷了漫長的歷史歲月”,顯然,作為人類發(fā)展之需的工具并非都可以成為法律主體。⑥參見馬俊駒:《法人制度的基本理論和立法問題之探討(上)》,《法學評論》2004年第4期。歷史地看,團體最終得以成為法律主體得益于實體性基礎(chǔ)、實益性基礎(chǔ)和法技術(shù)基礎(chǔ)三方面條件的同時具備。其一,實體性基礎(chǔ),即存在可被賦予法律主體地位的團體。法人制度純粹是社會經(jīng)濟發(fā)展的產(chǎn)物,團體人格的基礎(chǔ)是能夠在商品經(jīng)濟生活中成為權(quán)利義務之統(tǒng)一歸屬點的實體的形成,⑦參見尹田:《民事主體理論與立法研究》,法律出版社2003年版,第151頁。該實體需集獨立意志和獨立財產(chǎn)于一身。因此,法人的實體性基礎(chǔ)是存在適于成為交易主體的人與財產(chǎn)的有機集合體。人的集合體使團體得以基于成員共同意志形成團體意志。團體意志不是團體每個成員意志的簡單相加,而是這些多數(shù)意志的有機統(tǒng)一,是團體的自由意志。自由意志是自然人成為法律主體的根本要素,有學者因此指出,團體(集會)自由意志的存在,“集會就置于與自然人同等地位,平起平坐了”。⑧[德]斐迪南·騰尼斯:《共同體與社會》,林榮遠譯,商務印書館1999年版,第253頁。團體主體資格的塑造是為了使其成為人們經(jīng)濟生活中的交易主體,因此,作為法人的團體必須擁有獨立的財產(chǎn),該財產(chǎn)可能來自團體成員的共同出資、他人捐贈或來源于國家,但它最終必須歸屬于團體。滿足該兩個條件的團體則具備了成為法律主體的實體性基礎(chǔ)。不過,只有該類團體的出現(xiàn)尚不足以導致法人制度的形成。其二,實益性基礎(chǔ),即賦予團體法律主體地位具有社會價值。具備前述實體性基礎(chǔ)的團體在羅馬時代就已經(jīng)存在,但是賦予團體法律主體地位的法人制度直到近代才確立,這是由確立法人制度的必要性決定的。團體人格對于處于簡單商品經(jīng)濟時期的奴隸制社會和處于自給自足的農(nóng)業(yè)經(jīng)濟時期的封建社會積極意義不明顯,唯有社會進入以自由競爭為特征的商品經(jīng)濟制度時期之后,資本的集合和運作成為謀求更大利潤和發(fā)展社會經(jīng)濟的必需,團體人格的價值方得到彰顯,法人制度應運而生。實益性基礎(chǔ)(社會價值)被學者認為是法人制度的重要依據(jù)或根本性依據(jù),如李宜琛認為,法人“人格之根據(jù),則在用于其社會的價值也”。⑨李宜琛:《民法總則》,中正書局(臺北)1978年版,第106頁。王利明等學者指出:“社會組織在商品經(jīng)濟社會的實際作用,乃是它們在法律上的主體資格即法人的本質(zhì)所在。”⑩王利明、郭明瑞、方流芳:《民法新論》,中國政法大學出版社1988年版,第226頁。德國學者指出,法人制度在《德國民法典》的確立在于賦予團體法律主體地位有助于推動交易和有助于責任限制兩大經(jīng)濟實益。①參見[德]迪特爾·梅迪庫斯:《德國民法總論》,邵建東譯,法律出版社2000年版,第814-815頁。其三,法技術(shù)基礎(chǔ)。始于羅馬法時期的人與人格相分離的法技術(shù)為近代法將人格賦予團體提供了法技術(shù)基礎(chǔ)。“人格”(persona)是古羅馬法創(chuàng)設的概念,具有“面具”的意思,是羅馬社會用以對人進行分階層以配置社會資源的產(chǎn)物。有人格者為羅馬私法上的權(quán)利義務主體,沒有人格者(包括人和物)則不能成為羅馬私法的權(quán)利義務主體。人與人格的分離使“人格”這種面具可以根據(jù)社會需要戴在團體臉上,使其具有民事主體資格,并可以像“人格人”一樣參與各種民事活動。②參見馬俊駒:《人格和人格權(quán)理論講稿》,法律出版社2009年版,第36頁。近代以來,社會經(jīng)濟的發(fā)展要求認可團體的法律地位,使其與投資人相區(qū)分,從而成為財產(chǎn)權(quán)利、義務和責任的獨立承擔者,以限制投資人風險,鼓勵投資積極性成為促進社會發(fā)展的必要。立法者借此通過對古羅馬法人格理論的改造,將人格面具“戴到某些‘適于成為交易主體’的團體的臉上,使之與其他團體相區(qū)別”,③尹田:《論法人人格權(quán)》,《法學研究》2004年第4期。從而創(chuàng)設了賦予團體人格的法人制度。

    三、人工智能的法律地位分析

    (一)人工智能主體地位的否定

    人工智能擁有類似人類的智能,但是并未發(fā)展出人類理性,不可依“理性論”取得類似自然人的主體地位;人工智能是人類實現(xiàn)自身目的的工具,但是賦予其主體地位并無實益,不可依“工具論”取得類似法人的主體地位;人工智能超強的智能蘊含巨大的風險,必須處于人類的支配和控制之下,人工智能只能是客體而非主體。

    首先,人工智能沒有理性,不能取得類似自然人的主體地位。美國紐約法院曾經(jīng)指出,對計算機編程不是也無法讓計算機做出判斷而僅是讓計算機執(zhí)行強制指令。④Pompeii Estates,Inc.v.Consolidated Edison Co.,397 N.Y.S.2d 577,580(N.Y.Civ.Ct.1977).近幾年來技術(shù)的發(fā)展逐漸改變了人們關(guān)于機器僅能執(zhí)行命令而不能自主判斷和自主決策的觀念。機器學習(Machine Learning)功能使人工智能能夠在沒有預先算法或規(guī)則設定的情況下,通過主動學習來解決問題。與傳統(tǒng)機器不同的是,高度自主人工智能的最大特征在于具有高度的甚至完全的自主性。目前的深度學習算法允許人工智能從數(shù)據(jù)中學習并推演出新的規(guī)則。這意味著是學習算法(Learning Algorithm)而非程序員創(chuàng)建了新的規(guī)則,人工智能就是利用這些新的規(guī)則駕駛汽車或運行其他機器。大數(shù)據(jù)技術(shù)更使機器學習的效果發(fā)生了質(zhì)的飛躍,人工智能的獨立判斷能力也得到明顯提升。即便如此,賦予人工智能主體地位仍然理由不足。

    當前的人工智能雖有一些自主判斷和自主選擇的能力,但這并不意味人工智能與人類一樣擁有理性能力。人工智能僅具有有限的認知能力,沒有自我意識,沒有自身目的,不可能成為自由自律的理性主體。人工智能是實驗室的產(chǎn)物,僅能通過人類為其設定的算法或通過海量數(shù)據(jù)訓練自主生成算法認識事物,它們對世界的認知受到很大限制,無法用數(shù)據(jù)形式表示的抽象內(nèi)容(如情感、動機、直覺等)無法習得。人既是生物的人,也是社會的人,人對事物的認知既關(guān)涉人腦的機能,也關(guān)涉后天的閱歷。人腦具備從少量經(jīng)驗中提取有用結(jié)論的能力,具備將豐富閱歷凝練成常識的能力,人類因而具備從認知中提出問題的能力。人工智能僅能模擬人的顯性智慧,⑤參見鐘義信:《人工智能:“熱鬧”背后的“門道”》,《科技導報》2016年第7期。主要表現(xiàn)為通過獲取信息、提煉知識、演繹智能策略和執(zhí)行智能策略這樣一些顯性的操作能力,達到解決問題的目標,不像人類可以基于主觀目的、既有知識、直覺、想象力、審美力、靈感和頓悟等形成定義問題和提出問題的能力。人工智能終究是人類設計而非自然孕育,沒有自身目的,其存在目的由創(chuàng)造它的人來決定,人類根據(jù)自己的需要設定人工智能的算法,提供特定的學習數(shù)據(jù),規(guī)定人工智能的行為模式,人工智能成為達致其創(chuàng)造者目的的工具。人工智能沒有自我意識,它不知道自己所從事的行為的目的和意義。人工智能不具有人類情感。人有七情(喜、怒、哀、懼、愛、惡、欲)六欲(“生、死、耳、目、口、鼻”所生之欲),還有慈悲之心、同情之心、惻隱之心和憐憫之心。這些情感目前人工智能并不具備。目前,雖然人工智能的自主選擇能力令人震驚,享有了本該人類獨享的能力,但是其自主選擇只是取決于算法,與復雜的人類情感無法相提并論。未來或許可以給人工智能設置情感,但這種情感僅是模擬而非真實的情感。既然不是人類,既然不像人類有情感,不會愛,也沒有愛的能力,那么人工智能當然還不算真正具有理性。沒有理性的人工智能自然不能以理性取得主體資格。人類的理性是獨一無二的。歸根到底,目前的人工智能不管怎么說還是程序,這個程序可以編寫,可以刪除,不同于人類。人工智能或許可以做到自主選擇,但不可能擁有人類情感,這些都只能是生理、心理(而非程序)能夠產(chǎn)生的。

    人工智能的研究日新月異?!拔磥沓霈F(xiàn)的機器人將擁有生物大腦,甚至可以與人腦的神經(jīng)元數(shù)量相媲美。美國未來學家甚至預測:在本世紀中葉,非生物智能將會10億倍于今天所有人的智慧。”⑥杜嚴勇:《論機器人的權(quán)利》,《哲學動態(tài)》2015年第8期。人工智能在隱性智慧探索方面也有可能出現(xiàn)突破性進展。一旦具備發(fā)現(xiàn)問題和定義問題的能力,人工智能將會實現(xiàn)真正的自主。“自主性越強,就越難將其當成是其他主體手中的簡單工具?!雹咚緯?、曹建峰:《論人工智能的民事責任:以自動駕駛汽車和智能機器人為切入點》,《法律科學》2017年第5期。人工智能越來越像人類,甚至超越了人類,不賦予其主體資格似乎不合情理。然而,人工智能超強的智力蘊藏著巨大的危險?,F(xiàn)代社會諸多風險是“被制造出來的風險”,⑧[英]安東尼·吉登斯:《失控的世界:全球化如何重塑我們的生活》,周紅云譯,江西人民出版社2000年版,第24頁。正如馬克斯·韋伯形象地指出的那樣,人類將注定會生活在“技術(shù)知識的囚室”。⑨[德]烏爾里?!へ惪?、[英]安東尼·吉登斯、[英]斯科特·拉什:《自反性現(xiàn)代化》,趙文書譯,商務印書館2001年版,第74頁?;蛟S科技能創(chuàng)造出與人類一樣有思想、有靈魂的人工智能,這將給倫理與哲學帶來巨大的沖擊。目前的人工智能還不算人類。一旦人工智能有了思維,有了情感,有了自由意志,那么他們算不算人類已經(jīng)不重要。意思自治不可能在人類與人工智能之間實現(xiàn)。當智力不對等,意思自治便無從實現(xiàn),正如人類不可能與大猩猩相互意思自治,超人工智能也不可能與人類相互實現(xiàn)意思自治。創(chuàng)造有理性的人工智能本身即是一個巨大的錯誤。有學者對可能到來的人工智能時代表示自己的擔憂:“如果這一天真的到來,面臨挑戰(zhàn)甚至威脅的,將是整個人類社會?!雹馔踹w:《論人工智能生成的內(nèi)容在著作權(quán)法中的定性》,《法律科學》2017年第5期。即使不考慮人工智能會終結(jié)人類,也應考慮人工智能“將會改變大多數(shù)人類的生活,我們工作和娛樂的真正本質(zhì)將會被改變,我們對于智能、意識和人類未來命運的觀點也會改變。在此層次上,人工智能系統(tǒng)會對人類的自主性、自由乃至生存造成更為直接的威脅”。①[美]羅素、[美]諾維格:《人工智能:一種現(xiàn)代的方法》(第3版),殷建平等譯,清華大學出版社2013年版,第878頁。捫心自問,面對人類的終結(jié)者,人類是否坦然面對而無動于衷?人類是否要成為自己的掘墓人?難道人類對自己說,這是人類的進化而非是人類的滅亡?如果做不到這一點,那么人類顯然應當阻止這一切的到來。

    其次,賦予人工智能主體地位沒有實際益處,人工智能不能取得類似法人的主體地位。《未來簡史》的作者赫拉利認為,既然法律能認可公司這種既無身體也無心智的實體的主體地位,稱之為“法人”,那么認可人工智能以主體資格也無不可。②參見[以色列]尤瓦爾·赫拉利:《未來簡史——從智人到神人》,中信出版集團2017年版,第293頁。一些法律學者也持類似觀點。如有學者認為,法律既然可以賦予公司以法人地位,那么“未來在時機成熟時賦予智能機器人法律地位,也未嘗不可?!绻x予智能機器人電子人格(Electronic Personality),讓其可以享有特定的權(quán)利和義務,并可以對其行為承擔法律責任,包括對其造成的損害的賠償責任,人們現(xiàn)在擔心的很多責任問題都可以得到較好的解決”。③同前注⑦,司曉、曹建峰文。如前所述,法人制度的最終確立除了取決于實體性基礎(chǔ)和法技術(shù)基礎(chǔ),還取決于實益性基礎(chǔ),即承認團體人格有無必要。盡管羅馬法時代已出現(xiàn)團體,但由于其經(jīng)濟意義有限,法人制度并未確立。只有在商品經(jīng)濟有了一定發(fā)展之后,團體才真正有被賦予主體資格的必要。目前,人工智能的法律地位問題主要針對人工智能創(chuàng)造物的歸屬與人工智能所引起的損害賠償責任承擔問題的解決而提出,然而,賦予人工智能主體地位對上述兩個問題的解決并無實際益處。

    其一,賦予人工智能主體地位無益于人工智能創(chuàng)造物歸屬問題的解決。隨著人工智能技術(shù)的廣泛應用,人工智能創(chuàng)造物的歸屬已成為一個現(xiàn)實且迫切需要解決的法律問題。如果人工智能創(chuàng)造物歸屬于人工智能自身,那么自然也就等于承認人工智能的主體地位。如果情況確實如此,那么賦予人工智能以主體地位的確有實際益處。然而情況并非如此。

    境外實踐早已遇到此類問題,理論界也已有深入的探討。在美國,其國家版權(quán)局雖然將“計算機程序生成內(nèi)容的現(xiàn)象視為其面臨的重難點問題之一”,但是自20世紀50年代以來,美國版權(quán)局一直拒絕將“機器創(chuàng)作”歌曲和其他類似產(chǎn)品視為作品加以登記。其表面理由是“該局從未登記過由機器創(chuàng)作的作品”,更深層的理由則如霍姆斯法官在Bleistein案中強調(diào)的那樣:“版權(quán)的保護并非是因為作品的最終用途或?qū)徝纼r值,而是因為作者的個性化元素,……人格(personality)常常包含某種個性……個性則是其獲得版權(quán)的(條件)?!雹蹷leistein v.Donaldson Lithographing Co.,188 U.S.250(1903).作為對這種思想的貫徹,美國版權(quán)局1973年在其工作手冊中明確規(guī)定“受著作權(quán)法保護的作品必須來源于人的創(chuàng)作”。⑤See U.S.Copyright Office,Compendium of Copyright Office Practice(1973),§2.8.3.在英國,1988年《版權(quán)、設計和專利法》明確將無人參與的計算機生成內(nèi)容視為作品(computer-generated works),不過此類作品權(quán)利歸屬于“使計算機獲得獨立生成內(nèi)容之能力的主體”。⑥Copyright,Designs and Patents Act 1988,http://www.legislation.gov.uk/ukpga/1988/48/section/9,2018年11月5日訪問。受英國影響,南非1978年《版權(quán)法》也規(guī)定人工智能創(chuàng)造物構(gòu)成版權(quán)法意義上的作品,作者同樣不是人工智能而是對作品創(chuàng)作進行必要操作的人。2006年,南非最高法院在Haupt v.Brewers MarketingIntelligence(Pty)Ltd.and Others案中重申了這一法律立場。⑦See Hanah Simon,South African Supreme Court Rules on Copyright in Software and Computer-Generated Works,11 J.Intell.ProP.l.&Prac.696,699(2006).新西蘭針對人工智能創(chuàng)造物也采取相同的立法態(tài)度。⑧See Mark Perry,Thomas Margoni,F(xiàn)rom Music Tracks To Google Maps:Who Owns Computer-Generated Works?,26 Computer Law&Security Review,621,622(2010).

    國內(nèi)不少學者對人工智能創(chuàng)造物的歸屬進行了探討。王遷認為:“迄今為止人工智能生成的內(nèi)容都是應用算法、規(guī)則和模板的結(jié)果,不能體現(xiàn)創(chuàng)作者獨特的個性,不能被認定為作品?!雹嵬白ⅱ猓踹w文。曹源認為人工智能創(chuàng)作物獲得版權(quán)保護具有合理性,但是“人工智能本身目前不享有獨立的法律人格,其仍然屬于機械的一種”。⑩曹源:《人工智能創(chuàng)作物獲得版權(quán)保護的合理性》,《科技與法律》2016年第3期。熊琦認為,人工智能創(chuàng)造物是“遵循人工智能軟件設計者意志創(chuàng)作的產(chǎn)物”,權(quán)利歸屬應借鑒法人作品制度安排,“將人工智能的所有者視為著作權(quán)人”。①熊琦:《人工智能生成內(nèi)容的著作權(quán)認定》,《知識產(chǎn)權(quán)》2017年第3期。易繼明認為,“人工智能之‘智能’,將設計者之設計版權(quán)與智能作品上的版權(quán)區(qū)分開來”,但是,人工智能既不是人也不是物,應將人工智能創(chuàng)作物定位為對設計版權(quán)的演繹作品。②易繼明:《人工智能創(chuàng)作物是作品嗎?》《法律科學》2017年第5期。

    綜上所述,國內(nèi)外的理論與實踐多數(shù)不承認人工智能創(chuàng)造物歸屬于人工智能,即不承認人工智能的私法主體地位。

    即便存在完全由人工智能獨立完成的創(chuàng)造物,也不能改變?nèi)斯ぶ悄懿荒艹蔀槠鋭?chuàng)造物主體的命運。因為即使承認人工智能的主體地位,并將創(chuàng)造物賦予它,該創(chuàng)造物也將不能最終由它享受利益。承認人工智能為作者,但該作者僅有虛名卻又不能享受任何實益,這是沒有任何意義的。同時,機器本身不需要經(jīng)濟激勵。正如薩繆爾森教授所言:“版權(quán)制度在歷史上一直都只對人(human)授予版權(quán)?!浞浅S辛Φ睦碛墒牵簷C器享有知識產(chǎn)權(quán)毫無意義,因為機器不需要獲得排他權(quán)來激勵其生成內(nèi)容。知識產(chǎn)權(quán)制度的整體目標是,通過授予創(chuàng)造者的排他權(quán)以引誘其創(chuàng)新,該制度推定:如果無須激勵也能產(chǎn)生(創(chuàng)新),則權(quán)利就無保護之必要?!雹跴amela Samuelson,Allocating Ownership Rights in Computer-Generated Works,47 Pittsburgh Law Review.1185,1190-1191(1986).可見,承認人工智能的主體地位于解決人工智能創(chuàng)作物的歸屬問題沒有實際益處。

    其二,賦予人工智能主體地位無益于人工智能損害賠償責任承擔問題的解決。深度學習等技術(shù)帶來的高度自主人工智能的發(fā)展,引發(fā)了法律學者關(guān)于如何規(guī)制這類人工智能的恐慌。有學者認為,“當前以人類行為者為中心的侵權(quán)責任和以產(chǎn)品生產(chǎn)者為中心的產(chǎn)品責任”已無法應對人工智能侵權(quán)責任這一問題。因為高度自主人工智能具備脫離人類控制,自主行為的能力,它可以學習“打破”人類預先為其設定的行為規(guī)則以保護其自身的生存,“對于這種偏離預期的行為,以產(chǎn)品缺陷這一事由讓生產(chǎn)者承擔責任,難以在侵權(quán)法上得到證成”。④同前注⑦,司曉、曹建峰文。另有學者則指出,對于人工智能獨立意志情形下產(chǎn)生的侵權(quán)行為,不能完全苛責新興技術(shù)的創(chuàng)造者。⑤See Bruce G.Buchanan,Thomas E.Headrick,Some Speculation About Artificial Intelligence and Legal Reasoning,23 Stanford Law Review 40,62(1970).因此有學者認為,應當借鑒歐盟的立法建議,在法律上承認高度自主智能機器人為“電子人”,“著眼于如何讓一臺機器為其行為或者疏忽部分或者全部地承擔責任”。⑥同前注⑦,司曉、曹建峰文。

    將責任分配給虛無的電子人格,卻讓人工智能的設計者和制造者置身事外,筆者無法贊成。由人工智能承擔侵權(quán)責任,表面上簡化了歸責程序,實際上并不能解決責任認定和承擔的困難。作為法律主體,人工智能將與生產(chǎn)者、銷售者、使用者等主體共同分擔責任,但是它們不會出現(xiàn)人類意義上的過錯,需要通過技術(shù)鑒定明確其行為性質(zhì),而人工智能的運行系統(tǒng)、行為模式等各類參數(shù)都是由生產(chǎn)者設計的,這為生產(chǎn)者規(guī)避責任提供了機會,可能助長生產(chǎn)者的投機心理,將未經(jīng)過充分測試的人工智能投入市場,引發(fā)惡性競爭,既不利于人工智能產(chǎn)業(yè)的發(fā)展,也不利于產(chǎn)品使用者的權(quán)益保障。同時,人工智能歸屬明確,其沒有獨立的財產(chǎn),無法對其執(zhí)行財產(chǎn)性賠償;人工智能也沒有人類情感,無法履行賠禮道歉等非財產(chǎn)性賠償。最終,人工智能所承擔的責任還是歸屬于傳統(tǒng)意義上的私法主體。

    歐盟和俄羅斯均在其關(guān)于機器人立法的建議稿中提及賦予高度自主人工智能法律主體地位,但是均未進一步解決作為主體的人工智能如何承擔責任的問題,而是將最終的責任承擔歸于相關(guān)人類?!稓W盟機器人民事法律規(guī)則》(第56段)特別指出“至少在現(xiàn)階段,責任必須由人類而不是機器人承擔”,并且該規(guī)則構(gòu)建了以嚴格責任、強制保險和基金制度共同分擔的人工智能責任承擔機制。⑦參見歐盟議會法律事務委員會:《就機器人民事法律規(guī)則向歐盟委員會提出建議的報告》(Report with Recommendations to the Commission on Civil Law Rules on Robotics,2015/2103(INL))第59段f項。http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+REPORT+A8-2017-0005+0+DOC+PDF+V0//EN,2017年12月5日訪問。俄羅斯《格里申法案》設置了類似法人的“機器人-代理人”地位,并構(gòu)建了登記制度使其獲得權(quán)利能力,但是在責任承擔上,明確規(guī)定,因機器人-代理人的行為產(chǎn)生的責任由其所有權(quán)人或占有人承擔(第127.4條第1款)。⑧參見由俄羅斯互聯(lián)網(wǎng)技術(shù)專家格里申及其基金會“格里申機器人”發(fā)起起草的《在完善機器人領(lǐng)域關(guān)系法律調(diào)整部分修改俄羅斯聯(lián)邦民法典的聯(lián)邦法律》(又稱《格里申法案》)第1條。https://vk.com/robolaw,2018年11月5日訪問??梢?,與賦予團體法人資格不同,人工智能主體地位成為一種法律虛置?!皺C器人無論以何種方式承擔責任,最終的責任承擔者都是自然人,這使得它的‘法律人格’顯得多余和毫無必要。”⑨鄭戈:《人工智能與法律的未來》,《探索與爭鳴》2017年第10期。

    (二)人工智能客體地位的合理性

    法學界關(guān)于人工智能法律地位之爭,是圍繞人工智能的法律規(guī)制而展開的。人工智能是人類創(chuàng)造物,其原初地位是物,賦予人工智能法律主體地位是一種打破常規(guī)的創(chuàng)新路徑,但是這一創(chuàng)新將造成作為產(chǎn)業(yè)或產(chǎn)品的人工智能本身以及現(xiàn)有法律制度兩方面的無所適從。作為自然科學的新領(lǐng)域,人工智能的進一步突破尚有許多不確定因素,現(xiàn)在的人工智能遠未達到既有法理關(guān)于法律主體的規(guī)定性條件,若將其設定為法律主體必將導致現(xiàn)有法律主體理論和制度的顛覆性調(diào)整,由于人工智能將滲入人們生活的方方面面,整個法律關(guān)系和社會關(guān)系將面臨這種法律調(diào)整的動蕩;作為社會科學的新領(lǐng)域,對人工智能本身以及人工智能的發(fā)展,均需要通過法律規(guī)制和道德約束以實現(xiàn)社會價值的引導,而將人工智能作為主體這種打破常規(guī)的做法,在使既有法學理論和制度以及在其調(diào)整下的社會關(guān)系遭遇顛覆性調(diào)整的同時,也放棄了對人工智能發(fā)展的引導。筆者認為,鑒于人工智能的智能性和自主性,人工智能應該被定位為法律上的特殊物而處于法律客體地位,唯有如此,才能更好地實現(xiàn)對人工智能的規(guī)制與利用的雙重目標。

    首先,這種客體定位有利于人工智能法律規(guī)制的實現(xiàn)。將人工智能作為法律主體將使當前通行的法理和法律制度面臨各種適用困境。法律由人制定,是以人類行為為中心展開的規(guī)范體系。人因為有理性而具備立法的能力,并具備遵守自己所立的法的能力。人工智能不具備人類理性,不可能與人類形成共同的實踐理性,不可能理解人類的法律,也不會利用法律。即使人類可以在人工智能系統(tǒng)輸入法律程序,裝有法律程序的人工智能也只能是被動遵守指令,而非有意識地主動選擇。如此,則所有法律中關(guān)于行為者的主觀意志的判定對于人工智能失效,人工智能的行為是否違法,是侵權(quán)還是犯罪的認定或?qū)⑾萑肜Ь?,或?qū)H僅是某些人的意愿,人工智能成為法律實踐中的“偽主體”。如果將人工智能作為法律客體,則僅需對人類的行為進行規(guī)范,從本質(zhì)上而言,對人工智能的規(guī)制歸根到底是對作為法律主體的人的規(guī)制,唯有實現(xiàn)了對與人工智能相關(guān)的人類行為的規(guī)制,才能從根本上使人工智能處于人類法律的規(guī)制之下,并得到相應保護。

    人工智能種類繁多,性能差異很大,隨著科技的發(fā)展,某些人工智能產(chǎn)品還將產(chǎn)生一些突破性的性能改變,在客體定位下,可以在現(xiàn)有法律體系下對人工智能進行分類規(guī)制。歐盟和俄羅斯的立法建議稿都提出了分類規(guī)制的建議。歐盟建議稿提出對機器人進行分類,建立登記注冊制。俄羅斯更進一步將人工智能區(qū)分為類似動物的財產(chǎn)和作為準主體的類似于法人的“機器人-代理人”分別進行規(guī)制,在此基礎(chǔ)上根據(jù)所適用的領(lǐng)域,又進行了細分,并對其中一些類型的機器人規(guī)定了特別的使用原則。筆者認為,對于低端智能化的人工智能產(chǎn)品如家用掃地機等,適用普通物(產(chǎn)品)的法律規(guī)范即可;對于高度自主人工智能產(chǎn)品,可以依據(jù)用途再次分類,針對其特殊性予以特別的法律規(guī)制。依據(jù)用途分類的原因主要在于,一般而言,不同用途的人工智能其技術(shù)含量會有區(qū)別,所具備的自主性以及與人類交往的密切程度也會有區(qū)別。按照生活習慣,從事較高端工作的人工智能(如作為人類的助手的公司的秘書或家庭服務機器人等)通常會按照人類外形打造,并且比其他類別的人工智能具備更高智力水平,可能會配備一些情感模擬程序。與作為運輸工具的智能汽車等產(chǎn)品相比,這些機器人與人類具有更密切的關(guān)系,長期與之相處的人可能對這些“服務者”產(chǎn)生感情,因此,在法律保護、致害責任以及遭受侵害后的損害賠償責任等法律規(guī)則設計上與其他人工智能產(chǎn)品要有所區(qū)分,比如規(guī)定更嚴格的保護規(guī)則,對這些機器人的損害賠償責任中規(guī)定精神損害賠償?shù)?。如此則能兼顧人工智能的“類人”屬性和“工具”屬性,也符合人類倫理道德觀。

    其次,人工智能的客體地位有利于人工智能技術(shù)目標的實現(xiàn)。人工智能是人類改造世界的高級工具,將其作為法律客體符合人是目的,物是人實現(xiàn)目的的手段與工具的基本定位,有利于人類能動地支配人工智能實現(xiàn)自身目的。相反,若將人工智能定位為法律主體則可能使人類偏離創(chuàng)造人工智能的初衷,科學家可能將“造人”當作人工智能科技發(fā)展的終極目標,使人類在科技發(fā)展的道路上誤入歧途。“人類最高目標不是發(fā)展和應用技術(shù),而是人的全面發(fā)展,技術(shù)只是為這個目標服務的手段?!雹饬值潞辏骸犊萍颊軐W十五講》,北京大學出版社2004年版,第280頁。法律主體意味著法律權(quán)利的享有者和法律義務的承受者,姑且不論人工智能是否實質(zhì)具有這種能力,享有權(quán)利就意味著人工智能可以提出要求,人類必須滿足其權(quán)利范圍內(nèi)的要求。在人工智能是由人類生產(chǎn)的這一不可改變的前提下,具備主體地位的人工智能要么將淪為掌握核心技術(shù)的少數(shù)人的工具,要么將“自我覺醒”,走向人類的對立面。生物意義上的人千百年來努力將自己從原始的混亂中解放出來,“自啟蒙運動以來,人們樹立起大寫的人的獨特地位,確定了人是唯一的主體,也是唯一的目的”,①甘紹平:《機器人怎么可能擁有權(quán)利》,《倫理學研究》2017年第3期。人類之外者,本質(zhì)上皆屬人類的工具。人與物的劃界不容撼動與逾越,人類不能因為科技的發(fā)展又使自己退回到原始的混沌之中。人是主體,人工智能是人類追求更美好生活的工具,人工智能科技的發(fā)展必須符合人類普遍倫理,尊重人類的主體性,維護人是目的的價值體系,唯有如此,才能實現(xiàn)人類發(fā)展人工智能科技的目標。

    猜你喜歡
    理性主體人工智能
    論自然人破產(chǎn)法的適用主體
    南大法學(2021年3期)2021-08-13 09:22:32
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    關(guān)于遺產(chǎn)保護主體的思考
    論多元主體的生成
    “本轉(zhuǎn)職”是高等教育的理性回歸
    理性的回歸
    汽車科技(2014年6期)2014-03-11 17:45:28
    對一夫一妻制度的理性思考
    午夜免费男女啪啪视频观看| 国产伦精品一区二区三区视频9| 亚洲欧洲日产国产| 日本欧美国产在线视频| 97在线人人人人妻| 人妻制服诱惑在线中文字幕| 69精品国产乱码久久久| 免费大片18禁| 国产视频内射| 午夜福利,免费看| a级毛片在线看网站| 黑人高潮一二区| 精品国产国语对白av| 天堂俺去俺来也www色官网| 日韩精品免费视频一区二区三区 | 男人添女人高潮全过程视频| 女性生殖器流出的白浆| 一区二区三区精品91| 国产精品人妻久久久影院| 精品国产国语对白av| 内地一区二区视频在线| 亚洲成色77777| 欧美日韩精品成人综合77777| 黑人欧美特级aaaaaa片| 亚洲国产色片| 少妇的逼水好多| av网站免费在线观看视频| 精品午夜福利在线看| 国产成人a∨麻豆精品| 国产一级毛片在线| 大香蕉久久网| 日日撸夜夜添| 国内精品宾馆在线| 午夜福利视频在线观看免费| 成年美女黄网站色视频大全免费 | 精品视频人人做人人爽| 国产免费一级a男人的天堂| 成人国产麻豆网| 免费观看性生交大片5| 啦啦啦啦在线视频资源| 日韩,欧美,国产一区二区三区| 亚洲美女黄色视频免费看| 久久午夜综合久久蜜桃| 蜜桃国产av成人99| 亚洲国产日韩一区二区| 亚洲欧洲国产日韩| 国语对白做爰xxxⅹ性视频网站| 国产在线一区二区三区精| 女性生殖器流出的白浆| 久久久久久久久大av| 丝袜美足系列| 久久久国产欧美日韩av| 91久久精品电影网| 中国国产av一级| 午夜激情福利司机影院| 91精品一卡2卡3卡4卡| 久久久午夜欧美精品| 一级毛片电影观看| 久久精品久久久久久久性| 亚洲精华国产精华液的使用体验| 欧美日韩视频精品一区| 丝袜美足系列| 青春草视频在线免费观看| 永久网站在线| 免费av中文字幕在线| 日韩 亚洲 欧美在线| 精品一品国产午夜福利视频| 免费高清在线观看视频在线观看| 久久精品久久精品一区二区三区| 老熟女久久久| 亚洲欧美一区二区三区黑人 | 国产成人精品无人区| 国产精品秋霞免费鲁丝片| 91在线精品国自产拍蜜月| 超碰97精品在线观看| 人人妻人人爽人人添夜夜欢视频| 国产精品一国产av| 久久午夜福利片| 亚洲av在线观看美女高潮| 精品国产一区二区三区久久久樱花| 免费播放大片免费观看视频在线观看| 久久午夜福利片| 国产日韩欧美亚洲二区| 天天操日日干夜夜撸| 国产男女内射视频| 青春草国产在线视频| 亚洲无线观看免费| 人人妻人人澡人人看| av卡一久久| 久久久久久久久久久丰满| 免费高清在线观看日韩| 大片电影免费在线观看免费| 日本黄色片子视频| 亚洲经典国产精华液单| 亚洲av福利一区| 亚洲国产色片| 久久av网站| 91aial.com中文字幕在线观看| 日韩成人av中文字幕在线观看| 久热久热在线精品观看| 国产有黄有色有爽视频| 丰满乱子伦码专区| 久久久久久久大尺度免费视频| 性高湖久久久久久久久免费观看| 97超视频在线观看视频| 在线免费观看不下载黄p国产| 熟女av电影| 国产精品偷伦视频观看了| 国产精品女同一区二区软件| 新久久久久国产一级毛片| 亚洲国产精品一区二区三区在线| 久久影院123| 蜜桃国产av成人99| 免费观看av网站的网址| 久久99一区二区三区| 国产精品免费大片| 99热6这里只有精品| 欧美+日韩+精品| 69精品国产乱码久久久| 亚洲av免费高清在线观看| 午夜免费观看性视频| freevideosex欧美| 精品少妇久久久久久888优播| 九九爱精品视频在线观看| 人体艺术视频欧美日本| 狂野欧美激情性xxxx在线观看| 啦啦啦啦在线视频资源| 肉色欧美久久久久久久蜜桃| 制服人妻中文乱码| 高清在线视频一区二区三区| 高清黄色对白视频在线免费看| 国产精品三级大全| 女的被弄到高潮叫床怎么办| 熟女电影av网| 制服人妻中文乱码| 婷婷成人精品国产| 18+在线观看网站| 精品视频人人做人人爽| 黄色怎么调成土黄色| 欧美日韩国产mv在线观看视频| 国产精品久久久久久精品古装| a级片在线免费高清观看视频| 18在线观看网站| 国产男女内射视频| 国产精品久久久久久精品电影小说| 亚洲av在线观看美女高潮| 五月开心婷婷网| 欧美人与性动交α欧美精品济南到 | 日本91视频免费播放| 人妻制服诱惑在线中文字幕| av在线观看视频网站免费| 一边亲一边摸免费视频| 精品久久久精品久久久| 欧美3d第一页| 国产在线视频一区二区| 22中文网久久字幕| 日韩中文字幕视频在线看片| 一本久久精品| 午夜福利视频在线观看免费| 欧美xxⅹ黑人| 色吧在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 热re99久久国产66热| 日韩 亚洲 欧美在线| 自线自在国产av| 欧美变态另类bdsm刘玥| 亚洲第一区二区三区不卡| 国产欧美日韩综合在线一区二区| 多毛熟女@视频| 一本久久精品| 九九爱精品视频在线观看| 久久这里有精品视频免费| 91精品三级在线观看| 亚洲精品视频女| 亚洲综合色网址| 插阴视频在线观看视频| 少妇熟女欧美另类| 少妇精品久久久久久久| 日韩熟女老妇一区二区性免费视频| 大香蕉久久成人网| 五月玫瑰六月丁香| 欧美日韩国产mv在线观看视频| 老熟女久久久| 九草在线视频观看| 久久久久久伊人网av| 97精品久久久久久久久久精品| 久久鲁丝午夜福利片| 国产欧美另类精品又又久久亚洲欧美| 人妻系列 视频| 免费高清在线观看日韩| 搡老乐熟女国产| 久久精品国产亚洲av天美| 边亲边吃奶的免费视频| 99久久综合免费| 在线观看免费视频网站a站| 欧美日韩精品成人综合77777| 在现免费观看毛片| 国产成人freesex在线| 各种免费的搞黄视频| 国产亚洲一区二区精品| 色网站视频免费| av天堂久久9| 黑人巨大精品欧美一区二区蜜桃 | 黑人高潮一二区| 欧美丝袜亚洲另类| 亚洲精品aⅴ在线观看| 色视频在线一区二区三区| 在线观看人妻少妇| av播播在线观看一区| 性色avwww在线观看| 熟女av电影| 亚洲一级一片aⅴ在线观看| 麻豆乱淫一区二区| 国产成人精品无人区| 亚洲精品av麻豆狂野| 亚洲av成人精品一区久久| 亚洲精品,欧美精品| 婷婷色综合www| 亚洲久久久国产精品| 亚州av有码| 欧美亚洲日本最大视频资源| 视频在线观看一区二区三区| 最后的刺客免费高清国语| 国产不卡av网站在线观看| 九九久久精品国产亚洲av麻豆| 在线免费观看不下载黄p国产| 国产高清不卡午夜福利| 久久97久久精品| 精品视频人人做人人爽| 亚洲一级一片aⅴ在线观看| 亚洲av综合色区一区| 三级国产精品欧美在线观看| 日韩欧美精品免费久久| 人妻一区二区av| 国产欧美另类精品又又久久亚洲欧美| 国产深夜福利视频在线观看| 国产 一区精品| 国产老妇伦熟女老妇高清| 女人久久www免费人成看片| 国产亚洲午夜精品一区二区久久| 国产色爽女视频免费观看| 亚洲熟女精品中文字幕| 久久久久国产精品人妻一区二区| 免费av不卡在线播放| 99九九线精品视频在线观看视频| 午夜影院在线不卡| 精品久久久久久电影网| 18禁观看日本| 日本色播在线视频| 欧美丝袜亚洲另类| 18在线观看网站| 国产亚洲精品久久久com| 国产一区二区三区综合在线观看 | 欧美少妇被猛烈插入视频| 老熟女久久久| 99热国产这里只有精品6| 欧美精品亚洲一区二区| 久久人妻熟女aⅴ| 中文字幕av电影在线播放| 日韩精品免费视频一区二区三区 | 精品久久国产蜜桃| av黄色大香蕉| 精品国产一区二区久久| 久热久热在线精品观看| 久久99蜜桃精品久久| 国产精品嫩草影院av在线观看| 五月开心婷婷网| 在线观看国产h片| 亚洲av成人精品一区久久| 国产欧美日韩综合在线一区二区| 美女视频免费永久观看网站| 蜜臀久久99精品久久宅男| 日韩亚洲欧美综合| 中文字幕人妻丝袜制服| 热re99久久国产66热| 色5月婷婷丁香| 午夜激情久久久久久久| 国产一区有黄有色的免费视频| 免费播放大片免费观看视频在线观看| 秋霞在线观看毛片| 一级,二级,三级黄色视频| 人妻人人澡人人爽人人| 成人亚洲欧美一区二区av| 亚洲精品久久午夜乱码| 久久亚洲国产成人精品v| 亚洲国产欧美在线一区| 丁香六月天网| 国产成人免费观看mmmm| 蜜桃久久精品国产亚洲av| 91国产中文字幕| 男人爽女人下面视频在线观看| 国产午夜精品一二区理论片| 婷婷色综合大香蕉| 国产精品久久久久久精品古装| 夫妻性生交免费视频一级片| 亚洲欧洲日产国产| 久久精品熟女亚洲av麻豆精品| 精品一区二区免费观看| 欧美成人午夜免费资源| 亚洲欧美成人综合另类久久久| 婷婷色av中文字幕| 国产精品偷伦视频观看了| 熟女人妻精品中文字幕| 午夜福利网站1000一区二区三区| 久久久久网色| 亚洲第一区二区三区不卡| 国产免费一区二区三区四区乱码| 亚洲在久久综合| a级毛片免费高清观看在线播放| 午夜福利视频在线观看免费| 十分钟在线观看高清视频www| 欧美成人午夜免费资源| 亚洲欧洲国产日韩| 狠狠精品人妻久久久久久综合| 亚洲美女黄色视频免费看| 秋霞在线观看毛片| 最新的欧美精品一区二区| 亚洲精品日本国产第一区| 精品国产一区二区三区久久久樱花| 91久久精品国产一区二区成人| 伦精品一区二区三区| 黑人猛操日本美女一级片| 中文字幕久久专区| 欧美精品国产亚洲| 日韩精品免费视频一区二区三区 | 国产精品女同一区二区软件| 国产毛片在线视频| 成人漫画全彩无遮挡| 80岁老熟妇乱子伦牲交| 男女国产视频网站| 国产精品国产av在线观看| 亚洲国产精品专区欧美| a级毛色黄片| 大话2 男鬼变身卡| 国产成人精品福利久久| 伊人久久精品亚洲午夜| 欧美精品国产亚洲| 中文字幕亚洲精品专区| 欧美日韩综合久久久久久| xxx大片免费视频| 香蕉精品网在线| 国产黄色免费在线视频| 国产成人免费无遮挡视频| 蜜桃在线观看..| 久久久久久久久大av| 日韩亚洲欧美综合| 国产在线免费精品| 国产亚洲最大av| 九九爱精品视频在线观看| 蜜臀久久99精品久久宅男| 免费观看性生交大片5| 久久久a久久爽久久v久久| 中文字幕人妻丝袜制服| 中国国产av一级| 精品亚洲成国产av| 91国产中文字幕| 国产精品熟女久久久久浪| 91精品三级在线观看| 色哟哟·www| 在线观看一区二区三区激情| 日韩熟女老妇一区二区性免费视频| 大码成人一级视频| 国产视频内射| 久久国产精品大桥未久av| 中国三级夫妇交换| 中文字幕亚洲精品专区| 国产精品偷伦视频观看了| 日本欧美国产在线视频| 免费看光身美女| 日韩av免费高清视频| av黄色大香蕉| 丝袜喷水一区| 国产伦理片在线播放av一区| 在线天堂最新版资源| 丰满迷人的少妇在线观看| 国产精品久久久久久精品古装| 亚洲精品亚洲一区二区| 97精品久久久久久久久久精品| 久久久亚洲精品成人影院| 国产 精品1| 国产成人精品无人区| 欧美 亚洲 国产 日韩一| 久久国产精品大桥未久av| 好男人视频免费观看在线| 成人免费观看视频高清| 美女福利国产在线| 亚洲中文av在线| 日本爱情动作片www.在线观看| 亚洲久久久国产精品| 日本av手机在线免费观看| 99国产精品免费福利视频| 成人18禁高潮啪啪吃奶动态图 | 国产亚洲精品第一综合不卡 | 能在线免费看毛片的网站| 免费高清在线观看日韩| 久久国内精品自在自线图片| 国产女主播在线喷水免费视频网站| 亚洲av免费高清在线观看| 日本黄大片高清| 老司机亚洲免费影院| 欧美三级亚洲精品| 人妻少妇偷人精品九色| 午夜日本视频在线| 性色av一级| 亚洲熟女精品中文字幕| 久久精品国产亚洲av天美| 日日撸夜夜添| 精品视频人人做人人爽| 在线观看国产h片| 久久毛片免费看一区二区三区| 亚洲欧洲精品一区二区精品久久久 | 久久久久久久亚洲中文字幕| 久久人人爽人人爽人人片va| 欧美变态另类bdsm刘玥| 国产综合精华液| 十八禁网站网址无遮挡| 精品卡一卡二卡四卡免费| 黑丝袜美女国产一区| 春色校园在线视频观看| 人成视频在线观看免费观看| 久久精品国产亚洲网站| 欧美日韩精品成人综合77777| 精品99又大又爽又粗少妇毛片| 成人国产麻豆网| 久久精品国产鲁丝片午夜精品| 亚洲综合色惰| 国产免费又黄又爽又色| 亚洲欧洲精品一区二区精品久久久 | 亚洲一区二区三区欧美精品| 妹子高潮喷水视频| 99热国产这里只有精品6| 伊人久久国产一区二区| 精品午夜福利在线看| 久热这里只有精品99| 搡老乐熟女国产| 精品人妻熟女毛片av久久网站| 久久99热这里只频精品6学生| www.av在线官网国产| 亚洲成人手机| 大话2 男鬼变身卡| 国产日韩欧美视频二区| 欧美日韩精品成人综合77777| 老熟女久久久| 久久久国产一区二区| 国产精品国产av在线观看| 免费大片18禁| 欧美最新免费一区二区三区| 亚洲av免费高清在线观看| 男女边摸边吃奶| 天堂俺去俺来也www色官网| 观看av在线不卡| 中文字幕免费在线视频6| 日本vs欧美在线观看视频| 日韩视频在线欧美| 美女xxoo啪啪120秒动态图| 看免费成人av毛片| 人妻人人澡人人爽人人| 久久久亚洲精品成人影院| 国产无遮挡羞羞视频在线观看| 日韩中字成人| 91成人精品电影| 少妇的逼好多水| 亚洲国产精品999| 久久青草综合色| 色94色欧美一区二区| 亚洲精品国产av成人精品| 两个人的视频大全免费| 欧美3d第一页| 桃花免费在线播放| 日韩一区二区视频免费看| 免费大片18禁| 欧美日韩综合久久久久久| 欧美精品一区二区大全| 精品人妻熟女av久视频| 国产精品无大码| 久久精品国产鲁丝片午夜精品| 啦啦啦在线观看免费高清www| 蜜桃在线观看..| 啦啦啦视频在线资源免费观看| 欧美日韩综合久久久久久| 亚洲欧美中文字幕日韩二区| 街头女战士在线观看网站| 久久精品人人爽人人爽视色| 大香蕉97超碰在线| 欧美亚洲 丝袜 人妻 在线| 欧美日韩亚洲高清精品| 爱豆传媒免费全集在线观看| 欧美老熟妇乱子伦牲交| 亚洲成人手机| 亚洲精品aⅴ在线观看| 曰老女人黄片| 亚洲美女黄色视频免费看| 久久精品国产亚洲av天美| 国产亚洲欧美精品永久| 久久久久久久久久成人| 最近手机中文字幕大全| 亚洲精品日韩在线中文字幕| 亚洲精品国产av蜜桃| 97超视频在线观看视频| 久久亚洲国产成人精品v| 国产免费视频播放在线视频| 亚洲精品aⅴ在线观看| 少妇人妻精品综合一区二区| 少妇被粗大猛烈的视频| 午夜影院在线不卡| 欧美日韩视频高清一区二区三区二| 成人亚洲精品一区在线观看| av女优亚洲男人天堂| 国产精品一国产av| av在线老鸭窝| 18禁在线播放成人免费| 人体艺术视频欧美日本| 亚洲欧美日韩另类电影网站| 亚洲欧洲国产日韩| 人妻 亚洲 视频| 最近中文字幕高清免费大全6| 人体艺术视频欧美日本| 国产精品国产三级国产专区5o| 日韩精品有码人妻一区| 男人添女人高潮全过程视频| 久久精品久久精品一区二区三区| 夜夜看夜夜爽夜夜摸| 亚洲五月色婷婷综合| 少妇被粗大猛烈的视频| 久久精品熟女亚洲av麻豆精品| 在线观看美女被高潮喷水网站| 高清午夜精品一区二区三区| 久久精品国产亚洲网站| 国产成人免费观看mmmm| 欧美激情 高清一区二区三区| 亚洲国产最新在线播放| 午夜日本视频在线| 日日啪夜夜爽| 国产片内射在线| 亚洲人成77777在线视频| 国产 精品1| 又大又黄又爽视频免费| 成人综合一区亚洲| 精品少妇久久久久久888优播| 在线天堂最新版资源| 国产视频内射| 亚洲av男天堂| kizo精华| 夜夜骑夜夜射夜夜干| 亚洲激情五月婷婷啪啪| 国产乱人偷精品视频| 久久久精品94久久精品| 国产成人精品在线电影| 日韩 亚洲 欧美在线| 午夜日本视频在线| 婷婷成人精品国产| 国产极品粉嫩免费观看在线 | 久久99精品国语久久久| 香蕉精品网在线| 99久久中文字幕三级久久日本| 久久亚洲国产成人精品v| 午夜91福利影院| 免费人妻精品一区二区三区视频| 新久久久久国产一级毛片| 国产精品一区二区在线不卡| 国产高清不卡午夜福利| 丰满饥渴人妻一区二区三| 十分钟在线观看高清视频www| 国产伦理片在线播放av一区| 国产亚洲精品久久久com| 中文欧美无线码| 国产免费又黄又爽又色| 久久 成人 亚洲| 一级,二级,三级黄色视频| 日日啪夜夜爽| 青青草视频在线视频观看| 99精国产麻豆久久婷婷| 久久99热6这里只有精品| 日韩大片免费观看网站| 免费看光身美女| av女优亚洲男人天堂| 一区二区av电影网| 91精品一卡2卡3卡4卡| 欧美日韩国产mv在线观看视频| av播播在线观看一区| 国产免费又黄又爽又色| 久久国产亚洲av麻豆专区| 婷婷色麻豆天堂久久| av在线app专区| 美女xxoo啪啪120秒动态图| 大话2 男鬼变身卡| 熟妇人妻不卡中文字幕| a级毛片免费高清观看在线播放| 老司机影院毛片| 欧美3d第一页| 九色成人免费人妻av| 亚洲人成77777在线视频| 欧美丝袜亚洲另类| 一边亲一边摸免费视频| 欧美最新免费一区二区三区| 啦啦啦啦在线视频资源| 自拍欧美九色日韩亚洲蝌蚪91| 精品酒店卫生间| 免费黄色在线免费观看| 爱豆传媒免费全集在线观看| 国产欧美亚洲国产| 女性被躁到高潮视频| 免费播放大片免费观看视频在线观看| 日韩在线高清观看一区二区三区| 99久国产av精品国产电影| 久久久久精品久久久久真实原创| 亚洲精品一二三| 国产亚洲精品久久久com| 又大又黄又爽视频免费| 欧美激情 高清一区二区三区| 老司机亚洲免费影院| 亚洲怡红院男人天堂| 在线精品无人区一区二区三| 美女国产高潮福利片在线看| 极品人妻少妇av视频|