• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    涉人工智能犯罪中的歸因與歸責(zé)標(biāo)準(zhǔn)探析

    2020-05-21 03:33:01劉憲權(quán)
    東方法學(xué) 2020年3期
    關(guān)鍵詞:因果關(guān)系人工智能

    劉憲權(quán)

    內(nèi)容摘要:涉人工智能犯罪中歸因問題的解決,依賴于對涉人工智能犯罪行為與造成的嚴(yán)重危害社會結(jié)果之間純客觀因果關(guān)系的認(rèn)定,而涉人工智能犯罪中歸責(zé)問題的解決,則應(yīng)根據(jù)對行為人主觀罪過等要件的認(rèn)定。在遵循刑法中因果關(guān)系認(rèn)定的一般規(guī)律的基礎(chǔ)上,應(yīng)結(jié)合涉人工智能犯罪的特點(diǎn),將雙重篩選的條件說作為涉人工智能犯罪的歸因標(biāo)準(zhǔn)。雙重篩選的條件說是在條件說的基礎(chǔ)上,吸取客觀歸責(zé)理論的合理成分而建立的因果關(guān)系認(rèn)定標(biāo)準(zhǔn)。在涉人工智能犯罪中,不應(yīng)采用沒有主觀罪過仍追究刑事責(zé)任的絕對嚴(yán)格責(zé)任原則,而應(yīng)采用只要有主觀罪過但不用加以證明就應(yīng)追究刑事責(zé)任的相對嚴(yán)格責(zé)任原則。

    關(guān)鍵詞:人工智能 客觀歸因 綜合歸責(zé) 主觀罪過 嚴(yán)格責(zé)任 因果關(guān)系

    中國分類號:DF6 ?文獻(xiàn)標(biāo)識碼:A ?文章編號:1674-4039-(2020)03-0066-75

    一、問題的緣起

    人工智能技術(shù)的發(fā)展在為人類社會帶來福祉的同時,也帶來了相應(yīng)的風(fēng)險,尤其是刑事風(fēng)險。以自動駕駛汽車引發(fā)的刑事風(fēng)險為例,我們可以將其分為以下幾種情況:第一,自動駕駛汽車系統(tǒng)本身出現(xiàn)故障。在此情況下,自動駕駛汽車應(yīng)對使用者發(fā)出警報,使用者收到警報后應(yīng)采取相應(yīng)措施。使用者在故意或者過失的心態(tài)支配下未采取相應(yīng)措施或利用自動駕駛汽車的故障制造交通事故,最終導(dǎo)致嚴(yán)重危害社會的結(jié)果發(fā)生。第二,自動駕駛汽車系統(tǒng)本身并無任何故障,使用者故意操縱自動駕駛汽車實(shí)施嚴(yán)重危害社會的行為。第三,自動駕駛汽車系統(tǒng)本身出現(xiàn)故障,并對使用者發(fā)出警報,但使用者收到警報采取相應(yīng)措施后無任何作用,嚴(yán)重危害社會的后果仍然發(fā)生。分析上述幾種情形,我們不難發(fā)現(xiàn),隨著人工智能技術(shù)的發(fā)展和人工智能時代的到來,犯罪的樣態(tài)也隨之發(fā)生改變。涉人工智能犯罪本身具有復(fù)合性和復(fù)雜性,尤其當(dāng)牽涉兩個或兩個以上主體時,如何認(rèn)定不同主體的刑事責(zé)任?如何在不同主體之間進(jìn)行刑事責(zé)任分配?也即如何對涉人工智能犯罪行為進(jìn)行歸因和歸責(zé)?這些都應(yīng)當(dāng)成為刑法學(xué)者關(guān)注和致力解決的問題。

    涉人工智能犯罪中的歸因與歸責(zé)問題,是兩個獨(dú)立且有關(guān)聯(lián)的問題——?dú)w因是歸責(zé)的基礎(chǔ)和前提,歸責(zé)是歸因的可能后果。因?yàn)榻F(xiàn)代刑法文明和人道的標(biāo)志之一就在于堅(jiān)守罪責(zé)自負(fù):任何人只對自己的不法行為及其引起的危害結(jié)果承擔(dān)責(zé)任,而不對他人的不法行為及危害結(jié)果承擔(dān)責(zé)任?!? 〕因此,要解決涉人工智能犯罪行為的歸因與歸責(zé)問題,我們首先要明確兩者的順序,即只有在解決歸因問題之后才能解決歸責(zé)問題。同時,筆者還認(rèn)為,涉人工智能犯罪中歸因問題的解決,依賴于對涉人工智能犯罪行為與造成的嚴(yán)重危害社會結(jié)果之間的因果關(guān)系的認(rèn)定;而涉人工智能犯罪中歸責(zé)問題的解決,則應(yīng)依賴于對行為人主觀罪過等構(gòu)成要件的認(rèn)定。

    二、涉人工智能犯罪認(rèn)定應(yīng)堅(jiān)持客觀歸因

    正是因?yàn)樯嫒斯ぶ悄芊缸镏械臍w因問題的解決,依賴于對涉人工智能犯罪行為與造成的嚴(yán)重危害社會結(jié)果之間的因果關(guān)系的認(rèn)定,因此,采用什么樣的標(biāo)準(zhǔn)和準(zhǔn)則來認(rèn)定涉人工智能犯罪中的因果關(guān)系,就顯得至關(guān)重要。

    (一)傳統(tǒng)刑法因果關(guān)系學(xué)說

    在人工智能時代到來之前,刑法理論中有關(guān)認(rèn)定因果關(guān)系的學(xué)說主要有條件說、原因說、相當(dāng)因果關(guān)系說、客觀歸責(zé)理論等。

    條件說認(rèn)為,一定的前行事實(shí)(行為)與一定的后行事實(shí)(結(jié)果),如有所謂“如無前者,即無后者”的論理?xiàng)l件關(guān)系時,則其行為即為對于結(jié)果的原因,兩者之間有因果關(guān)系?!? 〕簡言之,若行為與結(jié)果之間存在“若非A,則非B”的關(guān)系,則A是B的原因。有學(xué)者指出,條件說存在無限制地擴(kuò)大刑法上的因果關(guān)系范圍的缺陷?!? 〕對條件說進(jìn)行批判的經(jīng)典案例是,殺人犯的母親生了殺人犯,是否也是殺人行為的兇手?這一說法的荒謬之處筆者將在下文中詳述,在此不作贅述。

    原因說是為了避免條件說不適當(dāng)?shù)財U(kuò)大刑事責(zé)任的范圍而產(chǎn)生的,所以又稱“限制條件說”。該說主張,在導(dǎo)致結(jié)果發(fā)生的數(shù)個條件中,根據(jù)某種標(biāo)準(zhǔn)挑選出一個條件作為原因,這一條件和結(jié)果之間才具有因果關(guān)系,其他諸條件與結(jié)果之間都沒有因果關(guān)系。這一學(xué)說完全忽視了多因一果的狀況,且判斷標(biāo)準(zhǔn)極具爭議性和隨意性,在當(dāng)今的刑法學(xué)界已無影響力。

    相當(dāng)因果關(guān)系說以條件關(guān)系的存在為前提,認(rèn)為由其行為發(fā)生該結(jié)果在經(jīng)驗(yàn)上是通常的,即限于被認(rèn)為是“相當(dāng)”的場合,肯定刑法上的因果關(guān)系。關(guān)于認(rèn)定何為“相當(dāng)”的標(biāo)準(zhǔn),在相當(dāng)因果關(guān)系說內(nèi)部,又分裂成客觀說、主觀說、折中說三派。但事實(shí)上,相當(dāng)因果關(guān)系說內(nèi)部分裂出的三派學(xué)說側(cè)重的是對判斷資料的篩查,而非對判斷規(guī)則的確立,因此有本末倒置的嫌疑。而在涉及具體判斷規(guī)則的確立時,相當(dāng)因果關(guān)系并未提供確定標(biāo)準(zhǔn),仍只能以經(jīng)驗(yàn)法則作為實(shí)際意義上的實(shí)施標(biāo)準(zhǔn)。法律規(guī)則的制定可以以人類累積的經(jīng)驗(yàn)作為素材,但是當(dāng)把經(jīng)驗(yàn)本身作為判斷標(biāo)準(zhǔn)時,就會陷入具有不確定性的經(jīng)驗(yàn)主義泥淖。“累積的經(jīng)驗(yàn)法則可以作為規(guī)范制定的來源,但其本身上升為一種標(biāo)準(zhǔn)時,在以法官作為裁決終端的司法體制中,最終會演變成為裁判者個人價值偏好背書的萬能公式?!?〔4 〕簡言之,每個法官的“相當(dāng)”事實(shí)上都是不相當(dāng)?shù)摹?/p>

    關(guān)于客觀歸責(zé)理論,有人認(rèn)為,“區(qū)別于條件說主要解決歸因的問題,客觀歸責(zé)理論解決的是歸責(zé)問題”?!? 〕但是,由于我們是在論述刑法中因果關(guān)系背景下討論這一問題的,因此,筆者認(rèn)為,此處客觀歸責(zé)理論所論述的“歸責(zé)”,本質(zhì)上仍應(yīng)屬于歸因的范疇,即是在對行為與結(jié)果進(jìn)行事實(shí)因果關(guān)系的判斷過程之后的規(guī)范判斷,以此最終確定行為與結(jié)果之間是否具有法律意義上的因果關(guān)系。換言之,刑法因果關(guān)系中的客觀歸責(zé)理論所論述的本質(zhì)問題是客觀歸因問題,是探討能否將結(jié)果歸結(jié)于行為,即通過對行為與結(jié)果進(jìn)行規(guī)范判斷來確定因果關(guān)系能否得以證成。根據(jù)這一理論,在行為與結(jié)果具有事實(shí)上的因果關(guān)系的基礎(chǔ)上,當(dāng)符合三個條件(行為制造了不被允許的危險,行為實(shí)現(xiàn)了不被允許的危險,結(jié)果沒有超出構(gòu)成要件的保護(hù)范圍)時,才能將結(jié)果歸因于行為。因此,筆者在本文論述對涉人工智能犯罪行為歸因問題的部分,探討刑法中客觀歸責(zé)理論,意在吸取客觀歸責(zé)理論的合理之處,完善涉人工智能犯罪行為歸因的法則。

    (二)應(yīng)結(jié)合涉人工智能犯罪的特點(diǎn)確定歸因標(biāo)準(zhǔn)

    涉人工智能犯罪極具復(fù)雜性,其中多因一果、一因多果等現(xiàn)象也并不罕見,且在犯罪過程中,可能會有系統(tǒng)故障、研發(fā)者、生產(chǎn)者和使用者行為的介入,從而使原本簡單的因果鏈條變得錯綜復(fù)雜。由此,在認(rèn)定涉人工智能犯罪行為與造成的嚴(yán)重危害社會的結(jié)果之間的因果關(guān)系時,要考慮到涉人工智能犯罪的特點(diǎn),從復(fù)雜多變的犯罪現(xiàn)象中總結(jié)、發(fā)掘規(guī)律,確立能夠適用于涉人工智能犯罪的因果關(guān)系認(rèn)定標(biāo)準(zhǔn)。筆者認(rèn)為,在探討對涉人工智能犯罪行為的歸因問題時,仍應(yīng)以現(xiàn)有的刑法因果關(guān)系理論為基礎(chǔ),同時結(jié)合涉人工智能犯罪自身的特點(diǎn),對原有理論進(jìn)行完善,從而確立一套既符合刑法一般理論,又能適應(yīng)涉人工智能犯罪自身特點(diǎn)的科學(xué)的歸因體系。

    由上文論述可知,刑法理論上有關(guān)因果關(guān)系的學(xué)說中,原因說和相當(dāng)因果關(guān)系說有一個共同的缺陷,就是它們均會產(chǎn)生判斷隨意性的問題。盡管筆者承認(rèn),相當(dāng)因果關(guān)系說仍有諸多可取之處,因此在很長時間內(nèi)占據(jù)著大陸法系因果關(guān)系理論的支配地位。但是正如筆者在上文所言,在具體案件中運(yùn)用相當(dāng)因果關(guān)系說時,每個人對“相當(dāng)”的判斷標(biāo)準(zhǔn)恰恰是不相當(dāng)?shù)?。反觀涉人工智能犯罪,每個人的“不相當(dāng)”在這一領(lǐng)域的判斷會被擴(kuò)大化。人工智能技術(shù)是一門新興的前沿科技,在這一領(lǐng)域存在著很多未解的問題。個人的知識水平、理解能力以及在技術(shù)發(fā)展的不同階段,所謂的“相當(dāng)性”的判斷都會變得恣意??赡軙腥颂岢觯谙喈?dāng)因果關(guān)系說內(nèi)部存在主觀說、客觀說和折中說三種學(xué)說,以行為人認(rèn)識的情況為判斷基礎(chǔ)的主觀說確實(shí)具有一定程度的隨意性,但是客觀說和折中說都是以客觀情況和一般人的認(rèn)識標(biāo)準(zhǔn)作為主要判斷標(biāo)準(zhǔn)的,并不具有隨意性。筆者不贊同這一觀點(diǎn)。人工智能技術(shù)是一門前沿技術(shù),不同人對其認(rèn)識和掌握的程度會存在巨大的個體差異。正如一個目不識丁的老太與一個證券交易所的工作人員對內(nèi)幕交易行為的認(rèn)識程度不同,具有人工智能專業(yè)技術(shù)知識的人與對此一竅不通乃至聞所未聞的人,對涉人工智能犯罪行為的認(rèn)識也絕不相同。試問,誰的認(rèn)識可以算作“一般人”的認(rèn)識?正因如此,筆者認(rèn)為,在確定涉人工智能犯罪中的歸因標(biāo)準(zhǔn)時,參考原因說和相當(dāng)因果關(guān)系說的觀點(diǎn)應(yīng)該是不可行的。

    有學(xué)者提出,條件說將“若非A,則非B”的成立作為認(rèn)定“A是B的原因(即A與B之間存在因果關(guān)系)”的標(biāo)準(zhǔn),將會不當(dāng)擴(kuò)大因果關(guān)系的成立范圍,進(jìn)而擴(kuò)大處罰范圍。例如,甲將乙打成輕傷,乙被送往醫(yī)院治療。在治療期間,由于醫(yī)生的重大過失導(dǎo)致乙死亡。根據(jù)條件說的觀點(diǎn),若甲沒有把乙打傷,乙就不會前往醫(yī)院治療,最終也不會發(fā)生由于醫(yī)生重大過失而導(dǎo)致乙死亡的結(jié)果,因此甲打傷乙的行為與乙的死亡結(jié)果之間存在因果關(guān)系。這一案例認(rèn)定中存在的問題與前文筆者所述的“殺人犯的母親生了殺人犯,其生殺人犯的行為與被害人死亡的結(jié)果之間也有因果關(guān)系”案例中存在的荒謬之處如出一轍。上述兩個案例中因果關(guān)系認(rèn)定出現(xiàn)荒謬錯誤的原因并非條件說的認(rèn)定標(biāo)準(zhǔn)存在錯誤,而是判斷者錯誤地提取了判斷素材或判斷資料。在甲打傷乙的案例中,對乙死亡事實(shí)的準(zhǔn)確描述應(yīng)是“乙在醫(yī)療事故中死亡”,我們把“乙在醫(yī)療事故中死亡”稱之為具體結(jié)果,則我們僅需提取造成這一具體結(jié)果的行為作為原因,其他無關(guān)的因素不予考慮。與之相同,在殺人犯的案例中,可以把具體結(jié)果表述為“被害人被殺死”,則我們也僅需提取造成被害人被殺死這一結(jié)果的行為,對諸如殺人犯出生這一無關(guān)因素也無須加以考慮。可能會有學(xué)者提出,雖然甲打傷乙的案例中甲把乙打成輕傷的行為與乙死亡的結(jié)果之間不存在因果關(guān)系,殺人犯的案例中殺人犯的母親生殺人犯與被害人死亡的結(jié)果之間也不存在因果關(guān)系,但是這兩個案例中否定因果關(guān)系成立的原因并不相同。在前一案例中,可以適用因果關(guān)系中斷的理論,即醫(yī)生的重大過失是異常的介入因素,中斷了前行為(甲把乙打成輕傷)與結(jié)果(乙死亡)之間的因果關(guān)系;而在后一案例中,殺人犯的母親生殺人犯這一行為并非刑法上禁止的行為,因此根本無須納入刑法中因果關(guān)系評價的范疇中去。筆者認(rèn)為,上述判斷標(biāo)準(zhǔn)在適用于一般犯罪的因果關(guān)系存在與否的判斷時頗具合理之處,但是在適用于涉人工智能犯罪的因果關(guān)系判斷問題時則并不可取。原因在于,在涉人工智能犯罪中,最終導(dǎo)致結(jié)果發(fā)生的原因可能是多方面的,且這些原因的產(chǎn)生時間與最終結(jié)果的發(fā)生時間可能會存在很長的間隔。例如,自動駕駛汽車撞死行人這一結(jié)果的發(fā)生,可能與研發(fā)者和生產(chǎn)者制造的系統(tǒng)有關(guān),也可能與使用者的不當(dāng)使用行為有關(guān),還可能是兩者共同作用的結(jié)果。當(dāng)系統(tǒng)發(fā)生故障,且使用者存在不當(dāng)使用行為時,對于最終造成的危害結(jié)果如何歸因?使用者的不當(dāng)使用行為是否可以被認(rèn)定為異常的介入因素,判斷的標(biāo)準(zhǔn)是什么?尤其是在相關(guān)法律法規(guī)不完善的情況下,誰有權(quán)力確定判斷的標(biāo)準(zhǔn)?筆者認(rèn)為,如果我們能夠確定一個適用于涉人工智能犯罪中因果關(guān)系判斷的標(biāo)準(zhǔn),在上述問題解決之前就可以準(zhǔn)確合理地認(rèn)定涉人工智能犯罪行為與嚴(yán)重危害社會的結(jié)果之間是否存在刑法上的因果關(guān)系,這將會對涉人工智能犯罪認(rèn)定的規(guī)范化、準(zhǔn)確化產(chǎn)生有利的影響,從而也有利于發(fā)揮刑法為人工智能技術(shù)的發(fā)展保駕護(hù)航的積極作用。

    (三)應(yīng)將雙重篩選的條件說作為涉人工智能犯罪的歸因標(biāo)準(zhǔn)

    正如筆者在上文所述,由于涉人工智能犯罪與普通犯罪相比更具復(fù)雜性,因果鏈條更為復(fù)雜,因此我們在遵循刑法中因果關(guān)系認(rèn)定的一般規(guī)律的基礎(chǔ)上,應(yīng)結(jié)合涉人工智能犯罪的特點(diǎn),設(shè)定涉人工智能犯罪中因果關(guān)系認(rèn)定的特別適用標(biāo)準(zhǔn),以此作為涉人工智能犯罪的歸因標(biāo)準(zhǔn),同時作為涉人工智能犯罪中的歸責(zé)前提。筆者在此需要說明的是,這里所謂涉人工智能犯罪中因果關(guān)系認(rèn)定的特別適用標(biāo)準(zhǔn),是指在當(dāng)前弱人工智能時代所適用的標(biāo)準(zhǔn),這一標(biāo)準(zhǔn)并未違反刑法條文及刑法理論中有關(guān)因果關(guān)系認(rèn)定的標(biāo)準(zhǔn),而是在原有刑法規(guī)定及刑法理論的基礎(chǔ)上,探索契合涉人工智能犯罪特點(diǎn)的因果關(guān)系判斷標(biāo)準(zhǔn)。

    筆者認(rèn)為,應(yīng)將雙重篩選的條件說作為涉人工智能犯罪的歸因標(biāo)準(zhǔn)。雙重篩選的條件說是在條件說基礎(chǔ)上,吸取客觀歸責(zé)理論的合理成分而建立的因果關(guān)系認(rèn)定標(biāo)準(zhǔn)。應(yīng)當(dāng)看到,相當(dāng)因果關(guān)系說和原因說無論如何也無法擺脫其在認(rèn)定因果關(guān)系時的隨意性和隨認(rèn)定主體而變動的個體差異,而條件說和客觀歸責(zé)理論則確實(shí)避免了上述缺陷。條件說和客觀歸責(zé)理論并非互相獨(dú)立的兩個學(xué)說,它們之間存在重合的部分。正如筆者在上文所強(qiáng)調(diào)的,在探討涉人工智能犯罪中的歸因問題時,我們是將歸因與歸責(zé)問題的探討完全獨(dú)立開來的。因此,在描述條件說和客觀歸責(zé)理論之間的聯(lián)系和重合部分的時候,應(yīng)該不涉及歸責(zé)問題。

    適用條件說判斷涉人工智能犯罪中的因果關(guān)系的流程可以被表達(dá)為:涉人工智能犯罪行為所導(dǎo)致的嚴(yán)重危害社會的結(jié)果—涉人工智能犯罪行為—因果關(guān)系;而適用客觀歸責(zé)理論判斷涉人工智能犯罪中的因果關(guān)系的流程可以被表達(dá)為:涉人工智能犯罪行為所導(dǎo)致的嚴(yán)重危害社會的結(jié)果—涉人工智能犯罪行為—因果關(guān)系—危險判斷(制造不被允許的危險、實(shí)現(xiàn)不被允許的危險、結(jié)果沒有超出構(gòu)成要件的保護(hù)范圍)。從兩種學(xué)說所表述的對因果關(guān)系的判斷流程中,可以看到,在“結(jié)果—行為—因果關(guān)系”的判斷層面,兩者是完全重合的,而客觀歸責(zé)理論是在后續(xù)的危險判斷層面進(jìn)行了對危險的再次判斷?!? 〕在此,筆者需要說明的是,上文所述的兩種學(xué)說的異同之處成立的前提是對條件說進(jìn)行寬泛理解,也即當(dāng)條件說所描述的“若非A,則非B成立,則A與B存在因果關(guān)系”中的原因A和結(jié)果B未經(jīng)篩選的情況。如果在適用條件說時經(jīng)過下述篩選,條件說完全可以通過吸收客觀歸責(zé)理論的合理成分而更具合理性和可操作性。

    1.第一重篩選

    法律對社會生活的調(diào)整是有選擇的,刑法就更是如此。只有當(dāng)嚴(yán)重危害社會的結(jié)果被刑法條文所明確禁止時,才有必要考慮此結(jié)果由哪個(或哪些)原因(行為)造成的。因此,條件說所要求的原因A并非指所有行為,而只能是作為引起結(jié)果發(fā)生原因的行為;結(jié)果B并非指所有結(jié)果,而只能是刑法規(guī)制范疇中的結(jié)果。換言之,條件說描述的并非任一行為與任一結(jié)果之間的因果關(guān)系,而只能是引起結(jié)果發(fā)生原因的行為和刑法規(guī)制范疇中的結(jié)果之間的因果關(guān)系。由此,就形成了對條件說適用之前的第一重篩選,即確定刑法規(guī)制范疇中的結(jié)果。例如,醫(yī)生在人工智能手術(shù)機(jī)器人的協(xié)助下成功為病人截肢,挽救了病人的生命,這一手術(shù)結(jié)果并非刑法規(guī)制范疇中的結(jié)果,我們也就無須探討醫(yī)生的行為與病人疾病得以治愈的結(jié)果之間的因果關(guān)系。再如,母親生育嬰兒,甲把乙打成輕微傷等案例中,由于嬰兒的出生和乙輕微傷的結(jié)果都不在刑法規(guī)制范疇中,因此也無須探討前述案例中行為與結(jié)果是否存在刑法中的因果關(guān)系。但是,如果醫(yī)生在人工智能手術(shù)機(jī)器人的協(xié)助下為病人截肢,由于操作不當(dāng),而導(dǎo)致病人死亡;或者甲把乙打成輕傷。在這些案件中病人死亡或者乙被打成輕傷的結(jié)果都是在刑法規(guī)制范疇之中,因此就有必要探討醫(yī)生操作人工智能手術(shù)機(jī)器人行為與病人死亡、甲的打人行為與乙輕傷結(jié)果之間的因果關(guān)系。綜上所述,“第一重篩選”是指篩選出刑法規(guī)制范疇中的結(jié)果,而將其他結(jié)果剝離出去。這是對因果關(guān)系判斷流程簡化的前提。而這種簡化的實(shí)現(xiàn)是從刑法的基本理論出發(fā),從因果鏈條中的眾多事實(shí)中剝絲抽繭,避免重復(fù)且無效的勞動。

    2.第二重篩選

    當(dāng)結(jié)果發(fā)生之前存在眾多事實(shí)時,判斷者容易受到相關(guān)因素的干擾,使得因果關(guān)系的判斷存在困難。此時,需要區(qū)分“原因”和“條件”,將“條件”剝離出去,以免干擾判斷思路。筆者舉兩個簡單的例子對此加以說明。例一,甲以殺人的故意在乙的食物中放置了足以導(dǎo)致乙死亡的毒藥,乙在吃完食物(毒藥的藥性發(fā)作前)后,被丙槍擊致死。如果沒有丙的槍擊行為,乙死亡的結(jié)果也不可避免。因?yàn)榧淄抖镜男袨橥耆梢詫?dǎo)致乙的死亡,并且正在向著此危害結(jié)果發(fā)展的進(jìn)程之中,也即丙的槍擊行為只是加速了乙死亡結(jié)果的發(fā)生,但并未改變甲行為所導(dǎo)致結(jié)果的方向。換言之,沒有丙的行為,乙死亡的結(jié)果仍然會發(fā)生;沒有甲的行為,乙死亡的結(jié)果也仍然會發(fā)生。所以甲的行為和丙的行為都可以作為乙死亡結(jié)果的原因。由于丙的行為是直接導(dǎo)致乙當(dāng)時受槍擊死亡結(jié)果發(fā)生的原因,因此,丙的行為與乙死亡結(jié)果之間是必然因果關(guān)系;甲的行為與乙提前發(fā)生的死亡結(jié)果之間是偶然因果關(guān)系。〔7 〕例二,甲傷害乙(導(dǎo)致乙輕傷),但是乙有血友病,最終血流不止而死亡。在這個案例中,存在兩個導(dǎo)致乙死亡的事實(shí):一是甲傷害乙的行為,二是乙本身具有血友病。但是乙有血友病這一事實(shí)本身并不會直接導(dǎo)致乙死亡的結(jié)果,只是被害人本身所具有的特殊體質(zhì),而并非任何意義上的行為,只能作為乙死亡結(jié)果發(fā)生的“條件”而非“原因”。諸如此類的“條件”不應(yīng)作為因果關(guān)系判斷過程中需要考慮的因素,因?yàn)樾谭ㄖ械囊蚬P(guān)系指的是行為與結(jié)果之間的因果關(guān)系,作為這一關(guān)系中的原因只能是人的行為,而不能是其他任何條件。由此,甲傷害乙的行為就成為導(dǎo)致乙死亡的唯一原因。綜上,“第二重篩選”是指篩選出導(dǎo)致結(jié)果發(fā)生的原因(即引起結(jié)果發(fā)生的人的行為),而將諸多條件剝離出去。

    3.吸收客觀歸責(zé)理論的合理因素進(jìn)行雙重篩選

    筆者認(rèn)為,可以吸收客觀歸責(zé)理論的合理因素來對危害行為、危害結(jié)果進(jìn)行雙重篩選,以實(shí)現(xiàn)上述雙重篩選流程的規(guī)范化、定型化。廣義的客觀歸責(zé)理論如筆者在上文所述,既包括對事實(shí)上因果關(guān)系的認(rèn)定,也包括對結(jié)果歸屬的判斷;狹義的客觀歸責(zé)理論只包括對結(jié)果歸屬的判斷。由于條件說本身就包含了對事實(shí)上因果關(guān)系的認(rèn)定,因此在吸取客觀歸責(zé)理論的合理成分時,僅需考慮狹義的客觀歸責(zé)理論對結(jié)果歸屬的判斷規(guī)則,即可以將客觀歸責(zé)理論中對結(jié)果歸屬判斷的標(biāo)準(zhǔn)用于篩選(限制)條件說中的原因和結(jié)果的判斷素材(判斷范圍)。具體而言,客觀歸責(zé)理論中結(jié)果歸屬于行為的條件有三:一是行為制造了不被允許的危險;二是行為實(shí)現(xiàn)了不被允許的危險;三是結(jié)果沒有超出構(gòu)成要件的保護(hù)范圍。其中,第一個條件和第二個條件用于限制條件說中因果關(guān)系成立所要求的要素之一 ——行為;第三個條件用于限制條件說中因果關(guān)系成立所要求的要素之一——結(jié)果。換言之,“行為制造了不被允許的危險”和“行為實(shí)現(xiàn)了不被允許的危險”即是對行為的規(guī)范判斷,“結(jié)果沒有超出構(gòu)成要件的保護(hù)范圍”即是對結(jié)果的規(guī)范判斷。舉例而言,自動駕駛汽車系統(tǒng)發(fā)生故障,導(dǎo)致剎車失靈(人為操縱剎車系統(tǒng)也一并失靈)。自動駕駛汽車載著使用者甲在路上行駛。此時,車前方走過行人乙。甲不知系統(tǒng)故障(即甲不采取任何措施,汽車也會向乙撞去),由于報仇心切,人為操縱汽車向乙撞去,最終行人乙被撞身亡。在此案例中判斷行為與結(jié)果之間的因果關(guān)系,按照經(jīng)過雙重篩選的條件說,其流程應(yīng)為:第一重篩選,將客觀歸責(zé)理論中對結(jié)果歸屬判斷條件中的第三個條件作為判斷標(biāo)準(zhǔn)來篩選判斷素材。在上述案例中,最終的結(jié)果是“行人乙被撞身亡”,而乙死亡的結(jié)果當(dāng)然在刑法規(guī)制范疇之中,可以被認(rèn)定為因果關(guān)系判斷中的“結(jié)果”。第二重篩選,將客觀歸責(zé)理論中對結(jié)果歸屬判斷條件中的第一個條件和第二個條件作為判斷標(biāo)準(zhǔn)來篩選判斷素材。我們可以發(fā)現(xiàn),自動駕駛汽車本身的故障并未直接制造不被允許的危險,也并未實(shí)現(xiàn)不被允許的危險,即上述自動駕駛汽車故障這一要素經(jīng)過第二重篩選,應(yīng)被判斷為“條件”而非“原因”。因此,在第二重篩選的過程中,我們可以將自動駕駛汽車剎車系統(tǒng)失靈這一條件予以排除。經(jīng)過雙重篩選之后,僅存的行為是“甲操縱自動駕駛汽車向乙撞去”,結(jié)果是“乙被撞身亡”,則可以肯定“甲操縱自動駕駛汽車向乙撞去”與“乙被撞身亡”之間存在因果關(guān)系。

    綜上所述,在適用雙重篩選的條件說時,應(yīng)先根據(jù)客觀歸責(zé)理論中對結(jié)果歸責(zé)判斷標(biāo)準(zhǔn)的第三個條件(結(jié)果沒有超出構(gòu)成要件的保護(hù)范圍)在因果鏈條中的眾多要素中進(jìn)行第一重篩選,進(jìn)而根據(jù)客觀歸責(zé)理論中對結(jié)果歸責(zé)判斷標(biāo)準(zhǔn)的第一個條件(行為制造了不被允許的危險)和第二個條件(行為實(shí)現(xiàn)了不被允許的危險),進(jìn)行再次篩選,將對具體結(jié)果的發(fā)生具有“引起”意義的行為挑選出來。最終的結(jié)論就是,經(jīng)過了雙重篩選之后的原因和結(jié)果之間具有刑法上的因果關(guān)系。

    基于人工智能技術(shù)的前沿性和涉人工智能犯罪的復(fù)雜性,人們對人工智能技術(shù)和涉人工智能犯罪的認(rèn)識未必會全面、準(zhǔn)確。采用雙重篩選的條件說認(rèn)定涉人工智能犯罪中的因果關(guān)系,似乎可以更有利于準(zhǔn)確、簡潔地判斷行為與結(jié)果之間因果關(guān)系存在與否,既避免了采用相當(dāng)因果關(guān)系說和原因說的不確定性,又避免了采用原有條件說需要同時適用因果關(guān)系中斷說來處理異常介入因素時對“異常性”判斷的不確定性。之所以要盡力排除涉人工智能犯罪中因果關(guān)系認(rèn)定的不確定性,是由上述人工智能技術(shù)的特征和涉人工智能犯罪的特征所決定的。因此,采用雙重篩選的條件說是人工智能時代判斷涉人工智能犯罪中的因果關(guān)系的最佳選擇。

    三、涉人工智能犯罪認(rèn)定應(yīng)堅(jiān)持主觀歸責(zé)

    (一)客觀歸因基礎(chǔ)上的主觀歸責(zé)

    涉人工智能犯罪的歸責(zé)問題中所指的“歸責(zé)”,是在肯定了危害行為與危害結(jié)果之間存在因果關(guān)系之后,對能否讓行為人為此承擔(dān)刑事責(zé)任所作的探討。因此,涉人工智能犯罪中的歸責(zé)問題也就從根本上區(qū)別于客觀歸責(zé)理論中的“歸責(zé)”。換言之,客觀歸責(zé)理論中的“歸責(zé)”探討的是能否將結(jié)果歸屬于行為;而涉人工智能犯罪中的歸責(zé)問題,是在確定可以將結(jié)果歸屬于行為的基礎(chǔ)上,探討能否將結(jié)果歸屬于實(shí)施這一(或這些)行為的行為人。對于前一個基礎(chǔ)問題,即能否將結(jié)果歸屬于行為,實(shí)質(zhì)是在探討行為與結(jié)果之間是否具有因果關(guān)系,如上文所述,可采用雙重篩選的條件說來解決。而對于后一個問題,即能否將結(jié)果歸屬于實(shí)施這一(或這些)行為(與結(jié)果有因果關(guān)系的行為)的行為人,關(guān)鍵要看符合主體構(gòu)成要件的行為人在實(shí)施行為時是否具有主觀罪過(故意或者過失)。這是由主客觀相一致的刑法原則所決定的。如果在肯定行為與結(jié)果具有因果關(guān)系的前提下,即認(rèn)定實(shí)施行為的行為人應(yīng)承擔(dān)刑事責(zé)任,有可能不當(dāng)?shù)財U(kuò)大處罰范圍,且違反了主客觀相一致的原則。

    對涉人工智能犯罪歸責(zé)問題中的“歸責(zé)”含義的澄清,同時也可以進(jìn)一步說明,采取雙重篩選的條件說來認(rèn)定涉人工智能犯罪中的因果關(guān)系不會不當(dāng)擴(kuò)大處罰范圍。例如,自動駕駛汽車的系統(tǒng)發(fā)生故障,而之前并未發(fā)出故障警報以提醒使用者,自動駕駛汽車即將撞上行人乙時依然保持原有車速行進(jìn),使用者甲因未收到任何提醒而未采取人為操縱剎車措施,最終行人乙被撞身亡。根據(jù)雙重篩選的條件說,應(yīng)當(dāng)承認(rèn)自動駕駛汽車的使用者甲未及時采取人為操縱剎車措施等行為與行人乙被撞身亡的結(jié)果之間存在因果關(guān)系。但承認(rèn)二者之間的因果關(guān)系,根本不會不當(dāng)?shù)財U(kuò)大刑法處罰的范圍。原其因在于,即使在承認(rèn)自動駕駛汽車的使用者甲的行為與行人乙死亡的結(jié)果之間具有刑法上的因果關(guān)系,也不必然意味著自動駕駛汽車的使用者甲需要對乙的死亡負(fù)刑事責(zé)任。只有當(dāng)自動駕駛汽車的使用者甲存在主觀罪過時,才可能對乙死亡的結(jié)果負(fù)刑事責(zé)任。而根據(jù)當(dāng)時的情況,甲并未收到自動駕駛汽車發(fā)出的警報,也就沒有任何義務(wù)采取人為操縱剎車措施,對于乙死亡的結(jié)果,甲既不存在故意也不存在過失的主觀罪過,因此甲當(dāng)然不應(yīng)承擔(dān)任何刑事責(zé)任。由此可見,在涉人工智能犯罪中,承認(rèn)行為與結(jié)果之間的因果關(guān)系,并不會不當(dāng)擴(kuò)大刑法處罰的范圍。正如筆者在上文所述,歸因是歸責(zé)的基礎(chǔ)和前提,歸責(zé)是歸因的可能后果而非必然后果,即歸因是歸責(zé)的必要而非充分條件。換言之,行為人的行為與刑法規(guī)制范疇中的結(jié)果存在因果關(guān)系,行為人并不一定會對這一結(jié)果承擔(dān)刑事責(zé)任,而行為人如果對這一結(jié)果要承擔(dān)刑事責(zé)任的,其行為與這一結(jié)果之間必須具有因果關(guān)系。

    (二)涉人工智能犯罪認(rèn)定不應(yīng)適用絕對嚴(yán)格責(zé)任原則

    嚴(yán)格責(zé)任原則最早出現(xiàn)于英美刑法中,其大體含義是,在某種沒有罪過的場合仍可將行為定性為犯罪并對行為人追究刑事責(zé)任?!? 〕嚴(yán)格責(zé)任原則確立的初衷主要有兩方面:其一,在現(xiàn)代社會中,隨著生產(chǎn)力和科學(xué)技術(shù)的飛速發(fā)展,各種社會關(guān)系趨于復(fù)雜,社會整體面臨的威脅更加多元和緊迫。嚴(yán)格責(zé)任的確立是個人利益向公共利益的讓步,以保證社會生活的安全這一社會最大利益的實(shí)現(xiàn)?!皩?shí)行嚴(yán)格責(zé)任,可以有助于保證社會團(tuán)體或組織的負(fù)責(zé)人采取一切可行的措施去貫徹執(zhí)行有關(guān)社會福利方面的重要法規(guī)。不考慮犯罪意圖也給予定罪,可以制約或迫使人們不去做不允許做的事,同時也保證了人們可以去做允許做的事?!?〔9 〕其二,在有些犯罪中,行為人不具有主觀罪過,只是行為在客觀上導(dǎo)致了危害結(jié)果,為了達(dá)到不放縱犯罪的目的,于是在實(shí)體法中只強(qiáng)調(diào)客觀行為及后果而對罪過不作規(guī)定??赡軙袑W(xué)者認(rèn)為,人工智能技術(shù)的發(fā)展在為人類社會帶來極大便利的同時,也可能會帶來極大的風(fēng)險。正如霍金所言,“未來人工智能也許會是人類的終結(jié)者”?!?0 〕基于人工智能技術(shù)的濫用可能會給人類社會帶來巨大危害乃至帶來毀滅性的災(zāi)難,因此,應(yīng)嚴(yán)格追究行為人利用人工智能技術(shù)造成嚴(yán)重危害社會結(jié)果行為的刑事責(zé)任。即使在行為人不存在主觀罪過,但行為客觀上造成了嚴(yán)重危害社會結(jié)果的情況下,仍可追究行為人的刑事責(zé)任。筆者認(rèn)為,上述第二點(diǎn)理由不能成立。刑事訴訟活動是司法機(jī)關(guān)依照法律規(guī)定的程序,解決被追訴者刑事責(zé)任問題的活動。而被追訴者刑事責(zé)任的有無和輕重是由刑事實(shí)體法規(guī)定的,刑事實(shí)體法對刑事責(zé)任的規(guī)定主要考慮行為的社會危害性大小和被追訴者的主觀惡性高低。如果被追訴者主觀上沒有罪過,就無法體現(xiàn)其主觀上的惡性程度,在此情況下仍追究其刑事責(zé)任,顯然不符合刑法中主客觀相一致的原則。上述第一點(diǎn)理由確實(shí)表明了嚴(yán)格責(zé)任原則在現(xiàn)代社會中有可能發(fā)揮一定的積極作用,但是我們要用全面的視角看待和評價一個行為或規(guī)則的利弊。即嚴(yán)格責(zé)任原則在發(fā)揮上述積極作用的同時,也會產(chǎn)生嚴(yán)重的惡果。對此,筆者將在下文中進(jìn)行詳細(xì)闡述,在此不再贅述??傊谏嫒斯ぶ悄芊缸锏恼J(rèn)定過程中,不應(yīng)采用嚴(yán)格責(zé)任原則,仍要嚴(yán)格按照客觀歸因和主觀歸責(zé)的認(rèn)定路徑,來確定涉人工智能犯罪中行為人的刑事責(zé)任。理由如下。

    第一,民法領(lǐng)域和英美刑法中對“嚴(yán)格責(zé)任”的規(guī)定不能成為認(rèn)定涉人工智能犯罪時適用嚴(yán)格責(zé)任原則的參照。在民法領(lǐng)域中存在無過錯責(zé)任原則,也可被稱為嚴(yán)格責(zé)任原則,是指當(dāng)行為人的行為符合下述兩個條件時即可讓行為人承擔(dān)民事責(zé)任。這兩個條件為:(1)行為人造成他人損害的事實(shí)客觀存在;(2)行為人的活動與造成的損害后果之間有因果關(guān)系。顯而易見,在民法領(lǐng)域讓行為人承擔(dān)無過錯責(zé)任的條件與上文所述在刑事犯罪中的歸因條件基本等同。應(yīng)當(dāng)看到,民法側(cè)重的是對社會關(guān)系的維護(hù)和修復(fù),這一點(diǎn),從民法中的公平原則就可見一斑。刑法側(cè)重的是對行為人行為的定性和處罰,其側(cè)重點(diǎn)與民法存在明顯不同。而導(dǎo)致英美刑法中較多地出現(xiàn)嚴(yán)格責(zé)任原則的規(guī)定,其根本原因在于刑罰的制裁手段由以自由刑為中心轉(zhuǎn)向大規(guī)模地適用財產(chǎn)刑,從而造成犯罪外延的急速膨脹,使刑法同其他部門法的界限變得模糊?!?1 〕我們暫且不談英美刑法中的這種做法是否可取,至少我國現(xiàn)今的刑法體系與英美刑法所仰賴的主要環(huán)境存在很大的不同?!伴偕茨蟿t為橘,生于淮北則為枳,葉徒相似,其實(shí)味不同,所以然者何?水土異也?!?〔12 〕在立法與司法環(huán)境與英美法系國家迥異的我國,照搬英美刑法中的嚴(yán)格責(zé)任原則顯然會造成“水土不服”。當(dāng)然,筆者所言不能參考民法或英美刑法中的嚴(yán)格責(zé)任原則,并非意味著法律對于人工智能領(lǐng)域中對個人或社會造成損害卻缺乏主觀罪過的行為和現(xiàn)象完全作壁上觀、放任自流,而是將其移除出刑法的規(guī)制范圍,由其他法律予以規(guī)制。

    第二,適用嚴(yán)格責(zé)任原則可能會遏制人工智能技術(shù)的發(fā)展。筆者之所以反對認(rèn)定涉人工智能犯罪時適用嚴(yán)格責(zé)任原則,一個重要的理由是,適用嚴(yán)格責(zé)任原則可能會將為人類社會帶來巨大福祉的人工智能技術(shù)發(fā)展扼殺在搖籃之中。人工智能技術(shù)雖然經(jīng)過了60余年的發(fā)展,已經(jīng)取得了很大的成就,但是對于一個技術(shù)的發(fā)展歷程而言,目前仍處于蓬勃發(fā)展之前的起步階段。盡管人工智能技術(shù)的發(fā)展蘊(yùn)藏著風(fēng)險,但是不可否認(rèn),其給人類社會帶來的利益可能會超出以往的任何技術(shù)。在人工智能時代,人類的身體和大腦功能會在一定程度上被智能機(jī)器人取代,人類不僅可以獲得雙手的解放,還可以獲得大腦的解放。人類將不再為了生存而勞作,而有更多的時間和精力去追尋人之為人的更深層次的價值。在第一次工業(yè)革命中,人類發(fā)明了火車和輪船;在第二次工業(yè)革命中,人類發(fā)明了汽車和飛機(jī)。這些交通工具的發(fā)明極大地拓展了人類的出行范圍,節(jié)約了人類的出行時間,可以說,新的交通工具的發(fā)明和使用為人類的生活帶來了極大的便利。但是,我們也應(yīng)看到,隨著上述交通工具的發(fā)明和使用,交通事故也頻頻出現(xiàn)在人類的社會生活中。試想,當(dāng)?shù)谝黄鸹疖囀鹿拾l(fā)生時,如果立法者規(guī)定對火車事故適用嚴(yán)格責(zé)任原則,即只要火車事故發(fā)生,無論火車的研發(fā)者、生產(chǎn)者或者使用者是否有主觀罪過,一律追究其刑事責(zé)任,交通工具的更新?lián)Q代還從何發(fā)生?又有誰會冒著被追究刑事責(zé)任的風(fēng)險來研發(fā)、生產(chǎn)和使用新型的交通工具?技術(shù)的發(fā)展會不可避免地帶來一定的風(fēng)險,這是為了追求人類整體的發(fā)展和進(jìn)步而不得不付出的代價。正如我們不可能因?yàn)榻煌ㄊ鹿实陌l(fā)生就禁止汽車上路一樣,我們也不能因?yàn)橹悄軝C(jī)器人可能會對人類造成一定的危害就從立法上確立涉人工智能犯罪的嚴(yán)格責(zé)任原則,這無異于在人工智能技術(shù)發(fā)展的初期就將其扼殺,使其失去發(fā)展和更新的動力。

    第三,排除嚴(yán)格責(zé)任原則的適用不等于否認(rèn)涉人工智能犯罪中間接因果關(guān)系的認(rèn)定??赡軙腥颂岢?,在涉及公共安全的領(lǐng)域,嚴(yán)格責(zé)任原則的適用是必要的,如果人工智能技術(shù)危害到了公共安全,技術(shù)也應(yīng)為安全讓步。在我國刑法中,其實(shí)也存在類似于嚴(yán)格責(zé)任原則的規(guī)定。例如,根據(jù)刑法第134條第2款的規(guī)定,強(qiáng)令他人違章冒險作業(yè),因而發(fā)生重大傷亡事故或者造成其他嚴(yán)重后果的,構(gòu)成強(qiáng)令違章冒險作業(yè)罪。在這一條文中,立法者只強(qiáng)調(diào)了兩點(diǎn):一是行為人的行為造成他人損害的事實(shí)客觀存在;二是行為人的行為與造成的損害后果之間有因果關(guān)系(體現(xiàn)為“因而”二字),這就與民法領(lǐng)域的無過錯責(zé)任原則(也稱嚴(yán)格責(zé)任原則)如出一轍,可以作為刑法中采納嚴(yán)格責(zé)任原則的代表。筆者不贊同以上觀點(diǎn),理由是:其一,刑法條文未明確強(qiáng)調(diào)行為人的主觀罪過并不代表成立該罪不需要行為人具有主觀罪過。在刑法條文當(dāng)中,不僅存在明示(或顯性)的構(gòu)成要件,還存在默示(或隱性)的構(gòu)成要件。例如,《刑法》第232條規(guī)定故意殺人罪的構(gòu)成要件為“故意殺人的”,則對“故意”這一主觀罪過的要求是明示的構(gòu)成要件。而《刑法》第263條規(guī)定搶劫罪的構(gòu)成要件為“以暴力、脅迫或其他方法搶劫公私財物的”,其中對行為人主觀罪過(故意)的規(guī)定即是默示的構(gòu)成要件。其二,在強(qiáng)令違章冒險作業(yè)罪的條文當(dāng)中,對行為人的行為與重大傷亡事故和其他嚴(yán)重后果之間的規(guī)定屬于對間接因果關(guān)系的規(guī)定,而非類似于嚴(yán)格責(zé)任的規(guī)定。在強(qiáng)令違章冒險作業(yè)的構(gòu)成中,直接違章冒險作業(yè)的行為人的行為與危害結(jié)果之間具有直接的因果關(guān)系,而該強(qiáng)令者一般就是處于監(jiān)督地位的監(jiān)督者,其行為與危害結(jié)果之間并無直接的因果關(guān)系,而與直接違章冒險作業(yè)的行為有直接聯(lián)系,進(jìn)而間接造成了危害結(jié)果,也即強(qiáng)令者的行為與危害結(jié)果之間只是一種間接因果關(guān)系?!?3 〕刑法將強(qiáng)令者的行為規(guī)定為犯罪行為,由此我們可以得出的結(jié)論是,這意味著刑法不僅承認(rèn)直接因果關(guān)系,也在某種情況下承認(rèn)間接因果關(guān)系。但我們不能進(jìn)而認(rèn)為,強(qiáng)令者在缺乏主觀罪過的情況下仍可構(gòu)成犯罪。事實(shí)上,構(gòu)成強(qiáng)令違章冒險作業(yè)罪,要求強(qiáng)令者至少存在過失的心態(tài),即“行為人對自己行為造成的嚴(yán)重后果具有過失,而不是指對行為違章性的認(rèn)識過失”。〔14 〕

    與之類似,在涉人工智能犯罪中,排除嚴(yán)格責(zé)任原則的適用,也并不意味著否認(rèn)間接因果關(guān)系。在人工智能時代,智能機(jī)器人的“智能”程度逐漸增強(qiáng),一旦智能機(jī)器人被投入使用,在很大程度上,其會處于不受人的直接支配而獨(dú)立運(yùn)作的狀態(tài)。在這種情況下,對智能機(jī)器人的系統(tǒng)正常工作的要求就會提高,保證智能機(jī)器人的控制系統(tǒng)正常以及在系統(tǒng)不能正常工作的時候及時停止工作并發(fā)出警報提醒使用者采取相應(yīng)措施,就成為對智能機(jī)器人的研發(fā)者和生產(chǎn)者的基本義務(wù)要求。當(dāng)研發(fā)者和生產(chǎn)者未履行此注意義務(wù)而導(dǎo)致危害結(jié)果發(fā)生時,其行為與危害結(jié)果之間就具有間接因果關(guān)系。對此追究刑事責(zé)任理應(yīng)不違反刑法的基本原理,且能起到保障技術(shù)向著更加安全可靠的方向發(fā)展的作用。

    需要說明的是,筆者曾在相關(guān)文章中提到,“由于人工智能可能造成的社會危害性大,并且研發(fā)者、生產(chǎn)者和使用者在大多數(shù)情況下對人工智能產(chǎn)品具有一定的把控能力,因此可以考慮在刑法中確立人工智能產(chǎn)品研發(fā)者、生產(chǎn)者和使用者的嚴(yán)格責(zé)任”?!?5 〕筆者在此處所說的“嚴(yán)格責(zé)任”(亦稱為相對嚴(yán)格責(zé)任)與本文所說的嚴(yán)格責(zé)任(亦稱為絕對嚴(yán)格責(zé)任)實(shí)際上是有區(qū)別的,應(yīng)理解在某些涉人工智能犯罪中,法律追究相關(guān)行為人的刑事責(zé)任時會比追究普通犯罪中行為人的刑事責(zé)任更加嚴(yán)格,也即為智能機(jī)器人的研發(fā)者、生產(chǎn)者或者使用者設(shè)定了更加嚴(yán)格的注意義務(wù)。而法律法規(guī)建立了智能機(jī)器人的研發(fā)者、生產(chǎn)者和使用者義務(wù)體系之后,當(dāng)研發(fā)者、生產(chǎn)者和使用者違背了注意義務(wù),即使在其主觀罪過難以判斷(但起碼應(yīng)為過失)時,仍需要承擔(dān)相應(yīng)的相對嚴(yán)格責(zé)任。筆者在上文中反對在涉人工智能犯罪中適用的嚴(yán)格責(zé)任原則,指的是在行為人無罪過的情況下追究其刑事責(zé)任的絕對嚴(yán)格責(zé)任。二者具有本質(zhì)不同,不應(yīng)混同。筆者在此需要補(bǔ)充說明的是,如果在相關(guān)涉人工智能犯罪中,對于研發(fā)者、生產(chǎn)者或者使用者的主觀罪過難以判定時(并非沒有主觀罪過),仍可追究其刑事責(zé)任。此種相對嚴(yán)格責(zé)任處理方式可能會更加契合涉人工智能犯罪本身的特點(diǎn)。舉例而言,在有人駕駛汽車的交通肇事犯罪案件中,如果駕駛員違反交通規(guī)則導(dǎo)致交通事故發(fā)生,則應(yīng)追究駕駛員交通肇事罪(過失犯罪)的刑事責(zé)任,而非追究汽車的研發(fā)者或者生產(chǎn)者的刑事責(zé)任。但是在全自動駕駛汽車違反交通規(guī)則導(dǎo)致嚴(yán)重交通事故發(fā)生的案件中,因不存在駕駛員,則當(dāng)然沒有追究駕駛員刑事責(zé)任的可能性,應(yīng)由誰承擔(dān)刑事責(zé)任就成為值得探討的問題。根據(jù)弱人工智能時代全自動駕駛汽車本身的特點(diǎn),我們不難發(fā)現(xiàn),全自動駕駛汽車在馬路上的行進(jìn)路線、行進(jìn)速度等,均受研發(fā)者和生產(chǎn)者為其設(shè)計(jì)和編制的程序控制。全自動駕駛汽車違反交通規(guī)則時,也仍受程序控制。正如同剎車系統(tǒng)、方向盤、發(fā)動機(jī)等屬于傳統(tǒng)汽車的一部分,程序也屬于全自動駕駛汽車的一部分,這是全自動駕駛汽車本身的特點(diǎn)和性能所決定的。因此,全自動駕駛汽車違反交通規(guī)則是程序瑕疵所導(dǎo)致的,而程序又屬于全自動駕駛汽車這一“產(chǎn)品”的組成部分,所以全自動駕駛汽車違反交通規(guī)則導(dǎo)致嚴(yán)重交通事故發(fā)生的結(jié)果,理應(yīng)歸責(zé)于程序的研發(fā)者或者生產(chǎn)者,也即全自動駕駛汽車的研發(fā)者或者生產(chǎn)者。問題在于,根據(jù)刑法規(guī)定,生產(chǎn)偽劣產(chǎn)品的行為構(gòu)成犯罪均須以行為人主觀方面為故意。如果將全自動駕駛汽車違反交通規(guī)則導(dǎo)致嚴(yán)重交通事故發(fā)生的交通肇事結(jié)果歸責(zé)于全自動駕駛汽車的研發(fā)者或者生產(chǎn)者,就相當(dāng)于讓研發(fā)者或者生產(chǎn)者承擔(dān)了原本屬于過失犯罪的交通肇事罪轉(zhuǎn)化而來的故意犯罪——生產(chǎn)偽劣產(chǎn)品罪的刑事責(zé)任。解決這一問題的方法有二:其一,在生產(chǎn)偽劣產(chǎn)品罪等犯罪中增加過失這一主觀要件;其二,確定涉人工智能犯罪中對行為人犯罪的特殊認(rèn)定標(biāo)準(zhǔn),無須區(qū)分行為人主觀上的故意或者過失,即只要行為人所實(shí)施行為的客觀方面符合相關(guān)犯罪的構(gòu)成要件,在行為人至少存在過失的情況下,即可按照相關(guān)刑法條文追究行為人的刑事責(zé)任。

    結(jié) ?語

    涉人工智能犯罪行為的歸因與歸責(zé)問題,是兩個獨(dú)立且有關(guān)聯(lián)的問題——?dú)w因是歸責(zé)的基礎(chǔ)和前提,歸責(zé)是歸因的可能后果。涉人工智能犯罪中因果關(guān)系鏈條更為復(fù)雜多元,從中通過雙重篩選的條件說確定行為與結(jié)果之間的因果關(guān)系,并將此作為歸責(zé)的基礎(chǔ)。雙重篩選的條件說是在條件說基礎(chǔ)上,吸取客觀歸責(zé)理論的合理成分而建立的因果關(guān)系認(rèn)定標(biāo)準(zhǔn)。在涉人工智能犯罪中,在行為人不存在主觀罪過的情況下追究其刑事責(zé)任的絕對嚴(yán)格責(zé)任原則不可取;但是,當(dāng)確定行為人存在主觀罪過(最起碼存在過失),卻難以具體判斷其存在何種主觀罪過時,可以依據(jù)相對嚴(yán)格責(zé)任原則追究行為人刑事責(zé)任。

    猜你喜歡
    因果關(guān)系人工智能
    我校新增“人工智能”本科專業(yè)
    玩忽職守型瀆職罪中嚴(yán)重不負(fù)責(zé)任與重大損害后果的因果關(guān)系
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    做完形填空題,需考慮的邏輯關(guān)系
    論刑法中提前的因果關(guān)系與延后的因果關(guān)系
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    下一幕,人工智能!
    幫助犯因果關(guān)系芻議
    一级,二级,三级黄色视频| 欧美另类亚洲清纯唯美| a在线观看视频网站| 一个人免费在线观看的高清视频| 亚洲片人在线观看| 久久精品aⅴ一区二区三区四区| 国产精品香港三级国产av潘金莲| 一区二区日韩欧美中文字幕| 黄色女人牲交| 亚洲av成人不卡在线观看播放网| 色哟哟哟哟哟哟| 国产熟女xx| 啦啦啦观看免费观看视频高清 | 亚洲欧洲精品一区二区精品久久久| 日本vs欧美在线观看视频| 两人在一起打扑克的视频| 女人被狂操c到高潮| 亚洲成国产人片在线观看| 欧美日韩亚洲国产一区二区在线观看| 亚洲成国产人片在线观看| 亚洲国产精品久久男人天堂| 国产精品永久免费网站| 一级毛片高清免费大全| 成年版毛片免费区| 国产精品亚洲一级av第二区| 身体一侧抽搐| 亚洲国产高清在线一区二区三 | 少妇的丰满在线观看| √禁漫天堂资源中文www| 国产片内射在线| 久久伊人香网站| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲成a人片在线一区二区| 亚洲成国产人片在线观看| 亚洲情色 制服丝袜| 人人澡人人妻人| 色尼玛亚洲综合影院| √禁漫天堂资源中文www| 国产97色在线日韩免费| 国产亚洲欧美98| 18禁黄网站禁片午夜丰满| 十分钟在线观看高清视频www| 午夜福利成人在线免费观看| xxx96com| 色播在线永久视频| 亚洲第一电影网av| 久久人人爽av亚洲精品天堂| 高潮久久久久久久久久久不卡| 看黄色毛片网站| 熟妇人妻久久中文字幕3abv| 亚洲色图av天堂| 亚洲va日本ⅴa欧美va伊人久久| 国产精品免费视频内射| 老司机靠b影院| 女人高潮潮喷娇喘18禁视频| 欧美黑人欧美精品刺激| 国产精品九九99| 成人亚洲精品一区在线观看| 在线av久久热| 欧美乱码精品一区二区三区| 巨乳人妻的诱惑在线观看| 国内毛片毛片毛片毛片毛片| 成人三级做爰电影| 亚洲欧美日韩另类电影网站| 亚洲男人天堂网一区| 99riav亚洲国产免费| 欧美国产日韩亚洲一区| 亚洲一区中文字幕在线| 国产精品久久久人人做人人爽| 日本 欧美在线| 法律面前人人平等表现在哪些方面| 亚洲国产精品合色在线| 在线永久观看黄色视频| 后天国语完整版免费观看| 国产成人av激情在线播放| 午夜两性在线视频| 90打野战视频偷拍视频| 久久久久久亚洲精品国产蜜桃av| 成人永久免费在线观看视频| 欧美av亚洲av综合av国产av| 一级,二级,三级黄色视频| 正在播放国产对白刺激| 男人舔女人的私密视频| 久久精品人人爽人人爽视色| 国产区一区二久久| 美女国产高潮福利片在线看| 国产免费av片在线观看野外av| av超薄肉色丝袜交足视频| www.精华液| 九色亚洲精品在线播放| 国产91精品成人一区二区三区| 91国产中文字幕| 淫妇啪啪啪对白视频| 国产成人欧美| 久久中文字幕一级| 老司机福利观看| 又黄又爽又免费观看的视频| 久久中文看片网| 给我免费播放毛片高清在线观看| 日韩大尺度精品在线看网址 | 非洲黑人性xxxx精品又粗又长| 91精品国产国语对白视频| 国产精品综合久久久久久久免费 | 久久热在线av| 欧美+亚洲+日韩+国产| 亚洲九九香蕉| 精品久久久久久成人av| 国产午夜福利久久久久久| 十八禁网站免费在线| 欧美日韩福利视频一区二区| 熟妇人妻久久中文字幕3abv| 免费在线观看完整版高清| 两性夫妻黄色片| 久久国产亚洲av麻豆专区| 精品不卡国产一区二区三区| 91精品三级在线观看| 别揉我奶头~嗯~啊~动态视频| 亚洲 欧美一区二区三区| 伊人久久大香线蕉亚洲五| 久久久精品欧美日韩精品| 99在线视频只有这里精品首页| 欧美一级毛片孕妇| 日韩中文字幕欧美一区二区| 免费高清在线观看日韩| 亚洲成国产人片在线观看| 国语自产精品视频在线第100页| 在线永久观看黄色视频| 精品无人区乱码1区二区| 午夜福利影视在线免费观看| 欧美黑人精品巨大| 99在线视频只有这里精品首页| 色综合婷婷激情| 亚洲成人精品中文字幕电影| 日韩高清综合在线| 9191精品国产免费久久| 他把我摸到了高潮在线观看| 精品国产一区二区久久| 精品福利观看| 国产一区二区激情短视频| 免费不卡黄色视频| 在线观看66精品国产| 99在线人妻在线中文字幕| 国内精品久久久久久久电影| 成人国产综合亚洲| 19禁男女啪啪无遮挡网站| 很黄的视频免费| 久久精品亚洲熟妇少妇任你| 99国产精品免费福利视频| 日韩一卡2卡3卡4卡2021年| 曰老女人黄片| 88av欧美| 99久久综合精品五月天人人| 在线观看免费视频日本深夜| 免费看美女性在线毛片视频| 欧美一级a爱片免费观看看 | 国产精品久久久久久亚洲av鲁大| 51午夜福利影视在线观看| 国产精品 欧美亚洲| 999精品在线视频| 亚洲狠狠婷婷综合久久图片| 法律面前人人平等表现在哪些方面| 亚洲精品国产区一区二| 亚洲欧美一区二区三区黑人| 国内精品久久久久精免费| 神马国产精品三级电影在线观看 | 亚洲性夜色夜夜综合| 久久久久国产一级毛片高清牌| 侵犯人妻中文字幕一二三四区| 亚洲av成人av| 熟女少妇亚洲综合色aaa.| 动漫黄色视频在线观看| 免费女性裸体啪啪无遮挡网站| 天堂影院成人在线观看| 欧美av亚洲av综合av国产av| 在线观看日韩欧美| 久久精品亚洲精品国产色婷小说| 国产成年人精品一区二区| 操美女的视频在线观看| 精品国产超薄肉色丝袜足j| 国产精品精品国产色婷婷| 精品久久久久久成人av| av中文乱码字幕在线| 老鸭窝网址在线观看| 脱女人内裤的视频| 啦啦啦免费观看视频1| 午夜福利视频1000在线观看 | 亚洲五月天丁香| 麻豆一二三区av精品| av欧美777| 99精品久久久久人妻精品| 老司机深夜福利视频在线观看| 国产精品久久久久久精品电影 | 精品卡一卡二卡四卡免费| 国产主播在线观看一区二区| 久久天堂一区二区三区四区| 99久久精品国产亚洲精品| 97人妻天天添夜夜摸| 亚洲熟妇熟女久久| 国产片内射在线| 神马国产精品三级电影在线观看 | 51午夜福利影视在线观看| 久久人人爽av亚洲精品天堂| 亚洲片人在线观看| 国产精品亚洲av一区麻豆| 精品不卡国产一区二区三区| 国产精品av久久久久免费| 国产av一区在线观看免费| 大型黄色视频在线免费观看| 又大又爽又粗| 不卡av一区二区三区| 亚洲av美国av| 一卡2卡三卡四卡精品乱码亚洲| 老司机靠b影院| 国产成人精品无人区| 欧美最黄视频在线播放免费| 午夜免费观看网址| 欧美一级毛片孕妇| 女人高潮潮喷娇喘18禁视频| 别揉我奶头~嗯~啊~动态视频| 岛国在线观看网站| or卡值多少钱| 亚洲色图综合在线观看| 亚洲视频免费观看视频| 中出人妻视频一区二区| 久久久久亚洲av毛片大全| 麻豆av在线久日| 欧美日本视频| 欧美日本中文国产一区发布| 日本在线视频免费播放| 亚洲成人精品中文字幕电影| 无人区码免费观看不卡| 亚洲五月色婷婷综合| 淫秽高清视频在线观看| 黄色a级毛片大全视频| 无遮挡黄片免费观看| 91国产中文字幕| 在线十欧美十亚洲十日本专区| 亚洲精品美女久久av网站| 色av中文字幕| 女人高潮潮喷娇喘18禁视频| 18禁黄网站禁片午夜丰满| 麻豆成人av在线观看| or卡值多少钱| 丁香六月欧美| 老汉色av国产亚洲站长工具| 亚洲欧洲精品一区二区精品久久久| 亚洲精品一区av在线观看| 黄片大片在线免费观看| 亚洲精品一卡2卡三卡4卡5卡| 欧美激情极品国产一区二区三区| 精品久久久久久久久久免费视频| 婷婷六月久久综合丁香| 少妇的丰满在线观看| 纯流量卡能插随身wifi吗| av网站免费在线观看视频| 91在线观看av| 成人亚洲精品一区在线观看| 精品久久久久久久久久免费视频| 久久天堂一区二区三区四区| www.精华液| 国产三级在线视频| 亚洲欧美激情综合另类| 成人国产一区最新在线观看| 后天国语完整版免费观看| 午夜激情av网站| 国产成人精品在线电影| 亚洲 欧美一区二区三区| 免费av毛片视频| 无人区码免费观看不卡| 精品国产超薄肉色丝袜足j| 亚洲国产精品成人综合色| 99久久99久久久精品蜜桃| 免费在线观看完整版高清| 校园春色视频在线观看| 亚洲国产精品999在线| 久99久视频精品免费| 久热爱精品视频在线9| 国产伦人伦偷精品视频| 韩国av一区二区三区四区| 欧美黑人欧美精品刺激| 国产日韩一区二区三区精品不卡| 亚洲视频免费观看视频| 国产av一区在线观看免费| 日本欧美视频一区| 三级毛片av免费| 亚洲中文字幕一区二区三区有码在线看 | 两个人视频免费观看高清| 丝袜美足系列| 视频区欧美日本亚洲| 成人18禁高潮啪啪吃奶动态图| 97人妻精品一区二区三区麻豆 | 人妻久久中文字幕网| 日韩精品青青久久久久久| 午夜精品在线福利| 黄网站色视频无遮挡免费观看| 色播亚洲综合网| 国产成+人综合+亚洲专区| 久久久久久国产a免费观看| 最新美女视频免费是黄的| 一区福利在线观看| 成熟少妇高潮喷水视频| 国产成人系列免费观看| 非洲黑人性xxxx精品又粗又长| 欧美亚洲日本最大视频资源| 午夜福利视频1000在线观看 | 操出白浆在线播放| 黄色 视频免费看| 久久久久国内视频| 一边摸一边做爽爽视频免费| 99riav亚洲国产免费| 老司机在亚洲福利影院| cao死你这个sao货| 欧美日韩瑟瑟在线播放| 搡老妇女老女人老熟妇| 国产成+人综合+亚洲专区| 久久久久久大精品| 99国产精品99久久久久| 国产精品一区二区三区四区久久 | 一级毛片高清免费大全| 天堂√8在线中文| 久久人妻av系列| 久久亚洲精品不卡| 免费少妇av软件| 久久香蕉激情| 亚洲精品国产区一区二| 桃红色精品国产亚洲av| 亚洲成人免费电影在线观看| 国产精华一区二区三区| 亚洲精品在线美女| 久久性视频一级片| 欧美日韩黄片免| 又大又爽又粗| 亚洲电影在线观看av| 色精品久久人妻99蜜桃| av免费在线观看网站| 狠狠狠狠99中文字幕| 无限看片的www在线观看| 琪琪午夜伦伦电影理论片6080| 精品久久久久久久久久免费视频| 99国产精品免费福利视频| 最近最新中文字幕大全电影3 | 免费在线观看完整版高清| 级片在线观看| 午夜福利,免费看| 国产高清videossex| 国产高清激情床上av| 国产亚洲欧美精品永久| 日韩精品免费视频一区二区三区| 日本三级黄在线观看| 在线观看免费视频网站a站| 91麻豆av在线| 午夜a级毛片| 婷婷丁香在线五月| 国产真人三级小视频在线观看| 黄色片一级片一级黄色片| 天天躁夜夜躁狠狠躁躁| aaaaa片日本免费| 日韩欧美国产一区二区入口| 国产区一区二久久| 国产真人三级小视频在线观看| 精品欧美一区二区三区在线| avwww免费| 色综合欧美亚洲国产小说| 中文亚洲av片在线观看爽| 中亚洲国语对白在线视频| 亚洲精品一卡2卡三卡4卡5卡| 久久久久久久久久久久大奶| 少妇 在线观看| 色精品久久人妻99蜜桃| 黄网站色视频无遮挡免费观看| 高清毛片免费观看视频网站| 精品一区二区三区视频在线观看免费| 制服诱惑二区| 老熟妇仑乱视频hdxx| 可以在线观看的亚洲视频| 久久久久久人人人人人| 很黄的视频免费| 女人高潮潮喷娇喘18禁视频| 99久久综合精品五月天人人| 婷婷六月久久综合丁香| 欧美久久黑人一区二区| 亚洲av美国av| 黄色毛片三级朝国网站| 免费高清在线观看日韩| 不卡av一区二区三区| 高清黄色对白视频在线免费看| 亚洲中文日韩欧美视频| 国产av精品麻豆| 国产熟女xx| 黄频高清免费视频| 国产精品99久久99久久久不卡| 午夜福利在线观看吧| 少妇 在线观看| 黄片大片在线免费观看| 黑人巨大精品欧美一区二区mp4| 丝袜人妻中文字幕| 免费在线观看影片大全网站| 美女 人体艺术 gogo| 欧美+亚洲+日韩+国产| 欧美色欧美亚洲另类二区 | av天堂久久9| 欧美黄色片欧美黄色片| 亚洲 欧美一区二区三区| 亚洲av日韩精品久久久久久密| 一区二区三区国产精品乱码| 国产亚洲精品久久久久5区| 欧美绝顶高潮抽搐喷水| 亚洲aⅴ乱码一区二区在线播放 | 亚洲一区中文字幕在线| 18禁裸乳无遮挡免费网站照片 | 久久人人97超碰香蕉20202| 老司机午夜十八禁免费视频| 一级a爱片免费观看的视频| 精品久久久久久成人av| 欧美黄色片欧美黄色片| 一级毛片高清免费大全| 51午夜福利影视在线观看| 欧美日韩精品网址| 两性夫妻黄色片| ponron亚洲| 黄色片一级片一级黄色片| 最好的美女福利视频网| 国产精品亚洲av一区麻豆| 在线观看一区二区三区| 9色porny在线观看| 国产成人精品在线电影| 欧美激情久久久久久爽电影 | 伊人久久大香线蕉亚洲五| 桃色一区二区三区在线观看| 亚洲成人久久性| 久久精品成人免费网站| 99久久久亚洲精品蜜臀av| 国内精品久久久久久久电影| 亚洲国产看品久久| 国产精品 欧美亚洲| 亚洲男人天堂网一区| 黄色毛片三级朝国网站| 黄频高清免费视频| 国产精品亚洲一级av第二区| 国产欧美日韩综合在线一区二区| 亚洲国产精品999在线| 日本三级黄在线观看| 欧美黑人欧美精品刺激| 精品国产国语对白av| 国产高清有码在线观看视频 | 91大片在线观看| 亚洲成av片中文字幕在线观看| 看片在线看免费视频| or卡值多少钱| 欧美日韩精品网址| 久9热在线精品视频| 亚洲精品在线观看二区| 老司机福利观看| 欧美老熟妇乱子伦牲交| 国产成人精品久久二区二区免费| 国产成人精品无人区| 亚洲熟女毛片儿| 波多野结衣一区麻豆| 欧美+亚洲+日韩+国产| 性少妇av在线| 波多野结衣高清无吗| a在线观看视频网站| 久热爱精品视频在线9| 久久精品人人爽人人爽视色| 这个男人来自地球电影免费观看| 精品国产一区二区久久| av中文乱码字幕在线| 欧美丝袜亚洲另类 | 亚洲少妇的诱惑av| 成人国语在线视频| av天堂在线播放| 一级作爱视频免费观看| 欧美亚洲日本最大视频资源| 一本久久中文字幕| 妹子高潮喷水视频| 国产亚洲av嫩草精品影院| 日韩中文字幕欧美一区二区| 高清毛片免费观看视频网站| 亚洲国产高清在线一区二区三 | av超薄肉色丝袜交足视频| 国产精品99久久99久久久不卡| 午夜福利在线观看吧| 亚洲色图av天堂| 亚洲人成电影观看| 在线观看www视频免费| 人成视频在线观看免费观看| 国产精品国产高清国产av| av超薄肉色丝袜交足视频| 精品不卡国产一区二区三区| 一级片免费观看大全| 亚洲色图av天堂| 一边摸一边抽搐一进一小说| 亚洲成人免费电影在线观看| 国产色视频综合| 亚洲精品国产区一区二| 69精品国产乱码久久久| 精品福利观看| 日韩大码丰满熟妇| 一区二区三区激情视频| 两性夫妻黄色片| 少妇粗大呻吟视频| 一本久久中文字幕| 欧美日韩黄片免| 一级作爱视频免费观看| 999久久久国产精品视频| 久久久精品国产亚洲av高清涩受| 亚洲全国av大片| 精品无人区乱码1区二区| 亚洲国产精品sss在线观看| 色综合欧美亚洲国产小说| 久久精品aⅴ一区二区三区四区| 国产成人啪精品午夜网站| 国产精品久久久久久精品电影 | 欧美日韩亚洲国产一区二区在线观看| 日本五十路高清| tocl精华| 久久久久久人人人人人| 日本撒尿小便嘘嘘汇集6| 久久人人精品亚洲av| 99久久国产精品久久久| 老熟妇仑乱视频hdxx| 可以在线观看的亚洲视频| 少妇粗大呻吟视频| 中文字幕人妻熟女乱码| 国产高清视频在线播放一区| 国产精品美女特级片免费视频播放器 | 欧美在线一区亚洲| 狂野欧美激情性xxxx| 波多野结衣av一区二区av| 99久久综合精品五月天人人| 精品电影一区二区在线| 国产精品美女特级片免费视频播放器 | 999久久久精品免费观看国产| 母亲3免费完整高清在线观看| 免费无遮挡裸体视频| a级毛片在线看网站| 少妇 在线观看| 男人的好看免费观看在线视频 | 校园春色视频在线观看| 两个人免费观看高清视频| 国产人伦9x9x在线观看| 黄片小视频在线播放| 亚洲在线自拍视频| 久久久久久国产a免费观看| 9191精品国产免费久久| 欧美日韩乱码在线| 少妇熟女aⅴ在线视频| 亚洲五月天丁香| 久久精品91蜜桃| 99精品久久久久人妻精品| 波多野结衣高清无吗| 欧美中文日本在线观看视频| 精品国产一区二区三区四区第35| 国产高清videossex| АⅤ资源中文在线天堂| 亚洲av片天天在线观看| 嫁个100分男人电影在线观看| 亚洲成人精品中文字幕电影| 精品国产乱子伦一区二区三区| 免费观看人在逋| 国产成人欧美| 欧洲精品卡2卡3卡4卡5卡区| 亚洲无线在线观看| 在线观看66精品国产| 两人在一起打扑克的视频| 男女床上黄色一级片免费看| 亚洲最大成人中文| 国产国语露脸激情在线看| 久久婷婷人人爽人人干人人爱 | 免费看十八禁软件| 亚洲美女黄片视频| 精品久久久久久久久久免费视频| 大型av网站在线播放| 欧美+亚洲+日韩+国产| 欧美大码av| 国产亚洲精品久久久久5区| 99久久久亚洲精品蜜臀av| 多毛熟女@视频| 女生性感内裤真人,穿戴方法视频| 久热爱精品视频在线9| 欧美黄色淫秽网站| 国产黄a三级三级三级人| 777久久人妻少妇嫩草av网站| 日本撒尿小便嘘嘘汇集6| 中文字幕人妻丝袜一区二区| 一边摸一边抽搐一进一出视频| 国产精品美女特级片免费视频播放器 | 性欧美人与动物交配| 亚洲精品美女久久av网站| 国产精品1区2区在线观看.| 99久久精品国产亚洲精品| 天堂动漫精品| av免费在线观看网站| 亚洲一区高清亚洲精品| 亚洲精品美女久久久久99蜜臀| 色老头精品视频在线观看| 极品人妻少妇av视频| 99国产精品免费福利视频| 欧美精品亚洲一区二区| 久久久久久亚洲精品国产蜜桃av| 久久精品影院6| 少妇 在线观看| 成年女人毛片免费观看观看9| 亚洲精品粉嫩美女一区| 一级a爱视频在线免费观看| 十分钟在线观看高清视频www| 变态另类丝袜制服| 国产精品亚洲一级av第二区| 亚洲欧美精品综合久久99| 国产精品爽爽va在线观看网站 | 国产在线观看jvid| 99国产精品99久久久久| 国产精华一区二区三区| 国产主播在线观看一区二区| 成人永久免费在线观看视频|