• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    涉人工智能產(chǎn)品犯罪刑事責(zé)任的歸屬與性質(zhì)認(rèn)定

    2021-12-08 14:13:37劉憲權(quán)
    關(guān)鍵詞:人工智能汽車產(chǎn)品

    劉憲權(quán)

    一、涉人工智能產(chǎn)品犯罪刑事責(zé)任的歸屬

    涉及產(chǎn)品的犯罪可被分為產(chǎn)品生產(chǎn)領(lǐng)域的犯罪與產(chǎn)品使用領(lǐng)域的犯罪,涉人工智能產(chǎn)品犯罪亦是如此。在人工智能時(shí)代,由于使用者在使用人工智能產(chǎn)品的過程中,對(duì)人工智能產(chǎn)品作用發(fā)揮的影響力相較于普通產(chǎn)品而言明顯減弱,而生產(chǎn)者生產(chǎn)人工智能產(chǎn)品時(shí)所設(shè)計(jì)的程序系統(tǒng)對(duì)人工智能產(chǎn)品作用發(fā)揮的影響力明顯增強(qiáng),因此,法律賦予人工智能產(chǎn)品生產(chǎn)者與使用者的注意義務(wù)大小也應(yīng)有所調(diào)整。也即與普通產(chǎn)品的生產(chǎn)者與使用者所承擔(dān)的注意義務(wù)相比,人工智能產(chǎn)品的生產(chǎn)者理應(yīng)承擔(dān)更多的注意義務(wù),人工智能產(chǎn)品的使用者則應(yīng)承擔(dān)更少(甚至不承擔(dān))的注意義務(wù)。人工智能產(chǎn)品的使用者在使用產(chǎn)品時(shí)所應(yīng)遵守的注意義務(wù)的全部內(nèi)容即為遵循產(chǎn)品操作或使用規(guī)程,當(dāng)使用者未違反產(chǎn)品操作或使用規(guī)程時(shí),使用者當(dāng)然無須為產(chǎn)品所引發(fā)的事故承擔(dān)任何責(zé)任。換言之,當(dāng)人工智能產(chǎn)品引發(fā)了嚴(yán)重危害社會(huì)的結(jié)果時(shí),如果人工智能產(chǎn)品的使用者未違反產(chǎn)品操作或使用規(guī)程,則可能承擔(dān)刑事責(zé)任的主體應(yīng)為人工智能產(chǎn)品的生產(chǎn)者而非使用者。具體理由如下。

    第一,契合人工智能產(chǎn)品設(shè)計(jì)與生產(chǎn)的初衷。人工智能技術(shù)自誕生之日起,就將代替人類大腦實(shí)施行為作為核心目標(biāo),人工智能產(chǎn)品設(shè)計(jì)與生產(chǎn)的初衷也正是將人類從繁復(fù)的勞動(dòng)中解放出來,從而減輕人類的負(fù)擔(dān)。以自動(dòng)駕駛汽車為例,人類設(shè)計(jì)與生產(chǎn)自動(dòng)駕駛程序系統(tǒng),目的是將汽車駕駛員從長距離駕駛的疲勞中解放出來,減輕駕駛員的負(fù)擔(dān)。顯而易見,自動(dòng)駕駛汽車的使用者所應(yīng)承擔(dān)的注意義務(wù)應(yīng)小于普通汽車駕駛員所應(yīng)承擔(dān)的注意義務(wù),其僅需按照操作或使用規(guī)程所規(guī)定的內(nèi)容來使用自動(dòng)駕駛汽車(例如,不能隨意干擾自動(dòng)駕駛汽車的運(yùn)行、在汽車發(fā)出警報(bào)時(shí)及時(shí)采取相應(yīng)措施等),而交通運(yùn)輸管理法規(guī)所規(guī)定的絕大部分駕駛員所應(yīng)履行的注意義務(wù),已轉(zhuǎn)移給自動(dòng)駕駛汽車的程序系統(tǒng),也即間接轉(zhuǎn)移給了自動(dòng)駕駛汽車的生產(chǎn)者,不再由自動(dòng)駕駛汽車的使用者承擔(dān)。在行駛過程中,自動(dòng)駕駛程序系統(tǒng)控制著汽車的行進(jìn)方向、行進(jìn)路線、行進(jìn)速度等,在無特殊情況發(fā)生時(shí),使用者無須做出任何判斷,也無須采取任何行動(dòng)(全自動(dòng)駕駛汽車的“駕駛員”的真實(shí)身份其實(shí)就是“乘客”,其在任何情況下都沒有義務(wù)作出任何判斷或采取任何行動(dòng))。如果在自動(dòng)駕駛汽車的行進(jìn)過程中,法律仍保留追究未違反操作或使用規(guī)程的使用者刑事責(zé)任的可能性,則等同于賦予了使用者持續(xù)監(jiān)督自動(dòng)駕駛汽車運(yùn)行的注意義務(wù),也等同于賦予自動(dòng)駕駛汽車的使用者與普通汽車的駕駛員相同的注意義務(wù),這就和自動(dòng)駕駛汽車設(shè)計(jì)與生產(chǎn)的初衷背道而馳了。因此,如果在人工智能產(chǎn)品運(yùn)行的過程中,法律保留追究未違反操作或使用規(guī)程的使用者刑事責(zé)任的可能性,不僅從根本上與罪責(zé)自負(fù)的原則相悖,而且與人工智能產(chǎn)品設(shè)計(jì)與生產(chǎn)的初衷不符,即無法真正將人工智能產(chǎn)品使用者從繁復(fù)勞動(dòng)中解放出來,無法真正為其減輕負(fù)擔(dān)。

    第二,契合使用者對(duì)人工智能產(chǎn)品的合理信賴。在人工智能產(chǎn)品的設(shè)計(jì)、生產(chǎn)到投入市場出售的整個(gè)環(huán)節(jié)中,生產(chǎn)者都應(yīng)嚴(yán)格遵循法律法規(guī)及相關(guān)行業(yè)規(guī)范等的規(guī)定,以確保產(chǎn)品合格,并能夠按照產(chǎn)品承諾與說明來滿足使用者的需求。人工智能產(chǎn)品的使用者基于對(duì)法律法規(guī)、人工智能產(chǎn)品行業(yè)規(guī)范及生產(chǎn)者對(duì)人工智能產(chǎn)品做出的說明與承諾的信賴,有理由在按照人工智能產(chǎn)品操作或使用規(guī)程使用人工智能產(chǎn)品時(shí),相信其會(huì)正常發(fā)揮作用、滿足自己的需求,且不會(huì)引發(fā)嚴(yán)重危害社會(huì)的結(jié)果。如果在人工智能產(chǎn)品的使用者未違反操作或使用規(guī)程的情形下,法律仍保留追究其刑事責(zé)任的可能性,就等同于迫使使用者預(yù)見到人工智能產(chǎn)品可能出現(xiàn)的所有會(huì)引發(fā)事故的產(chǎn)品瑕疵并及時(shí)做出修正。事實(shí)上,對(duì)產(chǎn)品瑕疵的預(yù)見與修正,理應(yīng)完全屬于產(chǎn)品生產(chǎn)者的責(zé)任,而非使用者的責(zé)任。同時(shí),人工智能產(chǎn)品具有較高科技含量和專業(yè)性,人工智能產(chǎn)品的使用者通常不可能具備相應(yīng)能力來預(yù)見和修正產(chǎn)品瑕疵。使用者對(duì)人工智能產(chǎn)品的合理信賴?yán)響?yīng)受到法律的承認(rèn)與保護(hù)。因此,當(dāng)人工智能產(chǎn)品的使用者按照產(chǎn)品操作或使用規(guī)程使用人工智能產(chǎn)品時(shí),因產(chǎn)品本身所存在的問題而引發(fā)了嚴(yán)重危害社會(huì)的結(jié)果,可能承擔(dān)刑事責(zé)任的主體絕非使用者。而人工智能產(chǎn)品的生產(chǎn)者基于法律法規(guī)、行業(yè)規(guī)范或者對(duì)產(chǎn)品的說明與承諾等,有義務(wù)在一定范圍內(nèi)預(yù)見到產(chǎn)品瑕疵,并有義務(wù)對(duì)該瑕疵進(jìn)行修正,如果生產(chǎn)者違反了上述義務(wù)并因此引發(fā)嚴(yán)重危害社會(huì)的結(jié)果,法律讓其為此承擔(dān)相應(yīng)刑事責(zé)任應(yīng)無異議。

    第三,契合“支配原則”?!帮L(fēng)險(xiǎn)屬于誰的管轄范圍,誰便需要對(duì)風(fēng)險(xiǎn)及由此產(chǎn)生的結(jié)果來負(fù)責(zé)?!薄?〕勞東燕:《過失犯中預(yù)見可能性理論的反思與重構(gòu)》,載《中外法學(xué)》2018 年第2 期,第312 頁。對(duì)普通產(chǎn)品而言,脫離生產(chǎn)者的產(chǎn)品通常不再為生產(chǎn)者所支配?!?〕參見呂英杰:《風(fēng)險(xiǎn)社會(huì)中的產(chǎn)品刑事責(zé)任》,載《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2011 年第6 期,第145-153 頁。也即產(chǎn)品生產(chǎn)領(lǐng)域受產(chǎn)品生產(chǎn)者支配,在此領(lǐng)域產(chǎn)生的風(fēng)險(xiǎn)應(yīng)由產(chǎn)品生產(chǎn)者負(fù)責(zé);產(chǎn)品使用領(lǐng)域受產(chǎn)品使用者支配,在此領(lǐng)域產(chǎn)生的風(fēng)險(xiǎn)應(yīng)由產(chǎn)品使用者負(fù)責(zé)。例如,普通汽車駕駛員在道路上逆行并撞死行人的行為,并不受汽車生產(chǎn)者的支配,而僅受駕駛員的支配。換言之,對(duì)普通汽車而言,除汽車的固有瑕疵(如剎車系統(tǒng)故障)造成的事故之外,因不當(dāng)駕駛行為造成的事故與汽車生產(chǎn)者并無關(guān)聯(lián),即普通汽車的生產(chǎn)者僅需保證汽車本身的質(zhì)量安全,而并無義務(wù)確保汽車在行駛過程中遵守交通運(yùn)輸管理法規(guī)。后者為汽車駕駛員的責(zé)任與義務(wù)。汽車本身的質(zhì)量安全屬于汽車生產(chǎn)領(lǐng)域的問題,受汽車生產(chǎn)者支配;汽車在行駛過程中是否遵守交通運(yùn)輸管理法規(guī)屬于汽車使用領(lǐng)域的問題,受汽車駕駛員支配。然而,基于人工智能產(chǎn)品的自身特點(diǎn),人工智能產(chǎn)品的使用領(lǐng)域仍受生產(chǎn)者支配,這一點(diǎn)與普通產(chǎn)品存在本質(zhì)區(qū)別。仍以自動(dòng)駕駛汽車為例,自動(dòng)駕駛汽車的生產(chǎn)者除需保證汽車本身的質(zhì)量安全外,還需保證汽車在自動(dòng)行駛過程中遵守交通運(yùn)輸管理法規(guī)。在自動(dòng)駕駛汽車的使用者未違反操作或使用規(guī)程的情況下,自動(dòng)駕駛汽車在行駛過程中違反交通運(yùn)輸管理法規(guī)的行為受自動(dòng)駕駛程序系統(tǒng)的控制支配,也即受自動(dòng)駕駛汽車生產(chǎn)者的控制支配?!?〕參見林雨佳:《自動(dòng)駕駛事故中的過失犯罪分析》,載《重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2020 年第1 期。自動(dòng)駕駛汽車違反交通運(yùn)輸管理法規(guī)的行為,并非由使用者的不當(dāng)操作導(dǎo)致,而是由自動(dòng)駕駛程序系統(tǒng)本身的瑕疵導(dǎo)致,也即自動(dòng)駕駛汽車在生產(chǎn)者支配的領(lǐng)域內(nèi)違反了交通規(guī)則。由此產(chǎn)生的一切刑事責(zé)任,理應(yīng)由在此領(lǐng)域具有支配力的生產(chǎn)者承擔(dān)而非由不具有支配力的使用者承擔(dān)。簡言之,人工智能產(chǎn)品的使用者在產(chǎn)品使用領(lǐng)域的支配力度遠(yuǎn)低于普通產(chǎn)品使用者在產(chǎn)品使用領(lǐng)域的支配力度,人工智能產(chǎn)品生產(chǎn)者所實(shí)施的行為不僅可以在產(chǎn)品生產(chǎn)領(lǐng)域具有支配力,而且其支配力可以延伸至產(chǎn)品使用領(lǐng)域。由此,在人工智能生產(chǎn)者具有支配力的產(chǎn)品使用領(lǐng)域產(chǎn)生的刑事責(zé)任,應(yīng)由人工智能產(chǎn)品的生產(chǎn)者承擔(dān)。

    二、涉人工智能產(chǎn)品犯罪的認(rèn)定標(biāo)準(zhǔn)

    筆者認(rèn)為,在認(rèn)定涉人工智能產(chǎn)品犯罪時(shí),人工智能產(chǎn)品的生產(chǎn)者違反注意義務(wù)是其構(gòu)成相應(yīng)過失犯罪的必要而非充分條件。同時(shí),人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是認(rèn)定其違反注意義務(wù)的必要而非充分條件。一方面,認(rèn)定人工智能產(chǎn)品的生產(chǎn)者構(gòu)成相應(yīng)過失犯罪的前提是其違反了注意義務(wù);認(rèn)定人工智能產(chǎn)品的生產(chǎn)者違反注意義務(wù)的前提是其違反了對(duì)危害結(jié)果的預(yù)見義務(wù)。另一方面,人工智能產(chǎn)品的生產(chǎn)者違反了注意義務(wù),并不必然構(gòu)成相應(yīng)的過失犯罪;人工智能產(chǎn)品的生產(chǎn)者違反了對(duì)危害結(jié)果的預(yù)見義務(wù),也并不必然被認(rèn)定為違反了注意義務(wù)。刑法在確立認(rèn)定人工智能產(chǎn)品生產(chǎn)者成立過失犯罪的標(biāo)準(zhǔn)時(shí),既要從正面確立判定人工智能產(chǎn)品生產(chǎn)者成立過失犯罪的條件,又要從反面限縮人工智能產(chǎn)品生產(chǎn)者成立過失犯罪的范圍。

    (一)違反注意義務(wù)是構(gòu)成過失犯罪的必要非充分條件

    人工智能產(chǎn)品的生產(chǎn)者違反相應(yīng)的注意義務(wù)是認(rèn)定其構(gòu)成過失犯罪的必要條件?!盀榱顺闪⑦^失,違反法律上認(rèn)為必要的注意義務(wù)是必要的?!薄?〕馬克昌:《比較刑法原理——外國刑法學(xué)總論》,武漢大學(xué)出版社2015 年版,第234-235 頁。事實(shí)上,人工智能產(chǎn)品的生產(chǎn)者所應(yīng)遵守的注意義務(wù)不僅限于法律法規(guī)所規(guī)定的注意義務(wù),還應(yīng)包括人工智能行業(yè)規(guī)范與生產(chǎn)者對(duì)人工智能產(chǎn)品所做出的承諾。具體緣由筆者已在相關(guān)文章中進(jìn)行過詳盡說明,〔5〕參見劉憲權(quán):《涉人工智能犯罪中研發(fā)者主觀罪過的認(rèn)定》,載《比較法研究》2019 年第4 期,第101-110 頁。此處不作贅述。當(dāng)人工智能產(chǎn)品的生產(chǎn)者未違反法律法規(guī)、行業(yè)規(guī)范、對(duì)產(chǎn)品的承諾所規(guī)定的注意義務(wù)時(shí),對(duì)于人工智能產(chǎn)品引發(fā)的嚴(yán)重危害社會(huì)的結(jié)果,其不可能承擔(dān)過失犯罪的刑事責(zé)任。這是由過失犯罪與意外事件的本質(zhì)區(qū)別所決定的。根據(jù)《刑法》第16 條之規(guī)定,行為在客觀上雖然造成了損害結(jié)果,但不是出于故意或者過失,而是由于不能抗拒或者不能預(yù)見的原因所引起的,不是犯罪。此處所規(guī)定的“不能預(yù)見”,即意味著行為人不具有預(yù)見可能性,而具有預(yù)見可能性是賦予行為人相應(yīng)注意義務(wù)的前提條件。如果行為人對(duì)危害結(jié)果不具有預(yù)見可能性,就意味著行為人無須承擔(dān)相應(yīng)注意義務(wù),更談不上對(duì)注意義務(wù)的違反。此時(shí),對(duì)于行為人的行為在客觀上導(dǎo)致嚴(yán)重危害社會(huì)的結(jié)果,只能以意外事件來認(rèn)定。從另外一個(gè)角度看,盡管人工智能技術(shù)經(jīng)歷了六十余年的發(fā)展,但仍處于起步或發(fā)展的初期階段。如果我們將這些風(fēng)險(xiǎn)全部讓人工智能產(chǎn)品的生產(chǎn)者承擔(dān),顯然既不公平也不妥當(dāng),且會(huì)阻礙人工智能技術(shù)的發(fā)展?!叭绻麤]有證據(jù)證明任何人有注意義務(wù)的違反的話,雖然會(huì)出現(xiàn)責(zé)任的空白地帶,但是鑒于刑法的謙抑精神,應(yīng)該將這種空白地帶讓社會(huì)全體來承擔(dān)?!薄?〕儲(chǔ)陳城:《人工智能時(shí)代刑法歸責(zé)的走向——以過失的歸責(zé)間隙為中心的討論》,載《東方法學(xué)》2018 年第3 期,第35 頁。這種無法預(yù)測、無法避免風(fēng)險(xiǎn)的現(xiàn)實(shí)化,即屬于“被允許的危險(xiǎn)”?!?〕[日]西田典之:《日本刑法總論》,劉明祥、王昭武譯,中國人民大學(xué)出版社2007 年版,第104 頁。此時(shí),人工智能產(chǎn)品的生產(chǎn)者無須為此承擔(dān)過失犯罪的刑事責(zé)任。就此而言,筆者認(rèn)為,人工智能產(chǎn)品的生產(chǎn)者違反相應(yīng)的注意義務(wù)是認(rèn)定其構(gòu)成過失犯罪的必要條件,也即認(rèn)定人工智能產(chǎn)品的生產(chǎn)者構(gòu)成過失犯罪的前提是其違反了相應(yīng)的注意義務(wù)。

    人工智能產(chǎn)品的生產(chǎn)者違反相應(yīng)的注意義務(wù)并非認(rèn)定其構(gòu)成過失犯罪的充分條件?!氨M管行為人侵害了法益,但仍需考察,其所違反的規(guī)范是否是用于保護(hù)該類法益。若否,則規(guī)范的違反并沒有對(duì)被害人造成相關(guān)的危險(xiǎn)?!薄?〕[德]埃里克·希爾根多夫:《因果關(guān)系與客觀歸屬——原理與問題》,徐凌波譯,載陳澤憲主編:《刑事法前沿》(第7 卷),中國人民公安大學(xué)出版社2013 年版,第127 頁。原因在于,刑法規(guī)范的目的與其他法律規(guī)范的目的并不完全一致。例如,根據(jù)《道路交通安全法》第51 條之規(guī)定,機(jī)動(dòng)車行駛時(shí),駕駛?cè)恕⒊俗藛T應(yīng)當(dāng)按規(guī)定使用安全帶。立法者設(shè)立此規(guī)定的目的主要是保護(hù)駕駛?cè)思俺俗藛T的人身安全。假如在駕駛?cè)顺窗匆?guī)定使用安全帶,其他駕駛行為均完全符合規(guī)范的情況下,由于躲避逆向行駛的車輛而撞死行人,駕駛員理應(yīng)不承擔(dān)任何有關(guān)交通肇事罪的刑事責(zé)任。在此事故中,該駕駛員違反規(guī)范的行為與撞死行人的結(jié)果并無直接關(guān)聯(lián),因此也就不應(yīng)對(duì)此次交通事故承擔(dān)刑事責(zé)任。同理,當(dāng)人工智能產(chǎn)品生產(chǎn)者違反的注意義務(wù)與人工智能產(chǎn)品所引發(fā)的危害結(jié)果并無直接關(guān)聯(lián)時(shí),也不應(yīng)對(duì)人工智能產(chǎn)品的生產(chǎn)者以過失犯罪論處。此時(shí),我們無法將危害結(jié)果歸因于人工智能產(chǎn)品的生產(chǎn)者所實(shí)施的行為,也就無法將相關(guān)刑事責(zé)任歸責(zé)于行為人。所以,人工智能產(chǎn)品的生產(chǎn)者違反相應(yīng)的注意義務(wù)并非認(rèn)定其構(gòu)成過失犯罪的充分條件,也即人工智能產(chǎn)品的生產(chǎn)者即使違反了相應(yīng)的注意義務(wù),也完全存在不承擔(dān)過失犯罪刑事責(zé)任的可能性。

    (二)違反結(jié)果預(yù)見義務(wù)是被認(rèn)定為違反注意義務(wù)的必要非充分條件

    人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是其被認(rèn)定為違反了注意義務(wù)的必要條件。依上文所述,根據(jù)《刑法》第16 條之規(guī)定,行為在客觀上雖然造成了損害結(jié)果,但是不是出于故意或者過失,而是由于不能預(yù)見的原因所引起的,不是犯罪,應(yīng)當(dāng)按照意外事件認(rèn)定。此規(guī)定揭示了疏忽大意過失犯罪與意外事件的本質(zhì)區(qū)別。當(dāng)行為人負(fù)有結(jié)果預(yù)見義務(wù),卻因?yàn)槭韬龃笠舛搭A(yù)見并導(dǎo)致法定危害結(jié)果發(fā)生時(shí),則構(gòu)成疏忽大意的過失犯罪。反之,即使行為人因?yàn)槭韬龃笠舛搭A(yù)見并導(dǎo)致法定危害結(jié)果發(fā)生,若其不負(fù)有結(jié)果預(yù)見義務(wù),則仍不構(gòu)成疏忽大意的過失犯罪,而僅按照意外事件處理。由此可見,刑法認(rèn)定行為人負(fù)有結(jié)果預(yù)見義務(wù)的前提是行為人能夠預(yù)見,即具有預(yù)見可能性。在行為人“不能預(yù)見”的條件下,無須為客觀上造成的損害結(jié)果負(fù)刑事責(zé)任。“法律要求行為人的義務(wù)是以行為人能夠履行義務(wù)為前提的。所以,預(yù)見義務(wù)是以預(yù)見可能為前提的。如果行為人沒有預(yù)見能力,則不要求其必須履行負(fù)有的義務(wù)。”〔9〕劉憲權(quán)主編:《刑法學(xué)》(第4 版),上海人民出版社2016 年版,第161 頁。具體到對(duì)人工智能產(chǎn)品的生產(chǎn)者過失犯罪的認(rèn)定,刑法認(rèn)定人工智能產(chǎn)品的生產(chǎn)者違反了注意義務(wù)的前提是其違反了結(jié)果預(yù)見義務(wù),而認(rèn)定其違反了結(jié)果預(yù)見義務(wù)的前提又是具有預(yù)見可能性。反過來說,當(dāng)人工智能產(chǎn)品的生產(chǎn)者不具有預(yù)見可能性時(shí),刑法就不可能認(rèn)定其違反了結(jié)果預(yù)見義務(wù),更不可能認(rèn)定其違反了注意義務(wù)。從這個(gè)意義上來說,人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是其被認(rèn)定為違反了注意義務(wù)的必要條件,也即人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是其被認(rèn)定違反了注意義務(wù)的前提。

    需要指出的是,人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)并非意味著其被認(rèn)定為違反了注意義務(wù)的充分條件。根據(jù)舊過失論的觀點(diǎn),注意義務(wù)的內(nèi)容一般認(rèn)為是違反結(jié)果預(yù)見義務(wù);根據(jù)新過失論的觀點(diǎn),注意義務(wù)的核心內(nèi)容是結(jié)果避免義務(wù),但是結(jié)果預(yù)見可能性是履行結(jié)果避免義務(wù)的前提;根據(jù)新新過失論,注意義務(wù)的核心內(nèi)容也是結(jié)果避免義務(wù),但其不要求對(duì)結(jié)果具有具體的預(yù)見可能性,僅需具有抽象的預(yù)見可能性?!?0〕參見前注〔4〕,馬克昌書,第228-233 頁。由此可見,新過失論與新新過失論存在較多的共通之處,二者存在的主要區(qū)別在于對(duì)結(jié)果的預(yù)見可能性是指具體預(yù)見可能性還是抽象預(yù)見可能性。分析上述有關(guān)過失犯罪認(rèn)定理論的各種學(xué)說,可以發(fā)現(xiàn),新新過失論所提出的對(duì)結(jié)果的抽象預(yù)見可能性內(nèi)容模糊不清,缺乏可操作性;〔11〕參見[日] 松尾浩也等編:《刑法判例百選I 總論》(第4 版),有斐閣1997 年版,第108 頁;轉(zhuǎn)引自前注〔4〕,馬克昌書,第234 頁。而舊過失論僅強(qiáng)調(diào)結(jié)果預(yù)見義務(wù),忽視了結(jié)果避免義務(wù),可能會(huì)導(dǎo)致對(duì)行為人違反注意義務(wù)的認(rèn)定標(biāo)準(zhǔn)過低,并進(jìn)而擴(kuò)大過失犯罪的成立范圍,也不足取。筆者認(rèn)為,在判定人工智能產(chǎn)品的生產(chǎn)者是否違背了注意義務(wù)方面,新過失論頗具可取之處。其一,人工智能時(shí)代的社會(huì)也是風(fēng)險(xiǎn)社會(huì),物質(zhì)文明的發(fā)展帶來了社會(huì)風(fēng)險(xiǎn)的急劇增加。但人類不能因噎廢食,人類為了實(shí)現(xiàn)生活的方便快捷,就必須在一定程度上容忍風(fēng)險(xiǎn)。事實(shí)上,在現(xiàn)代文明社會(huì)中,諸多風(fēng)險(xiǎn)都是可預(yù)見但卻無法完全避免的。例如,汽車等高速交通工具的運(yùn)行,必然內(nèi)含致人死傷的風(fēng)險(xiǎn),但是人們所能做的,只是規(guī)范汽車等交通工具的駕駛行為,卻無法從根本上杜絕交通事故的發(fā)生。在人工智能產(chǎn)品領(lǐng)域亦是如此。對(duì)人工智能產(chǎn)品的生產(chǎn)者而言,其對(duì)人工智能產(chǎn)品所造成的危害結(jié)果,在絕大多數(shù)情況下是可以預(yù)見的,但卻無法做到完全避免危害結(jié)果的發(fā)生。新過失論對(duì)結(jié)果避免義務(wù)的強(qiáng)調(diào),將人工智能產(chǎn)品的生產(chǎn)者雖預(yù)見到危害結(jié)果但卻無法避免危害結(jié)果的情形排除在成立過失犯罪的可能范圍之外,從一定程度上避免了對(duì)人工智能產(chǎn)品的生產(chǎn)者過失犯罪認(rèn)定范圍過大的問題出現(xiàn)。其二,根據(jù)刑法條文規(guī)定,注意義務(wù)的內(nèi)容應(yīng)同時(shí)包含結(jié)果預(yù)見義務(wù)與結(jié)果避免義務(wù)?!缎谭ā返?5 條規(guī)定,應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會(huì)的結(jié)果,因?yàn)槭韬龃笠舛鴽]有預(yù)見,或者已經(jīng)預(yù)見而輕信能夠避免,以致發(fā)生這種結(jié)果的,是過失犯罪。應(yīng)當(dāng)看到,由于條文中“沒有預(yù)見”之后并未加“的”,這就意味著條文最后的“以致發(fā)生這種結(jié)果的”,應(yīng)是對(duì)“疏忽大意”和“輕信避免”兩種情況的統(tǒng)一要求。只是出于簡潔、不重復(fù)的條文表達(dá)需求,才在“已經(jīng)預(yù)見而輕信能夠避免”后面集中表述了一次。事實(shí)上,對(duì)上述條文的含義進(jìn)行詳細(xì)、完整表述是:應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會(huì)的結(jié)果,因?yàn)槭韬龃笠舛鴽]有預(yù)見,以致發(fā)生這種結(jié)果的;或者已經(jīng)預(yù)見自己的行為可能發(fā)生危害社會(huì)的結(jié)果而輕信能夠避免,以致發(fā)生這種結(jié)果的,是過失犯罪??梢?,無論是疏忽大意的過失,還是過于自信的過失,成立的前提都是“以致發(fā)生這種結(jié)果的”,也即結(jié)果的發(fā)生是成立過失犯罪的必備要件。換言之,當(dāng)行為人未違反結(jié)果回避義務(wù)而僅違反了結(jié)果預(yù)見義務(wù),也即當(dāng)行為人雖然違反了結(jié)果預(yù)見義務(wù)(未預(yù)見到危害結(jié)果的發(fā)生且并未采取相應(yīng)措施阻止結(jié)果的發(fā)生),卻在偶然因素的作用下避免了結(jié)果的發(fā)生時(shí),行為人仍不可能被認(rèn)定為過失犯罪。綜上,筆者認(rèn)為,根據(jù)刑法的規(guī)定,行為人成立過失犯罪所違背的注意義務(wù)內(nèi)容同時(shí)包含結(jié)果預(yù)見義務(wù)與結(jié)果回避義務(wù)。因此,在認(rèn)定人工智能產(chǎn)品的生產(chǎn)者是否違反注意義務(wù)并進(jìn)而構(gòu)成過失犯罪時(shí),新過失論具有重要的參考價(jià)值。根據(jù)新過失論,人工智能產(chǎn)品生產(chǎn)者的結(jié)果回避義務(wù)是其所要履行的注意義務(wù)的核心,而結(jié)果預(yù)見義務(wù)僅是其所要履行的結(jié)果回避義務(wù)的前提?!耙钥陀^預(yù)見義務(wù)的面目出現(xiàn)的預(yù)見可能性,只是作為結(jié)果避免義務(wù)的前提而存在,或者確切地說,是作為履行安全標(biāo)準(zhǔn)的必要前提,它本身并不具有獨(dú)立的意義?!薄?2〕同前注〔1〕,勞東燕文,第324 頁。即使人工智能產(chǎn)品的生產(chǎn)者違反了結(jié)果預(yù)見義務(wù),只要不能證明其違反了結(jié)果回避義務(wù),就不能認(rèn)定其違反了注意義務(wù)。例如,自動(dòng)駕駛汽車在綠燈亮起時(shí)超速經(jīng)過一個(gè)路口,撞上超速行駛并闖紅燈經(jīng)過該路口的酒后騎摩托車的甲,導(dǎo)致甲死亡。在不討論哪一方負(fù)事故全部或者主要責(zé)任的情況下,我們也完全有理由判定,盡管自動(dòng)駕駛汽車的生產(chǎn)者設(shè)計(jì)的程序有瑕疵(使自動(dòng)駕駛汽車超速行駛),且其能夠預(yù)見到超速行駛的自動(dòng)駕駛汽車可能會(huì)導(dǎo)致交通事故發(fā)生,但是由于在這個(gè)事故中,結(jié)果回避可能性無法得到證明(或者說根本不具有結(jié)果回避可能性),自動(dòng)駕駛汽車的生產(chǎn)者違背結(jié)果回避義務(wù)也就無從談起,所以其不可能成立過失犯罪。因此,人工智能產(chǎn)品的生產(chǎn)者違反結(jié)果預(yù)見義務(wù)并非認(rèn)定其違反了注意義務(wù)的充分條件,而只是認(rèn)定其違反了注意義務(wù)的前提。

    三、涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的困境與解決進(jìn)路

    產(chǎn)品犯罪應(yīng)被劃分為產(chǎn)品生產(chǎn)領(lǐng)域與產(chǎn)品使用領(lǐng)域的犯罪。但是,基于人工智能產(chǎn)品的特點(diǎn),產(chǎn)品生產(chǎn)領(lǐng)域與產(chǎn)品使用領(lǐng)域的界限并非涇渭分明,這也就導(dǎo)致在認(rèn)定涉人工智能產(chǎn)品犯罪的性質(zhì)時(shí)存在一定困惑,并亟須我們?yōu)榇藢ふ液线m的解決進(jìn)路。

    (一)涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的困惑

    在認(rèn)定涉人工智能產(chǎn)品犯罪的性質(zhì)時(shí),我們可以以人工智能產(chǎn)品生產(chǎn)領(lǐng)域作為基準(zhǔn)來確定犯罪性質(zhì),或者以人工智能產(chǎn)品使用領(lǐng)域作為基準(zhǔn)來確定犯罪性質(zhì)。但基于涉人工智能產(chǎn)品犯罪的特殊性,上述認(rèn)定方式會(huì)不可避免地導(dǎo)致一定的“尷尬”處境。

    1.涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的具體方式

    正如前述,與普通產(chǎn)品不同,人工智能產(chǎn)品被投入使用之后,其在產(chǎn)品使用領(lǐng)域作用的發(fā)揮主要仍依賴于程序系統(tǒng)的控制。換言之,人工智能產(chǎn)品生產(chǎn)者的行為在產(chǎn)品使用領(lǐng)域仍會(huì)發(fā)揮支配作用。這就使得人工智能產(chǎn)品生產(chǎn)者的行為在產(chǎn)品生產(chǎn)領(lǐng)域和產(chǎn)品使用領(lǐng)域都會(huì)發(fā)揮支配作用。對(duì)于完全屬于人工智能產(chǎn)品生產(chǎn)領(lǐng)域的刑事責(zé)任,歸屬于人工智能產(chǎn)品的生產(chǎn)者并按照相應(yīng)產(chǎn)品犯罪認(rèn)定顯然不存在任何障礙。關(guān)鍵問題是,對(duì)于屬于人工智能產(chǎn)品使用領(lǐng)域過失犯罪(在使用者未違反操作或使用規(guī)程的情形下)的刑事責(zé)任,雖然筆者已在上文中論述了將其歸屬于人工智能產(chǎn)品生產(chǎn)者的合理性,但對(duì)其適用刑法分則的何種罪名則需要進(jìn)行探討。在這種情形下,確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的罪名,可能依循的路徑如下。

    第一,以產(chǎn)品生產(chǎn)領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)。人工智能產(chǎn)品在被使用時(shí),其作用的發(fā)揮依賴于程序系統(tǒng),而控制人工智能產(chǎn)品發(fā)揮作用的程序系統(tǒng)是由人工智能產(chǎn)品的生產(chǎn)者所設(shè)置的。人工智能產(chǎn)品的程序系統(tǒng)本身就屬于人工智能產(chǎn)品不可分離的部分,缺少了程序系統(tǒng)的人工智能產(chǎn)品無異于“廢銅爛鐵”,無法為人類生產(chǎn)或生活提供任何幫助。例如,自動(dòng)駕駛汽車與普通汽車的本質(zhì)區(qū)別在于,自動(dòng)駕駛汽車擁有自動(dòng)駕駛程序系統(tǒng)。所以,當(dāng)自動(dòng)駕駛汽車在自動(dòng)駕駛程序系統(tǒng)的控制下違反交通運(yùn)輸管理法規(guī)并引發(fā)重大交通事故時(shí),在本質(zhì)上與普通汽車剎車系統(tǒng)出現(xiàn)問題而引發(fā)重大交通事故無異。因此,對(duì)自動(dòng)駕駛汽車的生產(chǎn)者以相關(guān)產(chǎn)品犯罪來認(rèn)定具有合理之處。在此意義上而言,以產(chǎn)品生產(chǎn)領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì),具有一定合理性。

    第二,以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)?!吧a(chǎn)”與“使用”兩個(gè)詞語具有截然不同的含義?!吧a(chǎn)”指的是人們使用工具來創(chuàng)造各種生產(chǎn)資料和生活資料;“使用”指的是使人員、器物、資金等為某種目的服務(wù)?!?3〕參見倪文杰等主編:《現(xiàn)代漢語辭海》,人民中國出版社1994 年版,第907、941 頁。人工智能產(chǎn)品的生產(chǎn)與人工智能產(chǎn)品的使用顯然也應(yīng)具備截然不同的含義。生產(chǎn)者制造人工智能產(chǎn)品時(shí)的行為便屬于生產(chǎn)行為;人們?yōu)榱诉_(dá)到某種目的而利用人工智能產(chǎn)品的行為便屬于使用行為。刑法分則認(rèn)定行為人構(gòu)成不同犯罪的標(biāo)準(zhǔn)是行為人的行為和主觀罪過。在人工智能生產(chǎn)者主觀罪過確定為犯罪過失的情況下,刑法分則認(rèn)定其構(gòu)成何種犯罪,顯然是以其行為為標(biāo)準(zhǔn)的。在此意義上而言,將人工智能產(chǎn)品在使用領(lǐng)域引發(fā)嚴(yán)重危害社會(huì)結(jié)果的過失犯罪刑事責(zé)任歸屬于人工智能產(chǎn)品的生產(chǎn)者是具有充足根據(jù)的,但這并不表明,按照產(chǎn)品生產(chǎn)領(lǐng)域所涉及的罪名來對(duì)人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為進(jìn)行定性也具有合理性。應(yīng)當(dāng)看到,人工智能產(chǎn)品在使用領(lǐng)域引發(fā)嚴(yán)重危害社會(huì)結(jié)果的行為本質(zhì)是“使用”而非“生產(chǎn)”。例如,自動(dòng)駕駛汽車引發(fā)交通事故,屬于在產(chǎn)品使用領(lǐng)域發(fā)生的事故,雖然自動(dòng)駕駛汽車在此情況下仍受到程序系統(tǒng)(也即生產(chǎn)者行為的延伸)控制,也即以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)具有一定合理之處,但如果按照刑法分則中有關(guān)汽車使用領(lǐng)域所可能涉及的罪名(如交通肇事罪)認(rèn)定似乎又存在很大的不合理性。

    2.涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的“尷尬”處境

    但應(yīng)當(dāng)看到,上述兩種路徑仍存在難以解決的問題,從而使得刑法認(rèn)定人工智能產(chǎn)品生產(chǎn)者過失犯罪行為的性質(zhì)時(shí)面臨“尷尬”處境。

    第一,以產(chǎn)品生產(chǎn)領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)時(shí),刑法分則中可能得以適用的罪名似乎只有生產(chǎn)偽劣產(chǎn)品罪等犯罪的罪名,但是,以這些罪名認(rèn)定顯然無法準(zhǔn)確、合理評(píng)價(jià)生產(chǎn)者所實(shí)施的犯罪行為侵犯的法益(客體)與生產(chǎn)者的主觀罪過。其一,無法準(zhǔn)確、合理評(píng)價(jià)生產(chǎn)者所實(shí)施的犯罪行為侵犯的法益(客體)。生產(chǎn)偽劣產(chǎn)品罪等是刑法分則第三章第一節(jié)所規(guī)定的罪名。刑法分則第三章規(guī)定的是“破壞社會(huì)主義市場經(jīng)濟(jì)秩序罪”。眾所周知,我國刑法分則主要根據(jù)犯罪行為所侵犯的客體性質(zhì)的不同,將所有犯罪劃分為十大類?!?4〕參見劉憲權(quán):《刑法學(xué)名師講演錄》(第2 版),上海人民出版社2016 年版,第129 頁。人工智能產(chǎn)品使用領(lǐng)域中的事故,在大多數(shù)情況下,屬于危害公共安全或者侵犯公民人身權(quán)利、民主權(quán)利的犯罪,也有可能屬于危害國家安全的犯罪。對(duì)生產(chǎn)者在人工智能產(chǎn)品使用領(lǐng)域的過失犯罪行為,以第三章第一節(jié)所規(guī)定的生產(chǎn)偽劣產(chǎn)品罪等犯罪加以認(rèn)定,存在無法準(zhǔn)確、合理評(píng)價(jià)生產(chǎn)者犯罪行為所侵犯的法益的問題。例如,自動(dòng)駕駛汽車違反交通運(yùn)輸管理法規(guī)引發(fā)重大交通事故,實(shí)質(zhì)上是危害了公共安全,而非破壞了社會(huì)主義市場經(jīng)濟(jì)秩序。而生產(chǎn)、銷售偽劣商品罪這一節(jié)的刑法條文“著重處罰的是違背誠信原則、生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)、衛(wèi)生標(biāo)準(zhǔn)的產(chǎn)品這一行為本身”?!?5〕同前注〔2〕,呂英杰文。如果對(duì)自動(dòng)駕駛汽車生產(chǎn)者以生產(chǎn)偽劣產(chǎn)品罪認(rèn)定,不能準(zhǔn)確地評(píng)價(jià)其行為所侵犯的法益也無法準(zhǔn)確、合理評(píng)價(jià)生產(chǎn)者的主觀罪過。生產(chǎn)偽劣產(chǎn)品罪等屬于故意犯罪,且具有謀取非法利益的主觀目的。我們?cè)诖颂接懙氖侨斯ぶ悄墚a(chǎn)品生產(chǎn)者過失犯罪的性質(zhì),應(yīng)當(dāng)看到,人工智能產(chǎn)品的生產(chǎn)者對(duì)人工智能產(chǎn)品引發(fā)的嚴(yán)重危害社會(huì)的結(jié)果,顯然是持“否定”心態(tài)的,也即此結(jié)果的發(fā)生完全違背了人工智能產(chǎn)品生產(chǎn)者的主觀意志。對(duì)危害結(jié)果是否持否定心態(tài),是區(qū)分行為人主觀罪過是故意還是過失的重要標(biāo)準(zhǔn)?!胺缸镏饔^要件是犯罪成立所必須具備的主觀條件,具有必要性?!薄?6〕張小虎:《犯罪主觀要件結(jié)構(gòu)分析》,載《河北大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2004 年第4 期。同時(shí),犯罪主觀要件對(duì)于區(qū)分罪與非罪、此罪與彼罪以及對(duì)量刑輕重都具有重要影響?!?7〕參見前注〔9〕,劉憲權(quán)書,第150-151 頁?;谛袨槿酥饔^罪過的上述重要作用,我們對(duì)于行為人在過失心態(tài)支配下所實(shí)施的犯罪行為,絕不可能以故意作為主觀構(gòu)成要件的犯罪來加以認(rèn)定。在此需要說明的是,人工智能產(chǎn)品的生產(chǎn)者在生產(chǎn)過程中意識(shí)到自己的行為違反了法律法規(guī)、行業(yè)規(guī)范等,但出于加快工作進(jìn)度等目的,抱著不會(huì)引發(fā)事故的僥幸心理(此前多次類似情況都未引發(fā)嚴(yán)重后果)制造出人工智能產(chǎn)品并投入市場,最終該人工智能產(chǎn)品引發(fā)了嚴(yán)重危害社會(huì)的結(jié)果,此處人工智能產(chǎn)品生產(chǎn)者的主觀罪過應(yīng)該認(rèn)定為過失(過于自信的過失)而非故意。雖然此處生產(chǎn)者可謂“明知故犯”,即明知自己的行為違反了法律法規(guī)、行業(yè)規(guī)范等,仍然繼續(xù)實(shí)施相應(yīng)的行為,似乎是在放任嚴(yán)重危害社會(huì)的結(jié)果發(fā)生而應(yīng)被認(rèn)定為間接故意犯罪。但實(shí)際上,人工智能產(chǎn)品的生產(chǎn)者對(duì)自己的行為不會(huì)引發(fā)嚴(yán)重危害社會(huì)的結(jié)果抱有“僥幸”心理,意味著其希望嚴(yán)重危害社會(huì)的結(jié)果不發(fā)生,即其對(duì)此結(jié)果持“否定”的心態(tài)。換言之,人工智能產(chǎn)品引發(fā)嚴(yán)重危害社會(huì)的結(jié)果,是違背人工智能產(chǎn)品生產(chǎn)者的意志的。由此可見,即使人工智能產(chǎn)品生產(chǎn)者放任自己的行為違背相關(guān)法律法規(guī)、行業(yè)規(guī)范等,也并不等同于其放任自己的行為引發(fā)嚴(yán)重危害社會(huì)的結(jié)果。綜上,對(duì)人工智能產(chǎn)品生產(chǎn)者所實(shí)施的危害公共安全等的犯罪行為以生產(chǎn)偽劣產(chǎn)品罪等破壞社會(huì)主義市場經(jīng)濟(jì)秩序的犯罪來認(rèn)定似乎不妥;對(duì)人工智能產(chǎn)品生產(chǎn)者的過失犯罪,用生產(chǎn)偽劣產(chǎn)品罪等故意犯罪來認(rèn)定似乎也存在不妥之處。

    第二,以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)時(shí),相關(guān)罪名構(gòu)成要件中的主體要件可能無法涵括人工智能產(chǎn)品的生產(chǎn)者。例如,智能手術(shù)機(jī)器人本身存在程序瑕疵,其在協(xié)助醫(yī)生進(jìn)行手術(shù)的過程中出現(xiàn)故障,導(dǎo)致病人死亡的結(jié)果發(fā)生。在此過程中,醫(yī)生不存在違反操作或使用規(guī)程的行為,則全部刑事責(zé)任都只可能歸屬于智能手術(shù)機(jī)器人的生產(chǎn)者。在智能手術(shù)機(jī)器人的生產(chǎn)者存在過失的情況下,應(yīng)如何認(rèn)定其犯罪的性質(zhì)?如果以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定智能手術(shù)機(jī)器人生產(chǎn)者過失犯罪的性質(zhì),則智能手術(shù)機(jī)器人的生產(chǎn)者應(yīng)構(gòu)成醫(yī)療事故罪。但應(yīng)當(dāng)看到,醫(yī)療事故罪的犯罪主體應(yīng)為醫(yī)務(wù)人員,而智能手術(shù)機(jī)器人的生產(chǎn)者顯然不屬于醫(yī)務(wù)人員這一范疇。類似情形不勝枚舉,筆者無意在此一一列舉。應(yīng)當(dāng)看到,隨著人工智能技術(shù)的不斷創(chuàng)新發(fā)展及對(duì)人類生產(chǎn)或生活參與程度的不斷提高,人工智能產(chǎn)品引發(fā)事故的領(lǐng)域?qū)?huì)更加廣泛,也即在使用領(lǐng)域可能會(huì)觸及更多種類的過失犯罪。而相當(dāng)程度的過失犯罪只能由特殊主體構(gòu)成,且人工智能產(chǎn)品的生產(chǎn)者又不屬于這類特殊主體范圍,因此,以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì),會(huì)面臨相關(guān)罪名構(gòu)成要件中的主體要件無法涵括人工智能產(chǎn)品生產(chǎn)者的“尷尬”處境。

    (二)涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定疑難的解決進(jìn)路

    面臨涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的“尷尬”處境,我們亟須尋找合適的解決方式與進(jìn)路。依筆者之見,以重大責(zé)任事故罪來認(rèn)定上述人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為似乎更為合理。理由有三。其一,以重大責(zé)任事故罪來認(rèn)定上述人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為,解決了適用生產(chǎn)偽劣產(chǎn)品罪等罪名無法準(zhǔn)確評(píng)價(jià)生產(chǎn)者犯罪行為所侵犯法益(客體)的問題。由筆者在上文所述可知,涉人工智能產(chǎn)品犯罪所侵犯的法益大多為公共安全,而重大責(zé)任事故罪屬于刑法分則第二章“危害公共安全罪”中的罪名,該條文所規(guī)制的是危害公共安全的犯罪行為,而生產(chǎn)偽劣產(chǎn)品罪等犯罪條文所規(guī)制的是破壞社會(huì)主義市場經(jīng)濟(jì)秩序的犯罪行為。顯而易見,以重大責(zé)任事故罪來評(píng)價(jià)人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為更具有合理性。其二,以重大責(zé)任事故罪來認(rèn)定上述人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為,解決了適用生產(chǎn)偽劣產(chǎn)品罪等罪名無法準(zhǔn)確評(píng)價(jià)生產(chǎn)者主觀罪過的問題。本文所探討的是人工智能生產(chǎn)者主觀罪過為過失的犯罪行為,生產(chǎn)偽劣產(chǎn)品罪等犯罪均為故意犯罪,二者存在不可調(diào)和的矛盾之處。而重大責(zé)任事故罪的主觀方面表現(xiàn)為過失,以此罪名評(píng)價(jià)人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為顯然更為合理。其三,以重大責(zé)任事故罪來認(rèn)定上述人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為,解決了相關(guān)罪名構(gòu)成要件中的主體要件無法涵括人工智能產(chǎn)品生產(chǎn)者的問題。根據(jù)《刑法》第134 條第1 款及2015 年12 月14 日最高人民法院、最高人民檢察院發(fā)布的《關(guān)于辦理危害生產(chǎn)安全刑事案件適用法律若干問題的解釋》之規(guī)定,重大責(zé)任事故罪的主體為對(duì)生產(chǎn)、作業(yè)負(fù)有組織、指揮或者管理職責(zé)的負(fù)責(zé)人、管理人員、實(shí)際控制人、投資人等人員,以及直接從事生產(chǎn)、作業(yè)的人員。實(shí)際上,重大責(zé)任事故罪的主體范圍已經(jīng)涵括了對(duì)安全事故負(fù)有責(zé)任以及其他從事生產(chǎn)、作業(yè)的所有人員?!?8〕參見前注〔9〕,劉憲權(quán)書,第440 頁。因此,以重大責(zé)任事故罪來評(píng)價(jià)人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為頗具合理之處。

    筆者在此需要補(bǔ)充說明兩點(diǎn)。其一,盡管人工智能產(chǎn)品引發(fā)事故的時(shí)空范圍應(yīng)屬于產(chǎn)品使用領(lǐng)域,人工智能產(chǎn)品的生產(chǎn)者所實(shí)施行為的時(shí)空范圍應(yīng)屬于產(chǎn)品生產(chǎn)領(lǐng)域,但是兩個(gè)時(shí)空之間存在密切的關(guān)聯(lián),即人工智能產(chǎn)品的生產(chǎn)者所實(shí)施行為與人工智能產(chǎn)品引發(fā)的事故之間存在因果關(guān)系,完全符合重大責(zé)任事故罪條文關(guān)于“在生產(chǎn)、作業(yè)中違反有關(guān)安全管理的規(guī)定,因而發(fā)生重大傷亡事故或者造成其他嚴(yán)重后果”的規(guī)定。人工智能產(chǎn)品的生產(chǎn)者所實(shí)施的行為與人工智能產(chǎn)品引發(fā)的事故二者之間雖存在時(shí)空上的分離,但不會(huì)成為將人工智能產(chǎn)品生產(chǎn)者行為認(rèn)定為重大責(zé)任事故罪的障礙。事實(shí)上,刑法中行為與結(jié)果之間存在分離的情況有很多,只要行為與結(jié)果之間存在因果關(guān)系,都不會(huì)影響到對(duì)行為人所實(shí)施行為的認(rèn)定。同時(shí),人工智能產(chǎn)品的生產(chǎn)者所實(shí)施的行為屬于產(chǎn)品生產(chǎn)領(lǐng)域的行為,也即是“在生產(chǎn)、作業(yè)中”,完全符合成立重大責(zé)任事故罪的時(shí)空條件。其二,重大責(zé)任事故罪的主體范圍應(yīng)將單位涵括其中。我國刑法以懲罰自然人犯罪為原則,以懲罰單位犯罪為例外,單位犯罪必須以刑法分則的明文規(guī)定為前提?!缎谭ā返?34 條第1 款“重大責(zé)任事故罪”的條文并未規(guī)定單位可以構(gòu)成本罪,也即該罪主體目前只包括自然人而不包括單位。但是,“工業(yè)社會(huì)經(jīng)濟(jì)活動(dòng)的現(xiàn)代風(fēng)險(xiǎn),從來就不是個(gè)人可以控制及負(fù)責(zé)的,而是由許多人的共同作用所引起”。〔19〕[德]許遒曼:《過失犯在現(xiàn)代工業(yè)社會(huì)的捉襟見肘》,單麗玟譯,載許玉秀等主編:《不移不惑現(xiàn)身法與正義:許遒曼教授刑事法論文選輯》,臺(tái)灣新學(xué)林出版股份有限公司2006 年版,第519 頁;轉(zhuǎn)引自前注〔1〕,勞東燕文,第312 頁?,F(xiàn)代社會(huì)中的高科技產(chǎn)品,包括人工智能產(chǎn)品等極具專業(yè)性、精密性、復(fù)雜性,絕非個(gè)人以傳統(tǒng)作坊模式所能生產(chǎn)、制造出來的產(chǎn)物,而是需要多人共同協(xié)作完成。因此,在重大責(zé)任事故罪的主體范圍中增加單位這一犯罪主體,似乎更能契合人工智能時(shí)代的特點(diǎn)與需求。

    四、結(jié)語

    綜上所述,筆者認(rèn)為,人工智能產(chǎn)品的使用者在使用產(chǎn)品時(shí)所應(yīng)遵守的注意義務(wù)的全部內(nèi)容即為遵循產(chǎn)品操作或使用規(guī)程,當(dāng)使用者未違反產(chǎn)品操作或使用規(guī)程時(shí),對(duì)于人工智能產(chǎn)品引發(fā)的嚴(yán)重危害社會(huì)的結(jié)果,可能承擔(dān)刑事責(zé)任的主體應(yīng)為人工智能產(chǎn)品的生產(chǎn)者而非使用者。

    認(rèn)定人工智能產(chǎn)品的生產(chǎn)者構(gòu)成相應(yīng)過失犯罪的前提是其違反了注意義務(wù);認(rèn)定人工智能產(chǎn)品的生產(chǎn)者違反注意義務(wù)的前提是其違反了對(duì)危害結(jié)果的預(yù)見義務(wù)。也即人工智能產(chǎn)品的生產(chǎn)者違反了注意義務(wù),并不必然構(gòu)成相應(yīng)的過失犯罪;人工智能產(chǎn)品的生產(chǎn)者違反了對(duì)危害結(jié)果的預(yù)見義務(wù),也并不必然被認(rèn)定為違反了注意義務(wù)。因此,在認(rèn)定涉人工智能產(chǎn)品犯罪時(shí),人工智能產(chǎn)品的生產(chǎn)者違反注意義務(wù)是其構(gòu)成相應(yīng)過失犯罪的必要而非充分條件;人工智能生產(chǎn)者違反結(jié)果預(yù)見義務(wù)是認(rèn)定其違反注意義務(wù)的必要而非充分條件。

    涉人工智能產(chǎn)品犯罪性質(zhì)認(rèn)定的“尷尬”處境是指:以產(chǎn)品生產(chǎn)領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)時(shí),如果以刑法分則中生產(chǎn)偽劣產(chǎn)品罪等罪名,顯然無法準(zhǔn)確、合理評(píng)價(jià)生產(chǎn)者所實(shí)施的犯罪行為侵犯的法益(客體)與生產(chǎn)者的主觀罪過;以產(chǎn)品使用領(lǐng)域?yàn)榛鶞?zhǔn)確定人工智能產(chǎn)品生產(chǎn)者過失犯罪的性質(zhì)時(shí),許多罪名構(gòu)成要件中的主體要件可能無法將人工智能產(chǎn)品生產(chǎn)者涵括其中。就此而言,筆者認(rèn)為,以重大責(zé)任事故罪認(rèn)定人工智能產(chǎn)品生產(chǎn)者的過失犯罪行為,既解決了適用生產(chǎn)偽劣產(chǎn)品罪等罪名無法準(zhǔn)確評(píng)價(jià)生產(chǎn)者犯罪行為所侵犯法益(客體)、生產(chǎn)者主觀罪過的問題,也解決了相關(guān)罪名構(gòu)成要件中的主體要件無法將人工智能產(chǎn)品生產(chǎn)者涵括其中的問題。

    猜你喜歡
    人工智能汽車產(chǎn)品
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    汽車的“出賣”
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    汽車們的喜怒哀樂
    2015產(chǎn)品LOOKBOOK直擊
    Coco薇(2015年1期)2015-08-13 02:23:50
    3D 打印汽車等
    決策探索(2014年21期)2014-11-25 12:29:50
    新產(chǎn)品
    玩具(2009年10期)2009-11-04 02:33:14
    產(chǎn)品
    精华霜和精华液先用哪个| 国产三级在线视频| 久久香蕉激情| 黑人操中国人逼视频| 长腿黑丝高跟| 国产激情久久老熟女| 91麻豆精品激情在线观看国产| 夜夜看夜夜爽夜夜摸| 久久久精品欧美日韩精品| 精品无人区乱码1区二区| 不卡一级毛片| 18禁裸乳无遮挡免费网站照片 | 男人操女人黄网站| 亚洲午夜精品一区,二区,三区| 精品久久久久久久末码| 欧美+亚洲+日韩+国产| 啦啦啦观看免费观看视频高清| 波多野结衣高清无吗| 亚洲国产精品久久男人天堂| 国产爱豆传媒在线观看 | 亚洲精品国产区一区二| 国产一区二区激情短视频| 看片在线看免费视频| 侵犯人妻中文字幕一二三四区| 亚洲欧美一区二区三区黑人| 国产精品免费视频内射| 18美女黄网站色大片免费观看| 日本免费一区二区三区高清不卡| 亚洲国产精品999在线| 亚洲黑人精品在线| 欧美精品啪啪一区二区三区| 91字幕亚洲| 在线av久久热| 精品人妻1区二区| 亚洲成av人片免费观看| 黑人巨大精品欧美一区二区mp4| or卡值多少钱| 国产精品久久电影中文字幕| 午夜福利在线在线| 免费在线观看黄色视频的| 成人国产一区最新在线观看| 欧美成狂野欧美在线观看| 日韩国内少妇激情av| 女同久久另类99精品国产91| 久久这里只有精品19| 曰老女人黄片| 18禁黄网站禁片免费观看直播| 午夜精品在线福利| 18禁裸乳无遮挡免费网站照片 | 免费观看精品视频网站| 精品国产超薄肉色丝袜足j| 首页视频小说图片口味搜索| 精品人妻1区二区| 久久精品国产亚洲av高清一级| 一级毛片女人18水好多| or卡值多少钱| 亚洲 欧美一区二区三区| 天天添夜夜摸| 国产人伦9x9x在线观看| 国产成+人综合+亚洲专区| 午夜福利一区二区在线看| 国产av一区在线观看免费| 国内揄拍国产精品人妻在线 | 国产精品香港三级国产av潘金莲| 黄色片一级片一级黄色片| 国产黄片美女视频| 国产一区二区激情短视频| 亚洲国产欧美日韩在线播放| 欧美另类亚洲清纯唯美| 美女午夜性视频免费| 美女扒开内裤让男人捅视频| 久久午夜亚洲精品久久| 久久香蕉国产精品| 中文字幕人成人乱码亚洲影| 美女午夜性视频免费| 一级a爱视频在线免费观看| 人妻久久中文字幕网| 啪啪无遮挡十八禁网站| 色综合站精品国产| 人人妻,人人澡人人爽秒播| 一本精品99久久精品77| 一个人观看的视频www高清免费观看 | 久久久久亚洲av毛片大全| 亚洲成人久久爱视频| 亚洲欧美日韩无卡精品| 999久久久精品免费观看国产| netflix在线观看网站| 国产高清videossex| 精品国产一区二区三区四区第35| 热re99久久国产66热| 久久热在线av| 黑丝袜美女国产一区| 一本综合久久免费| 免费搜索国产男女视频| 欧美日韩黄片免| 夜夜躁狠狠躁天天躁| 午夜免费激情av| 午夜福利在线在线| www.熟女人妻精品国产| 午夜福利免费观看在线| 国产精品99久久99久久久不卡| 人成视频在线观看免费观看| 欧美日韩黄片免| 欧美日韩一级在线毛片| 国产高清激情床上av| 看黄色毛片网站| 18禁裸乳无遮挡免费网站照片 | 国产精品一区二区免费欧美| av免费在线观看网站| 精品久久久久久久久久久久久 | 国产午夜精品久久久久久| 国产激情偷乱视频一区二区| 免费女性裸体啪啪无遮挡网站| 精品国产亚洲在线| 国产精品久久久久久人妻精品电影| 久久精品91蜜桃| 国产麻豆成人av免费视频| 精品不卡国产一区二区三区| 操出白浆在线播放| 国产亚洲av高清不卡| 免费高清视频大片| 午夜影院日韩av| 看免费av毛片| 国产精品99久久99久久久不卡| 欧美日韩黄片免| 少妇被粗大的猛进出69影院| 听说在线观看完整版免费高清| www.www免费av| 男人操女人黄网站| e午夜精品久久久久久久| 精品卡一卡二卡四卡免费| 少妇粗大呻吟视频| 久久99热这里只有精品18| 91av网站免费观看| 99国产精品一区二区蜜桃av| 一本一本综合久久| 日本在线视频免费播放| netflix在线观看网站| 午夜久久久久精精品| 黑人欧美特级aaaaaa片| 精品国产乱码久久久久久男人| 色婷婷久久久亚洲欧美| 1024香蕉在线观看| 一二三四社区在线视频社区8| 欧美丝袜亚洲另类 | 黑人欧美特级aaaaaa片| 国产亚洲av嫩草精品影院| 日韩成人在线观看一区二区三区| 日日夜夜操网爽| 欧美色欧美亚洲另类二区| 国产成人精品无人区| 在线永久观看黄色视频| 精品不卡国产一区二区三区| 精品国产乱子伦一区二区三区| 最新在线观看一区二区三区| 在线天堂中文资源库| 伊人久久大香线蕉亚洲五| 久久久久精品国产欧美久久久| 亚洲一区二区三区不卡视频| 禁无遮挡网站| 精品国产乱码久久久久久男人| 又黄又粗又硬又大视频| 精品日产1卡2卡| 午夜免费观看网址| 韩国精品一区二区三区| 精品久久久久久久久久免费视频| 首页视频小说图片口味搜索| a级毛片a级免费在线| av欧美777| 久久香蕉精品热| 欧美性长视频在线观看| 日韩有码中文字幕| 久久天躁狠狠躁夜夜2o2o| 午夜福利免费观看在线| 国产私拍福利视频在线观看| 亚洲一区中文字幕在线| 丁香六月欧美| 日本三级黄在线观看| 最近在线观看免费完整版| 母亲3免费完整高清在线观看| 亚洲男人天堂网一区| av中文乱码字幕在线| 亚洲最大成人中文| 在线av久久热| 精品免费久久久久久久清纯| 精品乱码久久久久久99久播| 欧美乱码精品一区二区三区| 国产97色在线日韩免费| 亚洲五月天丁香| 亚洲精品一区av在线观看| 日日夜夜操网爽| 国产午夜精品久久久久久| 欧美绝顶高潮抽搐喷水| 一级作爱视频免费观看| 久久精品91无色码中文字幕| 岛国视频午夜一区免费看| 欧美一区二区精品小视频在线| 99久久综合精品五月天人人| 日韩高清综合在线| 一a级毛片在线观看| 自线自在国产av| 国产精品乱码一区二三区的特点| 丁香六月欧美| 日本一区二区免费在线视频| 18禁观看日本| 精品国内亚洲2022精品成人| 午夜福利视频1000在线观看| 日韩三级视频一区二区三区| 亚洲熟女毛片儿| 色播在线永久视频| 午夜老司机福利片| 久久香蕉国产精品| 两个人免费观看高清视频| 成人特级黄色片久久久久久久| 中出人妻视频一区二区| 黑丝袜美女国产一区| 亚洲中文字幕一区二区三区有码在线看 | 麻豆一二三区av精品| 美女高潮到喷水免费观看| 岛国在线观看网站| 国产黄色小视频在线观看| 国产爱豆传媒在线观看 | 精品免费久久久久久久清纯| 欧美成人一区二区免费高清观看 | 999精品在线视频| 操出白浆在线播放| tocl精华| 亚洲免费av在线视频| 精品第一国产精品| 成年免费大片在线观看| 亚洲五月天丁香| 999精品在线视频| 亚洲熟女毛片儿| 一进一出抽搐gif免费好疼| 亚洲自偷自拍图片 自拍| 亚洲狠狠婷婷综合久久图片| 久久精品aⅴ一区二区三区四区| 国产主播在线观看一区二区| 亚洲精品粉嫩美女一区| 女生性感内裤真人,穿戴方法视频| 久久天堂一区二区三区四区| 中文字幕另类日韩欧美亚洲嫩草| 夜夜夜夜夜久久久久| 热re99久久国产66热| 亚洲 欧美 日韩 在线 免费| 亚洲国产毛片av蜜桃av| 欧美日韩中文字幕国产精品一区二区三区| 精品乱码久久久久久99久播| 国产精品,欧美在线| 久久久国产欧美日韩av| 午夜激情av网站| 好男人电影高清在线观看| 中文字幕人妻丝袜一区二区| 亚洲精华国产精华精| 操出白浆在线播放| 免费在线观看黄色视频的| 两人在一起打扑克的视频| 中文字幕精品亚洲无线码一区 | 天天添夜夜摸| 亚洲精品粉嫩美女一区| 男女做爰动态图高潮gif福利片| 美女高潮喷水抽搐中文字幕| 日韩三级视频一区二区三区| 人成视频在线观看免费观看| 老鸭窝网址在线观看| 亚洲av第一区精品v没综合| 国产亚洲精品久久久久5区| 精品欧美国产一区二区三| 日韩欧美国产在线观看| 成人18禁高潮啪啪吃奶动态图| 熟女少妇亚洲综合色aaa.| 国产亚洲欧美98| 午夜精品久久久久久毛片777| 国产真实乱freesex| 热99re8久久精品国产| 欧美日韩一级在线毛片| 亚洲九九香蕉| 亚洲aⅴ乱码一区二区在线播放 | 色婷婷久久久亚洲欧美| 一级毛片精品| 久久精品国产综合久久久| 国产成人av激情在线播放| 国产aⅴ精品一区二区三区波| 午夜久久久久精精品| 久久久久国内视频| 国产成人精品久久二区二区91| 亚洲五月天丁香| 一进一出抽搐动态| 在线av久久热| 首页视频小说图片口味搜索| 亚洲成a人片在线一区二区| 特大巨黑吊av在线直播 | 国产成人av激情在线播放| 国产又黄又爽又无遮挡在线| 中文在线观看免费www的网站 | 亚洲狠狠婷婷综合久久图片| 女性生殖器流出的白浆| 国产精品久久久人人做人人爽| 欧美日韩精品网址| 日日摸夜夜添夜夜添小说| 久久国产亚洲av麻豆专区| 一本综合久久免费| 一边摸一边做爽爽视频免费| 久久精品人妻少妇| 中文字幕人妻丝袜一区二区| 中亚洲国语对白在线视频| 麻豆av在线久日| 午夜免费激情av| 69av精品久久久久久| 国产黄a三级三级三级人| 亚洲久久久国产精品| 日韩av在线大香蕉| 精品一区二区三区四区五区乱码| 观看免费一级毛片| 精品一区二区三区av网在线观看| 桃色一区二区三区在线观看| 国产av又大| 人人妻人人澡人人看| 亚洲成av人片免费观看| 一本久久中文字幕| 国产欧美日韩一区二区精品| 亚洲一卡2卡3卡4卡5卡精品中文| 国产一区二区三区在线臀色熟女| 日韩 欧美 亚洲 中文字幕| 久久九九热精品免费| 中文字幕另类日韩欧美亚洲嫩草| 18禁黄网站禁片午夜丰满| 人人澡人人妻人| 亚洲精品中文字幕在线视频| 亚洲美女黄片视频| 国产一卡二卡三卡精品| 波多野结衣高清无吗| 精品福利观看| 亚洲精品国产区一区二| 日本免费一区二区三区高清不卡| 久久精品国产亚洲av香蕉五月| 欧美黑人欧美精品刺激| 91成年电影在线观看| www.www免费av| 亚洲免费av在线视频| 午夜免费鲁丝| 熟女电影av网| 亚洲一区二区三区色噜噜| 日韩成人在线观看一区二区三区| 精品乱码久久久久久99久播| 欧美黄色片欧美黄色片| videosex国产| 国产亚洲精品久久久久5区| 黄片大片在线免费观看| 在线观看午夜福利视频| 99久久国产精品久久久| 国内久久婷婷六月综合欲色啪| 50天的宝宝边吃奶边哭怎么回事| 无限看片的www在线观看| 国产午夜福利久久久久久| 亚洲国产毛片av蜜桃av| 变态另类丝袜制服| 天天添夜夜摸| 国产一区二区在线av高清观看| 少妇裸体淫交视频免费看高清 | 国产乱人伦免费视频| www日本在线高清视频| 国产精品亚洲一级av第二区| ponron亚洲| 女人高潮潮喷娇喘18禁视频| 少妇被粗大的猛进出69影院| 叶爱在线成人免费视频播放| 大香蕉久久成人网| 成人亚洲精品av一区二区| 国产精品野战在线观看| 女性被躁到高潮视频| 色哟哟哟哟哟哟| 久热这里只有精品99| 亚洲中文av在线| 久久久国产精品麻豆| 免费看十八禁软件| 久久久久精品国产欧美久久久| 国产亚洲精品久久久久久毛片| 成人av一区二区三区在线看| 美女免费视频网站| АⅤ资源中文在线天堂| 日本a在线网址| 免费人成视频x8x8入口观看| 99在线视频只有这里精品首页| 欧美中文综合在线视频| 看黄色毛片网站| 色老头精品视频在线观看| 亚洲专区国产一区二区| 无遮挡黄片免费观看| 香蕉av资源在线| 丝袜美腿诱惑在线| 国产精品爽爽va在线观看网站 | 免费看十八禁软件| 在线观看免费日韩欧美大片| 日本撒尿小便嘘嘘汇集6| 99热6这里只有精品| 久久午夜综合久久蜜桃| 久久国产精品人妻蜜桃| 婷婷亚洲欧美| 每晚都被弄得嗷嗷叫到高潮| 1024香蕉在线观看| 日日干狠狠操夜夜爽| 女警被强在线播放| 国产1区2区3区精品| 99久久99久久久精品蜜桃| 12—13女人毛片做爰片一| 亚洲国产精品sss在线观看| 少妇被粗大的猛进出69影院| 黄色女人牲交| 国产精品自产拍在线观看55亚洲| 国产精品久久视频播放| 一级作爱视频免费观看| 国产精品美女特级片免费视频播放器 | 亚洲av第一区精品v没综合| av在线天堂中文字幕| 免费人成视频x8x8入口观看| 欧美丝袜亚洲另类 | 国产精品久久久久久人妻精品电影| 美女高潮到喷水免费观看| 制服丝袜大香蕉在线| 99国产精品一区二区蜜桃av| 三级毛片av免费| 精品国产乱子伦一区二区三区| 黑人巨大精品欧美一区二区mp4| videosex国产| 国产片内射在线| 久久久国产欧美日韩av| 中文字幕人妻熟女乱码| 黄片播放在线免费| 国内少妇人妻偷人精品xxx网站 | 一区二区三区精品91| 日本在线视频免费播放| 欧美最黄视频在线播放免费| 亚洲av五月六月丁香网| 精品欧美国产一区二区三| 1024香蕉在线观看| 狠狠狠狠99中文字幕| 国产亚洲欧美98| 一区二区三区激情视频| 国产精品av久久久久免费| svipshipincom国产片| 欧美亚洲日本最大视频资源| 91成年电影在线观看| 欧美另类亚洲清纯唯美| 久久久久久免费高清国产稀缺| 黄色视频不卡| 少妇的丰满在线观看| 一边摸一边做爽爽视频免费| 亚洲av成人av| e午夜精品久久久久久久| 变态另类成人亚洲欧美熟女| 国产一卡二卡三卡精品| 日本一区二区免费在线视频| 欧美国产精品va在线观看不卡| 99在线人妻在线中文字幕| 色尼玛亚洲综合影院| 12—13女人毛片做爰片一| 国产成人精品无人区| 看黄色毛片网站| 欧美黄色片欧美黄色片| 久久这里只有精品19| 在线观看66精品国产| 久久久国产精品麻豆| 人妻久久中文字幕网| 欧美国产精品va在线观看不卡| 两个人免费观看高清视频| 久久九九热精品免费| 一区二区三区国产精品乱码| 波多野结衣高清无吗| 欧美激情高清一区二区三区| 国产精品久久电影中文字幕| 日本黄色视频三级网站网址| av有码第一页| 国产亚洲欧美98| 色老头精品视频在线观看| 日韩欧美三级三区| 国产区一区二久久| 精品福利观看| 久久久水蜜桃国产精品网| 熟女少妇亚洲综合色aaa.| 999精品在线视频| 老鸭窝网址在线观看| 波多野结衣巨乳人妻| 久久婷婷人人爽人人干人人爱| 久久午夜亚洲精品久久| 欧美日本视频| 精品国产一区二区三区四区第35| 69av精品久久久久久| 亚洲国产精品久久男人天堂| 午夜福利高清视频| 黑丝袜美女国产一区| www.精华液| 老汉色∧v一级毛片| 国产精品久久久久久人妻精品电影| 国产伦在线观看视频一区| 国产精品爽爽va在线观看网站 | 人妻久久中文字幕网| 夜夜看夜夜爽夜夜摸| 色综合站精品国产| 99久久综合精品五月天人人| 国产精品亚洲一级av第二区| 免费高清在线观看日韩| 九色国产91popny在线| 国产成人系列免费观看| 成人手机av| 9191精品国产免费久久| 在线永久观看黄色视频| 无人区码免费观看不卡| 中文字幕精品免费在线观看视频| 日韩欧美一区视频在线观看| 精品熟女少妇八av免费久了| 激情在线观看视频在线高清| 亚洲av日韩精品久久久久久密| 99热这里只有精品一区 | 国产精品美女特级片免费视频播放器 | 欧美午夜高清在线| 少妇的丰满在线观看| 欧美一区二区精品小视频在线| cao死你这个sao货| 免费在线观看日本一区| 国产一区在线观看成人免费| 久久香蕉激情| 国产精品98久久久久久宅男小说| 日韩三级视频一区二区三区| 午夜福利成人在线免费观看| 国产精品影院久久| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美精品亚洲一区二区| 国内毛片毛片毛片毛片毛片| 久久伊人香网站| 午夜影院日韩av| 日本撒尿小便嘘嘘汇集6| 自线自在国产av| 日本一区二区免费在线视频| 一区二区三区激情视频| 欧美性猛交╳xxx乱大交人| 天堂影院成人在线观看| 97人妻精品一区二区三区麻豆 | 午夜精品久久久久久毛片777| 岛国在线观看网站| 黄色视频,在线免费观看| 啦啦啦观看免费观看视频高清| 久久国产精品男人的天堂亚洲| 午夜老司机福利片| 亚洲熟女毛片儿| 香蕉丝袜av| 最新美女视频免费是黄的| 久久久久久九九精品二区国产 | 在线观看一区二区三区| 国产成人精品久久二区二区91| 国产精品一区二区免费欧美| 波多野结衣av一区二区av| 真人一进一出gif抽搐免费| 免费在线观看视频国产中文字幕亚洲| 亚洲av美国av| 精品日产1卡2卡| 此物有八面人人有两片| 免费看十八禁软件| 搞女人的毛片| 天堂动漫精品| 黄色视频,在线免费观看| 成人三级做爰电影| 国产精品影院久久| 午夜精品在线福利| 欧美精品啪啪一区二区三区| 亚洲av电影在线进入| 欧美久久黑人一区二区| 国产又色又爽无遮挡免费看| 精品一区二区三区四区五区乱码| 夜夜看夜夜爽夜夜摸| 免费搜索国产男女视频| 久久精品国产综合久久久| 久久精品影院6| 亚洲欧美精品综合久久99| 日本黄色视频三级网站网址| 免费人成视频x8x8入口观看| 午夜日韩欧美国产| 亚洲第一青青草原| 校园春色视频在线观看| 波多野结衣av一区二区av| bbb黄色大片| 国产亚洲精品久久久久久毛片| 满18在线观看网站| 在线观看舔阴道视频| 久久久久久国产a免费观看| 黄色a级毛片大全视频| 日韩欧美一区二区三区在线观看| 国产单亲对白刺激| 国产精品久久久久久亚洲av鲁大| 成年人黄色毛片网站| 成人国产综合亚洲| 国产伦人伦偷精品视频| 美女国产高潮福利片在线看| 久久精品成人免费网站| 777久久人妻少妇嫩草av网站| 免费看美女性在线毛片视频| 精品高清国产在线一区| 亚洲精品美女久久久久99蜜臀| 级片在线观看| 国产免费av片在线观看野外av| 99热这里只有精品一区 | 波多野结衣av一区二区av| 久99久视频精品免费| 亚洲国产高清在线一区二区三 | 狂野欧美激情性xxxx| 女人高潮潮喷娇喘18禁视频| 首页视频小说图片口味搜索| 国产野战对白在线观看| 在线av久久热| 美女午夜性视频免费| 99久久综合精品五月天人人| 99国产极品粉嫩在线观看| 亚洲成a人片在线一区二区| 欧美日本亚洲视频在线播放| 精品一区二区三区四区五区乱码|