數(shù)字化和人工智能對(duì)刑事責(zé)任的擴(kuò)散*

[德]蘇珊·貝克/著，王德政/譯

(1.德國(guó)漢諾威大學(xué) 法學(xué)院，德國(guó) 漢諾威 30167；2.中南財(cái)經(jīng)政法大學(xué) 刑事司法學(xué)院，湖北 武漢 430073)

“身處變動(dòng)的時(shí)代，最大的危險(xiǎn)是以過(guò)去的邏輯行事?！盵1]

一、導(dǎo)論

互聯(lián)網(wǎng)的重要意義在于社交網(wǎng)絡(luò)中的活動(dòng)，包括智能手機(jī)、電子郵件、通過(guò)WhatsApp或Viber進(jìn)行交流——我們正處于數(shù)字時(shí)代：到2030年大概會(huì)有5億個(gè)設(shè)備相互聯(lián)結(jié)在互聯(lián)網(wǎng)中[2]。全球約95%的科技信息容量都是數(shù)字化的[3]。最新的發(fā)展是工業(yè)4.0、醫(yī)學(xué)中的人工智能診斷系統(tǒng)、護(hù)理機(jī)器人、自動(dòng)駕駛汽車、自動(dòng)武器系統(tǒng)等。近年來(lái)，自動(dòng)化——讓機(jī)器作出決定以及與人工智能(有時(shí)是有形體的)直接互動(dòng)影響了我們的日常生活[4]。

數(shù)字化意味著全球范圍內(nèi)的迅捷交流和即時(shí)信息，涉及幾乎所有的切身問(wèn)題、聯(lián)網(wǎng)、分工和日常生活[5]。在許多領(lǐng)域，只有機(jī)器能處理信息超載(Informationsflut),并且其作出決定時(shí)犯的錯(cuò)誤通常比人類少。

科技的發(fā)展必然改變?nèi)穗H間、人與機(jī)器之間以及機(jī)器與機(jī)器之間的交流和互動(dòng)。這當(dāng)然會(huì)對(duì)伴隨并調(diào)控科技發(fā)展的法律產(chǎn)生后果。在數(shù)字化和自動(dòng)化的背景中，個(gè)人的社會(huì)地位、互聯(lián)網(wǎng)交際的特殊性、讓機(jī)器作出決定、社會(huì)和個(gè)人實(shí)施(以及交由機(jī)器實(shí)施)數(shù)字化行為產(chǎn)生的結(jié)果，對(duì)刑法和以其為基礎(chǔ)的責(zé)任概念而言都是有重要意義的。因此，在下文中可先從刑法視角(尤其是行為人和被害人視角)探討科技的發(fā)展，再闡明該發(fā)展對(duì)刑事責(zé)任而言有何意義，以及若有可能的話該發(fā)展是否應(yīng)受到調(diào)整。

二、數(shù)字化和智能學(xué)習(xí)系統(tǒng)的發(fā)展

數(shù)字化[6]首先意味著為了儲(chǔ)存和再處理而對(duì)信息進(jìn)行處理。作為社會(huì)發(fā)展的數(shù)字化不僅包含技術(shù)過(guò)程，還包含互聯(lián)網(wǎng)的產(chǎn)生及其持續(xù)的進(jìn)步。信息發(fā)送人與接收人通過(guò)電子方式進(jìn)行交流，他們之間形成了一個(gè)很大的距離。這種交流可以匿名進(jìn)行。接收人群體(Adressatenkreis)的范圍在理論上是無(wú)限的，一般很難被發(fā)送人掌控。交流的內(nèi)容可以長(zhǎng)期得到保存，“不會(huì)被網(wǎng)絡(luò)忘記”。

傳感器、一些被運(yùn)用的機(jī)器、計(jì)算機(jī)程序和算法持續(xù)得到發(fā)展。這些系統(tǒng)有時(shí)會(huì)“自我學(xué)習(xí)”，即自我繼續(xù)發(fā)展，去理解特定的結(jié)構(gòu)，如若可能還會(huì)在犯錯(cuò)后改變舉止等。在所謂的“深度學(xué)習(xí)”[7]中，學(xué)習(xí)過(guò)程不再是可以理解的，因?yàn)樵撨^(guò)程是通過(guò)神經(jīng)網(wǎng)絡(luò)這種方式發(fā)生的。

我們可以此方式獲得無(wú)窮數(shù)量的信息，除了這些信息以外，互聯(lián)網(wǎng)還為網(wǎng)民的交流創(chuàng)造了一個(gè)無(wú)邊界的基礎(chǔ)設(shè)備。當(dāng)前，為了處理信息超載，要不斷繼續(xù)發(fā)展受到運(yùn)用的算法。在高頻交易(High-Speed-Trading)中，只有軟件代理能很快作出決定；在醫(yī)學(xué)領(lǐng)域，人類醫(yī)生基本上未充分運(yùn)用大數(shù)據(jù)和最新的研究成果——與此相對(duì)，人工智能支撐的診斷系統(tǒng)似乎具有很大的優(yōu)勢(shì)[8]。能進(jìn)行自我學(xué)習(xí)的機(jī)器受到運(yùn)用的生活領(lǐng)域在不斷擴(kuò)大，包括股票交易和醫(yī)學(xué)、信用貸款、從許多申請(qǐng)者中進(jìn)行選擇、翻譯程序等。此外，人工神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)在機(jī)器中與日俱增地受到運(yùn)用，以至于與改進(jìn)后的傳感技術(shù)有關(guān)的自動(dòng)駕駛汽車和智能倉(cāng)庫(kù)管理系統(tǒng)進(jìn)入了日常生活[9]。甚至在判斷一個(gè)罪犯的再犯可能性時(shí)，計(jì)算機(jī)建議已在美國(guó)[10]受到采用。

三、案例

可先通過(guò)以下兩個(gè)案例說(shuō)明與上述發(fā)展相關(guān)的潛在的法律問(wèn)題，再詳細(xì)分析其中一個(gè)法律問(wèn)題。

案例1：A在Instagram上變成了一場(chǎng)“狗屎風(fēng)暴”(Shitstorm)的被害人，因?yàn)樗l(fā)送了一張裸露上身的所謂“下流”照片。無(wú)數(shù)網(wǎng)民都評(píng)論了該圖片，取笑他并稱之為“韭蔥”和“笨蛋”。這讓A備受精神折磨，因?yàn)槿绱硕嗟娜送瑫r(shí)攻擊他，以及許多網(wǎng)民包括他的朋友和家人都可以看到這些咒罵之語(yǔ)。甚至該圖片被刪除后，不少相關(guān)的截圖又出現(xiàn)了。評(píng)論者并不認(rèn)為其行為較為惡劣，而認(rèn)為這是正常的評(píng)論，但A不愿他們這樣行事。此外，所有其他的人都進(jìn)行了類似的評(píng)論。

案例2：制造商H從事制造自動(dòng)駕駛汽車。編程者P對(duì)該汽車負(fù)責(zé)編程。一輛已編程的自動(dòng)駕駛汽車通過(guò)批準(zhǔn)部門的審查后被送交車輛所有人X，隨后被出租車司機(jī)A駕駛。A在駕駛過(guò)程中看電影，因信任這輛汽車而未注意街道交通。由于陽(yáng)光照在車篷上并且傳感器未作出反應(yīng)，該汽車忽略了一個(gè)橫置的白色卡車——P并未想到會(huì)有這種可能性。該汽車撞上卡車后反彈回來(lái)重傷了一名走在人行道上的行人。

四、刑法視角的數(shù)字化和智能化

上述案例已展示出數(shù)字化和自動(dòng)化形成的一種困境。在下文中，從刑法視角考察數(shù)字化和自動(dòng)化的發(fā)展，依次以行為人和被害人為重點(diǎn)。

(一)行為人視角

通過(guò)闡述數(shù)字化和自動(dòng)化的效果考察行為人。

由于互動(dòng)是在網(wǎng)絡(luò)中和通常是以機(jī)器聯(lián)網(wǎng)的方式發(fā)生的，一般而言，每個(gè)參與者對(duì)于特定結(jié)果的貢獻(xiàn)只是很小一部分。對(duì)此，可引用分布式拒絕服務(wù)攻擊(DDoS-Attcaken[11])的案例：當(dāng)大量網(wǎng)民同時(shí)進(jìn)入一個(gè)網(wǎng)站時(shí)，為了阻止他們進(jìn)入而實(shí)施攻擊基本上是很有效果的。通過(guò)對(duì)侮辱行為貢獻(xiàn)了一個(gè)很大的組成部分，一場(chǎng)“狗屎風(fēng)暴”[12]對(duì)被害人而言獲得了意義[12]。此外，侮辱和傷害在數(shù)量上的巨大性至少建立在以下基礎(chǔ)上：個(gè)人彼此間的刺激及其感受[13]。這被忽略了。

不僅很多網(wǎng)民，還有使用虛假身份這種可能性——在論壇中不使用真名而以虛假身份隱藏自己，都給予行為人一種(或多或少是假想的)匿名性[14]。行為人與被害人之間存在巨大距離的現(xiàn)象與此有關(guān)[15]。這種不受時(shí)空限制的交流和數(shù)字化的匿名性讓行為人無(wú)法直接感受被害人施加的作用。這讓行為人對(duì)被害人施加的去人格化(Entpersonalisierung)在程度上得到減輕，尤其是當(dāng)他并非“真的”認(rèn)識(shí)被害人時(shí)更是如此。因?yàn)檫@些犯罪(如網(wǎng)絡(luò)釣魚或黑客)通常只是輕微地侵害了個(gè)別被害人，行為人主要從侵害的總數(shù)中獲利，因此，相比在現(xiàn)實(shí)中，被害人偶然受到的侵害更容易對(duì)自己失去作用。還有一種特殊性：行為人在數(shù)字化的領(lǐng)域?qū)嵤┬袨?。這些犯罪一般只在屏幕前被實(shí)施。這減少了羞恥和做“錯(cuò)事”的感覺(jué)。被害人和其他監(jiān)督、評(píng)價(jià)行為人所實(shí)施行為的公民，都直接察覺(jué)了行為人的行為。確切地說(shuō)，互聯(lián)網(wǎng)這一環(huán)境誘發(fā)了無(wú)規(guī)則性(Regellosigkeit)即“法外空間”(rechtsfreie Raum)的產(chǎn)生[16]。

此外，網(wǎng)絡(luò)由于可能被大量使用而通常會(huì)導(dǎo)致人格分裂的情形。然而，有人強(qiáng)調(diào)其在專業(yè)上具備可信賴性，有人在社交網(wǎng)絡(luò)(比如臉書)中呈現(xiàn)出個(gè)人的人格特質(zhì)。這也導(dǎo)致有人具備但同時(shí)另外有人欠缺很多特定人格特質(zhì)，這些人格特質(zhì)涉及在法律和道德上均存在問(wèn)題的行為方式，以至于那種受創(chuàng)設(shè)的網(wǎng)絡(luò)身份應(yīng)當(dāng)對(duì)犯罪或反社會(huì)的行為負(fù)責(zé)[17]。

一個(gè)特殊而相對(duì)較為新穎的難題是系統(tǒng)的自動(dòng)化。機(jī)器作出(至少是部分作出)或預(yù)備作出決定越來(lái)越常見。比如，關(guān)于購(gòu)買或出售有價(jià)證券[18]的算法能選擇最好的旅行路線，或在照顧老人者沒(méi)有反應(yīng)時(shí)呼叫急救醫(yī)生。完全由機(jī)器作出決定這種情形以及共同作出決定都不同于傳統(tǒng)的作出決定情形。機(jī)器通常在事先確定好的選項(xiàng)中進(jìn)行選擇，人類行為人對(duì)其提供的建議存在偏見。此外，結(jié)構(gòu)和時(shí)間上的既定性(Gegebeiheit)通常決定了，以完全負(fù)責(zé)的方式進(jìn)行思考對(duì)人類這一合作伙伴而言事實(shí)上是不可能的。所以臉書案的被告人只有3秒鐘時(shí)間將某條被發(fā)送的信息歸類為仇恨言論或其他不被允許的言論。對(duì)此，他們只看到被發(fā)送的具體信息而不顧語(yǔ)境。一名汽車司機(jī)(該汽車像特斯拉汽車那樣基本上屬于自動(dòng)駕駛型，他只需監(jiān)管即可)為了在緊急情況中像非自動(dòng)駕駛汽車的司機(jī)那樣去作出反應(yīng)，需要更長(zhǎng)時(shí)間。人類的反應(yīng)時(shí)間通常只有3～26秒[19]。

(二)被害人視角

數(shù)字化和自動(dòng)化也對(duì)(潛在的)被害人產(chǎn)生作用。這種虛擬性在事實(shí)上簡(jiǎn)化了與他們進(jìn)行的交流以及關(guān)于他們的交流。此外，可通過(guò)群發(fā)電子郵件和社交網(wǎng)絡(luò)聯(lián)系上相當(dāng)一部分被害人，并可增加以下情形發(fā)生的可能性——某些信息接收人如預(yù)期的那樣進(jìn)行反應(yīng)。虛擬的威脅不如現(xiàn)實(shí)的威脅在感知上顯得那么強(qiáng)烈，以至于采取的保護(hù)措施較少[20]。

同時(shí)，從理論上講，可能在網(wǎng)上看到誹謗信息的人是不受數(shù)量限制的，這就升高了誹謗這一實(shí)行行為的不法內(nèi)涵[21]。還存在以下危險(xiǎn)：這類侵害行為和其他可罰的交流行為(煽動(dòng)群眾、兒童色情等)在互聯(lián)網(wǎng)中是長(zhǎng)期存在的[22]。最終，在網(wǎng)上不僅很難讓回復(fù)獲得相同的空間，還很難去偵查行為人，證明其實(shí)施了實(shí)行行為以及處罰他。這只會(huì)加劇對(duì)被害人的侵害[23]。

五、刑事責(zé)任的變化

數(shù)字化和自動(dòng)化可能從多個(gè)方面改變刑事責(zé)任。我們要注意幾個(gè)方面。比如，許多參與者與結(jié)果發(fā)生之間的互動(dòng)，首先通過(guò)個(gè)別貢獻(xiàn)的累積，能作用于可歸責(zé)性和個(gè)別貢獻(xiàn)的可證明性。這也適用于讓(或部分讓)機(jī)器作出決定?？萍及l(fā)展對(duì)個(gè)人可非難性的重要性由此呈現(xiàn)，在數(shù)字化和網(wǎng)絡(luò)使用者這種特殊情形中更是如此，但互聯(lián)網(wǎng)中對(duì)被害人的大量侵害也可能改變罪責(zé)。

(一)數(shù)字化對(duì)刑事責(zé)任的影響

不同的行為人在互聯(lián)網(wǎng)中的互動(dòng)，比如在相關(guān)平臺(tái)上合作制造產(chǎn)品、狗屎風(fēng)暴引發(fā)眾怒或逐漸導(dǎo)致網(wǎng)站被關(guān)閉，已作用于客觀構(gòu)成要件的階層，比如客觀可歸責(zé)性。這適用于案例1中蘊(yùn)含的問(wèn)題。這些問(wèn)題與其他的集體性共同作用完全一致，由此成為我們當(dāng)前考察的重點(diǎn)。然而，數(shù)字化通常的發(fā)展可能作用于個(gè)人在刑法上的罪責(zé)。特定的人格分裂、失去作用這一新機(jī)制、至少是行為人感受到的不法之減少，以及被害人受侵害程度的加劇，正如案例1中明顯展示的那樣，不僅可能改變罪責(zé)能力，還可能改變罪責(zé)的程度，比如影響量刑。

此外，行為人所處的特定情形是否導(dǎo)致其具備罪責(zé)能力，與如何建構(gòu)罪責(zé)概念有關(guān)。如果這與雅各布斯(Jakobs)[24]的觀點(diǎn)一致，都事關(guān)一種在具體情形中對(duì)行為人提出的行為要求(Verhaltensanspruch)，互聯(lián)網(wǎng)中規(guī)范的松弛(Lockerung)、社會(huì)監(jiān)督微弱的介入和同理心的必然減少就完全可能在個(gè)人的罪責(zé)中扮演一個(gè)角色。有人可能提出類似于羅克辛(Roxin)[25]的觀點(diǎn)：在數(shù)字化世界中，合規(guī)行為的決定變得更難——我們案例1中的評(píng)論者也是這樣爭(zhēng)論的，在此背景中，所有的網(wǎng)民在某種意義上都是“不成熟的”。由于社會(huì)監(jiān)督發(fā)生弱化，對(duì)規(guī)范適用的信任消失了，這就導(dǎo)致行為人的可回應(yīng)性(Ansprechbarkeit)更加弱化。這無(wú)論如何都適用于具備以下特征的行為方式：在網(wǎng)絡(luò)中具備合規(guī)性，同時(shí)個(gè)別網(wǎng)民只對(duì)其作出微弱的貢獻(xiàn)并且對(duì)規(guī)范受到侵害和得到適用不知情，比如分布式拒絕服務(wù)攻擊或狗屎風(fēng)暴。同時(shí)，上述兩個(gè)概念都對(duì)以下論斷提供了根據(jù)：這對(duì)于罪責(zé)的“有無(wú)”通常不能改變什么。盡管如此，以下社會(huì)一致性是存在的：數(shù)字化的行為要受到刑罰規(guī)范的裁量。盡管存在人格分裂的情形，在數(shù)字化世界中，對(duì)于規(guī)范的可回應(yīng)性還是假定其存在的。正是由于對(duì)規(guī)范的信任發(fā)生了弱化，似乎強(qiáng)調(diào)以下這一點(diǎn)也很重要：在數(shù)字化場(chǎng)合，一般性的規(guī)范還是適用的。就此而言，積極的一般預(yù)防非常重要。因此，將一般化的罪責(zé)能力或推定有罪責(zé)能力建立在上述論據(jù)的基礎(chǔ)上是不可能的。更確切地講，數(shù)字化本身暫時(shí)還未改變行為人在網(wǎng)絡(luò)中的基本責(zé)任。

數(shù)字化對(duì)行為人和被害人的影響可能作用于罪責(zé)的范圍和據(jù)以量刑的罪責(zé)(Strafzumessungsschuld)。這里并不完全指的是以下既定類型——行為人具備病理狀態(tài)(德國(guó)《刑法》第21條[26])或?qū)?shí)行行為的法律評(píng)價(jià)發(fā)生特定的認(rèn)識(shí)錯(cuò)誤(德國(guó)《刑法》第17條[27])。犯罪事實(shí)和不法的程度在整體上可能影響刑度(Strafh?he)。對(duì)此，相互作用是存在的，但疑問(wèn)在于，什么對(duì)犯罪的不法提供了根據(jù)？行為方面和結(jié)果方面對(duì)此扮演了一個(gè)角色，此外，這兩個(gè)方面彼此都要受到衡量。

觀察一下行為人實(shí)施行為的情形，正如上文中幾個(gè)論據(jù)所主張的那樣，都以減少不法為出發(fā)點(diǎn)。不法的程度正是借助于犯罪事實(shí)而得以量度。即使我們認(rèn)為，盡管條件發(fā)生改變，這些條件讓受到限制的、可罰的行為更容易得到實(shí)施。有人在互聯(lián)網(wǎng)中還是完全能繼續(xù)實(shí)施在刑法意義上負(fù)責(zé)的行為，那就可能顯得對(duì)個(gè)人要求過(guò)高，應(yīng)考慮到社會(huì)期待、規(guī)范的可回應(yīng)性和違法性認(rèn)識(shí)發(fā)生改變，以及同理心能力減輕等因素，對(duì)其減輕處罰。然而，與此相對(duì)的是關(guān)于結(jié)果方面的論據(jù)。數(shù)字化導(dǎo)致法益侵害變得更容易并得以擴(kuò)大，這是持續(xù)且無(wú)法逆轉(zhuǎn)的[28]。在很多案件中(最明顯的是公開的、無(wú)法刪除的侮辱信息，正如我們的案例1中那樣)，從被害人和實(shí)行行為的不法這一視角來(lái)看，法益侵害的程度升高了。

關(guān)于行為方面的論據(jù)必須與關(guān)于個(gè)案情景的(Situationsbezogen)方面相互平衡，案例1中支持罪責(zé)的升高，案例2中卻贊同罪責(zé)的降低。就此而言，要提及一種已知的、被容忍的矛盾或已知的德國(guó)《刑法》第46條[29]中實(shí)際量刑的個(gè)案關(guān)聯(lián)(Einzelfallbezug)。這里僅通過(guò)簡(jiǎn)要的提示補(bǔ)充一下：這一權(quán)衡在衡量過(guò)程中也與被支持的罪責(zé)概念有關(guān)。一個(gè)主要以預(yù)防為導(dǎo)向的罪責(zé)概念將注目于行為的結(jié)果，但以進(jìn)行壓制為核心的、關(guān)于行為的情況將扮演一個(gè)很重大的角色。即使網(wǎng)絡(luò)中那些最新的、持續(xù)惡化的情況正好說(shuō)明網(wǎng)民罪責(zé)降低完全是不可行的，至少有一種意識(shí)應(yīng)當(dāng)存在，該意識(shí)涉及一個(gè)與結(jié)果極其相關(guān)、不太以行為人為導(dǎo)向的論據(jù)。

(二)智能學(xué)習(xí)系統(tǒng)的運(yùn)用對(duì)刑事責(zé)任的影響

機(jī)器在刑事責(zé)任中扮演一個(gè)特殊的角色，本身具有裁量空間，通過(guò)傳感器和聯(lián)網(wǎng)以獲取和分析利用信息。在這種情況中，正如我們的案例2，機(jī)器在何種情形下將作出何種決定是事先無(wú)法預(yù)見的，事后也無(wú)法確定其根據(jù)什么來(lái)作出決定。尤其是參與者，即編程者、制造者或使用者是否犯了錯(cuò)誤，通常是無(wú)法得到證明的[30]。即使可以證明，常規(guī)的歸責(zé)構(gòu)造(正如我們?cè)谙挛闹袑⒖吹降?是無(wú)法輕易受到運(yùn)用的[31]。這并不意味著以下情況無(wú)法想到——參與者犯錯(cuò)可以得到證明，但存在例外[32]。

1.相關(guān)人類行為的選擇

一個(gè)首先在實(shí)務(wù)中較為重要的問(wèn)題，根據(jù)在刑法上進(jìn)行判斷的起點(diǎn)是行為的選擇。原則上要適用的是，任何行為人只要實(shí)施了在刑法上具備重要性的行為都要受到處罰，并且任何嫌疑都要受到追訴。因?yàn)閷?duì)自動(dòng)系統(tǒng)進(jìn)行在策略上可預(yù)見的處罰是不可想象的。原則上講，以下的人對(duì)一種可能存在的可罰性而言是合適的：研究者、編程者、制造者、銷售者或使用者[33]。在集體性事件中，大多數(shù)因素只根據(jù)個(gè)別參與者受到調(diào)整，包括可證明性、公示作用(?ffentlichkeitswirkung)等。然而，這種選擇對(duì)刑事責(zé)任的具備而言是重要環(huán)節(jié)，因此，在多人相互合作以及與機(jī)器合作的場(chǎng)合中，應(yīng)當(dāng)批評(píng)性地支持該選擇。

存在人的行為對(duì)可罰性而言是必要的[34]。即使近幾十年來(lái)對(duì)行為概念的討論已不再激烈，但像我們所進(jìn)行的這種思考對(duì)新問(wèn)題的提出仍然很重要。這不是指對(duì)機(jī)器的可罰性所進(jìn)行的討論[35]，而是指獨(dú)立于可非難性問(wèn)題的以下疑問(wèn)：何時(shí)才能將人類的互動(dòng)視為行為？如果無(wú)法將舉止中人類所實(shí)施的部分視為受意志支配或可由意志支配，或者如果機(jī)器超越支配(übersteuern)了人類的行為，情況就并非如此[36]。如果一輛自動(dòng)駕駛汽車的使用者在車內(nèi)睡覺(jué)，該汽車承擔(dān)了所有的駕駛功能，則該使用者并未“駕駛”——在討論不作為的可罰性時(shí)(若有可能存在的話)，自然只剩下討論他是否以及在何種程度上有義務(wù)介入特定情形[37]。此外，如果這輛汽車停在一個(gè)紅燈旁邊，盡管該汽車的使用者想進(jìn)行駕駛操作以通過(guò)這個(gè)十字路口，但自動(dòng)系統(tǒng)拒絕他實(shí)施該行為，阻止了違法的發(fā)生。

2.結(jié)果的可歸責(zé)性

至少根據(jù)通說(shuō)，具體結(jié)果必須可歸責(zé)于潛在的行為人[38]。這涉及對(duì)人與機(jī)器的合作進(jìn)行刑法上的分析時(shí)關(guān)鍵方面中的一個(gè)方面[39]?？陀^歸責(zé)可能是存在問(wèn)題的，因?yàn)橹钡浇Y(jié)果發(fā)生時(shí)，不同的人都作出了許多關(guān)于設(shè)計(jì)和運(yùn)用機(jī)器的決定[40]。在自動(dòng)系統(tǒng)的制造和運(yùn)用中也有許多人相互作用[40]。但如上文中所說(shuō)，該問(wèn)題與制造其他設(shè)備或其他集體性行為這一問(wèn)題并無(wú)不同[41]。

在機(jī)器人學(xué)和人工智能領(lǐng)域中卻存在一個(gè)問(wèn)題：當(dāng)前機(jī)器也進(jìn)入互動(dòng)之中[42]。在傳統(tǒng)意義上這可能是欠缺“行為”或“決定”的[43]。但通過(guò)特定的科技，亦即編程、信息、網(wǎng)絡(luò)活動(dòng)、訓(xùn)練、從錯(cuò)誤舉止中進(jìn)行學(xué)習(xí)等，機(jī)器變成與人類共同作出的“決定”中一個(gè)重要部分。因此，必須問(wèn)一下：是否罪責(zé)關(guān)聯(lián)(Zurechnungszusammenhang)不只是通過(guò)這種方式被中斷？因?yàn)檫@種決定是緊密交錯(cuò)、無(wú)法輕易分割的，將結(jié)果視為人類行為人的作品非常合理。

這也適用于以下情形：運(yùn)用人工智能或輔助系統(tǒng)時(shí)，人類行為人的最終決定得以保留(比如當(dāng)人類必須同意輔助系統(tǒng)提出的建議時(shí))。在某種程度上，可從這種通常在規(guī)范意義上構(gòu)建的“人機(jī)回圈”(human in the loop)[44]之參與中得出結(jié)論：作出決定的后果應(yīng)歸責(zé)于作出決定的人或有監(jiān)督義務(wù)的人。但這不僅可能損害讓機(jī)器作出決定這一想法，還在規(guī)范層面上值得懷疑。人工智能的參與正好實(shí)現(xiàn)了以下目的：彌補(bǔ)自身的不足(信息太少、作決定太慢)以及至少在部分范圍內(nèi)為自己出罪。這種運(yùn)用方式為社會(huì)所接受可能也是因?yàn)闄C(jī)器的缺陷(至少在部分上)越少，就越能進(jìn)行合理、迅速的判斷。如果使用者對(duì)任何錯(cuò)誤決定都承擔(dān)刑事責(zé)任，則欠缺說(shuō)服力[45]。這將意味著一種全面的審查和監(jiān)督義務(wù)并且無(wú)法實(shí)現(xiàn)出罪。在自動(dòng)駕駛汽車的場(chǎng)合，這可能意味著，司機(jī)必須持續(xù)集中注意力——這事實(shí)上甚至是更難做到的，如果司機(jī)長(zhǎng)時(shí)間保持消極狀態(tài)[46]。以此方式，人工智能的運(yùn)用將在許多情形中都沒(méi)有意義，或者至少其功能性會(huì)受到損害。如果認(rèn)為司機(jī)要負(fù)責(zé)任在規(guī)范上是令人信服的，就要接受這一點(diǎn)。但情況并非如此，因?yàn)樵摏Q定基本上不被視為參與其中的行為人的作品。更確切地講，在大多數(shù)情況中，結(jié)果主要是機(jī)器的作品，并且機(jī)器這一部分也不重要[47]。通?？赡芤獙?duì)一種“有意義的控制”[48]予以贊同。

對(duì)此要概括一下：反對(duì)機(jī)器的精神和身體抑制閾(Hemmschwelle)越大，就越容易否定客觀歸責(zé)[49]。相反，如果可對(duì)機(jī)器進(jìn)行重要的監(jiān)督并最終作出決定，這就不適用了。結(jié)果被視為行為人的作品這一論斷是有說(shuō)服力的。演完(在技術(shù)上可實(shí)現(xiàn)的)各種合作劇本，弄清作出的決定在何時(shí)可受監(jiān)督，以及在法律上如何定位這些劇本，似乎才有意義。

3.特殊問(wèn)題：過(guò)失

許多難題，尤其是但不僅僅是客觀歸責(zé)，都面臨過(guò)失的判斷。因此，應(yīng)當(dāng)更詳細(xì)地探討一下這些難題的幾個(gè)先決條件[50]。然而，過(guò)失責(zé)任[51]各方面的教義學(xué)定位或相互之間充滿爭(zhēng)議的關(guān)系不應(yīng)成為焦點(diǎn)。

原則上應(yīng)避免對(duì)第三人可預(yù)見的侵害。危險(xiǎn)的預(yù)見可能性[52]具備重要意義。一個(gè)系統(tǒng)越自動(dòng)化、越危險(xiǎn)，就越容易抽象地預(yù)見到，其在某個(gè)時(shí)候?qū)⑶趾λ?。那么在將?lái)，必然有人由于自動(dòng)駕駛汽車的運(yùn)用而受傷甚至死亡[53]。自動(dòng)駕駛汽車的制造和運(yùn)用創(chuàng)設(shè)了一種統(tǒng)計(jì)學(xué)上的風(fēng)險(xiǎn)[54]。同時(shí)該預(yù)見可能性正好是抽象的。特定的情況和結(jié)果由于系統(tǒng)的自動(dòng)性而變得越來(lái)越無(wú)法預(yù)見[55]。這是由于復(fù)雜的神經(jīng)網(wǎng)絡(luò)在運(yùn)行，另外還因?yàn)?，該系統(tǒng)屬于未知的工具，這種工具的舉止對(duì)我們而言還不具備可歸責(zé)性。這種發(fā)展表明，可預(yù)見性在將來(lái)還須進(jìn)一步具體化[56]。換言之，要問(wèn)一下：是否必須將可預(yù)見性集中于特定的情況、因果關(guān)聯(lián)(kausalzusammenhang)和具體的侵害，或者說(shuō)，具備預(yù)見他人被侵害的抽象可能性是否足夠？

對(duì)此，尤其需要注意的是，根據(jù)對(duì)抽象風(fēng)險(xiǎn)單純的可預(yù)見性，某人可能由于運(yùn)用該系統(tǒng)而導(dǎo)致自己具備某種行為能力，這是因?yàn)?，該系統(tǒng)的運(yùn)用在將來(lái)某個(gè)時(shí)候?qū)е滤耸軅蛩劳鍪潜厝坏?，制造和運(yùn)用該系統(tǒng)所蘊(yùn)含的可罰性風(fēng)險(xiǎn)相當(dāng)高[57]。因此，某人無(wú)論如何都應(yīng)當(dāng)注意已產(chǎn)生的極大的可罰性風(fēng)險(xiǎn)，并應(yīng)詳細(xì)地考慮可能性、損害的范圍和具體性等方面。

除了預(yù)見可能性以外，違反“必要的注意義務(wù)”也是不可或缺的[58]。此標(biāo)準(zhǔn)一般由以下因素決定：來(lái)自特定社會(huì)圈層的、理智的行為人可被期待實(shí)施何種舉止？指標(biāo)在于出自各種背景、非國(guó)家制定的規(guī)則，比如ISO或DIN規(guī)范[59]。針對(duì)我們所提出的問(wèn)題，必須注意一個(gè)方面：處理該系統(tǒng)的標(biāo)準(zhǔn)很少[60]。對(duì)此，只有一種一般性規(guī)則可指導(dǎo)。但這無(wú)助于處理就像我們提到的這種復(fù)雜的技術(shù)性事務(wù)[61]。已聯(lián)網(wǎng)的智能學(xué)習(xí)系統(tǒng)也正在發(fā)展中，可能發(fā)生的風(fēng)險(xiǎn)基本上是未知的。即使存在這些標(biāo)準(zhǔn)，也要注意：其蘊(yùn)含的評(píng)價(jià)通常代表著存在問(wèn)題的利益，偶爾還出自不透明的控制程序(Regelungsverfahren)。比如，這些標(biāo)準(zhǔn)適用于企業(yè)內(nèi)部的準(zhǔn)則，該準(zhǔn)則主要涉及企業(yè)的利益。但這是存在問(wèn)題的，因?yàn)樾谭ㄖ辽賾?yīng)當(dāng)鞏固關(guān)于符合社會(huì)相當(dāng)性之行為的社會(huì)規(guī)范性認(rèn)識(shí)[62]。對(duì)一個(gè)舉止的可罰性而言，除了具備危險(xiǎn)性以外，違反一種被社會(huì)承認(rèn)的行為規(guī)范也是必要的[63]。這種規(guī)范必須受到普遍的承認(rèn)。因此，保護(hù)個(gè)別或特定群體利益的規(guī)范不可能進(jìn)入刑法[64]。在自動(dòng)系統(tǒng)的背景中，獨(dú)立于上述特定難題并且未被澄清的是，由于新科技的發(fā)展伴隨著未知的挑戰(zhàn)，在這種新情況中，究竟如何在整體社會(huì)中確定注意標(biāo)準(zhǔn)？這些法外標(biāo)準(zhǔn)或已提到的其他標(biāo)準(zhǔn)在何種程度上應(yīng)當(dāng)進(jìn)入刑法？

迄今為止所有的觀點(diǎn)中有這樣一個(gè)觀點(diǎn)：自動(dòng)系統(tǒng)由于具備無(wú)法估測(cè)、未知的風(fēng)險(xiǎn)而面臨全面的禁止，或者說(shuō)，參與者通常面臨過(guò)失的可罰性[65]。該可罰性可能阻礙參與者繼續(xù)進(jìn)行研究、制造、出售和使用自動(dòng)系統(tǒng)。鑒于自動(dòng)系統(tǒng)所允諾的優(yōu)點(diǎn)，上述結(jié)果無(wú)法使人信服。不僅基于以上原因，還基于可歸責(zé)性的欠缺，如上文中所說(shuō)，參與者(比如使用者)對(duì)自動(dòng)系統(tǒng)將來(lái)犯的每個(gè)錯(cuò)誤，基于不明確的法律規(guī)定以及相關(guān)實(shí)際結(jié)果，似乎基本上要完全承擔(dān)責(zé)任[66]。但對(duì)參與者而言，自動(dòng)系統(tǒng)肯定不可能導(dǎo)致全面的過(guò)失和無(wú)法容忍的風(fēng)險(xiǎn)。

只要參與人自身決定容忍某個(gè)風(fēng)險(xiǎn)，在他以外的人際圈(Personenkreis)所容忍的風(fēng)險(xiǎn)就可能被視為容許該風(fēng)險(xiǎn)的標(biāo)準(zhǔn)。但參與人以外的其他人可能被侵害，整體社會(huì)層面的風(fēng)險(xiǎn)容許標(biāo)準(zhǔn)仍須形成。只要人們普遍接受自動(dòng)系統(tǒng)的運(yùn)用，參與人以外的其他人對(duì)此也容忍特定的危險(xiǎn)，人們就不可能要求制造者和使用者確保一種不成比例的安全性[67]。對(duì)查明可容許的風(fēng)險(xiǎn)而言，一場(chǎng)透明的討論最終是有必要的。自動(dòng)系統(tǒng)的優(yōu)點(diǎn)在何處超越了其缺點(diǎn)，可容許的風(fēng)險(xiǎn)之邊界就在何處。對(duì)此包括以下因素：自動(dòng)系統(tǒng)的使用者或通過(guò)使用獲利的人、參與者對(duì)自動(dòng)系統(tǒng)的掌控、運(yùn)用所有能想到的實(shí)現(xiàn)風(fēng)險(xiǎn)最小化的方法[68]。該系統(tǒng)完全威脅到了參與人以外的其他人，容許的危險(xiǎn)在以下情形中更?。褐挥惺褂谜呋蛴幸鉀Q定冒險(xiǎn)的人與自動(dòng)系統(tǒng)相互作用[69]。

4.小結(jié)：智能學(xué)習(xí)系統(tǒng)的刑事責(zé)任

獨(dú)立于具體規(guī)范和特定運(yùn)用類型的問(wèn)題是，如何應(yīng)對(duì)以下情形：智能學(xué)習(xí)系統(tǒng)為某人預(yù)備了一個(gè)決定，但此人基于該預(yù)備的存在只有很小的裁量空間(可能基于一個(gè)很高的心理抑制閾、作出反應(yīng)的時(shí)間太短或機(jī)器的建議缺乏透明度而反對(duì)機(jī)器)。這涉及以下情形：經(jīng)常被要求進(jìn)行的“人機(jī)回圈”最終只有一種象征性的功能[70]。只要這一點(diǎn)得到適用(同時(shí)適用各種罪責(zé)理論[71])，社會(huì)無(wú)論如何都無(wú)法對(duì)個(gè)人作出期待，除非是可以期待的。對(duì)于人類與機(jī)器人和人工智能系統(tǒng)之間的合作，要在個(gè)案中詳細(xì)地審查：機(jī)器如何參與決定的作出，人類的行為空間如何發(fā)揮作用，以及根據(jù)本文贊同的罪責(zé)概念，個(gè)人的罪責(zé)是否被阻卻或至少被極大地減輕。

要記得，刑法向來(lái)針對(duì)的是對(duì)行為的處罰，該行為可能被歸責(zé)于自我負(fù)責(zé)的個(gè)人。這表明，在機(jī)器人學(xué)和人工智能領(lǐng)域，幾乎是不可能做到這一點(diǎn)的。一個(gè)具體的、可非難的(比如違反了注意標(biāo)準(zhǔn))行為通常是可被證明的，可歸責(zé)性在很多情形中都受到懷疑，行為人的罪責(zé)通常也有疑問(wèn)。完全或在部分范圍內(nèi)讓機(jī)器作出決定，會(huì)對(duì)罪責(zé)概念以及進(jìn)一步對(duì)刑事責(zé)任產(chǎn)生許多問(wèn)題——過(guò)失犯的預(yù)見可能性、客觀歸責(zé)、不當(dāng)行為的可證明性等[72]。

六、刑事責(zé)任的擴(kuò)散及其替代方案

上文中闡述的這些變化可能在刑事責(zé)任方面產(chǎn)生后果，即在數(shù)字化的世界或在智能學(xué)習(xí)系統(tǒng)的背景中，幾乎不可能判處刑罰。然而，如果個(gè)人責(zé)任在承擔(dān)上的欠缺導(dǎo)致社會(huì)產(chǎn)生不安，以及導(dǎo)致規(guī)范的適用受到懷疑，這就引發(fā)了一些問(wèn)題。因此，在刑法上進(jìn)行新的調(diào)整可能是有必要的[73]。但刑法不會(huì)由此失去太多特質(zhì)。一部完全以功能為導(dǎo)向的刑法，放棄或至少弱化了個(gè)人責(zé)任的要素，很難與德國(guó)的法律體系相協(xié)調(diào)。國(guó)家認(rèn)定個(gè)人的責(zé)任或個(gè)人相互認(rèn)定責(zé)任基本上是為了我們實(shí)現(xiàn)相互感知(Wahrnehmung)以及自我感知。這也反映在德國(guó)《基本法》第1條第1款的人性尊嚴(yán)和以此為根據(jù)的刑法原則中。同時(shí)，不應(yīng)以承擔(dān)這種責(zé)任來(lái)苛求個(gè)人，或者說(shuō)要認(rèn)真審查在個(gè)案中誰(shuí)是合理的被歸責(zé)者。此人不必然是最后作出決定并(若有可能的話)深受人工智能影響的人，更確切地講，根據(jù)不同的情況，編程者、制造者或其他參與者也可能在刑法上負(fù)責(zé)。因此，為了恢復(fù)對(duì)規(guī)范適用的社會(huì)信任，或者說(shuō)，為了保持個(gè)人責(zé)任的優(yōu)點(diǎn)——對(duì)自己舉止的責(zé)任感，可能必須尋找刑法以外的其他解決方案。可以在監(jiān)管層面尋找，若有可能的話，還可以首先在道德領(lǐng)域?qū)ふ摇?/p>

從法的視角來(lái)看，基本上可以想象的是：責(zé)任的概念在體系性或集體性的角度被構(gòu)想出來(lái)。通過(guò)集體性責(zé)任主體的形成和安全體系，不但機(jī)器或程序得以運(yùn)用的特定條件(必要條件)預(yù)先受到遵守，在責(zé)任方面還具備回溯性。但這種解決方案更好地存留在其他法域(Rechtsgebiet)中，包括在公法中預(yù)先規(guī)定針對(duì)現(xiàn)代科技發(fā)展和運(yùn)用的適當(dāng)條件，以及在民法中對(duì)(若有可能)已發(fā)生的損害進(jìn)行適當(dāng)?shù)难a(bǔ)償[74]。

然而，轉(zhuǎn)向其他法領(lǐng)域不應(yīng)是唯一的解決方案。尋找既定法律(尤其是刑法)的替代方案或?qū)ζ溥M(jìn)行變革時(shí)，以下方面有重要意義：首先要問(wèn)一下，社會(huì)有哪些規(guī)范性的需求？科技進(jìn)步所導(dǎo)致的較大的法益侵害可能撼動(dòng)社會(huì)對(duì)規(guī)范的信任——僅提到在將來(lái)進(jìn)行彌補(bǔ)或更好地調(diào)整不可能恢復(fù)這種信任。被害人方面也產(chǎn)生了類似的結(jié)果：他們受到的法益侵害可能也不會(huì)通過(guò)單純的物質(zhì)補(bǔ)償完全獲得彌補(bǔ)。就此而言，完全放棄刑法并非沒(méi)有疑問(wèn)。此外，刑罰規(guī)范、相應(yīng)的刑法判斷和一種規(guī)范性的交流方式甚至都屬于極其強(qiáng)大、令人印象深刻的方式。在此背景中，如果完全放棄刑事責(zé)任，這種方式就會(huì)缺失。尋找這樣一種規(guī)范性的交流方式作為替代，無(wú)論如何都是有必要的。在此提到其他的法領(lǐng)域還不夠，這是因?yàn)椋@些既定的社會(huì)規(guī)范和價(jià)值無(wú)法進(jìn)行類似于刑法規(guī)范和判斷那樣的交流[75]。

如果“人機(jī)回圈”[76]這種不適當(dāng)?shù)倪\(yùn)用(通常與集體機(jī)構(gòu)密切相連)沒(méi)有進(jìn)行，刑事責(zé)任如何還能存在？近幾年內(nèi)必須詳細(xì)查明這一點(diǎn)。若有可能，必須重新考慮行為和結(jié)果歸責(zé)這些概念[77]?？赡艽嬖谀承┨囟ū尘埃诖吮尘爸?，相較于特定行為，從特定情況和發(fā)展的導(dǎo)致過(guò)程中，刑事責(zé)任更容易得到判斷。刑事責(zé)任的判斷還可能根據(jù)利益、權(quán)力地位等受到調(diào)整。在此情形下，對(duì)刑事責(zé)任提出新構(gòu)想是有必要的，立法者卻沒(méi)有作為。此外，一種根據(jù)性的討論(Grundlagenbezogene Diskussion)也是有必要的：這種新構(gòu)想究竟是否可能存在，對(duì)刑法將產(chǎn)生何種后果(如果存在該后果)[78]？

七、最新的發(fā)展

(一)神經(jīng)科技與人工智能

數(shù)字化是多面的。一種可能對(duì)社會(huì)非常重要并對(duì)法律提出極大挑戰(zhàn)的發(fā)展是神經(jīng)科技[79]。科技對(duì)人類大腦的研究甚至影響開創(chuàng)了一個(gè)全新的維度。這涉及人與機(jī)器之間一種新的、特定的聯(lián)系，該聯(lián)系本身就存在疑問(wèn)[80]。通過(guò)神經(jīng)科技，獲取許多關(guān)于大腦運(yùn)行過(guò)程的詳細(xì)信息變?yōu)榭赡?，甚至可能以某種特定方式“讀懂想法”。尤其是與智能學(xué)習(xí)系統(tǒng)和大數(shù)據(jù)相關(guān)的大量重要信息得以產(chǎn)生，影響腦電波的可能性也得到提高。這種影響的發(fā)生可能是侵入性的，也可能是非侵入性的，可能影響的是感覺(jué)和舉止，甚至引起運(yùn)動(dòng)。完全可以想象的是，人類被大腦·電腦界面控制甚至擺布。這在理論上甚至可能以其他大腦為出發(fā)點(diǎn)，以至于到最后幾個(gè)大腦共同行事，以及這種聯(lián)結(jié)可能導(dǎo)致一個(gè)行為被實(shí)施[81]。

醫(yī)學(xué)影像方法在幾年前就引發(fā)或激活了一場(chǎng)重要的、關(guān)于意志自由的刑法討論[82]。利貝特(Libet)等進(jìn)行的實(shí)驗(yàn)導(dǎo)致：“意志自由”的前提和概念、人類的決定和行為在神經(jīng)科學(xué)和哲學(xué)領(lǐng)域受到不少質(zhì)問(wèn)[83]。無(wú)論這些實(shí)驗(yàn)是否可能在事實(shí)上陳述了一些關(guān)于意志自由的新東西[84]，關(guān)于在刑法上進(jìn)行判斷之條件的最新討論無(wú)疑是很有收益的。這場(chǎng)討論的內(nèi)容是，從刑法視角看，意志自由究竟在何種程度上是必要的[85]？或者說(shuō)，從刑法視角看意志自由具體意味著什么[86]？該討論使我們刑法的基本概念受到以現(xiàn)實(shí)為導(dǎo)向的確定變?yōu)榭赡堋?/p>

神經(jīng)科技的最新發(fā)展還改變了刑法的基本概念。比如，打開一個(gè)“腦起搏器”以后，可能存在的罪責(zé)能力會(huì)受到討論，打開時(shí)罪責(zé)能力(在原因自由行為的意義上)可能要前移。同時(shí)，在此情形下要思考一下，病人想要對(duì)抗某種疾病的癥狀，據(jù)此存在著良好的、可理解的理由，盡管他認(rèn)識(shí)到接下來(lái)實(shí)施的是一個(gè)(潛在的)犯罪舉止，還是打開了起搏器?；诖死碛?，并非所有的考慮(比如醉酒導(dǎo)致罪責(zé)能力減輕)都可以轉(zhuǎn)用到該情形中?？赡苡腥藸?zhēng)論道：病人并不為打開腦起搏器負(fù)責(zé)，而是為沒(méi)有同時(shí)采取有期待可能性的安全措施負(fù)責(zé)。他由于實(shí)施了不作為而可罰。這種考慮無(wú)論如何都是一個(gè)機(jī)會(huì)去重新考慮原因自由行為傳統(tǒng)的歸責(zé)結(jié)構(gòu)[87]。

然而，根據(jù)上文中正在變動(dòng)發(fā)展的一些概念，比如正犯和共犯或客觀歸責(zé)等，同樣要問(wèn)一下：究竟何時(shí)不再澄清一個(gè)特定的行為基于何人的腦電波得以實(shí)施這個(gè)疑問(wèn)？刑事責(zé)任的傳統(tǒng)結(jié)構(gòu)明顯無(wú)法再輕易受到運(yùn)用。同樣要注意，該傳統(tǒng)結(jié)構(gòu)發(fā)生過(guò)于劇烈的改變可能削弱核心刑法(kernstrafrecht)。此外，在其他的背景中，將來(lái)刑法發(fā)生必要的改變時(shí)，要在調(diào)整刑法概念與獲得重要的基本前提之間進(jìn)行衡量。

(二)阻斷結(jié)構(gòu)

數(shù)字化將對(duì)法提出很特殊的挑戰(zhàn)，其另一個(gè)特殊性在于所謂阻斷結(jié)構(gòu)(impossibility structures)的產(chǎn)生[88]。這是關(guān)于應(yīng)當(dāng)自動(dòng)阻止違法的發(fā)生之技術(shù)結(jié)構(gòu)[89]。比如，一輛汽車阻止闖紅燈，或一個(gè)上傳過(guò)濾器阻止在網(wǎng)站上上傳非法內(nèi)容。有人可能非常懷疑，這種方法是否以及何時(shí)在技術(shù)上可以實(shí)現(xiàn)？但機(jī)器也承認(rèn)容許的例外并且進(jìn)行相應(yīng)的利益衡量或比例性審查是有必要的。完全受到容許的是：在某種情形下，一般沒(méi)有汽車或其他的交通參與人在街道上，為了救助一名嚴(yán)重受傷的人而闖紅燈。但至少在理論上可以想象的是，機(jī)器進(jìn)行這種評(píng)估，以及這種技術(shù)由此保證法律得到遵守或阻止違法的發(fā)生。

這首先要討論的是，如果技術(shù)結(jié)構(gòu)失靈，但使用者相信其具備運(yùn)行能力(Funktionsf?higkeit)，誰(shuí)對(duì)此負(fù)責(zé)？與關(guān)于自動(dòng)系統(tǒng)的責(zé)任相比，這基本上不會(huì)有特殊性[90]。然而，在技術(shù)結(jié)構(gòu)(其正應(yīng)效勞于人類)的場(chǎng)合阻止違法的發(fā)生，相較于要求使用者監(jiān)督技術(shù)結(jié)構(gòu)并對(duì)技術(shù)上有缺陷的決定完全負(fù)責(zé)，后者當(dāng)然是更加不合情理的。

但要討論一種特殊性，即以下疑問(wèn)：如果至少在部分范圍內(nèi)讓機(jī)器作出遵守法律的決定，責(zé)任、規(guī)范的信任和規(guī)范的適用等一般如何發(fā)生改變？對(duì)此，當(dāng)前已有一些人質(zhì)問(wèn)：是否不必然存在著一種違法的權(quán)利，或者說(shuō)一種自由決定遵守法律的權(quán)利？該權(quán)利自身應(yīng)當(dāng)允許法律被違反，即使該論斷很奇怪，但以下論斷至少不是不可信的：如果遵守法律只是出于強(qiáng)制，而非基于獨(dú)立的決定，那么規(guī)范的適用將受到削弱[91]。

八、結(jié)論

數(shù)字化和人工智能(或?qū)W習(xí))系統(tǒng)在很大程度上作用于刑法中的罪責(zé)并改變了個(gè)人責(zé)任的基本概念。刑法必須適應(yīng)這些變化而不能依賴于教義學(xué)上的細(xì)節(jié)，亦即，要在生活領(lǐng)域質(zhì)問(wèn)個(gè)人的刑事責(zé)任這一概念并對(duì)其進(jìn)行新的調(diào)整。這涉及罪責(zé)、可歸責(zé)性、可證明性和量刑。對(duì)于這種發(fā)展不存在唯一正確的答案，而是根據(jù)問(wèn)題的具體背景存在多樣的答案。所以從特定角度來(lái)看，刑事責(zé)任的減輕只是解決問(wèn)題的第一步，因?yàn)橥ㄟ^(guò)這種方式，責(zé)任的認(rèn)定、特定危險(xiǎn)科技(或科技的運(yùn)用)的防護(hù)和彌補(bǔ)損害的社會(huì)需要都無(wú)法得到回應(yīng)。將來(lái)必須繼續(xù)尋找解決方案，以持續(xù)防止數(shù)字化和人工智能(或?qū)W習(xí))系統(tǒng)對(duì)刑事責(zé)任的擴(kuò)散。