人工智能時(shí)代的刑事風(fēng)險(xiǎn)分析與刑法應(yīng)對研討

關(guān)鍵詞 人工智能時(shí)代 刑事風(fēng)險(xiǎn) 刑法 應(yīng)對策略

作者簡介：毛存舟，廣東指針律師事務(wù)所，執(zhí)業(yè)律師，研究方向：民事、刑事審判理論及實(shí)務(wù)。

中圖分類號：D924? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識(shí)碼：A? ? ?? ? ? ? ? ? ? ? DOI：10.19387/j.cnki.1009-0592.2020.09.008

在互聯(lián)網(wǎng)技術(shù)、云計(jì)算技術(shù)和大數(shù)據(jù)等技術(shù)的支持下，人工智能迅猛發(fā)展，改變了社會(huì)的發(fā)展與人類生活。《新一代人工智能發(fā)展規(guī)劃》指出把發(fā)展人工智能當(dāng)作我國的戰(zhàn)略方針，加快建設(shè)創(chuàng)新型國家。建立并健全人工智能刑法是刑法發(fā)展的基礎(chǔ)與制度保障。

一、人工智能時(shí)代

人工智能的概念最早出現(xiàn)在上個(gè)世紀(jì)五十年代，但因?yàn)楫?dāng)時(shí)云計(jì)算技術(shù)、大數(shù)據(jù)技術(shù)和互聯(lián)網(wǎng)技術(shù)不夠成熟，在很長一段時(shí)間里，人工智能的研究都處在停滯的狀態(tài)，未能考慮到人工智能的自我意識(shí)和自我學(xué)習(xí)。韓國首爾在2016年舉辦了人機(jī)圍棋大賽，谷歌公司研發(fā)的AlphaGo用4：1的優(yōu)勢戰(zhàn)勝了李世石（世界圍棋第一人），這讓世界的目光再次集聚在人工智能身上，人工智能技術(shù)得到了飛速的發(fā)展，成為各國競爭的焦點(diǎn)。

新時(shí)代的到來必然會(huì)出現(xiàn)許多超出法律范圍和法律理念的問題，在人工智能時(shí)代下，要求我們需要站在法律的層面上規(guī)制需要解決與完善的問題?，F(xiàn)階段，已經(jīng)有學(xué)者圍繞著民事領(lǐng)域和知識(shí)產(chǎn)權(quán)展開了研究，而關(guān)于刑事風(fēng)險(xiǎn)和責(zé)任方面的研究非常少。為此，筆者圍繞著人工智能時(shí)代可能會(huì)出現(xiàn)的刑事風(fēng)險(xiǎn)及風(fēng)險(xiǎn)的應(yīng)對方法展開了研究。

二、人工智能產(chǎn)品的分類

從本質(zhì)上看，人工智能產(chǎn)品指的是以算法為基礎(chǔ)，進(jìn)而展開獨(dú)立的思考并獲取問題解決的能力，按照內(nèi)部算法不同復(fù)雜程度，能夠?qū)⑷斯ぶ悄墚a(chǎn)品劃分成兩大類，一類是強(qiáng)人工智能產(chǎn)品，另一類是弱人工智能產(chǎn)品。然而算法是技術(shù)領(lǐng)域的內(nèi)筒，在法律中如果依據(jù)內(nèi)部運(yùn)作的原理展開分類是比較困難的，操作性不高，所以，法律上通常用人工智能產(chǎn)品是否具備控制能力和辨證能力劃分產(chǎn)品類型?，F(xiàn)階段，從整體上看，人工智能的發(fā)展正處于弱人工智能時(shí)代，雖然此階段的人工智能產(chǎn)品具有自我意識(shí)，可以獨(dú)立的思考并處理問題，然而這些都受限于研發(fā)者編制的程序當(dāng)中，換句話說，人工智能產(chǎn)品的意識(shí)、判斷和決策本質(zhì)上是研發(fā)者的意識(shí)。比方說AlphaGo戰(zhàn)勝了圍棋大師李世石九段，雖然是人工智能執(zhí)行判斷和決策得到的結(jié)果，然而這些都得益于設(shè)計(jì)者的編制程序，展現(xiàn)的是設(shè)計(jì)者或者是使用者的意志，簡單地說，如果安排AlphaGo去駕駛汽車，任務(wù)的執(zhí)行會(huì)比較困難[1]。

強(qiáng)人工智能產(chǎn)品指的是具備控制能力和辨認(rèn)能力，能夠突破設(shè)計(jì)人員的編制程序，可以真正意義上實(shí)現(xiàn)自我意識(shí)、自我判斷和自我決策的人工智能產(chǎn)品。這個(gè)概念最早是約翰羅杰斯提出的，他指出計(jì)算機(jī)不單單是一種研究人的思維的工具，如果合理地應(yīng)用程序，能夠令計(jì)算機(jī)具有自身的思維?，F(xiàn)如今，人們正在從弱人工智能時(shí)代向著強(qiáng)人工時(shí)代挺進(jìn)。

三、人工智能時(shí)代的刑事風(fēng)險(xiǎn)特點(diǎn)分析

（一）提升傳統(tǒng)犯罪的風(fēng)險(xiǎn)性

我們應(yīng)當(dāng)清楚地意識(shí)到，伴隨人工智能的飛速發(fā)展，該技術(shù)在不同的行業(yè)和領(lǐng)域當(dāng)中都得到了廣泛的應(yīng)用，所以，如果不法分子利用人工智能犯罪，必然會(huì)提升犯罪行為的危害性。近幾年，我國的社會(huì)經(jīng)濟(jì)與科學(xué)技術(shù)得到快速發(fā)展，在以后的很長一段時(shí)間內(nèi)，人工智能可以負(fù)責(zé)人類生活中絕大多數(shù)的工作，人們對人工智能技術(shù)的依賴性會(huì)越來越高，如果此種依賴性過于高，使用人工智能技術(shù)進(jìn)行的犯罪活動(dòng)便會(huì)帶來巨大的危害，甚至還會(huì)引起顛覆性或毀滅性的災(zāi)害。如果不采取法律的形式及時(shí)遏制，將會(huì)影響到社會(huì)的平穩(wěn)發(fā)展，為社會(huì)發(fā)展留下嚴(yán)重的安全隱患。伴隨人工智能技術(shù)的持續(xù)發(fā)展，人工智能犯罪的危害性隨之升高，舉例來說，不法分子利用人工智能技術(shù)能夠非法盜取大量的私密信息，如此一來便會(huì)影響市場的良性競爭，長期發(fā)展下去，會(huì)在一定程度上阻礙我國的經(jīng)濟(jì)發(fā)展[2]。

（二）出現(xiàn)新型的犯罪形式

與過去的犯罪模式不同，借助人工智能展開的犯罪活動(dòng)能夠獲取大量的數(shù)據(jù)信息，因?yàn)槿斯ぶ悄苁腔诔绦蚓幋a發(fā)展而來的，因此，它能夠在較短的時(shí)間里掌握特別多的信息，如果能夠科學(xué)、合理地應(yīng)用這些數(shù)據(jù)，將會(huì)推動(dòng)人類精神文明與社會(huì)發(fā)展的不斷進(jìn)步。相反地，如果濫用、誤用人工智能技術(shù)，很有可能讓不法分子鉆空子，獲取操縱人工智能技術(shù)的能力，出現(xiàn)一種利用人工智能犯罪的全新犯罪模式，一方面會(huì)違背人工智能產(chǎn)品研發(fā)的初衷，另一方面還會(huì)阻礙企業(yè)乃至整個(gè)社會(huì)的進(jìn)步和發(fā)展，沖擊市場的穩(wěn)定性。針對這一問題，我們需要想辦法保證人工智能信息免被不法分子獲取[3]。

（三）脫離了人類的控制

在使用人工智能技術(shù)期間，我們應(yīng)當(dāng)清楚地意識(shí)到，人工智能產(chǎn)品本身是布局別控制能力和辨別能力的，簡單地說，很難識(shí)別人工智能產(chǎn)品操作者研制的程序是否符合社會(huì)道德標(biāo)準(zhǔn)，符合相關(guān)法律的規(guī)范。換句話說，如果操作者在使用人工智能技術(shù)研發(fā)機(jī)器人進(jìn)行工作時(shí)，若采取違法操作，智能機(jī)器人是無法發(fā)現(xiàn)并拒絕該指令的。這個(gè)情況為犯罪分子留下了許多可乘之機(jī)，容易出現(xiàn)大量的影響社會(huì)穩(wěn)定的因素。伴隨我國科學(xué)技術(shù)與信息技術(shù)的飛速發(fā)展，人工智能技術(shù)探尋到了能夠讓智能機(jī)器人展開自主學(xué)習(xí)的能力，此種能力原本是賦予智能機(jī)器人的抑制，當(dāng)此種能力過多時(shí)，智能機(jī)器人在執(zhí)行命令時(shí)可能會(huì)違背人們的意愿，甚至?xí)龀鑫：θ祟惖男袨?，?dāng)此種行為難以控制時(shí)，將會(huì)嚴(yán)重沖擊社會(huì)的發(fā)展，甚至?xí)缯麄€(gè)社會(huì)。上述問題都是人工智能技術(shù)實(shí)際應(yīng)用期間容易發(fā)生的刑事風(fēng)險(xiǎn)，必須要對這些刑事風(fēng)險(xiǎn)展開全面的分析，借助有關(guān)的法律合理處理這些風(fēng)險(xiǎn)，消除潛在的風(fēng)險(xiǎn)，確保人類合理地應(yīng)用人工智能技術(shù)，推動(dòng)社會(huì)的進(jìn)步與發(fā)展，以免犯罪分子使用人工智能擾亂良好的社會(huì)秩序[4]。

四、人工智能時(shí)代的刑事風(fēng)險(xiǎn)的刑法應(yīng)對

（一）增設(shè)濫用人工智能罪

在過去，很少有人會(huì)意識(shí)到人工智能能夠展開形式犯罪，按照現(xiàn)階段的發(fā)展情況來說，如果人工智能的開發(fā)者或使用者借助人工智能展開刑事犯罪，一方面會(huì)嚴(yán)重危害到人們?nèi)粘５墓ぷ髋c生活，另一方面可能無法在短時(shí)間內(nèi)得到妥善地解決。所以，需要對這個(gè)問題展開研究。怎樣消除人工智能背景下的刑事風(fēng)險(xiǎn)并實(shí)現(xiàn)刑法應(yīng)對，如今已經(jīng)得到越來越多的人的關(guān)注，是影響我國構(gòu)建法治社會(huì)的主要影響因素之一。在過去的刑法當(dāng)中，缺乏濫用人工智能的罪責(zé)，主要是過去人工智能的發(fā)展程度低，隨著人工智能水平的不斷提升，有必要在刑法當(dāng)中增設(shè)一條濫用人工智能罪，避免其他人使用人工智能非法犯罪[5]。

在現(xiàn)階段的社會(huì)發(fā)展當(dāng)中，如果有人惡意應(yīng)用人工智能犯罪，將會(huì)嚴(yán)重危害我們國家的安全性和穩(wěn)定性，影響我國的快速、平穩(wěn)發(fā)展。人工智能的研發(fā)是為了給人們的工作和生活提供便利，如果將人工智能用于犯罪，就相當(dāng)于埋下了一顆定時(shí)炸彈，若處理的方法不正確，隨時(shí)有可能引爆炸彈，一方面會(huì)危害到社會(huì)活動(dòng)，另一方面還會(huì)為國家的發(fā)展造成消極的影響。為確保我國社會(huì)的平穩(wěn)發(fā)展，有必要借助法律來規(guī)避人工智能有可能導(dǎo)致的犯罪，在法律的安全范圍內(nèi)科學(xué)地應(yīng)用人工智能技術(shù)。通過設(shè)立相關(guān)的法律，能夠有效震懾犯罪分子，確保合規(guī)、合法地應(yīng)用人工智能技術(shù)，在促進(jìn)社會(huì)良好發(fā)展的同時(shí)阻止人工智能危害人們的生活[6]。

與其他的法律相比，刑法的威懾力更強(qiáng)，可以發(fā)揮出最大的警示作用。在使用刑法時(shí)，若刑法剝奪了違法犯罪人員的權(quán)利，此種剝奪是不可逆的，可以進(jìn)一步提升刑法的威懾力，讓不法分子不敢使用人工智能施行犯罪活動(dòng)。通過在刑法中增設(shè)濫用人工智能罪，能夠有效地抑制人工智能為社會(huì)帶來的不良影響。

和以往的犯罪形式相比，人工智能引起的犯罪破壞性更高，會(huì)阻滯社會(huì)的發(fā)展，威脅人類的財(cái)產(chǎn)安全乃至生命安全。因此，我們需要借助刑法的力量規(guī)范這個(gè)行為，確保在應(yīng)用人工智能期間不會(huì)為人們的日常生活帶來消極的影響，我們需要根據(jù)社會(huì)發(fā)展以及市場的需要合理地處理問題，令人工智能推動(dòng)社會(huì)的和諧與穩(wěn)定發(fā)展[7]。

（二）增設(shè)人工智能事故罪

在使用人工智能技術(shù)時(shí)，需要明確人工智能技術(shù)存在一定的特護(hù)思想觀念，所以，需要最大限度地確保人工智能研發(fā)人員和使用人員的權(quán)利與義務(wù)，真正意義上的控制研發(fā)和使用中的安全性，利用法律規(guī)避使用過程中人工智能的危害，需要注意以下幾個(gè)方面：

首先，明確開發(fā)人工智能產(chǎn)品工作者的義務(wù)，要求全部的研發(fā)人員在研制有關(guān)產(chǎn)品期間，必須把全部的研發(fā)步驟和人類社會(huì)的道德體系以及價(jià)值體系結(jié)合在一起，最關(guān)鍵的是要符合相關(guān)法律法規(guī)的標(biāo)準(zhǔn)，避免在產(chǎn)品研發(fā)時(shí)將其變?yōu)橐鹕鐣?huì)危害的產(chǎn)品[8]。

其次，在經(jīng)過產(chǎn)片研發(fā)轉(zhuǎn)入測試階段之后，需要保證人工智能產(chǎn)品符合法律標(biāo)準(zhǔn)和社會(huì)道德要求，如果在測試過程中發(fā)現(xiàn)問題，需要立刻停止使用該產(chǎn)品。

最后，在開發(fā)人工智能產(chǎn)品的環(huán)節(jié)里，需要提供嚴(yán)格的保障，確保數(shù)據(jù)設(shè)備的安全性，避免人工智能技術(shù)在應(yīng)用環(huán)節(jié)中出現(xiàn)數(shù)據(jù)錯(cuò)誤，為社會(huì)帶來嚴(yán)重的消極影響。

五、結(jié)語

綜上所述，隨著科學(xué)技術(shù)的不斷發(fā)展，我們已經(jīng)進(jìn)入了人工智能時(shí)代，人工智能廣泛地應(yīng)用在人們的生活與工作當(dāng)中，發(fā)揮著非常重要的作用。但是，人工智能還會(huì)引發(fā)一定的刑事風(fēng)險(xiǎn)，如果不采取法律的形式及時(shí)遏制，將會(huì)影響到社會(huì)的平穩(wěn)發(fā)展，為此，可以通過完善刑法的方法，消除人工智能背景下的刑事風(fēng)險(xiǎn)，推動(dòng)社會(huì)的平穩(wěn)發(fā)展。

參考文獻(xiàn)：

[1] 王先春.人工智能時(shí)代下刑事風(fēng)險(xiǎn)與刑法應(yīng)對的“是”與“非”[J].法制博覽，2020（6）：81-82.

[2] 陳文，姜督.人工智能的刑事風(fēng)險(xiǎn)及刑法應(yīng)對[J].南京社會(huì)科學(xué)，2020（1）：99-105.

[3] 張金鋼.人工智能時(shí)代的刑事風(fēng)險(xiǎn)——以智能機(jī)器人為切入點(diǎn)[J].重慶理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)），2019，33（8）：87-94.

[4] 王鐘儀.人工智能時(shí)代面臨的刑事風(fēng)險(xiǎn)及其應(yīng)對[J].法制與社會(huì)，2019（19）：6-8+16.

[5] 孟昱含.人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對研究[J].時(shí)代報(bào)告，2019（6）：110-111.

[6] 劉憲權(quán)，房慧穎.涉人工智能犯罪的類型及刑法應(yīng)對策略[C]//《上海法學(xué)研究》集刊（2019年第3卷 總第3卷）.上海市法學(xué)會(huì)，2019：18.

[7] 熊波.人工智能刑事風(fēng)險(xiǎn)的樣態(tài)評價(jià)與規(guī)制理念[J].探索與爭鳴，2019（5）：134-142+176.

[8] 趙文龍.人工智能時(shí)代無人駕駛汽車刑事風(fēng)險(xiǎn)的刑法應(yīng)對[J].四川職業(yè)技術(shù)學(xué)院學(xué)報(bào)，2019，29（2）：14-19.