“工具利用型”人工智能犯罪風(fēng)險(xiǎn)及治理

朱一瑋

（中國人民公安大學(xué)，北京 100032）

一、人工智能技術(shù)犯罪出現(xiàn)的背景

人工智能這一概念由約翰·麥卡錫（John McCarthy）、馬文·閔斯基（Marvin Minsky）、克勞德·香農(nóng)（Claude Shannon）、艾倫·紐厄爾（Allen Newell）、赫伯特·西蒙（Herbert Simon）等人于1956年在達(dá)特茅斯會(huì)議（Dartmouth Conference）中首次提出。經(jīng)過60多年的發(fā)展與沉淀，人工智能已經(jīng)成為一門廣泛交叉的前沿學(xué)科，人工智能技術(shù)主要包括計(jì)算機(jī)視覺、自然語言處理、圖像識別、機(jī)器學(xué)習(xí)等，具有巨大的發(fā)展價(jià)值。目前許多國家都在搶占人工智能的制高點(diǎn)，全球已經(jīng)有超過2542家人工智能企業(yè)。人類科技發(fā)展的歷史告訴我們，科技的發(fā)展是爆炸式的，其發(fā)展速度呈幾何式提升，我們必將在不久的將來進(jìn)入到人工智能N.0時(shí)代。

但是，機(jī)遇與風(fēng)險(xiǎn)總是并存，人工智能技術(shù)在快速發(fā)展的同時(shí)，帶來了貨幣的兩面效應(yīng)：一方面，技術(shù)的發(fā)展成熟減少了傳統(tǒng)事故、犯罪發(fā)生的風(fēng)險(xiǎn)，但另一方面也增加了引發(fā)新型犯罪的風(fēng)險(xiǎn)。以無人駕駛汽車為例，人工智能技術(shù)可以減少由于司機(jī)的不當(dāng)操作所引起的交通事故，但在“貨幣”的另一面，一旦人工智能自動(dòng)駕駛系統(tǒng)出現(xiàn)偏差或者被他人惡意攻擊，又會(huì)引起新類型的交通事故或者犯罪。在人工智能的深度學(xué)習(xí)技術(shù)方面，犯罪分子可以利用該技術(shù)降低犯罪的門檻，提高犯罪的效率，擴(kuò)大犯罪的影響鏈條。例如，在我國公安機(jī)關(guān)于2017年成功破獲的全國首例利用人工智能技術(shù)破解互聯(lián)網(wǎng)驗(yàn)證碼的案件中，犯罪分子利用人工智能技術(shù)打造出一條從盜號撞庫、破解驗(yàn)證碼到販賣公民信息、實(shí)施網(wǎng)絡(luò)詐騙的全鏈條黑產(chǎn)?？梢钥闯觯捎谌斯ぶ悄芨鞣N新技術(shù)的不斷落地，利用人工智能技術(shù)實(shí)施犯罪的不法行為開始展露頭面。

二、“工具利用型”人工智能犯罪概念及特點(diǎn)

（一）概念探析

在厘清“工具利用型”人工智能犯罪的概念之前，需要了解什么是人工智能犯罪。首先從技術(shù)層面出發(fā)，人工智能犯罪伴隨著技術(shù)的發(fā)展會(huì)呈現(xiàn)出不同的表現(xiàn)形態(tài)。人工智能可以劃分為弱人工智能階段、強(qiáng)人工智能階段以及超人工智能階段。目前，我們?nèi)蕴幱谌跞斯ぶ悄茈A段。在弱人工智能階段，人工智能并不會(huì)產(chǎn)生獨(dú)立的思維能力和認(rèn)知能力，意味著該階段的人工智能犯罪僅僅指利用人工智能技術(shù)實(shí)施的犯罪，而不是由人工智能的仿真行為引起的犯罪。因此，高銘暄教授在弱人工智能的范疇內(nèi)，將人工智能犯罪劃分為“工具利用型”犯罪以及“產(chǎn)品缺陷型”犯罪。他認(rèn)為“工具利用型”犯罪是指行為人利用人工智能實(shí)施其他犯罪, 進(jìn)而造成嚴(yán)重危害社會(huì)的后果。在這種情形下, 由于第三方行為人才是實(shí)施犯罪行為的主導(dǎo)者, 人工智能產(chǎn)品僅因作為犯罪工具才直接作用于被害人。因此，具體來說，“工具利用型”人工智能犯罪是指犯罪分子將人工智能技術(shù)工具化，利用人工智能技術(shù)實(shí)施相關(guān)犯罪活動(dòng)，從而達(dá)到犯罪目的，危害社會(huì)的一種新型犯罪方式。該種新類型的犯罪將傳統(tǒng)犯罪披上人工智能的外衣，把人工智能技術(shù)作為其犯罪的工具，在很大程度上增強(qiáng)了犯罪的隱蔽性、智能性、效率性。

（二）特點(diǎn)

1. 犯罪門檻降低

技術(shù)的革新會(huì)為人類社會(huì)生活帶來便利，促進(jìn)人類社會(huì)的進(jìn)步與發(fā)展，但這種便利是雙面性的。以偵查為例，偵查人員與犯罪嫌疑人處于一個(gè)相互博弈的過程，偵查手段可以通過新技術(shù)得以改進(jìn)，為偵查人員辦案提供便利。但與此同時(shí)，犯罪分子也會(huì)利用新技術(shù)更新自身的犯罪手段，降低犯罪成本，提升犯罪能力，使實(shí)施犯罪更加容易，也更難被偵查人員所防控。目前，在人工智能技術(shù)水平不斷提升的前提下，雖然出現(xiàn)了“人工智能偵查”，但是“人工智能偵查”仍然處于初步發(fā)展階段，技術(shù)應(yīng)用尚不成熟，并且許多犯罪分子已經(jīng)將人工智能技術(shù)“犯罪化”，甚至產(chǎn)生了專門利用人工智能技術(shù)提供幫助和制造技術(shù)工具的犯罪黑產(chǎn)人員，這使得初入門檻的犯罪分子可以通過僅僅購買犯罪工具就能輕而易舉地實(shí)施犯罪。例如，曾經(jīng)火爆地下市場的“Black shades”程序軟件就被形象地稱為“網(wǎng)絡(luò)犯罪分子的潘多拉魔盒”, 在“Black shades”的幫助下，使用者壓根不需要懂得任何技術(shù)，用戶只需要點(diǎn)擊幾下鼠標(biāo)便可以實(shí)現(xiàn)攻擊。這款惡意軟件不僅可以輕易地讓目標(biāo)計(jì)算機(jī)感染勒索軟件，而且還能對目標(biāo)進(jìn)行視頻和音頻監(jiān)控。“工具利用型”人工智能犯罪就是借助人工智能技術(shù)，降低了犯罪的門檻，為犯罪分子打通了犯罪的簡易通道，甚至任何一個(gè)有創(chuàng)造力的非專業(yè)犯罪分子都可以使用。

2. 犯罪效率提升

“君子生非異也，善假于物也”。人類發(fā)展史就是一部利用工具提升效率的革命歷史，工具的革新往往意味著效率的提升，這對于犯罪同樣適用。犯罪分子將人工智能技術(shù)作為工具，基于其強(qiáng)大的算法能力，即便是面對海量的數(shù)據(jù)，也可以在極短的時(shí)間內(nèi)完成普通人在很長時(shí)間內(nèi)都無法完成的數(shù)據(jù)分析工作。以“快啊答題”打碼平臺(tái)破解互聯(lián)網(wǎng)驗(yàn)證碼為例，犯罪分子通過運(yùn)用人工智能技術(shù)訓(xùn)練機(jī)器，可以使機(jī)器本身不斷自動(dòng)學(xué)習(xí)識別驗(yàn)證碼，極大提升了單位時(shí)間內(nèi)識別驗(yàn)證碼的數(shù)量。在未使用人工智能技術(shù)以前，技能最為熟練的打碼人員識別一個(gè)驗(yàn)證碼也需要一秒鐘的時(shí)間，而將人工智能運(yùn)用于打碼，平均一秒就可以實(shí)現(xiàn)兩千次識別。由此可以看出，通過利用人工智能技術(shù)，不僅省去了高昂的人力資本，降低犯罪成本，犯罪效率也得以大幅度提升，犯罪周期得到大幅度縮短，犯罪的危害性更是呈現(xiàn)出成倍遞增的趨勢?！肮び破涫卤叵壤淦鳌?，犯罪分子將人工智能技術(shù)作為犯罪的工具，搭乘科技的順風(fēng)車，做到了“事半功倍”。

3. 新型犯罪場景頻出

人工智能技術(shù)已經(jīng)廣泛應(yīng)用于語音識別、圖像識別、自然語言理解等各個(gè)方面，涉及到金融、教育、醫(yī)療、旅游、物流等各行各業(yè)?？梢哉f，人工智能正在潛移默化地影響并改變著我們的生活。但隨著人工智能技術(shù)的廣泛應(yīng)用，新的犯罪場景也正在頻頻出現(xiàn)：利用人工智能深度學(xué)習(xí)技術(shù)將涉黃視頻中色情演員的臉部和其他人進(jìn)行交換，不僅侵犯個(gè)人的名譽(yù)權(quán)，如果進(jìn)行惡意傳播還會(huì)擾亂社會(huì)管理秩序；利用人工智能技術(shù)的超級計(jì)算能力代替低效率的人工識別驗(yàn)證碼方式進(jìn)行驗(yàn)證碼破解，加速了黑色產(chǎn)業(yè)鏈猖獗泛濫的態(tài)勢。新型犯罪場景基于人工智能技術(shù)的發(fā)展而不斷涌現(xiàn)，兩者之間在一定程度上正是“成就”與“被成就”的關(guān)系，人工智能技術(shù)運(yùn)用得越廣泛，就會(huì)出現(xiàn)越多利用人工智能技術(shù)實(shí)施犯罪的新型犯罪場景。

三、“工具利用型”人工智能犯罪主要類型及風(fēng)險(xiǎn)分析

（一）色情涉黃類

對于電影制造廠商來說，“換臉術(shù)”這一名詞也許并不陌生?！栋⒎策_(dá)》《美國隊(duì)長》《速度與激情》等電影均使用了這一技術(shù)幫助完成電影的拍攝，將電影中的人物通過計(jì)算機(jī)合成看起來栩栩如生。電影中的“換臉術(shù)”對技術(shù)和設(shè)備的要求非常之高，投入的人力和資金量也是非常巨大，但是在2017年出現(xiàn)的“Deepfakes”人臉交互技術(shù)徹底顛覆了人們的認(rèn)知。2017年12月，國外網(wǎng)站“Reddit”上發(fā)布了一個(gè)涉黃視頻，該段涉黃視頻的主演是“神奇女俠”的扮演者蓋爾·加朵，視頻一經(jīng)發(fā)布，立刻引起極大轟動(dòng)。后來經(jīng)過查證，該段視頻是網(wǎng)友通過利用“Deepfakes”的人臉交互技術(shù)，將蓋爾·加朵和色情演員的臉進(jìn)行了交換。而該技術(shù)正是基于人工智能的圖像識別以及深度學(xué)習(xí)技術(shù)，使得普通人通過電腦就可以將視頻人物的臉部進(jìn)行修改，替換成為其他人的臉部。“Deepfakes”其實(shí)是“Deep machine learning”和“Fake photo”的簡寫，該技術(shù)的核心就是一個(gè)“自動(dòng)編碼器”，即一個(gè)深度神經(jīng)網(wǎng)絡(luò)，它可以通過接收數(shù)據(jù)，并對其進(jìn)行壓縮，然后在這個(gè)編碼中重新生成原始的輸入數(shù)據(jù)，并不斷進(jìn)行循環(huán)往復(fù)，模擬學(xué)習(xí)，進(jìn)而達(dá)到模仿人類學(xué)習(xí)的目的。而現(xiàn)在“Deepfakes”技術(shù)已經(jīng)在GitHub平臺(tái)上開源，人們可以在該平臺(tái)上下載該軟件，然后軟件通過人工智能強(qiáng)大的算法對上百張同一人物的表情進(jìn)行識別學(xué)習(xí)就可以將視頻中的人物進(jìn)行換臉。

除了“Deepfakes”，還存在“Face2Face”“Headon”“paGAN”等大量換臉技術(shù)?？梢钥闯?，人臉交互技術(shù)目前已經(jīng)成為一種“平民化”技術(shù)，人人都可以利用這一技術(shù)。技術(shù)在平民化的同時(shí)也帶來了風(fēng)險(xiǎn)，犯罪分子可以輕易地利用這一技術(shù)制造他人的淫穢視頻并進(jìn)行傳播，人們很難發(fā)現(xiàn)該視頻是假造視頻，這將會(huì)影響受害人的名譽(yù)權(quán)。如果犯罪分子以牟利為目的，將假造的涉黃視頻進(jìn)行大肆傳播，可能還會(huì)影響到社會(huì)公共管理秩序。除此之外，目前國外網(wǎng)絡(luò)上已經(jīng)出現(xiàn)利用人臉交互技術(shù)形成的涉及政治人物的視頻，雖然該類型視頻在國外以調(diào)侃諷刺等目的為主，但是公安、網(wǎng)信等有關(guān)部門要提高警惕，避免該類型視頻在國內(nèi)大肆傳播，引發(fā)不良輿情事件。

（二）黑色產(chǎn)業(yè)鏈類

隨著我國互聯(lián)網(wǎng)快速發(fā)展，利用網(wǎng)絡(luò)實(shí)施的犯罪持續(xù)高發(fā)，傳統(tǒng)違法犯罪活動(dòng)日益向網(wǎng)上發(fā)展蔓延，新型網(wǎng)絡(luò)犯罪發(fā)展迅猛，犯罪手法層出不窮。目前，我國涉及網(wǎng)絡(luò)的犯罪已占犯罪總數(shù)的三分之一?；诨ヂ?lián)網(wǎng)強(qiáng)大的傳播能力，網(wǎng)絡(luò)犯罪的危害性不言而喻，尤其是在侵犯公民信息的案件中較為突顯。同時(shí)，網(wǎng)絡(luò)犯罪的產(chǎn)業(yè)化、鏈條化趨勢也日益加劇，而且各個(gè)犯罪之間不再是單鏈條相互關(guān)聯(lián)，更多的是多個(gè)上游與多個(gè)下游交叉連接。對黑色產(chǎn)業(yè)鏈條進(jìn)行分析，可以總結(jié)出三條核心鏈：信息鏈、資金鏈和技術(shù)鏈。信息鏈?zhǔn)侵干嫌畏缸锶送ㄟ^非法手段獲取大量公民信息，然后為下游犯罪提供被害對象的相關(guān)信息，以便實(shí)現(xiàn)精準(zhǔn)犯罪。資金鏈?zhǔn)侵咐玫谌街Ц兜仁侄螌ｉT轉(zhuǎn)移違法資金的鏈條。技術(shù)鏈，顧名思義，則是在黑產(chǎn)犯罪中提供技術(shù)支持的鏈條。而“工具利用型”人工智能犯罪正是處于技術(shù)鏈之中，為黑色產(chǎn)業(yè)鏈的下游犯罪提供了極大幫助。

在互聯(lián)網(wǎng)黑色產(chǎn)業(yè)中，不法分子竊取互聯(lián)網(wǎng)公司數(shù)據(jù)庫之后，需要驗(yàn)證確認(rèn)賬號和密碼之間的相對應(yīng)關(guān)系，然后篩選出有價(jià)值的數(shù)據(jù)，這在黑色產(chǎn)業(yè)中被稱為“曬密”（撞庫）。而互聯(lián)網(wǎng)公司為了保護(hù)自身數(shù)據(jù)庫，防御不法分子“曬密”，建立起了驗(yàn)證碼驗(yàn)證的安全體系，即需要正確輸入網(wǎng)站顯示的驗(yàn)證碼（包括文字、數(shù)字等）才能登陸網(wǎng)站。黑產(chǎn)人員為了反對抗驗(yàn)證碼體系，“打碼”平臺(tái)應(yīng)運(yùn)而生，并與“曬密”軟件合作者合作，建立高效率的信息反饋機(jī)制。傳統(tǒng)的“打碼”平臺(tái)采用的是人力資源型工作模式，即雇傭大量“打碼”人員通過人眼識別的方式輸入驗(yàn)證碼，在這種方式下，技能最為熟練的“打碼”人員每秒鐘可以識別一個(gè)驗(yàn)證碼。而利用人工智能的“打碼”平臺(tái)將傳統(tǒng)的“打碼”平臺(tái)的效率極大提升，黑產(chǎn)人員利用人工智能技術(shù)訓(xùn)練機(jī)器，基于其強(qiáng)大的圖文轉(zhuǎn)換技術(shù)和深度學(xué)習(xí)技術(shù)，平均一秒就可以實(shí)現(xiàn)兩千次識別。2017年，公安機(jī)關(guān)破獲了我國首例甚至世界首例運(yùn)用人工智能破解驗(yàn)證碼的案件，這是一條完整的黑色產(chǎn)業(yè)鏈犯罪?！翱彀〈痤}”人工智能“打碼”平臺(tái)在此條黑色產(chǎn)業(yè)鏈中發(fā)揮著巨大作用，該平臺(tái)通過上述犯罪機(jī)制，接入“曬密”軟件100多款，接入用戶高達(dá)一萬余人，在2017年一季度內(nèi)破解驗(yàn)證碼259億次，累計(jì)破解驗(yàn)證碼1204億次。從2016年6月到2017年3月，短短8個(gè)月的時(shí)間平臺(tái)資金進(jìn)賬高達(dá)1650萬元。黑色產(chǎn)業(yè)以趨利性為典型特征，高額的回報(bào)更加刺激了黑色產(chǎn)業(yè)的動(dòng)力。在該案中，共有43個(gè)犯罪團(tuán)伙被摧毀，90余人涉案被采取強(qiáng)制措施，查獲公民個(gè)人信息高達(dá)10億余條。利用人工智能實(shí)施犯罪的“打碼”平臺(tái)危害之深可見一斑。

人工智能“打碼”平臺(tái)與大量黑色產(chǎn)業(yè)勾連，成為數(shù)據(jù)清洗商重要的幫助工具，嚴(yán)重侵害公民的個(gè)人信息安全，其下游犯罪還會(huì)侵犯到公民的個(gè)人財(cái)產(chǎn)等其他權(quán)益。除此之外，“打碼”平臺(tái)還可應(yīng)用于刷單炒信、“薅羊毛”、“黃牛”搶號、網(wǎng)站“水軍”等需要大批量賬號登陸的違法犯罪行為。而黑色產(chǎn)業(yè)鏈中的違法犯罪行為在借用人工智能技術(shù)之后，危害性必將爆炸式倍增，呈現(xiàn)出影響擴(kuò)大化、后果嚴(yán)重化的趨勢。因此，利用人工智能的黑色產(chǎn)業(yè)鏈違法犯罪行為，其背后的犯罪風(fēng)險(xiǎn)不容忽視。

（三）電信詐騙類

在該類型犯罪中，具體可以分成兩類，一類是是黑色產(chǎn)業(yè)鏈類的下游犯罪，其預(yù)備行為是人工智能犯罪。例如，在我國首例人工智能打碼的黑色產(chǎn)業(yè)鏈犯罪中，就存在被害人因好友QQ賬號密碼被人工智能打碼平臺(tái)非法獲取后轉(zhuǎn)賣給詐騙集團(tuán)而被詐騙，進(jìn)而造成財(cái)產(chǎn)損失的情況。

第二類是在實(shí)施電信詐騙的行為過程中利用人工智能技術(shù)偽造、模擬仿真聲音。在央視播出的一檔節(jié)目中，一個(gè)智能機(jī)器人經(jīng)過訓(xùn)練就可以模仿特定人的聲音與情緒并與人交流，該智能機(jī)器人正是利用了人工智能技術(shù)中的自然語言理解技術(shù)和自動(dòng)語音識別技術(shù)。只要取得特定人一定數(shù)量的語音樣本，并進(jìn)行模擬學(xué)習(xí)，就可以發(fā)出特定人的聲音，以假亂真，極大縮小了自然語言與人類語言的差距。該項(xiàng)技術(shù)可以應(yīng)用于模擬親人的聲音去陪伴老人或者孩子，甚至可以讓“啞巴”重新說話。但是其背后隱藏著巨大犯罪風(fēng)險(xiǎn)，電信詐騙的犯罪分子如果利用該項(xiàng)技術(shù)，偽裝成被害人親友的身份進(jìn)行詐騙，將在很大程度上提升詐騙的成功率。除此之外，現(xiàn)在的人工智能技術(shù)還可輕松地完成對人臉的復(fù)制，這意味著該項(xiàng)技術(shù)一旦被犯罪分子濫用，身份識別就會(huì)成為一個(gè)大問題。目前，國外已經(jīng)公開報(bào)道全球第一起人工智能電信詐騙案，犯罪分子通過人工智能技術(shù)偽造公司高管聲音與下屬打電話，并要求其將公司賬戶的錢款轉(zhuǎn)移至特定賬戶，導(dǎo)致公司損失22萬歐元。雖然我國目前還沒有出現(xiàn)將人工智能技術(shù)用于偽裝身份進(jìn)行電信詐騙的案件，但我們并不能忽視人工智能技術(shù)在這一方面的風(fēng)險(xiǎn)。必須意識到，當(dāng)一兩件人工智能犯罪事件浮出水面，就意味著其背后也許成千上萬的人已經(jīng)遭遇了同類詐騙。

四、“工具利用型”人工智能犯罪治理

“工具利用型”人工智能犯罪可以拆解為人工智能+犯罪，在弱人工智能時(shí)代，人工智能技術(shù)本身并不存在犯罪與否。因此，針對該類型犯罪，治理的重點(diǎn)并不在于人工智能技術(shù)，而是在于消除人工智能與犯罪之間的“+”，所以，要從“使用”和“管理”的博弈角度出發(fā)，將重點(diǎn)放置于“管理”上。一方面，繼續(xù)鼓勵(lì)發(fā)展和運(yùn)用人工智能，不能因?yàn)槌霈F(xiàn)利用人工智能實(shí)施犯罪的行為就單方面扼殺人工智能，這是明顯不可取的。另一方面，要著重注意對人工智能技術(shù)的合理監(jiān)管，保持好天平的平衡，最大程度控制由人工智能帶來的犯罪風(fēng)險(xiǎn)。簡而言之，人工智能在作為社會(huì)治理的一項(xiàng)技術(shù)的同時(shí)，仍要將其視為社會(huì)治理的對象。對于如何做好“管理”，筆者認(rèn)為可以從以下三個(gè)方面努力。

（一）政企互動(dòng)，共創(chuàng)安全

為了預(yù)防人工智能不恰當(dāng)?shù)膽?yīng)用引發(fā)新類型犯罪或者社會(huì)問題，應(yīng)為人工智能的研發(fā)和應(yīng)用設(shè)置邊界。首先，在國家大力提倡發(fā)展人工智能的前提下，政府和人工智能技術(shù)企業(yè)要加強(qiáng)合作，政府為技術(shù)發(fā)展提供便利，企業(yè)則要做到合法合規(guī)發(fā)展，合法合規(guī)運(yùn)用，做到核心技術(shù)不外泄，避免被別有用心分子加以利用實(shí)施犯罪；其次，政府要為人工智能的發(fā)展明確標(biāo)準(zhǔn)，配套相應(yīng)制度。除此之外，可以采用政府主導(dǎo)形式，倡議各企業(yè)聯(lián)合建立“偽造數(shù)據(jù)庫”來檢測這些“深度偽造”的產(chǎn)品。新形勢下，有必要明確人工智能技術(shù)發(fā)展的標(biāo)準(zhǔn)，為人工智能的發(fā)展配套相應(yīng)制度，建立人工智能安全監(jiān)管和評估體系，明確“可為”與“不可為”，避免人工智能“工具化”的泛濫使用。

（二）行業(yè)自律，保障發(fā)展

行業(yè)自律主要有兩個(gè)角度，一是行業(yè)對國家法律法規(guī)的貫徹與遵守，二是對行業(yè)內(nèi)部規(guī)制本行業(yè)行為的行規(guī)行約的遵守。從依靠行業(yè)自律引導(dǎo)行業(yè)發(fā)展的角度出發(fā)，就要促進(jìn)人工智能行業(yè)自律，目前而言，一是在人工智能法律層面的監(jiān)管措施需要盡快出臺(tái)，加強(qiáng)對人工智能犯罪的法律解釋工作。由于目前人工智能并未發(fā)展至強(qiáng)人工智能，所以現(xiàn)行法律體系框架對當(dāng)前“工具利用型”人工智能犯罪仍具有約束力。但是針對該種新型犯罪，現(xiàn)有的法律條文在具體運(yùn)用之時(shí)存在一定困難，主要是具體罪名的運(yùn)用，幫助犯的界定，主體責(zé)任歸屬等存在爭議，因此，有必要加強(qiáng)對有關(guān)人工智能犯罪的罪名的法律解釋工作，幫助公檢法機(jī)關(guān)更好地使用法律武器，加大對違反法律法規(guī)的企業(yè)的懲罰力度，加強(qiáng)法律威懾力，保證人工智能行業(yè)對法律法規(guī)的敬畏。二是要保障人工智能行業(yè)內(nèi)部自身行規(guī)行約的有效約束力。鼓勵(lì)人工智能行業(yè)組建人工智能發(fā)展協(xié)會(huì)，廣泛吸納人工智能企業(yè)入會(huì)，采取會(huì)員制度，對入會(huì)會(huì)員提供相應(yīng)的政策優(yōu)惠，并制定行業(yè)發(fā)展自律條例，要求入會(huì)企業(yè)共同遵守，并將違反行規(guī)行約的企業(yè)納入行業(yè)黑名單，采取相應(yīng)的懲罰措施。同時(shí)，還應(yīng)鼓勵(lì)企業(yè)內(nèi)部制定企業(yè)發(fā)展自律規(guī)定，并要求切實(shí)遵守。發(fā)揮行業(yè)自律在人工智能技術(shù)發(fā)展中的積極作用，對人工智能行業(yè)的正確發(fā)展具有重大意義。規(guī)范行業(yè)自律，保障行業(yè)發(fā)展，當(dāng)行業(yè)自律成為常態(tài)之時(shí)，人工智能犯罪治理就會(huì)更加輕而易舉。

（三）以“技”治“技”，治理犯罪

以“技”治“技”，就是通過人工智能技術(shù)治理人工智能犯罪。一是加強(qiáng)人工智能安全技術(shù)研發(fā)。首先從技術(shù)者的思維出發(fā)，思考研發(fā)出的技術(shù)產(chǎn)品可以運(yùn)用于哪些方面，而一旦將其運(yùn)用于此，又會(huì)帶來怎樣的風(fēng)險(xiǎn)，即從源頭思考犯罪，識別風(fēng)險(xiǎn)。以自然語言處理技術(shù)為例，技術(shù)者在研發(fā)之初是將其應(yīng)用于語音識別、智能交流等方面。但與此同時(shí)，我們應(yīng)該思考該技術(shù)是否會(huì)帶來偽裝他人聲音進(jìn)行詐騙的犯罪風(fēng)險(xiǎn)。其次，在識別風(fēng)險(xiǎn)的基礎(chǔ)之上，應(yīng)強(qiáng)化人工智能產(chǎn)品和系統(tǒng)網(wǎng)絡(luò)安全防護(hù)，政府相關(guān)部門要加大對人工智能安全管控的各項(xiàng)投入, 建立防范高科技犯罪實(shí)驗(yàn)室, 深入研究、預(yù)防此類新型犯罪，并圍繞人工智能技術(shù)產(chǎn)品潛在的不確定性和危害性，制定救濟(jì)措施，研發(fā)相應(yīng)的安全反制技術(shù)，最大程度降低“工具利用型”人工智能犯罪所帶來的犯罪風(fēng)險(xiǎn)。

二是確保人工智能安全技術(shù)應(yīng)用落地。即利用技術(shù)者的技術(shù)，主要以偵查機(jī)關(guān)為主體，以人工智能安全技術(shù)作為強(qiáng)力保障。在犯罪分子的犯罪技術(shù)不斷革新的形勢下，偵查機(jī)關(guān)治理犯罪的技術(shù)也要“順應(yīng)潮流”?！肮ぞ呃眯汀比斯ぶ悄芊缸锸菍⑷斯ぶ悄茏鳛榉缸锛夹g(shù)，而偵查機(jī)關(guān)可以將人工智能作為偵查技術(shù)以此來治理人工智能犯罪。人工智能走進(jìn)偵查已經(jīng)是必然趨勢，作為第五代偵查技術(shù)，“人工智能偵查”雖仍處于初步發(fā)展階段，但以“技”治“技”的偵查技術(shù)所帶來的效益是不可忽視的。人工智能偵查不僅可以創(chuàng)新偵查模式，而且可以豐富偵查技戰(zhàn)法，并進(jìn)一步提高偵查效率、降低偵查成本。以人工智能技術(shù)換臉為例，技術(shù)者可以研發(fā)出人工智能識別系統(tǒng)，通過人工智能技術(shù)識別一般檢測工具根本無法識別的偽造視頻。美國國防部已經(jīng)研發(fā)出“反AI變臉刑偵檢測工具”，該工具專用于檢測換臉造假技術(shù)，其工作原理是通過AI分析假視頻一般不會(huì)表現(xiàn)出眨眼、呼吸和眼球運(yùn)動(dòng)等特征，檢測出圖像或視頻中的臉是真實(shí)的還是AI生成的?？梢钥闯?，技術(shù)本身不分“善意”還是“惡意”。針對“工具利用型”人工智能犯罪，要充分運(yùn)用人工智能技術(shù)，加強(qiáng)與人工智能企業(yè)等科技企業(yè)的合作，擴(kuò)大“人工智能偵查”所能應(yīng)用的場景。

利用技術(shù)者的技術(shù)，應(yīng)加強(qiáng)人工智能安全技術(shù)的研發(fā)，并由偵查機(jī)關(guān)作為實(shí)施主體，將人工智能技術(shù)作為治理犯罪的有力工具，轉(zhuǎn)被動(dòng)防御為主動(dòng)防御，不斷增強(qiáng)技術(shù)防控識別和治理能力，做到“魔高一尺，道高一丈”。

五、結(jié)語

如今，我們已經(jīng)處于一個(gè)即將迎來人工智能時(shí)代的節(jié)點(diǎn)時(shí)期，在這個(gè)時(shí)期，人工智能技術(shù)帶來了大量的不確定性。人工智能猶如一把槍，用在好人手里可以懲奸除惡，用在壞人手里則是為虎作倀。因此，有必要針對人工智能技術(shù)本身的應(yīng)用場景，對其犯罪的背后風(fēng)險(xiǎn)進(jìn)行分析判斷，提前打好“預(yù)防針”，并且采取相關(guān)措施，平穩(wěn)化解人工智能犯罪背后隱藏的風(fēng)險(xiǎn)，維護(hù)社會(huì)穩(wěn)定。