論人工智能技術(shù)的立法規(guī)制

摘 要 人工智能在發(fā)展到一定程度時有脫離人類控制的風(fēng)險。在給社會生活帶來改變的同時，人工智能也給社會治安帶來了新的挑戰(zhàn)。本文認為在人工智能時代真正來臨之前，應(yīng)當先行規(guī)制人工智能產(chǎn)業(yè)，并根據(jù)不同的人工智能技術(shù)，對技術(shù)研發(fā)者以及技術(shù)運用者提出不同的要求和義務(wù)，并以此為基點擬制《人工智能法》，防范人工智能給社會治安等方面可能帶來的風(fēng)險。

關(guān)鍵詞 人工智能 社會治安 防范 立法

作者簡介：余越洋，華東政法大學(xué)刑事司法學(xué)院。

中圖分類號：D920.4 文獻標識碼：A DOI：10.19387/j.cnki.1009-0592.2018.04.213

人工智能，即設(shè)備能夠識別所處環(huán)境，采取行動將實現(xiàn)目的的機會最大化的技術(shù)。簡而言之，人工智能就是使得計算機像人一樣思考與工作的科學(xué)技術(shù)。21世紀以來，世界掀起了人工智能研究與應(yīng)用的浪潮，智能機器人已經(jīng)能夠通過自主學(xué)習(xí)、分析部分接收到的信息，進一步完成設(shè)計者交與的任務(wù)，如智能語音識別，設(shè)備在接收過音頻信息后，再次接收音頻信息便可以進行識別，以分辨聲音的歸屬，類似的運用還有電子郵件過濾系統(tǒng)、人臉識別系統(tǒng)等。

現(xiàn)如今，人工智能技術(shù)在某些領(lǐng)域上的表現(xiàn)已經(jīng)超過人類，如1997年IBM的超級電腦“深藍”擊敗國際象棋世界冠軍卡斯帕羅夫，2015年發(fā)展成熟的人工智能圖形識別、語言識別技術(shù)更是遠遠超過人類自身的能力，2016年谷歌公司的Alphago擊敗圍棋世界冠軍李世石，更是將人工智能技術(shù)推向了一個新的高潮。人工智能取得巨大成就的同時，我們也應(yīng)當意識到人工智能改變社會、影響社會的巨大潛力，人類無法對其行為進行準確的預(yù)判與控制，這無疑給我們的社會生活增添了許多不確定的因素，在某種程度上加重了社會安全風(fēng)險，這對于未來的社會治安管理而言將會是一場革命性的考驗。筆者分析人工智能技術(shù)對于社會治安的風(fēng)險以及安全管理的困難所在，并以此分析明確《人工智能法》應(yīng)當立足的關(guān)鍵問題，希望以確立《人工智能法》的形式，預(yù)先規(guī)范未來人工智能技術(shù)的發(fā)展，使人工智能技術(shù)給未來社會帶來的風(fēng)險降至最低。

一、人工智能給社會治安帶來的挑戰(zhàn)

（一）人工智能易成為違法犯罪行為高發(fā)的新土壤

人工智能技術(shù)發(fā)展的初衷是代替人類進行生產(chǎn)作業(yè)活動，提高生產(chǎn)作業(yè)的效率。因此人工智能技術(shù)本身也具有高效性的特點，機器能夠不知倦怠地自主完成一系列工作任務(wù)。人工智能技術(shù)在未來社會普及之后，違法犯罪人員很有可能利用人工智能來提高違法犯罪的效率，降低犯罪成本，如利用人工智能進行電信詐騙，僅僅一個犯罪人員使用人工智能機器便可以進行詐騙行為，機器可以通過受害人的通話內(nèi)容，自主與受害人進行交流，進而達到非法占有財物的目的。并且由于人工智能能夠持續(xù)不間斷進行智能化工作，利用人工智能進行的違法犯罪將具有更為龐大的影響范圍，大大增加了公民與公共權(quán)益受到侵犯的可能性。因此，人工智能技術(shù)在未來很有可能會成為違法犯罪實施、發(fā)展的新土壤，人工智能時代的社會治安管理形勢將十分嚴峻。

（二）對利用人工智能違法犯罪行為的預(yù)防存在困難

人工智能技術(shù)本身具有智能性特點，機器能夠根據(jù)周遭環(huán)境以及接收到的信息進行邏輯推理，自主進行“行為”選擇，這就使人類對人工智能作出的行為無法進行準確預(yù)判，目前我國對人工智能行業(yè)暫無風(fēng)險評估分級機制，無法準確評價各類別人工智能技術(shù)可能出現(xiàn)的風(fēng)險，使得公安、質(zhì)量監(jiān)督等部門對人工智能的安全性管控存在困難，難以比照特種行業(yè)管理進行有針對性的管理行為。因此，對人工智能違法犯罪行為的預(yù)防存在一定困難。

（三）對人工智能產(chǎn)品侵害行為的追責(zé)存在責(zé)任主體認定的困難

人工智能技術(shù)具有智能性，它能夠自己進行分析與推理，因此人工智能產(chǎn)品的設(shè)計者在某種程度上也無法完全預(yù)知人工智能產(chǎn)品在生產(chǎn)作業(yè)的過程中會不會由于產(chǎn)品自身的智能化推理而作出侵害公共與公民利益的行為，智能化行為很大程度上不一定會反映人工智能技術(shù)設(shè)計者與使用者本身的意志。這使得產(chǎn)品設(shè)計者與使用者對于人工智能產(chǎn)品所作出的行為應(yīng)該承擔的責(zé)任的界限，以及應(yīng)該負責(zé)的內(nèi)容成為了需要解決的問題。另外，違法犯罪分子若是利用人工智能進行違法犯罪，很有可能憑借人工智能的智能化特點作為逃脫法律責(zé)任的理由。因此，對人工智能產(chǎn)品所作出的侵犯法益行為的進行責(zé)任認定是未來需要解決的難題，應(yīng)當通過《人工智能法》的形式，明確、區(qū)分責(zé)任主體，實行設(shè)計問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，并通過此種監(jiān)管結(jié)構(gòu)的設(shè)立，根據(jù)不同類型的人工智能產(chǎn)品，對產(chǎn)品的設(shè)計者、使用者提出不同的責(zé)任內(nèi)容與擔責(zé)界限，以便于落實人工智能損害行為的追責(zé)問題。

二、《人工智能法》的立法思考

人工智能對未來社會治安的沖擊只是人工智能影響未來生活的縮影，人工智能結(jié)合各個領(lǐng)域的需求和相關(guān)知識，創(chuàng)制為各行各業(yè)的進步與發(fā)展所需要的各種智能系統(tǒng)，為各行各業(yè)的現(xiàn)代化發(fā)展提供智能化服務(wù)，其影響的領(lǐng)域有社會、經(jīng)濟、民生、健康等。從社會治安方面我們已經(jīng)能看到規(guī)制人工智能的緊迫性，我國急需對規(guī)制人工智能技術(shù)的專門性法律制度進行研究，制定專門規(guī)范人工智能行業(yè)的法律規(guī)范。在人工智能時代來臨之前，應(yīng)當通過確立《人工智能法》來對未來人工智能技術(shù)的運用進行總領(lǐng)性的規(guī)制，從宏觀的角度出發(fā)，防范其可能出現(xiàn)的風(fēng)險。在此之后，國家立法機關(guān)可以在《人工智能法》的基礎(chǔ)上，針對人工智能在各個行業(yè)應(yīng)用的特點與實際情況進行進一步的細化立法。由此可見，對《人工智能法》進行立法思路的研究是我國的當務(wù)之急。

（一）《人工智能法》應(yīng)當對人工智能產(chǎn)品研發(fā)與應(yīng)用進行限制

人工智能技術(shù)給社會帶來風(fēng)險的主要原因在于其智能性給社會生活增添了極大的不確定性。由于人工智能做出的判斷大多依賴于計算機算法，不包含道德倫理要求以及人類所擁有的情感，人工智能產(chǎn)品極有可能機械地根據(jù)計算機算法得出人類認為不符合道德倫理的結(jié)果，并根據(jù)這個結(jié)果選擇主動傷害或侵犯人類，而這是人類不希望看到的。為了減小這些不確定因素，應(yīng)當要求設(shè)計者對智能技術(shù)作出限制，盡可能將人工智能帶來的不確定性降低。并且也應(yīng)當考慮平衡人工智能的高效便捷特性，避免過分削弱人工智能技術(shù)應(yīng)有的科技性或過度影響人工智能的正常使用，使得人工智能技術(shù)的使用失去意義。

具體而言，應(yīng)當嚴格限制設(shè)計者開發(fā)人工智能產(chǎn)品的領(lǐng)域，對涉及國防安全、能源安全、交通安全等與公共安全密切相關(guān)的行業(yè)，可能造成重大人員傷亡風(fēng)險的，應(yīng)當慎用或是限制人工智能技術(shù)的開發(fā)，包括禁止在某些行業(yè)使用人工智能技術(shù)、對技術(shù)的智能化水平進行限制等，制約人工智能的學(xué)習(xí)與分析推理能力，不能使其任憑其接受的所有信息進行推理并作出自主行為。人工智能在這些特殊行業(yè)應(yīng)當完全被人類所控制，作出的“行為”能夠被人類完全預(yù)見。通過這樣的規(guī)制，能夠?qū)⑷斯ぶ悄艿纳鐣ｋU性大大減小。同時，應(yīng)當明確設(shè)計責(zé)任的追究機制，對于違反上述相關(guān)規(guī)定的技術(shù)開發(fā)者，可依照情節(jié)輕重，處以罰款、吊銷相關(guān)職業(yè)資格證等行政處罰，這也是法定義務(wù)的設(shè)立，設(shè)計者由于未履行法定義務(wù)造成嚴重后果構(gòu)成犯罪的，依照刑法規(guī)定定罪處罰，設(shè)計者違背義務(wù)可能構(gòu)成故意殺人罪、以危險方法危害公共安全罪、過失致人死亡罪、過失以危險方法危害公共安全罪等刑事犯罪。

另外，人工智能的功能也不應(yīng)過于全面，對于人工智能產(chǎn)品應(yīng)當采取相關(guān)措施進行能力制約，如為了限制高智能化的產(chǎn)品的能力，應(yīng)當將其設(shè)計為固定式產(chǎn)品，不給其裝配動力裝置，對其智能化工作以外的能力進行削減，以保證人類對產(chǎn)品的控制。

（二）《人工智能法》應(yīng)當對人工智能產(chǎn)品進行技術(shù)分級

為了明確責(zé)任主體的責(zé)任范圍，加強安全管理的針對性，應(yīng)當對人工智能產(chǎn)品進行技術(shù)等級分級。技術(shù)分級的依據(jù)應(yīng)當是產(chǎn)品的智能化水平與智能產(chǎn)品的工作性質(zhì)。根據(jù)《人工智能法》對智能產(chǎn)品的技術(shù)分級，國家標準化行政主管部門還可以進一步針對每一個技術(shù)分級制定國家標準與行業(yè)標準，此舉有利于明確產(chǎn)品設(shè)計者的產(chǎn)品研發(fā)方向與內(nèi)容，也能為行業(yè)準入標準的設(shè)立提供參考。筆者認為，人工智能技術(shù)應(yīng)當大致分為三級，即完全智能化、一般智能化和相對智能化。

完全智能化，即智能產(chǎn)品具有完全的智能化特性，具有自主學(xué)習(xí)、認識外部世界并進行獨立自主行為的能力，這也是達特茅斯會議以來人工智能領(lǐng)域不斷奮斗的目標，是人工智能的最高水平，也是對社會治安威脅最大的智能產(chǎn)品。

一般智能化，即智能化產(chǎn)品能夠進行信息分析并作出反應(yīng)，能夠處理較大范圍的信息，但不具備自主學(xué)習(xí)的能力，只能在一定的信息范圍內(nèi)作出判斷與選擇?，F(xiàn)如今的前沿人工智能技術(shù)則大多數(shù)處于這個水平，如圍棋機器人、語音對話機器人。

相對智能化，即相對于普通機器而言，智能化產(chǎn)品能夠通過處理外部信息作出反應(yīng)行為，但其能夠進行處理的信息不具有廣泛性的特點。多數(shù)基礎(chǔ)性人工智能產(chǎn)品則符合此級別的特征，如語言識別系統(tǒng)、人臉識別系統(tǒng)等，對社會治安有較小威脅。

確立人工智能產(chǎn)品分級很大程度上能夠規(guī)范智能產(chǎn)品研發(fā)行為，更為重要的是能夠進一步明確產(chǎn)品使用者的責(zé)任與義務(wù)。為了有針對性地對人工智能的使用進行安全防范，應(yīng)當對不同智能產(chǎn)品的使用者提出不同的責(zé)任義務(wù)要求，這也是使用責(zé)任監(jiān)督機制的重要基礎(chǔ)。

（三）《人工智能法》應(yīng)當對使用者設(shè)立相對應(yīng)的義務(wù)要求

在產(chǎn)品研發(fā)設(shè)計層面通過立法的形式進行了規(guī)制之后，立法在智能產(chǎn)品的使用者層面也不應(yīng)該缺位。使用者是智能產(chǎn)品最為直接的管理者，從某種角度上看，即便在設(shè)計層面對智能產(chǎn)品研發(fā)進行了規(guī)定，如果使用者故意使用智能產(chǎn)品進行失范行為而侵害公民、社會權(quán)益，或是使用者沒有起到應(yīng)有的管理作用，人工智能對于社會的威脅依舊不能得到有效的控制，因此，通過立法的形式對使用者設(shè)立義務(wù)在此顯得尤為重要。筆者認為，應(yīng)當對不同等級的人工智能產(chǎn)品的使用者設(shè)立不同的義務(wù)，以便于充分落實使用者的責(zé)任。

完全智能化產(chǎn)品的使用者，由于此類人工智能產(chǎn)品具有高度的智能化特征，對于社會的潛在威脅也就越大，此類智能產(chǎn)品應(yīng)當有嚴格的使用區(qū)域限制以及能源供給控制規(guī)定，使用者必須在規(guī)定區(qū)域內(nèi)使用該類智能產(chǎn)品，不得對其進行改裝，對于產(chǎn)品的能源應(yīng)當有嚴格的控制，并且要能夠隨時控制智能產(chǎn)品的能源供給，不得超越規(guī)定用途使用完全智能化產(chǎn)品，不具備以上條件的使用者不得引進并使用完全智能化產(chǎn)品。

一般智能化產(chǎn)品的使用者，此類產(chǎn)品的自主學(xué)習(xí)與分析信息能力較為普通，因此無需像完全智能化產(chǎn)品一樣進行如此嚴格的限制，但仍然應(yīng)當要求產(chǎn)品使用者不得超出用途范圍使用人工智能產(chǎn)品，在特殊的場合下不得使用人工智能產(chǎn)品，以防止人工智能行為失范。

相對智能化產(chǎn)品的使用者，此類產(chǎn)品對社會的潛在威脅較小，產(chǎn)品使用者只需將智能技術(shù)運用于合法領(lǐng)域即可，不可利用其進行違法犯罪等危害社會的活動。

最后，《人工智能法》也應(yīng)在責(zé)任分級的基礎(chǔ)上建立使用監(jiān)督機制，將監(jiān)督責(zé)任落實到政府具體部門，對于完全智能化產(chǎn)品與一般智能化產(chǎn)品等智能化程度較高的人工智能產(chǎn)品，應(yīng)當由公安部門、安全生產(chǎn)監(jiān)督管理部門等進行登記與檢查，參照特種行業(yè)管理制度與安全生產(chǎn)制度的規(guī)則進行相關(guān)制度的建設(shè)與管理，實現(xiàn)管理閉環(huán)，有責(zé)必究。

參考文獻：

[1] Hutter， Marcus. Universal Artificial Intelligence. Berlin：Springer. 2005.

[2]中國信息通信研究院. 美國國家人工智能研究和發(fā)展戰(zhàn)略計劃 . 美國國家科學(xué)技術(shù)委員會. 2016.

[3]國務(wù)院. 國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知. 2017.

[4]鐘義信. 人工智能： 概念·方法·機遇. 科學(xué)通報. 2017（22）.

[5]劉憲權(quán). 人工智能時代的刑事風(fēng)險與刑法應(yīng)對. 法商研究. 2018（1）.