來自世界人工智能大會(huì)上的聲音

答剌靈

人工智能作為一項(xiàng)影響面極廣的顛覆性技術(shù)，其發(fā)展的不確定性帶來的風(fēng)險(xiǎn)與挑戰(zhàn)，對(duì)法律、安全、就業(yè)、道德倫理、政府治理、經(jīng)濟(jì)發(fā)展、社會(huì)穩(wěn)定乃至全球治理將產(chǎn)生深遠(yuǎn)影響。如何趨利避害，共享成果，已成為人們共同關(guān)心的問題。

2018年9月，世界人工智能大會(huì)在上海召開。上海司法界、學(xué)界、研發(fā)部門等相關(guān)領(lǐng)導(dǎo)、學(xué)術(shù)帶頭人250余名嘉賓參加了“人工智能與法治”高端研討會(huì)，掀起了一場(chǎng)場(chǎng)精彩絕倫的頭腦風(fēng)暴，并發(fā)出了“人工智能與未來法治構(gòu)建上海倡議”。

倡議包含“人工智能與未來法治構(gòu)建的理念框架”“促進(jìn)規(guī)范保障人工智能發(fā)展的法治路徑”以及“加強(qiáng)人工智能法律領(lǐng)域的教育研究與實(shí)踐”三大部分。這其中，不少司法實(shí)務(wù)部門的代表更為關(guān)注的是研討會(huì)上的硬貨：諸如探索在國家層面建立人工智能規(guī)范發(fā)展與風(fēng)險(xiǎn)防控研究體系，規(guī)劃布局、統(tǒng)籌指導(dǎo)研究的方向、重點(diǎn)，提升針對(duì)性、系統(tǒng)性、權(quán)威性；建立與人工智能創(chuàng)新發(fā)展相適應(yīng)的立法規(guī)范、法律體系、政策體系和倫理規(guī)范，形成人工智能安全評(píng)估、風(fēng)險(xiǎn)防控法律機(jī)制，提升技術(shù)規(guī)則、應(yīng)用規(guī)則的管控能力；制定技術(shù)設(shè)計(jì)階段的法律規(guī)范，通過規(guī)則設(shè)定促進(jìn)人工智能算法的公正、透明、安全，避免算法歧視，杜絕有悖倫理價(jià)值及公序良俗的技術(shù)應(yīng)用；構(gòu)建數(shù)據(jù)權(quán)益體系，形成數(shù)據(jù)分享的安全機(jī)制、利益機(jī)制、追責(zé)機(jī)制，保證數(shù)據(jù)合法、安全流通使用；加強(qiáng)人工智能知識(shí)產(chǎn)權(quán)研究，健全人工智能領(lǐng)域技術(shù)創(chuàng)新、知識(shí)產(chǎn)權(quán)保護(hù)與標(biāo)準(zhǔn)化互動(dòng)支撐機(jī)制；開展對(duì)人工智能應(yīng)用場(chǎng)景的法律研究，建立人工智能復(fù)雜場(chǎng)景下風(fēng)險(xiǎn)防范與應(yīng)對(duì)機(jī)制；開展預(yù)防和懲治涉人工智能違法犯罪的相關(guān)研究，避免人工智能被應(yīng)用于違法犯罪活動(dòng)等。

上海市人民檢察院檢察長張本才在致辭中表示，上海檢察機(jī)關(guān)將以智能化作為工作創(chuàng)新發(fā)展的戰(zhàn)略驅(qū)動(dòng)，努力提升服務(wù)大局能級(jí)和司法便民水平。人工智能的不斷提速升級(jí)，為加快法治建設(shè)、促進(jìn)國家治理體系和治理能力現(xiàn)代化提供了新技術(shù)和新動(dòng)能，只有超前研究、因勢(shì)利導(dǎo)，才能促進(jìn)“現(xiàn)代科技力量和司法人員創(chuàng)造力有機(jī)結(jié)合、科技理性和司法理性深度融合”，共同護(hù)航司法公正、促進(jìn)司法文明。

把握趨勢(shì)、搶占先機(jī)、提前布局

2018年以來，美國、歐盟、法國、英國、韓國、日本等國家和地區(qū)都在密集發(fā)布人工智能戰(zhàn)略和新的研發(fā)布局等。關(guān)于美國，最重要的一個(gè)趨勢(shì)就是，特朗普對(duì)人工智能發(fā)展的態(tài)度發(fā)生重大轉(zhuǎn)變。韓國、法國、日本等國家則進(jìn)一步細(xì)化了人工智能的研發(fā)布局和行動(dòng)計(jì)劃，制定了非常符合本國需求的專項(xiàng)政策。可以說，從國家層面持續(xù)推動(dòng)人工智能發(fā)展，特別是以人工智能發(fā)展搶抓未來競(jìng)爭先機(jī)已成大勢(shì)所趨。

科技部中國科學(xué)技術(shù)信息研究所黨委書記趙志耘認(rèn)為——

我國發(fā)布人工智能規(guī)劃可以說非常及時(shí)，國家在戰(zhàn)略部署上已做好準(zhǔn)備，后期還需要全社會(huì)共同努力，加快推動(dòng)規(guī)劃的全面實(shí)施。在全球范圍內(nèi)，人工智能領(lǐng)域的中美競(jìng)爭將會(huì)是一種常態(tài)。在這個(gè)過程中，在保持創(chuàng)新自信的同時(shí)，也要保持清醒，正視我們存在的問題和差距。我們需高度重視人工智能基礎(chǔ)研究和關(guān)鍵核心技術(shù)研發(fā)，加快構(gòu)建更加開放友好的應(yīng)用生態(tài)。

未來的人工智能有可能成為影響國家競(jìng)爭力的變革性技術(shù)，甚至重塑全球競(jìng)爭格局。這種顛覆性既可能產(chǎn)生正面影響，也有可能帶來突發(fā)的、意想不到的負(fù)面影響。當(dāng)前人工智能技術(shù)取得的巨大發(fā)展，越來越多地面臨“高風(fēng)險(xiǎn)的應(yīng)用”，這些處在開放、動(dòng)態(tài)環(huán)境下的人工智能技術(shù)一旦出現(xiàn)輕微的錯(cuò)誤，產(chǎn)生的結(jié)果可能是致命的、毀滅性的。其中，在法治領(lǐng)域也會(huì)有許多應(yīng)用，比如智慧司法等方面的應(yīng)用。但與此同時(shí)，這些應(yīng)用領(lǐng)域均已經(jīng)或?qū)?huì)產(chǎn)生一些不確定性的因素或風(fēng)險(xiǎn)，因此，我們要特別關(guān)注人工智能發(fā)展帶來的不確定性，加強(qiáng)人工智能對(duì)社會(huì)、法律、倫理等方面影響的研究。

弱人工智能司法領(lǐng)域的上海探索

2018年7月10日，上海市委書記李強(qiáng)在市委中心組學(xué)習(xí)會(huì)上強(qiáng)調(diào)，上海打造國家的人工智能發(fā)展高地，司法應(yīng)在其中。

早在2014年10月，黨的十八屆四中全會(huì)做出推進(jìn)以審判為中心的訴訟制度改革的重大部署。為使這項(xiàng)改革落地，中央政法委運(yùn)用高科技助力改革，做出了研發(fā)“推進(jìn)以審判為中心的訴訟制度改革軟件”的決策部署。2017年2月6日，孟建柱同志、韓正同志到上海高院調(diào)研時(shí)，部署了司法體制改革的任務(wù)，其中一項(xiàng)是：由上海高院牽頭，承擔(dān)研發(fā)“推進(jìn)以審判為中心的訴訟制度改革軟件”的任務(wù)（簡稱“206工程”）。在上海市檢察、公安、司法機(jī)關(guān)以及市發(fā)改委、經(jīng)信委、財(cái)政局等相關(guān)部門的支持配合下，由上海高院與科大訊飛公司合作開發(fā)。系統(tǒng)定位為智能輔助辦案，起到的是“智能助理”的作用，等于為法官、檢察官、偵查員配備了一個(gè)AI助理，命名為“上海刑事案件智能輔助辦案系統(tǒng)”。

該系統(tǒng)主要依托互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算等現(xiàn)代科技，充分運(yùn)用圖文識(shí)別、自然語言理解、智能語音識(shí)別、司法實(shí)體識(shí)別、實(shí)體關(guān)系識(shí)別、司法要素自動(dòng)提取等人工智能技術(shù)，通過制定統(tǒng)一的證據(jù)標(biāo)準(zhǔn)指引、證據(jù)規(guī)則指引，并嵌入公檢法司機(jī)關(guān)刑事辦案系統(tǒng)，實(shí)現(xiàn)對(duì)辦案人員統(tǒng)一證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則的指引和對(duì)證據(jù)的校驗(yàn)、把關(guān)、提示、監(jiān)督，確保偵查、審查起訴的案件事實(shí)證據(jù)經(jīng)得起法律檢驗(yàn)，確保刑事辦案過程全程可視、全程留痕、全程監(jiān)督，減少司法任意性，防范冤假錯(cuò)案產(chǎn)生。

該系統(tǒng)的核心業(yè)務(wù)功能包括：證據(jù)標(biāo)準(zhǔn)指引功能和證據(jù)規(guī)則指引功能。證據(jù)是訴訟的靈魂。根據(jù)刑事訴訟關(guān)于辦案流程的不同要求，設(shè)計(jì)者堅(jiān)持完整性與階段性相統(tǒng)一的原則制定出證據(jù)標(biāo)準(zhǔn)，為辦案人員提供統(tǒng)一適用、簡單易行、數(shù)據(jù)化、清單式的辦案指引。目前，證據(jù)標(biāo)準(zhǔn)、規(guī)則指引不僅嵌入智能輔助辦案系統(tǒng)中，而且已經(jīng)做成手機(jī)APP，可隨時(shí)隨地為辦案人員提供指引，方便高效快捷。該系統(tǒng)共涉及29項(xiàng)知識(shí)產(chǎn)權(quán)，其中，上海高院與科大訊飛公司共同研發(fā)產(chǎn)生的知識(shí)產(chǎn)權(quán)6項(xiàng)（專利5項(xiàng)、著作權(quán)1項(xiàng)）。

2017年9月，上海高院在研發(fā)刑事案件智能輔助辦案系統(tǒng)的基礎(chǔ)上，構(gòu)建人力與科技深度融合的標(biāo)準(zhǔn)化、規(guī)范化、智能化的民商事、行政審判模式，發(fā)揮人工智能在輔助法官辦案中認(rèn)定事實(shí)、適用法律、采信證據(jù)、公正裁判中的作用，規(guī)范法官的自由裁量權(quán)行使，促進(jìn)法律使用統(tǒng)一，減少司法任意性，提升辦案質(zhì)效和司法公信力。民商事、行政案件智能輔助辦案系統(tǒng)設(shè)計(jì)了27項(xiàng)功能，已于2017年11月27日上線試運(yùn)行。截至2018年9月，已完成第一期8個(gè)案由和第二期12個(gè)案由的辦案要件指引制定工作。

上海市法學(xué)會(huì)黨組書記崔亞東介紹了“上海刑事案件智能輔助辦案系統(tǒng)”實(shí)踐情況并提出了自己的思考。他認(rèn)為，人工智能時(shí)代的到來，司法一方面要抓住機(jī)遇，跟上時(shí)代的步伐，主動(dòng)作為，推進(jìn)司法本身現(xiàn)代化的實(shí)現(xiàn)；另一方面要為人工智能國家戰(zhàn)略的實(shí)施提供法制保障。目前人工智能仍處于初級(jí)階段，在司法實(shí)踐中尤其是辦理案件中，只能是智能輔助辦案，絕不能替代法官、檢察官、偵查人員辦案。

與會(huì)的中國刑法學(xué)研究會(huì)副會(huì)長劉憲權(quán)指出，根據(jù)發(fā)展形態(tài)，我們可以將機(jī)器人技術(shù)的發(fā)展歷程分為三個(gè)階段——普通機(jī)器人時(shí)代、弱人工智能時(shí)代和強(qiáng)人工智能時(shí)代。普通機(jī)器人與智能機(jī)器人的區(qū)別在于是否具有深度學(xué)習(xí)能力，目前我們尚處在弱人工智能時(shí)代。

綜上，筆者認(rèn)為上海司法實(shí)務(wù)部門正是準(zhǔn)確把握了人工智能發(fā)展的實(shí)際情況，做出了符合目前技術(shù)發(fā)展現(xiàn)狀的人工智能與司法對(duì)接定位。

技術(shù)專家構(gòu)建人工智能對(duì)接社會(huì)治理新版圖

騰訊專家王棟認(rèn)為，人工智能的發(fā)展與應(yīng)用正在深刻改變著法學(xué)的社會(huì)基礎(chǔ)和法治條件，改變著法學(xué)研究的對(duì)象和法律運(yùn)行技術(shù)。大數(shù)據(jù)已成為推動(dòng)經(jīng)濟(jì)轉(zhuǎn)型發(fā)展的新動(dòng)力，重塑國家競(jìng)爭優(yōu)勢(shì)的新機(jī)遇，提升政府治理能力的新途徑。可運(yùn)用大數(shù)據(jù)破解社會(huì)治理難題，構(gòu)建人工智能社會(huì)的全景圖，以開創(chuàng)社會(huì)治理的“云時(shí)代”。

據(jù)王棟介紹，“騰訊云”是騰訊傾力打造的云計(jì)算機(jī)品牌，正以卓越的科技能力助力各行各業(yè)數(shù)字化轉(zhuǎn)型，為全球客戶提供領(lǐng)先的云計(jì)算、大數(shù)據(jù)、人工智能服務(wù)，以及定制化行業(yè)解決方案。在“互聯(lián)網(wǎng)+”背景下，各級(jí)政府正在探索如何將政務(wù)信息化過程中積累的海量數(shù)據(jù)發(fā)揮出更大價(jià)值，為民眾提供更便捷智能服務(wù)，優(yōu)化提升行政效率和質(zhì)量。

在司法領(lǐng)域，騰訊云的互聯(lián)網(wǎng)技術(shù)與大數(shù)據(jù)公司“國雙”在司法行業(yè)的積累深度融合，為司法科技領(lǐng)域提供了互聯(lián)網(wǎng)創(chuàng)新技術(shù)。騰訊云提供的智慧法院解決方案，包括遠(yuǎn)程審判、智能語音、原被告人臉核身等多項(xiàng)審判智能化服務(wù)，其中的智能語音識(shí)別系統(tǒng)目前已經(jīng)在包括北京知識(shí)產(chǎn)權(quán)法院在內(nèi)的全國40多家法院試點(diǎn)應(yīng)用，為深化司法改革提供先進(jìn)的技術(shù)支撐。

除了智慧法院，為了完善立體化社會(huì)治安防控體系，實(shí)施“雪亮工程”能把治安防范措施進(jìn)一步延伸到群眾身邊。“雪亮”不僅僅是連接公安的攝像頭，還要連接政府、環(huán)保、企業(yè)、社會(huì)單位，所以是一個(gè)視頻的整合，是一個(gè)群眾性綜合治理工程。騰訊云對(duì)于“雪亮工程”的解決方案是“四網(wǎng)一大腦”，將治安防控體系的建設(shè)，以大數(shù)據(jù)的深度挖掘和分析為方向，利用大聯(lián)網(wǎng)、大融合、大匯聚的架構(gòu)設(shè)計(jì)，來獲得海量的視頻數(shù)據(jù)。所謂的“四網(wǎng)”是指互聯(lián)網(wǎng)、政務(wù)外網(wǎng)、視頻專網(wǎng)和公安信息網(wǎng)。其中，視頻分析技術(shù)可管控重點(diǎn)目標(biāo)，包括了全域感知、綜合分析、目標(biāo)管控、綜合查詢和大數(shù)據(jù)分析。其包括了重點(diǎn)人員和車輛感知和分析，布控預(yù)案、預(yù)警及規(guī)則，包括了人員、車輛、情報(bào)、目標(biāo)軌跡搜索，還有平安指數(shù)、出租屋指數(shù)和吸毒指數(shù)。由此開發(fā)的智慧城市大腦大大減少了警力的支出，提高了犯罪預(yù)測(cè)的準(zhǔn)確性。

如何應(yīng)對(duì)人工智能帶來的新挑戰(zhàn)

微軟全球副總裁洪小文認(rèn)為，我們可以利用人工智能實(shí)現(xiàn)許多了不起的成就。結(jié)合機(jī)器和人類的優(yōu)勢(shì)，我們有望解決人類社會(huì)面臨的貧困、疾病和無知等重大挑戰(zhàn)，但是，我們同樣希望以一種合乎道德的方式，來實(shí)現(xiàn)人工智能的潛力……

伴隨著大數(shù)據(jù)應(yīng)用和軟硬件設(shè)備的不斷發(fā)展完善，人工智能的發(fā)展空間廣闊。據(jù)統(tǒng)計(jì)，現(xiàn)階段超過五分之一的常規(guī)律師業(yè)務(wù)已可由人工智能替代完成，人工智能正加速進(jìn)入人類社會(huì)生活。圖靈曾提出人工智能遲早會(huì)威脅到人類生存，必須在問題積重難返前，對(duì)人工智能的發(fā)展做出妥善的法律規(guī)制安排。具有類似人類思考與深度學(xué)習(xí)的能力是人工智能與其他科技最大的差異。在人工智能的現(xiàn)實(shí)發(fā)展中，已經(jīng)出現(xiàn)機(jī)器人能否享有著作權(quán)以及機(jī)器人致害的責(zé)任問題等。這些都涉及人工智能的法律地位、法律責(zé)任、權(quán)利義務(wù)范圍等應(yīng)如何界定。在法律制度無法有效應(yīng)對(duì)實(shí)際情況發(fā)展時(shí)，法律理論首先要明確的就是人工智能是否具有法律人格。中國法學(xué)會(huì)民法學(xué)研究會(huì)常務(wù)理事彭誠信提出：法律人格，是指法律認(rèn)可的享有權(quán)利、承擔(dān)義務(wù)的資格，包括自然人主體、擬制主體兩類。對(duì)于自然人，法律全面無條件承認(rèn)其法律人格；而擬制主體的人格則需經(jīng)由法律的明確規(guī)定（如胎兒）或者經(jīng)過特定的認(rèn)可規(guī)則方可取得（如公司的設(shè)立等）?，F(xiàn)行法律體系下，人工智能是否具有法律人格理論上尚無統(tǒng)一結(jié)論，這也造成實(shí)踐中的適用困境與疑惑……

此外，就犯罪預(yù)防而言，據(jù)國家互聯(lián)網(wǎng)應(yīng)急中心報(bào)告，聯(lián)網(wǎng)智能設(shè)備被惡意控制，并用于發(fā)起大流量分布式拒絕服務(wù)攻擊的現(xiàn)象更加嚴(yán)重；具有國家背景的黑客組織發(fā)動(dòng)的APT攻擊事件直接威脅了國家安全和穩(wěn)定。統(tǒng)計(jì)數(shù)據(jù)顯示，我國2017年上半年泄露及被盜數(shù)據(jù)達(dá)19億條（超過2016全年的14億條），我國2017全年信息泄露超過50億條。勒索病毒尤其猖獗。國家互聯(lián)網(wǎng)應(yīng)急中心報(bào)告，欺詐勒索軟件在互聯(lián)網(wǎng)上肆虐。2017年5月12日，全球近百個(gè)國家遭受勒索病毒“WannaCry”影響，超過10萬臺(tái)計(jì)算機(jī)中毒致使大量用戶文件資料被鎖，受害用戶只有支付高額贖金才能恢復(fù)。中國部分高校校園網(wǎng)用戶中招，醫(yī)療、能源、公安等行業(yè)皆受到嚴(yán)重影響。

北京優(yōu)炫軟件股份有限公司聯(lián)合創(chuàng)始人趙春學(xué)認(rèn)為，一方面AI數(shù)據(jù)安全投資潛力巨大。從國內(nèi)外AI數(shù)據(jù)安全投入規(guī)?，F(xiàn)狀對(duì)比來看，國內(nèi)AI數(shù)據(jù)安全投入在AI中的占比約為1%左右，而發(fā)達(dá)國家AI數(shù)據(jù)安全投入占比已經(jīng)達(dá)到10%左右，潛力空間巨大。另一方面，AI數(shù)據(jù)安全需求市場(chǎng)巨大。應(yīng)對(duì)威脅，中國應(yīng)不斷地加大對(duì)于AI數(shù)據(jù)保護(hù)的安全投入，AI數(shù)據(jù)安全市場(chǎng)將是安全行業(yè)價(jià)值最高、規(guī)模最大的細(xì)分市場(chǎng)之一，足以支撐未來千億級(jí)市場(chǎng)空間。中央重視網(wǎng)絡(luò)安全工作是第一推動(dòng)力。網(wǎng)絡(luò)運(yùn)營者應(yīng)當(dāng)按照網(wǎng)絡(luò)安全等級(jí)保護(hù)制度的要求，履行安全保護(hù)義務(wù)，保障網(wǎng)絡(luò)免受干擾、破壞。