人工智能應(yīng)用的安全風(fēng)險及法律防控

1956年麥卡錫首次提出“人工智能”這一概念，成為人工智能這門新興學(xué)科正式誕生的標(biāo)志。繼21世紀(jì)開始進(jìn)入計(jì)算機(jī)和互聯(lián)網(wǎng)時代，到2010年后的大數(shù)據(jù)時代，到2017年人腦與智能機(jī)器人的世紀(jì)圍棋大戰(zhàn)、AlphaGo三連勝擊敗圍棋世界冠軍柯潔，再到機(jī)器人取代工廠的大量員工，到無人機(jī)運(yùn)送快遞、無人駕駛汽車上路，人工智能的應(yīng)用逐步走進(jìn)并深入影響人類的工作和生活?；诳茖W(xué)技術(shù)的優(yōu)劣雙面性，人工智能應(yīng)用給社會帶來更多便利的同時也相應(yīng)帶來安全風(fēng)險和隱患，智能水平提升帶來顛覆人類安全的潛在風(fēng)險、智能機(jī)器人應(yīng)用于傳統(tǒng)制造業(yè)乃至現(xiàn)代服務(wù)業(yè)打造的智能工廠帶來的失業(yè)性社會風(fēng)險、情感機(jī)器人應(yīng)用對社會倫理安全帶來的風(fēng)險，人工智能深度學(xué)習(xí)所需人類大量數(shù)據(jù)帶來的隱私性風(fēng)險，人工智能應(yīng)用導(dǎo)致的風(fēng)險引發(fā)了人類社會的嚴(yán)重關(guān)注和熱烈討論。

一、人工智能的核心特征

人工智能又稱AI（Artificial Intelligence），是計(jì)算機(jī)學(xué)科的一個分支，又是與控制論、心理學(xué)、優(yōu)生學(xué)、自動化乃至哲學(xué)密切相關(guān)的綜合性的學(xué)科。其開發(fā)主要有三種路徑：符號主義學(xué)派、連接主義學(xué)派、行為主義學(xué)派[1]。由于“智能”本身含義就不明確，因此關(guān)于人工智能尚未有一個明確的定義。麥卡錫最早對人工智能的定義是“機(jī)器可以像人以智能作出行為一樣擁有機(jī)器智能”[2]。隨著技術(shù)發(fā)展，不同學(xué)者對此作出不同的定義，但核心在于模擬“人類智能”，智能指人類所特有的現(xiàn)象和能力，而其他生物不具備的特征。人類智能的表現(xiàn)形式為學(xué)習(xí)知識、感知現(xiàn)象、理解本質(zhì)、思維模式，因此可以這樣定義智能：智能是人通過觀察、理解、思維等來認(rèn)識事物并通過決策和行為來改變世界和解決問題的能力?！度斯ぶ悄軜?biāo)準(zhǔn)化白皮書》上的定義亦體現(xiàn)了這一核心，人工智能即模擬、延伸人的智能、感知環(huán)境和學(xué)習(xí)知識來解決問題的系統(tǒng)①。雖然定義的描述方式不同，但筆者認(rèn)為人工智能的本質(zhì)屬性就是模仿人類記憶、感知和學(xué)習(xí)等活動，達(dá)到像人類智能一樣對外界反應(yīng)作出判斷并解決問題的目標(biāo)，總的來說是對人類智能的擴(kuò)展和延伸。

人工智能之所以叫“智能”是因?yàn)樯疃葘W(xué)習(xí)的能力，能夠像人類一樣識別圖像、文字、語言等信息，并通過其算法作出自己的反應(yīng)。卷積神經(jīng)網(wǎng)絡(luò)是模擬人類腦神經(jīng)網(wǎng)絡(luò)而創(chuàng)造的“機(jī)器”大腦，人工智能深度學(xué)習(xí)可以像人的視覺，敏銳地觀察世界。如今深度學(xué)習(xí)能力在自動駕駛汽車上的應(yīng)用能夠使汽車更加精準(zhǔn)的識別面臨的障礙、行人，從而保證駕駛安全；在醫(yī)學(xué)中的應(yīng)用能夠使機(jī)器比醫(yī)生在診斷病情上更加準(zhǔn)確。

人工智能在大數(shù)據(jù)的基礎(chǔ)上進(jìn)行深度學(xué)習(xí)，這一數(shù)據(jù)思維源于算法但不依賴于算法，能夠隨機(jī)應(yīng)變，因此具備一定的創(chuàng)造性思維模式和一定程度的自主性。人工智能不管如何擁有自主決定、推理、運(yùn)算、創(chuàng)造，但終究不是人腦，也不是人，因?yàn)閮烧叩母緟^(qū)別在于人類擁有復(fù)雜的感情和自由意志（Free Will）。自由意志首先是一個哲學(xué)概念，是指人們依照其擁有的條件去決定是否做一件事。顯然，人工智能根據(jù)人們對其特定的設(shè)置而在一定程度上擁有自主決策和行為，不可能像人一樣可以意識到自我，也不可能像人類一樣可以自由選擇職業(yè)。

人工智能按照智能水平高低可以分為弱人工智能和強(qiáng)人工智能，弱人工智能（Weak-AI）又稱初級人工智能，是指人工智能按照輸入的特定程序?qū)ν饨缱鞒龇磻?yīng)，進(jìn)而可以模仿人類的行為，如下棋、語音識別、面部識別等，但是不能作出推理和真正解決問題，也不擁有自我改變和自主意識。強(qiáng)人工智能是指在弱智能基礎(chǔ)上的跨越式進(jìn)步，不是指運(yùn)算、模仿等能力更加強(qiáng)大的弱人工智能，而是像人一樣可以擁有自主意識，成為世界上的主體的智能[3]。強(qiáng)人工智能一是可以像人一樣思維，二是超越人的思維模式有獨(dú)特的思維習(xí)慣和行為。如李建中教授認(rèn)為機(jī)器只是看起來有智慧，但是不會像人擁有自主意識一樣可以真正的推理和解決問題[4]。鄧志東教授認(rèn)為目前人工智能仍處于感知智能階段，其視覺識別、自然語言處理、語音識別等方面只是對外界的感知，遠(yuǎn)遠(yuǎn)達(dá)不到創(chuàng)造性的智能水平[5]。當(dāng)前人工智能應(yīng)用的領(lǐng)域越來越廣，但都是基于程序設(shè)定和深度學(xué)習(xí)的初級智能，所作出的智能行為依靠大數(shù)據(jù)，不能夠根據(jù)情境作出像人一樣的智能反應(yīng)和行為。相當(dāng)于大腦的強(qiáng)人工智能尚未開發(fā)完成，而超越人類大腦的超人工智能還不確定完成時間。

人工智能技術(shù)在發(fā)展過程中逐步實(shí)現(xiàn)了與行業(yè)的深度融合，以此來改變傳統(tǒng)的生產(chǎn)模式及生活方式。當(dāng)前學(xué)術(shù)界和產(chǎn)業(yè)界共同推動的產(chǎn)業(yè)化階段認(rèn)定的發(fā)展方向是：制造業(yè)、農(nóng)業(yè)、物流、金融、商務(wù)、家居、教育、機(jī)器人、運(yùn)載工具、虛擬現(xiàn)實(shí)與增強(qiáng)現(xiàn)實(shí)[6]。

二、人工智能應(yīng)用的安全風(fēng)險分析

安全，從現(xiàn)代漢語的字面上理解是“沒有危險，不受威脅，不出事故”。從社會學(xué)角度講，安全是人最基本的需求。在馬斯洛提出的人類五個層次的需求中，安全需求處于生理需求之上的第二個層次的需求，安全的需求有對秩序穩(wěn)定和社會保護(hù)的依賴，也有對法律穩(wěn)定、界限明晰的需求，最基本的需求就是不恐懼、不焦躁、不混亂，所處的環(huán)境是可以讓人依賴的[7]。安全價值是法的價值中重要內(nèi)容，一些學(xué)者主張將安全提升至法律最高價值之列，以托馬斯·霍布斯和杰里米·邊沁為代表的法學(xué)家早已對安全的概念和價值進(jìn)行過分析?；舨妓箤⑷嗣竦陌踩鳛檎握x和社會正義的標(biāo)準(zhǔn)和尺度。邊沁認(rèn)為法律最重要的一個目的就是控制社會安全，保護(hù)人身和財產(chǎn)安全。博登海默在論述法律的性質(zhì)和作用時把安全同秩序和正義作了區(qū)別和聯(lián)系。他認(rèn)為，安全在法律價值中被界定為實(shí)質(zhì)價值，是指實(shí)體上真切的感受到安全，沒有侵略和侵害，也沒有財產(chǎn)的掠奪和不確定的動蕩，在生活中不受公害和變故的頻繁影響，在健康中不受疾病的困擾而不得治，在生產(chǎn)和工作中不因?yàn)槟昀虾褪I(yè)而失去生活來源，這些都構(gòu)成了安全的要素[8]。人工智能應(yīng)用的風(fēng)險，主要存在于相當(dāng)于人腦的強(qiáng)人工智能或超越于人腦的超人工智能時代，但隨著弱人工智能的普遍應(yīng)用，也將不斷引發(fā)人類、社會和個人三個層次的安全問題。

（一）人類安全風(fēng)險

1.智能自主武器的應(yīng)用

人工智能技術(shù)應(yīng)用在戰(zhàn)爭和自主武器以來，對其風(fēng)險的擔(dān)憂不亞于對核武器的擔(dān)憂。軍事機(jī)器人自投入戰(zhàn)場以來在戰(zhàn)爭中的殺傷力也是逐步提升，且已到達(dá)第三代。在美國對外的戰(zhàn)爭中，人工智能機(jī)器人戰(zhàn)士殺害了上千名對手的人類士兵，但同時出現(xiàn)了誤殺、誤傷上百名平民的情況[9]。也有美國對伊拉克戰(zhàn)爭中出現(xiàn)戰(zhàn)地機(jī)器人失控而對美方指揮官瞄準(zhǔn)、殺害的苗頭[10]。

另外，智能武器的發(fā)展既有可能導(dǎo)致“人工智能恐怖主義”走向極端。軍用機(jī)器人發(fā)展越發(fā)趨向智能化，其獨(dú)立自主環(huán)境探測能力增強(qiáng)。與普通士兵相比其成本更低，殺傷力更大，且傷亡更小。機(jī)器人作戰(zhàn)更加冷血，不會有惻隱之心，因此引發(fā)一場戰(zhàn)爭更加容易，也有可能會被恐怖組織所利用，形成全球恐怖活動的更高一輪恐慌和破壞。即使是中立的技術(shù)，被恐怖組織所利用，會造成更危險的后果，就有可能出現(xiàn)反對論所說的人類滅亡。正如霍金說：“人工智能的全方位發(fā)展可能招致人類的滅亡。如最大化使用智能性自主武器[11]。”

2.人工智能應(yīng)用“失控”的風(fēng)險

對人工智能失控的擔(dān)憂根本原因在于所謂“奇點(diǎn)”的到來。人工智能先驅(qū)雷·庫茲韋爾在他的書中大膽預(yù)測，十年后人類大腦可以相互傳遞信息，二十年后人工智能系統(tǒng)可以植入大腦而形成人機(jī)融合體，而三十年后人工智能就會超越人類智能出現(xiàn)可怕的奇點(diǎn)。等到智能水平發(fā)展足夠高時，我們不能預(yù)測人是人工智能輔助的人類，還是有大腦的機(jī)器人[12]。中國Mindputer實(shí)驗(yàn)室制造出世界首個“人工腦連接體”（True-Brain）的到來使驅(qū)雷·庫茲韋爾的預(yù)言多了幾分可能，人工腦指的是對大腦神經(jīng)結(jié)構(gòu)進(jìn)行結(jié)構(gòu)性、網(wǎng)絡(luò)狀分析，使機(jī)器能夠模擬大腦的活動過程，實(shí)現(xiàn)人工腦對生物腦活動狀態(tài)的追蹤，到那時與人腦的結(jié)構(gòu)和功能就極其相似，此時出現(xiàn)的就是類腦人工智能超越人類智能的奇點(diǎn)時刻②。正如霍金認(rèn)為的，人工智能失控實(shí)質(zhì)是對智能發(fā)展水平超過人類而成為和人一樣的主體，他可以決定自己的復(fù)制權(quán)和其他需求，而人類失去對其系統(tǒng)的控制，此時人類可能就會被傷害和邊緣化，也有可能會被毀滅，甚至顛覆人類。

（二）社會安全風(fēng)險

1.社會性失業(yè)風(fēng)險

人工智能工作的效率遠(yuǎn)遠(yuǎn)高出人類，尤其是在一些重復(fù)性、輔助性、制造業(yè)等低技術(shù)要求的工作領(lǐng)域，人工智能不需要休息也不會抱怨，效率高且精準(zhǔn)性也比人類要高的多，此類行業(yè)被機(jī)器人取代的可能性最大。在勞動密集型行業(yè)中，如果勞動者由人工智能取代，失業(yè)問題將極其嚴(yán)峻。對于容易被取代而失業(yè)的這部分人來說，較快掌握更多機(jī)器人所取代不了的技術(shù)也是不現(xiàn)實(shí)的，因此社會的就業(yè)穩(wěn)定性將大大降低，不安定因素升高。麥肯錫全球研究院發(fā)布的報告也對中國人工智能自動化工作即將取代人類約一半的工作內(nèi)容作出預(yù)測，并認(rèn)為這一可能性在中國極有可能出現(xiàn)[13]。中國智能化帶來的失業(yè)已經(jīng)開始上演，銀行的裁員③和阿里巴巴啟用人工智能員工和客服來取代人類客服、快遞員等工作崗位已經(jīng)有所顯現(xiàn)。

人工智能應(yīng)用取代一些行業(yè)既是必然趨勢，是當(dāng)代經(jīng)濟(jì)發(fā)展中不可阻止和逆轉(zhuǎn)的事實(shí)，即使人們會提升自身能力創(chuàng)造其他的就業(yè)崗位，但這一過程的速度與人工智能應(yīng)用發(fā)展速度相比顯然是緩慢的，個人對社會生產(chǎn)資料分配的需求將在一定時間內(nèi)得不到滿足，失業(yè)一旦成為規(guī)模必然引起社會秩序的混亂，犯罪率或群體性事件有可能上升，成為威脅社會安全的重大隱患。

2.社會倫理安全挑戰(zhàn)

雖然人類與機(jī)器的根本區(qū)別在于自由意志和人類情感，但機(jī)器突破情感限制而擁有情感并不是不可能的，現(xiàn)有研究已有可以感知到人類情緒的陪伴機(jī)器人，可以在人類情緒失落時進(jìn)行安慰。人工智能領(lǐng)域有專家認(rèn)為人工智能可以獲得情感，強(qiáng)人工智能和超人工智能更是具備情感和意志的人類大腦。人類社會是群體性社會，是由人和人之間的關(guān)系維系起來的社會，人類需要家人、朋友等的陪伴，情感的交流互通，這是人類的基本需求和人類社會的一般倫理規(guī)范。人類的婚姻家庭、工作環(huán)境等，都可能會因?yàn)闄C(jī)器人擁有感情而使人類孤立，由群居變?yōu)楠?dú)居，社會結(jié)構(gòu)會發(fā)生重大顛覆?？赡軙l(fā)生人和機(jī)器人相愛，人面對機(jī)器而選擇逃避更加復(fù)雜、需要付出努力維系的人的關(guān)系。具備意志和情感的人工智能將會造成人與人的關(guān)系、人與人工智能的關(guān)系和人工智能與人工智能的關(guān)系更加復(fù)雜化和多樣化，對人類社會的倫理安全提出重大挑戰(zhàn)。

（三）個人安全風(fēng)險

1.人身損害的安全風(fēng)險

與其他純工具性的技術(shù)所不同的是，人工智能應(yīng)用有獨(dú)立于人的自主學(xué)習(xí)能力和一定程度脫離人的控制作出智能化決定，及人工智能設(shè)計(jì)者也不能完全確保人工智能的絕對安全。如中國國際高新技術(shù)成果交易會上，應(yīng)用于教育的“小胖”機(jī)器人發(fā)生了砸展柜并傷人的事件，2015年德國大眾汽車機(jī)器人伸手擊打工作人員造成死亡的事件，2018年3月美國亞利桑那州優(yōu)步公司的一輛自動駕駛汽車撞死一名過路行人，成為全球首例自動駕駛汽車撞擊行人致死案件，另外用于外科手術(shù)的機(jī)器人造成大量病人感染、燒傷等傷害、死亡案件。將人工智能應(yīng)用在制造、交通、醫(yī)療、教育等重要領(lǐng)域的過程中會發(fā)生侵害人身、財產(chǎn)安全的事故和危險，成為不可忽視的安全風(fēng)險，無疑構(gòu)成法律上的侵權(quán)。

之所以會出現(xiàn)人工智能應(yīng)用的侵權(quán)問題，一是由于人工智能本身具有的復(fù)雜性和不可預(yù)見性；二是技術(shù)和應(yīng)用處于萌芽階段，產(chǎn)業(yè)發(fā)展只關(guān)注創(chuàng)新、市場和經(jīng)濟(jì)效益，安全因素未能充分考量④；三是有關(guān)人工智能應(yīng)用的法律法規(guī)、行業(yè)規(guī)范、責(zé)任體系等較應(yīng)用水平來講相對滯后和缺失，安全監(jiān)測和行業(yè)監(jiān)管不明確，應(yīng)用處于混亂和原始的狀態(tài)，因此應(yīng)用過程中的人身安全威脅成為首當(dāng)其沖應(yīng)當(dāng)考慮的安全問題。

然而人工智能應(yīng)用的自主性、獨(dú)立性、擬人性使侵害責(zé)任劃分面臨責(zé)任主體、歸責(zé)原則等的復(fù)雜性。以自動駕駛汽車致人死亡案件為例，交通法中侵權(quán)責(zé)任的劃分首先是按照過錯責(zé)任原則追究駕駛員的責(zé)任，但是當(dāng)汽車處于自動駕駛模式時駕駛員對汽車是沒有操作的，駕駛員此時對汽車安全行使的注意義務(wù)就轉(zhuǎn)移到自動駕駛系統(tǒng)上，按照侵權(quán)責(zé)任法的歸責(zé)原則是以行為人的行為為基礎(chǔ)追究責(zé)任的，這種情況下就無法追究駕駛員的過錯責(zé)任。正如美國優(yōu)步汽車撞死行人的案件中，司機(jī)沒有駕駛不承擔(dān)侵權(quán)責(zé)任，而自動駕駛系統(tǒng)也不是責(zé)任主體，因而對行人的侵權(quán)責(zé)任無人承擔(dān)，這對被侵權(quán)者來說顯然是不公平的⑤。該案例引起各方對無人駕駛汽車安全性的顧慮，如何衡量其安全性，如何設(shè)立無人駕駛汽車的通用安全標(biāo)準(zhǔn)，如何處理司機(jī)與無人駕駛的角色分工，如何劃分各方侵權(quán)責(zé)任等等一系列問題都亟需法律給予規(guī)范。

2.數(shù)據(jù)信息安全與隱私權(quán)風(fēng)險

關(guān)于隱私、個人數(shù)據(jù)保護(hù)等問題的討論自互聯(lián)網(wǎng)快速發(fā)展以來就是學(xué)者研究的重點(diǎn)和難點(diǎn)，但不同于之前的是，風(fēng)險的防控目的已經(jīng)由防止不合理的攫取信息謀取不正當(dāng)利益轉(zhuǎn)為協(xié)調(diào)數(shù)據(jù)作為人工智能發(fā)展的基礎(chǔ)和保護(hù)個人隱私的權(quán)益之間的取舍，這是由人工智能發(fā)展的云計(jì)算、大數(shù)據(jù)技術(shù)是人工智能發(fā)展的基礎(chǔ)，數(shù)據(jù)的收集和挖掘是智能水平發(fā)展的重要動力來源。人工智能發(fā)展規(guī)劃提出既要為人工智能發(fā)展建立海量數(shù)據(jù)的大數(shù)據(jù)資源，但又要強(qiáng)化數(shù)據(jù)安全和隱私保護(hù)，為數(shù)據(jù)風(fēng)險和智能發(fā)展提出較為中立的態(tài)度⑥。美國科技網(wǎng)站 Techcrunch 專欄作家 Natasha Lomas 評論稱，人工智能對數(shù)據(jù)的需求量是巨大的，比互聯(lián)網(wǎng)、大數(shù)據(jù)等的需求都要大，因?yàn)闄C(jī)器學(xué)習(xí)依賴于海量數(shù)據(jù)的驅(qū)動才能發(fā)揮功能提高智能水平[14]。如智能聊天工具就是通過對用戶手機(jī)中的信息、通訊、聊天習(xí)慣、購物等許多信息的獲取的分析，才能在和人類交談的過程中更加了解人類，達(dá)到圖靈測試的效果，而這樣就使個人在人工智能應(yīng)用面前變?yōu)椤巴该魅恕薄?/p>

人工智能應(yīng)用的深度學(xué)習(xí)技術(shù)是在數(shù)據(jù)基礎(chǔ)上發(fā)展的，數(shù)據(jù)是人工智能應(yīng)用的前提和基礎(chǔ)。人工智能時代下個人信息和數(shù)據(jù)的威脅主要來自兩點(diǎn)，一是智能系統(tǒng)漏洞和黑客攻擊本身帶來的數(shù)據(jù)泄露的潛在風(fēng)險，二是由于目前個人一味追求互聯(lián)網(wǎng)、人工智能帶來的便利而對個人信息的保護(hù)意識低下，人工智能企業(yè)為了追求利益而對個人信息以明示或默示的形式加以收集、利用、倒賣，從而使個人在精準(zhǔn)營銷的便利中落入精準(zhǔn)詐騙的圈套，最終給個人人身、財產(chǎn)等都帶來了巨大隱患。

人工智能在指紋識別、面部識別、語音識別以及通過各種應(yīng)用對個人隱私進(jìn)行學(xué)習(xí)的過程中，精細(xì)地記錄著個人生活，掌握個人隱私，讓侵犯個人隱私的行為更加方便，需要相應(yīng)的法律和標(biāo)準(zhǔn)對個人隱私給予更有力的保護(hù)。當(dāng)前對隱私的保護(hù)模式采取的是“同意收集”的模式，即對隱私信息的管制包括對使用者明示或未明示同意的收集。利用人工智能技術(shù)很容易推導(dǎo)出公民不愿意泄露的隱私，例如從公共數(shù)據(jù)中推導(dǎo)出私人信息，從個人信息中推導(dǎo)出和個人有關(guān)的其他人員（如朋友、親人、同事）信息（在線行為、人際關(guān)系等）。這類信息超出了最初個人同意披露的個人信息范圍。

三、人工智能應(yīng)用安全風(fēng)險的法律防控

法學(xué)對風(fēng)險社會問題的研究的重點(diǎn)是法律制度與法律秩序，在安全風(fēng)險的管理中，哪怕是一個細(xì)枝末節(jié)的危險因子或者可能性較小的災(zāi)難勢頭，都應(yīng)當(dāng)由法律規(guī)則和法律秩序來規(guī)范和預(yù)防[15]20。因此，法律明確人工智能應(yīng)用范圍和程度是預(yù)防和解決安全問題的重要防控途徑。

（一）法律原則：人工智能法律人格定位

人工智能“擬人性”的行為特征，使人們懷疑可以自主決定的人工智能應(yīng)用是否會取代人類，挑戰(zhàn)人類主體地位。同時人工智能在應(yīng)用過程中的類人性也對現(xiàn)行法律關(guān)系造成挑戰(zhàn)，法學(xué)領(lǐng)域?qū)ζ浞扇烁襁M(jìn)行了討論，目的是為了在人工智能參與下的社會關(guān)系，明確人和機(jī)器的權(quán)利、義務(wù)關(guān)系和責(zé)任體系。人工智能是否可以獲得法律人格或者說是法律主體資格，意味著人工智能是否可以成為法律上的“人”。當(dāng)前法學(xué)領(lǐng)域關(guān)于人工智能法律人格的討論呈現(xiàn)出否定說和肯定說兩種相反的觀點(diǎn)：

第一種是對人工智能法律人格持否定態(tài)度，主要有王利明、吳漢東教授的客體控制說和鄭戈的工具說。吳漢東教授認(rèn)為從法理學(xué)主客體二分法來說，人工智能不是有生命的自然人也非有獨(dú)立意志的法人，是受法律主體控制的機(jī)器人，不足以取得獨(dú)立的主體地位[15]5；王利明教授從人工智能產(chǎn)生的屬性即代替人類從事一定行為，是作為客體而出現(xiàn)的，不能獨(dú)立享有權(quán)利和承擔(dān)義務(wù)，現(xiàn)行的法律體制和規(guī)則可以解決人工智能帶來的挑戰(zhàn)，沒必要賦予其民事主體資格[16]；鄭戈認(rèn)為人工智能作為人類的工具，造成傷害以后承擔(dān)責(zé)任的還是人，賦予其法律主體地位是多余的[17]。

第二種是對人工智能法律人格持支持態(tài)度，主要有電子人說、有限人格說和電子代理人。將人工智能視為電子人在實(shí)踐中初見端倪，歐盟、韓國、愛沙尼亞對人工智能“電子人”或“代理人”已經(jīng)表現(xiàn)出了立法動向[18]。郭少飛則從實(shí)踐、法史以及自主能力的本質(zhì)屬性認(rèn)為人工智能符合“電子人”的要求⑦。袁曾認(rèn)為人工智能作為有獨(dú)立意識的智慧工具，應(yīng)當(dāng)享有權(quán)利承擔(dān)義務(wù)具備法律人格，但是與自然人和法人人格不同的是，人工智能承擔(dān)責(zé)任的能力有限，因此應(yīng)該采用有限人格。電子代理人實(shí)則是將人工智能看作了人的“代理人”，因?yàn)榇砣吮举|(zhì)上也是具有法律人格的人。有學(xué)者以“自主意識”為標(biāo)準(zhǔn)，認(rèn)為人工智能發(fā)展過程中，人工智能會由原來的保守“工具論”最終實(shí)現(xiàn)“擬制論”的轉(zhuǎn)變[19]。

以上各位學(xué)者支持或否定的態(tài)度是從人工智能是否具有“自主意識”以及法律主客體要素等進(jìn)行分析，可謂“百花齊放，百家爭鳴”。但從人工智能本質(zhì)及安全角度來看，筆者贊同第一種觀點(diǎn)，認(rèn)為人工智能應(yīng)用法律人格的態(tài)度應(yīng)當(dāng)更加保守和謹(jǐn)慎，科技和時代的發(fā)展推動著法律的變革，但并非新興事物的產(chǎn)生都必然引起傳統(tǒng)法律價值和法律框架體系的變化，尤其是與人類越來越相似的人工智能，更應(yīng)當(dāng)采取理性的態(tài)度去對待。美國著名哲學(xué)家希拉里·普特南認(rèn)為，人工智能法律地位的有無不是科技發(fā)展程度決定的，而是法律是否賦予它主體資格[20]。從人工智能本質(zhì)屬性出發(fā)，任何科技進(jìn)步和發(fā)明都是由人類為主導(dǎo)創(chuàng)造并服務(wù)人類的工具，自產(chǎn)生之日便不具有和人平等的法律屬性。人工智能只是幫助人類的工具，不具有自然人的獨(dú)立意志，不能賦予其法律主體地位[21]。之所以會產(chǎn)生法律人格的觀點(diǎn)無非是工具能夠像人類一樣有智慧，但仍不能改變它作為工具的屬性?；谝陨戏治鲆约鞍踩珵楹诵牡姆蓛r值，筆者對人工智能應(yīng)用法律人格采取否定的態(tài)度，即仍將人工智能應(yīng)用視為人類智能延伸的工具，堅(jiān)持人工智能“工具論”的法律客體原則。

（二）法律規(guī)制：人工智能應(yīng)用的負(fù)面清單

對于人工智能的應(yīng)用，應(yīng)當(dāng)按照其對于安全的影響劃分為自由應(yīng)用領(lǐng)域、限制應(yīng)用領(lǐng)域和禁止應(yīng)用領(lǐng)域，采用負(fù)面清單制度明確限制應(yīng)用領(lǐng)域和禁止應(yīng)用領(lǐng)域，并分別采用許可制及嚴(yán)格禁止的方式予以規(guī)范。

1.自由應(yīng)用領(lǐng)域的自由生產(chǎn)制度

人工智能應(yīng)用整體是符合社會發(fā)展要求的，技術(shù)的越來越成熟在很多領(lǐng)域的應(yīng)用是符合安全和發(fā)展雙重要求的，因此在產(chǎn)業(yè)升級背景和社會化應(yīng)用中可以自由應(yīng)用，除法律明確限制應(yīng)用和禁止應(yīng)用的領(lǐng)域之外，均應(yīng)以自由生產(chǎn)為原則，允許企業(yè)自由應(yīng)用人工智能技術(shù)并自由生產(chǎn)。

2.限制應(yīng)用領(lǐng)域的審批制度

自主意識是人和機(jī)器最大的差別，人工智能目前雖然已經(jīng)可以具有獨(dú)立意識，可以做出獨(dú)立的行為，但仍不具備人類的情緒和感情。但是人工心理和人工情感的研究在世界范圍內(nèi)都處于熱門研究領(lǐng)域，世界上研究帶有情感的機(jī)器人最先進(jìn)的國家就是日本[22]。在應(yīng)用領(lǐng)域兒童和老人陪伴機(jī)器人可以賦予一定情感，這不會危及人的安全，也不會引起法律、倫理方面的挑戰(zhàn)。然而像電影《人工智能》中出現(xiàn)的人工智能孩子、人工智能性伴侶等都是像人一樣擁有感情和情緒，他們的應(yīng)用不僅引起了倫理風(fēng)險，還會在收養(yǎng)、婚姻制度等方面引發(fā)風(fēng)險。當(dāng)然電影中的都是科幻色彩，但是隨著技術(shù)的進(jìn)步，使機(jī)器富有情感不是沒有可能，但在應(yīng)用范圍中應(yīng)當(dāng)予以嚴(yán)格的限制。

有學(xué)者認(rèn)為人工智能情感和自主意識應(yīng)當(dāng)為技術(shù)禁區(qū)，因?yàn)樽灾饕庾R作為機(jī)器和人最大的區(qū)別，禁止人工智能擁有自主意識是保證人作為這個世界唯一能夠意識到“我”的獨(dú)立存在的個體，是保證人自身安全的最重要的屏障。王治東教授認(rèn)為人工智能如果有了“我”的概念和意識，不僅是對人的模擬，而且具有了人的核心內(nèi)核。在這個層面而言，人工智能就在個體上可以成為另一個物種的“人”[23]。而人工智能一旦有了“我”的自我意識，就會視人類為異類，這時將會對人類生存造成實(shí)質(zhì)的威脅。但具備情感和自主意識的人工智能技術(shù)應(yīng)用于孤獨(dú)人陪伴、自閉兒童治療等方面卻有著不可替代的作用，基于此，筆者認(rèn)為在堅(jiān)持人工智能“工具論”的法律原則之下，對于人工智能情感和自主意識技術(shù)應(yīng)用的領(lǐng)域，應(yīng)確定為限制應(yīng)用領(lǐng)域，并通過審批制度予以法律監(jiān)管。

同時，限制應(yīng)用的領(lǐng)域要使人工智能的自主化程度和智能水平處于人類可控制的范圍。人工智能應(yīng)用作為人類的工具必然有超過人的強(qiáng)大的能力，但隨著其深度學(xué)習(xí)能力加深，智能是否會超過人類智能仍是未知，因此要確保人類對其應(yīng)用程度的把控。如哪些事情可以由智能系統(tǒng)自行決定，哪些又必須靠人來決策，對于限制應(yīng)用的領(lǐng)域，只有符合安全標(biāo)準(zhǔn)并得到安全許可才能投入商業(yè)應(yīng)用[24]。

3.禁止應(yīng)用領(lǐng)域的嚴(yán)格禁止

正如克隆技術(shù)在成功克隆出一只羊，又克隆出一只狗、一只豬，盡管技術(shù)已經(jīng)成熟，但是無論如何都不能允許克隆人，克隆人不僅面臨復(fù)雜的道德倫理困境，還會面臨人的生存問題的挑戰(zhàn)，因此，目前全世界法律均禁止克隆人。但是這一技術(shù)不是絕對的被禁止，應(yīng)用在克隆器官方面在醫(yī)療領(lǐng)域卻是一大進(jìn)步，對人類健康和生命也是有利的。相比較而言，人工智能更具有復(fù)雜性和不可預(yù)測性，對于全人類造成危險并顛覆人類的人工智能技術(shù)，應(yīng)確定為禁止應(yīng)用領(lǐng)域并嚴(yán)格禁止。首先被確定為禁止應(yīng)用的應(yīng)是智能自主武器的應(yīng)用，其他可能會被毀滅甚至顛覆人類的人腦技術(shù)也應(yīng)限制于研究領(lǐng)域，明確禁止這一技術(shù)的生產(chǎn)應(yīng)用。

隨著人工智能技術(shù)的發(fā)展，其應(yīng)用的安全風(fēng)險是不可避免。法律對于技術(shù)調(diào)控的核心在于規(guī)范技術(shù)的應(yīng)用，在鼓勵技術(shù)發(fā)展、轉(zhuǎn)化之余，更應(yīng)當(dāng)站在安全的視角，對技術(shù)應(yīng)用加以安全風(fēng)險防范，使技術(shù)應(yīng)用達(dá)到最大限度的安全，真正促進(jìn)人類社會的發(fā)展。人工智能時代追求高速、自由發(fā)展應(yīng)當(dāng)充分考慮到安全這一人類的基本需求，并立足當(dāng)下分析存在的安全風(fēng)險，明確人工智能與人的關(guān)系，建立多層次的人工智能發(fā)展規(guī)范和模式，走向?qū)崿F(xiàn)健康、安全、穩(wěn)定的人工智能新時代。

注釋

① 中國電子技術(shù)標(biāo)準(zhǔn)化研究院.人工智能標(biāo)準(zhǔn)化白皮書.2018.1.

② 華春雷.人工腦連接體：類腦人工智能的奇點(diǎn)時刻來臨.華春雷科學(xué)網(wǎng)博客.

③ 向家瑩.五大銀行集體裁員撤點(diǎn) 競速“智能化轉(zhuǎn)型”.經(jīng)濟(jì)參考報.2018.4.9。銀行柜員的工作和部分銀行網(wǎng)點(diǎn)已經(jīng)被裁撤掉，主要的幾大銀行如工行、農(nóng)行、建行等紛紛裁員，預(yù)計(jì)每家銀行接近有上萬人失業(yè)，取而代之的是智能化網(wǎng)點(diǎn)和柜臺、以及智能客服。中國銀行的年報提出了智能化網(wǎng)點(diǎn)超過百分之八十覆蓋率的目標(biāo)。

④ 央廣網(wǎng).高交會官方回應(yīng)機(jī)器人傷人事件：員工操作不當(dāng)所致.2016.11.19，世界機(jī)器人大會秘書長、中國電子學(xué)會副理事長徐曉蘭表示，我國服務(wù)機(jī)器人的應(yīng)用還屬于萌芽狀態(tài)或是試用階段，但很多企業(yè)忙于或是急于做市場推廣，更多的是注重它的功能和應(yīng)用，而對安全方面的設(shè)計(jì)恰恰是它的弱點(diǎn)。這次事件給我們帶來了一個警示，提醒我們要更加注重服務(wù)機(jī)器人的安全設(shè)計(jì)。

⑤ 曹建峰.全球首例自動駕駛致死案背后，“誰來擔(dān)責(zé)”的法理探討.騰訊研究院.

⑥ 2017年7月國務(wù)院《新一代人工智能發(fā)展規(guī)劃》.中華人名共和國政府網(wǎng).

⑦ 郭少飛.“電子人”法律主體論[J].東方法學(xué).2018：10.他認(rèn)為人工智能可以作為電子人的依據(jù)在于：實(shí)踐中人工智能主體已有成例或官方建議；歷史上，自然人、動物或無生命體法律主體的演化表明，存在充足的法律主體制度空間容納 “電子人”；法理上，現(xiàn)有法律主體根植之本體、能力與道德要素，“電子人”皆備。由外部視之，人工智能現(xiàn)有及潛在的經(jīng)濟(jì)、社會、文化、倫理影響以及對哲學(xué)范式的沖擊，促使既有觀念、模式、體系開始轉(zhuǎn)換，“電子人”的法外基礎(chǔ)已然或正在生成并強(qiáng)化。