人工智能正在對(duì)法律提出挑戰(zhàn)

榮智慧

2018年11月24日，全國(guó)人大常委會(huì)委員長(zhǎng)會(huì)議組成人員進(jìn)行專題學(xué)習(xí)，圍繞人大立法監(jiān)督工作保障和規(guī)范人工智能發(fā)展進(jìn)行學(xué)習(xí)討論，認(rèn)為全國(guó)人大相關(guān)專門(mén)委員會(huì)、工作機(jī)構(gòu)和有關(guān)方面要及早動(dòng)手，盡快行動(dòng)，對(duì)人工智能涉及的法律問(wèn)題進(jìn)行深入調(diào)查研究，為相關(guān)立法工作打好基礎(chǔ)、做好準(zhǔn)備。

美國(guó)、歐盟、英國(guó)、德國(guó)自2016年開(kāi)始就積極推動(dòng)人工智能責(zé)任立法、人工智能倫理準(zhǔn)則以及自動(dòng)駕駛、醫(yī)療機(jī)器人等領(lǐng)域的細(xì)分立法。從《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》到人工智能被寫(xiě)入2017年政府工作報(bào)告，從《新一代人工智能發(fā)展規(guī)劃》到十九大報(bào)告的“推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合”，中國(guó)對(duì)人工智能的重視正在不斷提高。

當(dāng)下，人工智能作為解決金融、交通、城市建設(shè)、醫(yī)療等一系列迫切的社會(huì)問(wèn)題的手段，也對(duì)立法和公共政策的制定提出了更高的要求。在人工智能興起的背景下，中國(guó)的司法改革也正在面臨更嚴(yán)峻的知識(shí)挑戰(zhàn)，這種挑戰(zhàn)短期內(nèi)來(lái)自現(xiàn)代化治理的方法論，而長(zhǎng)遠(yuǎn)來(lái)看關(guān)系到的是人類對(duì)自身的“認(rèn)識(shí)論”。

理財(cái)機(jī)器人出問(wèn)題，損失算誰(shuí)的？

吳穎打開(kāi)手機(jī)，同時(shí)開(kāi)啟了四五個(gè)銀行APP。她使用理財(cái)機(jī)器人才兩個(gè)月，很多概念并沒(méi)有搞清，但她唯一清楚的是，這些署名“AI”的人工智能投資顧問(wèn)，會(huì)為她提供或穩(wěn)健、或均衡、或成長(zhǎng)、或積極的投資組合。她將手機(jī)推到《南風(fēng)窗》記者面前，“人工智能的好處我覺(jué)得就是直接，而且效率特別高?！彼傆X(jué)得理財(cái)顧問(wèn)都是“忽悠”居多，對(duì)“高科技”有一種下意識(shí)的信任。

理財(cái)機(jī)器人并不是一個(gè)“實(shí)體”機(jī)器人，面對(duì)面幫助客戶理財(cái)，而是透過(guò)線上調(diào)查問(wèn)卷，或者是APP上客戶的資產(chǎn)和消費(fèi)數(shù)據(jù)，來(lái)了解投資者的背景資料、風(fēng)險(xiǎn)偏好和投資習(xí)慣，再經(jīng)由算法“量身打造”一套投資組合。

舉例來(lái)說(shuō)，理財(cái)機(jī)器人在做完投資習(xí)慣和風(fēng)險(xiǎn)調(diào)查后，會(huì)為愿意承受高風(fēng)險(xiǎn)、進(jìn)而享受高回報(bào)的投資者推薦全球股市比重占70%、美債比重占30%的投資組合；而為正在準(zhǔn)備退休的保守型投資者，推薦股票型占40%、債券型占60%的投資組合。

理財(cái)?shù)恼嬲x，是資產(chǎn)配置。先決定好投資工具，比如股票、債券、現(xiàn)金等，再按照個(gè)人的風(fēng)險(xiǎn)和回報(bào)偏好來(lái)配置比例。不過(guò)，在市場(chǎng)波動(dòng)下，持有的投資組合會(huì)因?yàn)閮r(jià)格漲跌，凈值比例偏離原來(lái)的設(shè)定比例。而理財(cái)機(jī)器人的重要特點(diǎn)，就是自動(dòng)地進(jìn)行資產(chǎn)配置再平衡。它以月度、季度、年度的方式檢視資產(chǎn)績(jī)效，定期調(diào)整。像吳穎這種常年“996”的忙碌職場(chǎng)人士，再也不用茶飯不思地“盯盤(pán)”。

理財(cái)機(jī)器人也叫智能投資顧問(wèn)（Robo-Advisor），是近年風(fēng)靡華爾街的創(chuàng)新性金融科技產(chǎn)品。美國(guó)金融數(shù)據(jù)分析服務(wù)提供商Kensho，它的軟件可以在2分鐘內(nèi)做出反應(yīng)：當(dāng)三級(jí)颶風(fēng)襲擊佛羅里達(dá)時(shí)，哪只水泥股的漲幅最大？蘋(píng)果發(fā)布新款iPhone，哪家供應(yīng)商股價(jià)上漲更快？

2016年，以招商銀行、廣發(fā)證券為代表的中國(guó)銀行和券商等金融機(jī)構(gòu)，也開(kāi)始入局。2017年，中國(guó)各大銀行、證券公司和保險(xiǎn)公司均推出了相關(guān)產(chǎn)品。吳穎去年就聽(tīng)同事們談及，一貫“保守”的她今年也加入了進(jìn)來(lái)。

中國(guó)的理財(cái)機(jī)器人和國(guó)外的最大區(qū)別是，前者不能進(jìn)行“代客資金交易”，說(shuō)白了，就是不能“自行付錢(qián)”?！拔乙餐Κq豫的，”吳穎說(shuō)，“雖然買(mǎi)不買(mǎi)單，決定權(quán)還是在我手上，但萬(wàn)一這個(gè)機(jī)器人出問(wèn)題了，或者被黑客攻擊了，我的損失算誰(shuí)的責(zé)任？是那個(gè)寫(xiě)代碼的，還是黑客，還是整個(gè)銀行？”

雖然人工智能遠(yuǎn)遠(yuǎn)達(dá)不到人類的認(rèn)知水平，但是作為工具的使用，已經(jīng)出現(xiàn)了很多急需明確的權(quán)責(zé)問(wèn)題。

同樣的問(wèn)題也發(fā)生在醫(yī)療機(jī)器人領(lǐng)域。目前中國(guó)的醫(yī)療機(jī)器人應(yīng)用尚未普及，但小范圍的應(yīng)用也是事關(guān)“生死”。據(jù)了解，中國(guó)有三十幾家醫(yī)療機(jī)器人企業(yè)。北京積水潭醫(yī)院、301 醫(yī)院、河北醫(yī)科大學(xué)第三醫(yī)院等幾家醫(yī)療機(jī)構(gòu)，已經(jīng)開(kāi)始臨床應(yīng)用骨科機(jī)器人。深圳某企業(yè)的手術(shù)機(jī)器人，可以幫助醫(yī)生，通過(guò)使用電腦和軟件來(lái)控制和移動(dòng)手術(shù)儀器，進(jìn)入病人身體上的微小切口，來(lái)完成不同的手術(shù)步驟。

如果醫(yī)療機(jī)器人出現(xiàn)故障，發(fā)生醫(yī)療事故，權(quán)利和責(zé)任又該如何明確？會(huì)不會(huì)進(jìn)一步激化中國(guó)業(yè)已嚴(yán)峻的醫(yī)患關(guān)系？

賦予人工智能虛擬人格？

人工智能是一種為社會(huì)帶來(lái)全方位變革的通用技術(shù)，可以應(yīng)用到從農(nóng)業(yè)、制造業(yè)再到法律、醫(yī)療、金融服務(wù)業(yè)等各種各樣的生活場(chǎng)景之中。而且，機(jī)器學(xué)習(xí)（特別是無(wú)監(jiān)督學(xué)習(xí)）技術(shù)，會(huì)帶來(lái)結(jié)果的不可控性。就像微軟的聊天機(jī)器人，上線沒(méi)幾天，跟網(wǎng)友學(xué)會(huì)了不少粗話，甚至還學(xué)會(huì)了種族歧視。

因此，法律如何規(guī)制人工智能，在鼓勵(lì)創(chuàng)新的同時(shí)，保護(hù)人類社會(huì)的基本價(jià)值，將風(fēng)險(xiǎn)控制在可控范圍內(nèi)，是一個(gè)急需討論和立法回應(yīng)的問(wèn)題。

但中國(guó)社會(huì)科學(xué)院知識(shí)產(chǎn)權(quán)中心教授楊延超告訴《南風(fēng)窗》記者，鑒于目前人工智能的發(fā)展水平，制定一部總括性的“人工智能法”，時(shí)機(jī)還不成熟。

最接近一般性人工智能法的立法嘗試，是2016年歐洲議會(huì)向歐盟委員會(huì)提出的“機(jī)器人法”立法建議報(bào)告。這份報(bào)告的立法，只針對(duì)有形的“智能機(jī)器”，包括機(jī)器人、智能家電和自動(dòng)駕駛汽車等。但是，對(duì)于人工智能的核心—算法，并沒(méi)有相關(guān)的規(guī)制。也就是說(shuō)，其思路和規(guī)制食品安全、產(chǎn)品責(zé)任的思路基本上一樣。

那么為什么還要緊鑼密鼓地討論人工智能的立法？楊延超認(rèn)為，雖然人工智能遠(yuǎn)遠(yuǎn)達(dá)不到人類的認(rèn)知水平，但是作為工具的使用，已經(jīng)出現(xiàn)了很多急需明確的權(quán)責(zé)問(wèn)題?！斑@時(shí)候，我們就需要賦予人工智能一個(gè)虛擬人格，來(lái)解決利益的第一層分配問(wèn)題?！?/p>

他舉了一個(gè)例子，“就像法人，法人也不是自然人，但是我們能夠賦予公司一個(gè)虛擬的人格來(lái)明確它的地位?！睂?duì)于人工智能來(lái)說(shuō)，“虛擬人格就是法律人格。從消極的方面說(shuō)，就是判斷誰(shuí)來(lái)承擔(dān)責(zé)任；從積極的方面說(shuō)，就是行為的效力怎么認(rèn)定?！?/p>

自動(dòng)駕駛是理解人工智能立法難題的一個(gè)典型案例。目前，自動(dòng)駕駛車輛是在一個(gè)“無(wú)法可依”的情況下“高調(diào)”上路的。2017年12月2日，四輛裝備著華為開(kāi)發(fā)的“阿爾法巴-智能駕駛公交系統(tǒng)”的自動(dòng)駕駛公交車在深圳福田保稅區(qū)上路，這是世界首例在開(kāi)放道路上行駛的自動(dòng)駕駛公交車。

自動(dòng)駕駛首先面臨著“法律人格”地位下區(qū)分其民事行為能力和責(zé)任能力的問(wèn)題?！斑^(guò)錯(cuò)”是現(xiàn)代交通法構(gòu)建的基石，酒駕、疏忽大意、無(wú)證駕駛都是“過(guò)錯(cuò)”。然而，在無(wú)人駕駛的時(shí)代，“過(guò)錯(cuò)”就要進(jìn)行重新劃分。根據(jù)2017年5月德國(guó)聯(lián)邦議會(huì)批準(zhǔn)的《德國(guó)道路交通法》修正案，如果自動(dòng)駕駛模式正在運(yùn)行過(guò)程中發(fā)生了事故，責(zé)任在汽車制造商；如果自動(dòng)駕駛系統(tǒng)發(fā)出了請(qǐng)求人工控制的信號(hào)，責(zé)任才會(huì)轉(zhuǎn)移到汽車的駕駛?cè)藛T身上。

楊延超說(shuō)，這實(shí)際上是產(chǎn)品質(zhì)量責(zé)任，也就是嚴(yán)格責(zé)任，它不關(guān)心“過(guò)錯(cuò)”，而是關(guān)心汽車是誰(shuí)生產(chǎn)的。在無(wú)人駕駛時(shí)代，交通事故的責(zé)任主體將由個(gè)人轉(zhuǎn)為汽車的生產(chǎn)企業(yè)。這對(duì)原有的交通法律，是顛覆性的。而且，人工智能技術(shù)的應(yīng)用可謂“牽一發(fā)而動(dòng)全身”，交通事故責(zé)任分配中的保險(xiǎn)制度，也將出現(xiàn)徹底的轉(zhuǎn)變。

一直以來(lái)，保險(xiǎn)制度在交通事故責(zé)任有著兩方面的作用。一方面它讓受害者救濟(jì)變得更加及時(shí)—受害者可從保險(xiǎn)費(fèi)用中先行獲得救濟(jì)；另一方面，它也分散了責(zé)任承擔(dān)，將一人責(zé)任分解成社會(huì)分擔(dān)。然而，隨著無(wú)人駕駛時(shí)代的到來(lái)，保險(xiǎn)費(fèi)用的交納或許將由車輛購(gòu)買(mǎi)者變?yōu)槠噺S商。

“霍布斯時(shí)刻”的到來(lái)？

中國(guó)的司法改革，很大程度上是一種知識(shí)的改革。這絕不是說(shuō)，法律人只要死讀書(shū)本就能解決法律問(wèn)題，而是說(shuō)，從司法決策的角度去看，它首先就是知識(shí)運(yùn)用的過(guò)程；從程序立法的方面去看，它同樣需要知識(shí)立場(chǎng)和知識(shí)內(nèi)涵。人工智能的出現(xiàn)，以及其可預(yù)期的發(fā)展前景，為司法改革提出了更新的情況、更新的知識(shí)，如果不能理解這種知識(shí)，司法改革也將更加難以推進(jìn)。

在當(dāng)下“弱人工智能”的狀態(tài)下，人們需要解決的往往是“知識(shí)產(chǎn)權(quán)”問(wèn)題。這個(gè)問(wèn)題的表層是，立法者需要給予人工智能更多的權(quán)利。像撰稿機(jī)器人、作曲機(jī)器人、法律咨詢機(jī)器人，應(yīng)該享有相應(yīng)的創(chuàng)作者權(quán)利。更深一步去看，這些機(jī)器人背后創(chuàng)造其算法的人，也相應(yīng)享有創(chuàng)作者的權(quán)利，包括著作權(quán)、專利權(quán)等。

在中美貿(mào)易摩擦中，知識(shí)產(chǎn)權(quán)也成為爭(zhēng)端的關(guān)鍵。據(jù)悉，中國(guó)最高人民法院也將賦予知識(shí)產(chǎn)權(quán)庭更大的權(quán)力，來(lái)強(qiáng)化知識(shí)產(chǎn)權(quán)的重要性，統(tǒng)一知識(shí)產(chǎn)權(quán)案件的審判標(biāo)準(zhǔn)。

當(dāng)人工智能遠(yuǎn)遠(yuǎn)超出人類的想象之后，法律又該如何規(guī)范兩個(gè)物種的生活？如何創(chuàng)造一個(gè)穩(wěn)定的預(yù)期？還是說(shuō)，人類將再次面對(duì)那個(gè)“一切人對(duì)一切人”的“霍布斯時(shí)刻”？

知識(shí)產(chǎn)權(quán)的應(yīng)用范圍，需要不斷地“擴(kuò)大”。但是，諸如“密碼朋克”“自由軟件運(yùn)動(dòng)”等群體的崛起或運(yùn)動(dòng)的爆發(fā)，也提供了另外一種可能。越來(lái)越嚴(yán)格的知識(shí)產(chǎn)權(quán)保護(hù)，也許極大地阻礙了知識(shí)、技術(shù)、想法的快速高效流通，從而極大地阻礙了人類的創(chuàng)新活動(dòng)和發(fā)明活動(dòng)。

這就意味著，“弱人工智能”時(shí)代的立法或規(guī)制，特別需要注意自身的尺度和邊界。它既要給文化傳播、發(fā)明創(chuàng)造留下足夠的空間，也要保護(hù)創(chuàng)作者的“私人財(cái)產(chǎn)”—以利于長(zhǎng)期的、持續(xù)的、有回報(bào)的知識(shí)生產(chǎn)。它不僅要鼓勵(lì)和保護(hù)人工智能的獨(dú)立“發(fā)揮”，也要前瞻性地避免人工智能帶來(lái)的破壞和損害。

然而，等人們跨越“奇點(diǎn)”，或者進(jìn)入“強(qiáng)人工智能”時(shí)代，立法者面臨的就不僅僅是知識(shí)產(chǎn)權(quán)的問(wèn)題，或者說(shuō)羅馬法里的“繳出賠償”原則—機(jī)器人的“主人”最終承擔(dān)責(zé)任；而是電子人格是否與人類人格真正等同的問(wèn)題，換句話說(shuō)，就是強(qiáng)人工智能算不算一個(gè)“人”。

雖然沙特阿拉伯在2017年授予機(jī)器人索菲亞以公民身份，還向她發(fā)放了護(hù)照，但炒作的色彩大于實(shí)際意義，索菲亞遠(yuǎn)沒(méi)有具備“思考”的能力。楊延超提到了科幻作家阿西莫夫的“機(jī)器人三定律”，他認(rèn)為這一文學(xué)設(shè)定的意義是重大的，強(qiáng)人工智能具備人類的諸多能力之后，人類的安全問(wèn)題應(yīng)該被首先納入考量。

對(duì)于法律人而言，技術(shù)的更迭，時(shí)代的更替，都是一種大的背景，而司法改革并不以變化為目的，歸根結(jié)底，它以公平和正義為目的。

如今的人工智能在司法領(lǐng)域的應(yīng)用，特別是在取證方面，極大地提高了效率。對(duì)人工智能知識(shí)的掌握和理解，也意味著對(duì)正義的理解的進(jìn)一步加深。遲來(lái)的正義雖然好過(guò)沒(méi)有來(lái)的正義，但依然比不上“及時(shí)”的正義。

而面對(duì)未來(lái)將與人類平等的強(qiáng)人工智能，人們對(duì)“主奴關(guān)系”“公平”“正義”的看法，又將與今日截然不同。人類從來(lái)沒(méi)有賦予過(guò)任何一個(gè)物種與人類相等的權(quán)利，正是因?yàn)槠渌锓N無(wú)法與人類抗衡。當(dāng)人工智能遠(yuǎn)遠(yuǎn)超出人類的想象之后，法律又該如何規(guī)范兩個(gè)物種的生活？如何創(chuàng)造一個(gè)穩(wěn)定的預(yù)期？還是說(shuō)，人類將再次面對(duì)那個(gè)“一切人對(duì)一切人”的“霍布斯時(shí)刻”？