人工智能產(chǎn)品侵權(quán)的責(zé)任承擔(dān)

■ 梁 鵬

(中國社會科學(xué)院大學(xué)政法學(xué)院教授)

自20世紀(jì)上半葉以來，人工智能在世界范圍內(nèi)呈現(xiàn)了加速發(fā)展的趨勢，其實際應(yīng)用逐漸出現(xiàn)在機器視覺、人臉識別、自動規(guī)劃、智能搜索、智能控制等領(lǐng)域。人工智能的發(fā)展在給人類帶來巨大福利的同時，也帶來了人類的恐懼。法律界人士的擔(dān)憂之一是，人工智能產(chǎn)品發(fā)生的法律責(zé)任如何承擔(dān)？其中最重要的一個方面是：人工智能產(chǎn)品能否獨立承擔(dān)責(zé)任？如何承擔(dān)責(zé)任？例如，美國東部時間2018年3月19日，一輛優(yōu)步自動駕駛汽車在亞利桑那州坦佩市的公共道路上與一名行人相撞，致該行人死亡。這一事件迅速發(fā)酵，人們的一個追問是，自動駕駛真的安全嗎？倘若自動駕駛汽車發(fā)生交通事故，究竟由誰承擔(dān)法律責(zé)任？是車輛的所有者？還是車輛的制造者？抑或其他責(zé)任者？這一問題的棘手之處在于：人工智能產(chǎn)品具有自主思維能力，可以自我決策、自我執(zhí)行，其作出的行為，應(yīng)否自我承擔(dān)責(zé)任？本文擬從人工智能產(chǎn)品的法律地位出發(fā)，探討人工智能產(chǎn)品的責(zé)任承擔(dān)及其責(zé)任保險問題。

一、人工智能產(chǎn)品的法律地位

如前所述，高級人工智能產(chǎn)品具有自己的思維，能夠作出并執(zhí)行決策，其已經(jīng)具有一個“人”的能力，是否應(yīng)當(dāng)賦予其一定的法律地位？人工智能產(chǎn)品的法律地位，與其性質(zhì)密切相關(guān)，在探討人工智能產(chǎn)品的法律地位之前，必須對人工智能產(chǎn)品的性質(zhì)進(jìn)行研究。

關(guān)于人工智能產(chǎn)品的性質(zhì)，學(xué)界有工具說、電子奴隸說和代理說三種觀點*Kalin Hristov: Artificial Intelligence and The Copyright Dilemma. 2016-201(57):442.參見袁 曾：《人工智能有限法律人格審視》，載《東方法學(xué)》，2017年第5期。，在法律上分別對應(yīng)著三種法律地位。工具說認(rèn)為，人工智能產(chǎn)品只是人類身體的一種延伸，是為人類服務(wù)的一種工具，其并非獨立的主體。在這一觀點之下，人工智能產(chǎn)品不是一個法律上的獨立主體，其既無行為能力，亦無權(quán)利能力，對應(yīng)之法律地位可以稱為“非法律主體說”。電子奴隸說認(rèn)為，人工智能產(chǎn)品服務(wù)于人類，完全聽從人類的指揮，雖然能夠作出一定的行為，但它沒有權(quán)利作出行為，除非人類對其作出指示，故而，在某種意義上，其地位正如古代的奴隸，不過是沒有情感和肉體的電子奴隸而已。在這種觀點之下，人工智能產(chǎn)品亦不是一個獨立的法律主體，其雖具有行為能力，但是缺乏權(quán)利能力，對應(yīng)之法律地位可稱為“無權(quán)利能力的法律主體”。代理說認(rèn)為，人工智能產(chǎn)品的工作，只是代替人類為之，它是一個獨立的主體，有權(quán)利，亦有能力作出一定的行為，其行為具有一定的獨立性，但行為結(jié)果歸屬于人類，與人類之間是代理關(guān)系。在這種觀點之下，人工智能產(chǎn)品在法律上是一個獨立的主體，既有權(quán)利能力，又有行為能力，只是無法承擔(dān)自己行為的后果，對應(yīng)之法律地位可以稱為“具有權(quán)利能力和行為能力的法律主體”。

上述三種關(guān)于人工智能產(chǎn)品的觀點，似均有缺陷。工具說主張人工智能產(chǎn)品只是人類身體的一種延伸，這一觀點明顯與高智能產(chǎn)品的現(xiàn)狀不相符合，如果人工智能產(chǎn)品只是人類身體的延伸，是一種工具，那么，其智力不應(yīng)超過人類，但是，目前似乎已經(jīng)存在一些智力超過人類的機器人，譬如，在圍棋對弈中，機器人阿爾法狗完勝柯潔，計算能力遠(yuǎn)勝人類，據(jù)說阿爾法狗還在飛速進(jìn)化，它一天要和自己對弈五萬局，這在人類顯然不可能實現(xiàn)。因此，人工智能產(chǎn)品絕不僅僅是人類的一種工具。由于性質(zhì)認(rèn)定的錯誤，其所支持的“非法律主體說”也便失去了依據(jù)。電子奴隸說承認(rèn)人工智能產(chǎn)品是一個主體，但認(rèn)為其完全聽從人類指揮，不具有權(quán)利能力，比之工具說雖有進(jìn)步，但其仍然忽視了現(xiàn)代人工智能產(chǎn)品已經(jīng)具有自我思考、判斷并作出行為的能力。鑒于人工智能產(chǎn)品能夠自我思考和作出行為，難說它是完全聽從于人類的電子奴隸。在法律地位的問題上，電子奴隸說不承認(rèn)人工智能產(chǎn)品的權(quán)利能力，而如果人工智能產(chǎn)品沒有權(quán)利能力，意味著人工智能產(chǎn)品作出的行為無法獲得法律的承認(rèn)，從而導(dǎo)致人工智能產(chǎn)品的運用受到極大的限制，這顯然與時代潮流相違背，故“電子奴隸說”支持下的“無權(quán)利能力的法律主體”之觀點亦難獲得認(rèn)可。代理說將人工智能產(chǎn)品作為一個代理人，其行為結(jié)果歸于所有人或使用人，這一學(xué)說，大體是可以接受的，這一學(xué)說支持下的“具有權(quán)利能力與行為能力的法律主體”亦有一定的合理性。不過，這一學(xué)說忽略了的一個問題是，人工智能產(chǎn)品雖然可以具有權(quán)利能力和行為能力，但其不具有承擔(dān)責(zé)任的能力，這使得它與普通的法律主體有所區(qū)別。

仔細(xì)分析可以發(fā)現(xiàn)，人工智能產(chǎn)品的法律地位類似于未成年人的法律地位。沒有民事責(zé)任能力是未成年人行為能力受到限制的重要原因。法律之所以將未成年人作為限制民事行為能力人，除了受其自身年齡、智力發(fā)展?fàn)顩r的制約之外，很重要的一個原因是其沒有承擔(dān)責(zé)任的能力，“即使具有完全的判斷能力，倘若不具備承擔(dān)責(zé)任的能力，便不應(yīng)承認(rèn)該主體為完全行為能力人?！盵1]現(xiàn)代民商事法律上，承擔(dān)責(zé)任的主要形式是財產(chǎn)，未成年人處于求學(xué)狀態(tài)，一般沒有獨立的財產(chǎn)，也便不能獨立承擔(dān)責(zé)任，故而，其行為應(yīng)當(dāng)受到限制。

人工智能產(chǎn)品亦不具有承擔(dān)責(zé)任的能力，在這一視角上，可以將其法律地位定位為類似于未成年人的法律地位。人工智能產(chǎn)品是沒有情感和肉體的機器，從目前來看，這種機器不需要財產(chǎn)，設(shè)計者也不會為其設(shè)計出財產(chǎn)歸屬程序。依照代理說，其在交易過程中獲得的財產(chǎn)應(yīng)當(dāng)歸于被代理人，故其不可能具有財產(chǎn)。倘若不具有財產(chǎn)，也便不具有承擔(dān)責(zé)任的能力。在這一點上，人工智能產(chǎn)品的法律地位似可比擬于未成年人。

二、人工智能產(chǎn)品侵權(quán)的責(zé)任形態(tài)

人工智能產(chǎn)品侵害他人權(quán)益的事件已經(jīng)出現(xiàn)。2017年，網(wǎng)絡(luò)上出現(xiàn)了“兒童邪典視頻”，視頻制作者在制作視頻時，利用兒童熟悉的卡通形象，加入色情、暴力等危害未成年人的內(nèi)容，再通過人工智能的算法推薦給未成年人，導(dǎo)致未成年人權(quán)益受損。在這一侵權(quán)過程中，視頻制作者自然難脫干系，但是，人工智能的算法推送亦起到了推波助瀾的作用，理應(yīng)承擔(dān)相應(yīng)責(zé)任。2016年3月，谷歌制造的一輛無人駕駛汽車與一輛公共汽車發(fā)生剮蹭，谷歌公司承認(rèn)自動駕駛汽車應(yīng)當(dāng)承擔(dān)責(zé)任。作為人工智能的主要代表，自動駕駛汽車面對公共汽車這樣的龐然大物尚能發(fā)生事故，面對其他物體自然也可能發(fā)生事故。由于少年兒童的身高與判別能力均有不足，未來自動駕駛汽車最主要的侵害對象很可能是少年兒童。

人工智能產(chǎn)品侵權(quán)的法律責(zé)任，可以仿效未成年人責(zé)任的形式，即替代責(zé)任。替代責(zé)任是指“責(zé)任人為他人的行為和為人之行為以外的自己管領(lǐng)的對象所致?lián)p害負(fù)有的侵權(quán)賠償責(zé)任形態(tài)”[2]。替代責(zé)任的主要表現(xiàn)形式是監(jiān)護(hù)人對未成年人的行為后果替代承擔(dān)責(zé)任，即未成年人作出一定行為需要承擔(dān)后果，但因其沒有承擔(dān)責(zé)任的能力，其法律后果由監(jiān)護(hù)人替代承擔(dān)。如前所述，人工智能產(chǎn)品沒有獨立的財產(chǎn)，而財產(chǎn)是承擔(dān)民事責(zé)任的基礎(chǔ)，故而，人工智能產(chǎn)品無法獨立承擔(dān)責(zé)任，但其責(zé)任又必須有人承擔(dān)，如此，只能尋求其他主體替代其承擔(dān)責(zé)任。這與未成年人責(zé)任的替代承擔(dān)非常相似。對此，已經(jīng)有學(xué)者表示：“如果智能機器人實際上‘代理或者代表’某個法律主體從事行為或者進(jìn)行決策，那么可以比照父母對未成年人子女的責(zé)任或者說監(jiān)護(hù)人對被監(jiān)護(hù)人的責(zé)任，或者雇主對雇員的責(zé)任，讓部署智能機器人的人承擔(dān)替代責(zé)任?！盵3]

然而，由誰來替代人工智能產(chǎn)品承擔(dān)責(zé)任呢？

人工智能產(chǎn)品致人損害的情形大致可以分為三類：一是由于人工智能產(chǎn)品使用者操作失誤導(dǎo)致的損害，即人工智能產(chǎn)品本身不存在問題，損害的發(fā)生是使用者操作失誤造成的；二是人工智能產(chǎn)品制造者的人為失誤造成的損害，即使用者的操作不存在問題，損害的發(fā)生是制造者的設(shè)計失誤造成的；三是因無法解釋之原因造成的損害。即，使用者的操作和制造者的設(shè)計均不存在問題，損害的發(fā)生是由于人工智能產(chǎn)品的自我判斷失誤造成的。在這三種情況下，承擔(dān)替代責(zé)任的主體應(yīng)當(dāng)有所不同。

人工智能產(chǎn)品使用者操作失誤造成的損害，應(yīng)當(dāng)由操作者承擔(dān)責(zé)任，此時不適用未成年人的替代責(zé)任。損害由使用者操作失誤造成，意味著人工智能產(chǎn)品對此沒有過錯，過錯完全在操作者本人，操作者具有財產(chǎn)，能夠承擔(dān)責(zé)任，應(yīng)承擔(dān)自己責(zé)任而非未成年人的替代責(zé)任。

人工智能產(chǎn)品制造者設(shè)計失誤造成的損害，應(yīng)當(dāng)由制造者承擔(dān)責(zé)任，可以適用未成年人替代責(zé)任的理論予以解釋。人工智能產(chǎn)品屬于產(chǎn)品的一種，產(chǎn)品質(zhì)量致人損害，適用產(chǎn)品質(zhì)量法，當(dāng)然應(yīng)由產(chǎn)品制造者承擔(dān)最終責(zé)任，這是來自產(chǎn)品質(zhì)量法理論的解釋。但是，這一解釋可能遭遇一些困難，其原因是，要求承擔(dān)責(zé)任需要由原告證明產(chǎn)品存在缺陷，而證明人工智能產(chǎn)品，特別是人工智能產(chǎn)品系統(tǒng)層面的缺陷相當(dāng)困難，如果不能證明，制造者將不承擔(dān)責(zé)任。對此，倘若適用未成年人的替代責(zé)任理論解釋，或許是一條更為有效的解釋進(jìn)路。未成年人替代責(zé)任理論的解釋可以是：人工智能產(chǎn)品具有特殊性，不同于作為“物”而存在的其他產(chǎn)品，“物”的產(chǎn)品不是法律主體，自然不能承擔(dān)責(zé)任，但是，人工智能產(chǎn)品是一類特殊的法律主體，作為一類法律主體，本應(yīng)承擔(dān)責(zé)任，只是因為沒有承擔(dān)責(zé)任的能力，其責(zé)任才由制造者承擔(dān)。在這個問題上，人工智能產(chǎn)品的責(zé)任與未成年人的責(zé)任有一定的類似性，產(chǎn)品制造者類似于監(jiān)護(hù)人，人工智能產(chǎn)品類似于未成年人，監(jiān)護(hù)人因未能履行監(jiān)護(hù)職責(zé)而承擔(dān)對未成年人的替代責(zé)任，制造者則因制造失誤而承擔(dān)對人工智能產(chǎn)品的替代責(zé)任。

因無法解釋的原因造成的損害，應(yīng)當(dāng)由制造者和使用者共同承擔(dān)責(zé)任，其責(zé)任承擔(dān)可以用未成年人的替代責(zé)任進(jìn)行解釋。此種損害的造成，并非制造者的制造缺陷或使用者的操作失誤造成。多數(shù)情況下是人工智能產(chǎn)品自主決策造成的。高智能的人工智能產(chǎn)品，能夠自主學(xué)習(xí)新的信息，利用新的數(shù)據(jù)作出決策，甚至能夠修改人類對其設(shè)定的規(guī)則，其自我決策造成的損害，很難歸因于人類。這便如一個未成年人，隨著年齡的增長已經(jīng)具備了獨自決策，獨自行為的能力，依照誰決策誰負(fù)責(zé)的原則，其應(yīng)當(dāng)獨立承擔(dān)責(zé)任，但其沒有承擔(dān)責(zé)任的能力。與未成年人的情況非常相似，高智能的人工智能產(chǎn)品也沒有責(zé)任能力，其責(zé)任應(yīng)由他人替代。由誰來替代承擔(dān)責(zé)任呢？顯然，人工智能產(chǎn)品制造者和使用者是與該產(chǎn)品聯(lián)系最密切的主體，應(yīng)當(dāng)由他們承擔(dān)責(zé)任。不過，私見以為，人工智能產(chǎn)品的制造者應(yīng)當(dāng)承擔(dān)較大份額的責(zé)任，因為，制造者比使用者更有能力預(yù)見損害結(jié)果的發(fā)生。

三、人工智能產(chǎn)品責(zé)任保險的特殊性

如上所述，人工智能產(chǎn)品造成的損害，應(yīng)當(dāng)由其他主體替代承擔(dān)，其中，產(chǎn)品的制造者是主要的責(zé)任承擔(dān)者。然而，如果責(zé)任過重，必然阻礙制造者發(fā)展人工智能的積極性。為此，必須有相關(guān)制度幫助責(zé)任主體承擔(dān)人工智能產(chǎn)品的風(fēng)險，這一制度便是保險制度。

然而，一個重要的問題是，保險應(yīng)當(dāng)保障何人？亦即，誰應(yīng)當(dāng)作為被保險人？

既有的思路認(rèn)為，人工智能產(chǎn)品或許可以作為被保險人。例如，英國汽車技術(shù)和航空法案規(guī)定，“在自動駕駛模式下，被保險人的車輛如果發(fā)生事故，則保險公司必須負(fù)責(zé)賠償事故造成的損失。當(dāng)然，保險公司享有對制造商的代位求償權(quán)，如果車輛在自動駕駛狀態(tài)下發(fā)生事故，而制造商對此負(fù)有責(zé)任，那么保險公司賠償受害人損失后有權(quán)從制造商處獲得賠償?！盵4]這一立法思路，似將人工智能產(chǎn)品作為被保險人進(jìn)行保障。這一思路的理論基礎(chǔ)類似于未成年人理論，在該理論之下，未成年人是一個具有權(quán)利能力和行為能力的法律主體，且在保險關(guān)系中不需要承擔(dān)責(zé)任，因此可以作為被保險人存在。人工智能產(chǎn)品具有類似于未成年人的法律地位，可以類推為被保險人。

然而，將人工智能產(chǎn)品作為被保險人進(jìn)行保障，有可能阻礙人工智能產(chǎn)品的發(fā)展。依照英國的做法，將人工智能產(chǎn)品作為被保險人，在發(fā)生事故之后，保險公司直接對受害人進(jìn)行賠付，倘若制造者對此事故負(fù)有責(zé)任，則保險公司賠付完畢之后，可以行使對制造者的代位追償權(quán)，最終的責(zé)任承擔(dān)者仍是人工智能產(chǎn)品的制造者。倘若責(zé)任過重，勢必打擊制造者發(fā)展人工智能產(chǎn)品的積極性，從而阻礙了人工智能產(chǎn)品的發(fā)展。

在保險產(chǎn)品設(shè)計上，既能保護(hù)制造者信心，又能保證受害人獲得賠償?shù)脑O(shè)計，應(yīng)當(dāng)是將責(zé)任的最終承擔(dān)者作為被保險人，亦即，將制造者和使用者作為被保險人。如上所述，人工智能產(chǎn)品所涉責(zé)任最終由產(chǎn)品制造者和使用者替代承擔(dān)，消弭責(zé)任之保險產(chǎn)品，自然應(yīng)當(dāng)從根本著手，將責(zé)任的最終承擔(dān)者作為保障對象。若以責(zé)任的最終承擔(dān)者作為保障對象，由于沒有任何主體對事故之責(zé)任再次負(fù)責(zé)，保險公司也便不能行使代位追償權(quán)。故而，制造者和使用者的信心可以獲得充分保障。

依未成年人理論，未成年人完全可以作為被保險人，然而在人工智能產(chǎn)品的保險問題上，應(yīng)當(dāng)改變未成年人保險的做法，將人工智能產(chǎn)品的制造者和使用者作為被保險人。

結(jié)語：探討人工智能產(chǎn)品的法律責(zé)任，首先應(yīng)從人工智能產(chǎn)品的法律地位開始，人工智能產(chǎn)品不具有承擔(dān)責(zé)任的能力，這與未成年人極其相似，故而，本文對其法律地位作出了類似于未成年人的解釋。由此出發(fā)，人工智能產(chǎn)品產(chǎn)生的責(zé)任，需要由制造者或使用者替代承擔(dān)，這種承擔(dān)方式亦可類比于未成年人的責(zé)任承擔(dān)。為了消弭責(zé)任，必須建立人工智能產(chǎn)品的保險制度，人工智能產(chǎn)品責(zé)任保險的設(shè)計，應(yīng)當(dāng)以制造者和使用者作為被保險人，如此方能消除對人工智能產(chǎn)品發(fā)展的阻礙。