論人工智能致人損害的侵權(quán)責(zé)任問(wèn)題

劉佳

中圖分類(lèi)號(hào)：D923.7? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A ? ? ? ? ? ? ? ? ? ? ? ? ? DOI：10.19387/j.cnki.1009-0592.2019.12.254

近年來(lái)，人工智能技術(shù)被廣泛應(yīng)用于日常生產(chǎn)生活，大大提高了生產(chǎn)效率，為我們的生活提供了便利，但是另一方面人工智能致人損害的事故頻發(fā)，例如無(wú)人駕駛汽車(chē)發(fā)生事故、機(jī)器人失控致人傷亡，由此引發(fā)了侵權(quán)責(zé)任的承擔(dān)主體、責(zé)任認(rèn)定以及責(zé)任分配等法律問(wèn)題。在現(xiàn)行民事侵權(quán)責(zé)任制度下，目前還沒(méi)有服務(wù)于人工智能損害自然人權(quán)益的相關(guān)規(guī)制。人工智能的行為有的高度的自主性與獨(dú)立性，特別是有自我學(xué)習(xí)與調(diào)整的能力，人類(lèi)對(duì)其控制力不強(qiáng)，人工智能所表現(xiàn)出的侵害性較為復(fù)雜且具有擬人特征，這直接引起現(xiàn)行民事責(zé)任制度無(wú)法與之相適應(yīng)。對(duì)此，本文主要研究人工智能的民事侵權(quán)責(zé)任，為構(gòu)建人工智能民事責(zé)任制度提出建議，使人工智能技術(shù)在法律的框架下良性發(fā)展。

一、人工智能對(duì)傳統(tǒng)民事侵權(quán)責(zé)任制度的沖擊

隨著我國(guó)人工智能的研發(fā)和廣泛應(yīng)用，為了最大限度的降低人工智能給人類(lèi)社會(huì)帶來(lái)的風(fēng)險(xiǎn)，必須構(gòu)建與人工智能有關(guān)的法律和法規(guī)對(duì)人工智能的行為予以相應(yīng)的約束和調(diào)整，而人工智能民事侵權(quán)責(zé)任問(wèn)題能否有效解決非常關(guān)鍵。

人工智能的民事侵權(quán)責(zé)任主要體現(xiàn)為人工智能由于自身行為對(duì)他人或社會(huì)造成了嚴(yán)重的傷害所必須承擔(dān)的責(zé)任。①具體細(xì)分又有兩種類(lèi)型，一種是人控制人工智能實(shí)施的侵害，這種侵權(quán)方式下，侵權(quán)責(zé)任的承擔(dān)沒(méi)有爭(zhēng)議，完全符合傳統(tǒng)侵權(quán)法的一般侵權(quán)責(zé)任，人工智能僅為侵權(quán)手段，應(yīng)當(dāng)由人工智能的控制者承擔(dān)侵權(quán)責(zé)任;而另一種侵權(quán)責(zé)任就存在爭(zhēng)議，即人工智能脫離了人的控制時(shí)，因其自身原因而造成損害。這種情況下人工智能造成的損害有很強(qiáng)的自主性，傳統(tǒng)侵權(quán)法就無(wú)法進(jìn)行有效規(guī)制。

（一）責(zé)任主體難以界定

與傳統(tǒng)意義上的產(chǎn)品有所不同，人工智能產(chǎn)品是依托高科技發(fā)展起來(lái)的，具有高度自主性特征。人工智能產(chǎn)品不再是經(jīng)過(guò)簡(jiǎn)單編程的機(jī)器人，而是應(yīng)用深度學(xué)習(xí)算法是讓系統(tǒng)從大量的數(shù)據(jù)中學(xué)習(xí)，人工智能產(chǎn)品正是基于學(xué)習(xí)算法擁有非常強(qiáng)大的獨(dú)立決策能力，能夠完成復(fù)雜的認(rèn)知任務(wù)。因此，人工智能的行為不是程序員控制的結(jié)果，而是學(xué)習(xí)算法做出的決策。換而言之，人工智能產(chǎn)品的行為由其獨(dú)立實(shí)施的行為。由此產(chǎn)生一個(gè)問(wèn)題就是，是否要從法律層面賦予人工智能產(chǎn)品以獨(dú)立法律人格從而讓其直接作為侵權(quán)責(zé)任主體？這對(duì)傳統(tǒng)法學(xué)理念提出了重大挑戰(zhàn)。

（二）侵權(quán)行為難認(rèn)定

根據(jù)傳統(tǒng)民法侵權(quán)責(zé)任理論，侵權(quán)行為的認(rèn)定是一個(gè)推理過(guò)程，通常情況下，侵權(quán)行為主要由加害行為、損害事實(shí)的存在、行為人主觀過(guò)錯(cuò)等要素構(gòu)成。②但是因?yàn)槿斯ぶ悄墚a(chǎn)品具有高度智能化，能獨(dú)立自主作出行為的特點(diǎn)，人工智能對(duì)社會(huì)造成的危害原因極其復(fù)雜，很難對(duì)其進(jìn)行全面論證。人工智能產(chǎn)品的算法極其復(fù)雜，且有從數(shù)據(jù)中自我學(xué)習(xí)的能力，所以就算產(chǎn)品的算法公開(kāi)，其學(xué)習(xí)、分析、最后決策的過(guò)程也難以解釋?zhuān)@就使得在認(rèn)定侵權(quán)行為時(shí)，查明侵害原由有技術(shù)障礙。另外，證明因果關(guān)系也存在障礙，因?yàn)楫a(chǎn)品的開(kāi)發(fā)者、管理者對(duì)人工智能產(chǎn)品的控制力不強(qiáng)，無(wú)法有效判斷人工智能做出的行為究竟是其獨(dú)立決策的還是在人類(lèi)的影響作用下實(shí)現(xiàn)的。因此，當(dāng)發(fā)生人工智能產(chǎn)品致人損害的事故時(shí)，在無(wú)法查明致害原因或者無(wú)法歸因于產(chǎn)品缺陷的情況下，侵權(quán)責(zé)任不能明確，結(jié)果最后賠償無(wú)法落實(shí)。再者，人工智能在現(xiàn)有的法律框架中沒(méi)有法律主體地位，而過(guò)錯(cuò)是主觀的心理狀態(tài)，這也是在認(rèn)定侵權(quán)責(zé)任時(shí)要解決的難題。

（三）過(guò)錯(cuò)責(zé)任原則難適用

過(guò)錯(cuò)責(zé)任原則是以侵權(quán)人主觀存在過(guò)錯(cuò)為前提條件的。③人工智能產(chǎn)品的侵害行為是由其獨(dú)立、自主做出的，傳統(tǒng)侵權(quán)理論中的主觀過(guò)錯(cuò)要件在適用時(shí)難以詮釋。在現(xiàn)行的法律框架中沒(méi)有規(guī)定人工智能的民事權(quán)利能力的情況下，要求人工智能產(chǎn)品的行為負(fù)有注意義務(wù)準(zhǔn)則似乎欠妥。另外，因?yàn)槿斯ぶ悄墚a(chǎn)品的高度自動(dòng)化、智能化，人工智能實(shí)現(xiàn)了無(wú)人化的操作。如果人工智能產(chǎn)品造成人身或者財(cái)產(chǎn)受損，使用者不存在主觀過(guò)錯(cuò)，更是與受損結(jié)果間不具有直接的因果關(guān)系，依照傳統(tǒng)侵權(quán)責(zé)任理論，人工只能產(chǎn)品的使用者也就不用承擔(dān)責(zé)任。此外，當(dāng)前人工智能產(chǎn)品是否擁有獨(dú)立人格仍然存在較大爭(zhēng)議，因此，對(duì)人工智能產(chǎn)品是否存在主觀過(guò)錯(cuò)進(jìn)行研究不具有現(xiàn)實(shí)意義，就算人工智能產(chǎn)品具有獨(dú)立人格，對(duì)產(chǎn)品本身所承擔(dān)的侵權(quán)責(zé)任進(jìn)行認(rèn)定、后續(xù)的賠償或其他救濟(jì)手段也難以實(shí)現(xiàn)。因此，過(guò)錯(cuò)歸責(zé)原則在適用于人工智能致人損害的案件時(shí)存在難度。

二、人工智能的侵權(quán)責(zé)任主體

要明確人工智能侵權(quán)歸責(zé)，就必須先明確人工智能的法律屬性，是否要賦予其法律主體的地位。筆者認(rèn)為，在現(xiàn)有技術(shù)條件下，人工智能產(chǎn)品的法律屬性應(yīng)該定位為“物”。目前，人工智能產(chǎn)品高度自主性、智能化，能夠自我學(xué)習(xí)，甚至比人類(lèi)有更強(qiáng)的科研計(jì)算能力，但是人工智能產(chǎn)品始終是人類(lèi)創(chuàng)造出來(lái)的，其能力是基于人類(lèi)編寫(xiě)的算法和輸入的數(shù)據(jù)，人工智能不具備像人類(lèi)一樣的理性的判斷能力，也沒(méi)有意思表示的能力，只是一種為人類(lèi)提供便利的“工具”。

筆者認(rèn)為，具體界定人工智能產(chǎn)品侵權(quán)責(zé)任主體要分情況討論，即由人工智能產(chǎn)品自身存在缺陷造成損害還是人工智能由于自我判斷有誤而對(duì)社會(huì)或個(gè)人造成傷害。

（一）產(chǎn)品責(zé)任

通過(guò)前文研究，人工智能產(chǎn)品屬于“物”的范疇，那么當(dāng)人工智能產(chǎn)品因存在質(zhì)量問(wèn)題發(fā)生侵權(quán)時(shí)，可以適用產(chǎn)品責(zé)任理論進(jìn)行歸責(zé)。我國(guó)規(guī)定的產(chǎn)品責(zé)任的主體為生產(chǎn)者和銷(xiāo)售者，且不以生產(chǎn)者和銷(xiāo)售者存在過(guò)錯(cuò)為前提，被侵權(quán)人可以選擇其中一個(gè)責(zé)任主體。而對(duì)于人工智能產(chǎn)品而言，產(chǎn)品的設(shè)計(jì)研發(fā)是人工智能產(chǎn)品生產(chǎn)的核心環(huán)節(jié)，設(shè)計(jì)研發(fā)中編寫(xiě)的算法或者輸入的數(shù)據(jù)存在問(wèn)題也可能會(huì)導(dǎo)致產(chǎn)品存在安全隱患，這也屬于產(chǎn)品質(zhì)量問(wèn)題。因此對(duì)于生產(chǎn)者的定義，應(yīng)該包括設(shè)計(jì)者。

（二）替代責(zé)任

替代責(zé)任指的是通常來(lái)講，責(zé)任人和行為人之間存在的某種特定聯(lián)系，由于行為人的侵權(quán)行為對(duì)社會(huì)或他人造成了傷害，由責(zé)任人來(lái)代替行為人承擔(dān)相應(yīng)侵權(quán)責(zé)任的責(zé)任類(lèi)型。④當(dāng)人工智能涉及不能合理推斷出事故是產(chǎn)品缺陷造成的情況，或者說(shuō)是因人工智能自己 “犯錯(cuò)”造成侵權(quán)，讓生產(chǎn)者承擔(dān)責(zé)任有違公平，被侵權(quán)人也會(huì)面臨無(wú)法得到賠償?shù)木置?。在這種情況下，適用替代責(zé)任較為適宜。

三、人工智能致人損害侵權(quán)責(zé)任的認(rèn)定

產(chǎn)品責(zé)任，產(chǎn)品存在的缺陷造成了被侵權(quán)人的損害所應(yīng)承擔(dān)的侵權(quán)責(zé)任。當(dāng)人工智能產(chǎn)品造成損害時(shí)，要認(rèn)定產(chǎn)品責(zé)任是否成立，核心在于對(duì)人工智能產(chǎn)品的缺陷的理解?！懂a(chǎn)品質(zhì)量法》指出產(chǎn)品缺陷包含兩種類(lèi)型，分別為合理范圍以外的危險(xiǎn)以及不符合標(biāo)準(zhǔn)的危險(xiǎn)。其中，合理范圍以外的危險(xiǎn)是指人工智能產(chǎn)品在制造過(guò)程中存在不符合規(guī)定的安全隱患;在設(shè)計(jì)過(guò)程中存在不合理性;產(chǎn)品上未標(biāo)明相關(guān)指示和警告，導(dǎo)致使用者無(wú)法了解產(chǎn)品存在的安全隱患。對(duì)于人工智能產(chǎn)品來(lái)說(shuō)，合理范圍以外的危險(xiǎn)是批量制造的人工智能產(chǎn)品的部件失靈、產(chǎn)品設(shè)計(jì)方案錯(cuò)誤、系統(tǒng)自身存在bug、沒(méi)有對(duì)消費(fèi)者盡到合理的告知義務(wù)等，當(dāng)人工智能產(chǎn)品存在上述不合理的危險(xiǎn)并因此造成損害時(shí)，就需要承擔(dān)產(chǎn)品責(zé)任。但是在實(shí)踐中，要適用產(chǎn)品責(zé)任，被侵權(quán)人在舉證方面存在困難。人工智能作為新型高科技術(shù)，其工作原理和內(nèi)部算法是復(fù)雜的且不公開(kāi)的，被侵權(quán)人很難真正有效說(shuō)明產(chǎn)品是否存在合理范圍以外的危險(xiǎn)，但是對(duì)產(chǎn)品生產(chǎn)者和銷(xiāo)售者來(lái)說(shuō)，他們了解人工智能技術(shù)，容易證明技術(shù)存在局限，從而可以依據(jù)《產(chǎn)品質(zhì)量法》的免責(zé)條款實(shí)現(xiàn)免責(zé)。如此一來(lái)，不利于維護(hù)被侵權(quán)者的合法權(quán)益?；诖?，人工智能產(chǎn)品是否符合安全標(biāo)準(zhǔn)是產(chǎn)品責(zé)任認(rèn)定與否的關(guān)鍵。以自動(dòng)駕駛汽車(chē)為例，假如安全標(biāo)準(zhǔn)規(guī)定“自動(dòng)駕駛汽車(chē)最小反應(yīng)距離為20米”（即自動(dòng)駕駛汽車(chē)檢測(cè)到距離其20米處的障礙物并采取避險(xiǎn)措施）。當(dāng)自動(dòng)駕駛汽車(chē)發(fā)生交通事故在任損傷時(shí)，如果受害人與汽車(chē)的距離大于20米，那么就可以證明汽車(chē)的自動(dòng)駕駛系統(tǒng)存在缺陷，從而要求責(zé)任人必須承擔(dān)相應(yīng)的責(zé)任。所以，構(gòu)建人工智能產(chǎn)品的完整安全標(biāo)準(zhǔn)是必須的，在證明人工智能產(chǎn)品存在瑕疵，認(rèn)定產(chǎn)品責(zé)任時(shí)也很重要。

四、對(duì)我國(guó)人工智能侵權(quán)責(zé)任制度的建議

（一）就人工智能民事侵權(quán)責(zé)任進(jìn)行立法

當(dāng)前，人工智能產(chǎn)品越來(lái)越多深入我們的生產(chǎn)生活，界定人工智能的民事侵權(quán)責(zé)任和制定專(zhuān)門(mén)的法律法規(guī)是勢(shì)在必行的。歐美等國(guó)都對(duì)規(guī)制人工智能構(gòu)建了相應(yīng)的法律法規(guī)，我國(guó)可以充分學(xué)習(xí)并借鑒他們的優(yōu)秀經(jīng)驗(yàn)，對(duì)人工智能的產(chǎn)品生產(chǎn)標(biāo)準(zhǔn)、侵權(quán)責(zé)任制度進(jìn)行規(guī)范。在立法過(guò)程中，要特別注意人工智能責(zé)任承擔(dān)和新興技術(shù)發(fā)展之間的利益平衡，不能因?yàn)樾录夹g(shù)的不確定性而阻礙人工智能相關(guān)技術(shù)的進(jìn)步與發(fā)展。人工智能侵權(quán)責(zé)任的承擔(dān)者是人工智能產(chǎn)品的直接管理者，如果管理人確實(shí)盡到了注意義務(wù)并且證明人工智能產(chǎn)品存在缺陷，就依據(jù)產(chǎn)品責(zé)任來(lái)認(rèn)定產(chǎn)品生產(chǎn)者的侵權(quán)責(zé)任。通過(guò)強(qiáng)制保險(xiǎn)、設(shè)立基金等方式，保障賠償責(zé)任的承擔(dān)。

（二）在現(xiàn)有民事侵權(quán)責(zé)任制度的基礎(chǔ)上探索制度創(chuàng)新

目前大多數(shù)人工智能產(chǎn)品的智能化程度不高，人工智能產(chǎn)品致人損害以產(chǎn)品缺陷為主因，以產(chǎn)品責(zé)任制度可以解決部分侵權(quán)責(zé)任。自動(dòng)駕駛汽車(chē)發(fā)生交通事故可以依據(jù)交通事故責(zé)任認(rèn)定責(zé)任問(wèn)題。但是，隨著人工智能的發(fā)展，產(chǎn)品實(shí)現(xiàn)高度智能化，其行為的可預(yù)測(cè)性越低，被侵權(quán)人完成舉證的難度增加，這顯然不利于保障被侵權(quán)人的利益。應(yīng)對(duì)人工智能高度自主化的發(fā)展趨勢(shì)，必須進(jìn)行制度創(chuàng)新，可以構(gòu)建差別化責(zé)任規(guī)則。通過(guò)對(duì)人工智能產(chǎn)品實(shí)行審批制度，人工智能產(chǎn)品在流入市場(chǎng)前記錄產(chǎn)品信息，作為判斷人工智能系統(tǒng)是否存在缺陷的標(biāo)準(zhǔn)，從而解決責(zé)任認(rèn)定問(wèn)題。如果達(dá)到安全標(biāo)準(zhǔn)的人工智能產(chǎn)品流入市場(chǎng)后造成損害結(jié)果，由生產(chǎn)者承擔(dān)責(zé)任存在不合理。那么為充分保障被侵權(quán)人可以得到救濟(jì)，可以建立由生產(chǎn)者、銷(xiāo)售者和管理人共同負(fù)擔(dān)的強(qiáng)制性的保險(xiǎn)機(jī)制。

注釋?zhuān)?/h3>

①?gòu)埪?人工智能致人損害的侵權(quán)責(zé)任制度研究[D]. 河北經(jīng)貿(mào)大學(xué)，2019.

②楊立新.侵權(quán)責(zé)任法（第3版）. [M] .北京：法律出版社，2018.

③張童.人工智能產(chǎn)品致人損害民事責(zé)任研究[J].社會(huì)科學(xué)，2018 （4） ：103-112.

④楊立新.侵權(quán)責(zé)任法（第3版）[M] . 北京：法律出版社，2018.

參考文獻(xiàn)：

[1]楊立新. 人工類(lèi)人格：智能機(jī)器人的民法地位——兼論智能機(jī)器人致人損害的民事責(zé)任[J].求是學(xué)刊，2018（4）：88-96.

[2]周遷鳳. 論人工智能致害的民事責(zé)任問(wèn)題[D]. 西南政法大學(xué)，2018.

[3]張玉潔.論人工智能時(shí)代的機(jī)器人權(quán)利及其風(fēng)險(xiǎn)規(guī)制[J].東方法學(xué)，2017 （6） ： 56-66.