管窺人工智能應用中的侵權責任
——以手術機器人為視角

許幸麗，王艷華

(鄭州大學 法學院，河南 鄭州 450001)

一、問題的提出

當我們在享受人工智能日新月異的變化給我們帶來的便捷時，一些棘手問題也橫亙于我們眼前，對現(xiàn)有的法律規(guī)則和法律秩序帶來一系列挑戰(zhàn)，甚至可能會帶來一場法律革命的變革，如隨著人工智能的自動性、適應性、規(guī)模性不斷增強，自動駕駛汽車、手術機器人“飛入尋常百姓家”，但由于現(xiàn)行的《侵權責任法》調整規(guī)制的是人的行為，責任承擔主體也為自然人或者單位，并沒有將責任分配給機器人的法律規(guī)定，因而對于人工智能適用現(xiàn)有的《侵權責任法》，可能會導致受害人或者其近親屬無法就其遭受的損害尋求充分的救濟，甚至無法找到侵權責任主體來承擔責任，對于被侵權人的權利保障或我國提倡的人工智能的發(fā)展來看，將會產(chǎn)生人機協(xié)作遭受詬病。

據(jù)研究報告顯示，手術機器人在醫(yī)療領域中的應用日愈廣泛，認知智能取得進一步發(fā)展，并成為醫(yī)療行業(yè)新興熱點。在國務院頒布的《新一代人工智能發(fā)展規(guī)劃》提出的保障措施中，為應對人工智能發(fā)展可能帶來的系列變革與挑戰(zhàn)，形成適應國際化人工智能發(fā)展的制度，需要制定促進人工智能發(fā)展的法律法規(guī)，以加強人工智能發(fā)展帶來的社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)框架，開展與人工智能應用相關的權利、義務、責任等法律問題研究。在自動駕駛汽車、手術機器人等應用領域，加快研究制定相關責任風險法規(guī)，為新技術的快速應用奠定法律基礎。

基于此，本文主要討論對于人工智能引發(fā)的損害，侵權責任是否可以歸責于自然人、單位或者必須要在民事主體之外的人工智能之間進行責任分配，我們是簡單規(guī)避對于人工智能引發(fā)的損害，直接規(guī)定由人工智能的所有者或者使用者承擔損害責任，違背“行為與責任同時存在”的基本原則；亦或賦予人工智能電子人格，其法律明文規(guī)定直接由人工智能機器人享有權利并承擔義務。學者袁曾就表示人類必須為自己的行為付出代價，人工智能同樣如此，并不因為人工智能并非人類就可以逃脫法律制裁，總要有主體為做出的行為負責。[1]

對于人工智能機器人引發(fā)的損害，侵權責任的承擔主體，適用何種歸責原則，理論界學者論述不一，爭議較大。筆者不惴陋見，以手術機器人的侵權責任為研究主題，探討《民法典》侵權責任編該如何進行責任認定、風險規(guī)制與責任分配。

二、手術機器人責任主體的甄別

(一)爭論焦點：手術機器人可否就損害后果獨立擔責

法律責任的認定，首先需要明確責任主體。[2]在醫(yī)療事故中，手術機器人造成的損害究竟應該由誰來承擔侵權責任，是根據(jù)侵權責任編醫(yī)療損害責任規(guī)定，由醫(yī)療機構承擔責任，抑或規(guī)定由產(chǎn)品的生產(chǎn)者或者銷售者承擔侵權責任。由于手術機器人在診療過程中，醫(yī)生承擔了人機協(xié)作的輔助者功能或者設計指令由手術機器人完成某些復雜的醫(yī)療活動，可以說手術機器人是主要的完成者。在此種情景之下，手術機器人能否獨立承擔責任，我們需要考慮手術機器人是否可以像醫(yī)療機構、生產(chǎn)者或銷售者一樣具有承擔侵權責任的民事主體資格。

現(xiàn)階段來講，學理界對于人工智能法律主體地位的學術研究尚集中在討論是否賦予其人工智能主體地位，主體說與客體說的爭論局限在我國《民法典》對民事主體的定義和目前人工智能的發(fā)展水平是否相匹配，并且有限的理論研究大多也是在相互借鑒，無論是支持一方還是反對一方都沒有充足的理論基礎，且相互詬病，在研究過程中陷入悖論。筆者認為在探討是否賦予人工智能民事主體地位時，不應空中樓閣，局限于象牙塔中，要想研究人工智能的法律主體資格，當然要根據(jù)人工智能的發(fā)展階段，在法律的視角下定義人工智能。我們撰寫本文的目的在于提供一些思考并在發(fā)生此類糾紛時提供一種解決思路，因而本文主要探討的是在弱人工智能時代手術機器人的侵權責任。

(二)民法視閾下主體身份判斷：不具有主體地位

如前所述，學術界對于手術機器人的法律地位尚未有統(tǒng)一的定論，主要分為主體說和客體說。根據(jù)《民法典》的規(guī)定，能夠作為民事主體參與民事法律關系的有自然人、法人和非法人組織，從其定義來看，很難將手術機器人劃分為享有權利承擔義務的民事主體。自然人是基于自然生理規(guī)律出生的人，是權利義務的當然主體，[3]而法人和非法人的主體資格則是基于法律擬制，申言之，法人、非法人組織成為法律主體資格是基于調整法律秩序的需要。從法理學的角度來看，自然人是權利義務的當然主體，具有獨立的意識，而手術機器人是接受程序指令進行活動，其中外科醫(yī)生控制臺是手術機器人運行的中樞系統(tǒng)。從本質上來講手術機器人是基于人的算法運行，對數(shù)據(jù)進行處理，反映人類自我意識和對象意識，體現(xiàn)和固化虛擬現(xiàn)實。[4]因而對比民事主體的定義可知，手術機器人不具有自然人所特有的自然屬性及理性，自身并無獨立存在的價值和獨立意識，不過是為社會發(fā)展的需求而創(chuàng)設，因而不能享有與自然人相同的法律人格。

法律主體存在二元結構，即自然人與非自然人，[5]手術機器人是否可以擬制為法律主體，亦有爭論，其中持肯定說的大致基于以下三種理由。貢獻說認為人工智能為社會發(fā)展做出了巨大貢獻，為人類提供了便捷服務，為了更好地規(guī)范及應對人工智能發(fā)展過程中出現(xiàn)的法律問題，救濟被害人權利，我們可以將其擬制為法律主體；構造類似說主張人工智能是由“所有者”以貨幣、非貨幣財產(chǎn)出資或提供知識產(chǎn)權研發(fā)出人工智能，即人工智能與法人、非法人組織具有類似的構造，[6]可以參照法人制度賦予人工智能法律主體資格，稱之為法人。第三種觀點則借鑒歐盟規(guī)定，主張為避免與國際脫軌，可以參考國外的法律規(guī)定，賦予人工智能主體資格。[7]否定說則主要有自我意識說、責任分擔說，其中持自我意識說的學者認為人工智能是科技的產(chǎn)物，基于設計者設定的程序或者大數(shù)據(jù)的分析而認識事物。[8]如龔凡為人工智能編入代碼而模仿人類為撒貝寧吟詩一首，博得滿堂彩，但其認知范圍和自身能力也是有限的，更不具有自我獨立意識，而法人通過機關法定代表人或成員的意識使法人的意識得到表現(xiàn)。責任承擔說的學者意見為若賦予人工智能法律地位，手術機器人無法進行指令操作或者發(fā)生不可預見的技術故障時，對患者造成不可逆的人身損害。手術機器人與其他民事主體需要對患者共同承擔責任，屬于多數(shù)人侵權，事實上多數(shù)人的侵權責任在當事人之間分配是一個復雜問題，包括侵權行為過失相抵、侵權責任形態(tài)，[9]如前所述，人工智能不具有人類的抽象情感，在侵權過程中不存在故意或過失，導致最終的責任承擔歸于設計者、生產(chǎn)者或者產(chǎn)品使用者，使得手術機器人擬制的法律主體資格流于形式。手術機器人無獨立的財產(chǎn)，人類需要對脫離控制的手術機器人承擔責任，[10]與不具有民事主體資格的手術機器人截然不同的是，法人責任制度是是法人主體資格認定的內在根據(jù)，[11]法人具有獨立的人格，可獨立承擔民事責任。

人工智能是一個動態(tài)的發(fā)展過程，回歸目前的技術水平，支持賦予人工智能法律地位的學者過于化繁為簡，認知存有誤區(qū)，缺乏相應的現(xiàn)實基礎和理論論證。學者無法回答若賦予手術機器人主體資格,責任如何承擔，另外手術機器人不具有人類的抽象情感，故意或過失的主觀心理無法界定，無法進行責任劃分，會引起侵權責任體系的紊亂。

三、手術機器人的侵權責任機制

誠如前述，當前的法律并未賦予手術機器人法律主體資格，即在弱人工智能時代，如何自洽的適用現(xiàn)行法律，探究其在侵權關系中的歸責原則，認定責任主體，需要探討。

(一)手術機器人致人損害的責任承擔

在民法二分法體系下，權利主體和權利客體的地位明確，且無法互相轉換。人機協(xié)作的手術模式中，法律不可能對手術機器人的思維、行為以及責任承擔層面產(chǎn)生影響，申言之醫(yī)療損害中，賠償責任無法在手術機器人、使用者、生產(chǎn)者之間進行責任分配。然而手術機器人作為手術的主要操作者或者輔助者侵犯患者生命權或者健康權的案件不乏一二，在其無法承擔賠償責任的境況下，為保障受害者權益，應當說明及明確在不違反行為與責任同在的原則下，是否可以追究醫(yī)療機構、產(chǎn)品生產(chǎn)者、銷售者的侵權責任。

1.產(chǎn)品生產(chǎn)者與銷售者責任

《人工智能安全與法治導則(2019)》(以下簡稱《導則》)中明確提出：當前人工智能仍處于弱人工智能時代，其產(chǎn)品定位是“工具”，人工智能的設計者、生產(chǎn)者、運營者、使用者承擔法律主體責任。從表面看，該《導則》通過構建人工智能的產(chǎn)品屬性，即人工智能雖然更加廣泛地參與民事活動，但其本質依然通過人類創(chuàng)造生產(chǎn)而擁有“生命”，明確手術機器人的客體地位。毫無疑問，有損害必然有責任，在手術機器人引起的醫(yī)療事故中，由于手術機器人被認定為科技產(chǎn)品，機器人以及機器人技術內部缺陷造成的損害，完全可以根據(jù)產(chǎn)品責任規(guī)則進行調整，由生產(chǎn)者、運營者、使用者承擔責任。

法律中的責任問題，究其根本就是對侵權行為的責任分配問題，[12]手術機器人致人損害的責任分配問題，大致可以分為兩種。第一種可以歸為外部侵權，即手術機器人進行系統(tǒng)操作時，侵權人試圖控制系統(tǒng)或者打斷操作過程，手術機器人從而變成侵權人的利劍，人工智能技術的不成熟，使得手術機器人程序更容易被攻擊。在此種境況下，手術機器人引發(fā)的醫(yī)療損害的責任承擔主體毫無疑問的應有侵權人承擔，我們對此不再贅述。復雜的是第二種情況，即手術機器人自身的技術缺陷而引發(fā)的醫(yī)療損害。在英國一例由手術機器人引發(fā)的醫(yī)療損害案例中，醫(yī)院在指令手術機器人給患者做心臟手術過程中，手術機器人將病人心臟放錯位置進而戳破病人的動脈，系統(tǒng)失靈后拆掉手術縫線，最終導致該患者一周后死于非命。

不可否認的是，對于手術機器人引發(fā)的醫(yī)療損害，無論是創(chuàng)造者技術漏洞的緣由，抑或生產(chǎn)者、銷售者的不當生產(chǎn)銷售，甚至是手術機器人自身原因力引發(fā)的醫(yī)療損害，都需要查找侵權責任承擔主體，[13]

同時，手術機器人的產(chǎn)品屬性明確，學者阿薩羅為尋找可能的法律解決途徑創(chuàng)新性指出，手術機器人及機器人技術造成的醫(yī)療損害，可以利用民法中產(chǎn)品責任的相關法律進行規(guī)制調整，因為機器人一般被視為科技意義上的產(chǎn)品?；谑中g機器人的產(chǎn)品屬性，依據(jù)相關的法律要求，產(chǎn)品的缺陷、產(chǎn)品警告的缺失等歸責主體必然涉及生產(chǎn)者、銷售者主體，我國的《產(chǎn)品質量法》、侵權責任編都對此做出規(guī)定，即手術機器人若存在產(chǎn)品缺陷，手術機器人的生產(chǎn)者和銷售者存在過失，沒有盡到合理的注意義務，造成他人人身、財產(chǎn)損害的，則生產(chǎn)者、銷售者需要承擔相應的責任。

2.醫(yī)療機構責任

與其他人工智能產(chǎn)品截然不同的是手術機器人被適用于更加復雜的醫(yī)療領域，被稱為頂尖上的技術革新，然而這亦是最大的風險。筆者通過檢索發(fā)現(xiàn)，手術機器人引發(fā)的醫(yī)療事故雖尚不足以顛覆我們的技術藍海圖景，但螞蟻撼象，手術機器人也給醫(yī)療機構帶來諸多麻煩，隱患叢生，以四川省人民醫(yī)院為例，頻頻被訴諸被告。在手術機器人引發(fā)的損害中，有一個值得我們需進一步思索的現(xiàn)象，法官在判決這類案件時，不約而同的適用醫(yī)療損害責任且集中在醫(yī)療機構過失責任方面，將醫(yī)療機構的過錯做為兜底性條款，包羅萬象，而醫(yī)療產(chǎn)品責任卻鮮有提及?？梢娢覈ü僭诮鉀Q此類醫(yī)療糾紛案件時，尚未承認手術機器人的醫(yī)療產(chǎn)品定位。[14]

從反面論證，若手術機器人引發(fā)的醫(yī)療損害適用侵權責任編中醫(yī)療機構過錯責任的醫(yī)療技術損害，否認手術機器人本身缺陷引發(fā)的醫(yī)療產(chǎn)品損害，則是賦予手術機器人主體地位，邏輯又是自相矛盾的?？梢娛中g機器人引進醫(yī)療領域，由于醫(yī)療機構這一特殊主體的介入，實際上醫(yī)療損害的發(fā)生就兼具了產(chǎn)品責任以及醫(yī)療損害產(chǎn)品責任的多種責任屬性。醫(yī)療機構作為手術機器人的操控者，在整個應用過程中作為算法的輔助者，參與度較高，從這個視角看，醫(yī)療機構作為醫(yī)療損害的責任主體是言之鑿鑿的。其次醫(yī)療產(chǎn)品損害中對醫(yī)療機構的歸責原則采取不真正連帶責任，類似于產(chǎn)品責任中銷售者的角色定位，將醫(yī)療機構納入人工智能產(chǎn)品損害的責任主體范圍更便于救濟患者權益，患者通過舉證手術機器人存在不合理缺陷，使其損害賠償最終歸屬于手術機器人產(chǎn)品的使用者—有過失的醫(yī)療機構，生產(chǎn)者和銷售者的侵權責任形態(tài)。

3.適用產(chǎn)品責任抑或醫(yī)療損害責任

在法律行為侵犯同一民事權益而承擔侵權責任時，可能引發(fā)不同責任規(guī)范同時適用的責任競合難題，[15]通過前文研究，我們得出手術機器人的法律定位屬于“產(chǎn)品”這一法律范疇，當手術機器人致人損害而尋求責任救濟時，就會產(chǎn)生責任競合的差異，主要表現(xiàn)為產(chǎn)品責任抑或醫(yī)療損害責任，具體有哪一方承擔責任，需要對現(xiàn)行理論觀點按圖索驥。

對于手術機器人侵權責任承擔，學者素有爭議，可歸納總結為產(chǎn)品責任、醫(yī)療損害責任。根據(jù)《產(chǎn)品質量法》的免責條款規(guī)定，產(chǎn)品流通時的科學技術尚不能發(fā)現(xiàn)缺陷存在的，生產(chǎn)者和銷售者可以據(jù)此免責，而缺陷產(chǎn)品的認定對于不了解其背后工作原理的受害者來說如同霧中看花水中探月，不具有現(xiàn)實性。相對于醫(yī)療機構而言，作為手術的全程參與者或者說是醫(yī)療糾紛的親歷者，應了解手術機器人是否存在缺陷，進而對這場危險的開啟者進行監(jiān)督。

司法實踐中，對于醫(yī)療損害責任規(guī)定，前文已引而述之，在檢索的五例因手術機器人引起的醫(yī)患糾紛中，法官以手術機器人作為一項危險性技術而要求醫(yī)療機構承擔醫(yī)療技術損害，以實現(xiàn)患者權利救濟與醫(yī)療損害之間的平衡。這種觀點初看似有一定的合理性，但細細推敲不免讓人疑慮叢生，對于其辯駁上文已進行羅列，不再贅述，筆者私以為對于手術機器人引起的醫(yī)療損害，以醫(yī)療技術損害原則追究責任主體更符合權利救濟目的。

(二)手術機器人致人損害的歸責原則

在探究手術機器人的應用領域與侵權責任時，是確定該侵權責任處于何種歸責原則之下, 因為歸責原則不同, 侵權責任的損害賠償會有差異，[16]侵權責任編確定了由過錯原則和無過錯責任原則兩大歸責原則組成的用以確定行為人民事責任的標準。

回歸人工智能設計的初衷，其目的是為社會提供便利，便捷服務是人工智能系統(tǒng)的價值觀，而過錯責任原則是以行為人主觀上存在過錯為前提構成要件，[17]因而過錯責任原則是無法適用于手術機器人參與的醫(yī)療損害中。進一步而言，對于不能歸咎于人機協(xié)作模式中醫(yī)生的過錯，過錯責任原則對于手術機器人實施的行為不具有約束力，因為過錯責任原則真正約束對象是理性人的行為，與手術機器人無關。另一方面過錯推定原則作為過錯責任原則的特殊形態(tài)，法律對其適用通過列舉式規(guī)定予以界限明確，其中可適用醫(yī)療損害中的過錯推定也僅僅限于“違反診療規(guī)范的法律、法規(guī)、規(guī)章”，“隱匿或者拒絕提供與糾紛相關的病例資料”以及“偽造、篡改或者銷毀病例資料”，依據(jù)體系解釋來看，過錯推定原則條款后并未使用“等”“法律規(guī)定的其他情形”的字眼，這就是說，手術機器人引起的醫(yī)療損害中沒有過錯責任原則適用之基礎。

歸責原則作為責任分配之度量，體現(xiàn)著侵權責任法的公平與正義，然而在適用過錯原則具體分析人工智能引起的醫(yī)療損害中，不難發(fā)現(xiàn)這是一段艱難的路程，過錯責任原則受到諸多挑戰(zhàn)。無過錯責任原則因嚴格責任而成為受害人權益保護之圭臬，對于無法歸咎行為人的過錯或不存在行為人過錯的糾紛，無過錯責任原則便有了進行規(guī)制的可能。依據(jù)侵權責任編的特別規(guī)定，產(chǎn)品責任實行無過錯責任歸責原則，只要產(chǎn)品存在缺陷造成他人損害，手術機器人引起的醫(yī)療糾紛便可適用產(chǎn)品責任，申言之產(chǎn)品責任就已成立。[18]

從目前人工智能技術成本、立法回應、普遍使用程度以及社會可接納度尚有待完善和推廣的實際社會現(xiàn)象下，手術機器人致人損害適用無過錯責任原則，具有合理性，其原因在于人工智能系統(tǒng)的可靠性、穩(wěn)定性對于手術機器人的使用者而言安全適用至關重要。而生產(chǎn)者是系統(tǒng)設計的命運決定者，在此利益鏈條循環(huán)下，對生產(chǎn)者適用嚴格責任具有一定的合理性。此外，技術的快捷使得絕大部分患者并不了解手術機器人層面背后的知識，而手術機器人不過是為患者的需要而設計，其在無人問津時并不具有自身獨立價值。在無法回避手術機器人技術引發(fā)的問題時，無過錯責任原則才能讓手術機器人的設計及生產(chǎn)全程處于監(jiān)管之下，以機制約束生產(chǎn)者、銷售者，進而推動技術修正。

四、結語

手術機器人致人損害引起的醫(yī)療侵權責任作為一種新型、復雜的侵權責任類型，是技術發(fā)展背景下引發(fā)出來的新客觀現(xiàn)象，而法律的滯后性必然導致對現(xiàn)有的侵權法體系引起一系列挑戰(zhàn)。本文通過對手術機器人主體地位的甄別，判定在弱人工智能時代，基于立法成本、自身屬性和技術發(fā)展的考量，手術機器人不宜界定為民事主體，其本質屬性仍為物。手術機器人醫(yī)療損害糾紛案中，介于手術機器人應用領域的特殊性，由醫(yī)療機構承擔不真正連帶責任，患者向醫(yī)療機構請求賠償?shù)?，醫(yī)療機構承擔賠償責任后，根據(jù)規(guī)定向生產(chǎn)者、銷售者進行追償。最后手術機器人侵權的歸責原則應適用無過錯責任原則，手術機器人具有科技產(chǎn)品屬性，生產(chǎn)者、銷售者因手術機器人的使用而盈利，就應當承擔更嚴格的責任、履行更高的要求而適用無過錯責任原則。