人工智能倫理規(guī)則的產(chǎn)品質(zhì)量法立法構(gòu)建

寧金成 李瑞升

（1.2.鄭州大學(xué) 法學(xué)院，河南 鄭州450052）

人工智能浪潮方興未艾，在很多領(lǐng)域展示出巨大應(yīng)用前景，然而隨著人工智能技術(shù)的發(fā)展，其高智能、自主決策的特性在應(yīng)用中卻引發(fā)一系列倫理問題，比如智能主播因?qū)W“壞”而辱罵聽眾、自動駕駛汽車為自我避險而沖撞行人等，這些問題應(yīng)如何避免并確定相關(guān)的責(zé)任，相關(guān)立法并未及時回應(yīng)。雖然人工智能已經(jīng)歷了半個多世紀(jì)的發(fā)展，但有關(guān)人工智能的立法國內(nèi)外都沒有及時跟進(jìn)，人工智能的屬性、質(zhì)量標(biāo)準(zhǔn)、法律責(zé)任等仍處于制度空白，這與人工智能的發(fā)展現(xiàn)狀及對人類社會的巨大影響是不相稱的。目前讓人工智能取得法律主體地位還不具有充分的說服力，但如果將人工智能作為物來對待，人工智能自動決策的現(xiàn)象卻要求其表現(xiàn)要符合人類社會倫理規(guī)范，對人工智能的規(guī)制現(xiàn)行制度顯得力不從心。未來人工智能發(fā)展最大的問題，不是科學(xué)技術(shù)上的瓶頸，而是如何正確設(shè)置、處理人工智能與人類的關(guān)系問題。如果不把人類社會倫理規(guī)范引入人工智能的安全標(biāo)準(zhǔn)立法之中，可能人工智能帶給我們的不僅僅是便捷，還有無窮無盡的麻煩。遺憾的是，我國法學(xué)界對人工智能現(xiàn)象的探討尚未全面展開，近年來掀起的人工智能研究熱潮也主要集中于人工智能的法律地位、人工智能生成物的權(quán)利歸屬、人工智能侵權(quán)責(zé)任的承擔(dān)等問題，但對于人工智能活動與人類社會倫理規(guī)范的關(guān)系、人類社會倫理規(guī)范如何約束人工智能，現(xiàn)有研究缺乏從立法角度的實(shí)證分析。盡管倫理學(xué)也對“機(jī)器人能否成為倫理主體”問題開始研討，但法律倫理的交叉研究其實(shí)還沒有展開。因此，本文從人工智能的特性出發(fā)，探討人工智能倫理標(biāo)準(zhǔn)的立法構(gòu)建，以保障科技造福人類最終目標(biāo)的實(shí)現(xiàn)。

一、人工智能引入倫理規(guī)則的必要性與可行性

（一）人工智能引入倫理規(guī)則的必要性

人工智能技術(shù)是模擬、延伸、擴(kuò)展人的智能的理論、方法及應(yīng)用的一門科學(xué)，也是迄今為止最具有挑戰(zhàn)性的一門科學(xué)。人工智能開啟了人類生產(chǎn)生活的全新方式，不過一門新興科技帶來的福與禍總是相伴而行［1］，目前隨著人工智能的普及，其“脆弱面”也逐漸暴露，帶來一系列棘手的問題。比如自動駕駛汽車為了避免違反交通規(guī)則而沖撞了行人，這種自動化決策是否具有正當(dāng)性，應(yīng)該用何種標(biāo)準(zhǔn)來判斷這種決策是否選擇不當(dāng)？再比如人工智能主播在閱讀資料時接觸了人類的欺詐案例，進(jìn)而出現(xiàn)欺詐聽眾的情形，這是不應(yīng)該出現(xiàn)的現(xiàn)象，但用何種標(biāo)準(zhǔn)來約束、規(guī)制這種現(xiàn)象？

這些問題的出現(xiàn)都源于人工智能對人類活動的模擬甚至現(xiàn)實(shí)的取代。人工智能與以往所有人類制造物存在的不同，就是人工智能具有同人類一樣甚至超越人類的思維判斷和行動能力。人工智能技術(shù)發(fā)展的最高理想是代替人類決策，比如醫(yī)療人工智能就可以代替醫(yī)療人員從事特定的診療工作，甚至比醫(yī)生做的更好。2017年3月29日，阿里在云棲大會深圳峰會上展示了基于阿里云服務(wù)的超聲甲狀腺結(jié)節(jié)智能診斷系統(tǒng)的實(shí)際應(yīng)用情況。這個診斷系統(tǒng)利用人工智能，將甲狀腺結(jié)節(jié)診斷的準(zhǔn)確率從60%～70%提高到了85%［2］。人工智能具有高度自主性、復(fù)雜性，非一般物可以比擬，這使得我們不得不在一些場合將人工智能當(dāng)做“人”來看待，比如谷歌開發(fā)的無人駕駛汽車的人工智能車載系統(tǒng)就被美國官方認(rèn)定為“司機(jī)”。高級人工智能可以像人類一樣進(jìn)行邏輯推理甚至從事創(chuàng)造性工作，一些寫作人工智能在無須向系統(tǒng)輸入任何先天知識、無人類智慧直接參與的前提下，系統(tǒng)自身可以獨(dú)立生成新的智力內(nèi)容、創(chuàng)造新的成果比如一篇新聞報道、一首詩歌。有學(xué)者就認(rèn)為，只要是人工智能獨(dú)立完成的，其所生成的內(nèi)容具有獨(dú)創(chuàng)性就能夠構(gòu)成作品［3］。人工智能是用來解決某些實(shí)際問題的，但人工智能不會經(jīng)過人類思維這個中介，不會以人類社會價值觀為背景做出判斷，如何更像人類也不是人工智能的發(fā)展方向，比如自動駕駛技術(shù)不僅是在汽車上安裝了自動駕駛程序，還采集大量的地圖地貌信息加入程序以使得駕駛更加符合實(shí)際需求。既然人工智能從事的行為如同人類自己在從事一樣，那么倫理選擇權(quán)也交給人工智能了，這種情況下就需要以人類社會規(guī)范來檢視人工智能的表現(xiàn)，其底線就是應(yīng)符合人類社會法律法規(guī)、倫理道德的要求。

（二）人工智能引入倫理規(guī)則的可行性

人工智能活動需要遵守人類社會的法律、倫理規(guī)則，但一般來講，法律是規(guī)范法律主體的、道德是規(guī)范人類社會自然人的，作為客體的物不是法律、道德規(guī)范的對象。對于人工智能的法律地位和屬性，近年來也引發(fā)激烈爭論。一些學(xué)者認(rèn)為，在傳統(tǒng)法視野下將人工智能視為物已不能解決其致?lián)p侵權(quán)問題，人工智能與傳統(tǒng)機(jī)器的區(qū)別在于其具有“人”的自主性，按照目前人工智能的發(fā)展趨勢，人工智能必將獲得脫離人類控制的獨(dú)立自主能力，賦予其民事主體地位并自行擔(dān)責(zé)是大勢所趨。盡管對如何賦予人工智能法律人格，學(xué)界還存在爭議，比如有的學(xué)者認(rèn)為，人工智能應(yīng)該具有類似于企業(yè)法人的法律人格［4］，還有學(xué)者認(rèn)為，人工智能應(yīng)當(dāng)具有法律人格，但是屬于有限的法律人格［5］，但這些觀點(diǎn)都傾向于在確定人工智能民事主體地位的前提下解決現(xiàn)有的法律問題。如果將人工智能視為民事主體，那么就要圍繞人工智能專門設(shè)計其權(quán)利義務(wù)享有制度和法律責(zé)任承擔(dān)制度。但這種推翻原有民法規(guī)則的做法其實(shí)沒有必要和可行性。從立法的目的和效果上看，把某一實(shí)體設(shè)計為民事主體是為了激勵、控制、約束、規(guī)范其行為。但人工智能運(yùn)作模式都是由設(shè)計者設(shè)計的程序控制決定的，人工智能也不可能對人類制定的法律產(chǎn)生敬畏等意識，因此，法律不可能對人工智能的所作所為進(jìn)行激勵、約束或控制，需要約束、規(guī)范的是人工智能背后的設(shè)計者、生產(chǎn)者、使用者的行為。因此，將人工智能作為民事主體、責(zé)任主體進(jìn)行法律調(diào)整沒有實(shí)際價值。反過來講，如果認(rèn)為人工智能是主體或者具有人格屬性，那么就要從根本上改變民法的人與物二分法的基本體系，就要針對人工智能創(chuàng)造出調(diào)整現(xiàn)有人與物之外的第三種基本規(guī)則來調(diào)整人工智能這種存在形式，但人工智能顯然沒有這樣強(qiáng)烈的需求和如此大的沖擊力?！懊鎸θ斯ぶ悄芗夹g(shù)的發(fā)展，用現(xiàn)行民法的基本理念和基本規(guī)則進(jìn)行適當(dāng)調(diào)整，就能夠解決其所帶來的問題。不必急急忙忙、不假思索地想著改變民法的基本理念和基本規(guī)則?！保?］因此，可以得出結(jié)論，目前我國立法目前沒有賦予人工智能以民事主體地位，在未來一段時間內(nèi)也不需要修改法律賦予人工智能民事主體地位以使其可以獨(dú)立享有權(quán)利、履行義務(wù)。

目前人工智能“是法律關(guān)系的客體而非主體?！保?］但越來越多的社會實(shí)踐證明，物并非與道德無關(guān)，物蘊(yùn)含著人類的思想，物反作用于人的思維方式，物與人類道德密切相關(guān)。在美國紐約州通往瓊斯海灘的路上，有一座摩西橋非常低，只有私家車可以通過，而公共汽車則不能，這讓瓊斯海灘成為只向富人開放的海灘，這種設(shè)計因此受到指責(zé)［8］。雖然橋梁不具有人的意志，但設(shè)計行為、設(shè)計過程與設(shè)計結(jié)果都要接受人類法律、道德的評判。反過來，特定物的設(shè)計、運(yùn)用也會反作用于人類道德，比如馬路上減速帶的設(shè)計可以促進(jìn)人們養(yǎng)成禮讓行人的良好道德風(fēng)尚，地鐵進(jìn)出口驗(yàn)票通道中的閘門設(shè)計可以規(guī)避乘客逃票行為?！叭祟惖淖罡吣繕?biāo)是人類的全面發(fā)展，技術(shù)只是為這個目標(biāo)服務(wù)的手段。”［9］人類所制造、設(shè)計的物都應(yīng)該考慮權(quán)利、公平等社會價值問題，人工智能也如此。人工智能屬于物，但同樣蘊(yùn)含著倫理主張、倫理需求。人工智能不具有人類所獨(dú)有的道德情感以及是非善惡意識，人工智能在解決一個具體問題時只能通過已有的有限數(shù)據(jù)來作出判斷決策，缺乏像人一樣決策時的社會倫理語境，但其自動化的行為和決策卻不得違背我們?nèi)祟惖膫惱淼赖乱?guī)范底線，因此要特別對人工智能活動加入社會倫理規(guī)范。本質(zhì)的問題是如果將決策權(quán)交予人工智能，卻又對倫理問題不管不問，人類就面臨著失控的風(fēng)險。實(shí)踐中已頻頻出現(xiàn)類似的實(shí)例，微軟推出的智能聊天機(jī)器人Tay上線24 小時即在與人的交流過程中，被“教壞”而成為滿嘴臟話的“不良少女”，被緊急下線［10］。這不啻為一記警鐘。當(dāng)然有時候用戶自身可能道德素質(zhì)不高，人工智能違反道德的決策可能與用戶的要求并不違背，但人工智能作為影響整個人類發(fā)展的高科技產(chǎn)品，為其設(shè)置法律、倫理道德底線以從整體上把控這一領(lǐng)域的發(fā)展方向十分有必要。2018年12月歐盟人工智能高級別專家組發(fā)布了一份人工智能道德準(zhǔn)則草案，將人工智能倫理問題的規(guī)范化、制度化正式提上日程，這值得我們借鑒。

二、人工智能倫理規(guī)則立法構(gòu)建的基礎(chǔ)和進(jìn)路

針對人工智能活動應(yīng)建立倫理規(guī)則，但這種倫理規(guī)則應(yīng)如何建立，這需要從人工智能的本質(zhì)屬性出發(fā)來考察。

（一）人工智能的產(chǎn)品屬性：倫理規(guī)則立法構(gòu)建的基礎(chǔ)

人工智能倫理規(guī)則應(yīng)如何構(gòu)建取決于人工智能的屬性，取決于人工智能應(yīng)接受何種制度的規(guī)范。人工智能目前只是人類的工具，不應(yīng)該超越于人類而具有獨(dú)立存在的價值，人工智能發(fā)展的一個里程碑式事件是機(jī)器人“索菲亞”取得沙特阿拉伯國籍，但機(jī)器人“索菲亞”取得沙特阿拉伯國籍后，也并未真正行使公民權(quán)利、履行公民義務(wù)，因此人工智能在本質(zhì)上仍然屬于物，人工智能應(yīng)置于人類的控制下。那么人工智能屬于何種屬性的物？《中華人民共和國產(chǎn)品質(zhì)量法》第二條規(guī)定，本法所稱產(chǎn)品是指經(jīng)過加工、制作，用于銷售的產(chǎn)品。人工智能是人類設(shè)計的，是經(jīng)過加工、制作出來的，生產(chǎn)人工智能的目的是為參與流通即銷售，從這一點(diǎn)來看，人工智能仍然屬于產(chǎn)品的范疇，應(yīng)接受產(chǎn)品制度的調(diào)整。實(shí)踐中對人工智能的分類也是從產(chǎn)品領(lǐng)域角度進(jìn)行的，將人工智能分為醫(yī)療人工智能產(chǎn)品、智能寫作人工智能產(chǎn)品、自動駕駛汽車等。如果人工智能屬于產(chǎn)品，那么就應(yīng)接受《產(chǎn)品質(zhì)量法》產(chǎn)品質(zhì)量、產(chǎn)品責(zé)任等制度的調(diào)整。對此問題學(xué)界也有不少探討，比如以產(chǎn)品責(zé)任解決自動駕駛汽車致?lián)p事故，就得到了較為廣泛的認(rèn)可［11］。在人工智能屬于產(chǎn)品的情況下，以產(chǎn)品質(zhì)量法中的產(chǎn)品責(zé)任制度規(guī)制人工智能領(lǐng)域的活動，也具有多個方面的可行性：

第一，人工智能帶來的風(fēng)險只有通過產(chǎn)品責(zé)任規(guī)制生產(chǎn)設(shè)計行為才能得以良好控制。在很多時候人工智能致?lián)p時其處于完全自主的狀態(tài)，比如谷歌的人工智能概念車就已經(jīng)完全取消了方向盤、剎車等干預(yù)裝置，車內(nèi)的人是乘客而不是司機(jī)，此時發(fā)生交通肇事事故，判斷誰有過錯并進(jìn)而確定責(zé)任人就成為難題。如果適用一般侵權(quán)責(zé)任的過錯歸責(zé)原則無法解決人工智能致?lián)p侵權(quán)責(zé)任，我國《侵權(quán)責(zé)任法》在第六條和第七條還規(guī)定了過錯推定規(guī)則和無過錯責(zé)任，不過適用過錯推定規(guī)則和無過錯責(zé)任都需要法律的明確規(guī)定，也就是說在沒有法律專門規(guī)定人工智能致?lián)p侵權(quán)適用過錯推定和無過錯責(zé)任時，就無法適用?？傊F(xiàn)有的侵權(quán)法不足以解決自動駕駛汽車帶來的問題［12］。而我國對產(chǎn)品責(zé)任制度規(guī)定了生產(chǎn)者的無過錯責(zé)任，人工智能在沒有外來干擾的情況下在運(yùn)行過程中因自身瑕疵致人損害，就應(yīng)由生產(chǎn)者承擔(dān)無過錯責(zé)任，而無過錯責(zé)任可以督促生產(chǎn)者盡最大努力保證人工智能這一產(chǎn)品的安全，杜絕人工智能產(chǎn)品設(shè)計上的瑕疵和盲目生產(chǎn)。從立法技術(shù)上看，法律調(diào)整最終是調(diào)整民事主體的行為，人工智能是由一系列算法來操控，是人類思維的延伸，是按照設(shè)計者預(yù)先設(shè)定的程序來運(yùn)行，不會產(chǎn)生自己獨(dú)立的意志，法律也無法直接調(diào)整人工智能的決策程序。人工智能適用產(chǎn)品責(zé)任具有規(guī)制生產(chǎn)行為的作用［13］，產(chǎn)品責(zé)任制度通過規(guī)制人工智能生產(chǎn)者、設(shè)計者的行為來作用于人工智能。在人工智能侵權(quán)場合確定責(zé)任人，不僅涉及對受害者的賠償，還涉及防范致?lián)p事件發(fā)生義務(wù)的分配問題。通過產(chǎn)品責(zé)任制度方能促進(jìn)生產(chǎn)者、設(shè)計者盡力改進(jìn)人工智能運(yùn)行程序、嚴(yán)格生產(chǎn)規(guī)范，保障人工智能產(chǎn)品的安全。有學(xué)者就以自動駕駛汽車為例，指出在無人駕駛的情況下系統(tǒng)的可靠性至關(guān)重要，對系統(tǒng)安全性問題讓生產(chǎn)者承擔(dān)產(chǎn)品質(zhì)量責(zé)任具有合理性［14］。

第二，產(chǎn)品責(zé)任制度的責(zé)任方式可以有效救濟(jì)人工智能致?lián)p侵權(quán)的受害人。我國立法規(guī)定的產(chǎn)品責(zé)任承擔(dān)方式包括排除妨礙、消除危險、賠償損失，以及對產(chǎn)品缺陷的補(bǔ)救方式如警示、召回等，都可以適用人工智能致?lián)p侵權(quán)場合。比如產(chǎn)品召回制度可以及早去除危險，避免損害進(jìn)一步擴(kuò)大，更有利于保護(hù)消費(fèi)者。人工智能產(chǎn)品在設(shè)計方面的缺陷，有時只有在使用之后才能有透徹的認(rèn)識，因此召回制度適用于人工智能產(chǎn)品具有合理性。侵權(quán)致?lián)p事實(shí)發(fā)生后，如果需要對于侵權(quán)的人工智能召回、修理或者更換，這些法律后果也是人工智能自身所不能完成的，需要通過產(chǎn)品責(zé)任制度實(shí)現(xiàn)。

第三，產(chǎn)品責(zé)任制度的抗辯事由可以保障人工智能生產(chǎn)者的創(chuàng)新積極性。人工智能作為新興技術(shù)，一些技術(shù)風(fēng)險和漏洞從某一種意義上講是無法完全避免的。為避免無過錯產(chǎn)品責(zé)任打擊人工智能技術(shù)創(chuàng)新的積極性，需要一定的免責(zé)事由保護(hù)生產(chǎn)者。我國《產(chǎn)品責(zé)任法》第四十一條規(guī)定了生產(chǎn)者的免責(zé)事由，即未將產(chǎn)品投入流通；產(chǎn)品投入流通時，引起損害的缺陷尚不存在的；將產(chǎn)品投入流通時的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。這種抗辯事由適用于人工智能產(chǎn)品責(zé)任場合也具有合理性，可以保障生產(chǎn)者的研發(fā)人工智能積極性，在一定程度上鼓勵科技創(chuàng)新。當(dāng)然生產(chǎn)者如果以尚不能發(fā)現(xiàn)缺陷的存在為由進(jìn)行抗辯是非常不容易的，只要這種缺陷是現(xiàn)有技術(shù)水平能夠識別、能夠事先預(yù)判的風(fēng)險，不管能不能控制、避免，都要負(fù)責(zé)。人工智能具有學(xué)習(xí)能力，可能基于學(xué)習(xí)產(chǎn)生了之前沒有的缺陷，但這是設(shè)計時就可以預(yù)料到的問題，當(dāng)然不能以此為由免責(zé)。

（二）人工智能的產(chǎn)品制度：倫理規(guī)則立法構(gòu)建的路徑

在人工智能應(yīng)接受產(chǎn)品制度調(diào)整的前提下，倫理規(guī)則應(yīng)成為產(chǎn)品質(zhì)量合格與否的標(biāo)準(zhǔn)或者規(guī)則之一，違反倫理規(guī)則的產(chǎn)品要納入缺陷產(chǎn)品。按照我國《產(chǎn)品質(zhì)量法》和《侵權(quán)責(zé)任法》的規(guī)定，產(chǎn)品質(zhì)量是否合格或者是否存在缺陷的判斷標(biāo)準(zhǔn)分為兩種，即產(chǎn)品存在危及人身、財產(chǎn)安全的不合理危險，或產(chǎn)品達(dá)不到國家或者行業(yè)規(guī)定的標(biāo)準(zhǔn)?，F(xiàn)階段我國還未制定人工智能產(chǎn)品的國家、行業(yè)標(biāo)準(zhǔn)，那么人工智能產(chǎn)品是否合格、是否存在缺陷，就主要取決于人工智能產(chǎn)品是否存在不合理危險。目前對產(chǎn)品存在的危險是否合理的判斷標(biāo)準(zhǔn)，目前理論上存在著“技術(shù)標(biāo)準(zhǔn)說”“消費(fèi)者期待說”“風(fēng)險－效用說”等，但考慮的因素都與產(chǎn)品質(zhì)量標(biāo)準(zhǔn)相關(guān)，產(chǎn)品質(zhì)量標(biāo)準(zhǔn)包括技術(shù)標(biāo)準(zhǔn)和管理標(biāo)準(zhǔn)兩個方面，主要是從產(chǎn)品的物理性能、外觀結(jié)構(gòu)等方面上分析產(chǎn)品狀況，絲毫不涉及社會道德倫理問題，這對于判斷人工智能的某些儀器設(shè)備是否存在缺陷具有適用性，比如判斷人工智能傳感器是否正常、自動駕駛汽車的輪胎是否有缺陷等，都完全適用。但對人工智能自動決策時的道德選擇來說，上述判斷標(biāo)準(zhǔn)卻都不能適用。

雖然人工智能也是產(chǎn)品的一種，但人工智能與以往人類生產(chǎn)的所有產(chǎn)品都存在巨大不同，其具有類似甚至超越人類的智能。一般產(chǎn)品都是在人的操作下發(fā)揮產(chǎn)品功能，人的操作是產(chǎn)品實(shí)現(xiàn)一般產(chǎn)品功能的必要條件，但人工智能發(fā)揮功能并不需要人的操作。比如人工智能汽車反應(yīng)速度遠(yuǎn)超人類，其目的就是將人從駕駛這種簡單勞動中解放出來，高危險、高污染的環(huán)境下利用人工智能替代人類工作，不但能避免人類發(fā)生意外事故，還能節(jié)約勞動成本。按照目前的發(fā)展趨勢，人工智能具有獲得脫離人類控制的獨(dú)立自主能力的傾向，這導(dǎo)致只適用于規(guī)范人類自主決策行為的社會倫理道德規(guī)則也需要適用于人工智能產(chǎn)品，適用于這種特殊的“物”。正如學(xué)者指出的，自動駕駛汽車的算法也可能需要面對倫理上的挑戰(zhàn)［15］。在發(fā)生事故時自動駕駛汽車是嚴(yán)格遵守交通規(guī)則還是保護(hù)人類優(yōu)先？一輛自動駕駛汽車在行進(jìn)過程中面對突然從路邊跑過來的小孩，可能需要在雙黃線上轉(zhuǎn)彎以避免撞到小孩，但這可能違反交通規(guī)則，此時就需要做出符合人類社會需要的抉擇，但這種抉擇妥當(dāng)與否，與產(chǎn)品物理等性能無關(guān)，無法適用傳統(tǒng)產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)。因此，未來應(yīng)完善豐富產(chǎn)品質(zhì)量標(biāo)準(zhǔn)，倫理規(guī)則應(yīng)成為人工智能產(chǎn)品質(zhì)量合格與否、是否存在缺陷的標(biāo)準(zhǔn)，這是人工智能倫理規(guī)則建立的路徑。

三、人工智能倫理規(guī)則的產(chǎn)品質(zhì)量法立法構(gòu)建的建議

早在2015年霍金就發(fā)出過警告，超級聰明的人工智能可以非常容易地實(shí)現(xiàn)它的目標(biāo)，如果這些目標(biāo)與人類不一致，人類就麻煩了［16］。是否應(yīng)該為產(chǎn)品性能設(shè)置社會倫理邊界，這是以往產(chǎn)品制度中從來不需要考慮的，但對人工智能產(chǎn)品，卻需要加入這種倫理邊界以約束其自我決策過程。對于此問題，國內(nèi)外都已經(jīng)開始予以關(guān)注，比如2019年4月8日歐盟委員會發(fā)布《可信人工智能倫理指南》，指出“可信賴的人工智能”包括7個關(guān)鍵條件：人類的自主性和監(jiān)督，技術(shù)的健全性和安全性，隱私和數(shù)據(jù)管理，透明度，多樣性、非歧視和公平性，社會福祉，問責(zé)機(jī)制［17］。2019年6月17日，我國國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出人工智能治理的框架和行動指南，強(qiáng)調(diào)和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開發(fā)協(xié)作、敏捷治理8個原則［18］。這些文件所體現(xiàn)的原則和精神，都表明人工智能的發(fā)展應(yīng)受到人類社會價值觀的約束。今后我國立法應(yīng)在產(chǎn)品質(zhì)量法中引入人工智能產(chǎn)品的社會倫理規(guī)則，具體包括兩個方面，即在人工智能產(chǎn)品質(zhì)量標(biāo)準(zhǔn)中加入倫理道德規(guī)范，針對倫理問題增加人工智能產(chǎn)品缺陷制度的類型。

（一）人工智能產(chǎn)品質(zhì)量倫理規(guī)范標(biāo)準(zhǔn)的立法

一般來說，產(chǎn)品質(zhì)量是指產(chǎn)品滿足規(guī)定需要和潛在需要的特征特性總和，不管產(chǎn)品質(zhì)量標(biāo)準(zhǔn)是操作運(yùn)行方面、結(jié)構(gòu)方面、物理性能化學(xué)成分方面，還是耐用性、使用成本、外觀等方面，最終目的都是為了保障滿足用戶的需要而設(shè)定的，從這一方面講，人工智能是代替人類作出決策的，其決策是應(yīng)用于人類社會的，因此人工智能活動也要滿足人類的倫理需求，倫理要求應(yīng)是判斷人工智能產(chǎn)品質(zhì)量合格與否的一個重要指標(biāo)。由于人工智能種類繁多，跨越多個行業(yè)和領(lǐng)域，因此可以在科技部下面建立人工智能的專門監(jiān)管部門，未來可以由人工智能監(jiān)管部門牽頭制定人工智能產(chǎn)品在質(zhì)量方面的社會倫理規(guī)范行業(yè)標(biāo)準(zhǔn)。人工智能產(chǎn)品的社會倫理標(biāo)準(zhǔn)是針對人工智能的算法或者說決策活動的，具體內(nèi)容應(yīng)包括：

第一，人工智能的算法、決策應(yīng)符合法律法規(guī)。這是人工智能產(chǎn)品算法設(shè)計的底線，倫理規(guī)范方面的法律標(biāo)準(zhǔn)是毋庸置疑的。法律與倫理在某些觀點(diǎn)上雖有所不同，但相互間不能分離［19］。人工智能決策出現(xiàn)違反法律法規(guī)情形的，比如人工智能在接觸人類隱私后選擇公開他人隱私，當(dāng)然屬于產(chǎn)品運(yùn)行方面的重大質(zhì)量缺陷。

第二，人工智能的算法、決策應(yīng)符合社會核心價值觀和倫理道德原則，應(yīng)符合人類的根本利益，尊重人類人格尊嚴(yán)等。人工智能的算法、決策不僅僅是一個技術(shù)選擇問題，比如在自動駕駛汽車不可避免發(fā)生交通事故時，人工智能必須處理“保護(hù)誰和損害誰”的問題，但是決定“保護(hù)誰和損害誰”本質(zhì)上是一個倫理問題，立法有必要予以干預(yù)并保障人工智能的此類決定符合社會核心價值觀和倫理道德原則。在現(xiàn)代法治背景下，倫理問題必然會轉(zhuǎn)化成政治壓力和民主議題，反映在立法中［20］。具體來說，人工智能設(shè)計要確保算法設(shè)定不出現(xiàn)歧視、避免用來欺詐的算法、對個人信息的收集和利用要關(guān)注隱私保護(hù)等。如果人工智能在倫理選擇方面進(jìn)行算法上的排序，保障生命權(quán)應(yīng)放在首位，當(dāng)人工智能面臨人類生命權(quán)與其他權(quán)益相沖突時，首選保障生命權(quán)，其次再考慮其他人身權(quán)益、財產(chǎn)權(quán)益、效率秩序等倫理價值。

第三，為確保人工智能的算法、決策符合倫理規(guī)則，人工智能的算法設(shè)計要遵循可解釋性原則，即保證人類能夠了解人工智能如何以及為何做出特定決定，保證自主決策系統(tǒng)的工作原理人類可以預(yù)測。

為了保障規(guī)則的較大適用性，立法規(guī)定的人工智能產(chǎn)品倫理規(guī)則必然較為抽象，各個行業(yè)領(lǐng)域人工智能產(chǎn)品的社會倫理規(guī)范具體細(xì)則，監(jiān)管部門可以另行制定。需要說明的是，人工智能的倫理問題一般消費(fèi)者難以發(fā)現(xiàn)，在發(fā)展一項(xiàng)新的人工智能技術(shù)時，要對其是否符合社會倫理規(guī)范經(jīng)過道德評估。我國《產(chǎn)品質(zhì)量法》第十二條也規(guī)定，產(chǎn)品質(zhì)量應(yīng)當(dāng)檢驗(yàn)合格。在人工智能產(chǎn)品國家標(biāo)準(zhǔn)尚未出臺時，人工智能企業(yè)的自律存在獨(dú)斷的風(fēng)險，而國家對產(chǎn)品質(zhì)量的監(jiān)督檢查以抽查為主要方式。鑒于人工智能產(chǎn)品的巨大社會影響，筆者認(rèn)為，有必要針對人工智能產(chǎn)品建立第三方檢驗(yàn)制度，新類型的人工智能產(chǎn)品進(jìn)入市場前，監(jiān)管部門要責(zé)令行業(yè)協(xié)會組織對人工智能進(jìn)行內(nèi)部算法檢驗(yàn)，對人工智能技術(shù)指標(biāo)是否符合社會倫理等標(biāo)準(zhǔn)進(jìn)行全面審查和預(yù)估。在實(shí)踐中，如果是用戶在使用過程中修改程序?qū)е氯斯ぶ悄芩惴ǔ绦?、人工智能決策違反法律和倫理道德規(guī)范的，這與生產(chǎn)者設(shè)計者無關(guān)，應(yīng)由用戶自行承擔(dān)后果。

（二）增加人工智能產(chǎn)品缺陷制度的類型

適用產(chǎn)品責(zé)任制度的前提是產(chǎn)品存在缺陷，而傳統(tǒng)產(chǎn)品缺陷包括設(shè)計缺陷、制造缺陷和警示缺陷三類，按照這種分類人工智能產(chǎn)品的缺陷也可以分為設(shè)計缺陷、制造缺陷和警示缺陷，比如人工智能不按照輸入的指令運(yùn)行就屬于設(shè)計缺陷，智能機(jī)器人電池漏電就屬于制造缺陷，沒有合理告知消費(fèi)者操作注意事項(xiàng)就屬于警示缺陷。人工智能源于設(shè)計缺陷、制造缺陷和警示缺陷這三類原因在自動運(yùn)行時致?lián)p侵權(quán)，就要適用產(chǎn)品責(zé)任制度解決其帶來的損害賠償?shù)确韶?zé)任問題。但傳統(tǒng)產(chǎn)品的設(shè)計缺陷、制造缺陷和警示缺陷是否能涵蓋人工智能運(yùn)行中的特殊倫理問題不無疑問。人工智能在使用過程中出現(xiàn)的大量思考、選擇和自主決策，原本可能是需要人類做出的，這是人工智能作為人類工作替代物面臨的最大問題。許多人工智能具有深度學(xué)習(xí)能力，生產(chǎn)商也無法準(zhǔn)確預(yù)測人工智能在某些情況下會做出何種行為、發(fā)生何種后果，比如人工智能醫(yī)生是基于對以往診斷數(shù)據(jù)的學(xué)習(xí)分析，來給患者提出診療方案，IBM 公司就通過和一家癌癥中心合作，讓其研發(fā)的人工智能輔助診療機(jī)器人Watson對專業(yè)醫(yī)學(xué)知識、基因組數(shù)據(jù)、病歷信息等醫(yī)療數(shù)據(jù)進(jìn)行深度學(xué)習(xí)，來構(gòu)建自動化分析的疾病診斷治療系統(tǒng)。這些人工智能醫(yī)生的決策是無法事先預(yù)估的，如果人工智能醫(yī)生判斷患者已無康復(fù)希望，基于治療效果考慮而拒絕對患者提出醫(yī)療方案是否屬于不當(dāng)反應(yīng)，原有的產(chǎn)品缺陷種類難以涵蓋這種情形。筆者認(rèn)為，如果人工智能運(yùn)行系統(tǒng)、算法設(shè)計不能避免人工智能出現(xiàn)違反倫理規(guī)范決策的，應(yīng)視為存在產(chǎn)品倫理缺陷，要由生產(chǎn)者對由此造成的損害承擔(dān)產(chǎn)品責(zé)任。將人工智能產(chǎn)品倫理缺陷獨(dú)立為一個類型，還源于：第一，現(xiàn)有產(chǎn)品缺陷制度所針對的缺陷是產(chǎn)品存在危及他人人身和財產(chǎn)安全的不合理風(fēng)險，但人工智能產(chǎn)品倫理缺陷的本質(zhì)是算法推演過程或結(jié)果違背人類社會倫理觀，兩者存在不同之處，現(xiàn)有產(chǎn)品缺陷制度無法涵蓋人工智能產(chǎn)品倫理缺陷。第二，保障人工智能的決策符合倫理德道規(guī)范，主要應(yīng)在設(shè)計環(huán)節(jié)加以貫徹，倫理缺陷其實(shí)也是產(chǎn)品設(shè)計上的倫理缺陷，但通常情況下設(shè)計缺陷一般是指產(chǎn)品結(jié)構(gòu)設(shè)置不合理、產(chǎn)品設(shè)計選用的材料不適當(dāng)、設(shè)計沒有附加應(yīng)有的安全裝置等等，為了突出人工智能倫理標(biāo)準(zhǔn)的獨(dú)特性，也有必要將人工智能產(chǎn)品倫理缺陷作為產(chǎn)品缺陷的單獨(dú)一個種類加以規(guī)范。

在人工智能違反倫理規(guī)則給他人造成損害，而受害者主張人工智能生產(chǎn)者承擔(dān)產(chǎn)品責(zé)任時，一般情況下應(yīng)當(dāng)對人工智能產(chǎn)品存在缺陷、受損事實(shí)以及缺陷與損害事實(shí)之間存在因果關(guān)系進(jìn)行舉證。對于制造、警示等方面的缺陷，判定相對簡單，舉證也不困難，比如自動駕駛汽車的輪胎是否符合質(zhì)量標(biāo)準(zhǔn)等，只需要按照一般產(chǎn)品的判斷標(biāo)準(zhǔn)進(jìn)行舉證、確認(rèn)即可。但人工智能倫理上的缺陷，需要認(rèn)識其系統(tǒng)工作原理，從而指出算法存在倫理缺陷，這是一般人無法完成的證明。對于具有學(xué)習(xí)能力的高度自主性的人工智能來說，隨著系統(tǒng)自身經(jīng)驗(yàn)的增加，其行為、決策的推理過程設(shè)計者本身有時也無法完全還原，在計算分析能力上人腦和這些人工智能比起來遜色很多。法官等法律工作者如何對此達(dá)成共識也是一個難題。因此，有必要對人工智能產(chǎn)品責(zé)任是否存在倫理缺陷實(shí)行舉證責(zé)任倒置。只要受害人證明了自己因人工智能違背倫理規(guī)則的活動造成了損害，人工智能生產(chǎn)設(shè)計者就應(yīng)當(dāng)對人工智能產(chǎn)品不存在倫理缺陷或倫理缺陷與損害之間不存在因果關(guān)系承擔(dān)舉證責(zé)任。如果人工智能生產(chǎn)設(shè)計者不能證明人工智能設(shè)計不存在倫理缺陷或倫理缺陷與損害事實(shí)的發(fā)生沒有因果關(guān)系，就要承擔(dān)產(chǎn)品責(zé)任。

四、小結(jié)及展望

人工智能對我們來說是一把雙刃劍，我們發(fā)明了人工智能，但如何以及能否使人工智能在人類的控制下活動是一個大問題。史蒂芬·霍金就曾警示道：“成功地創(chuàng)造出人工智能是人類偉大的進(jìn)步。但，這極有可能是人類文明最后的進(jìn)步?！保?1］無論如何，科技進(jìn)步的車輪不可逆轉(zhuǎn)，如何解決人工智能帶來的倫理風(fēng)險，將成為影響它能否良性發(fā)展的關(guān)鍵環(huán)節(jié)。鑒于目前人工智能的出現(xiàn)并沒有顛覆原有“人—物”兩分法的法律體系，我們要在關(guān)注人工智能特殊性的前提下，改進(jìn)產(chǎn)品責(zé)任制度，引入產(chǎn)品倫理標(biāo)準(zhǔn)，規(guī)制人工智能產(chǎn)品的生產(chǎn)設(shè)計行為，解決人工智能技術(shù)帶來的倫理問題。

我國在2020年5月份通過了《中華人民共和國民法典》（以下簡稱《民法典》），遺憾的是《民法典》中并未涉及人工智能的任何法律問題，這與人工智能無處不在的生活現(xiàn)實(shí)是不相適應(yīng)的。鑒于短期內(nèi)我國修改《民法典》并不現(xiàn)實(shí)，建議今后在《產(chǎn)品質(zhì)量法》中增加條款以規(guī)范人工智能的責(zé)任問題及倫理問題，本文也以立法建議作為結(jié)束語。本文建議的條文草稿為：人工智能產(chǎn)品存在缺陷造成他人損害的，生產(chǎn)者應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任；人工智能產(chǎn)品的算法、決策應(yīng)符合社會倫理規(guī)范，人工智能投入市場前應(yīng)接受倫理規(guī)范審核；人工智能產(chǎn)品設(shè)計違反倫理規(guī)范的，視為存在產(chǎn)品倫理缺陷；人工智能產(chǎn)品違反倫理規(guī)則造成他人損害的，生產(chǎn)者應(yīng)對產(chǎn)品是否存在倫理缺陷承擔(dān)舉證責(zé)任。

最后，需要說明的是，當(dāng)前人工智能只是人類的工具，沒有超越法律視野下“物”的范疇，但人工智能技術(shù)進(jìn)步勢不可擋，隨著大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)等信息技術(shù)的發(fā)展，人工智能的自我學(xué)習(xí)、自我判斷、甚至是自我管理的“智力”發(fā)展不可限量，人工智能不僅能夠模擬人的智能，其強(qiáng)大的計算功能使得未來人工智能很可能具有超越人類、不受人類控制的思維和行動能力，在未來可能無法僅僅將人工智能視為人類可以隨意控制的工具。如果人工智能產(chǎn)生了自我意識，他們可能會很好地控制、管理自己，此時人工智能的活動規(guī)則可以由人工智能自己依據(jù)社會既有規(guī)則來設(shè)定。因此，未來立法要給具有自我管理能力的人工智能發(fā)展為獨(dú)立民事主體留下空間，如果人工智能成為民事主體，那么現(xiàn)有的法律法規(guī)、社會倫理道德就可以無障礙適用于人工智能了。