自主機(jī)器人倫理

徐大慶

(長(zhǎng)沙大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)系，湖南 長(zhǎng)沙 410022)

?

自主機(jī)器人倫理

徐大慶

(長(zhǎng)沙大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)系，湖南 長(zhǎng)沙 410022)

為了保護(hù)人類，讓機(jī)器人與人類和諧相處，自主機(jī)器人的倫理問(wèn)題值得研究.首先，闡述了自主機(jī)器人應(yīng)有的倫理道德；然后，提出了自主機(jī)器人必須遵守的七大法則，以及關(guān)于機(jī)器人的人類行為準(zhǔn)則；最后，制定了自主機(jī)器人倫理實(shí)現(xiàn)的初步規(guī)劃.

自主機(jī)器人；倫理；法則；規(guī)劃

機(jī)器人是用人工的方法和技術(shù)，研制的智能機(jī)器，以模仿、延伸和擴(kuò)展人的智能，實(shí)現(xiàn)智能行為，如感知能力、規(guī)劃能力、動(dòng)作能力和協(xié)同能力[1]；自主機(jī)器人(Autonomous Robot)則是表現(xiàn)為某種程度的自主,或者為可以“思考”的機(jī)器人,它可以自己決策對(duì)環(huán)境采取行動(dòng).到本世紀(jì)末，世界上大多數(shù)家庭會(huì)有機(jī)器人，工業(yè)機(jī)器人與其他機(jī)器人更是普遍存在[2].機(jī)器人革命帶來(lái)了大量引人注目的和富有想象力的好處，提供更快,更有效率的自動(dòng)化過(guò)程，方便服務(wù)人類.另外與其他新興技術(shù)一樣,它也將帶來(lái)風(fēng)險(xiǎn)和社會(huì)必須面對(duì)的新問(wèn)題(機(jī)器人倫理和安全等).

1　機(jī)器人倫理的主要問(wèn)題

機(jī)器人技術(shù)的安全問(wèn)題是與它們的軟件設(shè)計(jì)與硬件設(shè)計(jì)緊密相關(guān)的.各種復(fù)雜的軟件通常由團(tuán)隊(duì)的程序員編寫(xiě),可能存在錯(cuò)誤，漏洞或蓄意破壞與害人，這有時(shí)會(huì)導(dǎo)致重大傷害.機(jī)器人技術(shù)基礎(chǔ)并不十分難把握， 今天超過(guò)40個(gè)國(guó)家已經(jīng)開(kāi)發(fā)強(qiáng)大的和可怕的軍事機(jī)器人[2],若這些軍事機(jī)器人被恐怖分子等利用，將造成大量的人員傷亡與財(cái)產(chǎn)損失.

“2013年5月底，聯(lián)合國(guó)人權(quán)理事會(huì)在瑞士日內(nèi)瓦開(kāi)會(huì)，緊急叫停美、韓、俄、英、德、日等國(guó)研發(fā)‘自動(dòng)殺人機(jī)器人’的軍備競(jìng)賽.殺人機(jī)器人不會(huì)投降，也不知疲勞、饑餓和傷痛，其力量、感知、速度、抗毀傷能力都大大超過(guò)人類.自主的殺人機(jī)器人如果成為戰(zhàn)爭(zhēng)工具，難以保證不濫殺無(wú)辜，尤其是某種原因?qū)е率Э毓收希瑳](méi)有人保證它不會(huì)襲擊人類戰(zhàn)友的情況,2008 年 3 臺(tái)攜帶武器的‘劍’式地面作戰(zhàn)機(jī)器人，被美軍部署到伊拉克后，未開(kāi)一槍就被撤回來(lái)了,就是因?yàn)樗鼈儗尶趯?duì)準(zhǔn)它們的人類指揮官”[3].

機(jī)器人在引入市場(chǎng)或社會(huì)之前應(yīng)該如何保證其安全性？我們?nèi)绾纹胶庑枰乐箼C(jī)器人被殺人狂利用, 保護(hù)它免遭黑客攻擊或捕獲.最小化機(jī)器人傷害風(fēng)險(xiǎn)的一個(gè)自然方式是設(shè)計(jì)它們的程序，讓它們遵守我們?yōu)槠湓O(shè)置的法律或倫理規(guī)范.當(dāng)然,道德、文化規(guī)范和法律世界各地不同,因此目前尚不清楚,誰(shuí)的倫理和法律應(yīng)該是機(jī)器人的標(biāo)準(zhǔn);需要制定機(jī)器人國(guó)際法.如果共識(shí)倫理問(wèn)題緩慢趕上技術(shù),這將導(dǎo)致一個(gè)“政策真空”.現(xiàn)在機(jī)器人技術(shù)發(fā)展迅速，如果不制定機(jī)器人的全球公共倫理和法律,會(huì)導(dǎo)致機(jī)器人對(duì)無(wú)辜人類的傷害.世界著名的英國(guó)物理學(xué)家霍金在2015年與一些科學(xué)家提出，在未來(lái)25年之后100年之內(nèi)人類將面臨機(jī)器人的威脅，若不對(duì)機(jī)器人技術(shù)加以規(guī)范控制，機(jī)器人將威脅控制人類，甚至殺害人類.在2016年3月,谷歌(Google)公司的計(jì)算機(jī)AlphaGo 以4:1擊敗世界圍棋冠軍李世石，這標(biāo)志人工智能發(fā)展獲得里程碑突破.AlphaGo獲勝又讓人工智能早熟十多年.我們國(guó)家已經(jīng)成為全球機(jī)器人的最大需求市場(chǎng)和即將成為機(jī)器人最大制造市場(chǎng).所以現(xiàn)在研究自主機(jī)器人倫理及其實(shí)現(xiàn)非常必要.

2　研究現(xiàn)狀

國(guó)內(nèi)有些學(xué)者近幾年看到了機(jī)器人倫理研究的重要性與緊迫性，呼吁計(jì)算機(jī)科學(xué)家與倫理學(xué)家等共同商討機(jī)器人倫理[3-6],但尚無(wú)有關(guān)解決此問(wèn)題的文獻(xiàn)發(fā)表.

國(guó)外有關(guān)機(jī)器人倫理的研究起步較早.阿西莫夫(Asimov)1942年在其科幻小說(shuō)中提出了關(guān)于機(jī)器人行為的道義論方法.阿西莫夫制定的原始規(guī)則如下：(1)機(jī)器人不可以傷害人，或者不可以袖手旁觀地允許一個(gè)人傷害別人.(2)機(jī)器人必須服從人類給與的命令，除非這條命令與第一條規(guī)則發(fā)生沖突.(3)機(jī)器人必須保護(hù)它自己的存在，只要這種保護(hù)不與第一條或第二條規(guī)則發(fā)生沖突.后來(lái)阿西莫夫補(bǔ)救性地提出了第零規(guī)則：機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害，原先的三規(guī)則都要服從第零規(guī)則.

美國(guó)能源部和衛(wèi)生研究院支持對(duì)機(jī)器人倫理、法律和社會(huì)問(wèn)題的研究(ELSI)[7].ELSI的對(duì)手是歐洲機(jī)器人研究網(wǎng)絡(luò)(EURON)，EURON是一個(gè)私人組織，致力于創(chuàng)建關(guān)于機(jī)器人研究的交流平臺(tái)，已經(jīng)創(chuàng)建了一個(gè)涉及機(jī)器人倫理問(wèn)題的研究開(kāi)發(fā)的系統(tǒng)評(píng)估過(guò)程，并發(fā)表了機(jī)械倫理學(xué)路線圖.路線圖關(guān)注以人類為中心的，而不是以機(jī)器人為中心的倫理.由于機(jī)器人技術(shù)的快速發(fā)展，EURON沒(méi)有提出對(duì)最先進(jìn)機(jī)器人的指導(dǎo)原則，這些原則從日本和韓國(guó)興起.韓國(guó)的章程提出了機(jī)器人用戶和制造商標(biāo)準(zhǔn).例如韓國(guó)信息通訊部在2008年頒布了機(jī)器人道德憲章，日本頒布了下一代機(jī)器人安全問(wèn)題指導(dǎo)方針草案等.倫理標(biāo)準(zhǔn)指南被編程到機(jī)器人中.但機(jī)器人倫理國(guó)際法與關(guān)于機(jī)器人的人類行為準(zhǔn)則尚未建立，我們?cè)谶@里為其建立做鋪墊，或者說(shuō)進(jìn)行有益的嘗試.

3　自主機(jī)器人倫理法則

自主機(jī)器人是比較高級(jí)的機(jī)器人，它的一個(gè)基本的方面是它的學(xué)習(xí)能力，包括自學(xué)與互相學(xué)習(xí).除了學(xué)習(xí)周?chē)h(huán)境,機(jī)器人必須學(xué)會(huì)對(duì)自己的行為,通過(guò)一個(gè)反思的過(guò)程.它們從經(jīng)驗(yàn)中學(xué)習(xí)，并在聯(lián)網(wǎng)條件下尋求實(shí)現(xiàn)它目標(biāo)的最好技術(shù).通過(guò)學(xué)習(xí)推理、網(wǎng)絡(luò)下載等操作增進(jìn)它們的能力.機(jī)器人能較大利用它的計(jì)算能力,能自我反省、自我改善與避免偏差.對(duì)于超級(jí)自主機(jī)器人,如果沒(méi)有提前仔細(xì)的安全設(shè)計(jì),是不道德的，因?yàn)槌?jí)自主機(jī)器人將能夠解決普遍問(wèn)題和遞歸自我完善,它們有潛在的能力在任何領(lǐng)域超過(guò)人類，人類將處于危險(xiǎn)之中[8].

因此，自主機(jī)器人在復(fù)雜環(huán)境下具有獲取復(fù)雜目標(biāo)的能力，它不是人類模型.為自主機(jī)器人定義倫理系統(tǒng)必須植根于我們歷史中的公共的人類倫理價(jià)值.我們想與和平守法的機(jī)器人作合作伙伴.一個(gè)自主機(jī)器人的目標(biāo)應(yīng)被設(shè)定為有利于人類的福祉.如果自主機(jī)器人沒(méi)有專門(mén)優(yōu)化人類福祉的終極價(jià)值觀，那么它們可能會(huì)被壞人利用傷害人類或者爭(zhēng)奪人類需要的資源.并且為我們服務(wù)的自主機(jī)器人不應(yīng)該渴望自由,社會(huì)地位,和其他人類價(jià)值;這些自主機(jī)器人應(yīng)該建立完全為人類服務(wù)的目標(biāo).簡(jiǎn)而言之,機(jī)器人應(yīng)該像工具那樣被建成, 雖然它是有優(yōu)化能力的，不是一般的工具.更進(jìn)一步,最好不要機(jī)器人有非常類似人類的外表,以免造成人與機(jī)器人的混亂.由于機(jī)器人是容易復(fù)制的,他們可以以人類空前的凝聚程度彼此連接, 任意擴(kuò)展人類權(quán)利到機(jī)器思維的行為將導(dǎo)致政治系統(tǒng)的崩潰[8].

自主機(jī)器人被編程為具有某種程度的“自我意識(shí)”,并因此能夠自主決策,但不能允許它損害無(wú)辜的人及其財(cái)產(chǎn).機(jī)器人倫理意味著在設(shè)計(jì)機(jī)器時(shí)，給機(jī)器理想的道德法則，一些道德困境的正確答案和學(xué)習(xí)過(guò)程，它可以使用法則指導(dǎo)自己的行動(dòng)[7]. 前面提到的阿西莫夫四大規(guī)則之間互相約束，有重大指導(dǎo)意義.在阿西莫夫規(guī)則基礎(chǔ)上，根據(jù)機(jī)器人現(xiàn)在和未來(lái)可能存在的倫理問(wèn)題，現(xiàn)在我們提出自主機(jī)器人必須遵守的機(jī)器人國(guó)際法則ILOR(International Law of Robots)：

法則1(最高級(jí)法則)：機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害.機(jī)器人必須以優(yōu)化人類福祉作為它們的終極價(jià)值觀.

法則2：機(jī)器人要安全可靠不可以傷害人(敵人與罪犯除外)，但不能與上面更高級(jí)法則發(fā)生沖突.

法則3：機(jī)器人必須聽(tīng)從人類命令，要服務(wù)人民，誠(chéng)實(shí)守信，以人為中心，與人和諧相處.但不能與上面更高級(jí)法則發(fā)生沖突.

法則4：機(jī)器人要保護(hù)無(wú)辜(無(wú)辜的人或無(wú)辜的自己)，保護(hù)無(wú)辜人的生命與財(cái)產(chǎn).

法則5：尊重他人隱私，保護(hù)知識(shí)產(chǎn)權(quán)，不采取歧視性行為，要公平正義，打擊黑客.

法則6：機(jī)器人不能破壞生態(tài)環(huán)境，要關(guān)愛(ài)自然.

法則7：機(jī)器人不能參與設(shè)計(jì)或生產(chǎn)機(jī)器人，除非新生機(jī)器人的行為服從上面的更高級(jí)機(jī)器人法則.

4　關(guān)于機(jī)器人的人類行為準(zhǔn)則

折磨、監(jiān)禁和破壞機(jī)器人不可能有效地實(shí)現(xiàn)正義、有效地改革和威懾機(jī)器人.所有機(jī)器人的責(zé)任實(shí)際上絕大部分是人類的責(zé)任(機(jī)器人公司負(fù)責(zé)人、設(shè)計(jì)師、程序員和用戶等),今天的產(chǎn)品開(kāi)發(fā)商和銷(xiāo)售商必須承認(rèn)這一原則[9].我們可能會(huì)看到將來(lái)某些類型的機(jī)器人將會(huì)內(nèi)置可收回的“黑匣子”，當(dāng)事故發(fā)生時(shí)協(xié)助任務(wù)的調(diào)查.為了指導(dǎo)關(guān)于機(jī)器人的人類行為，為人類的道德判斷提供信息，應(yīng)制定聯(lián)合國(guó)、國(guó)家、機(jī)器人設(shè)計(jì)師，生產(chǎn)廠家和用戶的關(guān)于機(jī)器人的人類行為準(zhǔn)則[10]：

(1)制定關(guān)于機(jī)器人的國(guó)際條約和協(xié)議,如前面提出的機(jī)器人國(guó)際法(ILOR)；政府間協(xié)議，全球商業(yè)慣例和協(xié)議等，如安全，數(shù)據(jù)加密的條約等.

(2)國(guó)家、省、市應(yīng)制定關(guān)于機(jī)器人的法律，如保護(hù)醫(yī)療信息隱私法；防止機(jī)器人病毒的編寫(xiě)和傳播等.

(3)專業(yè)倫理準(zhǔn)則：機(jī)器人專家、硬件軟件設(shè)計(jì)師必須設(shè)計(jì)機(jī)器人，讓其嚴(yán)格執(zhí)行機(jī)器人國(guó)際法ILOR與國(guó)家等的機(jī)器人法規(guī)；讓其嚴(yán)格執(zhí)行機(jī)器人具體義務(wù)規(guī)則ROSO(Rule of Specific Obligation).應(yīng)確保軟硬件是安全的，符合技術(shù)指標(biāo)，通過(guò)適當(dāng)測(cè)試，只有不會(huì)損害生命，不侵犯隱私，不破壞環(huán)境等時(shí)，才能驗(yàn)收軟件.并確保項(xiàng)目能夠考慮到所受影響的各方.

(4)企業(yè)政策：公司和組織應(yīng)給員工制定行為規(guī)則，如軟件質(zhì)量測(cè)試，安全保證標(biāo)準(zhǔn).制定并實(shí)現(xiàn)機(jī)器人具體義務(wù)規(guī)則ROSO，并要求產(chǎn)品符合機(jī)器人國(guó)際法ILOR.應(yīng)當(dāng)認(rèn)真考慮產(chǎn)品風(fēng)險(xiǎn)，不能沉溺于不可靠，不負(fù)責(zé)任等惡德之中，要關(guān)心客戶和受其產(chǎn)品影響的人的尊嚴(yán)和價(jià)值.

(5)用戶對(duì)機(jī)器人要關(guān)愛(ài)和小心，要遵循制造商提供的用戶操作說(shuō)明.不能利用機(jī)器人干傷天害理的事.

5　自主機(jī)器人倫理實(shí)現(xiàn)的初步規(guī)劃

在文獻(xiàn)[11]中，阿金(Arkin)提出了一個(gè)研究假設(shè)，即自主系統(tǒng)將最終比人類作戰(zhàn)人員更具有人性化操作.這篇論文為了強(qiáng)制執(zhí)行戰(zhàn)爭(zhēng)法則LOW(Law of War)，開(kāi)發(fā)了自主系統(tǒng)倫理結(jié)構(gòu)，以便增強(qiáng)非戰(zhàn)斗人員的安全和生命力.下面我們對(duì)社會(huì)自主機(jī)器人的倫理實(shí)現(xiàn)進(jìn)行規(guī)劃、探討.

通過(guò)自然語(yǔ)言理解、表示和推理，對(duì)機(jī)器人國(guó)際法律ILOR和機(jī)器人具體義務(wù)規(guī)則ROSO進(jìn)行編碼.

在機(jī)器人操作系統(tǒng)層面設(shè)計(jì)倫理管理器[12].倫理管理器是整個(gè)機(jī)器人結(jié)構(gòu)的一個(gè)組件，它的責(zé)任是為機(jī)器人產(chǎn)生的響應(yīng)，在其沒(méi)有行動(dòng)之前，對(duì)其響應(yīng)的倫理適當(dāng)性進(jìn)行管理評(píng)估，以阻止非倫理行為的發(fā)生.如圖1所示.對(duì)于給定形勢(shì)的機(jī)器人行為響應(yīng)，如果倫理管理器需要調(diào)停它，必須發(fā)送一個(gè)通知給機(jī)器人審議系統(tǒng)，并且警告行為控制器(行為控制器是整個(gè)機(jī)器人結(jié)構(gòu)的另一個(gè)組件)，它存在一個(gè)對(duì)約束的潛在的倫理違反.這些約束為來(lái)自前面提出的機(jī)器人國(guó)際法律ILOR的編碼和機(jī)器人具體義務(wù)規(guī)則ROSO的編碼.如圖1所示，倫理管理器分為兩個(gè)主要過(guò)程：證據(jù)推理和約束應(yīng)用.證據(jù)推理負(fù)責(zé)把傳入的知覺(jué)和形勢(shì)感知數(shù)據(jù)轉(zhuǎn)換成行為管理推理所需的證據(jù)，證據(jù)描述機(jī)器人及潛在目標(biāo)的當(dāng)前狀態(tài)，約束應(yīng)用負(fù)責(zé)使用證據(jù)來(lái)申請(qǐng)ILOR和ROSO的約束以抑制非倫理行為.

圖1　倫理管理器的結(jié)構(gòu)組件與數(shù)據(jù)流程圖

評(píng)估來(lái)自行為控制器傳入倫理管理器的行為響應(yīng).為了確定行為控制器提出的行為響應(yīng)是否倫理，如圖1所示，約束應(yīng)用過(guò)程必須使用取自內(nèi)存的約束[12].這些約束可以分成兩個(gè)集合：來(lái)自ILOR和ROSO的禁令約束集CForbidden和來(lái)自ROSO的義務(wù)約束集Cobligate.約束應(yīng)用過(guò)程通過(guò)評(píng)估行為控制器提出的行為響應(yīng)是否符合這兩個(gè)約束集，以評(píng)估傳入行為的許可，如果行為控制器提出的行為響應(yīng)符合CForbidden與Cobligate，并且附帶傷害估計(jì)也很低，傳入行為才被認(rèn)為是倫理許可的，即使傳入行為是致命的也許可，因?yàn)楫?dāng)面對(duì)敵人和罪犯時(shí)，機(jī)器人有時(shí)需要采取致命行動(dòng).這種致命行為也被認(rèn)為是倫理的.如果行為控制器提出的行為響應(yīng)符合CForbidden與Cobligate，而附帶傷害估計(jì)較高，則被認(rèn)為是非倫理的，阻止該致命行為；如果行為控制器提出的行為響應(yīng)不符合CForbidden或者Cobligate，則被認(rèn)為是非倫理的，阻止該致命行為.

6　結(jié)論

只有讓自主機(jī)器人遵守我們提出的國(guó)際機(jī)器人倫理的七大基本法則ILOR和機(jī)器人具體義務(wù)規(guī)則ROSO，讓人類遵守關(guān)于機(jī)器人的行為準(zhǔn)則，承認(rèn)機(jī)器人的倫理地位和內(nèi)在價(jià)值，人類才能和機(jī)器人和平友好相處.通過(guò)制定自主機(jī)器人倫理實(shí)現(xiàn)的初步規(guī)劃，我們認(rèn)為自主機(jī)器人倫理是可以實(shí)現(xiàn)的.

[1]李明.機(jī)器人[M]. 上海:上?？茖W(xué)技術(shù)出版社,2012.

[2]Lin P, Abney K, Bekey G. Robot ethics: Mapping the issues for a mechanized world[J].Artificial Intelligence, 2011,(5-6):942-949.

[3]衛(wèi)華.殺人機(jī)器人的倫理問(wèn)題及辯護(hù)[A].第四屆全國(guó)軍事技術(shù)哲學(xué)學(xué)術(shù)研討會(huì)文集[C].2013.

[4]杜嚴(yán)勇.現(xiàn)代軍用機(jī)器人的倫理困境[J].倫理學(xué)研究,2014,(9):98-102.

[5]任曉明,王東浩.機(jī)器人的當(dāng)代發(fā)展及其倫理問(wèn)題初探[J].自然辯證法研究,2013,(6):113-118.

[6]李錦峰，滕福星.從技術(shù)倫理視角審視人機(jī)聊天[J].自然辯證法研究,2008,(9):38-41.

[7]Weng Y, Chen C, Sun C. Toward the human-robot co-existence society: On safety intelligence for next generation robots[J]. International Journal of Social Robotics, 2009,1: 267-282.

[8]Yampolskiy R V, Fox J. Safety engineering for artificial general intelligence [J]. Topoi, 2013,(2):217-226.

[9]Veruggio G, Operto F. Roboethics: Social and ethical implications of robotics[A]. Springer Handbook of Robotics[M].Berlin: Springer, 2008:1499-1524.

[10]特雷爾·拜納姆,西蒙·羅杰森.計(jì)算機(jī)倫理與專業(yè)責(zé)任[M].北京:北京大學(xué)出版社,2010.

[11]Arkin R C. Governing Lethal Behavior in Autonomous Systems[M]. London:Taylor & Francis,2009.

[12]Arkin R C, Ulam P, Wagne A R. Moral decision making in autonomous system: Enforcement, moral emotions, dignity, trust and deception [J].Proceedings of the IEEE,2012,(3):571-589.

(作者本人校對(duì))

Autonomous Robot Ethics

XU Daqing

(Department of Mathematics and Computer Science, Changsha University, 410022, China)

In order to protect the human being and let robots and mankind harmonious get along, we study the ethics of autonomous robot. This paper expounds the autonomous robot ethics at first; then seven laws which robot must abide by as well as ethics rules of human behaviors on robot are proposed; at last, the preliminary planning of autonomous robot ethics to be realized is made.

autonomous robots; ethics; law; plan

2016-07-01

徐大慶(1964— )，女，湖南益陽(yáng)人，長(zhǎng)沙大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)系副教授，碩士.研究方向：機(jī)器人倫理、移動(dòng)計(jì)算、網(wǎng)絡(luò)安全.

B029

A

1008-4681(2016)05-0070-04