機(jī)器人的道德發(fā)展困境分析

馮金衛(wèi)

摘 要 隨著即將來(lái)臨的第四次工業(yè)革命，人工智能和機(jī)器人不斷進(jìn)入大眾視野。機(jī)器人不斷自主化的發(fā)展趨勢(shì)，引起機(jī)器人在道德問(wèn)題的熱議。為了更好地促進(jìn)機(jī)器人的發(fā)展，首先必須分清人、人工智能和機(jī)器人的區(qū)別和聯(lián)系，其次認(rèn)真分析造成發(fā)展機(jī)器人引發(fā)的道德困境的原因，最后提出相應(yīng)的措施。

關(guān)鍵詞 人工智能 機(jī)器人 道德困境

中圖分類(lèi)號(hào)：B82-02 文獻(xiàn)標(biāo)識(shí)碼：A DOI：10.16400/j.cnki.kjdks.2019.02.069

Analysis of the Difficulties in the Moral Development of Robots

FENG Jinwei

（Harbin Normal University， Harbin， Heilongjiang 150025）

Abstract With the forthcoming fourth industrial revolution， artificial intelligence and robots continue to enter the public eye. The development trend of robots' constant autonomy has caused the robots to have a hot discussion on moral issues. In order to better promote the development of robots， we must first distinguish the differences and connections between humans， artificial intelligence and robots. Secondly， we must carefully analyze the causes of the moral dilemma caused by the development of robots， and finally propose corresponding measures.

Keywords artificial intelligence； robot； moral dilemma

物理學(xué)家霍金曾指出：“人工智能的進(jìn)化速度會(huì)比人類(lèi)快，而它們的未來(lái)不可預(yù)測(cè)”，一些影視作品比如《黑客帝國(guó)》、《X戰(zhàn)警》和《我，機(jī)器人》宣揚(yáng)的是人工智能系統(tǒng)和機(jī)器人會(huì)擺脫人類(lèi)的監(jiān)管、自主作出決定，甚至毀滅人類(lèi)。這種不確定，使機(jī)器人面臨的道德風(fēng)險(xiǎn)日益凸顯，引起了人們的關(guān)注。在2017年夏季達(dá)沃斯論壇中就“人工智能和機(jī)器人”進(jìn)行了專(zhuān)門(mén)的談?wù)?，其中關(guān)于人工智能尤其是機(jī)器人的道德發(fā)展問(wèn)題就最為突出。

1 人、人工智能和機(jī)器人的區(qū)別和聯(lián)系

1.1 人有意識(shí)，人工智能和機(jī)器人只具有思維模擬

從哲學(xué)上說(shuō)，人生于自然，是歷史生成性的存在。人類(lèi)為了能夠生存，滿足吃喝等基本需要，必須進(jìn)行物質(zhì)資料生產(chǎn)，并且在勞動(dòng)過(guò)程中，由于分工和交流的需要，產(chǎn)生了語(yǔ)言和意識(shí)。所以說(shuō)“意識(shí)一開(kāi)始就是社會(huì)的產(chǎn)物，而且只要人們存在著，它就仍然是這種產(chǎn)物”。人和其他動(dòng)物的區(qū)別在于能否進(jìn)行有意識(shí)的活動(dòng)。而機(jī)器人是具有類(lèi)人性質(zhì)的機(jī)器，它本身是由一些電子元件和線路組成的物理裝置。而且機(jī)器人用的是計(jì)算機(jī)系統(tǒng)組成的“電腦”，進(jìn)行的是無(wú)意識(shí)的、機(jī)械的過(guò)程，它所進(jìn)行的一些思考只是對(duì)人腦思維的模擬，只是單純的執(zhí)行系統(tǒng)發(fā)來(lái)的指令。人工智能是利用計(jì)算機(jī)系統(tǒng)對(duì)人的智能進(jìn)行模擬、延伸和擴(kuò)展的一門(mén)技術(shù)科學(xué)，它的領(lǐng)域研究包括機(jī)器人、圖像識(shí)別、語(yǔ)言識(shí)別和專(zhuān)家系統(tǒng)等。所以說(shuō)人工智能是對(duì)人的意識(shí)思維的模擬，本身不具有意識(shí)。機(jī)器人是人工智能具體化的表現(xiàn)形式和產(chǎn)物，人工智能的技術(shù)發(fā)展是機(jī)器人發(fā)展的前提和基礎(chǔ)。而道德是關(guān)于人們的行為規(guī)范標(biāo)準(zhǔn)的總和，道德的主體都是具有社會(huì)意義上的人，所以好像關(guān)于研究機(jī)器人道德問(wèn)題的論述都是偽命題。但若從機(jī)器人作為人類(lèi)思維實(shí)踐化、現(xiàn)實(shí)化的產(chǎn)物來(lái)講，研究機(jī)器人的道德從實(shí)質(zhì)上就是在研究人類(lèi)自身的道德問(wèn)題，從本體論研究是有一定的道理的。

1.2 人和機(jī)器人背后的創(chuàng)造者都具有物質(zhì)實(shí)踐活動(dòng)

人類(lèi)在自然界中作為相對(duì)于自然界的認(rèn)識(shí)主體而存在，客觀地去認(rèn)識(shí)客體是什么，人類(lèi)要接觸客觀對(duì)象，必須通過(guò)實(shí)踐。人類(lèi)只要正確認(rèn)識(shí)物質(zhì)世界并在實(shí)踐的基礎(chǔ)上才能改造世界。因此，人具有實(shí)踐性的物質(zhì)活動(dòng)，人與社會(huì)通過(guò)社會(huì)實(shí)踐活動(dòng)，形成主客觀關(guān)系。反觀機(jī)器人——作為人的理論實(shí)踐化的產(chǎn)物，并不是自己本身通過(guò)實(shí)踐去認(rèn)識(shí)世界，這在電腦里都有相關(guān)的理論記載和描述，只需機(jī)械地執(zhí)行指令。機(jī)器人自身與社會(huì)并沒(méi)有真正意義上形成主客觀關(guān)系，一切都是人工智能的創(chuàng)造者在社會(huì)中實(shí)踐的產(chǎn)物。因此，機(jī)器人的問(wèn)題還是機(jī)器人的創(chuàng)造者即人與社會(huì)通過(guò)社會(huì)實(shí)踐形成主客觀關(guān)系問(wèn)題。

1.3 人和機(jī)器人人是統(tǒng)一卻又異化的關(guān)系

首先，隨著經(jīng)濟(jì)全球化的深入和技術(shù)的不斷進(jìn)步，人們的物質(zhì)生活不斷提高，人工智能產(chǎn)品逐漸走入百姓家。它給人們帶來(lái)諸多便利，比如家用機(jī)器人能夠幫助整理家務(wù)，勞動(dòng)性機(jī)器人能提高生產(chǎn)效率，服務(wù)型機(jī)器人能幫老人排憂解悶等等。人通過(guò)勞動(dòng)創(chuàng)造出勞動(dòng)產(chǎn)品的過(guò)程，是科學(xué)技術(shù)對(duì)象化的產(chǎn)物，但這不是對(duì)人勞動(dòng)自身和科技主體的正面肯定，而是反過(guò)來(lái)成為束縛人的異己力量，這叫做科技異化。原本家人之間是溫情和諧的，相互陪伴的，現(xiàn)在是人情冷漠、甚至只有赤裸裸的利害關(guān)系；原本青少年在義務(wù)階段是圖強(qiáng)向上的時(shí)期，現(xiàn)在卻沉迷“吃雞”游戲、王者榮耀無(wú)法自拔；原本同學(xué)聚會(huì)是開(kāi)開(kāi)心心，有說(shuō)有笑的，但現(xiàn)在大家似乎都沉默寡言、低頭玩智能手機(jī)不交流，只在飯后發(fā)個(gè)朋友圈；智能手機(jī)等產(chǎn)品原本是人類(lèi)生產(chǎn)出來(lái)方便大家溝通交流的，拉近距離的，人與物是一種自由自在的統(tǒng)一關(guān)系，而現(xiàn)在卻成了異化對(duì)立的關(guān)系，人們成為人工智能產(chǎn)品的附庸和奴隸；人原本是處于主體地位，現(xiàn)在卻處于客體地位。好像“人們似乎生活在他們的商品之中，他們的靈魂困在他們的小橋車(chē)、高清晰度的傳真裝置、錯(cuò)層式的家庭住宅以及設(shè)備之中”，好像“物的世界的增值與人的世界的貶值成正比”。其次，從馬克思的“社會(huì)形態(tài)理論”看出：人對(duì)物的依賴(lài)性、物反統(tǒng)治于人，是異化產(chǎn)生的原因，同時(shí)異化的產(chǎn)生又與商品經(jīng)濟(jì)相聯(lián)系，商品經(jīng)濟(jì)社會(huì)是科技異化的快速發(fā)展時(shí)期，只有到了共產(chǎn)主義社會(huì)才能真正實(shí)現(xiàn)人的自由和解放。我國(guó)正處于并長(zhǎng)期處于社會(huì)主義初級(jí)階段，市場(chǎng)經(jīng)濟(jì)體制不夠完善，生產(chǎn)力還未達(dá)到足以高的水平，而共產(chǎn)主義社會(huì)的一切都是“以生產(chǎn)力的巨大增長(zhǎng)和高度發(fā)展為前提的”，所以科技異化在社會(huì)中會(huì)長(zhǎng)期存在。

2 機(jī)器人的道德發(fā)展難題

2.1 國(guó)與國(guó)之間經(jīng)濟(jì)發(fā)展不平衡

各國(guó)經(jīng)濟(jì)發(fā)展不同，生產(chǎn)基礎(chǔ)強(qiáng)弱不一，導(dǎo)致各國(guó)對(duì)人工智能發(fā)展采取的措施不同，研究資金有多有少，技術(shù)發(fā)展有前有后。發(fā)達(dá)國(guó)家一直利用科技“剪刀差”，占據(jù)技術(shù)制高點(diǎn)，進(jìn)行技術(shù)保護(hù)壁壘。發(fā)展中國(guó)家人工智能技術(shù)發(fā)展雖有所貢獻(xiàn)，但與核心技術(shù)相關(guān)的難題不了解、不攻破的話，那么發(fā)展還是舉步維艱、進(jìn)程緩慢。其次發(fā)展中國(guó)家發(fā)展機(jī)器人可能造成經(jīng)濟(jì)開(kāi)發(fā)困境，會(huì)引起本國(guó)的經(jīng)濟(jì)結(jié)構(gòu)轉(zhuǎn)變。發(fā)展中國(guó)家工業(yè)尤其是科技行業(yè)基礎(chǔ)薄弱，研究人員儲(chǔ)備不足及其理論水平不夠，但發(fā)展中國(guó)家跟風(fēng)發(fā)達(dá)國(guó)家的步伐國(guó)家投入大量資金開(kāi)發(fā)人工智能技術(shù)和機(jī)器人，使本來(lái)不發(fā)達(dá)的農(nóng)業(yè)輕工業(yè)發(fā)展更加緩慢，這樣的經(jīng)濟(jì)發(fā)展會(huì)加劇不平等現(xiàn)象。《2017年全球風(fēng)險(xiǎn)報(bào)告》中也有類(lèi)似觀點(diǎn)。

2.2 人的道德復(fù)雜性造成的技術(shù)難題

原始社會(huì)時(shí)期，人人平等、互助團(tuán)結(jié)；奴隸社會(huì)時(shí)期，出現(xiàn)階級(jí)差別、男尊女卑；封建社會(huì)出現(xiàn)是以維護(hù)宗法等級(jí)關(guān)系為主的道德，資本主義社會(huì)出現(xiàn)個(gè)人主義和利己主義為核心的道德，我國(guó)社會(huì)的道德是以集體主義為原則。道德作為社會(huì)意識(shí)形態(tài)的表現(xiàn)形式是有歷史階段性的，各個(gè)階段的評(píng)價(jià)標(biāo)準(zhǔn)不同，導(dǎo)致人的道德復(fù)雜性。機(jī)器人作為人思維實(shí)踐化的產(chǎn)物，人是機(jī)器人的創(chuàng)造者，在設(shè)計(jì)的時(shí)候免不了帶有人的道德觀念。所以人的道德發(fā)展的復(fù)雜性決定了機(jī)器人的道德發(fā)展的復(fù)雜性。人的道德雖是由思想上占統(tǒng)治地位的統(tǒng)治階級(jí)制定，但終究是由生產(chǎn)力和生產(chǎn)關(guān)系的發(fā)展水平?jīng)Q定的。因此，機(jī)器人的道德發(fā)展的復(fù)雜性是由科學(xué)技術(shù)發(fā)展的復(fù)雜性決定的。機(jī)器人的道德發(fā)展其實(shí)是應(yīng)用于自身身上的技術(shù)難題。由麻省理工學(xué)院大學(xué)人工智能實(shí)驗(yàn)室的布魯克斯開(kāi)發(fā)的人形機(jī)器Cog，是一個(gè)具有類(lèi)似嬰兒能力的可以進(jìn)行自我學(xué)習(xí)的機(jī)器人，但只具有非常簡(jiǎn)單有限的學(xué)習(xí)能力，布魯克斯的靈感來(lái)源于人與人之間的互動(dòng)是產(chǎn)生智力的重要因素。之后布魯克斯又設(shè)計(jì)出的Kismet機(jī)器人可以表現(xiàn)人類(lèi)的多種情緒狀態(tài)，包括恐懼、悲傷、驚訝和感興趣，還有閉上眼睛并退到睡覺(jué)的姿勢(shì)。Kismet代表了將情緒反應(yīng)與自主活動(dòng)結(jié)合在機(jī)器人身上的一種嘗試，它的情緒狀態(tài)是通過(guò)說(shuō)話者的音調(diào)變化、指示性手勢(shì)以及與之交流的人類(lèi)的接近行為進(jìn)行判斷并作出反應(yīng)。它是一個(gè)可以進(jìn)行最基本社交能力的機(jī)器人，但是它并沒(méi)有進(jìn)行價(jià)值推理的能力。2017年10月27日由戴維·漢森設(shè)計(jì)的機(jī)器人“索菲亞”成為人類(lèi)歷史第一個(gè)被授予“公民”身份的女性機(jī)器人，她能做出62種以上的表情，與人的眼神互動(dòng)，還言稱(chēng)“毀滅人類(lèi)”（其實(shí)是設(shè)計(jì)者玩笑和噱頭）。人工智能技術(shù)是不斷發(fā)展的，自主性和可操作性更強(qiáng)了，使得機(jī)器人的發(fā)展越加快速。但更多的是反映技術(shù)的困難重重。機(jī)器人目前能模仿人類(lèi)基本的表情變化，但人的復(fù)雜的心理和生理歷程機(jī)器人就不好表達(dá)和描述了。應(yīng)用于機(jī)器人上的技術(shù)理論也在不斷的研究和探討過(guò)程中。

2.3 道德監(jiān)管的復(fù)雜性

第一，反映在機(jī)器人的道德決策的不確定性。人工智能革命在不斷提高人們對(duì)自動(dòng)化的依賴(lài)的同時(shí)，自主性系統(tǒng)逐漸掌控著能產(chǎn)生多種倫理后果的決定，人工智能的道德決策的不確定性，導(dǎo)致了機(jī)器人道德監(jiān)管的復(fù)雜性有的選擇從法律角度分析人工智能的道德發(fā)展應(yīng)該采取懲罰方式，但是被懲罰的概念在機(jī)器人的發(fā)展過(guò)程中會(huì)持續(xù)多久，說(shuō)不清楚，或者說(shuō)懲罰只是更適用于簡(jiǎn)單的機(jī)器人，隨著技術(shù)的不斷革新，先進(jìn)的機(jī)器人會(huì)采取其他方式規(guī)避懲罰的。在當(dāng)代社會(huì)由于行為和結(jié)果之間有著復(fù)雜的利益鏈條，由誰(shuí)做出重要決策這一問(wèn)題模模糊糊，道德誰(shuí)對(duì)誰(shuí)錯(cuò)的問(wèn)題更為復(fù)雜，那么問(wèn)題出現(xiàn)之后監(jiān)管問(wèn)題也就懸而未決。第二，使用機(jī)器人的安全問(wèn)題。隨著機(jī)器人不斷應(yīng)用在軍事上，使得軍事戰(zhàn)爭(zhēng)更加自主化、智能化，這將會(huì)改變傳統(tǒng)的戰(zhàn)爭(zhēng)方式。國(guó)際上并沒(méi)有統(tǒng)一的管理軍事化機(jī)器人的條約和規(guī)定，如果出現(xiàn)設(shè)計(jì)漏洞，對(duì)國(guó)家和人們的人身安全將是巨大的威脅。而且發(fā)展機(jī)器人也沒(méi)有出臺(tái)相關(guān)的法律法規(guī)，機(jī)器人商業(yè)化會(huì)在一定程度上對(duì)人的財(cái)產(chǎn)安全和法律權(quán)利造成影響。

3 機(jī)器人道德發(fā)展的措施

機(jī)器人作為人類(lèi)改造世界的工具，是為了讓人類(lèi)能夠更好地獲得自由而全面的發(fā)展機(jī)會(huì)。因此為了構(gòu)建“人類(lèi)命運(yùn)共同體”，首先各國(guó)之間應(yīng)該采取共同經(jīng)濟(jì)政治合作的方式，打破技術(shù)發(fā)展壁壘，采取“和而不同”的思想方針，實(shí)現(xiàn)資源共享，協(xié)同進(jìn)步，并與本國(guó)具體國(guó)情相結(jié)合。這樣才能促進(jìn)各國(guó)互利雙贏，推動(dòng)人工智能的高速發(fā)展。其次，通過(guò)聯(lián)合國(guó)等國(guó)際組織制定相關(guān)的關(guān)于人工智能和機(jī)器人安全發(fā)展的條約和規(guī)定，共同促進(jìn)機(jī)器人的健康發(fā)展。最后，人工智能作為一旦生產(chǎn)出來(lái)就不以人的意志為轉(zhuǎn)移的產(chǎn)物，構(gòu)建它們的道德應(yīng)該有自身的特點(diǎn)。眾所周知，機(jī)器人必須遵守“阿西莫夫三大定律”：不能傷害人類(lèi)；聽(tīng)命于人類(lèi)的使命；保障自身安全，但同時(shí)不得違背上述兩點(diǎn)原則。從這可以看出只是單方面的強(qiáng)調(diào)機(jī)器人對(duì)人類(lèi)的絕對(duì)服從和義務(wù)關(guān)系，并沒(méi)有突出機(jī)器人自身的權(quán)利如何，應(yīng)該突出人工智能的權(quán)利問(wèn)題，給予起一定的自主決策權(quán)，并協(xié)調(diào)好人的決策與人工智能的道德決策的一個(gè)適當(dāng)?shù)亩取６乙欢S著時(shí)代的進(jìn)步而發(fā)展，畢竟未來(lái)主義文學(xué)作品以及影視作品給了我們太多的警示作用。

參考文獻(xiàn)

[1] 馬克思、恩格斯.德意志意識(shí)形態(tài)，馬克思恩格斯全集（中文第2版），（第3卷）[M].北京：中共中央編譯局.

[2] 馬爾庫(kù)塞.單向度的人[M].上海：上海譯文出版社，2014.

[3] 馬克思.1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿.馬克思恩格斯全集（中文第2版），（第42卷）[M].北京：中共中央編譯局.