人機(jī)一體的倫理問題探討

尚鳳森

【摘要】隨著神經(jīng)生物學(xué)和認(rèn)知科學(xué)的迅速發(fā)展，人與機(jī)器之間呈現(xiàn)不斷結(jié)合乃至融合的態(tài)勢。如何更好地發(fā)展科學(xué)技術(shù)，使科技的發(fā)展始終保持將人作為目的的使命，迫使當(dāng)下必須直面人機(jī)一體所帶來的倫理困境，以及對于人機(jī)一體的演化所引發(fā)的權(quán)利保護(hù)問題。

【關(guān)鍵詞】人機(jī)一體 主體 權(quán)利

【中圖分類號】TP391.9 【文獻(xiàn)標(biāo)識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2018.06.014

人機(jī)的界限

工具的使用與制造使人類脫離動物界而飛速發(fā)展，工業(yè)文明以來，人類的工具發(fā)明幾乎呈直線上升之勢，尤其是后工業(yè)文明的迫近，人類的科技進(jìn)步更是呈爆炸式增長。人類可以利用機(jī)器實現(xiàn)對于自身損害的修復(fù)，也可以使用大量機(jī)器使自身能力得以延展。但在自己的一生中，恐怕沒有人會想將自己變成機(jī)器。而某種程度上，這類事情正在悄然發(fā)生，在身體外部以及內(nèi)部機(jī)器的存在已經(jīng)成為事實，各類假肢、人造髖關(guān)節(jié)、人造皮膚、心臟起搏器等。特別是耳蝸植入術(shù)植入的耳蝸，雖然無法做到像人類耳蝸那樣敏感，但已經(jīng)能使得那些深度耳聾的人聽到一定范圍內(nèi)的聲音。視網(wǎng)膜植入需要建立更多的神經(jīng)元連接，目前還不能讓盲人“重見天日”。但此類技術(shù)的基本原理已被掌握，隨著神經(jīng)科學(xué)以及電子技術(shù)的進(jìn)步，這類裝置服務(wù)于人只是時間問題。通過植入電子探針以探測大腦運(yùn)動皮層的活動，并利用信號來控制輪椅、機(jī)器人或者電腦鼠標(biāo)，已經(jīng)邁出了關(guān)鍵一步，為殘疾人、老人帶來無盡福祉。可以假設(shè)，人類身體其他部分的替換可以使用金屬或塑料，也可以使用生物技術(shù)特別培育的生物組織來代替。

在某種程度上，外部組織似乎或正作為肢體、器官的替代，或增強(qiáng)人的認(rèn)知能力，從而逐漸構(gòu)成人身體的一部分。但外部組織在何種程度上可以構(gòu)成人身體的一部分，換言之，人身體的哪些部分究竟是可以替代的，成為人機(jī)界限問題的核心?？萍嫉倪M(jìn)步使得人類可以對未來充滿美好的想象，但也使我們陷入深深的困惑。探討機(jī)器人能否擁有人腦般的意識，對于目前人工智能的發(fā)展，可以說為時尚早，但有朝一日人類也許能擁有機(jī)器人的身體，思維實驗“缸中之腦”可能變?yōu)楝F(xiàn)實。人從生物基礎(chǔ)的身體轉(zhuǎn)向以某種材料為基礎(chǔ)的身體正在發(fā)生改變，那么機(jī)器替代的界限在哪里？

對于機(jī)器的使用一般可分為兩類：一類是與身體固定連接，脫離后直接使身體相應(yīng)部位無法實現(xiàn)其功能；另一類是單純作為人身體相應(yīng)部位功能的增強(qiáng)或延伸，不與身體連接，可隨時替換而不影響身體相應(yīng)部位的功能（如望遠(yuǎn)鏡、汽車、計算機(jī)等）。顯然，在第二類中，人們是斷然不會將機(jī)器視為身體的構(gòu)成部分的，它們僅僅被視為構(gòu)成人身體外部的認(rèn)知環(huán)境。在第一類中，對于機(jī)器在人體上的用途又可以分為替換或輔助身體相應(yīng)器官發(fā)揮其應(yīng)有功能的（如假肢、人造髖關(guān)節(jié)、人造皮膚、心臟起搏器等）和極大增強(qiáng)人類認(rèn)知能力的（如未來可能出現(xiàn)的記憶芯片、腦內(nèi)通信網(wǎng)絡(luò)等）。

人的身體或器官被機(jī)器代替后，人的能力較之肉身大大增強(qiáng)，主要（但不限于）表現(xiàn)在以下幾個方面。（1）腦的記憶。通過植入電子記憶芯片，人的信息存儲能力將幾何倍數(shù)般提升，海量的知識與信息可以載入其中，記憶的容量大大擴(kuò)展，大量的知識無須痛苦背誦即可盡收眼底，這在教育方面無不令人欣喜若狂。由于有了電子記憶芯片的連接，人們睡夢中的信息也可以實現(xiàn)下載，那么分享自己的夢境也會成為現(xiàn)實。（2）交流方式。大腦神經(jīng)元連接植入式移動電話，可以在任何時間與任何人聯(lián)系，想到誰，就可以與其通話。人的通信能力隨著網(wǎng)絡(luò)的永久連接，也逐步得到強(qiáng)化。各類大型會議也無需行程安排、舟車勞頓。（3）體能。機(jī)械手臂或下肢，乃至機(jī)械皮膚，可以極大增強(qiáng)人的體能，舉重若輕，甚至飛檐走壁也不再是武林高手的專利。從粗略列舉的三個方面可以看出，人對于科技進(jìn)步的狂喜躍然紙上。因此，麻省理工學(xué)院計算機(jī)科學(xué)教授和人工智能實驗室主任布魯克斯說：“我們與機(jī)器人之間的界限將會消失。”[1]人體被替代后，機(jī)器不再是消極被動的存在，而是會帶來一系列的改變，使人與機(jī)器的界限更加模糊。

我們憧憬科技帶來美好未來的同時，也遭受到如影隨形的負(fù)面效應(yīng)與倫理困惑的拷問?；仡櫚l(fā)生在19世紀(jì)具有里程碑意義的菲尼亞斯·蓋奇（Phineas P. Gage）受傷前與治愈后人格改變的例子，它昭示了：人腦中可能存在專門負(fù)責(zé)推理的系統(tǒng)，腦損傷可能會造成已習(xí)得的社會習(xí)俗和道德規(guī)則的喪失。[2]我們或許樂于接受無限制地增強(qiáng)或擴(kuò)展我們的腦和身體，但如果出現(xiàn)人格的改變，即使是很小的概率，我們也萬萬不能接受。盡管在許多影視作品中出現(xiàn)過身體嚴(yán)重受損而通過更換“身體”獲得不一樣的人生，但在現(xiàn)實中人是否真的能欣然走進(jìn)轉(zhuǎn)換器？顯然蓋奇腦損傷的事例使我們認(rèn)識到，蓋奇變了，這一事實是我們不能接受的?？膳c之參照，機(jī)器植入體內(nèi)的界限在于，不能使“我”發(fā)生實質(zhì)性改變，即不能損傷腦并使推理系統(tǒng)發(fā)生改變。這一點(diǎn)似乎可以作為機(jī)器在何種程度上成為“我”的倫理標(biāo)準(zhǔn)。

若人類的神經(jīng)元可以植入某個“機(jī)器人”的體內(nèi)，比如某個病入膏肓的人死前捐獻(xiàn)自己的腦給“機(jī)器人”，使其具有捐獻(xiàn)者的某些記憶或情感特征，從而家人可以與其“永遠(yuǎn)”生活在一起，這儼然也是“我”在機(jī)器中存活的“缸中之腦”的現(xiàn)代版本。一些未來學(xué)家甚至聲稱，人類必定會獲得不死之身。這在倫理上同樣存在巨大問題，未來我們面對不斷出現(xiàn)的機(jī)器面孔時，人類社會交互是否會發(fā)生結(jié)構(gòu)上的變動，人類訴諸情感的方式是否也會隨之改變？社會道德與習(xí)俗是否也會極大變化。人機(jī)一體之后，智能機(jī)器人的倫理問題也勢必紛至沓來。

人機(jī)一體之后的權(quán)利

近代社會以權(quán)利為中心的制度體系保障了人類智慧文明的穩(wěn)步增長，使得人類在一定社會制度之下盡可能享受自身權(quán)益帶來的幸福。人機(jī)之間的界限模糊，使得權(quán)利保護(hù)出現(xiàn)了變動，權(quán)利保護(hù)不再是封閉的制度體系，法律與道德的界限又一次遭遇挑戰(zhàn)。人類文明的演化與發(fā)展，推動了某些權(quán)益的制度保障，隱私權(quán)就是一個典型的例子。隱私權(quán)的出現(xiàn)是由于私人空間與公共空間出現(xiàn)了沖突，制度需要明確哪些方面需要進(jìn)入公共領(lǐng)域可以被群體共享、哪些屬于私權(quán)領(lǐng)域，是否共享應(yīng)當(dāng)完全取決于個人意愿。即使這樣，多年來對隱私權(quán)的保護(hù)始終爭議連綿，其根源在于，隱私權(quán)本身的精神權(quán)利屬性加大了保護(hù)難度，造成個體間權(quán)利保護(hù)界限的模糊。人機(jī)界限的模糊，也帶來巨大的權(quán)利保護(hù)難度。制度文明如何面對這一挑戰(zhàn)？人格權(quán)法、知識產(chǎn)權(quán)法、侵權(quán)行為法等法律體系面臨重構(gòu)。

第一，權(quán)利保護(hù)觀念極大滯后于信息技術(shù)的發(fā)展，人格權(quán)法與知識產(chǎn)權(quán)法面臨調(diào)整。首先，信息交流愈發(fā)方便快捷，隱私保護(hù)難度加大。尤其電子芯片技術(shù)的運(yùn)用，使人們的交流幾乎可以在起心動念間就實現(xiàn)，嘴巴不動話語就到達(dá)，閉目養(yǎng)神時對話方可“看”到撫掌大笑抑或頓足捶胸之態(tài)，談話可以極大限度地實現(xiàn)“私密化”，甚至也可以記載并分享夢境。但信息的隱私保護(hù)也隨之增大了。比如，人們?yōu)榱吮Ｗo(hù)信息的安全，設(shè)計各種安全密碼，但密碼本身也是受保護(hù)的安全信息，其受保護(hù)的安全等級更高。密碼的存放變得更加困難，身份信息早已不知在多少個瀏覽器被默認(rèn)下載，各種密碼信息在不同服務(wù)器上使用而被記載，還有多少信息是屬于真正的“私人空間”呢？其次，人的智慧成果在近代被予以財產(chǎn)法保護(hù)，似乎知識可以成為創(chuàng)造者賴以謀生或引以為傲的生活手段。但技術(shù)發(fā)展使得這一切很快走向了反面，技術(shù)使得分享更容易、生產(chǎn)成本更低下。以音樂作品為例，20世紀(jì)80年代風(fēng)起云涌的從磁帶銷售獲利的音樂公司還未來得及享受專利銷售的欣喜，CD技術(shù)使得在盜版成本極大降低的同時音樂品質(zhì)幾乎不發(fā)生變化，各大音樂公司因此迅速衰落；網(wǎng)絡(luò)傳播下載更是給傳統(tǒng)音樂制造業(yè)帶來毀滅性打擊。技術(shù)的發(fā)展使得還未對原有技術(shù)進(jìn)行所謂的專利保護(hù)，它就瓦解了。技術(shù)更新與信息傳播速度呈幾何倍增長，固有的權(quán)利保護(hù)觀念遠(yuǎn)遠(yuǎn)滯后。

第二，機(jī)器作為人身體的一部分，其一旦被損害是認(rèn)定為財產(chǎn)損害還是人身傷害？人機(jī)界限的模糊使得在某些情況下遭受損害的評價變得復(fù)雜。目前，對于人所佩戴的眼鏡的損害可以毫不猶豫地判斷為財產(chǎn)損害，而對于人工視網(wǎng)膜，恐怕就不能下一個財產(chǎn)損害的斷言了。對于故意毀損他人心臟起搏器的行為，恐怕都需要刑事法律予以判斷。大陸法系國家《物權(quán)法》中對“物”的定義一般為，受人力支配的特定之物[3]，始終將物視為主體——人所支配的對象。人機(jī)一體的結(jié)果顯然突破了固有法律概念的理解和解釋，物的分類將出現(xiàn)革命性擴(kuò)張，而以原有概念為支撐的物權(quán)法原則，乃至整個法律體系將會面臨系統(tǒng)性革新。

第三，機(jī)器部分對他人造成損害，如何承擔(dān)責(zé)任？所屬物造成他人損害并由此所帶來的侵權(quán)責(zé)任顯然由物的所有人或監(jiān)管人承擔(dān)，這是通常意義上的法律判斷。造成這一判斷的基礎(chǔ)在于，物存在所有者，物是所有者意志貫徹之物。人機(jī)界限的模糊顯然挑戰(zhàn)了這一基本判斷，即“誰”是擁有者。因為擁有者具有自由意志，可以判斷自己行為的后果，也應(yīng)當(dāng)為行為后果承擔(dān)責(zé)任。科技進(jìn)步的趨勢下，這樣的判斷還能再循規(guī)蹈矩嗎？“缸中之腦”是外部機(jī)器的所有者嗎？擁有人類神經(jīng)元的機(jī)器人是所有者嗎？它能否承擔(dān)相應(yīng)的法律責(zé)任？

第四，擁有人類神經(jīng)元的機(jī)器人被損毀，法律上如何評價？擁有人類神經(jīng)元的機(jī)器人顯然具備了人類的某些人格特征，人類神經(jīng)元存在的意義顯然在于延續(xù)某個人的“整體信息”，使其能夠以機(jī)器人的形式繼續(xù)“活著”，繼續(xù)和親人一起生活。附在機(jī)器人上的神經(jīng)元系死者生前捐獻(xiàn)，神經(jīng)元由于離開人體，如同捐獻(xiàn)的器官、血液、骨髓等，應(yīng)為法律上的物。但神經(jīng)元恰恰又不同于器官、血液、骨髓等物，因為它儲存了所謂的信息，是人的連續(xù)的“自我感”的物質(zhì)基礎(chǔ)，進(jìn)而可以說，它恰恰是給人以“我”是所有者的感覺的生物機(jī)制。將神經(jīng)元簡單歸為《物權(quán)法》上的“物”，顯然會帶來解釋機(jī)制上的自相矛盾，民法上的主體何以確立？

總的來說，近代以來的法律體系建立在人是權(quán)利主體且具有“自由意志”的基礎(chǔ)上，但人機(jī)界限變得越來越模糊，使得“人”的概念面臨挑戰(zhàn)，而以此為基礎(chǔ)的法律體系也就面臨重構(gòu)[4]，甚至以“自律”為核心的人類的道德體系也面臨動蕩，后現(xiàn)代視域下，道德法則將去向何方？

人機(jī)問題中作為工具的技術(shù)發(fā)展一直備受關(guān)注，但對人機(jī)技術(shù)與人類社會、人類本質(zhì)的思考具有更深遠(yuǎn)的影響。人類在技術(shù)中的角色受到社會價值觀念的影響，在這樣的影響下人機(jī)之間如何和諧交互成為技術(shù)發(fā)展的倫理方向。從使用工具那一天起，工具之于人類的意義就始終伴隨著技術(shù)的發(fā)展。如何讓技術(shù)更好地服務(wù)于人類，把人始終作為行動的目的，將人作為具有內(nèi)在價值和尊嚴(yán)的獨(dú)立主體，始終是技術(shù)發(fā)展的根本目的?！拔覀円揽考夹g(shù)所達(dá)到的目的，無論在量上還是在質(zhì)上，沒有必要一致。然而需要堅持的是，無論用不用技術(shù)，人們都應(yīng)該在最大程度上保證生活的進(jìn)一步延展?！盵5]當(dāng)人機(jī)之間的界限變得模糊，甚至附著人類神經(jīng)元的機(jī)器人在人類社會更容易獲得信任時，對發(fā)展技術(shù)的根本目的的回答似乎變得不那么肯定，原因在于后工業(yè)時代的技術(shù)發(fā)展直接引發(fā)了對“人”的根本概念的挑戰(zhàn)。所以，發(fā)展技術(shù)的根本目的開始走向了哲學(xué)倫理學(xué)領(lǐng)域，如何厘清基本理論的預(yù)設(shè)，如何架構(gòu)各個社會科學(xué)學(xué)科間的基礎(chǔ)框架，人類的道德與法律在固有的社會關(guān)系可能被打破之后如何重塑體系，“天賦人權(quán)”觀念下的自然性權(quán)利是否還有其歷史必然性，如何探尋人機(jī)一體倫理問題研究的新的倫理圖式，并在此基礎(chǔ)上對其倫理問題研究的核心原則如何進(jìn)行闡釋等問題都需要進(jìn)行思考。

注釋

[1]Brooks， R.A， Robot：The Future of Flesh and Machines， London， Penguin， 2002， p236.

[2][美]安東尼奧·R.達(dá)馬西奧：《笛卡爾的錯誤》，毛彩鳳譯，北京：教育科學(xué)出版社，2007年，第9～15頁。

[3]史尚寬：《物權(quán)法論》，北京：中國政法大學(xué)出版社，2000年，第35頁。

[4]Hedden， T.， ketay， S.， Aron，A.， Markus，H.R.， &Gabrieli;， J， "Cultural influences on neural subtrates of attentional control"， Psychological Science， 2008， 19（1）， pp.12-17.

[5]Johnstone， Justine，"Technology as empowerment： A capability approach to computer ethics"， Ethics and Information Technology， 2007， 9（1）， pp.73-87.

責(zé) 編/楊昀赟