人工智能倫理問題及其規(guī)約之徑

閆坤如, 馬少卿(華南理工大學(xué) 馬克思主義學(xué)院, 廣州 廣東 510640)

人工智能(artificial intelligence,簡(jiǎn)稱AI)經(jīng)過半個(gè)多世紀(jì)的發(fā)展,取得了眾多理論與實(shí)踐成果,AiphaGo戰(zhàn)勝職業(yè)圍棋選手,蘋果公司的人工智能產(chǎn)品通過機(jī)器學(xué)習(xí)撰寫的論文獲得CVPR 2017最佳論文等,人工智能促進(jìn)了社會(huì)的發(fā)展和人類的進(jìn)步,但是人工智能作為新興技術(shù)也存在著潛在風(fēng)險(xiǎn),人工智能的發(fā)展拉大了社會(huì)貧富差距,人工智能的發(fā)展引起新的倫理問題,可能影響社會(huì)穩(wěn)定,等等。我們將通過分析人工智能的社會(huì)效應(yīng)及人工智能發(fā)展引發(fā)的新倫理沖突,在此基礎(chǔ)上分析人工智能的倫理規(guī)約。

一、 人工智能發(fā)展歷程及其社會(huì)效應(yīng)

人工智能的產(chǎn)生可以追溯到1956年在美國達(dá)特茅斯(Dartmouth)召開的人工智能會(huì)議,美國科學(xué)家明斯基(M.Minsky)、西蒙(H.Simon)及麥卡錫(J. Mccarthy)等人工智能先驅(qū)參加了會(huì)議,這次會(huì)議正式宣告了人工智能的誕生。

人工智能的發(fā)展經(jīng)歷了三次跨越式發(fā)展階段:第一次發(fā)展是使智能系統(tǒng)基本實(shí)現(xiàn)了問題求解,實(shí)現(xiàn)了人工智能簡(jiǎn)單的邏輯推理功能;第二次發(fā)展是實(shí)現(xiàn)了智能系統(tǒng)與機(jī)器及外部環(huán)境進(jìn)行自動(dòng)交互的功能,可以實(shí)現(xiàn)從陌生的環(huán)境中獲取有用信息完成設(shè)定的推理工作;第三次發(fā)展是追求類人的思維和認(rèn)知能力,使得智能系統(tǒng)與機(jī)器能夠發(fā)現(xiàn)、創(chuàng)造和運(yùn)用新知識(shí),能夠?qū)?shù)據(jù)進(jìn)行分析和挖掘等功能。一般來講,人工智能技術(shù)分為三種:弱人工智能技術(shù)(artificial narrow intelligence,簡(jiǎn)稱ANI)、強(qiáng)人工智能技術(shù)(artificial general intelligence,簡(jiǎn)稱AGI),以及超人工智能技術(shù)(artificial super intelligence,簡(jiǎn)稱ASI)。弱工智能技術(shù)指的是在嚴(yán)格的程序規(guī)定下,只對(duì)設(shè)定刺激作出反應(yīng),目前大多數(shù)人工智能產(chǎn)品都屬于弱人工智能技術(shù),如下棋程序、導(dǎo)航系統(tǒng)等等;強(qiáng)人工智能技術(shù)完全依靠機(jī)器自身就能做出決斷,機(jī)器能夠自主進(jìn)行推理和判斷,強(qiáng)人工智能的程序具有人類的理解能力?！俺斯ぶ悄苤傅氖窃诟鱾€(gè)方面都比人類具有優(yōu)勢(shì)的智能系統(tǒng)?！盵1]超人工智能是智能機(jī)器,能夠制造新的人工智能系統(tǒng)。

人工智能以聯(lián)結(jié)主義(connectionism)、符號(hào)主義(symbolicism)與行為主義(actionism)為理論基礎(chǔ)。符號(hào)主義學(xué)派主要依靠計(jì)算機(jī)邏輯符號(hào)來模擬人的認(rèn)知過程,認(rèn)為智能系統(tǒng)可以像人類一樣通過邏輯推理認(rèn)識(shí)事物,符號(hào)主義學(xué)派的主要代表人物為西蒙、明斯基等人;聯(lián)結(jié)主義認(rèn)為神經(jīng)元是人類智能的基本構(gòu)成和傳遞單元,人工智能的重要來源是人類大腦本身,人工智能的核心議題是對(duì)人腦模型深入研究,代表人物是魯梅爾哈特(David Everett Rumelhart);行為主義學(xué)派的研究進(jìn)路在于人工智能技術(shù)產(chǎn)品的行為可以根據(jù)搜集的外部數(shù)據(jù)來調(diào)整,可以主動(dòng)適應(yīng)外部環(huán)境,而不是依賴于人類的算法和預(yù)先設(shè)定的程序?qū)ν饨缱鞒龇磻?yīng),行為主義學(xué)派的代表人物是維納(N.Wiener)。

人工智能是強(qiáng)大生產(chǎn)力,它改變了人類的生活方式,提高了人類的生活質(zhì)量。首先,人工智能改變?nèi)祟惿睢，F(xiàn)在人類的生活從簡(jiǎn)單的外賣自動(dòng)下單到證券市場(chǎng)的股價(jià)分析都離不開人工智能,人工智能產(chǎn)品已經(jīng)把人類從繁重的勞動(dòng)中解脫出來;其次,人工智能改變了社會(huì)結(jié)構(gòu),推動(dòng)了社會(huì)的轉(zhuǎn)型升級(jí),提高了勞動(dòng)生產(chǎn)效率,促進(jìn)了產(chǎn)業(yè)結(jié)構(gòu)的優(yōu)化發(fā)展;再次,人工智能的發(fā)展改變了人類的思維方式。人工智能出現(xiàn)之前人類的主要思維模式是因果式的思維模式,人工智能出現(xiàn)之后人類思維模式從因果式思維方式向相關(guān)性思維方式轉(zhuǎn)變。人們?nèi)粘Ｉ钪杏龅降囊恍﹩栴}可以向智能機(jī)器尋求幫助,而不再像以前一樣尋求人類幫助,如家庭智能安防系統(tǒng),當(dāng)房主離開房屋后房屋內(nèi)出現(xiàn)生命體,安防系統(tǒng)會(huì)自動(dòng)識(shí)別生命體的性質(zhì),如果是蠢賊入室盜竊,系統(tǒng)會(huì)自動(dòng)通知轄區(qū)派出所,從而達(dá)到防盜的目的。以人工智能為核心技術(shù)的智能革命給人類社會(huì)帶來前所未有的影響,甚至影響到未來世界格局的變化。

人工智能也有消極方面的影響。首先,人工智能可能導(dǎo)致工人失業(yè)。人工智能機(jī)器具有效率高、錯(cuò)誤率低、勞動(dòng)時(shí)間長(zhǎng)、維護(hù)成本低、操作智能等特點(diǎn),這相比較人類的效率低、錯(cuò)誤率高、勞動(dòng)時(shí)間短等特點(diǎn)具有明顯優(yōu)勢(shì),人工智能可能取代某些人的工作,導(dǎo)致某些行業(yè)的工人失業(yè)。例如,隨著機(jī)器翻譯的發(fā)展,同聲傳譯面臨著被機(jī)器翻譯取代的可能性。其次,人工智能會(huì)進(jìn)一步拉大社會(huì)的貧富差距。擁有和使用人工智能將創(chuàng)造更大的物質(zhì)財(cái)富,而沒有掌握與使用人工智能的行業(yè)會(huì)日漸衰落,失業(yè)工人將更加貧苦,富者越富,窮者越窮,貧富差距增大。再次,智能技術(shù)被濫用的風(fēng)險(xiǎn),“網(wǎng)絡(luò)面前無隱私”,在網(wǎng)絡(luò)上,個(gè)人信息和發(fā)言記錄都可以被查到,如果被不懷好意的國家和企業(yè)濫用先進(jìn)的技術(shù)可能會(huì)導(dǎo)致個(gè)人的生命安全、財(cái)產(chǎn)安全、信息安全都受到威脅和挑戰(zhàn)。最后,人工智能可能導(dǎo)致人的異化。人類研制與發(fā)展人工智能的初衷是想擺脫被自然界奴役的命運(yùn)與繁重勞動(dòng),但隨著人工智能的發(fā)展,人的主體性地位面臨喪失的危險(xiǎn),人類越來越依賴人工智能,甚至受制于人工智能。

人工智能既有促進(jìn)社會(huì)發(fā)展等積極的社會(huì)效應(yīng),也有引發(fā)新社會(huì)問題等消極方面的社會(huì)效應(yīng)。除此之外,人工智能可能引發(fā)新的價(jià)值沖突與倫理困境。

二、 人工智能引發(fā)新的價(jià)值沖突與倫理困境

人工智能在產(chǎn)生伊始就出現(xiàn)了人工智能倫理問題,圖靈(Alan M.Turing)在《智能機(jī)器》中表達(dá)了對(duì)于人工智能的技術(shù)快速發(fā)展,而相對(duì)應(yīng)的倫理發(fā)展與制約相對(duì)滯后的擔(dān)憂。人工智能作為現(xiàn)代重要的科技成果所帶來的社會(huì)影響和倫理問題也逐漸引起了人們的普遍關(guān)注與廣泛重視,除了對(duì)傳統(tǒng)倫理規(guī)范提出新挑戰(zhàn)之外,人工智能發(fā)展可能引發(fā)以下價(jià)值沖突與倫理困境。

1. 人工智能引發(fā)新責(zé)任倫理問題

20世紀(jì)初,漢斯·喬納斯(Hans Jonas)、喬爾·費(fèi)因伯格 (Joel Feinberg)、漢斯·昆 (Hans Kǜng)、漢斯·倫克 (Hans Lenk)建立了責(zé)任倫理學(xué)。責(zé)任倫理學(xué)基于對(duì)責(zé)任主體行為的目的、后果、手段等因素進(jìn)行全面、系統(tǒng)的倫理考量,對(duì)當(dāng)代社會(huì)的責(zé)任關(guān)系、責(zé)任歸因、責(zé)任目標(biāo)及價(jià)值標(biāo)準(zhǔn)等進(jìn)行倫理分析和研究。責(zé)任倫理的目的是更好地規(guī)范人類社會(huì)的責(zé)任關(guān)系,避免人工智能產(chǎn)品對(duì)人類社會(huì)帶來風(fēng)險(xiǎn)和挑戰(zhàn),責(zé)任倫理的原則是“絕對(duì)不可拿整個(gè)人類的存在去冒險(xiǎn)”[2]。人工智能的責(zé)任問題是現(xiàn)代社會(huì)不可回避的重要議題,由人工智能引發(fā)事故或設(shè)計(jì)、操作失誤后的追責(zé)問題是人工智能發(fā)展中人類必須面對(duì)的問題。目前為止沒有一個(gè)算法和程序是絕對(duì)安全的。塞爾(John R. Searle)提出“中文屋”的思想實(shí)驗(yàn)來區(qū)分智能機(jī)器與人類,在“中文屋”中,盡管機(jī)器人能夠通過中文屋測(cè)試,但它并未真正理解中文,并且機(jī)器人自身也不能具有人類的意向性。“機(jī)器人根本沒有意向狀態(tài),它只是受電路和程序支配的簡(jiǎn)單的來回運(yùn)動(dòng)而已。”[3]隨著醫(yī)學(xué)、生物學(xué)及計(jì)算機(jī)等學(xué)科關(guān)于意向性研究的突破,意向性在一定程度上可以通過程序自主生成,這會(huì)使得責(zé)任的劃分更加困難。這說明人工智能發(fā)展給責(zé)任倫理理論提出新的問題,特別是責(zé)任主體的界定、主體責(zé)任的范疇界定等等,這或許成為人類正在面臨或者即將面臨的難題。人工智能的設(shè)計(jì)者、使用者、監(jiān)督者、維護(hù)者的責(zé)任及人工智能企業(yè)的倫理責(zé)任等會(huì)進(jìn)入學(xué)者的研究視域。例如,哲學(xué)家菲利帕·福特(Philippa Foot)提出的電車難題(Trolley Problem)會(huì)隨著無人駕駛汽車的研究與應(yīng)用重新進(jìn)入學(xué)者的研究視野,無人駕駛車輛遇到不可避免的危險(xiǎn)時(shí),是選擇保護(hù)行人還是保護(hù)車內(nèi)人員呢?決策的理論依據(jù)是什么呢?這些道德沖突與倫理問題又將引起學(xué)者關(guān)注。

2. 人工智能引發(fā)風(fēng)險(xiǎn)倫理的問題

人工智能產(chǎn)品特別是智能機(jī)器人的使用在帶來方便快捷的同時(shí)也會(huì)有潛在的風(fēng)險(xiǎn),“風(fēng)險(xiǎn)”(risk)是“一種應(yīng)對(duì)現(xiàn)代化本身誘發(fā)并帶來災(zāi)難和不安全的方法;具有威脅性的現(xiàn)代力量及現(xiàn)代化造成的懷疑全球化所引發(fā)的結(jié)果”[4]。風(fēng)險(xiǎn)指的是遭受某種損失、傷害、不利后果的可能性。從風(fēng)險(xiǎn)產(chǎn)生根源可以分為“外部風(fēng)險(xiǎn)”(external risk)與“被制造出來的風(fēng)險(xiǎn) ”(manufactured-risk)兩種形式?！八^外部風(fēng)險(xiǎn),就是來自外部的、因?yàn)閭鹘y(tǒng)或者自然的不變性和固定性所帶來的風(fēng)險(xiǎn)?！^被制造出來的風(fēng)險(xiǎn)(人為風(fēng)險(xiǎn)),指的是由我們不斷發(fā)展的知識(shí)對(duì)這個(gè)世界的影響所產(chǎn)生的風(fēng)險(xiǎn),是指在我們沒有多少歷史經(jīng)驗(yàn)的情況下所產(chǎn)生的風(fēng)險(xiǎn)。”[5]人工智能產(chǎn)品的風(fēng)險(xiǎn)隨著相關(guān)產(chǎn)品的使用而引發(fā),人工智能帶來風(fēng)險(xiǎn)的原因主要有以下幾個(gè)方面。

其一,技術(shù)的不確定性帶來的風(fēng)險(xiǎn)。人工智能的技術(shù)具有不確定性,人工智能究竟是造福人類還是毀滅人類或未可知,迅速發(fā)展的人工智能技術(shù)使人們產(chǎn)生了恐慌心理,人類感覺到自身能力的局限性,開始擔(dān)憂人工智能的發(fā)展,“人正面臨著一股自己根本無法控制的力量,與這股力量相比,人只是一粒塵埃罷了”[6]。人工智能技術(shù)的不確定性可以理解為人工智能技術(shù)后果的難以量化、難以評(píng)估性。從上個(gè)世紀(jì)簡(jiǎn)單的圖靈機(jī)到不久前第一位有國籍的機(jī)器人索菲亞的誕生,人工智能飛速發(fā)展,很難預(yù)測(cè)未來人工智能將會(huì)發(fā)展到何種程度,人工智能的規(guī)范與治理沒有任何經(jīng)驗(yàn)或者教訓(xùn)可供借鑒?！罢菬o法預(yù)見的東西創(chuàng)造了曾經(jīng)未知的情境?！盵7]迄今為止,人工智能技術(shù)不再局限于符號(hào)系統(tǒng)的簡(jiǎn)單性,人工智能產(chǎn)品越來越趨于復(fù)雜化,隨著大數(shù)據(jù)、云處理、人機(jī)交互、人腦互聯(lián)等人工智能技術(shù)的發(fā)展,人工智能技術(shù)與其他學(xué)科的融合和滲透更加緊密,這些人工智能技術(shù)的發(fā)展對(duì)于人類來說“是福是禍”還是未知數(shù)。

其二,人類認(rèn)知能力的局限性。由于社會(huì)歷史條件的局限性,人類在每一個(gè)特定的歷史階段所取得的知識(shí)成果都受到時(shí)代條件的局限。20世紀(jì)60年代,西蒙提出了物理符號(hào)系統(tǒng)的思想,提出對(duì)于一般智能行為而言,物理符號(hào)系統(tǒng)是必要手段,并提出了儲(chǔ)存程序的概念和表處理的方法,這些都是基于經(jīng)驗(yàn)的假設(shè)。西蒙的思想對(duì)人工智能的發(fā)展有巨大的推動(dòng)作用,但是在今天看來,把一切智能行為都?xì)w結(jié)為物理符號(hào)系統(tǒng)并嘗試建立人類一切行為的符號(hào)化模型的想法是荒謬的。人類行為具有復(fù)雜性,并不能簡(jiǎn)單地還原為大腦的結(jié)構(gòu),人類的大腦到現(xiàn)在為止還是一個(gè)未知的“黑箱”。隨著現(xiàn)代科技進(jìn)一步發(fā)展,人工智能會(huì)快速發(fā)展,但是人類自身的認(rèn)知能力在特定的歷史條件和階段總是受到局限的。“這個(gè)社會(huì)在技術(shù)上越來越完善,它甚至能夠提供越來越完美的解決辦法,但是,與此息息相關(guān)的后果和種種危險(xiǎn)卻是受害人根本無法直覺到的?！盵8]由于人類認(rèn)知能力的局限性,我們可能并不能準(zhǔn)確評(píng)估和預(yù)測(cè)人工智能發(fā)展可能給人類帶來的風(fēng)險(xiǎn)及風(fēng)險(xiǎn)發(fā)生的概率。

3. 人工智能風(fēng)險(xiǎn)的社會(huì)擴(kuò)大

在人工智能發(fā)展初期,人工智能機(jī)器只是按照人類設(shè)定的程序運(yùn)行,人工智能機(jī)器并不能自己設(shè)置程序,未超出人類的控制。然而在經(jīng)濟(jì)全球化的今天,任何國家和地區(qū)在某些方面所帶來的影響勢(shì)必將對(duì)其他國家和地區(qū)帶來直接或間接的影響,人工智能的發(fā)展也會(huì)引起在政治、經(jīng)濟(jì)、文化等社會(huì)各方面的變化。風(fēng)險(xiǎn)所帶來的影響也并不局限于特定時(shí)刻與特定領(lǐng)域,人工智能風(fēng)險(xiǎn)具有較強(qiáng)的時(shí)間延續(xù)性與空間廣延性。目前在醫(yī)療領(lǐng)域、商用博弈、軍事戰(zhàn)爭(zhēng)模擬等領(lǐng)域都廣泛使用了人工智能且取得了豐碩成果。人工智能的使用會(huì)使一些事情的處理更加高效、準(zhǔn)確和科學(xué),人類很容易對(duì)這種先進(jìn)的技術(shù)產(chǎn)生依賴性,但人工智能系統(tǒng)操作不當(dāng)容易出現(xiàn)問題,影響社會(huì)的生產(chǎn)和生活秩序,甚至引發(fā)社會(huì)恐慌。例如無人駕駛汽車可以解放司機(jī)雙手、避免交通擁堵,但是,無人駕駛汽車在測(cè)試階段事故頻發(fā),谷歌、特斯拉、Uber都曾出現(xiàn)過汽車傷人致死事件,無人駕駛汽車安全問題引起人們關(guān)注。

4. 人工智能引發(fā)智能機(jī)器的道德主體地位的思考

根據(jù)人工智能的發(fā)展速度和規(guī)模,人工智能或許在未來能夠研發(fā)出具有自我意識(shí)的智能產(chǎn)品,這樣的人工智能產(chǎn)品將有怎樣的道德地位呢?針對(duì)這個(gè)問題,不同的倫理學(xué)理論家嘗試著給出了自己的答案:“人類中心主義”者反對(duì)給予智能機(jī)器道德主體地位,認(rèn)為道德主體只能屬于人類,人的道德地位是基于人類本身所獨(dú)有的精神特點(diǎn)而存在的,人類所獨(dú)有的精神特點(diǎn)主要表現(xiàn)為有思維的能力、交流的能力等,這些特點(diǎn)機(jī)器均不具備,只有人類具有道德主體地位,智能機(jī)器只是高級(jí)工具與設(shè)備。塞爾認(rèn)為人工智能產(chǎn)品沒有意向性,不可能成為道德主體,“從沒有一種純形式的模型,足以憑借自身而產(chǎn)生意向性,因?yàn)樾问教匦宰陨聿蛔阋詷?gòu)成意向性,同時(shí)它們自身也沒有因果能力,它們的能力不過是在例示過程中隨著計(jì)算機(jī)的運(yùn)行而產(chǎn)生下一步的形式體系”[3]。動(dòng)物倫理學(xué)家沒有完全否認(rèn)機(jī)器人擁有道德主體地位的可能性,他們提出除人類之外的其他生命體也可能具有道德主體地位。目前關(guān)于人工智能機(jī)器的道德主體地位的爭(zhēng)論尚無定論。美國研究機(jī)械和人工智能倫理的著名哲學(xué)學(xué)者帕特里克(Patrick Lin)曾對(duì)機(jī)器人的“自制能力”作出這樣闡述:“一旦機(jī)器的一部分啟動(dòng),那么該機(jī)器就根據(jù)外部環(huán)境進(jìn)行自我反饋運(yùn)行,而具備在一定時(shí)間內(nèi)不受外部控制的能力?！盵9]人工智能發(fā)展引發(fā)新的道德沖突與倫理困境,需要修正傳統(tǒng)的倫理原則來規(guī)范與約束人工智能機(jī)器的發(fā)展。

三、 人工智能的倫理規(guī)約之徑

一般來講,對(duì)于人工智能的倫理規(guī)約分為三個(gè)不同的維度:自上而下的倫理規(guī)約、自下而上的倫理規(guī)約及復(fù)合型的倫理規(guī)約之路。所謂自上而下的倫理規(guī)約指的是從倫理學(xué)的基礎(chǔ)理論或者倫理規(guī)約的原則出發(fā)針對(duì)人工智能給出規(guī)約路徑,以普遍性的倫理學(xué)理論指導(dǎo)具體的人工智能領(lǐng)域的實(shí)踐;自下而上的倫理規(guī)約指的是通過具體的倫理規(guī)約的場(chǎng)景和情境給出規(guī)約路徑,從具體的人工智能的實(shí)踐分別給出人工智能的規(guī)約路徑,自下而上的倫理規(guī)約也可以稱為歸納式的倫理規(guī)約路徑;所謂復(fù)合型的倫理規(guī)約路徑指的是綜合運(yùn)用自上而下的演繹規(guī)約路徑和自下而上的歸納規(guī)約路徑來對(duì)人工智能倫理問題進(jìn)行規(guī)約分析。

2017年12月12日,匯集了來自全球各行業(yè)專家的意見,美國電氣電子工程師學(xué)會(huì)(IEEE)提出了《人工智能設(shè)計(jì)的倫理準(zhǔn)則》(第二版)白皮書,在白皮書中,提出了人工智能設(shè)計(jì)的八大原則,包括問責(zé)在內(nèi)的法律框架、準(zhǔn)則制定的倫理基礎(chǔ)及人工智能的未來關(guān)注議題等內(nèi)容。2017年1月,人工智能研究者在美國加州的阿西洛馬召開了“阿西洛馬會(huì)議”,會(huì)議的重要成果是提出規(guī)范人工智能發(fā)展的《阿西洛馬人工智能原則》(AsilomarArtificialIntelligencePrinciples),目的是為全球從事人工智能的專家提供倫理準(zhǔn)則,以保證人工智能能夠?yàn)槿祟惛ｌ矶?wù)。

《阿西洛馬人工智能原則》對(duì)人工智能和機(jī)器人發(fā)展規(guī)范的主要包括三個(gè)方面的內(nèi)容:研究主題(research issues)、倫理與價(jià)值(ethics and values)與長(zhǎng)期議題(longer-term issues)。研究主題主要討論了人工智能的發(fā)展方向、發(fā)展主題等事項(xiàng);倫理與價(jià)值主要關(guān)注人工智能涉及隱私、價(jià)值觀、道德地位、價(jià)值歸屬、故障追責(zé)等方面的問題;長(zhǎng)期議題立足于人類發(fā)展與人工智能的長(zhǎng)遠(yuǎn)發(fā)展,對(duì)人工智能發(fā)展?jié)撛诘奈C(jī)與挑戰(zhàn)進(jìn)行了集中討論與統(tǒng)一規(guī)約,主要包括能力警惕、風(fēng)險(xiǎn)及公共利益等核心主題[10]。

首先,針對(duì)人工智能加劇的責(zé)任倫理方面的規(guī)約。隨著人工智能的發(fā)展,其中的責(zé)任倫理問題日益凸顯,傳統(tǒng)的責(zé)任倫理理論不能完全適應(yīng)人工智能發(fā)展的需要,現(xiàn)代技術(shù)是塑造世界、改造世界的重要工具,在技術(shù)領(lǐng)域的變化突出了責(zé)任倫理問題。在《人工智能倫理設(shè)計(jì)準(zhǔn)則》(第二版)白皮書當(dāng)中,明確提出了人工智能的設(shè)計(jì)者和操作者要負(fù)責(zé)任并且可以問責(zé)的基本原則,提出建立和完善人工智能的問責(zé)法律框架,增加個(gè)人權(quán)利的透明度,減少算法歧視等由于設(shè)計(jì)者的價(jià)值傾向?qū)е碌娜斯ぶ悄墚a(chǎn)品不完善的問題?！栋⑽髀羼R人工智能原則》嘗試著解決由人工智能帶來的責(zé)任倫理問題。在倫理與價(jià)值部分提出人工智能系統(tǒng)的開發(fā)者和設(shè)計(jì)者是這個(gè)高級(jí)系統(tǒng)的實(shí)際應(yīng)用、造成誤用等行為所產(chǎn)生的重要影響的間接參與者,有責(zé)任與能力去消除人工智能的負(fù)面影響。值得特別說明的是,第一部分直接提出了研究人工智能的要求,從而進(jìn)一步提出了人工智能的研究目標(biāo)是發(fā)展有益于人類的人工智能系統(tǒng),而不是不受人類控制的人工智能系統(tǒng)。第二部分提出設(shè)計(jì)者是首要責(zé)任人,使用者是直接責(zé)任人,相關(guān)利益者有不可或缺的間接責(zé)任。《人工智能倫理設(shè)計(jì)準(zhǔn)則》與《阿西洛馬人工智能原則》對(duì)人類責(zé)任的肯定和確認(rèn)在一定程度上也是對(duì)人在人類社會(huì)中的主導(dǎo)地位的肯定,既是對(duì)傳統(tǒng)責(zé)任倫理理論的有效回應(yīng),也對(duì)解決人工智能責(zé)任倫理規(guī)范作出了有益的嘗試。早在1942年人工智能尚未誕生的年代,阿西莫夫(Isaac Asimov)在《我,機(jī)器人》中給出了三條機(jī)器人定律:“第一條,機(jī)器人不得傷害人類個(gè)體,不能目睹人類受到傷害而不干預(yù);第二條,機(jī)器人必須服從人類的命令,命令與第一條沖突除外;第三條,機(jī)器人在不違反第一條、第二條原則的情況下,要保護(hù)自身安全”[11]。2016年,英國標(biāo)準(zhǔn)協(xié)會(huì)(BSI)通過《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》,提出機(jī)器人的設(shè)計(jì)不應(yīng)該以殺害或者傷害人類為唯一或首要目的;責(zé)任主體應(yīng)該是人類而非機(jī)器人;任何機(jī)器人都應(yīng)該有責(zé)任人,這個(gè)責(zé)任人應(yīng)該為機(jī)器人的行為負(fù)責(zé)。

其次,針對(duì)風(fēng)險(xiǎn)倫理問題和風(fēng)險(xiǎn)社會(huì)擴(kuò)大的問題。為了減少或者降低人工智能風(fēng)險(xiǎn),人類應(yīng)該對(duì)人工智能采取慎用的原則,在建立相關(guān)的法律體系中也應(yīng)體現(xiàn)人類知情權(quán),在人工智能產(chǎn)品中嵌入價(jià)值原則,人工智能在研制階段就應(yīng)該接受風(fēng)險(xiǎn)評(píng)估,廣泛推廣應(yīng)用前應(yīng)該接受風(fēng)險(xiǎn)測(cè)試,人工智能產(chǎn)品產(chǎn)生的數(shù)據(jù)要接受審核。人工智能需要完全可靠并且不受影響的安全環(huán)境來運(yùn)行,同時(shí)其風(fēng)險(xiǎn)性需要人類檢驗(yàn)與確認(rèn)。為了規(guī)避人工智能風(fēng)險(xiǎn),人工智能的故障應(yīng)該堅(jiān)持透明性原則,任何運(yùn)行當(dāng)中的人工智能系統(tǒng)一旦給人類或人類社會(huì)造成了損害,那么它所造成損害的原因必須經(jīng)過認(rèn)真查實(shí)和確認(rèn),并及時(shí)進(jìn)行補(bǔ)救。我們可以看出,《人工智能倫理設(shè)計(jì)準(zhǔn)則》與《阿西洛馬人工智能原則》都十分重視風(fēng)險(xiǎn)與安全問題,尤其是強(qiáng)調(diào)人工智能風(fēng)險(xiǎn)性必需要可接受驗(yàn)證。在關(guān)于隱私保護(hù)方面,人工智能在分析人類的隱私數(shù)據(jù)時(shí),人類有權(quán)去訪問、查看和管控人工智能系統(tǒng)所產(chǎn)生的數(shù)據(jù),只有這樣才能保障數(shù)據(jù)安全,保護(hù)人類的隱私。《阿西洛馬人工智能原則》的長(zhǎng)期議題比較關(guān)心技術(shù)的未來發(fā)展,重點(diǎn)關(guān)注自主武器發(fā)展的倫理規(guī)范,提出了若干控制自主武器失控的倫理要求,同時(shí)對(duì)于情感計(jì)算提出了發(fā)展要求。重點(diǎn)提及人工智能可能造成災(zāi)難性或者威脅人類生存的風(fēng)險(xiǎn),《人工智能倫理設(shè)計(jì)準(zhǔn)則》與《阿西洛馬人工智能原則》從近期和遠(yuǎn)期兩個(gè)層面對(duì)安全問題作出了重要的強(qiáng)調(diào)。

再次,針對(duì)人工智能道德地位的倫理問題。道德具有相對(duì)性與非強(qiáng)制性,道德因個(gè)人知識(shí)水平、所處位置的不同而有所差異,因此對(duì)于人工智能的道德倫理問題難有一個(gè)普遍認(rèn)可和廣泛接受的標(biāo)準(zhǔn),讓人工智能產(chǎn)品奉行人類普遍認(rèn)可的價(jià)值觀是可行的解決途徑。在人工智能的發(fā)展過程中,人工智能機(jī)器應(yīng)該與人類普遍認(rèn)可的價(jià)值觀相一致,人工智能的發(fā)展應(yīng)該服務(wù)于人類的公共利益,服從于人類的共同價(jià)值,人工智能機(jī)器的研究和應(yīng)用的目的是為了服務(wù)于人類,而不是危害或者毀滅人類,應(yīng)該受人類所普遍認(rèn)可和廣泛接受的基本的倫理原則的約束。人工智能應(yīng)該合乎倫理地設(shè)計(jì)、開發(fā)與應(yīng)用,人工智能技術(shù)應(yīng)該遵循包括人權(quán)、福祉、問責(zé)、透明等基本倫理原則并且將價(jià)值嵌入人工智能的自主系統(tǒng)當(dāng)中。英國標(biāo)準(zhǔn)協(xié)會(huì)(BSI)在《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》中指出,機(jī)器人的設(shè)計(jì)要保證透明,同時(shí)要避免人類對(duì)研究使用機(jī)器人上癮。

在《阿西洛馬人工智能原則》中也體現(xiàn)了司法的透明性,任何高級(jí)人工智能系統(tǒng)參與各級(jí)司法審判都需要提供令人類完全認(rèn)可的、符合現(xiàn)行法律的司法說明和依據(jù),同時(shí)其法律依據(jù)和證明都要得到相關(guān)領(lǐng)域的人類專家的認(rèn)可。高級(jí)人工智能被人類法律或權(quán)力機(jī)關(guān)、國家機(jī)器所授予的權(quán)利應(yīng)該僅用于改進(jìn)健康社會(huì)的秩序,而不是顛覆人們的認(rèn)知,從這一點(diǎn)上我們可以發(fā)現(xiàn),人工智能被賦予的特定權(quán)利是歷史發(fā)展和技術(shù)發(fā)展的必然趨勢(shì)。人工智能獲得一定法律地位是十分必要的,這既有利于提高法律事務(wù)的辦理效率,又有助于保證法律執(zhí)行的公正,促進(jìn)社會(huì)的公平正義。為人工智能立法,促進(jìn)人工智能法律體系的建設(shè)則更是具有重要意義,如果人類違背法律必定要被司法系統(tǒng)追責(zé)一樣,人工智能系統(tǒng)若是違背法律同樣需要追究責(zé)任。

綜上所述,人工智能的發(fā)展不應(yīng)只是滿足實(shí)現(xiàn)功能性目標(biāo)與解決技術(shù)問題,更應(yīng)該造福人類,服務(wù)于人類整體的價(jià)值目標(biāo)與倫理準(zhǔn)則。智能機(jī)器的開發(fā)應(yīng)該尊重用戶的價(jià)值,不剝奪人類的權(quán)利,智能機(jī)器的設(shè)計(jì)和應(yīng)用應(yīng)該以人類福祉為最終目標(biāo)。人工智能的發(fā)展必須從責(zé)任倫理、安全風(fēng)險(xiǎn)、法律法規(guī)等多維視角去規(guī)約才能促進(jìn)人工智能的規(guī)范發(fā)展,才能更好地發(fā)揮人工智能的積極作用。