人工智能算法的進(jìn)化及其倫理效應(yīng)

王 天 恩

(上海大學(xué) 哲學(xué)系, 上海 200444)

人工智能算法涉及智能進(jìn)化的重要機(jī)制,而智能進(jìn)化機(jī)制不僅關(guān)乎人工智能的發(fā)展,而且與更高層次的人類發(fā)展進(jìn)化密切相關(guān)。從普通算法到智能算法,從算法的技術(shù)進(jìn)化到智能算法的自主進(jìn)化,越來越深入的研究不僅涉及人工智能,而且涉及人類智能及其與機(jī)器智能的共同基礎(chǔ)。正是在這個(gè)意義上,研究智能算法進(jìn)化就是在探索人類發(fā)展乃至進(jìn)化的長遠(yuǎn)前景。

一、人工智能算法的技術(shù)進(jìn)化

隨著人工智能的發(fā)展,算法可以簡單地區(qū)分為普通算法和智能算法,而智能算法又可以有專用智能算法、通用智能算法和自主進(jìn)化算法之分。

人工智能的發(fā)展,使人們看到從計(jì)算機(jī)算法到人工智能算法的技術(shù)進(jìn)化。數(shù)學(xué)是算法的基礎(chǔ),而智能則意味著內(nèi)在關(guān)系基礎(chǔ)上外在關(guān)系體的發(fā)展,因此其技術(shù)進(jìn)化越是向智能化發(fā)展,算法越不僅僅是數(shù)學(xué),而是通過內(nèi)外在關(guān)系的循環(huán)發(fā)展,不斷深入地延伸進(jìn)外部環(huán)境,使數(shù)學(xué)基礎(chǔ)和現(xiàn)實(shí)實(shí)踐對接乃至一體化。

在計(jì)算機(jī)領(lǐng)域,“算法”這一術(shù)語“不是用來指作為數(shù)學(xué)結(jié)構(gòu)的算法,而是指一個(gè)或多個(gè)算法在特定程序、軟件或信息系統(tǒng)中的實(shí)現(xiàn)和相互作用”(1)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.。這意味著算法從純粹的數(shù)學(xué)結(jié)構(gòu)到一種技術(shù)的發(fā)展。“‘算法’的通常用法還包括數(shù)學(xué)結(jié)構(gòu)的技術(shù)實(shí)現(xiàn),以及為特定任務(wù)配置的技術(shù)應(yīng)用。一個(gè)完全配置的算法將把已經(jīng)實(shí)現(xiàn)的抽象數(shù)學(xué)結(jié)構(gòu)并入一個(gè)用于特定分析領(lǐng)域的任務(wù)分析系統(tǒng)。依據(jù)這一澄清,特定任務(wù)或數(shù)據(jù)集的算法配置不會改變其基本的數(shù)學(xué)表示或系統(tǒng)實(shí)現(xiàn);更確切地說,它是算法的操作與特定情況或問題之間關(guān)系的進(jìn)一步調(diào)整?！?2)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.隨著計(jì)算機(jī)的發(fā)展,算法逐漸進(jìn)化到一個(gè)新的發(fā)展階段。普通算法可以是數(shù)學(xué)化的內(nèi)部關(guān)系體,而算法的智能化則是在內(nèi)部數(shù)學(xué)關(guān)系的基礎(chǔ)上,信息體外部關(guān)系的發(fā)展過程。在這一過程中,算法作為關(guān)系體而存在,算法的技術(shù)進(jìn)化則是關(guān)系體的發(fā)展。正是作為關(guān)系體的這種發(fā)展,使算法的技術(shù)進(jìn)化經(jīng)歷了一個(gè)重要提升:從一套可以做什么的程序或指令,到自主做什么的智能體。

在智能算法主要作為內(nèi)部關(guān)系的技術(shù)進(jìn)化階段,算法可以是簡單的指令。由于計(jì)算機(jī)的發(fā)展,算法的可執(zhí)行性成了信息世界完全不同于原子世界的基本事實(shí)。在算法的技術(shù)進(jìn)化中,數(shù)字化具有極為重要的地位,智能算法之所以可能,就因?yàn)樗惴ǖ臄?shù)字發(fā)生構(gòu)成可與原子對等的單位——比特(bit)。正是比特基礎(chǔ)上的發(fā)展,算法的技術(shù)進(jìn)化呈現(xiàn)出日新月異的態(tài)勢。

隨著信息科技的發(fā)展,算法經(jīng)歷了一個(gè)從運(yùn)算法則到智能機(jī)制的技術(shù)進(jìn)化過程。由于智能的本性是關(guān)系體,算法的發(fā)展過程同時(shí)也是信息關(guān)系層次提升的過程。根據(jù)算法的技術(shù)進(jìn)化層次,可以劃分為技術(shù)算法、情景算法和智能算法等。算法的技術(shù)進(jìn)化層次及其意義,在作為感受性關(guān)系的信息層次可以得到更到位的理解。

關(guān)于信息的當(dāng)代研究表明,信息既不是物質(zhì)也不是能量(3)Wiener Norbert, Cybernetic, or Control and Communication in the Animal and the Machine (Second edition), (the MIT Press, 1985),132.,而是感受性關(guān)系;作為感受性關(guān)系,信息具有創(chuàng)生性、涌現(xiàn)性和相互性(reciprocity)等基本特性。(4)王天恩:《信息及其基本特性的當(dāng)代開顯》,《中國社會科學(xué)》2022年第1期。而信息的創(chuàng)生性意味著信息世界創(chuàng)造是信息創(chuàng)生意義上的整體建構(gòu)——?jiǎng)?chuàng)構(gòu)(5)詳見王天恩:《大數(shù)據(jù)中的因果關(guān)系及其哲學(xué)內(nèi)涵》,《中國社會科學(xué)》,2016年第5期;《大數(shù)據(jù)和創(chuàng)構(gòu)認(rèn)識論》,《上海大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》,2021年第1期。。把信息理解為感受性關(guān)系,對信息編碼及其與信息的關(guān)系就可以有一個(gè)清晰的認(rèn)識:信息編碼是作為感受性關(guān)系的信息的物能化和觀念化。因此數(shù)據(jù)不是信息而是信息編碼。信息編碼有兩種基本類型:信息的物能編碼和信息的觀念編碼。前者的典型如物理信號和DNA中的基因,后者的典型如作為自然類(natural kinds)概括產(chǎn)物的概念和符號。信息的符號編碼有一種特殊的方式,那就是信息的數(shù)字編碼。(6)王天恩:《人工智能算法的深層認(rèn)識論意蘊(yùn)》,《湖北大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》,2023年第1期。從技術(shù)算法到情景算法再到智能算法的發(fā)展,與從信息編碼深入到信息本身密切相關(guān)。

技術(shù)算法主要是工具意義上的計(jì)算和編程。在這一發(fā)展階段,算法可以非常簡單,“一個(gè)算法是一個(gè)指令序列,告訴計(jì)算機(jī)該做什么。計(jì)算機(jī)由數(shù)以十億計(jì)的稱為晶體管的微型開關(guān)組成,算法以每秒數(shù)十億次的速度打開或關(guān)閉這些開關(guān)。最簡單的算法是:按開關(guān)。一個(gè)晶體管的狀態(tài)是一個(gè)小信息:如果晶體管是開著的,那是‘1’;如果它是關(guān)閉的,那是‘零’”(7)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.。從信息的感受性關(guān)系理解可以清楚地看到,這里顯然把比特看作了信息本身,所涉及的是數(shù)字算法的起點(diǎn),還不能看作是數(shù)字算法的基本單元,事實(shí)上這是一個(gè)比特,也就是信息數(shù)字——更確切地說是數(shù)字編碼的基本單元。在這個(gè)意義上,算法事實(shí)上是面向物能載體的信息編碼及其功能性序列。由此進(jìn)一步發(fā)展,就構(gòu)成算法的基本單元。

在最基本單元的基礎(chǔ)上,數(shù)字算法進(jìn)一步發(fā)展到推理?！暗诙€(gè)最簡單的算法是:使兩個(gè)比特結(jié)合?！?8)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.正是在這一環(huán)節(jié),香農(nóng)(Claude Shannon)首次認(rèn)識到,“當(dāng)晶體管對其他晶體管做出反應(yīng)進(jìn)行開關(guān)時(shí),它們所做的正是推理”(9)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):2.。這是最簡單的算法,算法正是通過推理的物能化實(shí)現(xiàn)自己的功能。這個(gè)基礎(chǔ)上的算法屬于一般算法發(fā)展階段,完全是人類大腦的工具性延伸,不僅還不是任何意義上的智能算法,而且沒有涉及具體情景。因此,在最基本的層次理解,“從計(jì)算和編程的角度看,‘算法=邏輯+控制’;其中邏輯是問題域的特定組件,表示解決方案(要做什么)的抽象公式和表達(dá),而控制組件是解決問題的策略和在不同場景下處理邏輯的指令”(10)Kitchin Rob, “Thinking Critically About and Researching Algorithms, Information”, Communication &Society, (2016):14—29.。由于只是基于信息編碼而沒有涉及作為感受性關(guān)系的信息,技術(shù)算法主要局限于內(nèi)部關(guān)系,因此主要表現(xiàn)為計(jì)算機(jī)內(nèi)部的推理形式;由于只局限于內(nèi)部關(guān)系,技術(shù)算法不僅只是間接涉及算法倫理問題,而且由于作為關(guān)系體只局限于內(nèi)部關(guān)系而沒有外部關(guān)系的對稱發(fā)展,因此不可能發(fā)展出真正意義上的智能。

真正意義上的智能一定涉及作為感受性關(guān)系的信息,國內(nèi)外一些相關(guān)研究客觀上都涉及這方面的內(nèi)容,在哲學(xué)領(lǐng)域,甚至可以在更早的研究中找到相關(guān)思想資源?！昂５赂駹枌Α恕凇澜纭小嬖凇谋举|(zhì)描述仍然可以作為人工智能發(fā)展的一個(gè)重要參照系,使其在某些方面能夠以類似人的方式處理問題,并真正有助于人的生存?！?11)朱清華:《德雷福斯與海德格爾式人工智能》,《哲學(xué)動(dòng)態(tài)》2020年第10期。海德格爾現(xiàn)象學(xué)關(guān)于人沉浸在世界中的情景涉及人在世界中的整個(gè)感受,恰好是對信宿處境的整體呈現(xiàn)。而梅洛-龐蒂的《知覺現(xiàn)象學(xué)》則具體化到人的身體知覺。由此可以得到關(guān)于人工智能技術(shù)進(jìn)化的啟示,感受到其與人類進(jìn)化的內(nèi)在關(guān)聯(lián)。正是越來越表現(xiàn)為智能方式的人類進(jìn)化,為人工智能算法進(jìn)化研究提供了重要啟示。

作為通用智能,機(jī)器智能和人是同一個(gè)類,具有類的共同性。其中的一個(gè)重要共同點(diǎn),就是建立起了內(nèi)外部關(guān)系之間的雙向循環(huán)機(jī)制。事實(shí)上,智能概念本身就應(yīng)當(dāng)具有這樣的含義。算法的技術(shù)進(jìn)化就意味著必須發(fā)展與內(nèi)部關(guān)系對稱的外部關(guān)系,而網(wǎng)絡(luò)發(fā)展條件則為人工智能算法進(jìn)化提供了不同于人類智能進(jìn)化的特殊基礎(chǔ)。

算法發(fā)展的網(wǎng)絡(luò)環(huán)境為智能算法外部關(guān)系的發(fā)展提供了新的條件,從而使技術(shù)算法向情景算法進(jìn)化。隨著算法和網(wǎng)絡(luò)的交疊發(fā)展,人們提出了“一個(gè)網(wǎng)絡(luò)信息算法的定義”。阿南尼(Mike Ananny)在網(wǎng)絡(luò)化算法相關(guān)研究的基礎(chǔ)上,探討了情景算法及其倫理問題。“考慮到這些關(guān)系,我將一種網(wǎng)絡(luò)化信息算法(NIA)定義為一個(gè)集合,它包含機(jī)構(gòu)環(huán)境的計(jì)算代碼、人類實(shí)踐和規(guī)范邏輯,通過最低限度的可觀察、半自治的行動(dòng)來創(chuàng)建、維持和表示人與數(shù)據(jù)之間的關(guān)系。雖然守則、慣例和規(guī)范可以在其他情況下單獨(dú)遵守,但它們的全部含義和力量只能從與其他模塊單位的關(guān)系角度來理解。”(12)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.情景算法意味著從信息編碼深入到信息本身,“網(wǎng)絡(luò)信息算法”正是信息涉及的集中體現(xiàn)。雖然還不是基于信息更到位的理解,情景算法的信息性質(zhì)不可能得到清晰呈現(xiàn),但從其涉及環(huán)境并進(jìn)而涉及倫理問題,可以間接地感覺到信息性質(zhì)。

作為外部環(huán)境,網(wǎng)絡(luò)對于智能算法的意義與對于人類的意義有很大不同,因此也存在不同的道德關(guān)系。“它的代碼可能是透明的,它的設(shè)計(jì)者可能有良好的意圖,它的構(gòu)成可能得到很好的控制,但是一個(gè)算法組合只有在它的手段、目的和美德的某種結(jié)合幫助我們與自己經(jīng)驗(yàn)的其他部分建立令人滿意的關(guān)系時(shí),才能被認(rèn)為是合乎道德的?！?13)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.外部關(guān)系正是這樣一種性質(zhì):關(guān)系不僅是智能的,也是倫理的——更確切地說倫理關(guān)系正是高層次智能關(guān)系本身的應(yīng)有之義。情景算法在內(nèi)部推理關(guān)系的基礎(chǔ)上建立起外部關(guān)系,具有與環(huán)境的互動(dòng)功能,因此會隨著其發(fā)展越來越直接涉及算法倫理問題,從而在算法發(fā)展中扮演著越來越重要的角色。

情景算法關(guān)于倫理問題的直接涉及,意味著算法向智能化進(jìn)化。隨著人工智能的發(fā)展,不僅“算法在世界上扮演著越來越重要的角色”(14)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.,而且算法本身的進(jìn)化取得了歷史性的突破,引起了越來越廣泛、越來越密切的關(guān)注。在算法發(fā)展的技術(shù)進(jìn)化發(fā)展階段,“以軟件程序和應(yīng)用程序的形式,算法使個(gè)人計(jì)算機(jī)和智能手機(jī)得以運(yùn)作。算法以搜索引擎、社交媒體網(wǎng)站和在線商店的形式,幫助篩選、過濾和組織這個(gè)世界的信息”。在這樣一個(gè)發(fā)展階段,“大多數(shù)算法沒有理由讓人擔(dān)心,它們是精心制作的,每一步都有詳細(xì)的說明,以解決很好定義了的確切問題”(15)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。這里所描述的是典型的技術(shù)進(jìn)化。算法進(jìn)化歷程的改變,開始于“一個(gè)新的算法家族——‘機(jī)器學(xué)習(xí)’算法”。與機(jī)器學(xué)習(xí)相聯(lián)系,“機(jī)器學(xué)習(xí)算法很快就會被用來解決那些普通算法從未解決過的問題,或者幾乎從未解決過的問題,而且,其中的許多應(yīng)用如果失敗或被濫用,都會給個(gè)人和社會帶來巨大的風(fēng)險(xiǎn)”(16)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。因此,隨著其發(fā)展帶來的問題,智能算法引起了人們越來越廣泛的關(guān)注。由此我們可以看到算法的技術(shù)進(jìn)化走向智能化,看到算法的人類智能加持及其發(fā)展方向。

在人工智能的發(fā)展中,算法的技術(shù)進(jìn)化正是一個(gè)人類賦予算法智能的過程。由于設(shè)計(jì)者賦予算法以目的,作為“有限、抽象、有效、復(fù)合的控制結(jié)構(gòu)”,算法可以“在給定規(guī)定下達(dá)到給定目的”(17)Hill Robin K, “What An Algorithm Is?”, Philosophy &Technology, 1(2016):35—59.,這是人類智能賦予算法智能,逐漸使普通算法向智能算法進(jìn)化的過程。而真正意義上的智能算法,應(yīng)當(dāng)是從學(xué)習(xí)算法開始。

學(xué)習(xí)算法是算法技術(shù)進(jìn)化進(jìn)入智能化的產(chǎn)物,也是智能算法的起點(diǎn)?！耙粋€(gè)學(xué)習(xí)算法就像一個(gè)熟練的工匠:它的每一個(gè)產(chǎn)品都是不同的,并且根據(jù)客戶的需要精心定制?！?18)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015),xiv-xv.在從普通算法到智能算法的發(fā)展過程中,深度學(xué)習(xí)算法已經(jīng)是典型的智能算法。智能算法正是始于學(xué)習(xí)算法,而深度學(xué)習(xí)則不僅是智能算法的更高層次起點(diǎn),而且展示了智能算法的學(xué)習(xí)深度。在智能算法的進(jìn)化中,學(xué)習(xí)深度與算法的自主性密切相關(guān)。而算法的自主進(jìn)化,則與算法本身自行進(jìn)行的算法創(chuàng)制密切相關(guān)。

在學(xué)習(xí)算法的技術(shù)進(jìn)化過程中,一個(gè)重要的轉(zhuǎn)折是出現(xiàn)了創(chuàng)制普通算法的智能算法。在普通算法中,“每個(gè)算法都有一個(gè)輸入和一個(gè)輸出:數(shù)據(jù)進(jìn)入計(jì)算機(jī),算法用數(shù)據(jù)做它將做的事情,然后輸出結(jié)果。機(jī)器學(xué)習(xí)則正好相反:輸入數(shù)據(jù)和想要的結(jié)果,然后出來把一種結(jié)果變成另一種結(jié)果的算法。學(xué)習(xí)算法——也被稱為學(xué)習(xí)者——是一種創(chuàng)制其他算法的算法?！?19)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.機(jī)器學(xué)習(xí)算法與普通算法的根本不同,就在于能夠通過構(gòu)成雙向循環(huán)機(jī)制獲得學(xué)習(xí)能力,從而可以由算法本身創(chuàng)制出新的算法,構(gòu)成智能算法自主進(jìn)化的機(jī)制,實(shí)現(xiàn)智能算法的自主發(fā)展。正是智能算法的自主發(fā)展,構(gòu)成了其倫理問題升級的重要環(huán)節(jié):智能算法在人類使用中發(fā)生的倫理問題使智能算法本身具有了倫理屬性。智能算法發(fā)展到自行創(chuàng)制算法的階段,意味著其自主性的發(fā)展,而智能算法自主性的發(fā)展,則指向智能算法的自主進(jìn)化。

二、智能算法的自主性及其發(fā)展

智能算法的進(jìn)化,在其高級階段就是智能算法自主性的發(fā)展。算法是從信息體向智能體發(fā)展的機(jī)制基礎(chǔ),正是由此逐漸獲得智能算法的自主性?！霸谶@些關(guān)于算法活動(dòng)的說明中,算法是受關(guān)注的實(shí)體;這些算法被認(rèn)為是強(qiáng)大的,對后果分布起作用并起中心作用。”(20)Neyland, Daniel &M?llers, “Norma, Algorithmic IF … THEN Rules and the Conditions and Consequences of Power, Information”, Communication &Society, iss.1(2017).智能算法在內(nèi)外部關(guān)系的基礎(chǔ)上,使智能體具有了操控外界的能力,而且朝向自主性發(fā)展。

在一定范圍內(nèi),智能算法的學(xué)習(xí)深度標(biāo)志著機(jī)器智能的自主性程度。算法最原初的自主性源自機(jī)器學(xué)習(xí),實(shí)際上,機(jī)器學(xué)習(xí)算法開啟了算法從技術(shù)進(jìn)化到自主進(jìn)化的過渡。智能算法不僅可以極大地提高實(shí)踐效率,而且其結(jié)果比直接人為實(shí)施更具客觀性。

機(jī)器學(xué)習(xí)不僅具有基于數(shù)據(jù)產(chǎn)生新知識的能力,而且可以修改甚至自己設(shè)定相關(guān)規(guī)則?！拔覀兪褂脵C(jī)器學(xué)習(xí)這個(gè)通用術(shù)語,并用它來代表任何一套方法和一組技術(shù),它可以利用數(shù)據(jù)來產(chǎn)生新的模式和知識,并生成可以用于對數(shù)據(jù)進(jìn)行有效預(yù)測的模型?！?21)Otterlo Martijn van, “A Machine Learning View on Profiling”, Hildebrandt, Mireille &Vries, Katja de et al., Privacy, Due Process and the Computational Turn:Philosophers of Law Meet Philosophers of Technology, (New York:Routledge, 2013),46.機(jī)器學(xué)習(xí)利用數(shù)據(jù)產(chǎn)生知識和生成模型,已經(jīng)具有重要意義,而更重要的意義則在于定義和修改規(guī)則?！皺C(jī)器學(xué)習(xí)以自主地定義或修改決策規(guī)則的能力來定義?！?22)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.這就意味著具有學(xué)習(xí)能力的智能算法具備制定規(guī)則甚至初步設(shè)置規(guī)定的能力。

隨著信息科技特別是大數(shù)據(jù)和人工智能的發(fā)展,人類活動(dòng)從認(rèn)識世界和改變世界發(fā)展到創(chuàng)構(gòu)世界,而創(chuàng)構(gòu)世界的前提性規(guī)定,就成了人類新的重要課題。作為為思維得以進(jìn)行而設(shè)置的規(guī)定,思維規(guī)定包括一般標(biāo)準(zhǔn)和規(guī)則等的設(shè)置直到前提性規(guī)定的設(shè)置。正是規(guī)定設(shè)置的能力,意味著智能算法擁有倫理屬性的根本基礎(chǔ)。在無監(jiān)督學(xué)習(xí)中,智能算法可以通過定義最適合的模型理解輸入,也就是規(guī)定決策規(guī)則處理輸入,而其決策規(guī)則產(chǎn)生原理則無須人類參與。由此進(jìn)一步發(fā)展,智能算法就可以具備初步的創(chuàng)造能力,甚至進(jìn)化出智能算法(或其實(shí)現(xiàn)的信息體)自身的信息需要。

在智能算法進(jìn)化的意義上,自主辨錯(cuò)可以使人們聯(lián)想到人工智能算法信息需要的萌芽。智能算法的創(chuàng)造性一開始并不是像人類創(chuàng)造那么典型,而是可以從諸如辨錯(cuò)等活動(dòng)開始。“在創(chuàng)造時(shí),機(jī)器學(xué)習(xí)算法自動(dòng)識別誤導(dǎo)、偏見或錯(cuò)誤知識?！?23)王天恩:《創(chuàng)構(gòu)時(shí)代的思維規(guī)定》,《南國學(xué)術(shù)》2019年第3期。深度學(xué)習(xí)算法基礎(chǔ)上的進(jìn)一步發(fā)展,會逐漸涉及智能體將具有什么樣的信息需要,因而具有什么樣的品性和品行的問題。在某種程度上,這又意味著智能算法在籌劃“自己”的未來,從而開始具有倫理屬性。

在目前的發(fā)展水平,算法本身并無倫理屬性,因?yàn)樗惴ū旧聿痪哂幸鈭D?！拔覀儾荒苷f算法本身就有不好的意圖。相反,該算法被那些想要達(dá)到特定管理目標(biāo)的人使用,但是在這個(gè)過程中,最終會傷害到不同群體的人。在這些受害者中,有些人很容易辨認(rèn),但對其他人的傷害則更為彌散。”(24)Balkin &M. Jack, “The Three Laws of Robotics in the Age of Big Data”, Ohio State Law Journal, 5(2017):1217—1241.算法本身是否具有意圖,事實(shí)上與其進(jìn)化水平從而與其發(fā)展階段密切相關(guān)。算法越簡單,越是工具性的,本身越不會有意圖,但隨著算法智能水平的提升,本身具有意圖的可能性會越來越大;智能算法的自主性越強(qiáng),算法本身就越可能具有自己的意圖。只是在智能算法的自主性發(fā)展到一定程度之前,智能算法本身的意圖是設(shè)計(jì)者賦予的。正因?yàn)槿绱?以目前的深度學(xué)習(xí)為標(biāo)志,機(jī)器學(xué)習(xí)所意味著的智能算法關(guān)涉未來。“學(xué)習(xí)算法常被稱為算法和分析的‘未來’,由于在自然環(huán)境下調(diào)整操作參數(shù)和決策規(guī)則的能力,在如何決策和為什么決策方面算法引入了不確定性?！?25)Burrell &Jenna,“ How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”, Big Data &Society, 1(2016):1—12.不確定性的引入及其應(yīng)對,正是智能算法自主進(jìn)化的重要環(huán)節(jié)。

毫無疑問,算法越是初級的,越具有這樣的性質(zhì):“算法的內(nèi)在品質(zhì)”是“通過完備性和正確性概念來表達(dá)的。正確、完備和結(jié)果聯(lián)系在一起,而且認(rèn)為所描述的算法用以回答一個(gè)給定的問題”(26)Béranger, Jérme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc., 2018),81.。而越是高級的算法,進(jìn)化到一定程度的算法,就越會超越這一內(nèi)在品質(zhì)。如果智能算法向通用化發(fā)展,超出這種內(nèi)在品質(zhì)恰恰是前提性條件,只是無論什么樣的算法,都必須以正確性和完備性為基礎(chǔ)。

的確,智能算法的關(guān)鍵之一在于會學(xué)習(xí),正是會學(xué)習(xí)的機(jī)器算法,將形塑人類未來。一方面,學(xué)習(xí)算法已經(jīng)積極甚至主動(dòng)地關(guān)涉未來,另一方面,在某個(gè)層次上可以說,“算法的未來是會學(xué)習(xí)的算法”。正是立足于會學(xué)習(xí)的算法,安德魯·圖特(Andrew Tutt)對算法自主性的發(fā)展進(jìn)化做了系統(tǒng)的,迄今最深入的考察,由此梳理出算法自主性發(fā)展的具體進(jìn)程。會學(xué)習(xí)的算法“有很多名字,但最常見的是‘機(jī)器學(xué)習(xí)’(Machine Learning)、‘預(yù)測分析’(Predictive Analytics)和‘人工智能’。盡管使用‘智能’及其變體可能會產(chǎn)生誤導(dǎo),因?yàn)閰^(qū)分學(xué)習(xí)算法和非學(xué)習(xí)算法比區(qū)分為表現(xiàn)出智能的算法(algorithms that appear intelligent)和沒有表現(xiàn)出智能的算法更重要”(27)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。學(xué)習(xí)算法和非學(xué)習(xí)算法的區(qū)分之所以比智能算法和普通算法更重要,就因?yàn)樵诂F(xiàn)階段,關(guān)鍵在是不是屬于學(xué)習(xí)算法而非是否表現(xiàn)為智能算法。學(xué)習(xí)算法不一定表現(xiàn)出智能,表現(xiàn)出智能也未必就是學(xué)習(xí)算法;但是,從超越現(xiàn)階段的更高層次看,是否智能算法不僅更為重要,而且意味著更根本的區(qū)分。因?yàn)椴还苁遣皇菍W(xué)習(xí)算法,或者說不管是什么樣的算法,關(guān)鍵的區(qū)別是有沒有智能,更確切地說,更基本的區(qū)分是智能水平。從圖特關(guān)于算法進(jìn)化的五階段劃分,可以清楚地看到這一點(diǎn)。

關(guān)于算法的進(jìn)化,圖特通過一個(gè)算法復(fù)雜性的可能定性尺度,根據(jù)算法的發(fā)展區(qū)分出5個(gè)階段,形成5種類型:“白箱算法”(White Box)“灰箱算法”(Grey Box)“黑箱算法”(Black Box)“知覺算法”(Sentient Box)和“奇點(diǎn)算法”(Singularity Box)。白箱算法是完全確定性的,也就是說,算法只是一組預(yù)先確定的指令;灰箱算法是非確定性的,但它的非確定性特征很容易被預(yù)測和解釋;黑箱算法具有涌現(xiàn)性(emergent proprieties),難以或不可能預(yù)測或解釋其特性;知覺算法可以通過圖靈測試,即已經(jīng)達(dá)到或超過了人類智能;奇點(diǎn)算法具有遞歸自改進(jìn)能力,即該算法達(dá)到了“奇點(diǎn)”。(28)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.在算法的這5個(gè)進(jìn)化階段中,最基本也是最關(guān)鍵的是黑箱算法。正是黑箱算法典型地涉及信息的涌現(xiàn)性即信息機(jī)制的不可逆性,特別是由此而具有的不可還原性。知覺算法和奇點(diǎn)算法只是在其基礎(chǔ)上的發(fā)展。“Sentient”指有感覺能力的、有知覺力的,這表明知覺算法開始涉及作為感受性關(guān)系的信息層次,人工智能具有發(fā)展到信息層次的性質(zhì),已經(jīng)是一個(gè)開始具有自主進(jìn)化機(jī)制的智能算法了;而奇點(diǎn)算法則已經(jīng)進(jìn)入完全意義上的自主進(jìn)化,具有日益復(fù)雜的倫理屬性。

在人類和人工智能關(guān)系的進(jìn)化過程中,自主性既涉及人類,也涉及人工智能;既在更深層次涉及人類的倫理問題,也在更高水平涉及人工智能的通用化發(fā)展,從而在更深層次涉及其倫理屬性甚至道德地位。自主意味著“自主或自治,‘是建立自己的目標(biāo)和價(jià)值觀的能力,并有根據(jù)這些決定作出自己的決定和采取行動(dòng)的自由’”(29)B. C. Stahl, J. Timmermans &B. D. Mittelstadt, “The Ethics of Computing: A Survey of the Computing-Oriented Literature”, Acm Computing Surveys, 4(2016):1—38.。當(dāng)人工智能進(jìn)入通用化發(fā)展后,人工智能體就存在一個(gè)自主性問題。而隨著自主性問題的出現(xiàn),同時(shí)也就意味著引發(fā)關(guān)于人類自主性的更高層次的復(fù)雜問題,因?yàn)橥ㄓ萌斯ぶ悄艿淖灾餍?必定對人類自主性構(gòu)成前所未有的影響。實(shí)際上,目前關(guān)于算法進(jìn)化的研究,已經(jīng)深入涉及人類自主性問題。機(jī)器智能算法的自主進(jìn)化,將構(gòu)成完全不同于傳統(tǒng)倫理的更高層次倫理問題。

在通用人工智能核心機(jī)制突破過程中,當(dāng)智能算法在學(xué)習(xí)算法基礎(chǔ)上開始自主進(jìn)化,在人工智能和人類智能的關(guān)系中必定出現(xiàn)空前嚴(yán)峻的倫理問題。對于人類來說,普通算法只是工具性的存在,而智能算法則隨著其自主性的發(fā)展,逐漸走出工具性地位,并由此真正凸顯算法的倫理和更深層次哲學(xué)問題。

學(xué)習(xí)算法是算法進(jìn)化到智能算法的關(guān)鍵環(huán)節(jié),它開始構(gòu)成與環(huán)境間最初級的雙向反饋,但在很長一段時(shí)間,學(xué)習(xí)算法離生成通用意義上的智能還很遠(yuǎn),智能的通用化必須有智能算法自主性的發(fā)展?！暗?學(xué)習(xí)者沒有把石頭變成磚石,也沒有把金子變成珠寶,而是把數(shù)據(jù)變成算法。數(shù)據(jù)越多,算法就越復(fù)雜?！?30)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015):xv.只有在復(fù)雜的雙向反饋信息機(jī)制基礎(chǔ)上進(jìn)一步進(jìn)化,才可能向智能算法甚至類人智能算法進(jìn)化。由于智能載體的不同,人工智能算法向類人智能算法進(jìn)化,可能走向更高層次的智能算法。由此決定了涉及通用人工智能核心機(jī)制的研究進(jìn)路。

在通用人工智能核心機(jī)制的研究進(jìn)路中,最值得關(guān)注和研究的是其與人類發(fā)展的關(guān)聯(lián)。這就涉及人工智能和人類智能的更深層次關(guān)系,特別是二者之間的進(jìn)化關(guān)系,從而涉及人工智能和人類進(jìn)化倫理關(guān)系的更廣闊發(fā)展前景。

三、智能算法進(jìn)化中的人機(jī)倫理關(guān)系

在ChatGPT發(fā)布之前,雖然有思想家預(yù)見到人工智能發(fā)展出現(xiàn)超級智能的前景,但大多數(shù)人工智能相關(guān)學(xué)科的科學(xué)家態(tài)度都非常謹(jǐn)慎:雖然明確表明不可能的比例不高,但不少人工智能專家認(rèn)為人工智能只能是人類的補(bǔ)充。這方面的頂尖專家之一、美國卡耐基大學(xué)計(jì)算機(jī)教授曼努埃拉·韋洛索(Manuela Veloso)就認(rèn)為,自主機(jī)器人和人類的能力差別很大。“機(jī)器人可能總是有感知、認(rèn)知和驅(qū)動(dòng)的局限性。它們可能無法完全感知場景,識別或操縱任何物體,無法理解所有的口頭或書面語言,也無法在任何地形中導(dǎo)航。我認(rèn)為機(jī)器人將補(bǔ)充人類,而不是取代人類。但是機(jī)器人需要知道什么時(shí)候該尋求幫助,以及如何表達(dá)自己內(nèi)心的工作方式?！?31)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.這里的感知局限就意味著人工智能沒有發(fā)展到信息層次。從信息編碼特別是信息的物能編碼而不是作為感受性關(guān)系的信息看,關(guān)于人工智能的這種看法是有根據(jù)的。只是在信息編碼層次,人工智能不可能發(fā)展出類人智能,甚至不可能發(fā)展出生物智能普遍具有的那種理解能力。因此,韋洛索對于人工智能的發(fā)展持非?？陀^的態(tài)度:熱情“擁抱機(jī)器人—人類世界”(32)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。在ChatGPT發(fā)布之后,人們關(guān)于人工智能發(fā)展的看法發(fā)生了很大變化,大型語言模型的空前泛化能力使越來越多的人認(rèn)為通用人工智能很快到來,甚至人工智能已經(jīng)通用化。但從信息層次可以看到,大型語言模型的智能仍然局限在信息編碼層次。毫無疑問,關(guān)于人工智能的發(fā)展,相關(guān)技術(shù)專家的態(tài)度可能較為復(fù)雜,但一個(gè)具有普遍意義的事實(shí)是,不管多么專業(yè)的科學(xué)家,如果光從科學(xué)領(lǐng)域看,就容易得出類似韋洛索的結(jié)論。只有在科學(xué)和哲學(xué)一體化甚至更廣闊的領(lǐng)域,才能看到更高層次的情景。而另一個(gè)與此不無關(guān)系的事實(shí)則是:無論對超級智能出現(xiàn)的可能性持什么樣的觀點(diǎn),人工智能專家都無一例外地關(guān)注人工智能和人類之間的協(xié)作。

正是由于認(rèn)為人工智能不可能發(fā)展到類人層次,韋洛索展開了將人工智能定位為人類補(bǔ)充的相應(yīng)研究。為了更好地了解人工智能和人類的合作,他的團(tuán)隊(duì)開發(fā)了“協(xié)作機(jī)器人”(CoBots),并“引入了‘共生自主’的概念,使機(jī)器人能夠向人類或互聯(lián)網(wǎng)尋求幫助”(33)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。他相信,“如果人類和機(jī)器人能夠相互幫助和互補(bǔ),我們所面臨的將是一個(gè)積極的未來”(34)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。這是一個(gè)美好前景,但無疑還只是從人工智能的現(xiàn)實(shí)應(yīng)用出發(fā)看到的未來。當(dāng)人工智能發(fā)展到作為感受性關(guān)系的信息層次,通用化將不可避免。人工智能發(fā)展的未來在通用化,在智能算法通用化進(jìn)化中的人機(jī)關(guān)系。由此,已經(jīng)可以在人工智能的進(jìn)化中看到倫理問題越來越以一個(gè)維度的方式呈現(xiàn)。正是倫理問題呈現(xiàn)為一個(gè)維度,在智能算法進(jìn)化過程中,人機(jī)關(guān)系的地位問題將全面凸顯。與此密切相關(guān)的人工智能體道德地位問題,也是相關(guān)倫理問題表現(xiàn)為維度方式的智能算法進(jìn)化呈現(xiàn)。

關(guān)于人工智能體道德地位的研究,在更深層次涉及人工智能算法進(jìn)化中人機(jī)關(guān)系的倫理基礎(chǔ)。誠然,我們可以認(rèn)為,“人工智能系統(tǒng)是人為的——即蓄意設(shè)計(jì)的產(chǎn)物——與其道德地位沒有根本關(guān)系”(35)Bostrom, Nick &Yudkowsky Eliezer, “The Ethics of Artificial Intelligence”, Frankish, Keith &Ramsey, William M. et al., The Cambridge Handbook of Artificial Intelligence, (Cambridge University Press, 2014),316—334.。對于人類來說,局限于專用人工智能考慮,人工智能永遠(yuǎn)是不足為慮的高級自動(dòng)化工具;而人工智能真正的機(jī)遇和挑戰(zhàn),則是通用人工智能的進(jìn)化。作為類人智能,通用人工智能的發(fā)展一定意味著信息層次的涉及。正是由于涉及作為感受性關(guān)系的信息,機(jī)器智能進(jìn)一步深入涉及倫理原則的人機(jī)共同基礎(chǔ)地位問題。

雖然大多數(shù)人都同意那些涉及廣泛的倫理原則,但尚不清楚如何將這些原則應(yīng)用于其他實(shí)體,諸如非人類和未來的人工智能。的確,以倫理問題為集中體現(xiàn),“現(xiàn)在是重新啟動(dòng)哲學(xué)中一些最棘手問題研究的時(shí)候了”(36)Tegmark Max, “Life 3.0 Being Human in the Age of Artificial Intelligence”, Alfred Knopf, (2017):280.。人類倫理原則要應(yīng)用于非人類,非人類對象必須和人類構(gòu)成一定層次上相似的類群(37)王天恩:《人機(jī)交會:人工智能進(jìn)化的類群親歷性》,《上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》2023年第1期。。這方面已經(jīng)有一些重要探索,貝蘭杰就討論道,“今天,我們正在各個(gè)層次觀察人與環(huán)境之間復(fù)雜的相互作用。墮入一種過時(shí)的拉馬克主義的過分簡化和虛假的安逸之中,這在我們的文化中是存在的。我們的‘?dāng)?shù)字進(jìn)化論者’使人們有可能更好地理解數(shù)字創(chuàng)新、它們的起源及其在世界不同地區(qū)的歷史,但它也使人們有可能對人類與其技術(shù)進(jìn)步之間的關(guān)系提出新的理解,因?yàn)榭茖W(xué)正在進(jìn)步,正在創(chuàng)造新的范式,這使已知的事實(shí)更具啟發(fā)性,而且最重要的是,它為數(shù)字創(chuàng)新的研究提出了新的途徑。安托萬·德·圣?？颂K佩里(Antoine de Saint-Exupéry)指出,‘人的最迷人財(cái)富是團(tuán)結(jié)人的工作’。從這一觀點(diǎn)看,數(shù)字必須被認(rèn)為是人性發(fā)展的一個(gè)極好機(jī)會:在我們之間創(chuàng)建更偉大的全球關(guān)聯(lián)”(38)Béranger, Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.,2018),181.。由于涉及范式,從中可以看到更深層次的思考。當(dāng)此問題與信息范式相聯(lián)系,就可以進(jìn)一步清楚地看到豐富深刻的具體內(nèi)容。人類社會發(fā)展的數(shù)字化,意味著人類存在方式的信息化。由于信息的基本特性是相互性,與作為人類學(xué)基本特性的相互性疊加(39)王天恩:《人類信息文明時(shí)代的相互性疊加》,《中國社會科學(xué)報(bào)》2017年10月10日。,將使人類建立在個(gè)體充分發(fā)展基礎(chǔ)上的整體性空前強(qiáng)化。這不僅意味著整體關(guān)聯(lián)的更高層次,而且同時(shí)意味著個(gè)體間關(guān)聯(lián)的新方式。當(dāng)這種個(gè)體間關(guān)聯(lián)的新方式涉及人機(jī)關(guān)系時(shí),問題既更重要也更復(fù)雜。在盡可能高的整體層次把握人機(jī)倫理關(guān)系的發(fā)展,關(guān)系到人類未來的安身立命。

隨著人工智能的發(fā)展,人機(jī)進(jìn)化關(guān)系的發(fā)展前景既讓人期冀,又使人憂慮。由于代碼可能直接植入人腦,人們不能不擔(dān)心其后果?！暗?030至2040年,某個(gè)人工智能可能會擁有自己的項(xiàng)目,在沒有人類干預(yù)的情況下開發(fā)新的算法,這種前景可能會帶來麻煩,甚至是恐懼。據(jù)谷歌的董事們說,從21世紀(jì)30年代開始,算法問題可能會進(jìn)入我們的大腦,因?yàn)槲磥淼哪X內(nèi)植入和納米種植體將直接連接進(jìn)我們的大腦中。由于能夠更好地獲取知識,我們的大腦可能會更聰明,但它是否仍然受我們自由意志的支配?這種情況會稍微強(qiáng)化算法忠誠度的觀念及其普及所可能帶來的影響。在這種情況下,必須正確理解算法處理整體(由數(shù)據(jù)、算法和做法組成),并保證它也將盡可能透明,了解它能做什么和不能做什么,同時(shí)尊重個(gè)人和個(gè)人尊嚴(yán)。因此,應(yīng)在科學(xué)研究、商業(yè)、政府機(jī)構(gòu)、教育和整個(gè)民間社會之間開展協(xié)作和橫向工作,以確保數(shù)字巨人不成為影響未來世界倫理規(guī)則的唯一保證:‘代碼即倫理’(Code is Ethics)!”(40)Béranger &Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.2018),181.面對這樣的發(fā)展形勢,人類必須同時(shí)關(guān)注兩個(gè)方面:一是在人工智能——其核心是智能算法——發(fā)展的現(xiàn)實(shí)過程中,關(guān)注智能算法進(jìn)化中的倫理問題;二是通過盡可能長遠(yuǎn)的未來把握,在更高整體層次理解和把握人工智能和人類的進(jìn)化關(guān)系。

在人工智能和人類的進(jìn)化關(guān)系中,硬件領(lǐng)域的腦機(jī)接口研究是一個(gè)重要方面,而算法的人機(jī)融合則是另一重要領(lǐng)域。人工智能算法和人類智能算法(或相關(guān)機(jī)制)的理解和比較研究,將是一個(gè)越來越重要的課題,它在根本上涉及信息編碼,而信息的數(shù)字編碼——數(shù)字代碼則是其中最重要的方面之一。

數(shù)字代碼已經(jīng)與人工智能算法進(jìn)化中的倫理問題直接聯(lián)系,因此算法代碼的含義極為豐富,它們意味著價(jià)值的源泉?！坝捎诖a是企業(yè)和機(jī)構(gòu)的價(jià)值來源,這種價(jià)值應(yīng)通過實(shí)施開發(fā)質(zhì)量的實(shí)踐加以維護(hù)。為了提高代碼的質(zhì)量,有必要對系統(tǒng)進(jìn)行整體的觀察和干預(yù),特別是將倫理規(guī)則整合進(jìn)代碼,并通過反饋其含義和一個(gè)有根據(jù)的‘倫理即代碼’(Ethics is Code)創(chuàng)建一個(gè)促進(jìn)其實(shí)踐改進(jìn)的語境。事實(shí)上,我們認(rèn)為,人類的未來確實(shí)一方面取決于算法代碼保留人的思想和良知,另一方面取決于保留人與人之間的溝通。這很可能是通過所有信息逐步數(shù)字化,并在其中對人類良知進(jìn)行反思來實(shí)現(xiàn)的?！?41)Béranger &Jér?me, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc. 2018),182.這既是一個(gè)人類機(jī)器化的過程,同時(shí)更是一個(gè)機(jī)器人性化的過程。從通用人工智能核心機(jī)制的研究進(jìn)路看,正是機(jī)器的人性化在根本上涉及更高層次的倫理問題。

在智能機(jī)器人性化的探索中,機(jī)器倫理學(xué)做了很多重要工作。機(jī)器倫理學(xué)研究意識到,“人工智能或機(jī)器人研究的主要目的不僅是開發(fā)解決我們問題的先進(jìn)程序,而且是在機(jī)器上再現(xiàn)精神素質(zhì)。在心智和機(jī)器之間沒有區(qū)別,這是人工智能(AI)倡導(dǎo)者的關(guān)鍵主張,因此他們認(rèn)為機(jī)器倫理像人類倫理一樣是有可能的。計(jì)算機(jī)倫理學(xué)傳統(tǒng)上側(cè)重于人類使用機(jī)器的倫理問題,與此不同,人工智能或機(jī)器倫理關(guān)注的是機(jī)器對人類用戶的行為以及這些互動(dòng)的倫理性,或許也包括對其他機(jī)器的行為。根據(jù)人工智能科學(xué)家的說法,機(jī)器倫理學(xué)的最終目標(biāo)是創(chuàng)造一種機(jī)器,它自身遵循理想的倫理原則或一套原則;也就是說,它在就自己可能采取的行動(dòng)作出決定時(shí)以這一原則或這些原則為指導(dǎo)”(42)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.。由此可見,機(jī)器倫理學(xué)一方面將機(jī)器作為倫理主體,另一方面又以人類為倫理考量根據(jù)。因此,機(jī)器倫理學(xué)的任務(wù)是確保人工智能體的道德行為,而這種道德行為的衡量標(biāo)準(zhǔn)至少不只是就人工智能體之間的關(guān)系而言,事實(shí)上其更重要的維度是涉及人類。

無論在載體還是機(jī)制上,機(jī)器智能體都與人類有很大不同,而其倫理行為卻在根本上涉及人類,因此關(guān)于機(jī)器倫理就涉及一些更基本的問題。拉賈基肖爾·納特(Rajakishore Nath)等認(rèn)為,在討論與智能機(jī)器人相關(guān)的很多哲學(xué)問題之前,有些問題必須進(jìn)一步澄清。“首先,倫理學(xué)是不是那類可以計(jì)算出來的東西。其次,如果我們認(rèn)為機(jī)器擁有心智,就會引發(fā)有關(guān)機(jī)器的倫理問題。如果我們不把心智和機(jī)器區(qū)分開來,我們不僅在重新定義人類的心智,而且也在重新定義作為一個(gè)整體的社會。除了其他性質(zhì),擁有心智是有能力作出自愿的決定和行動(dòng)。心智的概念是我們倫理思維的核心,這是因?yàn)槿祟愋闹蔷哂凶晕乙庾R,而這是機(jī)器還不具備的特性?！?43)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.把機(jī)器智能放到人類心智的層次討論,應(yīng)當(dāng)是真正深化人工智能理解的基礎(chǔ)。而要真正達(dá)到二者關(guān)系的更深入理解,則不僅要在智能進(jìn)化中理解倫理問題,而且必須澄清并抽離人類智能和人工智能的不同:機(jī)器載體和生物載體所決定的各自不同特性。這就涉及人工智能和人類智能基礎(chǔ)上新的智能進(jìn)化,由此可以在人類智能和人工智能進(jìn)化的基礎(chǔ)上,看到智能進(jìn)化的更高層次前景:廣義智能進(jìn)化——這是關(guān)于人機(jī)關(guān)系研究的一個(gè)更深層次課題。

作為更高層次的智能進(jìn)化,廣義智能進(jìn)化建立在人工智能進(jìn)化和人類智能進(jìn)化的基礎(chǔ)上,因而提供了更高層次的整體觀照。在廣義智能進(jìn)化層次,對人機(jī)關(guān)系可以有一個(gè)具有更深層次根據(jù)的理解。以往關(guān)于智能進(jìn)化的研究主要指生物智能進(jìn)化,人工智能算法的進(jìn)化為更高層次的智能進(jìn)化研究創(chuàng)造了條件。在人工智能算法進(jìn)化研究的基礎(chǔ)上,通過其與人類智能進(jìn)化關(guān)系的深入探索,廣義智能進(jìn)化將不僅成為涉及人機(jī)關(guān)系,而且成為涉及人類未來發(fā)展的新研究領(lǐng)域。在廣義智能進(jìn)化基礎(chǔ)上,人機(jī)倫理關(guān)系也將進(jìn)入一個(gè)復(fù)雜的更高層次。