倫理即服務(wù)之可能性*
——以護(hù)理機(jī)器人的倫理設(shè)計為例

于 雪 金琪雨

1 什么是倫理即服務(wù)

1.1 倫理即服務(wù)概念的提出

近年來,隨著智能算法與智能系統(tǒng)的廣泛應(yīng)用，越來越多的技術(shù)倫理問題暴露出來。輿論關(guān)注度的上升與相關(guān)政策和倫理標(biāo)準(zhǔn)的出臺，促進(jìn)了技術(shù)倫理審查與規(guī)范活動的開展，但同時也凸顯了技術(shù)倫理需求與技術(shù)發(fā)展需求之間的不協(xié)調(diào)：一方面，部分中小科技企業(yè)缺乏專業(yè)性的科技倫理知識，不具有組織與展開自我倫理審查活動的能力；另一方面，各類抽象倫理原則難以有效指導(dǎo)實際的技術(shù)研發(fā)活動，研發(fā)者難以通過有效的技術(shù)手段實現(xiàn)道德的訴求。面對上述問題，倫理即服務(wù)(ethics as a service,EaaS)的概念應(yīng)運而生。這一概念當(dāng)前主要在兩種意義上被使用：其一指由谷歌等技術(shù)公司所提供的技術(shù)倫理審查服務(wù)，即由科技公司作為服務(wù)提供者，通過課程培訓(xùn)、倫理建議、技術(shù)審查等一系列手段發(fā)現(xiàn)并解決客戶算法軟件中潛在道德風(fēng)險的服務(wù)形式；其二是Morley等[1]所提出并倡導(dǎo)的Eaas框架，要求拋棄傳統(tǒng)的一次性道德審查模式，在抽象的道德原則與具體的實踐措施間達(dá)成妥協(xié)，基于平臺即服務(wù)(platform as a service,PaaS)框架構(gòu)建服務(wù)化的倫理轉(zhuǎn)譯工具，最終實現(xiàn)有效的、全流程的AI倫理嵌入。本文所依托與探討的EaaS概念主要基于后者，即意在探討一種新型的倫理設(shè)計活動構(gòu)架，而非具體的商業(yè)活動。

1.2 EaaS的云服務(wù)框架

“EaaS”這一表述來源于三種常見的云服務(wù)模式，即基礎(chǔ)設(shè)施即服務(wù)(infrastructure as a service,IaaS)、PaaS與軟件即服務(wù)(software as a service,SaaS)。其中IaaS指將服務(wù)器、算力和流量等基礎(chǔ)網(wǎng)絡(luò)資源作為服務(wù)提供給使用者，由提供者進(jìn)行硬件設(shè)施維護(hù)的模式；PaaS指通過網(wǎng)絡(luò)將開發(fā)框架、工具包與部署環(huán)境作為服務(wù)提供給使用者，由提供者進(jìn)行基礎(chǔ)工具研發(fā)與架構(gòu)維護(hù)穩(wěn)定的模式；SaaS則指通過網(wǎng)絡(luò)將具體應(yīng)用及其功能提供給使用者，由提供者進(jìn)行軟件功能、安全等方面維護(hù)工作的模式[2]。三種模式間的層層遞進(jìn)同時也意味著使用者的自主性逐步降低，并將風(fēng)險與成本轉(zhuǎn)移到提供者一方。

基于對上述三種云服務(wù)的各自特征，Morley等[1]將Eaas所類比的云服務(wù)框架基礎(chǔ)定位在PaaS層面。其所給出的論證在于：IaaS反映了一個過于靈活的倫理治理模式，人工智能設(shè)計者需要自行對抽象的道德準(zhǔn)則給予依據(jù)具體情境的理解與定義，并選擇與之相對應(yīng)的倫理轉(zhuǎn)化工具，從而給設(shè)計者帶來了過大的權(quán)限與壓力，也使得外部利益相關(guān)者的立場與責(zé)任不能得到良好的體現(xiàn)。與之相對應(yīng)，SaaS反映了一個過于嚴(yán)格的倫理治理模式，由倫理學(xué)家、政策制定者等第三方完全承擔(dān)制定倫理標(biāo)準(zhǔn)與流程的責(zé)任，而人工智能治理者的責(zé)任被簡單確定為根據(jù)上述流程行事。在具體實踐中，流程制定者往往并不能囊括所有具體利益相關(guān)者的意見，而人工智能設(shè)計者同樣經(jīng)由這一流程免責(zé)，在實際的應(yīng)用活動中，容易造成無人負(fù)責(zé)的尷尬局面。相比之下，Morley等[1]認(rèn)為PaaS是一個較為適當(dāng)?shù)闹卫砟Ｊ?，在此基礎(chǔ)上的EaaS框架可以包括一個獨立的多學(xué)科倫理委員會、一個合作開發(fā)的倫理守則以及人工智能從業(yè)者等多個部分，并通過各部分間的良好協(xié)作與責(zé)任分配實現(xiàn)技術(shù)倫理的有效治理。

1.3 EaaS的內(nèi)涵特征

基于PaaS的EaaS框架的根本特征在于其平衡性：它旨在達(dá)成嚴(yán)格與靈活的倫理標(biāo)準(zhǔn)之間的平衡(按照信息倫理學(xué)的表達(dá)方式，就是將倫理標(biāo)準(zhǔn)維持在適當(dāng)?shù)某橄髮哟蝃3])，以及過于分散與過于集中的倫理責(zé)任之間的平衡。而平衡性進(jìn)一步要求EaaS框架拋棄以往片面?zhèn)戎厥虑邦A(yù)測和一次性倫理審查的行為模式。Morley等[1]指出，由于倫理準(zhǔn)則的地域差異性與時間變化性等原因，任何倫理設(shè)計都不能被視為一旦運作就只產(chǎn)生期望性結(jié)果的靜態(tài)產(chǎn)品，而應(yīng)被視為人類和非人類行為者的集合體，并受到各類非確定性因素的影響。智能系統(tǒng)的倫理實踐應(yīng)被視為一個反思性的發(fā)展過程，其目的也是幫助參與者了解他們在特定環(huán)境下的主觀性與偏見[4]。在這一理解方式引導(dǎo)下展開的EaaS活動，必然具有動態(tài)性與未完成性。作為互聯(lián)網(wǎng)服務(wù)框架的倫理應(yīng)用，Eaas同樣具有開放性，其框架并不完全確定倫理設(shè)計參與者的數(shù)量或參與方式，而是包容多樣的利益相關(guān)者以不同層級或參與度的組織方式被納入到倫理設(shè)計的決策環(huán)節(jié)之中。

1.4 EaaS與護(hù)理機(jī)器人倫理設(shè)計

Morley等[1]所提出的EaaS框架首先著眼于人工智能領(lǐng)域，本文認(rèn)為這一框架在護(hù)理機(jī)器人的倫理設(shè)計領(lǐng)域同樣具有其重要性和可行性。一方面，護(hù)理機(jī)器人的應(yīng)用場景多為開放性場景，需要與人類在社會交往中相互協(xié)作，這是一種非確定性系統(tǒng)的表現(xiàn)形式，其中涉及的倫理問題應(yīng)當(dāng)以服務(wù)工具的方式嵌入護(hù)理機(jī)器人的全生命周期，這正是EaaS的核心作用。另一方面，在當(dāng)前的醫(yī)療服務(wù)采購中，各種護(hù)理機(jī)器人的應(yīng)用更多采用了一種“SaaS+”模式，即在面向使用者SaaS平臺的基礎(chǔ)上，派出專人維護(hù)后臺系統(tǒng)以解決使用中各類意外問題或需要。這一模式提供了基于SaaS等云服務(wù)框架的信息收集、分析與反饋服務(wù)，但缺陷在于將倫理治理置于服務(wù)之外，通過第三方的形式來制定護(hù)理機(jī)器人的倫理標(biāo)準(zhǔn)，這很有可能導(dǎo)致因為未能囊括所有利益相關(guān)者的考量而造成無人負(fù)責(zé)的局面。因此，將EaaS框架用于護(hù)理機(jī)器人的倫理設(shè)計中，可以將護(hù)理機(jī)器人的倫理訴求視為一個全生命周期，可以通過設(shè)置獨立的倫理委員會、合作開發(fā)的倫理守則以及具體的倫理服務(wù)措施而克服上述缺陷。

2 護(hù)理機(jī)器人倫理設(shè)計中的現(xiàn)存不足

2.1 倫理服務(wù)者的定位模糊

當(dāng)前護(hù)理機(jī)器人倫理設(shè)計的不足首先在于對設(shè)備所服務(wù)的倫理對象認(rèn)知不明確。一方面，護(hù)理機(jī)器人的倫理影響范圍并不僅局限于被護(hù)理者本身，而社會影響應(yīng)當(dāng)在何種程度上被納入護(hù)理機(jī)器人的倫理考量范圍也值得商榷，因為這種考量范圍難以通過事前預(yù)測的方式得到有效地劃定。例如，護(hù)理機(jī)器人女性化特征所帶來的歧視憂慮與老年使用者對女性化護(hù)理機(jī)器人實際偏好之間的矛盾[5]，這無疑要求對護(hù)理機(jī)器人倫理性質(zhì)的進(jìn)一步認(rèn)識。另一方面，護(hù)理機(jī)器人的直接護(hù)理對象往往是老人、兒童、殘疾人等易在經(jīng)濟(jì)、社會關(guān)系等方面依賴他人的群體，首先參與到市場活動中的護(hù)理機(jī)器人也因此一定程度上存在迎合付費者倫理傾向的客觀需要。近年來，家用攝像頭、防走丟手環(huán)等智能設(shè)備所引起的倫理爭議就是對經(jīng)濟(jì)與社會關(guān)系影響的深刻揭示。相比之下，護(hù)理機(jī)器人因其技術(shù)屬性與維護(hù)需求所產(chǎn)生的倫理關(guān)系更為復(fù)雜，更需要對主體間關(guān)系進(jìn)行有效辨析與針對性處理。

2.2 倫理設(shè)計的簡單化問題

倫理服務(wù)對象的錯位也進(jìn)一步揭示了當(dāng)前護(hù)理機(jī)器人倫理設(shè)計活動的簡單化問題：倫理設(shè)計往往容易被簡化為外觀設(shè)計，例如，在外形設(shè)計上等同于擬人、擬動物；在運動方式上等同于緩慢而非柔和；在表達(dá)方式上等同于字大、聲音大、女性化等。簡單化所暴露出的問題不外乎倫理設(shè)計投入的不足與倫理轉(zhuǎn)譯工具的缺乏，如上文所提到的，護(hù)理機(jī)器人不僅直接為護(hù)理者提供服務(wù)，更是護(hù)理者與其他護(hù)理人或社會個體之間的聯(lián)結(jié)者，這種關(guān)系作為技術(shù)“居間調(diào)解”作用的典型發(fā)揮應(yīng)當(dāng)受到進(jìn)一步的重視，而過分的擬人化等倫理設(shè)計方式，反而可能抑制護(hù)理機(jī)器人的聯(lián)結(jié)作用，使護(hù)理機(jī)器人作為突兀的個體形成與其他護(hù)理者之間的割裂與反差，不利于整體護(hù)理環(huán)境的維持。

倫理設(shè)計活動的簡單化還體現(xiàn)為偏重事前預(yù)測與一次性倫理檢驗的設(shè)計思路。雖然以維貝克[6]及其道德物化思想為代表的倫理設(shè)計理論也強(qiáng)調(diào)道德設(shè)計是“具有實驗性質(zhì)的活動，不是控制人類行為的高度控制性的事情”，但其所倡導(dǎo)的倫理設(shè)計方法論很難被視為是對這種不斷發(fā)展的實驗性活動的鼓勵：面對護(hù)理機(jī)器人投產(chǎn)后在實際使用中所表現(xiàn)出的倫理問題，事前周密的倫理設(shè)計與想象活動仍舊被視為設(shè)計者得以逃避責(zé)任的擋箭牌，而使用者則被要求貫徹設(shè)計中過于理想化的倫理情境。而對于相對隱蔽的使用風(fēng)險與倫理問題，重新貫徹倫理流程的壓力也會給研發(fā)者帶來惰性，從而不利于護(hù)理機(jī)器人道德的持續(xù)更新與發(fā)展。

2.3 倫理設(shè)計的智能化誤區(qū)

此外，另一個對護(hù)理機(jī)器人倫理設(shè)計的誤區(qū)在于對護(hù)理機(jī)器人集成度、智能化等指標(biāo)的盲信：使用者是否需要一個“護(hù)理機(jī)器人”來統(tǒng)一性地解決多個護(hù)理需求，這一基礎(chǔ)性問題本身是甚少引起反思的。對于部分被護(hù)理者而言，讓護(hù)理機(jī)器人維持其傳統(tǒng)的工具特征同樣是一種符合倫理的設(shè)計。傳統(tǒng)技術(shù)設(shè)計理論的預(yù)測與分析活動著重構(gòu)建理想化的道德環(huán)境并給出相應(yīng)的解決方案，其最終結(jié)果往往是高度集成的“專業(yè)機(jī)器人”。無論這種護(hù)理機(jī)器人通過何種方式增加其活動可讀性，對于具體被護(hù)理者而言終歸難以與其所熟悉的傳統(tǒng)模式相匹敵，尤其對于面向個人和家庭等復(fù)雜情境的智能機(jī)器人，事前設(shè)計所能夠考慮和顧及的因素?zé)o疑是有限的。與顯見的護(hù)理與養(yǎng)老困境相對應(yīng)的，是護(hù)理成本的持續(xù)高昂，智能化護(hù)理如不能降低護(hù)理成本或提供更有效的護(hù)理條件，就反而陷入了倫理設(shè)計智能化的誤區(qū)。

2.4 倫理場景的標(biāo)準(zhǔn)化困境

《“十四五”機(jī)器人產(chǎn)業(yè)發(fā)展規(guī)劃》指出，2020年，我國服務(wù)機(jī)器人在教育娛樂，醫(yī)療康復(fù)等領(lǐng)域?qū)崿F(xiàn)規(guī)?；瘧?yīng)用[7]。值得注意的是，實用化的護(hù)理機(jī)器人首先進(jìn)入的是醫(yī)院、養(yǎng)老院等標(biāo)準(zhǔn)化、流程化較強(qiáng)的應(yīng)用場景，其部分原因是倫理轉(zhuǎn)譯的困難性在面對家庭等復(fù)雜場景時將會被進(jìn)一步放大。如果不能破解家庭倫理情境的復(fù)雜性問題，勢必會對護(hù)理機(jī)器人的長遠(yuǎn)發(fā)展與社會融入造成困難?，F(xiàn)有場景中的標(biāo)準(zhǔn)化倫理情境同樣應(yīng)當(dāng)受到進(jìn)一步的考量和定期的評估，以確保此類相對穩(wěn)定的倫理情境具有標(biāo)準(zhǔn)化的可復(fù)制性，同時也應(yīng)當(dāng)注重被護(hù)理者的多樣性及自身的特殊性訴求對于場景標(biāo)準(zhǔn)化的挑戰(zhàn)。

3 EaaS對護(hù)理機(jī)器人倫理設(shè)計的可能改良

3.1 構(gòu)建多方協(xié)調(diào)的倫理準(zhǔn)則

針對倫理服務(wù)者定位模糊的問題，可以建構(gòu)基于EaaS框架的多學(xué)科倫理委員會，廣泛吸收護(hù)理者、被護(hù)理者、倫理學(xué)家、社會學(xué)家、機(jī)器人工程師等多方面的利益相關(guān)者，對同一類別的護(hù)理機(jī)器人倫理設(shè)計提供合作構(gòu)建的倫理守則。該倫理委員會需要直接參與到護(hù)理機(jī)器人倫理設(shè)計的流程制定當(dāng)中，并根據(jù)護(hù)理機(jī)器人的實際應(yīng)用情境協(xié)商定義各條抽象倫理準(zhǔn)則的具體含義并提供一系列有效的倫理轉(zhuǎn)化工具。該倫理委員會應(yīng)當(dāng)制定與此相對應(yīng)的中止機(jī)制并有能力介入違反相關(guān)原則后的糾錯流程。

在EaaS的框架下，這一過程所實際產(chǎn)出的倫理準(zhǔn)則具有積極的、發(fā)展的可能性，其成果不能以絕對倫理的或非倫理的二元思維加以衡量，但能夠根據(jù)與準(zhǔn)則制定前的倫理狀態(tài)或準(zhǔn)則迭代中倫理變化的比較來探討其相對的倫理意義，即準(zhǔn)則應(yīng)當(dāng)是越來越合倫理的而非確定合倫理的，這再次體現(xiàn)了信息倫理學(xué)對EaaS框架的基礎(chǔ)性影響。須注意的是，除非符合知情同意的豁免要求[8]，倫理準(zhǔn)則發(fā)展的動態(tài)屬性不能以實際使用者的知情同意為代價，倫理設(shè)計者與工程研發(fā)人員有義務(wù)在這一過程中保持使用者對整體發(fā)展情況的感知。

3.2 實現(xiàn)多抽象層次的倫理設(shè)計審查

針對倫理設(shè)計的簡單化問題，應(yīng)當(dāng)基于EaaS框架與信息倫理學(xué)，在多個抽象層次上展開對護(hù)理機(jī)器人倫理特征的識別與評估工作，從而保證倫理設(shè)計與轉(zhuǎn)化程序具有合倫理性。包括但不限于：護(hù)理機(jī)器人倫理設(shè)計思路的合倫理性、護(hù)理機(jī)器人智能系統(tǒng)結(jié)構(gòu)的合倫理性、護(hù)理機(jī)器人實現(xiàn)代碼的合倫理性、護(hù)理機(jī)器人自身實踐行為的合倫理性與護(hù)理機(jī)器人社會關(guān)系的合倫理性等。具體而言，多層次的倫理監(jiān)控活動要求護(hù)理機(jī)器人的倫理設(shè)計不能僅停留于實踐層面的可用性，還必須保證算法層面的可解釋性，應(yīng)盡量控制人工智能與深度學(xué)習(xí)算法等具有黑箱性質(zhì)的技術(shù)因素，從而消減護(hù)理機(jī)器人倫理活動的潛在非確定性。只有當(dāng)護(hù)理機(jī)器人的倫理設(shè)計內(nèi)容在多個層次上展現(xiàn)出合倫理性時，此種設(shè)計才應(yīng)當(dāng)被視為是可行的，反之則要審查其倫理特征在實踐流程中的缺失。通過循環(huán)式的層次審查與優(yōu)化活動，倫理委員會得以保持其自身及護(hù)理機(jī)器人倫理活動處于一個動態(tài)的長效發(fā)展過程當(dāng)中，改良以往一次性倫理審查中的局限性，同時提升倫理設(shè)計活動的有效性與可用性。

3.3 構(gòu)建模塊化的倫理情境

針對倫理設(shè)計的智能化誤區(qū)，應(yīng)當(dāng)視具體情況摒棄單體式、集成化的解決方案，采用分布式的微服務(wù)，發(fā)揮其高可用性與可伸縮性特點[9]，由相對平行且獨立的小型團(tuán)隊分別解決各種具體應(yīng)用的需求。但在服務(wù)化的業(yè)務(wù)流程中，具體需求往往是倫理無涉的，業(yè)務(wù)整體的倫理特征也不能等同于用戶在實際使用活動中所接觸到的倫理情況。針對此類具有去倫理化風(fēng)險的解決方式，EaaS框架可以依托信息倫理學(xué)的基本觀念，從信息域的構(gòu)建與權(quán)限管理入手模塊化地構(gòu)建具體倫理情境，從而保證各類智能設(shè)備的倫理統(tǒng)籌性。就其成果而言，具體護(hù)理機(jī)器的倫理特征應(yīng)與EaaS的框架特征相對一致，即可以通過多個模塊化護(hù)理設(shè)備的協(xié)作實現(xiàn)倫理情境的構(gòu)建與設(shè)備倫理內(nèi)涵的升級，從非倫理化的單一護(hù)理儀器整合為具有顯見倫理特征的護(hù)理環(huán)境。

3.4 開展自發(fā)性的倫理定制服務(wù)

針對倫理場景的標(biāo)準(zhǔn)化困境，EaaS框架提供了一個更為開放、更為包容、更易使用的倫理設(shè)計平臺，有能力通過倫理工具的開發(fā)與下放實現(xiàn)廣泛參與的倫理體系的構(gòu)建。有特殊倫理需求的用戶群體，能夠自行組合成為倫理參與者群體，依托于行業(yè)內(nèi)倫理委員會所公開的簡明倫理工具包與以往倫理設(shè)計經(jīng)驗，具有針對性地自我解決或外包相關(guān)倫理設(shè)計需求，形成具有活力的開源倫理設(shè)計社區(qū)，按需定制特種倫理場景下的護(hù)理機(jī)器人。通過有條件地擴(kuò)大倫理設(shè)計活動參與群體，實現(xiàn)倫理活動與要求的細(xì)分。充分發(fā)揮互聯(lián)網(wǎng)背景下的共享精神[10]，實現(xiàn)倫理設(shè)計活動的開放化，最大程度地發(fā)揮EaaS框架所具有的內(nèi)在活力。

4 結(jié)語

EaaS為倫理設(shè)計領(lǐng)域提供了一個更為開放和動態(tài)的合作平臺架構(gòu)，從而有望以更高效和更具有針對性的方式解決當(dāng)前護(hù)理機(jī)器人倫理設(shè)計活動中的諸多不足。然而，以EaaS框架來實現(xiàn)護(hù)理機(jī)器人的倫理設(shè)計還存在著一定的局限性，例如，倫理轉(zhuǎn)譯的工具和方法大多不具有強(qiáng)檢驗性、既存的轉(zhuǎn)譯工具和方法注重分析判斷而非規(guī)范確定從而欠缺實效性、倫理轉(zhuǎn)譯工具只被開發(fā)者用于完成一次性測試等[11]。

將EaaS框架用以實現(xiàn)護(hù)理機(jī)器人的倫理設(shè)計是一種合理的嘗試，相對于當(dāng)前實踐中嚴(yán)格地使用條例和與之相對應(yīng)的寬泛免責(zé)條款，EaaS能夠更好地平衡各方責(zé)任，并且能夠在加強(qiáng)對倫理不足或倫理錯誤的辨識能力的同時，也能夠明確區(qū)分可確認(rèn)的錯誤與應(yīng)承擔(dān)的責(zé)任，這可以為實際的倫理準(zhǔn)則賦予面向社會的可探討性與可辯護(hù)性提供解決思路。因此，EaaS框架有可能成為一個切實可行的倫理活動方式，為護(hù)理機(jī)器人的倫理設(shè)計提供有效的支撐策略。