信息技術(shù)倫理研究的國際進展*

李 燕 王雪梅

（西南大學圖書館，重慶400715）

新技術(shù)發(fā)展的一個最大問題，是帶來一系列倫理問題，特別在發(fā)展最快、與人類生活息息相關的信息技術(shù)、生命技術(shù)領域。隨著計算機與信息通訊技術(shù)的發(fā)展，網(wǎng)絡已經(jīng)滲透到社會生活的方方面面。人工智能、大數(shù)據(jù)等新興信息技術(shù)的廣泛運用與深度交融在促進社會進步的同時也帶來了一系列前所未有的倫理問題?；ヂ?lián)網(wǎng)大數(shù)據(jù)技術(shù)帶來隱私泄露、信息安全和數(shù)據(jù)鴻溝等倫理問題，其發(fā)展需堅持以人為本，服務于人類社會健康發(fā)展和人民生活質(zhì)量提高［1］。泛在信息社會環(huán)境下，出現(xiàn)一些新的法律調(diào)節(jié)不到的社會生活行為，需要靠人的行為價值取向即倫理道德來調(diào)整。人工智能是當今科技時代的最強引擎，由此帶來的倫理問題已引起國內(nèi)外高度關注。世界經(jīng)濟論壇發(fā)布《2021年全球技術(shù)治理報告》，指出為了應對第四次工業(yè)革命新技術(shù)帶來的挑戰(zhàn)，最大限度地避免潛在風險，許多國家制定了倫理治理框架，為負責任地開發(fā)新興技術(shù)提供指導方針［2］。我國政府發(fā)布《新一代人工智能發(fā)展規(guī)劃》，指出人工智能成為國際競爭的新焦點、經(jīng)濟發(fā)展的新引擎，帶來社會建設的新機遇，同時人工智能發(fā)展的不確定性也帶來新挑戰(zhàn)，既要通過法律和政策予以規(guī)范，也要用文明和倫理賦予其更多開放的彈性［3］?；ヂ?lián)網(wǎng)、大數(shù)據(jù)、人工智能等信息技術(shù)正在引發(fā)前所未有的社會革新，新興技術(shù)帶來日益復雜的科技倫理問題和不可預知的社會風險，科技倫理治理是現(xiàn)代科技發(fā)展的重要保障和現(xiàn)代社會治理的重要內(nèi)容，我國建設信息科技強國的進程中需要加強科技倫理的建設。

20世紀80年代西方學術(shù)界開始興起對信息倫理學的研究，20世紀末我國有些學者開始關注信息技術(shù)與倫理的研究［4-8］。在Web of Science文獻平臺中，發(fā)表“信息技術(shù)與倫理”相關論文比較多的期刊有《英國醫(yī)學期刊開放》（British Medical Journal Open，BMJ Open）、《倫理與信息技術(shù)》和《商業(yè)倫理期刊》（Journal of Business Ethics）。其中BMJOpen是臨床綜合醫(yī)學開放獲取期刊，每年12期，年發(fā)文量達數(shù)千篇；Journal of Business Ethics是商業(yè)倫理學期刊，每年28期，年發(fā)文量為一千多篇；Ethics and Information Technology是倫理學與信息技術(shù)期刊，每年4期，通過同行評議優(yōu)中選優(yōu)，年發(fā)文量只有幾十篇，Web of Science當前關于該主題研究的專門期刊僅有此刊。美國的Journal of Information Ethics在2006年之后不再被收錄。據(jù)期刊引證報告公布的數(shù)據(jù)，Ethics and Information Technology在倫理學領域為1區(qū)期刊，在信息科學和圖書館學領域為2區(qū)期刊。該刊1999年創(chuàng)刊于荷蘭，旨在促進倫理哲學與信息通訊技術(shù)領域的對話，解決信息技術(shù)使用和發(fā)展過程中的相關倫理、社會和政治問題［9］。本文以Ethicsand Information Technology刊載的所有文章為研究對象，利用 CiteSpaceV和 Derwent Data Analyzer等軟件工具進行量化分析，窺一斑而見全豹，從中獲悉國際信息技術(shù)倫理領域的研究概貌及其進展。

1 數(shù)據(jù)基本情況

1999年至今，Ethics and Information Technology期刊文章共有576篇，已經(jīng)正式出版的有541篇，其他待刊，其中開放獲取論文82篇（檢索時間2020年1月15日）。這些文章被歸類為Computer Science和 Social Sciences。

發(fā)表文章數(shù)量在20篇以上的國家有美國（237篇），英國（93篇），荷蘭（88篇），澳大利亞（50篇），德國（25篇），加拿大（21篇）。中國有3篇，分別是2005年中南大學發(fā)表的《當代中國的隱私與數(shù)據(jù)隱私問題》（Privacy and Data Privacy Issues in Contemporary China），2014年中國人民大學發(fā)表的《大腦模擬與人格：關注人類大腦計劃》（Brain Simulation and Personhood：A Concern with the Human Brain Project），2018年西交利物浦大學和寧波諾丁漢大學等發(fā)表的《中國社交媒體的隱私感知與保護：以微信為例》（Privacy Perception and Protection on Chinese SocialMedia：a Case Study ofWeChat）。用CiteSpace軟件分析國家中心性大小，網(wǎng)絡節(jié)點中心性最大的是美國，其次是荷蘭、德國、英國、澳大利亞、加拿大和意大利等，這些國家的中介中心性比較高，在合作研究網(wǎng)絡中發(fā)揮著一定作用。

發(fā)表論文10篇及以上的機構(gòu)有荷蘭特文特大學（University of Twente）（31篇），荷蘭代爾夫特理工大學（Delft University of Technology）（20篇），英國牛津大學（University of Oxford）（20篇），美國里韋學院（Rivier College）（14篇），荷蘭埃因霍芬理工大學（Technische Universiteit Eindhoven）（11篇），荷蘭格羅寧根大學（University of Groningen）（10篇），美國華盛頓大學（University ofWashington）（10篇），澳大利亞墨爾本大學（University of Melbourne）（10篇）。

2 高被引文獻

該期刊發(fā)表論文被其他文獻引用較多的文獻，是該刊中已產(chǎn)生較為廣泛的學術(shù)影響的論文。被引用次數(shù)超過100次的文獻有10篇，其中3篇文獻關注網(wǎng)絡研究中的“人類主體”（Human Subjects）問題，2篇討論信息倫理的哲學基礎，其余幾篇涉及社交媒體、機器人、責任歸屬、算法偏見、信息透明等，詳情見表1。

如表1所示，F(xiàn)loridi L.教授是《信息倫理：計算機倫理學的哲學基礎》《信息透明的倫理》《信息隱私的本體論解釋》這3篇論文的作者，F(xiàn)loridi L.是牛津大學哲學與倫理學教授，牛津大學網(wǎng)絡研究院信息倫理學教授，被視為信息哲學和信息倫理的創(chuàng)始人。

表1 《倫理與信息技術(shù)》高被引文獻Tab.1 Highly Cited Papers in Journal Ethics and Information Technology

3 知識基礎分析

一個研究領域所有文獻的參考文獻集合是該領域的知識基礎，其中高被引和高中心性參考文獻集合構(gòu)成了該領域的核心知識基礎［20］。

3.1 經(jīng)典文獻

參考文獻中被大量引用的文獻傳遞的知識在某一時間段內(nèi)獲得較多研究者的認同，并且相關研究者往往將這些高被引文獻內(nèi)所包含的觀點、知識作為開展下一步研究的重要知識基礎，高被引文獻對該學科研究具有重大參考價值［21］。持續(xù)被高引用的文獻通?？煞Q為經(jīng)典文獻。該期刊發(fā)表的576篇論文中有314篇被SSCI數(shù)據(jù)庫收錄。這314篇論文中除8篇為2001年的外，其他是自2009年以來的全收錄，因此基于SSCI收錄的該刊2009—2019年論文進行研究基礎分析。2009—2019年該刊論文引用10次及以上的參考文獻有13篇，這些文獻討論的重點集中在人工代理（Artificial Agent）、隱私（Privacy）、游戲（Game）等方面。這些高被引文獻按被引頻次由高至低排列如下：

《價值敏感設計與信息系統(tǒng)》（Value Sensitive Design and Information Systems）［22］、《正義論》（A Theory of Justice）［23］、《游戲玩家的困境：虛擬謀殺與虛擬戀童癖道德區(qū)分的爭論分析》（The Gamer's Dilemma：An Analysis of the Arguments for the Moral Distinction between Virtual Murder and Virtual Paedophilia）［24］、《情境中的隱私：技術(shù)、政策與完整的社會生活》（Privacy in Context：Technology，Policy，and the Integrity of Social Life）［25］、《論人工代理的道德》（On the Morality of Artificial Agents）［26］、《玩暴力電子游戲是錯誤的嗎？》（Is It wrong to Play Violent Video Games？）［27］、《作為情境完整性的隱私》（Privacy as Contextual Integrity）［28］、《殺人機器人》（Killer Robots）［29］、《隱私與自由》（Privacy and Freedom）［30］、《計算機系統(tǒng)：道德實體而非道德代理》（Computer Systems：Moral Entities but not Moral Agents）［31］、《信息時代的隱私理論》（Towards a Theory of Privacy in the Information Age）［32］、《機器倫理的性質(zhì)，重要性和難點》（The Nature，Importance，and Difficulty of Machine Ethics）［33］、《道德機器：教機器人辨別是非》（Moral Machines：Teaching Robots Right from Wrong）［34］。其中紐約大學 Nissenbaum教授和達特茅斯學院Moor教授分別有2篇論文列在其中，表明他們是該領域研究的重要專家。

3.2 高中心性文獻

節(jié)點中心性是用來進行網(wǎng)絡節(jié)點中心性測度的指標，它指網(wǎng)絡中經(jīng)過某點并連接兩點的最短路徑占這兩點之間的最短路徑線總數(shù)之比［35］。中介中心性較高的參考文獻有9篇，其中4篇同時也是高被引文獻，即《論人工代理的道德》《道德機器：教機器人辨別是非》《計算機系統(tǒng)：道德實體而非道德代理》《情境中的隱私：技術(shù)、政策與完整的社會生活》，它們是倫理與信息技術(shù)研究領域的重要知識基礎。另外5篇分別是《人工代理的設計倫理》（The Ethics of Designing Artificial Agents）［36］、《醫(yī)療保健、能力與人工智能輔助 技 術(shù)》（Health Care，Capabilities，and AI Assistive Technologies）［37］、《一個會踢卻無靈魂的身體應受譴責：機器人技術(shù)的法律視角》（A Body to Kick，but still no soul to Damn：Legal Perspectives on Robotics）［38］、《第四次革命：信息領域如何重塑人類 現(xiàn) 實》（The Forth Revolution：How the Infosphere is Reshaping Human Reality）［39］、《這很復雜：網(wǎng)絡青少年的社交生活》（It's Complicated：The Social Lives of Networked Teens）［40］。

此外，使用突發(fā)性探測重要參考文獻，Nissenbaum教授《情境中的隱私：技術(shù)、政策與完整的社會生活》與Friedman教授《價值敏感設計與信息系統(tǒng)》的突變性高（Burst值分別為3.34和3.31），表明這兩篇文獻在較短時間內(nèi)產(chǎn)生了較大影響。具體而言，Nissenbaum在文中認為隱私應該被放到相應社會情境中去理解，提供了一個預測和解釋隱私侵犯的模型，闡述隱私在民主社會中所扮演的角色，技術(shù)對隱私的破壞方式，以及應采取什么措施保護隱私。華盛頓大學Friedman教授等人提出的“價值敏感設計”是一種基于理論的技術(shù)設計方法，強調(diào)在技術(shù)設計階段解決倫理問題，即在價值與技術(shù)設計的互動中將價值觀與行為方式嵌入到整個設計過程。

4 研究熱點

“關鍵詞”是作者對文獻核心的精煉，在學科領域里出現(xiàn)的高頻關鍵詞通常被視為該領域的研究熱點。

4.1 研究發(fā)展的兩個階段

1999—2008年，倫理與信息技術(shù)領域文獻的熱點關鍵詞主要集中在以下幾個方面：1）信息行為，包括信息隱私（Informational Privacy）、監(jiān)視（Surveillance）、信任（Trust）、自由（Freedom）、數(shù)字鴻溝（Digital Divide）、社區(qū)（Community）等；2）信息哲學，包括信息倫理（Information Ethics）、計算機倫理（Computer Ethics）、自主性（Autonomy）、康德（Kant）、本體論（Ontology）、道德責任（Moral Responsibility）、身份（Identity）等；3）信息空間，關鍵詞有互聯(lián)網(wǎng)（Internet）、網(wǎng)絡空間（Cyberspace）、信息空間（Infosphere）等；4）信息技術(shù)主要關注虛擬現(xiàn)實（Virtual Reality）等；5）法律法規(guī)方面強調(diào)知識產(chǎn)權(quán)（Intellectual Property）和版權(quán)（Copyright）等。

2009—2019年，隨著大數(shù)據(jù)、人工智能、社交網(wǎng)絡等的發(fā)展出現(xiàn)了一些新的熱點：1）倫理哲學，包括價值敏感設計（Value Sensitive Design）、機器人倫理學（Robot Ethics）、機器倫理學（Machine Ethics）、德性倫理學（Virtue Ethics）、應用倫理學（Applied Ethics）、倫理心理學（Moral Psychology）、現(xiàn) 象 學 （Phenomenology）、透 明（Transparency）、權(quán)利 （Rights）、亞里 士多 德（Aristotle）等；2）網(wǎng)絡應用，如社交媒體（Social media）、臉書（Facebook）、維基百科（Wikipedia）、計算機游戲（Computer Games）、視頻游戲（Video Games）、虛擬謀殺（Virtual Murder）等；3）信息技術(shù)方面的熱點詞有信息和通訊技術(shù)（Information and Communication Technology）、人 工 智 能（Artificial Intelligence）、大數(shù)據(jù)（Big Data）、算法（Algorithms）、數(shù)據(jù)保護（Data Protection）、自動駕駛汽車（Autonomous Vehicles）等。

值得關注的是，2020年新出現(xiàn)了兩個重要關鍵詞，“新型冠狀病毒肺炎（Covid-19）”和“負責任的機器人（Responsible Robotics）”。關于Covid-19的討論集中在“接觸追蹤應用程序”上，公眾爭論的焦點在這項技術(shù)給隱私帶來的風險。其中Siffels L.E.的觀點具有代表性，他使用價值順序框架（Framework of Orders of Worth）分析公眾對Covid-19應用程序的爭論，認為這個框架可以幫助人們超越個人隱私與公共健康的二分法，認識到公共利益的多種概念［41］。負責任的機器人是一個新近“流行”術(shù)語，也是Ethics and Information Technology 2020年第四期特刊內(nèi)容。編輯van Wynsberghe A&Sharkey N指出，如果想讓機器人技術(shù)把我們的世界變得更美好，必須對機器人開發(fā)過程以及由此產(chǎn)生的產(chǎn)品進行負責任的研究和創(chuàng)新。這項技術(shù)的關鍵在于機器人背后的人類主動評估這些創(chuàng)新對安全、隱私和幸福等社會價值觀的影響，對這項技術(shù)創(chuàng)新合乎道德的發(fā)展承擔起責任［42］。

4.2 熱點知識圖譜

利用CiteSpace軟件對1999—2019年論文中出現(xiàn)頻次居前100位的高頻關鍵詞進行聚類分析，得到7個較大的研究主題（圖1），包括人工智能與生物醫(yī)學倫理、倫理哲學與信息技術(shù)、隱私與監(jiān)控及數(shù)據(jù)保護、網(wǎng)絡應用與犯罪、知識產(chǎn)權(quán)與社會生活、社交媒體、機器人學與道德責任，具體分析如下：

圖1 信息技術(shù)與倫理研究高頻關鍵詞聚類圖Fig.1 High-frequency Keywords Clustering in Information Technology and Ethics Research

主題一：人工智能與生物醫(yī)學倫理。前者熱點關鍵詞有人工智能（Artificial Intelligence）、知情同意（Informed Consent）、行為研究（Behavioral Research）、公共政策（Public Policy）、法律（Law）等；后者包括生物醫(yī)學與行為研究（Biomedical and Behavioral Research）、遺傳與生殖（Genetics and Reproduction）、遺傳學（Genetics）、遺傳隱私（Genetic Privacy）、人類基因組計劃 （Human Genome Project）等。

主題二：倫理哲學與信息技術(shù)。倫理哲學包括信息倫理學（Information Ethics）、計算機倫理學（Computer Ethics）、哲 學 特 征 （Philosophical Aspect）、價值敏感設計（Value Sensitive Design）、本體（Ontology）等；信息技術(shù)的熱點關鍵詞有信息技術(shù)（Information Technology）、信息通訊技術(shù)（Information and Communication Technology）、信息空間（Infosphere）、決策（Decision Making）、設計（Design）、數(shù)字鴻溝（Digital Divide）等。

主題三：隱私與監(jiān)控及數(shù)據(jù)保護。隱私與監(jiān)控涉及的關鍵詞有數(shù)據(jù)隱私（Data Privacy）、隱私保護 （Privacy Protection）、空間監(jiān)視 （Space Surveillance）、監(jiān)控（Monitoring）等；數(shù)據(jù)保護方面的熱點詞有數(shù)據(jù)保護（Data Protection）、數(shù)據(jù)挖掘（Data Mining）、大數(shù)據(jù)（Big Data）、語境完整（Contextual Integrity）等。

主題四：網(wǎng)絡應用與網(wǎng)絡犯罪。前者關鍵詞包括視頻游戲（Video Game）、計算機游戲（Computer Game）、虛擬現(xiàn)實（Virtual Reality）、人機交互（Human Computer Interaction）、交互式計算機圖形學（Interactive Computer Graphics）、搜索引擎（Search Engine）、維基百科（Wikipedia）、算法（Algorithm）等；后者熱點詞有犯罪（Violence）、暴力（Violence）、規(guī)則（Regulation）等。

主題五：知識產(chǎn)權(quán)與社會生活。前者關鍵詞有 知 識 產(chǎn) 權(quán) （Intellectual Property）、版 權(quán)（Copyright）、法律法規(guī)（Laws and Legislation）、免費軟件（Free Software）等；社會生活包括商業(yè)（Commerce）、 教 育 （Education）、 社 區(qū)（Community）、自由（Freedom）、價值（Value）等。

主題六：社交媒體。包括在線社交網(wǎng)絡（Social Networking（Online））、社交網(wǎng)站（Social Networking Site）、社交媒體（Social Media）、臉書（Facebook）、身份（Identity）等。

主題七：機器人學與道德責任。前者的熱點關鍵詞有機器人學（Robotics）、機器人倫理學（Robot Ethics）、社交機器人（Social Robot）、機器設計（Machine Design）等；后者聚焦在道德責任（Moral Responsibility）、道 德 代 理 （Moral Agent）等。

此外，利用Derwent Data Analyzer計算出現(xiàn)次數(shù)指標，其根據(jù)新穎性、持久性、社區(qū)化程度和增長四個因子檢測數(shù)據(jù)集中主題詞的演變過程，分析顯示價值敏感設計（Value Sensitive Design）、人工智能（Artificial Intelligence）、社交媒體（Social Nedia）、大數(shù)據(jù)（Big Data）是值得關注的重點研究領域。

5 結(jié)論與啟示

本文以Ethicsand Information Technology期刊為代表，對國際信息技術(shù)倫理研究文獻進行了比較深入細致的分析，研究結(jié)果發(fā)現(xiàn)關于網(wǎng)絡研究中的人類主體、信息倫理的哲學基礎、社交媒體、機器人、責任歸屬、算法偏見、信息透明等方面的論文有著較為深遠的學術(shù)影響。21世紀第一個十年間，信息技術(shù)倫理領域關注信息行為、信息倫理、信息空間、虛擬現(xiàn)實技術(shù)和知識產(chǎn)權(quán)保護等；隨后十年，隨著大數(shù)據(jù)、人工智能、社交網(wǎng)絡等新興技術(shù)的發(fā)展出現(xiàn)了一些新的熱點，包括價值敏感設計、機器人倫理學、社交媒體、計算機游戲、人工智能、自動駕駛等。其中價值敏感設計、人工智能、社交媒體、大數(shù)據(jù)等是發(fā)展的新興趨勢。

2020年新冠疫情的全球暴發(fā)在一定程度上加速了人工智能、信息科技、生物技術(shù)的發(fā)展，信息技術(shù)在全球阻擊疫情中得到廣泛使用，為應對病毒傳播所采取的措施對傳統(tǒng)的自由理念和隱私權(quán)利保護構(gòu)成了威脅［43］。新的數(shù)字化時代需要新的社會治理模式，圍繞我國信息技術(shù)倫理治理提出以下建議：1）推進信息技術(shù)倫理的法律制度建設，將信息科技倫理中的一些重要道德規(guī)范上升為法律規(guī)范，完善信息技術(shù)倫理監(jiān)管和知情同意制度，保障信息科技健康發(fā)展，通過法治降低科技發(fā)展可能帶來的風險［44］。2）完善信息技術(shù)倫理的道德機制，制定行業(yè)規(guī)范，建立倫理審查機制，增強學術(shù)團體的監(jiān)督意識，加強對相關科研人員的科技倫理規(guī)范培訓，自覺嚴守法規(guī)律令、倫理準則和規(guī)范。3）加強智慧社會的倫理建設，大數(shù)據(jù)背景下的社會治理以互聯(lián)網(wǎng)、人工智能等現(xiàn)代信息技術(shù)為載體，對社會問題進行精準監(jiān)測和預警，但同時也面臨著個體隱私泄露與社會信任危機等倫理風險，需要從人文倫理、責任倫理、數(shù)據(jù)倫理等視角建立新的治理主體多元責任體系［45］。4）培養(yǎng)大眾思辨性思維，對網(wǎng)絡信息進行分析、評估、推理、審視、追問和反思，透過表面現(xiàn)象發(fā)掘價值本質(zhì)，避免片面盲從，加強輿論引導和隱私保護，建構(gòu)負責任的信息文化氛圍。5）加快信息技術(shù)倫理研究，科技倫理研究需要既懂高新科技又有倫理學素養(yǎng)，既有倫理治理的基礎理論研究又要重視應用研究，需要多學科背景、跨學科合作，并在國際研究中構(gòu)建具有自身特色的學術(shù)體系和話語體系，為人類共同面臨的信息技術(shù)倫理風險及時提供有效治理方案［46］。

信息技術(shù)在我國政治、經(jīng)濟和社會生活中扮演著十分重要的角色，使越來越多的人群接觸到更加紛繁復雜的信息，人們的價值觀也愈發(fā)呈現(xiàn)出多樣性和多變性［47］。加強信息社會倫理道德價值新體系的建設，使個人、群體以及社會都能以正確的行為價值標準為引導，這對和諧社會的發(fā)展尤為重要。