新技術(shù)革命背景下自動(dòng)化信任國(guó)外學(xué)術(shù)新進(jìn)展

摘要：信任是搭建人機(jī)協(xié)作的橋梁，適當(dāng)?shù)男湃纬潭瓤梢宰畲蠡匕l(fā)揮科技力量，提高社會(huì)生產(chǎn)率。為了更好地應(yīng)對(duì)日益凸顯的人機(jī)信任問(wèn)題，文章運(yùn)用文獻(xiàn)計(jì)量方法，使用CiteSpace和VOSviewer分析軟件對(duì)1987—2022年間國(guó)外自動(dòng)化信任文獻(xiàn)進(jìn)行梳理和可視化分析，從自動(dòng)化信任研究的一般信息、文獻(xiàn)知識(shí)庫(kù)及研究熱點(diǎn)和前沿3個(gè)方面客觀描述了自動(dòng)化信任的研究現(xiàn)狀和趨勢(shì)。研究發(fā)現(xiàn)，自動(dòng)化信任的研究熱點(diǎn)和發(fā)展趨勢(shì)主要包括信任、前提和影響、人機(jī)交互、醫(yī)療保健、決策支持和控制及人工智能。最后，圍繞用戶(hù)接受度、自動(dòng)駕駛、人工智能及個(gè)體差異4個(gè)學(xué)術(shù)前沿提供未來(lái)研究建議。

關(guān)鍵詞：自動(dòng)化信任；文獻(xiàn)計(jì)量分析；可視化分析；研究前沿

中圖分類(lèi)號(hào)：F2"""""""文獻(xiàn)標(biāo)識(shí)碼：A""""""doi：10.19311/j.cnki.16723198.2025.11.013

0"引言

自動(dòng)化是工業(yè)、農(nóng)業(yè)、國(guó)防和科學(xué)技術(shù)現(xiàn)代化的重要條件和顯著標(biāo)志，已廣泛應(yīng)用于工業(yè)、農(nóng)業(yè)、軍事、科學(xué)研究、交通運(yùn)輸、商業(yè)、醫(yī)療、服務(wù)和家庭等各個(gè)方面。隨著科技的發(fā)展，自動(dòng)化的內(nèi)涵從程序自動(dòng)化轉(zhuǎn)向了自主系統(tǒng)，這一轉(zhuǎn)變給人機(jī)協(xié)同控制帶來(lái)了許多新的挑戰(zhàn)，面對(duì)日新月異的人機(jī)交互模式，操作者的不恰當(dāng)信任和自主系統(tǒng)的不透明性大大增加了系統(tǒng)失控的風(fēng)險(xiǎn)[1]。為了解決這些自動(dòng)化問(wèn)題，人們對(duì)信任進(jìn)行了大量的研究，并逐漸成為一個(gè)熱門(mén)話(huà)題。

過(guò)去的研究表明，對(duì)于不同智能水平的自動(dòng)化系統(tǒng)，人們的信任不能一概而論。過(guò)度信任可能導(dǎo)致自動(dòng)化的濫用，而信任不足可能導(dǎo)致放棄使用自動(dòng)化[2]，造成技術(shù)浪費(fèi)。只有建立適當(dāng)?shù)男湃?，才能充分發(fā)揮自主技術(shù)的潛力[3]。

以往自動(dòng)化信任的回顧性分析多采用文獻(xiàn)回顧或Meta-analysis方法。研究?jī)?nèi)容多來(lái)自單一層面，如自動(dòng)化信任的前因研究、修復(fù)研究、神經(jīng)機(jī)制研究。在研究對(duì)象方面，更多關(guān)注特定背景或典型自治系統(tǒng)下的信任問(wèn)題，如探索人工智能中的信任和社會(huì)輔助康復(fù)機(jī)器人的信任?；谥R(shí)圖譜方法，全面、客觀地揭示信息科技的出版趨勢(shì)、國(guó)家、機(jī)構(gòu)、期刊和作者的影響力、知識(shí)庫(kù)、研究熱點(diǎn)和前沿很有必要。因此，本文基于"Web"of"Science"數(shù)據(jù)庫(kù)，利用CiteSpace和VOSviewer對(duì)1987—2022年自動(dòng)化信任的文獻(xiàn)計(jì)量和可視化分析，探究該領(lǐng)域的研究熱點(diǎn)及發(fā)展趨勢(shì)，以期為后續(xù)研究提供參考和借鑒。

1"材料與方法

1.1"數(shù)據(jù)來(lái)源

所有數(shù)據(jù)均來(lái)源于Web"of"Science核心合集，構(gòu)建的檢索公式為T(mén)S"="（“automation”O(jiān)R“automated"system”O(jiān)R“autonomy”O(jiān)R“autonomous"system”）"AND"TS"="（“trust”），檢索時(shí)間從其記錄到2022年12月31日。文章類(lèi)型限于“Article”和“Review”。檢索到5129份出版物。篩選后，收集1454篇出版物，將文獻(xiàn)數(shù)據(jù)被導(dǎo)入到Citespace中，進(jìn)一步剔除重復(fù)數(shù)據(jù)，最終得到1452條有效發(fā)表數(shù)據(jù)。

1.2"研究方法

本研究主要利用Citespace和Vosviewer實(shí)現(xiàn)自動(dòng)化信任的文獻(xiàn)計(jì)量和可視化分析。首先，通過(guò)分析年度出版物、國(guó)家/地區(qū)、機(jī)構(gòu)，量化和識(shí)別自動(dòng)化信任研究的一般信息。其次，通過(guò)分析期刊和作者來(lái)揭示自動(dòng)化信任的知識(shí)庫(kù)。第三，通過(guò)對(duì)關(guān)鍵詞和突發(fā)詞的分析，發(fā)現(xiàn)自動(dòng)化信任的研究熱點(diǎn)和前沿。

2"文獻(xiàn)計(jì)量分析

2.1"年度發(fā)文量分析

發(fā)文量在一定程度上反映了該領(lǐng)域的受關(guān)注程度及發(fā)展水平。圖1顯示了過(guò)去36年有關(guān)自動(dòng)化信任的文獻(xiàn)發(fā)表數(shù)量。1987年以來(lái)，關(guān)于自動(dòng)化信任的文獻(xiàn)發(fā)表數(shù)量總體呈上升趨勢(shì)。自2015年起，每年發(fā)表論文數(shù)量呈爆炸式增長(zhǎng)，到2020年達(dá)到高峰，達(dá)到176篇。這表明近年來(lái)自動(dòng)化信任引起了研究人員的廣泛關(guān)注。

2.2"發(fā)文國(guó)家與發(fā)文機(jī)構(gòu)分析

共61個(gè)國(guó)家的964個(gè)機(jī)構(gòu)撰寫(xiě)了1452份自動(dòng)化信任相關(guān)文獻(xiàn)。發(fā)表論文最多的是美國(guó)（655篇）、德國(guó)（149篇）、英國(guó)（148篇）、澳大利亞（83篇）和中國(guó)（81篇）。高中心態(tài)如美國(guó)（0.51），英國(guó)（0.43），說(shuō)明這兩個(gè)國(guó)家與其他國(guó)家合作密切，美國(guó)不僅是最早從事自動(dòng)化信任研究的國(guó)家，也是導(dǎo)致革命性發(fā)現(xiàn)的重要轉(zhuǎn)折點(diǎn)。

根據(jù)發(fā)表的論文數(shù)量，University"of"Central"Florida是最多產(chǎn)的大學(xué)（41篇），其次是Clemson"University（37篇）和Georgia"Inst"of"Technology（26篇）。中心性最高的機(jī)構(gòu)是Air"Force"Research"Laboratory（0.08），此外，在排名前十的機(jī)構(gòu)中，有9所來(lái)自美國(guó)，1所來(lái)自日本，這再次證明了美國(guó)機(jī)構(gòu)對(duì)自動(dòng)化信任研究的杰出貢獻(xiàn)。

2.3"期刊分析

學(xué)術(shù)期刊是展示和傳播研究成果的重要載體?！禜uman"Factors》對(duì)自動(dòng)化信任相關(guān)文獻(xiàn)的貢獻(xiàn)最大。使用Citespace繪制共被引期刊地圖，節(jié)點(diǎn)越大，共被引數(shù)越高，表明期刊在該領(lǐng)域的影響力越大。據(jù)統(tǒng)計(jì)，共被引指數(shù)在500以上的期刊分別是《Human"Factors》（1003）、《Ergonomics》（691）和《International"Journal"of"Human-computer"Studies》（551）。

2.4"作者分析

學(xué)科的發(fā)展和演變得益于研究者的貢獻(xiàn)。共有3181位作者撰寫(xiě)了1452篇自動(dòng)化信任文章。Lyons"JB（21）的論文貢獻(xiàn)最多，其次是Itoh"M（17）和Chen"JYC（16），未來(lái)的研究人員可能需要密切關(guān)注這些作者的研究趨勢(shì)。其中，最引人注目的作者是Lee"JD，共被引次數(shù)為749次，并呈逐年上升趨勢(shì)，其次是Parasuraman"R（631次）和Muir"BM（364次）。

2.5"關(guān)鍵詞分析

關(guān)鍵詞是作者對(duì)文章核心內(nèi)容的高度精煉和集中的描述，反映了文獻(xiàn)的研究主題和方向。使用Vosviewer繪制關(guān)鍵字共現(xiàn)圖，圖中節(jié)點(diǎn)越大，共現(xiàn)頻率越高。圖中3個(gè)最突出的節(jié)點(diǎn)是“信任”“自動(dòng)化”和“性能”，它們位于網(wǎng)絡(luò)的中心。圖表中節(jié)點(diǎn)的顏色由深色變?yōu)槊髁?，表明關(guān)鍵詞共現(xiàn)年份越來(lái)越近?！叭斯ぶ悄堋薄白詣?dòng)駕駛汽車(chē)”等黃色節(jié)點(diǎn)代表了最新的研究方向。

構(gòu)建關(guān)鍵字聚類(lèi)圖可以更直觀地顯示研究熱點(diǎn)。使用Citespace內(nèi)置的對(duì)數(shù)似然比（LLR）對(duì)關(guān)鍵字進(jìn)行聚類(lèi)，關(guān)鍵字聚類(lèi)圖如圖3所示。在圖3中，網(wǎng)絡(luò)模塊化指數(shù)“Modulariy"Q”的值為0.7691，網(wǎng)絡(luò)同質(zhì)性指數(shù)“Mean"Silhouette”的值為0.7504。兩個(gè)值均大于0.5，說(shuō)明關(guān)鍵詞網(wǎng)絡(luò)聚類(lèi)是合理的。圖3將關(guān)鍵詞劃分為8個(gè)集群，分別為自主性、人機(jī)交互、影響、醫(yī)療、決策、用戶(hù)體驗(yàn)、自動(dòng)駕駛、人工智能，代表了自動(dòng)化信任領(lǐng)域的研究熱點(diǎn)。

3"研究熱點(diǎn)

3.1"自動(dòng)化信任

在未來(lái)，人與自動(dòng)化系統(tǒng)可能更傾向于發(fā)展成“隊(duì)友”關(guān)系。除了自動(dòng)化信任的客觀屬性外，它還包含主觀信任屬性，類(lèi)似于人類(lèi)的道德屬性。例如，Hou等人[4]開(kāi)發(fā)了信任模型IMPACTS，強(qiáng)調(diào)需要更加關(guān)注透明、溝通和共享的意向心理模型，這對(duì)于建立人與自治系統(tǒng)之間的相互信任至關(guān)重要。

3.2"前提和影響

自動(dòng)化信任的前因可分為3類(lèi)：自動(dòng)化、操作員和環(huán)境。與自動(dòng)化特性和能力相關(guān)的影響因素一直是研究的重點(diǎn)。大量證據(jù)表明，高度可靠的自動(dòng)化系統(tǒng)促進(jìn)了信任的增加。一項(xiàng)研究表明，對(duì)自動(dòng)化的理解是影響信任的最強(qiáng)因素，其影響甚至大于自動(dòng)化的可靠性和能力。用戶(hù)體驗(yàn)已經(jīng)成為一個(gè)獨(dú)立的集群，如果體驗(yàn)是無(wú)效的，甚至是負(fù)面的，它會(huì)降低用戶(hù)對(duì)自動(dòng)化的信任[5]。

此外，在信任對(duì)其他因素的影響方面也取得了一些進(jìn)展。例如，研究表明，操作員監(jiān)控的自動(dòng)化程度隨著信任的增加而降低[6]，信任校準(zhǔn)培訓(xùn)有利于提高人力團(tuán)隊(duì)績(jī)效，更高的信任會(huì)增加人工控制恢復(fù)的響應(yīng)時(shí)間。

3.3"人機(jī)交互

Chen等人[7]提出了基于動(dòng)態(tài)貝葉斯網(wǎng)絡(luò)的人與多機(jī)器人團(tuán)隊(duì)計(jì)算信任模型。人際信任中的信任修復(fù)方法（如道歉和否定）已經(jīng)在人—機(jī)器人信任中得到了初步驗(yàn)證：當(dāng)信任的喪失歸因于機(jī)器人能力不足時(shí)，道歉可以有效地修復(fù)信任，當(dāng)導(dǎo)致信任喪失的行為被機(jī)器人認(rèn)為是故意的時(shí)，否認(rèn)這種故意比道歉更有效。

3.4"醫(yī)療保健

由于醫(yī)學(xué)背景下的自動(dòng)化技術(shù)直接關(guān)系到患者的生命和健康，醫(yī)療系統(tǒng)中自動(dòng)化技術(shù)的應(yīng)用比其他應(yīng)用背景存在更復(fù)雜的信任問(wèn)題。臨床醫(yī)生的信任決定了其是否會(huì)被用于患者的康復(fù)護(hù)理部署，也會(huì)提高患者對(duì)機(jī)器人的信任和接受度。信任是患者與機(jī)器人互動(dòng)的核心條件，對(duì)醫(yī)療人工智能“黑匣子”特性的擔(dān)憂(yōu)成為信任障礙的重要原因[8]。提高透明度和可解釋性，適當(dāng)培訓(xùn)醫(yī)生并改進(jìn)診斷過(guò)程可以促進(jìn)信任。

3.5"決策支持和控制

自動(dòng)化決策支持系統(tǒng)可以支持操作員在復(fù)雜和任務(wù)飽和的環(huán)境中做出決策。當(dāng)自動(dòng)決策顧問(wèn)和人類(lèi)顧問(wèn)都被描述為具有高水平的感知專(zhuān)業(yè)知識(shí)時(shí)，對(duì)人類(lèi)顧問(wèn)建議的信任度更高[9]。在決策控制方面，未來(lái)的一些智能決策系統(tǒng)越來(lái)越希望實(shí)現(xiàn)與人類(lèi)的點(diǎn)對(duì)點(diǎn)合作，人類(lèi)和代理對(duì)系統(tǒng)的決策控制也應(yīng)該是共享的。人與機(jī)器之間決策控制的有效過(guò)渡依賴(lài)于共享的態(tài)勢(shì)感知、雙向信任、合作關(guān)系等因素，駕駛員擁有最終的控制權(quán)。

3.6"人工智能

信任是開(kāi)發(fā)、部署和使用人工智能的先決條件。許多研究人員提出了可信賴(lài)人工智能的原則，包括但不限于可解釋性、魯棒性、問(wèn)責(zé)性、可驗(yàn)證性、透明度、可持續(xù)性等。未來(lái)AI系統(tǒng)的界面設(shè)計(jì)需要充分考慮信息的呈現(xiàn)和內(nèi)容，呈現(xiàn)合理的透明度，從而建立適當(dāng)?shù)男湃蝃10]。一項(xiàng)研究表明，與沒(méi)有解釋或只有文本原因相比，在AI診斷系統(tǒng)中提供視覺(jué)信息和基于案例的解釋可以提高患者的滿(mǎn)意度和信任度。

4"研究前沿

4.1"用戶(hù)接受度

用戶(hù)對(duì)自動(dòng)化技術(shù)的接受程度與信任密切相關(guān)，缺乏信任會(huì)影響使用程度。一些研究側(cè)重于影響自動(dòng)化系統(tǒng)信任和接受度的各種因素，如自動(dòng)駕駛系統(tǒng)的擬人化和會(huì)話(huà)顯示，社交機(jī)器人的對(duì)話(huà)內(nèi)容，會(huì)話(huà)主動(dòng)性和凝視行為，人工智能的可解釋性和因果性等。有研究者基于技術(shù)接受模型框架或擴(kuò)展模型對(duì)自主技術(shù)的接受意愿進(jìn)行研究。

4.2"自動(dòng)駕駛

目前關(guān)于自動(dòng)駕駛汽車(chē)駕駛員信任的研究主要有兩個(gè)主流方向。一是研究如何在駕駛環(huán)境中校準(zhǔn)信任，例如，過(guò)度信任會(huì)影響接管績(jī)效，但增加接管經(jīng)驗(yàn)可以提高駕駛員對(duì)系統(tǒng)的信任，因此可以在自動(dòng)駕駛訓(xùn)練中考慮接管模擬。二是探索影響消費(fèi)者初始信任和接受度的因素，以改進(jìn)自動(dòng)駕駛汽車(chē)的設(shè)計(jì)，促進(jìn)自動(dòng)駕駛汽車(chē)的商業(yè)推廣。例如，擬人化和周?chē)h(huán)境的顯示界面等界面設(shè)計(jì)因素會(huì)影響信任和接受度。這些研究為未來(lái)自動(dòng)駕駛汽車(chē)的界面設(shè)計(jì)提供了有益的啟示。

4.3"人工智能

隨著人類(lèi)將越來(lái)越多的決策委托給人工智能，越來(lái)越依賴(lài)人工智能技術(shù)來(lái)保護(hù)重要的人類(lèi)產(chǎn)品，如交通、醫(yī)療和安全，開(kāi)發(fā)可信賴(lài)的人工智能變得更加緊迫。值得注意的是，透明或可解釋的人工智能已逐漸成為一個(gè)重要的研究領(lǐng)域，然而，更高的透明度并不總是導(dǎo)致更高的信任。值得信賴(lài)的人工智能應(yīng)該準(zhǔn)確傳達(dá)什么樣的信息和線(xiàn)索，這仍然是一個(gè)有待研究的問(wèn)題。

4.4"個(gè)體差異

如果期望機(jī)器從其作為工具的傳統(tǒng)角色轉(zhuǎn)變?yōu)槿祟?lèi)隊(duì)友和合作伙伴，那么就有必要認(rèn)識(shí)到個(gè)體差異在人類(lèi)自動(dòng)化信任中的作用。因?yàn)樽灾飨到y(tǒng)測(cè)量和建模的個(gè)體差異可能是人與自動(dòng)化機(jī)器交互中適應(yīng)性變化的觸發(fā)因素。人類(lèi)用戶(hù)的教育水平、社會(huì)經(jīng)濟(jì)地位和年齡等人口因素將有助于區(qū)分不同應(yīng)用設(shè)置的用戶(hù)之間的個(gè)體差異，有必要識(shí)別更多的個(gè)體差異，這可能會(huì)影響未來(lái)的人機(jī)交互。

5"結(jié)論

本研究基于WoS核心數(shù)據(jù)庫(kù)，利用Citespace和Vosviewer對(duì)1987—2022年自動(dòng)化信任的相關(guān)文獻(xiàn)進(jìn)行分析，得出以下結(jié)論。

（1）自動(dòng)化信任的研究正處于快速發(fā)展的階段。美國(guó)是該領(lǐng)域的研究骨干，佛羅里達(dá)大學(xué)、《人為因素》雜志和兩位作者（Lyons"JB和Lee"JD）作出了杰出貢獻(xiàn)。

（2）當(dāng)前的研究熱點(diǎn)主要包括與自主性相關(guān)的信任問(wèn)題、自動(dòng)化信任的前因和影響，以及人機(jī)交互、醫(yī)療、決策支持與控制、人工智能、自動(dòng)駕駛等具體應(yīng)用領(lǐng)域的信任討論。

（3）目前的研究前沿集中在4個(gè)方面：接受度、自動(dòng)駕駛汽車(chē)、人工智能及個(gè)體差異。與傳統(tǒng)文獻(xiàn)相比，本研究提供了新的客觀視角。研究結(jié)果有利于掌握該領(lǐng)域的研究現(xiàn)狀，確定研究熱點(diǎn)和前沿。

參考文獻(xiàn)

［1］Endsley"R"M.From"Here"to"Autonomy[J].Human"Factors：The"Journal"of"Human"Factors"and"Ergonomicsnbsp;Society，2017，59（1）：527.

[2]Parasuraman"R，Riley"V.Humans"and"Automation：Use，"Misuse，"Disuse，"Abuse[J].Human"Factors，1997，39（2）：230253.

[3]Du"N，Huang"K"Y，Yang"X"J.Not"All"Information"Is"Equal：Effects"of"Disclosing"Different"Types"of"Likelihood"Information"on"Trust，Compliance"and"Reliance，and"Task"Performance"in"HumanAutomation"Teaming：[J].SAGE"PublicationsSage"CA：Los"Angeles，CA，2020，62（6）：9871001.

[4]Hou"M，Ho"G，Dunwoody"D.IMPACTS：a"trust"model"for"humanautonomy"teaming[J].HumanIntelligent"Systems"Integration，2021，3（2）：7997.

[5]Krber"M，Baseler"E，Bengler"K.Introduction"matters：Manipulating"trust"in"automation"and"reliance"in"automated"driving[J].Applied"ergonomics，2018，66：1831.

[6]William，Payre，Julien，et"al.Fully"Automated"Driving：Impact"of"Trust"and"Practice"on"Manual"Control"Recovery.[J].Human"factors，2016，58（2）：229241.

[7]Chen"M，Nikolaidis"S，Soh"H，et"al.TrustAware"Decision"Making"for"HumanRobot"Collaboration：Model"Learning"and"Planning[C]//HumanRobot"Interaction.ACMPUB27New"York，NY，USA，2020.

[8]Juan"Manuel"Durán，Jongsma"K"R.Who"is"afraid"of"black"box"algorithms？On"the"epistemological"and"ethical"basis"of"trust"in"medical"AI[J].Journal"of"Medical"Ethics，2021，47（5）：329335.

[9]Hatherley"J"J.Limits"of"trust"in"medical"AI[J].Journal"of"Medical"Ethics，2020，46（7）：medethics2019105935.

[10]Alam"L，Mueller"S.Examining"the"effect"of"explanation"on"satisfaction"and"trust"in"AI"diagnostic"systems[J].BMC"medical"informatics"and"decision"making，21（1）：178.