人工智能生成虛假健康信息的用戶認(rèn)知機(jī)制探索

Abstract：Withthe widespread applicationofAI-generated content，the isueof1 information in the healthcare domain has become increasingly severe， affcting public health decisions and social trust.To explore its influencing factors，this study conducted semi-structured interviews with users from diferent age groups and applied grounded theory forcoding analysis，developingan influence factor model.The model encompasses fivecore factors： information evaluation，platform environment，content characteristics，personal traits，and social environment. Through an indepth analysisofthe impact mechanismof AI-generated 1 health informationonuser cognition，this study notonly expandsthe theoreticalunderstandingof1 health informationgovernance in thecontextofartificial intellgence but also provides valuable references for policy-making and technological development in health information governance. It contributes to enhancing platformregulatorycapabilities，optimizing users'information literacy，and promoting the healthydevelopmentof the health information ecosystem.

Keywords： Artificial Intelligence; False Health Information; User Cognition; Grounded Theory

伴隨人工智能算法、算力和數(shù)據(jù)資源的飛速發(fā)展，生成式人工智能（GenerativeArtificialIntelligence，簡稱GAI）應(yīng)運(yùn)而生，并超越了傳統(tǒng)應(yīng)用軟件與互聯(lián)網(wǎng)平臺的范疇，逐漸形成了覆蓋多領(lǐng)域、橫跨各行業(yè)的全鏈?zhǔn)疆a(chǎn)業(yè)規(guī)模。GAI的廣泛應(yīng)用極大地降低了用戶的使用門檻，消除了專業(yè)與通用的壁壘，使人工智能真正融入普通人的生產(chǎn)和社會生活。在大算力的支撐下，GAI通過強(qiáng)算法處理海量數(shù)據(jù)，使其能夠提供內(nèi)容創(chuàng)意生成、數(shù)字人構(gòu)建、對話搜索、代碼生成等多種服務(wù)，在自然語言處理、計(jì)算機(jī)視覺、語言處理等領(lǐng)域表現(xiàn)尤為出色。因此，GAI大語言模型的出現(xiàn)，標(biāo)志著人工智能生成內(nèi)容（ArtificialIntelligenceGeneratedContent，簡稱AIGC）新時代的開啟

李白楊等提出，AIGC既是當(dāng)前備受矚目的新興人工智能應(yīng)用，也將成為未來網(wǎng)絡(luò)信息資源的主要存在形式之一。[伴隨著虛擬人、機(jī)器人等相關(guān)技術(shù)的持續(xù)進(jìn)步，AIGC將成為機(jī)器與人類交互的重要媒介和載體。然而，“人工智能在給人類帶來巨大好處的同時，也伴隨著可怕的風(fēng)險；我們應(yīng)該密切關(guān)注正在發(fā)生的變化，并采取適當(dāng)?shù)牟呗?，以便促成最好的結(jié)果”［2]。人工智能技術(shù)和應(yīng)用本身帶來了革命性體驗(yàn)和顛覆性生產(chǎn)力，但關(guān)于其通用性發(fā)展的趨勢及其潛在風(fēng)險的討論也層出不窮。薛瀾和王凈宇指出，人工智能技術(shù)在產(chǎn)生巨大經(jīng)濟(jì)社會發(fā)展收益的同時，也從內(nèi)生風(fēng)險、應(yīng)用風(fēng)險、經(jīng)濟(jì)社會風(fēng)險等多個維度對個體、國家乃至全人類帶來不容忽視的安全威脅，在醫(yī)療健康領(lǐng)域尤為突出。[3]GAI生成的內(nèi)容，尤其是虛假健康信息，不僅可能誤導(dǎo)公眾決策，還可能對個人健康和社會穩(wěn)定產(chǎn)生深遠(yuǎn)的負(fù)面影響。因此，本研究以不同年齡段用戶群體為研究對象，采用扎根理論，從用戶心理與行為視角出發(fā)，探索人工智能生成的虛假健康信息對用戶認(rèn)知的影響因素及作用路徑。研究旨在為治理人工智能生成虛假健康信息、維護(hù)健康信息生態(tài)提供理論依據(jù)和實(shí)踐參考。

1文獻(xiàn)綜述

1.1人工智能與虛假信息

楊丹通過對微博、微信等平臺數(shù)據(jù)的分析，定義網(wǎng)絡(luò)虛假信息為那些不基于事實(shí)，或存在夸張、歪曲內(nèi)容的信息。這類信息通常通過“無中生有”或“偷換概念”等手段制造，導(dǎo)致用戶難以分辨真?zhèn)巍＃?]王劍等人認(rèn)為虛假信息是指制造者故意誤導(dǎo)讀者，并能夠通過其他來源證實(shí)其結(jié)果為假的信息，通常具有故意性（intent）和可證實(shí)性（verifability），并將虛假信息細(xì)分為基于事實(shí)的虛假信息和基于觀點(diǎn)的虛假信息。前者包括假新聞和謠言，通常涉及捏造或歪曲事實(shí)；后者則通過主觀表達(dá)潛移默化地影響用戶決策，多見于電子商務(wù)測評等場景。［5]

在人工智能時代，虛假信息有了新的類型。Yu等人指出人工智能生成的虛假信息可以分為兩種主要類型：AI生成的虛假信息（AI-generateddisinformation）和AI生成的誤導(dǎo)信息（AI-generatedmisinformation）。[6]在健康領(lǐng)域，虛假信息往往涉及未驗(yàn)證的醫(yī)學(xué)建議、錯誤的治療方案或不實(shí)的健康數(shù)據(jù)。VanEijk和Schonhock認(rèn)為AI生成的虛假信息包括無意傳播的虛假信息（misinformation）故意制造的虛假信息（disinformation）以及基于事實(shí)但被惡意歪曲的信息（malinformation）。[7]這些虛假信息可以通過文本、圖像和視頻等多種形式傳播，利用大型語言模型、圖像生成模型和視頻生成技術(shù)生成高度逼真的內(nèi)容，從而誤導(dǎo)公眾。

AI生成虛假信息不僅形式多樣，其錯誤類型和社會危害也值得深人探討。Sun等學(xué)者指出，AI生成的虛假信息的錯誤通常可以分為邏輯錯誤、推理錯誤和事實(shí)錯誤等類型，虛假信息的生成不僅是語言內(nèi)容的誤導(dǎo)，還涉及視覺和聽覺內(nèi)容的虛假呈現(xiàn)，而這會進(jìn)一步增強(qiáng)信息的可信度，從而提高其傳播效力。［8]在探討AI生成虛假信息的潛在危害時，胡泳指出，AI生成虛假信息的危害廣泛且深遠(yuǎn)，不僅會損害社會信任，還可能侵犯個人隱私，甚至在危機(jī)時期誤導(dǎo)公眾決策。[9]可見AI生成的虛假信息對社會的潛在危害較高。

1.2生成式人工智能與虛假健康信息

（1）虛假健康信息的概念與特征

虛假信息廣泛存在于網(wǎng)絡(luò)世界，其影響力不斷擴(kuò)大，涵蓋了從新聞到生活資訊等多個領(lǐng)域。隨著公眾對健康知識的需求日益增加，健康領(lǐng)域成為虛假信息的重災(zāi)區(qū)。虛假健康信息因此逐漸滲透進(jìn)人們的日常生活。關(guān)于虛假健康信息的定義，Ghenai將虛假健康信息視為與現(xiàn)有醫(yī)學(xué)共識和科學(xué)理解相悖的錯誤信息。［10]Cui和Lee將虛假健康信息定義為與科學(xué)證據(jù)不符的健康相關(guān)內(nèi)容。[11]熊回香等學(xué)者則將其定義為在傳播過程中未經(jīng)驗(yàn)證的健康相關(guān)內(nèi)容。［12]鄧勝利等認(rèn)為虛假健康信息是指不真實(shí)的健康相關(guān)信息或已經(jīng)被證實(shí)的健康謠言。這類信息可能誤導(dǎo)公眾的健康行為和決策，產(chǎn)生不利影響。[13]

虛假健康信息在內(nèi)容和形式上具有明顯特征。侯筱蓉等學(xué)者指出，虛假健康信息有兩個主要特征：其一是“虛”，即信息完全沒有事實(shí)依據(jù)，憑空捏造；其二是“假”，即該信息能夠被證偽。[14]虛假健康信息的語言特征也備受關(guān)注，孔杉杉等學(xué)者指出其語言表達(dá)往往更隱晦，且常通過夸張等語義特征來吸引公眾。［15]張帥利用NVivoPlus軟件分析發(fā)現(xiàn)，社交媒體上的虛假健康信息在“元數(shù)據(jù)缺失”“術(shù)語包裝”和“假借權(quán)威”等方面表現(xiàn)顯著。［16]這些特征在食品安全、常見疾病和養(yǎng)生保健類主題中尤為突出，有助于區(qū)分虛假與真實(shí)信息。有關(guān)虛假健康信息的涵蓋內(nèi)容，也有學(xué)者展開了研究。單家銀指出，虛假健康信息常包含未經(jīng)科學(xué)驗(yàn)證的健康建議，例如錯誤的醫(yī)療建議、養(yǎng)生方法或疾病預(yù)防措施。這些信息可能誤導(dǎo)公眾采取無效甚至有害的健康行為。[17]

（2）社交媒體與用戶行為在虛假健康信息傳播中的作用

在現(xiàn)代信息社會中，社交媒體成為虛假健康信息的主要傳播途徑之一。曾祥敏和王孜指出，社交媒體中的虛假健康信息具有“三高”特征，即高煽動性、高信任度、高轉(zhuǎn)發(fā)率。[18]平臺算法通過用戶畫像精準(zhǔn)推送高關(guān)注度信息，使虛假健康信息更易被用戶接受和傳播。這種算法驅(qū)動的傳播路徑不僅延長了虛假健康信息的生命周期，還使其觸達(dá)更多不同層次的用戶，增強(qiáng)了信息的傳播深度和廣度。

用戶的認(rèn)知反應(yīng)和傳播行為在虛假健康信息的擴(kuò)散中起到至關(guān)重要的作用。用戶對虛假健康信息的信任和接受度受多重因素影響，這些因素在不同程度上推動了虛假健康信息的擴(kuò)散。用戶對AI生成虛假健康信息的認(rèn)知機(jī)制涉及信息識別、信任度評估和行為反應(yīng)等多個方面。虛假健康信息的傳播對象主要是缺乏相關(guān)健康知識的個體，這些個體對信息的判斷能力較弱，更容易受到虛假健康信息的誤導(dǎo)。[19]李明文和戴雪妮指出，用戶的傳播行為受環(huán)境和心理因素雙重影響。在信息過載、媒體公信力下降、“界墻效應(yīng)”等因素作用下，用戶更難辨別虛假健康信息。用戶在健康焦慮和責(zé)任感驅(qū)動下，更傾向于轉(zhuǎn)發(fā)這些信息，進(jìn)一步加劇了虛假健康信息的擴(kuò)散和二次傳播?！?0]此外，張曉雪的研究發(fā)現(xiàn)，健康信念因素和社會規(guī)范因素顯著影響用戶的虛假健康信息接受意愿，而接受意愿直接推動了信息傳播行為。網(wǎng)絡(luò)用戶在感知易感性和感知嚴(yán)重性方面因年齡而存在顯著差異，學(xué)歷和職業(yè)的不同也對信息接受行為產(chǎn)生影響，[21]這表明個體特征在虛假健康信息傳播中的差異性。Ahmed和Tan指出，個體的性格特征和認(rèn)知能力在識別政治虛假信息時起重要作用，這表明用戶對虛假健康信息的認(rèn)知可能受到類似因素的影響。[22]

信任在虛假健康信息的循環(huán)中也起著潛在的推動作用。Zhang等人的研究發(fā)現(xiàn)，信任不僅促進(jìn)了虛假健康信息的產(chǎn)生和傳播，還加劇了其負(fù)面影響，增加了信息治理的難度。[23]此外，Home等人指出，用戶傾向于接受與自身觀念一致的虛假健康信息，即“確認(rèn)偏見”，這一偏見在認(rèn)知層面上加速了虛假健康信息的傳播。［24]社會文化背景、個人經(jīng)驗(yàn)和風(fēng)險感知也影響用戶的虛假健康信息傳播行為。鄧勝利和顧一飛的研究發(fā)現(xiàn)，用戶的社會文化背景和個人經(jīng)驗(yàn)在信息接受和傳播過程中發(fā)揮了重要作用，特別是在信息識別準(zhǔn)確性上。[25]張衛(wèi)東等依據(jù)風(fēng)險感知理論，構(gòu)建了網(wǎng)絡(luò)虛假信息傳播行為影響因素模型，研究結(jié)果顯示，情緒、信任、信息數(shù)量與質(zhì)量對虛假信息傳播具有正向影響，而知識水平和媒體接觸則對其產(chǎn)生負(fù)向影響。［26]由于這些主觀偏差，用戶對虛假健康信息的接受和二次傳播現(xiàn)象尤為明顯。

（3）人工智能生成的虛假健康信息的危害

隨著人工智能技術(shù)的迅猛發(fā)展，尤其是生成性模型在文本、圖像、音頻等領(lǐng)域的廣泛應(yīng)用，AIGC已成為信息傳播的重要組成部分。然而，這一技術(shù)的濫用在健康領(lǐng)域引發(fā)了嚴(yán)重隱患，朱嘉珺將AI生成的虛假健康信息的風(fēng)險歸納為三類：積極生成型風(fēng)險、消極生成型風(fēng)險和人為操縱型風(fēng)險。前兩者是AI模型根據(jù)自身算法生成的虛假信息，而人為操縱型風(fēng)險則是外部干預(yù)下AI模型輸出虛假信息的結(jié)果。［27]Menz等人指出，AI工具能夠迅速生成大量涉及健康主題的誤導(dǎo)性內(nèi)容，其中包括虛構(gòu)的醫(yī)療專家言論、患者病例以及看似專業(yè)但實(shí)則錯誤的健康建議。［28]這些內(nèi)容往往以高度可信的形式呈現(xiàn)，使公眾難以辨別真?zhèn)?，從而影響健康相關(guān)決策，甚至可能在特定情況下誘發(fā)群體性健康風(fēng)險。Sorich等人的研究進(jìn)一步強(qiáng)調(diào)，AI生成的健康信息可能包含錯誤或誤導(dǎo)性內(nèi)容，這一現(xiàn)象通常被稱為“AI幻覺”（AIhallucination）。即AI在生成內(nèi)容時，可能憑空編造虛假但邏輯自洽的信息，導(dǎo)致公眾獲取的健康信息失真，進(jìn)而影響醫(yī)學(xué)知識的傳播和患者的自主決策能力。此外，若AI生成的虛假健康信息被惡意操縱用于傳播不實(shí)醫(yī)療信息（disinformation），其社會危害性將進(jìn)一步加劇。［29]Bao的研究指出，AI生成的健康信息可能被濫用于學(xué)術(shù)不端行為，例如偽造醫(yī)學(xué)研究論文、篡改實(shí)驗(yàn)數(shù)據(jù)或生成虛假的學(xué)術(shù)引用。這種現(xiàn)象不僅影響醫(yī)學(xué)研究的嚴(yán)謹(jǐn)性，還可能在科學(xué)傳播中造成虛假知識的擴(kuò)散。［30]盡管目前已有針對AI生成內(nèi)容的檢測工具（如Copyleaks和Turnitin），但這些工具在檢測AI生成的健康信息時仍存在誤報率較高、難以精準(zhǔn)識別等局限性。

1.3文獻(xiàn)評述

既有研究圍繞人工智能生成的虛假健康信息（FalseHealth InformationGeneratedbyArtificialIntelligence，簡稱FAIGC）的生成機(jī)制、傳播路徑及治理策略展開了廣泛探討。然而，針對用戶如何感知、評估及響應(yīng)AI生成虛假健康信息的認(rèn)知過程仍有待深入挖掘。針對上述問題，本文聚焦人工智能生成虛假健康信息的用戶認(rèn)知機(jī)制，探討用戶識別虛假健康信息的認(rèn)知邏輯、信任形成與降低的關(guān)鍵節(jié)點(diǎn)，以及個體特征、信息屬性與平臺環(huán)境的交互作用。本研究旨在構(gòu)建面向人工智能生成虛假健康信息的用戶認(rèn)知模型，揭示AI生成虛假健康信息對公眾決策的影響機(jī)制，為精準(zhǔn)治理提供理論依據(jù)與實(shí)踐指導(dǎo)。

2研究設(shè)計(jì)

2.1研究方法

扎根理論是一種定性研究方法，是由兩位社會學(xué)者BarneyGlaser與AnselmStrauss于1967年首次提出，其目的是為了從經(jīng)驗(yàn)性資料中提取可靠的理論。［31]目前關(guān)于人工智能生成的虛假健康信息對用戶認(rèn)知的影響因素的研究尚未形成成熟的理論模型。因此，本文通過扎根理論，探索人工智能生成的虛假健康信息對用戶認(rèn)知的影響因素及作用路徑。

2.2實(shí)驗(yàn)設(shè)計(jì)

在正式設(shè)計(jì)訪談提綱之前，本文通過查閱各類軟件，詳細(xì)了解不同年齡段群體在社交媒體使用上的行為特點(diǎn)，為人工智能生成虛假健康信息案例的設(shè)計(jì)提供了重要依據(jù)。青年群體的健康關(guān)注點(diǎn)集中在外形管理（如減肥、健身）等內(nèi)容，容易對這些話題相關(guān)的虛假信息產(chǎn)生興趣。中年群體的健康關(guān)注點(diǎn)主要圍繞子女健康與學(xué)習(xí)，特別是提高智力的營養(yǎng)品或教育方法。老年群體的健康關(guān)注點(diǎn)主要集中在慢性病防治（如“三高”治療）保健品以及所謂的“特效藥”上，因此常成為虛假健康信息的受害者。根據(jù)預(yù)調(diào)研結(jié)果，本文針對不同群體的特點(diǎn)，設(shè)計(jì)了模擬的人工智能生成虛假健康信息案例，針對青年群體設(shè)計(jì)了快速減肥圖文案例，針對中年群體設(shè)計(jì)了補(bǔ)腦營養(yǎng)品視頻案例，針對老年群體設(shè)計(jì)了保健品視頻案例。

2.3數(shù)據(jù)來源

本研究采用扎根理論方法，對原始資料進(jìn)行深入分析，以歸納出其內(nèi)在規(guī)律和關(guān)聯(lián)。本文的訪談大綱設(shè)計(jì)遵循以下步驟：（1）根據(jù)特定群體制定初步訪談提綱；（2）在每個群體中隨機(jī)選取兩名受訪者進(jìn)行預(yù)訪談，根據(jù)訪談效果和受訪者的反饋意見對訪談提綱進(jìn)行修改，最終形成正式的訪談提綱，部分訪談提綱見表1。訪談問題僅為訪談的基本框架，實(shí)際訪談過程中，研究者會根據(jù)受訪者的回答進(jìn)行追問，確保問題的針對性，同時保證訪談內(nèi)容始終圍繞研究主題展開。

扎根理論要求選取具有代表性的受訪對象，并確保受訪對象不受外部干擾。［32]為此，本文根據(jù)以下標(biāo)準(zhǔn)選擇合適的訪談對象：（1）頻繁使用抖音、快手或小紅書等社交媒體；（2）經(jīng)常關(guān)注網(wǎng)絡(luò)上的健康信息；（3）具備獨(dú)立思考和溝通能力。根據(jù)上述標(biāo)準(zhǔn)，本文于2024年11月至12月對32名符合條件的受訪者采用線上線下相結(jié)合的方式進(jìn)行半結(jié)構(gòu)式訪談，受訪者基本信息如表2所示。訪談時，在受訪者知情同意的情況下進(jìn)行錄音，收集的音頻數(shù)據(jù)時長約10小時，經(jīng)過轉(zhuǎn)化和有效處理后累計(jì)獲得約4萬字的文本數(shù)據(jù)

3基于扎根理論的編碼分析

3.1開放式編碼

在開放編碼階段，嚴(yán)格遵循語句原意進(jìn)行概括性編碼處理。青年組訪談對象編號1-10，中年組訪談對象編號11-22，老年組訪談對象編號 23- 32。隨后，對編碼后所獲得的初始概念進(jìn)行深入比較與細(xì)致分類，最終確定了30個基本范疇，開放式編碼如表3所示。

3.2主軸編碼

通過對開放式編碼階段形成的30個基本范疇整理出具有內(nèi)在邏輯關(guān)系的5個主范疇和13個副范疇，主軸編碼結(jié)果如表4所示。

3.3選擇性編碼

選擇性編碼是對主范疇之間邏輯關(guān)系進(jìn)行更深入的提煉和歸納，通過“故事線”的方式展現(xiàn)其整體脈絡(luò)和架構(gòu)，最終形成能夠貫穿研究全貌的核心范疇。［33]本研究將“人工智能的生成虛假健康信息對用戶認(rèn)知的影響因素”提煉為核心范疇。之后依據(jù)核心范疇，將“故事線”總結(jié)為：用戶判斷人工智能生成的虛假健康信息受到信息評估、平臺環(huán)境、內(nèi)容特征、個人特質(zhì)、社交環(huán)境的影響，核心范疇與主范疇的邏輯關(guān)系如表5所示。

3.4理論飽和度檢驗(yàn)

根據(jù)扎根理論的要求，為驗(yàn)證材料中的概念、主范疇、核心范疇提煉的可信度與充分性，研究者需進(jìn)行理論飽和度檢驗(yàn)，即在新的數(shù)據(jù)收集過程中，不再出現(xiàn)新的理論見解、概念或范疇，則認(rèn)為理論已達(dá)到飽和。［34]在本研究中，核心范疇在編碼至第28份訪談資料時已基本確定，隨后使用剩余4份訪談資料對扎根理論產(chǎn)生的結(jié)果進(jìn)行理論飽和度檢驗(yàn)，結(jié)果顯示，未再出現(xiàn)新的概念、范疇或關(guān)系，因此可認(rèn)為本研究提出的人工智能生成的虛假健康信息對用戶認(rèn)知的影響因素模型在理論上已達(dá)到飽和。

4模型構(gòu)建與解釋

本文基于實(shí)證研究，剖析各影響因素之間的邏輯與作用機(jī)理，為深入探究人工智能生成的虛假健康信息對用戶認(rèn)知的影響因素提供了多個層面的視角（如圖1所示）。

4.1信息評估

信息評估是指用戶在面對人工智能生成的虛假健康信息時所采取的驗(yàn)證行為，直接影響其認(rèn)知與判斷。根據(jù)對訪談資料的分析可知，用戶在信息評估時主要表現(xiàn)出以下三種方式：其一，信息驗(yàn)證。用戶主動核實(shí)信息的真實(shí)性，以增強(qiáng)判斷的準(zhǔn)確性。當(dāng)接收信息時，個體往往會本能地產(chǎn)生懷疑，并采取行動加以驗(yàn)證。例如，訪談人12提到：“一般會先自己驗(yàn)證（健康信息），比如查查相關(guān)資料?！笨梢姡脩魧π畔⒌恼鎸?shí)性的驗(yàn)證主動性越高，越有利于辨別虛假健康信息，從而降低誤信風(fēng)險。其二，信息規(guī)避。部分用戶在面對信息時，并不會主動核實(shí)其內(nèi)容，而是選擇采取主動的規(guī)避策略，減少接觸或直接忽略相關(guān)信息，在一康信息傳播的關(guān)鍵載體，對信息的可信度及其影響范圍起著重要作用。通過對訪談資料分析可知，平臺環(huán)境主要受平臺可信度與平臺治理兩方面因素影響：第一，平臺可信度。不同的信息傳播平臺因其獨(dú)特的調(diào)性、定位及主要受眾群體的差異，形成了各具特色的信息環(huán)境。這種差異性導(dǎo)致公眾對不同平臺產(chǎn)生了基于過往經(jīng)驗(yàn)的慣性評價。此類慣性評價在很大限度上塑造了人們對來自特定平臺信息的可信度認(rèn)知。例如，訪談人15提到：“平臺本身的可信度會增加視頻的可信度?！笨梢?，平臺可信度直接影響用戶認(rèn)知。第二，平臺治理。平臺通過內(nèi)容審核、技術(shù)檢測及對AI生成內(nèi)容進(jìn)行標(biāo)識等措施，能夠在信息傳播中有效遏制虛假健康信息擴(kuò)散，減少誤導(dǎo)公眾的可能性。

定限度上降低用戶被虛假信息誤導(dǎo)的風(fēng)險。例如，訪談人4提到：“可能也不會核實(shí)，就直接忽略吧?！逼淙?，資質(zhì)驗(yàn)證。用戶傾向于依據(jù)信息發(fā)布者的權(quán)威性來判斷信息的可信度。例如訪談人7提到：“如果是一些正規(guī)的醫(yī)療平臺或者科研機(jī)構(gòu)利用AI技術(shù)來輔助提供健康信息，并且經(jīng)過專業(yè)人員審核把關(guān)的，那還是有一定的可信度?！?/p>

4.3內(nèi)容特征

在信息生態(tài)系統(tǒng)中，AIGC對用戶信任度構(gòu)成了關(guān)鍵性影響。通過對訪談資料分析可知，用戶在評估AIGC內(nèi)容時，主要受到兩個方面的影響。其一，內(nèi)容呈現(xiàn)。AIGC的呈現(xiàn)形式直接影響用戶的信任程度。用戶往往會因?yàn)槠淝楦谢磉_(dá)、科學(xué)性包裝、權(quán)威性包裝、虛擬人的真實(shí)性及內(nèi)容的詳細(xì)程度對信息產(chǎn)生不同的判斷。當(dāng)人工智能生成的內(nèi)容伴隨情感化表達(dá)、專業(yè)術(shù)語時，用戶更容易接受并相信。其二，信息質(zhì)量。由于AIGC的真實(shí)性難以完全保障，這在一定程度上影響了用戶的健康認(rèn)知。當(dāng)這類信息被廣泛傳播時，可能加劇用戶對健康信息的誤解，甚至影響其決策。

4.2平臺環(huán)境

4.4個人特質(zhì)

個人特質(zhì)是影響用戶判斷人工智能生成的虛假健康信息的基礎(chǔ)因素。由于個人特質(zhì)的差異，用戶在面對相同信息時會有不同的判斷。個人特質(zhì)主要包括認(rèn)知能力、過往經(jīng)歷、認(rèn)知開放性、心理基礎(chǔ)。其一，認(rèn)知能力。個體的信息素養(yǎng)決定其獲取、甄別和理解信息的能力。其二，過往經(jīng)歷。用戶的過往經(jīng)歷在一定程度上能夠幫助用戶對信息進(jìn)行判斷。例如，一些老年受訪者提到，由于曾經(jīng)有過購買保健品受騙的經(jīng)歷，因此對社交媒體上的信息持更加謹(jǐn)慎甚至不信任的態(tài)度。其三，認(rèn)知開放性。不同用戶對新技術(shù)的接受程度存在差異，受教育背景、生活環(huán)境等因素的影響。例如，訪談人12提到：“老年人可能不太容易再接受一些很新鮮的事物，比如說像AI人工智能這種新技術(shù)?！闭J(rèn)知的開放性決定用戶對新型技術(shù)的接受程度，也影響其判斷的靈活性。其四，心理基礎(chǔ)。心理基礎(chǔ)決定了個體對信息的傾向性和敏感度。在健康焦慮和錯誤觀念的共同作用下，用戶可能會降低對信息真實(shí)性的謹(jǐn)慎考量。例如，訪談人11提到：“老年人對自己一些健康方面去過度的關(guān)心，因?yàn)槿死现?，難免就會擔(dān)心自己生老病死怎么辦？對自己健康的關(guān)心是一個非常正常的事情，然后自己關(guān)心什么就容易去忽視一些其他的因素。”

4.5社會環(huán)境

個體在判斷信息真?zhèn)螘r不可避免地會受到社會環(huán)境的影響，輿論氛圍的導(dǎo)向、社會風(fēng)氣的變遷等社會因素會激發(fā)人們的從眾心理，間接影響個體對信息的認(rèn)知與判斷。根據(jù)對訪談資料的分析可知，個體主要受到群體認(rèn)同和人際經(jīng)驗(yàn)的影響。首先，群體認(rèn)同。當(dāng)某一信息在社會范圍內(nèi)廣泛傳播，且伴隨著積極的用戶反饋時，其被接受并視為可信的可能性將顯著增強(qiáng)。這種群體公式使個體更傾向于認(rèn)同該信息，訪談人23、27、32均表示，“如果大家都在用（某一產(chǎn)品），可能更會相信（產(chǎn)品所包含的虛假健康信息”。這一現(xiàn)象揭示了群體經(jīng)驗(yàn)在塑造個體對信息的信任度方面起到了關(guān)鍵作用。其次，人際經(jīng)驗(yàn)。在社會交往過程中，個體的判斷往往受到親朋好友的影響。當(dāng)身邊的人對某一信息持懷疑態(tài)度，或通過提醒他人注意信息的真實(shí)性時，這種警示作用會削弱信息的傳播能力。例如，訪談人21提到：“告誡朋友不要輕易相信（這類信息）?！边@說明人際網(wǎng)絡(luò)不僅僅是信息流通的渠道，也是信息篩選的重要環(huán)節(jié)，具有防范虛假信息擴(kuò)散的社會功能。

5結(jié)論與啟示

5.1以人為本，提高公眾素養(yǎng)

面對人工智能生成的虛假健康信息，提高公眾的信息素養(yǎng)和健康素養(yǎng)是塑造良好健康信息環(huán)境的核心路徑。在信息素養(yǎng)方面，應(yīng)強(qiáng)化媒介素養(yǎng)教育，提高公眾對人工智能生成信息的認(rèn)知和辨別能力，避免盲目信任。在健康素養(yǎng)方面，《健康中國行動（2019一2030）》明確提出提升全民健康素養(yǎng)，以確保公眾具備科學(xué)的健康認(rèn)知。［35]在社交媒體廣泛滲透的時代，應(yīng)充分利用新媒體平臺，加大健康科普傳播力度，提高公眾獲取、理解和應(yīng)用健康信息的能力。

5.2強(qiáng)化監(jiān)管，加強(qiáng)AIGC內(nèi)容透明度與審核

隨著人工智能技術(shù)的快速發(fā)展，人工智能生成內(nèi)容不僅具備語言表述生動且富有感染力的特點(diǎn)，還具有較強(qiáng)的隱蔽性，因此，公眾很難辨別。為了降低用戶的辨識成本，提高信息的透明度，平臺應(yīng)在人工智能生成內(nèi)容發(fā)布時自動識別并標(biāo)注其為人工智能生成內(nèi)容，并提示潛在的健康風(fēng)險。同時，平臺應(yīng)加強(qiáng)對健康信息的審核，嚴(yán)格審核發(fā)布內(nèi)容，從源頭阻斷虛假健康信息的擴(kuò)散，確保信息環(huán)境的安全。

5.3多元協(xié)同，促進(jìn)AIGC治理體系構(gòu)建與完善

應(yīng)匯聚政府、企業(yè)、學(xué)術(shù)機(jī)構(gòu)、非政府組織的力量，推動形成以“以政府為主導(dǎo)，多元社會主體協(xié)同參與”的多元治理體系，從而促進(jìn)人工智能安全與高質(zhì)量發(fā)展。2023年11月，28國及歐盟聯(lián)合發(fā)布了《布萊切利宣言》，首次在國際層面就人工智能安全問題達(dá)成共識，特別強(qiáng)調(diào)了防范人工智能生成的虛假信息對社會穩(wěn)定的負(fù)面影響。［36]我國應(yīng)積極參與全球人工智能治理進(jìn)程，通過舉辦行業(yè)峰會、深化跨國科技合作項(xiàng)目等方式，構(gòu)建具有中國特色的人工智能生成虛假健康信息治理體系，推動中國倡議走向國際實(shí)踐。

*本文系國家自然科學(xué)基金面上項(xiàng)目“人智協(xié)同的多模態(tài)網(wǎng)絡(luò)虛假健康信息識別及干預(yù)策略研究”（項(xiàng)目編號：72474098）階段性研究成果。

作者貢獻(xiàn)說明

阿迪來·熱義木江：確定論文框架，撰寫、修改與審定論文；彭蘊(yùn)慧：文獻(xiàn)綜述與理論分析；陳 欣：撰寫與修改論文；強(qiáng)嬌：案例收集與結(jié)果討論；尹想：案例收集；趙月華：構(gòu)思選題框架，修改 與審定論文，本文通訊作者。

注釋與參考文獻(xiàn)

[1]李白楊，白云，詹希旎，等.人工智能生成內(nèi)容（AIGC）的技術(shù)特征與形態(tài)演進(jìn)［J」.圖書情報知識，2023（1）：66-74.

[2]馬長山.人工智能的社會風(fēng)險及其法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報），2018（6）：47.

[3」薛瀾，王凈宇.人工智能發(fā)展的前沿趨勢、治理挑戰(zhàn)與應(yīng)對策略［J].行政管理改革，2024（8）：4-13.

[4]楊丹.網(wǎng)絡(luò)虛假信息傳播特點(diǎn)及治理—基于2016年上半年的大數(shù)據(jù)分析[J」.新聞記者，2016（8）：38-43.

［5]王劍，王玉翠，黃夢杰社交網(wǎng)絡(luò)中的虛假信息：定義、檢測及控制[J].計(jì)算機(jī)科學(xué)，2021（8）：263-277.

[6]YUX，WANGY，CHENY，etal.Fake artificial intelligence generated contents（faigc）：A survey of theories，detection methods，and opportunities [EB/OL].[2025-06-09].https：//arxiv.org/

abs/2405.00711.

[7］EIJKJV，SCHONROCK B.AI-Generated

Misinformation： A review of the dangers， detection，and combating

of AI-generated misinformation [M] //SMEDINGA R，

BIEHL M. 21st SC@RUG 2024 proceedings 2023-2024.

Groningen： University of Groningen Press，2O24： 59. [8］SUNY，SHENGD，ZHOU Z，WUY.AI

hallucination ∵ towards a comprehensive classification

of distorted information in artificial intelligence

generated content[J].Humanities and Social Sciences

Communications，2024，11（1）：1-14.

[9]胡泳.人工智能驅(qū)動的虛假信息：現(xiàn)在與未來

[J].南京社會科學(xué)，2024（1）：96-109.

[10]GHENAI A. Health misinformation in search and

social media[C].Proceedings of the 2O17 International

Conference onDigital Health，2017：235-236. [11］CUIL，LEED.CoAID：Covid-19healthcare

misinformation dataset[EB/OL].［2025-06-09] https：//arxiv.org/abs/2006.00885.

[12」熊回香，孟璇，葉佳鑫.新冠疫情虛假健康信息研究主題與核心要素研究綜述[J」.圖書情報工作，2023（7）：135-149.

[13」鄧勝利，李雅靜.突發(fā)公共衛(wèi)生情境下中老年人虛假健康信息應(yīng)對行為研究［J].情報資料工作，2021（2）：43-51.

[14]侯筱蓉，付揚(yáng)，陳娟.基于微信平臺的健康信息用戶感知和效用研究[J].現(xiàn)代情報，2016（10）：89-93.

[15]孔杉杉，張軍，馮立超.基于計(jì)算敘事模型的虛假健康信息特征研究[J」.情報雜志，2024（2）：152-161.

[16]張帥.社交媒體虛假健康信息特征識別［J]，圖書情報工作，2021（9）：70-78.

[17]單家銀.健康虛假信息的識別與治理[J]：健康教育與健康促進(jìn)，2024（2）：162-165.

[18」曾祥敏，王孜.健康傳播中的虛假信息擴(kuò)散機(jī)制與網(wǎng)絡(luò)治理研究［J」.現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報），2019（6）：34-40.

[19］ZHANGS，ZHOUH，ZHUY.Havewefound a solution for health misinformation？ A ten-yearsystematic review ofhealth misinformation literature2013-2022[J] . International Journal of MedicalInformatics，2024，188：105478.

[20」李明文，戴雪妮.互聯(lián)網(wǎng)下虛假健康信息的用戶傳播行為研究［J].新聞知識，2022（12）：53-59.

21張曉雪.網(wǎng)絡(luò)用戶虛假健康信息接受的影響因素研究［D].保定：河北大學(xué)，2024

[22]AHMED S，TAN HW.Personality and perspicacity ：Role of personality traits and cognitive ability in political misinformation discernment and sharing behavior[J].Personality and Individual Differences， 2022，196：111747.

[23]LIY，F(xiàn)AN Z，YUANX，ZHANG X. Recognizing fake information through a developed feature scheme ：A user study of health misinformation on social media in China[J].Information Processingamp; Management，2022，159（1）：102769.

[24]HOME B，ADALI S.This Just In：Fake NewsPacksALotIn Title，UsesSimpler，Repetitive Contentin TextBody，More SimilarTo Satire Than RealNews[EB/OL].[2025-06-09].https：//arxiv.

org/abs/1703.09398.［25］鄧勝利，顧一飛.網(wǎng)絡(luò)虛假健康信息研究綜述：

認(rèn)知、行為與治理[J].圖書館雜志，2022（5）：14-22.[26]張衛(wèi)東，欒碧雅，李松濤.基于信息風(fēng)險感知

的網(wǎng)絡(luò)虛假信息傳播行為影響因素研究［J］.情報理

論與實(shí)踐，2019（9）：93-98，110.［27］朱嘉珺.生成式人工智能虛假有害信息規(guī)制

的挑戰(zhàn)與應(yīng)對——以ChatGPT的應(yīng)用為引［J］.比較

法研究，2023（5）：34-54.[28]MENZBD，MODIND，SORICHM

J，et al. Health Disinformation Use Case Highlighting

the Urgent Need for Artificial Intelligence Vigilance ：

Weapons of Mass Disinformation[J] . JAMA Internal

Medicine，2024，184（1）： 92-96.[29] SORICH M J，MENZ B D，Hopkins A M.

Quality and safety of artificial intelligence generated health

information［EB/OL].[2025-06-09].https：//

www.bmj.com/content/384/bmj.q596.[30] BAO A. Detecting Artificial Intelligence-

Generated Textual and Image Misinformation Using

Machine Learning［C].2O24 5th International

Symposium on Computer Engineering and Intelligent

Communications（ISCEIC ），2024 ： 671-676.[31]BARNEY G. Discovery of Grounded

Theory ： Strategies for Qualitative Research[M].

Oxford ： Taylor and Francis， 2017.［32］王錫苓.質(zhì)性研究如何建構(gòu)理論？扎根理

論及其對傳播研究的啟示［J］.蘭州大學(xué)學(xué)報，2004

（3）：76-80.[33]白彬，趙麗英.人工智能倫理制度化：影響因

素與生成邏輯——基于扎根理論的政策文本分析［J].

黑龍江社會科學(xué)，2023（5）：43-50.[34]黃玉波，雷月秋.漂綠廣告的想象與感知：基

于扎根理論的方法[J］.現(xiàn)代傳播（中國傳媒大學(xué)學(xué)

報），2019（6）：124-130.［35］國務(wù)院關(guān)于實(shí)施健康中國行動的意見［EB/

OL].[2025-03-07] .https：//www.gov.cn/zhengce/

content/2019-07/15/content_5409492.htm.[36］The Bletchley Declaration［EB/OL].[2025-

03-07].https：//www.gov.uk/government/publications/

ai-safety-summit-2O23-the-bletchley-declaration.

（責(zé)任編輯：馮婧愷張帆）