社交網(wǎng)絡(luò)平臺有害信息治理的演化博弈

樊自甫 程姣姣 田苡毓

摘要：隨著社交網(wǎng)絡(luò)應(yīng)用的普及，社交網(wǎng)絡(luò)平臺已成為信息傳播、知識共享的重要栽體，在為人們生活、學(xué)習(xí)、工作提供便利的同時(shí)，也為有害信息傳播創(chuàng)造了條件，社交網(wǎng)絡(luò)平臺中的有害信息治理問題已成為當(dāng)前社會關(guān)注的重點(diǎn)。文章引入社會公眾辨識度變量，同時(shí)考慮社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本以及政府和平臺間的信息不對稱程度，建立了社交網(wǎng)絡(luò)平臺和社會公眾有害信息治理的演化博弈模型，分析了有害信息辨識度等因素對演化過程的影響。數(shù)值仿真結(jié)果表明，提高社會公眾對有害信息的辨識度以及平臺受罰成本，減少政府與平臺間的信息不對稱程度，可以有效治理社交網(wǎng)絡(luò)平臺有害信息的傳播和泛濫。

關(guān)鍵詞：社交網(wǎng)絡(luò)平臺;有害信息治理;社會公眾辨識度;演化博弈

中圖分類號：F062.5 文獻(xiàn)標(biāo)識碼：A 文章編號：1673-8268（2020）02-0094-12

據(jù)We are Social和Hootsuite統(tǒng)計(jì)數(shù)據(jù)顯示，截至2020年1月30日.全球社交媒體用戶數(shù)達(dá)38億，同比增長9%以上;其中，微信、微博全球月使用活躍用戶數(shù)分別達(dá)11.51億、4.62億，抖音、快手等短視頻活躍用戶分別達(dá)5億、2.2億。但社交網(wǎng)絡(luò)平臺在帶來便利的同時(shí)，也為有害信息傳播提供了快捷途徑。2020年1月，國家網(wǎng)信辦舉報(bào)中心數(shù)據(jù)表明，全國各級網(wǎng)絡(luò)舉報(bào)部門受理舉報(bào)1159.3萬件，同比增長12.1%。為此，國家相繼出臺了《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，加大了對互聯(lián)網(wǎng)有害信息的打擊力度。

當(dāng)前，國內(nèi)外學(xué)者關(guān)于社交網(wǎng)絡(luò)有害信息的研究主要集中在基本概念及類型、傳播特征和治理等方面。對社交網(wǎng)絡(luò)有害信息治理的研究以常規(guī)性治理和應(yīng)急性治理為主，其中常規(guī)性治理主要觀點(diǎn)有：第一，優(yōu)化網(wǎng)絡(luò)生態(tài)環(huán)境、強(qiáng)化政府監(jiān)督職能和網(wǎng)絡(luò)法律規(guī)范、提升公民素養(yǎng)、強(qiáng)調(diào)意見領(lǐng)袖作用;第二，從主體、社會和技術(shù)三個(gè)方面開展“三維一體”治理;第三，建立集監(jiān)測、預(yù)警、治理于一體的有害信息治理系統(tǒng)。應(yīng)急性治理是將有害信息看作突發(fā)事件，重點(diǎn)研究網(wǎng)絡(luò)輿情、網(wǎng)絡(luò)謠言等預(yù)警和導(dǎo)控對策等。近年來，部分學(xué)者從政府、平臺、公眾和網(wǎng)媒四個(gè)參與主體出發(fā)，運(yùn)用博弈論對社交網(wǎng)絡(luò)有害信息治理進(jìn)行研究，其中，公眾參與治理的主要觀點(diǎn)有：第一，考慮公眾心理因素，如“羊群效應(yīng)”等，公眾參與行為取決于公眾對事件信息的即刻主觀感受，而非理性客觀的分析;第二，重點(diǎn)關(guān)注特殊公眾群體，如意見領(lǐng)袖等，政府對公眾懲罰力度和公眾轉(zhuǎn)發(fā)成本是決定網(wǎng)絡(luò)輿情傳播的重要因素;第三，考慮公眾公信力的重要性，如果企業(yè)最初選擇散布網(wǎng)絡(luò)虛假信息，那么無論政府和企業(yè)最終策略如何，公眾都會選擇不購買企業(yè)產(chǎn)品，企業(yè)很難再次樹立公信力?，F(xiàn)有研究考慮了公眾參與對社交網(wǎng)絡(luò)有害信息的治理，但忽視了社會公眾在治理過程中的有效參與程度，且社會公眾參與治理的效果差異較大，故本文引入社會公眾有害信息辨識度這一變量，表征為社會公眾對有害信息準(zhǔn)確判斷的概率，同時(shí)考慮社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本以及政府和平臺間的信息不對稱程度，建立社交網(wǎng)絡(luò)平臺和社會公眾間的演化博弈模型，結(jié)合數(shù)值仿真結(jié)果，從平臺、公眾和政府視角提出社交網(wǎng)絡(luò)有害信息的治理建議。

一、模型構(gòu)建

（一）基本假設(shè)與參數(shù)設(shè)定

該演化博弈模型存在兩個(gè)參與主體：社會公眾與社交網(wǎng)絡(luò)平臺。社會公眾的策略集合為（積極參與，消極參與），社交網(wǎng)絡(luò)平臺的策略集合為（控制，不控制），具體參數(shù)如表1所示。

表1中引入社會公眾有害信息辨識度k（0

假設(shè)1：社會公眾選擇積極參與策略的概率為x（0

假設(shè)2：社交網(wǎng)絡(luò)平臺采取不控制策略時(shí)付出的成本為0;社交網(wǎng)絡(luò)平臺選擇控制策略時(shí)社會公眾不需要付出監(jiān)管成本;社會公眾選擇積極參與策略，且政府監(jiān)管部門對社交網(wǎng)絡(luò)平臺的監(jiān)管概率為q=1時(shí)，政府監(jiān)管部門和社交網(wǎng)絡(luò)平臺間不存在信息不對稱情況，即λ=1。

（二）博弈模型

根據(jù)前述兩個(gè)基本假設(shè)，得到社會公眾與社交網(wǎng)絡(luò)平臺間的策略收益矩陣如表2所示。

當(dāng)變量滿足不同取值時(shí)，系統(tǒng)S的演化穩(wěn)定點(diǎn)判別過程如表5所示，此處僅隨機(jī)選取情形（3）和（4）作為展示說明，其他情形判別過程與此類似。

綜上所述，系統(tǒng)S的演化結(jié)果對應(yīng)的均衡點(diǎn)以及所有滿足的參數(shù)條件如表6所示。

由表6知。系統(tǒng)S的演化穩(wěn)定結(jié)果主要取決于公眾對社交網(wǎng)絡(luò)有害信息的辨識度k與平臺受政府懲罰的成本。兩個(gè)決定性因素，其在不同閾值區(qū)間的取值將直接改變系統(tǒng)s的ESS。

通過以上分析，可以得到社會公眾和社交網(wǎng)絡(luò)平臺在各個(gè)狀態(tài)下博弈的演化均衡狀態(tài)如圖1所示。

二、演化博弈分析

（一）演化穩(wěn)定結(jié)果分析

結(jié)論1：當(dāng)v

證明：在社交網(wǎng)絡(luò)市場發(fā)展初期，社交網(wǎng)絡(luò)普及率較低，社交網(wǎng)絡(luò)有害信息泛濫帶來的負(fù)面影響沒有引起參與者關(guān)注。一是政府監(jiān)管部門和社會公眾對社交網(wǎng)絡(luò)平臺信息質(zhì)量問題關(guān)注度不高，且社交網(wǎng)絡(luò)平臺用戶自身知識水平參差不齊，信息素養(yǎng)較低，導(dǎo)致社會公眾對有害信息的辨識度較低。二是政府監(jiān)管部門尚未針對性出臺社交網(wǎng)絡(luò)有害信息治理的相關(guān)法律法規(guī)，導(dǎo)致對社交網(wǎng)絡(luò)平臺約束力不足，在短期利益誘惑下社交網(wǎng)絡(luò)平臺選擇不承擔(dān)治理職責(zé)，任由有害信息泛濫。因此，當(dāng)社會公眾對社交網(wǎng)絡(luò)有害信息辨識度低于一定水平即k

結(jié)論2：當(dāng)vko時(shí)，狀態(tài)Ⅱ是系統(tǒng)S的ESS。社會公眾選擇“積極參與”策略，社交網(wǎng)絡(luò)平臺選擇“不控制”策略。

證明：與狀態(tài)I相比較，社交網(wǎng)絡(luò)社會普及率有所提升，社交網(wǎng)絡(luò)有害信息泛濫造成的負(fù)面影響引起政府監(jiān)管部門、社會公眾和社交網(wǎng)絡(luò)平臺的重視，并積極采取一定治理措施。一是隨著社交網(wǎng)絡(luò)平臺的普及，社會公眾接觸到的社交網(wǎng)絡(luò)信息增多，在政府監(jiān)管部門的監(jiān)督下，社交網(wǎng)絡(luò)平臺紛紛推出有害信息辨識功能，如微信安全中心、微博社區(qū)管理中心和QQ安全團(tuán)隊(duì)等，社會公眾通過相關(guān)知識的學(xué)習(xí)，對社交網(wǎng)絡(luò)有害信息辨識度的認(rèn)識有所提高。二是陸續(xù)出臺的相關(guān)政策法規(guī)如《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《互聯(lián)網(wǎng)信息內(nèi)容管理行政執(zhí)法程序規(guī)定》等，僅簡單規(guī)定了社交網(wǎng)絡(luò)平臺對其信息內(nèi)容的審核過濾職責(zé)，而沒有具體可行的懲罰措施，導(dǎo)致社交網(wǎng)絡(luò)平臺約束力不足，一旦社交網(wǎng)絡(luò)平臺發(fā)現(xiàn)其不控制策略帶來的短期利益超出其因不控制行為受政府監(jiān)管部門懲罰成本時(shí)，不控制策略將成為社交網(wǎng)絡(luò)平臺的最優(yōu)選擇。因此，當(dāng)社會公眾對有害信息辨識度較高即k>ko，且平臺受政府懲罰成本偏低即v

結(jié)論3：當(dāng)Vo

證明：政府監(jiān)管部門受監(jiān)管資源有限與信息不對稱性影響，對社交網(wǎng)絡(luò)平臺懲處力度處于中等水平，此時(shí)社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本小于該策略所帶來的收益，故社交網(wǎng)絡(luò)平臺會選擇不控制策略。對于社會公眾而言，伴隨著社交網(wǎng)絡(luò)有害信息類型的不斷變化更新，在短時(shí)間內(nèi)很難對社交網(wǎng)絡(luò)有害信息做出準(zhǔn)確識別與判斷，有害信息辨識度會出現(xiàn)先降低后上升現(xiàn)象。因此，當(dāng)社會公眾對社交網(wǎng)絡(luò)有害信息的辨識度較低即k

結(jié)論4：當(dāng)k>ko且vov1時(shí)，狀態(tài)Ⅳ是系統(tǒng)S的ESS。社會公眾選擇“積極參與”策略，公眾平臺選擇“控制”策略，為社交網(wǎng)絡(luò)有害信息治理的理想狀態(tài)。

證明：與狀態(tài)I和Ⅱ相比，政府監(jiān)管部門的法律法規(guī)、監(jiān)管措施進(jìn)一步完善，社交網(wǎng)絡(luò)平臺的有害信息辨?zhèn)喂δ艿玫郊訌?qiáng)，社會公眾對有害信息的辨識能力大幅提升，此時(shí)社會公眾積極參與社交網(wǎng)絡(luò)有害信息治理獲得的收益得到提升，積極參與成為其最優(yōu)策略。政府監(jiān)管部門為營造良好網(wǎng)絡(luò)空間環(huán)境而逐漸加大對社交網(wǎng)絡(luò)平臺不控制行為的約束力度，直至社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本大于其額外收益，導(dǎo)致社交網(wǎng)絡(luò)平臺向控制策略轉(zhuǎn)變。因此，當(dāng)社會公眾對有害信息辨識度較高即k>ko時(shí)，社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本處于中等水平以上即v>vo時(shí)，系統(tǒng)s的演化穩(wěn)定結(jié)果為（1，1）。

（二）狀態(tài)Ⅲ博弈雙方策略影響因素分析

由圖1可知，當(dāng)vo

三、數(shù)值仿真

系統(tǒng)s參數(shù)取值如表7所示。運(yùn)用Matlab7.0中的ode45指令求解復(fù)制動態(tài)方程（5）和（6），得到仿真結(jié)果圖2至圖13。圖2至圖13中，橫軸表示時(shí)間t，縱軸表示積極參與比例z（t）和控制比例y（t）。

（一）演化相圖數(shù)值仿真分析

令k=0.2，v=5，得到社會公眾與社交網(wǎng)絡(luò)平臺行為演化軌跡如圖2所示。

從圖2中可以看出，當(dāng)公眾有害信息辨識度和社交網(wǎng)絡(luò)平臺受政府監(jiān)管部門懲罰成本均處于較低水平時(shí)，系統(tǒng)最終均會向穩(wěn)定點(diǎn)（0，0）演化，即社會公眾與社交網(wǎng)絡(luò)平臺均選擇消極參與和不控制策略。隨著時(shí)間t的推移，社會公眾選擇積極參與策略以及社交網(wǎng)絡(luò)平臺選擇控制策略的比例將不斷縮小，驗(yàn)證了結(jié)論1的正確性。

令k=0.8，v=5，得到社會公眾與社交網(wǎng)絡(luò)平臺行為演化軌跡如圖3所示。

從圖3中可以看出，隨著時(shí)間t的推移，社會公眾群體選擇積極參與策略比例不斷上升，而社交網(wǎng)絡(luò)平臺選擇控制策略的比例逐漸下降，不管初始策略比例如何，最終博弈雙方選擇策略均趨于穩(wěn)定點(diǎn)（1，0）。圖3說明了與狀態(tài)I相比，隨著社會公眾對社交網(wǎng)絡(luò)有害信息辨識度的提高，社會公眾群體策略將發(fā)生變化，驗(yàn)證了結(jié)論2的正確性。

令k=0.2，v=10得到社會公眾與社交網(wǎng)絡(luò)平臺行為演化軌跡如圖4所示。

從圖4中可以看出，當(dāng)公眾有害信息辨識度較低而平臺受政府懲罰成本處于適中水平時(shí)，社會公眾與社交網(wǎng)絡(luò)平臺的行為演化軌跡具體趨于何種穩(wěn)定狀態(tài)，取決于初始群體比例的大小，驗(yàn)證了結(jié)論3的正確性。

圖5刻畫了當(dāng)公眾有害信息辨識度較高而平臺受政府懲罰成本處于適中水平，以及不限定公眾有害信息辨識度數(shù)值而平臺受政府懲罰成本較高時(shí)，這兩種情形下博弈雙方的行為演化軌跡。

由圖4（b）和圖5（a）可知，不管社會公眾積極參與和社交網(wǎng)絡(luò)平臺控制策略的初始比例大小如何，隨著時(shí)間t的推移，系統(tǒng)最終均會向穩(wěn)定點(diǎn)（1，1）演化。對比圖5（a）、（b）和（c）可知，公眾有害信息辨識度k保持不變情況下，增大平臺受政府懲罰成本有助于社交網(wǎng)絡(luò)平臺更快地向控制策略演化，驗(yàn)證了結(jié)論4的正確性。

（二）狀態(tài)Ⅲ影響因素?cái)?shù)值仿真分析

為了驗(yàn)證結(jié)論5的正確性，將系統(tǒng)中△Ep、g、

由圖10可知，隨著社會公眾對健康社交應(yīng)用偏好度的不斷提高，社交網(wǎng)絡(luò)平臺選擇控制策略所花時(shí)間則越少。通過求解復(fù)制動態(tài)方程，得到社會公眾對健康社交應(yīng)用的偏好度影響社交網(wǎng)絡(luò)平臺行為選擇的閾值p=0.3。當(dāng)p>0.3時(shí)，社交網(wǎng)絡(luò)平臺選擇控制策略;當(dāng)p<0.3時(shí)，社交網(wǎng)絡(luò)平臺選擇不控制策略。

6.公眾參與成本C，的影響

令Ec=5，k=0.5，y=0.6時(shí)，得到z隨Cc值變動的演化仿真路徑如圖11（Cc=2、Cc=10）所示。

由圖11可知，隨著公眾參與成本提高，社會公眾選擇策略逐漸向消極參與收斂。通過求解復(fù)制動態(tài)方程，得到公眾參與成本影響社會公眾策略選擇的閾值Cc=6.25。當(dāng)Co>6.25時(shí)，社會公眾選擇消極參與策略;當(dāng)Cc<6.25時(shí)，社會公眾選擇積極參與策略。

由圖12可知，隨著公眾對有害信息辨識度的不斷提高，社會公眾選擇策略逐漸向積極參與演化，公眾有害信息辨識度越高，社會公眾選擇積極參與策略所花時(shí)間越少。通過復(fù)制動態(tài)方程，得到公眾有害信息辨識度影響社會公眾行為選擇的閾值k=0.5。當(dāng)k>0.5時(shí)，社會公眾會選擇積極參與策略;當(dāng)k<0.5時(shí)，社會公眾會選擇消極參與策略。

8.社交網(wǎng)絡(luò)平臺選擇控制策略的初始比例y的影響

令Ec=5，Cc=6.25時(shí)，得到z隨y值變動的演化仿真路徑如圖13（y=0.4、y=0.7）所示。

由圖13可知，隨著社交網(wǎng)絡(luò)平臺選擇控制策略概率不斷增大，社會公眾選擇策略逐漸收斂于積極參與，且社交網(wǎng)絡(luò)平臺選擇控制策略的初始比例越高，社會公眾選擇積極參與策略所花時(shí)間越短。由復(fù)制動態(tài)方程，得到社交網(wǎng)絡(luò)平臺選擇控制策略的初始比例影響社會公眾行為選擇的閾值，y=0.6。當(dāng)y>0.6時(shí)，社會公眾將選擇積極參與策略;當(dāng)y<0.6時(shí)，社會公眾將選擇消極參與策略。

四、結(jié)語

本文運(yùn)用演化博弈理論構(gòu)建了社交網(wǎng)絡(luò)平臺和社會公眾的有害信息治理動態(tài)演化博弈模型，通過求得復(fù)制動態(tài)方程得到了模型的均衡點(diǎn)和演化穩(wěn)定策略，并運(yùn)用Madab7.0對博弈模型進(jìn)行了仿真分析。通過研究發(fā)現(xiàn)，博弈雙方社會公眾和社交網(wǎng)絡(luò)平臺會根據(jù)自身收益不斷調(diào)整策略，策略的調(diào)整方向主要受社會公眾有害信息辨識度、平臺受政府懲罰成本等影響。根據(jù)上述研究結(jié)論，特提出如下社交網(wǎng)絡(luò)有害信息治理建議。

第一，考慮到提高政府監(jiān)管部門懲罰力度、社會公眾辨識度和社會公眾對健康社交網(wǎng)絡(luò)平臺的偏好度等，能促進(jìn)社交網(wǎng)絡(luò)平臺的有害信息治理水平，建議政府監(jiān)管部門完善政策法律法規(guī)中對社交網(wǎng)絡(luò)平臺選擇不控制策略的經(jīng)濟(jì)懲罰機(jī)制，依據(jù)平臺違規(guī)操作給公眾和社會帶來危害程度不同處以階梯式罰金，并輔以點(diǎn)名批評、約談或追究其刑事責(zé)任等非經(jīng)濟(jì)處罰方式，拉低社交網(wǎng)絡(luò)平臺的聲譽(yù)和影響力，加大其選擇不控制策略的隱性成本;建立健全政府信息公開制度，及時(shí)更新政府采集到的社交網(wǎng)絡(luò)有害信息，及時(shí)向社會公眾普及社交網(wǎng)絡(luò)有害信息的危害度，提升社會公眾的有害信息辨識度;積極舉辦相關(guān)宣傳活動，提升社會公眾對健康社交網(wǎng)絡(luò)平臺的偏好度，及時(shí)向社會公布積極參與社交網(wǎng)絡(luò)有害信息治理的平臺名單，引導(dǎo)社會公眾選擇良好的社交網(wǎng)絡(luò)平臺。

第二，考慮到政府和平臺間的信息不對稱程度以及公眾參與成本的減少能促進(jìn)社交網(wǎng)絡(luò)平臺有害信息治理，建議社交網(wǎng)絡(luò)平臺定期向社會公布其監(jiān)管措施和成果，提高信息透明度;完善目前較為繁瑣、冗雜的公眾舉報(bào)機(jī)制，創(chuàng)建高效便捷的舉報(bào)渠道。例如，在社交網(wǎng)絡(luò)平臺中增設(shè)一鍵舉報(bào)功能，節(jié)約社會公眾參與有害信息治理的時(shí)間與精力成本;同時(shí)對積極參與社交網(wǎng)絡(luò)有害信息治理的社會公眾給予公開表揚(yáng)和相應(yīng)的現(xiàn)金獎(jiǎng)勵(lì)，提高其參與積極性。

第三，考慮到社會公眾有害信息辨識度對社交網(wǎng)絡(luò)有害信息治理具有促進(jìn)作用，建議社會公眾主動增強(qiáng)自身在社交網(wǎng)絡(luò)有害信息識別能力方面的知識學(xué)習(xí)，對社交網(wǎng)絡(luò)平臺中傳播的信息做到小心求證，不隨意轉(zhuǎn)載和分享未經(jīng)官方或權(quán)威機(jī)構(gòu)核實(shí)的信息，公正發(fā)表評論與意見，傳播正能量信息內(nèi)容，做到不信謠、不傳謠，不斷提高自身的信息素養(yǎng)。