社交媒體平臺(tái)不良信息治理主體策略選擇
——基于三方演化博弈的視角

張彬,隋雨佳

(北京郵電大學(xué) 經(jīng)濟(jì)管理學(xué)院，北京 100876)

一、引 言

(一)研究背景

黨的十九大報(bào)告強(qiáng)調(diào)“要營造清朗的網(wǎng)絡(luò)空間”。凈化網(wǎng)絡(luò)空間重點(diǎn)之一在于保障網(wǎng)絡(luò)信息內(nèi)容健康向上和富有正能量，阻止反動(dòng)言論、教唆犯罪、暴力色情、垃圾信息、謠言及假新聞等不良信息傳播，保障公民在虛擬世界中獲得與現(xiàn)實(shí)世界同樣的合法權(quán)益。大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)和人工智能等新興信息技術(shù)飛速發(fā)展，人們獲得移動(dòng)互聯(lián)網(wǎng)的便捷性和及時(shí)性的同時(shí)，信息也在加速傳播。如專業(yè)編輯等傳統(tǒng)“把關(guān)”機(jī)制無法跟上技術(shù)發(fā)展步伐，如何對網(wǎng)絡(luò)內(nèi)容進(jìn)行及時(shí)凈化處理面臨極大挑戰(zhàn)。

社交媒體平臺(tái)通過特定關(guān)聯(lián)關(guān)系(如親朋好友關(guān)系或共同興趣愛好等)將用戶聚集，實(shí)現(xiàn)互動(dòng)交流或信息分享[1]。隨著Web 2.0技術(shù)的深入發(fā)展，社交媒體平臺(tái)因其易操作性、實(shí)效性、經(jīng)濟(jì)實(shí)用性等突出特點(diǎn)，已成為網(wǎng)民表達(dá)意見和傳播信息的重要平臺(tái)之一[2]?；ヂ?lián)網(wǎng)用戶從被動(dòng)的信息消費(fèi)者轉(zhuǎn)變?yōu)橥ㄟ^微信、微博、知乎或YouTube等社交媒體平臺(tái)主動(dòng)創(chuàng)建內(nèi)容的用戶[3]，信息傳播者不僅僅是專業(yè)媒體工作者，也是公眾?；ヂ?lián)網(wǎng)的自由開放性使公眾在社交媒體上隨意發(fā)表大量言論，增加了網(wǎng)絡(luò)空間治理的難度。根據(jù)中央網(wǎng)信辦違法和不良信息舉報(bào)中心的統(tǒng)計(jì)數(shù)據(jù)，在全國主要網(wǎng)站受理的不良信息有效舉報(bào)中，涉及新浪微博、騰訊(微信、QQ、騰訊微博等)和各種論壇等社交媒體平臺(tái)的舉報(bào)比重始終居高不下。更有跡象表明，那些看起來更加真實(shí)，迎合人們不同需求的不良信息在社交媒體平臺(tái)上更受歡迎并得到廣泛傳播[4]。

立法是網(wǎng)絡(luò)空間治理的基本手段，法律在信息安全保障、國家安全保障、促進(jìn)信息網(wǎng)絡(luò)健康發(fā)展等方面發(fā)揮了重要作用[5-6]。政府負(fù)責(zé)指導(dǎo)網(wǎng)絡(luò)空間治理相關(guān)技術(shù)規(guī)范的制定[7]，提高政策的適用性。美國政府倡導(dǎo)企業(yè)通過建立分級(jí)與過濾系統(tǒng)幫助用戶選擇所需瀏覽的內(nèi)容[8]。英國確定了《R3安全網(wǎng)絡(luò)規(guī)則》(R3即分級(jí)、檢舉和責(zé)任)，制定相應(yīng)的網(wǎng)絡(luò)內(nèi)容管理措施，明確的基本原則之一就是設(shè)立內(nèi)容分級(jí)和過濾系統(tǒng)，讓用戶自行選擇需要的網(wǎng)絡(luò)內(nèi)容[9]。加拿大、日本等國家也采用網(wǎng)絡(luò)內(nèi)容分級(jí)和企業(yè)自律相結(jié)合的治理手段[9]。政府對網(wǎng)絡(luò)空間的信息內(nèi)容進(jìn)行科學(xué)治理，鼓勵(lì)采用技術(shù)手段過濾不良信息[10]。

愈演愈烈的隱私數(shù)據(jù)泄露、不良信息傳播和網(wǎng)絡(luò)詐騙犯罪等事件頻發(fā)，給主要社交媒體平臺(tái)施加了巨大的社會(huì)和經(jīng)濟(jì)壓力，如面臨政府相關(guān)機(jī)構(gòu)的法律制裁和社會(huì)輿論的聲討等。因此，基本上所有大型互聯(lián)網(wǎng)行業(yè)公司都過濾清掃其平臺(tái)內(nèi)容。2019年7月，因Facebook在劍橋分析丑聞中對用戶個(gè)人數(shù)據(jù)處理不當(dāng)，聯(lián)邦貿(mào)易委員會(huì)對其處以約50億美元的罰款[11]。 這一行動(dòng)標(biāo)志著美國監(jiān)管機(jī)構(gòu)對大型科技公司開始采取更嚴(yán)厲的監(jiān)管措施。由于美國政府機(jī)構(gòu)監(jiān)管力度逐漸加強(qiáng)，平臺(tái)企業(yè)對抑制不良信息傳播給予極大重視。截至2019年11月，美國社交媒體公司Facebook已清除54億個(gè)假賬號(hào)。2019年7月至9月，基于人工智能的內(nèi)容標(biāo)記算法，F(xiàn)acebook在平臺(tái)上清掃了700萬條仇恨言論，可見Facebook正在非常努力地清理不良信息[12]。根據(jù)公開數(shù)據(jù)，YouTube視頻每分鐘上傳的信息量呈指數(shù)級(jí)增長[13]。由于網(wǎng)絡(luò)空間內(nèi)容信息海量聚集，單憑人工審核已無法適應(yīng)需求，人工智能等技術(shù)管理手段應(yīng)運(yùn)而生。目前，甄別不良信息的方法從最初的關(guān)鍵詞識(shí)別、相似度匹配等過濾技術(shù)，過渡到機(jī)器學(xué)習(xí)算法、人機(jī)交互識(shí)別等人工智能技術(shù)。技術(shù)管理手段不僅能高效、快速地辨識(shí)傳播信息是否含虛假、夸張、低俗等內(nèi)容，還能降低內(nèi)容審核成本，提高審核質(zhì)量和效率。隨著人工智能等技術(shù)管理手段的進(jìn)一步發(fā)展，審核技術(shù)還能夠做到精準(zhǔn)定位每一位用戶的信息并實(shí)現(xiàn)信息治理個(gè)性化[14]。技術(shù)管理成為網(wǎng)絡(luò)空間治理的重要手段[15]。

(二)文獻(xiàn)綜述

隨著微信、微博等社交軟件的普遍使用，公眾可以自由地創(chuàng)造并分享內(nèi)容，信息在社交媒體平臺(tái)上廣泛傳播，這也意味著信息具有不可控屬性。不良信息傳播成本很低，治理成本卻很高。國內(nèi)外對不良信息傳播過程和傳播模型方面的研究取得了一定成果[16-17]，如基于個(gè)體行為的信息傳播模型[18-19]、復(fù)雜網(wǎng)絡(luò)模型[20]、多重網(wǎng)絡(luò)理論[21-22]、社會(huì)網(wǎng)絡(luò)分析法[23-24]、病毒傳播模型[25]、信息生態(tài)理論[26-27]等。阻止不良信息傳播離不開多元治理主體間的相互依托和相互制約[28]，主要從政府管制，企業(yè)使用恰當(dāng)?shù)募夹g(shù)手段，用戶自律等幾個(gè)方面[29]進(jìn)行多中心協(xié)同治理研究[30]。針對信息質(zhì)量控制問題，莫祖英[31]從經(jīng)濟(jì)學(xué)角度，在信息管理者進(jìn)行信息審查和信息推薦兩種情況下，比較了信息提供者和信息使用者博弈模型的異同。李鋼等[32]構(gòu)建了互聯(lián)網(wǎng)內(nèi)容提供商、平臺(tái)服務(wù)提供商、用戶方和監(jiān)管方之間的兩兩完全信息靜態(tài)博弈模型，探討了互聯(lián)網(wǎng)低俗信息監(jiān)管的關(guān)鍵問題并提出對策建議。陳為平等[33]基于系統(tǒng)動(dòng)力學(xué)構(gòu)建網(wǎng)絡(luò)信息生態(tài)系統(tǒng)，旨在提高不良信息治理效果?？梢钥闯?，采取以政府監(jiān)管為保障，用戶自律為基礎(chǔ)，企業(yè)使用技術(shù)手段為主導(dǎo)的綜合治理模式是未來的趨勢[34]。

政府是不良信息治理的主體，眾多學(xué)者通過構(gòu)建不良信息傳播模型，指導(dǎo)監(jiān)管者在信息傳播過程中如何選擇策略[34-35]，調(diào)整控制策略的強(qiáng)度，以采取最優(yōu)措施抑制不良信息的傳播[36]。蘭娟麗等[37]基于小世界網(wǎng)絡(luò)理論SIR模型分析社交網(wǎng)絡(luò)平臺(tái)(微博)負(fù)面信息的傳播效應(yīng)提出，政府重視對意見領(lǐng)袖進(jìn)行教育和管理，這將對政府引導(dǎo)輿論走向起到重要作用。朱張祥等[38]利用改進(jìn)的SIR模型分析在線社區(qū)不良信息傳播機(jī)制，肯定了政府宣傳教育的重要性，并對如何選擇重點(diǎn)治理的在線社區(qū)提出建議。在社交媒體環(huán)境下，政府應(yīng)對不良信息傳播突發(fā)事件的策略不同將對其公信力產(chǎn)生不同影響[39]。

社交媒體平臺(tái)的突出特點(diǎn)是“去中心化”，每一名用戶都可以成為信息的生產(chǎn)者和傳播者。普通用戶發(fā)布信息的內(nèi)容和質(zhì)量在很大程度上受其動(dòng)機(jī)、情緒、能力，甚至受教育程度等諸多因素的影響[40]。用戶創(chuàng)作的大量原創(chuàng)內(nèi)容使平臺(tái)信息更加豐富，但由于信息質(zhì)量良莠不齊，平臺(tái)治理難度加大[41]。同時(shí)，在社會(huì)化媒體背景下，用戶信息傳播的隨意性更強(qiáng)、傳播的覆蓋面更廣、傳播的速度更快[42]，用戶對信息的判斷和傳播受其知識(shí)水平和意識(shí)行為等因素影響[43]，眾多學(xué)者將社交媒體信息傳播行為與傳染病傳播機(jī)制相提并論[44]。

當(dāng)下是數(shù)字經(jīng)濟(jì)時(shí)代，大數(shù)據(jù)、物聯(lián)網(wǎng)、人工智能等高新數(shù)字技術(shù)方興未艾，使用恰當(dāng)技術(shù)識(shí)別文本、圖片、音視頻等不良信息對企業(yè)來說至關(guān)重要[45]。很多學(xué)者以Twitter、微博、微信等社交軟件為研究對象，探討信息傳播的路徑或影響因素[46-47]。利用中心度測量方法[48]、Time-Reversal Backward Spreading算法[49]、TSIL和DTSIL[50]等方法對信息傳播進(jìn)行溯源有助于治理不良信息。企業(yè)通過免疫網(wǎng)絡(luò)節(jié)點(diǎn)抑制有害信息的傳播[51]，構(gòu)建社交媒體平臺(tái)信息質(zhì)量控制和信息應(yīng)對演化模型達(dá)到治理效果最優(yōu)[52]，還可建立人機(jī)互動(dòng)過濾機(jī)制引入專家系統(tǒng)[53]。信息傳播與高新技術(shù)的融合是未來治理不良信息的發(fā)展趨勢，人工神經(jīng)網(wǎng)絡(luò)[54]、BP神經(jīng)網(wǎng)絡(luò)[55]等人工智能技術(shù)會(huì)更準(zhǔn)確地識(shí)別敏感信息、過濾虛假消息、追蹤信息源頭、監(jiān)控輿論走向[56]。

(三)研究問題

治理不良信息常用的手段有法律監(jiān)管(適用于違法信息)、社交媒體平臺(tái)審查過濾(適用于淫穢、誹謗、暴力等信息)、用戶自律(不適用于賺取流量、博人眼球、獲取利益的個(gè)人)、舉報(bào)(普通人識(shí)別謠言能力有限)等?，F(xiàn)有文獻(xiàn)多為對不良信息治理的各方主體進(jìn)行定性的策略分析，或是針對不良信息傳播或接收的某一環(huán)節(jié)進(jìn)行建模，如針對傳播環(huán)節(jié)的數(shù)學(xué)模型以及針對接受行為的心理學(xué)模型，缺乏整體性和動(dòng)態(tài)性。單一治理主體或單一治理手段所發(fā)揮的作用有限，而不良信息治理涉及到不同的利益主體。本文研究目的在于協(xié)調(diào)政府、企業(yè)、網(wǎng)民等多元主體，通過多方共治規(guī)范網(wǎng)絡(luò)信息傳播，優(yōu)化多方治理效果，進(jìn)而為我國有效治理不良信息提出建議。本文采用演化博弈的方法分析社交媒體平臺(tái)不良信息治理主體的策略選擇，直觀地分析多方?jīng)Q策過程，非理性主體可在社會(huì)化媒體中不斷地學(xué)習(xí)、博弈，最終達(dá)到局部穩(wěn)定與均衡。探索使政府趨向于監(jiān)管，企業(yè)趨向于使用恰當(dāng)技術(shù)手段對信息進(jìn)行過濾和管理，用戶趨向于自律進(jìn)行信息發(fā)布的演化路徑；探索社交媒體平臺(tái)的有效運(yùn)行機(jī)制，提出治理不良信息的政策建議。多方主體共同參與，密切配合治理不良信息，對于完善社交媒體平臺(tái)網(wǎng)絡(luò)信息傳播機(jī)制，促進(jìn)社交媒體平臺(tái)健康有序發(fā)展具有重要的理論與實(shí)踐意義。

二、政府、平臺(tái)企業(yè)和用戶之間的三方博弈模型構(gòu)建

(一)不良信息治理主體

本文討論的治理不良信息主體包括社交媒體平臺(tái)、政府信息監(jiān)管部門和作為信息發(fā)布者和傳播者的平臺(tái)用戶。社交媒體中存在信息不對稱和決策者非理性的情況，治理不良信息，營造清朗的網(wǎng)絡(luò)空間與政府、企業(yè)、用戶三方的策略選擇密切相關(guān)。

首先，參與主體的需求各不相同。政府是治理不良信息的政策、規(guī)則、法律、法規(guī)制定者，具有監(jiān)管職責(zé)；企業(yè)作為社交媒體平臺(tái)的提供者和管理者，有責(zé)任通過技術(shù)等手段識(shí)別和過濾不良信息；用戶在平臺(tái)上發(fā)布、傳播、接收信息來滿足自身需求。

其次，參與主體三方之間存在利益沖突。社交媒體平臺(tái)企業(yè)大多以贏利為目的，若平臺(tái)存在違法違規(guī)行為，或清理發(fā)布不良信息用戶的工作落實(shí)不到位，會(huì)使用戶受低俗、虛假等信息污染，由此造成惡劣社會(huì)影響，平臺(tái)面臨法律制裁和吊銷許可證的處罰；政府相關(guān)部門負(fù)責(zé)制定防止不良信息傳播的法律法規(guī)及相應(yīng)的網(wǎng)絡(luò)內(nèi)容管理措施，為網(wǎng)絡(luò)平臺(tái)企業(yè)發(fā)放經(jīng)營許可證，以保護(hù)用戶利益，維持網(wǎng)絡(luò)公平正義；用戶發(fā)布的不良信息既包括虛假信息也包括真實(shí)信息，虛假信息指失真類信息、謠言類信息和詐騙類信息等，真實(shí)信息系個(gè)人隱私信息等。大多數(shù)信息傳播者可能因?yàn)榉N種原因沒有投入時(shí)間、精力去甄別信息質(zhì)量而發(fā)布了劣質(zhì)信息，他們有必要提高自身信息素養(yǎng)和自律意識(shí)。

再次，參與主體三方策略選擇的優(yōu)劣決定治理不良信息的效果。政府負(fù)責(zé)維護(hù)社交媒體信息發(fā)布的規(guī)范性，維系各參與主體的關(guān)系；平臺(tái)企業(yè)需運(yùn)用恰當(dāng)技術(shù)手段加強(qiáng)對不良信息的過濾處理，保證用戶獲得優(yōu)質(zhì)信息；用戶則需要提高個(gè)人素養(yǎng)和自律意識(shí)，識(shí)別信息真?zhèn)?，發(fā)布優(yōu)質(zhì)信息，不受不良信息影響。

(二)模型假設(shè)

本文構(gòu)建政府相關(guān)部門、平臺(tái)企業(yè)和用戶的三方演化博弈模型，旨在探討最優(yōu)演化路徑，以獲得最佳多方治理策略的組合。為此，提出如下假設(shè)：

(1)參與博弈過程的三方主體均是有限理性。

(2)三方主體均可采取兩種策略。政府可選擇監(jiān)管或不監(jiān)管：政府選擇監(jiān)管，即規(guī)范信息傳播、提供政策保障、加大監(jiān)管力度、鼓勵(lì)用戶發(fā)布優(yōu)質(zhì)信息等；政府也可能因?yàn)閷?shí)際情況較為復(fù)雜、操作難度大、成本較高等原因選擇不監(jiān)管。企業(yè)可選擇采取技術(shù)管理或不采取技術(shù)管理：企業(yè)采取AI等技術(shù)手段過濾和管理用戶發(fā)布的信息，以保證平臺(tái)環(huán)境健康有序；企業(yè)也可選擇不采取技術(shù)管理，由此導(dǎo)致不良信息充斥網(wǎng)絡(luò)空間，進(jìn)而造成惡劣的社會(huì)影響。用戶可自律或不自律：用戶自律，會(huì)主動(dòng)審查所發(fā)布信息；用戶不自律，會(huì)有意或無意放任不良信息的傳播。

(3)政府選擇監(jiān)管的概率為x(0≤x≤1)，選擇不監(jiān)管的概率為1-x；社交媒體平臺(tái)選擇技術(shù)管理的概率為y(0≤y≤1)，不選擇技術(shù)管理的概率為1-y；用戶選擇自律的概率為z(0≤z≤1)，選擇不自律的概率為1-z。

(4)假設(shè)政府相關(guān)部門、平臺(tái)企業(yè)、用戶的相關(guān)收益和成本等均可量化且非負(fù)。

假定政府在社交媒體信息傳播過程中采取監(jiān)管策略，凈化網(wǎng)絡(luò)空間，促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展，提高經(jīng)濟(jì)發(fā)展水平，設(shè)其社會(huì)效益為U11；同時(shí)，制定政策或?qū)嵤┍O(jiān)管需較高投入，設(shè)其成本為C11。政府選擇不監(jiān)管，網(wǎng)絡(luò)環(huán)境等方面維持較低發(fā)展水平，其社會(huì)效益為U12，付出成本忽略不計(jì)。假定企業(yè)選擇技術(shù)管理的基本收益為U21，為此企業(yè)需研發(fā)或購買AI等設(shè)備過濾和管理信息，付出成本為C21；企業(yè)不選擇技術(shù)管理，獲得收益為U22，平臺(tái)付出成本為C22，其中C21>C22。假定用戶選擇自律，可獲得收益U31，同時(shí)需要花費(fèi)時(shí)間、精力等判斷信息質(zhì)量，成本為C31；用戶選擇不自律，獲得收益為U32，付出成本忽略不計(jì)。

對于政府來說，若用戶不自律且企業(yè)選擇技術(shù)管理，會(huì)給政府帶來額外損失V31；若用戶不自律且企業(yè)不選擇技術(shù)管理，會(huì)給政府帶來更大的額外損失W31，且W31>V31。對于企業(yè)來說，企業(yè)選擇技術(shù)管理來過濾和管理信息，會(huì)獲得政策獎(jiǎng)勵(lì)或優(yōu)良信譽(yù)評價(jià)作為額外收益R12；企業(yè)不選擇技術(shù)管理，導(dǎo)致網(wǎng)絡(luò)空間烏煙瘴氣，造成惡劣影響，受到監(jiān)管機(jī)構(gòu)的懲罰P12，且P12>C21。用戶自律，審核并發(fā)布優(yōu)質(zhì)信息，給企業(yè)增加正面影響V32，獲得平臺(tái)企業(yè)優(yōu)良信息發(fā)布的評級(jí)或積分作為額外收益R23；用戶不自律，發(fā)布劣質(zhì)信息，用戶被封號(hào)、評級(jí)低，相當(dāng)于受到企業(yè)的懲罰P23，或受到政府監(jiān)管機(jī)構(gòu)的懲罰P13，且(P23+P13)>C31。

根據(jù)以上假設(shè)，三方博弈的收益矩陣如表1所示。

表1 政府、企業(yè)和用戶三方博弈的收益矩陣

(三)三方演化博弈模型

(1)

由此得到政府相關(guān)部門的復(fù)制動(dòng)態(tài)方程

(2)

同理可得平臺(tái)企業(yè)的復(fù)制動(dòng)態(tài)方程

(3)

用戶的復(fù)制動(dòng)態(tài)方程

(4)

三、不良信息治理主體博弈的演化均衡分析

(5)

均衡點(diǎn)對應(yīng)的特征值如表2所示。

表2 E1～E8均衡點(diǎn)對應(yīng)的特征值

根據(jù)假設(shè)(3)可知，任一初始點(diǎn)及其演化后的點(diǎn)滿足V={(x,y,z)|0≤x≤1,0≤y≤1,0≤z≤1} 才有意義，因此，均衡點(diǎn)E1～E8有意義。

如表2所示，參與主體策略選擇演化博弈均衡的影響因素有：政府采取監(jiān)管策略帶來的效益U11，付出的成本C11，政府不監(jiān)管策略帶來的效益U12；企業(yè)使用技術(shù)管理行為的收益U21和成本C21，不使用技術(shù)管理行為的收益U22和成本C22，不良信息發(fā)布后政府對企業(yè)的懲罰P12，企業(yè)表現(xiàn)良好政府對其的獎(jiǎng)勵(lì)R12，用戶自律行為的收益U31和成本C31，用戶不自律的收益U32，平臺(tái)對自律用戶的獎(jiǎng)勵(lì)R23，政府監(jiān)管下對不自律用戶的懲罰P13和企業(yè)對不自律用戶的懲罰P23。

四、仿真分析

本文根據(jù)所構(gòu)建的演化博弈模型，運(yùn)用MATLAB對演化過程進(jìn)行仿真分析。分析社交媒體平臺(tái)的基本情況，對模型參數(shù)作出假設(shè)以便于仿真。假設(shè)政府監(jiān)管策略帶來的收益U11∈[10,20]，成本C11∈[4,10]； 政府不監(jiān)管策略的收益U12∈[5,10]；平臺(tái)企業(yè)用技術(shù)管理策略帶來的收益U21∈[5,10]，成本C21∈[4,10]；平臺(tái)企業(yè)不用技術(shù)管理的收益U22∈[5,10]，成本C22∈[1,4]；平臺(tái)企業(yè)不使用技術(shù)管理，受到監(jiān)管機(jī)構(gòu)的懲罰P12∈[0,15]；企業(yè)使用恰當(dāng)技術(shù)管理獲得的獎(jiǎng)勵(lì)R12∈[0,5]；用戶自律獲得的收益U31∈[1,10]，所需成本C31∈[0,6]；用戶不自律獲得的收益U32∈[1,5]；用戶自律獲得的平臺(tái)企業(yè)的獎(jiǎng)勵(lì)R23∈[1,5]，用戶不自律受到企業(yè)的懲罰P23∈[1,5]，受到政府監(jiān)管機(jī)構(gòu)的懲罰P13∈[0,5]。

本研究目標(biāo)是達(dá)到政府監(jiān)管、企業(yè)使用技術(shù)管理且用戶自律的理想狀態(tài)，尋找趨于漸進(jìn)穩(wěn)定點(diǎn)E8(1,1,1)的對應(yīng)策略。參數(shù)取值分別為U11=20，C11=10，U12=9.5，U21=10，C21=6，U22=8，C22=1，R12=1.5，P12=1.6，U31=4，C31=1，U32=5，P23=1，P13=1，R23=0.5。

設(shè)x0、y0和z0分別表示政府選擇監(jiān)管、企業(yè)選擇使用技術(shù)管理、用戶選擇自律策略的初始比例。設(shè)初始狀態(tài)(x0，y0，z0)=(0.4, 0.1, 0.3)。得到的仿真結(jié)果如圖1所示。

由圖1可以看出，在滿足初始條件的情況下，在短時(shí)間內(nèi)(t取值0-130)并不能達(dá)到理想狀態(tài)。對于政府、企業(yè)和用戶可從如下幾方面著手改變演化路徑：(1)政府加大對企業(yè)不能很好阻止不良信息的懲罰力度P12，或提高對企業(yè)所經(jīng)營的平臺(tái)信息傳播質(zhì)量較高的獎(jiǎng)賞力度R12；(2)政府和企業(yè)加大對用戶違反信息傳播法律法規(guī)和散布虛假信息的懲罰力度(P13+P23)；(3)企業(yè)開發(fā)以AI等為支撐的實(shí)用技術(shù)，將AI算法和標(biāo)記信息源頭技術(shù)與用戶評級(jí)制度結(jié)合，方便處理信息，使其易于存證、易于追溯和易于追責(zé)，減少使用技術(shù)管理的額外成本，即降低(C21-C22)；(4)用戶學(xué)會(huì)對所發(fā)布或轉(zhuǎn)發(fā)的信息進(jìn)行源頭標(biāo)記以配合平臺(tái)企業(yè)技術(shù)管理的實(shí)施，審查信息，并且通過用戶評級(jí)制度細(xì)則有針對性地約束自己的信息發(fā)布行為，進(jìn)而減少自律的成本C31。接下來分析這四種演化途徑的仿真分析：

(3)企業(yè)充分開發(fā)信息審查的實(shí)用技術(shù)，將標(biāo)記信息源頭技術(shù)和用戶評級(jí)制度結(jié)合，使信息可存、可追溯和可追責(zé)，企業(yè)減少使用技術(shù)管理的額外成本，即降低(C21-C22)。下面分析(C21-C22)對企業(yè)行為策略的影響。

(4)用戶學(xué)會(huì)對信息進(jìn)行源頭標(biāo)記以配合平臺(tái)企業(yè)技術(shù)管理的實(shí)施，審查信息(自律)，進(jìn)而減少自律的成本C31，下面分析C31對企業(yè)行為策略的影響。

綜上所述，以下措施可以加快行為主體的策略選擇向理想狀態(tài)演化：政府加大對企業(yè)的懲罰力度P12，或提高對企業(yè)的獎(jiǎng)賞力度R12；政府和企業(yè)加大對用戶的懲罰力度P13和P23；企業(yè)減少使用技術(shù)管理的額外成本(C21-C22)；用戶減少自律的成本C31，如圖7所示。

五、結(jié) 語

本文構(gòu)建了政府、企業(yè)和用戶組成的治理不良信息主體行為策略的演化博弈模型，并進(jìn)行了仿真模擬。治理不良信息多元的主體決策行為不同，演化路徑不同，需在矛盾和沖突中尋求利益平衡點(diǎn)，才能使社交媒體平臺(tái)健康有序發(fā)展。社交媒體平臺(tái)發(fā)展的理想狀態(tài)是政府監(jiān)管、企業(yè)使用技術(shù)管理和用戶自律。仿真模擬分析表明，當(dāng)政府采取監(jiān)管策略時(shí)，對企業(yè)的懲罰力度或獎(jiǎng)勵(lì)力度越大，企業(yè)越傾向于選擇技術(shù)管理策略；當(dāng)企業(yè)開發(fā)信息審查技術(shù)，將AI算法和標(biāo)記信息源頭技術(shù)與用戶評級(jí)制度結(jié)合起來，可方便處理用戶發(fā)布的信息，使其易于存證、易于追溯和易于追責(zé)，企業(yè)減少使用技術(shù)管理的額外成本，傾向于選擇技術(shù)管理策略；用戶審查信息的成本越低，用戶越傾向于選擇自律策略，政府和企業(yè)完善對用戶發(fā)布信息的指導(dǎo)和監(jiān)督體系，加大對用戶傳播不良信息的懲罰力度會(huì)促使用戶選擇自律策略，改善網(wǎng)絡(luò)信息空間的信息傳播秩序，促進(jìn)社交媒體平臺(tái)的健康發(fā)展。

社交媒體平臺(tái)健康的有序繁榮發(fā)展需要參與各方主體的合作共治，筆者提出如下建議：

第一，加快制定和完善網(wǎng)絡(luò)信息傳播的相關(guān)法律法規(guī)。從政府層面明確相關(guān)法律法規(guī)的重要地位，從國家到地方政府協(xié)同立法，確立獎(jiǎng)懲機(jī)制，提高政策的執(zhí)行度。借鑒國外經(jīng)驗(yàn)，構(gòu)建符合中國國情的法律法規(guī)體系，提高政策的科學(xué)性。綜合社會(huì)各界意見，了解社會(huì)各界對信息傳播的需求，提高政策的適用性。

第二，確保企業(yè)信息發(fā)布平臺(tái)規(guī)范運(yùn)營。政府與企業(yè)共同制定社交媒體平臺(tái)信息發(fā)布的標(biāo)準(zhǔn)，提高信息發(fā)布質(zhì)量，規(guī)范信息過濾和管理流程，利用AI等高新技術(shù)構(gòu)建成熟的信息治理體系。此外，將政府監(jiān)管、行業(yè)自律與社會(huì)監(jiān)督相結(jié)合，加強(qiáng)AI算法與標(biāo)記信息源頭技術(shù)與用戶評級(jí)制度相結(jié)合，規(guī)范管理平臺(tái)用戶，建立獎(jiǎng)懲機(jī)制，保障社交媒體平臺(tái)健康、穩(wěn)定、有序地發(fā)展。

第三，提高網(wǎng)民的網(wǎng)絡(luò)媒介素養(yǎng)。媒介素養(yǎng)是一個(gè)國家網(wǎng)絡(luò)文明發(fā)展程度的顯著指標(biāo)。網(wǎng)絡(luò)媒介素養(yǎng)教育是指導(dǎo)網(wǎng)民在面對真假難辨的網(wǎng)絡(luò)信息時(shí)要具有慧眼識(shí)珠的能力，使網(wǎng)民成為有創(chuàng)新性、有擔(dān)當(dāng)、講文明、有禮貌的信息傳播者。網(wǎng)民在審查信息的同時(shí)有助于其提高自律意識(shí)和自身修養(yǎng)。只有這樣不斷提高網(wǎng)民媒體素養(yǎng)，才能充分發(fā)揮網(wǎng)絡(luò)主體在網(wǎng)絡(luò)生態(tài)中的自我修復(fù)、自我凈化和自我提升的能力，從而達(dá)到凈化網(wǎng)絡(luò)空間的目的。

本研究仍存在一定局限性，由于人工智能治理不良信息的功能仍不夠完善，仿真數(shù)據(jù)在模擬情況下進(jìn)行，雖有利于分析參與主體的行為特征，但精準(zhǔn)性有待進(jìn)一步提高。未來，人工智能技術(shù)發(fā)展將逐漸成熟，研究將獲得更多數(shù)據(jù)，從而更好地進(jìn)行數(shù)據(jù)挖掘，更深入地研究參與主體行為，為政府決策提供更多理論依據(jù)。