社交媒體平臺(tái)的信息失序風(fēng)險(xiǎn)與治理路徑

○陳曉佳 陳力鈞

一、研究背景及意義

2017 年沃德?tīng)柡偷吕丈袣W洲委員會(huì)報(bào)告中提出信息失序的概念，指出信息失序主要涵蓋錯(cuò)誤信息（misinformation）、虛假信息（disinformation）與惡意信息（malinformation）三種類型[1]。信息失序現(xiàn)象是不良信息在網(wǎng)絡(luò)空間傳播蔓延，內(nèi)容生態(tài)系統(tǒng)被污染的傳播亂象的概括。信息失序風(fēng)險(xiǎn)直接關(guān)乎人們獲取信息的正確性和可靠性，關(guān)乎大眾受輿論操縱和觀念誤導(dǎo)的可能性，關(guān)乎網(wǎng)絡(luò)空間的意識(shí)形態(tài)安全。社交媒體憑借算法推薦技術(shù)成為了當(dāng)前網(wǎng)絡(luò)空間如日中天的流量聚集地，然而更加先進(jìn)的信息分發(fā)技術(shù)并未使信息失序問(wèn)題得到妥善解決，而且在算法推薦高效傳播機(jī)制下波及范圍更加廣泛、負(fù)面效應(yīng)更為嚴(yán)重，社交媒體平臺(tái)的推薦系統(tǒng)甚至充當(dāng)了負(fù)面信息引發(fā)輿情漩渦的導(dǎo)火索與推手。根據(jù)何塞·范·迪克（José van Dijck）等學(xué)者對(duì)當(dāng)下平臺(tái)社會(huì)的觀察，由互聯(lián)網(wǎng)巨頭所創(chuàng)建的基礎(chǔ)設(shè)施平臺(tái)與行業(yè)平臺(tái)的合力已經(jīng)實(shí)現(xiàn)了對(duì)公共生活的全方位滲透[2]。社交媒體平臺(tái)的信息秩序研究，已經(jīng)成為了網(wǎng)絡(luò)內(nèi)容生態(tài)、意識(shí)形態(tài)秩序治理的重要議題。

從社會(huì)生活層面看，社交媒體平臺(tái)上的信息秩序研究具有重要的現(xiàn)實(shí)意義。隨著社交媒體平臺(tái)的發(fā)展，信息的真假性、合法性成為了影響人們思維認(rèn)知、行為交往、生產(chǎn)生活的重要因素，如何建立更加準(zhǔn)確的信息認(rèn)證制度、公正的信息標(biāo)準(zhǔn)等也亟待進(jìn)一步探討和建構(gòu)。此外，隨著社交媒體平臺(tái)的應(yīng)用越來(lái)越廣泛，人們也開(kāi)始將社交媒體上的信息作為自己的人生規(guī)劃和生活決策的參考，因此，在社交媒體上建立更加健康和積極向上的信息生態(tài)的重要性日益凸顯。社交媒體平臺(tái)的信息秩序研究旨在維護(hù)社交媒體平臺(tái)上信息的真實(shí)性、可信性和公正性，提高社交媒體平臺(tái)的社會(huì)價(jià)值和用戶體驗(yàn)，治理因社交媒體平臺(tái)的普及而不斷出現(xiàn)的信息難題，具有鮮明的現(xiàn)實(shí)導(dǎo)向和豐富的理論價(jià)值。

二、社交媒體信息失序的風(fēng)險(xiǎn)表征

（一）惡意內(nèi)容擴(kuò)散風(fēng)險(xiǎn)

網(wǎng)絡(luò)流量是互聯(lián)網(wǎng)時(shí)代大眾認(rèn)可度與話語(yǔ)影響力的影響因素，是信息傳播有效性的評(píng)判準(zhǔn)則，是信息發(fā)布者獲取經(jīng)濟(jì)效益的關(guān)鍵樞紐，是互聯(lián)網(wǎng)項(xiàng)目的永恒主題與主要目標(biāo)[3]。社交媒體平臺(tái)在“流量為王”的規(guī)則驅(qū)使下，催生了各類博眼球、博流量的操作行為，其中危害性最大的就是惡意內(nèi)容傳播。惡意內(nèi)容包括虛假、騷擾、欺詐、暴力、仇恨言論、色情、賭博等信息，這些內(nèi)容的傳播對(duì)個(gè)人和社會(huì)產(chǎn)生負(fù)面影響。首先，惡意內(nèi)容的傳播容易引發(fā)關(guān)注和轉(zhuǎn)發(fā)，甚至成為熱門話題，進(jìn)而獲得更大的傳播范圍和影響力。這會(huì)加劇其對(duì)社會(huì)的影響，導(dǎo)致社會(huì)的公共秩序和社會(huì)和諧受到威脅。其次，惡意內(nèi)容的傳播給個(gè)人和社會(huì)帶來(lái)心理傷害。對(duì)于網(wǎng)絡(luò)暴力或欺詐等行為的受害者，可能會(huì)引起深度的心理創(chuàng)傷，這對(duì)一個(gè)人的健康和幸福都有負(fù)面影響。第三，惡意內(nèi)容也會(huì)傷害企業(yè)的聲譽(yù)。企業(yè)如果不能很好地管理在線社區(qū)，無(wú)法遏制惡意內(nèi)容的傳播，并且不能有效回應(yīng)和解決與其產(chǎn)品或服務(wù)相關(guān)的負(fù)面消息，可能會(huì)導(dǎo)致客戶和消費(fèi)者的不信任和離開(kāi)，損害企業(yè)形象。造成這些惡意內(nèi)容傳播風(fēng)險(xiǎn)的原因有多方面。一方面，社交媒體平臺(tái)的技術(shù)特點(diǎn)使得信息可以隨意傳播，而平臺(tái)缺乏有效的審核機(jī)制，容易造成不良信息的擴(kuò)散；另一方面，社交媒體平臺(tái)的商業(yè)模式以用戶流量為導(dǎo)向，利用算法推薦，基于用戶信息、瀏覽情況等一些網(wǎng)絡(luò)行為習(xí)慣等數(shù)據(jù)判斷用戶感興趣的內(nèi)容并進(jìn)行推送[4]，加之平臺(tái)可能會(huì)對(duì)流量進(jìn)行優(yōu)化，使得具有極端性、爭(zhēng)議性的內(nèi)容更容易被推薦，隨著算法推薦的深度使用，低俗信息泛濫的問(wèn)題也逐步嚴(yán)重[5]。這進(jìn)一步加劇了惡意內(nèi)容的傳播風(fēng)險(xiǎn)。

（二）用戶隱私泄露風(fēng)險(xiǎn)

社交媒體平臺(tái)作為一個(gè)高度互動(dòng)的社交平臺(tái)，涉及大量的個(gè)人信息，因此用戶隱私泄露風(fēng)險(xiǎn)成為了其中一個(gè)重要問(wèn)題。在使用社交媒體平臺(tái)時(shí)，我們常常會(huì)輸入個(gè)人信息、發(fā)布個(gè)人照片或視頻等敏感內(nèi)容，這些信息容易被盜取引發(fā)隱私泄露風(fēng)險(xiǎn)。社交媒體平臺(tái)用戶隱私泄露的風(fēng)險(xiǎn)主要包括以下幾個(gè)方面：一是個(gè)人信息被非法獲取。社交媒體平臺(tái)是一個(gè)集中了大量用戶個(gè)人信息的場(chǎng)所，這些信息包括姓名、性別、年齡、出生日期、家庭住址、聯(lián)系方式、職業(yè)信息等，其中一些信息可能還涉及賬號(hào)密碼等敏感內(nèi)容。如果不法分子通過(guò)黑客技術(shù)、網(wǎng)絡(luò)釣魚等手段獲取了這些信息，就可能導(dǎo)致用戶的個(gè)人信息泄露，帶來(lái)經(jīng)濟(jì)損失和個(gè)人安全隱患。二是發(fā)布的內(nèi)容被濫用。在社交媒體平臺(tái)發(fā)布的各種內(nèi)容可能被不法分子濫用，這些內(nèi)容可能被用來(lái)進(jìn)行網(wǎng)絡(luò)欺詐、造謠傳謠、發(fā)起惡意攻擊等，給個(gè)人和社會(huì)帶來(lái)不良影響。三是精準(zhǔn)投放廣告的隱私風(fēng)險(xiǎn)。社交媒體平臺(tái)通過(guò)用戶行為數(shù)據(jù)，可以對(duì)用戶進(jìn)行精準(zhǔn)的廣告投放，但這種廣告推送方式會(huì)涉及用戶的個(gè)人信息，例如用戶的興趣愛(ài)好、購(gòu)買記錄等，如果這些信息被泄露或遭到濫用，就有可能導(dǎo)致用戶的隱私泄露。四是賬號(hào)被盜用。由于社交媒體平臺(tái)的賬號(hào)往往需要綁定手機(jī)或電子郵箱，如果這些綁定的信息被不法分子獲取，就可能導(dǎo)致賬號(hào)被盜用，不法分子可以通過(guò)賬號(hào)和密碼進(jìn)行各種操作，甚至涉及金錢和安全問(wèn)題。

（三）平臺(tái)數(shù)據(jù)濫用風(fēng)險(xiǎn)

社交媒體平臺(tái)的出現(xiàn)，為人們的溝通和交流帶來(lái)了便利。它們讓人們可以輕松地與朋友、家人和同事保持聯(lián)系，同時(shí)也成為了人們獲取信息和娛樂(lè)的主要來(lái)源。然而，這些平臺(tái)所搜集到的大量用戶數(shù)據(jù)，也讓它們成為了數(shù)據(jù)泄露和濫用的風(fēng)險(xiǎn)所在。首先，社交媒體平臺(tái)數(shù)據(jù)泄露的風(fēng)險(xiǎn)通常來(lái)自于平臺(tái)自身的安全漏洞或黑客攻擊。例如，2018 年Facebook 的Cambridge Analytica丑聞就是因?yàn)槠脚_(tái)泄露了約5000 多萬(wàn)用戶數(shù)據(jù)，這些數(shù)據(jù)后來(lái)被用于影響美國(guó)總統(tǒng)選舉結(jié)果。[6]其次，社交媒體平臺(tái)數(shù)據(jù)濫用的風(fēng)險(xiǎn)也來(lái)自于平臺(tái)本身濫用用戶數(shù)據(jù)的情況。一些社交媒體平臺(tái)可能出售用戶數(shù)據(jù)以獲取更多的營(yíng)收，或者將用戶數(shù)據(jù)用于廣告定位等商業(yè)目的。最后，社交媒體平臺(tái)的數(shù)據(jù)濫用風(fēng)險(xiǎn)還來(lái)自于第三方應(yīng)用程序的濫用。這些應(yīng)用程序通常需要用戶提供賬號(hào)授權(quán)來(lái)使用平臺(tái)上的數(shù)據(jù)，但是這些應(yīng)用程序可能會(huì)濫用用戶數(shù)據(jù)。例如，一些應(yīng)用程序可能會(huì)通過(guò)收集用戶的聯(lián)系人信息，然后以用戶的名義向他們發(fā)送垃圾郵件或釣魚郵件?？傮w來(lái)說(shuō)，社交媒體平臺(tái)的數(shù)據(jù)濫用風(fēng)險(xiǎn)仍然存在，但是用戶可以通過(guò)關(guān)注隱私政策、謹(jǐn)慎選擇分享內(nèi)容、更換較安全的密碼和開(kāi)啟驗(yàn)證等措施來(lái)減少這些風(fēng)險(xiǎn)。

三、社交媒體平臺(tái)信息失序風(fēng)險(xiǎn)治理路徑

（一）建立健全信息發(fā)布規(guī)范

發(fā)布準(zhǔn)則是社交媒體平臺(tái)維護(hù)信息秩序和用戶體驗(yàn)的重要手段。它規(guī)定了用戶在平臺(tái)上發(fā)布內(nèi)容的標(biāo)準(zhǔn)和限制，旨在防止惡意行為和不良內(nèi)容的傳播，規(guī)范用戶的發(fā)布行為，保護(hù)平臺(tái)的聲譽(yù)和用戶的合法權(quán)益。建立健全發(fā)布準(zhǔn)則是社交媒體平臺(tái)的重要職責(zé)之一。首先，需要制定明確的發(fā)布準(zhǔn)則，規(guī)定不良內(nèi)容的標(biāo)準(zhǔn)和可接受內(nèi)容的范圍。例如，禁止色情、暴力等內(nèi)容，并制定相應(yīng)的處罰措施。同時(shí)，需要強(qiáng)調(diào)信息真實(shí)性，發(fā)現(xiàn)虛假信息應(yīng)及時(shí)下架，以避免帶來(lái)不必要的社會(huì)影響。發(fā)布準(zhǔn)則也應(yīng)隨著平臺(tái)的發(fā)展而不斷更新，以適應(yīng)不同用戶群體的需求。其次，社交媒體平臺(tái)需要積極與用戶互動(dòng)，收集用戶反饋和意見(jiàn)，了解他們對(duì)平臺(tái)和發(fā)布準(zhǔn)則的評(píng)價(jià)和改進(jìn)建議。這將有助于加強(qiáng)平臺(tái)對(duì)惡意行為和不良內(nèi)容的監(jiān)控，并更好地與相關(guān)規(guī)章制度結(jié)合起來(lái)。最后，發(fā)布準(zhǔn)則應(yīng)該是透明的，以便用戶正確了解和遵守規(guī)定，并及時(shí)接收到新的發(fā)布準(zhǔn)則。

（二）完善內(nèi)容審核機(jī)制

社交媒體平臺(tái)因?yàn)槠湫畔鞑サ膹V泛性和實(shí)時(shí)性，難免出現(xiàn)一些不健康的信息。針對(duì)這一問(wèn)題，要堅(jiān)持正確價(jià)值導(dǎo)向，完善內(nèi)容審核機(jī)制，推進(jìn)算法透明，倒逼平臺(tái)自律。[7]社交媒體平臺(tái)的內(nèi)容審核機(jī)制在信息秩序治理中扮演著重要角色，加強(qiáng)內(nèi)容審核的嚴(yán)格性和高標(biāo)準(zhǔn)對(duì)于保障信息的真實(shí)性和可信性至關(guān)重要。

嚴(yán)格的抽查流程。平臺(tái)應(yīng)建立專門的審核小組，針對(duì)發(fā)布的內(nèi)容進(jìn)行抽查審核，及時(shí)處理用戶舉報(bào)情況。同時(shí)在審核機(jī)制的實(shí)施上，應(yīng)加強(qiáng)審核人員的培訓(xùn)和素質(zhì)提升，加大資源投入和技術(shù)升級(jí)，提高審核效率和準(zhǔn)確性。內(nèi)容審核標(biāo)準(zhǔn)應(yīng)盡可能與社會(huì)現(xiàn)實(shí)相符合，特別是對(duì)于敏感內(nèi)容，在審核時(shí)尤其要關(guān)注它對(duì)公眾的影響和破壞程度。此外，應(yīng)建立全面的投訴處理機(jī)制，鼓勵(lì)用戶參與，有效反饋虛假信息和不良內(nèi)容。這將有助于確保社交媒體平臺(tái)的內(nèi)容質(zhì)量，并為其信息秩序治理提供有效支持。各社交媒體平臺(tái)之間還應(yīng)打通壁壘，建立跨平臺(tái)協(xié)作機(jī)制。[8]

（三）推進(jìn)信息監(jiān)管問(wèn)責(zé)

社交媒體平臺(tái)上信息的混亂、不良、虛假等問(wèn)題的增加，會(huì)對(duì)社會(huì)公眾、經(jīng)濟(jì)發(fā)展等方面帶來(lái)負(fù)面影響。因此，需要完善社交媒體平臺(tái)的監(jiān)管和問(wèn)責(zé)機(jī)制，以確保社交媒體平臺(tái)上發(fā)布信息的合法性和正確性。針對(duì)社交媒體平臺(tái)的法律法規(guī)和政策制定應(yīng)當(dāng)更加完善和有前瞻性，明確社交媒體平臺(tái)的責(zé)任和義務(wù)。對(duì)于明顯偏離信息傳播準(zhǔn)則和道德規(guī)范的平臺(tái)和用戶進(jìn)行有效的制裁和處罰。同時(shí)，完善政府監(jiān)管和監(jiān)察機(jī)制，確保公眾利益得到充分保障。大眾作為社交媒體平臺(tái)的使用者，也要積極參與和監(jiān)督。應(yīng)建立用戶舉報(bào)制度，積極響應(yīng)用戶的舉報(bào)，加強(qiáng)信息監(jiān)管。平臺(tái)應(yīng)增加用戶舉報(bào)不實(shí)信息的獎(jiǎng)勵(lì)機(jī)制，提高用戶的舉報(bào)積極性。此外，社交媒體中發(fā)布位置及行動(dòng)軌跡情況導(dǎo)致隱私泄露，也可以通過(guò)位置抑制和位置替換技術(shù)來(lái)保護(hù)移動(dòng)型社交媒體用戶隱私。[9]綜上所述，在建立健全監(jiān)管和問(wèn)責(zé)機(jī)制以及用戶參與和監(jiān)督的基礎(chǔ)上，可以最大程度地減少社交媒體平臺(tái)上虛假、誤導(dǎo)、有害信息的傳播。同時(shí)，政府部門和相關(guān)機(jī)構(gòu)應(yīng)積極推動(dòng)社交媒體平臺(tái)運(yùn)營(yíng)規(guī)范化，重視社交媒體監(jiān)管的法律合規(guī)性，形成多方合作的管理格局，保障社交媒體的健康發(fā)展。

四、結(jié)論和展望

社交媒體平臺(tái)在信息傳播和社交互動(dòng)方面發(fā)揮著重要作用，成為現(xiàn)代媒體生態(tài)中不可或缺的一部分，但其快速發(fā)展也帶來(lái)了信息失序風(fēng)險(xiǎn)，如惡意內(nèi)容傳播、用戶隱私泄露和數(shù)據(jù)濫用等問(wèn)題。這些問(wèn)題對(duì)社交媒體平臺(tái)的生態(tài)和用戶利益的影響不可忽視。治理社交媒體平臺(tái)需要社會(huì)各方共同參與，從技術(shù)、政策和道德規(guī)范等多角度入手，實(shí)現(xiàn)對(duì)平臺(tái)的有效監(jiān)管和保護(hù)用戶權(quán)益。政府加強(qiáng)監(jiān)管和法律法規(guī)建設(shè)，企業(yè)加強(qiáng)自律和技術(shù)手段應(yīng)對(duì)風(fēng)險(xiǎn)，社會(huì)積極參與監(jiān)督和管理，共同打造健康、安全、有序的社交媒體生態(tài)。

社交媒體平臺(tái)發(fā)展快速，一些問(wèn)題和風(fēng)險(xiǎn)也在不斷涌現(xiàn)和演化。因此，本文所提出的問(wèn)題和解決方案可能會(huì)隨著社交媒體平臺(tái)的發(fā)展而產(chǎn)生變化。此外，由于本研究所關(guān)注的是整個(gè)社交媒體平臺(tái)的信息秩序，因此研究過(guò)程中存在數(shù)據(jù)來(lái)源和覆蓋范圍的限制，對(duì)一些細(xì)節(jié)問(wèn)題可能存在局限性。未來(lái)的研究可以從以下幾個(gè)方面展開(kāi)：首先，需要深入挖掘社交媒體平臺(tái)中各種問(wèn)題背后的社會(huì)、文化和技術(shù)因素，以期提出更加深入和有效的治理方案。其次，需要探討社交媒體平臺(tái)治理的多維度性和多層次性，探索各種治理策略的協(xié)同效應(yīng)和優(yōu)化路徑。此外，需要加強(qiáng)社交媒體平臺(tái)與用戶、政府和其他利益相關(guān)者的溝通和合作，以建立更加開(kāi)放、透明和可持續(xù)的社交媒體平臺(tái)生態(tài)。最后，需要探索新技術(shù)和新方法在社交媒體平臺(tái)治理中的應(yīng)用，以提高治理效率和效果。只有通過(guò)不斷地深入研究和有效治理，才能建立更加健康、可持續(xù)和良好的社交媒體平臺(tái)生態(tài)。

注釋：

[1]WardleC,&Derakhshan H.Information disorder:Towardan interdisciplinary frame work for research and policymaking[R].Council of Europe Report，2017.

[2]VanDijckJ，PoellT，De Waal M.The plat form society：Public values in a connective world[M].Oxford University Press，2018.

[3]陳力鈞,李天麗.互聯(lián)網(wǎng)時(shí)代網(wǎng)絡(luò)意識(shí)形態(tài)話語(yǔ)權(quán)建構(gòu)研究——基于內(nèi)容、渠道與流量三重向度的思考[J].江西理工大學(xué)學(xué)報(bào)，2022（02）：3-4.

[4]韓宇航.社交媒體平臺(tái)算法推薦的規(guī)制方向探究[J].今傳媒，2022，30（10）：28-31.

[5]吳衛(wèi)華.算法推薦在公共傳播中的理性問(wèn)題[J].當(dāng)代傳播，2017（03）：79-81.

[6]黃靜茹.社交媒體平臺(tái)中的隱私關(guān)注、披露和保護(hù)[D].南京師范大學(xué)，2020.

[7]陳力鈞，陳志勇.意識(shí)形態(tài)的算法風(fēng)險(xiǎn)及治理路徑研究[J].中共天津市委黨校學(xué)報(bào)，2022（03）：67-75.

[8]孟倫.互聯(lián)網(wǎng)時(shí)代社交媒體平臺(tái)的文化癥候與治理對(duì)策[J].出版廣角，2021（22）.

[9]劉向宇，劉竹豐，夏秀峰等.一種保持軌跡數(shù)據(jù)高可用性的隱式位置訪問(wèn)隱私保護(hù)技術(shù)[J].沈陽(yáng)航空航天大學(xué)學(xué)報(bào)，2019（02）：66-75.