人工智能如何“人性化”：新聞倫理失范分析與對(duì)策

苗壯 方格格

摘要：隨著人工智能技術(shù)的迅速發(fā)展并實(shí)現(xiàn)與新聞傳播領(lǐng)域的深度融合，新聞生產(chǎn)實(shí)踐面臨倫理沖擊。人工智能對(duì)新聞生產(chǎn)的介入重構(gòu)了媒介組織結(jié)構(gòu)與新聞生產(chǎn)流程，由此帶來了新聞采集、新聞寫作編輯、新聞把關(guān)、新聞分發(fā)、受眾反饋各環(huán)節(jié)的倫理失范現(xiàn)象。本文依照新聞生產(chǎn)流程順序并結(jié)合國內(nèi)外相關(guān)案例，剖析新聞倫理失范狀況背后的成因，在治理對(duì)策與建議部分以實(shí)現(xiàn)“人機(jī)協(xié)同”發(fā)展為目標(biāo)，在工具理性與價(jià)值適切中尋找平衡。

關(guān)鍵詞：人工智能 算法新聞 倫理失范 人機(jī)協(xié)同

2018年后，算法驅(qū)動(dòng)的智能化信息平臺(tái)逐步取代傳統(tǒng)媒介成為社會(huì)信息傳播的主要渠道。隨著信息通訊技術(shù)的革新，人工智能技術(shù)與新聞傳播實(shí)踐實(shí)現(xiàn)了深度融合，新華社小程序新聞雷達(dá)、寫稿機(jī)器人“快筆小新”、路透社研發(fā)的Retuers News Tracer（新聞追蹤者）、美聯(lián)社研發(fā)的Heliograf（新聞機(jī)器人）等正在全流程介入新聞生產(chǎn)。

新聞倫理涵蓋新聞工作者的職業(yè)道德或職業(yè)倫理，也包含新聞媒體的價(jià)值取向、道德功能與倫理規(guī)范。當(dāng)人工智能拓寬了“新聞工作者”的邊界，全新的傳媒生態(tài)給新聞倫理與新聞職業(yè)道德建設(shè)提出了新的問題與挑戰(zhàn)，學(xué)界也不斷深入對(duì)人工智能技術(shù)的價(jià)值觀風(fēng)險(xiǎn)、公共性與正當(dāng)性等問題的批判性反思，溫德爾·瓦拉赫認(rèn)為“機(jī)器越自由，就越需要道德準(zhǔn)則”。2021年時(shí)值中國共產(chǎn)黨建黨百年與全面建設(shè)社會(huì)主義現(xiàn)代化國家新征程的開啟之年，筆者將聚焦新技術(shù)下的新聞傳播倫理失范問題，探尋治理對(duì)策來反哺新聞生產(chǎn)實(shí)踐。

一、智能化新聞實(shí)踐中倫理失范的狀況

新聞及其生產(chǎn)慣例一直受到技術(shù)的影響，在信息技術(shù)與新聞生態(tài)革命的過程中，新聞從業(yè)者的職業(yè)倫理共識(shí)也處在“流動(dòng)”之中。人工智能技術(shù)介入新聞生產(chǎn)各環(huán)節(jié)時(shí)將面臨倫理失范的風(fēng)險(xiǎn)。

1.新聞信息采集：新聞價(jià)值遭受重創(chuàng)，新聞線索嚴(yán)重失衡。人工智能參與新聞線索采集會(huì)帶來“信息權(quán)的彌散化”——新聞來源由掌握壟斷權(quán)力的專業(yè)媒體或政府機(jī)構(gòu)向公眾轉(zhuǎn)移。在新聞策劃與信息采集上，人工智能通過大數(shù)據(jù)計(jì)算捕獲受眾的閱讀偏好與關(guān)注焦點(diǎn)，并提出選題方案，以此迅速獲取新聞線索。如人民網(wǎng)的輿情監(jiān)測系統(tǒng)與美國的News Whip（新聞鞭）可實(shí)時(shí)追蹤社交平臺(tái)上千萬級(jí)別的數(shù)據(jù)，為新聞從業(yè)者提供新聞熱點(diǎn)與線索，預(yù)測事件的熱度與優(yōu)先級(jí)。在判斷“什么能成為”新聞的過程中，大數(shù)據(jù)抓取與篩選同樣面臨著價(jià)值偏移風(fēng)險(xiǎn)，人工智能抓取的新聞線索雖然吸引力高，但在新聞價(jià)值的多維考量中卻處于失衡狀態(tài)，大數(shù)據(jù)篩選機(jī)制也使得記者在新聞選擇中的主體性減弱，新聞價(jià)值判斷中的人性化考量被邊緣化。

作為人工智能的內(nèi)核，算法程序傾向于選取相同或相似的新聞素材與報(bào)道角度，由此導(dǎo)致新聞內(nèi)容搭配失衡與新聞價(jià)值選擇模式被解構(gòu)。弱勢群體的聲音與真正重要的議程在大數(shù)據(jù)測算中“失聲”與被邊緣化，并可能使暴力、色情、娛樂、獵奇等題材占比較大，傳統(tǒng)的新聞價(jià)值序列被解構(gòu)，個(gè)人趣味成為主流而社會(huì)公共價(jià)值被邊緣化，損害了新聞生產(chǎn)中長久積淀的價(jià)值選擇標(biāo)準(zhǔn)。

2.新聞生產(chǎn)流程：AI寫作缺乏人文情懷，把關(guān)機(jī)制不完善。首先在新聞寫作編輯中，AI新聞追求效率，人文情懷受到壓縮。人工智能與新聞寫作編輯深度融合，算法能從數(shù)據(jù)源處自動(dòng)獲取數(shù)據(jù)并進(jìn)行內(nèi)容整合，而后完成擬人化的內(nèi)容生產(chǎn)。國內(nèi)外新聞行業(yè)相繼推出“機(jī)器人新聞”“傳感器新聞”“無人機(jī)新聞”等算法新聞樣式。隨著算法新聞的普及，新聞寫作的倫理衡量標(biāo)尺日益讓渡給大數(shù)據(jù)與算法。2017年以來，“今日頭條”因內(nèi)容侵權(quán)、虛假廣告、低俗內(nèi)容等問題，被《人民日?qǐng)?bào)》、央視新聞等權(quán)威媒體及國家相關(guān)部門點(diǎn)名批評(píng)和約談?wù)?0余次。缺乏監(jiān)管的AI新聞在追求點(diǎn)擊率的商業(yè)邏輯下容易生產(chǎn)低質(zhì)量新聞作品。另外，算法程序無法表達(dá)人類世界的復(fù)雜情感，人工智能難以駕馭人文、民生等題材的新聞寫作。有學(xué)者通過實(shí)證研究發(fā)現(xiàn)，美國用戶更喜歡人類記者撰寫的新聞作品，而人類記者的新聞作品從消息來源到寫作內(nèi)容的可信度都高于組合作者（人與機(jī)器的組合）及機(jī)器人作者。

其次在新聞生產(chǎn)把關(guān)環(huán)節(jié)，事實(shí)核查存在諸多遺漏。人工智能時(shí)代，信息把關(guān)這一傳播權(quán)力已經(jīng)從新聞從業(yè)者向智能算法過渡。人工智能雖能成為新聞寫作的主體，卻不能實(shí)現(xiàn)有效的自我監(jiān)督。算法把關(guān)會(huì)產(chǎn)生一系列結(jié)構(gòu)性問題：基于用戶畫像的算法把關(guān)產(chǎn)生“過濾氣泡”效應(yīng)，缺乏透明性的算法把關(guān)容易受到外部因素干擾從而排擠掉有價(jià)值的新聞。傳統(tǒng)新聞生產(chǎn)的“把關(guān)”環(huán)節(jié)會(huì)被侵蝕，媒體的環(huán)境監(jiān)測功能也會(huì)不復(fù)存在。

另外，人工智能生產(chǎn)的算法新聞無法進(jìn)行有效的新聞事實(shí)核查，傳統(tǒng)新聞生產(chǎn)中層層遞進(jìn)的把關(guān)環(huán)節(jié)檢測和過濾出虛假消息，保證了報(bào)道的嚴(yán)謹(jǐn)性與媒體的權(quán)威性。而若將新聞選擇權(quán)交置于不透明狀態(tài)下的算法程序手中，新聞生產(chǎn)缺乏責(zé)任主體，極易造成疏漏。

3.新聞分發(fā)推送：受眾思維固化，深陷“信息繭房”。傳統(tǒng)媒體的新聞以傳播者的價(jià)值考量為主要依據(jù)，而算法分發(fā)和個(gè)性化推送以受眾興趣為主要考量，將數(shù)據(jù)、算法、人機(jī)有機(jī)結(jié)合起來，建立用戶和資源的個(gè)性化關(guān)聯(lián)機(jī)制，為用戶進(jìn)行精準(zhǔn)新聞投放與分發(fā)。平臺(tái)中新聞與意見的群體聚合是基于興趣產(chǎn)生的，這類以“用戶為中心”的新聞分發(fā)模式在一定程度上會(huì)帶來受眾信息接收的“窄化”與“繭房化”，使網(wǎng)絡(luò)傳播環(huán)境的多元性被削弱。同時(shí)，過度依賴算法推薦產(chǎn)生的新聞排序，影響著新聞受眾信息自由、信息觸達(dá)的權(quán)利，而當(dāng)信息推送與分發(fā)權(quán)從公共媒體機(jī)構(gòu)遷移到網(wǎng)絡(luò)技術(shù)公司，媒體空間中的公共價(jià)值受到威脅。

4.受眾“反饋”：存在隱私侵權(quán)風(fēng)險(xiǎn)，受眾權(quán)益無法保障。人工智能技術(shù)采集、分析與運(yùn)用數(shù)據(jù)開展相關(guān)互動(dòng)時(shí)，存在侵犯用戶的隱私權(quán)、著作權(quán)等行為。2016年美國大選期間，臉書上超過5000萬用戶的數(shù)據(jù)信息被“劍橋分析（Cambridge Analytica）”公司泄漏并用于目標(biāo)受眾的廣告推送以影響大選結(jié)果，而且美國皮尤研究中心證實(shí)美國公眾總體上對(duì)算法的能力持懷疑態(tài)度，公眾擔(dān)心算法會(huì)侵犯隱私并會(huì)暴露某種程度的人類偏見。2021年5月，國家互聯(lián)網(wǎng)信息辦公室對(duì)非法獲取、超范圍收集、過度索權(quán)等侵害個(gè)人信息的現(xiàn)象展開調(diào)查，以抖音、快手為主的105款互聯(lián)網(wǎng)平臺(tái)存在侵犯用戶隱私權(quán)的行為。用戶不應(yīng)當(dāng)陷入“便捷”與“隱私”的兩難境地，信息服務(wù)商如何在提升服務(wù)品質(zhì)的目標(biāo)下合法、合理地開展數(shù)據(jù)采集與分析，成為亟待解決的問題。

二、智能化新聞實(shí)踐中倫理失范的原因

當(dāng)人工智能技術(shù)進(jìn)入新聞生產(chǎn)領(lǐng)域，新聞采集、新聞寫作編輯、新聞把關(guān)、新聞分發(fā)、受眾反饋各環(huán)節(jié)的倫理失范現(xiàn)象層出不窮，深入分析可以發(fā)現(xiàn)智能化新聞實(shí)踐的倫理失范存在以下原因。

1.技術(shù)發(fā)展不適配，算法運(yùn)算存在偏見。算法進(jìn)入新聞生產(chǎn)與傳播的各個(gè)環(huán)節(jié)都是不透明的，其生產(chǎn)的新聞也存在著非客觀、非公正的部分，而且任何具體的計(jì)算法則與排名方式都凸顯著“優(yōu)先級(jí)”與“選擇性”，選擇哪些話題作為新聞，將哪些信息放置在新聞中，給予每條新聞多少推薦量等各環(huán)節(jié)運(yùn)算都有可能造成偏見。而這種偏見的解決辦法可以回歸到傳統(tǒng)新聞價(jià)值取向的“平衡性”與“組合性”上，即通過人工排布的方式，均衡新聞主題與類型，使受眾可最大限度接觸到具備重要價(jià)值的社會(huì)新聞。

2.新聞審查存在不足，人工核查缺位。在技術(shù)飛速發(fā)展的同時(shí)，人工核查新聞的缺位也加劇了倫理失范現(xiàn)象。眾多算法新聞人工核查不細(xì)致甚至未進(jìn)行人工二次核查就直接投放給受眾，導(dǎo)致信息失實(shí)或侵犯用戶權(quán)利的失范行為屢見不鮮。

3.規(guī)則體系不健全，內(nèi)容監(jiān)管維度需完善。目前，規(guī)制人工智能技術(shù)的內(nèi)部監(jiān)管流程與外部監(jiān)管體系并未成熟。在內(nèi)部監(jiān)管流程上，新聞行業(yè)內(nèi)部關(guān)于人工智能介入新聞生產(chǎn)各環(huán)節(jié)的篩查并不嚴(yán)密。很多專業(yè)媒體在信息采集與寫作編輯上，對(duì)新聞價(jià)值與社會(huì)效益并未嚴(yán)密把控，致使生產(chǎn)出質(zhì)量低下甚至虛假的新聞作品；在新聞把關(guān)與分發(fā)上，專業(yè)媒體的分發(fā)也未有效避免信息“窄化”，投送內(nèi)容同質(zhì)化且事實(shí)核查也不嚴(yán)密。在外部監(jiān)管體系上，目前我國關(guān)于人工智能技術(shù)應(yīng)用規(guī)范、定罪量刑法律體系還存在很多空白點(diǎn)，法律約束與政府監(jiān)管不足，導(dǎo)致倫理失范現(xiàn)象頻發(fā)。

三、規(guī)制智能化新聞倫理失范的對(duì)策

智能算法為生產(chǎn)關(guān)系帶來深刻變革，由于算法的不透明性、擴(kuò)散性與分散性，給社會(huì)治理帶來了挑戰(zhàn)，需從新聞參與者、媒介平臺(tái)、技術(shù)開發(fā)者和政府等多元主體共治的路徑提出新聞倫理失范的糾正建議。

1.新聞參與者：堅(jiān)守職業(yè)道德，提升人文關(guān)懷。為應(yīng)對(duì)人工智能技術(shù)對(duì)新聞行業(yè)的全流程介入，《中國新聞工作者職業(yè)道德準(zhǔn)則》2019版中第五條增加了“保持思維的敏銳性和開放度，認(rèn)識(shí)新事物、把握新規(guī)律”與“增強(qiáng)新聞報(bào)道的親和力、吸引力、感染力，采寫更多有思想、有溫度、有品質(zhì)的精品佳作”的要求。

面對(duì)人工智能時(shí)代下的倫理失范困境，新聞媒體工作者首先應(yīng)遵守新聞職業(yè)道德準(zhǔn)則，堅(jiān)守新聞?wù)x；其次，在完成真實(shí)客觀的文本寫作之外，還應(yīng)創(chuàng)作更具人文關(guān)懷的深度報(bào)道，將更多精力放在把握新聞行業(yè)的頂層架構(gòu)上，在合理的框架內(nèi)創(chuàng)作出更具深刻洞見的新聞內(nèi)容；再者，應(yīng)始終堅(jiān)守新聞?wù)鎸?shí)的底線，收集與核實(shí)一手資料，力求完整全面地還原新聞事實(shí)；最后，在成為致力于向用戶推薦新聞的生產(chǎn)者的同時(shí)，需要掌握與適應(yīng)平臺(tái)推薦與審核的算法規(guī)則。

2.媒介平臺(tái)：提升生產(chǎn)透明度，加強(qiáng)新聞?lì)愋瓦m配。媒介平臺(tái)是新聞算法開發(fā)與運(yùn)用的重要主體，也是算法治理的重要參與者。為達(dá)到“科技向善”“科技惠民”的目標(biāo)，應(yīng)當(dāng)采納公私合作的治理模式，發(fā)揮政府規(guī)制與企業(yè)自治的雙重作用。在相關(guān)法律法規(guī)中對(duì)新聞生產(chǎn)責(zé)任主體進(jìn)一步明確，針對(duì)AI新聞引發(fā)的倫理失范問題建立健全審查機(jī)制。同時(shí)，政府應(yīng)從宏觀維度把握與指導(dǎo)新聞平臺(tái)的公共價(jià)值導(dǎo)向。

在涉及新聞傳播業(yè)務(wù)的網(wǎng)絡(luò)平臺(tái)企業(yè)自治與行業(yè)自律方面，首先，媒介平臺(tái)應(yīng)提升新聞生產(chǎn)的透明度，傳授給公眾對(duì)新聞生產(chǎn)和傳播技術(shù)應(yīng)用的必要認(rèn)知和理解；其次，通過人機(jī)協(xié)同加強(qiáng)事實(shí)核查，運(yùn)用大數(shù)據(jù)比對(duì)實(shí)現(xiàn)“技術(shù)與網(wǎng)絡(luò)公眾協(xié)同”的事實(shí)核查，最大程度降低人工智能技術(shù)帶來失實(shí)報(bào)道、失范報(bào)道的風(fēng)險(xiǎn)；最后，閱讀不同類型的新聞時(shí)，用戶有不同的期望和需求，比如，財(cái)經(jīng)和體育類新聞主要通過提供實(shí)時(shí)的數(shù)據(jù)更新展現(xiàn)價(jià)值，而民生新聞中受眾更期待獲取情感共鳴、文化共識(shí)與人文內(nèi)涵，這意味著媒體平臺(tái)應(yīng)該檢查該類新聞是否適合使用機(jī)器人寫作，根據(jù)新聞?lì)愋偷牟煌M(jìn)行相對(duì)應(yīng)的技術(shù)選擇。

3.技術(shù)開發(fā)者：改善技術(shù)弊端，避免信息“繭房化”。技術(shù)開發(fā)人員應(yīng)不斷完善優(yōu)化算法，構(gòu)建更科學(xué)合理的算法模型，尋求交往理性提升“人機(jī)協(xié)作”能力，使技術(shù)效用與人工生產(chǎn)流程更契合、更匹配，融合協(xié)同發(fā)揮互補(bǔ)價(jià)值。

一是了解用戶的認(rèn)知過程，調(diào)研受眾反饋的可用性、滿意度，并在設(shè)計(jì)工作中加以反映，構(gòu)建更科學(xué)合理的算法模型，增加算法新聞各個(gè)生產(chǎn)環(huán)節(jié)的把關(guān)力度，從新聞采集到受眾反饋進(jìn)行嚴(yán)密的人工核查，對(duì)存在新聞倫理失范的算法新聞進(jìn)行修改、排除；二是在智能算法程序設(shè)計(jì)端進(jìn)行提升，加入“人性化”的需求，不僅通過算法識(shí)別的用戶個(gè)人興趣來分發(fā)新聞，還要基于社會(huì)發(fā)展的政治、經(jīng)濟(jì)、文化現(xiàn)狀實(shí)時(shí)推送分發(fā)改善極端個(gè)性化的分發(fā)機(jī)制，必要時(shí)刻采用人工干預(yù)的手段降低用戶接收信息過分“窄化”的風(fēng)向。

4.國家規(guī)制：制定法律法規(guī)，尋求外部監(jiān)督。規(guī)避人工智能給新聞傳播帶來的倫理風(fēng)險(xiǎn)首先要做到有法可依，從社會(huì)法規(guī)和行業(yè)法規(guī)兩個(gè)維度對(duì)新興技術(shù)、新興產(chǎn)品進(jìn)行規(guī)范。一是明確大數(shù)據(jù)抓取、提取和使用的邊界，從而保護(hù)用戶的基本權(quán)利，包括隱私權(quán)、名譽(yù)權(quán)、肖像權(quán)等，部分國家和地區(qū)已對(duì)人工智能進(jìn)行立法，例如，歐盟的《一般性數(shù)據(jù)保護(hù)法案》與美國紐約的《算法問責(zé)法案》；二是算法新聞生產(chǎn)傳播的各個(gè)環(huán)節(jié)需要被納入社會(huì)監(jiān)督，國家相關(guān)部門應(yīng)引導(dǎo)內(nèi)容生產(chǎn)平臺(tái)對(duì)其生產(chǎn)流程進(jìn)行透明化、公開化處理，并開放暢通渠道接受公眾意見；三是算法新聞需保持商業(yè)與公共性的平衡，需要在議程設(shè)置中保持新聞對(duì)社會(huì)重要議題、弱勢群體的關(guān)注，新聞內(nèi)容的均衡應(yīng)當(dāng)受到社會(huì)各方的檢閱與監(jiān)督。

隨著媒介化社會(huì)的趨勢加深，算法作為媒介的底層邏輯深深嵌入生活的方方面面，算法治理的責(zé)任主體包括但不限于以上提及的四個(gè)主體，還需關(guān)注與算法生產(chǎn)有聯(lián)系的各個(gè)組成部分。只有多環(huán)節(jié)實(shí)現(xiàn)協(xié)同治理，才能實(shí)現(xiàn)算法的“人性化”發(fā)展路徑。

作者苗壯系湖南大學(xué)新聞與傳播學(xué)院2019級(jí)碩士研究生

方格格系清華大學(xué)新聞與傳播學(xué)院2019級(jí)博士研究生

參考文獻(xiàn)

[1]喻國明，楊瑩瑩，閆巧妹.算法即權(quán)力：算法范式在新聞傳播中的權(quán)力革命[J].編輯之友，2018（05）.

[2]喻國明，杜楠楠.智能型算法分發(fā)的價(jià)值迭代：“邊界調(diào)適”與合法性的提升——以“今日頭條”的四次升級(jí)迭代為例[J].新聞?dòng)浾撸?019（11）.

[3]羅昕，肖恬.范式轉(zhuǎn)型：算法時(shí)代把關(guān)理論的結(jié)構(gòu)性考察[J].新聞界，2019（03）.

[4]趙瑜.人工智能時(shí)代的新聞倫理：行動(dòng)與治理[J].人民論壇·學(xué)術(shù)前沿，2018（24）.

[5]陳昌鳳，虞鑫.智能時(shí)代的信息價(jià)值觀研究：技術(shù)屬性、媒介語境與價(jià)值范疇[J].編輯之友，2019（06）.

[6]劉海明.算法技術(shù)對(duì)傳統(tǒng)新聞理念的解構(gòu)與涵化[J].南京社會(huì)科學(xué)，2019（01）.

[7]師文，陳昌鳳.馴化、人機(jī)傳播與算法善用：2019年智能媒體研究[J].新聞界，2020（01）.

[8]鄭保衛(wèi)，趙新寧.新時(shí)代 新準(zhǔn)則 新要求 新境界——對(duì)新修訂《中國新聞工作者職業(yè)道德準(zhǔn)則》的解讀[J].中國記者，2020（01）.

【編輯：朱垚穎】