人機(jī)協(xié)同視角下生成式AI新聞的前沿應(yīng)用與規(guī)制進(jìn)路

蔣雪穎 劉欣 許靜

【摘要】生成式人工智能深刻影響當(dāng)下的新聞生產(chǎn)模式和媒介可信度。首先梳理了生成式人工智能應(yīng)用于新聞生產(chǎn)的演進(jìn)歷程；其次分析人機(jī)協(xié)同下的新聞實(shí)踐，實(shí)現(xiàn)了從替代模式到共生模式的主體協(xié)同、從PGC到AIGC的文本協(xié)同、從單向線性趨向多元網(wǎng)狀的流程協(xié)同；最后探討人機(jī)協(xié)同下的新聞規(guī)制，以構(gòu)筑信任機(jī)制為核心，將技術(shù)信任、人機(jī)信任和制度信任三維協(xié)同，以責(zé)任鏈調(diào)動(dòng)多元主體共同參與規(guī)制。為我國(guó)新聞生產(chǎn)實(shí)踐打開(kāi)人機(jī)協(xié)同的可能性，同時(shí)為建構(gòu)可持續(xù)的人機(jī)共生生態(tài)提供規(guī)制進(jìn)路。

【關(guān)鍵詞】生成式人工智能；ChatGPT；新聞生產(chǎn)；人機(jī)協(xié)同；智能傳播

生成式人工智能（Generative Artificial Intelligence，簡(jiǎn)稱GAI）正在重構(gòu)著當(dāng)下新聞生產(chǎn)模式和產(chǎn)業(yè)鏈結(jié)構(gòu)，為新聞生產(chǎn)者的主體地位、新聞生產(chǎn)的內(nèi)容、傳播形式、受眾對(duì)新聞的接收與反饋等帶來(lái)全方位變革，并倒逼著“人機(jī)關(guān)系”的觀念從敵對(duì)論轉(zhuǎn)向協(xié)同論[1]。本研究從人機(jī)協(xié)同理論出發(fā)，對(duì)國(guó)際新聞業(yè)的前沿實(shí)踐案例進(jìn)行分析，旨在彌合現(xiàn)有研究在經(jīng)驗(yàn)材料上的不足，一方面為我國(guó)新聞生產(chǎn)實(shí)踐探尋人機(jī)關(guān)系新的可能性，另一方面為建構(gòu)可持續(xù)的人機(jī)協(xié)同新聞生態(tài)提供規(guī)制進(jìn)路。

一、演進(jìn)歷程：生成式AI與新聞生產(chǎn)的結(jié)合

以ChatGPT為代表的生成式人工智能技術(shù)問(wèn)世以來(lái)，它在提升工作流程效率、文本創(chuàng)建、更正、搜索、研究、翻譯等方面展現(xiàn)了巨大的潛力。世界新聞出版商協(xié)會(huì)調(diào)查顯示，全流程效率提升、翻譯、個(gè)性化新聞是當(dāng)前人工智能技術(shù)應(yīng)用于新聞生產(chǎn)實(shí)踐中最具潛力的三大領(lǐng)域[2]。學(xué)者Diakopoulos總結(jié)了GAI工具在新聞生產(chǎn)實(shí)踐中的主要功能：（1）針對(duì)文本的處理與生成，例如評(píng)估文本的新聞價(jià)值；分析文檔并進(jìn)行分類和標(biāo)記；處理多語(yǔ)言文本的原始數(shù)據(jù)并進(jìn)行翻譯；審核并分類評(píng)論，如“仇恨言論”或“高質(zhì)量評(píng)論”；根據(jù)不同社交媒體創(chuàng)造不同風(fēng)格的推文；基于非結(jié)構(gòu)化或者結(jié)構(gòu)化數(shù)據(jù)的自動(dòng)寫作；基于用戶模型構(gòu)建或重寫精選內(nèi)容的標(biāo)題或摘要。（2）針對(duì)可視化信息的編輯與處理，例如編輯多格式的照片和視頻，根據(jù)內(nèi)容主題生成圖表。（3）針對(duì)以算法為基礎(chǔ)的工作流程進(jìn)行優(yōu)化，例如針對(duì)不同的受眾群體進(jìn)行個(gè)性化推送；自動(dòng)審查并刪除不當(dāng)言論等。[3]

隨著人工智能技術(shù)的不斷演進(jìn)，特別是自然語(yǔ)言處理（natural language processing，簡(jiǎn)稱NLP）和大型預(yù)訓(xùn)練模型的突破性進(jìn)展，按自動(dòng)化程度進(jìn)行劃分，人工智能融入新聞生產(chǎn)實(shí)踐大致經(jīng)歷了三個(gè)階段：在自動(dòng)化的第一階段，人工智能承擔(dān)輔助工具的職能，為記者和編輯從海量信息中推薦新聞選題；發(fā)揮信息收集與新聞發(fā)現(xiàn)的功能；通過(guò)監(jiān)控社交媒體熱點(diǎn)、分析流行話題或掃描數(shù)據(jù)集，利用算法參照預(yù)定義標(biāo)準(zhǔn)識(shí)別有新聞價(jià)值的事件。第二階段，人工智能以主體身份逐漸參與到新聞內(nèi)容生產(chǎn)等人類智力活動(dòng)中，將結(jié)構(gòu)化的數(shù)據(jù)轉(zhuǎn)化為敘述性文本。具體而言，GAI通過(guò)使用特定類型新聞（如體育或財(cái)經(jīng)新聞）的模板和自然語(yǔ)言生成技術(shù)實(shí)現(xiàn)對(duì)新聞報(bào)道的文本編寫。第三階段，人工智能逐漸滲透到“把關(guān)”環(huán)節(jié)，實(shí)現(xiàn)與把關(guān)權(quán)的融合。在新聞內(nèi)容發(fā)布方面，GAI可自動(dòng)撰寫和發(fā)布某些類型的新聞報(bào)道，無(wú)需人工審核，并可選擇在發(fā)布后通知編輯。在當(dāng)前的實(shí)踐中，這種情況通常僅限于由數(shù)據(jù)驅(qū)動(dòng)的新聞報(bào)道。

在未來(lái)，新聞業(yè)需要在GAI輔助人類任務(wù)與GAI自動(dòng)化日常任務(wù)之間取得微妙的平衡。技術(shù)不僅僅是被新聞生產(chǎn)主體強(qiáng)制吸納到新聞生產(chǎn)中的一種外部性工具，更是一種由新聞實(shí)踐、人類需求和行業(yè)規(guī)范不斷塑造的手段。

二、實(shí)踐探索：人機(jī)協(xié)同下生成式AI新聞前沿應(yīng)用

以物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算和人工智能為代表的數(shù)字智能技術(shù)已經(jīng)滲透到個(gè)體日常生活的結(jié)構(gòu)之中，因此“人—機(jī)”關(guān)系的主流觀念也從以友好、敵對(duì)為特征的范式轉(zhuǎn)向更為當(dāng)代的協(xié)同范式。人機(jī)協(xié)同強(qiáng)調(diào)了人類與GAI為代表的智能機(jī)器在社會(huì)技術(shù)景觀中的相互依存、相互作用和共同進(jìn)化。對(duì)于人機(jī)協(xié)同在新聞生產(chǎn)實(shí)踐中的研究，則更關(guān)注人類與GAI之間復(fù)雜的相互作用和共同的進(jìn)化協(xié)同模式。

（一）主體協(xié)同：從替代模式到共生模式

新聞信息采集是新聞生產(chǎn)的基礎(chǔ)，編輯部以此對(duì)選題進(jìn)行策劃和決策。在信息采集和選題策劃階段，GAI與人類主體的協(xié)同方式共有三種：替代式、補(bǔ)充式和共生式。（1）替代式多應(yīng)用于記者、編輯日常工作中重復(fù)性高、細(xì)節(jié)繁瑣的任務(wù)，如自動(dòng)收集和準(zhǔn)備背景信息、推薦消息來(lái)源和線人、消息源驗(yàn)證和事實(shí)核查等。特別是信息采集階段，傳統(tǒng)新聞生產(chǎn)是記者按需在新聞專業(yè)主義指導(dǎo)下主動(dòng)收集信息，GAI可通過(guò)基于NLP實(shí)現(xiàn)特定類型的常規(guī)信息自動(dòng)化收集。以路透社使用的News Tracer信息采集系統(tǒng)為例，它可實(shí)現(xiàn)從社交媒體的信息流中收集數(shù)據(jù)，并使用NLP和機(jī)器學(xué)習(xí)檢測(cè)新聞事件，幫助記者在報(bào)道重大新聞時(shí)比其他全球新聞機(jī)構(gòu)搶先8到60分鐘[4]。（2）補(bǔ)充式是利用GAI彌補(bǔ)專業(yè)新聞生產(chǎn)者人力或效率的不足。例如，在新聞事件的跟蹤報(bào)道中，GAI的模式匹配機(jī)制可用于識(shí)別更新的信息，通過(guò)持續(xù)追蹤為正在發(fā)生的事件帶來(lái)新的啟示或意想不到的報(bào)道角度。（3）共生式以可持續(xù)協(xié)同發(fā)展為價(jià)值導(dǎo)向，不斷在實(shí)踐中校準(zhǔn)人類價(jià)值與技術(shù)工具之間的關(guān)系。共生式最典型的實(shí)踐是新聞從業(yè)者對(duì)GAI進(jìn)行“新聞價(jià)值”的訓(xùn)練。GAI可通過(guò)大型預(yù)訓(xùn)練模型對(duì)“新聞價(jià)值”進(jìn)行機(jī)器學(xué)習(xí)，幫助記者和編輯發(fā)現(xiàn)具有新聞價(jià)值的事件。

GAI成為記者與社會(huì)現(xiàn)實(shí)之間的“傳感器”，一方面將新聞生產(chǎn)主體從繁瑣的驗(yàn)證和事實(shí)核查等日常任務(wù)中解放出來(lái)，但另一方面也需警惕，利用GAI自動(dòng)發(fā)現(xiàn)新聞也有可能過(guò)于依賴有限范圍的消息源，從而忽略可能更具新聞價(jià)值的邊緣事件。

（二）文本協(xié)同：PGC與AIGC的融合

1.自動(dòng)內(nèi)容創(chuàng)作，變革生產(chǎn)模式

GAI可以自動(dòng)生成標(biāo)準(zhǔn)化的文本，幫助記者和編輯創(chuàng)建新聞大綱、優(yōu)化標(biāo)題、生成新聞導(dǎo)語(yǔ)、生成采訪問(wèn)題、解釋概念和總結(jié)舊報(bào)道。國(guó)外AI生成的新聞網(wǎng)站已經(jīng)多達(dá)125家[5]。新聞網(wǎng)站NewsGPT和Generative Press都是完全由GAI驅(qū)動(dòng)生成新聞，完全沒(méi)有編輯團(tuán)隊(duì)介入和人工干預(yù)。谷歌開(kāi)發(fā)的新聞AI工具Genesis已被《紐約時(shí)報(bào)》《華盛頓郵報(bào)》和《華爾街日?qǐng)?bào)》等報(bào)紙采納作為記者的補(bǔ)充工具。路透社還使用GAI快速定位視頻素材庫(kù)中的人物和音頻，自動(dòng)進(jìn)行音頻的時(shí)間編碼、轉(zhuǎn)錄和翻譯，自動(dòng)生成文本，提升寫作效率[6]。

2.多元敘事風(fēng)格，差異話語(yǔ)策略

GAI可以根據(jù)出版機(jī)構(gòu)的風(fēng)格定位來(lái)改編新聞，創(chuàng)作多元敘事形態(tài)、修辭風(fēng)格、新聞體例、新聞框架的報(bào)道，在語(yǔ)言建構(gòu)和語(yǔ)義表達(dá)方面實(shí)現(xiàn)差異化改編。全球媒體Semafor執(zhí)行主編吉娜·蔡（Gina Chua）使用聊天機(jī)器人Claude，要求它以《紐約時(shí)報(bào)》《紐約郵報(bào)》《中國(guó)日?qǐng)?bào)》和《福克斯新聞》的風(fēng)格，改編一則中國(guó)努力扭轉(zhuǎn)人口出生率下降的新聞，她發(fā)現(xiàn)《紐約時(shí)報(bào)》的版本偏向于古板，并且加入了很多背景描述；《紐約郵報(bào)》則傾向使用激烈的措辭，如“隨著出生率的下降，中國(guó)陷入恐慌”；《中國(guó)日?qǐng)?bào)》多引用政府觀點(diǎn)，例如“官方落實(shí)育兒假制度減輕家庭養(yǎng)育負(fù)擔(dān)”等；而《?？怂剐侣劇范酁閲?yán)厲的批判口吻，帶有強(qiáng)烈的主觀偏見(jiàn)[7]。

3.數(shù)據(jù)跨鏈接互證，信息多維深度呈現(xiàn)

新聞生產(chǎn)平臺(tái)NewsCube利用GAI實(shí)現(xiàn)增強(qiáng)新聞報(bào)道。它將驗(yàn)證過(guò)的信息來(lái)源，與現(xiàn)有的內(nèi)容單元進(jìn)行關(guān)聯(lián)，從而提高新聞報(bào)道的可信度。該平臺(tái)將經(jīng)過(guò)認(rèn)證且自成一體的小型語(yǔ)義單元進(jìn)行重組，以綜合敘述的方式重新生成新內(nèi)容，包括文章、鏈接、圖像、視頻剪輯、動(dòng)畫等。NewsCube可以在互聯(lián)網(wǎng)中提取來(lái)自不同政治、宗教、種族等價(jià)值取向的信息，從而對(duì)同一事件呈現(xiàn)出不同觀點(diǎn)。這種多元性有助于提高新聞報(bào)道的可信度。它還可以對(duì)強(qiáng)調(diào)不同事實(shí)、提出不同解釋和表達(dá)不同情感的內(nèi)容進(jìn)行識(shí)別。具體而言，GAI可以在海量信息中定位支持弱勢(shì)群體的言論或帶有錯(cuò)誤價(jià)值觀導(dǎo)向的觀點(diǎn)，這對(duì)于建構(gòu)多元向善的輿論環(huán)境至關(guān)重要。記者和編輯等專業(yè)主體可通過(guò)標(biāo)注相關(guān)主題、來(lái)源、信息的原始上下文等方式，防止易產(chǎn)生混淆的拼貼和挪用，提升信息的豐富性和準(zhǔn)確性[8]。

（三）流程協(xié)同：從單向線性趨向多元網(wǎng)狀

傳統(tǒng)新聞生產(chǎn)是從記者、編輯等專業(yè)主體出發(fā)，經(jīng)過(guò)采、寫、編、發(fā)等環(huán)節(jié)，將新聞送達(dá)受眾的單向線性結(jié)構(gòu)。GAI通過(guò)流程挖掘、算法資源優(yōu)化、立體交互式分發(fā)等，使新聞生產(chǎn)中間的任一環(huán)節(jié)都可產(chǎn)生跳躍性互聯(lián)，流程協(xié)同中的新聞生產(chǎn)走向多元網(wǎng)狀生產(chǎn)結(jié)構(gòu)。

1.挖掘行為模式，實(shí)現(xiàn)流程再造

GAI可利用流程挖掘（process mining）來(lái)分析記者和編輯的信息搜索等工作行為，幫助其建立自動(dòng)化的信息收集和分析流程。例如，編輯部中的某位記者反復(fù)搜索某在線社區(qū)論壇，在里面瀏覽和收集足球比賽評(píng)論，GAI可以利用事件日志從記者的行為模式中挖掘出“流程描述”[9]。挖掘出的流程描述可用于基于規(guī)則或機(jī)器學(xué)習(xí)的流程自動(dòng)化工具，這些工具可模仿重復(fù)性的人類任務(wù)，如數(shù)據(jù)錄入、表格填寫和數(shù)據(jù)驗(yàn)證等。之后，每當(dāng)記者開(kāi)始撰寫新的評(píng)論文章時(shí)，界面會(huì)自動(dòng)搜索指定的足球社區(qū)論壇。除此之外，GAI還可以應(yīng)用于現(xiàn)有的工作流程和業(yè)務(wù)流程管理系統(tǒng)，將挖掘到的流程描述調(diào)整到類似的情境中，改善新聞生產(chǎn)者的創(chuàng)作和生產(chǎn)體驗(yàn)，實(shí)現(xiàn)流程的智能化。

2.基于算法的資源優(yōu)化，提高組織效率

新聞生產(chǎn)不僅是個(gè)體的創(chuàng)造性勞動(dòng)，更是集體的協(xié)商性活動(dòng)。如何選擇合適的記者跟蹤特定類型的報(bào)道，是新聞編輯室中的重要工作。GAI可以學(xué)習(xí)記者及其過(guò)往報(bào)道并建立資料庫(kù)，從而針對(duì)某類新聞選題推薦最匹配的記者，組建具有互補(bǔ)背景和能力的記者團(tuán)隊(duì)，進(jìn)一步提高效率。但是，我們也必須保持警惕，堅(jiān)持健全的商業(yè)模式和編輯獨(dú)立性，以確保這些提高新聞和組織效率的新機(jī)遇被充分用于提升新聞報(bào)道的質(zhì)量，而非濫用于削減新聞工作者的隊(duì)伍。

3.立體交互式分發(fā)機(jī)制，推動(dòng)信息個(gè)性化重組與再收集

圍繞GAI技術(shù)搭建數(shù)字新聞平臺(tái)已成為一大趨勢(shì)。以NewsCube為例，用戶可以將文字、圖片、視頻、超鏈接、文章、檔案等各種元素組合在一起，將故事、想法、人物或公司等信息“打包”成虛擬的3D信息立方體。這些立方體作為技術(shù)驅(qū)動(dòng)的敘事手段，將多媒體元素、時(shí)間、地點(diǎn)、聲音、事件和不同視角的報(bào)道結(jié)合在一起，創(chuàng)造沉浸式、可視化新聞體驗(yàn)。NewsCube的互動(dòng)設(shè)計(jì)一方面保證用戶可以對(duì)正在瀏覽的故事進(jìn)行主線閱讀，與此同時(shí)也允許其進(jìn)入支線鏈接中，瀏覽不同媒體和新聞來(lái)源，以實(shí)現(xiàn)對(duì)主線新聞故事的補(bǔ)充，克服在龐大的超文本空間中對(duì)信息的迷失感。而用戶對(duì)信息做了何種選擇，又會(huì)積累成痕跡數(shù)據(jù)，存入NewsCube中，為未來(lái)的新聞生產(chǎn)和個(gè)性化分發(fā)提供數(shù)據(jù)決策依據(jù)。

三、規(guī)制進(jìn)路：人機(jī)協(xié)同下生成式AI新聞信任機(jī)制

媒體信任有多個(gè)層次，從對(duì)媒體內(nèi)容的信任，到對(duì)記者、單個(gè)媒體品牌和媒體類型的信任，再到對(duì)整個(gè)新聞業(yè)的信任。新聞媒體的可信度可以從公平性、偏見(jiàn)性、完整性、準(zhǔn)確性和事實(shí)性等方面進(jìn)行描述。隨著GAI在新聞實(shí)踐中的使用越來(lái)越廣泛，信任危機(jī)日益凸顯。根據(jù)Morning Consult的調(diào)查，70%的美國(guó)成年人擔(dān)心AIGC傳播錯(cuò)誤信息；68%的美國(guó)成年人擔(dān)心使用AI搜索引擎獲得的結(jié)果中包含錯(cuò)誤信息；63%的美國(guó)成年人對(duì)AI搜索結(jié)果的準(zhǔn)確性、AIGC內(nèi)容中的偏見(jiàn)和歧視表示擔(dān)憂[10]。我們需從構(gòu)筑信任機(jī)制著手，加強(qiáng)對(duì)GAI新聞業(yè)的規(guī)制。具體而言，將技術(shù)信任、人機(jī)信任和制度信任三維協(xié)同，以“責(zé)任鏈”范式調(diào)動(dòng)記者、編輯、技術(shù)研發(fā)者、新聞出版機(jī)構(gòu)、行業(yè)協(xié)會(huì)、政府機(jī)構(gòu)等多元主體共同參與。

（一）技術(shù)信任：優(yōu)化技術(shù)設(shè)計(jì)，實(shí)現(xiàn)技術(shù)善治

在數(shù)字時(shí)代，新聞容易遭到篡改或斷章取義，其目的可能是吸引注意、影響行為、操縱輿論，或者進(jìn)行欺騙和誤導(dǎo)。信息評(píng)估的范圍包括檢測(cè)文本、語(yǔ)音、音頻、視頻與來(lái)自傳感器的結(jié)構(gòu)化數(shù)據(jù)流，以及結(jié)構(gòu)化或非結(jié)構(gòu)化參考數(shù)據(jù)中的有意和無(wú)意的錯(cuò)誤信息[11]。在這一背景下，我們面對(duì)兩種主要形式的媒體偽造：低級(jí)偽造（cheap fakes）和深度偽造（deepfakes）。

低級(jí)偽造涉及對(duì)媒體內(nèi)容的濫用，例如輕微扭曲圖片或斷章取義地反復(fù)使用圖片。應(yīng)對(duì)低級(jí)偽造的核心技術(shù)包括以下四點(diǎn)：（1）深度圖像分析（deep

image analysis），該技術(shù)使用深度學(xué)習(xí)和計(jì)算機(jī)視覺(jué)方法，對(duì)潛在偽造的圖像進(jìn)行分析，以識(shí)別其中可能的不一致或異常。（2）反向圖像搜索（reverse image search），利用待識(shí)別圖像作為參照系，在互聯(lián)網(wǎng)上尋找相似或相同的圖像來(lái)源，以確定待識(shí)別圖像在何種程度上以怎樣的方式被偽造。（3）確定內(nèi)容來(lái)源，追溯特定圖像的元數(shù)據(jù)、水印、版權(quán)信息等，以確保它沒(méi)有被篡改或?yàn)E用，以此驗(yàn)證圖像的真實(shí)性。（4）評(píng)估原始語(yǔ)境與使用語(yǔ)境的相似性，比較圖像在原始環(huán)境中的使用和在懷疑偽造的上下文中的使用之間的差異。[12]與此不同的是深度偽造，它利用深度學(xué)習(xí)技術(shù)，尤其是生成式對(duì)抗網(wǎng)絡(luò)來(lái)創(chuàng)建合成媒體。例如將人臉特征疊加在他人身上，或僅偽造聲音，形成如同真人的體驗(yàn)。為了應(yīng)對(duì)深度偽造，一種方法是通過(guò)訓(xùn)練判別器網(wǎng)絡(luò)來(lái)識(shí)別生成的內(nèi)容與真實(shí)內(nèi)容之間的差異。判別器網(wǎng)絡(luò)可以被用來(lái)檢測(cè)潛在的偽造，因?yàn)樯傻膬?nèi)容通常在細(xì)節(jié)、噪音、紋理等方面與真實(shí)內(nèi)容有所不同。另一種方法是訓(xùn)練生成式對(duì)抗網(wǎng)絡(luò)來(lái)生成具有反偽造特征的媒體內(nèi)容。這種生成對(duì)抗訓(xùn)練的目標(biāo)是生成媒體內(nèi)容，其中包含了一些隱含的特征，可以幫助其他檢測(cè)工具更容易地識(shí)別偽造。這些特征可能包括水印、數(shù)字簽名、元數(shù)據(jù)等。[13]

國(guó)際新聞業(yè)還采取了多媒體取證（multimedia forensics）的方式。多媒體取證涉及對(duì)圖像、音頻和視頻等各類多媒體內(nèi)容進(jìn)行分析和認(rèn)證，驗(yàn)證數(shù)字多媒體文件是否被篡改。該技術(shù)的主要目標(biāo)和任務(wù)包括：（1）真實(shí)性驗(yàn)證：確定多媒體文件是原始文件還是被篡改或偽造的文件。（2）源識(shí)別：追蹤多媒體內(nèi)容的來(lái)源，以確定其來(lái)源、創(chuàng)建者或位置。（3）完整性評(píng)估：評(píng)估內(nèi)容自創(chuàng)建以來(lái)是否被修改、編輯或篡改。（4）偽造檢測(cè)：檢測(cè)數(shù)字篡改跡象，如圖像拼接、修飾或音頻篡改。（5）圖像出處分析：分析圖像的歷史，以確定其真實(shí)性并識(shí)別任何更改。（6）內(nèi)容分析：檢查多媒體文件的內(nèi)容，提取有助于驗(yàn)證的信息或背景。[14]

綜合來(lái)看，低級(jí)偽造和深度偽造帶來(lái)的挑戰(zhàn)表明，僅靠目前被動(dòng)的事實(shí)核查和媒體驗(yàn)證方法還遠(yuǎn)遠(yuǎn)不夠。主動(dòng)驗(yàn)證是一種替代方法，它利用哈希（hashing）和區(qū)塊鏈等技術(shù)發(fā)放帶有可驗(yàn)證、防篡改簽名的內(nèi)容證書。這些證書可以應(yīng)用于元數(shù)據(jù)、原子內(nèi)容單元以及復(fù)合內(nèi)容。因?yàn)閮?nèi)容單元的可信度取決于情境，這將需要新的AI解決方案來(lái)挖掘和評(píng)估情境信息。此外，我們需要更好地理解情境和可信度之間的關(guān)系，以便根據(jù)不同的情境評(píng)估可信來(lái)源。需要指出的是，積極驗(yàn)證可能會(huì)過(guò)度依賴易于在捕獲點(diǎn)驗(yàn)證的主流來(lái)源信息，這可能會(huì)損害不尋常、非主流來(lái)源的可信度驗(yàn)證。

（二）人機(jī)信任：可信度評(píng)估，多主體責(zé)任鏈

在人機(jī)交互技術(shù)中呈現(xiàn)出了新的信任形式，即“電子信任”（e-trust）。人機(jī)交互過(guò)程中的機(jī)器能動(dòng)性不斷增強(qiáng)，直接影響了人機(jī)之間的信任問(wèn)題。人機(jī)新聞的良性發(fā)展最重要的是受眾與GAI之間的信任問(wèn)題，國(guó)際新聞業(yè)提出了從來(lái)源、合成到評(píng)估等環(huán)節(jié)的可信度操作步驟。（1）提高來(lái)源可信度：通過(guò)元數(shù)據(jù)（數(shù)據(jù)的附加信息）來(lái)追溯信息提供者的各種指標(biāo)，包括歷史聲譽(yù)、社交網(wǎng)絡(luò)連接、知識(shí)背景、職位、贊助組織等，還可以評(píng)估開(kāi)放和專有數(shù)據(jù)庫(kù)以及檔案中的背景信息，并了解提供信息的人員和組織。（2）保證可信度合成（trustworthy composition）：新聞報(bào)道不僅需要由可信的內(nèi)容單元和元數(shù)據(jù)構(gòu)成，還需要可信的呈現(xiàn)方式和敘述方式。新聞從業(yè)者需要關(guān)注內(nèi)容單元的細(xì)化程度、來(lái)源、提取方式、與語(yǔ)境的契合度，確保報(bào)道的內(nèi)部一致性，使信息更容易理解和驗(yàn)證，從而增加讀者對(duì)報(bào)道的可信度感知[15]。（3）提供可信度報(bào)告：需要將可信度的評(píng)估結(jié)果、推理和證據(jù)及時(shí)開(kāi)放給受眾，并且確保受眾能夠理解人工智能方法的輸出結(jié)果。這些報(bào)告通過(guò)介紹內(nèi)容單元的來(lái)源，解釋它們是如何以及為什么被組合在一起的，從而提供了問(wèn)責(zé)機(jī)制。當(dāng)信息已經(jīng)得到新聞機(jī)構(gòu)的證實(shí)后，可信度報(bào)告可以有針對(duì)性地根據(jù)受眾個(gè)人需求來(lái)提供，減少信息冗余。（4）監(jiān)測(cè)受眾反饋：監(jiān)測(cè)受眾對(duì)新聞內(nèi)容的感知，包括通過(guò)受眾研究、用戶評(píng)級(jí)、NLP分析和新聞分享行為來(lái)評(píng)估可信度，利用這些信息來(lái)改進(jìn)新聞的來(lái)源選擇、內(nèi)容呈現(xiàn)和敘述，以優(yōu)化可信度。

除了受眾信任以外，新聞業(yè)各主體之間的信任也至關(guān)重要，單純依靠編輯和記者的努力無(wú)法建構(gòu)全局性的信任格局，需要以“責(zé)任鏈”范式實(shí)現(xiàn)新聞信任機(jī)制構(gòu)建主體的關(guān)聯(lián)與協(xié)同。這不僅涉及編輯、記者、新聞機(jī)構(gòu)、技術(shù)開(kāi)發(fā)者等責(zé)任主體，還涉及立法機(jī)構(gòu)、執(zhí)法機(jī)構(gòu)、司法機(jī)構(gòu)、行業(yè)協(xié)會(huì)等治理性機(jī)構(gòu)。在責(zé)任鏈上游，技術(shù)研發(fā)者應(yīng)該協(xié)助新聞共同體理解算法，還需要避免算法中的偏見(jiàn)、歧視和侵權(quán)行為，確保數(shù)據(jù)隱私和安全，以及遵守隱私政策和用戶協(xié)議。可解釋人工智能（Explainable Artificial Intelligence）是人工智能的一個(gè)子領(lǐng)域，其重點(diǎn)是以系統(tǒng)和可解釋的方式向人類展示復(fù)雜的人工智能模型，通過(guò)透明度、解釋方法和自然語(yǔ)言生成技術(shù)等來(lái)闡釋人工智能決策。在責(zé)任鏈中游，編輯和記者需要明確GAI應(yīng)用的義務(wù)與責(zé)任邊界，充分評(píng)估技術(shù)與使用場(chǎng)景的適配性，保證新聞的可信度，避免人工智能幻覺(jué)（AI Hallucination）。在責(zé)任鏈下游，新聞機(jī)構(gòu)需要加強(qiáng)把關(guān)責(zé)任，應(yīng)在審核環(huán)節(jié)從“事后審核”擴(kuò)展到“事前審核+事后審核”，對(duì)審核方式進(jìn)行技術(shù)化和協(xié)同化升級(jí)，同時(shí)保留人類審核的決策地位，還應(yīng)該允許受眾監(jiān)督和反饋，保證受眾對(duì)其中的技術(shù)參與程度與具體工作的知曉權(quán)。

（三）制度信任：健全技術(shù)原則，引入貢獻(xiàn)鏈機(jī)制

世界新聞出版商協(xié)會(huì)（World Association of

News Publishers）與德國(guó)SCHICKLER咨詢公司合作開(kāi)展的全球調(diào)查中發(fā)現(xiàn)，只有20%的新聞編輯室對(duì)何時(shí)以及如何使用GAI工具制定了管理指南[16]。新聞編輯室缺乏明確的指導(dǎo)方針可能會(huì)導(dǎo)致不確定性和潛在的控制不足。因此，圍繞負(fù)責(zé)任地使用GAI工具，制定明確的指導(dǎo)準(zhǔn)則是極其迫切的。制度信任本質(zhì)上是硬性的“他律”，其根本目的是將外在約束內(nèi)化為人類的“自律”意識(shí)，使制度信任與技術(shù)信任、人機(jī)信任相融合[17]。規(guī)范化與模式化的外在性制度使各方行為具有更大的可預(yù)測(cè)性，強(qiáng)化新聞業(yè)共同體的“本體安全感”，保障技術(shù)信任的有效實(shí)施。

全球出版和新聞組織（Global Publishing and

Journalism Organizations）聯(lián)合代表全球數(shù)千名創(chuàng)意專業(yè)人士的26個(gè)組織，在2023年9月6日發(fā)布了《人工智能全球原則》（Global Principles for Artificial Intelligence）。該文件涉及知識(shí)產(chǎn)權(quán)、透明度、問(wèn)責(zé)制、質(zhì)量和完整性、公平性、安全性、設(shè)計(jì)和可持續(xù)發(fā)展等重要方面[18]?！度斯ぶ悄苋蛟瓌t》主要有12條核心原則：第一，AI系統(tǒng)的開(kāi)發(fā)者、運(yùn)營(yíng)者和部署者必須尊重知識(shí)產(chǎn)權(quán)。第二，出版商有權(quán)就使用其知識(shí)產(chǎn)權(quán)進(jìn)行談判并獲得適當(dāng)報(bào)酬。第三，版權(quán)和相關(guān)權(quán)利保護(hù)內(nèi)容創(chuàng)作者和所有者免受其內(nèi)容未經(jīng)許可使用的侵權(quán)行為。第四，應(yīng)該承認(rèn)為創(chuàng)作者和權(quán)利持有人的內(nèi)容提供現(xiàn)有的授權(quán)市場(chǎng)。第五，AI系統(tǒng)應(yīng)該向創(chuàng)作者、權(quán)利持有人和用戶提供細(xì)粒度的透明度（granular transparency）。第六，AI系統(tǒng)的提供者和部署者應(yīng)該合作，以確保對(duì)系統(tǒng)產(chǎn)出的責(zé)任。第七，確保質(zhì)量和完整性是建立對(duì)人工智能工具和服務(wù)應(yīng)用的信任的基礎(chǔ)。第八，AI系統(tǒng)不應(yīng)該創(chuàng)造或存在創(chuàng)造不公平市場(chǎng)或競(jìng)爭(zhēng)結(jié)果的風(fēng)險(xiǎn)。第九，AI系統(tǒng)應(yīng)該值得信賴。第十，AI系統(tǒng)應(yīng)該保證安全并應(yīng)對(duì)隱私風(fēng)險(xiǎn)。第十一，這些原則應(yīng)在設(shè)計(jì)中納入所有人工智能系統(tǒng)，包括通用AI系統(tǒng)、基礎(chǔ)模型和GAI系統(tǒng)。第十二，AI系統(tǒng)必須符合人類價(jià)值觀，并按照全球法律運(yùn)行。

新聞業(yè)還可以引入“貢獻(xiàn)鏈”（contribution chains）機(jī)制，以建立更加嚴(yán)格的問(wèn)責(zé)制度。貢獻(xiàn)鏈記錄了內(nèi)容的衍生和來(lái)源，詳細(xì)記錄了信息是如何從其他內(nèi)容中衍生出來(lái)以及由誰(shuí)（或何者）進(jìn)行了衍生。這一機(jī)制提供了責(zé)任追蹤，允許準(zhǔn)確記錄信息的來(lái)源和貢獻(xiàn)者身份。貢獻(xiàn)鏈的應(yīng)用有助于避免重復(fù)的整合、驗(yàn)證或其他評(píng)估過(guò)程，同時(shí)可以用于檢測(cè)那些具有特定利益關(guān)系的消息來(lái)源所散布的錯(cuò)誤信息。貢獻(xiàn)鏈可以在媒體制作工作流的一部分自動(dòng)創(chuàng)建，也可以通過(guò)反向內(nèi)容搜索、自然語(yǔ)言推理技術(shù)和深度圖像分析等方法進(jìn)行重新建構(gòu)。此外，貢獻(xiàn)鏈還可以被用于深入了解不同類型信息和錯(cuò)誤信息是如何通過(guò)社交媒體產(chǎn)生和傳播的，特別是當(dāng)這些信息本身所包含的內(nèi)容和上下文十分有限，難以用于驗(yàn)證的情況下。這種綜合方法有助于確保新聞媒體的責(zé)任追蹤，維護(hù)信息的準(zhǔn)確性和可信度，同時(shí)防止虛假信息的傳播。

四、結(jié)語(yǔ)

國(guó)際新聞業(yè)對(duì)GAI應(yīng)用已經(jīng)積累了初步的探索經(jīng)驗(yàn)，為我國(guó)新聞業(yè)的媒介融合和技術(shù)創(chuàng)新提供諸多發(fā)展啟示。然而，未來(lái)的發(fā)展遠(yuǎn)不止此。我們?cè)诳紤]GAI相關(guān)的新聞實(shí)踐和規(guī)制問(wèn)題的同時(shí)，還應(yīng)正視GAI引發(fā)的政治經(jīng)濟(jì)不平等、數(shù)據(jù)信息安全、意識(shí)形態(tài)價(jià)值觀等挑戰(zhàn)。我們也應(yīng)當(dāng)關(guān)注全球范圍內(nèi)不同的文化和區(qū)域環(huán)境，特別要正視全球南方國(guó)家，如非洲等地區(qū)如何跨越資源、語(yǔ)言和技術(shù)方面的鴻溝，以便更有意義地參與到GAI技術(shù)的發(fā)展中。中國(guó)需要提高GAI的自主創(chuàng)新能力，加強(qiáng)核心技術(shù)攻關(guān)，爭(zhēng)取技術(shù)標(biāo)準(zhǔn)話語(yǔ)權(quán)，防范“數(shù)字霸權(quán)主義”帶來(lái)的信息安全風(fēng)險(xiǎn)和意識(shí)形態(tài)風(fēng)險(xiǎn)，為世界提供中國(guó)方案。

[基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“突發(fā)公共事件輿論引導(dǎo)的機(jī)制、路徑與方法研究”（23AXW008）]

參考文獻(xiàn)：

[1]劉永謀，王春麗.智能時(shí)代的人機(jī)關(guān)系：走向技術(shù)控制的選擇論[J].全球傳媒學(xué)刊，2023（3）.

[2]Monojoy Bhattacharjee. Almost 50% of news publishers

use Generative AI tools， but “quality of content” is the

#1 concern[EB/OL].2023-01-23[2023-07-14].https：//whatsnewinpublishing.com/almost-50-of-news-publishers-use-generative-ai-tools-but-quality-of-content-is-the-1-concern/.

[3]Nick Diakopoulos. What Could ChatGPT Do for News

Production？[EB/OL].2023-01-15[2023-07-15].https：//generative-ai-newsroom.com/what-could-chatgpt-do-for-news-production-2b2a3b704

7d9.

[4]Liu X， Nourbakhsh A， Li Q， et al. Reuters tracer：Toward automated news production using large scale social

media data[C]//2017 IEEE International Conference onBig Data （Big Data）.IEEE，2017：1483-1493.

[5]Joe Mandese.AI-Generated News Sites More Than Double In Two Weeks[EB/OL].2023-05-19[2023-07-25].https：//www.mediapost.com/publications/article/385557/ai-generated-news-sites

-more-than-doubles-in-two-w.html.

[6]Marcela Kunova. How Reuters uses AI to speed up

discoverability of video news content[EB/OL].2023-07-25[2023-07-27].https：//www.journalism.co.uk/news/how-reuters-uses-ai-to-speed-up-discoverability-of-video-news-content/s2/a1055917/.

[7]Gina Chua.How chatbots can change journalism.Or not.[EB/OL].2023-02-19[2023-07-19].https：//www.semafor.com/article/02/17/2023/how-chatbots-can-change-journalism-or-not？utm_source=pocket_saves.

[8]NewsCube.NewsCubed project archive[EB/OL].[2023-10-23].http：//newscubed.com/.

[9]Van Der Aalst W.Process mining[J].Communications of the ACM，2012，55（8）：76-83.

[10]AJ Dellinger.AI-Powered Search Engines Driving Concerns Over Accuracy，Bias[EB/OL].2023-01-22[2023-07-12].https：//pro.morningconsult.com/instant-intel/ai-powered-search-concerns-bing-chatgpt.

[11]Seo H，Blomberg M，Altschwager D，et al.Vulnerable populations and misinformation：A mixed-methods approach to underserved older adults online information assessment[J].NewMedia & Society，2021，23（7）：2012-2033.

[12]Paris B，Donovan J.Deepfakes and cheap fakes[J].2019.

[13]Verdoliva L.Media forensics and deepfakes：an overview[J]. IEEE Journal of Selected Topics in Signal Processing，2020，14（5）：910-932.

[14]Khan S A，Sheikhi G，Opdahl A L，et al.Visual User-Generated Content Verification in Journalism：An Overview[J].IEEE Access，2023.

[15]Opdahl A L，Tessem B，Dang-Nguyen D T，et al.Trustworthy journalism through AI[J].Data & Knowledge Engineering，2023，146：102-182.

[16]Roper D.Gauging Generative AIs Impact in Newsrooms[R].1：WAN-IFRA，2023-05-24.

[17]王鵬濤，徐潤(rùn)婕.AIGC介入知識(shí)生產(chǎn)下學(xué)術(shù)出版信任機(jī)制的重構(gòu)研究[J].圖書情報(bào)知識(shí)，2023，40（05）：87-96.DOI：10.13366/j.dik.2023.05.087.

[18]WAN-IFRA Staff.Global Publishing and Journalism

Organizations Unite to Release Comprehensive Global Principles for Artificial Intelligence[EB/OL].2023-09-06[2023-10-23].https：//wan-ifra.org/2023/09/global-principles-for-artificial-intelligence-ai/.

作者簡(jiǎn)介：蔣雪穎，北京大學(xué)新聞與傳播學(xué)院博士生（北京 100089）；劉欣（通訊作者），北京大學(xué)新聞與傳播學(xué)院博士生（北京 100089）；許靜，北京大學(xué)新聞與傳播學(xué)院教授（北京 100089）。

編校：董方曉