中國(guó)語(yǔ)境下的人工智能新聞倫理建構(gòu)

文/蔣曉 韓鴻 蘭臻

以數(shù)據(jù)和智能化技術(shù)為基石、以人機(jī)協(xié)作為特征、以提升內(nèi)容生產(chǎn)傳播效率為目標(biāo)的智媒形態(tài)，正在成為新聞媒體的思維方式和發(fā)展方向。它在改變?nèi)藗冃畔@取和社交方式的同時(shí)，也在挑戰(zhàn)傳統(tǒng)媒體的生產(chǎn)關(guān)系和生態(tài)格局，同時(shí)帶來了一系列讓人擔(dān)憂的問題，如虛假新聞、算法偏見、責(zé)任主體及隱私安全等。這些問題要求我們?cè)趥惱硪饬x上重新審視新聞與新聞工作者的價(jià)值和職責(zé)，并找到人工智能新聞應(yīng)用的合理框架。新聞業(yè)一直是媒體倫理中最早也是最完善的領(lǐng)域之一。新聞業(yè)的技術(shù)發(fā)展塑造了道德和道德訴求的話語(yǔ)，以及新聞業(yè)的社會(huì)責(zé)任。隨著人工智能技術(shù)進(jìn)入新聞制作領(lǐng)域，傳統(tǒng)的媒體倫理受到了計(jì)算機(jī)倫理和信息倫理的影響。雖然來自國(guó)內(nèi)外多個(gè)領(lǐng)域的學(xué)者對(duì)數(shù)據(jù)的來源和濫用、數(shù)字霸權(quán)、虛假新聞、算法權(quán)威、客觀性、透明度和問責(zé)制等問題進(jìn)行了討論，但人工智能新聞的倫理框架尚未被分析和建構(gòu)。目前所見的多是些零星的、局部的研究。

本文關(guān)注和討論的問題是如何在中國(guó)語(yǔ)境和人工智能技術(shù)的二維坐標(biāo)系中構(gòu)建新聞倫理。一方面針對(duì)人工智能新聞應(yīng)用引發(fā)的新議題，從倫理基石、基本原則、政策制定、責(zé)任主體、道德規(guī)范、技術(shù)路徑等方面搭建人工智能新聞倫理的基本框架；另一方面將重點(diǎn)放在中國(guó)話語(yǔ)的建構(gòu)上，針對(duì)我國(guó)特有的政治意識(shí)形態(tài)、社會(huì)發(fā)展階段、價(jià)值觀念及媒介體制，分析中國(guó)方案的特殊性和差異性。

倫理基石

倫理道德作為一種具有滲透力的規(guī)范力，為個(gè)人行為和組織政策劃定邊界。在中西方倫理學(xué)的研究中有很多學(xué)派，它們的不同之處不僅在于它們提供的答案不同，而且在于它們提出的關(guān)于如何理解世界以及如何應(yīng)對(duì)道德挑戰(zhàn)的基本問題的方式不同。

在西方，三種主要的道德理論有助于概括新聞倫理中的道德問題，特別是在處理算法新聞時(shí)。首先，有基于后果的倫理理論，如邊沁的功利主義，以實(shí)際功效或利益最大化作為道德標(biāo)準(zhǔn)。功利主義的影響在計(jì)算機(jī)科學(xué)、經(jīng)濟(jì)學(xué)和決策制定的許多領(lǐng)域都能感受到，特別是以效用主義為基礎(chǔ)的博弈論在人工智能中經(jīng)常被用于理解個(gè)體或群體的相互作用，為算法的倫理分析和目標(biāo)設(shè)計(jì)提供研究視角。其次，康德的基于義務(wù)的道義論，認(rèn)為人的行為必須遵照某種道德原則或按照某種正當(dāng)性去行為。該理論側(cè)重道德行為動(dòng)機(jī)的“善”，訴諸一定的行為規(guī)則和標(biāo)準(zhǔn)。潛在的問題是，規(guī)則如何應(yīng)用于決策？正確的規(guī)則是什么？后一個(gè)問題涉及機(jī)制設(shè)計(jì)，即，為了達(dá)到目標(biāo)，我們應(yīng)該制定什么樣的規(guī)則？最后，亞里士多德的美德倫理學(xué)，關(guān)注的是個(gè)體和局部，圍繞培養(yǎng)習(xí)慣和性情來組織，這些習(xí)慣和性情有助于一個(gè)人實(shí)現(xiàn)自身的目標(biāo)。該理論為新聞參與者的職業(yè)道德、社會(huì)責(zé)任、媒介素養(yǎng)提供支撐。

中國(guó)有關(guān)倫理道德的思想源遠(yuǎn)流長(zhǎng)。在2000多年的歷史進(jìn)程中，不同的思想流派提出了各自的倫理觀點(diǎn)。其中，有儒家宣揚(yáng)的“中庸之道”，認(rèn)為維持事物穩(wěn)定發(fā)展的最好方法是采用中庸的方式。即在認(rèn)識(shí)事物時(shí)，要求通過研究這個(gè)事物在可能的發(fā)展趨勢(shì)中，在其不及和過頭兩個(gè)極端之間找出適中合宜的地方。這種中庸調(diào)和的思想，要求不偏不倚，有時(shí)又全面而靈活，為人工智能發(fā)展戰(zhàn)略和政策制定提供方法論指引。有墨家提倡的“兼愛”思想，主張“兼相愛，交相利”，即人人互愛互利，注重從經(jīng)驗(yàn)中的實(shí)際效果判斷行為的善惡，以利人作為具體內(nèi)容。這是對(duì)人工智能技術(shù)施加倫理規(guī)范的目的和依據(jù)。此外，主張“義以為上”“先義后利”，要求“見利思義”?！傲x”是指國(guó)家和民族的集體利益，“利”是指?jìng)€(gè)人利益。強(qiáng)調(diào)社會(huì)利益高于個(gè)人利益。今天，社會(huì)主義核心價(jià)值觀是中華民族傳統(tǒng)美德的繼承，倡導(dǎo)富強(qiáng)、民主、文明、和諧，倡導(dǎo)自由、平等、公正、法治，倡導(dǎo)愛國(guó)、敬業(yè)、誠(chéng)信、友善。

相較而言，西方國(guó)家的新聞理論包括新聞倫理和法規(guī)是建立在個(gè)人主義、自由主義、歐洲中心和啟蒙思想基礎(chǔ)上的。而中國(guó)傳統(tǒng)倫理思想，則強(qiáng)調(diào)建立一種和諧協(xié)調(diào)的人倫關(guān)系，強(qiáng)調(diào)個(gè)體對(duì)整體的道德義務(wù)。這是一種植根于社會(huì)文化的群體精神，進(jìn)而擴(kuò)展到整個(gè)民族和國(guó)家的集體主義精神。任何一種倫理理論都有它的力量和限制，這種限制體現(xiàn)在不同的社會(huì)環(huán)境中的不適用性。我們?cè)诮梃b西方經(jīng)典倫理思想的同時(shí)，應(yīng)立足于本土和民族的社會(huì)現(xiàn)實(shí)，注入自身獨(dú)特的品格。特別是在中國(guó)社會(huì)轉(zhuǎn)型期，面對(duì)意識(shí)形態(tài)領(lǐng)域思想多元、輿論生態(tài)復(fù)雜多變的嚴(yán)峻形勢(shì)，信息領(lǐng)域倫理道德具有特殊的內(nèi)在緊張和外在沖突。中國(guó)人工智能新聞倫理的構(gòu)建，應(yīng)該在堅(jiān)持馬克思主義新聞?dòng)^，秉持中國(guó)傳統(tǒng)倫理學(xué)中的合理內(nèi)核情況下，吸收發(fā)展新聞學(xué)中的思想和訴求，以促進(jìn)國(guó)家和社會(huì)的整體發(fā)展為優(yōu)先目標(biāo)。

構(gòu)建原則

1.平衡工具理性和價(jià)值理性。人類技術(shù)的運(yùn)用和發(fā)展的目的應(yīng)是推動(dòng)社會(huì)的整體進(jìn)步，實(shí)現(xiàn)人類物質(zhì)和精神的整體發(fā)展。在新聞實(shí)踐層面，雖然智能技術(shù)顯著提高了新聞制作與傳播的效率，但效率并不是新聞業(yè)追求的唯一目標(biāo)，“諸如對(duì)新聞?wù)鎸?shí)性的追求，對(duì)美德的堅(jiān)守，對(duì)問題的質(zhì)疑等，這些精神才是新聞?lì)I(lǐng)域的基礎(chǔ)價(jià)值判斷，更是符合人類共性的價(jià)值理性”。因此，在人工智能的新聞倫理構(gòu)建中，需要平衡價(jià)值理性和工具理性的關(guān)系，既要最大程度發(fā)揮人工智能新聞實(shí)踐的應(yīng)用潛力，又要秉承新聞專業(yè)精神的核心觀念。

2.注重普適性和特殊性。人工智能作為推動(dòng)全球傳媒產(chǎn)業(yè)轉(zhuǎn)型變革中的一個(gè)底層技術(shù)，在西方發(fā)達(dá)國(guó)家和中國(guó)新聞媒體中的應(yīng)用具有同步性，其基于技術(shù)層面的實(shí)踐倫理具有通約性。但是新聞學(xué)的理論和實(shí)踐又具有較強(qiáng)的意識(shí)形態(tài)屬性。一方面新聞行業(yè)具有本身固有的專業(yè)倫理，另一方面又深植于不同國(guó)家的特殊政治、經(jīng)濟(jì)、社會(huì)、文化環(huán)境中，不同的政治意識(shí)形態(tài)、價(jià)值觀念、媒介體制，不同的新聞運(yùn)作方式，導(dǎo)致不同國(guó)家新聞倫理存在較大差異。我國(guó)新聞傳媒具有意識(shí)形態(tài)和產(chǎn)業(yè)的雙重屬性，受到意識(shí)形態(tài)工作規(guī)律、新聞傳播規(guī)律、市場(chǎng)運(yùn)作規(guī)律的共同制約。在構(gòu)建中國(guó)人工智能新聞倫理過程中，既要建基于人類的基本價(jià)值觀和道德原則，為業(yè)界認(rèn)可；又要具有鮮明中國(guó)特色，將黨性原則、服務(wù)人民大眾、以人為本等原則納入其中，做到恰當(dāng)?shù)钠胶狻?/p>

3.避免柯林格里奇悖論（Collingridge dilemma）。所謂柯林格里奇悖論是指：科學(xué)監(jiān)管的實(shí)現(xiàn)有待于技術(shù)的發(fā)展，以便賦予社會(huì)規(guī)劃者足夠的知識(shí)。然而，當(dāng)監(jiān)管者獲得必要的知識(shí)時(shí)，技術(shù)已經(jīng)得到鞏固，采取行動(dòng)可能為時(shí)已晚。目前人工智能技術(shù)快速迭代，難以準(zhǔn)確預(yù)測(cè)下一步技術(shù)發(fā)展和突破方向。其可能產(chǎn)生的倫理道德問題和社會(huì)風(fēng)險(xiǎn)也較難提前預(yù)測(cè)，導(dǎo)致在人工智能開發(fā)過程中難以提前制定合理的規(guī)范和監(jiān)管措施。良好的監(jiān)管將有效增強(qiáng)技術(shù)的安全感和控制力，規(guī)避新風(fēng)險(xiǎn)。但糟糕的監(jiān)管（包括監(jiān)管不足、監(jiān)管過度和低能監(jiān)管）則有可能阻礙人工智能新聞實(shí)踐的探索。因此，為避免柯林格里奇悖論，需盡可能將對(duì)技術(shù)評(píng)估的過程和時(shí)間前置。

4.避免膝跳反射調(diào)節(jié)（Knee-jerk regulation）。即對(duì)人工智能新聞應(yīng)用中產(chǎn)生的風(fēng)險(xiǎn)和問題采取自然反射式的低效過度調(diào)節(jié)，導(dǎo)致人工智能新聞應(yīng)用的發(fā)展受到阻礙。應(yīng)該堅(jiān)持道德體系構(gòu)建的“最少化”原則。即道德條文不是越多越好，而是越少越好。避免對(duì)規(guī)約對(duì)象束縛過多而無所作為。

構(gòu)建路徑

人工智能新聞倫理屬于技術(shù)倫理學(xué)的分支，因此本文借鑒了技術(shù)倫理學(xué)的兩種研究視角——外在主義進(jìn)路（externalism）和內(nèi)在主義進(jìn)路（internalism），對(duì)人工智能新聞倫理的構(gòu)建提出建議。

1.外在主義進(jìn)路。技術(shù)倫理學(xué)自誕生以來一直為外在主義進(jìn)路所主導(dǎo)，主要把道德視為技術(shù)活動(dòng)之外的一種規(guī)范力量。其基本模式是對(duì)技術(shù)的后果進(jìn)行倫理的反思和批判，倫理的職責(zé)是外在的監(jiān)督，關(guān)注的焦點(diǎn)是下游的應(yīng)用。遵循這種研究進(jìn)路，在構(gòu)建人工智能新聞倫理框架時(shí)，關(guān)注的內(nèi)容主要為新聞工作者的行為準(zhǔn)則、倫理責(zé)任及法規(guī)監(jiān)管等問題。

（1）制定政策框架。美國(guó)、英國(guó)、歐洲、日本等國(guó)家已經(jīng)在學(xué)界、業(yè)界、政府各個(gè)層面針對(duì)人工智能的發(fā)展問題展開了廣泛的討論，并形成了詳細(xì)的政策框架和研究報(bào)告。就當(dāng)前的政策框架而言，雖然各個(gè)國(guó)家的政策著力點(diǎn)不同，但其共同的政策目標(biāo)都更傾斜于推動(dòng)技術(shù)創(chuàng)新、提升國(guó)家競(jìng)爭(zhēng)力，其政策選擇也更傾向于遵循“無需批準(zhǔn)式（permissionless）”的監(jiān)管邏輯，即對(duì)人工智能的發(fā)展及其所引發(fā)的挑戰(zhàn)持普遍的包容與開放態(tài)度。同樣，在人工智能發(fā)展與應(yīng)用的關(guān)鍵時(shí)期，我國(guó)的政策制定也應(yīng)該更多地支持推動(dòng)技術(shù)的創(chuàng)新和發(fā)展，以保證國(guó)家競(jìng)爭(zhēng)力的提升。然而，要想最大程度發(fā)揮人工智能的應(yīng)用潛力，并將潛在的威脅和風(fēng)險(xiǎn)最小化，需要在發(fā)展與監(jiān)管之間找到平衡，實(shí)現(xiàn)激勵(lì)發(fā)展與合理規(guī)制的協(xié)調(diào)。因?yàn)榧夹g(shù)發(fā)展的速度和復(fù)雜性遠(yuǎn)遠(yuǎn)超過政策發(fā)展的速度，監(jiān)管不足、監(jiān)管過度和低效監(jiān)管都將抑制技術(shù)的發(fā)展、創(chuàng)新和競(jìng)爭(zhēng)力。為避免“膝跳反射調(diào)節(jié)”與“柯林格里奇悖論”，建議聯(lián)合決策者、技術(shù)專家、研究人員和業(yè)界工作者共同致力于人工智能政策框架和道德體系的構(gòu)建。一方面預(yù)判和跟蹤人工智能應(yīng)用的風(fēng)險(xiǎn)和挑戰(zhàn)，密切監(jiān)控和回應(yīng)來自產(chǎn)業(yè)界和學(xué)術(shù)界的反饋，一方面針對(duì)性地協(xié)調(diào)產(chǎn)業(yè)政策、創(chuàng)新政策、社會(huì)政策與相關(guān)倫理法規(guī)。

（2）成立倫理監(jiān)督委員會(huì)。國(guó)外在學(xué)界、業(yè)界和政府各個(gè)層次成立了人工智能倫理監(jiān)督委員會(huì)或研究中心，研究人工智能應(yīng)用的倫理學(xué)問題，探索人工智能技術(shù)的倫理規(guī)范路徑，并圍繞技術(shù)和科研政策問題制定相關(guān)倫理指導(dǎo)守則。在我國(guó)，尚未形成具有影響力的人工智能研究中心或研究報(bào)告。但就新聞傳媒而言，2015年底，中國(guó)記協(xié)新聞道德委員會(huì)成立。截至目前，除個(gè)別省份外，全國(guó)和省一級(jí)新聞道德委員會(huì)架構(gòu)初步形成。因此，本文建議我國(guó)由科技部牽頭，聯(lián)合國(guó)家互聯(lián)網(wǎng)信息辦公室、人大、中國(guó)記協(xié)新聞道德委員會(huì)、學(xué)界和行業(yè)協(xié)會(huì)組建人工智能新聞倫理監(jiān)督委員會(huì)，共同探索建立行業(yè)自律、外部監(jiān)督的長(zhǎng)效機(jī)制。對(duì)人工智能新聞倫理規(guī)范、法規(guī)進(jìn)行廣泛的討論和起草，對(duì)新聞機(jī)構(gòu)及新聞從業(yè)人員違反職業(yè)道德行為進(jìn)行監(jiān)督，對(duì)建立健全人工智能新聞法律法規(guī)和行業(yè)管理制度提出建議，組織開展媒體社會(huì)責(zé)任報(bào)告工作、組織開展人工智能新聞職業(yè)道德培訓(xùn)和理論研究，每年發(fā)布倫理研究報(bào)告。

（3）明確倫理主體和主體責(zé)任。隨著人工智能技術(shù)的應(yīng)用，新聞制作中倫理的主體和責(zé)任發(fā)生了重大轉(zhuǎn)移。記者個(gè)人不再是主要的道德主體，因?yàn)槠渌袨檎?，無論是新聞工作者還是非新聞工作者，都參與了不同層次的新聞制作，如：媒體/技術(shù)機(jī)構(gòu)、算法/機(jī)器人、程序員/項(xiàng)目經(jīng)理、數(shù)據(jù)/服務(wù)提供商甚至受眾。因此，個(gè)人的重要性正在下降，而媒體/技術(shù)機(jī)構(gòu)和媒體系統(tǒng)作為倫理主體的重要性正在上升，參與其中的每一個(gè)主體應(yīng)分別承擔(dān)不同層級(jí)的對(duì)應(yīng)責(zé)任。首先，在組織領(lǐng)域，機(jī)構(gòu)是導(dǎo)致技術(shù)倫理困境的制度性主體。中國(guó)媒體機(jī)構(gòu)的社會(huì)責(zé)任應(yīng)優(yōu)先于其權(quán)利和自由，媒體必須把國(guó)家的發(fā)展目標(biāo)放在重要的位置上，以促進(jìn)國(guó)家政治、經(jīng)濟(jì)、社會(huì)、文化的建設(shè)。其次，在專業(yè)領(lǐng)域，新聞從業(yè)者的職業(yè)倫理包括個(gè)人倫理和職責(zé)倫理。前者包括個(gè)人的品德結(jié)構(gòu)、道德認(rèn)識(shí)（如全心全意為人民服務(wù)，實(shí)事求是）、道德情感、道德意志，以及道德能力，即具有“明顯推理”（explicit reasoning）能力和面臨倫理困境的“隱含推理”（implicit reasoning）能力。后者包括真相的深度闡釋能力、“人機(jī)協(xié)同”能力、信息環(huán)境把關(guān)能力及專業(yè)內(nèi)容把關(guān)能力。最后，在社會(huì)層面，公眾責(zé)任是倫理構(gòu)建過程中的重要組成。

（4）制定倫理規(guī)范準(zhǔn)則。需要在國(guó)家的宏觀政策框架下，由倫理監(jiān)督委員會(huì)組織，聯(lián)合決策者、技術(shù)專家、研究人員和媒體工作者共同制定一套具有技術(shù)操控性和價(jià)值合理性的規(guī)范體系。這方面國(guó)外的實(shí)踐較為成熟。2017ASILOMAR會(huì)議“阿西洛馬人工智能原則”，從安全性、故障透明、審判透明、個(gè)人隱私、設(shè)計(jì)者職責(zé)、價(jià)值觀一致、自由、共享利益、共享繁榮、人類控制權(quán)、非顛覆、避免人工智能軍備競(jìng)賽、維護(hù)共同利益等方面，談及了人工智能應(yīng)遵循的道德標(biāo)準(zhǔn)、價(jià)值觀念及相關(guān)的基本規(guī)則。借鑒國(guó)內(nèi)外針對(duì)人工智能倫理原則的探討，結(jié)合我國(guó)傳統(tǒng)新聞倫理和社會(huì)主義核心價(jià)值觀，我們認(rèn)為人工智能新聞倫理的基本原則應(yīng)包括：自由、真實(shí)、客觀、責(zé)任、仁愛、共享，并建議在此基礎(chǔ)上，對(duì)《中國(guó)新聞工作者職業(yè)道德準(zhǔn)則》進(jìn)行修改。

2.內(nèi)在主義進(jìn)路。內(nèi)在主義進(jìn)路考察如何在技術(shù)設(shè)計(jì)中嵌入道德要素，對(duì)技術(shù)使用前的設(shè)計(jì)、開發(fā)、制造過程進(jìn)行哲學(xué)、倫理學(xué)分析；把倫理的職責(zé)從外在的監(jiān)督轉(zhuǎn)變?yōu)閮?nèi)在的介入；把關(guān)注的焦點(diǎn)從下游的應(yīng)用轉(zhuǎn)移到上游的設(shè)計(jì)。根據(jù)內(nèi)在主義研究視角，我們更多從數(shù)據(jù)和算法的方面考慮道德嵌入，以及如何以技術(shù)的手段來消除技術(shù)帶來的社會(huì)問題。

（1）數(shù)據(jù)治理。一是數(shù)據(jù)的規(guī)范性。通過政府、企業(yè)、中介組織、個(gè)人等多主體的良好互動(dòng)，綜合運(yùn)用互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等收集和積累海量數(shù)據(jù)；開發(fā)新的框架和機(jī)制，如數(shù)據(jù)可移植性和數(shù)據(jù)信任，形成統(tǒng)一的數(shù)據(jù)格式和應(yīng)用接口規(guī)范。二是數(shù)據(jù)的共享機(jī)制。應(yīng)建立合理的激勵(lì)、開放、共享、分配等機(jī)制以促進(jìn)數(shù)據(jù)共享，讓數(shù)據(jù)發(fā)揮價(jià)值；建立數(shù)據(jù)保護(hù)立法，防止擁有大量數(shù)據(jù)的大公司變得過于強(qiáng)大。三是數(shù)據(jù)的使用邊界。應(yīng)從設(shè)置數(shù)據(jù)開放等級(jí)制度和建立健全個(gè)人隱私保護(hù)制度等方面，不斷完善人工智能發(fā)展中的隱私保護(hù)制度。四是數(shù)據(jù)的使用時(shí)限。除了出于科學(xué)研究、檔案管理、公共安全或其他特殊的既非盈利也不面向一般公眾的目的，個(gè)人和企業(yè)不應(yīng)該存儲(chǔ)、分析、使用和傳播超出一定年限的數(shù)據(jù)。

（2）算法治理。一是算法的透明公開。新聞機(jī)構(gòu)應(yīng)采用完全透明的署名策略，向受眾告知算法新聞的數(shù)據(jù)源、算法等特殊信息?？煞智闆r采取不同的署名策略。二是算法的目標(biāo)優(yōu)化。通過價(jià)值敏感設(shè)計(jì)，在整個(gè)設(shè)計(jì)過程中以有原則和全面的方式考慮人類價(jià)值和社會(huì)核心價(jià)值，而不能僅僅以點(diǎn)擊率或推薦最大化作為算法的目標(biāo)。

（3）技術(shù)工具。技術(shù)產(chǎn)生的問題也可以通過技術(shù)本身的優(yōu)勢(shì)來解決。我們需要把對(duì)技術(shù)的功能性/工具性運(yùn)用轉(zhuǎn)變?yōu)樵趥惱矸ㄒ?guī)實(shí)施過程中發(fā)揮設(shè)計(jì)/構(gòu)建的本體性作用，納入對(duì)人工智能新聞的倫理治理體系建設(shè)中。未來今日研究所（Future Today Institute）在《2018年影響傳媒業(yè)的新科技趨勢(shì)報(bào)告》中預(yù)測(cè)了影響傳媒業(yè)的75個(gè)重要技術(shù)，其中許多技術(shù)既可影響新聞生產(chǎn)又可用于風(fēng)險(xiǎn)治理。如：新聞業(yè)區(qū)塊鏈（Blockchain For Journalism）可以用來編碼和核實(shí)內(nèi)容，通過構(gòu)建新聞公共賬戶——一個(gè)可以交換可信新聞、篩出假新聞的網(wǎng)絡(luò)系統(tǒng)，保證信源、圖像、視頻的真實(shí)性。