人機(jī)協(xié)同審核：概念與模式*

□文│劉錦宏 宋明珍

人類主要通過(guò)知覺(jué)、行動(dòng)和推理來(lái)獲取或生產(chǎn)知識(shí)，進(jìn)而認(rèn)識(shí)和改造世界。正是基于對(duì)知識(shí)的渴求，以及認(rèn)識(shí)和改造世界的渴望，人類很早就試圖通過(guò)機(jī)器推理來(lái)實(shí)現(xiàn)人的推理功能，[1]但具有推理能力機(jī)器的缺失讓“人機(jī)協(xié)同”推理的夢(mèng)想一直難以真正實(shí)現(xiàn)。如今，伴隨著人工智能（AI）技術(shù)的全面滲透，尤其在“出版”進(jìn)化到“數(shù)字出版”并成為數(shù)字內(nèi)容產(chǎn)業(yè)的重要組成部分的當(dāng)下，[2]基于人機(jī)協(xié)同的選題、編撰、審稿等出版流程或模式創(chuàng)新已經(jīng)成為出版融合創(chuàng)新的主要方向。為此，我們不應(yīng)再糾結(jié)是否該“接受”或“拒絕”AI技術(shù)這一簡(jiǎn)單問(wèn)題，而應(yīng)重點(diǎn)考量如何基于AI機(jī)器智能和編輯技能，通過(guò)人機(jī)協(xié)同審核來(lái)提升數(shù)字出版內(nèi)容質(zhì)量和出版審核工作效率。

一、人機(jī)協(xié)同審核概念界定

自人類使用工具開始，人機(jī)（工具）合作便一直在人類歷史年輪里刻畫出光輝燦爛的精神印痕。[3]當(dāng)前，盡管出版業(yè)的人機(jī)協(xié)同審核業(yè)務(wù)發(fā)展較為迅速，但學(xué)界和業(yè)界尚未對(duì)其進(jìn)行科學(xué)界定，人機(jī)協(xié)同審核仍然是一個(gè)新概念。其實(shí)，作為人類認(rèn)識(shí)活動(dòng)和實(shí)踐活動(dòng)中的一種，人機(jī)協(xié)同審核的本質(zhì)仍是審核主體運(yùn)用一定的中介手段（工具或方法等）作用于審核客體的客觀過(guò)程。因此，厘清AI時(shí)代出版業(yè)人機(jī)協(xié)同審核主體、審核客體以及中介（審核）手段等，對(duì)于科學(xué)界定人機(jī)協(xié)同審核概念極為關(guān)鍵。

馬克思主義實(shí)踐觀認(rèn)為，主體是指在社會(huì)實(shí)踐中認(rèn)識(shí)和改造世界的人，它可以是一個(gè)個(gè)體、群體或人類整體。在人類利用技術(shù)改造世界的過(guò)程中，由于技術(shù)異化的存在，人的主體性地位不斷受到挑戰(zhàn)。尤其伴隨著AI技術(shù)的快速崛起和普及應(yīng)用，人作為出版審核的主體地位更遭受到了挑戰(zhàn)。其實(shí)，AI時(shí)代出版人機(jī)協(xié)同審核的主體仍然是人，仍然是由編輯和出版管理者等構(gòu)成的人這一主體來(lái)執(zhí)行和主導(dǎo)出版審核實(shí)踐工作。AI審核機(jī)器人可以通過(guò)自主學(xué)習(xí)和環(huán)境感知等具有認(rèn)識(shí)審核客體的能力，并不斷向真正的人類靠近，但其仍無(wú)法動(dòng)搖編輯等審核主體的主體性地位。因?yàn)椋词笰I審核機(jī)器人擁有了些許編輯智力和情感意識(shí)，但它并不是人類自我意識(shí)的凸顯，而只是操控它的編輯所擁有的認(rèn)知和情感意識(shí)的具體表現(xiàn)。[4]

利益之所在，即為客體。[5]客體是主體（人）認(rèn)識(shí)活動(dòng)和實(shí)踐活動(dòng)的對(duì)象，是主體通過(guò)努力使之轉(zhuǎn)化為人化的為我的存在。[6]亦即，如何通過(guò)編輯等審核主體的努力（審核）提升內(nèi)容這一審核客體的價(jià)值是出版審核的關(guān)鍵之所在。如今，隨著出版融合的不斷深入，出版審核客體變得更加多元，且極具不確定性。一方面，伴隨著融合出版的不斷深入，內(nèi)容客體將更多以文字、圖片、音頻、視頻、模型、場(chǎng)景等多元形式融合呈現(xiàn)；另一方面，在交互出版盛行的當(dāng)下，內(nèi)容的結(jié)果呈現(xiàn)和價(jià)值表達(dá)還會(huì)因讀者（用戶）的交互行為不同而更具不確定性、更加難以把握。而要降低這種不確定性、準(zhǔn)確把握出版內(nèi)容價(jià)值，則需要將內(nèi)容呈現(xiàn)場(chǎng)景、用戶交互行為、交互方式、交互工具等新元素融入審核客體的范疇。

為了準(zhǔn)確判斷和提升出版審核客體的價(jià)值，審核主體需要運(yùn)用一定的工具和手段，以及知曉使用這些工具的程序和方法。一直以來(lái)，嚴(yán)格執(zhí)行“三審三?！敝贫群头椒ㄊ峭苿?dòng)我國(guó)出版高質(zhì)量發(fā)展的關(guān)鍵，智能出版時(shí)代更應(yīng)如此。只是，與傳統(tǒng)出版審核不同的是，智能出版環(huán)境下的審核工具、手段和理念等出現(xiàn)了新的變化，主要表現(xiàn)在以下3個(gè)方面：首先，AI機(jī)器作為一種審核工具和其他工具一樣將被廣泛應(yīng)用到出版審核工作中；其次，自然語(yǔ)言處理、大數(shù)據(jù)和AI算法等技術(shù)將作為一種方法被廣泛應(yīng)用到出版審核工作中；最后，編輯（人）和AI機(jī)器之間采用協(xié)同工作模式，將成為出版審核的主要工作模式。

AI機(jī)器并不是電影導(dǎo)演們描繪的接管世界的邪惡者，如何融合人類智能和機(jī)器智能以解決實(shí)際應(yīng)用場(chǎng)景和任務(wù)中人機(jī)協(xié)同的不確定性是AI要解決的主要難題。[7]“人機(jī)協(xié)同”的目標(biāo)是通過(guò)人類與智能機(jī)器之間的交互合作，讓人的行為優(yōu)化后的智能算法能更好地服務(wù)于人類，作為人的延伸的機(jī)器能更好地提升人的能力，[8]并共同為人類提供更好的服務(wù)。那么，如何通過(guò)人機(jī)協(xié)同將人類智慧和AI結(jié)合起來(lái)，為出版業(yè)提供比僅靠人類或AI更有價(jià)值的服務(wù)十分關(guān)鍵。[9]基于以上分析，本文認(rèn)為人機(jī)協(xié)同審核是指通過(guò)編輯與AI機(jī)器之間的相互溝通、學(xué)習(xí)和理解，利用編輯與AI的各自優(yōu)勢(shì)開展協(xié)同創(chuàng)新，共同為出版內(nèi)容審核工作提供更優(yōu)質(zhì)、高效服務(wù)的一種人機(jī)協(xié)同工作模式。

二、人機(jī)協(xié)同審核模式研究

人機(jī)協(xié)同審核模式是一個(gè)復(fù)雜的系統(tǒng)，從不同的角度進(jìn)行界定可以將其劃分為不同的類型。本文根據(jù)人機(jī)合作的強(qiáng)弱程度將人機(jī)協(xié)同審核劃分為人機(jī)互補(bǔ)協(xié)同審核模式、人機(jī)混合協(xié)同審核模式、人機(jī)融合協(xié)同審核模式和人機(jī)整體協(xié)同審核模式。

1.人機(jī)互補(bǔ)協(xié)同審核模式

人非完人、智能亦非全能。由于計(jì)算能力的不足，編輯在開展復(fù)雜、精確工作時(shí)，需要機(jī)器的協(xié)同處理；同樣，機(jī)器由于缺乏編輯的思維和推理能力，在處理復(fù)雜數(shù)據(jù)時(shí)也需要編輯的幫助。如今，當(dāng)編輯與機(jī)器試圖共同完成出版審核工作任務(wù)時(shí)，顯現(xiàn)出來(lái)的諸多沖突或問(wèn)題都源自于彼此間缺乏認(rèn)識(shí)。如果我們站在編輯和機(jī)器兩者中間，試圖去審視或解決這一問(wèn)題時(shí)，可以發(fā)現(xiàn)達(dá)成編輯與機(jī)器之間的相互幫助是關(guān)鍵。為此，本文認(rèn)為人機(jī)互補(bǔ)協(xié)同審核模式是指利用現(xiàn)代化的交互技術(shù)和手段基于編輯智能與機(jī)器智能的互補(bǔ)疊加，以“編輯輔助機(jī)器”或“機(jī)器輔助編輯”方式高效完成出版審核工作的一種人機(jī)協(xié)同審核模式。

未來(lái)的智能制造，不是機(jī)器換人、機(jī)器造人，而是機(jī)器助人、智能學(xué)人；[10]編輯和機(jī)器之間也不是替代和主仆關(guān)系，而是互補(bǔ)和伙伴關(guān)系。當(dāng)編輯可以同時(shí)操控和幫助“人民日?qǐng)?bào)AI智能編輯部”“谷歌大腦（Google Brain）”“吐真者（Truth Teller）”以及“騰訊云智能審核”等各種AI機(jī)器人協(xié)同工作時(shí)，不僅可以增加出版審核的靈活性，而且可以提高出版審核效率。同樣，在“萬(wàn)方選題”“黑馬校對(duì)”“網(wǎng)易易盾”“阿里云智能審核”以及“萬(wàn)得伯力（Wonderbly）”等AI機(jī)器的介入和幫助下，[11]編輯不僅可以減輕其審核工作壓力，而且可以提升其審核工作價(jià)值。

2.人機(jī)混合協(xié)同審核模式

智能出版的關(guān)鍵不只是要解決出版內(nèi)容的“快慢”問(wèn)題，更是要解決出版內(nèi)容價(jià)值的“是與非”與事實(shí)的“對(duì)與錯(cuò)”問(wèn)題。只有當(dāng)編輯在由“編輯—機(jī)器—環(huán)境”組成的智能審核系統(tǒng)中占據(jù)主導(dǎo)地位，并發(fā)揮關(guān)鍵作用（編輯控制關(guān)鍵人工智能）時(shí)，才能徹底解決智能出版內(nèi)容的“是與非”與“對(duì)與錯(cuò)”問(wèn)題。為此，我們認(rèn)為人機(jī)混合協(xié)同審核模式是指利用交互技術(shù)在編輯人工經(jīng)驗(yàn)的主導(dǎo)下以“編輯+機(jī)器”的智能方式發(fā)揮各自優(yōu)勢(shì)共同完成出版審核工作的一種人機(jī)協(xié)同審核模式。

既然人工智能是人類智能可描述化、可程序化的一部分，而智能是人、機(jī)（物）、環(huán)境系統(tǒng)相互作用的產(chǎn)物，[12]那么“編輯+機(jī)器”的人機(jī)混合協(xié)同審核模式將會(huì)在未來(lái)很長(zhǎng)一段時(shí)間內(nèi)發(fā)揮重要作用。例如，機(jī)器目前還無(wú)法根本解決出版要素的多義性或歧義性，“形式上一樣的一段字符串，在不同的場(chǎng)景或不同的語(yǔ)境下為何可以理解成不同的詞串、詞組串，并具有不同的意義”，[13]“同一張圖片為何在不同使用場(chǎng)域中所蘊(yùn)含的意義不同”[14]等問(wèn)題一直困擾著機(jī)器。只有通過(guò)編輯的介入，在編輯的主導(dǎo)下通過(guò)對(duì)特定語(yǔ)言、符號(hào)、圖片、音頻、視頻、場(chǎng)景等進(jìn)行語(yǔ)義關(guān)聯(lián)標(biāo)注供機(jī)器學(xué)習(xí)后，方能逐一解決。

3.人機(jī)融合協(xié)同審核模式

在AI研究領(lǐng)域，人機(jī)融合智能是研究的熱點(diǎn)之一，其目標(biāo)是通過(guò)人類智能與機(jī)器智能之間的相互學(xué)習(xí)、理解、感知和幫助，共同演化出更強(qiáng)大、更新的混合智能，以更好地服務(wù)于人類社會(huì)。如今，在仿生手臂、智能耳蝸、仿生眼和腦機(jī)接口等人機(jī)融合智能設(shè)備逐漸步入人們視野之際，出版界應(yīng)該深入思考如何通過(guò)人機(jī)融合智能來(lái)解決出版審核這一復(fù)雜任務(wù)。亦即，如何利用人機(jī)融合協(xié)同審核模式，通過(guò)編輯智能和機(jī)器智能的相互學(xué)習(xí)、理解和幫助，整合和發(fā)揮編輯和機(jī)器的智能優(yōu)勢(shì)，以“編輯×機(jī)器”這一更強(qiáng)大的智能形態(tài)完成出版審核工作的人機(jī)協(xié)同審核。

人機(jī)融合協(xié)同審核模式需要解決的關(guān)鍵問(wèn)題是如何將機(jī)器的計(jì)算能力與編輯的認(rèn)識(shí)能力結(jié)合起來(lái)，[15]達(dá)到人腦與機(jī)器智能的相互融合。為此，人機(jī)融合協(xié)同審核首先要解決基于編輯的先驗(yàn)知識(shí)實(shí)現(xiàn)機(jī)器采集數(shù)據(jù)和編輯感知數(shù)據(jù)的有效結(jié)合；其次，人機(jī)融合協(xié)同審核要構(gòu)建基于編輯的認(rèn)知方式和機(jī)器智能算法相融合的審核信息理解途徑；最后，人機(jī)融合協(xié)同審核要形成以編輯的價(jià)值決策效應(yīng)與機(jī)器智能算法相匹配、有機(jī)化和概率化相協(xié)調(diào)的決策判斷方式。在編輯與機(jī)器的相互理解和學(xué)習(xí)過(guò)程中，二者之間的交互與理解將會(huì)從單向性轉(zhuǎn)變?yōu)殡p向性，編輯的主動(dòng)性將與機(jī)器的被動(dòng)性混合起來(lái)，從而形成一種新的、更為強(qiáng)大的人機(jī)協(xié)同審核智能。

4.人機(jī)整體協(xié)同審核模式

人與機(jī)器之間的信任問(wèn)題是編輯與機(jī)器智能融合過(guò)程中需要解決的根本性問(wèn)題。[16]當(dāng)下，應(yīng)用于出版審核的“騰訊云智能審核”“百度內(nèi)容審核平臺(tái)”等人機(jī)協(xié)同審核系統(tǒng)大多是單人單機(jī)系統(tǒng)，機(jī)器的自主調(diào)度功能較弱，它們無(wú)法從零散數(shù)據(jù)中獲得有意義的領(lǐng)域知識(shí)，而且無(wú)法在編輯與機(jī)器之間達(dá)成信任。基于人機(jī)協(xié)同理論，要解決這一問(wèn)題就必須采用人機(jī)整體協(xié)同模式，通過(guò)全部編輯和AI機(jī)器的共同參與和學(xué)習(xí)實(shí)現(xiàn)個(gè)體獨(dú)立決策能力和系統(tǒng)總體性能的提升，進(jìn)而實(shí)現(xiàn)審核工作的人機(jī)互信。為此，人機(jī)整體協(xié)同審核模式是指利用全部編輯和AI機(jī)器組成的協(xié)作群體，通過(guò)編輯、機(jī)器各個(gè)個(gè)體間的相互學(xué)習(xí)和幫助，以“人機(jī)+人機(jī)”的協(xié)同方式共同解決動(dòng)態(tài)、復(fù)雜的出版審核問(wèn)題的一種人機(jī)協(xié)同審核模式。

在人機(jī)整體協(xié)同審核工作環(huán)境下，單個(gè)出版審核任務(wù)首先會(huì)被參與者進(jìn)行分拆，以便于編輯和機(jī)器進(jìn)行個(gè)體獨(dú)立決策判斷，進(jìn)而通過(guò)各個(gè)個(gè)體間的相互學(xué)習(xí)和援助實(shí)現(xiàn)對(duì)審核任務(wù)的總體判斷；其次，人機(jī)整體協(xié)同審核系統(tǒng)需要構(gòu)建一個(gè)清晰的“人—機(jī)”“人機(jī)—人機(jī)”溝通與交流渠道，以便于參與者通過(guò)學(xué)習(xí)和溝通形成共同的出版理念，達(dá)成共同的出版目標(biāo)；最后，人機(jī)整體協(xié)同審核系統(tǒng)需要提供可行的、確定的、有窮的分析規(guī)則，亦即通過(guò)算法調(diào)節(jié)和優(yōu)化參與者之間存在的矛盾與沖突，進(jìn)而保證全部參與者審核決策行為的群體一致性。總之，利用人機(jī)的資源優(yōu)勢(shì)協(xié)同解決復(fù)雜的出版審核問(wèn)題是人機(jī)協(xié)同審核的最終發(fā)展方向。

三、人機(jī)協(xié)同審核意義分析

在編輯和機(jī)器都有各自擅長(zhǎng)和無(wú)法完成的審核工作任務(wù)的局面下，人機(jī)協(xié)同審核的意義主要表現(xiàn)在如何通過(guò)編輯與AI機(jī)器的相互溝通、學(xué)習(xí)與理解來(lái)全面提升各自能力，以及基于人機(jī)互信為出版內(nèi)容審核工作提供更好的服務(wù)。具體來(lái)說(shuō)，人機(jī)協(xié)同審核的意義主要表現(xiàn)在以下3個(gè)方面。

首先，人機(jī)協(xié)同審核的意義在于其能夠提升編輯的人類智能及其審核工作效率和價(jià)值。在人機(jī)協(xié)同審核工作模式下，AI機(jī)器可以代替編輯完成繁重的排版、校對(duì)等工作，不僅減輕了編輯的工作負(fù)荷，而且極大地節(jié)約了編輯的時(shí)間和精力。也正是由于出版審核工作壓力的減輕，編輯可以將更多的時(shí)間和精力投入到更多、更富有創(chuàng)造性的出版審核工作中去，從而實(shí)現(xiàn)更好的個(gè)人價(jià)值。此外，AI機(jī)器可以增強(qiáng)編輯的認(rèn)知、決策和洞察能力。在編輯的參與和指導(dǎo)下，AI機(jī)器可以通過(guò)自主學(xué)習(xí)，利用更快、更準(zhǔn)確的計(jì)算服務(wù)為編輯提供信息分析和決策服務(wù)，幫助編輯擴(kuò)展、強(qiáng)化和提高其認(rèn)知、決策和洞察等人類智能，從而更好地服務(wù)于出版審核工作。

其次，人機(jī)協(xié)同審核的意義在于其能夠提升AI的“人性化”審核能力。人工智能雖然突破了從“不能用”到“可以用”的技術(shù)瓶頸，但離“用得好”和“很好用”還有很大的距離。[17]究其原因，AI機(jī)器學(xué)習(xí)算法的“人性化”能力不足是關(guān)鍵。在人機(jī)協(xié)同審核工作模式下，編輯不僅可以利用其已獲知識(shí)和經(jīng)驗(yàn)指導(dǎo)和監(jiān)督機(jī)器學(xué)習(xí)算法的訓(xùn)練，以提升AI機(jī)器的人性化思維和推理能力，還可以通過(guò)指導(dǎo)和訓(xùn)練賦予AI機(jī)器對(duì)事實(shí)和情感環(huán)境的人性化感知能力。此外，在人機(jī)協(xié)同審核模式下，AI機(jī)器可能處于非正常、危險(xiǎn)、不負(fù)責(zé)任的運(yùn)行狀態(tài)，需要通過(guò)編輯監(jiān)督來(lái)預(yù)測(cè)和防止AI機(jī)器的潛在危害，以避免對(duì)出版審核工作造成巨大沖擊。

最后，人機(jī)協(xié)同審核的意義在于其能夠完成復(fù)雜、多模態(tài)和多維的出版審核任務(wù)。雖然利用AI機(jī)器可以提高出版審核工作效率，但在確保出版內(nèi)容中不得包含違背憲法原則、危害國(guó)家安全、擾亂社會(huì)秩序、危害社會(huì)公德，以及國(guó)家法律法規(guī)禁止內(nèi)容等復(fù)雜、多模態(tài)、多維審核場(chǎng)景方面，[18]AI似乎無(wú)法更好地勝任審核工作，尤其在根據(jù)用戶行為生成出版內(nèi)容審核方面更是無(wú)能為力。而人機(jī)協(xié)同審核則能夠很好地處理這些復(fù)雜任務(wù)，AI可以利用技術(shù)優(yōu)勢(shì)將復(fù)雜任務(wù)拆分為簡(jiǎn)單的任務(wù)單元，快捷、經(jīng)濟(jì)地一次性完成多模態(tài)審核任務(wù)；編輯則可以基于機(jī)器運(yùn)算結(jié)果利用人的思維判斷能力快速、有效規(guī)避出版內(nèi)容中“在敏感詞語(yǔ)間使用特殊符號(hào)、代稱等人為干擾因素”[19]的影響。

四、結(jié)語(yǔ)

人機(jī)協(xié)同審核本質(zhì)上是一個(gè)編輯與機(jī)器之間相互溝通與相互理解的過(guò)程，它試圖通過(guò)編輯智慧與機(jī)器智能之間的共同創(chuàng)造來(lái)為出版審核工作提供更有價(jià)值的服務(wù)。同時(shí)，作為一個(gè)技術(shù)驅(qū)動(dòng)的產(chǎn)業(yè)，技術(shù)不僅可以驅(qū)動(dòng)出版產(chǎn)業(yè)發(fā)展，也能賦能出版產(chǎn)業(yè)。[20]因此，在我國(guó)出版融合進(jìn)程不斷加快、尤其是多模態(tài)出版快速發(fā)展的當(dāng)下，出版審核工作面臨越來(lái)越多單憑人或AI機(jī)器都無(wú)法解決的復(fù)雜難題，因此采用“人機(jī)協(xié)同審核”逐漸成為出版業(yè)界必然的選擇之一。唯有這樣，我們方能構(gòu)建和運(yùn)行一個(gè)智能更為強(qiáng)大的人機(jī)協(xié)同審核系統(tǒng)，進(jìn)而助力我國(guó)出版高質(zhì)量發(fā)展目標(biāo)的實(shí)現(xiàn)。