現(xiàn)階段生成式人工智能在檔案開(kāi)發(fā)利用中的應(yīng)用瓶頸分析
——以ChatGPT類(lèi)人工智能為例

王 冠 袁 燁

（馬來(lái)亞大學(xué)人文與社會(huì)科學(xué)學(xué)院，馬來(lái)西亞吉隆坡，50603）

作為一個(gè)里程碑式的人工智能產(chǎn)品，ChatGPT自2022 年11 月30 日發(fā)布以來(lái)就受到了人們火爆式地關(guān)注和應(yīng)用。國(guó)內(nèi)部分大型科技公司也積極響應(yīng)，開(kāi)發(fā)出了多款國(guó)產(chǎn)的生成式人工智能產(chǎn)品，如百度的文心一言、阿里的通義千問(wèn)、商湯的商量、科大訊飛的星火認(rèn)知大模型等。同時(shí)，ChatGPT類(lèi)人工智能憑借其強(qiáng)大功能以及在世界范圍內(nèi)的火爆態(tài)勢(shì)，使得生成式人工智能也成了當(dāng)前科技界的關(guān)注熱點(diǎn)。鑒于這一態(tài)勢(shì)，2023 年8 月15 日，由國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展改革委、教育部等七部委聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》開(kāi)始施行。這是我國(guó)首個(gè)關(guān)于生成式人工智能的國(guó)家級(jí)監(jiān)管文件，對(duì)于規(guī)范生成式人工智能的現(xiàn)實(shí)應(yīng)用及行業(yè)發(fā)展具有重要意義。

但是，在熱烈擁抱生成式人工智能的同時(shí)，人們對(duì)其安全性問(wèn)題以及在應(yīng)用過(guò)程中產(chǎn)生的倫理問(wèn)題和潛在風(fēng)險(xiǎn)的認(rèn)知也越來(lái)越深刻。以ChatGPT為例，2023 年3 月29 日，美國(guó)的生命未來(lái)研究所在其網(wǎng)站上公布了一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4 更強(qiáng)大的AI系統(tǒng)，暫停時(shí)間至少應(yīng)為6 個(gè)月，并稱(chēng)其“可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)”［1］。該公開(kāi)信得到了包括多位科技領(lǐng)袖如埃隆·馬斯克、史蒂夫·沃茲尼亞克、杰弗里·辛頓等在內(nèi)的1000 多位業(yè)內(nèi)人士的支持。2023 年3月31 日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布從即日起禁止使用ChatGPT平臺(tái)。如果說(shuō)公開(kāi)信的公布直白呈現(xiàn)出了科技界的謹(jǐn)慎態(tài)度的話(huà)，意大利的封禁措施則從現(xiàn)實(shí)層面為ChatGPT的應(yīng)用注入了一針強(qiáng)冷靜劑。

當(dāng)前檔案界已有學(xué)者就人工智能在檔案行業(yè)的應(yīng)用展開(kāi)了探討，如贠疆鵬等指出，當(dāng)前人工智能技術(shù)在我國(guó)檔案管理中還存在應(yīng)用場(chǎng)景有待拓展和豐富、應(yīng)用環(huán)節(jié)有待深化和集成、技術(shù)與管理原則有待落地和融合等問(wèn)題［2］；孫琳等指出人工智能技術(shù)應(yīng)用在城建檔案管理工作中具有可行性，檔案智能檢索與利用、檔案開(kāi)放鑒定、檔案智慧服務(wù)、檔案分類(lèi)整理和檔案安全保護(hù)是其中可能的應(yīng)用場(chǎng)景，但也存在著諸多風(fēng)險(xiǎn)。［3］同時(shí)，檔案領(lǐng)域圍繞生成式人工智能的應(yīng)用問(wèn)題也已展開(kāi)探討，主要圍繞ChatGPT展開(kāi)。其中，周文歡認(rèn)為ChatGPT在檔案領(lǐng)域的應(yīng)用存在“數(shù)據(jù)質(zhì)量問(wèn)題、語(yǔ)言和文化差異問(wèn)題、隱私和安全問(wèn)題、人工智能倫理問(wèn)題”［4］等挑戰(zhàn)和限制。總體而言，當(dāng)前學(xué)者對(duì)于ChatGPT在檔案領(lǐng)域的應(yīng)用均持謹(jǐn)慎態(tài)度。

目前，生成式人工智能的主要優(yōu)勢(shì)在于其內(nèi)容生成、多模式介質(zhì)處理以及人機(jī)互動(dòng)等方面具備的強(qiáng)大功能，其在檔案數(shù)據(jù)的智能化采集、組織、分析、檢索等工作中均可得到廣泛應(yīng)用。而且，從理想狀態(tài)來(lái)看，生成式人工智能的這三項(xiàng)功能優(yōu)勢(shì)在檔案開(kāi)發(fā)利用環(huán)節(jié)最有可能得到較大發(fā)揮。但筆者認(rèn)為，雖然生成式人工智能已然表現(xiàn)出了令人驚嘆的強(qiáng)大功能、驚人的更迭速度和廣闊的應(yīng)用前景，但是其本身存在的技術(shù)、倫理等方面的問(wèn)題，短時(shí)間內(nèi)仍無(wú)法得到很好解決，再加上檔案行業(yè)較強(qiáng)的專(zhuān)業(yè)性以及檔案安全底線(xiàn)的重要性等原因，現(xiàn)階段將生成式人工智能應(yīng)用于檔案開(kāi)發(fā)利用尚存在諸多瓶頸。

1 數(shù)據(jù)準(zhǔn)備階段

1.1 數(shù)據(jù)庫(kù)層面

大數(shù)據(jù)是生成式人工智能運(yùn)行的基礎(chǔ)和必要條件。相較于其他人工智能產(chǎn)品，生成式人工智能的核心競(jìng)爭(zhēng)力就在于其“海量數(shù)據(jù)”與“海量訓(xùn)練”，也正因如此，生成式人工智能的開(kāi)發(fā)公司對(duì)數(shù)據(jù)庫(kù)的建設(shè)和維護(hù)非常重視。以ChatGPT為例，其海量訓(xùn)練是基于一個(gè)固定的數(shù)據(jù)庫(kù)而展開(kāi)的。截至目前，OpenAI并未公布模型訓(xùn)練數(shù)據(jù)集的來(lái)源和內(nèi)容，這也是在應(yīng)用ChatGPT的過(guò)程中產(chǎn)生黑匣子效應(yīng)的主要原因，而黑匣子效應(yīng)又會(huì)導(dǎo)致侵權(quán)、隱私泄露等嚴(yán)重風(fēng)險(xiǎn)。

要想在檔案開(kāi)發(fā)利用中應(yīng)用生成式人工智能，首先需要準(zhǔn)備由海量開(kāi)放性檔案數(shù)據(jù)構(gòu)成的檔案語(yǔ)料。其中的主體應(yīng)是檔案部門(mén)提供的檔案內(nèi)容數(shù)據(jù)、檔案實(shí)體數(shù)據(jù)、檔案環(huán)境數(shù)據(jù)、其他數(shù)據(jù)等，還包括由立檔單位和個(gè)人提供的開(kāi)源信息、用戶(hù)在使用過(guò)程中輸入的個(gè)人信息及其獲取的輸出結(jié)果信息等?，F(xiàn)階段，我國(guó)檔案部門(mén)要想使生成式人工智能在檔案開(kāi)發(fā)利用中落地，就需要將海量的檔案數(shù)據(jù)尤其是檔案內(nèi)容數(shù)據(jù)上傳至相應(yīng)公司的數(shù)據(jù)庫(kù)。對(duì)于國(guó)外的生成式人工智能產(chǎn)品而言，這種做法在法律層面是被嚴(yán)格禁止的，在實(shí)際操作中也會(huì)因?yàn)檫`背國(guó)家安全底線(xiàn)而斷不可行；國(guó)產(chǎn)的ChatGPT類(lèi)人工智能產(chǎn)品如百度的文心一言、阿里的通義千問(wèn)等雖然已獲得了廣泛應(yīng)用，但相較于ChatGPT而言，其在語(yǔ)料、芯片、算法上都有短板，想要建立我國(guó)專(zhuān)用的檔案語(yǔ)料庫(kù)并應(yīng)用于檔案的開(kāi)發(fā)利用也十分困難。此外，雖然當(dāng)前生成式人工智能業(yè)已體現(xiàn)出了明顯的插件化發(fā)展趨勢(shì)，已有部分科技公司和人士將其與搜索引擎、微信等連接并得到了成功應(yīng)用，且未來(lái)由我國(guó)自主設(shè)計(jì)研發(fā)的ChatGPT類(lèi)插件產(chǎn)品也可接入全國(guó)檔案查詢(xún)利用服務(wù)平臺(tái)、跨區(qū)域檔案信息資源共享平臺(tái)、專(zhuān)題檔案數(shù)據(jù)庫(kù)等，但是目前為止，這一理想前景的實(shí)現(xiàn)可能性尚顯渺茫。

1.2 數(shù)據(jù)量層面

生成式人工智能依托海量數(shù)據(jù)庫(kù)信息存在，如“OpenAI為了讓ChatGPT（指ChatGPT-3）的語(yǔ)言合成結(jié)果更自然流暢，用了45TB的數(shù)據(jù)、近1萬(wàn)億個(gè)單詞來(lái)訓(xùn)練模型，大概是1351 萬(wàn)本牛津詞典”［5］。功能更為強(qiáng)大的ChatGPT-4、ChatGPT-5 則需要更大體量的數(shù)據(jù)才能滿(mǎn)足其訓(xùn)練需求以更加準(zhǔn)確地處理和反饋人類(lèi)設(shè)置的生成條件，而若想要達(dá)到符合人類(lèi)常識(shí)、認(rèn)知乃至價(jià)值觀層面的要求，則需要更大體量數(shù)據(jù)的訓(xùn)練。

由于檔案與檔案需求的特殊性和復(fù)雜性、檔案業(yè)務(wù)工作的專(zhuān)業(yè)性等原因，將ChatGPT類(lèi)人工智能的通用大模型應(yīng)用于檔案開(kāi)發(fā)利用，若不是量身定制的話(huà)，其輸出答案的準(zhǔn)確性會(huì)較差，因此，需要對(duì)海量檔案語(yǔ)料展開(kāi)大量訓(xùn)練才能滿(mǎn)足專(zhuān)業(yè)性、復(fù)雜性需求。即便是在應(yīng)用之后，也須依靠由巨大體量的檔案數(shù)據(jù)，尤其是檔案內(nèi)容數(shù)據(jù)支撐的檔案語(yǔ)料庫(kù)運(yùn)行。根據(jù)統(tǒng)計(jì)，2022 年度我國(guó)“館藏電子檔案2372.9TB，其中，數(shù)碼照片220.0TB，數(shù)字錄音、數(shù)字錄像1040.0TB，館藏檔案數(shù)字化成果28069.0TB”［6］。而2001 年至2020 年我國(guó)綜合檔案館的檔案平均開(kāi)放率為21.91%［7］，據(jù)此測(cè)算，理論上我國(guó)可納入檔案語(yǔ)料庫(kù)的電子檔案達(dá)519.9TB，符合生成式人工智能對(duì)數(shù)據(jù)體量的要求。但是也不難看出，要達(dá)到這一要求就需要整合全國(guó)范圍內(nèi)的開(kāi)放性檔案數(shù)據(jù)并建設(shè)統(tǒng)一的檔案語(yǔ)料庫(kù)，這在當(dāng)前的情況下是不可能實(shí)現(xiàn)的。而且，即便是建成了檔案語(yǔ)料庫(kù)，在檔案部門(mén)提供海量開(kāi)放性檔案數(shù)據(jù)的過(guò)程中，檔案鑒定工作不充分、對(duì)提供數(shù)據(jù)的范圍把握不準(zhǔn)確、工作人員誤操作或失職等原因均可能造成檔案泄密。此外，如果生成式人工智能在采集網(wǎng)絡(luò)信息的過(guò)程中，將未經(jīng)權(quán)利主體授權(quán)卻受到著作權(quán)保護(hù)的文本、圖片、視頻等信息直接復(fù)制到檔案語(yǔ)料庫(kù)中，那么，在此基礎(chǔ)上修改、拼湊而成的內(nèi)容就會(huì)侵害到他人的著作權(quán)。如此巨大的工作量和風(fēng)險(xiǎn)度也是檔案部門(mén)難以承受的。

2 內(nèi)容生成階段

2.1 內(nèi)容生成機(jī)制——關(guān)聯(lián)

生成式人工智能通過(guò)所挖掘的單詞之間的關(guān)聯(lián)統(tǒng)計(jì)關(guān)系合成語(yǔ)言答案。如ChatGPT將大數(shù)據(jù)、大模型和大算力進(jìn)行工程性結(jié)合，不僅使其具備了強(qiáng)大的統(tǒng)計(jì)關(guān)聯(lián)能力，而且有助于挖掘海量數(shù)據(jù)中單詞與單詞、句子與句子等之間的關(guān)聯(lián)性，并通過(guò)機(jī)器智能的方式將關(guān)聯(lián)結(jié)果呈現(xiàn)出來(lái)。關(guān)聯(lián)統(tǒng)計(jì)與呈現(xiàn)的生成機(jī)制固然有助于深入挖掘檔案數(shù)據(jù)以產(chǎn)出高質(zhì)量的檔案開(kāi)發(fā)產(chǎn)品，但是也會(huì)產(chǎn)生嚴(yán)重后果。

生成式人工智能以“共生則關(guān)聯(lián)”為標(biāo)準(zhǔn)訓(xùn)練模型，由于未來(lái)建成的檔案語(yǔ)料庫(kù)中的數(shù)據(jù)來(lái)源較為復(fù)雜，不僅包括檔案部門(mén)提供的檔案數(shù)據(jù)，以及立檔單位和個(gè)人產(chǎn)生和提供的開(kāi)源信息；還包括用戶(hù)上傳和生成的數(shù)據(jù)，以及生成式人工智能通過(guò)互聯(lián)網(wǎng)采集的信息。如此一來(lái)，生成式人工智能則會(huì)因無(wú)效關(guān)聯(lián)或虛假關(guān)聯(lián)生成大量不真實(shí)，甚至是由違背常識(shí)或東拼西湊的信息合成的答案，但其自身卻無(wú)法明晰判斷答案中內(nèi)容的可信度。這類(lèi)檔案開(kāi)發(fā)產(chǎn)品的大量產(chǎn)出不僅會(huì)削弱檔案及檔案部門(mén)的權(quán)威性，還有可能會(huì)在大規(guī)模社會(huì)性傳播之下動(dòng)搖基于檔案真實(shí)性而構(gòu)建起來(lái)的檔案價(jià)值理念和文化。再加上生成式人工智能對(duì)信息、數(shù)據(jù)來(lái)源無(wú)法進(jìn)行事實(shí)核查，所以這一問(wèn)題幾乎無(wú)法從源頭上予以解決。

2.2 內(nèi)容生成結(jié)果——指令

指令對(duì)生成式人工智能的內(nèi)容生成結(jié)果有著重要影響。以ChatGPT為例，其底層技術(shù)包括Transformer、自監(jiān)督學(xué)習(xí)、微調(diào)、人類(lèi)反饋強(qiáng)化學(xué)習(xí)（RLHF）、AI對(duì)齊等。其中，指令微調(diào)和人類(lèi)反饋強(qiáng)化學(xué)習(xí)是決定內(nèi)容生成結(jié)果質(zhì)量的重要技術(shù)，也是提升指令學(xué)習(xí)能力和用戶(hù)意圖捕獲能力的重要影響因素。值得注意的是，ChatGPT-4 已經(jīng)在用戶(hù)意圖捕獲能力方面有了較大提升，其產(chǎn)生的結(jié)果也越來(lái)越符合用戶(hù)需求，并且其還可以通過(guò)用戶(hù)指令賦予獨(dú)特的“人格”以生成更高質(zhì)量的內(nèi)容。

但是，生成式人工智能在內(nèi)容生成結(jié)果層面受主觀因素的影響較大。一方面，ChatGPT類(lèi)模型的能力上限是由獎(jiǎng)勵(lì)模型決定的，該模型需要巨量的語(yǔ)料來(lái)擬合真實(shí)世界，對(duì)標(biāo)注員的工作量以及綜合素質(zhì)要求較高。在此背景下，檔案語(yǔ)料庫(kù)的建設(shè)及其質(zhì)量保障將面臨較大挑戰(zhàn)。另一方面，用戶(hù)設(shè)置的生成條件將直接決定生成內(nèi)容的結(jié)果和質(zhì)量，若在此過(guò)程中，用戶(hù)有意或無(wú)意設(shè)置了模糊性較，帶有偏見(jiàn)或冒犯性，甚至是帶有欺詐、違法等意愿的條件，就會(huì)產(chǎn)生大量與事實(shí)和常識(shí)不符、違背倫理和違反法律的毒性信息，這些信息還會(huì)被自動(dòng)納入檔案語(yǔ)料庫(kù)，進(jìn)而產(chǎn)生不可預(yù)知的嚴(yán)重后果。同時(shí)，生成式人工智能還存在主觀猜測(cè)提問(wèn)者意圖等問(wèn)題，這無(wú)疑會(huì)加劇后果的嚴(yán)重性。

3 社會(huì)傳播階段

3.1 高并發(fā)性

生成式人工智能的一個(gè)顯著特征是高并發(fā)性，主要表現(xiàn)為：一是其可同時(shí)生成很多答案內(nèi)容，包括不實(shí)信息和毒性信息，而這些信息又會(huì)進(jìn)入其數(shù)據(jù)庫(kù)成為語(yǔ)料來(lái)源。如果有不法分子對(duì)其進(jìn)行惡意訓(xùn)練，就會(huì)有大量有害信息被源源不斷地生產(chǎn)出來(lái)，如虛假的政策文件、政府公文、電子郵件等，并可借助多元化的社交媒體廣泛傳播出去。二是其可同時(shí)與很多用戶(hù)進(jìn)行交互，若有不法分子將其作為插件與詐騙系統(tǒng)連接，便可同時(shí)完成很多詐騙行為，如可同時(shí)給很多人打電話(huà)，并憑借其優(yōu)秀的人機(jī)交互能力和內(nèi)容生成能力完成大規(guī)模詐騙。

生成式人工智能的這一特征在檔案開(kāi)發(fā)利用中將有可能被無(wú)限放大。一方面，公文是檔案的重要來(lái)源，由于生成式人工智能的核心功能之一即是按照用戶(hù)要求自動(dòng)模仿有固定模式的文本內(nèi)容，如此一來(lái)，檔案部門(mén)上傳至語(yǔ)料庫(kù)的大量檔案資源將會(huì)成為不法分子制造假政策文件、假政府公文等的訓(xùn)練范本。另一方面，社會(huì)公眾基于檔案真實(shí)性而對(duì)檔案和檔案部門(mén)形成的權(quán)威性認(rèn)知，也會(huì)成為不法分子借以實(shí)施詐騙行為的一個(gè)重要條件，即可能會(huì)使社會(huì)公眾在被詐騙時(shí)深信不疑、上當(dāng)警覺(jué)之后質(zhì)疑檔案的真實(shí)性和檔案部門(mén)的公信力。由上分析可知，在檔案開(kāi)發(fā)利用中應(yīng)用生成式人工智能不僅可能會(huì)引發(fā)社會(huì)性違法行為的發(fā)生，而且也會(huì)給檔案部門(mén)的公信力造成廣泛性損害。

3.2 強(qiáng)破壞性

隨著生成式人工智能的迭代升級(jí)，其在內(nèi)容生成方面的功能也更加強(qiáng)大。但與此同時(shí)，生成式人工智能生成內(nèi)容的欺騙性也更強(qiáng)，由此產(chǎn)生的破壞力則更強(qiáng)。以ChatGPT為例，根據(jù)《科學(xué)報(bào)告》發(fā)表的一項(xiàng)研究，人類(lèi)對(duì)道德困境的反應(yīng)可能會(huì)受到人工智能對(duì)話(huà)機(jī)器人ChatGPT所寫(xiě)陳述的影響。這表明用戶(hù)可能低估了自己的道德判斷受ChatGPT影響的程度。［8］因此，生成式人工智能可能會(huì)產(chǎn)生更深層次的破壞性。

檔案開(kāi)發(fā)利用是檔案部門(mén)傳播檔案理念和價(jià)值觀的重要途徑，生成式人工智能強(qiáng)大的功能固然有助于生產(chǎn)出高質(zhì)量的檔案產(chǎn)品、增強(qiáng)檔案用戶(hù)的體驗(yàn)等，但同時(shí)其產(chǎn)生的虛假信息和毒性信息將更具有隱蔽性和欺騙性，尤其是其對(duì)人類(lèi)道德和價(jià)值觀產(chǎn)生的深刻影響，可能會(huì)削弱檔案價(jià)值和理念的傳播成效，甚至?xí)で_的檔案理念和價(jià)值觀?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》中對(duì)生成式人工智能服務(wù)提出了全方位管理的要求，其中第四條規(guī)定：提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，并從五個(gè)方面進(jìn)行了具體規(guī)制；第五條規(guī)定生成式人工智能服務(wù)的提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任。［9］由此可知，檔案部門(mén)在應(yīng)用生成式人工智能開(kāi)展檔案開(kāi)發(fā)利用的過(guò)程中還需要承擔(dān)起艱巨的法律和道德責(zé)任。

4 余 論

生成式人工智能業(yè)已展現(xiàn)出了巨大的應(yīng)用潛力、摹繪出了AI應(yīng)用的美好圖景。［10］我們?cè)跓崆袚肀臅r(shí)候也應(yīng)該以謹(jǐn)慎的態(tài)度視之，尤其是應(yīng)考慮到其在應(yīng)用過(guò)程中可能帶來(lái)的巨大風(fēng)險(xiǎn)和倫理問(wèn)題。在檔案開(kāi)放利用中，我們固然可以合理暢想其可能的應(yīng)用場(chǎng)景，但是更需要依據(jù)謹(jǐn)慎性原則預(yù)警風(fēng)險(xiǎn)和化解風(fēng)險(xiǎn)。更何況在生成式人工智能產(chǎn)品的主要核心技術(shù)和數(shù)據(jù)庫(kù)等多掌握在國(guó)外公司的當(dāng)下，我國(guó)檔案部門(mén)不可能將檔案數(shù)據(jù)的安全命運(yùn)交給其掌握；同時(shí)，生成式人工智能也存在巨大的技術(shù)倫理和社會(huì)傳播風(fēng)險(xiǎn)，因此綜合考慮，現(xiàn)階段在檔案開(kāi)發(fā)利用中應(yīng)用生成式人工智能尚存在一些瓶頸。

值得注意的是，當(dāng)前我國(guó)已有單位和企業(yè)嘗試將生成式人工智能應(yīng)用于知識(shí)圖譜的建構(gòu)且取得了一定成果［11］，但是距離徹底打破上述瓶頸尚有較大差距。主要原因在于：其一，在應(yīng)用方式方面。生成式人工智能以插件的形式得以與知識(shí)圖譜軟件或平臺(tái)連接，其尚未經(jīng)過(guò)大體量檔案語(yǔ)料庫(kù)的專(zhuān)門(mén)性訓(xùn)練，在構(gòu)建符合檔案專(zhuān)業(yè)特點(diǎn)和要求的知識(shí)圖譜中可能會(huì)存在偏差。其二，在應(yīng)用效果層面。由于當(dāng)前的知識(shí)圖譜軟件或平臺(tái)將網(wǎng)絡(luò)信息也納入了分析范疇，因此基于其建構(gòu)出的知識(shí)圖譜會(huì)因?yàn)樘摷倩虿粚?shí)網(wǎng)絡(luò)信息的污染而導(dǎo)致準(zhǔn)確性較差，而生成式人工智能由于其“共生則關(guān)聯(lián)”的內(nèi)容生成機(jī)制則可能會(huì)加劇這一后果。