學(xué)術(shù)論文創(chuàng)新點(diǎn)的識(shí)別與檢索入口研究

曹樹金　趙浜　岳文玉等

DOI：10.3969 / j.issn.1008-0821.2021.12.002〔中圖分類號(hào)〕G250.2 〔文獻(xiàn)標(biāo)識(shí)碼〕A 〔文章編號(hào)〕1008-0821 （2021） 12-0017-11

我國(guó)正在實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略， 科技創(chuàng)新和基礎(chǔ)研究是創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的重中之重。創(chuàng)新是科學(xué)研究的核心，是學(xué)術(shù)論文的本質(zhì)要求。學(xué)術(shù)論文通常結(jié)構(gòu)嚴(yán)謹(jǐn)，內(nèi)容蘊(yùn)藏著研究者的研究成果及科學(xué)發(fā)現(xiàn)， 是科學(xué)研究工作的結(jié)晶， 理論和應(yīng)用價(jià)值豐富。蘊(yùn)含創(chuàng)新內(nèi)容的學(xué)術(shù)論文是支持科技創(chuàng)新的主要情報(bào)源。

據(jù)統(tǒng)計(jì)，全球科技文獻(xiàn)的生產(chǎn)數(shù)量已達(dá)百萬(wàn)級(jí)別， 且以每年3%左右的速度持續(xù)增長(zhǎng)，學(xué)術(shù)文獻(xiàn)海量且類型多樣、分布分散。學(xué)術(shù)論文創(chuàng)新點(diǎn)的獲取，一方面是為了提高科研用戶的科研效率，緩解信息過(guò)載現(xiàn)象;另一方面，從宏觀角度來(lái)看， 監(jiān)測(cè)創(chuàng)新、促進(jìn)創(chuàng)新是科學(xué)研究發(fā)展的本質(zhì)要求， 而創(chuàng)新本身及其表述的復(fù)雜性和多樣性又為識(shí)別創(chuàng)新要素增添了難度。

當(dāng)前， 在自然語(yǔ)言處理和深度學(xué)習(xí)方面的研究進(jìn)展為文本的多粒度挖掘和組織提供了技術(shù)支持。已有研究從事件文檔和句子級(jí)別對(duì)創(chuàng)新特征的自動(dòng)識(shí)別進(jìn)行了探索， 但在實(shí)際應(yīng)用的檢索系統(tǒng)中，并沒(méi)有實(shí)現(xiàn)對(duì)文獻(xiàn)創(chuàng)新特征的檢索功能，文獻(xiàn)創(chuàng)新點(diǎn)與創(chuàng)新要素仍有待揭示和描述。因此， 有必要對(duì)學(xué)術(shù)論文的創(chuàng)新點(diǎn)進(jìn)行深度挖掘，提取出其中的結(jié)構(gòu)化信息， 揭示不同粒度創(chuàng)新點(diǎn)表述的關(guān)聯(lián)并進(jìn)行存儲(chǔ)， 以滿足科研用戶獲取創(chuàng)新情報(bào)的需求， 提升情報(bào)服務(wù)的能力。

1相關(guān)研究

1.1學(xué)術(shù)創(chuàng)新的含義與測(cè)度

根據(jù)庫(kù)恩的范式概念， 學(xué)術(shù)創(chuàng)新可以分為兩類：一類是對(duì)已有研究進(jìn)行補(bǔ)充和發(fā)展， 推動(dòng)科學(xué)的累積式漸進(jìn); 另一類是對(duì)原有研究的顛覆， 具有革命性的創(chuàng)新意義。更進(jìn)一步地， 關(guān)于學(xué)術(shù)論文的創(chuàng)新， 姜春林等認(rèn)為， 學(xué)術(shù)論文的創(chuàng)新蘊(yùn)含著從研究者的思想和觀點(diǎn)到產(chǎn)生新知識(shí)的復(fù)雜過(guò)程。學(xué)術(shù)論文中的創(chuàng)新點(diǎn)可以認(rèn)為是研究者研究中創(chuàng)新成果的文字體現(xiàn)。論文創(chuàng)新點(diǎn)的表現(xiàn)形式為作者在論文中使用的“知識(shí)主張” （Knowledge Claim）， 論文作者使用的“新知識(shí)主張語(yǔ)句” 提供具有學(xué)術(shù)價(jià)值的新知識(shí)， 可以揭示論文的創(chuàng)新點(diǎn)。

在學(xué)術(shù)創(chuàng)新的相關(guān)研究中， 創(chuàng)新能力、水平或程度的測(cè)量一直是研究的熱點(diǎn)之一。近年研究的熱點(diǎn)聚焦于對(duì)學(xué)術(shù)成果本身創(chuàng)新性的測(cè)量， 一些研究者使用單個(gè)特征作為論文學(xué)術(shù)創(chuàng)新性的評(píng)價(jià)指標(biāo)。比如以論文作者的h 指數(shù)、論文的被引量等單個(gè)指標(biāo)為主的評(píng)價(jià)方法。從內(nèi)容角度進(jìn)行深層次、全面化的學(xué)術(shù)創(chuàng)新評(píng)價(jià)和揭示成為目前的主流趨勢(shì)。如一些學(xué)者以語(yǔ)義相似度計(jì)算為核心， 分別從篇章級(jí)和句子級(jí)構(gòu)建模型或函數(shù)測(cè)度學(xué)術(shù)成果的創(chuàng)新性。賀婉瑩通過(guò)對(duì)不同機(jī)器學(xué)習(xí)模型的性能進(jìn)行評(píng)價(jià)， 得出了適合進(jìn)行創(chuàng)新力評(píng)價(jià)的機(jī)器學(xué)習(xí)模型。

從以上研究可以看出， 自然語(yǔ)言處理、機(jī)器學(xué)習(xí)等技術(shù)的不斷發(fā)展促進(jìn)了學(xué)術(shù)創(chuàng)新測(cè)度不斷向更細(xì)粒度、更精準(zhǔn)的趨勢(shì)發(fā)展。這說(shuō)明學(xué)術(shù)論文的創(chuàng)新點(diǎn)抽取或許可以為學(xué)術(shù)創(chuàng)新情報(bào)的挖掘提供一個(gè)新方向。

1.2學(xué)術(shù)信息的多粒度組織與檢索

隨著知識(shí)抽取技術(shù)的不斷發(fā)展和學(xué)術(shù)論文全文本可獲得性的不斷提高， 從學(xué)術(shù)研究成果文本中獲取多粒度信息并進(jìn)行關(guān)聯(lián)， 從而進(jìn)行知識(shí)結(jié)構(gòu)構(gòu)建， 是一種可行且有必要的手段。

現(xiàn)有研究多聚焦于細(xì)粒度信息單元的獲取與組織。在細(xì)粒度學(xué)術(shù)信息獲取研究領(lǐng)域， 知識(shí)元抽取是近年的研究重點(diǎn)?，F(xiàn)有知識(shí)元的抽取級(jí)別分為詞級(jí)和句子級(jí)， 近年知識(shí)元抽取研究一般都以句子級(jí)為主。方法可以分為人工標(biāo)注、基于規(guī)則的方法和機(jī)器學(xué)習(xí)方法。多粒度學(xué)術(shù)信息組織相對(duì)復(fù)雜， 單文檔的多粒度信息組織方面， 如李湘東等提出一種基于加權(quán)特征的LDA模型和多粒度特征選擇模型， 以抽取表意性較強(qiáng)的粗粒度特征; 多文檔的多粒度信息組織方面， 如肖璐從詞語(yǔ)、句子與文本粒度構(gòu)建領(lǐng)域知識(shí)關(guān)聯(lián)體系， 并將多個(gè)知識(shí)關(guān)聯(lián)網(wǎng)絡(luò)通過(guò)超網(wǎng)絡(luò)技術(shù)融合成全聯(lián)通的多粒度知識(shí)關(guān)聯(lián)體系。

學(xué)術(shù)信息的多粒度或細(xì)粒度檢索相關(guān)研究相對(duì)較少。如李禎靜提出一種基于資源語(yǔ)義空間的科技文獻(xiàn)細(xì)粒度語(yǔ)義檢索方法。王忠義等基于關(guān)聯(lián)數(shù)據(jù)提出數(shù)字圖書館多粒度集成知識(shí)服務(wù)方式， 并開發(fā)原型系統(tǒng)， 進(jìn)行檢索實(shí)驗(yàn)和評(píng)估。

總結(jié)以上研究可以看出， 雖然多粒度學(xué)術(shù)信息組織已有較多研究， 但以標(biāo)注或模型構(gòu)建的相關(guān)研究為主， 以檢索為目的或者真正實(shí)現(xiàn)檢索功能的研究不多。

1.3學(xué)術(shù)研究創(chuàng)新的識(shí)別與挖掘

學(xué)術(shù)創(chuàng)新的識(shí)別多指宏觀層面， 而挖掘則更多指微觀層面。宏觀層面的學(xué)術(shù)創(chuàng)新識(shí)別主要包括兩個(gè)研究方向： 顛覆性創(chuàng)新識(shí)別和探測(cè)與創(chuàng)新路徑識(shí)別。關(guān)于顛覆性創(chuàng)新識(shí)別，已有不少學(xué)者進(jìn)行了綜述， 從對(duì)象方面一般可以分為基于專利和基于論文的顛覆性創(chuàng)新識(shí)別， 從方法上一般分為文獻(xiàn)計(jì)量、文本挖掘等識(shí)別方法。關(guān)于創(chuàng)新路徑的識(shí)別， 一般以3種方法為主：引文分析法、主題詞分析法、基于多元關(guān)系融合的方法。這些研究主要是從宏觀上探究學(xué)術(shù)創(chuàng)新的發(fā)展趨勢(shì)。

對(duì)于學(xué)術(shù)論文創(chuàng)新點(diǎn)的挖掘， 除了通過(guò)相似度， 與知識(shí)元抽取類似， 一般還分為通過(guò)規(guī)則和通過(guò)算法抽取兩種方法。如張帆等以領(lǐng)域詞表和本體中的關(guān)系為基礎(chǔ)構(gòu)建識(shí)別規(guī)則， 采用基于主題詞重疊度的算法評(píng)估創(chuàng)新點(diǎn)的有效性。周海晨等提出一個(gè)深度學(xué)習(xí)與規(guī)則結(jié)合的學(xué)術(shù)創(chuàng)新貢獻(xiàn)識(shí)別方法， 實(shí)現(xiàn)了大規(guī)模學(xué)術(shù)全文本創(chuàng)新貢獻(xiàn)的自動(dòng)抽取。

以上研究為本文提供了重要的理論前提和方法基礎(chǔ)。但將創(chuàng)新句的抽取擴(kuò)展到全文的研究較少，也沒(méi)有研究將句子級(jí)創(chuàng)新點(diǎn)的抽取結(jié)果應(yīng)用于檢索。因此， 本研究以情報(bào)學(xué)期刊論文為例， 從學(xué)術(shù)論文的句子級(jí)創(chuàng)新點(diǎn)識(shí)別出發(fā)， 以創(chuàng)新對(duì)象和創(chuàng)新維度為線索， 對(duì)創(chuàng)新句、相關(guān)章節(jié)和論文本身進(jìn)行多粒度關(guān)聯(lián)， 并以此為數(shù)據(jù)基礎(chǔ)設(shè)計(jì)創(chuàng)新點(diǎn)檢索入口，探索對(duì)創(chuàng)新點(diǎn)進(jìn)行檢索的可行性。

需要強(qiáng)調(diào)的是， 本研究所進(jìn)行的學(xué)術(shù)論文創(chuàng)新點(diǎn)識(shí)別， 是完全從客觀層面對(duì)論文作者在文中表述的研究創(chuàng)新之處進(jìn)行挖掘和特征分析， 不涉及研究者的主觀判斷。本研究所稱“創(chuàng)新句” 指論文作者在文中表述的，旨在提示研究創(chuàng)新之處的句子。

2研究設(shè)計(jì)與方法

2.1研究設(shè)計(jì) 本研究分兩個(gè)階段進(jìn)行， 第一階段為領(lǐng)域?qū)W術(shù)論文創(chuàng)新句獲取以及創(chuàng)新要素分析; 第二階段為創(chuàng)新點(diǎn)檢索入口及系統(tǒng)構(gòu)建。由于近年情報(bào)學(xué)期刊論文寫作規(guī)范化程度不斷提高， 同時(shí)作者和標(biāo)注人員對(duì)本領(lǐng)域相對(duì)熟悉， 因此選擇情報(bào)學(xué)研究領(lǐng)域， 研究樣本為情報(bào)學(xué)期刊論文。

2.1.1領(lǐng)域?qū)W術(shù)論文創(chuàng)新句獲取以及創(chuàng)新要素分析

本階段引入多層次研究設(shè)計(jì)， 解決“學(xué)術(shù)論文的創(chuàng)新點(diǎn)與創(chuàng)新要素如何獲取？”這個(gè)問(wèn)題。

在第一層次首先進(jìn)行數(shù)據(jù)準(zhǔn)備，包括樣本數(shù)據(jù)獲取、文本預(yù)處理和數(shù)據(jù)集標(biāo)注。分別采集中英文各兩種情報(bào)學(xué)期刊論文， 對(duì)論文文本按照一定的規(guī)則進(jìn)行預(yù)處理，參考前序研究總結(jié)的創(chuàng)新引導(dǎo)詞集，進(jìn)行數(shù)據(jù)集劃分和標(biāo)注， 訓(xùn)練Bert語(yǔ)言模型進(jìn)行創(chuàng)新句抽取; 第二層次是對(duì)創(chuàng)新句的進(jìn)一步處理， 分析創(chuàng)新要素， 選擇依存句法分析方法獲取創(chuàng)新對(duì)象和創(chuàng)新維度。

2.1.2創(chuàng)新點(diǎn)檢索入口及系統(tǒng)構(gòu)建 本階段通過(guò)構(gòu)建創(chuàng)新點(diǎn)檢索系統(tǒng)， 提供創(chuàng)新點(diǎn)檢索入口， 解決“如何實(shí)現(xiàn)多粒度關(guān)聯(lián)的創(chuàng)新點(diǎn)檢索？” 的問(wèn)題?；谏弦浑A段分析結(jié)果， 以創(chuàng)新對(duì)象和維度為線索進(jìn)行創(chuàng)新點(diǎn)多粒度關(guān)聯(lián)。具體來(lái)說(shuō)， 提出關(guān)聯(lián)章節(jié)的具體獲取步驟， 將細(xì)粒度的創(chuàng)新句與中粒度的創(chuàng)新章節(jié)和粗粒度的論文本身進(jìn)行關(guān)聯(lián)， 實(shí)現(xiàn)學(xué)術(shù)論文創(chuàng)新內(nèi)容的多粒度組織。構(gòu)建創(chuàng)新點(diǎn)檢索的原型系統(tǒng)， 選擇Python 作為后端開發(fā)語(yǔ)言， 采用Django 作為Web框架， MySQL 作為系統(tǒng)數(shù)據(jù)庫(kù)， 索引和檢索模塊由Faiss搭配Numpy實(shí)現(xiàn)。以識(shí)別部分進(jìn)行的創(chuàng)新點(diǎn)多粒度關(guān)聯(lián)為數(shù)據(jù)基礎(chǔ)，輔以學(xué)術(shù)論文其他一些元數(shù)據(jù)導(dǎo)入數(shù)據(jù)庫(kù)。

以“創(chuàng)新對(duì)象” 與“創(chuàng)新維度” 作為關(guān)鍵檢索字段并在此基礎(chǔ)上建立索引和查詢， 設(shè)計(jì)前端界面并進(jìn)行實(shí)驗(yàn)， 對(duì)檢索功能模塊和效果進(jìn)行展示。

本研究的技術(shù)路線如圖1 所示。

2.2 Bert 語(yǔ)言模型

Bidirectional Encoder Representations from Trans?formers（Bert） 是由Devlin J等與其谷歌同事于2018年在論文中提出的一種基于神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)技術(shù)， 來(lái)源于谷歌對(duì)Transformer 的研究成果。

Transformer 使用了注意力機(jī)制， 將序列中的任意兩個(gè)位置之間的距離縮小為一個(gè)常量， 其次是避

免使用RNN 的順序結(jié)構(gòu)， 并行性更佳。因此，Bert 模型可以考慮到完整的上下文， 從而捕捉更豐富的文本語(yǔ)義信息。

2.3依存句法分析

現(xiàn)代依存句法理論由法國(guó)語(yǔ)言學(xué)家LucienTesniere 提出， 依存句法分析的主要目的是通過(guò)描述詞之間的依存關(guān)系來(lái)揭示句子的語(yǔ)義結(jié)構(gòu)。

Stanford CoreNLP基于標(biāo)注算法先進(jìn)、加工程度較深的賓州樹庫(kù)（Penn Treebank）作為分析器的訓(xùn)練數(shù)據(jù)， 面向英文、中文、德文等多語(yǔ)種提供句法分析功能。其優(yōu)點(diǎn)一是支持語(yǔ)言的廣泛性; 二是所用PCFG算法準(zhǔn)確率高。除此之外， 其配套工具齊全， 有使用最大熵模型的詞性標(biāo)注工具， 基于概率解析器提供完整的語(yǔ)法解析的解析工具、實(shí)體識(shí)別等功能， 能夠滿足實(shí)驗(yàn)需求。

2.4 Faiss 相似性搜索庫(kù)

Facebook AI Similarity Search（Faiss）是FacebookAI團(tuán)隊(duì)開發(fā)的， 提供高效相似度搜索和稠密矢量聚類的近似近鄰搜索庫(kù)。Faiss 的核心是索引（In?dex）概念， 它封裝了一組包含多種搜索任意大小的向量集， 以及用于算法評(píng)估和參數(shù)調(diào)整的代碼庫(kù)，并且可以選擇是否進(jìn)行預(yù)處理以高效地檢索向量?？梢灶A(yù)先通過(guò)Bert 模型將非結(jié)構(gòu)化數(shù)據(jù)提取為特征向量， 同時(shí)利用開源的Bert-Serving-Server 啟動(dòng)一個(gè)Bert 向量服務(wù)， 便捷地調(diào)用訓(xùn)練好的詞向量以及句向量， 然后通過(guò)Faiss 對(duì)這些特征向量進(jìn)行計(jì)算， 實(shí)現(xiàn)對(duì)非結(jié)構(gòu)化數(shù)據(jù)的分析與檢索。本文使用的Faiss 和Bert 的集成架構(gòu)如圖2所示。

3創(chuàng)新點(diǎn)識(shí)別實(shí)驗(yàn)

3.1數(shù)據(jù)來(lái)源與文本預(yù)處理

在樣本的選取過(guò)程中， 主要選擇高質(zhì)量期刊，輔以論文易獲取性和期刊影響力作為考量。經(jīng)過(guò)篩選和分析， 中文情報(bào)學(xué)期刊論文以2009—2019 年《情報(bào)科學(xué)》和《數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn)》（原《現(xiàn)代圖書情報(bào)技術(shù)》）為數(shù)據(jù)來(lái)源， 英文情報(bào)學(xué)期刊論文選取“Information Processing & Management” 和“Journal of Informetrics” 兩期刊2009—2019 年的論文作為數(shù)據(jù)來(lái)源。選擇2009—2019 年發(fā)表的論文主要有兩個(gè)原因， 一是截止時(shí)間較新， 能有效反映近年的創(chuàng)新情況; 二是時(shí)間區(qū)間較長(zhǎng)， 獲取到的論文數(shù)量多， 有利于時(shí)間角度的比較分析。研究所用到的中文期刊論文從CNKI 獲取， 英文期刊論文從ScienceDirect 全文數(shù)據(jù)庫(kù)獲取。

獲取的原始論文文本是非結(jié)構(gòu)化的， 它包含了對(duì)本任務(wù)來(lái)說(shuō)不必要的標(biāo)記、圖表等， 需要進(jìn)行預(yù)處理以適用于模型。處理順序與規(guī)則如下所示： 1）初步去除“本刊訊”、會(huì)議預(yù)告、征稿通知、“Editorial Board” 等非學(xué)術(shù)論文。

2）用Pdfminer 庫(kù)進(jìn)行PDF—純文本轉(zhuǎn)換。

3）分句，同時(shí)對(duì)文內(nèi)不必要的部分進(jìn)行剔除處理， 如分類號(hào)、參考文獻(xiàn)、作者貢獻(xiàn)說(shuō)明、作者信息、關(guān)鍵詞等， 保留摘要與全文內(nèi)容。

最終用于實(shí)驗(yàn)的論文數(shù)以及分句后的句子數(shù)統(tǒng)計(jì)結(jié)果如表1 所示。

3.2創(chuàng)新點(diǎn)抽取

創(chuàng)新點(diǎn)的抽取分為不同粒度。與更粗粒度（如章節(jié)） 相比， 句子級(jí)抽取技術(shù)得到了更迅速的發(fā)展， 句子級(jí)別的自然語(yǔ)言處理技術(shù)也有更好的研究基礎(chǔ); 另一方面， 本研究的出發(fā)點(diǎn)之一是解決科研用戶信息超載的問(wèn)題， 用戶需要的是粒度更細(xì)的創(chuàng)新點(diǎn)， 語(yǔ)詞不能清晰完整地描述一項(xiàng)創(chuàng)新， 能夠完整描述創(chuàng)新點(diǎn)的最小單元是句子。因此， 本研究選擇能夠揭示更完整語(yǔ)義且粒度較細(xì)的句子級(jí)別進(jìn)行創(chuàng)新點(diǎn)抽取， 一個(gè)創(chuàng)新句對(duì)應(yīng)一個(gè)創(chuàng)新點(diǎn)。

研究采用隨機(jī)抽樣的方式， 從上述分句結(jié)果集中， 抽取中文和英文總數(shù)分別為9328和11272句的兩個(gè)數(shù)據(jù)集作為訓(xùn)練樣本數(shù)據(jù)。

實(shí)驗(yàn)共招募3名碩士研究生進(jìn)行創(chuàng)新點(diǎn)的人工標(biāo)注。本文使用的創(chuàng)新句判別標(biāo)準(zhǔn)分為兩類：

一是論文作者明確表達(dá)的創(chuàng)新點(diǎn)， 對(duì)學(xué)術(shù)論文創(chuàng)新的界定按創(chuàng)新程度粗略分為兩子類， 即對(duì)已有成果的改進(jìn)和與已有研究成果完全不同的“全新” 。前者包括但不限于對(duì)問(wèn)題/ 方法/ 理論/ 結(jié)論的優(yōu)化、修正、補(bǔ)充， 通常附有改進(jìn)點(diǎn)或改進(jìn)效果的說(shuō)明， 如表2 例句。這一大類一般有明顯的創(chuàng)新引導(dǎo)詞（組）， 如各種比較級(jí)句式、“首次提出” “改進(jìn)” “Novel”等。后者包括： ①提出新理論; ②界定新概念; ③首創(chuàng)新的方法; ④針對(duì)特定問(wèn)題提出不同的解決方案; ⑤構(gòu)建新的系統(tǒng)、框架、模型等; ⑥屬于新的學(xué)科交叉點(diǎn)或首次引入其他學(xué)科的理論、模型、方法; ⑦在理論空白點(diǎn)上得出新結(jié)論等。如表2例句， 即為針對(duì)特定問(wèn)題提出一套不同的解決方案。

二是論文作者對(duì)創(chuàng)新點(diǎn)的隱含表達(dá)， 如表2 例句就屬于一種典型的語(yǔ)義預(yù)設(shè)， 因?yàn)轭A(yù)設(shè)了“本文研究的路由排隊(duì)策略” 存在的前提而得以成立。此外， 對(duì)于在綜述等處提及的其他論文的創(chuàng)新點(diǎn)予以剔除， 如例句和例句。標(biāo)注后得到中文情報(bào)學(xué)論文創(chuàng)新句占數(shù)據(jù)集總句數(shù)的9.5%， 英文情報(bào)學(xué)論文創(chuàng)新句占數(shù)據(jù)集總句數(shù)的4.3%。以此作為創(chuàng)新點(diǎn)識(shí)別模型構(gòu)建與抽取的基礎(chǔ)。

類別的標(biāo)注示例如表2所示。

本實(shí)驗(yàn)均基于Python 編程語(yǔ)言， 使用GoogleColab 作為實(shí)驗(yàn)的開發(fā)環(huán)境， 使用的深度學(xué)習(xí)框架為Tensorflow， 中文語(yǔ)料調(diào)用由Google已完成預(yù)訓(xùn)練的Bert-base-Chinese 12層模型， 英文語(yǔ)料調(diào)用Bert-base-uncased 12層模型。

加入分類訓(xùn)練樣本對(duì)模型進(jìn)行微調(diào)后將模型用于完成創(chuàng)新句抽取任務(wù)。在訓(xùn)練超參數(shù)設(shè)定上， 經(jīng)過(guò)多輪迭代調(diào)優(yōu)后， batch_size 設(shè)定為32， 英文讀取序列最大長(zhǎng)度為128， 中文讀取字符最大長(zhǎng)度為256。迭代Epoch 次數(shù)為4 0， 學(xué)習(xí)率指數(shù)為2e-5。

在模型訓(xùn)練過(guò)程中將上文構(gòu)建的人工標(biāo)注數(shù)據(jù)集隨機(jī)分為訓(xùn)練集和測(cè)試集， 選取分層十折交叉驗(yàn)證的方式， 每輪選取9 份作為訓(xùn)練集， 剩余1份作為測(cè)試集。對(duì)每輪生成的模型分別計(jì)算精度（Accu?racy）、查準(zhǔn)率（Precision）、查全率（Recall）與調(diào)和平均數(shù)（F1）， 測(cè)評(píng)模型識(shí)別效果， 得出最佳模型的評(píng)價(jià)指標(biāo)， 如表3所示。

從表3 可以看到， 兩模型的查全率和F1 值都不太高， 分析認(rèn)為類別不平衡是一個(gè)重要原因。針對(duì)這個(gè)問(wèn)題， 本實(shí)驗(yàn)分別進(jìn)行了上采樣和下采樣的嘗試， 在測(cè)試集上的指標(biāo)結(jié)果有明顯提高， 但預(yù)測(cè)結(jié)果明顯較差。因此， 為保證訓(xùn)練集、測(cè)試集、預(yù)測(cè)集的類別同分布， 實(shí)驗(yàn)最終沒(méi)有采用上采樣或下采樣的方法， 而是保持原數(shù)據(jù)分布情況進(jìn)行訓(xùn)練和預(yù)測(cè)。

3.3創(chuàng)新點(diǎn)抽取結(jié)果

中文情報(bào)學(xué)論文總句集為507142句，加上標(biāo)注的創(chuàng)新句共抽取到9 699個(gè)創(chuàng)新句， 平均每篇1.8句左右， 基本符合一般論文寫作情況。其中2 323篇不存在創(chuàng)新句， 約占總數(shù)的42 5%。由于在抽取過(guò)程中以查準(zhǔn)率為主要指標(biāo)， 同時(shí)以現(xiàn)在的標(biāo)準(zhǔn)對(duì)較早論文的創(chuàng)新句進(jìn)行抽取也可能產(chǎn)生錯(cuò)漏， 因此不存在創(chuàng)新句的論文篇數(shù)較多。創(chuàng)新句的平均長(zhǎng)度約為94個(gè)字。

英文情報(bào)學(xué)論文總句集為558 312句， 加上標(biāo)注的創(chuàng)新句共抽取到14689個(gè)創(chuàng)新句， 平均每篇9句左右。其中322篇不存在創(chuàng)新句， 約占總數(shù)的19.8%。創(chuàng)新句的平均單詞數(shù)約為31個(gè)。

3.4創(chuàng)新對(duì)象和創(chuàng)新維度的獲取

創(chuàng)新對(duì)象和創(chuàng)新維度往往構(gòu)成一項(xiàng)創(chuàng)新的主要內(nèi)容。創(chuàng)新對(duì)象是創(chuàng)新的客體， 回答的是“對(duì)什么進(jìn)行創(chuàng)新” 的問(wèn)題。創(chuàng)新維度可以理解為創(chuàng)新句所論述的創(chuàng)新對(duì)象的某個(gè)方面， 一般反映創(chuàng)新對(duì)象的領(lǐng)域特征。一個(gè)創(chuàng)新對(duì)象可對(duì)應(yīng)一個(gè)或多個(gè)創(chuàng)新維度， 一篇論文的若干個(gè)創(chuàng)新句可以反映不同的創(chuàng)新維度。

通過(guò)對(duì)創(chuàng)新句進(jìn)行依存句法分析， 并構(gòu)建規(guī)則抽取創(chuàng)新對(duì)象和創(chuàng)新維度。如對(duì)于一個(gè)句子， “本文提出了一種改進(jìn)的基于用戶聚類的協(xié)同過(guò)濾算法”。用Stanford CoreNLP 進(jìn)行語(yǔ)法解析和依存句法分析的結(jié)果如表4所示。

其中“提出” 即為本句核心詞， 以“dobj”依存標(biāo)識(shí)引導(dǎo)的關(guān)系為“‘提出’ ‘基于’ ‘用戶’‘聚類’ ‘的’ ‘協(xié)同過(guò)濾算法’”， 其中“基于用戶聚類的協(xié)同過(guò)濾算法” 構(gòu)成本句的一個(gè)直接賓語(yǔ)， 因此抽取“協(xié)同過(guò)濾算法” 作為創(chuàng)新對(duì)象;同時(shí)“用戶” “聚類” 構(gòu)成一個(gè)復(fù)合名詞， 因此得到創(chuàng)新維度為“用戶聚類”。依存句法分析后結(jié)果如圖3 所示。

4創(chuàng)新點(diǎn)檢索入口實(shí)驗(yàn)

4.1以創(chuàng)新對(duì)象和創(chuàng)新維度為線索的多粒度關(guān)聯(lián)

作為構(gòu)建創(chuàng)新點(diǎn)檢索入口的數(shù)據(jù)基礎(chǔ)， 多粒度關(guān)聯(lián)的主要任務(wù)是實(shí)現(xiàn)創(chuàng)新句與相應(yīng)章節(jié)的關(guān)聯(lián)。需要強(qiáng)調(diào)的是， 這里“相應(yīng)章節(jié)” 并不是創(chuàng)新句所在章節(jié)， 而是描述創(chuàng)新點(diǎn)的具體內(nèi)容的章節(jié)。仍以3.4節(jié)所舉“本文提出了一種改進(jìn)的基于用戶聚類的協(xié)同過(guò)濾算法” 為例， 所要定位到的章節(jié)并非這一句子所在的原文引言部分， 而是原文第四節(jié)“改進(jìn)的基于用戶聚類的協(xié)同過(guò)濾方法”。根據(jù)對(duì)知識(shí)多粒度的劃分， 介于粗粒與細(xì)粒之間的中?？梢杂泻芏鄠€(gè)。在創(chuàng)新對(duì)象和維度優(yōu)先級(jí)的問(wèn)題上， 對(duì)象作為創(chuàng)新動(dòng)作的直接客體， 能夠更好地表現(xiàn)創(chuàng)新內(nèi)容的本質(zhì)， 因此創(chuàng)新對(duì)象的匹配優(yōu)先級(jí)高于維度。具體定位步驟如下：

1）對(duì)論文文本進(jìn)行章節(jié)識(shí)別和層級(jí)分割， 提取各級(jí)標(biāo)題;

2）由最深層標(biāo)題開始， 以某一創(chuàng)新句的對(duì)象詞進(jìn)行精確匹配， 匹配到即跳轉(zhuǎn)至第6步;

3）若未匹配到， 則以創(chuàng)新句的維度詞（組）重復(fù)上一步， 匹配到即跳轉(zhuǎn)至第6步;

4）若仍未匹配到， 則對(duì)維度詞組進(jìn)行分詞，以分詞后的各維度詞倒序分別重復(fù)第2步，匹配到即跳轉(zhuǎn)至第6步;

5）若無(wú)法進(jìn)一步分詞或仍未匹配到， 將創(chuàng)新對(duì)象/維度詞（組）的匹配范圍擴(kuò)大至全文，統(tǒng)計(jì)各小節(jié)（即最深層標(biāo)題下）出現(xiàn)的次數(shù)（不包括文獻(xiàn)綜述/ 相關(guān)工作/ 相關(guān)研究部分）， 返回頻率最高的小節(jié);

6）若某一步匹配到兩個(gè)或以上數(shù)量的小節(jié)，則將創(chuàng)新對(duì)象和維度詞（組）進(jìn)行AND 連接在匹配結(jié)果中進(jìn)一步檢索，返回更精確匹配到的小節(jié); 若仍存在多個(gè)， 則返回更高級(jí)別的標(biāo)題， 同級(jí)別情況下全部返回; 若不存在則以跳轉(zhuǎn)上一步匹配到的小節(jié)為準(zhǔn)，此時(shí)若存在多個(gè)則返回多個(gè)， 若為父子關(guān)系則返回父標(biāo)題;

7）回到全文定位匹配到的標(biāo)題， 返回標(biāo)題及標(biāo)題下的內(nèi)容;

8）將返回內(nèi)容與創(chuàng)新句關(guān)聯(lián)。隨機(jī)抽取中文情報(bào)學(xué)22 篇文獻(xiàn)的111個(gè)創(chuàng)新句進(jìn)行人工標(biāo)注， 與依據(jù)上述方法進(jìn)行定位的結(jié)果進(jìn)行對(duì)比， 得到評(píng)價(jià)指標(biāo)如表5 所示， 可以認(rèn)為上述方法具有一定的合理性和可行性。

最終經(jīng)過(guò)分析整理得到創(chuàng)新句與創(chuàng)新章節(jié)段落的對(duì)應(yīng)關(guān)系， 部分結(jié)果如表6 所示。

4.2創(chuàng)新點(diǎn)檢索系統(tǒng)架構(gòu)設(shè)計(jì)

本文通過(guò)構(gòu)建創(chuàng)新點(diǎn)檢索系統(tǒng)提供創(chuàng)新點(diǎn)檢索入口， 探索對(duì)創(chuàng)新點(diǎn)進(jìn)行細(xì)粒度檢索。如圖4 所示， 創(chuàng)新點(diǎn)檢索系統(tǒng)主要包括3個(gè)部分， 即數(shù)據(jù)存儲(chǔ)、索引與檢索模塊和前端展示模塊。所用數(shù)據(jù)來(lái)自采用3.4節(jié)方法獲取的創(chuàng)新對(duì)象、維度及4.1節(jié)關(guān)聯(lián)的創(chuàng)新句、相關(guān)章節(jié)和論文3種粒度的數(shù)據(jù)，輔以論文的其他元數(shù)據(jù)，包括作者、發(fā)表時(shí)間、中圖分類號(hào)等， 所有數(shù)據(jù)保存至MySQL 數(shù)據(jù)庫(kù)。

索引與查詢模塊是整個(gè)系統(tǒng)的核心， 主要負(fù)責(zé)完成特征提取、建立索引、排序等任務(wù)。Faiss通過(guò)Bert模型將非結(jié)構(gòu)化數(shù)據(jù)提取為特征向量，對(duì)這些特征向量進(jìn)行計(jì)算并建立索引， 索引庫(kù)會(huì)存儲(chǔ)相應(yīng)的索引信息。

前端展示模塊是系統(tǒng)與用戶交互的界面，向用戶展示搜索界面及最終的創(chuàng)新點(diǎn)檢索結(jié)果。通過(guò)基于Django框架搭建的后臺(tái)，索引與檢索模塊的檢索組件會(huì)根據(jù)查詢語(yǔ)句進(jìn)行檢索排序， 然后將結(jié)果返回給頁(yè)面展示模塊。

4.3索引與檢索模塊的設(shè)計(jì)與實(shí)現(xiàn)

索引與檢索模塊是通過(guò)為稠密向量提供高效相似度搜索和聚類的Faiss 構(gòu)建。Faiss 提供了多種索引方法，且便于開發(fā)者根據(jù)需要選擇最恰當(dāng)?shù)乃饕愋停?本文預(yù)選方案為基礎(chǔ)的IndexFlatL2， 這是一種簡(jiǎn)單的檢索L2 距離的索引， 可以精確遍歷計(jì)算索引向量，不需要做訓(xùn)練操作。

利用Bert-serving-server 啟動(dòng)Bert 向量服務(wù)，調(diào)用微調(diào)好的Bert 模型中的詞向量以及句向量，然后通過(guò)Faiss 對(duì)這些特征向量進(jìn)行計(jì)算，構(gòu)建索引。

當(dāng)索引就緒后， 一系列Search-time 的參數(shù)可供開發(fā)者在精確度和搜索時(shí)間之間進(jìn)行權(quán)衡、優(yōu)化。同時(shí)，F(xiàn)aiss配有自動(dòng)調(diào)參機(jī)制， 能掃描參數(shù)空間， 提供最佳操作點(diǎn)（Operating Points）。

4.4數(shù)據(jù)庫(kù)設(shè)計(jì)

本研究采用的數(shù)據(jù)庫(kù)為MySQL。在Django 框架中可以動(dòng)態(tài)加載實(shí)際所需管理的內(nèi)容， 以本系統(tǒng)中的創(chuàng)新點(diǎn)關(guān)聯(lián)總表為例， 生成的創(chuàng)新點(diǎn)關(guān)聯(lián)總表結(jié)構(gòu)如表7 所示。

4.5前端展示模塊設(shè)計(jì)與實(shí)現(xiàn)

在數(shù)據(jù)庫(kù)和索引與檢索模塊搭建好后， 還需要借助Web框架，將檢索結(jié)果以恰當(dāng)?shù)姆绞椒答伣o用戶。

在Django 中為搜索引擎配置環(huán)境， 利用Djan?go 以及Numpy 實(shí)現(xiàn)Faiss 完整的接口支持。采用HTML+CSS+JS 技術(shù)實(shí)現(xiàn)系統(tǒng)前端的設(shè)計(jì)， Python作為后端開發(fā)語(yǔ)言實(shí)現(xiàn)系統(tǒng)業(yè)務(wù)層需求。項(xiàng)目在集成開發(fā)環(huán)境Spyder 下進(jìn)行。

用戶可以像使用一般的學(xué)術(shù)搜索引擎那樣， 在搜索框輸入查詢條件， 然后點(diǎn)擊“檢索” 按鈕查看檢索結(jié)果。

檢索入口所支持的字段類型越多越有針對(duì)性，越有利于檢索效率的提高。在考慮平衡性的情況下， 在入口的可選字段，設(shè)置了針對(duì)創(chuàng)新句與創(chuàng)新章節(jié)的“創(chuàng)新對(duì)象” “創(chuàng)新維度” 關(guān)鍵檢索字段， 以及“作者”“發(fā)表時(shí)間”“刊物”等作為可選檢索字段。針對(duì)創(chuàng)新句與創(chuàng)新章節(jié)的“創(chuàng)新對(duì)象” “創(chuàng)新維度” 是加工程度較深的字段， 也是本研究的核心內(nèi)容。

輸入查詢語(yǔ)句既支持單個(gè)檢索詞， 也支持短語(yǔ)檢索，系統(tǒng)則將調(diào)用分詞模塊對(duì)查詢語(yǔ)句進(jìn)行分詞與語(yǔ)義分析，例如：針對(duì)創(chuàng)新句輸入“協(xié)同過(guò)濾算法” 作為“創(chuàng)新對(duì)象”的檢索詞， 得到檢索結(jié)果如圖6所示。

由圖6 可以看到， 在檢索結(jié)果的展示界面主要由創(chuàng)新句、創(chuàng)新對(duì)象、創(chuàng)新維度、題名、作者、來(lái)源刊物及發(fā)表時(shí)間等幾部分構(gòu)成。

類似的， 針對(duì)創(chuàng)新句輸入“協(xié)同過(guò)濾算法”作為“創(chuàng)新維度” 的檢索詞， 得到檢索結(jié)果如圖7所示。

為了節(jié)省界面空間將創(chuàng)新句等較長(zhǎng)字段做了壓縮處理，鼠標(biāo)移至創(chuàng)新句可完整顯示; 同時(shí)通過(guò)點(diǎn)擊右側(cè)的“詳細(xì)” 按鈕， 可在詳情頁(yè)面獲取更多信息， 如創(chuàng)新句的關(guān)聯(lián)章節(jié)， 以及論文相關(guān)的其他元數(shù)據(jù)，輔助用戶進(jìn)行決策和判斷， 創(chuàng)新句詳情頁(yè)如圖8所示。

5結(jié)論與展望

5.1主要研究結(jié)論

從論文中識(shí)別和組織創(chuàng)新內(nèi)容并將其用于學(xué)術(shù)檢索系統(tǒng)， 提供創(chuàng)新點(diǎn)檢索入口， 對(duì)于科學(xué)研究的創(chuàng)新與發(fā)展具有重要意義。研究得出以下結(jié)論：

1）Bert模型可以用于句子級(jí)創(chuàng)新點(diǎn)抽取任務(wù)，即使是在類別非常不平衡（創(chuàng)新句與非創(chuàng)新句）的數(shù)據(jù)集上也有不錯(cuò)的表現(xiàn)， 可以成功抽取出情報(bào)學(xué)研究論文中的創(chuàng)新句; 在創(chuàng)新句關(guān)聯(lián)創(chuàng)新章節(jié)這一類問(wèn)答任務(wù)上也有良好的效果。

2）以中文情報(bào)學(xué)論文為例提出以創(chuàng)新對(duì)象和創(chuàng)新維度為線索的多粒度創(chuàng)新內(nèi)容關(guān)聯(lián)方法， 并證明了其有效性和可行性。以關(guān)聯(lián)后的多粒度數(shù)據(jù)為基礎(chǔ)設(shè)計(jì)創(chuàng)新點(diǎn)檢索入口， 不僅便于用戶高效檢索論文的創(chuàng)新點(diǎn)， 及時(shí)發(fā)掘科研新方向， 還可以通過(guò)創(chuàng)新內(nèi)容的分解與重組進(jìn)行細(xì)粒度、多維度的論文創(chuàng)新點(diǎn)分析， 以響應(yīng)更多樣的用戶需求。同時(shí)也利于促進(jìn)創(chuàng)新點(diǎn)檢索系統(tǒng)、創(chuàng)新點(diǎn)知識(shí)圖譜等應(yīng)用的落地， 成為現(xiàn)有創(chuàng)新性評(píng)價(jià)體系的補(bǔ)充。

3）本研究的嘗試表明， 通過(guò)深度學(xué)習(xí)和句法分析對(duì)論文創(chuàng)新點(diǎn)進(jìn)行分析具有一定的可行性和價(jià)值。這表現(xiàn)為不僅可以借助這種方法對(duì)論文創(chuàng)新性進(jìn)行更細(xì)粒度的分析， 進(jìn)而對(duì)整個(gè)領(lǐng)域的研究創(chuàng)新進(jìn)展有所把握， 實(shí)現(xiàn)監(jiān)測(cè)的目的， 從而促進(jìn)科學(xué)研究創(chuàng)新。將論文中的創(chuàng)新內(nèi)容進(jìn)行多粒度關(guān)聯(lián)并用于檢索， 同樣具有可行性和巨大潛力， 可以為科研用戶提供有力支持。

5.2研究局限及未來(lái)工作展望

本研究對(duì)學(xué)術(shù)論文創(chuàng)新點(diǎn)的識(shí)別與檢索進(jìn)行探究， 但信息組織和檢索是復(fù)雜的系統(tǒng)工程， 由于理論水平和時(shí)間的限制， 本研究也存在一定的局限性： ①研究只選取了國(guó)內(nèi)外各兩種情報(bào)學(xué)期刊的論文， 樣本的覆蓋面還不夠全面; ②Stanford CoreN?LP處理中文分詞不夠準(zhǔn)確，導(dǎo)致句法分析存在不準(zhǔn)確的情況，一定程度上影響了創(chuàng)新對(duì)象和創(chuàng)新維度的獲取; ③定位創(chuàng)新章節(jié)關(guān)聯(lián)時(shí)，由于所依據(jù)的文本是經(jīng)過(guò)預(yù)處理的， 純文本中圖表都被清除，公式也有缺失或亂碼的情況， 因此在檢索系統(tǒng)中展示信息的還原性和完整性有待提高。

針對(duì)以上提到的研究局限性， 提出后續(xù)的研究工作展望： ①擴(kuò)大樣本選取的學(xué)科和期刊范圍， 檢驗(yàn)方法的普適性， 助力更廣范圍的創(chuàng)新點(diǎn)組織和檢索; ②進(jìn)一步完善創(chuàng)新句和相關(guān)章節(jié)的關(guān)聯(lián)方法，提高檢準(zhǔn)率和檢全率; ③考慮更廣范圍的多粒度創(chuàng)新內(nèi)容關(guān)聯(lián)， 打破篇章限制， 將不同論文的創(chuàng)新句、創(chuàng)新章節(jié)以某種機(jī)制進(jìn)行關(guān)聯(lián)， 形成知識(shí)圖譜， 實(shí)現(xiàn)更強(qiáng)大的情報(bào)發(fā)現(xiàn)功能; ④將創(chuàng)新點(diǎn)組織和檢索的整套流程集成到統(tǒng)一的系統(tǒng)， 或?qū)?chuàng)新內(nèi)容的多粒度關(guān)聯(lián)嵌入到已有學(xué)術(shù)信息檢索系統(tǒng)， 并證明其可行性和有效性。

（責(zé)任編輯： 郭沫含）