基于篇章的漢語句法結(jié)構(gòu)樹庫

盧露 矯紅巖 李夢 荀恩東

20世紀(jì)90 年代以來,漢語開發(fā)了很多體系成熟、影響較大、規(guī)模不等的樹庫,短語結(jié)構(gòu)樹以賓州中文樹庫(Chinese treebank,CTB)[1]、北京大學(xué)漢語樹庫(Peking University treebank,PCT)[2]、清華漢語樹庫(Tshinghua Chinese treebank,TCT)[3]等為代表,依存結(jié)構(gòu)樹主要有Chen等[4]的Sinica、哈爾濱工業(yè)大學(xué)中文依存樹庫(HIT Chinese dependency treebank,HIT-CDT)[5]、蘇州大學(xué)漢語依存樹庫[6]等.短語結(jié)構(gòu)樹細(xì)致地描寫了句子結(jié)構(gòu)層次、短語的類別與功能,轉(zhuǎn)換為淺層結(jié)構(gòu)樹與依存關(guān)系樹較為容易,但往往中心詞、語義關(guān)系不突出,節(jié)點(diǎn)與標(biāo)簽較多,計(jì)算開銷大;依存結(jié)構(gòu)樹突出中心詞信息及依存關(guān)系,便于轉(zhuǎn)化為語義依存描述[7],同時(shí),計(jì)算開銷較少,符合語言直覺而更易于標(biāo)注,但缺乏短語類別與整體功能信息,缺乏明確依存關(guān)系的現(xiàn)象較多,長距離依存也難以被解析.一些樹庫嘗試融合短語結(jié)構(gòu)樹與依存樹的優(yōu)點(diǎn),如TCT、北京大學(xué)多視圖依存樹庫(Peking University multi-view Chinese treebank,PMT)[8].為克服長句分析不理想的問題,組塊分析采取 “分而治之”的策略,北京大學(xué)中文語塊庫(Chinese chunkbank)[9]根據(jù)句法功能,無嵌套地標(biāo)注句子骨架,中文命題樹庫(Chinese proposition bank,CPB)[10]探索 “謂詞?論元”結(jié)構(gòu)(Predicate-argument structure)的語義組塊分析,這些樹庫初步探索了漢語淺層分析樹庫構(gòu)建、組塊自動分析;隨著篇章級句分析及句間關(guān)系日漸被重視,TCT與PCT 則在構(gòu)建樹庫的同時(shí),以傳統(tǒng)單復(fù)句理論為指導(dǎo),區(qū)分單復(fù)句、句群,TCT同時(shí)標(biāo)注句間關(guān)系,PCT 則初步區(qū)分了篇章標(biāo)記;而一些篇章理論與語料庫則不同程度地探討了顯明篇章標(biāo)記的作用與分布,并結(jié)合實(shí)際需求深入探討了漢語 “句”邊界問題[11].

整體而言,現(xiàn)有樹庫在規(guī)模與句法表示方面主要面臨兩個(gè)挑戰(zhàn): 1)大規(guī)模標(biāo)注困難.全樹句法分析技術(shù)在大規(guī)模真實(shí)語料上正確率不高[12],現(xiàn)有樹庫標(biāo)注體系及加工模式,人工擴(kuò)大規(guī)模難以既保證標(biāo)注質(zhì)量,又兼顧標(biāo)注規(guī)模與速度.2)對雖在句中但屬于篇章層面、語用表達(dá)層面的成分處理牽強(qiáng),要么將其納入句法分析范疇,增加了句法分析的冗余度與難度,要么被看作一種可忽略或消除的噪音[1?2],忽視了篇章的完整性與銜接連貫性,不便于樹庫系統(tǒng)地?cái)U(kuò)展標(biāo)注層次,也不利于分析非標(biāo)準(zhǔn)書面語文本.

此外,大部分樹庫主要采用20 世紀(jì)末至21 世紀(jì)初的新聞雜志語料,領(lǐng)域相關(guān)性問題促使不少樹庫,加入了部分學(xué)術(shù)科技類、應(yīng)用類、口語類等非標(biāo)準(zhǔn)書面語語料[1, 3, 6, 8, 13].然而,一方面,句法結(jié)構(gòu)標(biāo)注難度限制了標(biāo)注速度與規(guī)模,各樹庫主要在100～250 萬漢字之間;另一方面,忽視了大規(guī)模真實(shí)語料中標(biāo)點(diǎn)往往具有高歧義性、缺失性、錯(cuò)誤性的現(xiàn)象,很難在標(biāo)點(diǎn)斷句的基礎(chǔ)上實(shí)現(xiàn)有效句法分析及標(biāo)注的高一致性.

本文提出一種利于大規(guī)模加工的淺層句法標(biāo)注體系: 以明確的斷句方法,盡可能地反映開放域篇章中句子的結(jié)構(gòu),提高標(biāo)注一致性;根據(jù)短語功能與句法角色,將句子分析為由句法成分、銜接成分、輔助成分構(gòu)成的塊狀組合序列,以組塊狀短語結(jié)構(gòu)樹為句法表示(見圖1),直接根據(jù)各組塊的性質(zhì)及功能,標(biāo)注句子骨架,突出中心詞信息.以該標(biāo)注體系為指導(dǎo),初步完成樹庫1.0 構(gòu)建工作: 包含Kappa值大于0.8 的合格文本1 萬余篇,共計(jì)1 千余萬字,由于樹庫構(gòu)建將以短語結(jié)構(gòu)標(biāo)注為基礎(chǔ),分級分層逐步完成缺省結(jié)構(gòu)、句間結(jié)構(gòu)標(biāo)注,因此先行構(gòu)建淺層句法結(jié)構(gòu)樹庫,因此為后續(xù)應(yīng)用任務(wù)及組塊依存結(jié)構(gòu)標(biāo)注、句間關(guān)系標(biāo)注奠定了基礎(chǔ)。

圖1 組塊狀標(biāo)注結(jié)果及淺層分析的樹結(jié)構(gòu)示例Fig.1 A sample of shallow chunk-based syntactic tree

本文結(jié)構(gòu)如下: 第1 節(jié)介紹本樹庫的設(shè)計(jì),第2 節(jié)介紹本樹庫標(biāo)注實(shí)踐,第3 節(jié)對樹庫已有數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析,第4 節(jié)為總結(jié)和展望.

1 基于篇章的短語結(jié)構(gòu)樹庫設(shè)計(jì)

盡可能保持樹庫中篇章語料完整性,不作刪減;句子成分,不獨(dú)以句法功能作為劃分標(biāo)準(zhǔn)及取舍標(biāo)準(zhǔn),也考慮部分成分表達(dá)句間語義結(jié)構(gòu)關(guān)系的篇章功能[11]、表達(dá)語氣的復(fù)雜功能[14],對這些成分不勉強(qiáng)納入句法分析,也不籠統(tǒng)歸入可忽略部分,根據(jù)功能與用途加以分析;從而逐步構(gòu)建一個(gè)以短語結(jié)構(gòu)標(biāo)注為基礎(chǔ),包含組塊依存及話題共享結(jié)構(gòu)、句間關(guān)系結(jié)構(gòu)標(biāo)注的多層次樹庫,本文稱這種樹庫為基于篇章的樹庫.本文主要介紹先行構(gòu)建的、以淺層骨架分析為主的短語結(jié)構(gòu)樹庫.

1.1 組塊狀短語結(jié)構(gòu)樹標(biāo)注設(shè)計(jì)

在篇章中分析句子,無論是自底向上,還是自頂向下,都繞不開分句,建立合理又系統(tǒng)的標(biāo)準(zhǔn)以確立小句邊界是首要任務(wù),繼而才能在小句的基礎(chǔ)上探討組塊邊界與結(jié)構(gòu),最后根據(jù)所確定的語塊關(guān)系設(shè)計(jì)標(biāo)注符號;為說明方便,本文先假定已進(jìn)行了分句處理,從組塊及標(biāo)注符號開始說明,最后介紹句邊界標(biāo)準(zhǔn)設(shè)定(詳見第2.2.3 節(jié)).

1.1.1 短語結(jié)構(gòu)樹中組塊的種類與定義

篇章中的句子之間并非孤立存在,而是通過指稱、結(jié)構(gòu)銜接、邏輯連接等手段組織起來的[15],因此,一些句子成分作為組織篇章的手段,雖不一定參與句法構(gòu)造,但對篇章分析尤為重要,不能將其籠統(tǒng)地看作冗余成分;而漢語中一些表達(dá)語氣、態(tài)度、意圖等虛詞也并非全然是句法分析層面的問題.為盡可能清楚地描寫 “謂詞?論元”結(jié)構(gòu)為中心的句子骨架,本文在句中根據(jù)詞或短語在句中的功能與用途,將組塊分為3 類: 構(gòu)成基本句子結(jié)構(gòu)的句法成分組塊;起銜接上下文的銜接組塊;表達(dá)附加性語義的輔助組塊.

短語結(jié)構(gòu)標(biāo)注的主要任務(wù)是解決句子結(jié)構(gòu)層次問題,但同時(shí)也盡可能為后續(xù)組塊依存與話題結(jié)構(gòu)、句間結(jié)構(gòu)標(biāo)注打下基礎(chǔ),樹庫以充當(dāng)謂語的最長短語組塊中的謂詞為核心,標(biāo)注最長主語塊、賓語塊與謂詞的主謂賓結(jié)構(gòu),以及最長狀語塊、補(bǔ)語塊與謂詞的狀中補(bǔ)結(jié)構(gòu),目的在于識別如下功能塊邊界及相互之間關(guān)系:

充當(dāng)謂語的最長短語塊—“述語”,述語包括一個(gè)核心謂詞,及修飾補(bǔ)充核心謂詞的狀語塊、補(bǔ)語塊;此外,一些修飾或補(bǔ)充性成分并不與核心謂詞比鄰,而是游離在主賓語前后,但這種成分除了少數(shù)只出現(xiàn)在句首的狀語外,都可看作修飾、補(bǔ)充說明核心謂詞的成分,本文將其稱為 “句飾語”,也是狀語、補(bǔ)語的一部分.需要說明的是,本文認(rèn)為述語是句子核心,不可或缺,除了獨(dú)詞句外,每個(gè)句子都有述語,缺省述語的情況下將補(bǔ)出述語空位;而對于多謂詞結(jié)構(gòu)連用,如復(fù)謂句中的多謂詞結(jié)構(gòu)連用,則認(rèn)可該句有多個(gè)謂詞核心;對充當(dāng)主語與賓語的謂詞性結(jié)構(gòu),進(jìn)行進(jìn)一步的遞歸分析.這與其他類似樹庫有所區(qū)別,如CTB 強(qiáng)調(diào)每個(gè)句子都有主語,而本文則強(qiáng)調(diào)每個(gè)句子都必須有述語;而強(qiáng)調(diào)謂詞性主語與賓語的遞歸分析也是與語塊庫的顯著區(qū)別,謂詞性組塊的遞歸分析,避免了組塊分析過于平鋪、籠統(tǒng),有助于更準(zhǔn)確地進(jìn)行句法分析、后續(xù)擴(kuò)展標(biāo)注;然而,在本階段雖然強(qiáng)調(diào)了述語的中心謂詞與狀語、補(bǔ)語邊界,但未對狀語與補(bǔ)語內(nèi)部作進(jìn)一步分析,容易導(dǎo)致狀語與補(bǔ)語冗長,使得一些重要句法語義信息不突出,這是后期擴(kuò)展階段需要解決的問題.

主語塊與賓語塊是相對述語的句法位置的,因其分布在述語兩側(cè),稱為 “主賓語”,其內(nèi)部差異由其與述語塊的相對位置標(biāo)識.

銜接性成分和輔助性成分與述語在結(jié)構(gòu)上,并不直接相關(guān).前者起著連接上下文的作用,后者幫助表達(dá)語氣與狀態(tài)、引起話題注意等,分別認(rèn)定為“銜接語”、“輔助語”.

銜接語除了傳統(tǒng)單復(fù)句理論中篇章連接詞外[16](這部分詞較封閉,大約在450 個(gè)左右),也包括一些難以進(jìn)行句法分析但起顯明連接作用的標(biāo)記成分,系統(tǒng)功能語法中以元話語標(biāo)記來分析具有篇章組織功能的成分,這是一種結(jié)合緊密、高頻使用、主要表達(dá)程序意義、具有語篇組織功能及人際功能的語言單位.徐赳赳[17]將書面形式的元話語概括為詞匯元話語、標(biāo)點(diǎn)元話語和視覺元話語.詞匯元話語主要由詞匯化、語法化的話語標(biāo)記充當(dāng),話語標(biāo)記的語篇功能,有著與傳統(tǒng)連接詞相似的語篇連接作用、句法功能邊緣化的特點(diǎn)[18?19],因此本文也將其看作一類銜接組塊,這類詞很難精確個(gè)數(shù),但往往以某類構(gòu)式為標(biāo)記,如 “代詞+感官類動詞”,漢語中常用的話語標(biāo)記大約在400 個(gè)左右.此外,標(biāo)點(diǎn)元話語起連接作用的主要是一些插補(bǔ)成分.在篇章行文過程中,臨時(shí)插入到詞串序列中,以補(bǔ)充、解釋、說明、強(qiáng)調(diào)前面提到的內(nèi)容,但并不與前后語言單位有句法結(jié)構(gòu)關(guān)系,本文也將其看作一種銜接組塊,以 “尤其是” “特別是” “如”最為常見,在書面上,這些插補(bǔ)成分往往前后有逗號、破折號,或者被括號 “()、[ ]”封閉標(biāo)識出來.事實(shí)上,一些樹庫,如CTB、TCT、PCT,在構(gòu)建過程中,已有意識地將部分高頻出現(xiàn)的元話語在性質(zhì)與功能上加以區(qū)分,但并未對這類成分進(jìn)行系統(tǒng)探討,通常優(yōu)先將其分析為狀語、謂語等,只有實(shí)在難以進(jìn)行句法分析的成分,才單獨(dú)分析,主觀性較大.

輔助語主要包括語氣詞、語氣輔助語、呼應(yīng)詞、感嘆詞、擬聲語、“是······的”等;其中,語氣輔助語是指原本具有實(shí)在意義的詞或詞組在句中語義泛化,不帶后續(xù)成分,不具言說義,成為非語義重心,發(fā)生詞匯化、語法化,幫助表達(dá)語氣的詞或詞組(如: “我們?nèi)ナ程煤貌缓?行不行/對不對?”);“是······的”中這種 “是” “的”,作用是指明全句焦點(diǎn)或強(qiáng)調(diào)謂語、表達(dá)對主語的評議、敘述、描寫.其歸屬問題,學(xué)界莫衷一是,本樹庫將其處理為輔助語,目的并非為其最終定性,而是為了標(biāo)引出來,以便后期根據(jù)需要進(jìn)行合適的處理;其他主要是指用在謂詞后,不做述語的助詞,如 “罷了”、“而已”等.

人工標(biāo)注時(shí),只需要根據(jù)各組塊的定義,以幾個(gè)簡單的標(biāo)注符號直接標(biāo)注.述語組塊方面,以 “()”標(biāo)注述語及核心謂詞的左右邊界,“{}”標(biāo)注主謂謂語句的謂語的左右邊界,“[]”標(biāo)注句飾語;主賓組塊方面,以 “||”標(biāo)注雙賓語之間的邊界,“{}”也標(biāo)注謂詞性主語與賓語,而體詞性的主賓語因其他組塊邊界的區(qū)分而自然得以區(qū)分;以 “<>”標(biāo)注銜接組塊;以 “<<>>”標(biāo)注輔助組塊.如 “<但是>多數(shù)人(還是(受)不了)這份苦<<啊>>.”,通過組塊的界定,以及分類的標(biāo)注符號,專業(yè)的標(biāo)注人員能以更符合語言直覺的方式,區(qū)分出銜接組塊、主語塊、狀語塊、核心謂詞塊、補(bǔ)語塊、輔助組塊.

此外,以 “|”作為增加句邊界的符號,以 “\”作為取消句邊界的符號(詳見第2.1.2 節(jié));對文句錯(cuò)誤,難以分析的句子,以 “** **”標(biāo)注錯(cuò)句左右邊界,內(nèi)部不再進(jìn)行分析.

至此,本文便以符合語言直覺的方式,在可分析的線性序列上,窮盡所有句子成分,完整地刻畫出了句子以述語中的核心謂詞為中心的句子骨架.人工標(biāo)注的句子骨架可以通過代碼無歧義地轉(zhuǎn)化為組塊狀句法結(jié)構(gòu)樹,也可部分地轉(zhuǎn)化為組塊狀依存結(jié)構(gòu),為后續(xù)樹庫擴(kuò)展標(biāo)注打下基礎(chǔ).

1.1.2 篇章中 “句”的層次與邊界標(biāo)記

篇章中的句法分析、結(jié)構(gòu)分析,“句”都是最基本的分析單元.然而漢語并無被廣泛認(rèn)可的 “句”定義,篇章分析理論中,普遍以句號、問號、嘆號作為句邊界,將篇章切割為一個(gè)個(gè)待分析的句子,但大規(guī)模非標(biāo)注書面語文本中,幾乎所有斷句標(biāo)點(diǎn)都可能存在歧義性,也存在缺失或缺省的情況;而從句調(diào)以及完整性等語音、句法角度籠統(tǒng)地對 “句”定義,又缺少理論依據(jù),進(jìn)而缺乏應(yīng)用的指導(dǎo)意義[20].大規(guī)模樹庫構(gòu)建,如無系統(tǒng)的斷句標(biāo)準(zhǔn),一方面影響標(biāo)注者對各層級標(biāo)注單元判斷的一致性,從而影響數(shù)據(jù)質(zhì)量,另一方面也不利于后期樹庫的使用與系統(tǒng)擴(kuò)展.

從符合漢語基本原理及可計(jì)算的角度,本文基本保持篇章原有段落結(jié)構(gòu),在段落層面采納了傳統(tǒng)單復(fù)句的篇章理論,將篇章中的 “句”首先分為單句、復(fù)句.單句,由句法成分、輔助成分、銜接成分構(gòu)成,獨(dú)立表達(dá)完整語義,與其他 “句”沒有依存關(guān)系.復(fù)句,復(fù)句是由分句構(gòu)成的表達(dá)一套完整語義的句子;分句又由相對獨(dú)立又互相依存的 “小句”和 “片段”構(gòu)成;小句由句法成分或輔助成分、銜接成分構(gòu)成,而片段是指能獨(dú)立表達(dá)一定邏輯關(guān)系、施為義、情感態(tài)度義,但需要語境才能較為獨(dú)立表達(dá)意義,一般由銜接成分、輔助成分充當(dāng).因此,自底向上地:小句作為基本句單位,可獨(dú)立充當(dāng)單句,也可與其他小句形成分句關(guān)系,共同構(gòu)成復(fù)句;一些片段主要起連接作用、語氣作用,也可看作一種特殊的分句;而若干單句或復(fù)句構(gòu)成段落,若干段落構(gòu)成篇章(見圖2).

如此,在短語結(jié)構(gòu)的句法樹上,復(fù)句和單句都有根節(jié)點(diǎn)(ROOT),單句與分句都必有一層小句節(jié)點(diǎn)(Independent phrase,IP),分句可能還有一層片段節(jié)點(diǎn)(Holophrastic phrase,HLP) (見圖2).樹庫中有句層次標(biāo)注的樹庫不多,CTB 從性質(zhì)和功能角度,描寫了簡單子句(IP)與復(fù)雜子句(CP)、祈使語氣(IMP)與疑問語氣(Q);TCT與PCT,則以整句(ZJ)、復(fù)句(FJ)、單句(DJ)、句群(JQ)描述句子間組合層次;此外,TCT 也對句間關(guān)系進(jìn)行了標(biāo)注;本文句的描寫與TCT、PCT 更接近,借鑒了傳統(tǒng)單復(fù)句理論,對句間組合層次作了必要的標(biāo)識,對句子類型、句間關(guān)系的標(biāo)識目前并未涉獵,將留待句間結(jié)構(gòu)標(biāo)注完成,不過對各層級句間邊界的判斷、銜接成分(其他樹庫稱為語篇成分、篇章連接成分等)的判斷標(biāo)準(zhǔn)更為明確客觀,從而降低了主觀隨意性.

圖2 篇章中 “句”的層次結(jié)構(gòu)示例Fig.2 A Sample of the hierarchy in Chinese discourse sentences

有了對篇章中 “句”的層次結(jié)構(gòu)區(qū)分后,就可對各層次的句設(shè)定更為清晰的邊界標(biāo)準(zhǔn)了.本文綜合前人研究成果,歸納了3 條允許標(biāo)注者增加或刪除句邊界的標(biāo)準(zhǔn): “終止性停頓標(biāo)志” “互不作句法成分” “表述功能” (限于篇幅,僅簡要介紹,具體論證將另行他文).

終止性停頓標(biāo)志,主要指有斷句作用的標(biāo)點(diǎn)符號及一個(gè)標(biāo)點(diǎn)句中多個(gè)謂詞所支配的主語不同的情況.

標(biāo)點(diǎn)符號往往是篇章中句邊界的顯性標(biāo)記,根據(jù)上述 “句”層次,本文將句號、問號、嘆號、省略號、分號、冒號作為可標(biāo)記單句、復(fù)句邊界的標(biāo)點(diǎn)符號;逗號、破折號作為標(biāo)記分句邊界的標(biāo)點(diǎn)符號;這8個(gè)標(biāo)點(diǎn)符號統(tǒng)稱為標(biāo)句點(diǎn)號,是一種重要的終止性停頓標(biāo)記.在分句時(shí),首先默認(rèn)標(biāo)句點(diǎn)號切句功能,在此處斷句,但遇到并非表達(dá)成句作用時(shí)再根據(jù)其他標(biāo)準(zhǔn)取消其斷句功能.

在一個(gè)標(biāo)句點(diǎn)號所分割出來的句子內(nèi),可能包含多個(gè)述語組塊(形式上如同復(fù)謂句),而述語組塊所支配的主語塊并不相同,即在連續(xù)的無標(biāo)句點(diǎn)號的詞串序列中,包含、隱含著兩個(gè)不同的獨(dú)立主語或主語只在后一個(gè)述語塊前出現(xiàn),形成兩個(gè)較為獨(dú)立的命題,如例句1～ 3 中,豎線比鄰的詞組分屬兩個(gè)不同的命題結(jié)構(gòu),包含或隱含著兩個(gè)迥異的主語.如果不加以分割,無論是句法分析還是后續(xù)話題結(jié)構(gòu)標(biāo)注都會受到影響.這種包含兩個(gè)命題結(jié)構(gòu)的詞串序列,前一組合結(jié)構(gòu)后的賓語或后一組合的主語,本文稱其為 “換主語”標(biāo)記,是一種終止性停頓標(biāo)記.這種情況往往出現(xiàn)在 “V1NV2”詞串序列中,以及非規(guī)范,或錯(cuò)誤使用標(biāo)點(diǎn)造成標(biāo)句點(diǎn)號缺省的詞串序列中.

例句1.剛想拿起來讀 | 書就掉了.

例句2.內(nèi)線(打不開) | (贏不了)對方!

例句3.(不(發(fā)酵))| 面包(會比較(干)).

標(biāo)句點(diǎn)號與 “換主語”標(biāo)記作為兩種 “終止性停頓標(biāo)志”作用互補(bǔ).標(biāo)句點(diǎn)號針對大概率的句邊界顯性標(biāo)記,而 “換主語”標(biāo)記是針對標(biāo)句點(diǎn)號缺失的情況設(shè)定的句邊界.

標(biāo)句點(diǎn)號的不可靠性不僅表現(xiàn)為可作句邊界的標(biāo)點(diǎn)缺位,也往往表現(xiàn)為語音停頓與切句停頓不一致的矛盾.此時(shí),需要從句法上加以區(qū)分: 線性序列上,標(biāo)句點(diǎn)號比鄰的兩部分內(nèi)容有主謂結(jié)構(gòu)、狀中/定中結(jié)構(gòu)、述補(bǔ)結(jié)構(gòu)關(guān)系,則認(rèn)為標(biāo)句點(diǎn)號比鄰的兩部分是一個(gè)單句或一個(gè)分句,否則是兩個(gè)單句或兩個(gè)分句.這種判別標(biāo)準(zhǔn)稱為 “互不作句法成分”,用以解決標(biāo)句點(diǎn)號歧義問題,如:

例句4.5G (是)在4G 基礎(chǔ)上\,把人的連接拓展為物的連接.

例句5.13 億多中國人{(lán),一個(gè)(都不能(少))}!

“互不作句法成分”在面對體詞性、謂詞性組合與標(biāo)句點(diǎn)號比鄰的句子有主謂關(guān)系時(shí),依然會有難以判定的情況,如圖1 中的例句增加逗號 “后來,機(jī)場建設(shè)征用農(nóng)田,引起農(nóng)民強(qiáng)烈反對,······”如果仍看作一個(gè)小句,那么假如第二個(gè)逗號后還有多個(gè)類似結(jié)構(gòu)與之并列,這個(gè) “小句”可能會過長,結(jié)構(gòu)嵌套過深,不利于人標(biāo)注,也影響句法分析效果;而在理論上也有學(xué)者指出,謂詞性組合具有表述性,而體詞性組合表述性不強(qiáng),一般不充當(dāng)分句[21];由于動轉(zhuǎn)名可以無標(biāo)記的方式進(jìn)行,subject–verb–object (SVO)、subject–verb (SV)、verb–object (VO)結(jié)構(gòu)可作話題主語,然而這種句式話題與述題關(guān)系松散,可以重新分析為復(fù)句[22].因此本文據(jù)此設(shè)定了 “表述功能”的切句標(biāo)準(zhǔn): 比鄰的兩個(gè)詞組,前面的謂詞性組合與后一組合有主謂關(guān)系時(shí),將其看作兩個(gè)小句(例句6);標(biāo)句點(diǎn)號比鄰的組合序列是體詞性與謂詞性組合,且二者構(gòu)成主謂關(guān)系,則看作一個(gè)小句(例句7);標(biāo)句點(diǎn)號比鄰的組合序列都是體詞性組合,且二者構(gòu)成主謂、并列關(guān)系,則將其看作一個(gè)省略了述語的主謂句(例句8);如沒有主謂、并列關(guān)系,此類句式有明顯的描繪性語義,主要用于表達(dá)形象感,則認(rèn)為各自獨(dú)立自足(例句9).

例句6.{考試(考砸了)}(讓)爸爸(很(失望)).考試(考砸了),(讓)爸爸(很(失望)).

例句7.五年的時(shí)光\,(讓)他(學(xué)會了){(游泳)、(撈)魚、(養(yǎng))雞、(喂)鴨}.

例句8.粒徑\,()泥沙顆粒大小的一種量度.

例句9.藍(lán)藍(lán)的天空,潔白的云朵,高高的白楊樹,明亮耀眼的陽光,一望無際的草場,這(就(是))我憧憬的蒙古科爾沁大草原<<呵>>.

1.1.3 樹庫標(biāo)記集

根據(jù)第1.1.1～ 1.1.2 節(jié)所述的標(biāo)注體系,本文的樹庫標(biāo)記主要包含組塊性質(zhì)標(biāo)記、組塊功能與用途標(biāo)記、句邊界標(biāo)記.表1 中,第1～ 4 為組塊性質(zhì)標(biāo)記,NP與VP、UNK 主要用于描述主賓語、述語整體及核心謂詞的體謂性,其他成分的組塊性質(zhì)不作分析,以NULL 標(biāo)記;第4～ 11 為組塊的功能與用途標(biāo)記,功能是從句法上描述組塊單元充當(dāng)句法角色的情況,用途是從語篇功能與人際功能描述組塊單元的連接作用、語氣作用;第12～ 15 為句邊界與層次標(biāo)記.

表1 樹庫標(biāo)記集Table 1 Tags for chunk-tree

1.2 語料選擇

本樹庫以大規(guī)模多領(lǐng)域篇章語料為標(biāo)注對象,前期以人工標(biāo)注為主,分階段、分語料層次逐步加入機(jī)器標(biāo)注的方式構(gòu)建完成.根據(jù)用詞與句法結(jié)構(gòu)復(fù)雜度,標(biāo)注語料類型由簡單到復(fù)雜逐步過渡,以便打磨規(guī)范、開發(fā)標(biāo)注平臺、訓(xùn)練標(biāo)注人員、開發(fā)自動標(biāo)注工具.而前期以百度百科、新浪和新華社新聞、國家專利為標(biāo)注對象: 百科與新聞涉及到社會生活的各方面,內(nèi)容豐富、結(jié)構(gòu)嚴(yán)謹(jǐn)、用詞造句的風(fēng)格多樣,但并不復(fù)雜且較為標(biāo)準(zhǔn),可以作為樹庫的基礎(chǔ)數(shù)據(jù),而專利文本是典型的技術(shù)說明型、法律型文本,用詞偏晦澀、結(jié)構(gòu)雖然嚴(yán)謹(jǐn)?shù)珡?fù)雜,涉及技術(shù)領(lǐng)域廣,可以覆蓋較多技術(shù)性文本的特點(diǎn);后期用已標(biāo)注的數(shù)據(jù)訓(xùn)練機(jī)器標(biāo)注模型,采用機(jī)器標(biāo)注,人機(jī)校對的模式,標(biāo)注其他語體文本,并不斷用已標(biāo)注的語料訓(xùn)練迭代機(jī)器標(biāo)注模型,以標(biāo)注模型表現(xiàn)的領(lǐng)域穩(wěn)定性決定某一領(lǐng)域的語料規(guī)模;此外,注重長尾句型,根據(jù)機(jī)標(biāo)錯(cuò)誤句型分布,動態(tài)增減相應(yīng)句型的語料.

2 標(biāo)注工程實(shí)施

2.1 研制標(biāo)注規(guī)范

制定標(biāo)注規(guī)范是樹庫構(gòu)建過程中最重要也是最困難的任務(wù).科學(xué)、完善的標(biāo)注規(guī)范,對數(shù)據(jù)符合預(yù)期目標(biāo)、保證標(biāo)注的一致性和準(zhǔn)確性至關(guān)重要.在規(guī)范起草與修訂過程中,為保持規(guī)范與預(yù)期目標(biāo)一致,本樹庫有三條主要原則: 1)以述語為核心,無歧義呈現(xiàn)句子骨架;2)人工標(biāo)注及句法樹合格性校驗(yàn)時(shí),不做分詞及詞性處理,切分后形成組塊狀的組合序列,訓(xùn)練機(jī)器標(biāo)注模型時(shí),則在組塊分析的基礎(chǔ)上,塊內(nèi)分詞及詞性標(biāo)注;3)平衡規(guī)范的穩(wěn)定性與動態(tài)修訂性,規(guī)則分級,上級穩(wěn)定,下級慎重動態(tài)增減,例句動態(tài)詳舉.

漢語中存在身兼數(shù)職、功能復(fù)雜的實(shí)詞或虛詞;同時(shí),進(jìn)入篇章中的句子,語序靈活,意合現(xiàn)象普遍,語用層面的 “經(jīng)濟(jì)性”原則被普遍使用,反過來促使語序、省略、類比、并列等變得靈活,往往導(dǎo)致在篇章層面標(biāo)注的句法結(jié)構(gòu)與語義結(jié)構(gòu)錯(cuò)配,句法分析得不到語義、語用的支持.為此,本樹庫堅(jiān)持“以述語為核心,無歧義呈現(xiàn)句子骨架”的原則,即,參考上下文意,使標(biāo)注的句子骨架能盡可能無歧義地表示組塊間依存關(guān)系,反映實(shí)際支配關(guān)系,也為后續(xù)成分缺省與共享標(biāo)注任務(wù)準(zhǔn)備高質(zhì)的帶標(biāo)數(shù)據(jù).如:

例句10.我<<是>>(歷來(主張)){軍隊(duì)(要(艱苦奮斗))}<<的>>.

這書(是)她的.

例句11.這孩子[跟狐貍一樣,] (很(狡猾))

今年的題(跟去年(一樣)).

例句12.電磁流量計(jì)密封性能(好),(還可(用于))自來水和地下水道系統(tǒng).<而且>(測量過程不與流體(接觸)),(適于)制藥、生物化學(xué)和食品工業(yè).

例句13(a).(給)你(拿)件毛衣[來](如何)？

例句13(b).[不用](),[不用](),我(不(冷)).

例句10 中起焦點(diǎn)標(biāo)記作用的 “是”與系動詞的“是”區(qū)分開來,一個(gè)以述語符號標(biāo)注,一個(gè)以輔助組塊符號標(biāo)注;例句11,都是 “跟······一樣”,一個(gè)表示比擬,一個(gè)表示比較,標(biāo)注出來的句子骨架也有所區(qū)別;例句12,“測量過程”,在單句層面是主語,但從上下文看,并非 “測量過程”不與流體接觸,而是在 “測量過程”中,“電磁流量計(jì)”不與流體接觸;例句13(b)實(shí)際省略核心謂詞 “拿”,這在對話中是常見情況,即,對話題進(jìn)行刪除或省略,主要強(qiáng)調(diào)連句成篇、約束焦點(diǎn)、觸發(fā)預(yù)設(shè)、表達(dá)立場或情感和態(tài)度、人際互動等作用,而將述語缺省,因此在本樹庫規(guī)范中規(guī)定需依據(jù)實(shí)際情況補(bǔ)出述語空位.

“不做分詞及詞性處理,切分后形成組塊狀的組合序列”,主要針對通用性、固定表達(dá),不做進(jìn)一步切分.熟語、固定表達(dá)、古語引用、古語用法、公式結(jié)構(gòu)等,內(nèi)部結(jié)構(gòu)高度凝固成為一種習(xí)用的、結(jié)構(gòu)相對固定的敘述性語言單元,對這部分表達(dá)盡量大顆粒度標(biāo)注.

最后,標(biāo)注規(guī)范是對樹庫設(shè)計(jì)思想的具體體現(xiàn),語言現(xiàn)象的復(fù)雜性,決定了任何一種標(biāo)注規(guī)范都無法一步到位,需要在標(biāo)注實(shí)踐過程中不斷充實(shí)、修訂、完善,但無規(guī)劃的修訂,會導(dǎo)致整個(gè)標(biāo)注工作缺乏系統(tǒng)性,增加標(biāo)注與標(biāo)注平臺開發(fā)成本.本項(xiàng)目在經(jīng)過長達(dá)5 個(gè)月的規(guī)范制定工作后,起草了初版標(biāo)注規(guī)范,并確定了 “規(guī)則分級,上級穩(wěn)定,下級慎重動態(tài)增減,例句動態(tài)詳舉”的增訂原則,將規(guī)則按類逐層細(xì)分,上級規(guī)則穩(wěn)定不易變動,根據(jù)實(shí)踐以增加詳細(xì)說明的細(xì)則,而對每類細(xì)則詳舉典型或需復(fù)雜判斷的標(biāo)注例句,以減少標(biāo)注者主觀判斷,提高標(biāo)注一致性,目前規(guī)范中有11 章、87 節(jié)內(nèi)容、900 多條例句,除詞表附錄共66 頁.通過這樣的策略,可以盡力平衡規(guī)范前期的穩(wěn)定性與動態(tài)修訂性,同時(shí)這樣的編排也便于標(biāo)注者索引.

2.2 標(biāo)注人員與標(biāo)注質(zhì)量、速度控制

平衡標(biāo)注質(zhì)量、速度與規(guī)模,需要高專業(yè)素養(yǎng)的標(biāo)注人員、有效的質(zhì)量評測與反饋機(jī)制、高效的標(biāo)注與管理辦法.

句法結(jié)構(gòu)標(biāo)注的難度遠(yuǎn)高于其他標(biāo)注任務(wù),對標(biāo)注人員的專業(yè)素養(yǎng)要求高.本文始終維持著一個(gè)語言學(xué)專業(yè)的標(biāo)注團(tuán)隊(duì),參與標(biāo)注的團(tuán)隊(duì)成員都需通過標(biāo)注考核,每期有效標(biāo)注人員保持在35 人以上.

在質(zhì)量評測與反饋方面,本文主要做了以下工作:

1)改進(jìn)計(jì)算標(biāo)注一致性的Kappa 算法,以精確衡量每個(gè)組塊及全文本標(biāo)注質(zhì)量,為組織標(biāo)注工作、數(shù)據(jù)使用提供參考.句法結(jié)構(gòu)標(biāo)注的一致性,本質(zhì)是遞歸結(jié)構(gòu)切分與定性的一致,結(jié)合自身標(biāo)簽設(shè)計(jì)特點(diǎn)以及參考Holle等[23]相關(guān)工作,將比對文本中每個(gè)字符依次從0 開始編碼,每個(gè)非標(biāo)注字符都有一個(gè)唯一的、有序的起止位置編碼,每兩兩標(biāo)注一致的字符起止位置對齊,嵌套結(jié)構(gòu)按起止碼由大到小的順序排列,中間按組合順序依次排列,一方缺失的補(bǔ)空,標(biāo)注符號與起止位置都相同即為一致的判定標(biāo)準(zhǔn).據(jù)此按標(biāo)注符號構(gòu)建列聯(lián)表,計(jì)算全文本單個(gè)標(biāo)注符號Kappa 系數(shù),再根據(jù)各標(biāo)注符號在文本中的占比為權(quán)重,計(jì)算全文本Kappa值,計(jì)算公式為(具體算法推導(dǎo)超出本文范圍,將另行他文詳述):

式中,對數(shù)加1 以防止出現(xiàn) l g0 的情況.權(quán)重(1)為計(jì)算文本質(zhì)量的方法,權(quán)重(2)用以作為評估標(biāo)注人員標(biāo)注表現(xiàn)進(jìn)而計(jì)算工資的一種方法,從而鼓勵標(biāo)注者重視低頻標(biāo)簽的標(biāo)注準(zhǔn)確性.

2)按20%～ 30%的比例,人員與語料由系統(tǒng)雙隨機(jī)派發(fā) “埋雷文本”與 “審核文本”.每一篇 “埋雷文本”需要兩位標(biāo)注人員在得到第1 次一致性校驗(yàn)結(jié)果后,討論協(xié)商后再次提交進(jìn)行一致性校驗(yàn),難以一致的問題提交管理人員仲裁;埋雷文本第1次所得Kappa 值,作為該標(biāo)注人員工資系數(shù)標(biāo)準(zhǔn),也作為該標(biāo)注人員當(dāng)期所標(biāo)注的其他 “審核文本”是否進(jìn)入樹庫備選的依據(jù)(需Kappa ≥ 0.8);“審核文本”則是不進(jìn)行一致性校驗(yàn),但由管理人員隨機(jī)抽查的文本,通過審核的 “審核文本”的字?jǐn)?shù)總和,決定標(biāo)注人員的工資總額,而不合格的文本直接全文本報(bào)廢處理,管理人員同時(shí)也通過程序抽取出的句子骨架,重點(diǎn)審核低頻出現(xiàn)的句子骨架,加以反饋修訂.所有備選樹庫中的數(shù)據(jù)需要再經(jīng)過樹結(jié)構(gòu)轉(zhuǎn)換代碼檢驗(yàn),不合法的句法樹將被拋出,合格的句法樹構(gòu)成了最終的樹庫.

3) 開發(fā)通用型在線標(biāo)注平臺、管理計(jì)算工具(見圖3).項(xiàng)目組研發(fā)了一個(gè)標(biāo)注管理平臺,并在實(shí)踐中不斷完善.在淺層句法標(biāo)注上,符號標(biāo)注比樹圖可視化編輯更直觀便捷,而有層次嵌套的結(jié)構(gòu),符號標(biāo)注比色塊標(biāo)注更便利,但色塊標(biāo)注更便于標(biāo)注檢查;因此,平臺支持選擇性輸入與快捷鍵輸入,支持以色塊和標(biāo)注前后比對進(jìn)行檢查;此外,通用標(biāo)注平臺也支持標(biāo)注相關(guān)人員協(xié)調(diào)管理,對標(biāo)注行為進(jìn)行實(shí)時(shí)跟蹤、反饋,為標(biāo)注任務(wù)管理提供參考;集成的管理工具可輔助、補(bǔ)充在線管理系統(tǒng),保證管理靈活性的同時(shí),確保管理的系統(tǒng)性.

圖3 標(biāo)注平臺標(biāo)注界面及管理工具界面Fig.3 The interface of annotation website and management tool

2.3 人機(jī)互助的語料加工

在完成一定規(guī)模數(shù)據(jù)標(biāo)注后,初步分類訓(xùn)練了機(jī)器標(biāo)注模型,初步探索了 “機(jī)標(biāo)人?！钡臉?biāo)注模式(具體實(shí)驗(yàn)另行他文介紹).本文以已標(biāo)注的百科、新聞及專利語料為訓(xùn)練語料,采用自注意力機(jī)制編碼[24]和基于Cocke-Younger-Kasami (CYK)的圖表算法解碼[25],以Bert[26]進(jìn)行預(yù)訓(xùn)練,訓(xùn)練所得句法分析器的F1 值為94.3;其次,以句法分析器自動標(biāo)注新聞、百科、專利以及小學(xué)生作文、法律判決書、科技說明文的測試文本;最后,將機(jī)器標(biāo)注的結(jié)果與人工標(biāo)注的結(jié)果進(jìn)行一致性校驗(yàn),經(jīng)過多次校訂的人工標(biāo)注與前三類文本校驗(yàn)Kappa 值分別為0.835、0.834、0.639,而后三類文本與人工標(biāo)注一致性校驗(yàn)的Kappa 值,分別為0.70、0.63、0.83.本文根據(jù)機(jī)器標(biāo)注的表現(xiàn),對于機(jī)器標(biāo)注已能滿足使用需求的文本領(lǐng)域(使用需求根據(jù)任務(wù)定義),則不再進(jìn)行人工標(biāo)注;對機(jī)器標(biāo)注還不能滿足使用需求的領(lǐng)域,則采用機(jī)器標(biāo)注、人工校訂的方式增加該領(lǐng)域訓(xùn)練數(shù)據(jù),不斷迭代標(biāo)注模型的領(lǐng)域遷移能力,以最大限度減少了人工投入,豐富樹庫語料領(lǐng)域.

3 樹庫統(tǒng)計(jì)分析

3.1 標(biāo)注數(shù)據(jù)分布

截至到目前為止,以根節(jié)點(diǎn)計(jì),樹庫中已有27.8 萬句,見表2,其中47%為新聞,28%為百科,25%為專利(擴(kuò)容中).新聞數(shù)據(jù)涉及領(lǐng)域廣泛,因此語料占比較高,專利數(shù)據(jù)將陸續(xù)加入新數(shù)據(jù).所有數(shù)據(jù)中,兩類黃金數(shù)據(jù)占總數(shù)據(jù)的25.5%,隨著樹庫擴(kuò)容,黃金數(shù)據(jù)會增加,但比例變化較小.根節(jié)點(diǎn)(ROOT)字長分布也在一定程度反映了文本難度,統(tǒng)計(jì)數(shù)據(jù)也驗(yàn)證了這一點(diǎn),三類文本平均字長由小到大依次為百科、新聞、專利文本.

表2 目前有效標(biāo)注語料分布Table 2 The data distribution of the valid annotated data

以小句(IP)為對象,從67.4 萬余條IP 中僅抽取出3 萬余條句型骨架,其中有9408 條句型骨架包含至少兩條例句,而10 余條句型骨架卻涵蓋樹庫中絕大多數(shù)小句(圖4 展示了9408 條實(shí)例句大于1 的句型框架頻次與排名順序雙自然對數(shù)分布),低頻句型骨架涵蓋小句數(shù)量少,自身?xiàng)l數(shù)卻較大.后期樹庫構(gòu)建需要據(jù)此有針對性地?cái)U(kuò)充低頻句型相關(guān)語料;與此同時(shí),根據(jù)這些句型骨架,已初步構(gòu)建一個(gè)提供結(jié)構(gòu)檢索、詞、詞性混合檢索的句型庫,以供語言學(xué)研究使用,如以檢索式 “%(.v 以){@}”檢索 “‘動詞/動語素’+‘以’”后跟謂詞賓語的所有結(jié)構(gòu),目前庫中可檢索到157 條記錄,比如: “被告人呂宏(予以){應(yīng)允}.” “權(quán)錢交易、權(quán)力尋租現(xiàn)象(得以){防控}.” 等,而隨著自動標(biāo)注模型的標(biāo)注準(zhǔn)確性提升,可以自動分析任何語料,以提供更多結(jié)構(gòu)檢索實(shí)例,為語言學(xué)研究服務(wù).

圖4 基本句型隨機(jī)法齊夫?qū)?shù)分布Fig.4 The rank-frequency random logarithmic distribution for the sentence patterns

此外,從小句標(biāo)點(diǎn)使用情況的分布來看,破折號、嘆號、句號在較為正式的文本中做句邊界的置信度非常高(圖5),分號、省略號次之,冒號、逗號、問號作句邊界,則需要謹(jǐn)慎,其中問號的情況較為復(fù)雜,有不識別的符號轉(zhuǎn)碼造成,也有本身使用有誤的情況;然而在句邊界識別問題上,最突出的問題不是標(biāo)句點(diǎn)號的歧義性,而是缺省標(biāo)句點(diǎn)號,以空格代替是常見情況,少部分沒有任何顯性句邊界標(biāo)記,需以 “換主語”標(biāo)記進(jìn)行判斷.

圖5 標(biāo)句點(diǎn)號失效、缺省在IP 小句中的分布Fig.5 Sentence-division-punctuation is invalid or missing

3.2 樹庫標(biāo)注質(zhì)量評估

一致性校驗(yàn)是衡量樹庫質(zhì)量和標(biāo)注難度的可靠指標(biāo),也是銜接本樹庫構(gòu)建過程中各環(huán)節(jié)的最重要的數(shù)據(jù)參考.由于本樹庫構(gòu)建以全文本篇章為語料,因此在決定文本是否進(jìn)入備選樹庫時(shí),以全文本Kappa ≥ 0.8 為標(biāo)準(zhǔn)(見圖6).目前,平均Kappa 值為0.87,各主要標(biāo)注符號的一致性校驗(yàn)也均在0.8以上,其中13%的文件Kappa 值超過0.95,約24萬余字規(guī)模;除了文件總體的一致性校驗(yàn)合格,大部分成分塊及邊界判斷的一致性校驗(yàn)也是合格的,而句邊界(注銷符)及謂詞性主賓語、主謂謂語一致性校驗(yàn)結(jié)果較低.一方面,這些邊界及成分塊判定往往是標(biāo)注的難點(diǎn),其內(nèi)部較為復(fù)雜,主觀判斷較多,另一方面也是后期本文要著重增加的長尾句型.

圖6 樹庫全文本Kappa 值分布與各標(biāo)注符號Kappa 平均值Fig.6 The distribution of Kappa coefficient of the text in the Treebank,and the mean of every kind of label＇s Kappa

4 結(jié)束語

本文介紹了一種基于篇章的、便于多層次結(jié)構(gòu)擴(kuò)展標(biāo)注的淺層句法標(biāo)注體系,并據(jù)此,初步構(gòu)建了一個(gè)千萬漢字級的淺層短語結(jié)構(gòu)樹庫,提出一種以述語為核心的句子骨架標(biāo)注體系,有助于保證質(zhì)量的情況下,進(jìn)行大規(guī)模、多層次結(jié)構(gòu)標(biāo)注.同時(shí)也探索了眾包環(huán)境下高效標(biāo)注管理模式,為后續(xù)各項(xiàng)擴(kuò)展任務(wù)奠定了基礎(chǔ);未來本文將從三個(gè)方面對樹庫進(jìn)行擴(kuò)容: 1)依據(jù)解析器分析句型骨架效果、目前樹庫句型骨架分布抽取相應(yīng)的篇章、段落、句子進(jìn)行有針對性的標(biāo)注,豐富樹庫中低頻句型語料,同時(shí)依據(jù)模型標(biāo)注準(zhǔn)確率的穩(wěn)定性決定語料類型在樹庫中的比例;2)對已標(biāo)注Kappa 值較低的文本進(jìn)行人機(jī)互助的二次復(fù)標(biāo)、審校,完善人機(jī)協(xié)同標(biāo)注模式、全面開啟人機(jī)協(xié)同標(biāo)注,加快樹庫構(gòu)建速度,提升預(yù)標(biāo)注模型性能;3)對已構(gòu)建的句法塊樹庫,進(jìn)行組塊依存與話題結(jié)構(gòu)標(biāo)注,開發(fā)依存樹庫解析模型,進(jìn)一步完善本樹庫,從而構(gòu)建完整的篇章塊依存樹庫,為后續(xù)延展任務(wù)打下基礎(chǔ).