基于視覺特征的網(wǎng)頁信息抽取方法研究

王憲發(fā)，郭 巖，劉 悅，俞曉明，程學(xué)旗

(1. 中國科學(xué)院大學(xué) 計(jì)算機(jī)與控制學(xué)院，北京 100049；2. 中國科學(xué)院 計(jì)算技術(shù)研究所 中國科學(xué)院網(wǎng)絡(luò)數(shù)據(jù)科學(xué)與技術(shù)重點(diǎn)實(shí)驗(yàn)室，北京 100190)

0 引言

互聯(lián)網(wǎng)在我國已成為人們生活中不可或缺的一部分。互聯(lián)網(wǎng)上存在著海量的數(shù)據(jù)，且每天都在爆炸式增長中。這些信息既豐富又實(shí)時(shí)，是信息檢索、數(shù)據(jù)挖掘等很多網(wǎng)絡(luò)應(yīng)用的基礎(chǔ)數(shù)據(jù)。對這些數(shù)據(jù)進(jìn)行深入的分析，可獲得很多更有價(jià)值的深層信息。然而，由于數(shù)據(jù)非常龐大，網(wǎng)頁本身又不是結(jié)構(gòu)化的數(shù)據(jù)格式且包含噪音信息，故我們需對網(wǎng)頁進(jìn)行信息抽取，提取網(wǎng)頁中的關(guān)鍵信息并將其轉(zhuǎn)化為結(jié)構(gòu)化數(shù)據(jù)再應(yīng)用于后續(xù)的數(shù)據(jù)分析等工作。

目前，學(xué)者提出的大部分抽取方法都是基于HTML源碼或者基于將源碼解析后生成的DOM樹，使用網(wǎng)頁的文本特征或結(jié)構(gòu)特征進(jìn)行抽取。事實(shí)上，網(wǎng)頁還有一類非常重要的特征可以用于信息抽取，即為視覺特征。視覺特征同時(shí)表明了網(wǎng)頁內(nèi)容的重要性，如部分新聞網(wǎng)站會(huì)將重要的頭條事件放在醒目的位置并用大號(hào)字體加粗或高亮，部分論壇網(wǎng)站會(huì)將熱門的帖子置頂或高亮。因此，利用這些視覺特征進(jìn)行網(wǎng)頁信息抽取能夠更好地模擬人對網(wǎng)頁內(nèi)容的識(shí)別，進(jìn)而提高抽取效果，這是僅基于HTML源碼或DOM樹無法達(dá)到的效果。近些年來，已有學(xué)者提出了一些基于視覺特征的抽取算法。如VIPS[1]、VIDE[2]等方法，相比于傳統(tǒng)的基于HTML源碼和DOM樹的抽取方法來說，這些方法不依賴于具體的網(wǎng)頁編程語言，且更加契合HTML這種幫助表現(xiàn)和展示的語言。但這些方法存在以下兩個(gè)問題：

(1) 通用性較差： 大多數(shù)方法是基于視覺特征，使用啟發(fā)式規(guī)則對網(wǎng)頁進(jìn)行分塊，但由于網(wǎng)頁的形式是十分多樣化的，這些方法并不是十分通用。

(2) 實(shí)用性較差： 因經(jīng)過瀏覽器渲染解析的時(shí)間成本較高，獲取網(wǎng)頁快照等視覺特征需要消耗的時(shí)間過長，故目前基于視覺特征的信息抽取方法的抽取效率過低，導(dǎo)致無法很好地應(yīng)用在工業(yè)界。

針對以上兩個(gè)問題，我們做了深入研究。首先，通過觀察，我們發(fā)現(xiàn)同一類型的不同網(wǎng)站的數(shù)據(jù)區(qū)域?qū)?yīng)的網(wǎng)頁元素具有相似的視覺特征。如圖1是來自兩個(gè)論壇網(wǎng)站頁面中的帖子記錄。從圖中可發(fā)現(xiàn)它們在視覺特征上十分相似。如作者信息、發(fā)帖時(shí)間、帖子正文等信息在頁面中的相對位置均十分相似。因此，本文利用不同網(wǎng)站的視覺特征的相似性，提出一種基于視覺特征的使用有監(jiān)督機(jī)器學(xué)習(xí)的網(wǎng)頁信息抽取框架WEMLVF(Web Extraction by Machine Learning and Visual Features)，該框架具有良好的通用性。本文通過論壇網(wǎng)站和新聞評(píng)論網(wǎng)站的信息抽取實(shí)驗(yàn)，驗(yàn)證了框架WEMLVF的有效性。然后，針對實(shí)用性差的問題，本文使用框架WEMLVF，分別提出基于XPath和基于經(jīng)典包裝器歸納算法SoftMealy的自動(dòng)生成信息抽取模板的方法。這兩種方法使用視覺特征自動(dòng)生成信息抽取模板，但模板的表達(dá)并不包含視覺特征，使得在使用模板進(jìn)行信息抽取的過程中無需提取網(wǎng)頁的視覺特征，從而顯著提升了信息抽取的效率，實(shí)驗(yàn)結(jié)果驗(yàn)證了這一結(jié)論。

圖1 不同論壇頁面的帖子記錄

1 相關(guān)工作

網(wǎng)頁信息抽取是信息抽取中一個(gè)非常重要的研究領(lǐng)域。對網(wǎng)頁信息抽取的技術(shù)有很多種分類方法[3-5]。我們按照是否使用網(wǎng)頁的視覺特征對抽取技術(shù)進(jìn)行分類，主要分為不使用網(wǎng)頁視覺特征的方法和基于網(wǎng)頁視覺特征的方法。

對于不使用網(wǎng)頁視覺特征的方法，大多都是基于HTML源碼或者基于將源碼解析生成的DOM樹，然后利用DOM樹的結(jié)構(gòu)特征或是使用自然語言處理的方法對網(wǎng)頁進(jìn)行信息抽取。根據(jù)是否使用模板，我們可以將抽取的方法分為模板相關(guān)和模板無關(guān)兩類抽取方法。模板相關(guān)的方法主要有基于包裝器歸納的SoftMealy[6]、STALKER[7]等，以及自動(dòng)生成模板的RoadRunner[8]等方法，基于模板的網(wǎng)頁信息抽取方法在模板的生成和維護(hù)方面都是費(fèi)時(shí)費(fèi)力的，人工難以滿足實(shí)際需求。模板無關(guān)的方法如MDR[9]，在DOM樹中尋找相似的重復(fù)串來定位數(shù)據(jù)區(qū)域，如郗家貞[10]等提出的一種基于時(shí)間串的論壇信息抽取方法Tristor，該方法主要是基于時(shí)間串進(jìn)行聚類來定位記錄區(qū)域，以及使用機(jī)器學(xué)習(xí)的方法如CRF[11]和神經(jīng)網(wǎng)絡(luò)[12]、決策樹[13]等對網(wǎng)頁進(jìn)行抽取，但這些算法對數(shù)據(jù)的假設(shè)較高，抽取精度不高，效率較低。

基于視覺特征的網(wǎng)頁抽取方法包括基于視覺分塊的VIPS、VIDE等，但由于網(wǎng)頁形式的多樣化，且提取視覺特征的效率較低，導(dǎo)致這些基于分塊的方法并不是十分通用。近幾年，相繼有學(xué)者提出基于網(wǎng)頁在視覺上的相似度，使用卷積神經(jīng)網(wǎng)絡(luò)的方法，通過對網(wǎng)頁快照進(jìn)行訓(xùn)練來對網(wǎng)頁進(jìn)行抽取，如Zehuan Cai[14]等提出了使用卷積神經(jīng)網(wǎng)絡(luò)定位數(shù)據(jù)塊的位置；Tomas Gogar[15]等提出了Text Map；Jin Liu[16]等提出通過R-CNN的方法在網(wǎng)頁快照中定位數(shù)據(jù)節(jié)點(diǎn)。這些方法在對模型未見過但是視覺上相似的網(wǎng)站中的抽取準(zhǔn)確率較高，但這些方法在訓(xùn)練時(shí)只考慮了網(wǎng)頁快照的特征，而沒有使用網(wǎng)頁元素，即DOM樹節(jié)點(diǎn)的特征，而且卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練速度較慢，故在實(shí)際工程中并不適用。

2 基于視覺特征的網(wǎng)頁信息抽取方法

網(wǎng)頁的特征包含很多，不同網(wǎng)頁的特點(diǎn)也不同。啟發(fā)式規(guī)則無法完全通用，且針對不同網(wǎng)站提出各種不同的規(guī)則是十分費(fèi)力的事情。有監(jiān)督機(jī)器學(xué)習(xí)[17]是一種機(jī)器學(xué)習(xí)的方法，與無監(jiān)督機(jī)器學(xué)習(xí)不同。它基于提供的包含標(biāo)注樣本的輸入輸出來學(xué)習(xí)一個(gè)映射函數(shù)，而無監(jiān)督機(jī)器學(xué)習(xí)的樣本不包含標(biāo)注信息。在有監(jiān)督的機(jī)器學(xué)習(xí)中，每個(gè)樣本都包含一個(gè)期望的輸出(標(biāo)記)，模型通過對樣本進(jìn)行學(xué)習(xí)得到一個(gè)映射函數(shù)來對新的樣本進(jìn)行預(yù)測。通過有監(jiān)督的機(jī)器學(xué)習(xí)的方法能夠幫助我們從這些特征中自動(dòng)學(xué)習(xí)網(wǎng)頁的潛在規(guī)律來幫助完成抽取。對于不同類型的網(wǎng)頁，我們只需要使用不同的訓(xùn)練集即可實(shí)現(xiàn)不同類型網(wǎng)頁的抽取。

因此，本文提出一種基于網(wǎng)頁視覺特征的使用有監(jiān)督機(jī)器學(xué)習(xí)的網(wǎng)頁信息抽取框架WEMLVF。該框架主要結(jié)合網(wǎng)頁的視覺特征和結(jié)構(gòu)特征，包括但不限于網(wǎng)頁元素對應(yīng)矩形區(qū)域的位置、大小、長、寬等視覺特征，以及網(wǎng)頁節(jié)點(diǎn)相似度等結(jié)構(gòu)特征，對元素節(jié)點(diǎn)進(jìn)行標(biāo)注是否是數(shù)據(jù)節(jié)點(diǎn)，生成訓(xùn)練數(shù)據(jù)，使用機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練得到網(wǎng)頁元素分類器。在定位網(wǎng)頁數(shù)據(jù)節(jié)點(diǎn)后，再使用基于DOM樹的抽取算法抽取出結(jié)構(gòu)化數(shù)據(jù)。

圖2為WEMLVF的框架圖。該方法將以網(wǎng)頁源碼解析后生成的DOM樹上的節(jié)點(diǎn)作為樣本，通過對樣本標(biāo)記0/1表示是否是要抽取的數(shù)據(jù)區(qū)域，將網(wǎng)頁抽取問題轉(zhuǎn)化為一個(gè)傳統(tǒng)的二分類問題(即判斷每個(gè)DOM樹節(jié)點(diǎn)是否是數(shù)據(jù)區(qū)域)，利用機(jī)器學(xué)習(xí)的方法訓(xùn)練生成網(wǎng)頁節(jié)點(diǎn)的分類器來定位要抽取的網(wǎng)頁數(shù)據(jù)區(qū)域。具體方法的流程如下：

(1) 解析網(wǎng)頁源碼生成Dom樹，并進(jìn)行預(yù)處理；

(2) 使用啟發(fā)式規(guī)則召回候選節(jié)點(diǎn)；

(3) 獲取候選節(jié)點(diǎn)的視覺特征與結(jié)構(gòu)特征，包括但不限于網(wǎng)頁快照，網(wǎng)頁元素的位置、大小、長、寬等視覺特征，以及網(wǎng)頁節(jié)點(diǎn)相似度等結(jié)構(gòu)特征；

(4) 對數(shù)據(jù)區(qū)域所在節(jié)點(diǎn)進(jìn)行標(biāo)注；

(5) 使用機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練得到網(wǎng)頁節(jié)點(diǎn)分類器；

(6) 使用分類器定位網(wǎng)頁數(shù)據(jù)節(jié)點(diǎn)后，再使用基于Dom樹的抽取算法或基于視覺特征的啟發(fā)式規(guī)則抽取出結(jié)構(gòu)化數(shù)據(jù)。

圖2 框架WEMLVF流程圖

該算法提出的是一套抽取方法框架，該框架具有良好的通用性，針對不同的應(yīng)用場景，僅需調(diào)整框架中的一些處理方法即可滿足需求?？烧{(diào)整的部分如下：

(1) 解析網(wǎng)頁源碼生成Dom樹，針對不同類型的網(wǎng)站，我們可以使用不同的預(yù)處理方法，包括刪除無用標(biāo)簽、刪除不可見節(jié)點(diǎn)等。

(2) 使用啟發(fā)式規(guī)則召回候選節(jié)點(diǎn)。我們可以針對不同的應(yīng)用場景，使用不同的啟發(fā)式規(guī)則對節(jié)點(diǎn)進(jìn)行召回，如本文后續(xù)對論壇頁面和新聞評(píng)論頁面使用基于時(shí)間串的方法召回候選節(jié)點(diǎn)。

(3) 獲取候選節(jié)點(diǎn)的視覺特征與結(jié)構(gòu)特征。我們可以針對具體的應(yīng)用場景，提取不同的能夠區(qū)分和幫助我們找到記錄節(jié)點(diǎn)的特征，包括視覺特征及網(wǎng)頁HTML的結(jié)構(gòu)特征。

(4) 對數(shù)據(jù)區(qū)域所在節(jié)點(diǎn)進(jìn)行標(biāo)注。我們需要針對具體的問題來對需要尋找的節(jié)點(diǎn)進(jìn)行標(biāo)注。在本文后續(xù)的內(nèi)容中，我們希望得到一個(gè)二分類器用來判斷某個(gè)節(jié)點(diǎn)是否是我們要抽取的記錄節(jié)點(diǎn)。因此，我們在標(biāo)注時(shí)是對節(jié)點(diǎn)標(biāo)注為0/1,表示是否是要抽取的數(shù)據(jù)區(qū)域。

(5) 使用機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練得到網(wǎng)頁節(jié)點(diǎn)分類器。對于不同的特征類型，我們可以使用不同的機(jī)器學(xué)習(xí)模型。對于連續(xù)型的數(shù)值特征(如節(jié)點(diǎn)對應(yīng)的矩形區(qū)域的高度、寬度、字體大小等)，我們可以使用邏輯回歸、決策樹、BP神經(jīng)網(wǎng)絡(luò)等模型，如本文之后使用了BP神經(jīng)網(wǎng)絡(luò)來訓(xùn)練網(wǎng)頁節(jié)點(diǎn)的分類器；對于網(wǎng)頁快照類的圖像特征，我們可以使用卷積神經(jīng)網(wǎng)絡(luò)等模型。

(6) 使用分類器定位網(wǎng)頁數(shù)據(jù)節(jié)點(diǎn)后，再使用基于DOM樹的抽取算法抽取出結(jié)構(gòu)化數(shù)據(jù)。在本章后續(xù)部分，我們使用了基于DOM樹的方法結(jié)合基于視覺特征的啟發(fā)式規(guī)則來抽取了論壇、評(píng)論頁面的發(fā)布時(shí)間、作者和正文。

2.1 論壇頁面、新聞評(píng)論頁面的信息抽取

圖3 新聞評(píng)論頁面示例

通過觀察論壇帖子頁面和新聞評(píng)論頁面，我們發(fā)現(xiàn)這些記錄在視覺特征上十分相似。如圖3所示，上邊是騰訊新聞的評(píng)論頁面，下邊是今日頭條的評(píng)論頁面。我們總結(jié)了一些不同論壇網(wǎng)站中的帖子記錄和新聞網(wǎng)站的評(píng)論記錄在視覺特征和網(wǎng)頁結(jié)構(gòu)特征上的一些共性，總結(jié)如下：

(1) 記錄居中，不同的論壇網(wǎng)站的帖子和新聞網(wǎng)站的評(píng)論信息在頁面中均處于頁面的中間位置。

(2) 記錄的寬度相似。

(3) 均包含時(shí)間串，且時(shí)間一般具體到分鐘。如2018/3/4 00:00，時(shí)間串一般位于帖子的頂部或底部。這是非常重要的一個(gè)特點(diǎn)，我們將利用這個(gè)特性來召回可能是記錄的那些節(jié)點(diǎn)。

(4) 在網(wǎng)頁HTML源碼中一般是兄弟關(guān)系，Tristor算法便是基于這個(gè)特性來對記錄節(jié)點(diǎn)來定位的。

(5) 記錄一般完整的包含在一個(gè)標(biāo)簽節(jié)點(diǎn)下，記錄的標(biāo)簽一般為