基于短文本分類的電子發(fā)票自動生成會計分錄

李燕萍?宋磊

引言

電子發(fā)票中的信息抽取屬于自然語言處理中信息抽取子領域。自然語言處理可以分成3個層級，分別是文本理解、信息抽取和信息檢索。在以往的紙質發(fā)票報銷中，通常要經過一系列流程，層層審批，然后財務部門根據(jù)報銷的內容進行分類，做賬。而線上報銷流程與線下一致，軟件自動識別發(fā)票，報銷人雖無需填寫發(fā)票，但財務依舊需要根據(jù)報銷內容制作會計分錄才能做賬。將報銷內容自動生成分錄，可節(jié)約財會人員時間和精力_[1]。

一、自動生成目錄可行性

電子發(fā)票具有文字稀疏性、產品術語、名詞術語較多等特點，將其內容分類自動生成會計分錄，可減少企業(yè)資金投入，提高企業(yè)做賬效率。在報銷的項目內容中，大多數(shù)是一些屬性相近的詞，可以看作是單個詞語到語義一般概念的映射。詞聚類算法可以分為三種：第一，各種啟發(fā)式量度表示聚類過程中的元素的距離;第二，以統(tǒng)計模型計算距離量度并給定聚類結果的類總數(shù);第三，同樣以統(tǒng)計模型計算距離量度，但增減例如困感度等量度的值_[2]。

二、短文本分類存在問題

報銷的內容較為簡潔明了，屬于短文本，但傳統(tǒng)的向量空間模型（VSM， Vector Space Model）對長文本的分類有較高的敏感度，而用于短文本分類時卻存在特征稀疏性等問題。1、傳統(tǒng)的向量進行空間分析模型對關鍵字的文檔數(shù)據(jù)處理方式方法是依據(jù)詞頻信息，難以分辨自然語言的語義模糊性。2、傳統(tǒng)的向量空間模型的假設詞與詞之間是相互獨立的，是一一對應的關系，但在實際情況中，文檔存在著很多一詞多義和同義詞的現(xiàn)象，所以這種假設難以滿足實際情況。 3、文檔中的詞與詞通常存在著一定關聯(lián)性，通過簡單的詞匯模式匹配進行語義檢索會降低信息檢索結果的查準率與查全率，直接應用傳統(tǒng)的向量空間模型進行短文本分類難以達到理想的效果_[3]。

三、短文本的Word2Vec模型

在此基礎上，本文探討采用Word2Vec的詞向量模型+K-means聚類，利用Word2vec淺而雙層的神經網(wǎng)絡重新構建給定語料庫的文本，快速有效地將關鍵詞表達成詞向量，再使用詞向量聚類得到類別關鍵詞達到理想的短文本分類效果。

（一）文本預處理

首先使用結巴分詞將獲取的兩千萬條淘寶商品名稱數(shù)據(jù)集進行分詞處理，過濾掉標點符號、停用詞等將文本標準化。由于中文沒有詞形變化，不需要還原詞形、詞綴的轉化以及詞性識別。為了準確地分析和表達文本，利用Word2vec將向量化的文本進行特征提取。

（二）文本向量化

詞袋模型（Bag of Words）是對文本中的單詞進行統(tǒng)計，簡單說就是統(tǒng)計某個單詞在一個文本中出現(xiàn)的頻率或者次數(shù)。

（三）特征提取

Word2vec是一種估算式（Estimator），它采用的是訓練商品名稱一系列文檔的重要詞語，形成Word2vec模型，每個詞語的模型映射成一個固定大小的向量。Word2vec模型使用商品名稱中每個詞語的平均數(shù)來將文檔轉換為向量，然后通過這個向量我們可以不斷擴散，然后作為預測電子發(fā)票內容的特征，來計算商品名稱的相似度。

Word2vec模型一般分為CBOW（Continuous Bag-of-Words）和Skip-gram兩種模型。訓練CBOW模型的輸入是某一個特征詞上下文相關的詞對應的詞向量，輸出是某特定詞的詞向量。在Skip-gram模型中，每個詞語受到上下文的影響，即利用上下文的預測結果，在梯度下降過程中不斷調整當前詞的詞向量。因此，盡管 Skip-gram 的訓練時間相對較長，但在數(shù)據(jù)量較少或生僻詞含量較多的情況下，會使經過多次調整得到的詞向量具有更高的準確度。在缺少報銷具體內容領域擴展語料庫的情況下，本文采用Skip-gram模型預訓練商品標題語料得到詞向量。經過訓練后可以得到每個詞語的詞向量以及詞語之間的余弦相似度。

四、商品名稱訓練

本文采用淘寶商品名稱數(shù)據(jù)，以會計科目作為類別標簽，將提取的關鍵詞權重輸入分類器，通過分類結果的準確率來衡量關鍵詞提取的有效性。

五、K-means聚類后分類

聚類是一種無監(jiān)督的機器學習，通過將相似的研究對象歸到同一個簇中，利用相似度計算方法將其一一對應。K-means聚類算法用于數(shù)據(jù)集K個簇的聚類，K個簇采用事先制作憑證中的會計科目， 每一科目對應商品名稱通過其所有點的中心來描述，聚類與前述分類處理算法的最大區(qū)別在于分類的目標類別已知， 但聚類的目標類別是一個未知的，將訓練集中的科目對應商品名稱按Word2vec模型的計算結果劃分為k組，獲得的聚類滿足同一聚類中的名稱相似度較高，而不同聚類中的名稱相似度較小。以下是聚類算法的基本步驟：

1、從訓練集的數(shù)據(jù)中選擇k個名稱作為聚類的初始中心;

2、用每個聚類名稱到聚類中心的距離來劃分類別;

3、重復計算每個聚類的中心;

4、計算標準測度函數(shù)，直到達到最大迭代次數(shù)停止，否則從第2步重復操作。

結論

目前市場中的移動報銷應用還無法滿足將報銷內容自動分類，為了適應新時代科技發(fā)展的需求，各行各業(yè)要想在資金方面提供準確的資金狀況，須采用移動報銷下的短文本自動分類?；诮y(tǒng)計的名稱分類存在大型參數(shù)空間、足夠的訓練數(shù)據(jù)、數(shù)據(jù)稀疏等問題。本文利用Word2vec工具集和K-means聚類，探尋一種較為方便的方法對短文本進行文本分類，移動報銷中的短文本分類自動對應到會計憑證的分錄可提供準確的資金用途及細目，減少精力投入，提高效率，促進各行各業(yè)的長遠發(fā)展。

參考文獻

[1]李昕，文桂江.會計信息處理智能化研究[J].財會通訊，2014（07）：90-91.

[2]楊軍澤.互聯(lián)網(wǎng)環(huán)境下自動化會計確認探討[J].財會通訊，2019（01）：104-108.

[3]徐建國，肖海峰，.基于多示例學習框架的文本分類算法[J].計算機工程與設計，2020，41（04）：1017-1023.

基金項目：國家級大學生創(chuàng)新創(chuàng)業(yè)訓練計劃項目，項目編號：201910379018

作者簡介：李燕萍（2000—）女，安徽省黃山市祁門縣人，本科在讀。