• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于ALBERT與雙向GRU的中醫(yī)臟腑定位模型

    2021-09-25 09:32:02張德政范欣欣謝永紅蔣彥釗
    工程科學(xué)學(xué)報(bào) 2021年9期
    關(guān)鍵詞:臟腑標(biāo)簽向量

    張德政,范欣欣,謝永紅?,蔣彥釗

    1) 北京科技大學(xué)計(jì)算機(jī)與通信工程學(xué)院,北京 100083 2) 材料領(lǐng)域知識(shí)工程北京市重點(diǎn)實(shí)驗(yàn)室,北京 100083

    人工智能技術(shù)的快速發(fā)展為各個(gè)行業(yè)注入了新的活力,也為中醫(yī)學(xué)的發(fā)展提供了新的思路. 隨著人工智能與中醫(yī)的結(jié)合,也為中醫(yī)的輔助診療提供了更多可能. 中醫(yī)學(xué)在歷史上形成了多種辨證方法,其中臟腑辨證是根據(jù)臟腑的生理功能,病理表現(xiàn),對(duì)疾病證候進(jìn)行歸納,借以推究病機(jī),判斷病變的部位、性質(zhì)、正邪盛衰情況的一種辨證方法,是辨證體系中的重要組成部分. 當(dāng)某一臟腑發(fā)生病變時(shí),反映出的臨床癥狀也各不相同,且依據(jù)臟腑辨證特點(diǎn),一個(gè)癥狀可涉及多個(gè)臟腑,所以本文將中醫(yī)中的臟腑定位問題抽象為自然語言處理領(lǐng)域的多標(biāo)簽文本分類問題,將醫(yī)案數(shù)據(jù)中的癥狀類文本信息作為輸入,將具體病變臟腑作為多標(biāo)簽文本分類問題中的標(biāo)簽.

    1 研究現(xiàn)狀

    在中醫(yī)的辨證推理方面,已經(jīng)有大量研究人員進(jìn)行過相關(guān)研究. 許強(qiáng)[1]通過對(duì)經(jīng)典證素辨證體系相關(guān)內(nèi)容的總結(jié),分析經(jīng)典證素辨證體系存在的不足,并基于有向圖這種數(shù)據(jù)結(jié)構(gòu)重新對(duì)證素概念進(jìn)行定義,對(duì)證素內(nèi)容進(jìn)行分類,并重新對(duì)辨證醫(yī)理模型進(jìn)行構(gòu)建. 尹丹等[2]采用領(lǐng)域本體七步法構(gòu)建中醫(yī)經(jīng)方知識(shí)圖譜,并通過Cypher設(shè)計(jì)一種模擬人聯(lián)想思維進(jìn)行檢索的經(jīng)方知識(shí)檢索框架. 劉超等[3]基于BP神經(jīng)網(wǎng)絡(luò)方法,建立冠狀動(dòng)脈臨界病變患者證候要素及其常見組合的中醫(yī)辨證診斷模型. 褚娜[4]在中醫(yī)辨證的現(xiàn)狀研究和相關(guān)智能算法的基礎(chǔ)上,提出適合于中醫(yī)辨證的理論方法和系統(tǒng)實(shí)施方案. 楊開明[5]將85例糖尿病患者結(jié)合C4.5決策樹算法建立了中醫(yī)辨證決策樹,提取出糖尿病的8種中醫(yī)證候分類規(guī)則. 周璐等[6]將C4.5決策樹、隨機(jī)森林、支持向量機(jī)、BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行融合,最終得到一種復(fù)合結(jié)構(gòu)的智能化辨證選方模型. 舒鑫等[7]基于神經(jīng)網(wǎng)絡(luò)構(gòu)建了AIS氣虛證預(yù)測(cè)模型,并展現(xiàn)出了良好的準(zhǔn)確率. 在此類方法中,尚未充分使用運(yùn)用文本的高層語義信息,可以嘗試在此類方法基礎(chǔ)上融入高層語義信息進(jìn)行效果提升.

    自然語言處理技術(shù)的發(fā)展為中醫(yī)的辨證論治提供了新的方法,多標(biāo)簽文本分類即為其中的重要方法. 多標(biāo)簽文本分類是指一個(gè)樣本可以屬于多個(gè)類別(或標(biāo)簽). 比如一條癥狀同時(shí)與“腎”和“肝”兩個(gè)標(biāo)簽關(guān)聯(lián),即該癥狀表現(xiàn)與“腎”和“肝”兩個(gè)臟腑相關(guān). 有研究人員從聚類的角度對(duì)文本進(jìn)行多標(biāo)簽分類,申超波等[8]提出了一種基于標(biāo)簽聚類的標(biāo)簽冪集方法,通過改進(jìn)平衡k-means聚類來發(fā)現(xiàn)訓(xùn)練集中潛在的重要標(biāo)簽集合,并用于形成新的訓(xùn)練集進(jìn)行多標(biāo)簽分類. 黃志強(qiáng)[9]對(duì)基于k-means的多標(biāo)簽分類及標(biāo)簽補(bǔ)全算法進(jìn)行了研究.

    在基于神經(jīng)網(wǎng)絡(luò)對(duì)文本特征進(jìn)行提取表示方面,研究人員也進(jìn)行了大量研究. 李德玉等[10]提出一種基于標(biāo)簽特征的卷積神經(jīng)網(wǎng)絡(luò)(CNN)情緒多標(biāo)簽分類方法,使用Word2Vec進(jìn)行詞向量表示,然后利用標(biāo)簽特征來強(qiáng)化文本情緒和標(biāo)簽之間的聯(lián)系,融合入CNN模型對(duì)文本情緒進(jìn)行深層次的表示和多標(biāo)簽分類. Joulin等[11]基于淺層神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)出了文本分類工具FastText. 易士翔等[12]在中文突發(fā)事件數(shù)據(jù)集上驗(yàn)證了雙向LSTM模型在文本表征中的有效性. Chen等[13]在獲得文本的整體語義 (Text feature vector)后,將文本整體語義輸入到一個(gè)遞歸神經(jīng)網(wǎng)絡(luò)(RNN)的序列中作為初始值,每一時(shí)刻輸入是上一時(shí)刻的輸出,將卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)進(jìn)行集成應(yīng)用,以獲得全局和局部文本語義. Yogatama等[14]針對(duì)文本分類問題構(gòu)建了基于 LSTM(Long short-term memory,長短期記憶網(wǎng)絡(luò))的生成模型和判別模型. Wang[15]提出了中斷遞歸神經(jīng)網(wǎng)絡(luò)(DRNN),將位置不變性引入RNN中. 該網(wǎng)絡(luò)通過限制RNN中的信息流的距離,將每個(gè)時(shí)間步長的隱藏狀態(tài)限制為表示當(dāng)前位置附近的單詞. Kim[16]提出TextCNN,將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到文本分類任務(wù),利用多個(gè)不同大小的kernel提取句子中的關(guān)鍵信息,這種方法類似于多窗口大小的n-gram,能夠更好地捕捉局部相關(guān)性.

    在對(duì)多標(biāo)簽文本分類效果的提升過程中,輸入高質(zhì)量的文本表征對(duì)模型效果有巨大的作用.基于大規(guī)模語料庫的預(yù)訓(xùn)練模型已經(jīng)成為自然語言處理技術(shù)的重要研究方向. 這些預(yù)訓(xùn)練模型是以龐大的語料庫作為基礎(chǔ)訓(xùn)練的,因此相較于onehot、Word2Vec[17]、Glove[18]等文本表征方式,預(yù)訓(xùn)練模型具有更好的表征能力,可以更好地適用于不同場(chǎng)景下的自然語言處理任務(wù). 為了更多地保留句子中詞與詞之間的內(nèi)在聯(lián)系,Google提出Transformer編碼器模型[19],在此基礎(chǔ)上Google提出了 BERT 模型[20](Bidirectional encoder representations from transformers),利用了隨機(jī)遮蓋語言模型(Masked LM)和預(yù)測(cè)下一句 (Next sentence prediction,NSP) 2種方法分別捕捉詞語和句子級(jí)別的表示. 在BERT出現(xiàn)后,又相繼出現(xiàn)了很多在BERT基礎(chǔ)上進(jìn)一步改進(jìn)和提升的模型,如XLNet[21],RoBERTa[22]、DistilBERT[23]等.

    雷景生和錢葉[24]在公開數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn),驗(yàn)證了使用ERNIE預(yù)訓(xùn)練模型進(jìn)行文本分類 的 有 效 性 . 本 文 使 用 的A lite BERT 模 型(ALBERT)[25]是Google在BERT之后提出一種輕量級(jí)BERT,相比于BERT,ALBERT模型采用解綁輸入的詞向量大小和隱藏層大小關(guān)系的方式降低了模型參數(shù)量,并實(shí)現(xiàn)了模型跨層的參數(shù)共享,在不損失模型效果的前提下有效縮小了模型大小.

    2 模型及算法描述

    2.1 模型說明

    本文提出的基于ALBERT和雙向門控循環(huán)單元 (Bidirectional gated recurrent unit, Bi-GRU) 的 多標(biāo)簽文本分類模型整體結(jié)果如圖1所示,整個(gè)模型可以分為4個(gè)部分:輸入層,預(yù)訓(xùn)練層,Bi-GRU層和輸出層.

    圖1 臟腑定位模型結(jié)構(gòu)Fig.1 Zang-fu localization model structure

    輸入層將癥狀文本進(jìn)行預(yù)處理后輸入模型中.

    預(yù)訓(xùn)練層將輸入的文本通過ALBERT預(yù)訓(xùn)練語言模型獲得文本的向量表征.

    Bi-GRU層接收經(jīng)過ALBERT預(yù)訓(xùn)練模型后的向量序列,通過Bi-GRU進(jìn)一步編碼獲取高層語義.

    輸出層通過以Sigmoid為激活函數(shù)的全連接層將各標(biāo)簽對(duì)應(yīng)輸出值壓縮至0~1之間,并將輸出值大于等于設(shè)定閾值的所有病位標(biāo)簽輸出作為最終臟腑定位結(jié)果.

    2.2 ALBERT 預(yù)訓(xùn)練模型

    自BERT的成功以來,預(yù)訓(xùn)練模型都采用了很大的參數(shù)量以取得更好的模型表現(xiàn). 但是模型參數(shù)量越來越大也帶來了很多問題,比如對(duì)算力要求越來越高、模型體積越來越大、模型訓(xùn)練時(shí)間越來越長等. 為了解決目前預(yù)訓(xùn)練模型參數(shù)量過大的問題,Lan等[25]提出了ALBERT模型,相比于BERT,ALBERT使用了2種能夠大幅減少預(yù)訓(xùn)練模型參數(shù)量的方法,并提出用語句順序預(yù)測(cè)(Sentence order prediction, SOP)任務(wù)代替 BERT中的 NSP 任務(wù). ALBERT是一種輕量級(jí)的基于Transformer的雙向編碼器表示模型(A lite bidirectional encoder representations from transformers). 通過對(duì)部分語義單元的隨機(jī)掩碼,使得模型能夠?qū)W習(xí)到完整的語義表示. ALBERT模型結(jié)構(gòu)如圖 2所示,其中[E1,E2,···,En?1,En]為原始文本向量,trm為Transformer模型[19].

    圖2 ALBERT 模型結(jié)構(gòu)Fig.2 ALBERT model structure

    由圖2可以看出,模型的輸出包含文本上下文信息的向量表示,且每個(gè)向量 [T1,T2,···,Tn?1,Tn]都包含了整個(gè)序列的文本信息.

    在ALBERT中,提出了2種可以減少BERT參數(shù)量的方法:(1)解綁WordPiece詞向量大小E和隱層大小H,減小參數(shù)量;(2)層之間參數(shù)共享,即在模型多個(gè)層之間使用相同的參數(shù). 第一種方法對(duì)詞嵌入?yún)?shù)進(jìn)行了因式分解,將它們分解為兩個(gè)小矩陣. 不再將One-hot向量直接映射到大小為H的隱藏空間,而是先將它們映射到一個(gè)低維詞嵌入空間E,再映射到隱藏空間. 通過這種分解,將詞嵌入?yún)?shù)從 o (V×H)降低到 o (V×E+E×H),在隱層大小H遠(yuǎn)大于E時(shí),會(huì)有非常明顯的參數(shù)量減少. 第2種方法通過跨層參數(shù)共享,有效降低了參數(shù)量,并且通過參數(shù)共享,提升了模型的魯棒性.

    此外,對(duì)于BERT中的NSP任務(wù),ALBERT進(jìn)行了改進(jìn). 由于BERT中NSP任務(wù)是預(yù)測(cè)兩個(gè)句子在原文本中是否連續(xù)出現(xiàn)的二分類任務(wù),其正例為文章中連續(xù)出現(xiàn)的兩個(gè)句子,負(fù)例由兩篇文檔中各選一句構(gòu)造而成. 由于負(fù)例的構(gòu)造使得模型可能更多傾向于預(yù)測(cè)句子主題關(guān)系而非句子連續(xù)性,這將NSP任務(wù)簡單化. 所以ALBERT提出了句子順序預(yù)測(cè)任務(wù)(SOP),即正例選擇方式不變,與NSP任務(wù)中的正例選擇方式相同,負(fù)例選擇一篇文檔中兩個(gè)連續(xù)的句子并將它們順序交換后構(gòu)造得到. 在NSP和SOP有效性對(duì)比實(shí)驗(yàn)中,NSP在解決SOP問題時(shí)精度僅為52%,而SOP在NSP任務(wù)上精度為78.9%,且SOP任務(wù)在幾乎所有下游任務(wù)中都相比NSP有提升[25],基于此證明了SOP相比于NSP的有效性.

    經(jīng)過上述處理,在大規(guī)模語料上訓(xùn)練得到的ALBERT預(yù)訓(xùn)練模型可以憑借較少的模型參數(shù)表達(dá)豐富的語義信息,有效縮減了模型體積.

    2.3 Bi-GRU 層

    門控循環(huán)單元是LSTM的變種,是相比于LSTM網(wǎng)絡(luò)更簡單的循環(huán)神經(jīng)網(wǎng)絡(luò)[26].

    GRU網(wǎng)絡(luò)通過引入門控機(jī)制來進(jìn)行信息的更新. 在LSTM網(wǎng)絡(luò)中,輸入門和遺忘門是互補(bǔ)關(guān)系,直接使用兩個(gè)門比較冗余. GRU將輸入門與和遺忘門合并成更新門(Update gate),并引入了重置門(Reset gate). 同時(shí),GRU 也不引入額外的記憶單元,直接在當(dāng)前狀態(tài)和歷史狀態(tài)之間引入線性依賴關(guān)系.

    GRU模型更新方式如圖3所示.

    圖3 GRU 單元Fig.3 GRU unit

    按照流程,可將圖3中的GRU分成4部分:更新門、重置門、產(chǎn)生新記憶和產(chǎn)生新隱藏層狀態(tài),下面將具體說明.

    更新門:用過去的隱藏層狀態(tài)與當(dāng)前輸入決定如何產(chǎn)生新記憶.

    重置門:用過去的隱藏層狀態(tài)與當(dāng)前輸入決定要有多少之前的記憶被遺忘.

    上述流程描述,可以得到如下4個(gè)公式,其中包括重置門向量、更新門向量、新記憶和經(jīng)過門控處理后的新的記憶(新的隱藏層狀態(tài)):

    GRU作為RNN的變種同RNN一樣,均具有遺忘性. 通常來說,在訓(xùn)練過程中,最后一個(gè)狀態(tài)所包含的信息是有損失的,而且越靠前,損失越嚴(yán)重. 對(duì)于包含很多序列的訓(xùn)練任務(wù)而言,獲取前后背景信息對(duì)增加模型準(zhǔn)確度來說有重要意義. 因此,本文通過訓(xùn)練正向?qū)W習(xí)和反向?qū)W習(xí)兩個(gè)GRU神經(jīng)網(wǎng)絡(luò),能夠把正向和反向?qū)W習(xí)過程中最后狀態(tài)對(duì)應(yīng)的向量進(jìn)行連接,將連接后得到的向量作為最后的結(jié)果,這個(gè)網(wǎng)絡(luò)就可以利用前后所有信息. 本文中使用的雙向GRU模型如圖4所示.

    圖4 雙向 GRU 模型示意圖Fig.4 Bi-GRU model diagram

    2.4 輸出層

    依據(jù)中醫(yī)一個(gè)癥狀涉及多個(gè)臟腑的特點(diǎn),該模型的輸出為多標(biāo)簽分類輸出而非多分類輸出.多標(biāo)簽分類與多分類的區(qū)別在于,多標(biāo)簽分類中一個(gè)樣本可以同時(shí)屬于多個(gè)類別,而多分類中,一個(gè)樣本屬于且只屬于一個(gè)類別. 如癥狀“胸悶,氣短,頭暈,頭痛,夜寐不寧,舌暗,苔薄,苔白,苔膩,脈弦,脈細(xì),脈沉”同時(shí)發(fā)生在“心,腎”兩個(gè)病位,即同時(shí)屬于“心”,“腎”兩個(gè)類別,所以該問題為多標(biāo)簽分類問題.

    基于臟腑定位模型具有多標(biāo)簽分類的特點(diǎn),在輸出層使用Sigmoid函數(shù)作為激活函數(shù)預(yù)測(cè)各個(gè)標(biāo)簽的概率,區(qū)別于單標(biāo)簽?zāi)P统S玫腟oftmax函數(shù). Sigmoid函數(shù)是一類S型曲線函數(shù),為兩端飽和函數(shù). 可以看成是一個(gè)“擠壓”函數(shù),把一個(gè)實(shí)數(shù)域的輸入“擠壓”到 (0, 1)之間. 當(dāng)輸入值在 0附近時(shí),Sigmoid函數(shù)近似為線性函數(shù);當(dāng)輸入值靠近兩端時(shí),對(duì)輸入進(jìn)行抑制. 輸入越小,越接近于0,輸入越大,越接近于1.

    在模型訓(xùn)練過程中,損失函數(shù)調(diào)整為帶有Sigmoid函數(shù)的二元交叉熵?fù)p失函數(shù),樣本損失計(jì)算方式如式(5)所示:

    式中,n為類別總數(shù),是模型的輸出值,表示預(yù)測(cè)樣本屬于某一類別的概率;是樣本在某一類別下的真實(shí)標(biāo)簽. 區(qū)別于Softmax交叉熵?fù)p失,Sigmoid函數(shù)使樣本屬于各類別的概率分布在(0, 1)之間.

    在訓(xùn)練階段結(jié)束使用模型進(jìn)行預(yù)測(cè)推理時(shí),設(shè)定一個(gè)閾值,將概率大于閾值的所有標(biāo)簽輸出,作為多標(biāo)簽分類的預(yù)測(cè)結(jié)果. 如輸入癥狀“胸悶,氣短,頭暈,頭痛,夜寐不寧,舌暗,苔薄,苔白,苔膩,脈弦,脈細(xì),脈沉”后,輸出各個(gè)標(biāo)簽概率為[0.64240265, 0.6062219, 0.04209191, 0.17620572],分別對(duì)應(yīng) [‘心’, ’腎’, ‘肺’, …, ‘脾’],通過網(wǎng)格調(diào)參的方法,最終設(shè)定閾值為0.5,即大于等于0.5均為相關(guān)病位,在上述例子中,即“心”,“腎”為輸入癥狀的對(duì)應(yīng)病位標(biāo)簽.

    3 實(shí)驗(yàn)及結(jié)果分析

    3.1 實(shí)驗(yàn)數(shù)據(jù)

    實(shí)驗(yàn)數(shù)據(jù)來源于名老中醫(yī)醫(yī)案庫,在經(jīng)過專家指導(dǎo)后共篩選出14821份醫(yī)案,本文中需要用到其中的“癥狀”和“病位”信息. 其中“癥狀”指疾病過程中機(jī)體內(nèi)的一系列機(jī)能、代謝和形態(tài)結(jié)構(gòu)異常變化所引起的病人主觀上的異常感覺或某些客觀病態(tài)改變;“病位”指與表現(xiàn)出的癥狀相關(guān)的部位,即臟腑標(biāo)簽. 在這些醫(yī)案中存在癥狀信息不全、癥狀文本中存在無意義字符的情況,通過專家指導(dǎo)和設(shè)置相應(yīng)規(guī)則,對(duì)癥狀文本中去噪處理和篩選后,得到最終有效醫(yī)案數(shù)據(jù). 將這些醫(yī)案中“癥狀”信息和“病位”信息進(jìn)行提取,得到本實(shí)驗(yàn)中所用到的全部數(shù)據(jù),共計(jì)12735份. 所得數(shù)據(jù)格式如表1所示.

    表1 臟腑定位數(shù)據(jù)格式Table 1 Zang-fu location data format

    3.2 實(shí)驗(yàn)參數(shù)設(shè)置

    具體實(shí)驗(yàn)參數(shù)設(shè)置如表2所示.

    表2 訓(xùn)練過程中的參數(shù)Table 2 Parameters in the training process

    3.3 評(píng)價(jià)標(biāo)準(zhǔn)

    為了綜合考慮模型的性能,本文采用了精確率(Precision)、召回率(Recall)、F1值(F1-Value)作為模型評(píng)價(jià)指標(biāo).

    精確率,P:指在被所有預(yù)測(cè)為正例中實(shí)際為正例的概率.

    召回率,R:指在所有實(shí)際為正例中被預(yù)測(cè)為正例的概率.

    F1值:指精確值和召回率的調(diào)和均值.

    計(jì)算表達(dá)式如下:

    3.4 實(shí)驗(yàn)對(duì)比與分析

    為了驗(yàn)證本文提出的臟腑定位模型對(duì)于實(shí)驗(yàn)的有效性,采用多種模型與本文模型進(jìn)行對(duì)比,如表3和表4所示,并為了驗(yàn)證本文提出模型的有效性進(jìn)行了消融實(shí)驗(yàn),如表5所示.

    表3 多標(biāo)簽分類對(duì)比實(shí)驗(yàn)結(jié)果Table 3 Comparative experimental results of multiple label classification

    表4 BERT 與 ALBERT 對(duì)比實(shí)驗(yàn)結(jié)果Table 4 Comparative experimental results of BERT and ALBERT

    表5 多標(biāo)簽分類消融實(shí)驗(yàn)結(jié)果Table 5 Ablation experiment multiple label classification results

    在表3對(duì)比實(shí)驗(yàn)中可以看出,方法1與方法4相比,在其他條件完全相同的情況下,本文提出的基于ALBERT預(yù)訓(xùn)練模型相比于Word2Vec的表示方式,能更好地完成文本表征任務(wù),F(xiàn)1值相比提升了0.0183. 將方法4與方法2、方法3相比,本文提出的模型比多層感知機(jī)(MLP classifier,No.2)模型和決策樹(Decision tree classifier,No.3)方法F1值分別提升了0.0934和0.1325,均有大幅提升.表4的對(duì)比實(shí)驗(yàn)結(jié)果表明,相比于使用BERT預(yù)訓(xùn)練模型,采用ALBERT預(yù)訓(xùn)練模型的方法F1值提升了0.0002,且在測(cè)試集上預(yù)測(cè)時(shí)間有了明顯減少,模型參數(shù)大幅減少,模型體積縮小為原來的近十分之一.

    通過表5消融實(shí)驗(yàn)可以看出,使用ALBERT預(yù)訓(xùn)練模型后不增加Bi-GRU層,最終在測(cè)試集上的F1值為0.7508. 與之相比,在ALBERT層后加入Bi-GRU層的模型F1值提升了0.0505. 通過該消融實(shí)驗(yàn),可以得出在本文的臟腑定位模型中加入Bi-GRU層確實(shí)有效捕捉了上下文信息,生成了高層語義表示,有效提升模型效果.

    4 總結(jié)與展望

    針對(duì)中醫(yī)中的臟腑定位方法,本文提出了一種基于ALBERT和Bi-GRU的多標(biāo)簽文本分類模型. 該模型采用ALBERT表示作為輸入,通過Bi-GRU有效地捕捉上下文信息生成高層次的文本語義信息表示,之后再對(duì)高層次信息表示進(jìn)行分類. 該方法從醫(yī)案數(shù)據(jù)的角度對(duì)中醫(yī)的臟腑定位方法的探索,相較于決策樹、感知機(jī)等模型F1值有較大的提升. 使用的ALBERT向量化表示方式與Word2Vec相比有很大的提升,相比于BERT方法,一定程度上縮短了預(yù)測(cè)時(shí)間,并大幅縮減了模型體積. 在未來的工作中,將在進(jìn)一步提升模型效果的基礎(chǔ)上,考慮融入更多中醫(yī)中臟腑定位的知識(shí),將知識(shí)圖譜中的知識(shí)融入到臟腑定位模型中,進(jìn)行融合知識(shí)的臟腑辨證. 探索在中醫(yī)知識(shí)的約束下更準(zhǔn)確地進(jìn)行中醫(yī)證素的推理工作,在提高模型效果的同時(shí)也為模型加入更多的可解釋性.

    猜你喜歡
    臟腑標(biāo)簽向量
    General principle of high-quality academic development of traditional chinese medicine: “carrying on the essence,while pursuing innovations”
    向量的分解
    聚焦“向量與三角”創(chuàng)新題
    無懼標(biāo)簽 Alfa Romeo Giulia 200HP
    車迷(2018年11期)2018-08-30 03:20:32
    不害怕撕掉標(biāo)簽的人,都活出了真正的漂亮
    海峽姐妹(2018年3期)2018-05-09 08:21:02
    標(biāo)簽化傷害了誰
    向量垂直在解析幾何中的應(yīng)用
    以臟腑體位和功能來認(rèn)識(shí)藏醫(yī)診脈法
    向量五種“變身” 玩轉(zhuǎn)圓錐曲線
    基于多進(jìn)制查詢樹的多標(biāo)簽識(shí)別方法
    欧美乱码精品一区二区三区| 日韩欧美在线乱码| 久久午夜亚洲精品久久| 午夜福利在线观看吧| 极品教师在线免费播放| 免费观看人在逋| 国产精品精品国产色婷婷| 日本免费a在线| 国产爱豆传媒在线观看| 精品日产1卡2卡| 国产 一区 欧美 日韩| 又黄又粗又硬又大视频| 久久久久亚洲av毛片大全| 久久精品影院6| 一本久久中文字幕| 国内久久婷婷六月综合欲色啪| 亚洲欧美日韩东京热| 精品电影一区二区在线| 九九热线精品视视频播放| 后天国语完整版免费观看| 天堂影院成人在线观看| www日本在线高清视频| av中文乱码字幕在线| 国产精品日韩av在线免费观看| 给我免费播放毛片高清在线观看| 夜夜躁狠狠躁天天躁| 国产精品久久久久久久电影 | 丰满人妻一区二区三区视频av | 99在线视频只有这里精品首页| 99热这里只有精品一区 | 久久久久久久午夜电影| 18禁黄网站禁片午夜丰满| 精品国产乱子伦一区二区三区| 亚洲成人免费电影在线观看| 免费高清视频大片| 18禁黄网站禁片午夜丰满| 国产精品电影一区二区三区| 欧美又色又爽又黄视频| 制服丝袜大香蕉在线| 国内精品久久久久久久电影| 国产伦在线观看视频一区| 日韩精品青青久久久久久| 亚洲精品粉嫩美女一区| 日本撒尿小便嘘嘘汇集6| 99久久精品一区二区三区| 不卡一级毛片| 亚洲中文av在线| 在线观看日韩欧美| 午夜日韩欧美国产| 亚洲欧美日韩无卡精品| 欧美成人性av电影在线观看| 日韩欧美在线二视频| 757午夜福利合集在线观看| 日本与韩国留学比较| 女生性感内裤真人,穿戴方法视频| 黄色视频,在线免费观看| 一个人免费在线观看的高清视频| 九九热线精品视视频播放| 最近最新中文字幕大全免费视频| 日韩三级视频一区二区三区| 久久精品国产亚洲av香蕉五月| 不卡一级毛片| 国产男靠女视频免费网站| 亚洲国产精品999在线| 一区福利在线观看| 成年女人永久免费观看视频| 中国美女看黄片| 首页视频小说图片口味搜索| 亚洲国产日韩欧美精品在线观看 | 哪里可以看免费的av片| x7x7x7水蜜桃| 亚洲最大成人中文| 免费av毛片视频| 亚洲国产欧美一区二区综合| 国产 一区 欧美 日韩| 国产精品久久久久久久电影 | 男人和女人高潮做爰伦理| 最近最新中文字幕大全电影3| 黄色成人免费大全| 亚洲18禁久久av| 免费观看的影片在线观看| 两个人看的免费小视频| 伊人久久大香线蕉亚洲五| 久久香蕉国产精品| 最新在线观看一区二区三区| 亚洲色图av天堂| 国产蜜桃级精品一区二区三区| 欧美成人一区二区免费高清观看 | 日韩三级视频一区二区三区| 18禁黄网站禁片午夜丰满| 校园春色视频在线观看| 亚洲第一欧美日韩一区二区三区| 国产久久久一区二区三区| 99国产精品99久久久久| 欧美高清成人免费视频www| 亚洲最大成人中文| 黄色 视频免费看| 免费看a级黄色片| 欧美午夜高清在线| 亚洲狠狠婷婷综合久久图片| 久久婷婷人人爽人人干人人爱| 宅男免费午夜| 视频区欧美日本亚洲| 国产精品爽爽va在线观看网站| a级毛片在线看网站| bbb黄色大片| 久久久久久久久中文| 成人永久免费在线观看视频| 日韩中文字幕欧美一区二区| 亚洲成人精品中文字幕电影| 丁香欧美五月| 99在线人妻在线中文字幕| 久久亚洲真实| 亚洲精品久久国产高清桃花| 亚洲人成电影免费在线| 欧美极品一区二区三区四区| 成熟少妇高潮喷水视频| 99热精品在线国产| 日本成人三级电影网站| 成人国产一区最新在线观看| 亚洲精品在线美女| 男人舔奶头视频| 国产伦精品一区二区三区视频9 | 美女大奶头视频| 51午夜福利影视在线观看| 欧美另类亚洲清纯唯美| 我的老师免费观看完整版| 色综合站精品国产| 亚洲国产中文字幕在线视频| 人妻夜夜爽99麻豆av| 亚洲中文av在线| 在线看三级毛片| 国产精品99久久久久久久久| 日韩欧美三级三区| 国产日本99.免费观看| 国产伦在线观看视频一区| 午夜福利欧美成人| 后天国语完整版免费观看| 成人精品一区二区免费| 男女做爰动态图高潮gif福利片| 99国产精品一区二区蜜桃av| 人妻丰满熟妇av一区二区三区| 国产爱豆传媒在线观看| 69av精品久久久久久| 国产人伦9x9x在线观看| 久久欧美精品欧美久久欧美| 性色av乱码一区二区三区2| 欧美另类亚洲清纯唯美| 老熟妇仑乱视频hdxx| 偷拍熟女少妇极品色| 精品午夜福利视频在线观看一区| 亚洲熟女毛片儿| 亚洲精品美女久久久久99蜜臀| 亚洲成人久久爱视频| 香蕉久久夜色| 亚洲av免费在线观看| 在线观看免费午夜福利视频| 岛国在线观看网站| 久久香蕉国产精品| 国产久久久一区二区三区| 国产极品精品免费视频能看的| 国产亚洲欧美在线一区二区| 欧美另类亚洲清纯唯美| 午夜福利高清视频| 日本免费a在线| svipshipincom国产片| 日本黄大片高清| 国产精品自产拍在线观看55亚洲| 欧美国产日韩亚洲一区| 亚洲av成人不卡在线观看播放网| 嫩草影院入口| 看片在线看免费视频| 搡老岳熟女国产| 久久亚洲真实| 日日摸夜夜添夜夜添小说| 亚洲专区国产一区二区| 免费高清视频大片| 亚洲人与动物交配视频| 日日夜夜操网爽| 国产男靠女视频免费网站| 久久亚洲真实| 亚洲av片天天在线观看| 国产主播在线观看一区二区| 久久这里只有精品19| 日韩精品中文字幕看吧| 女生性感内裤真人,穿戴方法视频| 亚洲第一欧美日韩一区二区三区| 999久久久精品免费观看国产| 露出奶头的视频| 国产激情久久老熟女| 人妻夜夜爽99麻豆av| 免费大片18禁| 亚洲av成人精品一区久久| 午夜福利高清视频| 亚洲av日韩精品久久久久久密| 国产日本99.免费观看| 久久久久久久久中文| 欧美又色又爽又黄视频| 日本免费a在线| 精品久久久久久成人av| 欧美日韩精品网址| 伊人久久大香线蕉亚洲五| 午夜福利欧美成人| 亚洲18禁久久av| 又大又爽又粗| 日本三级黄在线观看| 日韩精品中文字幕看吧| 啦啦啦免费观看视频1| 性色av乱码一区二区三区2| 精品久久蜜臀av无| 成人特级黄色片久久久久久久| 色综合站精品国产| 亚洲在线自拍视频| 国产一区二区在线观看日韩 | 亚洲人成伊人成综合网2020| 亚洲中文字幕一区二区三区有码在线看 | 欧美一区二区国产精品久久精品| 午夜成年电影在线免费观看| 男女午夜视频在线观看| 欧美色视频一区免费| 国内精品一区二区在线观看| 一个人免费在线观看的高清视频| 国产成人av激情在线播放| 欧美日本亚洲视频在线播放| 亚洲国产色片| 在线a可以看的网站| 欧美日韩中文字幕国产精品一区二区三区| www.熟女人妻精品国产| 97人妻精品一区二区三区麻豆| 成年人黄色毛片网站| 又黄又粗又硬又大视频| 国产精品爽爽va在线观看网站| www.熟女人妻精品国产| 国产真人三级小视频在线观看| 国产淫片久久久久久久久 | 成人亚洲精品av一区二区| 日韩欧美 国产精品| 久久久久久久精品吃奶| 国产成+人综合+亚洲专区| 美女黄网站色视频| 欧洲精品卡2卡3卡4卡5卡区| 亚洲性夜色夜夜综合| 国内精品久久久久久久电影| 999精品在线视频| 91在线精品国自产拍蜜月 | 伊人久久大香线蕉亚洲五| 国产精品 国内视频| 国产亚洲精品综合一区在线观看| 天堂√8在线中文| 熟女少妇亚洲综合色aaa.| 99久久久亚洲精品蜜臀av| 欧美zozozo另类| 一级毛片高清免费大全| 五月玫瑰六月丁香| 法律面前人人平等表现在哪些方面| 久久精品人妻少妇| 美女cb高潮喷水在线观看 | 久久性视频一级片| 黄色成人免费大全| 亚洲aⅴ乱码一区二区在线播放| 日韩大尺度精品在线看网址| 丰满人妻一区二区三区视频av | 黑人欧美特级aaaaaa片| 国产主播在线观看一区二区| 精品午夜福利视频在线观看一区| 一进一出抽搐gif免费好疼| 91久久精品国产一区二区成人 | av天堂中文字幕网| 精品免费久久久久久久清纯| 91九色精品人成在线观看| 天堂动漫精品| 男女那种视频在线观看| 午夜免费观看网址| 亚洲精品乱码久久久v下载方式 | 99国产精品一区二区蜜桃av| 又黄又粗又硬又大视频| 久久中文字幕人妻熟女| 99久久99久久久精品蜜桃| 美女黄网站色视频| www.精华液| 国产野战对白在线观看| 国内精品久久久久久久电影| 欧美+亚洲+日韩+国产| 国产亚洲av嫩草精品影院| 成人高潮视频无遮挡免费网站| 亚洲中文av在线| 两个人看的免费小视频| 18禁国产床啪视频网站| 丰满人妻熟妇乱又伦精品不卡| 国产成人系列免费观看| 亚洲一区高清亚洲精品| 国产男靠女视频免费网站| 一级作爱视频免费观看| 老汉色∧v一级毛片| 夜夜爽天天搞| 白带黄色成豆腐渣| 91久久精品国产一区二区成人 | 久久精品国产综合久久久| 国产精品亚洲一级av第二区| 午夜成年电影在线免费观看| 麻豆久久精品国产亚洲av| 久久久精品欧美日韩精品| 狂野欧美激情性xxxx| 成年女人看的毛片在线观看| 中文字幕人妻丝袜一区二区| av视频在线观看入口| 欧美在线一区亚洲| 黑人欧美特级aaaaaa片| 91av网一区二区| 精品一区二区三区视频在线 | 日韩国内少妇激情av| 天堂动漫精品| 欧美成人免费av一区二区三区| 国产精品久久久久久久电影 | 禁无遮挡网站| 亚洲国产欧美网| 精品乱码久久久久久99久播| 国产单亲对白刺激| 午夜视频精品福利| 国产精品久久久久久人妻精品电影| 男女那种视频在线观看| 男人舔女人下体高潮全视频| 18禁裸乳无遮挡免费网站照片| 久久久久免费精品人妻一区二区| 亚洲真实伦在线观看| 日韩高清综合在线| 99热精品在线国产| 久久婷婷人人爽人人干人人爱| 免费在线观看成人毛片| 免费无遮挡裸体视频| 久久久水蜜桃国产精品网| 亚洲欧美激情综合另类| 黑人巨大精品欧美一区二区mp4| 亚洲狠狠婷婷综合久久图片| 久久国产精品人妻蜜桃| 嫩草影视91久久| 国产精品av久久久久免费| 国产v大片淫在线免费观看| 黄色成人免费大全| 亚洲,欧美精品.| 高清毛片免费观看视频网站| 国产1区2区3区精品| 99视频精品全部免费 在线 | 欧美一级a爱片免费观看看| 国产乱人视频| 国产精品久久久久久人妻精品电影| 99精品在免费线老司机午夜| 久久久久久九九精品二区国产| 亚洲精品色激情综合| 麻豆国产av国片精品| 亚洲av中文字字幕乱码综合| 亚洲国产精品sss在线观看| 日本 欧美在线| 啦啦啦观看免费观看视频高清| 999精品在线视频| 亚洲欧美日韩卡通动漫| 亚洲一区二区三区不卡视频| 国产成人福利小说| 成人18禁在线播放| 亚洲国产精品sss在线观看| 女警被强在线播放| 国产精品亚洲一级av第二区| 日本免费a在线| 日日摸夜夜添夜夜添小说| 国产精品久久久人人做人人爽| 色视频www国产| 人妻夜夜爽99麻豆av| 91久久精品国产一区二区成人 | 国产视频内射| 日本成人三级电影网站| 国产三级黄色录像| 国产精品久久电影中文字幕| 日本免费一区二区三区高清不卡| 国产成人精品久久二区二区91| 人妻丰满熟妇av一区二区三区| 色噜噜av男人的天堂激情| 1024手机看黄色片| 欧美激情久久久久久爽电影| 长腿黑丝高跟| 国产av一区在线观看免费| 村上凉子中文字幕在线| 男人和女人高潮做爰伦理| 少妇熟女aⅴ在线视频| АⅤ资源中文在线天堂| 精品午夜福利视频在线观看一区| av在线蜜桃| 男女视频在线观看网站免费| 亚洲成av人片在线播放无| 97超视频在线观看视频| 婷婷丁香在线五月| 嫩草影视91久久| 嫩草影院精品99| 欧洲精品卡2卡3卡4卡5卡区| 全区人妻精品视频| 亚洲国产欧美人成| 99久久精品国产亚洲精品| 欧美不卡视频在线免费观看| 一二三四社区在线视频社区8| 99精品久久久久人妻精品| 久久精品亚洲精品国产色婷小说| 久久久久久久久久黄片| 久久这里只有精品19| 亚洲专区国产一区二区| 久久久久久久午夜电影| 国产av一区在线观看免费| 人人妻人人澡欧美一区二区| 国产成人影院久久av| 久久精品亚洲精品国产色婷小说| 在线免费观看的www视频| 久9热在线精品视频| 757午夜福利合集在线观看| 99精品欧美一区二区三区四区| 久久久国产成人精品二区| 一二三四在线观看免费中文在| 综合色av麻豆| 观看免费一级毛片| 搡老岳熟女国产| 美女 人体艺术 gogo| 欧美日韩精品网址| 亚洲熟妇熟女久久| 国产综合懂色| 精品久久久久久,| 久久九九热精品免费| 亚洲国产精品合色在线| 久久久久久国产a免费观看| 亚洲avbb在线观看| av天堂在线播放| 18禁黄网站禁片午夜丰满| 老汉色∧v一级毛片| 久久亚洲真实| 又黄又粗又硬又大视频| 日韩免费av在线播放| 亚洲成av人片在线播放无| 天堂动漫精品| 国产97色在线日韩免费| 一区二区三区激情视频| 一个人观看的视频www高清免费观看 | 亚洲欧美精品综合久久99| 波多野结衣高清无吗| 精品欧美国产一区二区三| 黄色日韩在线| 国产不卡一卡二| 欧美黑人巨大hd| 少妇的逼水好多| 午夜免费成人在线视频| 亚洲aⅴ乱码一区二区在线播放| 国产精品亚洲美女久久久| 亚洲精品国产精品久久久不卡| 久久人妻av系列| 久久亚洲精品不卡| 免费看日本二区| 国产av在哪里看| 午夜精品久久久久久毛片777| 九九在线视频观看精品| 亚洲黑人精品在线| 国产亚洲精品av在线| 国产精品日韩av在线免费观看| 久久久久久久久免费视频了| 久久99热这里只有精品18| 精品午夜福利视频在线观看一区| 最好的美女福利视频网| 午夜激情欧美在线| 国产爱豆传媒在线观看| 好男人在线观看高清免费视频| 精品国产亚洲在线| 国产精华一区二区三区| 夜夜看夜夜爽夜夜摸| 性色avwww在线观看| 九九在线视频观看精品| 亚洲人与动物交配视频| 亚洲国产看品久久| 国产成人av激情在线播放| 综合色av麻豆| 老司机在亚洲福利影院| 国产淫片久久久久久久久 | 国产伦在线观看视频一区| 夜夜爽天天搞| 国产精品综合久久久久久久免费| 又爽又黄无遮挡网站| 色综合亚洲欧美另类图片| 窝窝影院91人妻| 免费大片18禁| 免费在线观看视频国产中文字幕亚洲| 露出奶头的视频| 婷婷六月久久综合丁香| xxxwww97欧美| 国内少妇人妻偷人精品xxx网站 | 亚洲国产中文字幕在线视频| 精品人妻1区二区| 精品久久久久久久末码| 国语自产精品视频在线第100页| 欧美zozozo另类| 欧美激情久久久久久爽电影| 欧美成人性av电影在线观看| 成人永久免费在线观看视频| 成在线人永久免费视频| netflix在线观看网站| 成人特级av手机在线观看| 日日摸夜夜添夜夜添小说| 长腿黑丝高跟| 99热精品在线国产| 变态另类丝袜制服| 国产激情欧美一区二区| 日韩三级视频一区二区三区| 脱女人内裤的视频| 麻豆国产97在线/欧美| 怎么达到女性高潮| 国产精品免费一区二区三区在线| 亚洲第一电影网av| 久久天堂一区二区三区四区| 99久久成人亚洲精品观看| 日本 av在线| 99久久成人亚洲精品观看| 18禁国产床啪视频网站| 国产伦精品一区二区三区四那| 亚洲欧美一区二区三区黑人| 国产一级毛片七仙女欲春2| 成人鲁丝片一二三区免费| 丰满人妻一区二区三区视频av | 亚洲最大成人中文| 欧美色视频一区免费| 91av网一区二区| 精品久久久久久久久久免费视频| 日本免费a在线| 精品国产亚洲在线| 欧美丝袜亚洲另类 | 精品久久久久久久人妻蜜臀av| 观看美女的网站| 精品一区二区三区视频在线观看免费| 美女高潮的动态| 97超视频在线观看视频| 熟妇人妻久久中文字幕3abv| 一本一本综合久久| 亚洲国产精品999在线| 国产又黄又爽又无遮挡在线| 偷拍熟女少妇极品色| 亚洲国产高清在线一区二区三| 国产97色在线日韩免费| 亚洲av免费在线观看| 搞女人的毛片| 亚洲欧美日韩高清专用| 99re在线观看精品视频| 国产av麻豆久久久久久久| 一个人观看的视频www高清免费观看 | 亚洲精品美女久久久久99蜜臀| 超碰成人久久| 99精品久久久久人妻精品| avwww免费| 一级毛片高清免费大全| 亚洲精华国产精华精| 欧美又色又爽又黄视频| 最近最新中文字幕大全电影3| 免费看美女性在线毛片视频| 成年女人看的毛片在线观看| 婷婷丁香在线五月| 国产精品九九99| 成年版毛片免费区| 精品一区二区三区四区五区乱码| 国产精品,欧美在线| 香蕉久久夜色| 后天国语完整版免费观看| 国产不卡一卡二| 波多野结衣巨乳人妻| 久久久久国内视频| 日韩欧美精品v在线| 夜夜躁狠狠躁天天躁| 国产成人精品久久二区二区91| 老熟妇仑乱视频hdxx| 久久伊人香网站| 亚洲狠狠婷婷综合久久图片| 亚洲国产高清在线一区二区三| 亚洲精品456在线播放app | 日韩精品中文字幕看吧| 精品熟女少妇八av免费久了| 草草在线视频免费看| 中文资源天堂在线| 久久久色成人| 国产主播在线观看一区二区| 9191精品国产免费久久| 欧美乱妇无乱码| 男人舔女人下体高潮全视频| 人人妻人人看人人澡| 黄片大片在线免费观看| 啦啦啦免费观看视频1| 真人做人爱边吃奶动态| 中国美女看黄片| 欧美av亚洲av综合av国产av| 窝窝影院91人妻| 成人无遮挡网站| 亚洲欧美日韩无卡精品| 一级毛片精品| 日韩高清综合在线| 亚洲国产精品999在线| 免费一级毛片在线播放高清视频| www.www免费av| 精华霜和精华液先用哪个| 一区二区三区国产精品乱码| 十八禁人妻一区二区| 国产一区在线观看成人免费| 在线国产一区二区在线| 国产亚洲精品久久久com| 男人舔女人下体高潮全视频| 亚洲成av人片在线播放无| 男人和女人高潮做爰伦理| 久久亚洲精品不卡| 国产伦在线观看视频一区| 在线观看免费午夜福利视频| 国产私拍福利视频在线观看| 成人高潮视频无遮挡免费网站| 久久这里只有精品19| 波多野结衣高清作品| 亚洲欧美精品综合一区二区三区| 欧美中文日本在线观看视频| 国产三级黄色录像| 亚洲电影在线观看av|