基于評(píng)分緩存的節(jié)點(diǎn)序空間下BN結(jié)構(gòu)學(xué)習(xí)

關(guān)鍵詞：貝葉斯網(wǎng)絡(luò)；結(jié)構(gòu)學(xué)習(xí)；節(jié)點(diǎn)序；局部搜索；迭代重啟

中圖分類號(hào)：ＴＰ１８１ 文獻(xiàn)標(biāo)志碼：Ａ DOI：１０．１２３０５／ｊ．ｉｓｓｎ．１００１-５０６Ｘ．２０２４．１２．１８

０引言

貝葉斯網(wǎng)絡(luò)（Ｂａｙｅｓｉａｎｎｅｔｗｏｒｋ，ＢＮ）是一種結(jié)合概率論與圖論的數(shù)學(xué)模型，是目前不確定知識(shí)表達(dá)和推理領(lǐng)域最有效的工具［１］，現(xiàn)已被廣泛應(yīng)用于故障診斷［２３］、可靠性評(píng)估［４５］、醫(yī)學(xué)診斷［６７］、行為決策［８］等方面。目前，ＢＮ 憑借其良好的噪聲數(shù)據(jù)處理能力和模型可解釋性在基因調(diào)控領(lǐng)域［９］備受關(guān)注，但是基因調(diào)控的動(dòng)態(tài)性導(dǎo)致ＢＮ 應(yīng)用受限。ＢＮ學(xué)習(xí)分為結(jié)構(gòu)學(xué)習(xí)和參數(shù)學(xué)習(xí)，而參數(shù)學(xué)習(xí)［１０］的精度依賴于準(zhǔn)確的ＢＮ結(jié)構(gòu)。在實(shí)際中，僅依靠專家知識(shí)建模具有主觀性和局限性，因此充分利用數(shù)據(jù)學(xué)習(xí)ＢＮ 結(jié)構(gòu)是至關(guān)重要的［１１］。

根據(jù)方法策略的不同，ＢＮ 結(jié)構(gòu)學(xué)習(xí)（ＢＮ ｓｔｒｕｃｔｕｒｅｌｅａｒｎｉｎｇ，ＢＮＳＬ）方法［１２］主要分為基于依賴分析的方法、基于評(píng)分搜索的方法和混合方法?；谝蕾嚪治龅姆椒ǎ郏保常保矗輳模拢?的語義出發(fā)，利用統(tǒng)計(jì)或信息論的方法定量地分析變量之間的獨(dú)立關(guān)系來確定網(wǎng)絡(luò)結(jié)構(gòu)。基于評(píng)分搜索的方法［１５１６］則將ＢＮＳＬ視為組合優(yōu)化問題，確定合適的評(píng)分函數(shù)和搜索策略，尋找評(píng)分最高的網(wǎng)絡(luò)結(jié)構(gòu)?；旌戏椒ǎ郏保罚保福萑诤狭饲皟深愃惴ǖ膬?yōu)勢(shì)，通過條件獨(dú)立性測(cè)試縮小搜索空間，然后采用評(píng)分搜索找到最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)?；谝蕾嚪治龅姆椒ê突旌戏椒ň枰罅康臈l件獨(dú)立性測(cè)試，存在誤差傳播問題。

根據(jù)搜索空間的不同，基于評(píng)分搜索的方法又分為基于有向無環(huán)圖（ｄｉｒｅｃｔｅｄａｃｙｃｌｉｃｇｒａｐｈ，ＤＡＧ）空間［１８２０］、基于等價(jià)類空間［１５］和基于節(jié)點(diǎn)序空間［２１２５］的搜索方法。基于節(jié)點(diǎn)序空間的搜索方法與前兩類方法相比，搜索空間縮小，計(jì)算成本降低，全局搜索步驟增加，避免了大量無環(huán)檢測(cè)［２１］，進(jìn)一步簡(jiǎn)化了搜索復(fù)雜度。基于節(jié)點(diǎn)空間的搜索方法通常采取迭代局部搜索（ｉｔｅｒａｔｅｄｌｏｃａｌｓｅａｒｃｈ，ＩＬＳ）的啟發(fā)式策略［２６］，在可行時(shí)間內(nèi)找到更優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)，尤其在大規(guī)模網(wǎng)絡(luò)中，具有出色的學(xué)習(xí)效率。因此，基于節(jié)點(diǎn)序空間的評(píng)分搜索算法是當(dāng)前ＢＮＳＬ算法的前沿方向［２７３２］。

近年來，基于節(jié)點(diǎn)序空間的評(píng)分搜索算法得到眾多國(guó)內(nèi)外學(xué)者的關(guān)注，許多算法也隨之應(yīng)運(yùn)而生。Ｔｅｙｓｓｉｅｒ 等［２１］首次提出脫離傳統(tǒng)的ＤＡＧ空間、在節(jié)點(diǎn)序空間搜索的定向搜索（ｏｒｄｅｒｉｎｇｂａｓｅｄｓｅａｒｃｈ，ＯＢＳ）算法。該算法在節(jié)點(diǎn)序的交換鄰域內(nèi)使用爬山搜索策略。交換算子盡管簡(jiǎn)單高效，卻對(duì)搜索鄰域有所限制，存在評(píng)分低的弱點(diǎn)。Ｓｃａｎａｇａｔｔａ等［２２］提出的ＡＳＯＢＳ （ａｃｙｃｌｉｃｓｅｌｅｃｔｉｖｅＯＢＳ）算法放松節(jié)點(diǎn)序的一致性準(zhǔn)則，只要不引入有向環(huán)，就允許引入節(jié)點(diǎn)間的有向邊。Ｌｅｅ等［２３］提出的插入算子和Ｓｃａｎａｇａｔｔａ等［２４］提出的窗口算子，試圖進(jìn)一步擴(kuò)大搜索鄰域，但是漫無目的地搜索遍歷具有隨機(jī)性，產(chǎn)生大量的計(jì)算浪費(fèi)問題。王海羽等［２５］提出基于節(jié)點(diǎn)塊序列的ＮＣＳＣ （ｎｏｄｅｃｈｕｎｋｓｅｑｕｅｎｃｅｃｏｎｓｔｒａｉｎｔｓ）的ＢＮ 構(gòu)建算法構(gòu)建評(píng)分定向支撐樹結(jié)構(gòu)，得到節(jié)點(diǎn)塊序列，通過Ｋ２ 算法確定網(wǎng)絡(luò)結(jié)構(gòu)后完成非法結(jié)構(gòu)修正。Ｗａｎｇ 等［３２］提出的ＰＳＣＯＢＳ （ｐｒｉｏｒｉｔｙｉｎａｓｃｏｒｅｃａｃｈｅＯＢＳ）算法通過基于評(píng)分緩存的直接插入算子，逐個(gè)遍歷搜索固定深度的候選父集合，耗時(shí)長(zhǎng)且缺少優(yōu)化機(jī)制。

基于節(jié)點(diǎn)序空間的評(píng)分搜索算法通常使用ＩＬＳ方法，雖已在評(píng)分和時(shí)間方面取得卓越成效，但仍存在局部最優(yōu)和收斂緩慢等問題。產(chǎn)生這些問題的主要原因有：

（１）局部搜索策略采用遍歷插入的方式，搜索半徑小，調(diào)整節(jié)點(diǎn)少。搜索算子的隨機(jī)性和盲目性，將限制局部搜索鄰域，容易使算法陷入局部最優(yōu)解，且造成大量的計(jì)算浪費(fèi)。

（２）迭代重啟策略通常采用隨機(jī)擾動(dòng)，擾動(dòng)程度將直接影響跳出局部最優(yōu)的效果。該策略不能保證搜索進(jìn)度被不斷推進(jìn)，且過度擾動(dòng)有時(shí)會(huì)產(chǎn)生負(fù)面效果，獲得質(zhì)量更差的解，無法優(yōu)化當(dāng)前解。

針對(duì)以上問題，本文的主要貢獻(xiàn)如下：

（１）受評(píng)分緩存的無損刪減特性啟發(fā)，提出一種基于評(píng)分緩存（ｇｕｉｄｅｄｂｙｓｃｏｒｅｃａｃｈｅ，ＧＢＳＣ）的ＯＢＳ算法（以下簡(jiǎn)稱ＧＢＳＣ算法），采取定向優(yōu)先搜索策略和次優(yōu)解的容忍策略，在評(píng)分緩存指引下，有效避免搜索的盲目性，使節(jié)點(diǎn)序向更高質(zhì)量的方向更新收斂。基于評(píng)分緩存的優(yōu)先級(jí)順序，選擇性地插入候選父集合，通過自適應(yīng)的局部搜索深度參數(shù)，搜索其縱向插入鄰域，獲得評(píng)分最高的候選節(jié)點(diǎn)序。

（２）受ＤＡＧ空間、等價(jià)類空間與節(jié)點(diǎn)序空間相通的啟發(fā)，提出一種基于等價(jià)類深度優(yōu)先（ｄｅｐｔｈ-ｆｉｒｓｔａｎｄｅｑｕｉｖａｌｅｎｔｃｌａｓｓ，ＤＦＥＣ）的重啟算法，采取轉(zhuǎn)換搜索空間策略。結(jié)合ＤＡＧ空間、等價(jià)類空間與節(jié)點(diǎn)序空間的三重優(yōu)勢(shì)，確保局部最優(yōu)節(jié)點(diǎn)序都能得以優(yōu)化提升。將所得局部最優(yōu)節(jié)點(diǎn)序?qū)?yīng)的網(wǎng)絡(luò)結(jié)構(gòu)轉(zhuǎn)化為其等價(jià)結(jié)構(gòu)，再使用深度優(yōu)先搜索遍歷該等價(jià)結(jié)構(gòu)，得到新的節(jié)點(diǎn)序，并以此為始，重新迭代搜索。

（３）以ＧＢＳＣ 算法為局部搜索過程，使用軟啟動(dòng)下的ＤＦＥＣ算法，得到兩者結(jié)合的ＩＬＳ算法ＧＢＳＣ-ＤＦＥＣ （簡(jiǎn)稱ＧＢ-ＤＦ），進(jìn)一步優(yōu)化評(píng)分結(jié)果和加快收斂速度。

在運(yùn)行時(shí)間方面，表中算法運(yùn)行時(shí)間小于０．１ｓ，均記為０。ＯＢＳ算法的運(yùn)行時(shí)間均值最小，這是由于ＯＢＳ算法操作簡(jiǎn)單，復(fù)雜性小。對(duì)于小規(guī)模的Ａｓｉａ網(wǎng)絡(luò)，少量的局部操作就可以尋得最優(yōu)節(jié)點(diǎn)序，因此所有算法的運(yùn)行時(shí)間均為０。而對(duì)于中、大、特大規(guī)模網(wǎng)絡(luò)，ＧＢＳＣ 算法的運(yùn)行時(shí)間均值僅次于ＯＢＳ 算法和ＩＮＯＢＳ 算法，這是由于ＯＢＳ、ＩＮＯＢＳ和ＷＩＮＯＢＳ算法的搜索算子通過規(guī)律性地遍歷搜索鄰域，在評(píng)估候選節(jié)點(diǎn)序時(shí)，可以避免部分節(jié)點(diǎn)的多次家庭評(píng)分計(jì)算，節(jié)省大量的時(shí)間開銷。在樣本大小不同時(shí)，與同為插入多個(gè)節(jié)點(diǎn)的ＷＩＮＯＢＳ 算法相比，ＧＢＳＣ 算法的運(yùn)行時(shí)間均值分別最多縮短８８．１％、７７．１％、７９．８％，分別最少縮短２７．０％、２４．１％、３６．９％。與評(píng)分優(yōu)勢(shì)相媲美的ＰＳＣＯＢＳ算法相比，ＧＢＳＣ算法的運(yùn)行時(shí)間均值分別最多縮短４１．３％、３４．９％、２９．５％，分別最少縮短０．９％、４．４％、１．７％。隨著節(jié)點(diǎn)數(shù)目增加，網(wǎng)絡(luò)規(guī)模越大，ＧＢＳＣ 算法運(yùn)行時(shí)間改善越顯著。因此，ＧＢＳＣ 算法具有明顯的時(shí)間優(yōu)勢(shì)，大大降低了搜索過程的時(shí)間復(fù)雜度。

本文從綜合評(píng)分和時(shí)間兩個(gè)方面，說明了ＧＢＳＣ 算法在明顯改善搜索速度的同時(shí)，小幅提高了評(píng)分結(jié)果，可以在更短時(shí)間內(nèi)找到評(píng)分更高的節(jié)點(diǎn)序。這驗(yàn)證了該算法的可行性和高效性，提供了解決評(píng)估候選節(jié)點(diǎn)序搜索成本高和搜索算子盲目性強(qiáng)的問題的新方向。

３．５迭代算法的結(jié)果分析

圖７～圖９分別給出３ 種樣本大小下現(xiàn)有迭代算法與ＤＦＥＣ算法隨迭代次數(shù)變化的ＢＩＣ 評(píng)分均值曲線及其標(biāo)準(zhǔn)差。分析４種算法的ＢＩＣ評(píng)分變化趨勢(shì)可知，在整個(gè)迭代過程中，ＤＦＥＣ 算法的評(píng)分曲線均位于ＩＯＢＳ、ＩＡＳＯＢＳ 和ＥＳＴＯＢＳ算法曲線的上方，這說明ＤＦＥＣ 算法收斂穩(wěn)定性強(qiáng)，而且優(yōu)勢(shì)明顯。在樣本大小不同的所有網(wǎng)絡(luò)中，ＤＦＥＣ算法在１～１０次迭代過程中，評(píng)分增長(zhǎng)迅速，而在１０～１００次迭代過程中，評(píng)分僅在小范圍內(nèi)提高，處于穩(wěn)定狀態(tài)。ＩＡＳＯＢＳ算法最少需要２０次迭代才可達(dá)到穩(wěn)定狀態(tài)，而多數(shù)情況為在１～５０次迭代過程中評(píng)分緩慢提高，最終收斂到穩(wěn)定狀態(tài)。對(duì)于３ 種樣本大小下的中／小規(guī)模網(wǎng)絡(luò)，ＩＡＳＯＢＳ和ＥＳＴＯＢＳ 算法的評(píng)分變化趨勢(shì)相近，而隨著節(jié)點(diǎn)數(shù)目增加，ＥＳＴＯＢＳ 算法變得難以收斂，明顯差于ＩＡＳＯＢＳ算法。ＩＯＢＳ算法則是在１～１００次迭代過程中評(píng)分不斷攀升，難以收斂。隨著網(wǎng)絡(luò)規(guī)模增大，ＩＯＢＣ算法的收斂速度減小。在不同樣本大小下，ＤＦＥＣ算法前１０次迭代的評(píng)分均值增量最多分別為ＩＡＳＯＢＳ算法的１．７、１．５、１．４倍，最少分別為１．４、１．３、１．４ 倍。ＤＦＥＣ 算法進(jìn)一步跳出局部最優(yōu)，促使局部搜索過程快速收斂，趨于評(píng)分更高的穩(wěn)定狀態(tài)。

分析４種算法的最終ＢＩＣ 評(píng)分及標(biāo)準(zhǔn)差可知，ＤＦＥＣ算法評(píng)分曲線的終值明顯優(yōu)于其他３ 種算法。在多數(shù)中／小規(guī)模網(wǎng)絡(luò)中，ＩＡＳＯＢＳ 和ＥＳＴＯＢＳ 算法評(píng)分曲線的終值相交，具有相近的評(píng)分結(jié)果。而在多數(shù)大規(guī)模網(wǎng)絡(luò)中，ＩＡＳＯＢＳ算法評(píng)分結(jié)果明顯優(yōu)于ＥＳＴＯＢＳ 算法。除Ｃｈｉｌｄ網(wǎng)絡(luò)外，ＩＡＳＯＢＳ算法的評(píng)分曲線均高于ＩＯＢＳ 算法，這說明ＩＡＳＯＢＳ算法采用ＡＳＯＢＳ算法優(yōu)化局部搜索結(jié)果，在一定程度跳出局部最優(yōu)，評(píng)分結(jié)果優(yōu)于ＩＯＢＳ算法。在樣本大小不同時(shí)，與ＩＡＳＯＢＳ算法相比，ＤＦＥＣ 算法學(xué)到最優(yōu)節(jié)點(diǎn)序與初始節(jié)點(diǎn)序的評(píng)分均值增量分別最多提高２０．１％、２０．１％、１６．２％，分別最少提高９．９％、１１．０％、１２．５％。隨著網(wǎng)絡(luò)規(guī)模增大，ＤＦＥＣ 算法的評(píng)分優(yōu)勢(shì)尤為明顯。尤其對(duì)于Ｗｉｎ９５ｐｔｓ、Ｐａｔｈｆｉｎｄｅｒ和Ａｎｄｅｓ網(wǎng)絡(luò)，ＤＦＥＣ 算法最終評(píng)分優(yōu)勢(shì)格外明顯。ＤＦＥＣ 算法采用等價(jià)類轉(zhuǎn)換策略和ＤＦＳ 法優(yōu)化局部搜索結(jié)果，使得最終評(píng)分結(jié)果均高于ＩＯＢＳ、ＩＡＳＯＢＳ和ＥＳＴＯＢＳ算法，且魯棒性強(qiáng)，對(duì)于初始節(jié)點(diǎn)序的依賴性低。對(duì)于Ａｓｉａ網(wǎng)絡(luò)，４ 種算法評(píng)分的標(biāo)準(zhǔn)差最大，這是由于該網(wǎng)絡(luò)規(guī)模小，節(jié)點(diǎn)數(shù)目少，隨機(jī)生成的初始節(jié)點(diǎn)序以極大概率與真實(shí)網(wǎng)絡(luò)一致。隨著網(wǎng)絡(luò)規(guī)模增加，整體標(biāo)準(zhǔn)差減小。

本文從綜合收斂速度和最終評(píng)分兩個(gè)方面，驗(yàn)證了ＤＦＥＣ算法在較少迭代次數(shù)內(nèi)，可尋得更高評(píng)分的節(jié)點(diǎn)序，收斂速度更快，明顯優(yōu)于現(xiàn)有的迭代重啟算法，提供了解決推動(dòng)局部搜索進(jìn)度難的問題的新方向。

３．６迭代局部搜索算法的結(jié)果分析

表４和表５列出了３種樣本大小和９個(gè)基準(zhǔn)網(wǎng)絡(luò)下７種算法的ＢＩＣ評(píng)分均值、標(biāo)準(zhǔn)差。根據(jù)加粗?jǐn)?shù)據(jù)可以直觀地看出，在２２種類型數(shù)據(jù)集下，ＧＢ-ＤＦ 算法取得更高的評(píng)分均值，具有明顯的評(píng)分優(yōu)勢(shì)。在樣本大小不同時(shí)，與最著名的近似學(xué)習(xí)算法ＰＣ-Ｓｔａｂｌｅ、ＧＦＣＩ、ＭＭＨＣ 相比，ＧＢ-ＤＦ 算法均有更高的評(píng)分均值和更低的標(biāo)準(zhǔn)差，評(píng)分均值分別最多提高４３．２％、５０．１％、５２．７％。在樣本大小不同時(shí)，與現(xiàn)有主流的近似學(xué)習(xí)算法ＳａｉｙａｎＨ、ＦＧＥＳ、ＭＡＨＣ 相比，在大多數(shù)類型數(shù)據(jù)集下，ＧＢ-ＤＦ算法均有更高的評(píng)分均值和更低的標(biāo)準(zhǔn)差，評(píng)分均值分別最多提高１２．１％、１２．０％、１２．８％。雖然ＧＢ-ＤＦ 算法在３種樣本的Ａｎｄｅｓ網(wǎng)絡(luò)中評(píng)分均值比ＭＡＨＣ算法分別低１６９．３、５５２９．７、１８２９７．２，但是整體的評(píng)分優(yōu)勢(shì)依然明顯。表４ 和表５ 中，“'”表示ＧＢ-ＤＦ 算法的評(píng)分結(jié)果與該算法相比具有顯著改善；ＮＡ 表示該算法在相同類型數(shù)據(jù)集下有大于１０組實(shí)例無法輸出結(jié)果。

對(duì)于Ａｎｄｅｓ網(wǎng)絡(luò)，ＳａｉｙａｎＨ 算法復(fù)雜度高導(dǎo)致內(nèi)存不足，無法完成尋優(yōu)。與之不同的是，對(duì)于大規(guī)模的網(wǎng)絡(luò)，ＧＢ-ＤＦ算法總是可以高效地給出最優(yōu)解，克服內(nèi)存不足的問題。從統(tǒng)計(jì)測(cè)試的角度分析，ＧＢ-ＤＦ算法與現(xiàn)有的６ 種結(jié)構(gòu)學(xué)習(xí)算法相比，分別在２７、２４、２７、１４、２４ 和１７種類型數(shù)據(jù)集中評(píng)分顯著改善，評(píng)分明顯提高的比例達(dá)到了至少５８．３％ 。這說明ＧＢ-ＤＦ 算法具有超強(qiáng)的學(xué)習(xí)效率，不易受樣本數(shù)據(jù)集的影響，具有極強(qiáng)的魯棒性和評(píng)分優(yōu)勢(shì)。

表６列出３種樣本大小和９ 個(gè)基準(zhǔn)網(wǎng)絡(luò)下７ 種算法的ＴＰＲ 均值和標(biāo)準(zhǔn)差。根據(jù)加粗?jǐn)?shù)據(jù)可以直觀地看出，ＧＢ-ＤＦ算法在中／小規(guī)模網(wǎng)絡(luò)和樣本量較少情況下，ＴＰＲ指標(biāo)具有一定的優(yōu)勢(shì)，可以較好地找到真實(shí)網(wǎng)絡(luò)中存在的有向邊。在樣本大小不同時(shí)，ＧＢ-ＤＦ算法分別在其中６、７和５個(gè)網(wǎng)絡(luò)中取得最高的ＴＰＲ 均值，說明ＧＢ-ＤＦ 算法學(xué)到的網(wǎng)絡(luò)結(jié)構(gòu)的精度極高，學(xué)到的有向邊與真實(shí)網(wǎng)絡(luò)的匹配度最優(yōu)。與基于評(píng)分搜索的方法ＭＡＨＣ 相比，在樣本大小不同時(shí)，ＧＢ-ＤＦ 算法除Ｗｉｎ９５ｐｔｓ、Ａｎｄｅｓ網(wǎng)絡(luò)外大多具有更優(yōu)的ＴＰＲ 均值。尤其在Ｃｈｉｌｄ、Ｉｎｓｕｒａｎｃｅ、Ｐａｔｈｆｉｎｄｅｒ網(wǎng)絡(luò)中，ＧＢ-ＤＦ算法更是優(yōu)于基于依賴分析的方法和混合方法。ＴＰＲ 值高，表示真實(shí)網(wǎng)絡(luò)的有向邊被學(xué)到的比例大，與真實(shí)網(wǎng)絡(luò)的結(jié)構(gòu)匹配程度更優(yōu)。

表７列出３種樣本大小和９個(gè)基準(zhǔn)網(wǎng)絡(luò)下７種算法的犉１分?jǐn)?shù)均值和標(biāo)準(zhǔn)差。根據(jù)加粗?jǐn)?shù)據(jù)可以直觀地看出，ＧＢ-ＤＦ算法在中／小規(guī)模網(wǎng)絡(luò)下，犉１分?jǐn)?shù)具有一定的優(yōu)勢(shì)。在樣本量大小為１０００和５０００時(shí)，ＧＢ-ＤＦ算法在其中６個(gè)網(wǎng)絡(luò)中取得最高的犉１ 分?jǐn)?shù)均值，說明ＧＢ-ＤＦ 算法學(xué)到的網(wǎng)絡(luò)結(jié)構(gòu)的精度極高，與真實(shí)網(wǎng)絡(luò)的擬合程度最高。在樣本量大小為10000時(shí)，ＧＢ-ＤＦ算法在其中４個(gè)網(wǎng)絡(luò)中取得最高的犉１分?jǐn)?shù)均值，雖然沒有明顯的絕對(duì)優(yōu)勢(shì)，但與６ 種對(duì)比算法相比，保持了中等偏上的水平。與現(xiàn)有主流的ＳａｉｙａｎＨ、ＦＧＥＳ、ＭＡＨＣ 算法相比，分別在２０、２２、１９ 種類型數(shù)據(jù)集中，ＧＢＤＦ算法的犉１分?jǐn)?shù)均值更高，分別最多提高了５７．０％、１３４．８％、３１．８％，最少提高了０．９％、１．０％、１．２％。這是由于基于評(píng)分搜索的方法以評(píng)分作為唯一評(píng)價(jià)指標(biāo)，追求的是與數(shù)據(jù)的擬合程度。與基于評(píng)分搜索的方法不同，基于依賴分析的方法以結(jié)構(gòu)差異性作為主要評(píng)價(jià)指標(biāo)，更側(cè)重于與真實(shí)網(wǎng)絡(luò)的差異性。這類算法通過條件獨(dú)立性測(cè)試確定出節(jié)點(diǎn)之間是否存在邊，從而構(gòu)建出學(xué)到的網(wǎng)絡(luò)結(jié)構(gòu)。同樣地，大多數(shù)混合學(xué)習(xí)方法也采用條件獨(dú)立性測(cè)試確定出初始網(wǎng)絡(luò)的骨架。但是，在實(shí)驗(yàn)中采樣生成的數(shù)據(jù)集并不能完全反映真實(shí)網(wǎng)絡(luò)的情況，實(shí)際生活中的數(shù)據(jù)集大多都沒有公認(rèn)的基準(zhǔn)網(wǎng)絡(luò)，更需要從數(shù)據(jù)中挖掘出變量之間潛在的相關(guān)性。因此，與基于依賴分析的方法和混合方法相比，大多數(shù)基于評(píng)分搜索的方法在圖精度指標(biāo)上效果較差，評(píng)分結(jié)果更優(yōu)。

總體而言，ＧＢ-ＤＦ 算法在大多數(shù)數(shù)據(jù)集中具有更高的ＢＩＣ評(píng)分，在樣本量少或中／小規(guī)模網(wǎng)絡(luò)中具有更優(yōu)的圖精度結(jié)果。同時(shí)，在大規(guī)模網(wǎng)絡(luò)中，ＧＢ-ＤＦ 算法可以有效地給出最優(yōu)解，解決了從數(shù)據(jù)中學(xué)習(xí)大規(guī)模ＢＮ 的實(shí)際難題。

４結(jié)束語

針對(duì)盲目搜索造成計(jì)算浪費(fèi)和評(píng)分低的問題，本文采取定向優(yōu)先搜索策略和次優(yōu)解的容忍策略，提出ＧＢＳＣ算法。通過一種選擇插入算子，在評(píng)分優(yōu)先級(jí)指引下，通過自適應(yīng)的局部搜索深度，搜索縱向插入鄰域，確保局部搜索朝著質(zhì)量更高的最優(yōu)節(jié)點(diǎn)序前進(jìn)。針對(duì)搜索陷入局部最優(yōu)和收斂速度慢的問題，本文采取轉(zhuǎn)換搜索空間策略，提出基于等價(jià)類深度優(yōu)先的迭代算法ＤＦＥＣ。結(jié)合ＢＮ 特有的結(jié)構(gòu)等價(jià)性，將搜索到的局部最優(yōu)結(jié)構(gòu)轉(zhuǎn)化為其等價(jià)結(jié)構(gòu)，通過ＤＦＳ法遍歷為新的節(jié)點(diǎn)序，重新迭代搜索，累積每次搜索的進(jìn)度，加快收斂速度，提高學(xué)習(xí)效率。實(shí)驗(yàn)結(jié)果表明，ＧＢＳＣ算法在小幅提高評(píng)分的基礎(chǔ)上，搜索速度明顯改善。ＤＦＥＣ迭代算法在顯著提高評(píng)分的基礎(chǔ)上，收斂速度加快。與現(xiàn)有主流的結(jié)構(gòu)學(xué)習(xí)算法相比，結(jié)合兩者的ＧＢ-ＤＦ 算法具有明顯的評(píng)分優(yōu)勢(shì)。

雖然本文的算法已經(jīng)具有出色的學(xué)習(xí)效率，但是仍然存在待改進(jìn)的問題：本文隨機(jī)選取初始節(jié)點(diǎn)序，未加以優(yōu)化設(shè)定；本文的圖精度優(yōu)勢(shì)并不明顯，如何進(jìn)一步改善基于評(píng)分搜索方法的圖精度結(jié)果，將是未來主要的兩個(gè)研究方向。

作者簡(jiǎn)介

高曉光（１９５７—），女，教授，博士，主要研究方向?yàn)樨惾~斯網(wǎng)絡(luò)學(xué)習(xí)、航空火力控制與作戰(zhàn)效能。

閆栩辰（１９９９—），女，碩士研究生，主要研究方向?yàn)樨惾~斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)。

王紫東（１９９７—），男，博士研究生，主要研究方向?yàn)樨惾~斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)、因果發(fā)現(xiàn)。

劉曉寒（１９９７—），男，博士研究生，主要研究方向?yàn)樨惾~斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)。

馮奇（１９９９—），男，碩士研究生，主要研究方向?yàn)闀r(shí)空數(shù)據(jù)建模。