混合數(shù)據(jù)信息下不確定性描述的改進最大熵函數(shù)法

任博, 岳珠峰, 崔利杰, 王新河, 張峰

1.西北工業(yè)大學(xué) 力學(xué)與土木建筑學(xué)院, 陜西 西安 710072;2.空軍工程大學(xué) 裝備管理與無人機工程學(xué)院, 陜西 西安 710051

可靠性分析設(shè)計、優(yōu)化的基礎(chǔ)在于輸入、輸出不確定性的精確描述及傳遞。在航空、航天領(lǐng)域，各類結(jié)構(gòu)、機構(gòu)系統(tǒng)受到幾何尺寸不準確性、材料參數(shù)分散性、載荷環(huán)境波動及儀器測量誤差等不確定性因素影響，其零部件的性能、輸出響應(yīng)也存在一定變異特性。其中，有些參數(shù)因樣本充足可構(gòu)建精確概率分布，而有些參數(shù)難以評價，測量難，且樣本缺乏(如航空安全、毀傷概率、健康指數(shù))只能給定其變化區(qū)間[1]。為此，研究混合不確定性分析對可靠性設(shè)計、安全評價具有重要工程意義。

區(qū)間數(shù)據(jù)來源分為：①故障或者不確定性設(shè)備參與試驗取得的數(shù)據(jù)；②來自不同專家的意見[2]。關(guān)于區(qū)間不確定性描述，F(xiàn)erson等[3-4]將基于離散點概率分布估計推廣至區(qū)間處理中，提出用概率盒描述區(qū)間數(shù)據(jù)。Zaman等[5]提出求解區(qū)間數(shù)據(jù)四階矩的優(yōu)化方法，并以此為約束用Jonson分布族描述區(qū)間數(shù)據(jù)。Williamson和Montgomery[6-7]分別在其博士論文討論了貝葉斯概率盒以及用于概率盒區(qū)間計算的法則。Sankararaman等[8]用參數(shù)分布和非參數(shù)概率分布描述區(qū)間數(shù)據(jù)，并將其應(yīng)用到區(qū)間不確定性傳遞。對于多類型數(shù)據(jù)混合不確定性分析，Elishakoff和Colombi[9]研究了不確定性概率模型和凸模型混合問題。曹鴻鈞和段寶巖[10]提出一種非概率可靠性的度量指標，可用于橢球凸模型與區(qū)間變量并存情形。Qiu等[11]將區(qū)間分析方法引入傳統(tǒng)概率理論中，研究了隨機參數(shù)與區(qū)間參數(shù)并存結(jié)構(gòu)可靠性問題。目前，概率理論可靠性模型發(fā)展比較成熟，而概率-區(qū)間混合模型的可靠性研究仍處于起步階段，不確定性融合模型、模型求解算法等都值得深入研究。

根據(jù)極大熵原理[12]推斷，在約束條件下描述變量不確定性的概率分布中熵值最大的分布具有最少偏見性。鑒于此，本文提出信息熵函數(shù)可用來度量離散點和區(qū)間數(shù)據(jù)包含的不確定性信息，且熵值越大，該組數(shù)據(jù)不確定性越大；反之，則越小。在此基礎(chǔ)上，本文基于改進最大熵函數(shù)方法描述混合區(qū)間和離散數(shù)據(jù)的混合不確定性，得到包含混合不確定性信息的非參數(shù)概率分布，并在概率理論框架內(nèi)，將不確定性由輸入向輸出傳遞，完成可靠性分析。

1 隨機不確定性描述的傳統(tǒng)最大似然函數(shù)法

1.1 隨機不確定性描述模型

隨機不確定性模型以概率統(tǒng)計數(shù)學(xué)為基礎(chǔ)，能夠處理各種復(fù)雜環(huán)境下的不確定性傳遞問題，是目前使用范圍最廣、發(fā)展最為完善的不確定性理論。隨機不確定性描述模型中當變量樣本數(shù)據(jù)積累到足以精確確定變量概率密度函數(shù)時，可用概率密度函數(shù)形式定義[13]：

1) 連續(xù)型變量隨機模型

假定隨機變量X為連續(xù)型，且服從分布類型(正態(tài)、對數(shù)正態(tài)等)概率分布，概率密度函數(shù)為fX(x|θ)，其中θ為概率分布參數(shù)，獨立于隨機變量。針對連續(xù)變量中單個離散點數(shù)據(jù)xi，視其為上下限幾乎相等的退化區(qū)間，則單個離散點數(shù)據(jù)xi發(fā)生概率為：

式中，ε為任意小量(ε>0)。

若連續(xù)型變量總體為X={X1,X2,…,Xn}，{X1,X2,…,Xn}是來自X的離散點樣本，則{X1,X2,…,Xn}的聯(lián)合分布律為

式中：θ為待估計概率分布參數(shù)；k為正比例系數(shù)，其中k≠0。

2) 離散點數(shù)據(jù)隨機模型

若總體X={X1,X2,…,Xn}屬于離散型變量，且{X1,X2,…,Xn}是來自X的樣本，則{X1,X2,…,Xn}的聯(lián)合分布律為

(3)

式中：θ為待估計參數(shù)；P為變量X取其實現(xiàn)值x時的概率。

1.2 基于最大似然的隨機不確定性描述

對離散點的不確定性描述，最大似然函數(shù)法是常用的一種參數(shù)估計方法，基本思想是從模型總體隨機抽取K組樣本觀測值，尋找最合理的參數(shù)估計量，能使抽取的該K組樣本觀測值的概率最大[14]。

傳統(tǒng)最大似然函數(shù)法確定最優(yōu)概率分布函數(shù)簡要步驟具體見文獻[14]。

傳統(tǒng)方法處理離散點(樣本規(guī)模較大時)不確定性，具有以下局限性：①需要人為確定數(shù)據(jù)概率分布類型，而數(shù)據(jù)絕大多數(shù)分布于密度函數(shù)“中部”(如正態(tài)分布)，分布尾部是由“中間”分布外推得到;②在結(jié)構(gòu)可靠性分析中，起主要作用的恰是分布函數(shù)尾部，可靠性分析結(jié)果對變量分布尾部極為敏感。

因此，當要求可靠性較高(如失效概率Pf≤10-5)或缺乏數(shù)據(jù)時，假定概率模型方法適用性較差。

2 基于改進最大熵函數(shù)的混合不確定性描述

熵可用作為不確定性的度量[15]。改進最大熵函數(shù)法繼承概率和信息熵優(yōu)點，其優(yōu)勢在于通過構(gòu)造不同類型數(shù)據(jù)不確定性的聯(lián)合熵函數(shù)，將由插值技術(shù)得到的非參數(shù)概率密度函數(shù)在原始數(shù)據(jù)空間上下限內(nèi)均勻離散點處的概率密度值，作為優(yōu)化自變量，建立優(yōu)化模型，確定均勻離散點處的最優(yōu)概率函數(shù)密度值，得到非參數(shù)概率密度函數(shù)。

2.1 熵

熵是物質(zhì)系統(tǒng)混亂和無序程度的測度，可用來描述信息不確定程度[15-17]。本文使用熵作為隨機事件不確定性和信息量的量度。信息熵[16]認為隨機變量不確定性越大，其熵值越大。因此，根據(jù)概率密度函數(shù)為fX(x)連續(xù)隨機變量X，熵定義為

(4)

式中：DX表示隨機變量變化范圍或支撐；fX(x)為隨機變量X概率密度函數(shù)。

2.2 基于改進最大熵函數(shù)的混合不確定性描述

針對區(qū)間[ai,bi],(i=1,2,…,n)變量的熵，根據(jù)(4)式對多個混合區(qū)間聯(lián)合熵函數(shù)定義

(5)

針對包含m個離散點的隨機變量X={X1,X2,…,Xm}，其觀測樣本{x1,x2,…,xm}，離散點可看作上下限近似相等退化區(qū)間，因此，單個離散點xi熵定義

式中，ε是任意小量(ε>0)。

根據(jù)(5)式和(6)式2種類型數(shù)據(jù)的熵定義，m個離散點x={x1,x2,…,xm}和n個區(qū)間[ai,bi],

(i=1,2,…,n)包含的混合不確定性熵函數(shù)可寫為

(7)

變量包含區(qū)間和離散點數(shù)據(jù)信息的混合不確定性，(7)式聯(lián)合熵函數(shù)可衡量原始數(shù)據(jù)包含不確定性信息量大小。

文獻[17]認為描述隨機事件概率分布fX(x)在約束條件下使得該組隨機事件熵值最大，則該概率分布具有最少偏見。

2.3 基于插值技術(shù)的非參數(shù)概率密度函數(shù)優(yōu)化

相比于傳統(tǒng)不確定性描述方法，本文優(yōu)勢在于基于極大熵[17]建立描述區(qū)間和離散點數(shù)據(jù)不確定性大小的聯(lián)合熵函數(shù)優(yōu)化模型，并巧妙地將優(yōu)化變量轉(zhuǎn)化為插值點的概率密度值。所提方法將傳統(tǒng)對既定概率分布的參數(shù)估計轉(zhuǎn)化為對原始數(shù)據(jù)空間自定義離散點處概率密度值估計優(yōu)化，計算量和精度可通過自定義離散點數(shù)量控制，對原始數(shù)據(jù)不確定性信息挖掘更充分。在此基礎(chǔ)上確定最少偏見概率密度函數(shù)fX(x)，完成對多類型數(shù)據(jù)混合不確定性描述。本文應(yīng)用插值技術(shù)得到非參數(shù)改進聯(lián)合熵函數(shù)，將傳統(tǒng)假定概率分布類型，分布參數(shù)估計尋優(yōu)過程轉(zhuǎn)化為在原始數(shù)據(jù)空間內(nèi)對自定義隨機離散點處的概率密度值優(yōu)化，進而使用插值技術(shù)得到描述區(qū)間和離散點數(shù)據(jù)混合不確定性的最少偏見概率密度函數(shù)。具體過程如下：

4) 基于最大熵原理，建立優(yōu)化模型如(8)式所示

式中:f∈Rm是概率密度函數(shù)在原始數(shù)據(jù)空間內(nèi)上下限之間均勻離散點處的概率密度函數(shù)值，為設(shè)計變量;H(·)為目標函數(shù)。

采用序列二次規(guī)劃算法求解(8)式中涉及的優(yōu)化問題，在Matlab R2010b中，fmincon可實現(xiàn)該算法[18]。

為了方便理解，將上述過程繪制成流程圖，說明基于改進最大熵函數(shù)法描述混合不確定性的具體思路，如圖1所示。

圖1 改進最大熵函數(shù)描述混合不確定性方法優(yōu)化流程圖

在區(qū)間和離散點混合數(shù)據(jù)不確定性優(yōu)化過程中，將傳統(tǒng)針對假定分布類型概率分布參數(shù)的優(yōu)化，轉(zhuǎn)換為原始數(shù)據(jù)空間上下限內(nèi)均勻離散點處概率密度值的優(yōu)化，計算效率和精度可通過所選區(qū)間離散點的規(guī)模來控制。同時，所提方法是非參數(shù)的，避免了根據(jù)數(shù)據(jù)直方圖判定分布類型，減少了人為誤差。

3 算 例

本節(jié)通過2個算例說明所提方法對混合數(shù)據(jù)信息下不確定性描述的合理性。

3.1 數(shù)值算例1

討論一組區(qū)間與離散點的組合數(shù)據(jù)：X={[3.5,4],[3.9,4.1],[5,6],4.1,5.6,3.8}，其總區(qū)間為[3.5,6]，該組區(qū)間數(shù)據(jù)內(nèi)包含離散點，本節(jié)將其視為上下限相等的退化區(qū)間。

針對算例1，取Q=11為例，在原數(shù)據(jù)區(qū)間上下限上均勻離散后的樣本為x=[3.5,3.75,4.0,4.25,4.5,4.75,5.0,5.25,5.5,5.75,6.0]，基于改進最大熵函數(shù)法描述混合區(qū)間數(shù)據(jù)和離散點數(shù)據(jù)的不確定性，通過對聯(lián)合熵函數(shù)進行最大值優(yōu)化，得到均勻離散點處最優(yōu)概率密度函數(shù)值為f*=[0.073 1,0.120 3,0.178 0,0.007 7,0.119 3,0.142 4,0.203 9,1.735 4,1.167 1,0.172 5,0.486 6]。按照上述步驟，取Q=15進行優(yōu)化，得到類似結(jié)果。為更直觀地表現(xiàn)該組區(qū)間和離散點數(shù)據(jù)的分布特點，用三次樣條插值得到描述區(qū)間數(shù)據(jù)和離散點混合數(shù)據(jù)不確定性的概率密度函數(shù)，如圖2所示。

圖2 算例1基于改進最大熵函數(shù)描述混合不確定性的最優(yōu)概率密度函數(shù)

圖2中分別給出了在原始數(shù)據(jù)區(qū)間內(nèi)均勻離散點數(shù)為11和15情況下的優(yōu)化結(jié)果?？梢钥吹?種優(yōu)化得到的概率密度函數(shù)都是雙峰函數(shù)，峰值分別出現(xiàn)在[3.6,4.4]和[5.3,5.8]內(nèi)，且其他區(qū)間內(nèi)的概率密度明顯小于峰值區(qū)間的概率密度值，這是因為長區(qū)間數(shù)據(jù)落在[3.6,4.4]和[5.3,5.8]內(nèi)，造成概率集中。其中Q=15相比于Q=11，所得概率密度函數(shù)在對[3.9,4.1]分布描述上更加精細。同時，在區(qū)間[5,6]和5.6離散點數(shù)據(jù)情況下，Q=15受到5.6離散點影響，概率密度函數(shù)右移，相比于Q=11更加科學(xué)。

此外，原始數(shù)據(jù)在[3.5,4.2]區(qū)間內(nèi)也有離散點數(shù)據(jù)和短區(qū)間數(shù)據(jù)分布，而圖3中概率密度函數(shù)在該處的概率密度值并不高，這是因為基于改進最大熵函數(shù)方法對區(qū)間數(shù)據(jù)包含的不確定性信息量給予了充分的熵值分配，認為區(qū)間數(shù)據(jù)包含不確定性信息量大于離散點數(shù)據(jù)的不確定性信息量，而且有學(xué)者認為區(qū)間數(shù)據(jù)可以看作是離散點數(shù)據(jù)的密集集合。注意到與初始數(shù)據(jù)相比，概率密度函數(shù)范圍中包含了原數(shù)據(jù)中未包含的數(shù)據(jù)點，例如在4.5和3.0處其概率密度值并不等于零，而原數(shù)據(jù)中不包含該點。這是已經(jīng)預(yù)見到的，因為基于改進最大熵函數(shù)的不確定性描述方法是依據(jù)原數(shù)據(jù)的統(tǒng)計分布特征對原數(shù)據(jù)樣本進行合理擴展，生成的概率密度函數(shù)是描述原數(shù)據(jù)事件發(fā)生熵值最大的情況，即不確定性最大的情況，最大熵原理認為事物常處在最混亂無序的狀態(tài)。此外，由于該方法使用了插值技術(shù)，在遵從原數(shù)據(jù)統(tǒng)計分布特征的前提下合理拓展了數(shù)據(jù)點，使其生成的概率密度函數(shù)具有更光滑的統(tǒng)計特征。

3.2 數(shù)值算例2

討論一組Ferson等研究過的區(qū)間數(shù)據(jù)[3]：X={[3.5,6.4],[6.9,8.8],[6.1,8.4],[2.8,6.7],[3.5,9.7],[6.5,9.9],[0.15,3.8],[4.5,4.9],[7.1,7.9],3.8,4.9,6.3}，原數(shù)據(jù)區(qū)間為[0.15,9.9]。

針對算例2，取Q=11，則在原數(shù)據(jù)區(qū)間上下限上均勻離散的樣本為x=[0.15,1.125,2.1,3.075,4.05,5.025,6,6.975,7.95,8.925,9.9]，基于改進最大熵函數(shù)方法描述混合區(qū)間數(shù)據(jù)和離散點數(shù)據(jù)的不確定性，得到區(qū)間內(nèi)自定義離散點處最優(yōu)概率密度函數(shù)值f*=[0.012 7,0.061 1,0.122 1,0.183 6,0.048 1,0.093 2,0.150 5,0.078 1,0.023 0,0.004 1,0.004 6]。按照上述步驟，取Q=15進行優(yōu)化，得到類似結(jié)果。分別根據(jù)2次優(yōu)化所得均勻離散點及其在離散點處的最優(yōu)概率密度函數(shù)值，使用三次樣條插值得到描述區(qū)間數(shù)據(jù)和離散點混合數(shù)據(jù)不確定性的概率密度函數(shù),如圖3所示。

圖3 算例2改進最大熵函數(shù)描述混合不確定性的最優(yōu)概率密度函數(shù)

圖3中分別給出了在原始數(shù)據(jù)區(qū)間內(nèi)均勻離散點數(shù)為11和15情況下的優(yōu)化概率密度函數(shù)，2個函數(shù)趨勢大體是一致的，與原始數(shù)據(jù)分布特征相吻合。2種優(yōu)化結(jié)果所得概率密度函數(shù)都是雙峰函數(shù)，峰值分別出現(xiàn)在[2,3.5]和[5.5,7]內(nèi)，且[2,3.5]內(nèi)的概率密度略大于[5.5,7]區(qū)間，兩者都明顯大于其他區(qū)間內(nèi)的概率密度值。這是因為在原始數(shù)據(jù)中有更多的數(shù)據(jù)落在[2,3.5]和[5.5,7]內(nèi)，造成概率集中，符合原始數(shù)據(jù)的統(tǒng)計分布特征。根據(jù)圖3所示概率密度函數(shù)計算原始區(qū)間數(shù)據(jù)和離散點數(shù)據(jù)聯(lián)合熵函數(shù)值最大，說明在該概率密度函數(shù)條件下，原始區(qū)間數(shù)據(jù)和離散點數(shù)據(jù)包含的不確定性信息最大，根據(jù)最大熵原理，這種數(shù)據(jù)狀態(tài)出現(xiàn)的可能性最大。

4 區(qū)間數(shù)據(jù)和離散點混合數(shù)據(jù)不確定性傳遞

Sandia國家實驗室曾召開主觀不確定性會議[19-20]，研究者們討論并交流了關(guān)于區(qū)間不確定性描述和傳遞問題的多種思路和方法。本節(jié)在對混合類型不確定性描述的基礎(chǔ)上，嘗試使用蒙特卡羅數(shù)值方法研究混合類型數(shù)據(jù)不確定在概率可靠性模型中的傳遞。事實上，若區(qū)間和離散點數(shù)據(jù)混合不確定性的概率化描述成功，則概率可靠性理論中眾多成熟方法均可用于區(qū)間不確定性的傳遞[21-22]。

考慮不確定性經(jīng)典算例[19-20]y=(a+b)a，輸入變量a和b均為離散點和區(qū)間類型混合，分別為{[0.5,0.7],[0.3,0.8],[0.1,1.0]}和{0.6,[0.4,0.85],[0.2,0.9],[0.0,1.0]}。該問題是Sandia國家實驗室召開區(qū)間不確定性會議討論的實際問題之一，研究者們曾基于不同方法得到結(jié)果。

針對輸入變量a和b中包含離散點和區(qū)間數(shù)據(jù)的混合不確定性，用改進最大熵函數(shù)法得到描述輸入變量a和b不確定性的非參數(shù)概率密度函數(shù)，然后，根據(jù)輸入變量概率密度函數(shù)進行蒙特卡羅數(shù)值模擬，獲取輸入變量a和b的隨機樣本。在概率可靠性理論框架下，對輸入不確定性向輸出傳遞，根據(jù)功能函數(shù)計算輸出。最后，使用核密度法[23-24]估計輸出的概率密度函數(shù)，對輸出進行統(tǒng)計特征分析。具體過程如下：

1) 基于改進最大熵函數(shù)法分別建立輸入變量a和b的不確定性描述模型，得到輸入變量a和b的非參數(shù)概率密度函數(shù)如圖4和圖5所示。

圖4 輸入變量a的概率密度函數(shù)

圖5 輸入變量b的概率密度函數(shù)

圖4和圖5顯示，輸入變量a和b的概率密度函數(shù)均為單峰函數(shù)，峰值均出現(xiàn)在區(qū)間[0.4,0.8]內(nèi)，符合2組數(shù)據(jù)的統(tǒng)計特點，直觀地顯示了2組混合類型數(shù)據(jù)的分布狀態(tài)。其中，輸入變量a的概率密度函數(shù)有負值的出現(xiàn)，是因為插值技術(shù)保持數(shù)據(jù)統(tǒng)計特征的平滑所致。

2) 針對輸入變量a和b，根據(jù)其非參數(shù)概率密度函數(shù)，進行蒙特卡羅模擬，得到輸入變量a和b的5 000個隨機樣本。

a=[0.357 0,0.358 0,…,0.643 0]； (1×5 000);

b=[0.472 0,0.473 0,…,0.616 0]； (1×5 000);

3) 在概率理論框架下，根據(jù)功能函數(shù)y=(a+b)a，將輸入變量不確定性向輸出傳遞，獲取輸出響應(yīng)量y的隨機樣本。

y=[0.904 0,0.818 2,0.802 7,0.926 7,0.892 0,

0.869 8,0.916 1,…,0.802 0](1×5 000)

4) 針對輸出響應(yīng)量樣本y，用核密度法估計輸出響應(yīng)量的概率密度函數(shù)，得到輸出響應(yīng)量的統(tǒng)計規(guī)律。核密度法[23-24]作為核估計理論中的分支在統(tǒng)計數(shù)據(jù)的非參數(shù)估計方面具有廣泛的應(yīng)用。對隨機樣本{X1,X2,…,Xn}，其概率密度函數(shù)估計為

(9)

圖6 響應(yīng)量y的概率密度函數(shù)

5 結(jié) 論

工程實際中，多數(shù)變量信息豐富能得到其概率分布，然而個別變量信息缺乏，只能確定其區(qū)間。因此，對不同類型變量的混合不確定性分析是十分必要的。針對該問題，本文研究了區(qū)間和離散點混合情況下聯(lián)合不確定性描述，建立了混合類型不確定性數(shù)據(jù)聯(lián)合熵函數(shù)，通過對基于插值技術(shù)的非參數(shù)概率密度函數(shù)在原始數(shù)據(jù)空間內(nèi)均勻離散點處概率密度值的優(yōu)化，得到混合不確定性的統(tǒng)一的概率化描述。相比于傳統(tǒng)方法，所提方法是非參數(shù)的，將傳統(tǒng)對假定分布的概率密度函數(shù)參數(shù)估計轉(zhuǎn)化為對原始數(shù)據(jù)空間自定義離散點處概率密度值的優(yōu)化，計算量和精度可通過自定義離散點數(shù)量控制，更充分地挖掘數(shù)據(jù)不確定性信息。

此外，對于區(qū)間不確定性傳遞，目前并沒有公認的通用方法。研究者們曾分別從非概率和概率角度嘗試提出了多種處理區(qū)間不確定性方法，值得注意是不同方法得到的結(jié)果盡管存在差異，但是在絕大多數(shù)情況中這種差異可接受。本文嘗試將所提方法用于混合類型不確定性傳遞，分析輸出響應(yīng)的統(tǒng)計規(guī)律，完成可靠性分析，得到較合理結(jié)果。說明了所提方法在處理混合不確定性描述傳遞問題中具有一定潛力，值得進一步研究。