黑箱函數(shù)優(yōu)化問題中的響應(yīng)面優(yōu)化方法

黑箱函數(shù)優(yōu)化問題中的響應(yīng)面優(yōu)化方法*

齊靜

(重慶師范大學 數(shù)學學院，重慶 401331))

摘要：在實際科研領(lǐng)域和工程應(yīng)用中經(jīng)常會遇到一類問題，就是高價黑箱函數(shù)問題，針對高價黑箱函數(shù)的全局最優(yōu)化問題，開展了徑向基函數(shù)和響應(yīng)面相結(jié)合的研究;針對徑向基函數(shù)中響應(yīng)面模型及目標值的選取進行了理論分析；提出了一種新的選取策略，不同的選取策略必然會導(dǎo)致不同的搜索模式，從而影響優(yōu)化效果。

關(guān)鍵詞：高價黑箱函數(shù)；全局優(yōu)化；徑向基函數(shù)；響應(yīng)面模型；對稱拉丁超立方設(shè)計

doi:10.16055/j.issn.1672-058X.2015.0012.006

收稿日期：2015-05-15；修回日期：2015-06-18.

基金項目：*國家自然科學基金(10871217).

作者簡介：齊靜(1990-)，女，河南南陽人，碩士研究生，從事全局最優(yōu)化方法研究.

中圖分類號：O241.3文獻標志碼：A

在實際科研領(lǐng)域和工業(yè)應(yīng)用中，經(jīng)常會遇到一類問題，這類問題的函數(shù)值計算代價高昂，計算一次函數(shù)值就需要幾個小時甚至更長的時間，而且這類函數(shù)通常沒有顯式表達式，導(dǎo)數(shù)也不可用，稱這一類問題為高價黑箱函數(shù)(Expensive Black Box Function)[1]。將采用函數(shù)逼近的方法來解決其全局最優(yōu)化問題。徑向基函數(shù)插值是處理散亂數(shù)據(jù)的一種新的有效的方法，它具有計算格式簡單、計算工作量小[2]等特點。近年來，國內(nèi)外的一些學者對高價黑箱函數(shù)的優(yōu)化問題進行了一系列的研究，研究表明：徑向基函數(shù)插值是解決高價黑箱函數(shù)優(yōu)化問題的一種新的有效的方法。

1高價黑箱優(yōu)化問題

高價黑箱函數(shù)的全局最優(yōu)化問題[1]為

(1)

如果存在一個點x*∈S使得對任意的x∈S都有不等式f(x*)≤f(x)成立，就稱x*是問題(1)的全局最優(yōu)解，f(x*)稱為f(x)在S上的全局最優(yōu)值;如果存在x′∈S，在x′的一個δ鄰域B(x′,δ)內(nèi)，對任意的x∈S∩B(x′,δ)內(nèi)都有不等式f(x′)≤f(x)成立，就稱x′是問題(1)的一個局部最優(yōu)解，f(x′)稱為f(x)在S上的局部最優(yōu)值。

1.1徑向基函數(shù)插值模型

給定n個不同的點x1,x2,…,xn∈Rd，并且它們的函數(shù)值f(x1),f(x2),…,f(xn)也是已知的，取定徑向函數(shù)φ，尋找具有如下形式的函數(shù):

1.2徑向基函數(shù)插值的基本思想[3]

(1) 生成初始點，對初始點進行函數(shù)值計算；

(2) 選定徑向基函數(shù)，構(gòu)造徑向基函數(shù)插值模型；

(4) 求解下一個迭代點xn+1，并對xn+1進行函數(shù)計算；

(5) 使用新的數(shù)據(jù)點更新徑向基函數(shù)插值模型；

(6) 重復(fù)(3)-(5)，直到收斂。

1.3SLHD方法選取初始點

1.4響應(yīng)面模型的構(gòu)建

根據(jù)已選好的初始點x1,x2,…,xn及其函數(shù)值f(x1),f(x2)，…,f(xn)，構(gòu)建響應(yīng)面模型，但是發(fā)現(xiàn)f(x1),f(x2)，…,f(xn)中，有些函數(shù)值可能非常小而有些函數(shù)值就可能非常大，這些極端的函數(shù)值會對響應(yīng)面的構(gòu)建造成較大的影響，從而造成較大的誤差。為了解決這個問題，試圖構(gòu)建一種新的函數(shù)g(f)來替換f，從而優(yōu)化這些極端的函數(shù)值，構(gòu)建一個良好的響應(yīng)面模型。所構(gòu)建的g(x)需滿足3個條件：

(1)g(x)關(guān)于原點對稱；

(2)g(x)嚴格增；

(3)g(x)0[5]。

構(gòu)建g(x)為

因此g(x)關(guān)于原點對稱。

其中：循環(huán)長度N=5，n0表示初始迭代點的個數(shù)，n≥n0。

1.6下一個迭代點xn+1的選取

2重啟動策略

采用SLHD方法生成初始點是因為它對高維低維問題都比較實用，基于SLHD的使用，有一些測試問題的CPU時間要短一些，而有一些測試問題的CPU時間就要長一些了，花費較長時間的原因可能是算法在一個錯誤的局部極小點處進行了較長時間的局部搜索，也就是說，采用的這種徑向基插值算法在進行全局搜索時，由于局部搜索有可能失敗，從而導(dǎo)致算法不能準確定位全局極小點。

為了解決這個問題，提出了一種重啟動策略[2]，當算法連續(xù)多次迭代都沒有取得明顯進展，當沒有改進的函數(shù)值的數(shù)量超過一個臨界值之后，將使用一種新的SLHD重新開始搜索，通常將這個臨界值設(shè)定為30，使用這種新的SLHD方法，可以使算法及時跳出局部最小值，加快收斂速度。

3結(jié)束語

參考文獻：

[1] BJ?RKMAN M,HOLMSTR?M K.Global Optimization of Costly Nonconvex Functions Using Radial Basis Functions[J].Optimization and Engineering，2000,1(4):373-397

[2] ROMMEL G.Improved Strategies for Radial Basis Function Methods for Global Optimization[J].Journal of Global Optimization ,2007,37:113-135

[3] REGIS G,CHRISTINE A.Shoemaker.Constrained Global Optimization of Expensive Black Box Function Using Radial Basis Function[J].Journal of Global Optimization,2005,31:153-171

[4]YE K Q,LI W,SUDJIANTO A.Algorithmic Construction of Optimal Symmetric Latin Hypercube Designs[J].Joumal of Statistial Planning and Inference,2000,90(1):145-159

[5] REGIS G,CHRISTINE A.Shoemaker.A Quasi-multistart Framework for Global Optimization of Expensive Function Using Response Surface Models[J].Journal of Globa Optimization,2013,56: 1719-1753

[6] 林玉鋒,陳璟,陳少飛,等.一種新穎的混合響應(yīng)面優(yōu)化方法[J].計算機應(yīng)用研究,2012,29(6):2180-2183

An Optimization Method of Response Surface for ExpensiveBlack Box Function Optimization

QI Jing

(School of Mathematical Sciences,Chongqing Normal University,Chongqing 401331,Chongqing)

Abstract：In real scientific and engineering applications,problems on the expensive black box function often appear. In view of the expensive black box function global optimization,this paper researches the radial basis function and the response surface. is analyzed in theory,this paper proposes a new selection strategy. Different strategy selection leads to different search patterns,which affects the optimization effect.

Key words： expensive black box function; global optimization; radial basis function; response surface model; symmetric Latin hypercube design