• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于對(duì)標(biāo)學(xué)習(xí)的智能優(yōu)化算法

    2018-07-23 08:09:02謝安世
    電信科學(xué) 2018年7期
    關(guān)鍵詞:編碼方案開(kāi)發(fā)性探索性

    謝安世

    ?

    基于對(duì)標(biāo)學(xué)習(xí)的智能優(yōu)化算法

    謝安世

    (浙江工業(yè)大學(xué),浙江 杭州 310014)

    科研、工程和管理中的很多問(wèn)題都可以轉(zhuǎn)化為優(yōu)化問(wèn)題。應(yīng)用于這些優(yōu)化問(wèn)題的各種方法本身就是各種模型,設(shè)計(jì)不同的方法即設(shè)計(jì)不同的模型。將標(biāo)桿管理理念建模成為一種用于單目標(biāo)優(yōu)化問(wèn)題的元啟發(fā)式搜索方法?;趭W卡姆剃刀原則,摒棄了復(fù)雜的操作算子的概率調(diào)優(yōu)規(guī)則,用一個(gè)簡(jiǎn)單的框架來(lái)組織核心算子,從而達(dá)到許多組合算法的搜索效果。

    智能優(yōu)化算法;探索性與開(kāi)發(fā)性;全局搜索與局部?jī)?yōu)化;標(biāo)桿管理

    1 引言

    元啟發(fā)式優(yōu)化/搜索算法的研究,從橫向看,可以分為算法自身設(shè)計(jì)研究(即設(shè)計(jì)不同的優(yōu)化搜索算法)、算法自身的理論研究(包括復(fù)雜度、收斂性等)和算法在各學(xué)科領(lǐng)域的具體應(yīng)用研究共3個(gè)方面。單從算法自身的設(shè)計(jì)看,大體可以分為兩個(gè)層次:一是對(duì)已有的算法進(jìn)行改進(jìn),主要體現(xiàn)在改良現(xiàn)有的(或設(shè)計(jì)出新的)操作算子及其概率規(guī)則;二是提出全新的算法。

    目前很多新提出的算法,基本上都由幾個(gè)廣泛使用的核心算子組成,它們的“新”,只是用一種別的“新”物種來(lái)命名常見(jiàn)的元啟發(fā)式搜索[1]。事實(shí)上有很多高被引算法都是一些經(jīng)典算法的翻版,只是名稱不同[2]。因?yàn)樽匀唤绗F(xiàn)象的多樣性,最近十幾年來(lái)有越來(lái)越多各種各樣的所謂新算法不斷地被提出,都喜歡使用各種隱喻,看起來(lái)好像挺熱鬧,但如果就科學(xué)的求真求實(shí)來(lái)講,真的有必要嗎[3]?同時(shí)由于各類隱喻的特殊性,在用于算法設(shè)計(jì)時(shí),只有某種特定的編碼方案才能很好地實(shí)現(xiàn)這種隱喻。換一種編碼方案,就不容易實(shí)現(xiàn)這種隱喻了,即算法的“智能性”也就大打折扣了。比如粒子群算法,由于其特定的候選解更新方案,用浮點(diǎn)數(shù)編碼,效果很好,用二進(jìn)制編碼、字符串編碼或者布爾型編碼,效果就不好。因此,這類算法的搜索效果很大程度上依賴于其核心操作算子的概率規(guī)則,在運(yùn)行過(guò)程中需要參數(shù)調(diào)優(yōu)才能平衡其搜索過(guò)程的探索性(exploration)與開(kāi)發(fā)性(exploitation),并借此保持搜索過(guò)程中的種群多樣性。

    本文也使用了隱喻手法,借用企業(yè)管理領(lǐng)域中的標(biāo)桿管理理念,將“見(jiàn)賢思齊”這一思想建模為一種通用的優(yōu)化/搜索框架。不限于某種特定的編碼方案,并且不需要特定的概率規(guī)則,只需將核心操作算子按本文給出的組織策略進(jìn)行組織安排,算法就可以平衡其搜索過(guò)程的探索性與開(kāi)發(fā)性,并保持搜索過(guò)程中的種群多樣性。因此說(shuō)本文提出的算法的“智能性”,沒(méi)有體現(xiàn)在操作算子的概率規(guī)則上,而是體現(xiàn)在操作算子的組織策略上。

    2 對(duì)標(biāo)學(xué)習(xí)算法的基本框架

    對(duì)標(biāo)管理,顧名思義,就是以知己知彼的方式,檢驗(yàn)自己并了解對(duì)手,從而知道自己與競(jìng)爭(zhēng)對(duì)手的差距,以便學(xué)習(xí)和改進(jìn)?;趯?duì)標(biāo)管理思想的優(yōu)化算法,其總體思路如下。

    在整個(gè)生態(tài)系統(tǒng)(即解空間)內(nèi),通過(guò)某種規(guī)則產(chǎn)生若干小生境種群(即初始解集),相當(dāng)于全球市場(chǎng)上各類企業(yè)主體,種群內(nèi)的個(gè)體相當(dāng)于企業(yè)部門(mén)或員工。首先根據(jù)優(yōu)化目的,以評(píng)價(jià)函數(shù)為衡量標(biāo)準(zhǔn),進(jìn)行立標(biāo)管理,分別確定各小生境種群內(nèi)的最佳個(gè)體(即局部最佳個(gè)體、局部最優(yōu)解)和整個(gè)生態(tài)系統(tǒng)內(nèi)的最佳個(gè)體(即全局最佳個(gè)體、全局最優(yōu)解),相當(dāng)于樹(shù)立企業(yè)內(nèi)部標(biāo)桿和企業(yè)外部標(biāo)桿,并記錄在案。種群內(nèi)的個(gè)體,按照對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則進(jìn)行對(duì)標(biāo)學(xué)習(xí)。這一輪立標(biāo)管理與對(duì)標(biāo)學(xué)習(xí)完成之后,再次進(jìn)行評(píng)估,重新樹(shù)立標(biāo)桿,并更新記錄。然后開(kāi)始新一輪的對(duì)標(biāo)學(xué)習(xí),如此往復(fù),直至滿足迭代停止條件。此時(shí)的全局最佳個(gè)體,解碼之后便是全局最優(yōu)解,各局部最佳個(gè)體,解碼之后便是局部最優(yōu)解。由此可知,這是一種同時(shí)包含學(xué)習(xí)性競(jìng)爭(zhēng)與競(jìng)爭(zhēng)性學(xué)習(xí)的尋優(yōu)思想。

    2.1 對(duì)標(biāo)學(xué)習(xí)算法的簡(jiǎn)單版本

    簡(jiǎn)單對(duì)標(biāo)學(xué)習(xí)算法,主要是指全局標(biāo)桿由全程最優(yōu)個(gè)體擔(dān)任;局部標(biāo)桿由當(dāng)代最優(yōu)個(gè)體擔(dān)任;試探性學(xué)習(xí)策略分別嵌套在全局對(duì)標(biāo)學(xué)習(xí)和局部對(duì)標(biāo)學(xué)習(xí)兩個(gè)操作算子之內(nèi);全局對(duì)標(biāo)學(xué)習(xí)、局部對(duì)標(biāo)學(xué)習(xí)和自我學(xué)習(xí)3個(gè)基本操作算子的概率都取隨機(jī)數(shù)?;静襟E如下。

    步驟1 初始化種群和個(gè)體的數(shù)目,迭代停止條件等。

    步驟2 根據(jù)對(duì)標(biāo)管理的指導(dǎo)原則,評(píng)估所有個(gè)體的適應(yīng)度值,記錄并更新標(biāo)桿。

    步驟3 根據(jù)對(duì)標(biāo)學(xué)習(xí)的具體方法,個(gè)體有選擇地執(zhí)行對(duì)標(biāo)學(xué)習(xí)。

    步驟4 若迭代停止條件不滿足,轉(zhuǎn)向步驟2,否則輸出標(biāo)桿并解碼。

    2.2 對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則

    基于對(duì)標(biāo)管理思想的優(yōu)化理論,其總體思想是對(duì)標(biāo)學(xué)習(xí),但其核心思想與根本精髓,則是對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)規(guī)則和對(duì)標(biāo)學(xué)習(xí)的具體方法。對(duì)標(biāo)管理的規(guī)則是中觀的,是針對(duì)具體問(wèn)題設(shè)計(jì)具體算法,其內(nèi)容如下。

    (1)立標(biāo)記錄實(shí)時(shí)更新。在算法運(yùn)行過(guò)程中,每一輪產(chǎn)生的標(biāo)桿,包括局部標(biāo)桿與全局標(biāo)桿,均記錄在案,并不斷更新。

    (2)對(duì)標(biāo)學(xué)習(xí)按需選擇。個(gè)體在進(jìn)行對(duì)標(biāo)學(xué)習(xí)時(shí),3個(gè)操作算法無(wú)需按順序執(zhí)行。某個(gè)體如果執(zhí)行全局對(duì)標(biāo)學(xué)習(xí)之后沒(méi)有獲得改善,則繼續(xù)進(jìn)行局部對(duì)標(biāo)學(xué)習(xí),否則直接退出本輪對(duì)標(biāo)學(xué)習(xí)。

    (3)學(xué)習(xí)對(duì)象靈活切換。隨著算法運(yùn)行,理論上每次迭代之后的局部(和全局)標(biāo)桿將不斷變化。但為了避免極端狀況,可以設(shè)定規(guī)則強(qiáng)制要求各個(gè)小生境種群相互交換局部標(biāo)桿,從而保證生態(tài)系統(tǒng)內(nèi)的全局極值點(diǎn)能被搜索到。

    (4)高效利用馬太效應(yīng)。個(gè)體在執(zhí)行對(duì)標(biāo)學(xué)習(xí)時(shí)的欲望和強(qiáng)度,也即操作算子的概率,可以根據(jù)個(gè)體自身與標(biāo)桿對(duì)象的差異度和相似度來(lái)決定?;跇?biāo)桿管理的優(yōu)化思想規(guī)定,這個(gè)差異度越小,或相似度越大,則其學(xué)習(xí)欲望就越大,隨之其學(xué)習(xí)強(qiáng)度也越大,這是個(gè)體層面的馬太效應(yīng)。

    (5)合理利用集群效應(yīng)。在對(duì)標(biāo)學(xué)習(xí)過(guò)程中,如果某個(gè)種群發(fā)現(xiàn)了更好的全局解,則其他種群將指派部分個(gè)體進(jìn)入該種群,以協(xié)助進(jìn)行密集搜索。但如果某種群在對(duì)標(biāo)學(xué)習(xí)過(guò)程中一直都沒(méi)有發(fā)現(xiàn)更好的全局解,則種群內(nèi)所有個(gè)體將逐漸被調(diào)配往其他種群,這是種群層面的集群效應(yīng)。

    2.3 對(duì)標(biāo)學(xué)習(xí)的具體方法

    對(duì)標(biāo)學(xué)習(xí)的總體原則就是見(jiàn)賢思齊。具體來(lái)講,就是個(gè)體減少其自身與標(biāo)桿對(duì)象之間的差異度,并(或)增加其自身與標(biāo)桿對(duì)象之間的相似度。具體怎樣實(shí)現(xiàn)這種對(duì)標(biāo)式學(xué)習(xí),取決于算法本身采用的編碼方案。下面給出幾種常見(jiàn)的編碼方案及其相應(yīng)的對(duì)標(biāo)學(xué)習(xí)方法。

    2.3.1 0/1編碼方案下的對(duì)標(biāo)學(xué)習(xí)方法

    常見(jiàn)的0/1編碼方案,有二進(jìn)制碼(binary)、格雷碼(Gray-code)以及獨(dú)熱碼(one-hot)。這3種編碼方案,針對(duì)不同的問(wèn)題,各有優(yōu)勢(shì),也各有缺點(diǎn)。對(duì)于這三者的聯(lián)系和區(qū)別,這里無(wú)需詳述,只是對(duì)于智能優(yōu)化算法來(lái)說(shuō),采用二進(jìn)制碼時(shí),個(gè)體(即候選解)的編碼與解碼過(guò)程,相對(duì)比較簡(jiǎn)單,消耗的計(jì)算時(shí)間較少,但對(duì)于個(gè)體之間的轉(zhuǎn)碼操作,即對(duì)于候選解的搜索操作,相對(duì)復(fù)雜,消耗的存儲(chǔ)空間較多。采用格雷碼或獨(dú)熱碼時(shí),編碼與解碼操作相對(duì)復(fù)雜,消耗的計(jì)算時(shí)間較多,但是轉(zhuǎn)碼操作相對(duì)簡(jiǎn)單,消耗的存儲(chǔ)空間較少。此種情形,與數(shù)字控制系統(tǒng)中的情形,剛好不同,二進(jìn)制編碼與格雷碼編碼,使用觸發(fā)器較少,對(duì)組合邏輯消耗較多,而獨(dú)熱碼編碼則相反。

    當(dāng)算法采用0/1編碼方案時(shí),使用海明距離度量個(gè)體之間的差異度。個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是減少自身與標(biāo)桿對(duì)象之間的海明距離。搜索方向和搜索步長(zhǎng)的調(diào)整,主要體現(xiàn)在對(duì)自身坐標(biāo)基因的調(diào)整上。個(gè)體對(duì)標(biāo)學(xué)習(xí)欲望的強(qiáng)弱,主要體現(xiàn)在學(xué)習(xí)率的大小上。個(gè)體對(duì)標(biāo)學(xué)習(xí)行為的強(qiáng)度,主要體現(xiàn)在編碼基因位調(diào)整的個(gè)數(shù)上。

    2.3.2 浮點(diǎn)數(shù)編碼方案下的對(duì)標(biāo)學(xué)習(xí)方法

    當(dāng)采用浮點(diǎn)數(shù)編碼方案時(shí),一般可以使用距離概念來(lái)表征個(gè)體之間的差異度,用相關(guān)系數(shù)來(lái)表征個(gè)體之間的相似度。對(duì)于表征差異度的距離概念,可以采用閔可夫斯基距離(Minkowski distance),根據(jù)問(wèn)題特征和數(shù)據(jù)結(jié)構(gòu),選取合適的參數(shù)值,容易簡(jiǎn)化成曼哈頓距離(Manhattan distance)、歐幾里得距離(Euclidean distance)、切比雪夫距離(Chebyshev distance)等。對(duì)于表征相似度的相關(guān)系數(shù),也可以根據(jù)問(wèn)題需要和數(shù)據(jù)特征,選取合適的計(jì)算方法,如皮爾遜相關(guān)系數(shù)(Pearson correlation coefficient)、夾角余弦相似度(cosine similarity)、Tonimoto系數(shù)、Spearman相關(guān)系數(shù)、Kendall相關(guān)系數(shù)等。

    當(dāng)算法采用浮點(diǎn)數(shù)編碼方案時(shí),個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是減少自身與標(biāo)桿對(duì)象之間的閔可夫斯基距離,并(或)增大自身與標(biāo)桿對(duì)象之間的相關(guān)系數(shù)。

    另外,針對(duì)浮點(diǎn)數(shù)編碼,必須特別注意以下兩個(gè)問(wèn)題。一是關(guān)于合理選用度量差異度與相似度的方法問(wèn)題。個(gè)體之間的差異度與相似度,從字面意義來(lái)看,只是兩個(gè)相對(duì)應(yīng)的概念,似乎從算術(shù)上可以相互轉(zhuǎn)換。但是站在計(jì)算機(jī)科學(xué)與數(shù)據(jù)科學(xué)的角度來(lái)看,這是兩個(gè)完全不同的概念,有著不同的確切定義,其內(nèi)涵和外延是完全不同的,不能相互轉(zhuǎn)換。這里用距離概念衡量的差異度,與用相關(guān)系數(shù)衡量的相似度,在不同的分析模型與數(shù)據(jù)結(jié)構(gòu)之下,兩者的差別非常大。差異度,更多的是體現(xiàn)編碼數(shù)值上的大小差別,而相似度,更多的是體現(xiàn)編碼方向上的區(qū)別。在計(jì)算和搜索過(guò)程中,可能會(huì)出現(xiàn)這樣一種現(xiàn)象,即個(gè)體之間的差異度發(fā)生改變了,而相似度卻沒(méi)有變化,或者相反,個(gè)體之間的相似度發(fā)生改變了,而差異度卻沒(méi)有變化。因此,在針對(duì)具體的優(yōu)化問(wèn)題設(shè)計(jì)具體的優(yōu)化算法時(shí),需要根據(jù)其分析模型與數(shù)據(jù)結(jié)構(gòu),選用合適的度量方法。二是算法設(shè)計(jì)與測(cè)試中浮點(diǎn)數(shù)的轉(zhuǎn)碼、計(jì)算與精度問(wèn)題。符合IEEE754標(biāo)準(zhǔn),支持SSE2指令集的絕大多數(shù)CPU/GPU,是當(dāng)前進(jìn)行算法設(shè)計(jì)與測(cè)試的硬件基礎(chǔ)。但是按照IEEE754標(biāo)準(zhǔn)規(guī)定的浮點(diǎn)存儲(chǔ)格式,有一些帶小數(shù)位的十進(jìn)制數(shù)據(jù),無(wú)法使用當(dāng)前計(jì)算機(jī)所使用的0/1二進(jìn)制代碼準(zhǔn)確表示出來(lái)。因此在轉(zhuǎn)碼與計(jì)算時(shí),如果沒(méi)有合理的處理方法,會(huì)出現(xiàn)精度失準(zhǔn)的問(wèn)題。浮點(diǎn)數(shù)及其轉(zhuǎn)碼與計(jì)算的精度,很大程度上取決于指數(shù)范圍的大小。以現(xiàn)行的32位單精度浮點(diǎn)數(shù)為例,最低不能低過(guò)2-7-1,最高不能高過(guò)28-1(其中剔除了指數(shù)部分全0和全1的特殊情況)。如果超出表達(dá)范圍,那就得舍棄末尾的小數(shù),造成向上或向下溢出,甚至有時(shí)候舍棄都無(wú)法表示。這樣在需要表達(dá)一個(gè)極小的數(shù)值時(shí),如果不用規(guī)格化數(shù)值表示,CPU就只能把它當(dāng)0來(lái)處理。如果多次做低精度浮點(diǎn)數(shù)舍棄,則必然精度失準(zhǔn)嚴(yán)重,甚至?xí)霈F(xiàn)除數(shù)為0的情形,從而導(dǎo)致計(jì)算異常。如果做非規(guī)格化浮點(diǎn)處理,雖然可以補(bǔ)救精度失準(zhǔn)的問(wèn)題,但對(duì)于CPU硬件或編譯器要求甚高,轉(zhuǎn)碼和計(jì)算的效率將呈指數(shù)下降。因此智能優(yōu)化算法在設(shè)計(jì)和測(cè)試時(shí),不僅要考慮問(wèn)題域特征,還要考慮計(jì)算過(guò)程中的硬件CPU/GPU、軟件編譯器問(wèn)題。最后返回計(jì)算結(jié)果時(shí),還有算法自身的解碼環(huán)節(jié),即二進(jìn)制機(jī)器碼與浮點(diǎn)數(shù)之間的轉(zhuǎn)碼,這涉及算法代碼優(yōu)化問(wèn)題,不再贅述。

    2.3.3 字符(串)編碼或布爾值編碼下的對(duì)標(biāo)學(xué)習(xí)方法

    現(xiàn)代管理工作中,尤其數(shù)據(jù)管理工作中的許多問(wèn)題,比如電子商務(wù)領(lǐng)域常見(jiàn)的商品評(píng)價(jià)與推薦問(wèn)題,涉及人機(jī)交互,許多模型必須使用符號(hào)函數(shù),往往需要字符或字符串編碼,或者布爾值編碼。

    當(dāng)采用字符(串)編碼或布爾值編碼方案時(shí),一般可以使用Levenshtein distance(編輯距離)、Jaro-Winkler distance(哈羅-溫克勒距離)、Jaccard coefficient(杰卡德系數(shù))等概念來(lái)表征個(gè)體之間的差異度或相似度。個(gè)體對(duì)標(biāo)學(xué)習(xí)的具體方法,就是通過(guò)基因編輯,減少自身與標(biāo)桿對(duì)象之間的距離,并(或)增大自身與標(biāo)桿對(duì)象之間的相似度。

    3 對(duì)標(biāo)學(xué)習(xí)算法的若干技術(shù)

    3.1 智能性

    基于概率搜索的智能優(yōu)化算法,其智能性主要體現(xiàn)在概率規(guī)則的制定上。這個(gè)概率規(guī)則,主要是指算法在運(yùn)行過(guò)程中,其設(shè)計(jì)的操作算子被執(zhí)行時(shí)的概率規(guī)則。因此,幾乎所有的智能優(yōu)化算法,除了需要為操作算子的概率設(shè)置初始值之外,還需要為其設(shè)計(jì)一套相應(yīng)的變化規(guī)則。比如遺傳算法及其各種改進(jìn)版本,需要為選擇、交叉和變異這3個(gè)操作算子的概率設(shè)置相應(yīng)的初始值和變化規(guī)則;粒子群算法及其各種改進(jìn)版本,需要為其慣性權(quán)重和加速系數(shù)設(shè)置合適的初始值和變化規(guī)則;蟻群算法及其各種改進(jìn)版本,需要為其信息素和啟發(fā)式因子設(shè)置合適的初始值和變化規(guī)則。這些概率的初始值及其變化規(guī)則,設(shè)置恰當(dāng)與否,決定了算法能否搜索到問(wèn)題的最優(yōu)解,甚至直接決定了算法能否正常發(fā)揮其應(yīng)有的搜索性能。但是,概率參數(shù)如何配置,才能使得算法的優(yōu)化性能達(dá)到最優(yōu),這本身就是一個(gè)組合優(yōu)化問(wèn)題。目前該問(wèn)題在理論上尚沒(méi)有得到很好的解決,因此,幾乎所有智能優(yōu)化算法,在概率參數(shù)的配置上,主要依靠統(tǒng)計(jì)經(jīng)驗(yàn)。這也是目前所有智能優(yōu)化算法存在著的一個(gè)軟肋。

    本文提出的對(duì)標(biāo)學(xué)習(xí)算法,完全不存在這個(gè)問(wèn)題。由前文內(nèi)容可知,對(duì)標(biāo)學(xué)習(xí)算法,完全不需要為其操作算子的概率設(shè)置初始值和變化規(guī)則。無(wú)論全局學(xué)習(xí)率、局部學(xué)習(xí)率,還是自我學(xué)習(xí)率,在對(duì)標(biāo)學(xué)習(xí)算法的簡(jiǎn)單版本中,都是完全隨機(jī)的。在設(shè)計(jì)其他版本時(shí),可以為每個(gè)操作算子的概率設(shè)置相應(yīng)的初始值及變化規(guī)則。但這樣一來(lái),不僅增加了算法的復(fù)雜性,而且實(shí)驗(yàn)表明,這種做法并沒(méi)有讓算法性能有質(zhì)的提升。實(shí)際上,標(biāo)桿學(xué)習(xí)算法的搜索性能,不依賴于操作算子的概率規(guī)則,而是依賴于對(duì)標(biāo)管理思想,依賴于對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則和具體方法。算法中的基本操作算子,只是對(duì)標(biāo)學(xué)習(xí)思想及其指導(dǎo)原則在特定的編碼方案和特定的數(shù)據(jù)結(jié)構(gòu)之下的一種具體實(shí)現(xiàn)而已。事實(shí)上,只要遵循對(duì)標(biāo)管理的若干思想和若干原則,設(shè)計(jì)出特定的編碼方案及相應(yīng)的數(shù)據(jù)結(jié)構(gòu)之下的學(xué)習(xí)方法,自然就會(huì)獲得優(yōu)良的搜索和優(yōu)化性能。這種無(wú)需概率規(guī)則的制度設(shè)計(jì),完全避免了概率規(guī)則對(duì)于算法性能的影響。對(duì)標(biāo)學(xué)習(xí)算法的“智能性”,完全沒(méi)有體現(xiàn)在操作算子的概率規(guī)則上,而體現(xiàn)在了操作算子的組織策略上。

    3.2 探索性與開(kāi)發(fā)性的自動(dòng)平衡

    探索性體現(xiàn)了算法進(jìn)行全局搜索,開(kāi)拓新空間的能力,而開(kāi)發(fā)性體現(xiàn)了算法進(jìn)行局部?jī)?yōu)化,小幅改善求精的能力。一般來(lái)說(shuō),一個(gè)算法的探索性越強(qiáng),則其開(kāi)發(fā)性就越弱,反之亦然。因此傳統(tǒng)上,算法的探索性與開(kāi)發(fā)性是一對(duì)矛盾體,相互沖突和對(duì)立,無(wú)法相容。如果探索性太強(qiáng)而開(kāi)發(fā)性太弱,則搜索結(jié)果容易發(fā)散,容易錯(cuò)過(guò)全局最優(yōu)解,最終不利于對(duì)全局極值的搜索;如果探索性太弱而開(kāi)發(fā)性太強(qiáng),則搜索結(jié)果容易集聚,容易陷入局部最優(yōu)解,最終也不利于對(duì)全局極值的搜索。判斷一個(gè)智能優(yōu)化算法的性能如何,其中最為重要的一點(diǎn),就是看其采用什么策略來(lái)平衡其全局搜索與局部?jī)?yōu)化。算法的探索性與開(kāi)發(fā)性權(quán)衡的策略,在很大程度上決定了一個(gè)算法的優(yōu)劣。為了平衡算法的探索性與開(kāi)發(fā)性,目前現(xiàn)存的智能優(yōu)化算法采用的策略,幾乎都是給不同的操作算子附加相應(yīng)的概率參數(shù)。在這個(gè)概率參數(shù)的取值上,具體做法大體有兩種,一是根據(jù)統(tǒng)計(jì)經(jīng)驗(yàn)提前設(shè)定某個(gè)(些)固定值,二是根據(jù)某些原則在搜索過(guò)程中自適應(yīng)地動(dòng)態(tài)調(diào)整。比如遺傳算法及其各類改良版本,往往都是通過(guò)選擇率、交叉率和變異率3個(gè)參數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性;粒子群優(yōu)化算法及其各類改良版本,往往都是通過(guò)一個(gè)慣性權(quán)重和兩個(gè)加速系數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性;蟻群優(yōu)化算法及其各類改良版本,往往都是通過(guò)信息素濃度這個(gè)參數(shù)來(lái)平衡其探索性與開(kāi)發(fā)性。在這個(gè)概率參數(shù)的取值上,每個(gè)算法雖然各有自己的技巧,但都不盡如人意。因?yàn)檫@個(gè)概率參數(shù),作為控制變量,其取值問(wèn)題本身也是一個(gè)待解的優(yōu)化問(wèn)題,尚未得到圓滿解決。事實(shí)上,無(wú)論使用什么技巧來(lái)設(shè)定這個(gè)概率參數(shù),其取值及相應(yīng)的平衡效果可能都不是最優(yōu)的。因此,總體而言,現(xiàn)存的智能優(yōu)化算法,對(duì)于全局搜索與局部?jī)?yōu)化,即探索性與開(kāi)發(fā)性,如何平衡的難題,沒(méi)有得到很好的解決。

    人們認(rèn)為算法的探索性與開(kāi)發(fā)性,其本身是相互對(duì)立和無(wú)法相容的,但是在算法的設(shè)計(jì)中,是可以實(shí)現(xiàn)協(xié)同并存和自動(dòng)均衡的。因此在算法的設(shè)計(jì)與開(kāi)發(fā)過(guò)程中,探索性與開(kāi)發(fā)性相互對(duì)立、無(wú)法相容的“潛規(guī)則”是完全可以避免的。本文提出的算法框架,拋棄了傳統(tǒng)的利用概率參數(shù)來(lái)平衡算法探索性與開(kāi)發(fā)性的策略。事實(shí)上,只要是根據(jù)對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則,即不依賴控制參數(shù),而是依靠科學(xué)合理的制度,設(shè)計(jì)出來(lái)的優(yōu)化算法,其全局搜索與局部?jī)?yōu)化,即算法的探索性與開(kāi)發(fā)性將會(huì)協(xié)同并存,并且會(huì)自動(dòng)平衡。在本文提出的通用框架之內(nèi),個(gè)體進(jìn)行全局對(duì)標(biāo)學(xué)習(xí),就相當(dāng)于對(duì)未知極值點(diǎn)的概率分布進(jìn)行探索,這樣進(jìn)行全局搜索,就起到了開(kāi)拓新空間的作用,體現(xiàn)了算法的探索性。個(gè)體進(jìn)行局部對(duì)標(biāo)學(xué)習(xí),就相當(dāng)于根據(jù)當(dāng)前的觀測(cè)值,利用已知的動(dòng)作獲取更多回饋以使下一次“收益最大化”,這樣進(jìn)行局部?jī)?yōu)化,就起到了小幅改善求精的作用,體現(xiàn)了算法的開(kāi)發(fā)性。對(duì)標(biāo)學(xué)習(xí)的指導(dǎo)原則中第二條,即學(xué)習(xí)行為按需選擇的設(shè)計(jì)原則,使全局對(duì)標(biāo)學(xué)習(xí)行為與局部對(duì)標(biāo)學(xué)習(xí)行為,在同一輪的迭代搜索中,都得到執(zhí)行。這樣同輪異步的制度設(shè)計(jì),巧妙地解決了全局搜索與局部?jī)?yōu)化無(wú)法并行共存的難題,從根本上保證了算法探索性與開(kāi)發(fā)性的自動(dòng)平衡。這個(gè)特點(diǎn),在后面的仿真實(shí)驗(yàn)中也得到了證實(shí)。

    3.3 對(duì)于探索性與開(kāi)發(fā)性自動(dòng)平衡的實(shí)驗(yàn)證明

    現(xiàn)以MATLAB內(nèi)置的Peaks函數(shù)為例,測(cè)試本文提出的對(duì)標(biāo)學(xué)習(xí)算法如何實(shí)現(xiàn)探索性與開(kāi)發(fā)性的自動(dòng)平衡。本次測(cè)試使用對(duì)標(biāo)學(xué)習(xí)算法簡(jiǎn)單版本,初始階段生態(tài)系統(tǒng)內(nèi)共有5個(gè)小生境種群,每個(gè)種群包含3個(gè)個(gè)體,即總共包含15個(gè)個(gè)體。算法采用二進(jìn)制編碼方案,個(gè)體的編碼長(zhǎng)度為30,算法的最大迭代次數(shù)設(shè)定為100。

    這里分兩種情形,一是初始種群在搜索空間內(nèi)隨機(jī)分布時(shí);二是初始種群被置于搜索空間內(nèi)同一點(diǎn)(3,3)時(shí)。下面分別列出以上兩種情況下,生態(tài)系統(tǒng)內(nèi)每一個(gè)個(gè)體的搜索過(guò)程。因?yàn)橥瑫r(shí)在動(dòng)畫(huà)中展示15個(gè)個(gè)體的搜索過(guò)程會(huì)顯得非?;靵y,因此每一個(gè)個(gè)體的搜索過(guò)程均使用一張動(dòng)態(tài)圖片單獨(dú)展示,這樣就有30張動(dòng)態(tài)圖片,顯示了個(gè)體是如何在探索性與開(kāi)發(fā)性之間實(shí)現(xiàn)動(dòng)態(tài)平衡的。從15個(gè)個(gè)體分別在兩種初始分布條件下的搜索過(guò)程的動(dòng)態(tài)展示中,可以看到如下3個(gè)明顯的現(xiàn)象。

    一是個(gè)體進(jìn)行了多次“爬山”過(guò)程。在搜索過(guò)程中,可以很明顯地看到,當(dāng)它居于半山腰時(shí),受到局部標(biāo)桿的吸引,它產(chǎn)生了多次“爬山”過(guò)程,并最終爬到了山頂,實(shí)現(xiàn)了對(duì)全局最大值的搜索。這個(gè)“爬山”過(guò)程,相當(dāng)于根據(jù)當(dāng)前的觀測(cè)值,利用已知的動(dòng)作獲取更多回饋,以使下一次“收益最大化”,起到了小幅改善求精的作用,體現(xiàn)了對(duì)標(biāo)學(xué)習(xí)算法的開(kāi)發(fā)性。

    二是個(gè)體的搜索軌跡幾乎遍及整個(gè)解空間。算法的最大迭代次數(shù)設(shè)定為100,即個(gè)體只演化搜索100個(gè)世代,可以看到,在這100次迭代過(guò)程中,個(gè)體的搜索路徑幾乎覆蓋了整個(gè)解空間。理論上,只要迭代次數(shù)足夠多,個(gè)體可以遍歷整個(gè)搜索空間。這種大范圍的遍歷性全局搜索能力,體現(xiàn)了個(gè)體開(kāi)拓新空間的能力,體現(xiàn)了對(duì)標(biāo)學(xué)習(xí)算法的探索性。

    三是所有個(gè)體均多次搜索到了全局極大值。比如第一號(hào)個(gè)體在100次迭代過(guò)程中,在初始種群隨機(jī)分布和同一分布兩種條件下,分別有15次和17次搜索到了Peaks函數(shù)的全局最大值。這是由對(duì)標(biāo)學(xué)習(xí)算法的搜索策略決定的,對(duì)標(biāo)學(xué)習(xí)式的搜索策略使得算法具有很高的搜索效率。

    需要說(shuō)明的是,本次實(shí)驗(yàn)所使用的數(shù)據(jù),是由算法隨便運(yùn)行一次產(chǎn)生的,并無(wú)特意挑揀。

    4 對(duì)標(biāo)學(xué)習(xí)算法對(duì)于動(dòng)態(tài)優(yōu)化問(wèn)題的應(yīng)用

    4.1 動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題設(shè)計(jì)原因

    為什么要設(shè)計(jì)動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題?有3個(gè)原因,第一是現(xiàn)實(shí)世界中的科學(xué)、工程和管理問(wèn)題,大多都可以轉(zhuǎn)化為最優(yōu)化問(wèn)題。第二是這些最優(yōu)化問(wèn)題大多都可以轉(zhuǎn)化為對(duì)相關(guān)數(shù)學(xué)模型的求解問(wèn)題。比如,現(xiàn)代信息生物學(xué)中預(yù)測(cè)蛋白質(zhì)穩(wěn)定結(jié)構(gòu)的問(wèn)題,可以轉(zhuǎn)化為求解蛋白質(zhì)結(jié)構(gòu)的最低勢(shì)能值問(wèn)題,而后者,又可以轉(zhuǎn)化為對(duì)HP格點(diǎn)模型、AB非格點(diǎn)模型等蛋白質(zhì)結(jié)構(gòu)簡(jiǎn)化模型的求解問(wèn)題;現(xiàn)代分子生物學(xué)中腫瘤微陣列基因表達(dá)數(shù)據(jù)的分類問(wèn)題,可以轉(zhuǎn)化為求解最優(yōu)的腫瘤特征基因提取和分類模型的問(wèn)題,而后者,可以轉(zhuǎn)化為對(duì)表征樣本間距離和相似性的目標(biāo)函數(shù)的求解問(wèn)題;當(dāng)代大數(shù)據(jù)科學(xué)中復(fù)雜網(wǎng)絡(luò)的結(jié)構(gòu)測(cè)定問(wèn)題,可以轉(zhuǎn)化為求解最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)的問(wèn)題,而后者,又可以轉(zhuǎn)化為對(duì)網(wǎng)絡(luò)平衡結(jié)構(gòu)模型的求解問(wèn)題;現(xiàn)代智能工業(yè)移動(dòng)機(jī)器人的實(shí)時(shí)調(diào)度問(wèn)題,可以轉(zhuǎn)化為機(jī)器人的移動(dòng)路徑最優(yōu)化問(wèn)題,而后者又可以轉(zhuǎn)化為對(duì)移動(dòng)機(jī)器人運(yùn)動(dòng)學(xué)模型的求解問(wèn)題。第三是這些靜態(tài)數(shù)學(xué)模型是其現(xiàn)實(shí)世界當(dāng)中動(dòng)態(tài)模型的特例,是其真實(shí)模型的理想狀態(tài)。如果一個(gè)算法能夠很好地求解某個(gè)問(wèn)題的動(dòng)態(tài)模型,則對(duì)其理想狀態(tài)下的靜態(tài)模型的求解,自然不成問(wèn)題。

    關(guān)于動(dòng)態(tài)函數(shù)的構(gòu)造,已經(jīng)有學(xué)者提出了許多種方法。本文使用兩種簡(jiǎn)單的通過(guò)靜態(tài)函數(shù)優(yōu)化問(wèn)題構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題的方法。一是改變函數(shù)的約束條件,使得搜索空間發(fā)生變形,比如靜態(tài)函數(shù)中變量的個(gè)數(shù)及其取值范圍,根據(jù)特定的規(guī)則發(fā)生變化,從而構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題;二是改變個(gè)體基因的編碼序列,使得個(gè)體基因發(fā)生變形。比如當(dāng)采用0/1編碼方案時(shí),所有個(gè)體的基因表達(dá)式,周期性地與某個(gè)特定的模板進(jìn)行異或運(yùn)算,從而構(gòu)造動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題。

    動(dòng)態(tài)問(wèn)題與靜態(tài)問(wèn)題最大的不同,在于其因環(huán)境變量不斷變化,其最優(yōu)解不再固定不變,而是隨著環(huán)境的變化而動(dòng)態(tài)變化。因此對(duì)動(dòng)態(tài)問(wèn)題進(jìn)行求解,不僅是要求出問(wèn)題的最優(yōu)解,更重要的是要跟蹤問(wèn)題最優(yōu)解的運(yùn)動(dòng)軌跡。動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題主要用來(lái)測(cè)試算法對(duì)所求解問(wèn)題的全局極值的動(dòng)態(tài)跟蹤能力。

    4.2 基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化

    基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化問(wèn)題,是這樣定義的:Schwefel函數(shù)的定義域在±500之間變化時(shí)有3個(gè)變量;在±1 000之間變化時(shí)有2個(gè)變量,這樣其全局最小值會(huì)隨之發(fā)生漂移。動(dòng)態(tài)函數(shù)如下:

    定義域變化大小程度表征環(huán)境震蕩強(qiáng)度,可以用來(lái)測(cè)試算法對(duì)于函數(shù)在不同解空間內(nèi)全局最小值的動(dòng)態(tài)追蹤能力。在本次測(cè)試實(shí)驗(yàn)中,使用IEEE CEC2017實(shí)參數(shù)單目標(biāo)優(yōu)化競(jìng)賽中排名前四的4個(gè)算法,分別是jSO[4]、LSHADE-cnEpSin[5]、LSHADE-SPACMA[6]、DES[7],與本文提出的對(duì)簡(jiǎn)單標(biāo)學(xué)習(xí)算法(SBA)進(jìn)行對(duì)比。為保證公平公正,在實(shí)驗(yàn)中,用以測(cè)試的5個(gè)算法的最大迭代次數(shù)統(tǒng)一都設(shè)為1 000,每隔100代函數(shù)的定義域發(fā)生一次震蕩,即環(huán)境總共經(jīng)歷10個(gè)周期,也即10次震蕩。5個(gè)算法都包括100個(gè)個(gè)體(或粒子),初始化時(shí)所有個(gè)體都被安置在同一點(diǎn)(3,3)。5個(gè)算法都采用浮點(diǎn)數(shù)編碼方案,且都運(yùn)行100次,取平均值。計(jì)算結(jié)果如圖1所示。

    從實(shí)驗(yàn)結(jié)果可以觀察到幾個(gè)明顯的現(xiàn)象:一是對(duì)標(biāo)學(xué)習(xí)算法的動(dòng)態(tài)追蹤能力遠(yuǎn)強(qiáng)于其他4個(gè)算法,且其頑健性超強(qiáng)??梢钥吹剑瑹o(wú)論函數(shù)定義域如何變化,對(duì)標(biāo)學(xué)習(xí)算法都能進(jìn)行有效追蹤,并且都能搜索到新空間內(nèi)的全局最優(yōu)解。二是對(duì)標(biāo)學(xué)習(xí)算法的快速收斂能力很強(qiáng)。面對(duì)新環(huán)境,對(duì)標(biāo)學(xué)習(xí)算法總是能很快收斂到全局最優(yōu)解上。這是學(xué)習(xí)性競(jìng)爭(zhēng)與競(jìng)爭(zhēng)性學(xué)習(xí)思想有機(jī)融合的魅力。另外,這也與初始化時(shí)設(shè)置的種群及個(gè)體數(shù)量有關(guān),數(shù)量越大,則全局收斂速度越快。三是在環(huán)境發(fā)生不同強(qiáng)度的震蕩時(shí),其他4個(gè)算法的搜索性能也同步發(fā)生了不同程度的震蕩。這4個(gè)算法的動(dòng)態(tài)優(yōu)化性能,看似總體差別不大,但實(shí)際上彼此之間差異很大。從圖1中可以看到,每個(gè)算法搜索到的最優(yōu)解的路徑與軌跡整體上比較平滑,那是因?yàn)樗鼈兪敲總€(gè)算法運(yùn)行100次結(jié)果的平均值。可以觀察到,其他4個(gè)算法的搜索性能是極不穩(wěn)定的。

    4.3 基于基因變形的動(dòng)態(tài)函數(shù)優(yōu)化

    圖1 基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化運(yùn)行100次的平均值

    在本次測(cè)試實(shí)驗(yàn)中,5個(gè)算法的參數(shù)設(shè)置與第4.2節(jié)實(shí)驗(yàn)完全相同。為保證公平公正,在本次實(shí)驗(yàn)中,用以測(cè)試的5個(gè)算法的最大迭代次數(shù)統(tǒng)一都設(shè)為1 000,每隔100代函數(shù)的定義域發(fā)生一次震蕩,即環(huán)境總共經(jīng)歷10個(gè)周期,也即10次震蕩。5個(gè)算法都包括100個(gè)個(gè)體(或粒子),初始化時(shí)所有個(gè)體都被安置在同一點(diǎn)(3,3)。5個(gè)算法都采用二進(jìn)制編碼方案,且都運(yùn)行100次,取平均值。當(dāng)環(huán)境變化強(qiáng)度(CR)分別為0.1、0.5、0.9時(shí),5個(gè)算法對(duì)全局最小值的動(dòng)態(tài)追蹤軌跡如圖2所示。

    可以看出:一是對(duì)標(biāo)學(xué)習(xí)算法的快速收斂能力較強(qiáng),且其頑健性很強(qiáng),遠(yuǎn)遠(yuǎn)優(yōu)于其他4個(gè)算法。二是環(huán)境變化對(duì)算法具有顯著的影響。可以看到環(huán)境震蕩強(qiáng)度,從0.1增大到0.5時(shí),5個(gè)算法的搜索結(jié)果都出現(xiàn)了強(qiáng)烈的震蕩,從0.5增大到0.9時(shí),其他4個(gè)算法的搜索結(jié)果的震蕩程度都增大了,但對(duì)標(biāo)學(xué)習(xí)算法反而減小了,這和它具有較強(qiáng)的保持種群多樣性的能力有關(guān)。因?yàn)閷?duì)標(biāo)學(xué)習(xí)算法在運(yùn)行過(guò)程能一直保持較好的種群多樣性,在環(huán)境發(fā)生變化前夕,即所有個(gè)體基因在與模板做異或運(yùn)算之前,有的個(gè)體本來(lái)離全局最優(yōu)解的距離較遠(yuǎn),同時(shí)因?yàn)榄h(huán)境震蕩強(qiáng)度為0.9,即模板上有90%的基因值為1,于是那些本來(lái)較差的個(gè)體在與模板做異或運(yùn)算時(shí),其基因反而得到了改善。于是圖2(c)中所示的算法在每一代的全局最優(yōu)解,在搜索空間發(fā)生變形時(shí),震蕩反而不及0.5時(shí)劇烈。三是與基于空間變形的動(dòng)態(tài)函數(shù)優(yōu)化時(shí)類似,在環(huán)境發(fā)生不同強(qiáng)度的震蕩時(shí),其他4個(gè)算法的搜索性能也同步發(fā)生了不同程度的震蕩,時(shí)好時(shí)差。

    5 結(jié)束語(yǔ)

    本文的核心貢獻(xiàn)在于算法的“智能性”是體現(xiàn)在操作算子的組織策略而非概率規(guī)則上,這樣就打破了需要依靠概率規(guī)則來(lái)平衡探索性與開(kāi)發(fā)性的“潛規(guī)則”。從本質(zhì)上講,本框架不只是一個(gè)具體的算法,更是一種普適性方法論,它介于工程技術(shù)與認(rèn)知哲學(xué)之間。因此它可以應(yīng)用于科學(xué)、工程和管理中許多具體問(wèn)題當(dāng)中。

    一般來(lái)說(shuō),元啟發(fā)式搜索的設(shè)計(jì)是一類實(shí)驗(yàn)性科學(xué),其大部分工作是基于模擬實(shí)驗(yàn)和實(shí)際應(yīng)用的。這類算法的復(fù)雜隨機(jī)性使得嚴(yán)謹(jǐn)?shù)睦碚撗芯?,尤其是?jì)算復(fù)雜性研究難以實(shí)現(xiàn)。盡管已經(jīng)提出了許多理論和方法來(lái)研究這類算法的計(jì)算復(fù)雜性和收斂性,但在理論界存在一些爭(zhēng)議[8,9]。根據(jù)奧卡姆剃刀原則,本文拋棄了復(fù)雜的操作算子的概率調(diào)優(yōu)規(guī)則,用一個(gè)簡(jiǎn)單的框架來(lái)組織核心算子,達(dá)到了許多組合算法的搜索效果。本文的目的是將企業(yè)管理中的標(biāo)桿管理思想建模為單目標(biāo)實(shí)參數(shù)優(yōu)化問(wèn)題的搜索方法。

    [1] S?RENSEN K. Metaheuristic-the metaphor exposed[J]. International Transactions in Operational Research, 2015, 22(1): 3-18.

    [2] PIOTROWSKI A P, NAPIORKOWSKIJ J, ROWINSKIP M. How novel is the “novel” black hole optimization approach?[J]. Information Sciences, 2014(267): 191-200.

    [3] FONG S, WANG X, XU Q, et al. Recent advances in metaheuristic algorithms: does the Makara dragon exist?[J]. The Journal of Supercomputing, 2016, 72(10): 3764-3786.

    [4] BREST J, MAU?EC M S, BO?KOVI? B. Single objective real-parameter optimization: algorithm jSO[C]//2017 IEEE Congress onEvolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 1311-1318.

    [5] AWAD N H , ALI M Z, SUGANTHAN P N. Ensemble sinusoidal differential covariance matrix adaptation with Euclidean neighborhood for solving CEC2017 benchmark problems[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 372-379.

    [6] MOHAMED A W, HADI A A, FATTOUH A M, et al. LSHADE with semi-parameter adaptation hybrid with CMA-ES for solving CEC 2017 benchmark problems[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017:145-152.

    [7] JAGODZI?SKI D, ARABAS J. A differential evolution strategy[C]//2017 IEEE Congress on Evolutionary Computation (CEC), June 5-8, 2017, San Sebastian, Spain. Piscataway: IEEE Press, 2017: 1872-1876.

    [8] MICHALEWICZ Z. Quo vadis, evolutionary computation? On a growing gap between theory andpractice[J]. Lecture Notes in Computer Science, 2012: 98-121.

    [9] MICHALEWICZ Z. The emperor is naked: evolutionary algorithms for real-world applications[J]. Association for Computing Machinery Inc, 2012(3): 1-13.

    Intelligent optimization algorithm based on benchmarking

    XIE Anshi

    Zhejiang University of Technology, Hangzhou 310014, China

    Many of the issues in scientific research, engineeringand management can be transformed into optimization problems. The various methods applied to these problems were a variety of models. Designing different methods was designing different models. The theme was to model the benchmarking philosophy in business management as a meta-heuristic search method for single objective bound-constrained real-parameter optimization problems. According to the principle of Occam’s Razor, many complicated operators and their probability tuning rules were abandoned and a simple framework was used to organize the core operators to achieve the effect of many composition algorithms.

    intelligent optimization algorithm, exploration and exploitation, global search and local optimization, benchmarking management

    N940,TP202

    A

    10.11959/j.issn.1000?0801.2018144

    2017?08?01;

    2018?04?05

    浙江省哲學(xué)社會(huì)科學(xué)重點(diǎn)研究基地技術(shù)創(chuàng)新與企業(yè)國(guó)際化研究中心項(xiàng)目;浙江工業(yè)大學(xué)中小微企業(yè)轉(zhuǎn)型升級(jí)協(xié)同創(chuàng)新中心項(xiàng)目;教育部人文社會(huì)科學(xué)基金資助項(xiàng)目(No.17YJC630011)

    Research Fund from “Zhejiang Provincial Key Research Base of Philosophy and Social Sciences-Research Centre for Technology Innovation and Enterprise Internationalization”, Research Fund from “Collaborative Innovation Center for Transformation and Upgrading of Micro, Small and Medium Enterprises, Zhejiang University of Technology”, The Ministry of Education of Humanities and Social Science Project (No.17YJC630011)

    謝安世(1983–),男,博士,浙江工業(yè)大學(xué)助理研究員,主要研究方向?yàn)楣芾砼c決策的認(rèn)識(shí)論與方法論。

    猜你喜歡
    編碼方案開(kāi)發(fā)性探索性
    心有所“屬”,一“探”究竟——立體幾何探索性問(wèn)題的解法梳理
    科技型中小企業(yè)開(kāi)發(fā)性金融融資戰(zhàn)略的相關(guān)研究
    基于功能類別和技術(shù)參數(shù)的刀具編碼方案設(shè)計(jì)
    基于唯一標(biāo)識(shí)的ATP車(chē)載設(shè)備編碼方案研究
    立體幾何中探索性問(wèn)題的“創(chuàng)新”
    基于改進(jìn)粒子群算法的毫米波大規(guī)模MIMO混合預(yù)編碼方案
    開(kāi)發(fā)性核電廠廠址保護(hù)工作探索與初步實(shí)踐
    解決圓錐曲線中存在、探索性問(wèn)題的途徑
    開(kāi)發(fā)性金融支持現(xiàn)代農(nóng)業(yè)示范區(qū)建設(shè)的實(shí)踐與探索
    三種預(yù)編碼方案對(duì)OFDM系統(tǒng)峰均比的影響分析
    高清日韩中文字幕在线| 日本熟妇午夜| 国产成人freesex在线| 永久免费av网站大全| 3wmmmm亚洲av在线观看| 国国产精品蜜臀av免费| 国产在视频线精品| 欧美极品一区二区三区四区| 亚洲欧美日韩东京热| 免费高清在线观看视频在线观看| 97在线视频观看| 国内精品宾馆在线| 国产色婷婷99| 纵有疾风起免费观看全集完整版 | 视频中文字幕在线观看| 女人被狂操c到高潮| 国产淫语在线视频| 欧美精品一区二区大全| 天堂√8在线中文| 亚洲精品国产av成人精品| 久热久热在线精品观看| 91狼人影院| 亚洲精品自拍成人| 国产视频首页在线观看| 一级黄片播放器| 啦啦啦韩国在线观看视频| 肉色欧美久久久久久久蜜桃 | 97热精品久久久久久| 中文字幕亚洲精品专区| 网址你懂的国产日韩在线| 91av网一区二区| 国产视频首页在线观看| 亚洲精品456在线播放app| 日韩成人伦理影院| 国产午夜精品久久久久久一区二区三区| 国产精品日韩av在线免费观看| 亚洲aⅴ乱码一区二区在线播放| 美女xxoo啪啪120秒动态图| 国产精品.久久久| 不卡视频在线观看欧美| 国产伦在线观看视频一区| 日本熟妇午夜| av福利片在线观看| 午夜福利在线在线| 菩萨蛮人人尽说江南好唐韦庄| 国产av不卡久久| 一级二级三级毛片免费看| 国产免费视频播放在线视频 | 欧美日本视频| 免费无遮挡裸体视频| 成人毛片60女人毛片免费| 国产一区二区在线观看日韩| 插阴视频在线观看视频| 久久精品熟女亚洲av麻豆精品 | 国产免费视频播放在线视频 | 少妇的逼好多水| 一本一本综合久久| kizo精华| 国产三级在线视频| 69av精品久久久久久| 欧美日韩亚洲高清精品| 国产男女超爽视频在线观看| 七月丁香在线播放| 午夜免费激情av| videos熟女内射| 精品国产一区二区三区久久久樱花 | 久久草成人影院| 熟妇人妻久久中文字幕3abv| 亚洲欧美成人综合另类久久久| 国产精品人妻久久久影院| 国产日韩欧美在线精品| 乱系列少妇在线播放| 91在线精品国自产拍蜜月| 亚洲精品日本国产第一区| 免费在线观看成人毛片| av线在线观看网站| 国产在视频线在精品| 高清在线视频一区二区三区| 久久久久久久久中文| 女人久久www免费人成看片| 午夜福利高清视频| 黄片wwwwww| 亚洲av成人av| 视频中文字幕在线观看| 能在线免费看毛片的网站| a级毛色黄片| av黄色大香蕉| 亚洲人成网站在线观看播放| 伊人久久精品亚洲午夜| 久久久久久久久久久免费av| 91aial.com中文字幕在线观看| 精品国产露脸久久av麻豆 | 中文字幕av成人在线电影| 精品少妇黑人巨大在线播放| 中文字幕av成人在线电影| av天堂中文字幕网| 91久久精品电影网| 日韩一区二区视频免费看| 国产高清有码在线观看视频| 一级二级三级毛片免费看| 免费看美女性在线毛片视频| 嫩草影院精品99| 日韩av在线大香蕉| 国产黄色小视频在线观看| 一区二区三区乱码不卡18| 国产人妻一区二区三区在| 91精品国产九色| 国产精品麻豆人妻色哟哟久久 | 午夜福利网站1000一区二区三区| 午夜福利在线在线| 国产一区二区在线观看日韩| 午夜激情久久久久久久| 午夜激情福利司机影院| 搞女人的毛片| 国产真实伦视频高清在线观看| 日韩不卡一区二区三区视频在线| 欧美日韩精品成人综合77777| 天堂av国产一区二区熟女人妻| 日韩,欧美,国产一区二区三区| 身体一侧抽搐| 精品人妻视频免费看| 亚洲美女视频黄频| 久久精品综合一区二区三区| 国产精品久久久久久精品电影小说 | 久久韩国三级中文字幕| 成人二区视频| 麻豆成人av视频| 蜜臀久久99精品久久宅男| 搡老乐熟女国产| 国产亚洲精品久久久com| 又黄又爽又刺激的免费视频.| 欧美区成人在线视频| 日韩欧美三级三区| 久久99热这里只频精品6学生| 天堂俺去俺来也www色官网 | 亚洲欧美成人综合另类久久久| 日本av手机在线免费观看| 国产老妇伦熟女老妇高清| 老师上课跳d突然被开到最大视频| 国产精品.久久久| 日本wwww免费看| 一夜夜www| 韩国高清视频一区二区三区| 秋霞伦理黄片| 国产老妇女一区| 2021天堂中文幕一二区在线观| 又粗又硬又长又爽又黄的视频| 一区二区三区免费毛片| 男人爽女人下面视频在线观看| 少妇被粗大猛烈的视频| 免费电影在线观看免费观看| 久久精品久久精品一区二区三区| 亚洲精品国产av成人精品| 国产精品蜜桃在线观看| 国产伦精品一区二区三区四那| av福利片在线观看| 久久99精品国语久久久| 亚洲av.av天堂| 国产精品精品国产色婷婷| 精品一区二区三区视频在线| 国产久久久一区二区三区| 亚洲欧美成人精品一区二区| 亚洲欧美一区二区三区黑人 | 日韩一本色道免费dvd| 日韩欧美三级三区| 一夜夜www| 成年av动漫网址| 夜夜看夜夜爽夜夜摸| 国产一区二区亚洲精品在线观看| 伊人久久国产一区二区| 日产精品乱码卡一卡2卡三| 久久6这里有精品| 中文在线观看免费www的网站| 91久久精品电影网| 国产精品久久视频播放| 日日摸夜夜添夜夜添av毛片| 爱豆传媒免费全集在线观看| 国产精品伦人一区二区| 久久久久久九九精品二区国产| 久久99热这里只频精品6学生| 最近最新中文字幕大全电影3| 日日啪夜夜撸| 午夜免费激情av| 在线播放无遮挡| 久久精品夜夜夜夜夜久久蜜豆| 国产片特级美女逼逼视频| 精品一区二区三卡| 国产午夜精品论理片| 18禁动态无遮挡网站| av线在线观看网站| 看免费成人av毛片| 日韩人妻高清精品专区| 久久久国产一区二区| 水蜜桃什么品种好| 免费少妇av软件| 久久久亚洲精品成人影院| 久久精品国产自在天天线| 欧美一区二区亚洲| 亚洲国产精品成人久久小说| 国产综合懂色| 亚洲色图av天堂| 国产不卡一卡二| 99九九线精品视频在线观看视频| 免费黄色在线免费观看| 国产探花在线观看一区二区| 精品一区二区三区人妻视频| 国产精品人妻久久久影院| 午夜福利视频1000在线观看| 久久精品国产鲁丝片午夜精品| 亚洲欧美日韩东京热| 男女下面进入的视频免费午夜| 好男人视频免费观看在线| 亚洲精品国产av蜜桃| 成人亚洲欧美一区二区av| 日本色播在线视频| 日本免费a在线| 亚洲最大成人av| 深夜a级毛片| 国产一区二区三区av在线| 亚洲欧洲日产国产| 日本一二三区视频观看| 极品少妇高潮喷水抽搐| 亚洲成人av在线免费| 美女国产视频在线观看| 能在线免费看毛片的网站| 亚洲人成网站高清观看| 一个人看的www免费观看视频| 人人妻人人看人人澡| 国产极品天堂在线| 亚洲精品乱久久久久久| 亚洲婷婷狠狠爱综合网| 亚洲国产精品国产精品| 久久久久久久久久人人人人人人| 亚洲欧美成人综合另类久久久| av国产久精品久网站免费入址| 特大巨黑吊av在线直播| 尾随美女入室| 国产女主播在线喷水免费视频网站 | 色综合亚洲欧美另类图片| 亚洲国产最新在线播放| 老女人水多毛片| 精品人妻偷拍中文字幕| 国产精品女同一区二区软件| 亚洲不卡免费看| 午夜福利在线在线| 能在线免费观看的黄片| 亚洲欧美一区二区三区黑人 | 纵有疾风起免费观看全集完整版 | 熟妇人妻久久中文字幕3abv| 狂野欧美激情性xxxx在线观看| 蜜桃亚洲精品一区二区三区| 黄色一级大片看看| 婷婷色综合大香蕉| 中文字幕av成人在线电影| 深爱激情五月婷婷| 高清在线视频一区二区三区| 男人舔奶头视频| 在线观看免费高清a一片| 精品一区二区三卡| 黄片无遮挡物在线观看| 国产精品久久视频播放| 中文字幕久久专区| 日韩一本色道免费dvd| 偷拍熟女少妇极品色| 色尼玛亚洲综合影院| 久久久久久九九精品二区国产| 卡戴珊不雅视频在线播放| 国产一区有黄有色的免费视频 | 国国产精品蜜臀av免费| 男人狂女人下面高潮的视频| 国内精品一区二区在线观看| 亚洲av福利一区| 久久久久性生活片| 人人妻人人澡人人爽人人夜夜 | 韩国av在线不卡| 精品少妇黑人巨大在线播放| 国产真实伦视频高清在线观看| 一二三四中文在线观看免费高清| 国产精品蜜桃在线观看| 国产高清不卡午夜福利| 在线免费观看的www视频| 一本一本综合久久| 欧美日本视频| 日韩精品有码人妻一区| 久久久色成人| 九九在线视频观看精品| 日韩av在线大香蕉| 伦精品一区二区三区| 亚洲av福利一区| 高清在线视频一区二区三区| 日本wwww免费看| 免费看日本二区| 日韩av不卡免费在线播放| 99久国产av精品国产电影| 99久久九九国产精品国产免费| 国产精品女同一区二区软件| 中国美白少妇内射xxxbb| 国产亚洲91精品色在线| 国产亚洲av片在线观看秒播厂 | 国产69精品久久久久777片| 人妻夜夜爽99麻豆av| 一区二区三区乱码不卡18| 欧美不卡视频在线免费观看| 免费大片18禁| 欧美日本视频| 成人漫画全彩无遮挡| 天堂影院成人在线观看| 五月伊人婷婷丁香| 极品教师在线视频| 欧美日韩在线观看h| 水蜜桃什么品种好| 午夜福利高清视频| 国产成人aa在线观看| 国产成人精品久久久久久| 听说在线观看完整版免费高清| 日韩电影二区| 日本猛色少妇xxxxx猛交久久| 国产大屁股一区二区在线视频| 日韩中字成人| 超碰97精品在线观看| 日日啪夜夜撸| 建设人人有责人人尽责人人享有的 | 听说在线观看完整版免费高清| 成人欧美大片| 久久久久久久午夜电影| 欧美一级a爱片免费观看看| 色吧在线观看| 国产一区有黄有色的免费视频 | 久久久久久久国产电影| 又大又黄又爽视频免费| 亚洲国产成人一精品久久久| 男人舔女人下体高潮全视频| 九九爱精品视频在线观看| 亚洲精品成人久久久久久| 成人鲁丝片一二三区免费| 亚州av有码| 直男gayav资源| 久久久午夜欧美精品| 最近手机中文字幕大全| 伦精品一区二区三区| 大陆偷拍与自拍| 欧美激情国产日韩精品一区| 美女大奶头视频| 精品久久久久久久末码| 成人特级av手机在线观看| 亚洲精品456在线播放app| 三级经典国产精品| 美女主播在线视频| 亚洲最大成人手机在线| 国产 一区 欧美 日韩| 午夜日本视频在线| 日韩av在线大香蕉| 男女那种视频在线观看| 亚洲乱码一区二区免费版| 丰满少妇做爰视频| 在线播放无遮挡| 在线免费观看的www视频| 日本黄色片子视频| 高清午夜精品一区二区三区| 色综合站精品国产| av线在线观看网站| 人人妻人人看人人澡| 日韩一本色道免费dvd| 我要看日韩黄色一级片| 真实男女啪啪啪动态图| 亚洲av.av天堂| 亚洲天堂国产精品一区在线| av又黄又爽大尺度在线免费看| 午夜久久久久精精品| 久久久久久久久大av| 别揉我奶头 嗯啊视频| 久久99热这里只有精品18| 国产91av在线免费观看| 搡女人真爽免费视频火全软件| 成人亚洲精品av一区二区| 看非洲黑人一级黄片| 国产91av在线免费观看| 久久久久久伊人网av| 色尼玛亚洲综合影院| 亚洲国产精品专区欧美| 丝袜喷水一区| 国产黄a三级三级三级人| av专区在线播放| 麻豆国产97在线/欧美| 精品一区二区三卡| 男女国产视频网站| 少妇的逼水好多| 97在线视频观看| 18+在线观看网站| av在线天堂中文字幕| 欧美人与善性xxx| 69人妻影院| 少妇高潮的动态图| av国产久精品久网站免费入址| 人体艺术视频欧美日本| 国内精品宾馆在线| 日韩一本色道免费dvd| 一级黄片播放器| 2021天堂中文幕一二区在线观| 免费看av在线观看网站| 精品国产三级普通话版| 国产在视频线在精品| 日韩三级伦理在线观看| 久久久精品免费免费高清| or卡值多少钱| 免费大片黄手机在线观看| 女人十人毛片免费观看3o分钟| 熟妇人妻久久中文字幕3abv| 六月丁香七月| 国内精品美女久久久久久| 亚洲精品日本国产第一区| 精品人妻偷拍中文字幕| 又爽又黄无遮挡网站| 免费观看a级毛片全部| 中文字幕制服av| 成人国产麻豆网| 直男gayav资源| 97超视频在线观看视频| 啦啦啦韩国在线观看视频| 亚洲精品国产成人久久av| 国产亚洲精品av在线| 国产黄片视频在线免费观看| 亚洲成色77777| 美女cb高潮喷水在线观看| av在线蜜桃| 97精品久久久久久久久久精品| 2022亚洲国产成人精品| 久久草成人影院| 搡女人真爽免费视频火全软件| 国产综合懂色| 97在线视频观看| 亚洲性久久影院| 久久精品久久精品一区二区三区| 欧美区成人在线视频| 国产片特级美女逼逼视频| 亚洲av国产av综合av卡| 午夜福利成人在线免费观看| 国产成人91sexporn| 国产色婷婷99| 一级二级三级毛片免费看| 岛国毛片在线播放| 一区二区三区乱码不卡18| 两个人的视频大全免费| 人妻系列 视频| 3wmmmm亚洲av在线观看| 男女那种视频在线观看| 狂野欧美激情性xxxx在线观看| 不卡视频在线观看欧美| 久久午夜福利片| 精品不卡国产一区二区三区| 国产精品久久久久久av不卡| 联通29元200g的流量卡| 欧美潮喷喷水| 最近最新中文字幕免费大全7| 别揉我奶头 嗯啊视频| 菩萨蛮人人尽说江南好唐韦庄| 男人狂女人下面高潮的视频| 日本免费在线观看一区| 嫩草影院精品99| 少妇的逼水好多| 国产精品三级大全| 欧美高清性xxxxhd video| 美女大奶头视频| 国产麻豆成人av免费视频| 欧美三级亚洲精品| 好男人视频免费观看在线| 大香蕉久久网| 偷拍熟女少妇极品色| 国产亚洲精品av在线| 97在线视频观看| 成人欧美大片| 免费看a级黄色片| 欧美成人一区二区免费高清观看| 欧美+日韩+精品| 精品一区在线观看国产| 夜夜爽夜夜爽视频| 亚洲一级一片aⅴ在线观看| 亚洲久久久久久中文字幕| 日韩中字成人| 国产单亲对白刺激| 久久99精品国语久久久| 欧美xxxx性猛交bbbb| 国产女主播在线喷水免费视频网站 | 亚洲欧美中文字幕日韩二区| 麻豆久久精品国产亚洲av| 亚洲精品国产av成人精品| 国产老妇女一区| 精品久久久精品久久久| 色综合色国产| 在线观看免费高清a一片| 国产黄片美女视频| 老司机影院成人| 免费高清在线观看视频在线观看| 国产在线一区二区三区精| 国产成人福利小说| 久久久久国产网址| 国产亚洲av嫩草精品影院| 男女边摸边吃奶| 精品久久久久久成人av| 干丝袜人妻中文字幕| 99久久精品国产国产毛片| 亚洲久久久久久中文字幕| 亚洲欧美成人综合另类久久久| 午夜福利成人在线免费观看| 自拍偷自拍亚洲精品老妇| 日韩 亚洲 欧美在线| 久久精品人妻少妇| 天堂俺去俺来也www色官网 | 国产精品一区二区三区四区久久| av在线老鸭窝| 亚洲综合色惰| 日韩欧美国产在线观看| 久久精品国产自在天天线| 国产一级毛片在线| 婷婷色综合大香蕉| 亚洲精品国产av蜜桃| 成人国产麻豆网| 久久久久久久久久久丰满| 亚洲国产精品专区欧美| 天堂影院成人在线观看| 国产精品一及| 日本一本二区三区精品| 日本免费a在线| 亚洲第一区二区三区不卡| 麻豆av噜噜一区二区三区| 99久久中文字幕三级久久日本| 欧美日本视频| 国产在视频线精品| 中文欧美无线码| 男女那种视频在线观看| 一个人免费在线观看电影| 欧美三级亚洲精品| 久久草成人影院| 欧美精品国产亚洲| 久久精品国产亚洲av涩爱| 春色校园在线视频观看| 只有这里有精品99| 男女那种视频在线观看| 日本av手机在线免费观看| 大话2 男鬼变身卡| 中文字幕亚洲精品专区| 国产国拍精品亚洲av在线观看| 亚洲在久久综合| 精品欧美国产一区二区三| 国产一区二区三区av在线| 免费少妇av软件| 啦啦啦中文免费视频观看日本| 国产成人精品久久久久久| 极品教师在线视频| 精品久久久久久久久av| 黄色日韩在线| 三级国产精品片| 亚洲av.av天堂| 亚洲性久久影院| 国内精品宾馆在线| 3wmmmm亚洲av在线观看| 国产伦精品一区二区三区四那| 天天躁日日操中文字幕| 国产精品国产三级专区第一集| 国产大屁股一区二区在线视频| 青青草视频在线视频观看| 亚洲欧美精品自产自拍| 中文字幕制服av| 成人特级av手机在线观看| 色网站视频免费| 免费在线观看成人毛片| 久久久久久久久久黄片| 人妻制服诱惑在线中文字幕| av女优亚洲男人天堂| 日韩不卡一区二区三区视频在线| 国产精品人妻久久久久久| videossex国产| 中文欧美无线码| 亚洲三级黄色毛片| 丝袜美腿在线中文| 亚洲精品日韩在线中文字幕| 国产乱人偷精品视频| 青青草视频在线视频观看| 成人毛片60女人毛片免费| 晚上一个人看的免费电影| 夫妻午夜视频| 国产av码专区亚洲av| 91精品国产九色| 国国产精品蜜臀av免费| 精品不卡国产一区二区三区| 婷婷色av中文字幕| 欧美精品国产亚洲| 亚洲av二区三区四区| 天堂俺去俺来也www色官网 | 国产乱人偷精品视频| 超碰av人人做人人爽久久| 寂寞人妻少妇视频99o| 亚洲久久久久久中文字幕| 最近视频中文字幕2019在线8| 欧美xxⅹ黑人| 亚洲美女搞黄在线观看| 国产高清国产精品国产三级 | 人人妻人人澡人人爽人人夜夜 | 日韩av不卡免费在线播放| 国产亚洲av片在线观看秒播厂 | 日日摸夜夜添夜夜添av毛片| 精品欧美国产一区二区三| 久久这里只有精品中国| 人妻一区二区av| 在线 av 中文字幕| 菩萨蛮人人尽说江南好唐韦庄| 国产精品99久久久久久久久| 国产片特级美女逼逼视频| 精品一区二区免费观看| 国产午夜精品论理片| 亚洲国产精品成人久久小说| 国产精品久久久久久精品电影| 国产成人一区二区在线| 人妻少妇偷人精品九色| 免费电影在线观看免费观看|