基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法的設(shè)計(jì)與實(shí)現(xiàn)

吳浩楠 高宏

摘?要：機(jī)器學(xué)習(xí)伴隨著海量數(shù)據(jù)的支持以及強(qiáng)大的計(jì)算能力為其提供了強(qiáng)有力的保證下不斷地向前發(fā)展，訓(xùn)練過程變得更加高效便捷。在此基礎(chǔ)上，機(jī)器學(xué)習(xí)算法的超參數(shù)對(duì)其性能的影響是非常巨大的，因此對(duì)眾多的超參數(shù)進(jìn)行優(yōu)化選擇就自然有了強(qiáng)烈的需求。由此本文提出了一種基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法，實(shí)驗(yàn)表明，在針對(duì)多種機(jī)器學(xué)習(xí)模型的超參數(shù)調(diào)優(yōu)問題上，既解決了一般隨機(jī)算法的不穩(wěn)定性的問題，也解決了一般進(jìn)化算法迭代緩慢、收斂速度較低的問題，并且通過實(shí)驗(yàn)結(jié)果表明取得了不錯(cuò)的效果。

關(guān)鍵詞： 超參數(shù)調(diào)優(yōu);遺傳算法;量子遺傳算法;機(jī)器學(xué)習(xí)

文章編號(hào)： 2095-2163（2021）01-0170-06 中圖分類號(hào)：TP181 文獻(xiàn)標(biāo)志碼：A

【Abstract】With the development of big data and the improvement of computing power， machine learning has been continuously developing， and the training process has become more efficient and convenient. On this basis， the hyper-parameter of machine learning algorithms has a great impact on their performance， so there is a strong demand for optimizing and selecting a large number of hyper-parameter. Thus this paper puts forward a kind of automatic tuning super parameter based on Quantum Genetic Algorithm. The experiments show that for a variety of machine learning model on the above parameters tuning problem，the instability of both randomized algorithms of the general problem is solved， also the problems of slow iteration and low convergence speed of the general evolutionary algorithm are solved， therefore good results have been achieved.

【Key words】hyper-parameter tuning; Genetic Algorithm; Quantum Genetic Algorithm; machine learning

0 引?言

如今，海量數(shù)據(jù)的支持以及強(qiáng)大的計(jì)算能力為機(jī)器學(xué)習(xí)的不斷發(fā)展提供了有效保證，使其訓(xùn)練過程變得更加高效、便捷。在此基礎(chǔ)上，一個(gè)機(jī)器學(xué)習(xí)算法的超參數(shù)就成為影響算法性能優(yōu)劣的重要因素。如何在復(fù)雜的參數(shù)空間中選擇出一組超參數(shù)使得機(jī)器學(xué)習(xí)算法的性能得到最大的提升，是機(jī)器學(xué)習(xí)領(lǐng)域長(zhǎng)期以來一類備受關(guān)注的研究問題，超參數(shù)優(yōu)化問題也是在此背景下才得以提出。

研究初期，一般需要相關(guān)的工作人員通過已有的經(jīng)驗(yàn)對(duì)超參數(shù)進(jìn)行調(diào)節(jié)，或者是由設(shè)計(jì)者給出建議的超參數(shù)的配置選擇。但在模型復(fù)雜以及超參數(shù)眾多的情況下，就隨即對(duì)超參數(shù)進(jìn)行自動(dòng)化調(diào)優(yōu)有了強(qiáng)烈的需求。故而，對(duì)于機(jī)器學(xué)習(xí)算法未來走向?qū)嵱?，設(shè)計(jì)出一個(gè)超參數(shù)自動(dòng)調(diào)優(yōu)算法則有著至關(guān)重要的現(xiàn)實(shí)意義[1]。

早期，網(wǎng)格搜索（Grid Search）是超參數(shù)優(yōu)化算法中常用的技術(shù)。但是網(wǎng)格搜索方式的效率是很低下的，其本質(zhì)是屬于窮舉的方法，只不過是帶有一定的步長(zhǎng)。超參數(shù)的搜索空間，會(huì)隨著待優(yōu)化參數(shù)的增加，而呈指數(shù)型增長(zhǎng)[2]。文獻(xiàn)[3]中討論了一種隨機(jī)搜索策略，并通過實(shí)驗(yàn)表明，與網(wǎng)格搜索方法相比，該方法有著更高的效率。文獻(xiàn)[4]還提出了TPE算法，解決了機(jī)器學(xué)習(xí)超參數(shù)優(yōu)化問題，該算法是基于模型的全局優(yōu)化并且是樹形結(jié)構(gòu)的。此外，貝葉斯優(yōu)化也是該領(lǐng)域較經(jīng)典的超參數(shù)優(yōu)化算法，具體就是一種快速求解昂貴函數(shù)極值問題的優(yōu)化方法[5]。

在國(guó)內(nèi)的有關(guān)超參數(shù)優(yōu)化的文獻(xiàn)中，大多是利用進(jìn)化算法來進(jìn)行機(jī)器學(xué)習(xí)模型的超參數(shù)調(diào)優(yōu)。例如，文獻(xiàn)[6]中的超參數(shù)優(yōu)化方法是模擬退火算法;文獻(xiàn)[7]中，運(yùn)用遺傳算法來解決機(jī)器學(xué)習(xí)模型支持向量機(jī)（SVM）的超參數(shù)優(yōu)化問題;此外常見的還有粒子群優(yōu)化算法[8]。實(shí)際上在處理超參數(shù)優(yōu)化問題時(shí)可將其視作針對(duì)昂貴函數(shù)來進(jìn)行優(yōu)化。并且進(jìn)化算法中大部分都是基于種群的，當(dāng)種群規(guī)模較大時(shí)則會(huì)同時(shí)伴生著與算法性能效率相關(guān)的問題。因此，本文擬基于一種量子遺傳算法，其類屬于進(jìn)化算法，來提出主要研究?jī)?nèi)容，即一種基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法。通過實(shí)驗(yàn)表明，本文提出的算法在解決機(jī)器學(xué)習(xí)模型的超參數(shù)優(yōu)化問題的同時(shí)，在對(duì)比實(shí)驗(yàn)中還取得了性能和效率上的提升。

1 超參數(shù)優(yōu)化問題表述

超參數(shù)優(yōu)化的思想對(duì)機(jī)器學(xué)習(xí)的調(diào)參有著重要意義，對(duì)于其他復(fù)雜的系統(tǒng)結(jié)構(gòu)，當(dāng)研究過程需要優(yōu)化這一類黑箱模型結(jié)構(gòu)時(shí)，都可以借鑒超參數(shù)優(yōu)化的思想來解決系統(tǒng)的結(jié)構(gòu)優(yōu)化問題。本文研發(fā)設(shè)計(jì)的基于量子遺傳的超參數(shù)優(yōu)化算法是應(yīng)用于解決傳統(tǒng)機(jī)器學(xué)習(xí)模型的超參數(shù)調(diào)優(yōu)問題。如圖1所示。由圖1可知，主要是模擬了超參數(shù)優(yōu)化問題的大致過程。

研究可知，該問題的本質(zhì)就是為機(jī)器學(xué)習(xí)模型找到一組較好的超參數(shù)配置，使得機(jī)器學(xué)習(xí)模型在測(cè)試集合上的泛化誤差達(dá)到最小。此后提到的相關(guān)實(shí)驗(yàn)過程及結(jié)果是基于GBDT機(jī)器模型來進(jìn)行的超參數(shù)調(diào)優(yōu)相關(guān)實(shí)驗(yàn)。GBDT是常用傳統(tǒng)機(jī)器學(xué)習(xí)模型，可解決大部分機(jī)器學(xué)習(xí)中分類和回歸問題，與其相關(guān)的超參數(shù)分為2類：boosting框架參數(shù)，弱學(xué)習(xí)器即CART回歸樹相關(guān)的重要參數(shù)。相關(guān)超參數(shù)見表1。

2 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法

2.1 量子遺傳算法

量子遺傳算法源于量子計(jì)算，同時(shí)也是一種進(jìn)化算法。量子遺傳算法在本質(zhì)上還是一個(gè)基于概率的隨機(jī)搜索算法[9]。

在探討量子遺傳算法前，則需要了解一些與量子計(jì)算相關(guān)的知識(shí)作為理論基礎(chǔ)。首先，要知道量子位是量子計(jì)算中存儲(chǔ)信息的最小單元，量子位可以表示為：αβ，其中滿足α2+β2=1。接下來是量子門，在量子遺傳算法中量子位是可以通過量子門來改變的，將其引入不僅使得算法具備了開發(fā)和探索的能力，還使得算法能夠最終走向收斂[10-11]。量子門是一個(gè)2×2階的可逆矩陣U，量子門一般通過如下矩陣變換更新量子位，設(shè)新的量子位為αiβi，那么：

接下來在量子位的基礎(chǔ)上，又引出了量子染色體的概念，每一個(gè)染色體都是由式（2）中的一系列量子位組成的，即：

量子遺傳算法的大致流程，參見算法1。

算法1 量子遺傳算法

輸入：種群大小N，算法的終止條件（比如迭代次數(shù)等）

輸出：集合B中表現(xiàn)最好的樣本

Step 1 生成輸入指定大小量子染色體種群Q（t），并對(duì)其進(jìn)行初始化操作。

Step 2 將種群Q（t）中每一個(gè)量子染色體通過規(guī)則進(jìn)行轉(zhuǎn)換為一個(gè)二進(jìn)制串，形成一個(gè)新的二進(jìn)制串的集合P（t）。

Step 3 對(duì)P（t）中的每個(gè)樣本通過目標(biāo)函數(shù)進(jìn)行評(píng)價(jià)。

Step 4 將Step 3中表現(xiàn)最優(yōu)的樣本添加到集合B中。

while（如果未滿足終止條件）

{

Step 5 進(jìn)行下一次迭代，令t=t+1，對(duì)量子染色體種群Q（t-1）進(jìn)行Step 2的操作，從而形新一輪的P（t）。

Step 6 對(duì)P（t）中的每個(gè)樣本通過目標(biāo)函數(shù)進(jìn)行評(píng)價(jià)。

Step 7 將Step 6中表現(xiàn)最優(yōu)的樣本添加到集合B中。

Step 8 將種群Q（t）通過量子門的旋轉(zhuǎn)進(jìn)行更新進(jìn)化。

}

2.2 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法

在本小節(jié)中，給出算法的基本框架見算法2。

算法2 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法

輸入：待優(yōu)化機(jī)器學(xué)習(xí)模型M，數(shù)據(jù)集X，種群大小N，這里設(shè)置為1，待優(yōu)化的超參數(shù)的參數(shù)空間，算法的終止條件（比如迭代次數(shù)等）

輸出：集合B中表現(xiàn)最好的樣本

Step 1 生成指定規(guī)模大小量子染色體種群Q（t），并對(duì)其進(jìn)行初始化操作。將輸出集合B置為空集。通過超參數(shù)的類型及參數(shù)空間決定量子染色體的總長(zhǎng)度。

Step 2 將種群Q（t）中每一個(gè)量子染色體通過規(guī)則進(jìn)行轉(zhuǎn)換為一個(gè)二進(jìn)制串，形成一個(gè)新的二進(jìn)制串的集合P（t）。

Step 3 對(duì)P（t）中的每個(gè)樣本通過目標(biāo)函數(shù)進(jìn)行評(píng)價(jià)。將每個(gè)二進(jìn)制串解碼為一組賦有特定取值的超參數(shù)配置。評(píng)估機(jī)器學(xué)習(xí)模型M在此超參數(shù)配置下進(jìn)行訓(xùn)練后，在測(cè)試集上的性能指標(biāo)，并將該結(jié)果作為目標(biāo)函數(shù)的輸出。

Step 4 將Step 3中表現(xiàn)最優(yōu)的樣本添加到集合B中。

while（如果未滿足終止條件）

{

Step 5 進(jìn)行下一次迭代，令t=t+1，對(duì)種群Q（t-1）重復(fù)上述Step 2中操作，生成新一輪的集合P（t）。

Step 6 重復(fù)Step 3對(duì)P（t）中的樣本進(jìn)行評(píng)價(jià)。

Step 7 重復(fù)Step 4更新集合B。

Step 8 將種群Q（t）通過量子門的旋轉(zhuǎn)進(jìn)行更新進(jìn)化。

}

這里，對(duì)于算法2中的關(guān)鍵步驟含義擬做出分析詳述如下。

Step 1中，本質(zhì)是在對(duì)每個(gè)超參數(shù)進(jìn)行編碼操作，進(jìn)而決定量子染色體的總長(zhǎng)度。研究中是基于以下方案來確定量子染色體的總長(zhǎng)度。超參數(shù)一般有2種類型：離散、連續(xù)。假設(shè)某個(gè)超參數(shù)是離散類型的，并且只有3種取值，這時(shí)通過2位量子位就可以編碼表示該參數(shù)的所有狀態(tài)。例如可以用00，01，10分別對(duì)應(yīng)表示該超參數(shù)的一種狀態(tài)。相應(yīng)地，對(duì)于編碼為11的狀態(tài)，算法中的規(guī)定是：可以對(duì)其進(jìn)行隨機(jī)變異，使其轉(zhuǎn)變?yōu)樯鲜鋈N編碼狀態(tài)中的任意一種。而對(duì)于連續(xù)型超參數(shù)來說，例如某超參數(shù)取值范圍在區(qū)間[a，b]，可以根據(jù)研究中自定義的精度來將其分割成k份。那么就需要N位來編碼這個(gè)超參數(shù)，這里N需要滿足如下條件：

Step 2的本質(zhì)就是在對(duì)量子染色體進(jìn)行一個(gè)轉(zhuǎn)換，將其轉(zhuǎn)換為一個(gè)二進(jìn)制串。具體實(shí)現(xiàn)過程為：針對(duì)量子染色體中的每一位，都要先生成一個(gè)隨機(jī)數(shù)r，取值在[0，1]之間，若rα2，則該位置為0，否則置為1。下面將舉例說明上述操作。例如，某條量子染色體可以表示為1212，1212，1212，針對(duì)其中的每一位量子位隨機(jī)生成的數(shù)字為0.3、0.7、0.2，那么對(duì)該量子染色體進(jìn)行觀察操作后，得到的二進(jìn)制串可以表示為[0，1，0]。與此過程相似，還將對(duì)每個(gè)量子染色體都重復(fù)進(jìn)行上述觀察操作，最后形成了上述算法中提到的種群?P（t）。

Step 3在本質(zhì)上是對(duì)每一個(gè)在Step 2中轉(zhuǎn)換好的二進(jìn)制串進(jìn)行解碼操作，將其翻譯為每一個(gè)超參數(shù)所對(duì)應(yīng)的實(shí)際取值。具體操作為：由于此前提到過超參數(shù)分為離散型和連續(xù)型兩種，那么過程中的解碼操作也相應(yīng)地分為2種。

總地來說，對(duì)于超參數(shù)是離散型情況下的解碼，可以提前定義一張映射表。其中，key對(duì)應(yīng)的是Step 2中轉(zhuǎn)換的二進(jìn)制串中的某一段，value對(duì)應(yīng)的是該段二進(jìn)制串在事先定義好的映射表中對(duì)應(yīng)的實(shí)際值。而當(dāng)超參數(shù)是連續(xù)型的情況時(shí)，可以通過式（4）來進(jìn)行計(jì)算：

其中，x為代表該超參數(shù)那段的二進(jìn)制串對(duì)應(yīng)的十進(jìn)制數(shù);a和b分別表示該參數(shù)取值范圍的上限和下限;N表示該段二進(jìn)制染色體的總體長(zhǎng)度，而等式左側(cè)的x即為連續(xù)型超參數(shù)通過解碼操作后計(jì)算得到的實(shí)際取值。

Step 4則是執(zhí)行Step 3后，在比較后記錄下有著較好適應(yīng)度的個(gè)體。

Step 7的本質(zhì)就是利用此前涉及到的量子旋轉(zhuǎn)門，來對(duì)舊的量子染色體進(jìn)行更新進(jìn)化，形成新一輪的量子染色體，在量子遺傳算法中，由于量子編碼作用下的染色體不再是單一的純態(tài)，遺傳處理中不能繼續(xù)僅僅采用傳統(tǒng)的選擇/交叉/變異等操作，而是要采用量子旋轉(zhuǎn)門作用于量子染色體的基態(tài)，使其相互干涉，相位發(fā)生變化，從而改變概率幅的分布。綜上論述可知，量子旋轉(zhuǎn)門的設(shè)計(jì)是整個(gè)算法框架里的核心步驟。對(duì)其實(shí)現(xiàn)過程將依次展開如下論述。

前文提到過，每一個(gè)量子位是通過量子旋轉(zhuǎn)門進(jìn)行更新的，對(duì)此可表示為：

進(jìn)一步，旋轉(zhuǎn)門U可表示為：

其中，θ表示本次的旋轉(zhuǎn)角度，該值大小與符號(hào)在量子位的更新過程中占據(jù)著舉足輕重的地位。研究中給出了量子位的旋轉(zhuǎn)演示如圖2所示。

由圖2可知，θi的正負(fù)情況將決定量子門的旋轉(zhuǎn)方向。若θi為正，更新后的量子比特位α將會(huì)減小，相應(yīng)地將提高其為1的概率;相反，若θi為負(fù)，更新后的量子比特位α將會(huì)增大，相應(yīng)地將提高其為0的概率。這里，對(duì)θi的設(shè)計(jì)可表述為：

其中，Δθi表示旋轉(zhuǎn)角度大小;s（αi，βi）表示其正負(fù)情況，設(shè)ri和bi分別表示當(dāng)前個(gè)體和當(dāng)前最優(yōu)個(gè)體的第i個(gè)量子位的二進(jìn)制取值，則此時(shí)對(duì)應(yīng)的θi可通過對(duì)表2的計(jì)算得到。

2.3 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法的改進(jìn)及完善

依據(jù)2.2節(jié)提出的基于量子遺傳的超參數(shù)調(diào)優(yōu)算法框架，本文對(duì)該算法進(jìn)行了改進(jìn)與完善。如前所述，該算法中量子旋轉(zhuǎn)門的設(shè)計(jì)是整個(gè)算法框架的重中之重，故而嘗試將原有的量子位更新方法改為了如下形式：

上述量子門為Hardmard門，也叫做相位門。使用此方式對(duì)量子位操作時(shí)，可以改變旋轉(zhuǎn)相位，也可以進(jìn)行將量子位旋轉(zhuǎn)90°的操作。該方式實(shí)現(xiàn)了遺傳算法中經(jīng)常會(huì)提到的變異操作，因此就通過將原算法中的量子旋轉(zhuǎn)操作改為使用Hardmard門，實(shí)現(xiàn)對(duì)量子染色體的變異，這就在一定程度上避免早熟現(xiàn)象的發(fā)生。

此外，對(duì)算法過程的完善操作即是在最后加入了量子災(zāi)變過程。也就是說，當(dāng)運(yùn)算中連續(xù)多次都沒有進(jìn)化發(fā)生后，此時(shí)就要引發(fā)量子災(zāi)變過程，將新一輪的量子染色體重新初始化初值，再繼續(xù)正常向下運(yùn)行算法，如此即可在一定程度上避免陷入局部最優(yōu)。本文提出的基于量子遺傳的超參數(shù)調(diào)優(yōu)算法的流程如圖3所示。

3 實(shí)驗(yàn)

為了驗(yàn)證本文提出算法的有效性，本小節(jié)擬進(jìn)行一些對(duì)比實(shí)驗(yàn)。首先是與基因遺傳算法（GA）的執(zhí)行測(cè)試結(jié)果進(jìn)行比較，2種算法執(zhí)行過程中的迭代收斂曲線如圖4所示。橫坐標(biāo)表示迭代次數(shù)，縱坐標(biāo)表示模型在每輪迭代訓(xùn)練后的執(zhí)行性能。

由圖4可以看出，基于量子遺傳的參數(shù)優(yōu)化算法收斂速度要快于GA算法，并且最終都使得機(jī)器學(xué)習(xí)模型在優(yōu)化結(jié)束后獲得較好的性能。

接下來是與模擬退火搜索算法相比較，結(jié)果如圖5所示。圖5中實(shí)線表達(dá)的是本文所提出算法的實(shí)驗(yàn)結(jié)果。橫坐標(biāo)表示實(shí)驗(yàn)次數(shù)，縱坐標(biāo)表示每次實(shí)驗(yàn)后模型在優(yōu)化算法執(zhí)行過程中達(dá)到的最好性能。

從圖5分析可知，由于對(duì)比算法存在一定概率隨機(jī)搜索，即使得相比之下本文提出的優(yōu)化算法的執(zhí)行結(jié)果明顯更加穩(wěn)定。

同時(shí)，還與概率隨機(jī)搜索算法進(jìn)行對(duì)照，研究得到的算法時(shí)間復(fù)雜度的結(jié)果對(duì)比見表3。

由表3可以看出，本文提出的調(diào)優(yōu)算法在時(shí)間復(fù)雜度上與隨機(jī)搜索算法相差無幾，并就之前提到的基于種群的進(jìn)化算法的時(shí)間效率問題得到了很好的解決。

最后，將本文算法應(yīng)用在其他的模型優(yōu)化場(chǎng)景中進(jìn)行測(cè)試，測(cè)試結(jié)果見圖6。

由圖6可知，本文提出的優(yōu)化算法應(yīng)用在其他傳統(tǒng)機(jī)器學(xué)習(xí)模型的超參數(shù)優(yōu)化問題中也有良好表現(xiàn)。

4 結(jié)束語

本文提出了一種基于量子遺傳的超參數(shù)自動(dòng)調(diào)優(yōu)算法。

首先，該算法是結(jié)合了進(jìn)化算法和概率隨機(jī)搜索兩者的核心思想。進(jìn)化算法在使用時(shí)大部分是基于種群的方法，比如一些進(jìn)化遺傳算法，粒子群優(yōu)化算法等，如果把種群個(gè)數(shù)設(shè)置為?1，這些算法就失去了作用，因其每次迭代需要互相之間的信息交互。但是量子遺傳與之不同的地方就在于，該算法是由相互獨(dú)立的每個(gè)個(gè)體組成，每次更新均是通過旋轉(zhuǎn)門來實(shí)現(xiàn)的，所以當(dāng)種群的規(guī)模為1時(shí)，算法也可以正常執(zhí)行。所以本文所提算法在時(shí)間復(fù)雜度上與前者近似，兩者均為在每一輪迭代中進(jìn)行一次模型性能評(píng)估，這也解決了一般進(jìn)化算法迭代緩慢、收斂速度較低的問題。

其次，本文算法也繼承了遺傳進(jìn)化算法的特性，量子染色體通過旋轉(zhuǎn)門的操作使得每個(gè)量子位都在朝著好的方向進(jìn)化，如此一來就使得相比于前者來說，算法的執(zhí)行結(jié)果更加穩(wěn)定。

同時(shí)，本文算法在其他模型優(yōu)化問題中有較好的表現(xiàn)，說明本文算法也具有一定的通用性。

最后，通過實(shí)驗(yàn)結(jié)果分析表明，本文算法在解決超參數(shù)調(diào)優(yōu)問題上具有可行性及有效性。而將該算法思想應(yīng)用于解決更多的超參數(shù)優(yōu)化問題場(chǎng)景上，則是未來后續(xù)工作中的重點(diǎn)研究?jī)?nèi)容。

參考文獻(xiàn)

[1]陸高. 基于智能計(jì)算的超參數(shù)優(yōu)化及其應(yīng)用研究[D]. 西安：西安電子科技大學(xué)，2018.

[2]LERMAN P M. Fitting segmented regression models by grid search[J]. Applied Statistics，1980，29（1）：77-84.

[3]BERGSTRA J， BENGIO Y. Random search for hyper-parameter optimization[J]. Journal of Machine Learning Research， 2012， 13（10）：281-305.

[4]BERGSTRA J S， BARDENET R， BENGIO Y， et al. Algorithms for hyper-parameter optimization[C]//25th Annual Conference on Neural Information Processing Systems（NIPS 2011）. Granada， Spain：dblp， 2011： 2546-2554.

[5]BROCHU E， CORA V M， De FREITAS N. A tutorial on Bayesian optimization of expensive cost functions， with application to active user modeling and hierarchical reinforcement learning[J]. arXiv preprint arXiv：1012.2599， 2010.

[6]燕飛， 秦世引. 一種基于模擬退火的支持向量機(jī)超參數(shù)優(yōu)化算法[J]. 航天控制， 2008，26（5）：7-11，17.

[7]唐靜， 胡云安， 肖支才. 基于遺傳算法的電路故障診斷超參數(shù)優(yōu)化算法框架[J]. 計(jì)算機(jī)工程與應(yīng)用， 2012， 48（3）：13-16.

[8]GUO X C， YANG J H， WU C G， et al. A novel LS-SVMs hyper-parameter selection based on particle swarm optimization[J]. Neurocomputing， 2008， 71（16-18）：3211-3215.

[9]焦李成， 李陽(yáng)陽(yáng)， 劉芳，等. 量子計(jì)算、優(yōu)化與學(xué)習(xí)[M]. 北京： 科學(xué)出版社， 2017.

[10]周傳華，錢峰. 改進(jìn)量子遺傳算法及其應(yīng)用[J]. 計(jì)算機(jī)應(yīng)用，2008，28（2）：286-288.

[11]張秋艷，王默玉，申曉留，等.基于災(zāi)變因子的量子遺傳算法研究[J].計(jì)算機(jī)與數(shù)字工程，2019，47（7）：1591-1595.