劉奇 李璞2)3)? 開超 胡春強(qiáng) 蔡強(qiáng) 張建國(guó) 徐兵杰
1) (太原理工大學(xué), 新型傳感器與智能控制教育部重點(diǎn)實(shí)驗(yàn)室, 太原 030024)
2) (廣東工業(yè)大學(xué)信息工程學(xué)院, 廣州 510006)
3) (廣東省光子學(xué)信息技術(shù)重點(diǎn)實(shí)驗(yàn)室, 廣州 510006)
4) (中國(guó)電子科技集團(tuán)公司第三十研究所, 成都 610041)
5) (西南通信研究所, 保密通信重點(diǎn)實(shí)驗(yàn)室, 成都 610041)
提出并證明了一種利用時(shí)延光子儲(chǔ)備池計(jì)算短期預(yù)測(cè)混沌激光的時(shí)間序列.具體來說, 建立基于光反饋和光注入半導(dǎo)體激光器的儲(chǔ)備池結(jié)構(gòu), 通過選擇合適的系統(tǒng)參數(shù), 時(shí)延光子儲(chǔ)備池計(jì)算可以有效地預(yù)測(cè)混沌激光約2 ns的動(dòng)態(tài)軌跡.此外, 研究了系統(tǒng)參數(shù)對(duì)預(yù)測(cè)結(jié)果的影響, 包括掩模類型、虛擬節(jié)點(diǎn)數(shù)、訓(xùn)練數(shù)據(jù)長(zhǎng)度、輸入增益、反饋強(qiáng)度、注入強(qiáng)度、嶺參數(shù)和泄漏率.作為一種具有全光實(shí)現(xiàn)潛力的機(jī)器學(xué)習(xí)方法, 時(shí)延光子儲(chǔ)備池具有結(jié)構(gòu)簡(jiǎn)單、訓(xùn)練成本低、易于硬件實(shí)現(xiàn)等優(yōu)點(diǎn).
預(yù)測(cè)混沌激光具有廣闊的應(yīng)用前景, 如丟失數(shù)據(jù)恢復(fù)、數(shù)據(jù)分析、基于激光混沌同步密碼學(xué)中數(shù)據(jù)加密的安全性測(cè)試[1,2].
近期, Amil等[1]使用多種機(jī)器學(xué)習(xí)算法預(yù)測(cè)即將激射的混沌激光脈沖振幅, 所使用的算法包括神經(jīng)網(wǎng)絡(luò)、最近鄰、支持向量機(jī)和儲(chǔ)備池計(jì)算(reservoir computing, RC).文中采用多種預(yù)測(cè)方法作為目標(biāo)函數(shù), 輸入一定數(shù)量的激光峰值振幅,輸出下一個(gè)激光峰值振幅, 而不是連續(xù)的激光時(shí)序.Cunillera等[2]通過建立基于RC的交叉預(yù)測(cè)模型, 預(yù)測(cè)光注入半導(dǎo)體激光器的混沌動(dòng)力學(xué).利用交叉預(yù)測(cè)模型實(shí)現(xiàn)狀態(tài)觀測(cè)器, 在預(yù)測(cè)連續(xù)激光強(qiáng)度時(shí)序時(shí), 需要相應(yīng)時(shí)刻的相位差或載流子密度數(shù)據(jù).
僅利用一定的測(cè)量數(shù)據(jù)預(yù)測(cè)復(fù)雜系統(tǒng)的連續(xù)輸出時(shí)序是非線性科學(xué)中最重要的經(jīng)典問題之一[3-7].因此, 本文的目標(biāo)是利用過去的觀測(cè)值來預(yù)測(cè)混沌激光的連續(xù)時(shí)序.首先建立基于光注入和光反饋結(jié)構(gòu)半導(dǎo)體激光器的時(shí)延光子RC預(yù)測(cè)系統(tǒng), 另一光反饋半導(dǎo)體激光器產(chǎn)生混沌激光作為測(cè)試信號(hào).結(jié)果表明, 基于半導(dǎo)體激光器的時(shí)延RC可以預(yù)測(cè)2 ns左右的混沌激光軌跡.盡管預(yù)測(cè)長(zhǎng)度有限, 但利用時(shí)延光子RC預(yù)測(cè)混沌激光為其進(jìn)一步應(yīng)用打下基礎(chǔ).
特別指出的是, 本文采用的時(shí)延RC是一種新型人工神經(jīng)網(wǎng)絡(luò), 其結(jié)構(gòu)簡(jiǎn)單、訓(xùn)練成本低[8,9].與傳統(tǒng)RC相比, 時(shí)延RC的核心思想是利用一個(gè)具有延遲反饋結(jié)構(gòu)的非線性節(jié)點(diǎn)作為傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的中間層.到目前為止, 已相繼提出各種光電和全光結(jié)構(gòu)的時(shí)延RC[10-24], 并且應(yīng)用于多項(xiàng)任務(wù), 包括語音識(shí)別、信道均衡和圣達(dá)菲時(shí)序預(yù)測(cè)等.外光反饋半導(dǎo)體激光器是實(shí)現(xiàn)全光RC的理想選擇, 利用半導(dǎo)體激光器實(shí)現(xiàn)信息處理將引領(lǐng)光子信息處理領(lǐng)域從傳統(tǒng)方法向機(jī)器學(xué)習(xí)范式的轉(zhuǎn)變[9].本文首次實(shí)現(xiàn)了基于半導(dǎo)體激光器的時(shí)延光子RC的混沌激光預(yù)測(cè).
基于半導(dǎo)體激光器的時(shí)延光子RC系統(tǒng)如圖1所示, 該系統(tǒng)由輸入層、儲(chǔ)備池層和輸出層三部分組成.輸入層主要工作是數(shù)據(jù)預(yù)處理, 混沌激光(輸入信號(hào))等間隔采樣后用u(n)表示, 其中n是輸入數(shù)據(jù)的索引.將u(n)的每個(gè)采樣點(diǎn)保持周期時(shí)間τ, 并與隨機(jī)生成的掩模M(t)相乘以獲得調(diào)制信號(hào)S(t).掩模M(t)的值在每個(gè)時(shí)間間隔θ處隨機(jī)地取[—1, 1]內(nèi)的值, θ對(duì)應(yīng)于儲(chǔ)備池中的虛擬節(jié)點(diǎn)間隔.具體地, 二值掩模信號(hào)由隨機(jī)調(diào)制的序列{—1, 1}組成; 混沌掩模信號(hào)由光反饋半導(dǎo)體激光器產(chǎn)生[25], 其振幅被重新縮放為均值為0、方差為1的序列.掩模通過分配相同的輸入信息到不同權(quán)重的節(jié)點(diǎn)上, 豐富了儲(chǔ)備池的動(dòng)態(tài)特性.
圖1 基于半導(dǎo)體激光器的時(shí)延儲(chǔ)備池計(jì)算系統(tǒng)示意圖Fig.1.Schematic diagram of reservoir computing system based on semiconductor laser.
儲(chǔ)備池層將輸入信號(hào)映射到高維狀態(tài)空間.輸入層的調(diào)制信號(hào)S(t)調(diào)制驅(qū)動(dòng)半導(dǎo)體激光器(drive semiconductor laser, D-laser)的輸出光, 注入到具有外部反饋的響應(yīng)半導(dǎo)體激光器(response semiconductor laser, R-laser).在延遲時(shí)間τ內(nèi), N個(gè)虛擬節(jié)點(diǎn)的狀態(tài)由R-laser在每個(gè)間隔θ (θ =τ/N)的瞬態(tài)響應(yīng)決定.由于時(shí)延儲(chǔ)備池具有短時(shí)記憶特性, 其非線性瞬態(tài)過程既依賴于當(dāng)前輸入信號(hào), 也依賴于過去的儲(chǔ)備池響應(yīng).這一特性以及近似性和差異性對(duì)系統(tǒng)性能至關(guān)重要.基于Lang-Kobayashi方程[26-28], 具有光反饋和光注入結(jié)構(gòu)的半導(dǎo)體激光器的動(dòng)力學(xué)可以建模為
式中, E(t)表示緩慢變化的復(fù)電場(chǎng), N(t)表示平均載流子密度.方程(1)中的最后兩項(xiàng)表示反饋項(xiàng)和注入項(xiàng).表1總結(jié)了數(shù)值模擬中參數(shù)的含義和參考值.本文將信號(hào)S(t)用于調(diào)制電場(chǎng)相位, 注入的慢變復(fù)電場(chǎng)Einj(t)可以表示為
表1 數(shù)值模擬中使用的激光器參數(shù)值Table 1.Laser parameter values used in numerical simulations.
式中, Jd是D-laser的輸出光強(qiáng)度.S(t)表示在輸入層產(chǎn)生的調(diào)制信號(hào), 可以表示為
其中u(n)是混沌激光等間隔采樣后的離散值;M(t)是周期為τ的掩模信號(hào); Gin是輸入增益, 實(shí)現(xiàn)了信號(hào)的線性縮放.
在輸出層中, RC的輸出是儲(chǔ)備池狀態(tài)Xi和輸出權(quán)重Wi(i = 1, 2, ···, N; N是虛擬節(jié)點(diǎn)的數(shù)目)的線性組合:
混沌激光預(yù)測(cè)過程可分為兩個(gè)階段.一是訓(xùn)練階段, 通過使用嶺回歸算法最小化目標(biāo)值u(n)和輸出值之間的差來優(yōu)化輸出權(quán)重[29].訓(xùn)練完成后, 輸出權(quán)值保持不變.另一個(gè)是預(yù)測(cè)階段, 利用剩余的混沌激光時(shí)序?qū)︻A(yù)測(cè)系統(tǒng)進(jìn)行測(cè)試.預(yù)測(cè)任務(wù)通過設(shè)置u(n + 1) =來完成, 即將預(yù)測(cè)值代入系統(tǒng)進(jìn)行下一步預(yù)測(cè).此外, 在訓(xùn)練階段之前, 一定的“空轉(zhuǎn)”過程也很有意義.由于儲(chǔ)備池系統(tǒng)在初始化后處于穩(wěn)態(tài), “空轉(zhuǎn)”通過向系統(tǒng)輸入數(shù)據(jù), 不斷更新儲(chǔ)備池狀態(tài)以消除穩(wěn)態(tài)記憶.“空轉(zhuǎn)”時(shí)不保存儲(chǔ)備池狀態(tài)數(shù)據(jù), “空轉(zhuǎn)”序列的長(zhǎng)度通常是儲(chǔ)備池節(jié)點(diǎn)數(shù)的2—4倍.
最后, 本文使用預(yù)測(cè)長(zhǎng)度(PL)來評(píng)估不同工作點(diǎn)的預(yù)測(cè)水平, 預(yù)測(cè)長(zhǎng)度PL定義為歸一化均方誤差(normalized mean squared error, NMSE)[10]首次超過一定值ζ之前的準(zhǔn)確預(yù)測(cè)持續(xù)時(shí)間, 即NMSE (PL) = ζ.NMSE定義為
為測(cè)試時(shí)延光子RC預(yù)測(cè)系統(tǒng)性能, 本文仿真了外部光反饋半導(dǎo)體激光器的動(dòng)力學(xué):
其中的符號(hào)含義與(1)式和(2)式相同.此外, χ(t)表示均值為0、方差為1的高斯白噪聲, 用于模擬自發(fā)輻射噪聲.β是自發(fā)輻射噪聲的強(qiáng)度, 仿真中取β = 10—6.
圖2 (a) 激光器輸出強(qiáng)度的分岔圖; (b) 混沌激光目標(biāo)信號(hào)及其預(yù)測(cè)值Fig.2.(a) Bifurcation diagram of the output intensity of the laser; (b) chaotic laser target signal together with the predicted values.
圖3給出了系統(tǒng)參數(shù)與平均預(yù)測(cè)長(zhǎng)度(PL)的關(guān)系曲線.在每個(gè)參數(shù)值可調(diào)范圍內(nèi), 計(jì)算10次實(shí)現(xiàn)的平均值, 其他參數(shù)保持表1中的參考值不變.平均值的標(biāo)準(zhǔn)偏差在趨勢(shì)圖中用豎線表示.
圖3(a) 為在不同類型掩模和不同節(jié)點(diǎn)數(shù)的情況下, 預(yù)測(cè)長(zhǎng)度(PL)隨訓(xùn)練長(zhǎng)度(Ts)變化的趨勢(shì)圖, 包括三種情況: 混沌掩模信號(hào)且節(jié)點(diǎn)數(shù)為800(黑色正方形)、二值掩模信號(hào)且節(jié)點(diǎn)數(shù)為800 (紅色圓圈)、混沌掩模信號(hào)且節(jié)點(diǎn)數(shù)為400 (藍(lán)色三角形).總的來看, 隨著訓(xùn)練長(zhǎng)度的增加, 預(yù)測(cè)能力逐漸增強(qiáng)然后趨于穩(wěn)定, 這表明實(shí)現(xiàn)良好的預(yù)測(cè)性能需要充分的訓(xùn)練數(shù)據(jù).在這三種方案中, PL值分別達(dá)到1.0, 1.5和2.0 ns.通過對(duì)比紅色圓圈和黑色正方形的曲線, 由于使用混沌掩模信號(hào), 儲(chǔ)備池產(chǎn)生更復(fù)雜的動(dòng)態(tài)響應(yīng)來更好地執(zhí)行預(yù)測(cè)任務(wù)[26].比較黑色正方形和藍(lán)色三角形的曲線可以看出, 虛擬節(jié)點(diǎn)的增加同樣可以優(yōu)化系統(tǒng)預(yù)測(cè)性能.考慮到系統(tǒng)運(yùn)行時(shí)間與虛擬節(jié)點(diǎn)的數(shù)目成正比, 并且在節(jié)點(diǎn)數(shù)為800的基礎(chǔ)上增加虛擬節(jié)點(diǎn)數(shù)目不能進(jìn)一步增加預(yù)測(cè)長(zhǎng)度(未示出).所以本文選擇了節(jié)點(diǎn)數(shù)為800的混沌掩模信號(hào).圖3(b)給出了預(yù)測(cè)長(zhǎng)度(PL)隨輸入增益(Gin)變化的趨勢(shì)圖.隨著輸入增益的變化, 預(yù)測(cè)長(zhǎng)度先增加后降低, 在Gin= 1.5時(shí)達(dá)到最大.輸入增益的作用是對(duì)輸入信號(hào)進(jìn)行縮放, 以適應(yīng)儲(chǔ)備池非線性的輸入范圍.
圖3 (a) 在不同掩模類型和不同節(jié)點(diǎn)數(shù)的情況下, 預(yù)測(cè)長(zhǎng)度(PL)隨訓(xùn)練長(zhǎng)度(Ts)變化的趨勢(shì)圖; (b) 在使用混沌掩模信號(hào)且節(jié)點(diǎn)數(shù)為800的情況下, 預(yù)測(cè)長(zhǎng)度(PL)隨輸入增益(Gin)變化的趨勢(shì)圖; 虛線為擬合曲線Fig.3.(a) PL as a function of the length of the training data (Ts) under different type of masks and the number of nodes; (b) PL as a function of the input gain (Gin) under N = 800 with the chaos mask signal.The dotted lines represent the associated fitting curves.
圖4 (a) 給出了反饋強(qiáng)度(kf)和注入強(qiáng)度(kinj)對(duì)預(yù)測(cè)長(zhǎng)度(PL)影響的二維圖.不同的顏色對(duì)應(yīng)不同的PL值, 紅色區(qū)域的預(yù)測(cè)長(zhǎng)度達(dá)到2 ns.圖4(b)和圖4(c)為在(kinj, kf) = (0.06, 0.18)的情況下, 無調(diào)制信號(hào)和加載調(diào)制信號(hào)時(shí)R-laser的時(shí)序.在沒有調(diào)制信號(hào)的情況下, 儲(chǔ)備池是以單周期狀態(tài)運(yùn)行; 當(dāng)載入調(diào)制數(shù)據(jù), 儲(chǔ)備池表現(xiàn)為復(fù)雜的瞬態(tài)動(dòng)力學(xué).如文獻(xiàn)[8]所述, RC需要滿足兩個(gè)基本屬性: 不同的輸入映射到足夠不同的儲(chǔ)備池狀態(tài)(差異性), 而相似的輸入映射到足夠相似的儲(chǔ)備池狀態(tài)(近似性).儲(chǔ)備池應(yīng)在適當(dāng)?shù)膭?dòng)態(tài)范圍內(nèi)運(yùn)行, 以滿足差異和近似特性.這種動(dòng)態(tài)范圍可以被描述為一個(gè)單一的周期狀態(tài), 接近激光動(dòng)力學(xué)系統(tǒng)的中性穩(wěn)定性(也稱為邊緣混沌)[26].
圖4 (a)預(yù)測(cè)系統(tǒng)在不同反饋強(qiáng)度(kf)和注入強(qiáng)度(kinj)的參數(shù)空間中PL值的二維圖; (b), (c) 在(kinj, kf) = (0.06, 0.18)的條件下, 無調(diào)制信號(hào)和有調(diào)制信號(hào)時(shí)R-laser的輸出強(qiáng)度時(shí)序Fig.4.(a) Two-dimensional map of the PL values of prediction system in the parameter space of the different feedback strength (kf)and the injection strength (kinj); (b), (c) temporal traces of the R-laser under (kinj, kf) = (0.06, 0.18) without and with modulated input data.
圖5(a)為預(yù)測(cè)長(zhǎng)度(PL)隨泄漏率(δ)變化的趨勢(shì)圖.在輸出層, 每個(gè)記錄的儲(chǔ)備池狀態(tài)Xt(t =1, 2, 3, ···, T; T代表輸入數(shù)據(jù)量)都包含上一時(shí)刻的儲(chǔ)備池狀態(tài)Xt—1[30], 計(jì)算公式為Xt= δXt—1+(1 — δ)f (GinWinu(n)).其中f (·)表示儲(chǔ)備池的非線性映射, 泄漏率δ表示上一時(shí)刻的儲(chǔ)備池狀態(tài)與當(dāng)前儲(chǔ)備池狀態(tài)的比值.從圖5(a)可以看出, PL的最高值在δ = 0.25時(shí)獲取.泄漏率越小, 儲(chǔ)備池更新速度越快.圖5(b)為預(yù)測(cè)長(zhǎng)度(PL)隨嶺參數(shù)(λ)變化的趨勢(shì)圖.嶺參數(shù)影響輸出權(quán)值的訓(xùn)練結(jié)果, λ ≤ 10—6時(shí)系統(tǒng)性能穩(wěn)定; 當(dāng)λ > 10—6時(shí), 系統(tǒng)性能逐漸變差.嶺回歸算法通過放棄系統(tǒng)的無偏性來增大其數(shù)值穩(wěn)定性, 提高了數(shù)據(jù)處理的精度和效率[29].
圖5 (a) 預(yù)測(cè)長(zhǎng)度(PL)隨泄漏率(δ)變化的趨勢(shì)圖; (b) 預(yù)測(cè)長(zhǎng)度(PL)隨嶺參數(shù)(λ)變化的趨勢(shì)圖; 虛線為擬合曲線Fig.5.(a) PL as a function of the leakage rate (δ); (b) PL as a function of the Ridge parameter (λ).The dotted lines represent the associated fitting curves.
本文建立了基于光注入和光反饋半導(dǎo)體激光器的時(shí)延光子RC預(yù)測(cè)系統(tǒng), 利用時(shí)延光子RC預(yù)測(cè)混沌激光的連續(xù)時(shí)序演化.通過對(duì)比不同掩模類型, 驗(yàn)證混沌掩模的優(yōu)勢(shì).通過改變節(jié)點(diǎn)數(shù)和訓(xùn)練數(shù)據(jù)大小選擇合適的數(shù)據(jù)量.通過調(diào)節(jié)幾個(gè)關(guān)鍵參數(shù)來說明其對(duì)RC系統(tǒng)的影響, 具體包括輸入增益對(duì)輸入信號(hào)進(jìn)行縮放, 以適應(yīng)儲(chǔ)備池非線性的輸入范圍; 反饋和注入強(qiáng)度影響儲(chǔ)備池的非線性狀態(tài), 選取合理的值以滿足系統(tǒng)的近似性和差異性;泄漏率和嶺參數(shù)分別影響儲(chǔ)備池的更新速度和輸出權(quán)重的訓(xùn)練結(jié)果, 在合理范圍內(nèi)進(jìn)行調(diào)整以適應(yīng)不同任務(wù).數(shù)值模擬結(jié)果表明, 混沌激光軌跡的預(yù)測(cè)長(zhǎng)度達(dá)到2 ns, 為混沌激光預(yù)測(cè)技術(shù)的發(fā)展提供了新的契機(jī), 同時(shí)也為混沌激光的應(yīng)用提供了新的參考.