最小二乘支持向量機(jī)的自適應(yīng)數(shù)字水印算法

付港，李鳴

南昌大學(xué)機(jī)電工程學(xué)院，江西 南昌 330031

最小二乘支持向量機(jī)的自適應(yīng)數(shù)字水印算法

付港，李鳴*

南昌大學(xué)機(jī)電工程學(xué)院，江西 南昌 330031

為了提高數(shù)字水印的安全性，提出了一種新的基于對(duì)比度掩蔽特性的數(shù)字水印算法.根據(jù)人眼視覺系統(tǒng)（HVS）的視覺特性，人眼對(duì)于亮度信號(hào)（Y）的改變較色度信號(hào)（U、V）的改變更加敏感，在圖像學(xué)國際標(biāo)準(zhǔn)CCIR601當(dāng)中，圖像YUV空間中的Y∶U∶V通常會(huì)取4∶2∶2.首先引入對(duì)比度敏感函數(shù)模型，選擇一些對(duì)比度函數(shù)值最大的子塊，并升序排列；接著，對(duì)于前一半子塊，使用最小二乘支持向量機(jī)建立圖像鄰域像素之間的關(guān)系模型；最后，通過動(dòng)態(tài)地調(diào)整模型的輸出值與中心像素值之間的大小關(guān)系，在另一半子塊中實(shí)現(xiàn)水印的嵌入與提取.同時(shí)，還利用粒子群算法優(yōu)化了最小二乘支持向量機(jī)的超參數(shù).仿真實(shí)驗(yàn)表明，該數(shù)字水印算法具有著良好的不可感知性與魯棒性，對(duì)一些常規(guī)的攻擊操作也有著很強(qiáng)的抵抗能力.

數(shù)字水印；最小二乘支持向量機(jī)；不可感知性；魯棒性；粒子群算法

0 引言

數(shù)字多媒體的迅猛發(fā)展，有關(guān)數(shù)字作品的版權(quán)問題、侵權(quán)問題等時(shí)有發(fā)生，因此研究出一種更加有效的數(shù)字水印算法是一個(gè)很緊迫的問題.數(shù)字水印算法通常分為空域法和變換域法.空域法是把水印信息直接地嵌入載體圖像當(dāng)中去，它具有算法比較簡單、嵌入速度很快、嵌入的水印容量很大、容易實(shí)現(xiàn)等優(yōu)點(diǎn)，在版權(quán)保護(hù)等方面都有著相當(dāng)廣泛的應(yīng)用［1］.然而，由于它是直接地在圖像的表面修改水印信息，況且水印信息相對(duì)原始載體圖片來說本身就是一種噪聲信號(hào)，這些都導(dǎo)致空間域的數(shù)字水印算法抵抗一些常規(guī)攻擊的能力普遍比較弱.

為了獲得數(shù)字水印系統(tǒng)的不可感知性及穩(wěn)健性達(dá)到最佳平衡，近年來一些學(xué)者將統(tǒng)計(jì)學(xué)習(xí)理論及機(jī)器學(xué)習(xí)的思想引入到數(shù)字水印中來，像神經(jīng)網(wǎng)絡(luò)、遺傳算法、模糊聚類等.黃雄華等［2］先把載體圖像進(jìn)行小波變換，再使用神經(jīng)網(wǎng)絡(luò)自適應(yīng)地確定水印嵌入的最大強(qiáng)度.王忠等［3］利用遺傳算法優(yōu)化不可見性的參數(shù)構(gòu)成的目標(biāo)函數(shù).雖然這些方法對(duì)數(shù)字水印系統(tǒng)的性能有著一定程度的改善，但都還有著一些局限性，像神經(jīng)網(wǎng)絡(luò)在確定網(wǎng)絡(luò)的種類、參數(shù)時(shí)需要靠經(jīng)驗(yàn)確定，沒有科學(xué)的理論指導(dǎo)；遺傳算法對(duì)于大量的數(shù)據(jù)集計(jì)算量特別地大，且泛化能力不是很好，容易陷入局部最優(yōu)解.

圖像的相關(guān)性理論表明：數(shù)字圖像鄰域像素之間存在著一種非線性映射的數(shù)學(xué)函數(shù)關(guān)系.Watson提出的人眼視覺模型［4］，在圖像水印算法中有著廣泛的應(yīng)用.根據(jù)這個(gè)特性，張力等［5］利用顏色特征模型，進(jìn)行車輛目標(biāo)的檢測.生理學(xué)家發(fā)現(xiàn)，人眼對(duì)于色度信號(hào)的改變較亮度信號(hào)的改變不是很敏感，通過選擇對(duì)比度函數(shù)值較大的圖像子小塊進(jìn)行水印信息的嵌入和提取.最小二乘支持向量機(jī)（Least squares support vector machine）（LS－SVM）［6］基于的是結(jié)構(gòu)風(fēng)險(xiǎn)最小化理論，它有著很強(qiáng)的泛化能力和學(xué)習(xí)能力，在諸如小樣本、非線性、高維數(shù)、局部極小值等模式識(shí)別問題中有著特有的優(yōu)勢.此時(shí)，將LS－SVM理論應(yīng)用于數(shù)字水印系統(tǒng)的嵌入和提取，建立水印嵌入位置的特征和水印信號(hào)之間的非線性映射的函數(shù)關(guān)系，并使用粒子群算法（PSO）優(yōu)化超參數(shù)，這些都將會(huì)極大的提高水印嵌入和提取的成功率.李松等［7］利用遺傳算法優(yōu)化支持向量機(jī)，建立小波系數(shù)方向樹模型，自適應(yīng)地確定水印的嵌入位置.實(shí)驗(yàn)結(jié)果表明，該算法有著很好的不可感知性及魯棒性.

1 最小二乘支持向量機(jī)

最小二乘支持向量機(jī)［6］是支持向量機(jī)（SVM）的一種擴(kuò)展，它利用誤差的2－范數(shù)取代了SVM中的松弛變量，將誤差的平方和的損失函數(shù)當(dāng)作訓(xùn)練集的損失，這樣就將一個(gè)二次規(guī)劃的問題巧妙的轉(zhuǎn)化成一個(gè)線性方程組的求解，這在一定程度上提高了求解速度和收斂的精度.

（1）設(shè)樣本集是一個(gè)n維向量，給定l個(gè)樣本的數(shù)據(jù)集，xi、yi分別表示樣本的輸入、輸出向量，數(shù)據(jù)集可以表示為

（2）對(duì)于最小二乘支持向量機(jī)，優(yōu)化問題為

式（2）中：i＝1，2…l

（3）使用拉格朗日算子求解公式（2）得

（4）超參數(shù)的優(yōu)化：選擇最常見的RBF核函數(shù)，其中正則化參數(shù)c和寬度參數(shù)σ2的選擇，對(duì)于LS－SVM的性能發(fā)揮有著極其重要的影響，利用粒子群算法對(duì)其進(jìn)行優(yōu)化處理，各個(gè)粒子的適應(yīng)度函數(shù)值取預(yù)測值與真值的均方誤差為

（5）粒子群初始參數(shù)的設(shè)定：進(jìn)化次數(shù)200次，粒子數(shù)20，局部搜索能力與全局搜索能力均為2，設(shè)定超參數(shù)范圍c＝［0．01 1000］，g＝［0．01 100］精度eps＝1．0e－06；慣性權(quán)重wmax＝0．9，wmin＝0．4，且采用線性遞減方式為

2 水印信息的嵌入與提取

數(shù)字圖像空間域鄰域像素之間具有很強(qiáng)的相關(guān)性，利用LS－SVM強(qiáng)大的學(xué)習(xí)與泛化能力，建立中心像素與鄰域像素之間的關(guān)系模型.通過一些實(shí)驗(yàn)的綜合比較，選取比較常見的圖像3×3鄰域.

設(shè)載體圖像I是512×512的灰度圖像，水印圖像W是word上制作的含“南昌大學(xué)”字樣的二值圖像，其大小是32×32，I＝｛Ii，j｜1≤i≤M，1≤j≤N｝，其中Ii，j代表（i，j）位置的像素點(diǎn)的灰度值大小，W＝｛Wi，j｜1≤i≤P，1≤j≤Q｝，Wi，j＝｛0，1｝，水印的嵌入與提取步驟如下：

步驟1：用于LS－SVM操作子小塊的選取，在空間域的YUV空間當(dāng)中［8-9］，首先引入對(duì)比度敏感函數(shù)模型［10］：

若背景亮度值β≥128時(shí)，

若背景亮度值β＜128時(shí)，則有

計(jì)算每一個(gè)3×3小塊的對(duì)比度函數(shù)H（g）值，并且升序排列，選取其中最大的2×P×Q個(gè)子塊當(dāng)作LS－SVM的數(shù)據(jù)集［11］.

步驟2：選取LS－SVM訓(xùn)練樣本.選取步驟1中前面一半子塊的中心像素P（i，j）及其3×3鄰域分別作為輸出輸入向量，建立LS－SVM的訓(xùn)練模型.

步驟3：修改回歸樣本值.選取步驟1中后面一半子塊，記作密鑰Ⅲ，修改中心像素Q（i，j）的值，采用自適應(yīng)加性嵌入法則：

式（8）中：α是自適應(yīng)強(qiáng)度因子.

步驟4：嵌入水印.根據(jù)中心像素Q（i，j）的鄰域作為測試數(shù)據(jù)，修改中心像素的值，并與式（8）中I′t作比較，這樣就嵌入了水印信息：

步驟5：提取水印.水印提取與嵌入是一個(gè)逆過程，前面的步驟基本一樣.根據(jù)密鑰Ⅲ定位到相關(guān)子塊，根據(jù)中心像素Q（i，j）的3×3鄰域預(yù)測其中心像素值，與實(shí)際值I′t作比較，這樣就提取了水印信息：

下面將采用PSNR、SNR、NC、BER作為水印系統(tǒng)性能評(píng)價(jià)指標(biāo).

3 實(shí)驗(yàn)結(jié)果及分析

3.1 粒子群優(yōu)化超參數(shù)部分

實(shí)驗(yàn)結(jié)果：均方根誤差RMSE＝40．664 1，平方相關(guān)系數(shù)r＝0．819 03，訓(xùn)練時(shí)間t＝1．683 5 s；參照文獻(xiàn)［11］中的算法，對(duì)于同樣的數(shù)據(jù)集，若采用BP神經(jīng)網(wǎng)絡(luò)，RMSE＝48．454 8，平方相關(guān)系數(shù)r＝0．739 03，訓(xùn)練時(shí)間t＝90．982 0 s.可見LS－SVM在提高數(shù)據(jù)集的預(yù)測精度及訓(xùn)練時(shí)間等方面，優(yōu)勢比較明顯.如果數(shù)據(jù)集的噪點(diǎn)進(jìn)行有效處理，特定載體圖像的特征提取更加完美，并且設(shè)定的PSO相關(guān)初始化參數(shù)非常恰當(dāng)，其優(yōu)勢將會(huì)更加突出.

PSO優(yōu)化超參數(shù)的過程當(dāng)中，適應(yīng)度曲線剛開始下降得很明顯，最終穩(wěn)定在迭代40代左右，適應(yīng)度值在2 348左右.多次實(shí)驗(yàn)過程中，隨著迭代次數(shù)增加，適應(yīng)度值得到了一定程度的改善，但時(shí)間成本及計(jì)算機(jī)內(nèi)存損耗都非常大，優(yōu)化過程也容易陷入局部最優(yōu)解.參數(shù)的初始化設(shè)置也是PSO優(yōu)化過程中的難點(diǎn)所在.即便如此，由以下的圖、表及相關(guān)數(shù)據(jù)可知，本套數(shù)字水印算法的主客觀性能指標(biāo)也是相當(dāng)不錯(cuò)的.

本次PSO優(yōu)化結(jié)果，取sig2＝16．980 8，gam＝0．01，然后將此值初始化LS－SVM的超參數(shù)，應(yīng)用于相關(guān)的數(shù)字水印算法當(dāng)中去.

圖1是適應(yīng)度曲線，圖2為LS－SVM的訓(xùn)練模型.

圖1 適應(yīng)度曲線圖Fig.1 Fitness graph

圖2 LS－SVM的回歸模型圖Fig.2 Regression model figure of the LS－SVM

3.2 數(shù)字水印仿真實(shí)驗(yàn)結(jié)果

仿真實(shí)驗(yàn)使用的是MATLAB2013b版本，分別選取圖像數(shù)據(jù)庫中大小為512×512的灰度圖像lena．bmp、brain．bmp、rice．bmp3組圖片作為原始載體圖像；水印圖像是含“南昌大學(xué)”字樣的二值圖像，大小32×32，經(jīng)過多次實(shí)驗(yàn)，最終確定水印信息的嵌進(jìn)強(qiáng)度α＝3．5.圖3~5是幾組圖片的測試效果.

圖3 測試圖片lena．bmpFig.3 The test image of lena.bmp

圖4 測試圖片brain．bmpFig.4 The test image of brain.bmp

圖5 測試圖片rice．bmpFig.5 The test images of rice.bmp

通過觀察以上三組測試圖片的仿真結(jié)果，肉眼幾乎觀察不出原始載體圖像與嵌入水印信息之后圖像之間的區(qū)別所在，這說明水印信息的不可見性很強(qiáng)，提取出來的水印圖像與原始水印圖像也極為相似.它們的主客觀評(píng)價(jià)參數(shù)均為：峰值信噪比PSNR＝Inf、信噪比SNR＝Inf、NC＝1、錯(cuò)位率BER＝0，這些都表明本套數(shù)字水印算法的主客觀質(zhì)量都比較優(yōu)良.相比文獻(xiàn)［11］中算法的結(jié)果：PSNR＝55.37、NC＝0.994，本算法在沒有受到攻擊時(shí)其性能要比文獻(xiàn)［11］相關(guān)部分的效果好一些.

為測試本套數(shù)字水印算法的魯棒性能，下面還將對(duì)上述三組含有水印信息的圖像作一些常規(guī)性的攻擊操作.其中rice．bmp圖片攻擊測試實(shí)驗(yàn)結(jié)果與文獻(xiàn)［11］對(duì)比如下表1所示．

表1 rice.bmp攻擊測試實(shí)驗(yàn)結(jié)果Table 1 Attack test results of rice.bmp

從表1看出，本套數(shù)字水印算法除了對(duì)亮度增強(qiáng)、中值濾波、平均值濾波、旋轉(zhuǎn)、模糊、銳化及縮小等操作，其抵抗能力稍弱一點(diǎn)，對(duì)于其它常規(guī)攻擊與聯(lián)合攻擊操作，其魯棒性相當(dāng)?shù)夭诲e(cuò).參照文獻(xiàn)［11］相關(guān)部分的算法，本套數(shù)字水印算法對(duì)于絕大多數(shù)常規(guī)攻擊的抵抗力明顯優(yōu)于文獻(xiàn)［11］.

4 結(jié)語

本套數(shù)字水印系統(tǒng)充分利用人眼HVS及LSSVM很強(qiáng)的學(xué)習(xí)能力和泛化能力，體現(xiàn)出如下優(yōu)點(diǎn)：（1）水印系統(tǒng)的不可感知性及穩(wěn)健性非常優(yōu)良，肉眼幾乎觀察不出載體圖像與含水印圖像的細(xì)微區(qū)別，提取的水印圖像與原水印圖像也是極為相似，水印系統(tǒng)的主客觀評(píng)價(jià)參數(shù)非常好，有著一定的實(shí)用價(jià)值；（2）對(duì)于一些常規(guī)性攻擊操作，水印系統(tǒng)表現(xiàn)得也很不錯(cuò)，可為空間域水印算法的繼續(xù)深入研究提供一種新的思路；（3）更加充分合理的利用HVS特性，結(jié)合性能優(yōu)良的機(jī)器學(xué)習(xí)算法，這些都有利于水印系統(tǒng)的不可感知性與穩(wěn)健性達(dá)到最佳的平衡.

致謝

本研究是在南昌大學(xué)機(jī)電學(xué)院微流控實(shí)驗(yàn)室完成的，向給予幫助和支持的同仁表示衷心的感謝！

［1］邢丹，王雷，喬玉．一種基于圖像統(tǒng)計(jì)特性的空域水印算法［J］．電子技術(shù)與軟件工程，2015（8）：102．

XING Dan，WANG Lei，QIAO yu．A airspace watermarking algorithm based on the statistical properties of the image［J］．Electronic Technology＆Software Engineering，2015（8）：102．

［2］黃雄華，王宏霞，蔣偉貞，等．基于BP神經(jīng)網(wǎng)絡(luò)和SNR的自適應(yīng)音頻水印算法［J］．光電子．激光，2012（12）：2391－2397．

HUANG Xiong－h(huán)ua，WANG Hong－xia，et al．The adaptive audio watermarking algorithm based on the BP neural networks and SNR［J］．Journal of Optoelectronics．Laser，2012（12）：2391－2397．

［3］王忠，葉雄飛．遺傳算法在數(shù)字水印技術(shù)中的應(yīng)用［J］．武漢工程大學(xué)學(xué)報(bào)，2008,30（1）：95－97．

WANG Zong，YE Xiong－fei．The application of genetic algorithm in the digital watermarking technology［J］．Journal of Wuhan Institute of Technology，2008,30（1）：95－97．

［4］HU R，CHEN F，YU H M．Incorporating Watson’s perceptual model into patchwork watermarking for digital images［C］//17th IEEE International Conference on Image Processing，2010：3705－3708．

［5］張力，鄧亞航，饒小李．顏色特征模型在靜態(tài)車輛檢測中的應(yīng)用［J］．武漢工程大學(xué)學(xué)報(bào)，2015（1）：73－78．

ZHANG Li，DENG Ya－h(huán)ang，RAO Xiao－li．Color feature model in application of static vehicle detection［J］．Journal of Wuhan Institute of Technology，2015（1）：73－78．

［6］STEVE R G．Support vector machines for classification andregression［R］．Technical report，Southampton University of Southamp－ton，F(xiàn)aculty of Engineering，Science and Mathematics Scod of Electronics and Computer Science，2003：1－28．

［7］李松，顧巧論，高鐵杠．信息嵌入位置自適應(yīng)選擇的魯棒水印算法［J］．計(jì)算機(jī)應(yīng)用，2013（2）：438－440，446．

LI Song，GU Qiao－lun，GAO Tie－gang．Robust watermark algorithm for adaptive choice of information embedding position．［J］Journal of Computer Applications，2013（2）：438－440，446．

［8］何娟芝．基于YUV顏色空間的邊緣檢測算法研究［D］．杭州：杭州電子科技大學(xué)，2013．

HE Juan－zhi．A study of the edge detection algorithm based on the YUV color space［D］．Hangzhou：hangzhou dianzi university，2013．

［9］陳軍，胡福喬．YUV空間的彩色圖像HDR合成算法［J］．計(jì)算機(jī)工程，2012（9）：214～216，233．

CHEN Jun，HU Fu－qiao．A HDR synthesis algorithm of the color image in the YUV space［J］．Computer Engineering，2012（9）：214～216，233．

［10］吳明巧．?dāng)?shù)字圖像信息隱寫與隱寫分析技術(shù)研究［D］．長沙：國防科學(xué)技術(shù)大學(xué)，2007．

WU Ming－qiao．The research on steganorgraphy and steganalysis of digital image［D］．Changsha:National university of defense technology，2007．

［11］倪顧偉．基于神經(jīng)網(wǎng)絡(luò)的數(shù)字水印算法的研究與實(shí)現(xiàn)［D］．南京：南京理工大學(xué)，2012．

NI Gu－wei，The study and implementation of the digital watermarking algorithm based on the neural network［D］．Nanjing：Nanjing university of science and technology，2012．

Adaptive digital watermarking algorithm based on least squares support vector machine

FU Gang，LI Ming
Nanchang University College of Mechanical and Electrical Engineering，Nanchang 330031，China

To improve the security of digital watermark，a novel digital watermarking algorithm based on the contrast masking properties was proposed．The human eye to the change of luminance signal（Y）is more sensitive compared with that of the chrominance signals（U、V），according to the visual characteristics of human eye vision system（HVS）．In the YUV image space，the values of Y∶U∶V are 4∶2∶2 by the international image standard CCIR601．First，we introduced the contrast sensitivity functions，and chose some sub－images of the maximum contrast sensitivity functions，then ascended them．Second，for the front half of sub－images，the relational model of image neighborhoods pixels was established by the least squares support vector machine（LS－SVM）；Finally，the magnitude relation between the output and the central pixel of the model was dynamically adjusted，meanwhile，the watermark was embedded and extracted in the other half of sub－images．The hyperparameters of LS－SVM were also optimized by the particle swarm algorithm．The digital watermarking algorithm has good robustness and imperceptibility，and has a strong resistance to aggressive operation．

digital watermarking；LS－SVM；imperceptibility；robustness；particle swarm algorithm

TP309

A

10.3969/j.issn.1674-2869.2015.06.014

1674－2869（2015）06－0067－05

本文編輯：陳小平

2015－05－14

付港（1988－），男，湖北漢川人，碩士研究生．研究方向：精密儀器與機(jī)械．*通信聯(lián)系人.