改進(jìn)的廣義壓縮鄰近點(diǎn)算法及收斂性證明

趙新宇 張玨瑩 段培超

【摘要】 本文運(yùn)用壓縮鄰近點(diǎn)算法，求解極大單調(diào)算子的零點(diǎn)，提出如下迭代格式： xn+1=λnf（xn）+γnxn+δnJcn（xn）.

在Hilbert空間中，證明了該算法的強(qiáng)收斂性.

【關(guān)鍵詞】 極大單調(diào)算子;不動點(diǎn);黏滯迭代;非擴(kuò)張映像

一、引言和預(yù)備知識

設(shè)H是一個實(shí)Hilbert空間，f：H→H是一個壓縮映像，A：H→H是一個極大單調(diào)映射.

引理1 ?設(shè){sn}是非負(fù)實(shí)數(shù)列，滿足不等式

sn+1≤（1-λn）sn+λnεn，

其中（λn） （0，1），{εn}是實(shí)數(shù)列.

當(dāng)參數(shù)滿足以下條件：

（?。?∞ n=0 λn=∞，lim n→∞ λn=0;

（ⅱ）lim supnεn≤0或∑ ∞ n=0 λn|εn|<∞，

則有 lim n→∞ sn=0.

引理2 ?設(shè){εn}是有界實(shí)數(shù)列，并且{sn} [0，+∞），{σn} [0，+∞），{λn} （0，1）滿足如下不等式

sn+1≤（1-λn）sn+λnεn-σn.

當(dāng)參數(shù)滿足以下條件：

（?。﹍im n→∞ λn=0，∑ ∞ n=0 λn=∞;

（ⅱ）對于每個子序列（σnk），都有

lim nk→∞ σnk=0 lim k→∞ supεnk≤0，lim nk→∞ |snk-snk+1|=0.

則有 lim n→∞ sn=0.

引理3 ?設(shè)A是極大的單調(diào)映射，則：

（?。㎎c是單值的，且D（Jc）=Η;

（ⅱ）Jc是firmly非擴(kuò)張的，2Jc-I是非擴(kuò)張的.

二、主要結(jié)果

定理1 ?設(shè)H是一個實(shí)Hilbert空間，f：H→H是一個壓縮映像，壓縮系數(shù)為τ，A：H→H是一個極大單調(diào)映射.它的零點(diǎn)集S：={x∈D（A）：0∈Ax}非空.當(dāng)c>0時，Jc是A的預(yù)解式.任取x0∈H，定義xn+1=λnf（xn）+γnxn+δnJcn（xn），其中（λn） （0，1），（γn） （-1，1），（δn）∈（0，2），λn+γn+δn=1.如果進(jìn)一步滿足以下條件：

（ⅱ）lim n→∞ infcn>0;

（ⅲ）lim n→∞ λn=0，∑ ∞ n=0 λn=∞;

（ⅳ）0<lim n→∞ infδn≤lim n→∞ supδn<2.

則 lim n→∞ xn=z，其中z∈S.

證明 ?由于Psf是壓縮的，由Banach壓縮映像原理，一定存在唯一的不動點(diǎn)z，使得Psf（z）=z∈S.

步驟1

首先證明{xn}是有界的.設(shè)ρn：= δn 1-λn ，Jn：=Jcn，yn： =（1-ρn）xn+ρnJnxn，顯然0<lim infnρn≤lim supnρn< 2.并且，有xn+1=λnf（xn）+（1-λn）yn.

所以對任意的z∈S，可得

‖xn+1-z‖=‖λnf（xn）+（1-λn）yn-z‖

≤λn‖f（xn）-z‖+（1-λn）‖yn-z‖.

又因?yàn)?/p>

‖yn-z‖=‖（1-ρn）xn+ρnJnxn-z‖

=??? 1- ρn 2? （xn-z）+ ρn 2 （（2Jn-I）xn-z）

≤ 1- ρn 2? ‖xn-z‖+ ρn 2 ‖（2Jn-I）xn

-（2Jn-I）z‖

=‖xn-z‖， （1.1）

所以

‖xn+1-z‖≤λn‖f（xn）-z‖+（1-λn）‖xn-z‖

≤λn‖f（xn）-f（z）‖+λn‖f（z）-z‖+（1-λn）‖xn-z‖

≤（1-λn（1-τ））‖xn-z‖+λn‖f（z）-z‖

=（1-λn（1-τ））‖xn-z‖+λn（1-τ） ‖f（z）-z‖ 1-τ .

通過歸納，我們得到

‖xn+1-z‖≤max ‖x0-z‖， ‖f（z）-z‖ 1-τ? ，

所以{xn}是有界的.

步驟2

‖xn+1-z‖2=‖λnf（xn）+γnxn+δnJcn（xn）-z‖2

=‖λnf（xn）+（1-λn）yn-z‖2

=‖（1-λn）（yn-z）+λn（f（xn）-z）‖2

≤（1-λn）2‖yn-z‖2+2λn〈f（xn）-z，xn+1-z〉

≤（1-λn）2‖yn-z‖2+2λnτ‖xn-z‖·‖xn+1-z‖+2λn〈f（z）-z，xn+1-z〉

≤（1-λn）2‖yn-z‖2+λnτ‖xn-z‖2+λnτ‖xn+1-z‖2+2λn〈f（z）-z，xn+1-z〉， （1.2）

所以根據(jù)（1.1）和（1.2），得到

‖xn+1-z‖2≤（1-λn）2‖xn-z‖2+λnτ‖xn-z‖2+ λnτ‖xn+1-z‖2+2λn〈f（z）-z，xn+1-z〉.

根據(jù)次微分不等式，有

‖xn+1-z‖2=‖（1-λn）（yn-z）+λn（f（xn）-z）‖2

≤（1-λn）‖yn-z‖2+2λn〈f（xn）-z，xn+1-z〉， （1.3）

并且

‖yn-z‖2=‖（1-ρn）xn+ρnJnxn-z‖2

=‖（xn-z）+ρn（Jnxn-xn）‖2

=‖xn-z‖2+ρ2n‖Jnxn-xn‖2+2ρn〈xn-z，Jnxn-xn〉

=‖xn-z‖2-ρn（2-ρn）‖Jnxn-xn‖2-2ρn〈Jnxn-z，xn-Jnxn〉.

因?yàn)?xn-Jnxn cn ∈A（Jnxn）和0∈A（z），由A的單調(diào)性知〈Jnxn-z，xn-Jnxn〉≥0，因此，‖yn-z‖2≤‖xn-z‖2-ρn（2-ρn）‖Jnxn-xn‖2.

用上式替換（1.3），

‖xn+1-z‖2≤（1-λn）‖xn-z‖2-δn（2-ρn）‖Jnxn- xn‖2+2λn〈f（xn）-z，xn+1-z〉.

因?yàn)閘im infnδn（2-ρn）>0，不失一般性，假設(shè)存在μ>0，對于任意的n都有δn（2-ρn）≥μ.

步驟3

欲證明 lim n→∞ xn=z，只需證明引理2中的（ⅱ）.即

lim n→∞ σn=0 lim n→∞ |sn+1-sn|=0，lim supnεn≤0.

設(shè) lim n→∞ σn=0，則有 lim n→∞ ‖Jnxn-xn‖=0.

那么

|sn+1-sn|≤‖xn+1-xn‖（‖xn+1-z‖+‖xn-z‖）

=‖λn（f（xn）-xn）+δn（Jnxn-xn）‖（‖xn+1-z‖+‖xn-z‖）

≤（λn‖f（xn）-xn‖+2‖Jnxn-xn‖）（‖xn+1-z‖+‖xn-z‖）.

因?yàn)閧xn}有界且 lim n→∞ λn=0，所以 lim n→∞ |sn+1-sn|=0.

又有l(wèi)im supnεn≤0，取{xn}中子集{xnk}，{xnk}弱收斂于 ，lim n→∞ ‖Jnxn-xn‖=0，可得Jnkxnk弱收斂于 ，又由 xn-Jnxn cn ∈A（Jnxn）可得0∈A（ ），

并且lim sup n→∞ 〈f（z）-z，xn+1-z〉=lim k→∞ 〈f（z）-z，xnk-z〉.

因此，lim sup n→∞ 〈f（z）-z，xn-z〉=〈f（z）-z，x? ^ -z〉≤0.

引理2中的（ⅱ）得證.所以 lim n→∞ xn=z.

【參考文獻(xiàn)】

[1] Wang F H.Convergence of the generalized contraction- proximal point algorithm in a Hilbert space[J].Optimization：A Journal of Mathematical Programming and Operations Research，2015（4）：709-715.

[2]Xu H K.Properties and Iterative Methods for the Lasso and Its Variants[J].Chinese Annals of Mathematics Series B，2014（3）：501-518.

[3]Micchelli C A，Shen L X，Xu Y S.Proximity algorithms for image models：Denoising[J].Inverse Problems，2011（4）：30.

[4]Wang F.A note on the regularized proximal point algorithm[J].Journal Of Global Optimization，2011（50）：531-535.

[5]Marino G，Xu H K.Convergence of generalized proximal ?point algorithm[J].Communications On Pure And Applied Analysis， 2001（3）：791-808.