凸函数的梯度的单调性 (Monotonicity of gradient)

您所在的位置:网站首页 方向导数都是正数吗 凸函数的梯度的单调性 (Monotonicity of gradient)

凸函数的梯度的单调性 (Monotonicity of gradient)

2024-06-13 23:52| 来源: 网络整理| 查看: 265

可微函数 f f f 是凸函数 当且仅当 d o m f domf domf 是凸集,且 ( ▽ f ( x ) − ▽ f ( y ) ) T ( x − y ) ; 0 ,      ∀ x , y ∈ d o m f (\bigtriangledown f(x)-\bigtriangledown f(y))^T(x-y);0, \;\; \forall x,y \in dom f (▽f(x)−▽f(y))T(x−y)>0,∀x,y∈domf 即 ▽ f : R n → R n \bigtriangledown f: \R^n \rightarrow \R^n ▽f:Rn→Rn 是单调映射(monotone mapping)。

证明:

如果 f f f 是可微的凸函数,则有 f ( y ) ≥ f ( x ) + ▽ f ( x ) T ( y − x ) , f ( x ) ≥ f ( y ) + ▽ f ( y ) T ( x − y ) . f(y) \geq f(x) + \bigtriangledown f(x)^T(y-x),\\ f(x) \geq f(y) + \bigtriangledown f(y)^T(x-y). f(y)≥f(x)+▽f(x)T(y−x),f(x)≥f(y)+▽f(y)T(x−y).将上面两式相加得 ( ▽ f ( x ) − ▽ f ( y ) ) T ( x − y ) ; 0 (\bigtriangledown f(x)-\bigtriangledown f(y))^T(x-y);0 (▽f(x)−▽f(y))T(x−y)>0如果 ▽ f \bigtriangledown f ▽f 是单调的,定义函数 g g g : g ( t ) = f ( x + t ( y − x ) ) ,    t ∈ [ 0 , 1 ] g ′ ( t ) = ▽ f ( x + t ( y − x ) ) T ( y − x ) g(t) = f(x+t(y-x)), \;t \in [0,1]\\ g'(t) = \bigtriangledown f(x+t(y-x))^T(y-x) g(t)=f(x+t(y−x)),t∈[0,1]g′(t)=▽f(x+t(y−x))T(y−x)则由 g ′ ( t ) g'(t) g′(t) 的连续性以及 g ′ ( 1 ) − g ′ ( 0 ) ; 0    且    g ′ ( 0 ) − g ′ ( 0 ) = 0 g'(1)-g'(0) ;0 \;且\; g'(0)-g'(0) = 0 g′(1)−g′(0)>0且g′(0)−g′(0)=0得 g ′ ( t ) − g ′ ( 0 ) ≥ 0 ,      g'(t) -g'(0) \geq 0,\;\; g′(t)−g′(0)≥0,因此 f ( y ) = g ( 1 ) = g ( 0 ) + ∫ 0 1 g ′ ( t ) d t ≥ g ( 0 ) + g ′ ( 0 ) = f ( x ) + ▽ f ( x ) ) T ( y − x ) f(y) = g(1) = g(0) + \int_0^1 g'(t)dt \geq g(0) + g'(0) \\= f(x) + \bigtriangledown f(x))^T(y-x) f(y)=g(1)=g(0)+∫01​g′(t)dt≥g(0)+g′(0)=f(x)+▽f(x))T(y−x) 即 f f f 为凸函数。


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3