针对文章中的Section 4中带约束的优化问题进行解读.
问题
minF(x),
s.t.x∈C
的pareto efficient的必要条件是(J表示Jacobian Matrix):
JF(xˉ)(Rn)∩[−R++m]=∅
where
JF(xˉ)(Rn):={JF(xˉ)v,v∈Rn}
那么,对于scalar-valued optimization其必要条件为:
<∇F(xˉ),x−xˉ>≥0
定义带有L2正则项的梯度搜索方向为(得到的结果为下一个x的point位置,与当前x相减组成的向量方向):
v(x):=v∈C−xargmin(βφx(v)+21∥v∥2)
v(x)是强凸且well defined, 定义最优的value:
θ(x):=v∈C−xmin(βφx(v)+21∥v∥2)=(βφx(v(x))+21∥v(x)∥2)
Proposition 4.1.
x is stationary if and only if θ(x)=0
proof: