当前位置: 首页 > 文档资料 > 机器学习原理 >

凸优化

优质
小牛编辑
182浏览
2023-12-01

Jensen不等式

如果$$f: \omega->R$$是一个函数,则对于任何$$[{ x_i \in \Omega }]{n}{i=1}$$以及凸组合$$\sum{i=1}{n} w_ix_i$$都有

$$\sum_{i=1}{n} w_if(x_i)>=f(\sum_{i=1}{n} w_ix_i)$$

$$L(x,\lambda ,v) = f_0(x)+\sum_{i=1}{m}\lambda if_i(x)+\sum{i=1}{P}v_ih_i(x)$$

根据拉个朗日函数,我们定义i拉格朗日对偶函数$$g(\lambda,v):R^{m+p}->R$$

$$x = y$$$$x = g(\lambda,v)=inf_{x \in D} L(x, \lambda, v)=inf_{x \in D} f_0(x)+\sum_{i=1}{m}\lambda if_i(x)+\sum{i=1}{P}v_ih_i(x)$$

最大化$$g(\lambda,v)$$

不等式条件:$$\lambda_i>=0$$