凸优化学习(一)为什么lagrangr的下确界必然是一个凹函数

标签:
佛学 |
[作者按]凸优化是我早就想学习的课程,不过这门课程啃起来需要相当的耐力和时间,耐力我有,也没随便就放弃某个决心的习惯,但上班后时间就不归自己了,导致这门课程始终处于suspend的状态,但这始终不行。于是,打算趁年初一段时间相对空闲,把这门课程往前稍微推一下。
学习的参考资料包括,boyd的那本经典凸优化,其在stanford上的教学视频,以及邹博在七月教育机器学习班上的相关讲述。
先从昨晚的问题讲起
http://s16/mw690/001oZrbjzy6RpcRZ8Bhcf&690
问题是:为什么lagrangr的下确界必然是一个凹函数?
回答:因为,你可以看到,拉格朗日函数其实是关于系数w和niu的仿射函数,而这些仿射函数逐点求下确界,当然是凹函数了。非常帅气的结论:无论目标函数是什么,它的对偶函数一定是凹函数。即:我们可以把任何一个问题转换成凸优化的框架下来解决问题。(当然,是否能够满足强对偶条件,另说)
继续问:不过我还是想不通仿射函数逐点求下确界就一定是凹函数?
回答:这个证明简单,正名过程如下