KKT条件和拉格朗日乘子法
3 月，跳不动了？>>> h i t 2015 s p r i n g 晨 凫 追 风 ，转载请注明出处 华为面试的时候，部长先生问了这个问题，于是就回来看了一下，补补课，平常学的有点水货，哈哈！希望有帮助！如果你从头到尾拿出笔来写下这里面的公式，我觉得肯定能看懂！ 最优化问题的最优性条件，最优化问题的解的必要条件和充分条件 无约束问题的解的必要条件 f ( x ) 在 x 处的梯度向量是0 有约束问题的最优性条件 等式约束问题的必要条件： 一个条件，两变量 m i n f ( x ) = f ( [ x ] 1 , [ x ] 2 ) s . t . c ( x ) = c ( [ x ] 1 , [ x ] 2 ) = 0 则最优解的必要条件如下面式子所示： ▽ f ( x ∗ ) + α ∗ ▽ c ( x ∗ ) = 0 c ( x ∗ ) = 0 α ∗ 是常数，即存在一个常数使得约束条件和待优化问题的梯度之和为0 上面就把它当成一个结论吧，具体推导见《数据挖掘中的新方法——支持向量机》 这里的理解是： 在 x 满 足 c ( x 1 , x 2 ) = 0 的条件下去寻找一个 x 来使得 f ( x ) 最小。其实这个点就是在满足约束条件 c ( x ) = 0 的曲面上。 来这样理解一下： c ( x ) 是曲线，画出 f ( x ) = k 的等高线，当然了在 x