非线性最小二乘

非线性最小二乘

非线性最小二乘问题是求解目标参数Ｘ的最优值的方法．

关键要素：

1.　要有待优化的参数X
2.　要知道参数与估计值的函数关系．f(X)
3.　要有观测数据Z
4.　待优化参数的初值X0
5. 待优化参数的范围(可选)

一般形式：

非线性优化与非线性最小二乘

非线性最小二乘问题，可以转化为非线性优化问题．解非线性最小二乘需要非线性优化算法．非线性优化算法最通用的方法是梯度下降．

非线性最小二乘的要求解的参数，作为非线性优化的Ｘ因此判断一个最小二乘问题是线性还是非线性的依据是参数与观测之间是线性还是非线性．
例如求解y=ax2其实就是线性最小二乘问题，而y=a2x是非线性最小二乘问题．

来源：https://blog.csdn.net/fb_help/article/details/99677972