em

1.最大似然估计 （MLE）： 什么是最大似然估计？ 问题：给定一组观察数据还有一个参数待定的模型，如何来估计这个未知参数呢？ 观察数据（x 1， y 1 ）......(x n, y n ) 待定模型参数为θ，模型为f（x;θ）。这时候可以借助观察数据来估计这个θ。 这就是最大似然函数估计。 举个例子： 假设我们有一个袋子，里面装着白球和黑球，但是我们不知道他们分别有多少个，这时候需要我们估计每次取出一个球是白球的概率是多少？如何估计呢？ 可以通过连续有放回的从袋子里面取一百次，看看是白球还是黑球。假设取100次里面 白球占70次，黑球30次。设抽取是白球的概率为P。 那么一百次抽取的总概率为 p（x;p） p（x;p）=p(x 1， x 2....... x 100;θ )=p（x 1 ; θ ）* p（x 2 ; θ ）........ p（x 100 ; θ ） =p 70 *(1-p) 30 那么这时候我们希望可以使这个概率最大。 求导： logp（x;p）=log p 70 *(1-p) 30 另导数为0则可以求出p=0.7（同理可以用到连续变量里面，这时候就是概率密度函数的乘积so easy） 是不是很简单，对！就是这么简单！其实最大似然估计就是在 给定一组数据和一个待定参数模型，如何确定这个模型未知参数，使得这个确定后的参数模型产生的已知数据概率最大

1.最大似然估计 （MLE）： 什么是最大似然估计？ 问题：给定一组观察数据还有一个参数待定的模型，如何来估计这个未知参数呢？ 观察数据（x 1， y 1 ）......(x n, y n ) 待定模型参数为θ，模型为f（x;θ）。这时候可以借助观察数据来估计这个θ。 这就是最大似然函数估计。 举个例子： 假设我们有一个袋子，里面装着白球和黑球，但是我们不知道他们分别有多少个，这时候需要我们估计每次取出一个球是白球的概率是多少？如何估计呢？ 可以通过连续有放回的从袋子里面取一百次，看看是白球还是黑球。假设取100次里面 白球占70次，黑球30次。设抽取是白球的概率为P。 那么一百次抽取的总概率为 p（x;p） p（x;p）=p(x 1， x 2....... x 100;θ )=p（x 1 ; θ ）* p（x 2 ; θ ）........ p（x 100 ; θ ） =p 70 *(1-p) 30 那么这时候我们希望可以使这个概率最大。 求导： logp（x;p）=log p 70 *(1-p) 30 另导数为0则可以求出p=0.7（同理可以用到连续变量里面，这时候就是概率密度函数的乘积so easy） 是不是很简单，对！就是这么简单！其实最大似然估计就是在 给定一组数据和一个待定参数模型，如何确定这个模型未知参数，使得这个确定后的参数模型产生的已知数据概率最大