逻辑回归的本质是最大似然估计

逻辑回归的输出是

分别表示取1和取0的后验概率。将上面两式联系起来得到

取似然函数

再取对数

最大似然估计就是求使似然函数最大的参数θ。此时可以使用梯度上升法优化代价函数

取负号和求平均后得到J函数

此时就是求使J函数最小的参数θ。接下来用梯度下降法优化。

 

版权声明:本文为loongofqiao原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://www.cnblogs.com/loongofqiao/p/8642045.html