天天看点

Logistic Regression简介

这个是简介,真的只是简介,先挖个大坑,有空慢慢填。

Logistic回归,也被称为逻辑回归,Logistc分布是一种条件概率分布模型,给定参数 θ ,那么一个 X 就会有一个Y,这个 Y 的概率意义是X条件下出现Y的概率,一般的我们将大于0.5的值规定为 1 ,小于0.5的值定为 0 ,这样就相当于将θTX映射到 0,1 这样的空间当中,我们就可以进行判别了。

如果使用之前的代价函数LM规则,我们得到的是一个非凸的函数,非凸函数存在多个局部最优解,难以进行GD得到最优解,因此我们使用 log 的代价函数。

P.S.使用正则化的方式给予某些参数一些“惩罚”,我们就可以得到相对简单并且很好的拟合训练集的参数。惩罚的程度就是 λ 的取值大小,太大欠拟合,太小过拟合。

继续阅读