先看三张图片，这三张图片是线性回归模型 拟合的函数和训练集的关系
第一张图片拟合的函数和训练集误差较大，我们称这种情况为 <code>欠拟合</code>
第二张图片拟合的函数和训练集误差较小，我们称这种情况为 <code>合适拟合</code>
第三张图片拟合的函数完美的匹配训练集数据，我们称这种情况为 <code>过拟合</code>
类似的，对于逻辑回归同样也存在欠拟合和过拟合问题，如下三张图
欠拟合问题，根本的原因是特征维度过少，导致拟合的函数无法满足训练集，误差较大。
欠拟合问题可以通过增加特征维度来解决
过拟合问题，根本的原因则是特征维度过多，导致拟合的函数完美的经过训练集，但是对新数据的预测结果则较差。
解决过拟合问题，则有2个途径
减少特征维度; 可以人工选择保留的特征，或者模型选择算法
正则化; 保留所有的特征，通过降低参数θ的值，来影响模型
回到前面<code>过拟合</code>例子, h(x) = θ0 + θ1x1 + θ2x2 + θ3x3 + θ4x4
从图中可以看出，解决这个过拟合问题可以通过消除特征x3和x4的影响, 我们称为对参数的<code>惩罚</code>, 也就是使得参数θ3, θ4接近于0。
最简单的方法是对代价函数进行改造，例如
这样在求解最小化代价函数的时候使得参数θ3, θ4接近于0。
<code>正则化</code>其实就是通过对参数θ的惩罚来影响整个模型
前面几篇文章中，线性回归的<code>代价函数</code>J(θ)表达式如下
正则化后，代价函数J(θ)表达式如下，注意j从1开始
注意λ值不能设置过大，否则会导致求出的参数除了θ0，其它θ1,θ2 ... θn值约等于0，导致预测函数h(x)出现极大偏差
我们的目标依然是求J(θ)最小值，我们还是用<code>梯度下降算法</code>和<code>正规方程</code>求解最小化J(θ)
对于正规方程来，需要修改等式如下
系数λ 所乘的矩阵为 (n+1)*(n+1)维
和线性回归模型类型，逻辑回归也可以通过正则化来解决过拟合问题。
逻辑回归的<code>代价函数</code>J(θ)表达式如下
正则化逻辑回归的代价函数，是在等式后加上一项，注意j从1开始
同样的用<code>梯度下降算法</code>求解最小化J(θ)，也需要做改变
不同的是逻辑回归模型中的预测函数 h(x)和线性回归不同