想远离欠拟合OR过拟合？正则化最有效！( 五 )
为了将正则化应用于线性回归 ， 我们在成本和梯度函数中引入了一个附加项 。
线性回归的常规成本函数如下所示：
这是平方误差均值的一半 。
为了应用正则化 ， 我们引入了一个由参数λ控制的新项：
类似地 ， 因为梯度函数是成本函数的偏导数 ， 所以这也改变了梯度函数 。 现在是具有正则化的梯度函数：
现在 ， 由于梯度函数是用来训练算法到最佳可能θ值的方法 ， 我们可以研究新的梯度函数来理解正则化的作用 。
· 对于θ0来讲并没有影响——渐变函数没有偏移 。
· 对于θj来讲 ， 这是针对每个特征术语 ， 我们引入了λ术语 。 这将有助于抑制数据集中不太有用的功能 。
如你所见 ， 新参数λ控制正则化的幅度 。 λ的最佳值因问题而异 。 一些机器学习库将包括为问题和训练集自动找到λ的最佳值的功能 。
推荐阅读
- 夏侯惇|谁能单挑六神装铠？放弃夏侯惇，远离典韦，自带反甲的他可以做到
- 网游|网络游戏：“精神毒药”，请远离我的孩子！
- 魔兽世界怀旧服|魔兽怀旧服：如何才能一天赚个几千金？最好能远离GZS脚本号的
- 吕布|如果敌方秒选吕布怎么办？放弃程咬金，远离花木兰，用他硬刚吕布
- 打野|打野可以不会韩信，不会刘备，但不会他应该远离打野
- 夏侯惇|王者荣耀：边路可以不会夏侯惇，不会李信，不会杨戬，但不会他应该远离边路
- 打野|打野可以不会镜，不会露娜，不会裴擒虎，但不会他应该远离打野
- 韩信|王者荣耀：想练习刺客，放弃猴子，远离韩信，学会他，王者随便上
- 狄仁杰|射手可以不会狄仁杰，不会虞姬，不会孙尚香，但不会她请远离射手
- 杨戬|王者荣耀：后期最“没用”的四位英雄，想稳定上分，请远离他们