<p><img alt="" height="387" src="https://i-blog.csdnimg.cn/blog_migrate/80b0595b6e2c1bb961f74180a352df55.png" width="865" /><img alt="" height="510" src="https://i-blog.csdnimg.cn/blog_migrate/072d97caf8c1c3ece.png" width="867" /></p> 讯享网
讯享网
在这里，规则化就是说给损失函数加上一些限制，通过这种规则去规范他们再接下来的循环迭代中，不要自我膨胀。
增加惩罚因子（正则化），保留所有的特征，但是减少参数的大小
限制其较高次的参数大小不能过大
假如我们有非常多的特征，我们并不知道其中哪些特征我们要惩罚，我们将对所有的特征进行惩罚，并且让代价函数最优化的软件来选择这些惩罚的程度。于是，我们分析 线性回归模型 的代价函数和 Logistic回归模型 的代价函数如何修改
就是说原来的话代价函数只有预测与实际之间的差值，但正则化后还要加上对三次项以及四次项的限制，要保证它们是正的，这样才能保证它们最小化
就是说太大了的话那么代价函数里，会使对那些参数的惩罚代价占大头，导致偏差没了，就只会有常数项，因此是个直线
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，请联系我们，一经查实，本站将立刻删除。
如需转载请保留出处：https://51itzy.com/kjqy/198796.html