前言 本正则化系列文章我们将讨论正则化技术在机器学习和深度学习的应用。本文为该系列的第一篇，主要介绍机器学习正则化的概念，原理和应用实例。
正则化 技术广泛应用在机器学习和深度学习算法中，本质作用是防止过拟合、提高模型泛化能力。其中过拟合的简单理解就是训练的算法模型太过复杂，模型过分考虑了当前样本的结构。
在早期的机器学习领域一般只是将范数惩罚叫做正则化技术，而在深度学习领域认为，能够显著减少方差，而不过度增加偏差的策略都可以认为是正则化技术。故推广的正则化技术还有：扩增样本集、早停止、Dropout、集成学习、多任务学习、对抗训练、参数共享等。(具体见“花书 第七章 Regularization for Deep Learning”），关于深度学习正则化会在下一篇正则化文章中重点分析。
转载自：https://blog.csdn.net/BigData_Mining/article/details/81631249