什么是正则化，L1和L2正则化是什么？

正则化Regularization是一种在训练机器学习模型时在损失函数中添加额外项来惩罚过大的参数进而限制模型复杂度、避免过拟合提高模型泛化能力的技术。类型L1 正则化Lasso 回归惩罚参数绝对值之和使部分参数为 0实现特征选择。L2 正则化Ridge 回归惩罚参数平方和使参数值普遍较小提高模型稳定性。L2 正则化是通过在损失函数中加入权重的平方和来惩罚大权重目的是防止模型过拟合。ElasticNet结合 L1 和 L2 正则化平衡稀疏性和稳定性。