什么是L2正则化?

L2正则化(L2 Regularization),又称为岭回归或权重衰减,是一种在机器学习中用于防止模型过拟合的核心技术。它通过在损失函数中添加一个惩罚项来实现,该惩罚项等于模型权重向量的L2范数平方乘以一个正则化系数λ,从而约束权重的大小 […]

什么是Dropout?

Dropout是一种在神经网络训练中广泛使用的正则化技术,旨在防止模型过拟合,即模型在训练数据上表现优异但在新数据上泛化能力差的问题。其核心原理是在每次训练迭代中随机「丢弃」一部分神经元,即临时将其输出设为零,从而迫使网络不能过度依赖任何特 […]