标签： Adam优化器

Adam优化器（Adaptive Moment Estimation）是一种自适应学习率的优化算法，广泛应用于深度学习模型的训练中。它结合了动量法和RMSProp的思想，通过计算梯度的一阶矩（平均值）和二阶矩（未中心化的方差），为每个参数动 […]