什么是层归一化?

层归一化(Layer Normalization)是一种用于深度神经网络中的归一化技术,通过对每一层输入的均值和方差进行计算,并将输入调整至均值为0、方差为1的标准分布,从而加速训练收敛、提升模型稳定性。与批量归一化不同,它独立于批次大小, […]