什么是反向传播（Backpropagation）？
反向传播（Backpropagation）是一种在人工神经网络训练中广泛使用的算法，核心在于高效计算损失函数对网络参数的梯度。通过链式法则，该算法从输出层逐层向后传播误差信号，从而调整权重和偏置以最小化预测误差，使神经网络能够利用梯度下降等 […]
标签： 梯度下降
什么是梯度下降（Gradient Descent）？
梯度下降（Gradient Descent）是一种用于优化可微函数的迭代算法，其核心在于通过计算目标函数关于参数的梯度（即一阶导数），并沿梯度反方向更新参数，以逐步逼近函数的局部最小值点。在机器学习领域，它广泛应用于训练模型，例如通过最小化 […]
什么是学习率（Learning Rate）？
学习率（Learning Rate）是机器学习中的一个核心超参数，它定义了在模型训练过程中参数更新的步长大小，具体表现为在梯度下降等优化算法中，每次迭代时模型参数基于计算出的梯度进行调整的幅度。一个合适的学习率能促使模型高效收敛到最优解；如 […]