AI产品术语2025年6月27日2025年6月28日 什么是Softmax函数? Softmax函数是一种归一化指数函数,在机器学习和深度学习领域广泛应用,其核心作用是将一组实数(通常称为logits)转化为一个概率分布。具体而言,该函数通过对每个输入值应用指数运算,然后除以所有值指数和的总和,确保输出向量的每个元素介于 […]
AI产品术语2025年6月27日2025年6月28日 什么是KL散度(Kullback-Leibler Divergence)? KL散度(Kullback-Leibler Divergence),简称KL散度,是信息论中用于量化两个概率分布之间差异的非对称度量。它衡量使用一个分布Q来近似另一个分布P时所产生的信息损失或相对熵,定义为D_KL(P||Q) = ∑ P( […]