什么是显著性映射（Saliency Maps）？
显著性映射（Saliency Maps）是一种深度学习的可视化工具，用于揭示输入数据（如图像）中对模型预测结果贡献最大的区域。它通过计算输入特征相对于模型输出的梯度或其他显著性度量，生成热力图，其中高亮区域表示模型决策的关键部分，从而帮助理 […]
标签： 可解释AI
什么是SHAP（SHapley Additive exPlanations）？
SHAP（SHapley Additive exPlanations）是一种基于博弈论的可解释人工智能方法，用于解释机器学习模型的预测结果。它源于Shapley值的概念，该值源自合作博弈论，公平地量化每个特征对模型输出的贡献，确保解释具有可 […]
什么是LIME（Local Interpretable Model-agnostic Explanations）？
LIME（Local Interpretable Model-agnostic Explanations）是一种用于解释复杂机器学习模型预测的方法，它通过创建简单的、可解释的本地模型（如线性回归或决策树）来近似目标模型在特定输入实例周围的预 […]
什么是全局可解释性？
全局可解释性（Global Interpretability）是指对机器学习模型整体行为和决策逻辑进行全面理解的能力，它关注模型在全局数据分布上的表现、特征重要性、内在机制以及潜在偏差，而非局限于单个预测实例的解释。这种解释性揭示了模型的泛 […]
什么是透明度（Transparency）？
在人工智能领域，透明度（Transparency）指的是AI系统内部运作和决策过程对用户、开发者及利益相关者清晰可见、易于理解的特性，它强调算法的逻辑、数据使用和推理路径的可审计性与可解释性，从而提升系统的可信度、公平性和责任感。 在AI产 […]