什么是模型治理（Model Governance）？
模型治理（Model Governance）是指在人工智能系统的整个生命周期中，建立和执行一套系统化的政策、流程与标准，以确保模型的开发、部署、监控和维护过程符合组织的伦理准则、法律法规以及业务目标。它强调风险管理、公平性、透明度和问责制， […]
分类： 产品术语
什么是AI红队（AI Red Teaming）？
AI红队（AI Red Teaming）是指在人工智能领域，通过模拟恶意攻击者或对手行为来主动测试和评估AI系统安全漏洞、鲁棒性及公平性的方法。这一概念源自军事和网络安全中的红队演练，旨在识别模型在对抗性输入、数据偏见或未知场景下的潜在失败 […]
什么是人类在环（Human-in-the-Loop, HITL）？
人类在环（Human-in-the-Loop, HITL）是一种人工智能系统设计范式，指在AI决策过程中主动整合人类参与，以监督、验证或补充机器的输出，从而提升系统的准确性、可靠性和适应性。这种模式的核心在于利用人类的认知能力处理AI难以完 […]
什么是联邦学习与LLM？
联邦学习（Federated Learning）是一种分布式机器学习方法，允许多个参与方（如移动设备或组织）在本地数据集上训练模型，而无需共享原始数据，仅通过聚合模型更新（如梯度）构建全局模型，从而有效保护数据隐私和安全性，特别适用于数据分 […]
什么是模型联邦（Model Federation）？
模型联邦（Model Federation），通常称为联邦学习（Federated Learning），是一种分布式机器学习范式，允许多个参与方（如设备或组织）协作训练一个共享模型，而无需共享各自的原始数据。数据保留在本地，仅模型参数或梯度 […]
什么是动态批处理（Dynamic Batching）？
动态批处理（Dynamic Batching）是一种人工智能模型推理优化技术，它允许系统根据输入数据的实际特性（如序列长度）动态调整批次大小，以最大化计算资源利用率和处理效率。与静态批处理的固定大小不同，动态批处理能够自适应变长输入，例如自 […]
什么是模型剪枝策略？
模型剪枝策略（Model Pruning Strategy）是一种优化深度学习模型的技术，旨在通过移除模型中冗余或不重要的参数（如权重或神经元）来减小模型的规模、降低计算复杂度，同时尽可能维持其原始性能水平。这种策略包括权重剪枝、神经元剪枝 […]
什么是结构化数据检索？
结构化数据检索是指从具有预定义格式和模式的数据源中高效查找、筛选和提取特定信息的过程。结构化数据通常存储在关系数据库、表格或电子表格中，其数据元素以固定字段和数据类型组织，如SQL数据库中的行与列。检索过程依赖查询语言（如SQL）和索引技术 […]
什么是可信赖AI框架？
可信赖AI框架（Trustworthy AI Framework）是一套系统化的方法论和工具集，旨在指导人工智能系统的设计、开发与部署过程，确保其在可靠性、公平性、可解释性、安全性和隐私保护等方面达到高标准。它通过嵌入伦理考量和风险管理机制 […]
什么是因果推断与LLM？
因果推断（Causal Inference）是一种统计学和机器学习方法，旨在识别变量间的因果关系而非仅仅相关关系，它通过实验设计或观察数据来估计干预对结果的影响，从而提升模型的可解释性和决策可靠性。在人工智能领域，因果推断帮助系统理解“为什 […]