作者： 创新及产品管理能力建设项目

数字水印（Digital Watermarking）是一种将不可见或难以察觉的信息嵌入数字媒体（如图像、音频或视频）中的技术，旨在提供版权保护、来源认证或数据追踪功能，而不影响原始内容的感知质量或完整性。 在AI产品开发的实际落地中，数字水 […]

对抗性扰动（Adversarial Perturbation）是指在输入数据上添加的细微、人眼难以察觉的变化，这些变化能够误导机器学习模型产生错误的预测输出。这种扰动通常针对图像、语音或文本等数据形式，其核心在于揭示模型决策边界的脆弱性，即 […]

联邦学习的安全挑战是指在分布式机器学习框架中，多个参与方在不共享原始数据的情况下协作训练模型时，所面临的一系列潜在风险，包括数据隐私泄露、模型中毒攻击、拜占庭故障以及通信安全威胁等。这些挑战源于数据的分散性、参与方的不可信性以及网络传输的不 […]

AI风险管理（Artificial Intelligence Risk Management）是指在人工智能系统的设计、开发、部署和运营全生命周期中，系统地识别、评估、监控和缓解潜在风险的过程。这些风险包括技术层面（如模型偏差、数据泄露、系 […]

AI风险评估是指在人工智能系统的全生命周期中，系统地识别、分析和评估潜在风险的过程。这些风险涵盖技术层面（如模型偏差、数据泄露、鲁棒性不足）、伦理层面（如隐私侵犯、算法歧视）、法律层面（如合规性问题）以及操作层面（如系统失效、意外后果）。其 […]

AI法规的影响指的是政府或国际组织制定的人工智能相关法律、规范和标准对技术发展、企业运营及社会应用的广泛作用，旨在确保AI系统的安全、公平、透明和问责。其影响既有正面方面，如促进负责任创新、增强用户信任、减少算法偏见和隐私风险，也有负面挑战 […]

去中心化AI（Decentralized AI）是指一种基于分布式网络架构的人工智能系统，它不依赖于单一中心服务器或机构，而是通过多个独立节点（如设备或组织）协作完成数据处理、模型训练和决策任务。这种架构利用区块链、点对点网络或联邦学习等技 […]

零知识证明（Zero-Knowledge Proof）是一种密码学协议，允许一方（证明者）向另一方（验证者）证明某个陈述的真实性（如证明者知晓一个秘密值），而无需透露任何关于该秘密的额外信息。这种机制基于三个核心特性：完备性（真实陈述可被有 […]

生成对抗防御是一种机器学习安全技术，它利用生成模型如生成对抗网络（GAN）来检测和抵御对抗性攻击。对抗性攻击指恶意设计的输入扰动，旨在误导模型输出错误结果；生成对抗防御则通过训练生成器识别或生成鲁棒样本，增强模型在对抗环境下的稳定性和可靠性 […]

数据中毒攻击（Data Poisoning Attack）是一种针对机器学习系统的恶意攻击方式，攻击者通过向训练数据集中注入精心设计的污染数据，意图在模型训练过程中引入偏差或错误，从而在模型部署后导致其性能下降、产生错误预测或在特定条件下失 […]