标签： 隐私保护

模型联邦（Model Federation），通常称为联邦学习（Federated Learning），是一种分布式机器学习范式，允许多个参与方（如设备或组织）协作训练一个共享模型，而无需共享各自的原始数据。数据保留在本地，仅模型参数或梯度 […]

差分隐私SGD（Differentially Private Stochastic Gradient Descent）是一种结合随机梯度下降优化算法与差分隐私机制的机器学习训练方法。通过在梯度计算过程中添加经过校准的噪声，差分隐私SGD确保 […]

零知识证明（Zero-Knowledge Proof）是一种密码学协议，允许一方（证明者）向另一方（验证者）证明某个陈述的真实性（如证明者知晓一个秘密值），而无需透露任何关于该秘密的额外信息。这种机制基于三个核心特性：完备性（真实陈述可被有 […]

联邦学习的安全挑战是指在分布式机器学习框架中，多个参与方在不共享原始数据的情况下协作训练模型时，所面临的一系列潜在风险，包括数据隐私泄露、模型中毒攻击、拜占庭故障以及通信安全威胁等。这些挑战源于数据的分散性、参与方的不可信性以及网络传输的不 […]

数据风险是指在人工智能系统的数据生命周期中，由于数据收集、处理、存储或使用过程中的不当操作，可能引发的负面后果，如数据泄露、隐私侵犯、模型偏差、安全漏洞或合规性问题。这些风险不仅威胁用户隐私和权益，还可能损害模型的性能、公平性、可靠性及企业 […]

联邦蒸馏（Federated Distillation）是一种融合联邦学习和知识蒸馏技术的分布式机器学习方法，旨在保护数据隐私并优化模型性能。在联邦蒸馏框架中，多个客户端设备（如手机或物联网设备）在本地训练模型，而无需共享原始数据；然后，通 […]