创新及产品管理能力建设项目 – 第 26 页 – 联合国创新及产品管理能力建设项目(UNSDGT)

什么是防御性蒸馏（Defensive Distillation）？

防御性蒸馏（Defensive Distillation）是一种针对深度学习模型的对抗防御技术，旨在增强模型对对抗样本的鲁棒性。其核心原理是通过知识蒸馏（Knowledge Distillation）过程实现：首先训练一个大型教师模型在原始 […]

后门攻击（Backdoor Attack）是指在机器学习模型训练过程中，恶意植入一个隐藏的触发器（trigger），使得模型在正常输入下表现正常，但当输入包含特定触发信号（如特定图案或数据特征）时，模型会输出预设的错误结果或恶意行为。这种攻 […]

算法偏差（Algorithmic Bias）是指在人工智能系统中，由于训练数据的不平衡、算法设计缺陷或实现过程中的问题，导致模型在处理信息时对特定群体产生不公平或歧视性结果的现象。这种偏差往往源于历史数据中的偏见，如种族、性别、年龄或社会经 […]

AI偏见审计是一种系统性过程，旨在检测和评估人工智能系统中存在的偏见或不公平性，确保模型决策的公平、公正和无歧视。它涉及对数据来源、算法逻辑及预测输出的全面审查，以识别可能导致特定群体受到歧视的风险，并采取措施缓解这些偏差。在AI产品开发中 […]

安全模型部署是指在人工智能系统开发过程中，将训练完成的模型集成到实际生产环境时，通过一系列技术和策略确保其运行安全、可靠且无风险的关键环节。它涵盖模型鲁棒性、对抗性攻击防御、数据隐私保护、偏见控制及系统稳定性等方面，旨在预防模型在实时应用中 […]

AI模型的知识产权是指围绕人工智能模型的创建、训练和使用所产生的法律权利和利益，涵盖模型的版权、专利保护、商业秘密以及训练数据的许可权等方面。作为智力成果，其归属通常取决于模型的开发者、数据提供者以及相关合同协议，涉及多方主体如公司、用户和 […]

生成式AI的版权问题是指在人工智能系统（如大型语言模型或图像生成工具）创建新内容（如文本、图像或音乐）时，所引发的关于作品所有权、侵权风险以及法律责任的争议焦点。这包括AI生成的作品是否受版权法保护、训练过程中使用受版权保护的数据是否合法、 […]

数据风险是指在人工智能系统的数据生命周期中，由于数据收集、处理、存储或使用过程中的不当操作，可能引发的负面后果，如数据泄露、隐私侵犯、模型偏差、安全漏洞或合规性问题。这些风险不仅威胁用户隐私和权益，还可能损害模型的性能、公平性、可靠性及企业 […]

模型推理加速是指通过技术手段优化训练好的机器学习模型在部署阶段对新输入数据进行预测的过程，以显著提升处理速度、减少延迟和计算资源消耗。这通常涉及模型压缩（如量化和剪枝）、硬件加速（如GPU或TPU）以及软件优化等方法，旨在使模型在实时应用中 […]

FP16量化（Half Precision Floating Point Quantization）是一种深度学习模型优化技术，通过使用16位半精度浮点数（FP16）替代32位单精度浮点数（FP32）来表示神经网络的权重和激活值，从而显著降 […]