标签： 对抗性测试

AI红队（AI Red Teaming）是指在人工智能领域，通过模拟恶意攻击者或对手行为来主动测试和评估AI系统安全漏洞、鲁棒性及公平性的方法。这一概念源自军事和网络安全中的红队演练，旨在识别模型在对抗性输入、数据偏见或未知场景下的潜在失败 […]