arXiv 机器学习· Marsalis Gibson, Claire Tomlin, Shankar Sastry·· 3 小时前AI 评分34
ATLAS-AL：基于主动学习与自适应信任域的黑盒对抗搜索框架
ATLAS-AL: Adaptive Trust-Region for Latent Adversarial Searches via Active Learning
AI 导读
研究人员提出基于查询的黑盒对抗评估框架 ATLAS，通过主动学习水平集估计与局部-全局采样，自适应定位并提取导致模型失效的对抗输入集合。在 MNIST、CIFAR 和 ImageNet 等目标模型的测试中，ATLAS 在有限查询预算下的表现优于 NES、SignHunter 和 BayesOpt 等基线方法。该框架可作为自动化红队工具，用于评估系统鲁棒性及开展持续安全审计。
来源：arXiv 机器学习 · arxiv.org