arXiv 自然语言处理· Abrar Alotaibi, Moataz Ahmed·· 6 小时前AI 评分43
REPRO：面向大语言模型自动化红队测试的反思进化提示词优化器
REPRO: Reflective Evolutionary Prompt Optimizer for Automated LLM Red-Teaming
AI 导读
研究人员提出纯黑盒大语言模型红队测试框架 REPRO，仅依托单张消费级 GPU 上的 7B 压缩开源反思模型驱动进化优化来挖掘对抗提示词。
来源：arXiv 自然语言处理 · arxiv.org