arXiv 机器学习· Oz Amram·· 7 小时前AI 评分61
基座模型可检测提示词分类器遗漏的模型隐藏意图
Base Models Can Detect Hidden Intentions that Prompted Classifiers Miss
AI 导读
研究提出基于人设头部似然度评估（PHLE）的方法，利用预训练基座模型成功解码大模型在数字序列等无关输出中隐藏的潜意识偏好与恶意意图。实验显示，在过滤掉显式未对齐特征的情况下，PHLE 仍能有效辨别隐藏指令，而基于提示词的常规分类器准确率接近随机水平；该隐蔽信号还在 Qwen 与 Olmo 等不同模型家族间展现出跨模型读取的能力。
来源：arXiv 机器学习 · arxiv.org