从故事到特征：扩展用于 AI 对齐与可解释性的概念向量

研究人员提出一种通过合成故事对提取模型激活均值差来构建概念向量的方法，并开源了涵盖1,036个对齐相关概念的2M合成故事数据集。这些特征向量在3个模型家族的6个模型上均能可靠泛化以检测对应概念，注入激活中可因果性引导模型行为。该方法还能用于分析越狱攻击、数学推理和智能体推理过程中的模型表征。