法律因素存在于大语言模型的何处？

最新研究证实，Qwen3-1.7B、Qwen3-8B 和 Gemma-2 2B 的内部激活均能够线性解码全部 26 个 CATO 专家法律因素。实验通过稀疏自编码器定位，单特征稀疏读出的最佳层测试 AUC 达 0.86 至 1.00，5 个特征即可接近全向量表现。研究共报告 78 个特定层-特征坐标，成功将法律符号抽象与模型内部表征相连接。