arXiv 机器学习· Alizishaan Khatri·· 1 天前AI 评分38
相同探针,不同数值:激活探针对推理期数值非确定性是否具备鲁棒性?
Same Probe, Different Numbers: Are Activation Probes Robust to Inference-Time Numerical Non-Determinism?
AI 导读
一项针对 Llama-3.1-8B、Qwen3-8B 和 Gemma-3-4B 的研究表明,用于大语言模型部署监控的激活探针对推理批次大小和浮点精度的数值变动具有强稳定性。
来源:arXiv 机器学习 · arxiv.org