arXiv 机器学习· Muhammad Maaz·· 6 小时前AI 评分37
基于属性的测试:构建更鲁棒的 Softmax 与交叉熵
Property-Based Testing for Robust Softmax and Cross-Entropy
AI 导读
研究人员利用 Hypothesis 的基于属性测试复现了 PyTorch 和 JAX 等主流机器学习库中 Softmax 与交叉熵的数值缺陷,并发现了一个新的边缘失效场景。为此,团队提出了一种更鲁棒的 Softmax 实现,不仅能通过相关属性测试,还支持因果注意力掩码(causal attention masking)。相关代码与测试均已公开。
来源:arXiv 机器学习 · arxiv.org