arXiv 机器学习· Ioannis Konstantoulas, Iliana Loi, Kyriakos Sgarbas·· 9 小时前AI 评分34
Predicate Neuron：基于梯度学习的谓词关系可微量化
Predicate Neuron: Differentiable Quantization of Predicate Relations in Gradient-based Learning
AI 导读
研究人员提出 Predicate Neuron，通过一阶逻辑量化为深度神经网络引入可微符号推理能力。该模块仅用单个可训练参数在逻辑操作间切换，在执行硬逻辑操作的同时保持反向传播可微，能有效拟合非连续函数。在 Transformer、CNN 等架构及 MNIST、Wikitext 测试中，其显著加快收敛并提升准确率，现已提供 Keras 和 PyTorch 实现。
来源：arXiv 机器学习 · arxiv.org