研究提出将冻结纸带模块嵌入小模型网络层以加速工具调用
Start here
2026年11月3日,arXiv发表的研究提出在小语言模型的前向传播中嵌入冻结纸带模块,直接将隐藏状态转为符号计算,以消除传统文本工具调用带来的解码开销。该方案适用于返回单符号的有界计算任务,并通过门控机制在通用文本处理时保持静默。实验结果显示,在 gemma-3-1b-it 模型上,该模块在 BIG-Bench Hard 物体追踪任务的全部 750 项测试中达到了 1.00 的准确率,且 GPU 内核耗时仅约为文本工具基线的十分之一。
AI-generated from reports · Updated 11 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 人工智能前向传播中的工具:将冻结纸带模块作为小语言模型网络层
研究提出在小语言模型前向传播中嵌入冻结纸带模块,直接将隐藏状态转为符号计算以消除文本工具调用的解码开销。在 gemma-3-1b-it 上,该模块在 BIG-Bench Hard 物体追踪全部 750 项中取得 1.00 准确率,GPU 内核耗时仅约文本工具基线的 1/10。该方案适用于返回单符号的有界计算,并通过门控机制在通用文本下保持静默。
Story heat trend
Current heat 7·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.