张牧涵团队提出超网络参数内学习方案 降低大模型知识更新成本
Start here
2026年11月,无涯智远创始人张牧涵提出“参数内学习”技术路线,旨在破解大模型的持续进化难题。该方案通过超网络的一次前向传播,直接生成基座模型的参数更新,将参数更新过程转化为可泛化的元能力,从而避免了反复的反向传播以及对超长上下文的过度依赖,使大模型的知识写入成本逼近推理量级。目前,该研究已验证了跨语言与跨领域的泛化能力,成果已在ICML发表。团队后续计划进一步推进持续记忆与遗忘机制的扩展,致力于让企业与个人用户在普通推理设备上即可实现低成本沉淀专属模型能力。
AI-generated from reports · Updated 10 hours ago
Report timeline
Follow the reports to see different sides of the story.
- AITNT · AI头条专访北大张牧涵:通过超网络与参数内学习破解大模型持续进化难题
无涯智远创始人张牧涵提出参数内学习路线,通过超网络的一次前向传播直接生成基座模型的参数更新,使大模型知识写入成本逼近推理量级。该方案将参数更新转化为可泛化的元能力,避免反复反向传播与对超长上下文的过度依赖,已验证跨语言跨领域泛化并在ICML发表成果。团队计划推进持续记忆与遗忘机制的扩展,使企业与个人在普通推理设备上即可低成本沉淀专属模型能力。
Story heat trend
Current heat 8·Comparable peak 10(Nov 4 16:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.