跳到正文
原文
arXiv 机器学习· Casper L. Christensen, Kyle J. Ray, Dmitry Manning-Coe, Adam Shai, Paul Riechers·· 8 小时前AI 评分44

LLM 编程机制研究:基于可复用且可组合的抽象表征

LLMs program using Reusable and Composable Abstract Representations

AI 导读

研究发现 LLM 在生成代码时,中间层激活会形成跨编程语言可复用且可组合的抽象表征。通过 activation steering,研究人员能够独立操控函数功能、编程语言与实现策略,并灵活组合以控制代码生成。此外,在单种语言上微调任意函数的能力可跨语言迁移,证实模型具备复用共享抽象代码特征的能力。

来源:arXiv 机器学习 · arxiv.org