Skip to content
Hot storiesContinuously updated

研究者提出自回归转扩散语言模型方案BYOD

1 reports1 reporting sourcesUpdated 13 hours ago

Start here

AI overview

2026年11月，研究人员在 arXiv 发布成果，提出一种名为 BYOD 的高效转换方案。该方案采用纯 LoRA 方式，在完全冻结基座参数的前提下，仅需 4.1% 至 5.8% 的适配器参数量，即可将自回归语言模型转换为扩散语言模型（DLM）。实验显示，在单张 Google Colab GPU 上仅需耗时 3.1 至 4.0 小时，即可完成 Gemma 2 9B 和 Llama 3.1 8B 等模型的转换。在 9 项基准任务评测中，转换后的 BYOD-Gemma 取得了 50.6% 的平均准确率。

AI-generated from reports · Updated 12 hours ago

Latest developmentsNov 2 13:00
研究者提出纯 LoRA 方案 BYOD，可在单卡数小时内将自回归模型转为扩散模型。

Report timeline

Follow the reports to see different sides of the story.

Nov 2
  1. arXiv 自然语言处理
    BYOD：高效自回归到扩散语言模型转换方案

    研究人员提出 BYOD 方案，通过纯 LoRA 方式将自回归语言模型高效转换为扩散语言模型（DLM）。在基座参数完全冻结下，仅需 4.1-5.8% 适配器参数量并在单张 Google Colab GPU 上耗时 3.1-4.0 小时，即可完成 Gemma 2 9B、Llama 3.1 8B 等模型的转换。BYOD-Gemma 在 9 项任务评测中取得 50.6% 的平均准确率。

Story heat trend

Current heat 7·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–

02.557.510Nov2Nov2Nov2Nov3

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.