跳到正文
热点事件持续更新

端到端框架DirectSpeech2LLM提出

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月7日,研究人员在arXiv上提出了端到端语音大语言模型框架DirectSpeech2LLM,旨在缓解语音大模型中的提示词过拟合问题。该框架通过在冻结的LLM嵌入矩阵上计算CTC损失来提取对齐语音嵌入。实验结果显示,该模型仅在960小时LibriSpeech ASR数据上进行训练,其ASR表现即优于级联系统,并能够零样本泛化至语音翻译、情感识别等未见任务。此外,相关表现在两个LLM家族中保持一致,且具备随数据与模型规模扩展的能力。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv 自然语言处理
    DirectSpeech2LLM:缓解语音大语言模型提示词过拟合的端到端框架

    DirectSpeech2LLM 提出了一种端到端框架,通过在冻结的 LLM 嵌入矩阵上计算 CTC 损失提取对齐语音嵌入,缓解语音大语言模型的提示词过拟合。模型仅在 960 小时 LibriSpeech ASR 数据上训练,不仅 ASR 表现优于级联系统,还能零样本泛化至语音翻译和情感识别等未见任务。实验结果在两个 LLM 家族中保持一致,并可随数据与模型规模扩展。

本事件热度走势

当前热度 9·可比范围峰值 10(10月7日 13:00)·近 24 小时可比范围变化 –

02.557.51010月7日13:0010月7日14:0010月7日15:0010月7日16:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。