跳到正文
原文
Transformers 更新· Cyrilvallez·· 4 小时前AI 评分31

Transformers 发布补丁版本 v5.20.2

Patch release v5.20.2

AI 导读

Transformers 发布 v5.20.2 补丁版本,重点修复了 `generate` 函数在 `prepare_inputs_for_generation` 阶段导致输入丢失原始类型并影响多模态模型的问题。该版本还解决了专家并行下 `bfloat16` 专家梯度为零的缺陷,补齐了部分 VLM 的输入模态声明,并消除了 `eager_mask` 中的主机到设备复制。

来源:Transformers 更新 · github.com