超越标准 LLM：盘点混合注意力、文本扩散与递归等新兴模型架构

文章盘点了超越传统自回归 Transformer 的四类新兴模型架构及其实践权衡。线性注意力混合架构（如 Qwen3-Next 与 Kimi Linear 的 Gated DeltaNet）通过结合全局注意力与线性层大幅缩减 KV cache 并支持超长上下文。