Know When to Hold 'em: Correct-Token Retention in Uniform-State Diffusion Language Models

arxiv · arXiv · 2026-10-01 16:13 · 评分 80

研究发现均匀状态扩散语言模型（USDM）虽能修正错误token，却缺乏保留正确token的能力。在贪心解码下，SOTA USDM每步仍会修订512个位置中的173–270个，大量不协调编辑导致生成质量崩塌。