游客发表
7月5日,大道大模阿里巴巴与清华大学联合发表的至简论文 《The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models》(灵活性陷阱:重新审视扩散语言模型中任意顺序生成的价值)正式入选 AI 顶级会议 ICML 2026 杰出论文(Outstanding Paper)。
作为 ICML 的阿里最高荣誉,杰出论文旨在表彰当年最具影响力的清华研究工作,通常仅授予 2-3 篇,论文理能力入获奖率低至接受论文的揭示L杰 千分之一。

图说:2026年7月5日,扩散ICML 2026 主席团公布两篇杰出论文名单,型推选阿里巴巴与清华大学合作的出论论文成功入选。
dLLM(Diffusion Large Language Model,扩散大语言模型)被视为当前最具潜力的至简下一代语言模型架构之一。Google 的阿里 Gemini Diffusion、中国人民大学的清华 LLaDA 等均属于该方向。
然而,该论文首次对这一共识提出质疑:在数学、编程等通用推理任务中,任意顺序生成非但不能提升能力,反而构成“陷阱”。
研究指出,在复杂推理过程中,存在大量高不确定性的关键逻辑节点(如“因此”、“所以”等连接词)。这些节点如同逻辑分叉口,决定了推理的方向。

图说:从左向右的自回归顺序(a)迫使模型在每个逻辑分叉口做出选择;任意顺序(b)绕过难点,优先处理容易部分,导致推理路径被提前锁死。(图片翻译自论文)
研究者将这一现象命名为 “熵退化”(Entropy Degeneration)。实证数据证实了这一结论:
* 在 HumanEval代码生成任务中,21.3%的题目仅能通过从左向右顺序解出,而任意顺序无法解出;
* 反之,仅 0.6%的题目是任意顺序能解出而自回归解不出的。
* 结论:顺序的自由度越大,推理性能反而越差。
基于上述发现,团队提出了一种极简的解决方案:JustGRPO。
为 dLLM 设计强化学习算法曾面临巨大的工程挑战:
* 生成顺序不固定,导致无法准确归因每个 Token 的贡献;
* 各团队不得不引入复杂的修正手段来应对这一问题。
JustGRPO 摒弃了所有复杂设计,类似于“当所有人都在给左手练力量时,有人建议直接用右手”。这种方法不仅简化了工程实现,更带来了显著的性能提升:
在 GSM8K(包含约 8500 道多步推理小学数学应用题的标准测试集)上,JustGRPO 达到了 89.1%的准确率,全面超越 d1、ESPO、SPG、GDPO 等所有为扩散模型专门设计的复杂强化学习算法。
附:论文下载地址
https://arxiv.org/abs/2601.15165
随机阅读
热门排行
友情链接