新论文提出Next-Concept Modeling：粗到细并行文本生成，速度最高提升31倍

据论文Next-Concept Modeling: Fast, Parallel Coarse-to-Fine Text Generation，作者Hermann Kumbong、Ishan S. Khare、Iddah Mlauzi、Andrew Woen、Charles Ding与E. Kelly Buchanan提出一种两阶段粗到细框架NCM：多尺度残差VQ-VAE将文本编码为离散码层级，transformer逐层生成，并在同一层内并行预测全部码。作者称，在参数规模匹配时，NCM在LM1B上的生成困惑度优于最强扩散语言模型基线，运行速度快21倍；在OpenWebText上与最强扩散模型相当，速度快10倍；在XSum上ROUGE-L与最强扩散模型持平，速度快31倍；在数独推理任务上，NCM在各难度级别均优于自回归与扩散基线，且函数评估次数更少。该论文为预印本，结…