每秒生成超云顶国际- 云顶赌场- 娱乐城30帧视频支持实时交互！自回归视频生成新框架来了

　　云顶赌场app,云顶娱乐城,云顶,云顶国际,云顶国际娱乐,云顶赌场,云顶赌场玩法,云顶赌场规则,云顶赌场21点,云顶赌场在线,云顶娱乐场,云顶最新消息,云顶赌场会员卡,云顶娱乐,云顶APP,云顶官网

　　在A100上用310M模型，实现每秒超30帧自回归视频生成，同时画面还保持高质量！

　　通过实现帧内并行采样，帧间自回归的方式，NFD让视频生成在保持较高生成质量的同时，生成效率大幅提升。

　　或许不久之后的游戏，就是玩家直接跟模型交互打游戏了，无需通过传统的游戏引擎。

　　比如在《我的世界》中，下面每个视频在NVIDIA A100 GPU上生成只需约0.48秒

　　值得一提的是，前段时间在X上火了的一款基于Minecraft的交互式自回归世界模型——MineWorld，也是这个微软研究院的团队做的。

　　当前多数的自回归视频生成模型如VideoPoet采用类似于Language Model的方式，将视频编码成离散视频Token，并逐个生成Token。

　　然而这种方式在生成的时候既没法利用GPU并行计算的能力，也破坏了帧内的相关性。

　　因此，研究人员采用了Next-Frame Diffusion(NFD)的方式来建模视频，其使用帧内双向注意力，帧间因果注意力机制的方式来建模视频，并采用扩散模型多步迭代生成连续Token。

　　这样做的好处是可以在生成的时候逐帧采样来流式生成视频，并在帧内并行生成以提高推理效率。

　　为进一步提高生成效率，研究人员进一步通过以下技术来减少推理时的总采样次数：

　　将一致性蒸馏扩展到视频领域，并专门针对视频模型优化，从而少量采样步骤，实现高效推理；提出了投机采样方法。由于相邻帧常常动作输入相同，模型使用当前动作输入生成多个后续帧，若输入动作发生变化，则丢弃投机生成的帧，以充分利用并行计算能力。

　　具体来说，NFD的架构包含一个将原始视觉信号转换为Token的Tokenizer，以及生成这些Token的基于扩散的Transformer模型。在Transformer内，研究人员使用了块状因果注意力机制，结合帧内的双向注意力和帧间的因果依赖，高效建模时空依赖性。

　　相比计算密集的3D全注意力，该方法将整体成本减少50%，支持高效地并行预测下一帧所有Token。

　　研究人员基于Flow Matching构建训练流程，追求简单和稳定性。对于视频帧xi，分配一个独立时间步t，并通过线性插值生成加噪版本：

　　在采样阶段，研究人员采用DPM-Solver++，通过以下公式对同一帧的所有Token去噪：

　　虽然NFD在推理阶段支持并行Token采样，受限于扩散模型的多步采样，实现实时视频生成仍具挑战性。

　　因此，研究人员首先将一致性蒸馏扩展到视频领域，通过数学变换将流匹配模型转换TrigFlow模型，从而简化了连续时间一致性模型的训练，并针对视频数据的特性进行调整。

　　鉴于这个发现，研究人员进一步提出了一种投机采样技术，通过并行预测多个未来帧加速推理。

　　在投机生成后，将预测动作与实际后续动作输入进行比较。一旦检测到预测与真实动作不一致，丢弃之后的所有投机帧，并从最后验证的帧重新开始生成

　　下表从视频内容的生成效率和视觉质量两个角度对比了本工作的方法和当前最先进方法。

　　其中，NFD指使用Flow Matching目标训练并通过DPM-Solver++进行18次采样的模型；NFD+为加速版本，通过一致性蒸馏实现4步采样，并结合了投机采样技术。

　　NFD+通过高效采样策略显著加速：130M和310M模型分别达到42.46FPS和31.14FPS，远超所有基线。

　　即使速度提升，NFD+仍保持竞争力的视觉质量，310M模型在PSNR上达到16.83，FVD为227，与更大的MineWorld模型表现相当。

　　最后总结来说，团队认为当下视频生成模型在各个领域百花齐放，有诞生像Sora、可灵、Veo3这样的产品，也有Genie、MineWorld这样的游戏世界模拟器，为未来世界模型的实现提供了巨大意义。随着视频模型广泛的应用，更灵活、更高效的生成范式变得越来越重要。