Search for a command to run...
Mixture of Contexts（MoC）是由字节跳动 Seed 团队联合斯坦福大学等机构于 2025 年 8 月提出的，相关研究成果发表于论文「Mixture of Contexts for Long Video Generation」。
Mixture of Contexts（MoC）是在将长上下文视频生成重新定义为内部信息检索任务的基础上提出的，是一种简单、可学习的稀疏注意力路由模块。在 MoC 中，每个查询动态选择一些信息量大的片段加上强制锚点进行关注，通过因果路由防止闭环。
Search for a command to run...
Mixture of Contexts（MoC）是由字节跳动 Seed 团队联合斯坦福大学等机构于 2025 年 8 月提出的，相关研究成果发表于论文「Mixture of Contexts for Long Video Generation」。
Mixture of Contexts（MoC）是在将长上下文视频生成重新定义为内部信息检索任务的基础上提出的，是一种简单、可学习的稀疏注意力路由模块。在 MoC 中，每个查询动态选择一些信息量大的片段加上强制锚点进行关注，通过因果路由防止闭环。
EGMN 成功捕捉了用户偏好和视频特征之间的潜在交互效应。
MultiPL-MoE 是后预训练阶段扩展低源编程语言的一种有效方法。
InstanceAssemble 在多模态条件下推动了高质量且可控的图像生成。
首个成功将分布匹配蒸馏应用于基于 MDM 的文本生成，并在少步语言序列生成方面创下纪录的框架。
Layout-to-Image 为图像生成提供了灵活的控制机制。
RAE 凭借明显优势有望成为扩散 Transformer 训练的新默认选择。
DexFlyWheel 是一个用于灵巧操作的、可扩展且自我改进的数据生成范式。
SDAR 确立了一种新的实用语言建模范式，统一了自回归和扩散的互补优势。
HiPO 用于自适应 LLM 推理，主要包括混合数据构建和混合强化学习。
EGMN 成功捕捉了用户偏好和视频特征之间的潜在交互效应。
MultiPL-MoE 是后预训练阶段扩展低源编程语言的一种有效方法。
InstanceAssemble 在多模态条件下推动了高质量且可控的图像生成。
首个成功将分布匹配蒸馏应用于基于 MDM 的文本生成，并在少步语言序列生成方面创下纪录的框架。
Layout-to-Image 为图像生成提供了灵活的控制机制。
RAE 凭借明显优势有望成为扩散 Transformer 训练的新默认选择。
DexFlyWheel 是一个用于灵巧操作的、可扩展且自我改进的数据生成范式。
SDAR 确立了一种新的实用语言建模范式，统一了自回归和扩散的互补优势。
HiPO 用于自适应 LLM 推理，主要包括混合数据构建和混合强化学习。
