HyperAIHyperAI

Command Palette

Search for a command to run...

DiDi-Instruct 后训练方法

日期

2 个月前

组织

论文 URL

2509.25035

DiDi-Instruct(Discrete Diffusion Divergence Instruct)是由普渡大学、德克萨斯大学联合小红书 hi-lab 等高校机构的研究团队于 2025 年 9 月提出的,相关研究成果发表于论文「Ultra-Fast Language Generation via Discrete Diffusion Divergence Instruct」。


离散扩散发散指令 DiDi-Instruct 是一种用于快速语言生成的新型蒸馏框架,它从一个预训练的(掩码的)离散扩散语言模型(dLLM)初始化,并蒸馏出一个几步的学生模型以实现快速生成。得到的 DiDi-Instruct 模型在性能上与其 dLLM 教师和 GPT-2 基线相当或更优,同时实现了高达 64 倍的加速。

用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供