Search for a command to run...
MultiPL-MoE 是由中国移动研究院于 2025 年 8 月提出的，相关研究成果发表于论文「MultiPL-MoE: Multi-Programming-Lingual Extension of Large Language Models through Hybrid Mixture-of-Experts」，该研究已被 EMNLP 2025 接收。
MultiPL-MoE 是一种通过混合专家混合（MoE）实现的多编程语言（MultiPL）扩展 LLMs 。与先前用于多自然语言扩展的 MoE 方法不同，这些方法通过预测后续标记来关注内部语言一致性，但忽略了编程语言的内部句法结构，MultiPL-MoE 采用了一种新颖的混合 MoE 架构，用于对标记级语义特征和片段级句法特征进行细粒度学习，使模型能够通过识别和分类不同的句法元素来推理代码结构。
Search for a command to run...
MultiPL-MoE 是由中国移动研究院于 2025 年 8 月提出的，相关研究成果发表于论文「MultiPL-MoE: Multi-Programming-Lingual Extension of Large Language Models through Hybrid Mixture-of-Experts」，该研究已被 EMNLP 2025 接收。
MultiPL-MoE 是一种通过混合专家混合（MoE）实现的多编程语言（MultiPL）扩展 LLMs 。与先前用于多自然语言扩展的 MoE 方法不同，这些方法通过预测后续标记来关注内部语言一致性，但忽略了编程语言的内部句法结构，MultiPL-MoE 采用了一种新颖的混合 MoE 架构，用于对标记级语义特征和片段级句法特征进行细粒度学习，使模型能够通过识别和分类不同的句法元素来推理代码结构。
HiPO 用于自适应 LLM 推理，主要包括混合数据构建和混合强化学习。
EGMN 成功捕捉了用户偏好和视频特征之间的潜在交互效应。
通义千问团队系统地研究了门控机制在标准 softmax 注意力中的作用。
C2C 通过转换和融合模型间的键值（KV）缓存，实现直接的语义交流。
GTA 在多个文本分类基准测试中均显著优于标准 SFT 基线和最先进的 RL 方法。
基于 GRPO 等微调技术现有局限性，GVPO 作为一种可靠、多功能的后训练范式应运而生。
首个成功将分布匹配蒸馏应用于基于 MDM 的文本生成，并在少步语言序列生成方面创下纪录的框架。
一种新的基于原则的判别约束优化框架，避免了难度偏差和训练不稳定性。
CudaForge 是一个简单有效且低成本的用于 CUDA 内核生成和优化的多智能体工作流程。
HiPO 用于自适应 LLM 推理，主要包括混合数据构建和混合强化学习。
EGMN 成功捕捉了用户偏好和视频特征之间的潜在交互效应。
通义千问团队系统地研究了门控机制在标准 softmax 注意力中的作用。
C2C 通过转换和融合模型间的键值（KV）缓存，实现直接的语义交流。
GTA 在多个文本分类基准测试中均显著优于标准 SFT 基线和最先进的 RL 方法。
基于 GRPO 等微调技术现有局限性，GVPO 作为一种可靠、多功能的后训练范式应运而生。
首个成功将分布匹配蒸馏应用于基于 MDM 的文本生成，并在少步语言序列生成方面创下纪录的框架。
一种新的基于原则的判别约束优化框架，避免了难度偏差和训练不稳定性。
CudaForge 是一个简单有效且低成本的用于 CUDA 内核生成和优化的多智能体工作流程。