Command Palette

Search for a command to run...

5 个月前

测试时使用反射生成模型进行缩放

测试时使用反射生成模型进行缩放

摘要

我们介绍了首个反射生成模型MetaStone-S1,该模型通过自监督过程奖励模型(SPRM)达到了OpenAI o3的性能水平。通过共享主干网络并分别使用特定任务的头部进行下一个标记预测和过程评分,SPRM成功地将策略模型和过程奖励模型(PRM)整合到一个统一的接口中,无需额外的过程注释,减少了超过99%的PRM参数,从而实现高效的推理。配备SPRM后,MetaStone-S1天然适用于测试时间扩展(TTS),并且我们提供了三种基于可控思考长度的推理努力模式(低、中、高)。此外,我们从经验上建立了一条扩展定律,揭示了总思考计算量与TTS性能之间的关系。实验结果表明,我们的MetaStone-S1仅使用320亿参数规模就实现了与OpenAI-o3-mini系列相当的性能。为了支持研究社区,我们已将MetaStone-S1开源至https://github.com/MetaStone-AI/MetaStone-S1

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
测试时使用反射生成模型进行缩放 | 论文 | HyperAI超神经