科技快报网讯,4月30日,小米正式推出首个专注推理能力的开源大模型Xiaomi MiMo,以7B参数规模在数学推理(AIME 24-25)和代码竞赛(LiveCodeBench v5)测评中超越OpenAI闭源模型o1-mini及阿里32B参数模型QwQ-32B-Preview。 MiMo的核心突破在于通过预训练与后训练联动策略激发模型潜能: 预训练阶段:构建200B tokens专用推理语料库,采用三阶段递进式训练,累计训练25T tokens以强化复杂逻辑处理能力; 后训练阶段:创新性引入“Test Difficulty Driven Reward”算法动态分配奖励,缓解强化学习中的稀疏性问题,并通过“Easy Data Re-Sampling”策略稳定训练过程。 该模型系列(含基础版、SFT版及强化学习版本)已在HuggingFace开源,代码库采用Apache2.0协议,同步公开26页技术报告。 作为小米大模型Core团队的首秀,MiMo以“小参数量、高推理效率”展现技术实力,推动公司股价当日上涨4.74%。此举标志着小米在AI竞赛中迈出关键一步,为智能终端生态注入新动能。 |
免责声明:本网站内容由网友自行在页面发布,上传者应自行负责所上传内容涉及的法律责任,本网站对内容真实性、版权等概不负责,亦不承担任何法律责任。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。