根据Observant Beating 的监测,继 M3 稀疏注意力预告之后,MiniMax 在 arXiv 上提交了 M2 系列 35 页技术报告,首次系统地记录了旗舰级 MoE 架构设计、数据管线和 Agent 原生基础设施。
报告详细介绍了早期的 M1 探索混合线性注意力路径后,M2 选择与 GQA 协作重新采用全注意力路径的技术妥协,并展示了如何利用 MTP、Sigmoid 路由和 Forge 来弥补推理和训练两端的不足,同时首次披露了超长上下文 Agent RL 训练系统 Forge 和 M2.7 的自我演化机制。在其中,Forge 引入了窗口化 FIFO 调度和前缀树合并技术,在长序列 Agent 强化学习中实现了高达 40 倍的训练加速。
此外,M2.7 首次展示了智能体的「自我演化」闭环,能够独立完成超过 100 轮的分析、代码修改、评估运行和回滚流程,从而将内部评估性能提升了 30%。
在性能方面,激活单个 token 的拥有 9.8B 参数的 M2.7 在 SWE-Pro 上取得了 56.22% 的成绩,Multi-SWE-bench 达到了 52.7%,MLE Bench 的平均奖牌率达到了 66.6%,表现接近 Gemini 3.1。