• 论文标题：LongCat-Flash-Thinking-2601 Technical Report
• 论文链接：https://arxiv.org/pdf/2601.16725

TL;DR

LongCat-Flash-Thinking-2601 是美团 LongCat 团队发布的一款拥有 5600 亿参数（激活 270 亿）的开源混合专家（MoE）推理模型。该模型在 Agentic Reasoning（代理推理）能力上表现突出，特别是在 Agentic Search（代理搜索）、Agentic Tool Use（代理工具使用）以及与工具集成的推理任务中，取得了优于现有开源模型的效果，并在部分指标上接近闭源模型。

核心技术要点：

1. 环境扩展（Environment Scaling）： 开发了一套自动化流水线，构建了覆盖 20 多个领域、超过 10,000 个可执行且可验证的仿真环境，解决了 Agentic 任务中高质量环境稀缺的问题。
2. 鲁棒性 RL 训练： 针对真实世界环境的不确定性，设计了噪声注入机制和多领域混合训练策略，显著提升了模型在非理想环境下的泛化能力。
3. Heavy Thinking 模式： 提出了一种测试时计算（Test-Time Scaling）的新范式，通过并行推理（扩展宽度）和迭代反思（扩展深度）的结合，进一步挖掘模型的推理潜力。
4. DORA 训练框架扩展： 针对长链路、多轮交互的 Agentic 任务，升级了异步强化学习框架，支持高达 32,000 个并发环境的高效训练。
5. Zig-Zag Attention： 作为“One More Thing”，探索了一种可从全注意力平滑过渡的稀疏注意力机制，支持百万级上下文长度。

1. 引言

近年来，推理模型在数学和代码任务上取得了显著进展。然而，如何将这种内在的求解能力（Intrinsic Reasoning）转化为解决复杂现实任务的能力，是当前研究的重点。美团团队认为，与外部环境的交互是突破现有瓶颈的关键。

Agentic Reasoning（代理推理）本质上是通过与外部环境的自适应交互来解决复杂问题。这要求模型不仅具备通过思维链（CoT）进行内部审视的能力，还需要判断何时调用工具、如何处理环境反馈，并从长周期的交互中修正错误。

相比于传统的数学推理，Agentic 任务面临三大挑战：

1. 长视界（Long-horizon）： 涉及多轮交互，上下文窗口压力大。
2. 异构环境： 不同领域的 API、数据库结构差异巨大。
3. 长尾动态： 真实环境的反馈具有高度不确定性。

LongCat-Flash-Thinking-2601 的设计初衷即是为了解决上述挑战，通过构建大规模合成环境和鲁棒的 RL 训练流程，填补了由于现实世界中高质量 Agentic 轨迹数据稀缺带来的空白。

2. 预训练与中期训练

模型的基座沿用了 LongCat-Flash-Chat 的配方，保留了通用语言能力。针对 Agentic 能力的提升，主要集中在中期训练（Mid-training）阶段。

2.1 针对长上下文的分阶段训练

Agentic 任务通常伴随着极长的上下文（工具文档、历史交互、搜索结果）。模型采用了分阶段上下文扩展策略：

• 32K/128K 阶段： 消耗 500B tokens。
• 256K 阶段： 额外消耗 40B tokens。

为了降低在超参数搜索上的计算成本，团队提出了一种基于验证集损失和 FLOPS 映射的最优超参数预测方法，从而避免了大规模的网格搜索。

2.2 数据合成策略

由于真实世界中涉及复杂推理、规划和交互的高质量数据极其稀缺，报告提出了一种混合数据合成框架，包含文本驱动（Text-driven）和环境驱动（Environment-grounded）两个互补方向。

2.2.1 文本驱动合成

利用大规模文本语料中隐含的过程性知识（如教程、说明书），将其重构为显式的交互轨迹。

• 工具提取： 识别具有多步工作流的文本段落，定义潜在函数并提取调用列表。
• 合成与细化： 将抽象工作流转化为具体的用户-代理多轮对话。
• 增强策略：

  • 工具分解（Tool Decomposition）： 将部分工具参数“隐藏”到环境中，迫使模型通过交互去获取这些参数，而不是一次性生成。
  • 推理分解（Reasoning Decomposition）： 为每一步行动生成多个候选，并让模型生成选择理由，从而将轨迹转化为决策过程。

2.2.2 环境驱动合成

为了保证逻辑正确性和执行一致性，团队构建了轻量级 Python 环境。

• 依赖建模： 构建工具间的参数依赖图（Directed Graph）。
• 逆向合成（Reverse-Synthesis）： 从依赖图中采样有效的工具执行路径，利用逆向工程合成对应的用户 Prompt，并执行代码验证最终状态，确保数据基于真实的执行逻辑。

2.2.3 面向规划的数据增强

Agentic Reasoning 的核心在于规划。为了显式增强这一能力，团队构建了两类特定数据：

1. 问题分解： 合成“问题分解+初始动作选择”的配对数据，提供从粗粒度规划到早期决策的监督。
2. 多候选决策： 从完整轨迹出发，在每个决策点生成多个候选方案，训练模型进行推理和选择。

3. 环境扩展与自动化构建

这是该报告最核心的技术亮点之一。为了训练通用的 Agent，必须让模型暴露在足够多样化的环境中。人工设计环境不可扩展，因此团队设计了一套自动化流水线，能够从高层定义生成可执行的领域环境。

3.1 领域图 (Domain Graph) 构建

构建过程分为以下步骤：

1. Schema 生成： 从领域描述生成工具 Schema（函数名、参数、前后置条件）和数据库 Schema。
2. 代码实现： 自动生成数据库实现代码和工具逻辑代码。
3. 单元测试与调试： 通过辅助 Agent 生成单元测试，确保代码转换成功率超过 95%。
4. 依赖图构建： 基于验证后的工具集，构建工具依赖图 。节点为工具，边表示参数依赖关系。

目前该系统已覆盖 20 多个领域，每个领域的工具图 包含超过 60 个工具，形成了密集的依赖网络。

3.2 保持可验证性的环境扩展

给定一个工具图 ，如何生成不同难度的环境？团队采用了一种受控的图生长算法。

1. 种子采样： 随机采样一个中等规模的工具链 ，实例化对应的数据库状态，确保依赖满足。

2. 受控扩展： 为了增加环境复杂度，需要将 扩展为更大的子图 。

   • 这里存在一个关键挑战：如果盲目引入新工具，可能会破坏数据库的一致性，导致有效轨迹执行失败，从而在 RL 中引入错误的负反馈。
   • 解决方案： 采用 BFS 风格的扩展，仅添加那些依赖已被当前已实例化工具满足的节点。

3. 多链融合： 决定是否引入新的独立工具链 。决策基于概率 ：

   其中 是当前环境结构复杂度， 是从剩余节点中发现新有效工具链的难度。如果 高于阈值，则引入新链 并进行融合。

这种机制保证了生成的环境既具有足够的复杂度（每个环境至少 20 个工具），又保持了严格的可执行性和可验证性。

4. 大规模异步强化学习

在 Post-training 阶段，目标是通过 RL 激发模型的 Agentic 能力。这不仅需要算法创新，更需要强大的基础设施支持。

4.1 任务集准备

RL 的效果取决于 Task Set 的质量。

• Agentic Coding： 从软件开发平台收集轨迹，通过严格的执行验证和动作级过滤，保留涉及长程调试的轨迹。
• Agentic Search： 合成优先考虑完整性和抗“走捷径”能力的推理轨迹。

  • 基于图形的 QA 合成： 基于 Wikipedia 实体构建关系图，通过采样生成多跳推理问题，并利用 LLM 模糊化具体细节以增加难度。
  • 基于 Agent 的合成： 使用多 Agent 协作（出题、验证、回答、裁判）生成具有歧义约束的问题。
• Agentic Tool-Use： 直接基于上述环境扩展流水线生成任务。

4.2 基础设施：扩展 DORA

针对 Agentic 任务的多轮次、长延迟特点，团队对 DORA（Dynamic ORchestration for Asynchronous rollout）系统进行了扩展。

4.2.1 全流式异步管道

• 消除批处理同步： 在 Rollout 阶段，取消了 Batch Barrier。LLM 生成、环境执行、奖励计算均在样本粒度上异步进行。
• 多版本共存： 允许不同模型版本的轨迹同时存在，Trainer 只要满足条件即可更新，或利用空闲算力开启更多生成实例。

4.2.2 生产环境中的资源调度

• 沙箱调度： 实现了高并发沙箱调度器，支持 32,000 个环境并发运行。
• 轻量级 Rollout 管理： 将原有的 RolloutManager 拆分为轻量级的元数据管理器和多个数据并行的 RolloutController，解决单机 CPU 瓶颈。

4.2.3 PD 分离与 KV-Cache Swapping

针对 560B MoE 模型的显存限制（60GB 卡），采用了 Prefill-Decode (PD) 分离架构。

• 负载不均衡问题： 长上下文任务会导致专家并行组内的负载不均衡。
• 解决方案： 将 Prefill 和 Decode 节点物理分离。
• KV-Cache Swapping： 引入 CPU 驻留的 KV-Cache。当设备显存不足时，将 KV Block 换出到 CPU，需要时再预取。这支持了 chunk 级别的异步传输，实现了计算与传输的重叠。

4.3 训练策略

4.3.1 动态预算分配

不同难度的任务对模型当前的训练价值不同。传统的均匀采样效率低下。团队提出基于实时指标 （如通过率）的动态价值函数：

利用贪心算法最大化当前 Batch 的总学习价值，动态调整各任务的 Rollout 预算。

4.3.2 混合上下文管理

Agentic 任务容易导致上下文溢出。团队对比了 Summarization 和 Discard 策略，提出了混合方案：

• Summary-based: 当上下文超过 80K tokens 时，使用模型自身对历史工具调用进行摘要。
• Discard-based: 当交互轮数超限时，触发 Discard-all 重置，仅保留系统提示和原始问题。
  实验表明，混合策略在 BrowseComp 任务上实现了最高的效率和准确率。

4.3.3 鲁棒性 RL：引入环境噪声

这是提升 Real-world 表现的关键。真实环境充满了噪声（指令模糊、工具报错、网络超时）。如果仅在完美合成环境中训练，模型会极其脆弱。

• 噪声注入： 在训练中显式注入指令噪声（用户表述的多样性、歧义）和工具噪声（执行失败、格式错误、部分结果）。
• 课程学习： 噪声强度随训练进程逐步增加。

实验数据显示，在引入噪声训练后，模型在 -Bench Noise 和 VitaBench Noise 等噪声测试集上的表现有显著提升（例如 VitaBench-Noise 从 13.3% 提升至 20.5%），且未损害在标准环境下的性能。

5. Test-Time Scaling

为了进一步挖掘模型潜力，报告提出了一种名为 Heavy Thinking 的推理模式。这不仅仅是简单的 Self-Consistency，而是一个结构化的“并行推理 + 深度反思”框架。

5.1 框架设计

Heavy Thinking 将推理分解为两个阶段：

1. 并行推理 (Parallel Reasoning) - 扩展宽度：

   • 模型并行生成 条候选推理轨迹。
   • 这些轨迹独立探索不同的解题路径。

2. 重度思考 (Heavy Thinking) - 扩展深度：

   • 引入一个 Summary Model（可以是同一模型）。
   • 该模型接收并行阶段的所有历史消息和候选答案。
   • 上下文记忆模块： 为了支持多轮对话和工具使用，设计了特定的 Prompt 模板，将并行轨迹的排列（仅保留答案内容）组织起来。
   • Summary Model 进行反思性推理，综合各路径的优劣，聚合或修正中间结果，生成最终决策。

5.2 针对 Summary 阶段的 RL

为了让 Summary Model 更好地通过并行轨迹进行去伪存真，团队引入了专门针对 Summary 阶段的强化学习。实验表明，这种 Test-Time Scaling 策略在长思维链、工具集成推理等场景下，效果始终优于单纯的 Self-Consistency，且计算预算越大，优势越明显。

6. One More Thing: Zig-Zag Attention

针对长上下文推理的效率问题，尤其是 Heavy Thinking 模式下推理延迟放大的问题，团队探索并发布了 LongCat-Flash-Thinking-ZigZag 模型。

6.1 核心理念

全注意力机制（Full Attention）的 复杂度限制了其在超长上下文（1M+）下的应用。现有的稀疏注意力方法通常需要大量重新训练。Zig-Zag Attention 旨在实现从预训练全注意力模型到稀疏模型的平滑过渡。

6.2 架构实现

Zig-Zag Attention 结合了 MLA（Multi-head Latent Attention）和 SSA（Streaming Sparse Attention）。

其中保留了局部窗口 和初始锚点 。

Zig-Zag 连接性：
采用层级交错稀疏化（Layer-wise interleaved sparsification）。

• 约 50% 的层替换为 SSA 层。
• 剩余层保留 MLA 全注意力。
• 信息传播： 虽然单层是稀疏的，但信息可以通过层间组合在多个层级上传播，形成“之”字形（Zig-Zag）路径，从而在大幅降低计算量的同时保留全局依赖能力。

6.3 性能与效率

通过将约一半的层替换为 Zig-Zag Attention，模型在 1M 上下文下的端到端推理速度提升了约 1.5倍，且在各项基准测试中保持了与全注意力模型相当的性能。

7. 实验评估

LongCat-Flash-Thinking-2601 在五个维度进行了评估：数学推理、Agentic Search、Agentic Tool Use、通用推理和代码。

7.1 主要结果

在与 DeepSeek-V3.2、Claude-Opus-4.5、Gemini-3-Pro 等模型的对比中：

• Agentic Search: 在 BrowseComp 和 BrowseComp-ZH 上，配合上下文管理，模型分别达到了 73.1% 和 77.7% 的 Pass@1，超越了所有开源模型，并在 RWSearch 上取得了 79.5% 的高分，仅次于 GPT-5.2-Thinking。
• Agentic Tool Use: 在 -Bench 和 VitaBench 上表现优异。特别是在引入噪声的测试集（-Noise, VitaBench-Noise）上，得益于鲁棒性训练，展现了极强的抗干扰能力。
• 数学推理: 搭载 Heavy Mode 后，在 AIME-2025 上实现了 100% 的准确率（参考外部报告分值），在 IMO-AnswerBench 上达到 86.8%，具有与闭源模型一战的实力。
• 代码: 在 LiveCodeBench 和 SWE-bench Verified 上均位列开源模型第一梯队。

7.2 随机复杂任务

为了验证泛化性，团队引入了一个新的评估协议。基于环境扩展流水线随机生成复杂的 Agentic 任务。结果显示，模型在未见过的任务分布上依然保持了高水平的完成率，证明了 Multi-domain Environment Training 的有效性。

更多细节请阅读原文。

往期文章：

• Agentic Reasoning for Large Language Models 综述：基础、进化与协作

• 小米推出 JudgeRLVR：先判断后生成——打破推理模型“长思维链”的效率悖论

• 你的 GRPO 的优势估计是有偏差的：GRPO 中的统计陷阱与 HA-DW 修正方案

• Meta 提出 Dr.Zero：零数据训练的自进化 Search Agent

• 深度解析 Ministral 3：基于级联蒸馏的参数高效密集模型训练方法论

• Sparse-RL：通过稳定稀疏 Rollout 突破 LLM 强化学习的显存墙

• Qwen 发布 ArenaRL：解决开放域 Agent 的奖励建模难题

• NTU & 通义提出 AgentOCR：基于光学自压缩的智能体历史重构

• DeepSeek 新论文 Engram 深度解读

• Anthropic 提出 EDL 来量化大模型的泛化能力

• 小米 MiMo-V2-Flash 技术报告：MoE 架构、混合注意力机制与多教师在线蒸馏

• DeepSeek-R1 v2 发布：新增技术细节与训练流程全解读

• WAIT, WAIT, WAIT... WHY DO REASONING MODELS LOOP?

• 陈丹琦团队新作：负样本强化在 LLM 推理中的有效性机制

• 深度解读 Recursive Language Models：利用递归与环境交互突破 LLM 上下文限制

• 论大语言模型强化学习训练中的 KL 正则化

• 阿里新作 Let It Flow: Agentic Crafting on Rock and Roll 深度解读

• DeepSeek 新作 mHC：为何要把超连接约束在流形上？

• 字节 Seed 新作：通过辅助损失实现 MoE 专家与路由器的紧密耦合 (ERC Loss)

• Bottom-up Policy Optimization: 自下而上的策略优化——语言模型内部潜藏的子策略

• Google DeepMind 新作：自回归模型中的涌现时间抽象实现了分层强化学习

• 被牺牲的元认知：效率导向优化如何改变了模型的推理结构

• Who is Adam? 重新审视大模型 RLVR 阶段的优化器选择

• 代码大模型的 Scaling Laws：编程语言差异性与多语言混合策略研究

• 从 0.5B 到 72B：揭秘 RL Post-Training 中的计算、数据与模型规模权衡

• 【深度专访】Gemini 3 预训练负责人：我们不再只是构建模型，而是构建 AI 系统

• 为什么 RM 总是学不好推理？揭秘 BT Loss 中被忽视的“距离偏差”

• QwenLong-L1.5：长上下文推理与记忆管理的后训练方案

• Motif-2-12.7B-Reasoning：RL 训练配方与全栈优化实践指南

• NVIDIA 提出端到端 RL 编排，8B 模型在 HLE 榜单超越 GPT-5

• LayerNorm 真的不可或缺吗？一文读懂超越归一化层的 Derf

• UBC & DeepMind 揭示“短上下文主导”现象：80%的生成任务只需最后96个Token

• 谷歌 DeepMind & MIT 发布智能体 Scaling Law

• Native Parallel Reasoner: 基于自蒸馏强化学习的原生并行推理框架

• 预训练、中期训练与强化学习在推理模型中的相互作用

• Differential Smoothing——缓解 RL 微调中的分布坍缩并提升 LLM 推理能力

• Natural Language Actor-Critic: 语言空间中的可扩展异策略学习 (NLAC)

• AAAI 2026：DeltaEdit 实现 LLM 连续知识编辑

• 复现 Search-R1 总是失败？GRPO 训练不稳定的幕后真凶与对策

• AAAI 2026：DeltaEdit 实现 LLM 连续知识编辑

• PretrainZero：将强化学习前置到预训练阶段的主动学习框架

• LLM-as-a-Judge 评估中的偏差修正与置信区间构建

• 字节阿里腾讯联手发布300页硬核报告：从 Code LLM 到 Agent 应用

• Qwen 推出 MiniRL：关于大规模 RL 训练稳定性的研究和实践

• DeepSeek-V3.2 技术报告深度解析：架构演进、RL 扩展与 Agent 合成数据

• Qwen3-VL 技术报告深度解析

• Qwen 团队推出 SAPO，相较于 GRPO、GSPO 稳定且更优

• 主打自验证数学推理：DeepSeekMath-V2 技术报告解读

• Anthropic 新作：利用“接种提示”可以阻止 Reward Hacking 引发的非对齐泛化

• 弱师出高徒：COLM 2025 Delta Learning 揭示弱模型偏好数据如何驱动 SOTA 级后训练

• AllenAI OLMo 3 技术报告深度解析

• HuggingFace 高分论文：首个达到 IPhO 金牌水平的开源模型是如何炼成的？

• Meta 提出 SoCE 策略，仅靠模型权重融合实现 SOTA

• 陈丹琦团队新作 Retaining by Doing：揭示 RL 比 SFT 为什么更能缓解灾难性遗忘

• 微软提出 GAD：通过生成对抗蒸馏方法实现 On-Policy 蒸馏 GPT-5

• LightReasoner：利用小模型引导大模型推理的对比学习框架

• WeiBo AI 推出 1.5B 小模型，成本实现 SOTA 级推理

• Meta FAIR 推出 HERO：LLM 强化中集成稀疏与密集奖励

• 专挑模型的“软肋”下手：阿里 MIWV 如何实现用1%数据超越全量微调？

• Meta AI 推出 RIFL：基于准则的强化学习来提升 LLM 指令遵循能力

• NeurIPS 2025 满分论文：LLM 强化学习的上限已被基座锁死了

• EMNLP 2025 主会论文解读：Towards Automated Error Discovery

• Meta AI 最新研究：大模型强化学习的几何优化偏置

• Meta AI：Scaling Agent Learning via Experience Synthesis

• 西湖大学提出 SimKO ：一种简单的 Pass@K 策略优化方法

• Google Research 重磅研究：一种用于持续学习的新型机器学习范式 - Nested Learning

• 蚂蚁大模型 Ling 2.0 技术报告

• 腾讯 WeChat AI 提出 Continuous Autoregressive Language Models

• 清华 & 智谱推出 CROPI 框架：通过 Off-Policy Influence 来提升 RLVR 的数据效率

• NVIDIA 提出 CoDeC：通过 In-Context Learning 来区分模型“记忆”还是“泛化”

• Sea AI Lab 新研究：FP16 可以解决 RL 中的训推不一致

• 浙大 & 阿里提出 RAVR：当 LLM 被“剧透”答案后，它的推理能力会发生什么变化？

• 通义 DeepResearch 技术报告解读

• 字节 Seed 重磅新作：Scaling Latent Reasoning via Looped Language Models

• NeurIPS 2025 高分论文 DisCO：利用判别式约束优化增强推理 LLM

• On-Policy Distillation 解读

• Google DeepMind：从开源模型中提取 SFT 和 RL 训练数据

• 南大 NeurIPS 2025：关于 LLM 内部概率与自洽性的理论研究

• LoongRL：面向长上下文推理的强化学习

• RL Grokking：解决 pass@K=0 难题的新思路

• 重新思考 RLVR 中的基线设计：用分位数替代均值，让大模型强化学习更加稳定

• SFT 是通用能力的“杀手”还是“背锅侠”？亚马逊新作揭示其“灾难性遗忘”的真相

• 腾讯优图提出免训练GRPO，在上下文空间中实现策略优化

• 告别“炼丹”，拥抱“工程”：Meta AI 万字长文详解大模型强化学习的 Scaling Law

• Google DeepMind 为提示词优化提供理论保证，文末附优化实践启示

• Sanjeev Arora 团队新作 STAT：破解 SFT 饱和瓶颈，通过“技能驱动”让模型性能再提升7.5%

• Meta AI 提出 RECAP：真正的稳健推理源于纠正错误，而非模仿正确

• ExGRPO：超越在线策略，让大模型从“经验”中高效学习推理

• 苹果提出 RL4HS：用强化学习来进行幻觉范围检测

• NVIDIA 大规模实证研究揭示：推理数据前置到预训练阶段的必要性

• Meta AI 揭示 SFT 陷阱：盲目追求高分，可能会损害模型在 RL 阶段的潜力

• 腾讯混元提出 RLPT ：在预训练数据上进行 RL，进一步 scaling LLM 推理边界

• GRPO 就是 DPO ? 2-GRPO 媲美 16-GRPO，训练时间缩短 70%

• DeepSearch：将 MCTS 嵌入到 RLVR，解决信用分配难题