大模型29
少即是多：Lite PPO如何用最简策略在LLM推理上超越复杂强化学习算法
利用强化学习（RL）提升大型语言模型（LLM）的推理能力，即RL4LLM，已成为人工智能领域炙手可热的研究方向。然而，该领域的飞速发展也带来了一系列严峻挑战：
...
重磅开源！GLM-4.5 ARC 技术报告深度解读：迈向通用问题求解器的关键一步
2025年8月8日，智谱 AI (Zhipu AI) 与清华大学联手推出了《GLM-4.5: Agentic, Reasoning, and Coding (
...
清华&美团首次揭秘MoE：从“Massive Activations”到“Attention Sink”，探寻“超级专家”的机制
稀疏激活的混合专家模型（Mixture-of-Experts, MoE）已成为推动大型语言模型（LLM）能力边界的关键架构。然而，其庞大的参数量给实际部署带来
...
腾讯 AI Lab提出R-Zero「实现零数据自进化」
最近的大语言模型（LLM）发展得很快，但是，这些个模型有个问题：就是它们太依赖大量人工标注的高质量数据了。
要训练一个顶尖的LLM，需要投入很多人力、财力和时
...
CompassVerifier 深度解析：为大模型打造统一、鲁棒的“裁判”与“奖励”系统
我们该如何准确、可靠地评估大模型的能力？
如果说模型是“工匠”，那么评估体系就是“度量衡”。一个没有精准度量衡的领域，是无法实现系统性、科学化进步的。目前，对
...
一行代码，解锁SFT泛化能力：深度解读DFT如何完胜传统微调
在大型语言模型 (LLM) 的世界里，如何让模型更好地理解并遵循人类的指令，即所谓的“对齐”，始终是核心议题。目前，主流的技术路线分为两条：监督微调（Supe
...
思维链再遭质疑！距离真正可泛化推理还很远吗？
近年来，大型语言模型（LLM）通过一种名为“思维链”（Chain-of-Thought, CoT）的提示技术，展现了令人惊叹的复杂推理能力。它们能够像人类一样
...
告别验证器依赖：RLPR如何将大模型推理能力泛化到通用领域
当今的大语言模型（LLM）在各类任务上展现了惊人的能力，但提升其逻辑推理能力，尤其是面对复杂问题时的深度推理，仍然是前沿研究的核心挑战。一种被称为“基于可验证
...
深入解读 OpenAI 最新开源力作：gpt-oss-120b & gpt-oss-20b 模型卡
摘要: 2025年8月5日，OpenAI 投下了一颗重磅炸弹，发布了自 2019 年以来的首批开源权重模型：gpt-oss-120b 和 gpt-oss-2
...
ACL2025｜AdaGroPE：免训练即插即用扩窗至128k
引言：为什么大模型需要更长的“记忆”？
在人工智能的浪潮之巅，大型语言模型（LLM）无疑是最耀眼的明星。从回答复杂问题到创作诗歌剧本，它们展现出的强大能力正深
...