2025 年，大模型的后训练已经变得比预训练重要了吗？

难说，后训练越看越不自然 kimi K2的成功，按他们的说法，很大程度上在于智能体agent 预训练，而不全靠或主要靠后训练 他们搞了一套大规模的agent 轨迹的合成，把各种工具调用、MCP、搜索、等等事情，全都用offline的方式合成了非常多数据，然后拿来预训练。

添加图片注释，不超过 140 字（可选） 因此，作为一个非推理模型，它的SWE-Bench（软件开发测评集，就搞了一堆github repo的issue，再给llm一堆工具，比如terminal或者文件管理，让LLM去修repo）分数高达65.8%，比大多数推理模型更强 （或许，SWE-Bench本来考的就不是纯代码能力，而是调工具能力？）

添加图片注释，不超过 140 字（可选） 类似的，上半年大家发RL论文，都在调千问。 一个方法，qwen 2.5 能涨点，llama 3 就不行。原因大家也都觉得是，qwen 2.5 的预训练文本里混合了好几个T的推理数据，都是qwen 2 math 和qwen 2 coder 合成的。 所以它本来就会推理，不会的只是那句：“wait，perhaps I should try another approach （等等，或许我该换个方法）“ 当然，后训练肯定会涨点，但是这些能力似乎只有通过大规模合成数据，成为下一代模型的预训练样本，才能让下一代模型真正学会一个能力 可以这么说，后训练是为了拔高能力，预训练才是彻底掌握 如果我们从统计样本的角度来看，RL的后训练是极其不自然的 一般来说，一个样本要有意义，前提一般是随机抽取的，independent identical distribution。 预训练的data 是shuffle过的，大致符合这个标准 但是，RL训练的数据并不是。假如一个模型由弱到强，那它看到的数据就不是均匀分布。 这到底会影响什么也难说，但总觉得怪怪的