Tag: rl

All the articles with the tag "rl".

• 从 PPO 到 GRPO：LLM 强化学习的原理与 PyTorch 实现

  10 Sep, 2026

  从策略梯度到 GRPO 完整实现，再到 grad_fn、AdamW 与训练显存全景的逐层拆解

• GLM-5.3 系统优化深度解读：slime 框架如何支撑长周期 RL 扩展

  14 Aug, 2026

  从 OPD 蒸馏到 TensorBackuper 权重快照、路由调度与数值对齐，基于 slime 源码拆解 GLM-5.3 长周期 RL 训练的系统优化

• OPD 深度解析（三）：知识蒸馏与 OPD 梯度推导

  29 Jul, 2026

  从离线知识蒸馏到 on-policy distillation 的梯度推导，涵盖 sequence-level 与 token-level OPD

• OPD 深度解析（一）：概率、熵与 KL 散度

  29 Jul, 2026

  从概率分布到熵、交叉熵再到 KL 散度，建立 on-policy distillation 的数学基础