GRPO优化在继续——CISPO和熵

来自MiniMax-M1: Scaling Test-Time Compute Efficiently with Lightning Attention^[1]中的一个发现。其实R1-Zero后，关于GRPO的优化和研究已经有相当不少的文章了，光笔者自己都梳理过不少，如下。

没想到还能继续出新。

背景

首先回顾一下PPO：

\begin{aligned} \mathcal{J}_{\mathrm{PPO}}(\theta) & =\mathbb{E}_{q \sim \mathcal{D}, o_i \sim \pi \theta_{\mathrm{old}}}(\cdot \mid q) \\ & {\left[\frac{1}{\left|o_i\right|} \sum_{t=1}^{\left|o_i\right|} \min \left(r_{i, t}(\theta) \hat{A}_{i, t}, \operatorname{clip}\left(r_{i, t}(\theta), 1-\epsilon, 1+\epsilon\right) \hat{A}_{i, t}\right)-\beta D_{K L}\left(\pi_\theta| | \pi_{\mathrm{ref}}\right)\right], } \end{aligned} \tag{1}

其中：

r_{i, t}(\theta)=\frac{\pi_\theta\left(o_{i, t} \mid q, o_{i,\lt t}\right)}{\pi_{\theta_{\text {old }}}\left(o_{i, t} \mid q, o_{i,\lt t}\right)} \tag{2}

是重要性采样权重，表示当前策略和旧策略在同一个状态下输出o的概率比，比值大于1，表示新策略更倾向于选输出该token；相反，说明新策略不再倾向选这个token。

这是带Clipping和KL惩罚的损失函数。PPO需要价值网络计算Advantage，不过GRPO去掉了价值模型，将Advantage定义为相对于组中其他响应的输出奖励。

\hat{A}_{i, t}=\frac{R_i-\operatorname{mean}\left(\left\{R_j\right\}_{j=1}^G\right)}{\operatorname{std}\left(\left\{R_j\right\}_{j=1}^G\right)}, \tag{3}

Reward可以用规则来计算，也可以用一个Reward模型。

问题

在使用GRPO时，观察到其对性能产生负面影响，而且不能有效促进CoT推理行为出现。通过一系列试验后发现主要是由于PPO/GRPO损失函数中的不当裁剪操作导致的。

具体来说，与反思行为相关的token通常是推理路径中的“分叉点”，在Base模型中出现频率低，且被赋予较低的概率。这些token往往具备较高的r，因此在第一次on-policy更新后就会被裁剪掉，无法参与后续的off-policy梯度更新。然而，这些低概率的token往往对于稳定熵以及促进可扩展的强化学习至关重要。

尽管 DAPO 尝试通过提高裁剪上界来缓解这一问题，但本文发现这一方法在本文采用的设置中效果有限——每个生成批次包含 16 轮 off-policy 更新。其实关于这点，我们在DAPO：为GRPO的锦上加四点花 | Yam^[4]也分析过，原话是：“论文中low被设置成0.2，high被设置成0.28。看起来好像也没增加多少；）”，因为这个high值的影响其实非常小。

还需要解释一下on-policy和off-policy，首先是结论：GRPO 算法整体属于 on-policy，但更新过程有 off-policy 的“成分”。

如图所示（图片来自verl仓库），

采样：on-policy rollout，每个输出都是根据当前policy生成的。
计算log_prob：用当前policy和ref policy计算log prob，然后计算r。
多轮actor更新：每一轮更新后policy会变，但数据依然是一开始采样的。新策略在学旧策略生成的数据，产生 off-policy 成分。

on-policy和off-policy关键区别是：

on-policy：当前策略采样数据，用这批数据训练这版策略。
off-policy：训练用的数据不是当前策略采样的，可能来自旧策略甚至别的策略。

CISPO

CISPO是Clipped IS-weight Policy Optimization的简称，它被设计为明确避免丢弃token，即使是那些对应较大更新的token，同时通过内在机制将熵控制在合理范围内，以确保探索过程的稳定性。

本文从REINFORCE出发，它的损失函数如下：

\begin{aligned} \mathcal{J}_{\operatorname{REINFORCE}}(\theta) & =\mathbb{E}_{(q, a) \sim \mathcal{D}, o_i \sim \pi_{\theta_{\text {old }}}}(\cdot \mid q) \\ & {\left[\frac{1}{\left|o_i\right|} \sum_{t=1}^{\left|o_i\right|} \operatorname{sg}\left(r_{i, t}(\theta)\right) \hat{A}_{i, t} \log \pi_\theta\left(o_{i, t} \mid q, o_{i,\lt t}\right)\right], } \end{aligned} \tag{4}

sg表示停止梯度操作。对r进行clip：

\begin{aligned} \mathcal{J}_{\mathrm{CISPO}}(\theta) & =\mathbb{E}_{(q, a) \sim \mathcal{D},\left\{o_i\right\}_{i=1}^G \sim \pi_{\theta_{\text {old }}}(\cdot \mid q)} \\ & {\left[\frac{1}{\sum_{i=1}^G\left|o_i\right|} \sum_{i=1}^G \sum_{t=1}^{\left|o_i\right|} \operatorname{sg}\left(\hat{r}_{i, t}(\theta)\right) \hat{A}_{i, t} \log \pi_\theta\left(o_{i, t} \mid q, o_{i,\lt t}\right)\right], } \end{aligned} \tag{5}

其中， $\hat{r}$ 就是clip的IS weight：

\hat{r}_{i, t}(\theta)=\operatorname{clip}\left(r_{i, t}(\theta), 1-\epsilon_{l o w}^{I S}, 1+\epsilon_{h i g h}^{I S}\right) \tag{6}

此外，还采用了DAPO^[8]提出动态采样和长度惩罚技术，另外也没有使用KL惩罚。

这里的核心是sg操作，让IS停止（不参与）梯度，这样就不会像PPO那样clip导致update被截断，进而导致token update被强行剪掉。CISPO只是将IS当做一种固定的reweighting因子，衡量采样分布和目标分布（新旧策略）之间的差异。

这也是个很有意思的发现，令人感慨——细节真多。

文中还提出一个通用公式，引入一个按 token的 mask，然后就可以通过超参数调优来控制是否以及在何种条件下应舍弃来自特定token的梯度。

\begin{aligned} \mathcal{J}_{\mathrm{unify}}(\theta) & =\mathbb{E}_{(q, a) \sim \mathcal{D},\left\{o_i\right\}_{i=1}^G \sim \pi_{\theta_{\text {old }}}(\cdot \mid q)} \\ & {\left[\frac{1}{\sum_{i=1}^G\left|o_i\right|} \sum_{i=1}^G \sum_{t=1}^{\left|o_i\right|} \operatorname{sg}\left(\hat{r}_{i, t}(\theta)\right) \hat{A}_{i, t} \log \pi_\theta\left(o_{i, t} \mid q, o_{i,\lt t}\right) M_{i,t}\right], } \end{aligned} \tag{7}

注意，式（7）比式（5）就在后面多了一个M。

M_{i, t}= \begin{cases}0 & \text { if } \hat{A}_{i, t} \gt 0 \text { and } r_{i, t}(\theta) \gt 1+\epsilon_{\text {high }}, \\ 0 & \text { if } \hat{A}_{i, t} \lt 0 \text { and } r_{i, t}(\theta) \lt 1-\epsilon_{\text {low }}, \\ 1 & \text { otherwise } .\end{cases} \tag{8}

简单来说，就是让过分放大奖励和过分惩罚的token损失为0，完全不参与梯度更新（一定程度上等价于PPO带梯度的的clip）。其实PPO的clip动作看起来貌似就是类似的一个mask（把high和low值换成同一个ϵ）。

熵

还记得CISPO一开始的那句“同时通过内在机制将熵控制在合理范围内”吗？

说起熵，那是一个让人又爱又恨的东西，我们又不希望它太小——策略太稳定没探索了，也不希望它太大——策略太飘忽训练不稳定。其实这放在我们生活中也是一样，大多数情况下，我们既不希望生活一潭死水，但也不想每天心惊肉跳。你把“生活”换成“人生”其实也一样。

熵本质上是一种不确定性的度量，熵值太小，说明新的信息几乎不会对系统带来影响（信息量为0），系统趋于稳定；而熵值大，稍微一点信息就会对系统有影响，所以我们有最大熵原理。简单来说，在面临不确定性时，我们应该利用已知的信息让选择等可能性（不确定性最大）。关于熵，笔者之前也有不少文章提到过，感兴趣可以阅读附录1。

好吧，言归正传，这里其实是想顺带说说 Reasoning with Exploration: An Entropy Perspective^[9] 这篇paper，本文发现：高熵区域与三类探索性推理行为存在正相关性：

决定或连接逻辑步骤的关键Token；
自我验证和修正等反思性行为；
Base模型未充分探索的罕见行为。

说明熵可以作为识别语言模型中探索性推理行为的有用信号。于是，本文使用基于熵的项（经过裁剪并断开梯度的熵项）来增强优势函数。不过与传统的最大熵方法通过促进不确定性来鼓励探索不同，这里通过促进更长、更深的推理链来鼓励探索。

裁剪操作确保了熵项既不会主导优势项，也不会改变其符号，而梯度分离则保持了原始的优化方向。这一设计在保持策略梯度优化流的同时，增强了策略在不确定性下表现出的探索性推理行为。

此外，由于熵与策略置信度之间存在内在的张力关系（既要探索未知，又要利用已知；既要保持不确定性，又要有信心做出决策），随着置信度的提升，熵项会自然减弱——从而在训练早期鼓励探索，而在后期避免过度探索。

“熵与置信度之间的内在张力”意味着：模型在不确定时需要探索（熵高），而在确定后会自然减少探索（熵低）。这种动态变化使得基于熵的探索机制具有自我调节能力，不会一直被人为鼓励，从而避免了过拟合或奖励欺骗。

整体改动如下。

对于输出 o 中的每个Token ot，当前策略对词表 V 的熵为：

\mathcal{H}_t=-\sum_{v \in \mathcal{V}} \pi_\theta\left(v \mid q, o_{\lt t}\right) \log \pi_\theta\left(v \mid q, o_{\lt t}\right) \tag{9}

定义ψ(Ht)为：

\psi\left(\mathcal{H}_t\right)=\min \left(\alpha \cdot \mathcal{H}_t^{\text {detach }}, \frac{\left|A_t\right|}{\kappa}\right), \quad \text { where } \alpha>0 \text { and } \kappa>1, \tag{10}

其中，α 是缩放系数，κ 控制clip阈值。这个clip保证ψ(Ht)比阈值小，不会主导Advantage；另外，绝对值也确保了At<0时ψ(Ht)不会反转Advantage符号，从而保留原始优化方向。

更关键的是，熵项Ht detach掉了，因此它在梯度传播时仅作为一个固定的偏移量添加到原始Advantage上。这样做能够调整更新的幅度，但不会改变梯度的方向。这和CISPO的sg(IS)是类似的思想。

代码改动1行：

# Compute advantages as in PPO or GRPO 
adv = compute advantages(...)  
# Apply entropy-based term for advantage shaping 
adv += torch.min(alpha * entropy.detach(), adv.abs()/kappa)  
# Use the shaped advantages to compute the policy loss 
loss = compute policy loss(adv, ...)

实证结果表明，当At>0时，更高的熵会导致对所选Token的更新更强，从而大幅提升其概率，使得输出分布更加集中。分布越集中，熵就越低，这反过来会降低 ψ(Ht) ，并削弱后续的更新强度。

和基于熵的正则项对比如下：

其中，A_shaped = At + ψ(Ht) 。

最终效果确实有少量提升。

小结

本文介绍了MinMax在MiniMax-M1中提出的CISPO，它的出发点是解决GRPO中的不当裁剪问题，尤其是与反思行为相关的token。出发点与DAPO的Clip-Higher类似，不过后者效果不明显，于是通过clip IS 后停止梯度，这样Token的update不会被截断，IS作为权重因子依然影响策略。

我们还介绍了关于熵的一篇paper，主要是观察到熵在探索方向的潜力，于是在Advantage上加了一个「经过裁剪并断开梯度的熵项」，调整了更新的幅度，但不改变梯度方向。

不知不觉，RL在LLM中的应用已经逐渐进入深水区了，我们在实际项目中也开始使用相关技术，确实取得了不错的效果。这个方向确实非常有意思，值得关注，笔者个人也一直比较感兴趣，之前有过一些思考（参阅这里^[10]附录部分），感兴趣的读者可以关注hscspring/rl-llm-nlp: Reinforcement Learning in LLM and NLP.^[11]

附录

附录1

笔者曾提到或讨论过熵的相关文章，有些内容可能很幼稚甚至不对，还望读者海涵。

References