2026.09.30

有何变化

论文研究在注释预算不足以对每个条目进行多标注时的 LLM-judge 验证。它将重叠稀疏性视为两个可操作的设计杠杆：重叠数量与分配。在 5% 的成对重叠下，错误决策率达到 25%，在十名候选中选择错误的最佳裁判的概率为 65%。实验证实了在四个评估矩阵上对 10 个 LLM 裁判的分析。

在独立同分布（i.i.d.）条目、与标签无关的重叠掩码和固定评审边际下，Theorem 1 给出 Var(F̂_m) = γ_F(π)/m + O(1/m²)。放大因子取决于患病率和一致性估计量。在标签偏斜下，经机会校正的系数——Cohen’s kappa 与 Krippendorff’s alpha 的放大因子可能发散，而观测一致性与 AC1 的放大因子保持有界。这使得一致性统计量的选择成为稀疏重叠设计的一部分，而非事后报告的细节。

关于重叠数量，Equation (7) 和 Theorem 2 给出 m* = ceil(z_(1−α_sig/2)² σ² / δ²)，将所需的共注释条目数与单条方差和容差通过高斯/中心极限定理近似联系起来。摘要报告称对于非边缘裁判，ρ ≥ 0.25 即足够，而边缘案例仍本质上难以判定。

分配是第二个杠杆。当分层信号与标签相关时，称为 Strat 的静态分层共享重叠抽样相比随机稀疏分配在偏差上显著降低——通常降低一个数量级。一个零成本的分层方案在层有信息时也将误拒率相比随机抽样减半。作者的实用建议是：在 Strat 下使用观测一致性、目标成对重叠 ρ ≥ 0.25、使用 K = 3–5 位人工评审者，并为排名获取额外重叠。

可迁移的研究操作是将重叠數量与分配單獨预注册：声明该决策是认证还是排名，设定容差，并在提交共享面板前测试候选分层是否具信息性。将由此得到的重叠计数视为规划近似，而非无假设的保证。

边界条件

论文指出其结果假定条目独立同分布且以批量注释；若条目难度呈簇状，则需要簇感知的分层。Strat 要求层具有信息性，且在极端偏斜下退化（π_max > 0.90）。规划规则在高斯/中心极限定理近似下陈述，并将单条方差 σ² 作为输入。

基于 LLM 的数据分析代理可能在计算上成功执行操作，但选择了错误的数据源、范围或统计定义，从而产生看似合理但不回答目标问题的输出。RADAR 通过可审计的运行时使分析选择可被检查与修正，以应对这一“静默错误”模式。

在探索阶段，运行时检索与任务相关的内容，同时保留源位置信息与观测覆盖范围。类型化操作记录代理声明的输入、操作参数和产生的观测。运行时验证将拟议操作与那些观测进行核对；若冲突，它会拒绝该操作或提供诊断性反馈，以便代理在错误传播前进行修正。在论文的排序示例中，保留的输入规模和缺失的配对条件为拒绝隐式连接并请求显式对应提供了依据。

对于实现者来说，可迁移的单元因此是“拟议操作 + 其证据契约”，而不仅仅是最终答案。一个最小原型可以记录每个操作声明的输入、源位置和覆盖，然后仅在所需观测存在时测试过滤器和连接。一个有价值的实验是比较完全枚举与部分预览：更高的覆盖是否导致更多有理据的干预，以及哪些检查仍然盲目？这是一个提出的研究操作，而非已报告的结果。

在 KramaBench 上，RADAR 在完整源检索下报告总体分数为 0.723，提供黄金源时为 0.747，相对于最强基线分别对应 35.9% 和 28.8% 的相对增益。在三个被评估基准的 1,054 个任务中，它报告被计为静默错误的案例数为 405 到 289（范围），以及相对于 DS-STAR 的 84 到 24 个未交付案例。在实质性交付中，静默错误率从 DS-STAR 的 41.8% 降至 RADAR 的 28.1%。

这一边界很重要：验证是有条件的而非普适的。每个检查都需要被支持的 SQL 结构和其规则所指定的观测，当任一需求不满足时该检查被跳过。观测覆盖决定了未观测到的过滤值是否足以构成拒绝的依据；部分预览并不构成拒绝的依据。因此，如果探索未获得完整覆盖，某些静默错误仍可能存在。RADAR 的教训不是运行时检查可替代语义判断，而是它们能在足够早的阶段暴露出具体假设以便修正。

Transformer 的 KV 缓存将每个 token 的表示与其整个前缀纠缠在一起。因此，精确重用仅限于共享前缀，删除一段文本需要重新计算其后的所有内容。SMem 并不将重用视为缓存策略问题，而是改变表示边界：一个块局部编码器将每个块独立映射到记忆行，读器通过交叉注意力将它们的并集作为生成条件。

这种架构回报以不变量的形式陈述，而非学到的行为。对任意参数设定，记忆在固定块索引处精确可组合，删除一个 b-token 块是一个精确的 O(b) 更新，且记忆状态与编辑路径无关。Theorem 1 给出了具体的删除检测：移除一个块的行会精确得到若该块从未被编码时的状态，同时其余块保持其索引不变。

最严格的实证检验针对承诺的运行区间。在报告的 FineWeb-Edu 植入针协议、4× 训练上下文下，SMem 在距离 31 和 63 块时的 exact-match 为 0.14–0.28；被测得的 learned-position、RoPE 和 Block-Attention 风格 Transformer 的得分最多为 0.02。对于完全缓存的上下文，block-skip 路径仅在最后一个块上运行读器；在报告的 H200/L40S、bf16、batch-1 测量中，延迟为 3.1–6.2 ms（随上下文长度变化），最终 logits 在浮点误差范围内一致。以上均为有条件的测试：检索结果是受控的针探，部署结果假定完全缓存的上下文和所述硬件/路径。

质量是一个明确的边界。在 FineWeb-Edu 上对 160M–1.5B 模型、两种训练方案和一次学习率搜索的测试中，SMem 相对于参数匹配且使用相同位置方案的 Transformer 的困惑度差距在 −4.7% 到 +2.8% 之间；负值有利于 SMem。论文还说明 SMem 是一个预训练时的设计选择，而非事后改造。

一个有用的复现问题是：当块大小、读器容量、硬件和编辑模式改变时，精确性、检索和部署增益是否仍然成立。首先检验表示不变量，然后分别报告学习质量与系统测量；这样可避免将形式化的缓存保证误读为普适的质量或延迟保证。

现有工作主要通过检测或放弃机制来缓解幻觉，但并未解释模型内部如何作出 commit 或 abstain 的决定。本文将幻觉框定为“不被支持的承诺”：模型在存在无法回答信号时仍作出承诺。研究聚焦于生成前的 commit-versus-abstain 决策，而不是对每一个错误答案给出一般性解释。

方法上，作者定义 Δ(x) 为最高 commit-logit 与最高 abstain-logit 之差，使用手工验证的弃答标记集。他们将该边际分解为来自注意力头和 MLP 子层的残差流贡献。改编的因果门控联合对这些组件建模：一个三阶段程序先优化边际分离，然后施加保留与移除压力，以识别其门控支持决策的组件。由此得到的 Commit–Abstain Circuit（CAC）是一个稀疏的、因果局部化的头与 MLP 子层子集；报告的中位数为 5.2% 的组件。

结果方面，在来自五个家族的 3B–14B 规模、十个经过指令微调的模型以及三个基准（KUQ、SQuAD 2.0、MuSiQue）上，作者发现反复出现的“积累但难以纠正”模式：促进承诺的组件较早起作用并累积承诺，而促进弃答的组件多出现在较晚位置，作为校正信号但通常不足以推翻先前的承诺。在本文的边际和门控定义下，这为“不被支持的承诺”提供了组件级的解释。基于 CAC 激活训练的轻量策略比模型本身的 commit–abstain 边际将决策准确性提高了 12.2 个百分点，减少了 2.5 倍的错误弃答，能够迁移到未见的基准，并扩展到 27B–35B 规模的模型。

边界与研究用途：该研究限于指令微调模型上对无法回答输入的“不被支持的承诺”；它并不处理对本应可回答问题的错误答案。作者也声明弃答读出和 CAC 都是对底层行为的部分操作化。应把该电路视为可检验的特征集，而非完整的因果清单。一个有意义的复现实验是：固定模型与基准，比对固有边际与基于 CAC 特征的策略，然后检验早期与后期贡献模式在新的弃答标记集下是否保持不变——该实验直接探查结果中哪些部分属于模型计算，哪些属于论文的操作选择。

局限性：现有的 LLM 撤销工作主要聚焦于移除诸如有害事实、私人数据或受版权保护内容等知识。代理引入了不同的目标：阻止通过动作轨迹再现不希望出现的行为。论文称之为轨迹级别的遗忘，并强调目标是代理的行为（做了什么），而非其表述（说了什么）。由于轨迹具有序列依赖性，将其降维为孤立的提示—响应对可能丢失产生该行为的多步骤结构。

仅靠提示的遗忘在论文的测试中表现不足。其对 NL 的适配既无效又脆弱：在多条轨迹下扩展性差且可被提示攻击绕过。因此作者采用参数更新而非仅靠指令。

方法上，GiRPO 改变了策略优化的数据单元。它将指定的忘记轨迹作为带惩罚奖励的伪回合注入到回放组中。优势归一化使用真实回合的统计量；伪回合基于这些统计量进行评估但不改变它们。忘记优势还被下截断，以在真实回合奖励方差低时界定负学习信号的幅度。预期结果是一个对常规回放更新的可加性忘记更新，而非对其产生偏置。

证据及其条件：在 ALFWorld 和 WebShop 上，GiRPO 在抑制目标轨迹同时保持任务成功方面优于被比较的知识撤销基线。在 ALFWorld 的 Clean 目标任务上，它将 Exact Match 降低了 32.5% ，同时保留了 88.4% 的 Success Rate，论文报告这是所比较方法中最好的遗忘—效用权衡。

该效用保证并非无条件。失败的忘记轨迹比完整成功的轨迹更容易被移除。当被移除的轨迹是代理学到的唯一成功路径时，成功率会从 100% 降至 92.94%。所报告的实验涵盖 ALFWorld 和 WebShop；尚未证明其对其他模态、更复杂环境、多智能体设置或物理机器人能否泛化。

研究操作：一个紧凑的后续工作是按完整与不完整轨迹对忘记数据分层，应用相同更新，并绘制 Exact Match 与 Success Rate 的关系图。关键问题是：一次遗忘更新是移除某一行为路径而保留备选方案，还是因为目标路径是唯一学得的解而删除了该任务能力。