2 篇文档带有标签「记忆审计」

一句话摘要：你跑完一个遗忘算法——现在得证明它有用。标准化基准（RWKU、MUSE、TOFU 家族）把「我们忘了」变成一个可比、可回归的分数：不是单看「还背不背得出」，而是同时量遗忘质量 × 保留效用 × 攻击下的隐私泄露三根轴。这些基准收敛到一个令人不安的共识——很少有方法能同时过「效用」和「泄露」两关（MUSE 报告：八个算法里只有一个不导致严重隐私泄露 ⚠️ 预印本）。但基准本身也有盲区：基准是代理，过基准 ≠ 真忘（接本卷《遗忘可验证性》），覆盖之外是照不到的角落。

一句话摘要：「我到底记住了多少私有数据」不该靠感觉，它可以量出来。Secret Sharer（USENIX Security 2019）给了方法：往训练集插入随机的探针（canary），训练后用暴露度（exposure）量它相对随机串被我偏好的程度——暴露度越高，说明记得越牢。Quantifying Memorization（ICLR 2023）进一步测出：模型越大、某条重复越多、给的上下文越长，可发现的记忆越多。结论先行：发布前用 canary + exposure 审计记忆，把「记住了多少」变成可回归的数字，别凭直觉说「应该没记住」——那是审计缺位的假安全。