PaperarXiv:2609.30884
SettingEvolving adapters
ContextLong-context KV cache
RecoveryBounded recompute
问题
当轻量适配器持续更新时,已有 KV Cache 来自旧版本模型。直接复用会让当前输出偏离新适配器,而完整重做受影响后缀又会消耗大量 prefill 计算。
Version awareness缓存被表示为逐层混合版本对象。
Behavioral recovery目标是恢复当前 adapter 的行为,而非机械追踪依赖。
恢复策略
CacheReforge 结合逐层 adapter anchor、敏感度、累计漂移和可执行 restart boundary,在直接复用、有限重算和完整受影响后缀恢复之间选择。
Dependency depth传播深度和实际需要重算的功能范围被区分开。
Tail influence累计尾部影响用于判断有限恢复是否足够。
公开评测
论文在 Qwen2.5-1.5B / 7B、持续 LoRA 更新,以及 16K HotpotQA 和 2WikiMQA 工作负载上进行评测,报告了相对于陈旧复用和完整 fresh prefill 的保真度与维护开销结果。
