简单、智能且稳健的学习增强缓存淘汰(OSDI 2026)

原题:Learning-Augmented Heuristics: Simple, yet Smart, Robust and Interpretable Cache Eviction

一句话总结:LAH只异步学习静态heuristic的cache-level parameters,data plane仍走简单FIFO;S4-FIFO以4,140 traces预训练、1,035 production traces评测,平均miss ratio优于SOTA且worst trace仅比FIFO差0.8%,吞吐接近heuristics。

问题与动机

per-object learned cache频繁预测、critical-path metadata重,且objective mismatch会在未见trace灾难性退化。静态S3-FIFO快且稳,但参数无法适应workload。

关键观察 / 隐含假设

  • 低频cache-level learning足以调queue proportions等少量参数,无需每object预测。
  • heuristic data plane提供robust fallback与interpretability。
  • production trace分布足以训练跨workload model。

核心方法

LAH分离control/data plane:异步model读取aggregate cache features,周期性输出S3-FIFO parameters;S4-FIFO增加可调第四queue与promotion/eviction配置,critical path只做queue operation。

实验与结果

  • 设置:1,035 production traces,对比FIFO、2Q、ARC、LRB、LHD、3L-Cache,以miss ratio和Cachelib throughput为指标(§6)。
  • worst trace相对FIFO只+0.8%/+0.2%,其他smart policy可+20%–72%;3L-Cache simulator平均慢17.3×。
  • S4-FIFO吞吐接近heuristics,LLM从features预测配置准确率83%/86%。

论断—证据表

论断证据边界置信度
cache-level learning兼顾平均与worst-case图 6–8production traces
data plane保持高吞吐Cachelib图 848 threads

批判性分析

论证链条

将learning限制在parameter tuning,清楚避免per-object smart cache的复杂度与不稳。

假设压力测试

phase快于control update或trace/domain显著漂移时model会选错配置,但FIFO-like结构限制最坏损失。

实验可信度

trace规模与worst-case指标强;实际backend miss penalty、variable size/TTL尚未完整覆盖。

局限与后续工作

  • variable-size、TTL、cost-aware cache与online drift detection。
  • 长期production A/B测tail latency。

相关