面向漂移生命周期分布与长期放置债务的动态 VM 生命周期感知调度(OSDI 2026)

原题:DVLA: Dynamic VM Lifetime Aware Scheduling for Drifting Lifetime Distributions and Long-Lived VM Placement Debt (Operational Systems)

一句话总结:生产集群中仅约 2.5% 的请求属于长生命周期 VM,却消耗约 93% 的 core-hours;DVLA 用动态亲和分组和债务感知在线放置减少新债务,再用离线迁移偿还旧债务,在 23 个集群的仿真中比 LAVA 多获得 0.6 个百分点的 packing density,并在 Alibaba Cloud 部署后将长生命周期 VM 的 packing density 提高 1.19 个百分点。

问题与动机

VM 调度通常被视为动态装箱问题。机器数量直接影响云基础设施成本,因此调度器会尽量把 VM 填满。但 VM 的退出时间差异很大:短生命周期 VM 数量多,长生命周期 VM 占用的长期资源多。若长生命周期 VM 被分散到许多机器,每台机器只剩少量可回收空间,机器就会被少数 VM 长时间占用。

论文把这种由长生命周期 VM 分散造成的额外机器占用定义为 placement debt。已有 lifetime-aware 调度器往往使用固定的生命周期区间,并主要依赖在线贪心放置。前者无法跟随集群间和时间上的分布漂移,后者无法修复历史错误;预测误差会持续把长生命周期 VM 放到错误机器上。

DVLA 的出发点是把债务看成累积的系统状态,而不是单次放置的局部损失。因此它同时修改在线调度策略和离线维护流程。

关键观察 / 隐含假设

  • 观察 1:长生命周期 VM 决定机器回收效率。 生产数据中,生命周期少于 1 天的 VM 占请求数 96%,但只占不到 2% 的 core-hours;生命周期超过 1 个月的 VM 约占请求数 2.5%,却占 93% 的 core-hours(图 1)。
    • 依赖假设:长生命周期 VM 的资源占用在目标集群中长期占主导。
    • 可能失效场景:若工作负载由大量短任务组成,或长任务可频繁迁移,优先聚合长生命周期 VM 的收益会下降。
  • 观察 2:生命周期分布存在空间和时间漂移。 不同集群的生命周期构成差异明显,同一集群的分布也会随月份变化(图 2)。固定区间在这些变化下无法保持合适的亲和关系。
    • 依赖假设:漂移可以从集群级历史统计中检测出来,并且变化持续时间足以支持周期性更新。
  • 观察 3:一个误放置的长生命周期 VM 就可能钉住机器。 长生命周期 VM 数量从 0 增加到 1 时,机器占用时间和回收频率出现最大变化(图 4a)。生产中剩余生命周期超过 720 小时和 8760 小时的 VM,平均核心利用率分别只有 57.7% 和 39.8%(图 4b)。
    • 依赖假设:迁移约束允许至少修复一部分误放置,且迁移成本低于释放机器带来的收益。
  • 假设 1:在线预防与离线修复必须协同。 生产分析显示约 40% 的 VM 受硬件、工作负载或策略限制而不可迁移(表 1),所以离线调度不能单独偿还债务;在线调度也无法修复已发生的历史放置。
    • 证据强度:强。论文同时用迁移约束统计和图 5 的 Online-Only、Offline-Only 对比支持这一判断。

核心方法

DVLA 的生命周期预测采用分层模型。创建 VM 时,低延迟模型根据请求静态特征预测初始生命周期;运行中的 VM 则由使用运行时信息和用户历史的 remaining-lifetime 模型更新预测。模型用 One-vs-Rest 分类器处理多个生命周期阈值,生产区间为 0–1 小时、1 小时–1 天、1–7 天、7–30 天、30 天–1 年和超过 1 年。在线缓存命中率超过 90%,缓存未命中时 P99 推理延迟为 5 ms。

动态亲和分组持续观察集群的生命周期分布。变点检测器先进入观察状态,只有变化持续并满足确认阈值才生成新的分组;新分组按各生命周期类别的核心消耗排序,选取累计覆盖 95% 资源的类别。20 天观察窗口、较高报警和确认阈值用于抑制短时噪声(图 6、图 17)。这部分回应了观察 2。

Debt-Aware Placement Policy(DAPP)在在线放置时优先把长生命周期 VM 放入已有长生命周期亲和组,避免把它们散落到短生命周期机器。机器的生命周期类别使用核心加权平均(WAVG)而非最长 VM(MAX)决定。WAVG 对成熟集群中单个散落的长生命周期 VM 更稳健;空集群启动阶段则先用 MAX 建立密集的长生命周期机器,再在第一次亲和组更新后切换到 WAVG(图 10)。

Placement Debt Rectification Engine(PDRE)是离线补偿机制。它使用更准确的剩余生命周期预测挑选高影响 VM,在维护任务中规划实时迁移。机器疏散时优先迁移剩余生命周期最长的 VM,让短任务自然结束;所有迁移受预算和净收益约束。PDRE 不盲目追求全局重排,而是把迁移嵌入已有维护流程,以摊销累计债务。

设计取舍

  • 动态更新 vs. 策略稳定性:更频繁更新能更快跟随漂移,但会把短时噪声变成调度策略变化。DVLA 用观察期、确认阈值和 cooldown 换取稳定性;代价是对突发但真实的变化反应较慢。
  • WAVG vs. MAX:WAVG 避免成熟碎片集群中“一台机器只含一个长 VM”导致所有机器都被判成长生命周期,但在空集群中不如 MAX 激进。两阶段切换增加了状态管理逻辑。
  • 迁移收益 vs. 运维风险:PDRE 只在预算内执行净收益为正的迁移,并复用维护窗口。这样降低了额外扰动,却无法处理不可迁移 VM 和维护窗口之外的债务。
  • 分类鲁棒性 vs. 粒度:分类比长尾回归更能承受预测误差,但生命周期区间是环境参数。工作负载变化后需要重新校准,过粗的区间也可能损失局部装箱机会。

实验与结果

  • 在 23 个生产集群、两个月 trace 上进行事件驱动仿真,集群规模为 200–2,200 台机器,事件量为 1.2 万–80 万。真实预测设置下,DVLA 相对生产基线的 PD 提升 1.5 个百分点,LAVA 提升 0.9 个百分点,LA-Binary 提升 0.6 个百分点(图 8)。
  • DVLA 的长生命周期 VM packing density 提升 0.9 个百分点,高于 LAVA 的 0.4 个百分点和 LA-Binary 的 0.1 个百分点(图 8)。DVLA 的真实预测结果达到 1.5 个百分点,超过 LAVA 完美预测下的 1.4 个百分点上界;相对 LAVA 的优势在各集群为 0.2–4.3 个百分点。
  • 动态分组在 23 个集群中的 21 个检测到至少一次需要更新的漂移。集群处于 STABLE 状态的时间中位数仅为 23.3%,策略更新间隔中位数为 28 天(图 9)。
  • 消融实验中,移除动态亲和分组使 PD 增益下降 0.34 个百分点,移除 PDRE 下降 0.31 个百分点;移除周期 Tagging Task 和事件触发更新分别下降 0.21 和 0.14 个百分点(图 11)。
  • 预测误差敏感性实验显示,即使长生命周期 VM recall 只有 40%,DVLA 仍比生产基线提升 1.02 个百分点;recall 从 40% 增至 100% 时,提升从 1.02 增至 1.66 个百分点(图 18)。
  • 生产部署中,初始生命周期模型准确率为 82%,剩余生命周期模型为 92%;超过 98% 的新 VM 被放置到生命周期类别不低于自身的机器。维护流程平均每天迁移 810 个 VM,并修正 39 个误放置长生命周期 VM,单次维护任务带来约 0.3 个百分点的 PDL 增益。全面上线后,PDL 相对需求感知反事实基线平均提高 1.19 个百分点,stranded machines 从 25.3% 降至 21.3%,PD-Sensitivity 平均下降 7.1 个百分点(图 12–14)。

论断—证据表

论断证据评测边界置信度
长生命周期 VM 的聚合是提高集群 PD 的主要来源图 1、图 4b、图 8;PDL 增益 0.9 个百分点Alibaba Cloud 生产 trace,23 集群
在线预防和离线偿债互相补足图 5、表 1;约 40% VM 不可迁移,单独策略无法抑制债务增长trace-driven simulation,迁移预算受限
动态亲和分组能应对分布漂移且不造成策略抖动图 9、图 17;21/23 集群发生更新,更新间隔中位数 28 天60 天、23 个集群;阈值为生产配置
DVLA 的生产收益超过仿真中的局部指标改善图 12–14;PDL +1.19 pp、stranded machines 25.3%→21.3%部署期反事实基线依赖历史 sale rate 相关性

批判性分析

论证链条

论文的论证链条基本闭合:长生命周期 VM 消耗大部分长期资源,分散会延长机器占用;固定策略无法适应漂移,预测误差又会持续制造误放置;因此需要在线减少债务、离线修复残余债务。消融结果分别支持动态分组和 PDRE 的作用。

但“PD 增益主要来自债务减少”仍依赖 PDL、stranded machines 与总体 PD 的相关性。论文没有把每次迁移带来的机器回收收益、迁移成本和机会成本逐项摊销。生产反事实基线也由上线前 sale rate 与 PDL 的历史相关性外推,因果强度低于随机对照。

假设压力测试

如果 VM 的不可迁移比例高于表 1 的 40%,PDRE 的可用空间会缩小。若长生命周期 VM 的资源需求经常变化,按生命周期聚合可能造成 CPU、内存或其他资源维度的碎片。若集群规模、机器异构性或跨 zone 约束改变,论文中的核心加权分类和亲和组排序需要重新验证。

DVLA 的分类器使用 user、image 和历史行为等特征。新用户、新镜像或分布外请求的预测质量可能明显下降;论文只用合成 recall 做敏感性分析,没有报告按新用户、稀有镜像或租户分组的结果。动态分组按核心消耗覆盖 95% 的类别,也可能忽略低频但 SLO 敏感的工作负载。

实验可信度

仿真使用与生产共享的调度逻辑,并覆盖 23 个真实集群,工作负载规模较充分。LAVA 使用独立回归模型且报告了较高的 99% precision、90% recall,基线比较并非刻意削弱。Oracle/Realistic 两种设置也有助于区分算法和预测误差。

不足在于关键生产收益采用上线前后的时间序列和需求感知反事实,而不是同时运行的随机对照。VRAR 只增加约 0.28–0.3 个百分点且没有用户投诉,但用户投诉不是完整的服务质量指标;论文未报告更细的 P95/P99 延迟、迁移失败率或不同租户的隔离影响。

系统性缺陷

DVLA 引入多模型训练、预测缓存、漂移状态机、在线分类、离线迁移排序和监控链路。论文报告了训练时间、缓存命中率和服务可用性,但未量化策略状态、特征管道和模型版本回滚的运维成本。PDRE 依赖维护任务提供迁移机会,因此在维护稀少或债务快速增长的集群中,偿债速度可能不足。故障恢复、一致性、迁移期间的资源超售和跨租户公平性也未展开讨论。

局限与后续工作

  • 局限 1:实验和部署主要来自 Alibaba Cloud 的同质机器集群;异构硬件、跨 zone 放置和多资源约束下的结论仍需验证。
  • 局限 2:生产因果收益依赖需求感知反事实,缺少并行 A/B 或逐集群切换实验。
  • 局限 3:约 40% VM 不可迁移,PDRE 只能处理可迁移子集;论文没有给出债务按约束类型拆分后的偿还上限。
  • 后续工作 1:按迁移约束、租户新颖度和生命周期区间分层报告 PDL、stranded machines、P99 延迟与迁移失败率,并进行集群级交错上线实验。
  • 后续工作 2:将生命周期预测的不确定性直接纳入放置决策,比较点预测、置信区间和风险敏感目标在不同不可迁移比例下的债务增长曲线。

相关