【论文】略读笔记50-前沿-微服务容器群体关系分析及预测

📖《GROUP: An End-to-end Multi-step-ahead Workload Prediction Approach Focusing on Workload Group Behavior》

2023 年发表于 CCF-A 类会议 WWW。

🎯需求

• 准确预测工作负载可帮助网络服务提供商实现对应用程序的主动运行时管理，并确保服务质量和成本效益。
  • 云原生已成为现代网络应用的一种重要设计范式，云原生应用大多以容器化微服务架构的形式产生。微服务架构旨在通过将复杂的应用程序分解为具有单一功能的服务来降低应用程序的耦合度。
• 对于云原生应用来说，多个容器协同处理用户请求，使得每个容器的工作负载变化都受到工作负载组行为的影响。
  • 容器是一种内核级虚拟化技术，具有更高的性能和效率。因此，整个应用程序通过多个容器的协同交互为用户请求提供服务，这使得容器的工作负载变化不再仅仅是每个容器的个体行为，而是多个容器的群体行为。

🚧现状

• 然而，现有方法主要分析每个容器的个体变化，没有明确模拟容器的工作负载组演化，导致结果不理想。
  • 现有的大多数工作量预测方法都是对每个容器的工作量变化进行独立建模和预测。由于每个容器的工作负载数据都是以时间序列的形式记录的，因此这些方法认为每个容器的未来工作负载变化只与其自身的历史工作负载数据相关，这源于时间序列预测问题的自然时间相关性。然而，云原生应用是一个分布式系统，这表明多个容器共同处理用户请求。因此，关注预测容器的单个行为只能获得次优结果。
  • 此外，由于云环境是动态的，历史工作负载数据中存在大量数据噪声，这使得这些方法的准确性对数据噪声很敏感。
• 也有一些方法考虑了工作负载变化的群体行为。
  • Shaw 等人发现了虚拟机（VM）之间的工作负载变化相关性，但该方法仅适用于考虑资源互补性的共址部署。
  • Ruta 等人提出了一种基于 BiLSTM 的工作负载预测模型，该模型将所有设备的工作负载序列作为输入，但没有考虑设备间的工作负载变化是否相关。
  • Banerjee 等人和 Ding 等人则专注于通过获取原始数据上高度相似的工作负载序列作为输入来生成回归预测模型。
  • 但是，对于云原生应用来说，
    • 首先，不同容器的工作负载变化可能存在两种关系：相似性（重复的业务功能运行在复制的容器上）和相关性（不同的业务功能运行在属于同一服务调用链的不同容器上），因此上述方法会丢失有价值的数据；
    • 其次，上述方法通过将特征数据输入简单的回归方法，隐含地模拟了工作负载组行为的演变。但工作负载组行为的演变不是单阶段的，而是多阶段相关的。隐式方法只能提取部分信息，不足以描述工作负载群行为演变的复杂性。
• 总之，现有方法仍存在一些重大缺陷，包括缺乏对工作负载组行为及其演变的明确建模，缺乏评估容器之间相关性的有效方法来表示工作负载组行为，以及缺乏系统地利用工作负载组行为进行预测。因此，现有方法对于云原生应用的工作负载预测并不可靠。

🛩创新

• 要建立一个明确的端到端工作量预测模型，需要解决两个具有挑战性的问题。
  • 1）根据云原生特性，如何构建表达工作负载群行为的输入数据并为预测模型服务？
  • 2）基于表达工作负载群体行为的输入数据，如何设计用于描述工作负载群行为演化关系的预测模型，以提供精确的多步超前预测结果？
• 因此，我们提出了一种工作负载预测方法–GROUP，它实现了工作负载预测重点从个体到群体的转移，工作负载群体行为表示从数据相似性到数据相关性的转移，工作负载群体行为演化从隐式建模到显式建模的转移。
  • 1）我们从内部、时间、多特征和多尺度演化等多个角度对工作负载组行为及其演化进行了系统建模。
  • 2）我们提出了一种容器相关性计算算法，该算法考虑了容器的静态和动态信息来表示工作负载组行为。
  • 3）我们提出了一种端到端多步骤超前工作负载预测模型，明确描述了工作负载组行为演变与每个容器工作负载变化之间的复杂关系。

📊效果

• 公共数据集上的实验证明了 GROUP 的优势。就 MAE 和 RMSE 指标而言，与其他先进方法相比，GROUP 的平均值分别从 2.40% 提高到 24.89%，从 2.39% 提高到 23.50%。

🧠疑问

1. 现有研究核心不足是什么？

• 没有考虑群体性、或仅粗暴地隐式学习群体性，没有准确地考虑（显式建模）多种群体关系（“相似性”和“相关性”）。
• 没有细致讨论到底存在哪些群体关系。

2. 本文核心贡献：细致讨论了可能存在的群体关系，并设计了模型进行解析。

---

---

• 希望这篇博客对你有帮助！如果你有任何问题或需要进一步的帮助，请随时提问。
• 如果你喜欢这篇文章，欢迎动动小手 给我一个follow或star。

🗺参考文献

[1] Binbin Feng and Zhijun Ding. 2023. GROUP: An End-to-end Multi-step-ahead Workload Prediction Approach Focusing on Workload Group Behavior. In Proceedings of the ACM Web Conference 2023 (WWW ‘23). Association for Computing Machinery, New York, NY, USA, 3098–3108. https://doi.org/10.1145/3543507.3583460