云中实时应用的智能微服务自动扩展

云应用变得越来越以容器化为特征。基于微服务架构开发云应用会带来不同的挑战，包括在容器级别的可扩展性。更大的挑战在于，云应用对服务质量（QoS）有要求，并且有各种资源需求，需采用定制的扩展方法。例如，实时应用需要接近实时的响应时间作为QoS。现有的自动扩展技术，如Kubernetes，为自动扩展设置了一些阈值的定制。挑战在于识别适用于不同自动扩展参数的正确值，以确保在动态变化的环境中满足QoS。机器学习和强化学习（RL）的进展为在没有领域知识的情况下实现云应用中的自动扩展提供了一种手段。本文介绍了一种智能自主的云微服务自动扩展系统，具有QoS约束。该系统由两个模块组成。第一个模块通过部署在Google Kubernetes Engine（GKE）上的通用自动扩展算法来识别微服务资源需求。我们的算法依据应用资源需求调整Kubernetes的自动扩展范式。第二个模块使用强化学习代理来识别基于资源需求和QoS的自动扩展阈值。实验结果显示，与默认的自动扩展范式相比，微服务的响应时间提升了20%。此外，RL代理能够在保持响应时间低于QoS限制的同时识别自动扩展阈值。我们提出的工作为云应用中的微服务提供了定制的自动扩展解决方案，同时在最小用户交互下遵循QoS约束。