动态扩容做得更好,就会逐渐演进为弹性计算的形态。

基本思想

  1. 高负载时自动调度备机,实现动态扩容。
  2. 低负载时进行灰度迁徙,实现动态减容,空闲出来的备机可用于其他任务。
  3. 基于 Docker 之类的容器技术,可以很方便地实现备机的快速响应。

性能监控

监控是弹性计算的基石。监控指标主要分为两大类:

  1. 根据机器本身的状态指标,例如 CPU 使用率。
  2. 根据特定的服务器类型,定制不同的衡量值,例如 Web 服务器的每秒连接数、网关的平均压缩率。

不同的服务类型,负载衡量值也不一样:

  • 静态 Web 服务器可以简单地以 QPS 衡量。
  • 网关可以以连接数和请求数衡量。

备机调度

  1. 基于 Docker 等容器技术,可以快速实现自动扩容。
  2. 基于智能预测实现智能扩容,避免扩容不及时导致负载过高。

灰度迁徙

  1. 服务器架构若支持动态负载均衡,迁徙便可以很方便地实现。
  2. 先把流量引流到一批机器上,腾出另一批机器,在合适的时机将这批空余机器关闭。

服务器安全

  • 恶意攻击:支持弹性计算后,在一定范围内能够承受一定程度的攻击压力。
  • 快速响应:自动扩容机制在应对瞬时压力时,若响应速度过慢,部分机器可能因负载过高而出现问题。

TODO