Knativa 基于流量的灰度发布和自动弹性实践

Knativa 基于流量的灰度发布和自动弹性实践

作者 | 李鹏(元毅)
来源 | Serverless 公众号

一、Knative

Knative 提供了基于流量的自动扩缩容能力,可以根据应用的请求量,在高峰时自natural动扩容实例数;当请求量减少以后,自动生产容实例,做到自动化地节省资源成本。此外,Knative 还提供了基于流量的灰度发布能力,可以将流量的百分比进行灰度发布

在介绍自动精灵 Knative 灰度发布和自动弹性之前,先带大生产成本家了解一下 ASK Knative 中的流量请求机制。

Knativa 基于流量的灰度发布和自动弹性实践

如上图所示,整体的流量请求机制分为以下部分:

  • 左侧是 Knative Se帮助某人做某事rvice 的版本信息,可以对流量设置百分比;下面naturally是路querywrapper由策略,在路由策略里,通过 Ingress controller 将相应的路由规则设置到阿里云 SLB;

  • 右侧是对应创建的服务版本 Revision,在版本里对应有 Deployment 的资帮助源,当流量通过 SLB 进来之后,直接根据相应的转发规则,转到后端自动精灵服务器 Pod 上。

除了流量请求机制外,上图还展示了相应的弹性策略,如 KPA、HPA 等。

二、Serv弹性碰撞ice 生命周期

Service 是直接面向开发者操作的资源对象,包含两部分的资源:Route 和 Configuration。

Knativa 基于流量的灰度发布和自动弹性实践

如上图所示,用户可以通过配置 Configuration 里面的信息,设置相应的镜像、内容以及环境变量信息迁移是什么意思

1. Configur帮助信息网络犯罪活动罪立案标准ation

Cqueryonfiguration 是:

  • 管理容器期望的状态;
  • 类似版本控制器,每次更新 Configuration 都会创建新的版本(Revision)。

如上图所示,与 Knative Service 相比较,Co迁移nfiguration 和它的配置很接近,Configuration 里配置的就是容器期望的资源信息。

2. Route

Knativa 基于流量的灰度发布和自动弹性实践

Route 可以:

  • 控制流量分发到不同的版本(Revision);
  • 支持按照百分native比进行流量分发。

如上图所示,一个 Route 资源,下面包括一个 traffic 信息,traffic 里面可以设置对应的版本和每个版本对应的流量比例。

3. Revision

Knativa 基于流量的灰度发布和自动弹性实践

  • 一个 Configuration 的快照;
  • 版本追踪、回滚。实践sp打菊花

Knativ迁移的分类e Service经验是什么意思 中版本管理的资源:Revis自动化ion,它是 Configuration 的快照,每次更新 Configuration 就发布招聘信息免费的网站会创建一个新的 Revision,可迁移以通过 Revision 实现版本追踪、灰度发布以及回滚。在 Revision 资源里面,可以直接地看到配置的镜像信息。

三、基于流量的灰度发迁移

Knativa 基于流量的灰度发布和自动弹性实践

如上图所示,假如一开始query是什么意思中文我们创建了 V1 版本的 Revision,这时如果有新的版本变更,那么我们只需要更新 Service 中的 Configuration,就会相应的创建出 V2 版本。然后通过 Route 对 V1 和 V2 设置不同的流量比例,上图中 V1 是 70%,V2 是 30%,流量会按照 7:3 的比例分别分发到两个版本上。一旦 V2 版本验证没有问题,接下来就可以通过调整流量比例的方式进行继续灰度,直到新的版本 V2 达到 100%。

在灰度的过程中,一旦发现新版本有异常,随时可以调整流量比例进行回滚。假设灰度到 30% 的时候,发现 V2 版本有问题,我们就可以把比例调回去,在原来的 V1 版本上query是什么意思中文设置流量 100%,实现回滚操作。

除此之自动挡怎么开外,我们还可以在 Route 中通过 traffic 对 Revision 打上一个 Tquerystringag,打完 Tag 之后,在 Knative 中会自动对当前帮助别人正能量的句子的 Revision 生成一个可直接nature杂志访问的 URL,通过这个 URL 我们可以直接把相应的流量打到当前的某一个版本上去,这样可以实现对某个版本的调试。

四、自动弹性

在 Knative 中提供了丰富的弹性策略,除此之外,ASK Knative 中还扩展了一些相应的弹性机制,接下来分别介绍以下几个弹性策略:

  • Knative Pod 自动扩缩容 (KPA);
  • Pod 水平自动扩缩容 (HPA)natural
  • 支持定时 + HPA 的自动扩缩容策略;
  • 事件网关(基于流量请生产力求的精准弹性);
  • 发布任务的app哪个最好展自定义扩缩容插件。

1. 自动扩缩容-KPA

图:Knative Pod 自动扩缩容(KPA)

如上图所示,Route 可以理解成流量网关;Activator 在 Knative 中承载着 0~1 的职责,当没有请求流量时, Knative 会把相应的实践活动服务挂到 Activator Pod 上面,一旦有第一个流量进来,首先会进入帮助他人的名言到 Activator,Activator 收到流量之后,会通过 Autoscaler 扩容 Pod,扩容完成之后 Activato实践报告r 把请求转发到相应的 Pod 上去。一旦 Pod ready 之后,那么接下来相应的服务会通过 Route 直接打到 Pod 上面去,这时 Activator 已经结束了它的使命。

在 1~N 的过程中,Pod 通过kube-proxy容器可以采集每个 Pod 里面的请求并发指数,也就是请求指标。Autoscalnationalityer 根据这些请求指标进行发布信息汇聚经验总结法,计算相应的需要的扩容数,实现基于流量的最终扩缩容。

2. 水平扩缩容-HPA

Knativa 基于流量的灰度发布和自动弹性实践

图:Pod 水平自动扩缩容(HPA)

它其实是将 K8s 中原生的 HPA 做了封装,通过 Revis迁移理论ion 配置相应的指标以及策略,使用 K8s 原生的 H帮助他人的名言PA,支持 CPU、Memory 的自动扩缩容。

3. 定时+HPA 融合

Knativa 基于流量的灰度发布和自动弹性实践

  • 提前规划容量进行资源预热;
  • 与 CPU、Memory 进行结合。

在 Knative 之上,我们将定时与 HPA 进行融合,实现提前规划容量进行资源预热。我们在使用 K8s 时可以体会queryorder到,通过 HPA 进行扩容时,等指标阈值上来之后再进行扩容的话,发布猫登录有时满足不了实际的突发场景。对于一些有规律性的弹性任务,可以通过实践是检验真理的唯一标准定时的方式,提前规划好某个时间段需要扩容的量。

我们还与 CPU、Memory 进行结合。比如某个时间段定时设置为 10 个 Pod,但是当前 CPU 对阈值计算出来需要 20 个 Pod,这时会取二者的最大值,也就是 20 个 Po迁移d 进行扩容,这是服务稳定性的最基本保障。

4. 事件网关

Knativa 基于流量的灰度发布和自动弹性实践

  • 基于请求数自动弹性;
  • 1 对 1 任务分发。

事件网关是基于流量请求的精准弹性。当生产管理事件进来之后,会先进入到事件网关里面,自动化我们会根据当前进来的请求数去扩容 Pod,扩容完成之后,会产生将任务和 Pod 一对一转发的诉求。因为有时某个 Pod 同一时间只能处理一个请求,这时候我们就要对这种情况进行处理,也就是事件网关所解决的场景。

5. 自定义扩缩容插件

Knativa 基于流量的灰度发布和自动弹性实践

自定义扩缩容插件有 2 个关键点:

  • 采集指标;
  • 调整 Pod 实例数。

指标从哪来?像 Knatnationalive 社区提供的基于流量的 KPA,它的指标是通过一个实践sp打菊花定时的任务去每个 Pod 的 queue-proxy 容器中拉取 Metric 指标。通过 controllequerystringr 对获取这些指标进行处理,做汇聚实践报告2000字大学篇并计算需要扩容多少 Pod。
怎么执行扩缩容?其实通过调整相应发布招聘信息免费的网站的 Deployment 里面的 Pod弹性工作制就是个坑 数即可。

调整采集指标和调整 Pod 实例数,实现这两部分后就可以很容易地实现自定义扩缩容插件。

五、实操演示

生产力面进行示例演示,演示内容主要有自动挡起步

  • 基于流量的灰度querywrapper发布
  • 基于流量的自动扩缩容

演示过程观看链弹性势能公式接:h实践报告格式ttps://develope发布r.aliyun.com/live/246127

作者简介:
李鹏,花名:元毅,阿里云容器平台高级开发工程师,201query什么意思6 年加入阿里, 深度参与了阿里巴native巴全面容器化、连续多年支持双十一容器弹性系数化链路。专注于容器、Kubernetes、Service Mesh 和 Serverless 等云原生领域,致力于构建新一代 Serverless 平台。当前负责阿NAT里云容器服务 Knative 相关工作。