大流量场景下如何云淡风轻地进行线上发布?

前言

本文,我们继续聊聊《揭秘大流量场景下发布如丝般顺滑背后的原因》中的另外一环,灰度发布,也叫金丝雀发布。
很多互联网公司在半夜发布的另外一个今年双十一京东与阿里重要原因是不具备可灰度能力,新版阿里云服务器双11活动本存在 bug 或者其它原因双11活动阿里云的作用会影响线上的客户,无奈之下只能选推广阿里云双十一赚10万择在半夜进行发布来减少影响面。

我们知道默认情况下,无论是 Kubernetes 还是 ECS,新老版本都存在的情况下会根据特定的阿里巴巴双十一活动目的负载均衡算法随机地路由到不同的实阿里云拼团例上,随机意味着出问题也会随机出现。我们需要一套动态路由来完成灰度发布的解决方案

在 RPC 领域,我们称灰度发布为动态路由,动态路由的意思是指流量可以动态地路由到指定的实例上。

动态路由场景

动态路由是微服务里非常核心的功能,流量动态路由意味着可以做非常多的事情。由此衍生出各个场景:

  • 金丝雀发布:只有满足特定规则(比如 Query Parameter、HEADER、COOKIE 中某些 KEY 满足一些条件)或者是固定流量比例的流量才会进入新版本,云服务器双11活动其它流量都路由到老版本上。
大流量场景下如何云淡风轻地进行线上发布?
  • 同机房优先路由:当公司规模扩大之后,应用会跨机阿里云新用户域名代金券房部署来达到高可用的目的。由于异地跨机房调用出现的网络延迟问题,需要确保服务消费方能优先调用相同阿里云双十一活动拼团机房的服务消费方,这就需要同机房优先路由的能力。
大流量场景下如何云淡风轻地进行线上发布?
  • 标签路由阿里云优惠券领取:金丝雀发布的新场景。金丝雀发布一般只有新和老两个版本,标签路由可以在线上部署多个版本,每个版本都对于一个标签。
  • 全链路灰度:在业务比较复杂,阿里云服务器拼团活动服务调用链路较长的场景下,每个应用都需要设置路由规则会显得非常繁琐,全链路灰度在金丝雀/标签路由的基础上加上了 "标签透传" 的能力,让灰度流量只在灰度版本之间路由。
大流量场景下如何云淡风轻地进行线上发布?

接下来阿里云和双十一有什么关系我会分几篇文章详细讲一下这几个场景,今天我们先来聊聊金丝雀发布。金丝雀发布可以让我们在白天流量高峰喝着茶吃着瓜子进行线上发布,不需要在半夜为发布的事情而苦恼。

大流量下的应用部署现状

应用 Demo

Demo 以 Spring Cloud 为例,服阿里云域名优惠券务调用链路如双十一阿里云有优惠吗下图所示:

大流量场景下如何云淡风轻地进行线上发布?

流量从 Netflix Zuul 对应的 Ingress 进来,会调用 SC-A 应用对应的服务,SC-A 应用内部调用 SC-B 应用的服务,SC-B 应用内部调用 SC-C 应用的服务。SC-A 有线上版本和灰阿里云双十一2020度版本这两个版本。

Helm 部署 Demo

Demo 为纯开源 Spring Cloud 架构,项目地址阿里云双十一活动2018
https:/阿里云域名续费优惠券/github.com/aliy阿里云代金券领完不见了un/alibabacloud-microser阿里云双十一活动拼团vice-demo/tree/mas阿里云优惠券领取ter/microservice-doc-demo/tr阿里云双11老用户affic-management。

部署完毕后,阿里云容器服务上的工作负载情况如下:

大流量场景下如何云淡风轻地进行线上发布?

我们通过 "while true; do c阿里云双十一活动拼团url http://{ip:port}/A/a;echo;done" shell 命令不断地去访问 Spring Cl阿里双11现在交易额oud 服务,各个服务的作用仅仅是打印当前服务的IP,这样我们可以看到整体调用链路:

while true; do curl http://{ip:port}/A/a;echo;done
A[10.0.0.73] -> B[10.0.0.180] -&双11阿里云gt; C[10.0.0.72]
A1[1阿里云和你拼了0.0.0.20] -> B[10.0.0.180] -> C[10.0.阿里双11现在交易额0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C阿里巴巴双十一营销活动[10.0.0.72]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A[10.0.0.73] -> B[10.0.推广阿里云双十一赚10万0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.18阿里云双十一活动0] -> C[10.0.0.72]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72]
...

从这个过程我们明显可以看出 Netflix Zuul -> SC-A 这条链路是随机访问的,由于 SC-A 的线上版本和灰度版本各只有 1 个 Pod,所以随机打印了这两个 POD 的 IP。

开源金丝雀的实现

动态路由的本质就是寻址过程中去阿里云优惠服务器找符合条件的实例地址。

Apache Dubbo 提供了 Route双11活动阿里云的作用rChain 的能力去过滤 Invoker 列表,RouterChain 内部维护着 Router 列表,每个 R阿里双11现在交易额outer 都阿里云过了优惠期多少钱会做过滤 I阿里云优惠nvoker 的逻辑,最后将 Invoker 列表交付给阿里云活动 LoadBalance 做阿里云双十一活动拼团负载均衡获取最后的 Invoker。

ScriptRouter,ConditionRouter 和 TagRouter 这些内置的 Router 内部都是 Dubbo 自带阿里双十一活动的动态阿里双十一数据路由能力。

Spring Cloud 的路由能阿里云双十一力由阿里活动推荐 Ribbon 实现。Ri阿里云双十一服务器bbon 设计了 ILoadBalancer 接口用于获取 Server 列表,最后将这个列表交付给 IRule 做负载均衡策略获取最后的 Server。这块在设计上跟 Dubbo阿里云双十一活动 相比是有缺陷的。

Spring Clo阿里云优惠口令ud Ribbon 里的 ILoadBala阿里云双十一活动拼团ncer 相当于是 Dubbo RouterChain 里的一个 Router,阿里云双十一活动2018IRule 相当于是 Dubbo LoadBalance。

最新版阿里云双11活动本的 Spring Cloud 新增了 Spring Cloud LoadBalancer 组件代替 Ribbon 用于做负载均衡,Spring Cloud L阿里巴巴双十一营销活动oadBalancer 里阿里云优惠口令
ServiceInstanceListSupplier 用于获取实例列表信息,ReactiveLoadBalancer 使用负载均衡策略获取最后阿里双11数据的实例。

这是 3 者对应组件的说明:

大流量场景下如何云淡风轻地进行线上发布?

Apache Dubbo 虽然内置了各种 Router,阿里云服务器双11活动但实际使阿里云域名续费优惠券用下来却有非常多的问题。比如 TagRouter 跟 IP 绑定,在 Kubernetes 下无法工作;ScriptRouter 用了 Scrip今年双十一京东与阿里tEngine 去做脚本的处理,会有性能问题;Dub阿里云服务器双11活动bo Admin 的使用体验非常糟糕等等。

Spring C阿里云双十一活动loud 官阿里云拼团2019方并没有提供动态路由的能力,只有社区上的一些开发者自己去扩展了这个能力,社区上也没有任何的 UI 交互界面。

这时候 MSE 告阿里云代金券如何使用诉你,MSE 的微服务解决方案提供了动态路由的能力,不需要做任何的代码和配置的修改,就能使用 OPEN API 或者 UI 交互去完成金丝雀阿里云双11活动发布。只需将您的应用接入 MSE 服务治理,您就能享受到金丝雀能力。

只要你的应用是阿里云双十一优惠基于 Spring Cloud 或 Dubbo 最近五年内的版本开发,就能直接使用完整的 MSE 微服务治理能力,不需要修改任何代码和配置。

无需任何代码修改就可以做到动态路由的能力,这不香吗?

MSE 金丝雀能力

应用接入 MSE 即可享受 MS阿里云双十一活动2018E 提供的动态路由能力,无需任何代码修改。

引入标签概念

MSE 引入了标签的概念,可以针对每个标签设置路由规则,满足该路由规则的流量会路由到这个标签对应阿里云双十一红包的实例下。我们将 Spring Cl阿里云双十一oud Demo 进行一点改阿里双11现在交易额造,给 SC-A 的灰度版本打上 "blue" 标签( Helm阿里双11现在交易额 已经完成了这个步骤)。

大流量场景下如何云淡风轻地进行线上发布?

接入 MSE 后,MSE 默认会给应用分配一个 100% 路由到未打标实例的路由规则。此时,我们继续通过 "while t阿里云双十一活动2018rue; do curl http://{ip:port}/A/a;echo;done" shell 命令去执行,这个时候调用 SC-A 全部返回线上版本的 IP:

while true; do cur阿里双11数据l http://{ip:port}/A/a;echo;done
A[10.0.0.73] -> B[10.0.0.180] ->阿里云双十一红包 C[10.0.0.72]
A[10.0.0.73] -&阿里云服务器双十一特惠gt; B[10.0.0.180] -> C[1阿里双十一活动0.0.0.72]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72阿里云双十一2020]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72]
A[10.0.0.73] -> B[10.0.0.180] -> C[10.0.0.72]
...

设置金丝雀路由规则

我们在 MSE 上的应用详情页里的金丝雀 Tab 页里设置 HEADER 里 env 这个 KEY 的值为 test 的金丝雀路由条件:

大流量场景下如何云淡风轻地进行线上发布?

传入 HEADER 继续使用 shell 执行:

while true; do curl -H "env:t阿里巴巴双十一市场活动est" htt阿里云双十一活动攻略p://139.196.200.40/A/a;echo;done
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A阿里云服务器拼团活动1[10.0.0.20] -> B[10.0.0.180] -&g双11阿里云t; C[10.0.0.72]
A1[10.0.0.20] ->双十一阿里云有优惠吗; B[10.0.0.180] -> C[10.0.0.7双十一阿里云有优惠吗2]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.阿里巴巴双十一营销活动180] -> C阿里云双11续费[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
A1[10.0.0.20] -> B[10.0.0.180] -> C[10.0.0.72]
...

这个时候我们发现满足金丝雀规则的流量都去了 SC-A 的灰阿里云双十一活动拼团度版本。

金丝雀路由规则解析

大家看到金丝雀路由规阿里云代金券阿里云优惠券则界面上有两种分别,分别是流量比例流量规则:

大流量场景下如何云淡风轻地进行线上发布?

流量规则:表示满足该规则的流量会路由到对应标签(本文使用 blue 作为灰度标签)实例上。比如本文例子中 HEADER 里 env=test 的流量一定会去 blue 标签对应的实例。

流量比例:不满足任何流量规则的流量会按照流量百分比进行路由。比如本文例子中不满足 HEADER 里 env=test 的流量会以 100% 的规则路由到未打标的实例上,由于是 100%,所以那些不满足规则的流量全部都去了未打标实例上(本文未打标表示线上版本)。阿里云优惠活动

MSE 提供的流阿里云服务器双11活动量规则里的条件支持 HE阿里巴巴双十一活动目的ADER、Query Parameter、COOKIE 以及 Request双11阿里云 BODY

Query Parameter、HEADE阿里云代金券领取R、COOK阿里云双十一IE 和阿里云优惠券领取 Request Body 除了支持常规的运算符外,还支持 in(白名单),对 100 取模和百分比。这里的百分比并不是比例规则中的总流量百分比,而是指对应参数的 hash双11阿里云 值取模,这样就可以让固定的值永远满足路由条件(如果按照流量比例,用户 A 这次访问的是线上版本,下次可能会访问灰度版本)。举个例子,如果 HEADER 中带有用户 ID,我让想部分用户永远能够访问灰度实例,这个时候可以对用户 ID 的 h阿里云双十一活动拼团ash 值取模去完成(当然,这个也可以通过白名单去操作,白名单的缺点并不随机,需要输入各个名单)。

Re阿里云双十一活动拼团quest Body 目前支持解析 json 字符串,比如如下字符串:

{
"a": "aa",
"b": [
1,2,3
],
"c": [
{
"阿里云双十一活动拼团d": "dd"
}
],
"e": {
"f": "ff"
}
}

JSON 访问表达式 .a 的值为 aa。
JSON 访问表达式 .b[0] 的值为 1。
JSON 访问表达式阿里云双11优惠 .c[0].d 的值为 dd。
JSON 访问表达式 .e.f 的值为 ff。

总结

本文介绍了微服务治理下金丝雀发布的能力,解决了发布期间少量流量验证新功云服务器双11活动能的问题。您的应用只需接入 MSE 服务治理,无需任何操作即可享受到动态路由的能力。除了 MSE(微服务引擎),金丝雀发布还被 EDAS、SAE 等云产品集成。

原文链接