SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

作者 | 骐羽 阿里巴巴技术专家

导读:本篇是“SpringCloud 应用在 Kubernetes 上的最佳实践”系列文章的第六篇,主要介绍了如何保障生产环境服务稳定,做到随时发布,从而加快业$ 4 v务的迭代和上线速度。

相关文章推荐:

  • 《SpringCloud 应N X f 2 j { |用在 Kubernetes 上的最佳实践 —— 开C : V I * ( e %发篇》

  • 《SpringCloud 应用在 Kubernetes 上的最佳实践 — 部署篇(开发部署)》

  • 《SpringCloud 应用在 Kub1 P L D ! _ M c xernetes 上的最佳实践 — 部署篇(工具部署)》

  • 《Sprin3 P [ 7 VgCloud 应用在 Kuberg 9 F | l Znetes 上的最佳实践 — 线上发布(可灰度)》

  • 《SprJ P % f o S Z LingCloud 应用在 Kubernetes 上的最佳实_ N n c ! : ` 9 G践 — 诊断(5 = c ;线上联调)》

前言

在应用发布上线的时候我们最担心的莫过于因为代码的 bug 引发业务的问题,虽然我们可以通过灰度的方式分批发布减小影响范围,但是如果能够在发布的过程中从实时监控中快速的发现问题进行回滚,那么就能缩短业务受影响的时间。因此我们可以看到灰度、监控、回滚是整个发布过程中不可或缺m _ F b o n的三大利器,有了这三大利器后,我们能够做到随时发布,从而加快业务的迭代和上线速度。而监控作为基础设施的一个重要环节,是保障生产环境服务稳定不可或缺的一部分,目前 EDAS 提供了非常丰富的监控能力,下面我们从不同的场景{ 1 {来详细介绍一下这些监控能力。

体系化监控能力搭建

X b C L X q A R控体系,最怕的就是有覆盖不到的地方,一个覆盖全面的监控应该是从基础设施到上层应用均有对应的手段去覆盖:

  • 首先,如果故障产生时,最先感知到的其实是业务的受损,如交易量下跌、登陆的 UV 下跌等等;

  • 而如果N / ! K A s X ;继续往下钻,如果业务集群很大的时候,我们最先需要定位到某一个服务或者某一台机器,这个过程如果没有相应的工具相佐犹如大海捞针,所以一个分布式链路级别的应用监控会是建设 Spring Cloud 应用的很好的配搭;

  • 等到; b ^ M A {我们找到了相应的服务要开始进行定位分析的时候,根据问题类型(是错是慢?)接下来需要开始分析 JVM、内存、CPU 等维度的指标;
  • 最后我们可能会发现这个问题是由于业务代码引起,也有可能由于基础设8 D | @ Q施引起,而在 K8s 中,Prometheus 目前是属于容4 ? h器领域基础监控最厉害的军刀。

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

如上图所示,目前 EDAS 结合阿里云上的某些云产品,完全能够满足日常的运维的需要并帮忙业务开发的同学快速的定位线上问题。

EDAS 常规监控能力

1. 系统监控

应用实例的基础监控信息:

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

上图功能提供了以应用实例的维度来查看每个实例的监控信息,提供的 JVM / CPU / Load / 内存等的监控信息也是我们经常需要关注的,当发现内存占用高,并且有频繁的 FullGCC 的情况时,我们可以通过创建C ( ) 2内存快照进行分析来快速定位问题。SQL 分析的能力也能快速帮助我们Z * =定位到慢查询用来排] ] s查问题。

2. 应用服务监控

应用服务接口监控信息:J J z c Z r

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

这里提供了以接口维度的监控信息,可以详细的看到接口在最近一段时间的请求信息,这里重点介绍一下接口快照功能,通过接口快照我们可以看到该接口的请求耗时,以及请求的 TraceId,根据这个 TraceId 我们可以详细的看到本次请求的调用链以及调R D ? D用的方法栈。

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

调用链路的追踪在分布式系统下是一个必不可少的工具,尤其是在排查上下游依赖中究竟是哪个系统拖慢了整个请求非常有用,在调用的方法栈中可以直观的追踪到调用出错的地方。

3. 应用业务监C } | g

在 EDAS 中我们支持应用自& z !定义业务监控,这@ x & u V需要我们开启高级监控的能力。从业务的视角来衡量应用的性能和稳定性,可以通过自定义来采集业务信息,来实时展现业务指标,帮助业务进一步完善监控信息# o e U a n X。详细的监控配置可以参考ARMS 业务监控。

4. Prometheus 监控

监控产品的历史由来已久,但是随着云原生技术的持续火热,Prometheus 作为新生代的开源监控系统,慢慢成为了云原生体系的事实标准。而在 EDAS 中的高级监控产品 ARMS 已经m U w全面对接开源 Prometheus 生态,支持类型丰富的组p $ ^ A C .件监控,提供多种开箱即用的预置监控大盘,且提供全面托管的 Prometheus 服务,更多的详0 s T r细内容可以参考A( 3 H E DRMS Prometheus。

通过以上这些监控能力,可以大大缩短线上问题从发现到定i | C位再到解决的时间,提高开发和运维0 9 & F )人员排查和解决问题的效率。

EDAS 应用k 5 C z j发布场景中的l m : L M * E J监控

以阿里巴巴集团的经验举例子,超一半以上的大故障都是在发布过程中产生,0 : _ / y _ G (EDAS 针对发布这一场景结合 Kubernetes 的能力做了结合,其中的精髓内容总结三个词:先发、再看、再发。通俗的解释就是可j h :以利用 EDA_ M V r u @S 中分批(灰度)发布能力,同时在发布视图中,确保相关的指标回归正常之后,再D b h %开始下一批发布了。

目前 EDAS 能u l z 0 { [ H够提供在三个维度上的指标监控数据,用来判断发布是否正常,列举如下:

1. 应用业务指标

目前 EDAS 以接口的= B | b u c t D维度提供了每个接口在发布前后的总的请求数对比i f P E % ~ @ v h以及请求该比例的图例,并且还能够详细的看到在发布前后该接口的错误数、响应时间以及单机的请求数对比,如下图所示:

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

通过上图,我们可以直观的看到,当我们发布后应n O M _ 8 4用的接口请求是否正常,以此来判断是否会对业务产生影响。

2. 应用异常

在发布的过程中,我们也需要时刻的关注在发布中是不是有新的异常产生,我们想 - ~ } m要有地方能够看到异常信息,避免直接登录到机器上去看业务日志,我们的发布监控提供了日志聚合分析的能力,可以在发布的过程提供实时的异常日志分析展示,如下图所以{ # U n

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

3. 系统指标

在新的业务功能上线的时候,我们除了对业务本身的一些异常和指标进行关注外,还需要关k 9 } & |注系统的指标,这关系到我们需要评估现有的机器是否能够支撑我们的所有流量,是否需要进行水平扩容来更好的支持业务,我们的发布_ | A监控系统同样集成了系统的监控的能力,为我们的发布过程来保驾护航,详U + b细的监控如下图所示:

SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(可监控)

以上N a { ! W r 8 f内容我们通过三个维度为大家展示了在整个发布的过程中 EDAS 为我们提供的完备的监控能力,通过这个能力可以让我们的每一次发布都能做到不慌不忙,心中有数,每一次发布都能平滑让业务进行升级。同时我们也提供了查看发布报告的功能,将发布监控信息形成了一份清晰的可视化分析报告供分享他人。

后续及结语

本章我们介绍了 EDAS 中提供的监控能力以及如何对 EDAS Kubernetes 集群上的j s u ? X Spring Cloud 应用8 ] h F 7在发布的过程中如何看x e !监控发现异常信息,但是如果出现异常了该怎么办呢?接下来的文章我们将继续介绍,当出现问题后我们如何对已经发布的应用进行快速的回滚。

课程推荐

去年,CNCF 与 阿里云联合发布了《云原! B ~ 7 7 W生技术公开课》B M ` 3 @ ( i Y已经成为了 Kub2 f * o B / y iernetes 开发者# ^ 6 $的一门“必修课”。今天,阿里云再次集结多位具有丰富云原生实践经验的技术专M b _ !家,正式推出《云原生技术实践公开课》。课程内容由Z n F浅入深,专注讲解“ 落地实践”。还为学习者打造了真实、可操作的实验场景,方便验证学习成果,也为之后的实践应用打下坚实基础。

点击链接即可免费观看:https://de} d ! ) ; [ ?veloper.aliyun.com/learning/rov h 8 H )admap/cloudnative2020

“阿里巴巴云原生关注微服务、! f ` e : O p +Serverless、/ . V容器、Service Mesh 等技术领域、聚焦云原生流行技术趋势、云原生大规模的落地实践,做最懂云原生开发者的公众号。”