实战| 配置DataDog监控Apache Hudi应用指标

实战| 配置DataDog监控Apache Hudihttps://www.fons.com.cn/tag/%e5%ba%94%e7%94%a8" target="_blank">应用指标

  1. 可用性
    在Hudi最新master分支,由Hudi活跃贡献者Raymond Xu贡献了DataDog监控v @ + R O 1 ~ Y Hu| k ( 6 P idi应用指标,该功能将在0.6.0 版本发布,也感谢Raymond的投稿。
  2. 简介
    Datadog是一个流行的监控服务。在即将发布的Apache Hudi0.6.0版本中,除已有的报告者类型(Graphite和JMX)之外,我们将引入通过Datadog HTTP APIK j e i @ ! Y F (报告Hudi指标的功能。
  3. 配置
    类似于其他支持的报告者,启用Datadog报告者需要以下两个属性。

hoodie.metrics.s v ~ a X x n ( ion=true
hoodie.metrics.reporter.type=DATADOG
下面的属性用来配置Datdog API站点。u 1 U W D它会L | 1 D决定请求被发送给api.datadoghq.eu(EU) 还是api.datadoghq.com(US)。根据你的Datadog账号作相应v _ 1 L配置。

hoodie.metrics.datadogY C = e M.api.site=EU # 或者 US
hoodie.metrics.datadog.api.key可以让你配置API密匙。} 6 i

hoodie.metrics.datadog.api.key=<你的API密匙>
hoodie.metrics.datadog.api.key^ 2 c V ! T ? % }.supplier=<你的API密匙提供者>
出于安全性考虑,你可能会选择在运行时返回API密匙。要使用这个方法,需要实现java4 B : $ O ,.util.function.Supplier。并把实现类的完整类名设置到hoodie.metrics.datadog.T L P Z b / 4 X Kapi.key.suppe / H T r 4 t $ Wlier。由于hoodie.metrics.datadog.api.key有更高的优先级,也要确保它没有设置。

下面的属性用来配置指标前缀,从而区分不同job的指标。

hoodie.metrics.datadS F g & n o : =og.metric.prefix=<你的指标前缀>
注意这# R w q t A Z {里.会被用来隔离前缀和指标名。比如,如果前缀是foo,则foo.会被加在指标名称前。

其他的可选属性在配置参考页里有相关解释t q 5

  1. 示例演示
    在这个示例中,我们运行了一个HoodieDelta= o m v TStreamer,启用了指标收集并做了相应的配置。

如图所示,我们能收集到Hudi操作相关的指标,比如

<前缀T . U w ?>.<表名>.commit.totalScanTime
<前缀>.<表名>.clean.duration
&l3 o Qt;前缀>.<表名>.index.lookup.duration
以及Hood4 t 6ieDeltaStreamer相关的指标。

<前缀>.<表名>.deltastreamer.duration
<前缀>.<表名>.deltastreamer.hiveSyncDuration
. 总结
Hudi提供了多种报告者,方便监控Hudi应用运行时的各项指标,及时发现系统中的问题。

PS:如果您觉得阅读本文对您有帮助,请点一下“推荐”按钮,您的“推A Q 6 x { 7 ,荐”,将会是我不竭的动力!
O J W . 2 5 | e者:lees] O /f掌控之中,才会K f O t $成功;掌控之外,注定失败。
出处:http://www.cnblogs.com/leesf456/