Talos监控与报警

为了全面了解系统状态以及用户使用情况，Talos提供了比较完善的Counter系统，Counter系统设计的初衷为了了解以下方面的信息：

• 系统性能、负载状况；例如latency，qps等

• 数据存储情况；例如Topic数据量，Partition当前的offset range情况: [start, end]

• 数据消费情况；例如consumer group消费记录的checkpoint，消费数据堆积情况等

为此，Talos系统提供的Metrics大致分为： 这5种metrics，本节主要介绍用户关心的Topic级别和Consumer级别的信息，用户可以配置相关的报警来监控自己Topic的状态和数据消费情况；

Metrics (蓝色字体为MetricName)

1) Topic/Partition:

• StartOffset: topic/partition的起始offset，由于数据保留过期的原因，这个数值会一直增加
• EndOffset: 同上，是终止offset
• MessageBytes: topic/partition目前的Message总字节数

• MessageNumber: topic/partition目前的Message条数

• 此外，对于所有Operation（API），都有Latency和QPS两种Metrics指标，这些指标对应的MetricName举例如下：

Latency:

注意，所有Percentile的计算取样都是最近5分钟内的数据

QPS:

其中，QPS MetricName中的60s/300s/900s指的是计算QPS的时间窗口，最近1分钟的QPS，最近5分钟QPS，最近15分钟的数据

2) Consumer

• ConsumerCommitOffset: 某个consumerGroup最近消费并成功commit的offset记录
• ConsumerOffsetLag: 用户commitOffset和该Topic/Partition最新的消息offset之间的差值，用于检测消费时消息堆积情况

Alert

目前报警系统我们正在Web服务化，现支持后台配置，如果用户想要设置上述Metrics的监控报警(邮件/短信)，请发邮件到talos-help@xiaomi.com

邮件格式请填写申请表格，如下是一个例子(由于排版原因，把表拆成2个了)，如下