天天看點

storm-kafka元件中KafkaOffsetMetric相關統計名額說明

storm-kafka元件中KafkaOffsetMetric相關統計名額說明

storm-kafka是storm提供的一個讀取kakfa的元件,用于從kafka隊列中消費資料。KafkaOffsetMetric是storm-kafka中關于消費狀态的Metric。本文将介紹KafkaOffsetMetric中的各個名額。

下面是kafka-spout 關于KafkaOffsetMetric 相關名額的示例:

{
    partition_3/latestTimeOffset=631044351,
    totalLatestTimeOffset=1031834482,
    totalSpoutLag=0,
    totalLatestEmittedOffset=1031834482,
    totalEarliestTimeOffset=1031834482,
    partition_3/latestEmittedOffset=631044351,
    partition_1/latestEmittedOffset=400790131,
    partition_3/earliestTimeOffset=631044351,
    partition_1/latestTimeOffset=400790131,
    partition_3/spoutLag=0,
    partition_1/earliestTimeOffset=400790131,
    partition_1/spoutLag=0
}
           

1.每個partition的消費狀态相關名額

partition_3/latestTimeOffset=631044351,   #該分區最新的offset,
partition_3/latestEmittedOffset=631044351,#該分區最新的消費的offst
partition_3/earliestTimeOffset=631044351, #該分區最早的offset,
partition_3/spoutLag=0,                   #該分區消費的延遲:spoutLag= latestTimeOffset - latestEmittedOffset;
           

2. 整體的消費狀态相關名額

totalLatestTimeOffset=1031834482,          #totalLatestTimeOffset += latestTimeOffset;          一個topic所有分區最新的offset值之和。
totalLatestEmittedOffset=1031834482,     #totalLatestEmittedOffset += latestEmittedOffset;  一個topic所有分區最新的消費的offset值之和。
totalEarliestTimeOffset=1031834482,        #totalEarliestTimeOffset += earliestTimeOffset;       一個topic所有分區最早的offset值之和。
totalSpoutLag=0,                                       #totalSpoutLag += spoutLag;                                  該topic消費的延遲           

作者:

丹江湖畔養蜂子的趙大爹

出處:http://www.cnblogs.com/honeybee/

關于作者:丹江湖畔養蜂子的趙大爹

本文版權歸作者和部落格園共有,歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連結