天天看點

Supervisor+Celery+Redis+gevent出現missed hearbeat

一:問題描述:

使用Supervisor對celery程序進行管理,broker使用Redis,采用gevent池運作task,celery使用的版本為4.0.2,随機出現missed hearbeat worker,重新開機程序之後運作正常

解決辦法:

1.設定心跳包檢查間隔和時長,這樣可以保證由于系統負載原因導緻檢測不準,因為檢查機制是往隊列裡發送一條消息,worker可以收到這條消息,如果系統處理不過來,可能需要等很久,如果間隔時間設定不對,可能就認為worker丢失了。

設定參數如下:

broker_heartbeat = 24 * 60 * 60

broker_heartbeat_checkrate = int(broker_heartbeat / 60 * 60)

2.設定每個task最大運作時長。如果task運作超過時長,則會主動結束掉task,這樣保證不會耗掉所有池中資源,也會盡快結束掉異常task,提高處理速度。

設定參數如下:

task_time_limit = 1 * 60(可以根據自己task需要的運作時長來修改)

繼續閱讀