Ceph:螢幕時鐘偏差問題(clock skew detected on)

最近幾天接觸到了ceph，搭建的過程中也發現很多問題：

1、故障現象

<code># ceph -s</code>

<code>    </code><code>cluster e2ca994a-00c4-477f-9390-ea3f931c5062</code>

<code>    </code><code>health HEALTH_WARN</code>

<code>            </code><code>clock skew detected on mon.hz-01-ops-tc-ceph-04, mon.hz-01-ops-tc-ceph-02</code>

<code>            </code><code>Monitor clock skew detected </code>

<code>    </code><code>monmap e1: 3 mons at {hz-01-ops-tc-ceph-02=172.16.2.231:6789</code><code>/0</code><code>,hz-01-ops-tc-ceph-03=172.16.2.172:6789</code><code>/0</code><code>,hz-01-ops-tc-ceph-04=172.16.2.181:6789</code><code>/0</code><code>}</code>

<code>            </code><code>election epoch 6, quorum 0,1,2 hz-01-ops-tc-ceph-03,hz-01-ops-tc-ceph-04,hz-01-ops-tc-ceph-02</code>

<code>    </code><code>osdmap e19: 4 osds: 4 up, 4 </code><code>in</code>

<code>            </code><code>flags sortbitwise,require_jewel_osds</code>

<code>      </code><code>pgmap v37: 64 pgs, 1 pools, 0 bytes data, 0 objects</code>

<code>            </code><code>135 MB used, 179 GB / 179 GB avail</code>

<code>                  </code><code>64 active+clean</code>

網上查資料有說ntp時間的問題，但我是在内部測試環境中進行的，不存在時間不同步的問題

2、處理過程

<code># cd /my-cluster</code>

<code># ls</code>

<code>ceph.bootstrap-mds.keyring  ceph.bootstrap-osd.keyring  ceph.client.admin.keyring  ceph-deploy-ceph.log</code>

<code>ceph.bootstrap-mgr.keyring  ceph.bootstrap-rgw.keyring  ceph.conf                  ceph.mon.keyring</code>

<code># vim ceph.conf </code>

<code># 添加如下資訊：</code>

<code>mon clock drift allowed = 2    </code>

<code>mon clock drift warn backoff = 30</code>

<code>同步配置資訊：</code>

<code># ceph-deploy --overwrite-conf admin hz-01-ops-tc-ceph-01 hz-01-ops-tc-ceph-02 hz-01-ops-tc-ceph-03 hz-01-ops-tc-ceph-04</code>

<code>[ceph_deploy.conf][DEBUG ] found configuration </code><code>file</code> <code>at: </code><code>/root/</code><code>.cephdeploy.conf</code>

<code>[ceph_deploy.cli][INFO  ] Invoked (1.5.39): </code><code>/usr/bin/ceph-deploy</code> <code>--overwrite-conf admin hz-01-ops-tc-ceph-01 hz-01-ops-tc-ceph-02 hz-01-ops-tc-ceph-03 hz-01-ops-tc-ceph-04</code>

<code>[ceph_deploy.cli][INFO  ] ceph-deploy options:</code>

<code>[ceph_deploy.cli][INFO  ]  username                      : None</code>

<code>[ceph_deploy.cli][INFO  ]  verbose                      : False</code>

<code>[ceph_deploy.cli][INFO  ]  overwrite_conf                : True</code>

<code>[ceph_deploy.cli][INFO  ]  quiet                        : False</code>

<code>[ceph_deploy.cli][INFO  ]  cd_conf                      : &lt;ceph_deploy.conf.cephdeploy.Conf instance at 0xccbc68&gt;</code>

<code>[ceph_deploy.cli][INFO  ]  cluster                      : ceph</code>

<code>[ceph_deploy.cli][INFO  ]  client                        : [</code><code>'hz-01-ops-tc-ceph-01'</code><code>, </code><code>'hz-01-ops-tc-ceph-02'</code><code>, </code><code>'hz-01-ops-tc-ceph-03'</code><code>, </code><code>'hz-01-ops-tc-ceph-04'</code><code>]</code>

<code>[ceph_deploy.cli][INFO  ]  func                          : &lt;</code><code>function</code> <code>admin at 0xbfa8c0&gt;</code>

<code>[ceph_deploy.cli][INFO  ]  ceph_conf                    : None</code>

<code>[ceph_deploy.cli][INFO  ]  default_release              : False</code>

<code>[ceph_deploy.admin][DEBUG ] Pushing admin keys and conf to hz-01-ops-tc-ceph-01</code>

<code>[hz-01-ops-tc-ceph-01][DEBUG ] connected to host: hz-01-ops-tc-ceph-01 </code>

<code>[hz-01-ops-tc-ceph-01][DEBUG ] detect platform information from remote host</code>

<code>[hz-01-ops-tc-ceph-01][DEBUG ] detect machine </code><code>type</code>

<code>[hz-01-ops-tc-ceph-01][DEBUG ] write cluster configuration to </code><code>/etc/ceph/</code><code>{cluster}.conf</code>

<code>[ceph_deploy.admin][DEBUG ] Pushing admin keys and conf to hz-01-ops-tc-ceph-02</code>

<code>[hz-01-ops-tc-ceph-02][DEBUG ] connected to host: hz-01-ops-tc-ceph-02 </code>

<code>[hz-01-ops-tc-ceph-02][DEBUG ] detect platform information from remote host</code>

<code>[hz-01-ops-tc-ceph-02][DEBUG ] detect machine </code><code>type</code>

<code>[hz-01-ops-tc-ceph-02][DEBUG ] write cluster configuration to </code><code>/etc/ceph/</code><code>{cluster}.conf</code>

<code>[ceph_deploy.admin][DEBUG ] Pushing admin keys and conf to hz-01-ops-tc-ceph-03</code>

<code>[hz-01-ops-tc-ceph-03][DEBUG ] connected to host: hz-01-ops-tc-ceph-03 </code>

<code>[hz-01-ops-tc-ceph-03][DEBUG ] detect platform information from remote host</code>

<code>[hz-01-ops-tc-ceph-03][DEBUG ] detect machine </code><code>type</code>

<code>[hz-01-ops-tc-ceph-03][DEBUG ] write cluster configuration to </code><code>/etc/ceph/</code><code>{cluster}.conf</code>

<code>[ceph_deploy.admin][DEBUG ] Pushing admin keys and conf to hz-01-ops-tc-ceph-04</code>

<code>[hz-01-ops-tc-ceph-04][DEBUG ] connected to host: hz-01-ops-tc-ceph-04 </code>

<code>[hz-01-ops-tc-ceph-04][DEBUG ] detect platform information from remote host</code>

<code>[hz-01-ops-tc-ceph-04][DEBUG ] detect machine </code><code>type</code>

<code>[hz-01-ops-tc-ceph-04][DEBUG ] write cluster configuration to </code><code>/etc/ceph/</code><code>{cluster}.conf</code>

到此，問題解決

本文轉自 冰凍vs西瓜 51CTO部落格，原文連結：http://blog.51cto.com/molewan/2060584，如需轉載請自行聯系原作者