天天看點

Kubernetes 1.20.4高可用叢集快速更新及擴容

2021年春節一過,Kubernetes又上新了。

Kubernetes 1.20.4已經正式釋出,高可用叢集也可以直接更新(hub.docker.com已經停更,使用registry.cn-hangzhou.aliyuncs.com/google_containers)。快速更新(含國内鏡像快速下載下傳連結)包括更新kubeadm/kubectl/kubelet版本、拉取鏡像、更新Kubernetes叢集三個主要步驟。參考《Ubuntu上軟體鎖定版本不更新》安裝特定DockerCE版本。

提前将鏡像傳送到相應節點上,然後在任何一個master節點運作下面的指令即可完成更新。

kubeadm upgrade apply v1.20.4      

在目前的叢集中新增節點:

  • 第一步,重新建立certificate key和token:
sudo kubeadm init phase upload-certs --upload-certs### Got:# [upload-certs] Using certificate key:# 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78# Add certificate-key for Multi Master Node.kubeadm token create --print-join-command --certificate-key 2ffe5bbf7d2e670d5bcfb03dac194e2f21eb9715f2099c5f8574e4ba7679ff78      
  • 第二步,增加Worker節點:
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383      
  • 第三步,增加master節點:
kubeadm join 192.168.199.173:6443 --token rlxvkn.2ine1loolri50tzt --discovery-token-ca-cert-hash sha256:86e68de8febb844ab8f015f6af4526d78a980d9cdcf7863eebb05b17c24b9383 --control-plane --certificate-key 440a880086e7e9cbbcebbd7924e6a9562d77ee8de7e0ec63511436f2467f7dde      

在arm上部署kubernetes參考:

  • Kubernetes for arm 1.18.0快速安裝 
  • kubernetes on arm發展現狀 

更新時出現一些小錯誤,後來解決了:

  • kubernetes高可用叢集更新的etcd錯誤 
  • Ubuntu跨版本更新出錯問題解決 
  • Ubuntu apt upgrade出現error "NO_PUBKEY"的解決 

1、更新kubeadm/kubectl/kubelet版本

sudo apt install kubeadm=1.20.4-00 kubectl=1.20.2-00 kubelet=1.20.4-00      
  • 設定中國區的軟體源,參考: kubernetes for china

檢視該版本的容器鏡像版本:

kubeadm config images list      

輸出如下:

~# kubeadm config images listk8s.gcr.io/kube-apiserver:v1.20.4k8s.gcr.io/kube-controller-manager:v1.20.4k8s.gcr.io/kube-scheduler:v1.20.4k8s.gcr.io/kube-proxy:v1.20.4k8s.gcr.io/pause:3.2k8s.gcr.io/etcd:3.4.13-0k8s.gcr.io/coredns:1.7.0      

2、拉取容器鏡像

原始的kubernetes鏡像檔案在gcr上,不能直接下載下傳。我原來是把鏡像到了阿裡雲的杭州機房的容器倉庫裡,拉取還是比較快的。現在hub.docker.com的通路沒有問題了,有同學把鏡像放到料裡面,而且更新還挺及時,可以直接用。

#mirrorgcrio已經沒有更新了...#MY_REGISTRY=mirrorgcrioMY_REGISTRY=registry.cn-hangzhou.aliyuncs.com/google_containersK8S_VERSION="1.20.4"echo ""echo "=========================================================="echo "Pull Kubernetes for x64 v$K8S_VERSION Images from docker.io ......"echo "=========================================================="echo ""## 拉取鏡像docker pull ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSIONdocker pull ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSIONdocker pull ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSIONdocker pull ${MY_REGISTRY}/kube-proxy:v$K8S_VERSIONdocker pull ${MY_REGISTRY}/etcd:3.4.13-0
docker pull ${MY_REGISTRY}/pause:3.2#docker pull ${MY_REGISTRY}/coredns-arm64:1.7.0docker pull coredns/coredns:1.7.0## 添加Tagdocker tag ${MY_REGISTRY}/kube-apiserver:v$K8S_VERSION k8s.gcr.io/kube-apiserver:v$K8S_VERSIONdocker tag ${MY_REGISTRY}/kube-scheduler:v$K8S_VERSION k8s.gcr.io/kube-scheduler:v$K8S_VERSIONdocker tag ${MY_REGISTRY}/kube-controller-manager:v$K8S_VERSION k8s.gcr.io/kube-controller-manager:v$K8S_VERSIONdocker tag ${MY_REGISTRY}/kube-proxy:v$K8S_VERSION k8s.gcr.io/kube-proxy:v$K8S_VERSIONdocker tag ${MY_REGISTRY}/etcd:3.4.13-0 k8s.gcr.io/etcd:3.4.13-0
docker tag ${MY_REGISTRY}/pause:3.2 k8s.gcr.io/pause:3.2#docker tag ${MY_REGISTRY}/coredns-arm64:1.7.0 k8s.gcr.io/coredns:1.7.0docker tag coredns/coredns:1.7.0 k8s.gcr.io/coredns:1.7.0echo ""echo "=========================================================="echo "Pull Kubernetes for x64 v$K8S_VERSION Images FINISHED."echo "into docker.io/mirrorgcrio, "echo " by openthings@https://my.oschina.net/u/2306127."echo "=========================================================="echo ""      

儲存為shell腳本,然後執行。

  • 或者,下載下傳腳本:https://github.com/openthings/kubernetes-tools/blob/master/kubeadm/2-images/

3、更新Kubernetes叢集

全新安裝:

#指定IP位址,1.20.2版本:sudo kubeadm init --kubernetes-version=v1.20.4 --apiserver-advertise-address=10.1.1.199 --pod-network-cidr=10.244.0.0/16      

高可用安裝(多master節點):

sudo kubeadm init --kubernetes-version=v1.20.4 --apiserver-advertise-address=192.168.199.173 --control-plane-endpoint=192.168.199.173:6443 --pod-network-cidr=10.244.0.0/16 --upload-certs      
  • 使用kubeadm部署高可用Kubernetes 1.17.0 

先檢視一下需要更新的各個元件的版本。

使用kubeadm upgrade plan ,輸出的版本更新資訊如下:

Components that must be upgraded manually after you have upgraded the control plane with 'kubeadm upgrade apply':COMPONENT   CURRENT       AVAILABLEKubelet     1 x v1.20.0   v1.20.48 x v1.20.0   v1.20.4Upgrade to the latest version in the v1.20 series:COMPONENT            CURRENT   AVAILABLEAPI Server           v1.20.0   v1.20.4Controller Manager   v1.20.0   v1.20.4Scheduler            v1.20.0   v1.20.4Kube Proxy           v1.20.0   v1.20.4CoreDNS              1.7.0     1.7.0Etcd                 3.4.13-0     3.4.13-0You can now apply the upgrade by executing the following command:kubeadm upgrade apply v1.20.4      

確定上面的容器鏡像已經下載下傳(如果沒有提前下載下傳,可能被網絡阻隔導緻挂起),然後執行更新:

kubeadm upgrade apply v1.20.4      

看到下面資訊,就OK了。

[upgrade/successful] SUCCESS! Your cluster was upgraded to "v1.20.4". Enjoy!      

然後,配置目前使用者環境:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config      

就可以使用 kubectl version 來檢視狀态和 kubectl cluster-info 檢視服務位址。

  • 如果服務沒有起來,測試一下: 
    • 檢視服務版本,kubectl version
    • 檢視叢集資訊,kubectl cluster-info
    • 檢視服務狀态,sudo systemctl status kubelet
    • 檢視服務日志,journalctl -xefu kubelet

4、工作節點的更新

每個工作節點需要拉取上面對應版本的鏡像,以及安裝kubelet的對應版本。

檢查版本:

~$ kubectl version      

檢視Pod資訊:

kubectl get pod --all-namespaces      

繼續閱讀