Kubernetes升级：自己动手的权威指南

谁践踏了优雅 2022-10-23 01:48 114阅读 0赞

![3db1c8fd5a1ee8ac9a4b1782f91e0161.gif][]  
Kubernetes的部署很困难。这在很大程度上要归因于这样一个事实，即Kubernetes不仅是一个工具，而且是十几种组件的集合，这些组件提供了从应用程序部署和升级，日志记录和监视到持久数据存储的功能。

Kubernetes是迄今为止Github上最活跃的项目之一，已经积累了超过8万次提交和550个发布。在本地或在云中安装高可用Kubernetes集群的过程已经有足够多的文档，在大多数情况下，我们无需执行许多步骤。还有其他工具，例如Kops或Kubespray，可帮助自动执行此过程。

但是，我们经常需要升级集群，以跟上最新的安全功能和错误修复，并不断受益于新功能。

通常，在升级Kubernetes高可用集群时，升级过程涉及两个可能不会重叠或无法同时执行的单独任务：升级Kubernetes集群；升级etcd集群–是Kubernetes的分布式键值存储。让我们看看如何以最小的中断执行这些任务。

## **升级Kubernetes** ##

请注意，此升级过程专门用于在云或本地中手动安装Kubernetes。它不涵盖托管的Kubernetes环境或公共云上的Kubernetes服务（例如AWS的EKS或Azure Kubernetes服务），它们具有自己的升级过程。

就本教程而言，我们假设是配置了Kubernetes版本是v1.13的3个主节点和一个工作节点。

3个Kubernetes主节点：

![61e760ada701d81f495a6da8e4b3b8cf.png][]

1个v1.13的工作节点：

![05bf8a621c7b6a272abefe742f5bf27a.png][]

Kubernetes主站点上记录了升级Kubernetes主节点的过程。

*  *从v1.12升级到v1.13 HA*
 *  *从v1.12升级到v1.13*
 *  *从v1.13升级到v1.14*
 *  *从v1.14升级到v1.15*

在此示例中，我们将看到从v1.13升级到v.1.14 HA的升级路径。不建议跳过版本（例如，从v1.13升级到v.1.15）。

在开始之前，我们应该始终检查要升级的版本的发行说明，以防它们提及重大更改。

## **Kubernetes集群：升级指南** ##

让我们现在按照升级步骤进行操作：

### 1. 登录第一个节点并仅升级kubeadm工具： ###

$ ssh admin@10.0.11.1$ apt-mark unhold kubeadm && \$ apt-get update && apt-get install -y kubeadm=1.13.0-00 && apt-mark hold kubeadm

我们运行apt-mark unhold和apt-mark hold的原因是，如果我们升级kubeadm，则安装程序将默认自动将其他组件（例如kubelet）升级到最新版本（v1.15），这会造成软件包升级。

为了解决这个问题，我们使用hold将软件包标记为已保留，这将阻止软件包被自动安装，升级或删除。

### 2. 验证升级计划： ###

$ kubeadm upgrade plan...COMPONENT            CURRENT AVAILABLEAPI Server           v1.13.0 v1.14.0Controller Manager   v1.13.0 v1.14.0Scheduler            v1.13.0 v1.14.0Kube Proxy           v1.13.0 v1.14.0...

### 3. 应用升级计划： ###

$ kubeadm upgrade plan apply v1.14.0

### 4. 更新Kubelet并重新启动服务： ###

$ apt-mark unhold kubelet && apt-get update && apt-get install -y kubelet=1.14.0-00 && apt-mark hold kubelet$ systemctl restart kubelet

### 5. 将升级计划应用于其他主节点： ###

$ ssh admin@10.0.11.2$ kubeadm upgrade node experimental-control-plane$ ssh admin@10.0.11.3$ kubeadm upgrade node experimental-control-plane

### 6. 在所有主节点上升级kubectl： ###

$ apt-mark unhold kubectl && apt-get update && apt-get install -y kubectl=1.14.0-00 && apt-mark hold kubectl

### 7. 在工作节点上升级kubeadm： ###

$ ssh worker@10.0.12.1$ apt-mark unhold kubeadm && apt-get update && apt-get install -y kubeadm=1.14.0-00 && apt-mark hold kubeadm

### 8. 登录到主节点并驱逐第一个工作节点： ###

$ ssh admin@10.0.11.1$ kubectl drain worker --ignore-daemonsets

### 9. 在工作节点上升级kubelet配置： ###

$ ssh worker@10.0.12.1$ kubeadm upgrade node config --kubelet-version v1.14.0

### 10. 在工作节点上升级kubelet并重新启动服务： ###

$ apt-mark unhold kubelet && apt-get update && apt-get install -y kubelet=1.14.0-00 && apt-mark hold kubelet$ systemctl restart kubelet

### 11. 恢复工作节点： ###

$ ssh admin@10.0.11.1$ kubectl uncordon workerStep 12: Repeat steps 7-11 for the rest of the worker nodes.Step 13: Verify the health of the cluster:$ kubectl get nodes

## **升级Etcd** ##

Etcd是用于共享配置和服务发现的分布式，一致性的KV存储系统。当我们运行高可用的 Kubernetes集群时，我们也想运行高可用的etcd集群。这样在某些节点出现故障，我们能有一个回退。

通常，我们至少要有3个etcd节点。etcd存储库中记录了升级etcd节点的过程。

*  *从2.3升级到3.0*
 *  *从3.0升级到3.1*
 *  *从3.1升级到3.2*
 *  *从3.2升级到3.3*
 *  *从3.3升级到3.4*
 *  *从3.4升级到3.5*

在计划进行etcd升级时，应始终遵循以下计划：

*  检查你使用的版本。例如

$ ./etcdctl endpoint status

*  不要跳超过一个版本。例如，不要从3.3升级到3.5。而是从3.3到3.4，然后从3.4到3.5。
 *  使用对应的Kubernetes etcd镜像。Kubernetes团队了维护了一个自定义etcd镜像的，其中包含用于多个etcd版本的etcd和etcdctl二进制文件，以及用于升级和降级etcd的迁移操作的实用程序。这将帮助你自动化迁移和升级etcd实例的过程。

其中最重要的变化是从etcd2.3到etcd3.0，有一个主要的API的变化。

你还应注意：

*  Etcd v3能够处理对v2和v3数据的请求。例如，我们可以使用环境变量ETCDCTL\_API 来指定API版本：

$ ETCDCTL_API=2 ./etcdctl endpoint status

*  使用etcdv3 api操作etcd v2数据，不会自动将数据目录升级为v3格式。
 *  使用etcdv2 api操作etcd v3，仅更新存储在etcd中的v2数据。

你可能还会想知道Kubernetes版本和etcd版本的对应关系。

*  Kubernetes v1.0：仅支持etcd2
 *  Kubernetes v1.5.1：添加了etcd3支持，新集群仍然默认为etcd
 *  Kubernetes v1.6.0：使用kube-up.sh创建的新集群默认为etcd3，而kube-apiserver默认为etcd3
 *  Kubernetes v1.9.0：宣布弃用etcd2
 *  Kubernetes v1.13.0：删除etcd2存储，kube-apiserver将拒绝以–storage-backend = etcd2开头。

因此，基于该信息，如果你正在运行带有etcd2的Kubernetes v1.12.0，那么当你将Kubernetes升级到v1.13.0时，由于不支持–storage-backend = etcd3，因此你需要将etcd升级到v3 。如果你具有Kubernetes v1.12.0及更低版本，则可以同时运行etcd2和etcd3。

执行每一步之前，我们应该始终执行基本的维护操作，如定期快照和定期备份。确保检查集群的运行状况的健康。

假设我们有以下etcd集群节点：

![06e3cd00dc58c6c24e9c8e4f7cf90268.png][]

$ ./etcdctl cluster-healthmember 6e3bd23ae5f1eae2 is healthy: got healthy result from http://10.0.1.1:22379member 924e2e83f93f2565 is healthy: got healthy result from http://10.0.1.2:22379member 8211f1d0a64f3269 is healthy: got healthy result from http://10.0.1.3:22379cluster is healthy

## 升级Etcd集群：升级指南 ##

基于上述考虑，典型的升级etcd过程包括以下步骤：

### 1. 登录到第一个节点并停止现有的etcd进程： ###

$ ssh 10.0.1.1$ kill `pgrep etcd`

### 2. 备份etcd数据目录以在出现错误时提供降级路径： ###

$ ./etcdctl backup \--data-dir %data_dir% \      [--wal-dir %wal_dir%] \--backup-dir %backup_data_dir%      [--backup-wal-dir %backup_wal_dir%]

### 3. 下载新的etcd二进制文件，并使用相同的配置启动etcd服务器： ###

ETCD_VER=v3.3.15# choose either URLGOOGLE_URL=https://storage.googleapis.com/etcdGITHUB_URL=https://github.com/etcd-io/etcd/releases/downloadDOWNLOAD_URL=${GOOGLE_URL}
    rm -f /tmp/etcd-${ETCD_VER}-linux-amd64.tar.gzrm -rf /usr/local/etcd && mkdir -p /usr/local/etcd
    curl -L ${DOWNLOAD_URL}/${ETCD_VER}/etcd-${ETCD_VER}-linux-amd64.tar.gz -o /tmp/etcd-${ETCD_VER}-linux-amd64.tar.gztar xzvf /tmp/etcd-${ETCD_VER}-linux-amd64.tar.gz -C /usr/local/etcd --strip-components=1rm -f /tmp/etcd-${ETCD_VER}-linux-amd64.tar.gz
    /usr/local/etcd/etcd --versionETCDCTL_API=3 /usr/local/etcd/etcdctl version# start etcd server/usr/local/etcd/etcd -name etcd-1 -listen-peer-urls http://10.0.1.1:2380 -listen-client-urls http://10.0.1.1:2379,http://127.0.0.1:2379 -advertise-client-urls http://10.0.1.1:2379,http://127.0.0.1:2379

4. 对所有其他节点重复步骤1到步骤3

### 5. 验证集群是否正常： ###

$ ./etcdctl endpoint health10.0.1.1:12379 is healthy: successfully committed proposal: took =10.0.1.2:12379 is healthy: successfully committed proposal: took =10.0.1.3:12379 is healthy: successfully committed proposal: took =

注意：如果在连接到集群时遇到问题，则可能需要提供HTTPS证书。例如：

$ ./etcdctl --ca-file=/etc/kubernetes/pki/etcd/ca.crt --cert-file=/etc/kubernetes/pki/etcd/server.crt --key-file=/etc/kubernetes/pki/etcd/server.key endpoint health

为了方便起见，可以使用以下环境变量：

ETCD_CA_FILE=/etc/kubernetes/pki/etcd/ca.crtETCD_CERT_FILE=/etc/kubernetes/pki/etcd/server.crtETCD_KEY_FILE=/etc/kubernetes/pki/etcd/server.key

文章内涉及超链接，可原参考原文查看：

https://www.kubernetes.org.cn/8877.html

END

精彩文章推荐

[重磅消息，年后福利来了～][Link 1]

[安装kubernetes集群-灵活安装k8s各个版本高可用集群][kubernetes_-_k8s]

[Prometheus+Grafana+Alertmanager搭建全方位的监控告警系统-超详细文档][Prometheus_Grafana_Alertmanager_-]

[linux架构师成长路线图：如何从月薪3千涨到月薪3万][linux_3_3]

[k8s+SpringCloud+DevOps全栈技术解读][k8s_SpringCloud_DevOps][  
][Link 2]

[Kubernetes将弃用Docker，不必恐慌][Kubernetes_Docker][  
][Link 3]

[5个维度对 Kubernetes 集群优化][5_ Kubernetes]

[Docker+k8s+DevOps企业级架构师成长路线图][Docker_k8s_DevOps]

[K8s自动扩缩容工具KEDA发布2.0版本，全面升级应用扩展能力][K8s_KEDA_2.0]

[应该监控哪些Kubernetes健康指标？][Kubernetes]

[k8s+jenkins+SonarQube+harbor构建DevOps自动化容器云平台][k8s_jenkins_SonarQube_harbor_DevOps]

[K8s 超详细总结！][K8s]

## 技术交流 ##

为了大家更快速的学习知识，掌握技术，随时沟通交流问题，特组建了技术交流群，大家在群里可以分享自己的技术栈，抛出日常问题，群里会有很多大佬及时解答的，这样我们就会结识很多志同道合的人，长按或者扫描下图二维码可加我微信，备注运维或者k8s或者devops即可进群，让我们共同的努力，向着美好的未来出发吧~~~，**想要****免费获取****linux、k8s、DevOps、Openstack、Openshift、运维、开发、测试、架构师、Python、Go、面试文档、容器、岗位内推等资料也可进群获取****哈~~**

![e9eb0d0f9cd383bb85b516458bed0053.png][]

**微信：** luckylucky421302

## 微信公众号    ##

![864300a513c1ed619316c279975307b9.png][]

点击阅读原文即可了解更多信息

![点击查看源网页][ea30375f0167fc1abffb2de90c6bc0c4.png]

[3db1c8fd5a1ee8ac9a4b1782f91e0161.gif]: /images/20221022/2352967e55ce46f3b08a4a451fe0bda2.png
[61e760ada701d81f495a6da8e4b3b8cf.png]: /images/20221022/ac56859b3f0f41d892e017a80c2a1497.png
[05bf8a621c7b6a272abefe742f5bf27a.png]: /images/20221022/b5e74b7ad0264db08ab6016f2e45ff1f.png
[06e3cd00dc58c6c24e9c8e4f7cf90268.png]: /images/20221022/5ffed0ca81b94bf48a761dba17078516.png
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639c62cc14157424ac4c8ab7dbb0688a9c01e7f3be035d227e5e5ab760b2b591d91c948e68&idx=1&mid=2247488375&scene=21&sn=476ea53798ffab21e38e281515de95a7#wechat_redirect
[kubernetes_-_k8s]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb6384b8cc140dae0e6efba75100e29549cc440a010a5c7976bdd313e9c6139569b197e20a8f&idx=1&mid=2247486381&scene=21&sn=f07ae730cdc3ca2442462e0c7f2caed1#wechat_redirect
[Prometheus_Grafana_Alertmanager_-]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb638b08cc14021e5e025f2f0b89d18ec5ef19f9dec4429a56f356e8b596d01095e313dab3e3&idx=1&mid=2247484445&scene=21&sn=bf8928e7aae815b8e7f9ac56a67289ce#wechat_redirect
[linux_3_3]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639e28cc14173e61b92f64bcd416338ee89c60c2a6009cb1259a79476bc861646505c8094c&idx=1&mid=2247487805&scene=21&sn=4ff2737a8ba870626f266e9520096a55#wechat_redirect
[k8s_SpringCloud_DevOps]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639deecc1414f8b640079ff0c4ca4845eeb0d240d120db552e3a8c81f452abd7b9a0612879&idx=1&mid=2247488251&scene=21&sn=1878931872ee9d6f03cd6ec541bcdf2a#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639f9bcc14168dbffbc995646942ed75995d1181296af73df1cd13b6d3f0052d42934648cc&idx=1&mid=2247487630&scene=21&sn=d4cbb1afb6d2d059c0e9d319dd47fdf0#wechat_redirect
[Kubernetes_Docker]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639f68cc14167e344cea74d031c8f466e51cb00f19d112d07aeb73fa062a7be5b473d055d7&idx=1&mid=2247487613&scene=21&sn=61308d2c58562ad51ad8c1327a2353e1#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639f7acc14166ca2176a440bbcde9d563c78df76bff8a5a8e0cff467f23dfc9415b2c5c4ef&idx=1&mid=2247487599&scene=21&sn=8f107a8d869238058e50e8cd73175c5a#wechat_redirect
[5_ Kubernetes]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb6383aecc140ab8050df002d52f6063e85ad2777f4ec0941c9d40ea49c50c11f23542f43dfc&idx=1&mid=2247486651&scene=21&sn=2fe1be9d4a335077757c46a36cb1aea2#wechat_redirect
[Docker_k8s_DevOps]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639ed5cc1417c3f90de67376a354d0c7f1d918151f3bcfe301e319d79c2cfee71fec24017f&idx=1&mid=2247487936&scene=21&sn=141bcb9b8346826458f83693bc6b6bb1#wechat_redirect
[K8s_KEDA_2.0]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639d51cc141447eb0ded990df4abe27860fc66b782875f3e656bcdfe5a7b00b2bfb76b9d15&idx=1&mid=2247488068&scene=21&sn=f24c1e2561160fe5feb9a17c6bcc8d1c#wechat_redirect
[Kubernetes]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639dc8cc1414de4ad7398463fb0a5bbb414e1444a0f4b6d3bb8e922697a1d7b3db6130b650&idx=1&mid=2247488221&scene=21&sn=b7cc4fe1347303ba87f226f24b5985ab#wechat_redirect
[k8s_jenkins_SonarQube_harbor_DevOps]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639c31cc1415277a4203065c3aaa468949e48dc8c75d65026c59584b0517cef18e26273373&idx=1&mid=2247488292&scene=21&sn=d81030fed2368e707ee984929b2ee6a5#wechat_redirect
[K8s]: http://mp.weixin.qq.com/s?__biz=MzU0NjEwMTg4Mg%3D%3D&chksm=fb639cb0cc1415a609891fbf71fd250578707a10e5d530cff049b25f2dbfd12b4f4626a7bca8&idx=1&mid=2247488421&scene=21&sn=e605427c3adc7478b9c999d06d580a15#wechat_redirect
[e9eb0d0f9cd383bb85b516458bed0053.png]: /images/20221022/1ea1fa19ce4a4353965fc603fe6516de.png
[864300a513c1ed619316c279975307b9.png]: /images/20221022/3152ec60c4b149a4b30ff8dbb64165e2.png
[ea30375f0167fc1abffb2de90c6bc0c4.png]: /images/20221022/652a16b266e443c6aba37ac0d15be011.png