阿里云上Kubernetes集群联邦

2018-3-12 17:10:52 2597 阿里集群云计算

0 摘要： kubernetes集群让您能够方便的部署管理运维容器化的应用。但是实际情况中经常遇到的一些问题，就是单个集群通常无法跨单个云厂商的多个Region，更不用说支持跨跨域不同的云厂商。这样会给企业带来一些担忧，如何应对可用区级别的Fail，以及容灾备份？是否会造成厂商锁定，增加迁移成本？如何应对线上线下突发流量？如何统一管理调度容器资源？单个集群规模的上限等等。点此查看原文：http://click.aliyun.com/m/43608/ kubernetes集群让您能够方便的部署管理运维容器化的应用。但是实际情况中经常遇到的一些问题，就是单个集群通常无法跨单个云厂商的多个Region，更不用说支持跨跨域不同的云厂商。这样会给企业带来一些担忧，如何应对可用区级别的Fail，以及容灾备份？是否会造成厂商锁定，增加迁移成本？如何应对线上线下突发流量？如何统一管理调度容器资源？单个集群规模的上限等等。 Federation集群联邦可以一定程度上解决这些问题。Federation是可以将分布在多个Region或者多个云厂商的Kubernetes集群整合成一个大的集群，统一管理与调度。本文档演示搭建一个杭州和北京的kubernetes集群组成集群联邦，其中杭州集群作为联邦的控制平面准备域名 Federation使用域名将不同子集群的同一个服务暴露出来，因此需要用户提供一个可配置的域名。您可以通过万网在阿里云上购买域名然后配置到您的Federation集群上。以域名spacexnice.xyz为例，请按照购买域名文档购买好域名。配置域名由于Federation在添加域名解析记录的时候设置域名的TTL为3分钟，域名层级为5级，因此需要到阿里云上对您刚购买的域名进行设置，使得该域名允许的最小TTL值小于3分钟，同时域名层级大于5. 进入云解析控制台选择您刚刚购买的域名，更多里面选[升级]或者[升级VIP] 在弹出的页面中更改最低TTL值为60s,子域名级别为7级，然后保存。创建多个子集群本示例创建的Federation集群包含两个子集群，分别在杭州和北京region。我们首先需要在这两个Region创建出两个可用的集群，集群创建步骤参考文档杭州集群 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get noNAME STATUS ROLES AGE VERSIONcn-hangzhou.i-bp11ajet2v9o3tp0o2uw Ready master 3d v1.8.4cn-hangzhou.i-bp15pt2475mgw64k72ma Ready master 3d v1.8.4cn-hangzhou.i-bp18fggko6p3vyr0p0ew Ready 3d v1.8.4cn-hangzhou.i-bp18fggko6p3vyr0p0ex Ready 3d v1.8.4cn-hangzhou.i-bp1bpj58bdzdosdxxf82 Ready master 3d v1.8.4 北京集群 [root@iZze7z98ssc50pfzt6be9 ~]# kubectl get noNAME STATUS ROLES AGE VERSIONcn-beijing.i-2ze7z98ssc50pfzt6be9 Ready master 3d v1.8.4cn-beijing.i-2ze8hr6k03ccroopicd2 Ready master 3d v1.8.4cn-beijing.i-2zeipodwz2junslmihqz Ready master 3d v1.8.4cn-beijing.i-2zeipodwz2junyipunrf Ready 3d v1.8.4 部署federation控制平面选择杭州的子集群作为Federation的宿主集群，安装Federation的控制平面。并配置好本地的kubeconfig。通过运行kubefed init命令来初始化主集群。具体步骤如下：安装kubefed 在hangzhou集群的master节点安装kubefed [root@iZze7z98ssc50pfzt6be9 ~]# curl -L http://aliacs-k8s-cn-hangzhou.oss.aliyuncs.com/bin/kubefed-1.8.4 -o kubefed[root@iZze7z98ssc50pfzt6be9 ~]# sudo cp kubefed /usr/bin[root@iZze7z98ssc50pfzt6be9 ~]# sudo chmod +x /usr/bin/kubefed[root@iZze7z98ssc50pfzt6be9 ~]# kubefed version 配置kubeconfig 在杭州集群master节点中配置hangzhou，beijing两个集群的context，让改节点能通过切换context连接不同的子集群。要修改的内容如下：修改hangzhou集群的kubeconfig的cluster，user，context的名字为hangzhou 拷贝beijing集群kubeconfig中的cluster，user，context内容到a）步骤中kubeconfig，并修改相应的cluster，user，context名字为beijing 为了方便初学者，我们提供了一个自动化的脚本，可以自动通过ssh从您指定的集群中下载kubeconfig配置文件，并合并成一个整体。通过执行脚本来自动生成~/.kube/config文件。脚本需要指明从哪些集群上下载kubeconfig文件并合并，格式如下python context.py -H hangzhou:1.1.1.1,beijing:2.2.2.2 注意参数替换成你自己的集群Region和IP，脚本可能会要求您输入ssh的登录密码。 [root@iZbp1bpj58bdzdosdxxf82Z ~]# curl http://aliacs-k8s-cn-hangzhou.oss.aliyuncs.com/tools/context.py > context.py[root@iZbp1bpj58bdzdosdxxf82Z ~]# sudo pip install pyyaml[root@iZbp1bpj58bdzdosdxxf82Z ~]# unset KUBECONFIG[root@iZbp1bpj58bdzdosdxxf82Z ~]# python context.py -H ${HOST}Info: host, hangzhou:118.31.177.21,beijing:47.95.96.234 .Info: file /root/.kube/config successfully generated. 配置结果如下： [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl config get-contextsCURRENT NAME CLUSTER AUTHINFO NAMESPACE hangzhou kubernetes-hangzhou kubernetes-admin-hangzhou* beijing kubernetes-beijing kubernetes-admin-beijing 配置alidns.yaml文件 zones填写您前面申请的域名，注意以点号结尾。并且替换您的accesskeyid和accesskeysecret. cat >alidns.yaml <access-key-secret = zones = spacexnice.xyz.EOF 初始化控制federation平面通过本条命令初始化federation控制平面，参数如下： kubefed init federation # 联邦的名字 --host-cluster-context=hangzhou # 主集群的context名字 --dns-provider="alidns" # DNS服务提供商 --dns-zone-name="spacexnice.xyz." # 前面注册好的域名，必须以.结束 --dns-provider-config="alidns.yaml" # alidns配置文件 --image="registry.cn-hangzhou.aliyuncs.com/google-containers/hyperkube-amd64:v1.8.4-4_99c084ce" # hyperkube镜像 --etcd-image='registry.cn-hangzhou.aliyuncs.com/google-containers/etcd-amd64:3.1.11' #etcd 镜像 --etcd-persistent-storage=false # 关闭etcd持久存储 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubefed init federation --host-cluster-context=hangzhou --dns-provider="alidns" --dns-zone-name="spacexnice.xyz." --dns-provider-config="alidns.yaml" --image="registry.cn-hangzhou.aliyuncs.com/google-containers/hyperkube-amd64:v1.8.4-4_99c084ce" --etcd-image='registry.cn-hangzhou.aliyuncs.com/google-containers/etcd-amd64:3.1.11' --etcd-persistent-storage=falseCreating a namespace federation-system for federation system components... doneCreating federation control plane service..... doneCreating federation control plane objects (credentials, persistent volume claim)... doneCreating federation component deployments... doneUpdating kubeconfig... doneWaiting for federation control plane to come up..................................................................................................................................................... doneFederation API server is running at: 120.55.196.1 添加集群至federation 目前为止您已经成功的初始化好了Federation的控制平面。接下来需要将各个子集群加入到Federation集群中。添加hangzhou集群命令行参数解析 kubefed join hangzhou #加入联邦的集群命名名字 --context=federation #联邦的context --cluster-context=hangzhou #要添加集群的context --host-cluster-context=hangzhou #主集群的context [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubefed join hangzhou --context=federation --cluster-context=hangzhou --host-cluster-context=hangzhou[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get cluster --context=federationNAME STATUS AGEhangzhou Ready 28s 添加beijing集群 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubefed join beijing --context=federation --cluster-context=beijing --host-cluster-context=hangzhou[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get cluster --context=federationNAME STATUS AGEhangzhou Ready 4mbeijing Ready 59s 后面介绍下集群查询，移除集群，删除联邦等命令集群查询查询注册到Federation的kubernetes集群列表 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get cluster --context=federationNAME STATUS AGEhangzhou Ready 4mbeijing Ready 59s 移除集群移除beijing集群 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubefed unjoin beijing --host-cluster-context=hangzhou --context=federation[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get clusters --context=federationNAME STATUS AGEhangzhou Ready 1d 删除集群联邦集群联邦控制平面的删除功能还在开发中，目前可以通过删除namespace federation-system的方法来清理（注意pv不会删除）。命令在host-cluster-context上执行。 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl delete ns federation-system 创建服务集群联邦支持以下联邦资源，这些资源会自动在所有注册的kubernetes集群中创建. Federated ConfigMap Federated Service Federated DaemonSet Federated Deployment Federated Ingress Federated Namespaces Federated ReplicaSets Federated Secrets Federated Events（仅存在federation控制平面）创建service [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl run nginx --image nginx --context=federation[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl expose deploy nginx --port 80 --target-port 80 --type LoadBalancer --context=federation[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get svc --context=federation 您还可以通过kubectl scale deploy nginx --replicas=3 --context=federation来扩展nginx副本，然后观察nginx应用在各个子集群中的分布情况。 [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get deploy --context=beijing[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl get deploy --context=hangzhou 创建deployment [root@iZbp1bpj58bdzdosdxxf82Z ~]# cat deployment-nginx.yamlapiVersion: extensions/v1beta1kind: Deploymentmetadata: name: nginx-deploymentspec: replicas: 3 template: metadata: labels: app: nginx spec: containers: - name: nginx image: nginx:1.7.9 ports: - containerPort: 80[root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl create -f deployment-nginx.yaml --context=federation 查看federation service [root@iZbp1bpj58bdzdosdxxf82Z ~]# kubectl describe svc nginx --context=federationName: nginxNamespace: defaultLabels: app=nginxAnnotations: federation.kubernetes.io/service-ingresses={"items":[{"cluster":"hangzhou","items":[{"ip":"120.55.149.69"}]},{"cluster":"shanghai","items":[{"ip":"139.196.70.146"}]}]}Selector: app=nginxType: LoadBalancerIP:LoadBalancer Ingress: 120.55.149.69, 139.196.70.146Port: http 80/TCPEndpoints: Session Affinity: NoneEvents: 通过域名访问服务： [root@iZbp1bpj58bdzdosdxxf82Z ~]# curl nginx.default.fed.svc.spacexnice.xyzWelcome to nginx! Welcome to nginx! If you see this page, the nginx web server is successfully installed andworking. Further configuration is required. For online documentation and support please refer tonginx.org. Commercial support is available atnginx.com. Thank you for using nginx. 查看云解析dns的record记录我们可以在阿里云云解析控制台看见刚刚添加的nginx的dns记录。总结 Federation为您提供一种多集群管理的途径，统一管理多云（multi-cloud）资源，并提供了一种灾备的新途径。阿里云Kubernetes服务也将进一步简化Federation的用户体验，将容器服务Kubernetes集群管理与Federation完美结合在一起。也欢迎您的意见和建议，帮助我们迭代产品能力。阿里云Kubernetes服务全球首批通过Kubernetes一致性认证，简化了Kubernetes集群生命周期管理，内置了与阿里云产品集成，也将进一步简化Kubernetes的开发者体验，帮助用户关注云端应用价值创新。识别以下二维码，阅读更多干货 0
2018-3-12 17:10:52　　评论淘帖0 举报相关推荐 • 如何在阿里云上构建一个合适的Kubernetes集群 974 • Kubernetes集群中使用阿里云 SLB 实现四层金丝雀发布 3375 • kubernetes集群配置 1218 • 深度揭秘阿里云Serverless Kubernetes 1035 • 使用Velero备份Kubernetes集群 399 • Kubernetes的集群部署 1778 • 再次升级！阿里云Kubernetes日志解决方案 2198 • 阿里云容器Kubernetes监控(一) - 资源监控 3251 • 阿里云容器Kubernetes监控(一) - 资源监控 3373 • 请问鸿蒙系统上可以部署kubernetes集群吗？ 1088