快速部署一个云原生本地实验环境

本文旨在帮助您快速部署一个云原生本地实验环境,让您可以基本不需要任何 Kubernetes 和云原生技术的基础就可以对云原生环境一探究竟。

本文中使用 kubernetes-vagrant-centos-cluster 在本地使用 Vagrant 启动三个虚拟机部署分布式的 Kubernetes 集群。

如仅需要体验云原生环境和测试服务功能,可以使用更加轻量级的 cloud-native-sandbox,通过个人电脑的 Docker 部署单节点的 Kubernetes、Istio 等云原生环境。

准备环境

需要准备以下软件和环境:

  • 8G 以上内存
  • Vagrant 2.0+
  • VirtualBox 5.0 +
  • 提前下载 Kubernetes1.9.1 以上版本的 release 压缩包,至百度网盘下载(并将名字中的版本号删除)
  • Mac/Linux,不支持 Windows
  • 支持 Kubernetes1.9 以上版本(支持当前 Kubernetes 最新版本 1.11.1)

集群

我们使用 Vagrant 和 VirtualBox 安装包含 3 个节点的 Kubernetes 集群,其中 master 节点同时作为 node 节点。

IP 主机名 组件
172.17.8.101 node1 kube-apiserver、kube-controller-manager、kube-scheduler、etcd、kubelet、docker、flannel、dashboard
172.17.8.102 node2 kubelet、docker、flannel、traefik
172.17.8.103 node3 kubelet、docker、flannel

注意:以上的IP、主机名和组件都是固定在这些节点的,即使销毁后下次使用vagrant重建依然保持不变。

容器IP范围:172.33.0.0/30

Kubernetes service IP范围:10.254.0.0/16

安装的组件

安装完成后的集群包含以下组件:

  • flannel(host-gw模式)
  • kubernetes dashboard
  • etcd(单节点)
  • kubectl
  • CoreDNS
  • kubernetes(版本根据下载的kubernetes安装包而定)

可选插件

  • Heapster + InfluxDB + Grafana
  • ElasticSearch + Fluentd + Kibana
  • Istio service mesh

使用说明

确保安装好以上的准备环境后,执行下列命令启动 kubernetes 集群:

git clone https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster.git
cd kubernetes-vagrant-centos-cluster
vagrant up

注意:克隆完 Git 仓库后,需要提前下载 kubernetes 的压缩包到 kubenetes-vagrant-centos-cluster 目录下,并将压缩包名字中的版本号删除,包括如下两个文件:

  • kubernetes-client-linux-amd64.tar.gz
  • kubernetes-server-linux-amd64.tar.gz

如果是首次部署,会自动下载 centos/7 的 box,这需要花费一些时间,另外每个节点还需要下载安装一系列软件包,整个过程大概需要 10 几分钟。

如果您在运行 vagrant up 的过程中发现无法下载 centos/7 的 box,可以手动下载后将其添加到 vagrant 中。

手动添加 centos/7 box

wget -c http://cloud.centos.org/centos/7/vagrant/x86_64/images/CentOS-7-x86_64-Vagrant-1801_02.VirtualBox.box
vagrant box add CentOS-7-x86_64-Vagrant-1801_02.VirtualBox.box --name centos/7

这样下次运行 vagrant up 的时候就会自动读取本地的 centos/7 box 而不会再到网上下载。

访问 kubernetes 集群

访问 Kubernetes 集群的方式有三种:

  • 本地访问
  • 在 VM 内部访问
  • kubernetes dashboard

通过本地访问

可以直接在你自己的本地环境中操作该 kubernetes 集群,而无需登录到虚拟机中,执行以下步骤:

conf/admin.kubeconfig 文件放到 ~/.kube/config 目录下即可在本地使用 kubectl 命令操作集群。

mkdir -p ~/.kube
cp conf/admin.kubeconfig ~/.kube/config

我们推荐您使用这种方式。

在虚拟机内部访问

如果有任何问题可以登录到虚拟机内部调试:

vagrant ssh node1
sudo -i
kubectl get nodes

Kubernetes dashboard

还可以直接通过 dashboard UI 来访问:https://172.17.8.101:8443

可以在本地执行以下命令获取 token 的值(需要提前安装 kubectl):

kubectl -n kube-system describe secret `kubectl -n kube-system get secret|grep admin-token|cut -d " " -f1`|grep "token:"|tr -s " "|cut -d " " -f2

注意:token 的值也可以在 vagrant up 的日志的最后看到。

Kubernetes dashboard
图 3.3.1:Kubernetes dashboard

Heapster 监控

创建 Heapster 监控:

kubectl apply -f addon/heapster/

访问 Grafana

使用 Ingress 方式暴露的服务,在本地 /etc/hosts 中增加一条配置:

172.17.8.102 grafana.jimmysong.io

访问 Grafana:http://grafana.jimmysong.io

Grafana
图 3.3.2:Grafana

Traefik

部署 Traefik ingress controller 和增加 ingress 配置:

kubectl apply -f addon/traefik-ingress

在本地 /etc/hosts 中增加一条配置:

172.17.8.102 traefik.jimmysong.io

访问 Traefik UI:http://traefik.jimmysong.io

Traefik dashboard
图 3.3.3:Traefik dashboard

EFK

使用 EFK 做日志收集。

kubectl apply -f addon/efk/

注意:运行 EFK 的每个节点需要消耗很大的 CPU 和内存,请保证每台虚拟机至少分配了 4G 内存。

Helm

用来部署 helm。

hack/deploy-helm.sh

Service Mesh

我们使用 Istio 作为 service mesh。

安装

kubectl apply -f addon/istio/

运行示例

kubectl apply -n default -f <(istioctl kube-inject -f yaml/istio-bookinfo/bookinfo.yaml)
istioctl create -f yaml/istio-bookinfo/bookinfo-gateway.yaml

在您自己的本地主机的 /etc/hosts 文件中增加如下配置项。

172.17.8.102 grafana.istio.jimmysong.io
172.17.8.102 servicegraph.istio.jimmysong.io

我们可以通过下面的 URL 地址访问以上的服务。

Service URL
grafana http://grafana.istio.jimmysong.io
servicegraph http://servicegraph.istio.jimmysong.io/dotviz, http://servicegraph.istio.jimmysong.io/graph, http://servicegraph.istio.jimmysong.io/force/forcegraph.htm
tracing http://172.17.8.101:$JAEGER_PORT
productpage http://172.17.8.101:$GATEWAY_PORT/productpage

注意JAEGER_PORT 可以通过 kubectl -n istio-system get svc tracing -o jsonpath='{.spec.ports[0].nodePort}' 获取,GATEWAY_PORT 可以通过 kubectl -n istio-system get svc istio-ingressgateway -o jsonpath='{.spec.ports[0].nodePort}' 获取。

bookinfo示例
图 3.3.4:bookinfo示例

Kiali

Kiali 是一个用于提供 Istio service mesh 观察性的项目,更多信息请查看 https://kiali.io

在本地该项目的根路径下执行下面的命令:

kubectl apply -n istio-system -f addon/kiali

Kiali web 地址:http://172.17.8.101:31439

用户名 / 密码:admin/admin

Kiali页面
图 3.3.5:Kiali页面

注意:Kilia使用Jaeger做追踪,请不用屏蔽kilia页面的弹出窗口。

注意:Kilia 使用 Jaeger 做追踪,请不用屏蔽 kilia 页面的弹出窗口。

Weave scope

Weave scope 可用于监控、可视化和管理 Docker&Kubernetes 集群,详情见 Weave 官方文档

在本地该项目的根路径下执行下面的命令:

kubectl apply -f addon/weave-scope

在本地的 /etc/hosts 下增加一条记录。

172.17.8.102 scope.weave.jimmysong.io

现在打开浏览器,访问 http://scope.weave.jimmysong.io/

Scope页面
图 3.3.6:Scope页面

管理

除了特别说明,以下命令都在当前的 repo 目录下操作。

挂起

将当前的虚拟机挂起,以便下次恢复。

vagrant suspend

恢复

恢复虚拟机的上次状态。

vagrant resume

注意:我们每次挂起虚拟机后再重新启动它们的时候,看到的虚拟机中的时间依然是挂载时候的时间,这样将导致监控查看起来比较麻烦。因此请考虑先停机再重新启动虚拟机。

重启

停机后重启启动。

vagrant halt
vagrant up
# login to node1
vagrant ssh node1
# run the prosivision scripts
/vagrant/hack/k8s-init.sh
exit
# login to node2
vagrant ssh node2
# run the prosivision scripts
/vagrant/hack/k8s-init.sh
exit
# login to node3
vagrant ssh node3
# run the prosivision scripts
/vagrant/hack/k8s-init.sh
sudo -i
cd /vagrant/hack
./deploy-base-services.sh
exit

现在你已经拥有一个完整的基础的 kubernetes 运行环境,在该 repo 的根目录下执行下面的命令可以获取 kubernetes dahsboard 的 admin 用户的 token。

hack/get-dashboard-token.sh

根据提示登录即可。

清理

清理虚拟机。

vagrant destroy
rm -rf .vagrant

注意

仅做开发测试使用,不要在生产环境使用该项目。

参考

Copyright © 2017-2022 | Distributed under CC BY 4.0 | jimmysong.io all right reserved. Updated at 2022-05-26 22:49:49

results matching ""

    No results matching ""