K8S自己动手系列 - 2.5 - StatefulSet & Grafana-阿里云开发者社区

开发者社区> 云原生> 正文

K8S自己动手系列 - 2.5 - StatefulSet & Grafana

简介: 前面的实验,我们通过Deployment+PV/PVC,部署了mysql,wordpress,并通过NodePort类型的Service对服务进行暴露,使集群外可以访问,但是当replicas大于1时,Deployment产生的多个POD是共享一个PV的,这样在性能及业务上都有可能是有问题的,这种情况我们就应该考虑StatefulSet,在官网上StatefulSet用了Mysql的主从作为例子,但是笔者认为Mysql主从本身与Mysql的知识有关,并且例子更偏向于实践拓扑结构的有状态服务,所以后面的实验,我基于目前比较流行,也比较简单的监控系统Grafana+Prometheus来进行实验。

前言

前面的实验,我们通过Deployment+PV/PVC,部署了mysql,wordpress,并通过NodePort类型的Service对服务进行暴露,使集群外可以访问,但是当replicas大于1时,Deployment产生的多个POD是共享一个PV的,这样在性能及业务上都有可能是有问题的,这种情况我们就应该考虑StatefulSet,在官网上StatefulSet用了Mysql的主从作为例子,但是笔者认为Mysql主从本身与Mysql的知识有关,并且例子更偏向于实践拓扑结构的有状态服务,所以后面的实验,我基于目前比较流行,也比较简单的监控系统Grafana+Prometheus来进行实验。

场景

使用StatefulSet部署grafana,使用PV & PVC持久化保存数据。
本文实验所有的源码保存在:
https://github.com/zrbcool/blog-public/tree/master/k8s-hands-on/lab08

动手

准备PV & PVC

 kubectl apply -f 01-1-grafana-pvc.yaml 
persistentvolumeclaim/grafana-pv-claim created
 mkdir -p /data/pv/grafana
 kubectl apply -f 01-2-grafana-pv.yaml 
persistentvolume/grafana-pv-volume created
 kubectl get pvc
NAME               STATUS   VOLUME              CAPACITY   ACCESS MODES   STORAGECLASS   AGE
grafana-pv-claim   Bound    grafana-pv-volume   2Gi        RWX                           24m

如果此处不明白或者有问题,请参考前面讲过的K8S自己动手系列 - 2.3 - PV & PVC

用StatefulSet创建Grafana,使用PVC作为持久化存储

 kubectl apply -f 01-3-grafana-statefulset.yaml 
statefulset.apps/monitor-grafana created
 kubectl get pods
NAME                READY   STATUS             RESTARTS   AGE
monitor-grafana-0   0/1     CrashLoopBackOff   3          2m2s
 kubectl logs monitor-grafana-0
GF_PATHS_DATA='/var/lib/grafana' is not writable.
You may have issues with file permissions, more information here: http://docs.grafana.org/installation/docker/#migration-from-a-previous-version-of-the-docker-container-to-5-1-or-later
mkdir: cannot create directory '/var/lib/grafana/plugins': Permission denied

启动失败了,提示也很清楚是权限问题,也给了解决方案

# 参考文章 http://docs.grafana.org/installation/docker/#migration-from-a-previous-version-of-the-docker-container-to-5-1-or-later
# 修改文件权限
 chown -R 472:472 /data/pv/grafana
# 增加POD配置(我们的01-3-grafana-statefulset.yaml已经加好了)
      securityContext:
        runAsGroup: 472
        runAsUser: 472
        fsGroup: 472

执行上述操作后仍然是不行,最后经过排查发现,POD被调度到worker02节点上了,因为我们的PV使用的Local类型,worker02上并没有这个目录,所以无法创建成功,参考前面的K8S自己动手系列 - 1.3 - Taint & Affinity增加nodeSelector指定节点调度

...
  template:
    metadata:
      labels:
        app: monitor
        type: grafana
    spec:
      nodeSelector:
        kubernetes.io/hostname: worker01 #这个请根据需要修改到你指定的节点上,或者你使用其他的持久化存储方式,则可能没有我这个问题,比如nfs

成功!

 kubectl get pods -o wide
NAME                READY   STATUS    RESTARTS   AGE     IP            NODE       NOMINATED NODE   READINESS GATES
monitor-grafana-0   1/1     Running   0          3m19s   10.244.0.93   worker01   <none>           <none>

最后生效的yaml文件如下:

apiVersion: apps/v1
kind: StatefulSet
metadata:
  labels:
    app: monitor
    type: grafana
  name: monitor-grafana
spec:
  replicas: 1 
  selector:
    matchLabels:
      app: monitor
      type: grafana
  serviceName: grafana
  template:
    metadata:
      labels:
        app: monitor
        type: grafana
    spec:
      nodeSelector:
        kubernetes.io/hostname: worker01 #保证调度到我们创建了本地目录的主机上
      containers:
      - name: grafana
        image: grafana/grafana:latest
        imagePullPolicy: IfNotPresent
        ports:
        - containerPort: 3000
          name: grafana
        volumeMounts:
        - name: grafana-pv-storage
          mountPath: /var/lib/grafana
      securityContext:
        runAsGroup: 472
        runAsUser: 472
        fsGroup: 472
      volumes:
      - name: grafana-pv-storage
        persistentVolumeClaim:
          claimName: grafana-pv-claim

使用Service暴露grafana,使可以在集群外访问

 kubectl apply -f 01-4-grafana-svc.yaml 
service/grafana-svc created

如果这块有疑问,可以回顾K8S自己动手系列 - 2.4 - Service
现在我们的grafana可以访问了,如图所示:

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
云原生
使用钉钉扫一扫加入圈子
+ 订阅

云原生时代,是开发者最好的时代

其他文章