pod 之资源限制 与健康检查

一  资源限制

1，资源限制是什么

当定义 Pod 时可以选择性地为每个容器设定所需要的资源数量。 最常见的可设定资源是 CPU 和内存大小，以及其他类型的资源。

2，资源限制的 标准

request：理解为期望值   k8s 按照这个期望值 指定这个新创建的pod 放那个node

limit：理解为硬限制  当容器超过这个limit 值，会关闭这个容器

当为 Pod 中的容器指定了 request 资源时，调度器就使用该信息来决定将 Pod 调度到哪个节点上。当还为容器指定了 limit 资源时，kubelet 就会确保运行的容器不会使用超出所设的 limit 资源量。kubelet 还会为容器预留所设的 request 资源量， 供该容器使用。

如果 Pod 运行所在的节点具有足够的可用资源，容器可以使用超出所设置的 request 资源量。不过，容器不可以使用超出所设置的 limit 资源量。

如果给容器设置了内存的 limit 值，但未设置内存的 request 值，Kubernetes 会自动为其设置与内存 limit 相匹配的 request 值。 类似的，如果给容器设置了 CPU 的 limit 值但未设置 CPU 的 request 值，则 Kubernetes 自动为其设置 CPU 的 request 值 并使之与 CPU 的 limit 值匹配。

3， k8s 创pod 显示 OOMKILLED 是 requests小了 还是limits小了

当Kubernetes中的Pod显示OOMKilled（Out Of Memory Killed），这通常意味着容器因消耗的内存超出了分配给它的限制而被终止。在这个场景中，问题出在limits设置得太小了。

解释如下：

• requests：代表容器期望或最低资源需求，是Kubernetes调度器在决定将Pod安排在哪台节点上时会考虑的因素。如果一个节点没有足够的可用资源来满足Pod的requests，Pod就不会被调度到那个节点上。
  
• limits：代表容器可以使用的资源上限，是为了防止单个容器过度消耗资源而导致整个系统不稳定。当容器使用的资源达到或超过了这个限制，就会触发相应的资源限制措施。对于内存来说，达到或超过limits时，就会触发OOM Killer机制，从而终止该容器。
  

因此，当看到OOMKilled错误时，这表明容器使用的内存超过了limits设定的值，而不是requests小了。解决这个问题通常需要调整容器的memory limits，增加其值以适应容器的实际内存需求，同时可能也需要检查和调整requests以更准确地反映应用的预期资源使用情况，从而帮助调度器做出更好的决策。此外，优化应用代码减少内存使用也是重要的长期解决方案。

4， Pod 和 容器 的资源请求和限制  （yaml）

spec.containers[].resources.requests.cpu               //定义创建容器时预分配的CPU资源

spec.containers[].resources.requests.memory        //定义创建容器时预分配的内存资源

spec.containers[].resources.limits.cpu                     //定义 cpu 的资源上限

spec.containers[].resources.limits.memory              //定义内存的资源上限

5， CPU 资源单位

CPU 资源的 request 和 limit 以 cpu 为单位。Kubernetes 中的一个 cpu 相当于1个 vCPU（1个超线程）。

Kubernetes 也支持带小数 CPU 的请求。spec.containers[].resources.requests.cpu 为 0.5 的容器能够获得一个 cpu 的一半 CPU 资源（类似于Cgroup对CPU资源的时间分片）。表达式 0.1 等价于表达式 100m（毫核），表示每 1000 毫秒内容器可以使用的 CPU 时间总量为 0.1*1000 毫秒。

Kubernetes 不允许设置精度小于 1m 的 CPU 资源。

6，内存 资源单位

内存的 request 和 limit 以字节为单位。可以以整数表示，或者以10为底数的指数的单位（E、P、T、G、M、K）来表示， 或者以2为底数的指数的单位（Ei、Pi、Ti、Gi、Mi、Ki）来表示。

如：1KB=10^3=1000，1MB=10^6=1000000=1000KB，1GB=10^9=1000000000=1000MB

1KiB=2^10=1024，1MiB=2^20=1048576=1024KiB

PS：在买硬盘的时候，操作系统报的数量要比产品标出或商家号称的小一些，主要原因是标出的是以 MB、GB为单位的，1GB 就是1,000,000,000Byte，而操作系统是以2进制为处理单位的，因此检查硬盘容量时是以MiB、GiB为单位，1GiB=2^30=1,073,741,824，相比较而言，1GiB要比1GB多出1,073,741,824-1,000,000,000=73,741,824Byte，所以检测实际结果要比标出的少一些。

二    pod  资源限制 yaml 写法

1，官网示例

https://kubernetes.io/zh-cn/docs/concepts/configuration/manage-resources-containers/

2，yaml 语法示例

在spec  下的  containers  下的  resources\

 resources:

     requests:

       memory: "64Mi"

       cpu: "250m"

     limits:

       memory: "128Mi"

       cpu: "500m"

------------------------------------------------

此例子中的 Pod 有两个容器。每个容器的 request 值为 0.25 cpu 和 64MiB 内存，每个容器的 limit 值为 0.5 cpu 和 128MiB 内存。那么可以认为该 Pod 的总的资源 request 为 0.5 cpu 和 128 MiB 内存，总的资源 limit 为 1 cpu 和 256MiB 内存。

 

apiVersion: v1
kind: Pod
metadata:
  name: frontend
spec:
  containers:
  - name: app
    image: images.my-company.example/app:v4
    env:
    - name: MYSQL_ROOT_PASSWORD
      value: "password"
    resources:
      requests:
        memory: "64Mi"
        cpu: "250m"
      limits:
        memory: "128Mi"
        cpu: "500m"
  - name: log-aggregator
    image: images.my-company.example/log-aggregator:v6
    resources:
      requests:
        memory: "64Mi"
        cpu: "250m"
      limits:
        memory: "128Mi"
        cpu: "500m"

三    健康检查（探针）

1，探针是什么

探针是由kubelet对容器执行的定期诊断。

2，探针的三种规则

●livenessProbe ：判断容器是否正在运行。如果探测失败，则kubelet会杀死容器，并且容器将根据 restartPolicy 来设置 Pod 状态。 如果容器不提供存活探针，则默认状态为Success。

●readinessProbe ：判断容器是否准备好接受请求。如果探测失败，端点控制器将从与 Pod 匹配的所有 service 址endpoints 中剔除删除该Pod的IP地。 初始延迟之前的就绪状态默认为Failure。如果容器不提供就绪探针，则默认状态为Success。

●startupProbe（这个1.17版本增加的）：判断容器内的应用程序是否已启动，主要针对于不能确定具体启动时间的应用。如果配置了 startupProbe 探测，在则在 startupProbe 状态为 Success 之前，其他所有探针都处于无效状态，直到它成功后其他探针才起作用。 如果 startupProbe 失败，kubelet 将杀死容器，容器将根据 restartPolicy 来重启。如果容器没有配置 startupProbe， 则默认状态为 Success。

#注：以上规则可以同时定义。在readinessProbe检测成功之前，Pod的running状态是不会变成ready状态的。

3， Probe支持三种检查方法

●exec ：在容器内执行指定命令。如果命令退出时返回码为0则认为诊断成功。

●tcpSocket ：对指定端口上的容器的IP地址进行TCP检查（三次握手）。如果端口打开，则诊断被认为是成功的。

●httpGet ：对指定的端口和路径上的容器的IP地址执行HTTPGet请求。如果响应的状态码大于等于200且小于400，则诊断被认为是成功的

4， 探测 结果

每次探测都将获得以下三种结果之一：

●成功：容器通过了诊断。

●失败：容器未通过诊断。

●未知：诊断失败，因此不会采取任何行动

四   pod的状态

1、pending：pod已经被系统认可了，但是内部的container还没有创建出来。这里包含调度到node上的时间以及下载镜像的时间，会持续一小段时间。

2、Running：pod已经与node绑定了（调度成功），而且pod中所有的container已经创建出来，至少有一个容器在运行中，或者容器的进程正在启动或者重启状态。--这里需要注意pod虽然已经Running了，但是内部的container不一定完全可用。因此需要进一步检测container的状态。

3、Succeeded：这个状态很少出现，表明pod中的所有container已经成功的terminated了，而且不会再被拉起了。

4、Failed：pod中的所有容器都被terminated，至少一个container是非正常终止的。（退出的时候返回了一个非0的值或者是被系统直接终止）

5、unknown：由于某些原因pod的状态获取不到，有可能是由于通信问题。 一般情况下pod最常见的就是前两种状态。而且当Running的时候，需要进一步关注container的状态

五   Container生命周期

1、Waiting：启动到运行中间的一个等待状态。

2、Running：运行状态。

3、Terminated：终止状态。 如果没有任何异常的情况下，container应该会从Waiting状态变为Running状态，这时容器可用。

但如果长时间处于Waiting状态，container会有一个字段reason表明它所处的状态和原因，如果这个原因很容易能标识这个容器再也无法启动起来时，例如ContainerCannotRun，整个服务启动就会迅速返回。（这里是一个失败状态返回的特性，不详细阐述）

六   探针 yaml 实例

官网示例：

https://kubernetes.io/docs/tasks/configure-pod-container/configure-liveness-readiness-startup-probes/

1， 示例1：exec方式

apiVersion: v1
kind: Pod
metadata:
  labels:
    test: liveness
  name: liveness-exec
spec:
  containers:
  - name: liveness
    image: k8s.gcr.io/busybox
    args:  
    - /bin/sh
    - -c
    - touch /tmp/healthy; sleep 30; rm -rf /tmp/healthy; sleep 60
    livenessProbe:
      exec:
        command:
        - cat
        - /tmp/healthy
      failureThreshold: 1
      initialDelaySeconds: 5
      periodSeconds: 5

#initialDelaySeconds：指定 kubelet 在执行第一次探测前应该等待5秒，即第一次探测是在容器启动后的第6秒才开始执行。默认是 0 秒，最小值是 0。

#periodSeconds：指定了 kubelet 应该每 5 秒执行一次存活探测。默认是 10 秒。最小值是 1。

#failureThreshold: 当探测失败时，Kubernetes 将在放弃之前重试的次数。 存活探测情况下的放弃就意味着重新启动容器。就绪探测情况下的放弃 Pod 会被打上未就绪的标签。默认值是 3。最小值是 1。

#timeoutSeconds：探测的超时后等待多少秒。默认值是 1 秒。最小值是 1。（在 Kubernetes 1.20 版本之前，exec 探针会忽略 timeoutSeconds 探针会无限期地 持续运行，甚至可能超过所配置的限期，直到返回结果为止。）

可以看到 Pod 中只有一个容器。kubelet 在执行第一次探测前需要等待 5 秒，kubelet 会每 5 秒执行一次存活探测。kubelet 在容器内执行命令 cat /tmp/healthy 来进行探测。如果命令执行成功并且返回值为 0，kubelet 就会认为这个容器是健康存活的。 当到达第 31 秒时，这个命令返回非 0 值，kubelet 会杀死这个容器并重新启动它。

 

2， 示例2：httpGet方式

apiVersion: v1
kind: Pod
metadata:
  labels:
    test: liveness
  name: liveness-http
spec:
  containers:
  - name: liveness
    image: k8s.gcr.io/liveness
    args:
    - /server
    livenessProbe:
      httpGet:
        path: /healthz
        port: 8080
        httpHeaders:
        - name: Custom-Header
          value: Awesome
      initialDelaySeconds: 3
      periodSeconds: 3

在这个配置文件中，可以看到 Pod 也只有一个容器。initialDelaySeconds 字段告诉 kubelet 在执行第一次探测前应该等待 3 秒。periodSeconds 字段指定了 kubelet 每隔 3 秒执行一次存活探测。kubelet 会向容器内运行的服务（服务会监听 8080 端口）发送一个 HTTP GET 请求来执行探测。如果服务器上 /healthz 路径下的处理程序返回成功代码，则 kubelet 认为容器是健康存活的。如果处理程序返回失败代码，则 kubelet 会杀死这个容器并且重新启动它。

任何大于或等于 200 并且小于 400 的返回代码标示成功，其它返回代码都标示失败。

 

3，  示例3：tcpSocket方式

apiVersion: v1
kind: Pod
metadata:
  name: goproxy
  labels:
    app: goproxy
spec:
  containers:
  - name: goproxy
    image: k8s.gcr.io/goproxy:0.1
    ports:
    - containerPort: 8080
    readinessProbe:
      tcpSocket:
        port: 8080
      initialDelaySeconds: 5
      periodSeconds: 10
    livenessProbe:
      tcpSocket:
        port: 8080
      initialDelaySeconds: 15
      periodSeconds: 20

这个例子同时使用 readinessProbe 和 livenessProbe 探测。kubelet 会在容器启动 5 秒后发送第一个 readinessProbe 探测。这会尝试连接 goproxy 容器的 8080 端口。如果探测成功，kubelet 将继续每隔 10 秒运行一次检测。除了 readinessProbe 探测，这个配置包括了一个 livenessProbe 探测。kubelet 会在容器启动 15 秒后进行第一次 livenessProbe 探测。就像 readinessProbe 探测一样，会尝试连接 goproxy 容器的 8080 端口。如果 livenessProbe 探测失败，这个容器会被重新启动。

4，  示例4：就绪检测

apiVersion: v1
kind: Pod
metadata:
  name: readiness-httpget
  namespace: default
spec:
  containers:
  - name: readiness-httpget-container
    image: soscscs/myapp:v1
    imagePullPolicy: IfNotPresent
    ports:
    - name: http
      containerPort: 80
    readinessProbe:
      httpGet:
        port: 80
        path: /index1.html
      initialDelaySeconds: 1
      periodSeconds: 3
    livenessProbe:
      httpGet:
        port: http
        path: /index.html
      initialDelaySeconds: 1
      periodSeconds: 3
      timeoutSeconds: 10

containers

描述了Pod中包含的容器列表，在这里只有一个容器：

• name: 容器名称，这里是readiness-httpget-container。
• image: 指定容器运行的镜像及其版本，即soscscs/myapp:v1。
• imagePullPolicy: 容器镜像的拉取策略，IfNotPresent表示如果本地存在该镜像则不重新拉取。
• ports

• 描述了容器需要监听的端口，这里定义了一个端口名为http，映射到容器内部的80端口。

readinessProbe 和 livenessProbe

这两个配置定义了容器的健康检查机制。

Readiness Probe（就绪探针）

• 通过HTTP GET方式检查容器的健康状况，访问容器内部80端口上的/index1.html路径。
• initialDelaySeconds: 1 表示容器启动后等待1秒才开始执行首次探测。
• periodSeconds: 3 表示探测周期为每3秒执行一次。

Liveness Probe（存活探针）

• 同样使用HTTP GET方法，但这里端口用名称http（之前已定义为80端口）来引用，检查路径为/index.html。
• initialDelaySeconds: 1 与就绪探针相同，首次探测延迟1秒。
• periodSeconds: 3 探测频率也是每3秒一次。
• timeoutSeconds: 10 表示单次HTTP请求的超时时间为10秒，超过此时间则认为探测失败。

为什么不需要绝对路径

• 容器隔离性：容器内的服务和文件系统是隔离的环境，对外暴露的是服务接口而非文件系统的直接访问。因此，探针关注的是服务接口的健康状况，而非容器内部的文件系统布局。
  
• 可移植性与标准化：使用相对路径可以让配置更加通用和可移植。无论容器部署在哪里，只要容器内的HTTP服务结构不变，探针就能正常工作，无需考虑容器在不同环境下的绝对路径差异。
  
• 服务设计原则：现代微服务架构中，服务间的通信通常基于API路径，这些路径是服务定义的一部分，与服务如何部署或容器化无关。因此，探针检测这些路径符合服务的设计原则。
  

5， 就绪检测2

apiVersion: v1
kind: Pod
metadata:
  name: myapp1
  labels:
     app: myapp
spec:
  containers:
  - name: myapp
    image: soscscs/myapp:v1
    ports:
    - name: http
      containerPort: 80
    readinessProbe:
      httpGet:
        port: 80
        path: /index.html
      initialDelaySeconds: 5
      periodSeconds: 5
      timeoutSeconds: 10 
---
apiVersion: v1
kind: Pod
metadata:
  name: myapp2
  labels:
     app: myapp
spec:
  containers:
  - name: myapp
    image: soscscs/myapp:v1
    ports:
    - name: http
      containerPort: 80
    readinessProbe:
      httpGet:
        port: 80
        path: /index.html
      initialDelaySeconds: 5
      periodSeconds: 5
      timeoutSeconds: 10 
---
apiVersion: v1
kind: Pod
metadata:
  name: myapp3
  labels:
     app: myapp
spec:
  containers:
  - name: myapp
    image: soscscs/myapp:v1
    ports:
    - name: http
      containerPort: 80
    readinessProbe:
      httpGet:
        port: 80
        path: /index.html
      initialDelaySeconds: 5
      periodSeconds: 5
      timeoutSeconds: 10 
---
apiVersion: v1
kind: Service
metadata:
  name: myapp
spec:
  selector:
    app: myapp
  type: ClusterIP
  ports:
  - name: http
    port: 80
    targetPort: 80

这段配置定义了三个相同的Pod实例（myapp1, myapp2, myapp3）和一个Service（myapp），它们共同构成了Kubernetes中一个基本的服务部署模型。下面是对每个部分的详细解释：

Pods配置

每个Pod的定义都遵循类似的结构：

• apiVersion: v1，说明使用的API版本。
• kind: Pod，表明资源类型为Pod。
• metadata:

• name: 分别为myapp1, myapp2, myapp3，为Pod指定唯一名称。
• labels: 所有Pod都包含相同的标签app: myapp，用于Service的Selector匹配。

• spec:

• containers:

• name: 容器名称均为myapp。
• image: 使用的镜像均为soscscs/myapp:v1。
• ports:

• 定义了容器内部监听的端口，端口名为http，容器端口为80。

• readinessProbe: 就绪探针，通过HTTP GET请求检查容器是否准备好服务，访问路径为/index.html，首次检查延迟5秒后开始，每隔5秒检查一次，单次请求超时时间为10秒。

Service配置

• apiVersion: v1，同样使用v1版本API。
• kind: Service，表示这是一个服务资源。
• metadata:

• name: 服务名称为myapp。

• spec:

• selector: 通过标签选择器app: myapp关联到上述所有带有相同标签的Pods。
• type: ClusterIP，表示这是一个集群内部的服务，会分配一个集群内部IP地址。
• ports:

• 定义了服务端口，名称为http，服务端口80，targetPort为80，即Pods中容器实际监听的端口。

总体功能

这一系列配置实现了以下功能：

• 创建了三个相同的Pod实例，每个都运行着相同的Web应用（假设是soscscs/myapp:v1镜像提供的服务），监听在80端口。
• 为每个Pod配置了就绪探针，确保只有当Pod能够正确响应/index.html路径的HTTP请求时，才会被认为是就绪状态，可以接收流量。
• 通过一个Service资源myapp将这三个Pod组合在一起，对外暴露一个统一的访问入口（ClusterIP），使得客户端可以通过这个服务名访问到任何一个健康且就绪的Pod，实现了负载均衡和故障转移的功能。

简而言之，这个配置展示了一种基本的水平扩展和服务发现机制，允许根据应用负载动态添加或移除Pod，而客户端只需要知道Service的名字即可访问服务，无需关心后端Pod的具体情况。

6， 启动、退出动作

apiVersion: v1
kind: Pod
metadata:
  name: lifecycle-demo
spec:
  containers:
  - name: lifecycle-demo-container
    image: soscscs/myapp:v1
    lifecycle:   #此为关键字段
      postStart:
        exec:
          command: ["/bin/sh", "-c", "echo Hello from the postStart handler >> /var/log/nginx/message"]      
      preStop:
        exec:
          command: ["/bin/sh", "-c", "echo Hello from the poststop handler >> /var/log/nginx/message"]
    volumeMounts:
    - name: message-log
      mountPath: /var/log/nginx/
      readOnly: false
  initContainers:
  - name: init-myservice
    image: soscscs/myapp:v1
    command: ["/bin/sh", "-c", "echo 'Hello initContainers'   >> /var/log/nginx/message"]
    volumeMounts:
    - name: message-log
      mountPath: /var/log/nginx/
      readOnly: false
  volumes:
  - name: message-log
    hostPath:
      path: /data/volumes/nginx/log/
      type: DirectoryOrCreate

这段Kubernetes Pod配置展示了如何使用生命周期钩子（lifecycle events）以及初始化容器（initContainers）和数据卷（volumes）。以下是详细解释：

Pod基本信息

• apiVersion: v1，说明此配置遵循Kubernetes API v1版本。
• kind: Pod，表示这是一个Pod资源对象。
• metadata: 包含Pod的元数据，如名称lifecycle-demo。

主容器配置

• containers:

• name: lifecycle-demo-container，主容器的名称。
• image: soscscs/myapp:v1，使用的容器镜像。

生命周期钩子（Lifecycle Hooks）

• lifecycle:

• postStart: 容器启动后立即执行的命令。这里执行的命令是echo Hello from the postStart handler >> /var/log/nginx/message，即将一条消息追加到/var/log/nginx/message文件中。
• preStop: 在容器被终止前执行的命令。执行echo Hello from the poststop handler >> /var/log/nginx/message，同样追加消息到日志文件，以便记录容器停止前的状态。

数据卷挂载（Volume Mounts）

• volumeMounts: 指定容器内部目录如何挂载到Pod级的数据卷上。

• 第一个挂载点将message-log数据卷挂载到/var/log/nginx/，并且允许读写操作。

初始化容器（Init Containers）

• initContainers: 在主容器启动之前运行的容器，用于执行一些初始化任务。

• 名称为init-myservice，使用同样的镜像soscscs/myapp:v1。
• 命令echo 'Hello initContainers' >> /var/log/nginx/message在容器启动时执行，向日志文件写入初始化信息。
• 也有一个相同的volumeMounts配置，表明它也在同一个数据卷上写入数据。

数据卷（Volumes）

• volumes: 定义了Pod中使用的所有数据卷。

• message-log: 类型为hostPath，表示将主机上的路径/data/volumes/nginx/log/挂载到Pod中。如果路径不存在，Kubernetes会尝试创建它。

综上，此配置创建了一个Pod，其中包含一个主容器和一个初始化容器，两者都会向共享的日志文件写入消息。主容器还配置了生命周期钩子，分别在启动后和终止前执行指定命令。通过这种方式，可以控制容器启动和关闭时的行为，以及确保在容器间共享数据（通过数据卷）。