iLogtail使用入门-K8S环境日志采集到SLS-阿里云开发者社区

iLogtail使用入门-K8S环境日志采集到SLS

2021-12-31 2021

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

对象存储 OSS，20GB 3个月

日志服务 SLS，月写入数据量 50GB 1个月

对象存储 OSS，恶意文件检测 1000次 1年

简介： iLogtail是阿里云中简单日志服务又名“SLS”的采集部分。它用于收集遥测数据，例如日志、跟踪和指标，目前已经正式开源(https://github.com/alibaba/ilogtail)。本文通过介绍ilogtail如何在K8S环境进行安装、配置、使用的最简流程，帮助用户使用预编译版本快速上手ilogtail日志采集。

使用前准备

开通阿里云日志服务并创建了Project（具体步骤参见上一节《ilogtail使用入门-主机环境日志采集到SLS》）
准备一个具备公网访问权限的K8S集群，服务器架构为X86-64。

创建日志配置

跳转到日志服务控制台(sls.console.aliyun.com)，点击上一节中已经创建的project。

进入Project查询页面后，点击左侧边栏的“放大镜”图标，展开logstore管理界面，点击“+”，弹出“创建Logstore”右侧边栏。按照提示进行配置，输入logstore名称后，点击“确认”。

logstore创建成功后，取消数据接入向导。点击左侧边栏中的“立方体”按钮，在弹出的“资源”浮层中选择“机器组”。在展开的“机器组”左边栏中，点击右上角的“四方格”图标，在弹出的浮层中选择“创建机器组”。

在“创建机器组”有侧边栏中按提示配置，“机器组标识”选择“用户自定义标识”，“名称”、“机器组Topic”、“用户自定义标识”建议保持一致。“用户自定义标识”是其中最为重要的一个配置，本教程中使用“my-k8s-group”，后续在安装ilogtail时会再次用到。“点击”确认保存机器组。

再次点击左侧边栏的“放大镜”图标，展开logstore管理界面，点击第2步中创建的logstore的“向下展开”图标，弹出“配置Logstore”菜单。点击“logtail配置”的“+”按钮。

在弹出的“快速接入数据”对话框中搜索“kube”，并选择“Kubernertes-文件”。在弹出的“提示”框中单机“继续”。

在“Kubernertes文件”配置界面，直接选择“使用现有机器组”。

跳转到“机器组配置”界面，选择第4步中创建的机器组，点击“>”按钮将其加入到“应用机器组”中，然后点击“下一步”。

在ilogtail配置中仅修改“配置名称”和“日志路径”两个必填项，点击“下一步”确认。

完成索引配置。这一步不对任何选项进行修改，直接点击下一步完成配置。

此时，整个日志配置已经完成。请保持页面打开。

安装ilogtail

登陆可以控制K8S集群的中控机。编辑ilogtail的ConfigMap YAML。

$ vim alicloud-log-config.yaml

在Vim中粘贴如下内容并保存（注意，修改注释中提示的字段，7-11行）。

apiVersion: v1
kind: ConfigMap
metadata:  name: alibaba-log-configuration
  namespace: kube-system
data:    log-project: "my-project"#修改为实际project名称    log-endpoint: "cn-wulanchabu.log.aliyuncs.com"#修改为实际endpoint    log-machine-group: "my-k8s-group"#可以自定义机器组名称    log-config-path: "/etc/ilogtail/conf/cn-wulanchabu_internet/ilogtail_config.json"#修改cn-wulanchabu为实际project地域    log-ali-uid: "*********"#修改为阿里云UID    access-key-id: ""#本教程用不上    access-key-secret: ""#本教程用不上    cpu-core-limit: "2"    mem-limit: "1024"    max-bytes-per-sec: "20971520"    send-requests-concurrency: "20"

计算alicloud-log-config.yaml的sha256 hash，并编辑ilogtail的DaemonSet YAML。

$ sha256sum alicloud-log-config.yaml
f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214  alicloud-log-config.yaml
$ vim logtail-daemonset.yaml

在Vim中粘贴如下内容并保存（注意，修改注释中提示的字段，21、25行）。

apiVersion: apps/v1
kind: DaemonSet
metadata:  name: logtail-ds
  namespace: kube-system
  labels:    k8s-app: logtail-ds
spec:  selector:    matchLabels:      k8s-app: logtail-ds
  updateStrategy:    type: RollingUpdate
  template:    metadata:      labels:        k8s-app: logtail-ds
        kubernetes.io/cluster-service: "true"        version: v1.0
      annotations:        checksum/config: f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 #必须修改为alicloud-log-config.yaml的hash    spec:      containers:      - name: logtail
        image: registry.cn-wulanchabu.aliyuncs.com/log-service/logtail:latest #可以修改为距离k8s集群最近的地域        resources:          limits:            cpu: 2            memory: 1024Mi
          requests:            cpu: 100m
            memory: 256Mi
        livenessProbe:          httpGet:            path: /liveness
            port: 7953            scheme: HTTP
          initialDelaySeconds: 30          periodSeconds: 60        securityContext:          privileged: true        env:          - name: HTTP_PROBE_PORT
            value: "7953"          - name: "ALIYUN_LOGTAIL_CONFIG"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-config-path
          - name: "ALIYUN_LOGTAIL_USER_ID"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-ali-uid
          - name: "ALIYUN_LOGTAIL_USER_DEFINED_ID"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-machine-group
          - name: "ALICLOUD_LOG_ACCESS_KEY_ID"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: access-key-id
          - name: "ALICLOUD_LOG_ACCESS_KEY_SECRET"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: access-key-secret
          - name: "ALICLOUD_LOG_DOCKER_ENV_CONFIG"            value: "true"          - name: "ALICLOUD_LOG_ECS_FLAG"            value: "false"          - name: "ALICLOUD_LOG_DEFAULT_PROJECT"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-project
          - name: "ALICLOUD_LOG_ENDPOINT"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-endpoint
          - name: "ALICLOUD_LOG_DEFAULT_MACHINE_GROUP"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: log-machine-group
          - name: "ALIYUN_LOG_ENV_TAGS"            value: "_node_name_|_node_ip_"          - name: "_node_name_"            valueFrom:              fieldRef:                fieldPath: spec.nodeName
          - name: "_node_ip_"            valueFrom:              fieldRef:                fieldPath: status.hostIP
# resource limit for logtail self process          - name: "cpu_usage_limit"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: cpu-core-limit
          - name: "mem_usage_limit"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: mem-limit
          - name: "max_bytes_per_sec"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: max-bytes-per-sec
          - name: "send_request_concurrency"            valueFrom:              configMapKeyRef:                name: alibaba-log-configuration
                key: send-requests-concurrency
        volumeMounts:        - name: sock
          mountPath: /var/run/
        - name: root
          mountPath: /logtail_host
          readOnly: true          mountPropagation: HostToContainer
      terminationGracePeriodSeconds: 30      tolerations:      - operator: "Exists"      hostNetwork: true      dnsPolicy: "Default"      volumes:      - name: sock
        hostPath:          path: /var/run/
      - name: root
        hostPath:          path: /

应用YAML配置，创建ConfigMap和DaemonSet。

$ kubectl apply -f alicloud-log-config.yaml
configmap/alibaba-log-configuration created
$ kubectl apply -f logtail-daemonset.yaml
daemonset.apps/logtail-ds created

等待1分钟，检查DeamonSet是否正常运行

$ kubectlget-f logtail-daemonset.yaml

这个时候控制台应该打印出类似以下的消息，代表安装成功

NAME         DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
logtail-ds   33333           <none>          2m1s

上报日志并查看

创建一个用于持续生成日志的Pod。

$ vim demo-pod.yaml

在Vim中粘贴如下内容并保存（注意，可能需要修改注释中提示的字段，8-9行）。

apiVersion: v1
kind: Pod
metadata:  labels:    name: demo-pod
  name: demo-pod
spec:#  imagePullSecrets:          # Comment out to enable specific image pull secret#    - name: myregistrykey    # repleace it to specific registry key containers  containers:    - image: busybox
      imagePullPolicy: IfNotPresent
      name: demo-pod
      command: ["/bin/sh"]      args: ["-c","while true; do echo $(date) >>/tmp/demo.log; sleep 10; done"]      terminationMessagePath: /dev/termination-log
  dnsPolicy: ClusterFirst
  restartPolicy: Always

应用YAML配置，创建Pod

$ kubectl apply -f demo-pod.yaml
pod/demo-pod created

回到Web控制台，点击配置完成界面的“查询日志”跳转到日志查询界面。点击页面左侧的“放大镜”图标，选中logstore，点击“眼睛”图标，在左侧出现的“消费预览”侧边栏中尝试调整Shard和时间范围，点击预览查看上报的日志。

What's Next

你可以进入下一节学习《ilogtail使用入门-iLogtail本地部署方案》

了解容器采集原理《通过DaemonSet-控制台方式采集容器标准输出》

也可以学习ilogtail采集的更多用法：

iLogtail使用入门-K8S环境日志采集到SLS

使用前准备

创建日志配置

安装ilogtail

上报日志并查看

What's Next

技术博文

热门文章

最新文章

相关产品

相关课程

相关电子书

相关实验场景

推荐镜像