11111111111
知识共享平台
知识共享平台

讨教大学平台

  • 首页
  • 免费课
  • 精品课
  • 讨教题库
  • 企业服务

    hot

  • 下载APP
  • 证书查询
  • 关于我们
我问
讨教号
搜索
消息
  • 我的文章

    我的关注

    我的问答

    我的秘密

    我的评论

    我的订阅

    我的打赏

    我的钱包

    我的通知

    我的设置

    退出登录

  • ×

    登录

    讨教 | 通行证

    登录
    立即注册
    忘记密码?
    使用微信登录

    提问 ×

    写下你的问题,准确的表述更容易得到答案

    类型话题

    选择支付方式
    您的讨教币 111 付费金额

    Docker容器的日志处理

    JAVA葵花宝典
    2019-06-24 16:23:08
    16篇 作品
    2119 总阅读量

    Docker有很多的日志插件,默认使用 json-file,只有使用json-file时,sudo docker logs -f 才可以显示,输入以下命令查看docker日志插件:

    $ sudo docker info | grep Logging

    这里先说明一下,当容器运行时,docker会在宿主机上创建一个该容器相关的文件,然后将容器产生的日志转存到该文件下。docker logs -f 命令就会找到该文件内容并显示在终端上。

    我们都知道docker logs -f会将所有对应的服务日志输出到终端,无论服务的部署在哪个节点上,那么我现在提出一个问题,是否每个节点对应的容器文件,都会保存该服务的完整日志备份,还是只保存该节点服务对应容器产生的日志?

    因为这个问题涉及到每个节点如果都用filebeat监听宿主机的容器日志文件,那么每个节点的容器日志都是一个完整的备份,日志就会重复,所以答案是每个节点只保留该节点上容器的日志,docker logs -f 命令只不过在overlay网络模型上走了一层协议,把在其它节点上的相同的容器日志汇聚起来。

    容器日志收集工具有很多,我这里只用filebeat举例。

    默认使用docker的json-file,首先配置daemon(不推荐这种做法):

    $ sudo dockerd \
    --log-driver=json-file \
    --log-opt labels=servicename

    启动容器需要添加如下参数:

    $ sudo docker service update --label servicename=test

    或者直接在docker-compose.yml中标记(推荐这种做法):

    version: "3"

    services:
      project1:
        image: chenghuizhang/project1:v3
        ports:
          - 8081:8081
        networks:
          - my_net
        deploy:
          mode: replicated
          replicas: 3
        labels:
          - "servicename=project1"
        logging:
          driver: "json-file"
          options:
            labels: "servicename"
            tag: "{{.ImageName}}/{{.Name}}/{{.ID}}"
            max-size: "100m"
            max-file: "10"

    networks:
      my_net:
          name: my_net
          driver: overlay
          ipam:
            config:
            - subnet: 10.18.0.0/24

    自定义一个servicename标签,值为project1,tag格式为容器的信息,下面会说到。

    在每个节点安装filebeat,并且filebeat.yml配置如下:

    filebeat.prospectors:
    - type: log
       paths:
               # 容器的日志目录
          - /var/lib/docker/containers/*/*.log
          # 因为docker使用的log driver是json-file,因此采集到的日志格式是json格式,设置为true之后,filebeat会将日志进行json_decode处理
       json.keys_under_root: true
       tail_files: true 
    output.logstash:
      hosts: ["172.17.10.114:5044"]

    在logstash.conf中配置索引:

    output {
      elasticsearch {
        action => "index"
        hosts => ["172.17.10.114:9200"]
        # 获取日志label
        index => "%{attrs.servicename}-%{+YYYY.MM.dd}"
      }
    }

    Dockerfile文件需要将项目输出的日志打印到stdout和stderr中,不然json-file日志驱动不会收集到容器里面输出的日志,sudo docker logs -f就在终端显示不了容器日志了,在Dockerfile中需加入以下命令:

    RUN ln -sf /dev/stdout /xx/xx.log \ # info
        && ln -sf /dev/stderr /xx/xx.log # error

    或者在项目的log4j配置输出控制台:

    <Appenders>
        <Console name="Console" target="SYSTEM_OUT">
            <PatternLayout pattern="[%d{DEFAULT}]%m"/>
        </Console>
    </Appenders>

    如果日志需要记录容器id名称和镜像名称,在运行容器时可以加入以下参数:

    --log-opt tag="{{.ImageName}}/{{.Name}}/{{.ID}}"

    当然也可以在docker-compose编排文件中加入,具体格式在文中上面已经举例了。

    下图为官方的tag标签解释文档:

    最终,json-file日志插件将容器打印到控制台的日志生成到本地/var/lib/docker/containers/*/目录中,为json格式,如下:

    {
        "log":"[GIN-debug] [WARNING] Now Gin requires Go 1.6 or later and Go 1.7 will be required soon.",
        "stream":"stderr",
        "attrs":{
            "tag":"chenghuizhang/project1:v3@sha256:e6c0419d64e5eda510056a38cfb803750e4ac2f0f4862d153f7c4501f576798b/mygo.2.jhqptjugfti2t4emf55sehamo/647eaa4b3913",
            "servicename":"project1"
        },
        "time":"2019-03-24T02:08:59.780161908Z"
    }

    最后在logstash中格式化日志:

    filter {
     grok {
        patterns_dir => "/etc/logstash/conf.d/patterns"
        match => {"message" => "%{TIMESTAMP_ISO8601:time}%{SERVICENAME:attr.servicename}%{DOCKER_TAG:attr.tag}"}
    }


    本网站内容仅代表作者本人的观点,不代表本网站的观点和看法,与本网站立场无关,如有侵权请联系讨教。
    给作者打赏,鼓励TA抓紧创作
    0人打赏金额
    JAVA葵花宝典
    16篇 作品
    2119 总阅读量
    评论
    您可能感兴趣的文章

    项目管理服务模式

    敏捷项目管理与传统项目管理比较

    项目管理的特点

    PMO是什么?是管项目经理的嘛?

    项目经理必须关注的开会十大关键问题!

    项目的组成要素

    热门话题 更多话题
    精益生产 质量管理 智能制造
    职场效率 项目管理 讨教
    AI 大数据 六西格玛
    ×

    给作者打赏,鼓励TA抓紧创作!

    选择支付方式
    选择打赏金额
    注:打赏的收益归作者,非平台

    微信扫描支付

    打赏金额: 1元

    ×

    给作者打赏,鼓励TA抓紧创作!

    您的讨教币
    填写您打赏讨教币数量
    输入密码

    111

    注:打赏的收益归作者,非平台

    微信扫描支付

    打赏金额: 1元