K8S微讲堂日志和监控-IBM.PDFVIP

K8S微讲堂 ⽇志和监控 杨博华Advisory Software Engineer 11/30/2017 “Kubenetes”系列公开课 •  每周四晚8点档 1.  Kubernetes 初探 2.  上手 Kubernetes 课程Wiki ：/opentech-ma 3.  Kubernetes 的资源调度 4.  Kubernetes 的运行时 5.  Kubernetes 的⺴络管理 6.  Kubernetes 的存储管理 7.  Kubernetes 的⽇志与监控 8.  Kubernetes 的应⽤部署 9.  扩展Kubernetes ⽣态 10.  Kubernetes 的企业实践 2 日志收集概况 •  日志的分类 •  K8S 的日志 •  K8S Cluster 里面部署的应用程序的日志 •  分析处理 •  常见的方案比如 ELK •  收集日志是个挑战 •  不同的部署方案带来的日志收集挑战 •  K8S 的组件部署成 systemd service （二进制日志) •  需要对 systemd service 的日志进行单独收集 •  增加额外的管理和维护成本 •  K8S 的组件部署成 Docker 容器 ( 使用 hyperkube 容器) •  可以和负载应用程序使用统一的收集方案 •  Docker 引擎支持 –live-restore 可以避免成为单点故障源 日志收集概况 •  日志的分类 •  K8S 的日志 •  K8S Cluster 里面部署的应用程序的日志 •  分析处理 •  常见的方案比如 ElasticSearch + LogStash + Kibana 的方案 •  收集日志是个挑战 •  数量多 / 规模大 – 微服务/云化的应用数量动辄成千上万 •  需要考虑性能 / 稳定性 / 扩展性 等等的一系列问题 •  容器化 / 隔离化 – 容器的进程和文件系统和宿主机是隔离的 •  需要考虑如何收集容器化的应用产生的日志的问题 •  收集日志的目的 •  日志不仅仅用于诊断，日志也是数据 •  数据分析产生价值，集中分析产生更大价值 容器当中的日志怎么收集 •  让每个应用自行上传自己的日志 •  增加应用复杂度 / 增加管理复杂度 •  附加专用日志上传容器（side-car模式) •  在每一个Pod中包含一个日志上传容器， •  应用容器和日志容器通过共享卷交换日志数据 •  使用Docker引擎的日志收集功能 •  利用Docker Log Driver 收集每个容器的标准输出 •  容器的标准输出会被写到宿主机的日志目录 •  日志上传容器从宿主机的日志目录上传日志 •  将整套日志收集系统从用户应用中分离出来 Sider-car 方案 虚线方框里的东西会作为一个整体被K8S调度 虚线方框里的东西共享相同的生命周期 K8S Pod 日志输出在卷上可以避免 pause 容器 容器内部文件系统无限增大的问题 写入 需要针对不同的应用设置日志收集路径 应用容器 K8S 卷 过滤处 emptyDir 读取