当前位置: 首页 > 编程笔记 >

详解利用ELK搭建Docker容器化应用日志中心

严升
2023-03-14
本文向大家介绍详解利用ELK搭建Docker容器化应用日志中心,包括了详解利用ELK搭建Docker容器化应用日志中心的使用技巧和注意事项,需要的朋友参考一下

概述

应用一旦容器化以后,需要考虑的就是如何采集位于Docker容器中的应用程序的打印日志供运维分析。典型的比如SpringBoot应用的日志 收集。本文即将阐述如何利用ELK日志中心来收集容器化应用程序所产生的日志,并且可以用可视化的方式对日志进行查询与分析,其架构如下图所示:

架构图

镜像准备

镜像准备

  1. ElasticSearch镜像
  2. Logstash镜像
  3. Kibana镜像
  4. Nginx镜像(作为容器化应用来生产日志)

开启Linux系统Rsyslog服务

修改Rsyslog服务配置文件:

vim /etc/rsyslog.conf

开启下面三个参数:

$ModLoad imtcp
$InputTCPServerRun 514

*.* @@localhost:4560

开启3个参数

意图很简单:让Rsyslog加载imtcp模块并监听514端口,然后将Rsyslog中收集的数据转发到本地4560端口!

然后重启Rsyslog服务:

systemctl restart rsyslog

查看rsyslog启动状态:

netstat -tnl

部署ElasticSearch服务

docker run -d -p 9200:9200 \
 -v ~/elasticsearch/data:/usr/share/elasticsearch/data \
 --name elasticsearch elasticsearch

ES启动成功效果

部署Logstash服务

添加 ~/logstash/logstash.conf 配置文件如下:

input {
 syslog {
 type => "rsyslog"
 port => 4560
 }
}

output {
 elasticsearch {
 hosts => [ "elasticsearch:9200" ]
 }
}

配置中我们让Logstash从本地的Rsyslog服务中取出应用日志数据,然后转发到ElasticSearch数据库中!

配置完成以后,可以通过如下命令来启动Logstash容器:

docker run -d -p 4560:4560 \
-v ~/logstash/logstash.conf:/etc/logstash.conf \
--link elasticsearch:elasticsearch \
--name logstash logstash \
logstash -f /etc/logstash.conf

部署Kibana服务

docker run -d -p 5601:5601 \
--link elasticsearch:elasticsearch \
-e ELASTICSEARCH_URL=http://elasticsearch:9200 \
--name kibana kibana

启动nginx容器来生产日志

docker run -d -p 90:80 --log-driver syslog --log-opt \
syslog-address=tcp://localhost:514 \
--log-opt tag="nginx" --name nginx nginx

很明显Docker容器中的Nginx应用日志转发到本地syslog服务中,然后由syslog服务将数据转给Logstash进行收集。

至此,日志中心搭建完毕,目前一共四个容器在工作:

实验验证

浏览器打开 localhost:90 来打开Nginx界面,并刷新几次,让后台产生GET请求的日志

打开Kibana可视化界面: localhost:5601

localhost:5601

收集Nginx应用日志

收集Nginx应用日志

查询应用日志

在查询框中输入 program=nginx 可查询出特定日志

查询应用日志

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持小牛知识库。

 类似资料:
  • 本文向大家介绍详解Docker容器的日志处理,包括了详解Docker容器的日志处理的使用技巧和注意事项,需要的朋友参考一下 Docker有很多的日志插件,默认使用 json-file,只有使用json-file时,sudo docker logs -f 才可以显示,输入以下命令查看docker日志插件: 这里先说明一下,当容器运行时,docker会在宿主机上创建一个该容器相关的文件,然后将容器产生

  • 本文向大家介绍使用docker搭建gitlab详解,包括了使用docker搭建gitlab详解的使用技巧和注意事项,需要的朋友参考一下 使用docker搭建gitlab 在服务器上直接安装gitlab,会装入Git,Redis ,postgresql,nginx等。如果主机已有redis、nginx等,配置会比较麻烦。而且以后gitlab的备份和迁移都不方便。附主机安装教程: https://ab

  • 本文向大家介绍详解angular应用容器化部署,包括了详解angular应用容器化部署的使用技巧和注意事项,需要的朋友参考一下 Intro 我自己有做一个个人主页,虽然效果不怎么样(不懂设计的典型程序猿...),但是记录了我对于前端框架及工具的一些实践, 从开始只有一个 angularjs 制作的页面到后面加入 less 动态写css, gulp 自动化的将 less 文件编译成 css 文件以及

  • ELK 是 ElasticSearch + Logstash + Kibana 这套组合工具的简称,是一个常用的日志系统。 ElasticSearch:是一款开源的基于 Lucene 之上实现的一个分布式搜索引擎,也是一个存储引擎(例如:日志),它的特点有:分布式、零配置、自动发现、索引自动分片、索引副本机制、Restful 风格的接口、多数据源和自动搜索负载等。 Logstash:是一款开源的日

  • 本文向大家介绍详解在Docker容器中运行Spring Boot应用,包括了详解在Docker容器中运行Spring Boot应用的使用技巧和注意事项,需要的朋友参考一下 spring Boot简化了Spring应用的开发过程,遵循约定优先配置的原则提供了各类开箱即用(out-of-the-box)的框架配置。另一方面,Spring Boot还具备将代码直接构建为可执行jar包的能力,这个jar包

  • 从docker容器中将结构化日志写入journald的最佳方式是什么? 例如,我有一个使用sd_journal_send而不是更改应用程序的应用程序,我尝试通过 -v/var/log/systemd/journal:/var/log/systemd/journal docker journald输出日志记录选项有哪些限制?它似乎不支持应用程序编写不仅仅是消息字段。 -- 所以我发现我需要 C程序可