利用ELK搭建Docker容器化应用日志中心

ELK系列实践文章

封面图片


概述

应用一旦容器化以后,需要考虑的就是如何采集位于Docker容器中的应用程序的打印日志供运维分析。典型的比如 SpringBoot应用的日志 收集。本文即将阐述如何利用ELK日志中心来收集容器化应用程序所产生的日志,并且可以用可视化的方式对日志进行查询与分析,其架构如下图所示:

架构图

注: 本文首发于 My 公众号 CodeSheep ,可 长按扫描 下面的 小心心 来订阅 ↓ ↓ ↓

CodeSheep · 程序羊


镜像准备

镜像准备

  • ElasticSearch镜像
  • Logstash镜像
  • Kibana镜像
  • Nginx镜像(作为容器化应用来生产日志)

开启Linux系统Rsyslog服务

修改Rsyslog服务配置文件:

1
vim /etc/rsyslog.conf

开启下面三个参数:

1
2
3
4
$ModLoad imtcp
$InputTCPServerRun 514

*.* @@localhost:4560

开启3个参数

意图很简单:让Rsyslog加载imtcp模块并监听514端口,然后将Rsyslog中收集的数据转发到本地4560端口!

然后重启Rsyslog服务:

1
systemctl restart rsyslog

查看rsyslog启动状态:

1
netstat -tnl

netstat -tnl


部署ElasticSearch服务

1
2
3
docker run -d  -p 9200:9200 \
-v ~/elasticsearch/data:/usr/share/elasticsearch/data \
--name elasticsearch elasticsearch

ES启动成功效果


部署Logstash服务

添加 ~/logstash/logstash.conf 配置文件如下:

1
2
3
4
5
6
7
8
9
10
11
12
input {
syslog {
type => "rsyslog"
port => 4560
}
}

output {
elasticsearch {
hosts => [ "elasticsearch:9200" ]
}
}

配置中我们让Logstash从本地的Rsyslog服务中取出应用日志数据,然后转发到ElasticSearch数据库中!

配置完成以后,可以通过如下命令来启动Logstash容器:

1
2
3
4
5
docker run -d -p 4560:4560 \
-v ~/logstash/logstash.conf:/etc/logstash.conf \
--link elasticsearch:elasticsearch \
--name logstash logstash \
logstash -f /etc/logstash.conf

image.png


部署Kibana服务

1
2
3
4
docker run -d -p 5601:5601 \
--link elasticsearch:elasticsearch \
-e ELASTICSEARCH_URL=http://elasticsearch:9200 \
--name kibana kibana

image.png


启动nginx容器来生产日志

1
2
3
docker run -d -p 90:80 --log-driver syslog --log-opt \
syslog-address=tcp://localhost:514 \
--log-opt tag="nginx" --name nginx nginx

很明显Docker容器中的Nginx应用日志转发到本地syslog服务中,然后由syslog服务将数据转给Logstash进行收集。

至此,日志中心搭建完毕,目前一共四个容器在工作:

image.png

实验验证

  • 浏览器打开localhost:90来打开Nginx界面,并刷新几次,让后台产生GET请求的日志

  • 打开Kibana可视化界面:localhost:5601

localhost:5601

  • 收集Nginx应用日志

收集Nginx应用日志

  • 查询应用日志

在查询框中输入program=nginx可查询出特定日志

查询应用日志


后记

作者更多的SpringBt实践文章在此:


如果有兴趣,也可以抽点时间看看作者一些关于容器化、微服务化方面的文章:


长按扫描 下面的 小心心 来订阅 CodeSheep,获取更多 务实、能看懂、可复现的 原创文 ↓↓↓

CodeSheep · 程序羊



最后附上个人联系方式,欢迎大家交流学习:
个人博客:www.codesheep.cn
个人网站:http://113.209.119.170/ (捂脸的表情,很慢,1G1C1M,你懂的)
简 书:https://www.jianshu.com/u/d19536b0189b



支付宝打赏 微信打赏

如果文章对您有帮助,您可以鼓励一下作者

评论