使用Logstash + Elasticsearch + Kibana构建数据可视化

首先

最近,在工作场所,可视化成为了话题,所以我在家里进行了技术验证。

以下是汉语的同义句:

【参考】

・[http://acro-engineer.hatenablog.com/entry/2016/10/27/165342]
・[http://acro-engineer.hatenablog.com/entry/2016/10/27/165342]

■环境

自然界和人类周围的物质和条件;能够影响生物生存和发展的外部因素。

・CentOS7.4
→禁用了SELinux和Firewalld
・elasticsearch-5.6.8
・kibana-5.6.8
・logstash-5.6.8-1

■安装

・注册代码库

# 打开/etc/yum.repos.d/elastic.repo文件
[elasticsearch-5.x]
name=5.x版本的Elasticsearch软件包的Elasticsearch存储库
baseurl=https://artifacts.elastic.co/packages/5.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md

安装

# 安装java-1.8.0-openjdk-devel
# 导入https://artifacts.elastic.co/GPG-KEY-elasticsearch的rpm密钥
# 安装elasticsearch
# 安装kibana
# 安装logstash

■初始设置

允许Kibana的外部连接。

打开/etc/kibana/kibana.yml文件
将server.host设置为”0.0.0.0″

自动启动

启动elasticsearch服务
启动kibana服务
启动logstash服务
启用elasticsearch服务
启用kibana服务
启用logstash服务

■演示(对Apache日志进行解析)

– 建立设置
or
– 设定选项

# vi /etc/logstash/conf.d/10_apache_access_log.conf
输入 {
文件 {
路径 => “/var/log/httpd/access_log”
起始位置 => “开头”
}
}

过滤器 {
grok {
匹配 => { “message” => “%{COMBINEDAPACHELOG}” }
}
日期 {
匹配 => [“timestamp”, “dd/MMM/YYYY:HH:mm:ss Z”]
}
地理位置信息 {
源 => [“clientip”]
}
}

输出 {
Elasticsearch {
主机 => [“localhost:9200”]
索引 => “access_log-%{+YYYYMMdd}”
}
}

采集

以下是一个选项的汉语原生解释:
使用/usr/share/logstash/bin/logstash命令并通过/etc/logstash/conf.d/10_apache_access_log.conf文件进行配置。

将索引进行登记

打开Kibana

http://<服务器IP>:5601

逐个打开「管理」「索引模式」「创建索引模式」。

请在输入框中输入”3″并点击”create”按钮。

項目値Index patternaccess_log-*Time Filter field name@timestamp
image.png

绘制图表

1. 按照顺序打开「可视化」、「+」、「垂直条形图」和「access_log-*」。
2. 输入以下内容,即可完成图表的制作。

大項目中項目値Y-AxisAggregationCount
Custom Labelアクセス数X-AxisAggregationDate Histogram
Field@timestamp
IntervalAuto
Custom Label時間
image.png

这就是所有的内容。

广告
将在 10 秒后关闭
bannerAds