大数据周会-本周学习内容总结06
创始人
2025-05-31 00:02:10
0

目录

1【elk】

2【Linux启动elk】

2.1【启动elasticsearch】

2.2【启动kibana】

2.3【启动logstash】

2.4【启动esHead插件】

2.5【mysql测试数据库】

2.6【logstash数据同步测试】


1【elk】

Linux MySQL数据库数据同步Windows ES。

logstash配置文件,索引名必须小写。

2【Linux启动elk】

安装好了jdk11、elasticsearch、logstash、kibana、node.js、esHead插件,并在Windows浏览器上通过kibana看到了logstash同步mysql数据的效果。

Linux centOS 7部署ELK(elasticSearch、logstash、kibana)

2.1【启动elasticsearch】

[root@hadoop100 ~]# su es

[es@hadoop100 root]$ cd /opt/module/elasticsearch-8.5.1/bin

[es@hadoop100 bin]$ ./elasticsearch

2.2【启动kibana】

[root@hadoop100 ~]# jps

2992 CliToolLauncher

5233 Jps

3174 Elasticsearch

[root@hadoop100 ~]# cd /opt/module/kibana-8.5.1/bin

[root@hadoop100 bin]# ./kibana

Kibana should not be run as root.  Use --allow-root to continue.

[root@hadoop100 bin]# su es

[es@hadoop100 bin]$ ./kibana

[2023-03-16T16:24:39.182+08:00][INFO ][node] Kibana process configured with roles: [background_tasks, ui]

2.3【启动logstash】

连接成功

Last login: Thu Mar 16 16:24:51 2023 from 192.168.88.1

[root@hadoop100 ~]# jps

2992 CliToolLauncher

3174 Elasticsearch

12634 Jps

[root@hadoop100 ~]# cd /opt/module/logstash-8.5.1/bin

[root@hadoop100 bin]# logstash -f /opt/module/logstash-8.5.1/config/test/mysql01.conf

Using bundled JDK: /opt/module/logstash-8.5.1/jdk

input {stdin {}jdbc { # 01# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/school_matriculate"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "root"# MySQL驱动jar包存放位置jdbc_driver_library => "/opt/jar/mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from user"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "user"}jdbc { # 02# 配置MySQL数据库链接,变量为数据库名jdbc_connection_string => "jdbc:mysql://x.x.x.x:3306/school_matriculate"# 配置MySQL数据库用户名和密码jdbc_user => "root"jdbc_password => "root"# MySQL驱动jar包存放位置jdbc_driver_library => "/opt/jar/mysql-connector-java-5.1.31.jar"# MySQL驱动类名jdbc_driver_class => "com.mysql.jdbc.Driver"jdbc_paging_enabled => "true"jdbc_page_size => "50000"# 执行的sql,文件路径+名称:statement_filepath# statement_filepath => ""# 要执行的sql语句statement => "select * from wsl"# 设置监听间隔,各字段含义(由左至右)分、时、天、月、年,全部为*默认含义为每分钟都更新schedule => "* * * * *"# 索引类型type => "wsl"}
}filter {json {source => "message"remove_field => ["message"]}
}output {if[type] == "user" { # 01elasticsearch {hosts => ["http://192.168.88.100:9200"]index => "test_user"document_id => "%{id}"}}if[type] == "wsl" { # 02elasticsearch {hosts => ["http://192.168.88.100:9200"]index => "test_wsl"document_id => "%{id}"}}stdout {codec => json_lines}
}

2.4【启动esHead插件】

连接成功

Last login: Thu Mar 16 16:26:10 2023 from 192.168.88.1

[root@hadoop100 ~]# cd /opt/module/elasticsearch-head-master

[root@hadoop100 elasticsearch-head-master]# npm run start &

[1] 27378

[root@hadoop100 elasticsearch-head-master]#

> elasticsearch-head@0.0.0 start /opt/module/elasticsearch-head-master

> grunt server

>> Local Npm module "grunt-contrib-jasmine" not found. Is it installed?

Running "connect:server" (connect) task

Waiting forever...

Started connect web server on http://192.168.88.100:9100

2.5【mysql测试数据库】

连接线上测试数据库!

2.6【logstash数据同步测试】

logstash -f /opt/module/logstash-8.5.1/config/test/mysql01.conf

 

相关内容

热门资讯

喜欢穿一身黑的男生性格(喜欢穿... 今天百科达人给各位分享喜欢穿一身黑的男生性格的知识,其中也会对喜欢穿一身黑衣服的男人人好相处吗进行解...
发春是什么意思(思春和发春是什... 本篇文章极速百科给大家谈谈发春是什么意思,以及思春和发春是什么意思对应的知识点,希望对各位有所帮助,...
网络用语zl是什么意思(zl是... 今天给各位分享网络用语zl是什么意思的知识,其中也会对zl是啥意思是什么网络用语进行解释,如果能碰巧...
为什么酷狗音乐自己唱的歌不能下... 本篇文章极速百科小编给大家谈谈为什么酷狗音乐自己唱的歌不能下载到本地?,以及为什么酷狗下载的歌曲不是...
华为下载未安装的文件去哪找(华... 今天百科达人给各位分享华为下载未安装的文件去哪找的知识,其中也会对华为下载未安装的文件去哪找到进行解...
家里可以做假山养金鱼吗(假山能... 今天百科达人给各位分享家里可以做假山养金鱼吗的知识,其中也会对假山能放鱼缸里吗进行解释,如果能碰巧解...
四分五裂是什么生肖什么动物(四... 本篇文章极速百科小编给大家谈谈四分五裂是什么生肖什么动物,以及四分五裂打一生肖是什么对应的知识点,希...
怎么往应用助手里添加应用(应用... 今天百科达人给各位分享怎么往应用助手里添加应用的知识,其中也会对应用助手怎么添加微信进行解释,如果能...
美团联名卡审核成功待激活(美团... 今天百科达人给各位分享美团联名卡审核成功待激活的知识,其中也会对美团联名卡审核未通过进行解释,如果能...
一帆风顺二龙腾飞三阳开泰祝福语... 本篇文章极速百科给大家谈谈一帆风顺二龙腾飞三阳开泰祝福语,以及一帆风顺二龙腾飞三阳开泰祝福语结婚对应...