ES 31 - 从0开始搭建Elasticsearch生产集群

目录

• • 1.1 服务器ip映射
  • 1.3 安装jdk并配置环境变量
• • 4.2 启动各个节点中的es服务

开始之前:

关于es单机服务的部署, 可参考博文: es 02 - 部署elasticsearch单机服务 + 部署中的常见问题

关于集群的服务配置建议, 可以参考上一篇博文: es 30 - elasticsearch生产集群的服务器配置建议

1 配置环境

1.1 服务器ip映射

配置服务器ip地址与主机名称的映射, 方便维护与迁移.

服务器ip	映射的主机名
172.16.22.131	es-1
172.16.22.132	es-2
172.16.22.133	es-3

依次编辑三台服务器的/etc/hosts文件, 添加映射内容:

[root@localhost ~]# vim /etc/hosts

# 添加下述内容:
172.16.22.131 es-1
172.16.22.132 es-2
172.16.22.133 es-3

1.2 配置各节点的ssh免密通信

elasticsearch集群中各个节点之间需要通信, 配置免密通信是必须的.

参考博文 linux - 配置ssh免密登录 - “ssh-keygen”的基本用法 完成相关免密通信的配置.

1.3 安装jdk并配置环境变量

学习使用es的前提是成功安装jdk —— 很基础的一项步骤, 这里省略.

此处学习演示所用的jdk版本为:

[root@localhost ~]# java -version
java version "1.8.0_151"
java(tm) se runtime environment (build 1.8.0_151-b12)
java hotspot(tm) 64-bit server vm (build 25.151-b12, mixed mode)

2 部署单节点服务

请参照博文 es 02 - 部署elasticsearch单机服务 + 部署中的常见问题 进行操作, 如果过程中遇到不可知的问题, 可在评论区留言, 博主会在看到后的第一时间回复.

与部署单机服务不同的地方 —— 修改配置文件/data/elk-6.6.0/es-node/config/elasticsearch.yml:

# 大约17行, 修改集群名称, 同一个集群中此名称必须相同, 才能组成一个逻辑集群:
cluster.name: heal_es

# 大约23行, 修改节点名称, 可以设置为与主机名称相同:
node.name: es-1

# 大约55行, 指定可通过外部服务器访问本地es服务:
network.host: 0.0.0.0
# 并指定访问的端口号, 默认是9200, 为了防止冲突, 这里修改为9301:
http.port: 9301

# 大约68行, 指定初始的主机列表, 用来在新节点启动时执行发现功能:
discovery.zen.ping.unicast.hosts: ["es-1", "es-2", "es-3"]

注意: 修改完配置后, 先不要启动服务, 所有节点中的安装包都整理完毕, 再依次启动.

—— 因为es服务一旦启动, 就会在${es_home}/data/下生成集群数据, 包括节点id、节点锁(node lock)等, 不同节点的这些数据都不同, 如果相同则会导致启动异常.

3 部署集群服务

(1) 将配置好的安装包分发到节点es-2和es-3上:

# 切换回root用户
[elastic@localhost data]$ su root
password: 
# 输入密码后, 分发安装包: 
[root@localhost data]# scp -r elk-6.6.0/ es-2:/data
[root@localhost data]# scp -r elk-6.6.0/ es-3:/data

(2) 向es-2和es-3中添加elastic用户和组, 并修改文件权限:

[root@localhost data]# useradd elastic -s /bin/bash 
[root@localhost data]# chown -r elastic:elastic /data/elk-6.6.0/

(3) 修改es-2和es-3节点的配置文件:

同样的, 修改elasticsearch.yml文件, 这时只修改node名称即可:

[root@localhost ~]# vim /data/elk-6.6.0/es-node/config/elasticsearch.yml 
# 大约23行, 修改节点名称, 可以设置为与主机名称相同. 分别修改为es-2和es-3
node.name: es-...

(4) 如有必要-删除从es-1拷贝而来的data目录下的文件:

如果在从es-1节点分发安装包时, 已经启动了es-1上的es服务, 那么还要删除es-2和es-3节点中${es_home}/data/下的所有文件, 防止后续启动失败.

4 启动集群中的所有节点

4.2 启动各个节点中的es服务

启动顺序没有要求:

# 切换为elastic用户:
[root@localhost ~]# su elastic
# 进入到启动命令所在的目录:
[elastic@localhost root]$ cd /data/elk-6.6.0/es-node/bin/
# 后台启动服务:
[elastic@localhost bin]$ sh elasticsearch -d

4.2 查看集群状态

(1) 只启动一个节点时的集群状态:

(2) 启动全部节点后的集群状态:

5 常见问题及解决方法

5.1 新节点不能加入集群

(1) 问题描述:

启动集群中的第二、三个节点时可能出现下述异常中的一种:

① 获取node lock失败:

[2019-06-24t22:04:06,665][warn ][o.e.b.elasticsearchuncaughtexceptionhandler] [es-3] uncaught exception in thread [main]
org.elasticsearch.bootstrap.startupexception: java.lang.illegalstateexception: failed to obtain node locks, tried [[/data/elk-6.6.0/es-node/data]] with lock id [0]; maybe these locations are not writable or multiple nodes were started without increasing [node.max_local_storage_nodes] (was [1])?
        at org.elasticsearch.bootstrap.elasticsearch.init(elasticsearch.java:163) ~[elasticsearch-6.6.0.jar:6.6.0]
        at org.elasticsearch.bootstrap.elasticsearch.execute(elasticsearch.java:150) ~[elasticsearch-6.6.0.jar:6.6.0]
        at org.elasticsearch.cli.environmentawarecommand.execute(environmentawarecommand.java:86) ~[elasticsearch-6.6.0.jar:6.6.0]
        at org.elasticsearch.cli.command.mainwithouterrorhandling(command.java:124) ~[elasticsearch-cli-6.6.0.jar:6.6.0]
        at org.elasticsearch.cli.command.main(command.java:90) ~[elasticsearch-cli-6.6.0.jar:6.6.0]
        at org.elasticsearch.bootstrap.elasticsearch.main(elasticsearch.java:116) ~[elasticsearch-6.6.0.jar:6.6.0]
        at org.elasticsearch.bootstrap.elasticsearch.main(elasticsearch.java:93) ~[elasticsearch-6.6.0.jar:6.6.0]
        ... 6 more

② 加入集群的请求发送失败:

# 节点[es-3]向master节点[es-1]发送加入集群的请求失败.
 [es-3] failed to send join request to master [{es-1}{jcmbr9dgrgaawue7xq5xaw}{wxvcc19lqvmc3xmcrhdbqa}{172.16.22.131}{172.16.22.131:9300}{ml.machine_memory=134908342272, ml.max_open_jobs=20, xpack.installed=true, ml.enabled=true}], reason [remotetransportexception[[es-1][172.16.22.131:9300][internal:discovery/zen/join]]; 

# 内部原因是: 节点id相同, 但并不是同一个节点实例.
nested: illegalargumentexception[can't add node {es-3}{jcmbr9dgrgaawue7xq5xaw}{wxjlsd1ztwcm6yawaauoog}{172.16.22.133}{172.16.22.133:9300}{ml.machine_memory=135220408320, ml.max_open_jobs=20, xpack.installed=true, ml.enabled=true}, found existing node {es-1}{jcmbr9dgrgaawue7xq5xaw}{wxvcc19lqvmc3xmcrhdbqa}{172.16.22.131}{172.16.22.131:9300}{ml.machine_memory=134908342272, xpack.installed=true, ml.max_open_jobs=20, ml.enabled=true} with the same id but is a different node instance]; ]

(2) 问题分析:

节点二、三的安装包都是从节点一分发而来的, 由于分发时节点一已经启动, 其${es_home}/data/目录下已生成node相关的数据, 这些数据应该由当前节点自动生成, 不能共用. 如果这些数据相同就会出现上述异常.

(3) 问题解决:

删除节点二、三的数据目录${es_home}/data/下的所有文件, 然后重新启动即可.

5.2 反序列化失败

(1) 问题说明:

节点启动过程中抛出如下错误:

org.elasticsearch.transport.remotetransportexception: failed to deserialize exception response from stream

(2) 问题分析:

各个elasticsearch节点中的服务所使用的jdk版本不一致, 在 es 30 - elasticsearch生产集群的服务器配置建议 的第5节5 jvm的参数配置中有相关说明:

es中用到了很多与jvm版本相关的特性, 比如本地序列化机制 (包括ip地址、异常信息等等), 而jvm在不同的minor版本中可能会修改序列化机制, 版本不同可能会导致序列化异常.

(3) 问题解决:

更换jdk版本, 并更新环境变量配置, 保证各节点使用的jdk版本一致.

5.3 其他问题

更多问题可以参考博文: es 02 - 部署elasticsearch单机服务 + 常见问题的解决 中第5节内容5 常见问题及解决方法.

版权声明

作者:

出处: 博客园

感谢阅读, 如果文章有帮助或启发到你, 点个[