CDH6.2.1安装Kafka出现的问题
程序员文章站
2022-05-01 13:03:11
...
前言
之前用的CDH 5.6.X版本,默认是没有Kafka的,刚刚搭建了一个新的集群,用的CDH6.2.1,自带了kafka不需要我们下载parcels包
根据以往在CDH安装组件的经验,应该是非常easy的,没想到…
问题一
这里我选择了五台Broker,其他的不需要填写,在启动的时候报错:
在网上搜了一圈,大概说是因为集群中broker默认都为0!!!我们必须得手动改为唯一的。
于是我把这五台服务的broker id分别改为0、1、2、3、4,并且发现默认的,zookeeper连接竟然是:
zookeeper.connect=localhost:2181
我的zookeeper在其他三台节点上面安装,于是手动将这五台服务器的zookeeper都配置了:
zookeeper.connect=master01:2181,master02:2181,master03:2181
然后重新安装
问题二
又是到了启动的这一步报错:
kafka.common.InconsistentBrokerIdException: Configured broker.id 1258 doesn't match stored broker.id 1186 in meta.properties. If you moved your data, make sure your configured broker.id matches. If you intend to create a new broker, you should remove all data in your data directories (log.dirs).
at kafka.server.KafkaServer.getBrokerIdAndOfflineDirs(KafkaServer.scala:686)
at kafka.server.KafkaServer.startup(KafkaServer.scala:209)
at kafka.server.KafkaServerStartable.startup(KafkaServerStartable.scala:42)
at kafka.Kafka$.main(Kafka.scala:75)
at com.cloudera.kafka.wrap.Kafka$$anonfun$1.apply(Kafka.scala:91)
at com.cloudera.kafka.wrap.Kafka$$anonfun$1.apply(Kafka.scala:91)
at com.cloudera.kafka.wrap.Kafka$.runMain(Kafka.scala:102)
at com.cloudera.kafka.wrap.Kafka$.main(Kafka.scala:94)
at com.cloudera.kafka.wrap.Kafka.main(Kafka.scala)
大概意思是broker.id改了之后,这个时候和meta.properties配置文件中就不对应了,必须得一一对应才可以。
那么这个文件在哪呢?搜了一下,都说是看config下的server.properties,中的:
log.dirs=/tmp/kafka-logs
这里指定的哪就是哪…可把我坑惨了,我/tmp目录下根本就没有这个kafka-logs文件,擦。
经过一番查找,原来是在:
/var/local/kafka/data
于是我把这五台服务器的meta.properties文件都删除了,然后重新安装,结果非常happy:
推荐阅读
-
微信小程序request出现400的问题解决办法
-
安装.NET Framework严重错误回滚怎么办?完美解决NET Framework4回滚问题的方法
-
解决Windows环境下安装 mysql-8.0.11-winx64 遇到的问题
-
Microsoft Visual Studio 2010 Ultimate 下安装wcsf 2010出现问题的解决方法
-
12306网站根证书出问题了没办法买票怎么解决?12306证书安装的方法
-
解决Vue2.0中使用less给元素添加背景图片出现的问题
-
解决Python安装后pip不能用的问题
-
解决Tensorflow使用pip安装后没有model目录的问题
-
mysql8.0版本skip-grant-tables出现的新问题
-
mac安装nodejs的权限问题(详解mac安装虚拟机)