flink1.11.1集成iceberg0.11(hadoop_catalog)-(1)
程序员文章站
2022-07-14 12:29:38
...
确定 cdh 环境,flink集群已经准备好
- cdh 6.3.2
- flink1.11.1
- scala2.11
需要的包:
- iceberg集成flink包
2. 需要连接kafka的可以下载flink-sql-connector-kafka的包
将上面的包放到flink的lib目录下,重启flink集群
环境配置:
- /etc/profile配置
export HADOOP_USER_NAME=hdfs
export HADOOP_HOME=/opt/cloudera/parcels/CDH/lib/hadoop
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export HADOOP_CLASSPATH=`hadoop classpath`
export SCALA_HOME=/usr/java/scala
export FLINK_HOME=/opt/flink-1.11.1
export JAVA_HOME=/usr/java/default
export CLASSPATH=$JAVA_HOME/lib/
export PATH=$PATH:$JAVA_HOME/bin:$SCALA_HOME/bin:${FLINK_HOME}/bin:$HADOOP_HOME/bin
source /etc/profile 读取配置文件
下一篇: 数据结构--循环队列(数组实现)