欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

【Flume】Flume基础之安装与使用

程序员文章站 2022-05-01 10:10:13
...

1、Flume简介

​ (1) Flume提供一个分布式的,可靠的,对大数据量的日志进行高效收集、聚集、移动的服务,Flume只能在Unix环境下运行。

​ (2) Flume基于流式架构,容错性强,也很灵活简单。

​ (3) Flume、Kafka用来实时进行数据收集,Spark、Flink用来实时处理数据,impala用来实时查询。

2、Flume角色

2.1 Source

​ 用于采集数据,Source是产生数据流的地方,同时Source会将产生的数据流传输到Channel,这个有点类似于Java IO部分的Channel。

2.2 Channel

​ 用于桥接Sources和Sinks,类似于一个队列。

2.3 Sink

​ 从Channel收集数据,将数据写到目标源(可以是下一个Source,也可以是HDFS或者HBase)。

2.4 Event

​ 传输单元,Flume数据传输的基本单元,以事件的形式将数据从源头送至目的地。

3、Flume传输过程

​ source监控某个文件或数据流,数据源产生新的数据,拿到该数据后,将数据封装在一个Event中,并put到channel后commit提交,channel队列先进先出,sink去channel队列中拉取数据,然后写入到HDFS或其他目标源中。

4、Flume安装与部署

4.1 上传包

​ 将flume的gz包上传到/opt/soft/目录下;

[aaa@qq.com conf]# rz

​ 若不支持rz命令,则用yum安装lrzsz命令:

​ 查询含有rz的yum源,由结果可见,yum源中含有lrzsz.x86_64包;

[aaa@qq.com soft]# yum search rzsz
已加载插件:fastestmirror
Loading mirror speeds from cached hostfile
 * base: mirrors.tuna.tsinghua.edu.cn
 * extras: mirrors.aliyun.com
 * updates: mirrors.aliyun.com
============================================================================================================================= N/S matched: rzsz ==============================================================================================================================
lrzsz.x86_64 : The lrz and lsz modem communications programs

  名称和简介匹配 only,使用“search all”试试。

​ 安装rz命令

[aaa@qq.com soft]# yum -y install lrzsz

4.2 解压包

​ 将flume解压到/opt/module/目录下,并改短名字flume-1.8.0:

[aaa@qq.com soft]# tar -zvxf apache-flume-1.8.0-bin.tar.gz -C /opt/module
[aaa@qq.com module]# mv apache-flume-1.8.0-bin flume-1.8.0

4.3 配置参数

​ 切换到/opt/module/flume-1.8.0/conf目录,将flume-env.sh.template文件名改为:flume-env.sh

[aaa@qq.com module]# mv flume-env.sh.template flume-env.sh

​ 查询JAVA_HOME的值;

[aaa@qq.com conf]# echo $JAVA_HOME
/opt/module/jdk1.8.0_144

​ 编辑flume-env.sh,将文件内容中的JAVA_HOME的值修改为上面查到的;

export JAVA_HOME=/opt/module/jdk1.8.0_144

4.4 配置环境变量

​ 在/etc/profile末尾添加flume的家路径

export FLUME_HOME=/opt/module/flume-1.8.0
export PATH=$PATH:$FLUME_HOME/bin

4.5 验证flume成功与否

​ 在xshell客户端下,输入flu,按tab键,看是否能够自动补全:flume-ng

​ 如果可以自动补全,则代表安装flume成功,否则失败。

[aaa@qq.com opt]# flume-ng
Error: Unknown or unspecified command ''

Usage: /opt/module/flume-1.8.0/bin/flume-ng <command> [options]...

commands:
  help                      display this help text
  agent                     run a Flume agent
  avro-client               run an avro Flume client
  version                   show Flume version info
............

4.6 配置其他两台机器

​ 利用scp命令,配置其他两台机器;

​ 首先,将flume目录分发到bigdata112,bigdata113

[aaa@qq.com ~]# scp -r /opt/module/flume-1.8.0/ aaa@qq.com:/opt/module/
[aaa@qq.com ~]# scp -r /opt/module/flume-1.8.0/ aaa@qq.com:/opt/module/

​ 其次,将/etc/profile环境变量文件分发到bigdata112,bigdata113

[aaa@qq.com ~]# scp -r /etc/profile aaa@qq.com:/etc/
[aaa@qq.com ~]# scp -r /etc/profile aaa@qq.com:/etc/

​ 最后,在bigdata112,bigdata113上分别刷新环境变量

[aaa@qq.com opt]# source /etc/profile
[aaa@qq.com opt]# source /etc/profile

5、Flume案例

5.1 监控端口数据

目标:Flume监控一端Console,另一端Console发送消息,使被监控端实时显示。
【Flume】Flume基础之安装与使用

5.1.1 安装telnet命令

[aaa@qq.com conf]# yum -y install telnet

5.1.2 创建Agent配置文件

​ 在flume根目录下,新建一个myconf目录,用于存放自定义conf配置文件;

​ 新建flume-telnet.conf文件,文件内容如下:

# 定义agent
# <自定义agent名>.sources=<自定义source名称>
a1.sources = r1
# <自定义agent名>.sinks=<自定义sink名称>
a1.sinks = k1
# <自定义agent名>.channels=<自定义channel名称>
a1.channels = c1

# 定义source
# <agent名>.sources.<source名称>.type = 源类型
a1.sources.r1.type = netcat
# <agent名>.sources.<source名称>.bind = 数据来源服务器
a1.sources.r1.bind = bigdata111
# <agent名>.sources.<source名称>.port = 自定义未被占用的端口
a1.sources.r1.port = 44445

# 定义sink
# <agent名>.sinks.<sink名称>.type = 下沉到目标源的类型
a1.sinks.k1.type = logger

# 定义channel
# <agent名>.channels.<channel名称>.type = channel的类型
a1.channels.c1.type = memory
# <agent名>.channels.<channel名称>.capacity = 最大容量
a1.channels.c1.capacity = 1000
# transactionCapacity<=capacity
a1.channels.c1.transactionCapacity = 1000                  

# 双向链接
# <agent名>.sources.<source名称>.channels = channel名称
a1.sources.r1.channels = c1
# <agent名>.sinks.<sink名称>.channel = channel名称
a1.sinks.k1.channel = c1

5.1.3 启动flume配置文件

[aaa@qq.com conf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a1 --conf-file /opt/module/flume-1.8.0/conf/flume-telnet.conf -Dflume.root.logger==INFO,console

​ 可以简写为:

[aaa@qq.com conf]# flume-ng agent --c /opt/module/flume-1.8.0/conf/ --n a1 --f /opt/module/flume-1.8.0/conf/flume-telnet.conf -Dflume.root.logger==INFO,console

5.1.4 发送测试数据

​ 通过其他机器向bigdata111的44445端口发送数据

[aaa@qq.com ~]# telnet bigdata111 44445
Trying 192.168.1.111...
Connected to bigdata111.
Escape character is '^]'.
echo aaaa
OK
echo aaaa
OK
echo bbbbbbbbb
OK

运行结果如图:
【Flume】Flume基础之安装与使用

5.2 实时读取本地文件到HDFS

5.2.1 创建Agent配置文件

​ 创建flume-hdfs配置文件

# 1 agent  若同时运行两个agent,则agent名字需要改变,比如下面a2
a2.sources = r2
a2.sinks = k2
a2.channels = c2

# 2 source 
# 因监控linux本地文件,执行shell命令,所以type为exec;
a2.sources.r2.type = exec
# 监控的文件路径
a2.sources.r2.command = tail -F /opt/test.log
a2.sources.r2.shell = /bin/bash -c

# 3 sink
# 数据下沉到目标源hdfs
a2.sinks.k2.type = hdfs
# 如果集群为HA模式,则路径为active的namenode地址,普通分布式集群,直接写namenode所在地址即可。
a2.sinks.k2.hdfs.path = hdfs://bigdata111:9000/flume/%Y%m%d/%H
#上传文件的前缀
a2.sinks.k2.hdfs.filePrefix = logs-
#是否按照时间滚动文件夹
a2.sinks.k2.hdfs.round = true
#多少时间单位创建一个新的文件夹
a2.sinks.k2.hdfs.roundValue = 1
#重新定义时间单位
a2.sinks.k2.hdfs.roundUnit = hour
#是否使用本地时间戳
a2.sinks.k2.hdfs.useLocalTimeStamp = true
#积攒多少个Event才flush到HDFS一次
a2.sinks.k2.hdfs.batchSize = 1000
#设置文件类型,可支持压缩
a2.sinks.k2.hdfs.fileType = DataStream
#多久生成一个新的文件
a2.sinks.k2.hdfs.rollInterval = 600
#设置每个文件的滚动大小
a2.sinks.k2.hdfs.rollSize = 134217700
#文件的滚动与Event数量无关
a2.sinks.k2.hdfs.rollCount = 0
#最小副本数
a2.sinks.k2.hdfs.minBlockReplicas = 1

# 定义channel
a2.channels.c2.type = memory
a2.channels.c2.capacity = 1000
a2.channels.c2.transactionCapacity = 1000

# 双向链接绑定
a2.sources.r2.channels = c2
a2.sinks.k2.channel = c2

5.2.2 启动flume配置文件

[aaa@qq.com flume-1.8.0]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a2 --conf-file /opt/module/flume-1.8.0/myconf/flume-hdfs.conf 

5.2.3 发送文件内容

[aaa@qq.com opt]# echo kjalksdjglkajsdg2333333333333333asdgasdgasdg >> test.log
[aaa@qq.com opt]# echo kjalksdjglkajsdg2333333333333333asdgasdgasdg >> test.log
[aaa@qq.com opt]# echo kjalksdjglkajsdg2333333333333333asdgasdgasdg >> test.log
[aaa@qq.com opt]# echo kjalksdjglkajsdg2333333333333333asdgasdgasdg >> test.log

​ 运行结果:
【Flume】Flume基础之安装与使用

5.3 实时读取目录文件到HDFS

目标:使用flume监听整个目录的文件

5.3.1 创建Agent配置文件

​ 创建agent配置文件,命名为:flume-dir.conf,文件内容如下:

#1 Agent
a3.sources = r3
a3.sinks = k3
a3.channels = c3

#2 source
#监控目录的类型
a3.sources.r3.type = spooldir
#监控目录的路径
a3.sources.r3.spoolDir = /opt/module/flume1.8.0/upload
#哪个文件上传hdfs,然后给这个文件添加一个后缀
a3.sources.r3.fileSuffix = .COMPLETED
a3.sources.r3.fileHeader = true
#忽略所有以.tmp结尾的文件,不上传(可选)
a3.sources.r3.ignorePattern = ([^ ]*\.tmp)

# 3 sink
a3.sinks.k3.type = hdfs
a3.sinks.k3.hdfs.path = hdfs://bigdata111:9000/flume/%H
#上传文件的前缀
a3.sinks.k3.hdfs.filePrefix = upload-
#是否按照时间滚动文件夹
a3.sinks.k3.hdfs.round = true
#多少时间单位创建一个新的文件夹
a3.sinks.k3.hdfs.roundValue = 1
#重新定义时间单位
a3.sinks.k3.hdfs.roundUnit = hour
#是否使用本地时间戳
a3.sinks.k3.hdfs.useLocalTimeStamp = true
#积攒多少个Event才flush到HDFS一次
a3.sinks.k3.hdfs.batchSize = 100
#设置文件类型,可支持压缩
a3.sinks.k3.hdfs.fileType = DataStream
#多久生成一个新的文件
a3.sinks.k3.hdfs.rollInterval = 600
#设置每个文件的滚动大小大概是128M
a3.sinks.k3.hdfs.rollSize = 134217700
#文件的滚动与Event数量无关
a3.sinks.k3.hdfs.rollCount = 0
#最小副本数
a3.sinks.k3.hdfs.minBlockReplicas = 1

# Use a channel which buffers events in memory
a3.channels.c3.type = memory
a3.channels.c3.capacity = 1000
a3.channels.c3.transactionCapacity = 100

# Bind the source and sink to the channel
a3.sources.r3.channels = c3
a3.sinks.k3.channel = c3

​ 温馨提示:

​ 1) 不要在监控目录中创建并持续修改文件

​ 2) 上传完成的文件会以.COMPLETED结尾

​ 3) 被监控文件夹每500毫秒扫描一次文件变动

5.3.2 启动flume配置文件

[aaa@qq.com myconf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a3 --conf-file /opt/module/flume-1.8.0/myconf/flume-dir.conf

5.3.3 上传文件到upload目录

[aaa@qq.com opt]# mkdir upload
[aaa@qq.com opt]# ls
module  soft  test.log  upload
[aaa@qq.com opt]# mv test.log upload/
[aaa@qq.com opt]# ls
module  soft  upload
[aaa@qq.com opt]# vi test1.log
[aaa@qq.com opt]# mv test1.log upload/

​ 运行如图:
【Flume】Flume基础之安装与使用

5.4 扇出例子01

扇出:数据用于多个地方。(简单理解:一个数据源对应多个channel,sink,并且输出到多个目标源)

例子01示意图:

目标:在flume1里面接收数据,然后数据下沉到两个不同目标源(控制台和HDFS)

5.4.1 创建Agent配置文件

​ 在myconf目录下,新建一个flume-fanout1.conf文件,内容配置如下:

# 定义agent
a1.sources=c1
a1.channels=k1 k2
a1.sinks=s1 s2

# 定义source
a1.sources.c1.type=exec
a1.sources.c1.command=tail -F /opt/test.log
a1.sources.c1.shell=/bin/bash -c

# 将数据流复制给多个channel
a1.sources.r1.selector.type=replicating

# 定义channel1
a1.channels.k1.type=memory
a1.channels.k1.capacity = 1000
a1.channels.k1.transactionCapacity=1000

# 定义channel2
a1.channels.k2.type=memory
a1.channels.k2.capacity = 1000
a1.channels.k2.transactionCapacity=1000

# 定义sink1
a1.sinks.s1.type=logger

# 定义sink2
a1.sinks.s2.type=hdfs
a1.sinks.s2.hdfs.path = hdfs://bigdata111:9000/flume/%Y%m%d/%H
# 上传文件的前缀
a1.sinks.s2.hdfs.filePrefix = logs-
# 是否按照时间滚动文件夹
a1.sinks.s2.hdfs.round = true
# 多少时间单位创建一个新的文件夹
a1.sinks.s2.hdfs.roundValue = 1
# 重新定义时间单位
a1.sinks.s2.hdfs.roundUnit = hour
# 是否使用本地时间戳
a1.sinks.s2.hdfs.useLocalTimeStamp = true
# 积攒多少个Event才flush到HDFS一次
a1.sinks.s2.hdfs.batchSize = 1000
# 设置文件类型,可支持压缩
a1.sinks.s2.hdfs.fileType = DataStream
# 多久生成一个新的文件
a1.sinks.s2.hdfs.rollInterval = 600
# 设置每个文件的滚动大小
a1.sinks.s2.hdfs.rollSize = 134217700
# 文件的滚动与Event数量无关
a1.sinks.s2.hdfs.rollCount = 0
# 最小副本数
a1.sinks.s2.hdfs.minBlockReplicas = 1

# 双向链接
a1.sources.c1.channels = k1 k2
a1.sinks.s1.channel=k1
a1.sinks.s2.channel=k2

5.4.2 启动flume配置文件

[aaa@qq.com myconf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a1 --conf-file /opt/module/flume-1.8.0/myconf/flume-fanout1.conf -Dflume.root.logger==INFO,console

5.4.3 向文件添加内容

​ 切换到/opt/目录下,新建test.log文件,然后动态添加内容,观察控制台输出以及web的hdfs文件

[aaa@qq.com opt]# touch test.log
[aaa@qq.com opt]# touch test.log
[aaa@qq.com opt]# echo 'china' >>test.log 
[aaa@qq.com opt]# echo 'hello world' >>test.log
[aaa@qq.com opt]# echo 'nihao' >> test.log

​ 控制台输出如下:

​ web页面结果:
【Flume】Flume基础之安装与使用

5.5 扇出例子02

目标:flume1监控文件,然后将变动数据分别传给flume2和flume3,flume2的数据下沉到HDFS;flume3的数据下沉到本地文件;

5.5.1 创建flume1配置文件

​ 在bigdata111上的myconf目录下,新建agent配置文件:flume-fanout1.conf;

​ flume1用于监控某文件的变动,同时产生两个channel和两个sink,分别输送给flume2,flume3;

​ 文件内容如下:

# 配置agent
a1.sources = c1
a1.channels = k1 k2
a1.sinks = s1 s2

# 定义source
a1.sources.c1.type=exec
a1.sources.c1.command=tail -F /opt/test.log
a1.sources.c1.shell=/bin/bash -c

# 将数据流复制给多个channel
a1.sources.c1.selector.type=replicating

# 定义channel1
a1.channels.k1.type=memory
a1.channels.k1.capacity = 1000
a1.channels.k1.transactionCapacity=1000

# 定义channel2
a1.channels.k2.type=memory
a1.channels.k2.capacity = 1000
a1.channels.k2.transactionCapacity=1000

# 定义sink1
a1.sinks.s1.type = avro
a1.sinks.s1.hostname = bigdata112
a1.sinks.s1.port = 4402

# 定义sink2
a1.sinks.s2.type = avro
a1.sinks.s2.hostname = bigdata113
a1.sinks.s2.port = 4402

# 双向链接
a1.sources.c1.channels = k1 k2
a1.sinks.s1.channel=k1
a1.sinks.s2.channel=k2

5.5.2 创建flume2配置文件

​ 在bigdata112的myconf目录下,新建agent配置文件:flume-fanout2.conf

​ 接收flume1的event数据,然后产生一个channel和一个sink,最后将数据下沉到hdfs

​ 文件内容如下:

# 配置agent 不同agent之间,agent名不相同,但是source,channel,sink名可以相同
a2.sources = c2
a2.channels = k2
a2.sinks = s2

# 定义source
a2.sources.c2.type=avro
a2.sources.c2.bind = bigdata112
a2.sources.c2.port = 4402

# 定义channel
a2.channels.k2.type=memory
a2.channels.k2.capacity = 1000
a2.channels.k2.transactionCapacity=1000

# 定义sink
a2.sinks.s2.type = hdfs
a2.sinks.s2.hdfs.path=hdfs://bigdata111:9000/flume2/%H
#上传文件的前缀
a2.sinks.s2.hdfs.filePrefix = flume2-
#是否按照时间滚动文件夹
a2.sinks.s2.hdfs.round = true
#多少时间单位创建一个新的文件夹
a2.sinks.s2.hdfs.roundValue = 1
#重新定义时间单位
a2.sinks.s2.hdfs.roundUnit = hour
#是否使用本地时间戳
a2.sinks.s2.hdfs.useLocalTimeStamp = true
#积攒多少个Event才flush到HDFS一次
a2.sinks.s2.hdfs.batchSize = 100
#设置文件类型,可支持压缩
a2.sinks.s2.hdfs.fileType = DataStream
#多久生成一个新的文件
a2.sinks.s2.hdfs.rollInterval = 600
#设置每个文件的滚动大小大概是128M
a2.sinks.s2.hdfs.rollSize = 134217700
#文件的滚动与Event数量无关
a2.sinks.s2.hdfs.rollCount = 0
#最小副本数
a2.sinks.s2.hdfs.minBlockReplicas = 1

# 双向链接
a2.sources.c2.channels = k2
a2.sinks.s2.channel=k2

5.5.3 创建flume3配置文件

​ 在bigdata113的myconf目录下,新建agent配置文件:flume-fanout3.conf

​ 接收flume1的event数据,然后产生一个channel和一个sink,最后将数据下沉到本地/opt/flume3

​ 文件内容如下:

# 配置agent
a3.sources = c3
a3.channels = k3
a3.sinks = s3

# 定义source
a3.sources.c3.type=avro
a3.sources.c3.bind = bigdata113
a3.sources.c3.port = 4402

# 定义channel
a3.channels.k3.type=memory
a3.channels.k3.capacity = 1000
a3.channels.k3.transactionCapacity=1000

# 定义sink
a3.sinks.s3.type = file_roll
# 提示:本地此目录必须先建好,程序不会自动创建该目录
a3.sinks.s3.sink.directory=/opt/flume3

# 双向链接
a3.sources.c3.channels = k3
a3.sinks.s3.channel=k3

5.5.4 启动三台机器配置文件

bigdata111:

[aaa@qq.com myconf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a1 --conf-file /opt/module/flume-1.8.0/myconf/flume-fanout1.conf -Dflume.root.logger==INFO,console

bigdata112:

[aaa@qq.com myconf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a2 --conf-file /opt/module/flume-1.8.0/myconf/flume-fanout2.conf 

bigdata113:

[aaa@qq.com myconf]# flume-ng agent --conf /opt/module/flume-1.8.0/conf/ --name a3 --conf-file /opt/module/flume-1.8.0/myconf/flume-fanout3.conf 

​ 运行结果如图:

​ bigdata112:

​ bigdata113:

5.6 扇入例子

5.6.1 创建flume1配置文件

​ flume1(agent1)监控端口数据变化,将数据sink到flume3(agent3);

​ 在myconf目录下新建agent文件:flume-fanin-1.conf

​ 配置内容如下:

# 配置agent
a1.sources = c1
a1.channels = k1
a1.sinks = s1

# 配置source
a1.sources.c1.type = netcat
a1.sources.c1.bind = bigdata111
a1.sources.c1.port = 6666

# 配置sink
a1.sinks.s1.type=avro
a1.sinks.s1.hostname=bigdata113
a1.sinks.s1.port=5008

# 配置channel
a1.channels.k1.type=memory
a1.channels.k1.capacity=1000
a1.channels.k1.transactionCapacity=1000

# 双向绑定
a1.sources.c1.channels = k1
a1.sinks.s1.channel = k1

5.6.2 创建flume2配置文件

​ flume2(agent2)监控本地文件变化,将数据sink到flume3(agent3);

​ 在myconf目录下新建agent文件:flume-fanin-2.conf

​ 配置内容如下:

# 配置agent
a2.sources = c1
a2.channels = k1
a2.sinks = s1

# 配置source
a2.sources.c1.type = exec
a2.sources.c1.command = tail -F /opt/ceshi.log
a2.sources.c1.shell=/bin/bash -c

# 配置sink
a2.sinks.s1.type=avro
a2.sinks.s1.hostname=bigdata113
a2.sinks.s1.port=5008

# 配置channel
a2.channels.k1.type=memory
a2.channels.k1.capacity=1000
a2.channels.k1.transactionCapacity=1000

# 双向绑定
a2.sources.c1.channels = k1
a2.sinks.s1.channel = k1

5.6.3 创建flume3配置文件

​ flume3(agent3)接收flume1和flume2的数据,将数据sink到HDFS ;

​ 在myconf目录下新建agent文件:flume-fanin-3.conf

​ 配置内容如下:

# 配置agent
a3.sources = c1
a3.channels = k1
a3.sinks = s1

# 配置source
a3.sources.c1.type = avro
a3.sources.c1.bind = bigdata113
a3.sources.c1.port = 5008

# 配置sink
a3.sinks.s1.type=hdfs
a3.sinks.s1.hdfs.path=hdfs://bigdata111:9000/flume3/%H
# 上传文件的前缀
a3.sinks.s1.hdfs.filePrefix = flume3-
# 是否按照时间滚动文件夹
a3.sinks.s1.hdfs.round = true
# 多少时间单位创建一个新的文件夹
a3.sinks.s1.hdfs.roundValue = 1
# 重新定义时间单位
a3.sinks.s1.hdfs.roundUnit = hour
# 是否使用本地时间戳
a3.sinks.s1.hdfs.useLocalTimeStamp = true
# 积攒多少个Event才flush到HDFS一次
a3.sinks.s1.hdfs.batchSize = 1000
# 设置文件类型,可支持压缩
a3.sinks.s1.hdfs.fileType = DataStream
# 多久生成一个新的文件
a3.sinks.s1.hdfs.rollInterval = 600
# 设置每个文件的滚动大小大概是128M
a3.sinks.s1.hdfs.rollSize = 134217700
# 文件的滚动与Event数量无关
a3.sinks.s1.hdfs.rollCount = 0
# 最小冗余数
a3.sinks.s1.hdfs.minBlockReplicas = 1

# 配置channel
a3.channels.k1.type=memory
a3.channels.k1.capacity=1000
a3.channels.k1.transactionCapacity=1000

# 双向绑定
a3.sources.c1.channels = k1
a3.sinks.s1.channel = k1

5.6.4 启动三个flume配置文件

flume1:

[aaa@qq.com myconf]# flume-ng agent -c ../conf/ -n a1 -f flume-fanout1.conf -Dflume.root.logger==INFO,console

flume2:

[aaa@qq.com myconf]# flume-ng agent -c ../conf/ -n a2 -f flume-fanout2.conf 

flume3:

[aaa@qq.com myconf]# flume-ng agent -c ../conf/ -n a3 -f flume-fanout3.conf 

5.6.5 操作端口与文件

新开xshell选项卡,链接bigdata111服务器,然后执行telnet命令:

[aaa@qq.com ~]# telnet bigdata111 6666
Trying 192.168.1.111...
Connected to bigdata111.
Escape character is '^]'.
english
OK
chinese
OK
hello
OK
.net
OK
php
OK
java
OK

新开xshell选项卡,链接bigdata112服务器,然后向/opt/ceshi.log添加新内容:

[aaa@qq.com ~]# cd /opt/
[aaa@qq.com opt]# ls
ceshi.log  ha  module  soft  zookeeper.out
[aaa@qq.com opt]# cat ceshi.log
start-log-in
end-log
[aaa@qq.com opt]# echo `date` >> ceshi.log
[aaa@qq.com opt]# echo "end-log" >> ceshi.log
[aaa@qq.com opt]# cat ceshi.log 
start-log-in
end-log
2019年 09月 07日 星期六 23:36:03 CST
end-log

5.6.6 显示运行结果

​ web页面结果:

​ hdfs的文件内容: