Flume学习笔记（一）安装与简单使用
发布时间
阅读量：
阅读量
本文环境如下：
操作系统：CentOS 7.2.1511 64位
Flume版本：1.6.0
1. 系统需求
Flume需要Java 1.6及以上（推荐1.7），对Agent监控目录的读写权限。
2. 下载软件包
到Flume官网上http://flume.apache.org/download.html下载软件包,例如：
wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"
tar -xzvf apache-flume-1.6.0-bin.tar.gz
mv flume-1.6.0 /opt3. 简单示例
3.1 修改配置文件
vi /opt/flume-1.6.0/conf/flume.conf输入以下内容
# 指定Agent的组件名称
a1.sources = r1
a1.sinks = k1
a1.channels = c1
# 指定Flume source(要监听的路径)
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/path
# 指定Flume sink
a1.sinks.k1.type = logger
# 指定Flume channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# 绑定source和sink到channel上
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c13.2 启动flume agent
cd /opt/flume-1.6.0
bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console| 参数 | 作用 | 举例 |
|---|---|---|
| –conf 或 -c | 指定配置文件夹，包含flume-env.sh和log4j的配置文件 | –conf conf |
| –conf-file 或 -f | 配置文件地址 | –conf-file conf/flume.conf |
| –name 或 -n | agent名称 | –name a1 |
| -z | zookeeper连接字符串 | -z zkhost:2181,zkhost1:2181 |
| -p | zookeeper中的存储路径前缀 | -p /flume |
3.3 写入日志内容
vi 1.log写入Hello Flume.作为测试内容。然后拷贝到flume监听路径。
cp 1.log /root/path/接着就可以在前一个终端看到刚刚采集的内容了,如下：
2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D Hello Flume. }至此flume已经能够正常运行。
全部评论 (0)
还没有任何评论哟~