分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 软件开发

02_ Flume的安装部署

发布时间:2023-09-06 02:04责任编辑:白小东关键词:暂无标签

一.Flume的安装部署:

 Flume的安装非常简单,只需要解压即可,当然,前提是已有hadoop环境

 安装包的下载地址为:http://www-us.apache.org/dist/flume/1.7.0/apache-flume-1.7.0-bin.tar.gz

 1. 上传安装包到数据源所在节点上;

 2. 然后解压:tar -zxvf apache-flume-1.6.0-bin.tar.gz -C /usr/local/src/

 3. 然后进入flume的目录,修改conf下的flume-env.sh,在里面配置JAVA_HOME

 4. 根据数据采集的需求配置采集方案,描述在配置文件中(文件名可任意自定义)

 5. 指定采集方案配置文件,在相应的节点上启动flume agent

二.使用示例:

  利用Flume来实现一个从Socket网络端口中采集数据,然后下沉到logger日志中的案例(源数据:网络端口)

  1.配置采集方案:在Flume的conf目录下面编写一个netcat-logger.conf文件,内容如下:

# Name the components on this agent:a1:表示该agent的名字#给三个组件取个名字a1.sources = r1a1.sinks = k1a1.channels = c1# Describe/configure the source#类型, 从网络端口接收数据,在本机启动, 所以type=spoolDir采集目录源,目录里有就采a1.sources.r1.type = netcata1.sources.r1.bind = shizhan2a1.sources.r1.port = 44444# Describe the sinka1.sinks.k1.type = logger# Use a channel which buffers events in memory#下沉的时候是一批一批的, 下沉的时候是一个个event,Channel参数解释:#capacity:默认该通道中最大的可以存储的event事件数量#trasactionCapacity:每次最大可以从source中拿到或者送到sink中的event数量a1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100# Bind the source and sink to the channela1.sources.r1.channels = c1a1.sinks.k1.channel = c1

    2.使用下面的命令启动Flume:启动agent去采集数据

  # bin/flume-ng agent --c conf -f conf/netcat-logger.conf --n a1 -Dflume.root.logger=INFO,console

    -c conf:指定flume自身的配置文件所在目录

    -f conf/netcat-logger.conf:指定我们所描述的采集方案

    -n a1:指定我们这个agent的名字

  3.传入数据:在另一台机器上执行下面的命令:先要往agent采集监听的端口上发送数据,让agent有数据可采

  

  然后在启动flume的另一端有数据输出

  

  

 

02_ Flume的安装部署

原文地址:https://www.cnblogs.com/yaboya/p/9305201.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved