分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 代码编程

flume-kafka-storm-hdfs-hadoop-hbase

发布时间:2023-09-06 01:30责任编辑:苏小强关键词:暂无标签
# bigdata-test

项目地址:https://github.com/windwant/bigdata-test.git

hadoop:

???hadoop hdfs操作

???log输出到flume

???flume输出到hdfs

hbase:

???HTable基本操作:创建,删除,添加表,行,列族,列等。

kafka:

???测试 producer | consumer

storm:实时处理消息


kafka集成storm集成hdfs

???读取kafka数据=》storm实时处理(分割字符,统计字符)=》写入hdfs


* kafka消息生成方式:

* ??1. LogGenerator生成测试日志发送到flume=》

* ??2. MyKafkaProducer发送测试消息

* ??3. elasticjob定时任务模块生成测试日志


* MyKafkaStormHdfs 实时处理消息:

* ??=》读取kafka数据

* ??=》storm实时处理(分割字符,统计字符)

* ??=》写入hdfs


flume-kafka-storm-hdfs-hadoop-hbase

原文地址:http://www.cnblogs.com/niejunlei/p/8043404.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved