Flume基础架构是什么

这篇文章主要介绍“Flume基础架构是什么”,在日常操作中,相信很多人在Flume基础架构是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Flume基础架构是什么”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

创新互联公司专业为企业提供德阳网站建设、德阳做网站、德阳网站设计、德阳网站制作等企业网站建设、网页设计与制作、德阳企业网站模板建站服务,十年德阳做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。

1、Flume概述

1.1、Flume定义

       Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构,灵活简单。

Flume基础架构是什么

1.2、Flume基础架构

Flume基础架构是什么

1.2.1、Agent

       Agent是一个JVM进程,它以事件的形式将数据从源头送至目的。
       Agent主要有3个部分组成,Source、Channel、Sink。

1.2.2、Source

       Source是负责接收数据到Flume Agent的组件。Source组件可以处理各种类型、各种格式的日志数据,包括avro、thrift、exec、jms、spooling directorynetcat、sequence generator、syslog、http、legacy。

1.2.3、Channel

       Channel是位于Source和Sink之间的缓冲区。因此,Channel允许Source和Sink运作在不同的速率上。Channel是线程安全的,可以同时处理几个Source的写入操作和几个Sink的读取操作。        Flume自带两种Channel:Memory Channel和File Channel。(主要用Memory,一般银行,保险等业务需要使用File落盘)
       Memory Channel是内存中的队列。Memory Channel在不需要关心数据丢失的情景下适用。如果需要关心数据丢失,那么Memory Channel就       不应该使用,因为程序死亡、机器宕机或者重启都会导致数据丢失。
       File Channel将所有事件写到磁盘。因此在程序关闭或机器宕机的情况下不会丢失数据。

1.2.4、Sink

       Sink不断地轮询Channel中的事件且批量地移除它们,并将这些事件批量写入到存储或索引系统、或者被发送到另一个Flume Agent。
       Sink组件目的地包括hdfs、logger、avro、thrift、ipc、fileHBase、solr、自定义。

1.2.5、event

       传输单元,Flume数据传输的基本单元,以Event的形式将数据从源头送至目的地。Event由Header和Body两部分组成,Header用来存放该event的一些属性,为K-V结构,Body用来存放该条数据,形式为字节数组。
Flume基础架构是什么

到此,关于“Flume基础架构是什么”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!


当前名称:Flume基础架构是什么
文章转载:http://bzwzjz.com/article/jchpgp.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 营销型网站建设 重庆网站建设 定制级高端网站建设 网站制作 网站设计 成都网站建设 响应式网站设计 网站建设方案 网站设计制作 高端网站设计 手机网站制作 外贸网站设计方案 教育网站设计方案 app网站建设 成都做网站建设公司 定制网站制作 重庆外贸网站建设 网站建设方案 成都网站设计 外贸营销网站建设 成都网站制作 手机网站建设套餐