flume集群高可用连接kafka集群


大数据实时数据流传输两大组件的部署和测试,本文将讨论flume组件连接kafka集群相关内容,两组件在项目架构图的位置如下图1红圈所示:

flume NG集群前向的source是各类实时的log数据,通过flume sink将这些日志实时sink到后向kafka集群,所有flume sink其实是本架构里kafka的producer角色,kafka集群后向连接spark streaming,用于消费kafka的实时消息(log日志数据)流。


flume NG集群连接kafka集群


图3为flume NG集群连接kafka集群的示意图


  • 快速构建企业级虚拟专用网络环境-openvpn
  • CentOS替代榜单,哪个才是最佳选择
  • 对标 Notion + Obsidian ,可离线且开源免费的知识管理工具Anytype
  • 什么是AD域控,AD域控有什么作用?
  • CentOS 要到期了,快来看看有哪些替代品?
  • Notepad++平替工具(NotepadNext)实用、跨平台的文本编辑器
  • keepalived+haproxy高可用方案
  • KVM与常用企业级虚拟化产品的对比
  • 电脑装了这7个免费软件,至少还能再用5年
  • ansible自动化运维
  • DevOps与自动化运维:开启高效软件开发之旅
  • Mac平台终端软件
  • Kubernetes容器化
  • 服务器应用软件
  • Minio分布式存储应用
  • Squid 代理服务器
  • Linux安装优化部署
  • Linux+Nginx+PHP+Mysql环境部署
  • Zookeeper部署
  • ELK架构日志收集
  • Solr高可用解决方案
  • flume集群高可用连接kafka集群
  • 基于etcd的服务发现与注册
  • 使用confd和etcd建立基于Nginx的服务发现和负载均衡服务
  • LVS、Nginx 及 HAProxy 的工作原理
  • 国产数据库介绍