首页 > 运维 > linux运维 > 正文

Ubuntu Kafka集群如何搭建

星降
发布: 2025-04-14 13:06:02
原创
798人浏览过

在ubuntu上搭建kafka集群涉及多个步骤,包括安装和配置kafka以及zookeeper。以下是详细的步骤指南:

1. 安装Zookeeper集群

1.1 集群规划

在主机node1、node2和node3上部署Zookeeper。

1.2 解压安装

Apache Zookeeper官网下载Zookeeper 3.5.7版本,并在node1服务器解压到/export/server目录下,重命名为zookeeper-3.5.7。

1.3 配置服务器编号

在/export/server/zookeeper-3.5.7目录下创建zkData目录,并在其中创建一个名为myid的文件,文件内容为节点编号(例如,node1为1,node2为2,node3为3)。

1.4 配置zoo.cfg文件

  • 重命名/export/server/zookeeper-3.5.7/conf目录下的zoo_sample.cfg为zoo.cfg。
  • 编辑zoo.cfg文件,配置数据存储路径和集群服务器信息:
    dataDir=/opt/module/zookeeper-3.5.7/zkData
    
    server.1=node1_ip:2888:3888
    server.2=node2_ip:2888:3888
    server.3=node3_ip:2888:3888
    
    登录后复制
  • 将配置好的zoo.cfg文件复制到node2和node3服务器。

1.5 集群操作

在每台服务器上进入bin目录,分别执行以下命令启动Zookeeper:

./zkServer.sh start
./zkServer.sh status
登录后复制

检查状态,确保两台为Follower,一台为Leader,集群安装成功。

2. 安装Kafka集群

2.1 集群规划

在主机node1、node2和node3上部署Kafka。

Veed Video Background Remover
Veed Video Background Remover

Veed推出的视频背景移除工具

Veed Video Background Remover 69
查看详情 Veed Video Background Remover

2.2 解压安装

Apache Kafka官网下载Kafka 2.12-3.0.0版本,并在node1服务器解压到/export/server目录下,重命名为kafka-3.0.0。

2.3 配置Kafka

进入/export/server/kafka-3.0.0/config目录,编辑server.properties文件,配置以下内容:

  • broker.id:每个节点的唯一编号(例如,node1为1,node2为2,node3为3)。
  • log.dirs:Kafka日志存放路径(例如,/export/server/kafka-3.0.0/datas)。
  • zookeeper.connect:Zookeeper集群地址(例如,node1_ip:2181)。

2.4 启动Kafka

在每台服务器上进入bin目录,分别执行以下命令启动Kafka:

./kafka-server-start.sh config/server.properties
登录后复制

3. 验证集群

使用Kafka提供的命令行工具验证集群状态:

./kafka-topics.sh --list --bootstrap-server node1_ip:9092
登录后复制

注意事项

  • 确保所有节点的防火墙允许Kafka和Zookeeper使用的端口通信。
  • 根据实际需求调整Kafka和Zookeeper的配置参数,例如内存、日志存储路径等。

通过以上步骤,你可以在Ubuntu上成功搭建一个Kafka集群。如果有任何问题,请参考官方文档或相关社区资源。

以上就是Ubuntu Kafka集群如何搭建的详细内容,更多请关注php中文网其它相关文章!

Kafka Eagle可视化工具
Kafka Eagle可视化工具

Kafka Eagle是一款结合了目前大数据Kafka监控工具的特点,重新研发的一块开源免费的Kafka集群优秀的监控工具。它可以非常方便的监控生产环境中的offset、lag变化、partition分布、owner等,有需要的小伙伴快来保存下载体验吧!

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号