如何在CentOS 7上安装Apache Kafka

Apache Kafka是一个可伸缩的高吞吐量消息传递系统,能够有效处理大量数据。

您可以将Kafka部署在一台服务器上,也可以构建分布式Kafka集群以提高性能。首先,本文介绍如何在单个Vultr CentOS 7服务器实例上安装Apache Kafka。

先决条件:

在继续之前,您应该:

  • 部署Vultr CentOS 7服务器实例。根据需要,您可能需要增加可用内存。
  • 使用sudo用户从SSH终端登录。

步骤1:更新CentOS 7系统

使用以下命令将系统更新到最新的稳定状态:

sudo yum update -y && sudo reboot

重新启动完成后,使用相同的sudo用户再次登录。

步骤2:安装OpenJDK运行时

您需要先在系统上设置Java虚拟机,然后才能正确运行Apache Kafka。在这里,您可以使用YUM安装OpenJDK Runtime Environment 1.8.0:

sudo yum install java-1.8.0-openjdk.x86_64

使用以下命令验证安装:

java -version

输出应类似于:

openjdk version "1.8.0_91"
OpenJDK Runtime Environment (build 1.8.0_91-b14)
OpenJDK 64-Bit Server VM (build 25.91-b14, mixed mode)

您还需要设置“ JAVA_HOME”和“ JRE_HOME”环境变量:

sudo vi /etc/profile

将以下行添加到文件的原始内容中:

export JAVA_HOME=/usr/lib/jvm/jre-1.8.0-openjdk
export JRE_HOME=/usr/lib/jvm/jre

保存并退出:

:wq

重新加载配置文件以使您的更改生效:

source /etc/profile

步骤3:下载Apache Kafka

从官方网站下载Apache Kafka的最新稳定版本。在撰写本文时,它是0.9.0.1

cd ~
wget http://www-us.apache.org/dist/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz

将档案解压缩到首选位置,例如/opt

tar -xvf kafka_2.11-0.9.0.1.tgz
sudo mv kafka_2.11-0.9.0.1 /opt

步骤4:启动并测试Apache Kafka

此时,您的系统上可以使用Apache Kafka。让我们试驾一下。

4.1:进入Kafka目录

cd /opt/kafka_2.11-0.9.0.1

4.2:启动Zookeeper服务器

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

4.3:修改Kafka服务器的配置

 vi bin/kafka-server-start.sh

根据您的特定系统参数调整内存使用量。例如,如果在测试环境中使用的内存为768MB的Vultr服务器实例,则需要找到以下行:

export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"

替换为:

export KAFKA_HEAP_OPTS="-Xmx256M -Xms128M"

保存退出:

:wq

4.4:启动Kafka服务器

bin/kafka-server-start.sh config/server.properties

如果一切顺利,您将看到一些有关Kafka服务器状态的消息,最后一条将显示:

INFO [Kafka Server 0], started (kafka.server.KafkaServer)

这意味着您已经启动了Kafka服务器。

4.5:在新的SSH连接中创建主题“测试”

打开一个新的SSH连接,使用以下命令创建主题“ test”:

cd /opt/kafka_2.11-0.9.0.1
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

您可以使用以下命令查看主题:

bin/kafka-topics.sh --list --zookeeper localhost:2181

在我们的例子中,输出将显示为:

test

4.6:使用主题“测试”生成消息

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

使用上面的命令,您可以根据需要输入任意数量的消息,例如:

Welcome aboard!
Bonjour!

如果您收到与"WARN Error while fetching metadata with correlation id"输入消息时类似的错误,则需要server.properties使用以下信息更新文件:

port = 9092
advertised.host.name = localhost 

4.7:显示消息

打开第三个SSH连接,然后运行以下命令:

cd /opt/kafka_2.11-0.9.0.1
bin/kafka-console-consumer.sh --zookeeper localhost:9092 --topic test --from-beginning

- 您先前生成的消息将显示在第三个SSH连接中。当然,如果您现在从第二个SSH连接输入更多消息,您将立即在第三个SSH连接上看到它们。

最后,您可以在每个SSH连接上按Ctrl + C组合键以停止这些脚本。

而已。您可以在官方网站上了解有关Apache Kafka的更多信息。玩得开心!

留下評論

在Arch Linux上使用Makepkg

在Arch Linux上使用Makepkg

在Arch Linux上使用Makepkg可以避免系统污染,确保仅安装必要的依赖关系。

如何在Ubuntu 16.04上安装OpenSIPS控制面板

如何在Ubuntu 16.04上安装OpenSIPS控制面板

快速学习如何在Ubuntu 16.04上安装OpenSIPS控制面板,为VoIP提供商提供支持的功能。

在Fedora 28上安装Akaunting

在Fedora 28上安装Akaunting

学习如何在Fedora 28上安装Akaunting,一款适合小型企业和自由职业者的开源会计软件。

如何在CentOS 7上安装Mailtrain新闻通讯应用程序

如何在CentOS 7上安装Mailtrain新闻通讯应用程序

使用其他系统?Mailtrain是一个基于Node.js和MySQL / MariaDB构建的开源自托管新闻通讯应用程序。

诊断Minecraft服务器延迟和低TPS

诊断Minecraft服务器延迟和低TPS

了解導致Minecraft延遲的原因和解決方案,包括優化伺服器性能和減少滯後的步驟。

AI 能否應對越來越多的勒索軟件攻擊?

AI 能否應對越來越多的勒索軟件攻擊?

勒索軟件攻擊呈上升趨勢,但人工智能能否幫助應對最新的計算機病毒?AI 是答案嗎?在這裡閱讀知道是 AI 布恩還是禍根

ReactOS:這是 Windows 的未來嗎?

ReactOS:這是 Windows 的未來嗎?

ReactOS,一個開源和免費的操作系統,這裡有最新版本。它能否滿足現代 Windows 用戶的需求並打倒微軟?讓我們更多地了解這種老式但更新的操作系統體驗。

通過 WhatsApp 桌面應用程序 24*7 保持聯繫

通過 WhatsApp 桌面應用程序 24*7 保持聯繫

Whatsapp 終於為 Mac 和 Windows 用戶推出了桌面應用程序。現在您可以輕鬆地從 Windows 或 Mac 訪問 Whatsapp。適用於 Windows 8+ 和 Mac OS 10.9+

人工智能如何將流程自動化提升到新的水平?

人工智能如何將流程自動化提升到新的水平?

閱讀本文以了解人工智能如何在小型公司中變得流行,以及它如何增加使它們成長並為競爭對手提供優勢的可能性。

macOS Catalina 10.15.4 補充更新引發的問題多於解決

macOS Catalina 10.15.4 補充更新引發的問題多於解決

最近,Apple 發布了 macOS Catalina 10.15.4 補充更新以修復問題,但似乎該更新引起了更多問題,導致 mac 機器變磚。閱讀這篇文章以了解更多信息