在Kafka集群搭建好以后通常会进行测试,测试包括写入压力测试、消费速度测试,Kafka 本身提供了对应的方法,直接使用即可。
创建测试 topic
./bin/kafka-topics.sh --zookeeper node1:2181,node2:2181:node3:2181 --create --replication-factor 2 --partitions 24 --topic test-perf-1
# --replication-factor 副本数为2
# --partitions 24 分区数为24
测试写入速度
./bin/kafka-producer-perf-test.sh --producer-props bootstrap.servers="node1:9092,node2:9092,node3:9092" --topic test-perf-1 --num-records 10000000 --record-size 512 --throughput 10000000
# --num-records 总共需要发送的消息数
# --record-size 每条消息的字节数
# --throughput 每秒钟发送的消息数
测试消费速度
./bin/kafka-consumer-perf-test.sh --broker-list "node1:9092,node2:9092,node3:9092" --topic test-perf-1 --fetch-size 10000000 --messages 10000000 --threads 1
# --fetch-size 指定每次fetch的数据的字节数
# --messages 总共要消费的消息条数
# --threads 指定消费者线程数量