Kafka/RabbitMQ
# Kafka
# 消息是否按照时间有序,kafka分区的数据是否有序,如何保证有序
不保证按时间有序,主题在单个分区是有序的。
如何保证有序?kafka topic 只设置一个分区,或者producer将消息发送到指定分区
# Kafka为什么吞吐量高
1)顺序读写
kafka的消息是不断追加到文件中的,这个特性使kafka可以充分利用磁盘的顺序读写性能,顺序读写不需要硬盘磁头的寻道时间,只需很少的扇区旋转时间,所以速度远快于随机读写。
2)零拷贝
利用Linux kernel"零拷贝(zero-copy)"系统调用机制,就是跳过“用户缓冲区”的拷贝,建立一个磁盘空间和内存的直接映射,数据不再复制到“用户态缓冲区”。
3)分区
kafka中的topic中的内容可以被分为多分区存在,每个分区又分为多个段,所以每次操作都是针对一小部分做操作,很轻便,并且增加并行操作的能力。
4)批量发送
kafka允许进行批量发送消息,producter发送消息的时候,可以将消息缓存在本地,等到了固定条件发送到kafka
等消息条数到固定条数,一段时间发送一次。
5)数据压缩
Kafka还支持对消息集合进行压缩,Producer可以通过GZIP或Snappy格式对消息集合进行压缩
压缩的好处就是减少传输的数据量,减轻对网络传输的压力
# kafka的存储模型
https://blog.csdn.net/FlyingAngelet/article/details/84761466
# Kafka消费者多个group消费同一个topic,会重复消费吗?
不会
# Kafka保序
# Apache Pulsar
# RabbitMQ
# rabbitmq的消息投递策略
# celery在rabbitmq的默认策略
# rabbitmq的消息丢失
# celery的延时任务
# ZooKeeper