kafka的基本介绍【博学谷学习记录】
创始人
2024-03-17 03:52:39

1. 消息队列

消息: 数据 只不过这个数据具有一种流动状态
队列: 存储数据的容器 只不过这个容器具有FIFO(先进先出)特性

消息队列: 数据在队列中, 从队列的一端传递到另一端的过程, 数据在整个队列中产生一种流动状态

2.常见消息队列的产品

  • 1- ActiveMQ: 出现时间比较早的一款消息队列的组件, 目前整个社区活跃度非常低, 此软件使用人群也在不断的减少, 此软件在前几年中被Java工程师主要使用

  • 2- RabbitMQ: 目前在Java领域中使用非常频繁的一款消息队列的产品, 其社区活跃度相对不错, 支持多种语言开发

  • 3- RocketMQ: 是由阿里推出一款的消息队列的中间件产品, 目前主要是在阿里系范围内使用, 目前支持的开发语言相对较少一些, 比如成熟的客户端还是JAVA

  • 4- Kafka: 是一款大数据领域下的消息队列的产品, 主要应用在大数据领域在, 在业务领域中使用较少

  • 5- Pulsar: 最近一两年新起的一款消息队列的组件, 也是Aapache顶级开源项目, 目前主要由StreamNative公司进行商业运营中

3.消息队列的作用是什么

  • 1- 同步转异步

  • 2- 应用解耦合

  • 3- 流量削峰 : 在秒杀场景中, 突然会有庞大的并发量, 但是过后就没有了

  • 4- 消息驱动系统

4.消息队列的两种消费模型

  • 点对点: 数据被生产到容器后, 最终这个数据只能被一个消费方来消费数据

  • 发布订阅: 数据被生产到容器后, 可以被多个消费方同时接收到

5.Kafka的基本介绍

Kafka是Apache旗下的一款开源免费的消息队列的中间件产品,最早是由领英公司开发的, 后期共享给Apache, 目前已经是Apache旗下的顶级开源的项目, 采用语言为Scala

适用场景: 数据传递工作, 需要将数据从一端传递到另一端, 此时可以通过Kafka来实现, 不局限两端的程序

在实时领域中, 主要是用于流式的数据处理工作

6.kafka的架构

Kafka Cluster: kafka集群
broker: kafka的节点
producer: 生产者
consumer: 消费者
Topic: 主题/话题 理解就是一个大的逻辑容器(管道)
    shard: 分片. 一个Topic可以被分为N多个分片, 分片的数量与节点数据没有关系
    replicas: 副本, 可以对每一个分片构建多个副本, 副本数量最多和节点数量一致(包含本身) 保证数据不丢失
zookeeper: 存储管理集群的元数据信息

相关内容

热门资讯

东莞证券北交所基金观察(260... 美东时间6月5日,美国劳工部统计局(BLS)发布 5 月非农就业报告新增非农就业人数为17.2 万,...
海思科股价涨3.05%,工银瑞... 6月10日,海思科涨3.05%,截至发稿,报48.70元/股,成交1.09亿元,换手率0.42%,总...
海思科股价涨3.05%,中信建... 6月10日,海思科涨3.05%,截至发稿,报48.70元/股,成交1.10亿元,换手率0.43%,总...
开发科技股价跌3.29%,创金... 6月10日,开发科技跌3.29%,截至发稿,报39.68元/股,成交1783.62万元,换手率0.2...
江丰电子股价涨3.27%,创金... 6月10日,江丰电子涨3.27%,截至发稿,报232.23元/股,成交26.78亿元,换手率5.35...