-
MQ 手写-01-概览
何时需要 MQ
当你需要使用消息队列时,首先需要考虑它的必要性。
可以使用mq的场景有很多,最常用的几种,是做业务解耦/最终一致性/广播/错峰流控等。
反之,如果需要强一致性,关注业务逻辑的处理结果,则RPC显得更为合适。
解耦
解耦是消息队列要解决的最本质问题。所谓解耦,简单点讲就是一个事务,只关心核心的流程。
而需要依赖其他系统但不那么重要的事情,有通知即可,无需等待结果。换...
2018-09-20 01:35:26 |
MQ
-
MQ Learn-01-Overview
MQ 的优势
1.通过持久性冗余
冗余是消息队列最明显的优势之一。应用程序崩溃,超时,代码中的错误以及其他问题只是常态的一部分。在每月处理数百万或数十亿交易的应用程序中尤其如此。
队列通过使读取消息的进程确认它已完成事务并且可以安全地删除它来帮助实现冗余。如果出现任何问题,最糟糕的情况是,该消息会持久保存到某处,并且不会丢失。它可以在以后重新处理。
2.交通高峰期
您并不总是确切知...
2018-09-20 01:35:26 |
MQ
-
Spring Kafka
Spring Kafka
Apache Kafka的Spring (Spring - Kafka)项目将核心Spring概念应用到基于Kafka的消息解决方案的开发中。
它提供了一个“模板”作为发送消息的高级抽象。
它还提供了对带有 @KafkaListener 注解和“侦听器容器”的消息驱动pojo的支持。
这些库促进了依赖注入和声明性的使用。
在所有这些情况下,您将看到与Spr...
2018-09-19 07:44:59 |
MQ
-
QMQ-03-顺序消费
顺序消费消息的必要性
在MQ里,顺序消息的意思是消费消息的顺序和消息发送时(单机发送)的顺序保持一致。
比如ProducerA按照顺序发送msga, msgb, msgc三条消息,那么consumer消费的时候也应该按照msga, msgb, msgc来消费。
对于顺序消息,在我们实际使用中发现,大部分业务系统并不需要或者并不依赖MQ提供的顺序机制,这些业务本身往往就能处理无序的消息,...
2018-09-19 07:44:59 |
MQ
-
QMQ-02-设计特色和项目架构
设计背景
现在市面上已经有很多消息中间件了(ActiveMQ, RabbitMQ, Kafka, RocketMQ),那么为什么我们还要造另外一个轮子呢?
首先QMQ是2012年就开始开发的,在这个时期其实消息中间件并没有太多的选择,那个时候Kafka还不太成熟,而RocketMQ也没有出现,大部分公司都会采用ActiveMQ或RabbitMQ。
首先RabbitMQ的开发语言是erl...
2018-09-19 07:44:59 |
MQ
-
QMQ-01-入门使用
QMQ
QMQ QMQ是去哪儿网内部广泛使用的消息中间件,自2012年诞生以来在去哪儿网所有业务场景中广泛的应用,包括跟交易息息相关的订单场景; 也包括报价搜索等高吞吐量场景。
目前在公司内部日常消息qps在60W左右,生产上承载将近4W+消息topic,消息的端到端延迟可以控制在10ms以内。
特性
主要提供以下特性:
异步实时消息
延迟/定时消息(支持任意秒级)
广播消息(每个...
2018-09-19 07:44:59 |
MQ
-
Kafka 为什么这么快
Kafka
Apache Kafka 也算是 MQ 的一颗新秀。
问题就是,Kafka 为什么这么快?
Kafka 使用磁盘比内存快
其实Kafka最核心的思想是使用磁盘,而不是使用内存,可能所有人都会认为,内存的速度一定比磁盘快,我也不例外。
在看了Kafka的设计思想,查阅了相应资料再加上自己的测试后,发现磁盘的顺序读写速度和内存持平。
而且Linux对于磁盘的读写优化也比较...
2018-09-19 07:44:59 |
MQ
-
竞争消费模式
竞争消费模式
使多个并发的消费者来处理同一消息收发信道接收到的消息。
这种模式使系统能够同时处理多个消息以优化吞吐量,提高扩展性和可用性,并且以平衡的工作量。
背景与问题
在云中运行的应用程序可以预期处理大量的请求。而不是过程中的每个请求的同步,常用的技术是应用程序通过消息系统来处理这些异步其它服务(消费者服务)来传递他们。
这种策略有助于确保当请求正在处理中的应用程序的业务逻辑没...
2018-09-17 08:36:54 |
Pattern