RabbitMQ的应用场景以及基本原理介绍

本博客强烈推荐：

java电子书高清pdf集合免费下载

1.背景

rabbitmq是一个由erlang开发的amqp(advanved message queue)的开源实现。

2.应用场景

2.1异步处理

场景说明：用户注册后，需要发注册邮件和注册短信,传统的做法有两种1.串行的方式;2.并行的方式

(1)串行方式:将注册信息写入数据库后,发送注册邮件,再发送注册短信,以上三个任务全部完成后才返回给客户端。 这有一个问题是,邮件,短信并不是必须的,它只是一个通知,而这种做法让客户端等待没有必要等待的东西.

(2)并行方式:将注册信息写入数据库后,发送邮件的同时,发送短信,以上三个任务完成后,返回给客户端,并行的方式能提高处理的时间。

假设三个业务节点分别使用50ms,串行方式使用时间150ms,并行使用时间100ms。虽然并性已经提高的处理时间,但是,前面说过,邮件和短信对我正常的使用网站没有任何影响，客户端没有必要等着其发送完成才显示注册成功,英爱是写入数据库后就返回.

(3)消息队列

引入消息队列后，把发送邮件,短信不是必须的业务逻辑异步处理

由此可以看出,引入消息队列后，用户的响应时间就等于写入数据库的时间+写入消息队列的时间(可以忽略不计),引入消息队列后处理后,响应时间是串行的3倍,是并行的2倍。

 

2.2 应用解耦

场景：双11是购物狂节,用户下单后,订单系统需要通知库存系统,传统的做法就是订单系统调用库存系统的接口.

这种做法有一个缺点:

当库存系统出现故障时,订单就会失败。(这样马云将少赚好多好多钱^ ^)

订单系统和库存系统高耦合.

引入消息队列

 

订单系统:用户下单后,订单系统完成持久化处理,将消息写入消息队列,返回用户订单下单成功。

库存系统:订阅下单的消息,获取下单消息,进行库操作。

就算库存系统出现故障,消息队列也能保证消息的可靠投递,不会导致消息丢失(马云这下高兴了).

流量削峰

流量削峰一般在秒杀活动中应用广泛

场景:秒杀活动，一般会因为流量过大，导致应用挂掉,为了解决这个问题，一般在应用前端加入消息队列。

作用:

1.可以控制活动人数，超过此一定阀值的订单直接丢弃(我为什么秒杀一次都没有成功过呢^^)

2.可以缓解短时间的高流量压垮应用(应用程序按自己的最大处理能力获取订单)

1.用户的请求,服务器收到之后,首先写入消息队列,加入消息队列长度超过最大值,则直接抛弃用户请求或跳转到错误页面.

2.秒杀业务根据消息队列中的请求信息，再做后续处理.

 

3.系统架构

几个概念说明:

broker:它提供一种传输服务,它的角色就是维护一条从生产者到消费者的路线，保证数据能按照指定的方式进行传输,

exchange：消息交换机,它指定消息按什么规则,路由到哪个队列。

queue:消息的载体,每个消息都会被投到一个或多个队列。

binding:绑定，它的作用就是把exchange和queue按照路由规则绑定起来.

routing key:路由关键字,exchange根据这个关键字进行消息投递。

vhost:虚拟主机,一个broker里可以有多个vhost，用作不同用户的权限分离。

producer:消息生产者,就是投递消息的程序.

consumer:消息消费者,就是接受消息的程序.

channel:消息通道,在客户端的每个连接里,可建立多个channel.

 

4.任务分发机制

4.1round-robin dispathching循环分发

rabbbitmq的分发机制非常适合扩展,而且它是专门为并发程序设计的,如果现在load加重,那么只需要创建更多的consumer来进行任务处理。

4.2message acknowledgment消息确认

为了保证数据不被丢失,rabbitmq支持消息确认机制,为了保证数据能被正确处理而不仅仅是被consumer收到,那么我们不能采用no-ack，而应该是在处理完数据之后发送ack.

在处理完数据之后发送ack,就是告诉rabbitmq数据已经被接收,处理完成,rabbitmq可以安全的删除它了.

如果consumer退出了但是没有发送ack,那么rabbitmq就会把这个message发送到下一个consumer，这样就保证在consumer异常退出情况下数据也不会丢失.

rabbitmq它没有用到超时机制.rabbitmq仅仅通过consumer的连接中断来确认该message并没有正确处理，也就是说rabbitmq给了consumer足够长的时间做数据处理。

如果忘记ack,那么当consumer退出时,mesage会重新分发,然后rabbitmq会占用越来越多的内存.

5.message durability消息持久化

要持久化队列queue的持久化需要在声明时指定durable=true;

这里要注意,队列的名字一定要是broker中不存在的,不然不能改变此队列的任何属性.

队列和交换机有一个创建时候指定的标志durable,durable的唯一含义就是具有这个标志的队列和交换机会在重启之后重新建立,它不表示说在队列中的消息会在重启后恢复

消息持久化包括3部分

1.exchange持久化,在声明时指定durable => true

hannel.exchangedeclare(exchangename, "direct", durable: true, autodelete: false, arguments: null);//声明消息队列，且为可持久化的

2.queue持久化,在声明时指定durable => true

channel.queuedeclare(queuename, durable: true, exclusive: false, autodelete: false, arguments: null);//声明消息队列，且为可持久化的

3.消息持久化,在投递时指定delivery_mode => 2(1是非持久化).

channel.basicpublish("", queuename, messageproperties.persistent_text_plain, msg.getbytes());  

如果exchange和queue都是持久化的,那么它们之间的binding也是持久化的,如果exchange和queue两者之间有一个持久化，一个非持久化,则不允许建立绑定.

注意：一旦创建了队列和交换机,就不能修改其标志了,例如,创建了一个non-durable的队列,然后想把它改变成durable的,唯一的办法就是删除这个队列然后重现创建。

6.fair dispath 公平分发

你可能也注意到了,分发机制不是那么优雅,默认状态下,rabbitmq将第n个message分发给第n个consumer。n是取余后的,它不管consumer是否还有unacked message，只是按照这个默认的机制进行分发.

那么如果有个consumer工作比较重,那么就会导致有的consumer基本没事可做,有的consumer却毫无休息的机会,那么,rabbit是如何处理这种问题呢?

通过basic.qos方法设置prefetch_count=1，这样rabbitmq就会使得每个consumer在同一个时间点最多处理一个message，换句话说,在接收到该consumer的ack前,它不会将新的message分发给它

channel.basic_qos(prefetch_count=1) 

注意，这种方法可能会导致queue满。当然，这种情况下你可能需要添加更多的consumer，或者创建更多的virtualhost来细化你的设计。

7.分发到多个consumer

7.1exchange

先来温习以下交换机路由的几种类型:

direct exchange:直接匹配,通过exchange名称+rountingkey来发送与接收消息.

fanout exchange:广播订阅,向所有的消费者发布消息,但是只有消费者将队列绑定到该路由器才能收到消息,忽略routing key.

topic exchange：主题匹配订阅,这里的主题指的是routingkey,routingkey可以采用通配符,如:*或#，routingkey命名采用.来分隔多个词,只有消息这将队列绑定到该路由器且指定routingkey符合匹配规则时才能收到消息;

headers exchange:消息头订阅,消息发布前,为消息定义一个或多个键值对的消息头,然后消费者接收消息同时需要定义类似的键值对请求头:(如:x-mactch=all或者x_match=any)，只有请求头与消息头匹配,才能接收消息,忽略routingkey.

默认的exchange:如果用空字符串去声明一个exchange，那么系统就会使用”amq.direct”这个exchange，我们创建一个queue时,默认的都会有一个和新建queue同名的routingkey绑定到这个默认的exchange上去

channel.basicpublish("", "taskqueue", properties, bytes);

因为在第一个参数选择了默认的exchange，而我们申明的队列叫taskqueue，所以默认的，它在新建一个也叫taskqueue的routingkey，并绑定在默认的exchange上，导致了我们可以在第二个参数routingkey中写taskqueue，这样它就会找到定义的同名的queue，并把消息放进去。

如果有两个接收程序都是用了同一个的queue和相同的routingkey去绑定direct exchange的话，分发的行为是负载均衡的，也就是说第一个是程序1收到，第二个是程序2收到，以此类推。

如果有两个接收程序用了各自的queue，但使用相同的routingkey去绑定direct exchange的话，分发的行为是复制的，也就是说每个程序都会收到这个消息的副本。行为相当于fanout类型的exchange。

下面详细来说:

7.2 bindings 绑定

绑定其实就是关联了exchange和queue，或者这么说:queue对exchange的内容感兴趣,exchange要把它的message deliver到queue。

7.3direct exchange

driect exchange的路由算法非常简单:通过bindingkey的完全匹配，可以用下图来说明.

exchange和两个队列绑定在一起,q1的bindingkey是orange，q2的binding key是black和green.

当producer publish key是orange时,exchange会把它放到q1上,如果是black或green就会到q2上,其余的message被丢弃.

7.4 multiple bindings

多个queue绑定同一个key也是可以的,对于下图的例子,q1和q2都绑定了black,对于routing key是black的message，会被deliver到q1和q2，其余的message都会被丢弃.

7.5 topic exchange

对于message的routing_key是有限制的，不能使任意的。格式是以点号“.”分割的字符表。比如：”stock.usd.nyse”, “nyse.vmw”, “quick.orange.rabbit”。你可以放任意的key在routing_key中，当然最长不能超过255 bytes。

对于routing_key，有两个特殊字符

*(星号)代表任意一个单词

#(hash)0个或多个单词

producer发送消息时需要设置routing_key，routing_key包含三个单词和连个点号o,第一个key描述了celerity(灵巧),第二个是color(色彩),第三个是物种:

在这里我们创建了两个绑定： q1 的binding key 是”.orange.“； q2 是 “..rabbit” 和 “lazy.#”：

q1感兴趣所有orange颜色的动物

q2感兴趣所有rabbits和所有的lazy的.

例子:rounting_key 为 “quick.orange.rabbit”将会发送到q1和q2中

rounting_key 为”lazy.orange.rabbit.hujj.ddd”会被投递到q2中,#匹配0个或多个单词。

8.消息序列化

rabbitmq使用protobuf序列化消息,它可作为rabbitmq的message的数据格式进行传输,由于是结构化的数据,这样就极大的方便了consumer的数据高效处理,当然也可以使用xml，与xml相比,protobuf有以下优势:

1.简单

2.size小了3-10倍

3.速度快了20-100倍

4.易于编程

6.减少了语义的歧义.

，protobuf具有速度和空间的优势，使得它现在应用非常广泛