RabbitMQ实战应用技巧
1. rabbitmq实战应用技巧
1.1. 前言
由于项目原因,之后会和rabbitmq比较多的打交道,所以让我们来好好整理下rabbitmq的应用实战技巧,尽量避免日后的采坑
1.2. 概述
rabbitmq有几个重要的概念:虚拟主机,交换机,队列和绑定
- 虚拟主机:一个虚拟主机持有一组交换机、队列和绑定,我们可以从虚拟主机层面的颗粒度进行权限控制
- 交换机:exchange用于转发消息,它并不存储消息,如果没有queue队列绑定到exchange,它会直接丢弃掉生产者发来的数据。
交换机还有个关联的重要概念:路由键,消息转发到哪个队列根据路由键决定 - 绑定:就是绑定交换机和队列,它是多对多的关系,也就是说多个交换机可以绑同一个队列,也可以一个交换机绑多个队列
1.3. 交换机
交换机有四种类型的模式direct, topic, headers and fanout
1.3.1. direct exchage
direct模式使用的是rabbitmq的默认交换机,也是最简单的模式,适合比较简单的场景
如下图所示,使用direct模式,我们需要创建不同的队列,而默认交换机则通过routing key
路由键的值来决定转发到哪个队列,可以看到,路由键绑定队列是可以指定多个的
1.3.2. topic exchange
topic模式主要是根据通配符匹配,也就类似于模糊匹配,当这种匹配模式和路由键匹配后交换机就能转发消息到指定队列
- 路由键为一串字符串,由句号(
.
)隔开,比如a.b.c
- (
*
)代表指定位置一个单词,(#
)代表零个或者多个单词,比如a.*.b.#
,表示a和b中间随意填个单词,b后面可以跟n个单词,比如a.x.b.c.d.e
topic模式和direct模式的区别在于交换机需要自己指定,路由键支持模糊匹配,例如:
rabbittemplate.convertandsend("topicexchange","a.x.b.d", " hello world!");
1.3.3. headers exchage
headers也是根据规则匹配,但它不是根据路由键了,headers有个自定义匹配规则,它将匹配键值设在了消息的headers属性上,当这些键值对有一对或者全部匹配时,消息才会被投递到对应队列,这种模式效率相对较低,一般不推荐使用
1.3.4. fanout exchange
fanout即为大名鼎鼎的广播模式了,它不需要管路由键,会把消息发给绑定它的全部队列,就算配置了路由键也会被忽略
1.4. 复杂情况
- 首先我们direct模式,一个生产者一个消费者的情况,也就对应了一个发送者和一个队列a接收,这是没有疑问的,发送什么接收什么
- 当direct模式,一个生产者发消息,开启多个消费者也就是多个相同queue,此时消息由多个消费者均匀分摊,不会重复消费(前提ack正常)
- 当topic模式,一个交换机绑定两个队列,路由键有重叠关系,如下代码,此时指定路由键
topic.message
发送消息,队列queuemessage
和queuemessages
都能接收到相同消息,也就是说,topic模式可以实现类似于广播模式的形式,甚至更加灵活,它能否转发到消息由路由键决定。 - 相比于fanout模式,我们如果要对消费者队列分组发送,我们需要指定不同的路由键;而fanout模式则需要指定不同的交换机和队列绑定,实际使用结合实际情况
@configuration public class topicrabbitconfig { final static string message = "topic.message"; final static string messages = "topic.messages"; @bean public queue queuemessage() { return new queue(topicrabbitconfig.message); } @bean public queue queuemessages() { return new queue(topicrabbitconfig.messages); } @bean topicexchange exchange() { return new topicexchange("exchange"); } @bean binding bindingexchangemessage(queue queuemessage, topicexchange exchange) { return bindingbuilder.bind(queuemessage).to(exchange).with("topic.message"); } @bean binding bindingexchangemessages(queue queuemessages, topicexchange exchange) { return bindingbuilder.bind(queuemessages).to(exchange).with("topic.#"); } }
1.5. springboot配置
我们的常用配置如下
spring.rabbitmq.addresses=localhost:5672 spring.rabbitmq.username=user spring.rabbitmq.password=123456 spring.rabbitmq.virtual-host=/ spring.rabbitmq.connection-timeout=1000 ##设置监听限制:最大10,默认5 spring.rabbitmq.listener.simple.concurrency=5 spring.rabbitmq.listener.simple.max-concurrency=10 spring.rabbitmq.publisher-confirms=true spring.rabbitmq.publisher-returns=true spring.rabbitmq.template.mandatory=true spring.rabbitmq.listener.simple.acknowledge-mode=manual
其中最后四条配置需要着重解释:
-
spring.rabbitmq.publisher-confirms
为true,表示生产者消息发出后,mq的broker接收到了消息,发送回执表示确认接收,不设置则可能导致消息丢失 -
spring.rabbitmq.publisher-returns
为true,表示当消息不能到达mq的broker端,,则使用监听器对不可达的消息做后续处理,这种一般是路由键没配好,或mq宕机才可能发生 -
spring.rabbitmq.template.mandatory
当上面两个为true时,这个一定要配true,否则上面两个不起作用 -
spring.rabbitmq.listener.simple.acknowledge-mode
这个为manual
表示手工确认,实际生产应该设为手工,才能保证你的业务是处理完成的,注意业务的幂等性,可重复调用,手工确认代码如下例子
@component public class rabbitreceiver { @rabbitlistener(bindings = @queuebinding( value = @queue(value = "queue-1", durable="true"), exchange = @exchange(value = "exchange-1", durable="true", type= "topic", ignoredeclarationexceptions = "true"), key = "springboot.*" ) ) @rabbithandler public void onmessage(message message, channel channel) throws exception { system.err.println("--------------------------------------"); system.err.println("消费端payload: " + message.getpayload()); long deliverytag = (long)message.getheaders().get(amqpheaders.delivery_tag); //手工ack,获取deliverytag channel.basicack(deliverytag, false); } }
1.6. 队列属性
- queue : 队列的名字
- durable : 为true表示队列中数据持久化到磁盘,可以防止mq宕机重启数据丢失
- exclusive : 为true表示排他性,只允许一个当前连接访问该队列,当前已连接就不允许新的连接进入否则报错,当连接断开当前队列会销毁
- autodelete : 为true表示自动删除,当没有connection连接到队列的时候,会自动删除
-
arguments : 这个参数用来添加一些额外参数的,如下图片
- 比如添加
x-message-ttl
为5000,则表示消息超过5秒没被处理就会超时过期; -
x-expires
设置120000表示队列在2分钟内没被消费则被删除; -
x-max-length
,x-max-length-bytes
表示传送数据的最大长度和字节数 -
x-dead-letter-exchange
,x-dead-letter-routing-key
表示死信交换机和死信路由,放在需要过期或处理失败的队列属性中,这些数据会转发到死信队列存储起来,创建普通的交换机和队列绑定,把交换机名填到x-dead-letter-exchange
的值,填写路由键要符合死信队列的路由键 -
x-max-priority
,表示设置优先级,范围为0~255,只有当消息堆积的时候,这个优先级才有意义,数字越大优先级越高 -
x-queue-mode
当为lazy
,表示惰性队列,3.6.0之后才被引入的概念,相比默认的模式,惰性队列模式会将生产者产生的消息直接存到磁盘中,这当然会增加io开销,但适合应对大量消息堆积的情况;因为当大量消息堆积时,内存也不够存放,会将消息转存到磁盘,这个过程也是比较耗时且过程中不能接收新的消息。如果需要将普通队列转换成惰性队列需要将原来的队列删除,重新创建个惰性队列绑定。
- 比如添加
1.7. 交换机属性
- exchange : 交换机名称
- type : 交换机类型
- durable : 持久化,同队列
- autodelete : 是否自动删除,同队列
- internal : 若为true,表示这个exchange不可以被client用来推送消息,仅用来进行exchange和exchange之间的绑定。
- arguments : 额外参数,目前只有个
alternate-exchange
,表示当生产者发送消息到这个交换机,路由不到该交换机的队列,则会尝试这个参数指定的交换机进行路由,若路由键匹配,则路由到alternate-exchange
指定的队列,相当于转发了,刚好和上一个参数internal
配合,若不想本交换机起到路由队列的作用,可以设置internal
为true,把消息都转发到alternate-exchange
指定的交换机,由该交换机来路由指定队列,- 如下图:
exchange0
设置了alternate-exchange
交换机为exchange1
,生产者发送数据到exchange0
路由键为test1
,在exchange0
路由不到,则转发到exchange1
判断路由符合,发送到队列queue1
- 如下图:
1.8. 磁盘和内存
在rabbitmq的管理界面,当我们集群部署时可以看到nodes节点中info字段可能为disc
也可能ram
,表示了磁盘存储或内存储存。事实上,在集群部署的时候,我们至少要一个磁盘储存,它代表了将交换机,队列,绑定,用户等元数据持久化保存到磁盘,一遍重启rabbitmq也能恢复到原先的状态,当只有一个节点时,必定是磁盘存储;而内存储存也有它的优势,就是效率更高速度更快
1.9. 报错案例
- 当报下列错误,表示你一定存在排他性队列,也就是设置了
exclusive
属性的队列,由于同一个连接创建的不同通道可以访问同一个队列,此时由于这个排他属性会得到资源被锁定错误,也就是下列的错误。 - 由此我们可以知道,若你把队列设置成了
exclusive
属性的,那么就别创建新的连接去访问同一个队列
esource_locked - cannot obtain exclusive access to locked queue xxxxxx
今日教学视频:rabbitmq消息队列从入门到精通,长按图片到百度云
欢迎关注公众号,一起学习进步
上一篇: 记录一次gdb debug经历
下一篇: C#使用Emgu CV来进行图片人脸检测