分布式Redis Cluster集群搭建与Redis基本用法
redis 集群搭建
redis 是啥
redis(全称 remote dictionary server) 是 nosql 型数据存储程序,其使用了内存来存储数据结构,可以作为数据库、缓存、消息代理使用。
redis 使用键值来映射数据,其数据结构支持 strings, hashes, lists, sets, sorted sets with range queries, bitmaps, hyperloglogs, geospatial indexes 等类型。
集群(cluster)
redis 集群的官方文档:https://redis.io/topics/cluster-tutorial
学这个的时候,建议别老是百度,还是好好啃一下官方文档,一点点学吧。
redis 支持三种集群模式:
- 主从模式
- sentinel(哨兵)模式
- cluster 模式
本章的内容包括搭建、测试和操作 redis cluster(集群)。
主从模式,一个 primary,多个 secondary ,以及副本节点。
哨兵模式,不会。
cluster 模式,主要为了提高并发能力和解决性能瓶颈。
redis cluster 说明
redis cluster 能够保证 redis 服务一定程度的可用性,当集群中一部分实例发生故障时,其余实例还能正常运行。但是如果发生较大故障,整个 redis 集群可能会停止运行。
redis 集群的每个节点都需要使用两个 tcp 端口,一个是常规提供给客户端服务的端口,如 6379;而群集总线需要使用的端口是常规端口加上 10000 ,例如 73479。
redis cluster 不支持 natted 环境,也就是不支持 docker 重新映射端口,如果要在 docker 上使用 redis 集群,则需要使用 dockers
主机模式,即启动 redis 时要附加 --net=host
参数。
redis cluster 中,提供服务的都是 主节点(redis-master),从属节点(redis-slave) 用于备份主节点的数据,当主节点故障时,从属节点可以替换主节点。
redis cluster 节点
redis 多个 redis 实例来提供功能,即分片功能,每个 redis 实例都是主节点。例如 a、b、c 三个节点集组成一个完整的 redis 系统,redis cluster 自动将数据分片(sharding),在每个节点上放置一部分数据,这三个节点都是主节点。
例如 有 100 条数据,前 40 条在 a中,剩下的在 b、c中。
没有 primary,每个主节点都可以提供服务,这样就降低了服务器的压力,尽量使得流量被多台节点平均。要删除 c ,则将 c 的数据分为两部分,分别推送到 a 和 b 中,这就是数据复制。
但是,如果 c 故障了,那么整个集群则会瘫痪,因为 a、b、c 各自的数据是不同的。这就是 redis cluster 的缺点。
更多知识,请打开官方文档了解 https://redis.io/topics/cluster-tutorial
后面使用 & 符号来代表从属节点,如 &c,代表 c 的从属节点。
redis cluster 集群模式
redis cluster 集群,每个主节点有多个从属节点,从属节点的数据于此主节点一致。
前面提到过如果某一个主节点故障,将会导致整个集群故障。因此,每个主节点都应该有一个从属节点,当 c 故障时,&c (跟 c 具有一致的数据)将代替 c 工作。但是如果 c 和 &c 都故障,则整个系统也是会故障的。
redis cluster 的工作依赖于 redis.conf 文件。
下面我们将来一步步手动建立集群,过程会比较慢,如果需要尽快建立集群,可以百度找脚本。
为了真实,笔者使用两台服务器搭建服务,共三个主节点和三个从属节点,组成六个节点群集。
不能保证一致性
当客户端向 c 节点写入数据时,c 会向 &c 写入数据以保证一致性(同步)。但是这个同步过程是异步的,因为用户跟 c 交互,完成交互即返回,不可能要用户等待所有的过程完成,所以 redis 的设计是,用户到 c 是同步,操作后立即返回;而 c 到 &c 是异步的,完全与用户无关。
如果客户端写入数据到 c 后,c 还没有同步数据到 &c,c 就故障了,那么这部分数据就会丢失。因此这个从属节点,并不能保证数据的一致性。
创建和使用 redis 集群
笔者有两台服务器,其理论设计如下:
服务器 | 节点 | port | cluster port |
---|---|---|---|
服务器1 | a | 7001 | 17001 |
服务器1 | b | 7002 | 17002 |
服务器1 | c | 7003 | 17003 |
服务器2 | &a | 7001 | 17001 |
服务器2 | &b | 7002 | 17002 |
服务器2 | &c | 7003 | 17003 |
实际上,由于启动集群时,节点是自动分配的,哪个是主节点哪个是从属节点是机器分配,因此这里只是作为一个设计思路处理,实际情况要看输出结果。
部署三个主节点
在服务器 1,创建六个目录:
7001、7002、7003 都是以端口命名的,分别存储 a、b、c 三个节点的配置文件,而 a、b、c 三个文件是为了使用 docker 启动时,映射物理文件(备份数据)。如果你不是使用 docker 启动,则不需要 a、b、c 三个目录。
三个端口目录分别创建一个 redis.conf 文件,port 的内容请根据端口填写,其内容如下:
记得改掉 7001。
如果你只有一台服务器,就使用 7001-7006
和 a b c d e f
这这目录。
非 docker
如果不使用 docker 的话, 可以这样启动 redis:
docker 安装
如果服务器的内存比较低,例如 1g,2g,则需要执行下面的命令,消除 redis 警告。
查看 /proc/sys/net/core/somaxconn
文件,如果值是 128,则需要修改为 1024。
修改内存限制:
还有一个内核问题:
其它问题请参考这里 解决redis启动警告问题
拉取最新 redis 镜像:
执行以下三个命令启动三个 redis 实例:
把本小节的内容,在另一台服务器上执行相同的操作。如果你是一台服务器,则也可以在这里修改一下,创建 6 个容器。
命令解析:
--net=host
:使用主机网络,这样就不需要使用 -p 来映射端口了;
-v /var/redis/b:/data
:数据持久化;
/var/redis/7002:/etc/redis
:将物理机目录映射到容器中,里面有个配置文件;
redis-server
: 启动容器时执行的命令;
/etc/redis/redis.conf
:一个启动参数,告诉 redis-server
,要使用哪个配置启动;
--appendonly yes
:总是重启;
创建集群
如果使用 docker 安装,则在第一台服务器执行命令进入容器。
然后创建集群:
注:请自行替换 ip 地址。
执行命令后,会自动分配 redis 实例的地位,输入 yes 同意这种分配:
这种自动分配是最优的,避免三台主节点都在同一台服务器中。
集群搭建完毕,我们来开始学习 redis 中的一些概念,然后使用 c# 创建程序连接 redis 。
redis 入门
redis 中的数据类型
redis 中,常用的数据类型有以下几种:
- string 字符串
- hash 散列/哈希
- list 列表
- set 集合
- sorted set 有序集合
所有数据都是 key-value 形式存储,每个数据都有唯一的 key,以上数据类型是 value。
删除一个数据的命令:del {key}
。
字符串(string)
字符串没啥好说的,就是 value 为 string。
redis 命令,要设置或使用字符串类型的数据,则使用set
或 get
开头的命令:
因为 redis 没有值类型,因此使用不加 ""
也会被识别为字符串。建议加上双引号比较好,提高可读性。
哈希(hash)
一个 string 类型,是 key-value 结构,而哈希则是 {key-value} 的集合,key 是 string 类型,value 可以是其它类型。
因此,可以称 hash 为键值对的集合,就是相当于 c# 中的字典类型,主要存储有结构的数据。
redis 中每个 hash 可以存储 232 - 1 个键值对(40多亿)。
hash 使用 hmset
、 hmget
、hgetall
等命令来操作哈希表。
有一个这个的数据:
使用哈希存储:
查询此哈希表的所有键值对:
查看哈希表的一个字段:
删除其中一个字段:
列表(lists)
列表中可以添加多中类型的元素,简单的就是字符串,列表即是数据结构中的链表,使用双向列表技术实现,越靠近两侧的元素速度越快。
子元素的添加要从头部或尾部加入,由于列表是栈,因此列表是有序的。因为列表是有序的,因此可以存储重复的数据。
适合做例如消息记录(队列),粉丝关注记录、订单记录等。
列表只能添加字符串。
往一个列表加入数据:
例如:
列表的命令比较多,自己查询文档就好,这里不再赘述。
集合(set)
列表(list)是有序的,集合(set)是无序的。集合不能出现重复的数据。
应用场景如网站的访问ip(去重)记录、花店中花的种类等。
集合是字符串元素的集合,只能存储字符串。
使用 sadd
命令往集合中添加一个元素:
有序集合(sorted set)
有序集合跟集合一样,只是有有序集合会根据元素的值从小到大排序。
有序集合也只能添加字符串。
查询:
提醒一下,生产环境记得给 redis 设置密码。
到此这篇关于分布式redis cluster集群搭建与redis基本用法的文章就介绍到这了。希望对大家的学习有所帮助,也希望大家多多支持。
下一篇: python中对列表的删除和添加方法详解
推荐阅读
-
分布式Redis Cluster集群搭建与Redis基本用法
-
分布式Redis Cluster集群搭建与Redis基本用法
-
redis cluster集群架构详解(十八)-高可用性与主备切换原理
-
Redis的Cluster集群搭建(几个文章网址) 博客分类: NoSql---Redis redisclusternosql分布式数据库
-
Linux系统上搭建Redis分布式集群
-
docker redis5.0 cluster集群搭建的实现
-
详解CentOS 6.5搭建Redis3.2.8单机分布式集群
-
JAVAEE——宜立方商城06:Redis安装、数据类型和持久化方案、Redis集群分析与搭建、实现缓存和同步
-
Redis的Cluster集群搭建的实现步骤
-
RedLock算法与Redis集群模式分布式锁使用(Integration)