天天看点

【笔记】RedisRedis

Redis

参考:

1. [官方文档](http://www.redis.cn/)
2. [Redis高可用方案](https://www.jianshu.com/p/7d5fbf90bcd7)
3. [Redis基础知识](https://blog.csdn.net/qq_35190492/article/details/102841400)
           

一、Redis入门

1.关系型数据库与NoSQL型数据库的对比

1.1关系型

  1. 高度组织化结构化数据
  2. 结构化查询语言(SQL)
  3. 数据和关系都存在于单独的表中
  4. 数据操纵语言,数据定义语言
  5. 严格的一致性
  6. 基础事务

1.2NoSQL型

  1. 没有声明性查询语言
  2. 最终一致性,而非ACID属性
  3. 没有预定义的模式
  4. CAP定理
  5. 非结构化和不可预知的数据
  6. 高性能,高可用,可伸缩,易拓展

2.简介

Redis是一个开源的,内存中的数据结构存储系统(key-value型),读取速度非常快,它可以用作数据库,缓存和消息中间件、分布式锁。

Redis内置了事务、Lua脚本,LRU驱动事件、复制,磁盘持久化,还可以通过哨兵(Sentinel)和自动分区(集群Cluster)提供高可用。

默认端口号:6379

可视化客户端工具:Redis Desktop Manager

3.特点

  1. 支持持久化,可以将内存中的数据保存在磁盘中,重启时可以再次加载进行使用
  2. 支持多种数据类型:String、List、Set、ZSet、Hash
  3. 支持数据备份(主从复制)
  4. 性能极高,Redis读的速度110000次/s,写的速度81000次/s
  5. 操作都是原子的,从而确保当两个客户同时访问Redis服务器得到的是更新后的值(最新值),Redis所有单个命令的执行都是原子性的,这与它的单线程机制有关。

4.安装

5.启动

1.连接常用命令

#切换root权限
sudo su -
#查看启动的redis服务
ps -ef | grep redis
#启动服务端
redis-server redis.conf
#客户端连接服务端
redis-cli -h [ip] -p [port]
#客户端连接服务端(集群)
redis-cli -h [ip] -p [port] -c
#停止服务端
redis-cli shutdown
#linux报错,(error) CLUSTERDOWN Hash slot not served :没有分配槽。解决办法,进入redis/src目录,执行如下操作,进行修复
redis-cli --cluster fix [ip]:[port]

#测试联通
ping
#退出
exit

强杀服务
kill -9 [port]
           

2.key常用命令

#切换到1号库,默认在0号库
select [1]
#清空当前库
flushdb
dbsize
#清空所有库
flushall
#模糊查询,*表示全部
keys [pattern]
#获取key对应值的类型
type [key] 
del [key]
#查看key还有多少秒过期,-1:永不过期,-2:已过期
ttl [key]
#重命名,不存在则新增,存在则覆盖
rename [key] [newkey]
exists [key]
           

二、数据类型

1.String

key对应一个单一值,二进制安全,不必担心由于编码等问题导致二进制数据变化,所以可以存任何数据,比如图片或任何序列化的对象。一个str最大容量是512m。

set [key] [value]
get [key]
           

2.List

Redis中的list是双向链表,可以从两侧插入,索引从0开始,只能存String类型。

适用于微博最新消息排行功能或消息队列

#从左侧/右侧插入
lpush/rpush [key] [value]
#从左侧/右侧弹出一个值
lpop/rpop [key]
#按下标获取元素
lindex [key] [index]
#查看指定区间的元素
lrange [key] [start] [end]
#获取长度
llen [key]
           

3.Set

无序,不可重复的集合,只能存String类型。

集合是通过hash表实现的,增删查的复杂度为O(1)。

适用场景:

  1. 共同好友
  2. 利用唯一性,可以统计访问网站的所有独立ip
  3. 好友推荐,根据tag求交集,大于某个值就可以推荐
sadd [key] [value]
#取出该集合中所有值
smembers [key]
#删除,返回成功删除的个数
srem [key] [value]
#将指定的集合进行交集操作
sinter [key1] [key2]
#将指定的集合进行交集操作,另存为set
sinterstore dest [key1] [key2]
#将指定的集合进行并集操作
sunion [key1] [key2]
#将指定的集合进行并集操作,另存为set
sunionstore dest [key1] [key2]
#将指定的集合进行差集操作
sdiff [key1] [key2]
#将指定的集合进行差集操作,另存为set
sdiffstore dest [key1] [key2]
           

4.zset(sorted set)

zset是一种特殊的set,在保存value的时候,为每个value多保存一个score信息,根据score可以进行排序。

集合中的成员是唯一的,score可以重复。

使用场景:销售排行榜,游戏区最强王者

zadd [key] [score] [member]
#返回指定值得分数
zscore [key] [member]
#返回指定区间带分数
zrange [key] [start] [end] withscores
#返回指定区间带分数(按分数排序)
zrangebyscore [key] [start] [end] withscores
           

5.Hash

是一个String类型的field和value的映射表,值是单列的,不支持进一步的层次结构,适合存储对象

hset [key] [field] [value]
hget [key] [value]
hlen [key]
hkeys [key]
           

三、持久化

redis工作在内存中,断电后会消失,持久化防止意外停电导致的数据丢失。持久化的方式有RDB、AOF两种。

1.RDB(快照snapshot)

1.1简介

在指定的时间间隔内将内存中的数据集快照写入磁盘,恢复时直接将RDB文件读到内存里。

RDB是默认开启的,对应产生的文件为:dump.rdb

1.2默认的快照设置:

#900秒内如果至少有一个值变化,则保存
save 900 1
save 300 10
save 60 10000
#禁用RDB
save ""
           

1.3原理

RDB文件不会坏掉,因为其写操作是在一个新进程中执行的。当生成新RDB时,子进程会将数据写到临时文件中,通过原子性rename系统将临时文件重命名为RDB文件,这样,不管出现任何故障,RDB均是可用的。

RDB文件是Redis主从复制内部实现的一环。

1.4缺点

如果系统发生故障,将会丢失最后一次快照后的数据,并且如果数据量很大,保存快照的时间也很长。

2.AOF(append-only file)

2.1简介

Redis会将受到的每一个写命令都通过write函数追加到文件中,类似于MySQL的binlog。

默认不开启,开启:appendonly yes

当Redis重启时,是会通过重新执行文件中的写命令来在内存中重建整个DB的内容。

AOF文件和RDB文件位置相同,文件名:appendonly.aof

2.2AOF文件设置

#每次收到写命令就写入磁盘,是最慢,最完全的持久化,不推荐使用
appendonly always
#每秒强制写入磁盘,折中的性能与安全性,推荐
appendonly everysec
           

3.AOF与RDB对比

  1. 占用更多磁盘空间
  2. 恢复备份速度更慢,RDB中每条数据只有一条记录,而AOF中可能有多条(比如set语句执行多次),RDB与redis在内存中编码格式一致,不需再进行编码
  3. 每次读写都同步,有一定性能压力

4.如何看待数据“绝对”安全

Redis作为内存DB从本质上来说,不想牺牲性能就做不到“绝对”安全,所以redis大多是扮演二级缓存的角色,数据另外持久化在关系型数据库中。

适合保存的数据:

  1. 常查询,少修改
  2. 不是非常重要,允许出现偶尔的并发问题

5.redis持久化方式的选择

可以忍受数分钟内的数据丢失,可以使用RDB,不推荐单独使用AOF,可能出现bug。如果只是做纯内存缓存,可以都不用。想要绝对安全,全使用。

四、事务

Redis中的事务不同于传统的关系型数据库中的事务,指的是一个单独的隔离操作,事务中所有的命令都会序列化,按顺序地执行,事务在执行过程中,不会被其他客户端发送来的命令请求所打断。

Redis事务是原子的。

实现方式,使用multi和exec命令将事务操作包围起来,被包围的操作将会一次性发送给服务器,可以减少客户端和服务端之间的网络通信次数,从而提升性能。

五、发布与订阅

实际上是观察者模式,订阅者订阅了频道后,发布者向频道发送消息会被所有订阅者接收到。

不推荐使用,问题如下:

  1. 如果订阅者读取消息速度很慢,会使得消息不断积压,在发布者的输出缓存区中,造成内存占用过多
  2. 如果订阅者订阅过程中网络出现问题,就会丢失断线期间发送的所有消息。

六、高可用

当服务出现性能瓶颈时,我们一般有2种方式扩展服务的性能:

  • 垂直方向

    就是通过升级硬件的配置,如内存出现瓶颈了,就使用更大的内存,CPU出现瓶颈了使用更好的CPU,但是硬件的升级总是有上限的,而且更高的硬件配置,往往意味着更高的成本,因为随着硬件成本的提升,对性能的提升并不是线性的。

  • 水平方向

    就是通过将服务部署到更多的机器,让更多的机器提供服务,提升服务的整体性能。理论上水平扩展可以无限的扩展服务的性能,垂直扩展只能是一个临时的方案。

1.主从复制

1.1目的

  • 读写分离提高性能
  • 避免单点故障,容灾快速恢复

1.2原理

每次从机联通后,都会给主机发送sync指令,主机立刻进行存盘操作,发送RDB文件给从机,从机收到后立刻进行全盘加载。之后每次主机的写操作,都会立刻发送给从机加载

1.3高可用

常见的高可用方式:哨兵、集群

1.4相关说明

  • 从机只能读
  • 主机挂掉后,从机原地待机
  • 如果两台从机都从主机同步数据,此时主机的IO压力会增大,可以配成主-从-从模式。

2.哨兵模式(Sentinel)

2.1功能

  1. 监控:不断检查主服务器和从服务器是否运行正常
  2. 提醒:当被监控的服务器出现问题时,可以向其他应用发送通知
  3. 自动故障迁移:当主服务器挂掉时,它会将自己的一个从服务器升级为主服务器,并让其他从服务器改为复制新的主服务器。当客户端连接失效服务器时,系统也会向客户端返回新主服务器的地址

2.2其他说明

  • sentinel可以让redis实现主从复制,当一个集群中的master失效之后,sentinel可以选举出一个新的master用于自动接替master的工作,集群中的其他redis服务器自动指向新的master同步数据。
  • 监控同一个主服务器的sentinel会自动连接,组成一个sentinel网络,互相通信并交换彼此关于被监控服务器的信息。
  • 一个健康的sentinel之上有三个sentinel应用,彼此存在于独立的物理机器或虚拟机。一般建议sentinel采取奇数台,防止某一台sentinel无法连接到master导致误切换。

默认端口号:26379

【笔记】RedisRedis
#启动哨兵
redis-sentinel sentinel.conf
           

3.集群(cluster)

3.1原理

Redis集群是一个提供在多个Redis节点间共享数据的程序集。

Redis 集群有16384个哈希槽(hash slot),每个key通过CRC16校验后对16384取模来决定放置哪个槽,集群的每个节点负责一部分hash槽。

举个例子,比如当前集群有3个节点,那么:

  • 节点 A 包含 0 到 5500号哈希槽.
  • 节点 B 包含5501 到 11000 号哈希槽.
  • 节点 C 包含11001 到 16384号哈希槽.

为了使在部分节点失败无法通信情况下集群仍然可用,所以集群使用了主从复制模型,每个节点都会有1~n个节点,主节点不可用,便会选举从节点作为新的主节点

要让集群正常运作至少需要三个主节点,不过在刚开始试用集群功能时, 强烈建议使用六个节点: 其中三个为主节点, 而其余三个则是各个主节点的从节点。

【笔记】RedisRedis

要想解决HA,可以结合实际情况增加节点(节点需成对增加,一主一从)。Redis 集群有 16384 个哈希槽,,集群的每个节点负责一部分哈希槽,所以集群支持最大节点数为16384。

增加节点时,需要手动移动槽,移动节点

3.2搭建

3.3优缺点

优点:

  1. 实现扩容
  2. 分摊压力
  3. 无中心配置相对简单

缺点:

  1. 不支持多建操作
  2. 不支持lua脚本

    redis集群执行lua

3.4Redis集群节点ip变化问题的解决办法

redis.conf

# 集群各节点IP地址,如果要对外提供访问功能,需要填写宿主机的IP,如果填写docker分配的IP(172.x.x.x),可能会导致部分集群节点在跳转时失败。
cluster-announce-ip 172.17.1.1
           

七、redis分布式锁和lua脚本

八、Jedis

九、常见问题

1.为什么要用redis(缓存)

  1. 高性能:

    用户第一次访问DB,速度较慢,因为是从硬盘中读取的。将数据存在缓存中,就是直接操作内存,速度相当快。DB中对应数据改变后,同步改变缓存中数据即可。

  2. 高并发

    直接操作缓存能够承受的请求远远大于直接访问DB

2.为什么要用redis而不是map

缓存分为分布式缓存和本地缓存,。

以Java为例,map是本地缓存,主要特点是轻量快速,生命周期随着jvm的销毁而结束,并且在多个实例的情况下,每个实例都需要各自保存一份缓存,不具有一致性。

redis是分布式缓存,多实例的情况下,各实例共用一份缓存数据,具有一致性,缺点是更复杂,需要保持服务的高可用。

3.redis 的线程模型

4、 Redis 主要消耗什么物理资源?

内存。

5、 Redis 有哪几种数据淘汰策略?

1.noeviction:返回错误当内存限制达到,并且客户端尝试执行会让更多内存被使用的命令。

2.allkeys-lru: 尝试回收最少使用的键( LRU),使得新添加的数据有空间存放。

3.volatile-lru: 尝试回收最少使用的键( LRU),但仅限于在过期集合的键,使得新添加的数据有空间存放。

4.allkeys-random: 回收随机的键使得新添加的数据有空间存放。

5.volatile-random: 回收随机的键使得新添加的数据有空间存放,但仅限于在过期集合的键。

6.volatile-ttl: 回收在过期集合的键,并且优先回收存活时间( TTL)较短的键,使得新添加的数据有空间存放。

6、 redis 过期策略都有哪些? LRU 算法知道吗?写一下 java 代码实现?

过期策略:

定时过期(一 key 一定时器),惰性过期:只有使用 key 时才判断 key 是否已过期,过期则清除。定期过期:前两者折中。

LRU:new LinkedHashMap<K, V>(capacity, DEFAULT_LOAD_FACTORY, true);

//第三个参数置为 true,代表 linkedlist 按访问顺序排序,可作为 LRU 缓存;设为 false 代表

按插入顺序排序,可作为 FIFO 缓存

LRU 算法实现: 1.通过双向链表来实现,新数据插入到链表头部; 2.每当缓存命中(即缓存数据被访问),则将数据移到链表头部; 3.当链表满的时候,将链表尾部的数据丢弃。

LinkedHashMap: HashMap 和双向链表合二为一即是 LinkedHashMap。 HashMap 是无序的, LinkedHashMap 通过维护一个额外的双向链表保证了迭代顺序。该迭代顺序可以是插入顺序(默认),也可以是访问顺序。

7、一个字符串类型的值能存储最大容量是多少?

512M

8、为什么 Redis 需要把所有数据放到内存中?

Redis 为了达到最快的读写速度将数据都读到内存中,并通过异步的方式将数据写入磁盘。

所以 redis 具有快速和数据持久化的特征,如果不将数据放在内存中,磁盘 I/O 速度为严重影响 redis 的性能。

在内存越来越便宜的今天, redis 将会越来越受欢迎, 如果设置了最大使用的内存,则数据已有记录数达到内存限值后不能继续插入新值。

9、缓存穿透、缓存击穿、缓存雪崩解决方案?

缓存穿透

指查询一个一定不存在的数据,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到 DB 去查询,可能导致 DB 挂掉。

解决方案:

1.查询返回的数据为空,仍把这个空结果进行缓存,但过期时间会比较短;

2.布隆过滤器:将所有可能存在的数据哈希到一个足够大的 bitmap 中,一个一定不存在的数据会被这个 bitmap 拦截掉,从而避免了对 DB 的查询。

缓存击穿

对于设置了过期时间的 key,缓存在某个时间点过期的时候,恰好这时间点对这个 Key 有大量的并发请求过来,这些请求发现缓存过期一般都会从后端 DB 加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把 DB 压垮。

解决方案:

1.使用互斥锁:当缓存失效时,不立即去 load db,先使用如 Redis 的 setnx 去设置一个互斥锁,当操作成功返回时再进行 load db 的操作并回设缓存,否则重试 get 缓存的方法。

2.永远不过期:物理不过期,但逻辑过期(后台异步线程去刷新)。

缓存雪崩

设置缓存时采用了相同的过期时间,导致缓存在某一时刻同时失效,请求全部转发到 DB, DB 瞬时压力过重雪崩。与缓存击穿的区别:雪崩是很多 key,击穿是某一个key 缓存。

解决方案:将缓存失效时间分散开,比如可以在原有的失效时间基础上增加一个随机值,比如 1-5 分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。

10、 Redis 集群方案什么情况下会导致整个集群不可用?

有 A, B, C 三个节点的集群,在没有复制模型的情况下,如果节点 B 失败了,那么整个集群就会以为缺少5501-11000 这个范围的槽而不可用。

11、 MySQL 里有 2000w 数据, redis 中只存 20w 的数据,如何保证 redis 中的数据都是热点数据?

redis 内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略。

12、 Redis 有哪些适合的场景?

1.会话缓存( Session Cache)

最常用的一种使用 Redis 的情景是会话缓存( sessioncache),用 Redis 缓存会话比其他存储(如Memcached)的优势在于: Redis 提供持久化。当维护一个不是严格要求一致性的缓存时,如果用户的购物车信息全部丢失,大部分人都会不高兴的,现在,他们还会这样吗?幸运的是,随着 Redis 这些年的改进,很容易找到怎么恰当的使用 Redis 来缓存会话的文档。甚至广为人知的商业平台 Magento 也提供 Redis 的插件。

2.全页缓存( FPC)

除基本的会话 token 之外, Redis 还提供很简便的 FPC 平台。回到一致性问题,即使重启了 Redis 实例,因为有磁盘的持久化,用户也不会看到页面加载速度的下降,这是一个极大改进,类似 PHP 本地FPC。

再次以 Magento 为例, Magento 提供一个插件来使用 Redis 作为全页缓存后端。此外,对 WordPress 的用户来说, Pantheon 有一个非常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面。

3.队列

Reids 在内存存储引擎领域的一大优点是提供 list 和 set 操作,这使得 Redis 能作为一个很好的消息队列平台来使用。 Redis 作为队列使用的操作,就类似于本地程序语言(如 Python)对 list 的 push/pop操作。

如果你快速的在 Google 中搜索“Redis queues”,你马上就能找到大量的开源项目,这些项目的目的就是利用 Redis 创建非常好的后端工具,以满足各种队列需求。例如, Celery 有一个后台就是使用Redis 作为 broker,你可以从这里去查看。

4.排行榜/计数器

Redis 在内存中对数字进行递增或递减的操作实现的非常好。集合( Set)和有序集合( SortedSet)也使得我们在执行这些操作的时候变的非常简单, Redis 只是正好提供了这两种数据结构。所以,我们要从排序集合中获取到排名最靠前的 10 个用户–我们称之为“user_scores”,我们只需要像

下面一样执行即可:

当然,这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数,你需要这样执行:

ZRANGE user_scores 0 10 WITHSCORES Agora Games 就是一个很好的例子,用 Ruby 实现的,它的排行榜就是使用 Redis 来存储数据的,你可以在这里看到。

5.发布/订阅

13、缓存与数据库不一致怎么办

假设采用的主存分离,读写分离的数据库,如果一个线程 A 先删除缓存数据,然后将数据写入到主库当中,这个时候,主库和从库同步没有完成,线程 B 从缓存当中读取数据失败,从从库当中读取到旧数据,然后更新至缓存,这个时候,缓存当中的就是旧的数据。

发生上述不一致的原因在于,主从库数据不一致问题,加入了缓存之后,主从不一致的时间被拉长了

处理思路:在从库有数据更新之后,将缓存当中的数据也同时进行更新,即当从库发生了数据更新之后,向缓存发出删除,淘汰这段时间写入的旧数据。

主从数据库不一致如何解决

场景描述,对于主从库,读写分离,如果主从库更新同步有时差,就会导致主从库数据的不一致

  1. 忽略这个数据不一致,在数据一致性要求不高的业务下,未必需要时时一致性
  2. 强制读主库,使用一个高可用的主库,数据库读写都在主库,添加一个缓存,提升数据读取的性能。
  3. 选择性读主库,添加一个缓存,用来记录必须读主库的数据,将哪个库,哪个表,哪个主键,作为缓存的 key,设置缓存失效的时间为主从库同步的时间,如果缓存当中有这个数据,直接读取主库,如果缓存当中没有这个主键,就到对应的从库中读取。

14、Redis 常见的性能问题和解决方案

  • master 最好不要做持久化工作,如 RDB 内存快照和 AOF 日志文件
  • 如果数据比较重要,某个 slave 开启 AOF 备份,策略设置成每秒同步一次
  • 为了主从复制的速度和连接的稳定性, master 和 Slave 最好在一个局域网内
  • 尽量避免在压力大得主库上增加从库
  • 主从复制不要采用网状结构,尽量是线性结构, Master<–Slave1<----Slave2 …

15、使用 Redis 做过异步队列吗,是如何实现的

使用 list 类型保存数据信息, rpush 生产消息, lpop 消费消息,当 lpop 没有消息时,可以 sleep 一段时间,然后再检查有没有信息,如果不想 sleep 的话,可以使用 blpop, 在没有信息的时候,会一直阻塞,直到信息的到来。 redis 可以通过 pub/sub 主题订阅模式实现一个生产者,多个消费者,当然也存在一定的缺点,当消费者下线时,生产的消息会丢失。

16、redis 主从复制如何实现的? redis 的集群模式如何实现? redis 的 key 是如何寻址的?

主从复制实现:主节点将自己内存中的数据做一份快照,将快照发给从节点,从节点将数据恢复到内存中。之后再每次增加新数据的时候,主节点以类似于 mysql 的二进制日志方式将语句发送给从节点,从节点拿到主节点发送过来的语句进行重放。

分片方式:

-客户端分片

-基于代理的分片

● Twemproxy

● codis

-路由查询分片

● Redis-cluster(本身提供了自动将数据分散到 Redis Cluster 不同节点的能力,整个数据集

合的某个数据子集存储在哪个节点对于用户来说是透明的)redis-cluster 分片原理: Cluster 中有一个 16384 长度的槽(虚拟槽),编号分别为 0-16383。

每个 Master 节点都会负责一部分的槽,当有某个 key 被映射到某个 Master 负责的槽,那么这个 Master 负责为这个 key 提供服务,至于哪个 Master 节点负责哪个槽,可以由用户指定,也可以在初始化的时候自动生成,只有 Master 才拥有槽的所有权。 Master 节点维

护着一个 16384/8 字节的位序列, Master 节点用 bit 来标识对于某个槽自己是否拥有。比如对于编号为 1 的槽, Master 只要判断序列的第二位(索引从 0 开始)是不是为 1 即可。

这种结构很容易添加或者删除节点。比如如果我想新添加个节点 D, 我需要从节点 A、 B、C 中得部分槽到 D 上。

17、假如 Redis 里面有 1 亿个 key,其中有 10w 个 key 是以某个固定的已知的前缀开头的,如果将它们全部找出来?

使用 keys 指令可以扫出指定模式的 key 列表。

对方接着追问:如果这个 redis 正在给线上的业务提供服务,那使用 keys 指令会有什么问题?

这个时候你要回答 redis 关键的一个特性: redis 的单线程的。 keys 指令会导致线程阻塞一段时间,线上服务会停顿,直到指令执行完毕,服务才能恢复。这个时候可以使用 scan 指令, scan 指令可以无阻塞的提取出指定模式的 key 列表,但是会有一定的重复概率,在客户端做一次去重就可以了,但是整体所花费的时间会比直接用 keys 指令长。

18、使用 redis 如何设计分布式锁?说一下实现思路?使用 zk 可以吗?如何实现?这两种有什么区别?

redis:

1.线程 A setnx(上锁的对象,超时时的时间戳 t1),如果返回 true,获得锁。

2.线程 B 用 get 获取 t1,与当前时间戳比较,判断是是否超时,没超时 false,若超时执行第 3 步;

3.计算新的超时时间 t2,使用 getset 命令返回 t3(该值可能其他线程已经修改过),如果t1==t3,获得锁,如果 t1!=t3 说明锁被其他线程获取了。

4.获取锁后,处理完业务逻辑,再去判断锁是否超时,如果没超时删除锁,如果已超时,不用处理(防止删除其他线程的锁)。

zk:

1.客户端对某个方法加锁时,在 zk 上的与该方法对应的指定节点的目录下,生成一个唯一的瞬时有序节点 node1;

2.客户端获取该路径下所有已经创建的子节点,如果发现自己创建的 node1 的序号是最小的,就认为这个客户端获得了锁。

3.如果发现 node1 不是最小的,则监听比自己创建节点序号小的最大的节点,进入等待。

4.获取锁后,处理完逻辑,删除自己创建的 node1 即可。

区别:zk 性能差一些,开销大,实现简单。

19、Redis 集群如何选择数据库?

Redis 集群目前无法做数据库选择,默认在 0 数据库。

20、 Redis 中的管道有什么用?

21、 Redis key 的过期时间和永久有效分别怎么设置?

EXPIRE 和 PERSIST 命令

22、 Redis 如何做内存优化?

尽可能使用散列表( hashes),散列表(是说散列表里面存储的数少)使用的内存非常小,所以你应该尽可能的将你的数据模型抽象到一个散列表里面。

比如你的 web 系统中有一个用户对象,不要为这个用户的名称,姓氏,邮箱,密码设置单独的 key,而是应该把这个用户的所有信息存储到一张散列表里面。

23、 Redis 回收进程如何工作的?

一个客户端运行了新的命令,添加了新的数据。

Redi 检查内存使用情况,如果大于 maxmemory 的限制, 则根据设定好的策略进行回收。

一个新的命令被执行,等等。

所以我们不断地穿越内存限制的边界,通过不断达到边界然后不断地回收回到边界以下。如果一个命令的结果导致大量内存被使用(例如很大的集合的交集保存到一个新的键),不用多久内存限制就会被这个内存使用量超越。

24.锁互斥机制

那么在这个时候,如果客户端 2 来尝试加锁,执行了同样的一段 lua 脚本,会咋样呢?很简单,第一个 if 判断会执行“exists myLock”,发现 myLock 这个锁 key 已经存在了。接着第二个 if 判断,判断一下, myLock 锁 key 的 hash 数据结构中,是否包含客户端 2 的 ID,但是明显不是的,因为那里包含的是客户端 1 的 ID。所以,客户端 2 会获取到 pttl myLock 返回的一个数字,这个数字代表了 myLock 这个锁 key的剩余生存时间。 比如还剩 15000 毫秒的生存时间。此时客户端 2 会进入一个 while 循环,不停的尝试加锁。

25.watch dog 自动延期机制

客户端 1 加锁的锁 key 默认生存时间才 30 秒,如果超过了 30 秒,客户端 1 还想一直持有这把锁,怎么办呢?

简单!只要客户端 1 一旦加锁成功,就会启动一个 watch dog 看门狗, 他是一个后台线程,会每隔 10 秒检查一下,如果客户端 1 还持有锁 key,那么就会不断的延长锁 key 的生存时间。

26.可重入加锁机制

那如果客户端 1 都已经持有了这把锁了,结果可重入的加锁会怎么样呢?比如下面这种代码:这时我们来分析一下上面那段 lua 脚本。 第一个 if 判断肯定不成立, “exists myLock”会显示锁key 已经存在了。 第二个 if 判断会成立,因为 myLock 的 hash 数据结构中包含的那个 ID,就是客户端 1 的那个 ID,也就是“8743c9c0-0795-4907-87fd-6c719a6b4586:1”此时就会执行可重入加锁的逻辑,他会用:

incrby myLock 8743c9c0-0795-4907-87fd-6c71a6b4586:1 1 ,通过这个命令,对客户端 1的加锁次数,累加 1。此时 myLock 数据结构变为下面这样:

大家看到了吧,那个 myLock 的 hash 数据结构中的那个客户端 ID,就对应着加锁的次数

27.释放锁机制

如果执行 lock.unlock(),就可以释放分布式锁,此时的业务逻辑也是非常简单的。其实说白了,就是每次都对 myLock 数据结构中的那个加锁次数减 1。如果发现加锁次数是 0 了,说明这个客户端已经不再持有锁了,此时就会用: “del myLock”命令,从 redis 里删除这个 key。然后呢,另外的客户端 2 就可以尝试完成加锁了。这就是所谓的分布式锁的开源 Redisson 框架的实现机制。

一般我们在生产系统中,可以用 Redisson 框架提供的这个类库来基于 redis 进行分布式锁的加锁与释放锁。

28.使用过 Redis 分布式锁么,它是怎么实现的?

先拿 setnx 来争抢锁,抢到之后,再用 expire 给锁加一个过期时间防止锁忘记了释放。

如果在 setnx 之后执行 expire 之前进程意外 crash 或者要重启维护了,那会怎么样?

set 指令有非常复杂的参数,这个应该是可以同时把 setnx 和 expire 合成一条指令来用的!

29.上述 Redis 分布式锁的缺点

其实上面那种方案最大的问题,就是如果你对某个 redis master 实例,写入了 myLock 这种锁key 的 value,此时会异步复制给对应的 master slave 实例。但是这个过程中一旦发生 redis master 宕机,主备切换, redis slave 变为了 redis master。

接着就会导致,客户端 2 来尝试加锁的时候,在新的 redis master 上完成了加锁,而客户端 1也以为自己成功加了锁。此时就会导致多个客户端对一个分布式锁完成了加锁。这时系统在业

务语义上一定会出现问题, 导致各种脏数据的产生。所以这个就是 redis cluster,或者是 redis master-slave 架构的主从异步复制导致的 redis 分布式锁的最大缺陷: 在 redis master 实例宕机的时候,可能导致多个客户端同时完成加锁。

30.使用过 Redis 做异步队列么,你是怎么用的?有什么缺点?

一般使用 list 结构作为队列, rpush 生产消息, lpop 消费消息。当 lpop 没有消息的时候,要适当 sleep一会再重试。

缺点:

在消费者下线的情况下,生产的消息会丢失,得使用专业的消息队列如 rabbitmq 等。

能不能生产一次消费多次呢?

使用 pub/sub 主题订阅者模式,可以实现 1:N 的消息队列。