2020最新Redis面试题_redis面试题(2020最新版)-程序员宅基地

技术标签: redis  

概述
什么是 Redis Redis(Remote Dictionary Server) 是一个使用 C 语言编写的,开源的(BSD 许可)高性 能非关系型(NoSQL)的键值对数据库。 Redis 可以存储键和五种不同类型的值之间的映射。键的类型只能为字符串,值支持五种 数据类型:字符串、列表、集合、散列表、有序集合。 与传统数据库不同的是 Redis 的数据是存在内存中的,所以读写速度非常快,因此 redis 被广泛应用于缓存方向,每秒可以处理超过 10 万次读写操作,是已知性能最快的 Key-Value DB。另外,Redis 也经常用来做分布式锁。除此之外,Redis 支持事务 、持久 化、LUA 脚本、LRU 驱动事件、多种集群方案。 Redis 有哪些优缺点 优点读写性能优异, Redis 能读的速度是 110000 次/s,写的速度是 81000 次/s。 支持数据持久化,支持 AOF 和 RDB 两种持久化方式。 支持事务,Redis 的所有操作都是原子性的,同时 Redis 还支持对几个操作合并后的原子性 执行。 数据结构丰富,除了支持 string 类型的 value 外还支持 hash、set、zset、list 等数据结构。
支持主从复制,主机会自动将数据同步到从机,可以进行读写分离。 缺点数据库容量受到物理内存的限制,不能用作海量数据的高性能读写,因此 Redis 适合的场 景主要局限在较小数据量的高性能操作和运算上。 Redis 不具备自动容错和恢复功能,主机从机的宕机都会导致前端部分读写请求失败,需 要等待机器重启或者手动切换前端的 IP 才能恢复。 主机宕机,宕机前有部分数据未能及时同步到从机,切换 IP 后还会引入数据不一致的问题, 降低了系统的可用性。 Redis 较难支持在线扩容,在集群容量达到上限时在线扩容会变得很复杂。为避免这一问 题,运维人员在系统上线时必须确保有足够的空间,这对资源造成了很大的浪费。 为什么要用 Redis /为什么要用缓存 主要从“高性能”和“高并发”这两点来看待这个问题。 高性能: 假如用户第一次访问数据库中的某些数据。这个过程会比较慢,因为是从硬盘上读取的。将 该用户访问的数据存在数缓存中,这样下一次再访问这些数据的时候就可以直接从缓存中获 取了。操作缓存就是直接操作内存,所以速度相当快。如果数据库中的对应数据改变的之后, 同步改变缓存中相应的数据即可!
高并发: 直接操作缓存能够承受的请求是远远大于直接访问数据库的,所以我们可以考虑把数据库中 的部分数据转移到缓存中去,这样用户的一部分请求会直接到缓存这里而不用经过数据库。 为什么要用 Redis 而不用 map/guava 做缓存? 缓存分为本地缓存和分布式缓存。以 Java 为例,使用自带的 map 或者 guava 实现的是 本地缓存,最主要的特点是轻量以及快速,生命周期随着 jvm 的销毁而结束,并且在多实 例的情况下,每个实例都需要各自保存一份缓存,缓存不具有一致性。 使用 redis 或 memcached 之类的称为分布式缓存,在多实例的情况下,各实例共用一 份缓存数据,缓存具有一致性。缺点是需要保持 redis 或 memcached 服务的高可用,整 个程序架构上较为复杂。 Redis 为什么这么快 1、完全基于内存,绝大部分请求是纯粹的内存操作,非常快速。数据存在内存中,类似于 HashMap,HashMap 的优势就是查找和操作的时间复杂度都是 O(1); 2、数据结构简单,对数据操作也简单,Redis 中的数据结构是专门进行设计的;
3、采用单线程,避免了不必要的上下文切换和竞争条件,也不存在多进程或者多线程导致 的切换而消耗 CPU,不用去考虑各种锁的问题,不存在加锁释放锁操作,没有因为可能出 现死锁而导致的性能消耗; 4、使用多路 I/O 复用模型,非阻塞 IO; 5、使用底层模型不同,它们之间底层实现方式以及与客户端之间通信的应用协议不一样, Redis 直接自己构建了 VM 机制 ,因为一般的系统调用系统函数的话,会浪费一定的时 间去移动和请求; 数据类型 Redis 有哪些数据类型 Redis 主要有 5 种数据类型,包括 String,List,Set,Zset,Hash,满足大部分的使用要 求数据类型 可以存储的值 操作 应用场景 STRING 字符串、整数或者浮点数 对整个字符串或者字符串的其中一部分执行操作 对整数和浮点数执行自增或者自减操作 做简单的键值对缓存 LIST列表 从两端压入或者弹出元素 对单个或者多个元素进行修剪, 只保留一个范围内的元素 存储一些列表型的数据结构,类似粉丝列表、文章的评论列表之
类的数据 SET 无序集合 添加、获取、移除单个元素 检查一个元素是否存在于集合中 计算交集、并集、差集 从集合里面随机获取元素 交集、并集、差集的操作,比如交集,可以把两个人的粉丝列表 整一个交集 HASH 包含键值对的无序散列表 添加、获取、移除单个键值对 获取所有键值对 检查某个键是否存在 结构化的数据,比如一个对象 ZSET 有序集合 添加、获取、删除元素 根据分值范围或者成员来获取元素 计算一个键的排名 去重但可以排序,如获取排名前几名的用户 Redis 的应用场景 总结一 计数器 可以对 String 进行自增自减运算,从而实现计数器功能。Redis 这种内存型数据库的读写 性能非常高,很适合存储频繁读写的计数量。 缓存
将热点数据放到内存中,设置内存的最大使用量以及淘汰策略来保证缓存的命中率。 会话缓存 可以使用 Redis 来统一存储多台应用服务器的会话信息。当应用服务器不再存储用户的会 话信息,也就不再具有状态,一个用户可以请求任意一个应用服务器,从而更容易实现高可 用性以及可伸缩性。 全页缓存(FPC) 除基本的会话 token 之外,Redis 还提供很简便的 FPC 平台。以 Magento 为例,Magento 提供一个插件来使用 Redis 作为全页缓存后端。此外,对 WordPress 的用户来说,Pantheon 有一个非常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面。 查找表 例如 DNS 记录就很适合使用 Redis 进行存储。查找表和缓存类似,也是利用了 Redis 快 速的查找特性。但是查找表的内容不能失效,而缓存的内容可以失效,因为缓存不作为可靠 的数据来源。 消息队列(发布/订阅功能)
List 是一个双向链表,可以通过 lpush 和 rpop 写入和读取消息。不过最好使用 Kafka、 RabbitMQ 等消息中间件。 分布式锁实现 在分布式场景下,无法使用单机环境下的锁来对多个节点上的进程进行同步。可以使用 Redis 自带的 SETNX 命令实现分布式锁,除此之外,还可以使用官方提供的 RedLock 分 布式锁实现。 其它Set 可以实现交集、并集等操作,从而实现共同好友等功能。ZSet 可以实现有序性操作, 从而实现排行榜等功能。 总结二 Redis 相比其他缓存,有一个非常大的优势,就是支持多种数据类型。 数据类型说明 string 字符串,最简单的 k-v 存储 hashhash 格式,value 为 field 和 value, 适合 ID-Detail 这样的场景。list 简单的 list,顺序列表,支持首位或者末尾插入数据 set 无序 list,查找速度快,适合交集、并集、差集处理 sorted set 有序的 set
其实,通过上面的数据类型的特性,基本就能想到合适的应用场景了。 string——适合最简单的 k-v 存储,类似于 memcached 的存储结构,短信验证码,配置 信息等,就用这种类型来存储。 hash——一般 key 为 ID 或者唯一标示,value 对应的就是详情了。如商品详情,个人信息 详情,新闻详情等。 list——因为 list 是有序的,比较适合存储一些有序且数据相对固定的数据。如省市区表、 字典表等。因为 list 是有序的,适合根据写入的时间来排序,如:最新的***,消息队列等。 set——可以简单的理解为 ID-List 的模式,如微博中一个人有哪些好友,set 最牛的地方在 于,可以对两个 set 提供交集、并集、差集操作。例如:查找两个人共同的好友等。 Sorted Set——是 set 的增强版本,增加了一个 score 参数,自动会根据 score 的值进行 排序。比较适合类似于 top 10 等不根据插入的时间来排序的数据。 如上所述,虽然 Redis 不像关系数据库那么复杂的数据结构,但是,也能适合很多场景, 比一般的缓存数据结构要多。了解每种数据结构适合的业务场景,不仅有利于提升开发效率, 也能有效利用 Redis 的性能。 持久化
什么是 Redis 持久化? 持久化就是把内存的数据写到磁盘中去,防止服务宕机了内存数据丢失。 Redis 的持久化机制是什么?各自的优缺点? Redis 提供两种持久化机制 RDB(默认) 和 AOF 机制: RDB:是 Redis DataBase 缩写快照 RDB 是 Redis 默认的持久化方式。按照一定的时间将内存的数据以快照的形式保存到硬盘 中,对应产生的数据文件为 dump.rdb。通过配置文件中的 save 参数来定义快照的周期。 优点: 1、只有一个文件 dump.rdb,方便持久化。 2、容灾性好,一个文件可以保存到安全的磁盘。 3、性能最大化,fork 子进程来完成写操作,让主进程继续处理命令,所以是 IO 最大化。 使用单独子进程来进行持久化,主进程不会进行任何 IO 操作,保证了 redis 的高性能 4.相对于数据集大时,比 AOF 的启动效率更高。 缺点:
1、数据安全性低。RDB 是间隔一段时间进行持久化,如果持久化之间 redis 发生故障, 会发生数据丢失。所以这种方式更适合数据要求不严谨的时候) 2、AOF(Append-only file)持久化方式: 是指所有的命令行记录以 redis 命令请 求协 议的格式完全持久化存储)保存为 aof 文件。 AOF:持久化 AOF 持久化(即 Append Only File 持久化),则是将 Redis 执行的每次写命令记录到单独的 日志文件中,当重启 Redis 会重新将持久化的日志中文件恢复数据。 当两种方式同时开启时,数据恢复 Redis 会优先选择 AOF 恢复。 优点: 1、数据安全,aof 持久化可以配置 appendfsync 属性,有 always,每进行一次 命令操 作就记录到 aof 文件中一次。 2、通过 append 模式写文件,即使中途服务器宕机,可以通过 redis-check-aof 工具解 决数据一致性问题。 3、AOF 机制的 rewrite 模式。AOF 文件没被 rewrite 之前(文件过大时会对命令 进行 合并重写),可以删除其中的某些命令(比如误操作的 flushall)) 缺点:
1、AOF 文件比 RDB 文件大,且恢复速度慢。 2、数据集大的时候,比 rdb 启动效率低。 优缺点是什么? AOF 文件比 RDB 更新频率高,优先使用 AOF 还原数据。 AOF 比 RDB 更安全也更大 RDB 性能比 AOF 好 如果两个都配了优先加载 AOF 如何选择合适的持久化方式 一般来说, 如果想达到足以媲美 PostgreSQL 的数据安全性,你应该同时使用两种持久化 功能。在这种情况下,当 Redis 重启的时候会优先载入 AOF 文件来恢复原始的数据,因 为在通常情况下 AOF 文件保存的数据集要比 RDB 文件保存的数据集要完整。 如果你非常关心你的数据, 但仍然可以承受数分钟以内的数据丢失,那么你可以只使用 RDB 持久化。 有很多用户都只使用AOF持久化,但并不推荐这种方式,因为定时生成RDB快照(snapshot) 非常便于进行数据库备份, 并且 RDB 恢复数据集的速度也要比 AOF 恢复的速度要快, 除此之外,使用 RDB 还可以避免 AOF 程序的 bug。 如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式。
Redis 持久化数据和缓存怎么做扩容? 如果 Redis 被当做缓存使用,使用一致性哈希实现动态扩容缩容。 如果 Redis 被当做一个持久化存储使用,必须使用固定的 keys-to-nodes 映射关系,节点 的数量一旦确定不能变化。否则的话(即 Redis 节点需要动态变化的情况),必须使用可以在 运行时进行数据再平衡的一套系统,而当前只有 Redis 集群可以做到这样。 过期键的删除策略 Redis 的过期键的删除策略 我们都知道,Redis 是 key-value 数据库,我们可以设置 Redis 中缓存的 key 的过期时间。 Redis 的过期策略就是指当 Redis 中缓存的 key 过期了,Redis 如何处理。 过期策略通常有以下三种: 定时过期:每个设置过期时间的 key 都需要创建一个定时器,到过期时间就会立即清除。 该策略可以立即清除过期的数据,对内存很友好;但是会占用大量的 CPU 资源去处理过期 的数据,从而影响缓存的响应时间和吞吐量。 惰性过期:只有当访问一个 key 时,才会判断该 key 是否已过期,过期则清除。该策略可 以最大化地节省 CPU 资源,却对内存非常不友好。极端情况可能出现大量的过期 key 没有 再次被访问,从而不会被清除,占用大量内存。 定期过期:每隔一定的时间,会扫描一定数量的数据库的 expires 字典中一定数量的 key,
并清除其中已过期的 key。该策略是前两者的一个折中方案。通过调整定时扫描的时间间隔 和每次扫描的限定耗时,可以在不同情况下使得 CPU 和内存资源达到最优的平衡效果。 (expires 字典会保存所有设置了过期时间的 key 的过期时间数据,其中,key 是指向键空间 中的某个键的指针,value 是该键的毫秒精度的 UNIX 时间戳表示的过期时间。键空间是指 该 Redis 集群中保存的所有键。) Redis 中同时使用了惰性过期和定期过期两种过期策略。 Redis key 的过期时间和永久有效分别怎么设置? EXPIRE 和 PERSIST 命令。 我们知道通过 expire 来设置 key 的过期时间,那么对过期的数据怎么处理呢? 除了缓存服务器自带的缓存失效策略之外(Redis 默认的有 6 中策略可供选择),我们还可 以根据具体的业务需求进行自定义的缓存淘汰,常见的策略有两种: 定时去清理过期的缓存; 当有用户请求过来时,再判断这个请求所用到的缓存是否过期,过期的话就去底层系统得到 新数据并更新缓存。 两者各有优劣,第一种的缺点是维护大量缓存的 key 是比较麻烦的,第二种的缺点就是每 次用户请求过来都要判断缓存失效,逻辑相对比较复杂!具体用哪种方案,大家可以根据自 己的应用场景来权衡。
内存相关 MySQL 里有 2000w 数据,redis 中只存 20w 的数据,如何保证 redis 中的数据都是热点 数据redis 内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略。 Redis 的内存淘汰策略有哪些 Redis 的内存淘汰策略是指在 Redis 的用于缓存的内存不足时,怎么处理需要新写入且需要 申请额外空间的数据。 全局的键空间选择性移除 noeviction:当内存不足以容纳新写入数据时,新写入操作会报错。 allkeys-lru:当内存不足以容纳新写入数据时,在键空间中,移除最近最少使用的 key。(这 个是最常用的) allkeys-random:当内存不足以容纳新写入数据时,在键空间中,随机移除某个 key。 设置过期时间的键空间选择性移除 volatile-lru:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,移除最近 最少使用的 key。 volatile-random:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,随机 移除某个 key。
volatile-ttl:当内存不足以容纳新写入数据时,在设置了过期时间的键空间中,有更早过期 时间的 key 优先移除。 总结Redis 的内存淘汰策略的选取并不会影响过期的 key 的处理。内存淘汰策略用于处理内存不 足时的需要申请额外空间的数据;过期策略用于处理过期的缓存数据。 Redis 主要消耗什么物理资源? 内存。 Redis 的内存用完了会发生什么? 如果达到设置的上限,Redis 的写命令会返回错误信息(但是读命令还可以正常返回。)或 者你可以配置内存淘汰机制,当 Redis 达到内存上限时会冲刷掉旧的内容。 Redis 如何做内存优化? 可以好好利用 Hash,list,sorted set,set 等集合类型数据,因为通常情况下很多小的 Key-Value 可以用更紧凑的方式存放到一起。尽可能使用散列表(hashes),散列表(是说 散列表里面存储的数少)使用的内存非常小,所以你应该尽可能的将你的数据模型抽象到一 个散列表里面。比如你的 web 系统中有一个用户对象,不要为这个用户的名称,姓氏,邮 箱,密码设置单独的 key,而是应该把这个用户的所有信息存储到一张散列表里面 线程模型
Redis 线程模型 Redis 基于 Reactor 模式开发了网络事件处理器,这个处理器被称为文件事件处理器(file event handler)。它的组成结构为 4 部分:多个套接字、IO 多路复用程序、文件事件分派 器、事件处理器。因为文件事件分派器队列的消费是单线程的,所以 Redis 才叫单线程模 型。文件事件处理器使用 I/O 多路复用(multiplexing)程序来同时监听多个套接字, 并根据 套接字目前执行的任务来为套接字关联不同的事件处理器。 当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close) 等操作时, 与操作相对应的文件事件就会产生, 这时文件事件处理器就会调用套接字之前 关联好的事件处理器来处理这些事件。 虽然文件事件处理器以单线程方式运行,但通过使用 I/O 多路复用程序来监听多个套接字, 文件事件处理器既实现了高性能的网络通信模型, 又可以很好地与 redis 服务器中其他同 样以单线程方式运行的模块进行对接, 这保持了 Redis 内部单线程设计的简单性。 事务什么是事务? 事务是一个单独的隔离操作:事务中的所有命令都会序列化、按顺序地执行。事务在执行的 过程中,不会被其他客户端发送来的命令请求所打断。
事务是一个原子操作:事务中的命令要么全部被执行,要么全部都不执行。 Redis 事务的概念 Redis 事务的本质是通过 MULTI、EXEC、WATCH 等一组命令的集合。事务支持一次执行 多个命令,一个事务中所有命令都会被序列化。在事务执行过程,会按照顺序串行化执行队 列中的命令,其他客户端提交的命令请求不会插入到事务执行命令序列中。 总结说:redis 事务就是一次性、顺序性、排他性的执行一个队列中的一系列命令。 Redis 事务的三个阶段 事务开始 MULTI 命令入队 事务执行 EXEC 事务执行过程中,如果服务端收到有 EXEC、DISCARD、WATCH、MULTI 之外的请求,将 会把请求放入队列中排队 Redis 事务相关命令 Redis 事务功能是通过 MULTI、EXEC、DISCARD 和 WATCH 四个原语实现的 Redis 会将一个事务中的所有命令序列化,然后按顺序执行。 redis 不支持回滚,“Redis 在事务失败时不进行回滚,而是继续执行余下的命令”, 所
以 Redis 的内部可以保持简单且快速。 如果在一个事务中的命令出现错误,那么所有的命令都不会执行; 如果在一个事务中出现运行错误,那么正确的命令会被执行。 WATCH 命令是一个乐观锁,可以为 Redis 事务提供 check-and-set (CAS)行为。 可 以监控一个或多个键,一旦其中有一个键被修改(或删除),之后的事务就不会执行,监控 一直持续到 EXEC 命令。 MULTI 命令用于开启一个事务,它总是返回 OK。 MULTI 执行之后,客户端可以继续向服 务器发送任意多条命令,这些命令不会立即被执行,而是被放到一个队列中,当 EXEC 命令 被调用时,所有队列中的命令才会被执行。 EXEC:执行所有事务块内的命令。返回事务块内所有命令的返回值,按命令执行的先后顺 序排列。 当操作被打断时,返回空值 nil 。 通过调用 DISCARD,客户端可以清空事务队列,并放弃执行事务, 并且客户端会从事务 状态中退出。 UNWATCH 命令可以取消 watch 对所有 key 的监控。 事务管理(ACID)概述 原子性(Atomicity) 原子性是指事务是一个不可分割的工作单位,事务中的操作要么都发生,要么都不发生。 一致性(Consistency) 事务前后数据的完整性必须保持一致。 隔离性(Isolation)
多个事务并发执行时,一个事务的执行不应影响其他事务的执行 持久性(Durability) 持久性是指一个事务一旦被提交,它对数据库中数据的改变就是永久性的,接下来即使数据 库发生故障也不应该对其有任何影响 Redis 的事务总是具有 ACID 中的一致性和隔离性,其他特性是不支持的。当服务器运行在 AOF 持久化模式下,并且 appendfsync 选项的值为 always 时,事务也具有耐久性。 Redis 事务支持隔离性吗 Redis 是单进程程序,并且它保证在执行事务时,不会对事务进行中断,事务可以运行直 到执行完所有事务队列中的命令为止。因此,Redis 的事务是总是带有隔离性的。 Redis 事务保证原子性吗,支持回滚吗 Redis 中,单条命令是原子性执行的,但事务不保证原子性,且没有回滚。事务中任意命令 执行失败,其余的命令仍会被执行。 Redis 事务其他实现 基于 Lua 脚本,Redis 可以保证脚本内的命令一次性、按顺序地执行, 其同时也不提供事务运行错误的回滚,执行过程中如果部分命令运行错误,剩下的命令还是 会继续运行完 基于中间标记变量,通过另外的标记变量来标识事务是否执行完成,读取数据时先读取该标
记变量判断是否事务执行完成。但这样会需要额外写代码实现,比较繁琐 集群方案 哨兵模式 哨兵的介绍 sentinel,中文名是哨兵。哨兵是 redis 集群机构中非常重要的一个组件,主要有以下功能: 集群监控:负责监控 redis master 和 slave 进程是否正常工作。 消息通知:如果某个 redis 实例有故障,那么哨兵负责发送消息作为报警通知给管理员。 故障转移:如果 master node 挂掉了,会自动转移到 slave node 上。 配置中心:如果故障转移发生了,通知 client 客户端新的 master 地址。 哨兵用于实现 redis 集群的高可用,本身也是分布式的,作为一个哨兵集群去运行,互相 协同工作。 故障转移时,判断一个 master node 是否宕机了,需要大部分的哨兵都同意才行,涉及到 了分布式选举的问题。 即使部分哨兵节点挂掉了,哨兵集群还是能正常工作的,因为如果一个作为高可用机制重要 组成部分的故障转移系统本身是单点的,那就很坑爹了。 哨兵的核心知识 哨兵至少需要 3 个实例,来保证自己的健壮性。
哨兵 + redis 主从的部署架构,是不保证数据零丢失的,只能保证 redis 集群的高可用性。 对于哨兵 + redis 主从这种复杂的部署架构,尽量在测试环境和生产环境,都进行充足的 测试和演练。 官方 Redis Cluster 方案(服务端路由查询) redis 集群模式的工作原理能说一下么?在集群模式下,redis 的 key 是如何寻址的?分 布式寻址都有哪些算法?了解一致性 hash 算法吗? 简介Redis Cluster 是一种服务端 Sharding 技术,3.0 版本开始正式提供。Redis Cluster 并没 有使用一致性 hash,而是采用 slot(槽)的概念,一共分成 16384 个槽。将请求发送到任意 节点,接收到请求的节点会将查询请求发送到正确的节点上执行 方案说明 通过哈希的方式,将数据分片,每个节点均分存储一定哈希槽(哈希值)区间的数据,默认分 配了 16384 个槽位 每份数据分片会存储在多个互为主从的多节点上 数据写入先写主节点,再同步到从节点(支持配置为阻塞同步) 同一分片多个节点间的数据不保持一致性
读取数据时,当客户端操作的 key 没有分配在该节点上时,redis 会返回转向指令,指向正 确的节点 扩容时时需要需要把旧节点的数据迁移一部分到新节点 在 redis cluster 架构下,每个 redis 要放开两个端口号,比如一个是 6379,另外一个就 是 加 1w 的端口号,比如 16379。 16379 端口号是用来进行节点间通信的,也就是 cluster bus 的东西,cluster bus 的通 信,用来进行故障检测、配置更新、故障转移授权。cluster bus 用了另外一种二进制的协 议,gossip 协议,用于节点间进行高效的数据交换,占用更少的网络带宽和处理时间。 节点间的内部通信机制 基本通信原理 集群元数据的维护有两种方式:集中式、Gossip 协议。redis cluster 节点间采用 gossip 协议进行通信。 分布式寻址算法 hash 算法(大量缓存重建) 一致性 hash 算法(自动缓存迁移)+ 虚拟节点(自动负载均衡) redis cluster 的 hash slot 算法
优点无中心架构,支持动态扩容,对业务透明 具备 Sentinel 的监控和自动 Failover(故障转移)能力 客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可 高性能,客户端直连 redis 服务,免去了 proxy 代理的损耗 缺点运维也很复杂,数据迁移需要人工干预 只能使用 0 号数据库 不支持批量操作(pipeline 管道操作) 分布式逻辑和存储模块耦合等 基于客户端分配 简介Redis Sharding 是 Redis Cluster 出来之前,业界普遍使用的多 Redis 实例集群方法。其 主要思想是采用哈希算法将 Redis 数据的 key 进行散列,通过 hash 函数,特定的 key 会映 射到特定的 Redis 节点上。Java redis 客户端驱动 jedis,支持 Redis Sharding 功能,即 ShardedJedis 以及结合缓存池的 ShardedJedisPool 优点
优势在于非常简单,服务端的 Redis 实例彼此独立,相互无关联,每个 Redis 实例像单服 务器一样运行,非常容易线性扩展,系统的灵活性很强 缺点由于 sharding 处理放到客户端,规模进一步扩大时给运维带来挑战。 客户端 sharding 不支持动态增删节点。服务端 Redis 实例群拓扑结构有变化时,每个客户 端都需要更新调整。连接不能共享,当应用规模增大时,资源浪费制约优化 基于代理服务器分片 简介客户端发送请求到一个代理组件,代理解析客户端的数据,并将请求转发至正确的节点,最 后将结果回复给客户端 特征透明接入,业务程序不用关心后端 Redis 实例,切换成本低 Proxy 的逻辑和存储的逻辑是隔离的 代理层多了一次转发,性能有所损耗 业界开源方案
Twtter 开源的 Twemproxy 豌豆荚开源的 Codis Redis 主从架构 单机的 redis,能够承载的 QPS 大概就在上万到几万不等。对于缓存来说,一般都是用来 支撑读高并发的。因此架构做成主从(master-slave)架构,一主多从,主负责写,并且将数 据复制到其它的 slave 节点,从节点负责读。所有的读请求全部走从节点。这样也可以很 轻松实现水平扩容,支撑读高并发。 redis replication -> 主从架构 -> 读写分离 -> 水平扩容支撑读高并发 redis replication 的核心机制 redis 采用异步方式复制数据到 slave 节点,不过 redis2.8 开始,slave node 会周期性 地确认自己每次复制的数据量; 一个 master node 是可以配置多个 slave node 的; slave node 也可以连接其他的 slave node; slave node 做复制的时候,不会 block master node 的正常工作; slave node 在做复制的时候,也不会 block 对自己的查询操作,它会用旧的数据集来提 供服务;但是复制完成的时候,需要删除旧数据集,加载新数据集,这个时候就会暂停对外
服务了; slave node 主要用来进行横向扩容,做读写分离,扩容的 slave node 可以提高读的吞吐 量。注意,如果采用了主从架构,那么建议必须开启 master node 的持久化,不建议用 slave node 作为 master node 的数据热备,因为那样的话,如果你关掉 master 的持久化, 可能在 master 宕机重启的时候数据是空的,然后可能一经过复制, slave node 的数据 也丢了。 另外,master 的各种备份方案,也需要做。万一本地的所有文件丢失了,从备份中挑选一 份 rdb 去恢复 master,这样才能确保启动的时候,是有数据的,即使采用了后续讲解的 高可用机制,slave node 可以自动接管 master node,但也可能 sentinel 还没检测到 master failure,master node 就自动重启了,还是可能导致上面所有的 slave node 数 据被清空。 redis 主从复制的核心原理 当启动一个 slave node 的时候,它会发送一个 PSYNC 命令给 master node。 如 果 这 是 slave node 初 次 连 接 到 master node , 那 么 会 触 发 一 次 full resynchronization 全量复制。此时 master 会启动一个后台线程,开始生成一份 RDB 快 照文件,
同时还会将从客户端 client 新收到的所有写命令缓存在内存中。RDB 文件生成完毕后, master 会将这个 RDB 发送给 slave,slave 会先写入本地磁盘,然后再从本地磁盘加载 到内存中, 接着 master 会将内存中缓存的写命令发送到 slave,slave 也会同步这些数据。 slave node 如果跟 master node 有网络故障,断开了连接,会自动重连,连接之后 master node 仅会复制给 slave 部分缺少的数据。 过程原理 当从库和主库建立 MS 关系后,会向主数据库发送 SYNC 命令 主库接收到 SYNC 命令后会开始在后台保存快照(RDB 持久化过程),并将期间接收到的写 命令缓存起来 当快照完成后,主 Redis 会将快照文件和所有缓存的写命令发送给从 Redis 从 Redis 接收到后,会载入快照文件并且执行收到的缓存的命令 之后,主 Redis 每当接收到写命令时就会将命令发送从 Redis,从而保证数据的一致 缺点所有的 slave 节点数据的复制和同步都由 master 节点来处理,会照成 master 节点压力太
大,使用主从从结构来解决 Redis 集群的主从复制模型是怎样的? 为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用,所以集群使用了主 从复制模型,每个节点都会有 N-1 个复制品 生产环境中的 redis 是怎么部署的? redis cluster,10 台机器,5 台机器部署了 redis 主实例,另外 5 台机器部署了 redis 的 从实例,每个主实例挂了一个从实例,5 个节点对外提供读写服务,每个节点的读写高峰 qps 可能可以达到每秒 5 万,5 台机器最多是 25 万读写请求/s。 机器是什么配置?32G 内存+ 8 核 CPU + 1T 磁盘,但是分配给 redis 进程的是 10g 内 存,一般线上生产环境,redis 的内存尽量不要超过 10g,超过 10g 可能会有问题。 5 台机器对外提供读写,一共有 50g 内存。 因为每个主实例都挂了一个从实例,所以是高可用的,任何一个主实例宕机,都会自动故障 迁移,redis 从实例会自动变成主实例继续提供读写服务。 你往内存里写的是什么数据?每条数据的大小是多少?商品数据,每条数据是 10kb。100 条数据是 1mb,10 万条数据是 1g。常驻内存的是 200 万条商品数据,占用内存是 20g, 仅仅不到总内存的 50%。目前高峰期每秒就是 3500 左右的请求量。
其实大型的公司,会有基础架构的 team 负责缓存集群的运维。 说说 Redis 哈希槽的概念? Redis 集群没有使用一致性 hash,而是引入了哈希槽的概念,Redis 集群有 16384 个哈希槽, 每个 key 通过 CRC16 校验后对 16384 取模来决定放置哪个槽,集群的每个节点负责一部 分 hash 槽。 Redis 集群会有写操作丢失吗?为什么? Redis 并不能保证数据的强一致性,这意味这在实际中集群在特定的条件下可能会丢失写操 作。Redis 集群之间是如何复制的? 异步复制 Redis 集群最大节点个数是多少? 16384 个 Redis 集群如何选择数据库? Redis 集群目前无法做数据库选择,默认在 0 数据库。 分区
Redis 是单线程的,如何提高多核 CPU 的利用率? 可以在同一个服务器部署多个 Redis 的实例,并把他们当作不同的服务器来使用,在某些 时候,无论如何一个服务器是不够的, 所以,如果你想使用多个 CPU,你可以考虑一下分 片(shard)。 为什么要做 Redis 分区? 分区可以让 Redis 管理更大的内存,Redis 将可以使用所有机器的内存。如果没有分区,你 最多只能使用一台机器的内存。分区使 Redis 的计算能力通过简单地增加计算机得到成倍 提升,Redis 的网络带宽也会随着计算机和网卡的增加而成倍增长。 你知道有哪些 Redis 分区实现方案? 客户端分区就是在客户端就已经决定数据会被存储到哪个 redis 节点或者从哪个 redis 节点 读取。大多数客户端已经实现了客户端分区。 代理分区 意味着客户端将请求发送给代理,然后代理决定去哪个节点写数据或者读数据。 代理根据分区规则决定请求哪些 Redis 实例,然后根据 Redis 的响应结果返回给客户端。 redis 和 memcached 的一种代理实现就是 Twemproxy 查询路由(Query routing) 的意思是客户端随机地请求任意一个 redis 实例,然后由 Redis 将请求转发给正确的 Redis 节点。Redis Cluster 实现了一种混合形式的查询路由,但并不 是直接将请求从一个 redis 节点转发到另一个 redis 节点,而是在客户端的帮助下直接 redirected 到正确的 redis 节点。 Redis 分区有什么缺点? 涉及多个 key 的操作通常不会被支持。例如你不能对两个集合求交集,因为他们可能被存
储到不同的 Redis 实例(实际上这种情况也有办法,但是不能直接使用交集指令)。 同时操作多个 key,则不能使用 Redis 事务. 分区使用的粒度是 key,不能使用一个非常长的排序 key 存储一个数据集(The partitioning granularity is the key, so it is not possible to shard a dataset with a single huge key like a very big sorted set) 当使用分区的时候,数据处理会非常复杂,例如为了备份你必须从不同的 Redis 实例和主 机同时收集 RDB / AOF 文件。 分区时动态扩容或缩容可能非常复杂。Redis 集群在运行时增加或者删除 Redis 节点,能做 到最大程度对用户透明地数据再平衡,但其他一些客户端分区或者代理分区方法则不支持这 种特性。然而,有一种预分片的技术也可以较好的解决这个问题。 分布式问题 Redis 实现分布式锁 Redis 为单进程单线程模式,采用队列模式将并发访问变成串行访问,且多客户端对 Redis 的连接并不存在竞争关系 Redis 中可以使用 SETNX 命令实现分布式锁。 当且仅当 key 不存在,将 key 的值设为 value。 若给定的 key 已经存在,则 SETNX 不 做任何动作 SETNX 是『SET if Not eXists』(如果不存在,则 SET)的简写。 返回值:设置成功,返回 1 。设置失败,返回 0 。
使用 SETNX 完成同步锁的流程及事项如下: 使用 SETNX 命令获取锁,若返回 0(key 已存在,锁已存在)则获取失败,反之获取成功 为了防止获取锁后程序出现异常,导致其他线程/进程调用 SETNX 命令总是返回 0 而进入 死锁状态,需要为该 key 设置一个“合理”的过期时间 释放锁,使用 DEL 命令将锁数据删除 如何解决 Redis 的并发竞争 Key 问题 所谓 Redis 的并发竞争 Key 的问题也就是多个系统同时对一个 key 进行操作,但是最后 执行的顺序和我们期望的顺序不同,这样也就导致了结果的不同! 推荐一种方案:分布式锁(zookeeper 和 redis 都可以实现分布式锁)。(如果不存在 Redis 的并发竞争 Key 问题,不要使用分布式锁,这样会影响性能) 基于 zookeeper 临时有序节点可以实现的分布式锁。大致思想为:每个客户端对某个方法 加锁时,在 zookeeper 上的与该方法对应的指定节点的目录下,生成一个唯一的瞬时有序 节点。 判断是否获取锁的方式很简单,只需要判断有序节点中序号最小的一个。 当释放锁 的时候,只需将这个瞬时节点删除即可。同时,其可以避免服务宕机导致的锁无法释放,而
产生的死锁问题。完成业务流程后,删除对应的子节点释放锁。 在实践中,当然是从以可靠性为主。所以首推 Zookeeper。 分布式 Redis 是前期做还是后期规模上来了再做好?为什么? 既然 Redis 是如此的轻量(单实例只使用 1M 内存),为防止以后的扩容,最好的办法就是 一开始就启动较多实例。即便你只有一台服务器,你也可以一开始就让 Redis 以分布式的 方式运行,使用分区,在同一台服务器上启动多个实例。 一开始就多设置几个 Redis 实例,例如 32 或者 64 个实例,对大多数用户来说这操作起来 可能比较麻烦,但是从长久来看做这点牺牲是值得的。 这样的话,当你的数据不断增长,需要更多的 Redis 服务器时,你需要做的就是仅仅将 Redis 实例从一台服务迁移到另外一台服务器而已(而不用考虑重新分区的问题)。一旦你添加了 另一台服务器,你需要将你一半的 Redis 实例从第一台机器迁移到第二台机器。 什么是 RedLock Redis 官方站提出了一种权威的基于 Redis 实现分布式锁的方式名叫 Redlock,此种方式 比原先的单节点的方法更安全。它可以保证以下特性: 安全特性:互斥访问,即永远只有一个 client 能拿到锁
避免死锁:最终 client 都可能拿到锁,不会出现死锁的情况,即使原本锁住某资源的 client crash 了或者出现了网络分区 容错性:只要大部分 Redis 节点存活就可以正常提供服务 缓存异常 缓存雪崩 缓存雪崩是指缓存同一时间大面积的失效,所以,后面的请求都会落到数据库上,造成数据 库短时间内承受大量请求而崩掉。 解决方案 缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生。 一般并发量不是特别多的时候,使用最多的解决方案是加锁排队。 给每一个缓存数据增加相应的缓存标记,记录缓存的是否失效,如果缓存标记失效,则更新 数据缓存。 缓存穿透 缓存穿透是指缓存和数据库中都没有的数据,导致所有的请求都落到数据库上,造成数据库 短时间内承受大量请求而崩掉。 解决方案 接口层增加校验,如用户鉴权校验,id 做基础校验,id<=0 的直接拦截; 从缓存取不到的数据,在数据库中也没有取到,这时也可以将 key-value 对写为 key-null,
缓存有效时间可以设置短点,如 30 秒(设置太长会导致正常情况也没法使用)。这样可以 防止攻击用户反复用同一个 id 暴力攻击 采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的 bitmap 中,一个一定不存 在的数据会被这个 bitmap 拦截掉,从而避免了对底层存储系统的查询压力 附加对于空间的利用到达了一种极致,那就是 Bitmap 和布隆过滤器(Bloom Filter)。 Bitmap: 典型的就是哈希表 缺点是,Bitmap 对于每个元素只能记录 1bit 信息,如果还想完成额外的功能,恐怕只能靠 牺牲更多的空间、时间来完成了。 布隆过滤器(推荐) 就是引入了 k(k>1)k(k>1)个相互独立的哈希函数,保证在给定的空间、误判率下,完成元 素判重的过程。 它的优点是空间效率和查询时间都远远超过一般的算法,缺点是有一定的误识别率和删除困 难。Bloom-Filter 算法的核心思想就是利用多个不同的 Hash 函数来解决“冲突”。 Hash 存在一个冲突(碰撞)的问题,用同一个 Hash 得到的两个 URL 的值有可能相同。为 了减少冲突,我们可以多引入几个 Hash,如果通过其中的一个 Hash 值我们得出某元素不 在集合中,那么该元素肯定不在集合中。只有在所有的 Hash 函数告诉我们该元素在集合中 时,才能确定该元素存在于集合中。这便是 Bloom-Filter 的基本思想。
Bloom-Filter 一般用于在大数据量的集合中判定某元素是否存在。 缓存击穿 缓存击穿是指缓存中没有但数据库中有的数据(一般是缓存时间到期),这时由于并发用户 特别多,同时读缓存没读到数据,又同时去数据库去取数据,引起数据库压力瞬间增大,造 成过大压力。和缓存雪崩不同的是,缓存击穿指并发查同一条数据,缓存雪崩是不同数据都 过期了,很多数据都查不到从而查数据库。 解决方案 设置热点数据永远不过期。 加互斥锁,互斥锁 缓存预热 缓存预热就是系统上线后,将相关的缓存数据直接加载到缓存系统。这样就可以避免在用户 请求的时候,先查询数据库,然后再将数据缓存的问题!用户直接查询事先被预热的缓存数 据!解决方案 直接写个缓存刷新页面,上线时手工操作一下; 数据量不大,可以在项目启动的时候自动进行加载;
定时刷新缓存; 缓存降级 当访问量剧增、服务出现问题(如响应时间慢或不响应)或非核心服务影响到核心流程的性 能时,仍然需要保证服务还是可用的,即使是有损服务。系统可以根据一些关键数据进行自 动降级,也可以配置开关实现人工降级。 缓存降级的最终目的是保证核心服务可用,即使是有损的。而且有些服务是无法降级的(如 加入购物车、结算)。 在进行降级之前要对系统进行梳理,看看系统是不是可以丢卒保帅;从而梳理出哪些必须誓 死保护,哪些可降级;比如可以参考日志级别设置预案: 一般:比如有些服务偶尔因为网络抖动或者服务正在上线而超时,可以自动降级; 警告:有些服务在一段时间内成功率有波动(如在 95~100%之间),可以自动降级或人工 降级,并发送告警; 错误:比如可用率低于 90%,或者数据库连接池被打爆了,或者访问量突然猛增到系统能 承受的最大阀值,此时可以根据情况自动降级或者人工降级;
严重错误:比如因为特殊原因数据错误了,此时需要紧急人工降级。 服务降级的目的,是为了防止 Redis 服务故障,导致数据库跟着一起发生雪崩问题。因此, 对于不重要的缓存数据,可以采取服务降级策略,例如一个比较常见的做法就是,Redis 出 现问题,不去数据库查询,而是直接返回默认值给用户。 热点数据和冷数据 热点数据,缓存才有价值 对于冷数据而言,大部分数据可能还没有再次访问到就已经被挤出内存,不仅占用内存,而 且价值不大。频繁修改的数据,看情况考虑使用缓存 对于热点数据,比如我们的某 IM 产品,生日祝福模块,当天的寿星列表,缓存以后可能读 取数十万次。再举个例子,某导航产品,我们将导航信息,缓存以后可能读取数百万次。 数据更新前至少读取两次,缓存才有意义。这个是最基本的策略,如果缓存还没有起作用就 失效了,那就没有太大价值了。 那存不存在,修改频率很高,但是又不得不考虑缓存的场景呢?有!比如,这个读取接口对 数据库的压力很大,但是又是热点数据,这个时候就需要考虑通过缓存手段,减少数据库的 压力,比如我们的某助手产品的,点赞数,收藏数,分享数等是非常典型的热点数据,但是 又不断变化,此时就需要将数据同步保存到 Redis 缓存,减少数据库压力。
缓存热点 key 缓存中的一个 Key(比如一个促销商品),在某个时间点过期的时候,恰好在这个时间点对这 个 Key 有大量的并发请求过来,这些请求发现缓存过期一般都会从后端 DB 加载数据并回 设到缓存,这个时候大并发的请求可能会瞬间把后端 DB 压垮。 解决方案 对缓存查询加锁,如果 KEY 不存在,就加锁,然后查 DB 入缓存,然后解锁;其他进程如 果发现有锁就等待,然后等解锁后返回数据或者进入 DB 查询 常用工具 Redis 支持的 Java 客户端都有哪些?官方推荐用哪个? Redisson、Jedis、lettuce 等等,官方推荐使用 Redisson。 Redis 和 Redisson 有什么关系? Redisson 是一个高级的分布式协调 Redis 客服端,能帮助用户在分布式环境中轻松实现一 些 Java 的对象 (Bloom filter, BitSet, Set, SetMultimap, ScoredSortedSet, SortedSet, Map, ConcurrentMap, List, ListMultimap, Queue, BlockingQueue, Deque, BlockingDeque, Semaphore, Lock, ReadWriteLock, AtomicLong, CountDownLatch, Publish / Subscribe, HyperLogLog)。
Jedis 与 Redisson 对比有什么优缺点? Jedis是Redis的Java实现的客户端,其API提供了比较全面的Redis命令的支持;Redisson 实现了分布式和可扩展的 Java 数据结构,和 Jedis 相比,功能较为简单,不支持字符串操 作,不支持排序、事务、管道、分区等 Redis 特性。Redisson 的宗旨是促进使用者对 Redis 的关注分离,从而让使用者能够将精力更集中地放在处理业务逻辑上。 其他问题 Redis 与 Memcached 的区别 两者都是非关系型内存键值数据库,现在公司一般都是用 Redis 来实现缓存,而且 Redis 自身也越来越强大了!Redis 与 Memcached 主要有以下不同: 对比参数 Redis Memcached 类型 1. 支持内存 2. 非关系型数据库 1. 支持内存 2. 键值对形式 3. 缓存形式 数据存储类型 1. String 2. List 3. Set 4. Hash 5. Sort Set 【俗称 ZSet】1. 文本型 2. 二进制类型 查询【操作】类型 1. 批量操作 2. 事务支持 3. 每个类型不同的 CRUD 1. 常 用 的 CRUD 2. 少量的其他命令 附加功能 1. 发布/订阅模式 2. 主从分区 3. 序列化支持 4. 脚本支持【Lua 脚本】 1. 多线程服务支持 网络 IO 模型 1. 单线程的多路 IO 复用模型 1. 多线程,非阻塞 IO 模式 事件库 自封转简易事件库 AeEvent 贵族血统的 LibEvent 事件库 持久化支持 1. RDB 2. AOF 不支持
集群模式 原生支持 cluster 模式,可以实现主从复制,读写分离 没有原生的集群 模式,需要依靠客户端来实现往集群中分片写入数据 内存管理机制 在 Redis 中,并不是所有数据都一直存储在内存中,可以将一些很久没 用的 value 交换到磁盘 Memcached 的数据则会一直在内存中,Memcached 将内存 分割成特定长度的块来存储数据,以完全解决内存碎片的问题。但是这种方式会使得内存的 利用率不高,例如块的大小为 128 bytes,只存储 100 bytes 的数据,那么剩下的 28 bytes 就浪费掉了。 适用场景 复杂数据结构,有持久化,高可用需求,value 存储内容较大 纯 key-value,数据量非常大,并发量非常大的业务 (1) memcached 所有的值均是简单的字符串,redis 作为其替代者,支持更为丰富的数据 类型(2) redis 的速度比 memcached 快很多 (3) redis 可以持久化其数据 如何保证缓存与数据库双写时的数据一致性? 你只要用缓存,就可能会涉及到缓存与数据库双存储双写,你只要是双写,就一定会有数据 一致性的问题,那么你如何解决一致性问题? 一般来说,就是如果你的系统不是严格要求缓存+数据库必须一致性的话,缓存可以稍微的 跟数据库偶尔有不一致的情况,最好不要做这个方案,读请求和写请求串行化,串到一个内
存队列里去,这样就可以保证一定不会出现不一致的情况 串行化之后,就会导致系统的吞吐量会大幅度的降低,用比正常情况下多几倍的机器去支撑 线上的一个请求。 还有一种方式就是可能会暂时产生不一致的情况,但是发生的几率特别小,就是先更新数据 库,然后再删除缓存。 问题场景 描述 解决 先写缓存,再写数据库,缓存写成功,数据库写失败 缓存写成功,但写数据库失败或者响 应延迟,则下次读取(并发读)缓存时,就出现脏读 这个写缓存的方式,本身就是错误的, 需要改为先写数据库,把旧缓存置为失效;读取数据的时候,如果缓存不存在,则读取数据 库再写缓存 先写数据库,再写缓存,数据库写成功,缓存写失败 写数据库成功,但写缓存失败,则下 次读取(并发读)缓存时,则读不到数据 缓存使用时,假如读缓存失败,先读数据库, 再回写缓存的方式实现 需要缓存异步刷新 指数据库操作和写缓存不在一个操作步骤中,比如在分布式场景下, 无法做到同时写缓存或需要异步刷新(补救措施)时候 确定哪些数据适合此类场景,根 据经验值确定合理的数据不一致时间,用户数据刷新的时间间隔 Redis 常见性能问题和解决方案? Master 最好不要做任何持久化工作,包括内存快照和 AOF 日志文件,特别是不要启用内 存快照做持久化。
如果数据比较关键,某个 Slave 开启 AOF 备份数据,策略为每秒同步一次。 为了主从复制的速度和连接的稳定性,Slave 和 Master 最好在同一个局域网内。 尽量避免在压力较大的主库上增加从库 Master 调用 BGREWRITEAOF 重写 AOF 文件,AOF 在重写的时候会占大量的 CPU 和内 存资源,导致服务 load 过高,出现短暂服务暂停现象。 为了 Master 的稳定性,主从复制不要用图状结构,用单向链表结构更稳定,即主从关系为: Master<–Slave1<–Slave2<–Slave3…,这样的结构也方便解决单点故障问题,实现 Slave 对 Master 的替换,也即,如果 Master 挂了,可以立马启用 Slave1 做 Master,其他不变。 Redis 官方为什么不提供 Windows 版本? 因为目前 Linux 版本已经相当稳定,而且用户量很大,无需开发 windows 版本,反而会带 来兼容性等问题。 一个字符串类型的值能存储最大容量是多少? 512M Redis 如何做大量数据插入? Redis2.6 开始 redis-cli 支持一种新的被称之为 pipe mode 的新模式用于执行大量数据插 入工作。 假如 Redis 里面有 1 亿个 key,其中有 10w 个 key 是以某个固定的已知的前缀开头的,如 果将它们全部找出来? 使用 keys 指令可以扫出指定模式的 key 列表。
对方接着追问:如果这个 redis 正在给线上的业务提供服务,那使用 keys 指令会有什么问 题?这个时候你要回答 redis 关键的一个特性:redis 的单线程的。keys 指令会导致线程阻塞一 段时间,线上服务会停顿,直到指令执行完毕,服务才能恢复。这个时候可以使用 scan 指 令,scan 指令可以无阻塞的提取出指定模式的 key 列表,但是会有一定的重复概率,在客 户端做一次去重就可以了,但是整体所花费的时间会比直接用 keys 指令长。 使用 Redis 做过异步队列吗,是如何实现的 使用 list 类型保存数据信息,rpush 生产消息,lpop 消费消息,当 lpop 没有消息时,可以 sleep 一段时间,然后再检查有没有信息,如果不想 sleep 的话,可以使用 blpop, 在没有 信息的时候,会一直阻塞,直到信息的到来。redis 可以通过 pub/sub 主题订阅模式实现 一个生产者,多个消费者,当然也存在一定的缺点,当消费者下线时,生产的消息会丢失。 Redis 如何实现延时队列 使用 sortedset,使用时间戳做 score, 消息内容作为 key,调用 zadd 来生产消息,消费者 使用 zrangbyscore 获取 n 秒之前的数据做轮询处理。 Redis 回收进程如何工作的? 一个客户端运行了新的命令,添加了新的数据。 Redis 检查内存使用情况,如果大于 maxmemory 的限制,则根据设定好的策略进行回收。 一个新的命令被执行,等等。 所以我们不断地穿越内存限制的边界,通过不断达到边界然后不断地回收回到边界以下。
如果一个命令的结果导致大量内存被使用(例如很大的集合的交集保存到一个新的键),不 用多久内存限制就会被这个内存使用量超越。 Redis 回收使用的是什么算法? LRU 算法

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/qazqwerqaz/article/details/105542583

智能推荐

2023年值得测试从业者关注的技术趋势_class central统计2023年-程序员宅基地

文章浏览阅读155次。国外有机构展望了2023年值得测试和开发同学关注的技术趋势,我在这里简单的给大家介绍一下,路漫漫其修远兮,大家一起求索吧。2023年很明显,有些人不会返回办公室,至少不会一直返回办公室。病毒大流行开始时最大的挑战之一就是远程工作的弱点和新机遇。人们远程工作面临的最大困难是深陷工作无法自拔。另一方面,人们承认他们在在线交流和协作方面遇到的困难较少。全球 CIO 调查显示,截至 2021 年 3 月,31% 的受访者预计将继续永久远程工作。据另一项调查显示,73%的雇员要求更灵活的工作选择。_class central统计2023年

光阴四载,梦想在望(散文诗)-程序员宅基地

文章浏览阅读178次。光阴四载,梦想在望(散文诗) ——代腾飞 2007年6月28日 于成都几度春秋,几度岁月四年的光景就这样一晃而过在这个日子,思绪已经不由得我主宰它已灵魂出鞘、四处飘扬我不得不心潮澎湃、感慨万千回首四年前的今朝今日一个满怀激情充满梦想的男儿离开那激扬文字的大学校园踏上了他那一生创业闯荡的征程幻想开始抒写着他青春壮丽的篇章然而四年过去,回首来世路却发现自己的梦想还是梦想希望仍然还是希望未来的人..._四载光阴,逝去亦慨;校园四季,绚丽芬芳;求

进程间通信之共享内存及其shm函数的使用【Linux】_shm_rdonly-程序员宅基地

文章浏览阅读1.6k次,点赞47次,收藏33次。共享内存区是最快的IPC(Inter-Process Communication,进程间通信)形式。一旦这样的内存映射到共享它的进程的地址空间,这些进程间数据传递不再涉及到内核,换句话说是进程不再通过执行进入内核的系统调用来传递彼此的数据.匿名管道和命名管道都需要通过系统调用接口来实现进程间通信,因为管道属于文件,属于内核中的一种特殊数据结构,由OSweihu,所以只能使用系统调用。而共享内存存在堆栈之间,可以直接读写。双方进程若要进行通信,直接进行内存级的读写即可。共享内存的提供者是操作系统。_shm_rdonly

Alpha 冲刺 (6/10)-程序员宅基地

文章浏览阅读86次。团队信息队名:爸爸饿了组长博客:here作业博客:here组员情况组员1(组长):王彬过去两天完成了哪些任务alpha冲刺时间延后一周,重新规划任务安排完成食堂店铺经纬度标注,以供美食地图使用学习jQuery与AJAX有关的部分,为beta版本商铺端的实现做准备接下来的计划 & 还剩下哪些任务继续学习jQuery与AJAX有关的部分推进前端各个界...

oracle create restore point,CREATE RESTORE POINT-程序员宅基地

文章浏览阅读562次。目的使用"create restore point"语句可以创建一个还原点,它和数据库的SCN有关联(相当于创建还原点时的时间),还原点可以闪回表或数据库到你创建还原点的那个时间点而无需指定SCN或timestamp.还原点(restore point)有两中类型:•Guaranteed restore points(保证还原点):保证还原点可以确保你闪回数据库到某个还原点(不需要管DB_FLAS..._create restore point

AI数字人:AI数字人制作初探及相关开源简介_开源数字人-程序员宅基地

文章浏览阅读6.2k次,点赞5次,收藏56次。数字人这名字听着稀奇又别扭,其实它最初的原型大家都听过——NPC。玩过游戏的应该都知道,也就是游戏内玩家操纵的游戏角色,可以和玩家进行交互的角色。广义上讲可以说是计算机模拟出的具有人的形态的虚拟人都叫做数字人,在平常的观感上,数字人是整合了人物形象模拟、人物声音克隆、自然语言处理、知识图谱解析等众多世界领先的人工智能技术的可视化数字虚拟人。他通过对人物形象的复制模拟,人物声音的克隆及语音合成,可随时随地与真人进行准确交互性对话。_开源数字人

随便推点

人工智能、机器学习、深度学习的关系、智能分类的执行流程、IK分词器的使用-程序员宅基地

文章浏览阅读1k次,点赞25次,收藏21次。人工智能与机器学习人工智能与机器学习谈谈人工智能人工智能),英文缩写为AI。它是研究开发用于模拟延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来,理论和技术日益成熟,应用领域也不断扩大,可以设想,未来人工智能带来的科技产品,将会是人类智慧。

【程序设计】输入一个数字,按要求打印图形。例如输入10:打印一个如下所示的数字金字塔。_【程序设计】输入一个数字,按要求打印图形。 例如输入10:打印一个如下所示的数字-程序员宅基地

文章浏览阅读486次,点赞7次,收藏9次。平常练习题_【程序设计】输入一个数字,按要求打印图形。 例如输入10:打印一个如下所示的数字

数组中将所有奇数排到偶数前面_把数组中的奇数排到偶数前面-程序员宅基地

文章浏览阅读667次。bool fun(int value) 35 { 36 return ((value & 1)==0); 37 } 38 39 void show(int arr[],int length) 40 { 41 int i=0; 42 for(;i<<<" "; 44 cout<_把数组中的奇数排到偶数前面

流操作时为什么要关闭流_程序结束后jvm会关闭字节输入流吗-程序员宅基地

文章浏览阅读8.1k次,点赞9次,收藏19次。需要自己close的东西,一般都是用了虚拟机之外的资源,例如端口,显存,文件等,虚拟机无法通过垃圾回收释放这些资源,只能你显式调用close方法来释放。许多情况下,如果在一些比较频繁的操作中,不对流进行关闭,很容易出现输入输出流经超越了JVM的边界,所以有时可能无法回收资源。所以流操作的时候凡是跨出虚拟机边界的资源都要求程序员自己关闭,不要指望垃圾回收。你读一个文件,忘_程序结束后jvm会关闭字节输入流吗

python计算机毕设【附源码】医院预约挂号系统(django+mysql+论文)-程序员宅基地

文章浏览阅读466次,点赞24次,收藏15次。在数据库管理工具的选择上,使用了Navicat 11,这是一个用户友好且功能强大的数据库管理软件,它支持多种数据库系统,包括MySQL,并提供了图形化界面,使得数据库的管理和维护工作更加便捷。通过采用先进的技术手段,我们可以为患者提供更加便捷、高效的医疗服务,提高患者的就诊体验,促进医疗信息化的发展。开发环境方面,我们选择了PyCharm作为主要的集成开发环境(IDE),它提供了丰富的Python开发工具和插件,支持Django框架,有助于提高开发效率和代码质量。

实时移动物体检测项目实战代码-程序员宅基地

文章浏览阅读1.1k次,点赞10次,收藏23次。实时移动物体检测是一种计算机视觉技术,它主要用于视频流或连续图像序列中快速准确地确定是否存在以及在哪里存在正在移动的对象。这种技术广泛应用于安全监控、自动驾驶、无人机、机器人导航、智能交通系统以及移动设备上的各种应用程序。在实际应用中,实时移动物体检测通常涉及以下几个核心步骤:1. **图像采集**:从相机或其他成像设备捕获连续的视频帧。2. **背景建模**:创建或更新背景模型,以便区分前景(移动物体)和背景。常见的方法有混合高斯模型、光流法、卡尔曼滤波等。3. **差分检测**:通过比较

推荐文章

热门文章

相关标签