Redis数据库入门学习教程与面试经验总结(附PDF下载地址)
一、Redis数据库入门学习教程与面试经验总结目录
1.Redis基础教程学习
1.1.Redis数据库概述
1.1.1. 什么是Redis
1.1.2. Redis有哪些优缺点?
1.1.3. 为什么要用 Redis /为什么要用缓存?
1.1.4. 为什么要用 Redis 而不用 map/guava 做缓存?
1.1.5. Redis为什么这么快?
1.2.Redis数据类型
1.2.1.Redis有哪些数据类型?
1.2.2.Redis的应用场景
1.3.Redis持久化
1.3.1.什么是Redis持久化?
1.3.2.Redis 的持久化机制是什么?各自的优缺点?
1.3.3.如何选择合适的持久化方式?
1.3.4.Redis持久化数据和缓存怎么做扩容?
1.4.Redis过期键的删除策略
1.4.1.Redis的过期键的删除策略
1.4.2.Redis key的过期时间和永久有效分别怎么设置?
1.4.3.我们知道通过expire来设置key 的过期时间,那么对过期的数据怎么处理呢?
1.5.Redis内存相关
1.5.1.MySQL里有2000w数据,redis中只存20w的数据,如何保证redis中的数据都是热点数据?
1.5.2.Redis的内存淘汰策略有哪些?
1.5.3.Redis主要消耗什么物理资源?
1.5.4.Redis的内存用完了会发生什么?
1.5.5.Redis如何做内存优化?
1.6.Redis线程模型
1.6.1.Redis线程模型
1.7.Redis事务
1.7.1.什么是事务?
1.7.2.Redis事务的概念
1.7.3.Redis事务的三个阶段
1.7.4.Redis事务相关命令
1.7.5.事务管理(ACID)概述
1.7.6.Redis事务支持隔离性吗?
1.7.7.Redis事务保证原子性吗,支持回滚吗?
1.7.8.Redis事务其他实现
1.8.Redis集群方案
1.8.1.哨兵模式
1.8.2.官方Redis Cluster 方案(服务端路由查询)
1.8.3.基于客户端分配
1.8.4.基于代理服务器分片
1.8.5.Redis 主从架构
1.8.7.Redis集群的主从复制模型是怎样的?
1.8.8.生产环境中的 redis 是怎么部署的?
1.8.9.说说Redis哈希槽的概念?
1.8.10.Redis集群会有写操作丢失吗?为什么?
1.8.11.Redis集群之间是如何复制的?
1.8.12. Redis集群最大节点个数是多少?
1.8.12. Redis集群如何选择数据库?
1.9.Redis分区
1.9.1.Redis是单线程的,如何提高多核CPU的利用率?
1.9.2.为什么要做Redis分区?
1.9.3.你知道有哪些Redis分区实现方案?
1.9.4.Redis分区有什么缺点?
1.10.Redis分布式问题
1.10.1.Redis实现分布式锁
1.10.2.如何解决 Redis 的并发竞争 Key 问题?
1.10.3.分布式Redis是前期做还是后期规模上来了再做好?为什么?
1.11.Redis缓存异常
1.11.1.缓存雪崩
1.11.2.缓存穿透
1.11.3.缓存击穿
1.11.4.缓存击穿
1.11.5.缓存降级
1.11.6.热点数据和冷数据
1.11.7.缓存热点key
1.12.Redis常用工具
1.12.1.Redis支持的Java客户端都有哪些?官方推荐用哪个?
1.12.2.Redis和Redisson有什么关系?
1.12.3.Jedis与Redisson对比有什么优缺点?
1.13.Redis其他问题
1.13.1.Redis与Memcached的区别?
1.13.2.如何保证缓存与数据库双写时的数据一致性?
1.13.3.Redis常见性能问题和解决方案?
1.13.4.Redis官方为什么不提供Windows版本?
1.13.5.一个字符串类型的值能存储最大容量是多少?
1.13.6.Redis如何做大量数据插入?
1.13.7.假如Redis里面有1亿个key,其中有10w个key是以某个固定的已知的前缀开头的,如果将它们全部找出来?
1.13.8.使用Redis做过异步队列吗,是如何实现的?
1.13.9.Redis如何实现延时队列?
1.13.10.Redis回收进程如何工作的?
1.13.11.Redis回收使用的是什么算法?
2.Redis视频教程学习
2.1.Redis数据库基础知识
2.2.Redis数据库单机项目实战入门
2.3.Redis+Sentinel主从复制集群项目实战
2.4.Redis Cluster分布式集群项目实战
2.5.基于Redis数据库的Web应用综合性配置
2.6.Redis数据库日常维护与管理
二、Redis数据库入门学习教程与面试经验总结内容
1.Redis基础教程学习
本部分内容转载自网络,为Redis常用知识讲解,同时也是面试必问内容。
1.1.Redis数据库概述
1.1.1. 什么是Redis
Redis(Remote Dictionary Server) 是一个使用 C 语言编写的,开源的(BSD许可)高性能非关系型(NoSQL)的键值对数据库。
Redis 可以存储键和五种不同类型的值之间的映射。键的类型只能为字符串,值支持五种数据类型:字符串、列表、集合、散列表、有序集合。
与传统数据库不同的是 Redis 的数据是存在内存中的,所以读写速度非常快,因此 redis 被广泛应用于缓存方向,每秒可以处理超过 10万次读写操作,是已知性能最快的Key-Value DB。另外,Redis 也经常用来做分布式锁。除此之外,Redis 支持事务 、持久化、LUA脚本、LRU驱动事件、多种集群方案。
1.1.2. Redis有哪些优缺点?
优点
读写性能优异, Redis能读的速度是110000次/s,写的速度是81000次/s。
支持数据持久化,支持AOF和RDB两种持久化方式。
支持事务,Redis的所有操作都是原子性的,同时Redis还支持对几个操作合并后的原子性执行。
数据结构丰富,除了支持string类型的value外还支持hash、set、zset、list等数据结构。
支持主从复制,主机会自动将数据同步到从机,可以进行读写分离。
缺点
数据库容量受到物理内存的限制,不能用作海量数据的高性能读写,因此Redis适合的场景主要局限在较小数据量的高性能操作和运算上。
Redis 不具备自动容错和恢复功能,主机从机的宕机都会导致前端部分读写请求失败,需要等待机器重启或者手动切换前端的IP才能恢复。
主机宕机,宕机前有部分数据未能及时同步到从机,切换IP后还会引入数据不一致的问题,降低了系统的可用性。
Redis 较难支持在线扩容,在集群容量达到上限时在线扩容会变得很复杂。为避免这一问题,运维人员在系统上线时必须确保有足够的空间,这对资源造成了很大的浪费。
1.1.3. 为什么要用 Redis /为什么要用缓存?
主要从“高性能”和“高并发”这两点来看待这个问题。高性能:
假如用户第一次访问数据库中的某些数据。这个过程会比较慢,因为是从硬盘上读取的。将该用户访问的数据存在数缓存中,这样下一次再访问这些数据的时候就可以直接从缓存中获取了。操作缓存就是直接操作内存,所以速度相当快。如果数据库中的对应数据改变的之后,同步改变缓存中相应的数据即可!
高并发:直接操作缓存能够承受的请求是远远大于直接访问数据库的,所以我们可以考虑把数据库中的部分数据转移到缓存中去,这样用户的一部分请求会直接到缓存这里而不用经过数据库。
1.1.4. 为什么要用 Redis 而不用 map/guava 做缓存?
缓存分为本地缓存和分布式缓存。以 Java 为例,使用自带的 map 或者 guava 实现的是本地缓存,最主要的特点是轻量以及快速,生命周期随着 jvm 的销毁而结束,并且在多实例的情况下,每个实例都需要各自保存一份缓存,缓存不具有一致性。
使用 redis 或 memcached 之类的称为分布式缓存,在多实例的情况下,各实例共用一份缓存数据,缓存具有一致性。缺点是需要保持 redis 或 memcached服务的高可用,整个程序架构上较为复杂。
1.1.5. Redis为什么这么快?
1、完全基于内存,绝大部分请求是纯粹的内存操作,非常快速。数据存在内存中,类似于 HashMap,HashMap 的优势就是查找和操作的时间复杂度都是O(1);
2、数据结构简单,对数据操作也简单,Redis 中的数据结构是专门进行设计的;
3、采用单线程,避免了不必要的上下文切换和竞争条件,也不存在多进程或者多线程导致的切换而消耗 CPU,不用去考虑各种锁的问题,不存在加锁释放锁操作,没有因为可能出现死锁而导致的性能消耗;
4、使用多路 I/O 复用模型,非阻塞 IO;
5、使用底层模型不同,它们之间底层实现方式以及与客户端之间通信的应用协议不一样,Redis 直接自己构建了 VM 机制 ,因为一般的系统调用系统函数的话,会浪费一定的时间去移动和请求;
1.2.Redis数据类型
1.2.1.Redis有哪些数据类型?
Redis主要有5种数据类型,包括String,List,Set,Zset,Hash,满足大部分的使用要求
1.2.2.Redis的应用场景
总结一:
计数器
可以对 String 进行自增自减运算,从而实现计数器功能。Redis 这种内存型数据库的读写性能非常高,很适合存储频繁读写的计数量。
缓存
将热点数据放到内存中,设置内存的最大使用量以及淘汰策略来保证缓存的命中率。
会话缓存
可以使用 Redis 来统一存储多台应用服务器的会话信息。当应用服务器不再存储用户的会话信息,也就不再具有状态,一个用户可以请求任意一个应用服务器,从而更容易实现高可用性以及可伸缩性。
全页缓存(FPC)
除基本的会话token之外,Redis还提供很简便的FPC平台。以Magento为例,Magento提供一个插件来使用Redis作为全页缓存后端。此外,对WordPress的用户来说,Pantheon有一个非常好的插件 wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面。
查找表
例如 DNS 记录就很适合使用 Redis 进行存储。查找表和缓存类似,也是利用了 Redis 快速的查找特性。但是查找表的内容不能失效,而缓存的内容可以失效,因为缓存不作为可靠的数据来源。
消息队列(发布/订阅功能)
List 是一个双向链表,可以通过 lpush 和 rpop 写入和读取消息。不过最好使用 Kafka、RabbitMQ 等消息中间件。
分布式锁实现
在分布式场景下,无法使用单机环境下的锁来对多个节点上的进程进行同步。可以使用 Redis 自带的 SETNX 命令实现分布式锁,除此之外,还可以使用官方提供的 RedLock 分布式锁实现。
其它
Set 可以实现交集、并集等操作,从而实现共同好友等功能。ZSet 可以实现有序性操作,从而实现排行榜等功能。
总结二
Redis相比其他缓存,有一个非常大的优势,就是支持多种数据类型。
数据类型说明string字符串,最简单的k-v存储hashhash格式,value为field和value,适合ID-Detail这样的场景。list简单的list,顺序列表,支持首位或者末尾插入数据set无序list,查找速度快,适合交集、并集、差集处理sorted set有序的set其实,通过上面的数据类型的特性,基本就能想到合适的应用场景了。
string——适合最简单的k-v存储,类似于memcached的存储结构,短信验证码,配置信息等,就用这种类型来存储。
hash——一般key为ID或者唯一标示,value对应的就是详情了。如商品详情,个人信息详情,新闻详情等。
list——因为list是有序的,比较适合存储一些有序且数据相对固定的数据。如省市区表、字典表等。因为list是有序的,适合根据写入的时间来排序,如:最新的***,消息队列等。
set——可以简单的理解为ID-List的模式,如微博中一个人有哪些好友,set最牛的地方在于,可以对两个set提供交集、并集、差集操作。例如:查找两个人共同的好友等。
Sorted Set——是set的增强版本,增加了一个score参数,自动会根据score的值进行排序。比较适合类似于top 10等不根据插入的时间来排序的数据。
如上所述,虽然Redis不像关系数据库那么复杂的数据结构,但是,也能适合很多场景,比一般的缓存数据结构要多。了解每种数据结构适合的业务场景,不仅有利于提升开发效率,也能有效利用Redis的性能。
1.3.Redis持久化
1.3.1.什么是Redis持久化?
持久化就是把内存的数据写到磁盘中去,防止服务宕机了内存数据丢失。
1.3.2.Redis 的持久化机制是什么?各自的优缺点?
Redis 提供两种持久化机制 RDB(默认) 和 AOF 机制:
RDB:是Redis DataBase缩写快照
RDB是Redis默认的持久化方式。按照一定的时间将内存的数据以快照的形式保存到硬盘中,对应产生的数据文件为dump.rdb。通过配置文件中的save参数来定义快照的周期。
优点:
1、只有一个文件 dump.rdb,方便持久化。
2、容灾性好,一个文件可以保存到安全的磁盘。
3、性能最大化,fork 子进程来完成写操作,让主进程继续处理命令,所以是 IO 最大化。使用单独子进程来进行持久化,主进程不会进行任何 IO 操作,保证了 redis 的高性能
4.相对于数据集大时,比 AOF 的启动效率更高。
缺点:
1、数据安全性低。RDB 是间隔一段时间进行持久化,如果持久化之间 redis 发生故障,会发生数据丢失。所以这种方式更适合数据要求不严谨的时候)
2、AOF(Append-only file)持久化方式:是指所有的命令行记录以 redis 命令请 求协议的格式完全持久化存储)保存为 aof 文件。
AOF:持久化
AOF持久化(即Append Only File持久化),则是将Redis执行的每次写命令记录到单独的日志文件中,当重启Redis会重新将持久化的日志中文件恢复数据。
当两种方式同时开启时,数据恢复Redis会优先选择AOF恢复。
优点:
1、数据安全,aof 持久化可以配置 appendfsync 属性,有 always,每进行一次 命令操作就记录到 aof 文件中一次。
2、通过 append 模式写文件,即使中途服务器宕机,可以通过 redis-check-aof 工具解决数据一致性问题。
3、AOF 机制的 rewrite 模式。AOF 文件没被 rewrite 之前(文件过大时会对命令 进行合并重写),可以删除其中的某些命令(比如误操作的 flushall))
缺点:
1、AOF 文件比 RDB 文件大,且恢复速度慢。
2、数据集大的时候,比 rdb 启动效率低。
优缺点是什么?
AOF文件比RDB更新频率高,优先使用AOF还原数据。
AOF比RDB更安全也更大
RDB性能比AOF好
如果两个都配了优先加载AOF
1.3.3.如何选择合适的持久化方式?
一般来说, 如果想达到足以媲美PostgreSQL的数据安全性,你应该同时使用两种持久化功能。在这种情况下,当 Redis 重启的时候会优先载入AOF文件来恢复原始的数据,因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整。
如果你非常关心你的数据, 但仍然可以承受数分钟以内的数据丢失,那么你可以只使用RDB持久化。
有很多用户都只使用AOF持久化,但并不推荐这种方式,因为定时生成RDB快照(snapshot)非常便于进行数据库备份, 并且 RDB 恢复数据集的速度也要比AOF恢复的速度要快,除此之外,使用RDB还可以避免AOF程序的bug。
如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式。
1.3.4.Redis持久化数据和缓存怎么做扩容?
如果Redis被当做缓存使用,使用一致性哈希实现动态扩容缩容。
如果Redis被当做一个持久化存储使用,必须使用固定的keys-to-nodes映射关系,节点的数量一旦确定不能变化。否则的话(即Redis节点需要动态变化的情况),必须使用可以在运行时进行数据再平衡的一套系统,而当前只有Redis集群可以做到这样。
由于篇幅太多,请下载附件PDF文件.....
2.Redis视频教程学习
Redis数据库基础与项目实战视频:http://www.fgedu.net.cn/2361.html
三、Redis数据库入门学习教程与面试经验总结(附PDF下载地址):