H5W3
当前位置:H5W3 > java > 正文

【Java】京淘项目Day13-14

京淘项目Day13-14

CV战士发布于 今天 14:13
  1. AOP实现缓存业务

=============

1.1 业务需求

1). 自定义注解 @CacheFind(key=“xxx”,second=-1)
2). 使用自定义注解 标识业务方法 将方法的返回值保存到缓存中.
3). 利用AOP 拦截注解 利用环绕通知方法实现业务

1.2 自定义注解@CacheFind

【Java】京淘项目Day13-14

1.3 注解标识

【Java】京淘项目Day13-14

1.4 编辑AOP

package com.jt.aop;
import com.jt.anno.CacheFind;
import com.jt.util.ObjectMapperUtil;
import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Before;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import org.springframework.stereotype.Controller;
import org.springframework.stereotype.Repository;
import org.springframework.stereotype.Service;
import redis.clients.jedis.Jedis;
import java.lang.reflect.Method;
import java.util.Arrays;
/*@Service
@Controller
@Repository*/
@Component  //组件 将类交给spring容器管理
@Aspect     //表示我是一个切面
public class RedisAOP {
@Autowired
private Jedis jedis;
/*
* 实现AOP业务调用
* 1.拦截指定的注解
* 2.利用环绕通知实现
* 实现步骤:
*       1.获取KEY  必须先获取注解 从注解中获取key?
*       2.校验redis中是否有值
*     *
* 3.知识点补充:
*   指定参数名称进行传值,运行期绑定参数类型完成注解的拦截
*   joinPoint必须位于参数的第一位.
*/
@Around("@annotation(cacheFind)")
public Object around(ProceedingJoinPoint joinPoint,CacheFind cacheFind){
Object result = null;
//key=业务名称::参数
String key = cacheFind.key();
String args = Arrays.toString(joinPoint.getArgs());
key = key + "::" + args;
//2.校验是否有值
if(jedis.exists(key)){
String json = jedis.get(key);
MethodSignature methodSignature = (MethodSignature) joinPoint.getSignature();
Class returnType = methodSignature.getReturnType();
result = ObjectMapperUtil.toObj(json,returnType);
System.out.println("AOP查询redis缓存");
}else{
//redis中没有数据,所以需要查询数据库,将数据保存到缓存中
try {
result = joinPoint.proceed();
String json = ObjectMapperUtil.toJSON(result);
//是否设定超时时间
if(cacheFind.seconds()>0){
jedis.setex(key, cacheFind.seconds(), json);
}else{
jedis.set(key,json);
}
System.out.println("AOP查询数据库");
} catch (Throwable throwable) {
throwable.printStackTrace();
}
}
return result;
}
/**
*   //1.获取key 注解  方法对象  类 方法名称  参数
*         Class targetClass = joinPoint.getTarget().getClass();
*         //2.获取方法对象
*         String methodName = joinPoint.getSignature().getName();
*         Object[] args = joinPoint.getArgs();
*         Class[] classArgs = new Class[args.length];
*         for(int i=0;i<args.length;i++){
*             classArgs[i] = args[i].getClass();
*         }
*         try {
*             //反射实例化对象
*             Method method = targetClass.getMethod(methodName,classArgs);
*             CacheFind cacheFind = method.getAnnotation(CacheFind.class);
*             String key = cacheFind.key();
*             System.out.println(key);
*         } catch (NoSuchMethodException e) {
*             e.printStackTrace();
*         }
*/
//公式 aop = 切入点表达式   +   通知方法
//@Pointcut("bean(itemCatServiceImpl)")
//@Pointcut("within(com.jt.service.*)")
//@Pointcut("execution(* com.jt.service.*.*(..))")   //.* 当前包的一级子目录
/* @Pointcut("execution(* com.jt.service..*.*(..))")  //..* 当前包的所有的子目录
public void pointCut(){
}*/
//如何获取目标对象的相关参数?
//ProceedingJoinPoint is only supported for around advice
/* @Before("pointCut()")
public void before(JoinPoint joinPoint){    //连接点
Object target = joinPoint.getTarget();
Object[] args = joinPoint.getArgs();
String className = joinPoint.getSignature().getDeclaringTypeName();
String methodName = joinPoint.getSignature().getName();
System.out.println("目标对象:"+target);
System.out.println("方法参数:"+Arrays.toString(args));
System.out.println("类名称:"+className);
System.out.println("方法名称:"+methodName);
}*/
}`
  1. 关于Redis常规属性

===============

2.1 Redis中持久化策略-RDB

2.1.1 需求说明

说明: Redis中将数据都保存到了内存中,但是内存的特点断电及擦除. 为了保证redis中的缓存数据不丢失,则需要将内存数据定期进行持久化操作.
持久化: 将内存数据,写到磁盘中.

2.1.2 RDB模式

特点:
1.RDB模式是Redis默认的持久化规则.
2.RDB模式记录的是Redis内存数据快照(只保留最新数据)
3.RDB模式定期持久化(时间可调) 可能会导致数据丢失.
4.RDB模式备份效率是最高的.
5.RDB模式备份阻塞式的 在备份时不允许其他用户操作. 保证数据安全性. save
命令:
1.主动备份 save 会阻塞用户操作
2.后台备份 bgsave 异步的方式进行持久化操作 不会阻塞.

2.1.3 关于持久化配置

1.save 900 1 900秒内,用户执行了一次更新操作时,那么就持久化一次
2.save 300 10 300秒内,用户执行了10次更新操作. 那么就持久化一次
3.save 60 10000 60秒内,用户执行了10000次的更新操作,则持久化一次.
4.save 1 1 1秒内 1次更新 持久化一次!! 性能特别低.
【Java】京淘项目Day13-14

2.1.4 关于持久化文件名称设定

默认的条件下,持久化文件名称 dump.rdb
【Java】京淘项目Day13-14

2.1.5 文件存储目录

./ 代表当前文件目录. 意义使用绝对路径的写法.
【Java】京淘项目Day13-14

2.2 Redis中持久化策略-AOF

2.2.1 AOF特点

1).AOF模式默认的条件下是关闭状态.需要手动开启.
2).AOF模式记录的是用户的操作过程. 可以实现实时持久化.保证数据不丢失.
3).AOF模式维护的持久化文件占用的空间较大.所以持久化效率不高. 并且需要定期的维护持久化文件.
4).AOF模式一旦开启,则redis以AOF模式为主 读取的是AOF文件.

2.2.2 AOF配置

1).开启AOF模式
【Java】京淘项目Day13-14
2).持久化策略
always: 用户更新一次,则持久化一次.
everysec: 每秒持久化一次 效率更高
no: 不主动持久化. 操作系统有关. 几乎不用.
【Java】京淘项目Day13-14

2.3 关于Redis面试题

2.3.1 关于flushAll操作

业务场景:
小丽是一个特别漂亮的实习生.你是他的项目主管. 由于小丽业务不熟,在生产环境中无意执行了flushAll操作. 问如何补救??
场景1: redis中的服务只开启了默认的持久策略 RDB模式.
解决方案:
1.关闭现有的redis服务器.
2.检查RDB文件是否被覆盖. 如果文件没有覆盖.则重启redis即可.(希望渺茫)
3.如果flushAll命令,同时执行了save操作,则RDB模式无效.

`场景2:  redis中的服务开启了AOF模式.
解决方案:
1.关闭redis服务器.
2.编辑redis 持久化文件  将flushAll命令删除.
3.重启redis服务器
一般条件下:  RDB模式和AOF模式都会开启.  通过save命令执行rdb持久化方式.

2.3.2 单线程Redis为什么快

1).redis运行环境在内存中,纯内存操作.
2).单线程操作 避免频繁的上下文切换. 避免了开关链接的开销.
3).采用了非阻塞I/O(BIO|NIO) 多路复用的机制(动态感知).
【Java】京淘项目Day13-14
4). Redis最新版本 6.0版本 6.0以前的版本都是单线程操作方式. 6.0以后支持多线程操作方式. (执行时依旧是单线程操作).

2.4 关于Redis内存优化策略

2.4.1 业务场景

如果频繁使用redis,不停的向其中保存数据,并且不做删除操作,则内存必然溢出. 能否优化内存策略.
能否自动的删除不用的数据,让redis中保留热点数据!!!.

2.4.2 LRU算法

LRU是Least Recently Used的缩写,即最近最少使用,是一种常用的页面置换算法,选择最近最久未使用的页面(数据)予以淘汰。该算法赋予每个页面一个访问字段,用来记录一个页面自上次被访问以来所经历的时间 t,当须淘汰一个页面时,选择现有页面中其 t 值最大的,即最近最少使用的页面予以淘汰。
计算维度: 自上一次以来所经历的时间T.
【Java】京淘项目Day13-14
说明:LRU算法是内存优化中最好用的算法.

2.4.3 LFU算法

LFU(least frequently used (LFU) page-replacement algorithm)。即最不经常使用页置换算法,要求在页置换时置换引用计数最小的页,因为经常使用的页应该有一个较大的引用次数。但是有些页在开始时使用次数很多,但以后就不再使用,这类页将会长时间留在内存中,因此可以将引用计数寄存器定时右移一位,形成指数衰减的平均使用次数。
维度: 引用次数
常识: 计算机左移 扩大倍数
计算机右移 缩小倍数
【Java】京淘项目Day13-14

2.4.4 随机算法

随机删除数据.

2.4.5 TTL算法

说明:将剩余存活时间排序,将马上要被删除的数据,提前删除.
【Java】京淘项目Day13-14

2.4.6 Redis默认的内存优化策略

说明1: Redis中采用的策略定期删除+惰性删除策略
说明2:
1.定期删除: redis默认每隔100ms 检查是否有过期的key, 检查时随机的方式进行检查.(不是检查所有的数据,因为效率太低.)
问题: 由于数据众多,可能抽取时没有被选中.可能出现 该数据已经到了超时时间,但是redis并没有马上删除数据.

  1. 惰性策略: 当用户获取key的时候,首先检查数据是否已经过了超时时间. 如果已经超时,则删除数据.

问题: 由于数据众多, 用户不可能将所有的内存数据都get一遍.必然会出现 需要删除的数据一直保留在内存中的现象.占用内存资源.
3.可以采用上述的内存优化手段,主动的删除.

内存优化算法说明:
1.volatile-lru 在设定超时时间的数据 采用LRU算法进行优化
2.allkeys-lru 在所有的数据采用LRU算法进行优化
3.volatile-lfu 在设定了超时时间的数据中采用LFU算法优化
4.allkeys-lfu 在所有的数据中采用LFU算法进行优化
5.volatile-random 在设定了超时时间的数据 采用随机算法
6.allkeys-random 所有数据采用 随机算法
7.volatile-ttl 设定超时时间的TTl算法
8.noeviction 不主动删除数据,如果内存溢出则报错返回.
【Java】京淘项目Day13-14

  1. Redis分片机制

=============

3.1 业务需求

说明: 单台redis存储的数据容量有限的. 如果需要存储海量的缓存数据,则使用单台redis肯定不能满足要求.为了满足数据扩容的需求.则可以采用分片的机制实现.
【Java】京淘项目Day13-14

3.2 Redis分片机制实现

3.2.1搭建策略

分别准备3台redis 6379/6380/6381

3.2.2 准备文件目录

【Java】京淘项目Day13-14

3.2.2 复制配置文件

说明: 将redis的配置文件放到shards目录中.
【Java】京淘项目Day13-14
修改配置文件端口号 依次修改6380/6381
【Java】京淘项目Day13-14
启动3台redis:
redis-server 6379.conf
redis-server 6380.conf
redis-server 6381.conf

校验服务器:
【Java】京淘项目Day13-14

3.2.3 Redis分片入门案例

`package com.jt.test;
import org.junit.jupiter.api.Test;
import redis.clients.jedis.JedisShardInfo;
import redis.clients.jedis.ShardedJedis;
import java.util.ArrayList;
import java.util.List;
public class TestRedisShards {
@Test
public void testShards(){
List<JedisShardInfo> shards = new ArrayList<>();
shards.add(new JedisShardInfo("192.168.126.129",6379));
shards.add(new JedisShardInfo("192.168.126.129",6380));
shards.add(new JedisShardInfo("192.168.126.129",6381));
ShardedJedis shardedJedis = new ShardedJedis(shards);
//3台redis当做1台使用  内存容量扩大3倍.  79/80/81???
shardedJedis.set("shards", "redis分片测试");
System.out.println(shardedJedis.get("shards"));
}
}

3.3 一致性hash算法

3.3.1 算法介绍

一致性哈希算法在1997年由麻省理工学院提出,是一种特殊的哈希算法,目的是解决分布式缓存的问题。 [1] 在移除或者添加一个服务器时,能够尽可能小地改变已存在的服务请求与处理请求服务器之间的映射关系。一致性哈希解决了简单哈希算法在分布式哈希表( Distributed Hash Table,DHT) 中存在的动态伸缩等问题 [2] 。
作用: 解决缓存数据,在哪存储的问题…

3.3.2 算法说明

常识:

  1. 如果数据相同,则hash结果必然相同.
  2. 常见hash值 由8位16进制数组成. 共用多少种可能性? 2^32

【Java】京淘项目Day13-14

3.3.3 平衡性

①平衡性是指hash的结果应该平均分配到各个节点,这样从算法上解决了负载均衡问题 [4] 。
说明:通过虚拟节点实现数据的平衡
【Java】京淘项目Day13-14

3.3.3 单调性

②单调性是指在新增或者删减节点时,不影响系统正常运行 [4] 。
原则: 如果节点新增/减少 应该尽可能保证原始数据尽可能不变.

3.3.4 分散性

③分散性是指数据应该分散地存放在分布式集群中的各个节点(节点自己可以有备份),不必每个节点都存储所有的数据 [4]
将数据分散存储,即使将来服务器宕机,则影响只是一部分,.而不是全部.
谚语: 鸡蛋不要放到一个篮子里.
【Java】京淘项目Day13-14

3.4 SpringBoot整合Redis分片机制

3.4.1 编辑pro配置文件

【Java】京淘项目Day13-14

3.4.2 编辑配置类

【Java】京淘项目Day13-14

3.4.3 修改AOP中的配置

【Java】京淘项目Day13-14

4 Redis哨兵机制

4.1 Redis分片存在问题

说明:Redis分片机制,虽然可以实现Redis Redis内存扩容,但是redis 节点并没有实现高可用.如果节点宕机,则整合redis分片将不可使用.

4.2 Redis主从结构搭建

规定: 6379主机 /6380/6381 从机

4.2.1 复制文件目录

【Java】京淘项目Day13-14

4.2.2 删除持久化文件

【Java】京淘项目Day13-14

4.2.3 启动3台Redis服务器

1.redis-server 6379.conf
2.redis-server 6380.conf
3.redis-server 6381.conf
【Java】京淘项目Day13-14

4.2.4 实现redis主从挂载

命令1.: slaveof host port
命令说明: 在从机中执行上述命令 挂载的是主机的地址.
【Java】京淘项目Day13-14

命令2: info replication
【Java】京淘项目Day13-14

主从结构关系:
【Java】京淘项目Day13-14

4.3 Redis哨兵工作原理

4.3.1 工作流程图

【Java】京淘项目Day13-14
原理说明:
1.哨兵监控主机的运行的状态. 通过心跳检测机制(PING-PONG)如果连续3次节点没有响应,则断定主机宕机,哨兵开始进行选举.
2.哨兵通过链接主机,获取主机的相关配置信息(包含主从结构),挑选链接当前主机的从机.根据随机算法挑选出新的主机. 并且将其他的节点设置为新主机的从.

4.3.2 编辑哨兵配置文件

1).复制哨兵的配置文件
【Java】京淘项目Day13-14
2).关闭保护模式
【Java】京淘项目Day13-14
3).开启后端运行
【Java】京淘项目Day13-14
4).设定哨兵的投票数
【Java】京淘项目Day13-14
5).修改选举的超时时间
【Java】京淘项目Day13-14
6).修改哨兵的状态
【Java】京淘项目Day13-14

4.3.3 哨兵测试

哨兵命令: redis-sentinel sentinel.conf
检查redis服务:
【Java】京淘项目Day13-14
redis高可用测试:
1.关闭redis主机6379
2.等待10秒 检查6380/6381到底谁是主机.
3.重启6379服务器,检查是否充当了新主机的从

4.3.4 哨兵的入门案例

`@Test
public void test01(){
//定义哨兵的集合信息
Set<String> sentinels = new HashSet<>();
sentinels.add("192.168.126.129:26379");
//定义链接池信息
JedisPoolConfig poolConfig = new JedisPoolConfig();
poolConfig.setMaxTotal(200);    //链接池 最多200个链接
poolConfig.setMaxIdle(20);      //最大空闲链接数20
poolConfig.setMinIdle(10);      //最小空闲链接数10
JedisSentinelPool pool = new JedisSentinelPool("mymaster",sentinels,poolConfig);
//动态获取jedis链接
Jedis jedis = pool.getResource();
jedis.set("abc", "redis赋值操作");
System.out.println(jedis.get("abc"));
jedis.close();
}

4.3.5 作业

将哨兵的机制交给SpringBoot管理.

4.4 关于分片/哨兵总结

1.分片机制: 可以实现内存数据的扩容. 但是本身没有实现高可用的效果.
2.哨兵机制: 哨兵可以实现redis节点的高可用.但是哨兵本身没有实现高可用的效果.
需求: 1.不依赖第三方实现高可用
2.实现内存数据的扩容
3.各个节点可以高可用.

  1. Redis集群搭建 功能包含上述的3种机制. 一般公司中都会采用集群的方式部署redis.

5.Redis集群搭建(重点)

5.1 搭建具体环节参见work文档

5.2 关于redis集群搭建问题说明

注意事项:
1.启动6个redis节点
2.保证redis节点中的数据都是null的
3.根据报错提示 排查问题. 检查IP地址 检查防火墙…
1). 关闭所有的Redis服务器
sh stop.sh

2).检查redis配置文件
【Java】京淘项目Day13-14
3).删除多余文件
【Java】京淘项目Day13-14

5.3 关于Redis集群高可用测试

【Java】京淘项目Day13-14
1).关闭7000节点
redis-cli -p 7000 shutdown

2).检查主从状态
【Java】京淘项目Day13-14
3).重启7000 检查状态
【Java】京淘项目Day13-14

linuxjava缓存集群aop
阅读 45发布于 今天 14:13
本作品系原创,采用《署名-非商业性使用-禁止演绎 4.0 国际》许可协议
avatar

CV战士
1 声望
7 粉丝

0 条评论
得票时间

avatar

CV战士
1 声望
7 粉丝

宣传栏
  1. AOP实现缓存业务

=============

1.1 业务需求

1). 自定义注解 @CacheFind(key=“xxx”,second=-1)
2). 使用自定义注解 标识业务方法 将方法的返回值保存到缓存中.
3). 利用AOP 拦截注解 利用环绕通知方法实现业务

1.2 自定义注解@CacheFind

【Java】京淘项目Day13-14

1.3 注解标识

【Java】京淘项目Day13-14

1.4 编辑AOP

package com.jt.aop;
import com.jt.anno.CacheFind;
import com.jt.util.ObjectMapperUtil;
import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Before;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import org.springframework.stereotype.Controller;
import org.springframework.stereotype.Repository;
import org.springframework.stereotype.Service;
import redis.clients.jedis.Jedis;
import java.lang.reflect.Method;
import java.util.Arrays;
/*@Service
@Controller
@Repository*/
@Component  //组件 将类交给spring容器管理
@Aspect     //表示我是一个切面
public class RedisAOP {
@Autowired
private Jedis jedis;
/*
* 实现AOP业务调用
* 1.拦截指定的注解
* 2.利用环绕通知实现
* 实现步骤:
*       1.获取KEY  必须先获取注解 从注解中获取key?
*       2.校验redis中是否有值
*     *
* 3.知识点补充:
*   指定参数名称进行传值,运行期绑定参数类型完成注解的拦截
*   joinPoint必须位于参数的第一位.
*/
@Around("@annotation(cacheFind)")
public Object around(ProceedingJoinPoint joinPoint,CacheFind cacheFind){
Object result = null;
//key=业务名称::参数
String key = cacheFind.key();
String args = Arrays.toString(joinPoint.getArgs());
key = key + "::" + args;
//2.校验是否有值
if(jedis.exists(key)){
String json = jedis.get(key);
MethodSignature methodSignature = (MethodSignature) joinPoint.getSignature();
Class returnType = methodSignature.getReturnType();
result = ObjectMapperUtil.toObj(json,returnType);
System.out.println("AOP查询redis缓存");
}else{
//redis中没有数据,所以需要查询数据库,将数据保存到缓存中
try {
result = joinPoint.proceed();
String json = ObjectMapperUtil.toJSON(result);
//是否设定超时时间
if(cacheFind.seconds()>0){
jedis.setex(key, cacheFind.seconds(), json);
}else{
jedis.set(key,json);
}
System.out.println("AOP查询数据库");
} catch (Throwable throwable) {
throwable.printStackTrace();
}
}
return result;
}
/**
*   //1.获取key 注解  方法对象  类 方法名称  参数
*         Class targetClass = joinPoint.getTarget().getClass();
*         //2.获取方法对象
*         String methodName = joinPoint.getSignature().getName();
*         Object[] args = joinPoint.getArgs();
*         Class[] classArgs = new Class[args.length];
*         for(int i=0;i<args.length;i++){
*             classArgs[i] = args[i].getClass();
*         }
*         try {
*             //反射实例化对象
*             Method method = targetClass.getMethod(methodName,classArgs);
*             CacheFind cacheFind = method.getAnnotation(CacheFind.class);
*             String key = cacheFind.key();
*             System.out.println(key);
*         } catch (NoSuchMethodException e) {
*             e.printStackTrace();
*         }
*/
//公式 aop = 切入点表达式   +   通知方法
//@Pointcut("bean(itemCatServiceImpl)")
//@Pointcut("within(com.jt.service.*)")
//@Pointcut("execution(* com.jt.service.*.*(..))")   //.* 当前包的一级子目录
/* @Pointcut("execution(* com.jt.service..*.*(..))")  //..* 当前包的所有的子目录
public void pointCut(){
}*/
//如何获取目标对象的相关参数?
//ProceedingJoinPoint is only supported for around advice
/* @Before("pointCut()")
public void before(JoinPoint joinPoint){    //连接点
Object target = joinPoint.getTarget();
Object[] args = joinPoint.getArgs();
String className = joinPoint.getSignature().getDeclaringTypeName();
String methodName = joinPoint.getSignature().getName();
System.out.println("目标对象:"+target);
System.out.println("方法参数:"+Arrays.toString(args));
System.out.println("类名称:"+className);
System.out.println("方法名称:"+methodName);
}*/
}`
  1. 关于Redis常规属性

===============

2.1 Redis中持久化策略-RDB

2.1.1 需求说明

说明: Redis中将数据都保存到了内存中,但是内存的特点断电及擦除. 为了保证redis中的缓存数据不丢失,则需要将内存数据定期进行持久化操作.
持久化: 将内存数据,写到磁盘中.

2.1.2 RDB模式

特点:
1.RDB模式是Redis默认的持久化规则.
2.RDB模式记录的是Redis内存数据快照(只保留最新数据)
3.RDB模式定期持久化(时间可调) 可能会导致数据丢失.
4.RDB模式备份效率是最高的.
5.RDB模式备份阻塞式的 在备份时不允许其他用户操作. 保证数据安全性. save
命令:
1.主动备份 save 会阻塞用户操作
2.后台备份 bgsave 异步的方式进行持久化操作 不会阻塞.

2.1.3 关于持久化配置

1.save 900 1 900秒内,用户执行了一次更新操作时,那么就持久化一次
2.save 300 10 300秒内,用户执行了10次更新操作. 那么就持久化一次
3.save 60 10000 60秒内,用户执行了10000次的更新操作,则持久化一次.
4.save 1 1 1秒内 1次更新 持久化一次!! 性能特别低.
【Java】京淘项目Day13-14

2.1.4 关于持久化文件名称设定

默认的条件下,持久化文件名称 dump.rdb
【Java】京淘项目Day13-14

2.1.5 文件存储目录

./ 代表当前文件目录. 意义使用绝对路径的写法.
【Java】京淘项目Day13-14

2.2 Redis中持久化策略-AOF

2.2.1 AOF特点

1).AOF模式默认的条件下是关闭状态.需要手动开启.
2).AOF模式记录的是用户的操作过程. 可以实现实时持久化.保证数据不丢失.
3).AOF模式维护的持久化文件占用的空间较大.所以持久化效率不高. 并且需要定期的维护持久化文件.
4).AOF模式一旦开启,则redis以AOF模式为主 读取的是AOF文件.

2.2.2 AOF配置

1).开启AOF模式
【Java】京淘项目Day13-14
2).持久化策略
always: 用户更新一次,则持久化一次.
everysec: 每秒持久化一次 效率更高
no: 不主动持久化. 操作系统有关. 几乎不用.
【Java】京淘项目Day13-14

2.3 关于Redis面试题

2.3.1 关于flushAll操作

业务场景:
小丽是一个特别漂亮的实习生.你是他的项目主管. 由于小丽业务不熟,在生产环境中无意执行了flushAll操作. 问如何补救??
场景1: redis中的服务只开启了默认的持久策略 RDB模式.
解决方案:
1.关闭现有的redis服务器.
2.检查RDB文件是否被覆盖. 如果文件没有覆盖.则重启redis即可.(希望渺茫)
3.如果flushAll命令,同时执行了save操作,则RDB模式无效.

`场景2:  redis中的服务开启了AOF模式.
解决方案:
1.关闭redis服务器.
2.编辑redis 持久化文件  将flushAll命令删除.
3.重启redis服务器
一般条件下:  RDB模式和AOF模式都会开启.  通过save命令执行rdb持久化方式.

2.3.2 单线程Redis为什么快

1).redis运行环境在内存中,纯内存操作.
2).单线程操作 避免频繁的上下文切换. 避免了开关链接的开销.
3).采用了非阻塞I/O(BIO|NIO) 多路复用的机制(动态感知).
【Java】京淘项目Day13-14
4). Redis最新版本 6.0版本 6.0以前的版本都是单线程操作方式. 6.0以后支持多线程操作方式. (执行时依旧是单线程操作).

2.4 关于Redis内存优化策略

2.4.1 业务场景

如果频繁使用redis,不停的向其中保存数据,并且不做删除操作,则内存必然溢出. 能否优化内存策略.
能否自动的删除不用的数据,让redis中保留热点数据!!!.

2.4.2 LRU算法

LRU是Least Recently Used的缩写,即最近最少使用,是一种常用的页面置换算法,选择最近最久未使用的页面(数据)予以淘汰。该算法赋予每个页面一个访问字段,用来记录一个页面自上次被访问以来所经历的时间 t,当须淘汰一个页面时,选择现有页面中其 t 值最大的,即最近最少使用的页面予以淘汰。
计算维度: 自上一次以来所经历的时间T.
【Java】京淘项目Day13-14
说明:LRU算法是内存优化中最好用的算法.

2.4.3 LFU算法

LFU(least frequently used (LFU) page-replacement algorithm)。即最不经常使用页置换算法,要求在页置换时置换引用计数最小的页,因为经常使用的页应该有一个较大的引用次数。但是有些页在开始时使用次数很多,但以后就不再使用,这类页将会长时间留在内存中,因此可以将引用计数寄存器定时右移一位,形成指数衰减的平均使用次数。
维度: 引用次数
常识: 计算机左移 扩大倍数
计算机右移 缩小倍数
【Java】京淘项目Day13-14

2.4.4 随机算法

随机删除数据.

2.4.5 TTL算法

说明:将剩余存活时间排序,将马上要被删除的数据,提前删除.
【Java】京淘项目Day13-14

2.4.6 Redis默认的内存优化策略

说明1: Redis中采用的策略定期删除+惰性删除策略
说明2:
1.定期删除: redis默认每隔100ms 检查是否有过期的key, 检查时随机的方式进行检查.(不是检查所有的数据,因为效率太低.)
问题: 由于数据众多,可能抽取时没有被选中.可能出现 该数据已经到了超时时间,但是redis并没有马上删除数据.

  1. 惰性策略: 当用户获取key的时候,首先检查数据是否已经过了超时时间. 如果已经超时,则删除数据.

问题: 由于数据众多, 用户不可能将所有的内存数据都get一遍.必然会出现 需要删除的数据一直保留在内存中的现象.占用内存资源.
3.可以采用上述的内存优化手段,主动的删除.

内存优化算法说明:
1.volatile-lru 在设定超时时间的数据 采用LRU算法进行优化
2.allkeys-lru 在所有的数据采用LRU算法进行优化
3.volatile-lfu 在设定了超时时间的数据中采用LFU算法优化
4.allkeys-lfu 在所有的数据中采用LFU算法进行优化
5.volatile-random 在设定了超时时间的数据 采用随机算法
6.allkeys-random 所有数据采用 随机算法
7.volatile-ttl 设定超时时间的TTl算法
8.noeviction 不主动删除数据,如果内存溢出则报错返回.
【Java】京淘项目Day13-14

  1. Redis分片机制

=============

3.1 业务需求

说明: 单台redis存储的数据容量有限的. 如果需要存储海量的缓存数据,则使用单台redis肯定不能满足要求.为了满足数据扩容的需求.则可以采用分片的机制实现.
【Java】京淘项目Day13-14

3.2 Redis分片机制实现

3.2.1搭建策略

分别准备3台redis 6379/6380/6381

3.2.2 准备文件目录

【Java】京淘项目Day13-14

3.2.2 复制配置文件

说明: 将redis的配置文件放到shards目录中.
【Java】京淘项目Day13-14
修改配置文件端口号 依次修改6380/6381
【Java】京淘项目Day13-14
启动3台redis:
redis-server 6379.conf
redis-server 6380.conf
redis-server 6381.conf

校验服务器:
【Java】京淘项目Day13-14

3.2.3 Redis分片入门案例

`package com.jt.test;
import org.junit.jupiter.api.Test;
import redis.clients.jedis.JedisShardInfo;
import redis.clients.jedis.ShardedJedis;
import java.util.ArrayList;
import java.util.List;
public class TestRedisShards {
@Test
public void testShards(){
List<JedisShardInfo> shards = new ArrayList<>();
shards.add(new JedisShardInfo("192.168.126.129",6379));
shards.add(new JedisShardInfo("192.168.126.129",6380));
shards.add(new JedisShardInfo("192.168.126.129",6381));
ShardedJedis shardedJedis = new ShardedJedis(shards);
//3台redis当做1台使用  内存容量扩大3倍.  79/80/81???
shardedJedis.set("shards", "redis分片测试");
System.out.println(shardedJedis.get("shards"));
}
}

3.3 一致性hash算法

3.3.1 算法介绍

一致性哈希算法在1997年由麻省理工学院提出,是一种特殊的哈希算法,目的是解决分布式缓存的问题。 [1] 在移除或者添加一个服务器时,能够尽可能小地改变已存在的服务请求与处理请求服务器之间的映射关系。一致性哈希解决了简单哈希算法在分布式哈希表( Distributed Hash Table,DHT) 中存在的动态伸缩等问题 [2] 。
作用: 解决缓存数据,在哪存储的问题…

3.3.2 算法说明

常识:

  1. 如果数据相同,则hash结果必然相同.
  2. 常见hash值 由8位16进制数组成. 共用多少种可能性? 2^32

【Java】京淘项目Day13-14

3.3.3 平衡性

①平衡性是指hash的结果应该平均分配到各个节点,这样从算法上解决了负载均衡问题 [4] 。
说明:通过虚拟节点实现数据的平衡
【Java】京淘项目Day13-14

3.3.3 单调性

②单调性是指在新增或者删减节点时,不影响系统正常运行 [4] 。
原则: 如果节点新增/减少 应该尽可能保证原始数据尽可能不变.

3.3.4 分散性

③分散性是指数据应该分散地存放在分布式集群中的各个节点(节点自己可以有备份),不必每个节点都存储所有的数据 [4]
将数据分散存储,即使将来服务器宕机,则影响只是一部分,.而不是全部.
谚语: 鸡蛋不要放到一个篮子里.
【Java】京淘项目Day13-14

3.4 SpringBoot整合Redis分片机制

3.4.1 编辑pro配置文件

【Java】京淘项目Day13-14

3.4.2 编辑配置类

【Java】京淘项目Day13-14

3.4.3 修改AOP中的配置

【Java】京淘项目Day13-14

4 Redis哨兵机制

4.1 Redis分片存在问题

说明:Redis分片机制,虽然可以实现Redis Redis内存扩容,但是redis 节点并没有实现高可用.如果节点宕机,则整合redis分片将不可使用.

4.2 Redis主从结构搭建

规定: 6379主机 /6380/6381 从机

4.2.1 复制文件目录

【Java】京淘项目Day13-14

4.2.2 删除持久化文件

【Java】京淘项目Day13-14

4.2.3 启动3台Redis服务器

1.redis-server 6379.conf
2.redis-server 6380.conf
3.redis-server 6381.conf
【Java】京淘项目Day13-14

4.2.4 实现redis主从挂载

命令1.: slaveof host port
命令说明: 在从机中执行上述命令 挂载的是主机的地址.
【Java】京淘项目Day13-14

命令2: info replication
【Java】京淘项目Day13-14

主从结构关系:
【Java】京淘项目Day13-14

4.3 Redis哨兵工作原理

4.3.1 工作流程图

【Java】京淘项目Day13-14
原理说明:
1.哨兵监控主机的运行的状态. 通过心跳检测机制(PING-PONG)如果连续3次节点没有响应,则断定主机宕机,哨兵开始进行选举.
2.哨兵通过链接主机,获取主机的相关配置信息(包含主从结构),挑选链接当前主机的从机.根据随机算法挑选出新的主机. 并且将其他的节点设置为新主机的从.

4.3.2 编辑哨兵配置文件

1).复制哨兵的配置文件
【Java】京淘项目Day13-14
2).关闭保护模式
【Java】京淘项目Day13-14
3).开启后端运行
【Java】京淘项目Day13-14
4).设定哨兵的投票数
【Java】京淘项目Day13-14
5).修改选举的超时时间
【Java】京淘项目Day13-14
6).修改哨兵的状态
【Java】京淘项目Day13-14

4.3.3 哨兵测试

哨兵命令: redis-sentinel sentinel.conf
检查redis服务:
【Java】京淘项目Day13-14
redis高可用测试:
1.关闭redis主机6379
2.等待10秒 检查6380/6381到底谁是主机.
3.重启6379服务器,检查是否充当了新主机的从

4.3.4 哨兵的入门案例

`@Test
public void test01(){
//定义哨兵的集合信息
Set<String> sentinels = new HashSet<>();
sentinels.add("192.168.126.129:26379");
//定义链接池信息
JedisPoolConfig poolConfig = new JedisPoolConfig();
poolConfig.setMaxTotal(200);    //链接池 最多200个链接
poolConfig.setMaxIdle(20);      //最大空闲链接数20
poolConfig.setMinIdle(10);      //最小空闲链接数10
JedisSentinelPool pool = new JedisSentinelPool("mymaster",sentinels,poolConfig);
//动态获取jedis链接
Jedis jedis = pool.getResource();
jedis.set("abc", "redis赋值操作");
System.out.println(jedis.get("abc"));
jedis.close();
}

4.3.5 作业

将哨兵的机制交给SpringBoot管理.

4.4 关于分片/哨兵总结

1.分片机制: 可以实现内存数据的扩容. 但是本身没有实现高可用的效果.
2.哨兵机制: 哨兵可以实现redis节点的高可用.但是哨兵本身没有实现高可用的效果.
需求: 1.不依赖第三方实现高可用
2.实现内存数据的扩容
3.各个节点可以高可用.

  1. Redis集群搭建 功能包含上述的3种机制. 一般公司中都会采用集群的方式部署redis.

5.Redis集群搭建(重点)

5.1 搭建具体环节参见work文档

5.2 关于redis集群搭建问题说明

注意事项:
1.启动6个redis节点
2.保证redis节点中的数据都是null的
3.根据报错提示 排查问题. 检查IP地址 检查防火墙…
1). 关闭所有的Redis服务器
sh stop.sh

2).检查redis配置文件
【Java】京淘项目Day13-14
3).删除多余文件
【Java】京淘项目Day13-14

5.3 关于Redis集群高可用测试

【Java】京淘项目Day13-14
1).关闭7000节点
redis-cli -p 7000 shutdown

2).检查主从状态
【Java】京淘项目Day13-14
3).重启7000 检查状态
【Java】京淘项目Day13-14

本文地址:H5W3 » 【Java】京淘项目Day13-14

评论 0

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址