Ribbon是Spring Cloud Netflix全家桶中负责负载均衡的组件,它是一组类库的集合。通过Ribbon,程序员能在不涉及到具体实现细节的基础上“透明”地用到负载均衡,而不必在项目里过多地编写实现负载均衡的代码。
比如,在某个包含Eureka和Ribbon的集群中,某个服务(可以理解成一个jar包)被部署在多台服务器上,当多个服务使用者同时调用该服务时,这些并发的请求能被用一种合理的策略转发到各台服务器上。
事实上,在使用Spring Cloud的其它各种组件时,我们都能看到Ribbon的痕迹,比如Eureka能和Ribbon整合,而在后文里将提到的提供网关功能Zuul组件在转发请求时,也可以整合Ribbon从而达到负载均衡的效果。
从代码层面来看,Ribbon有如下三个比较重要的接口。
第一,ILoadBalancer,这也叫负载均衡器,通过它,我们能在项目里根据特定的规则合理地转发请求,常见的实现类有BaseLoadBalancer。
第二,IRule,这个接口有多个实现类,比如RandomRule和RoundRobinRule,这些实现类具体地定义了诸如“随机“和”轮询“等的负载均衡策略,我们还能重写该接口里的方法来自定义负载均衡的策略。
在BaseLoadBalancer类里,我们能通过IRule的实现类设置负载均衡的策略,这样该负载均衡器就能据此合理地转发请求。
第三,IPing接口,通过该接口,我们能获取到当前哪些服务器是可用的,我们也能通过重写该接口里的方法来自定义判断服务器是否可用的规则。在BaseLoadBalancer类里,我们同样能通过IPing的实现类设置判断服务器是否可用的策略。
1 ILoadBalancer:负载均衡器接口
在Ribbon里,我们还可以通过ILOadBalancer这个接口以基于特定的负载均衡策略来选择服务器。
通过下面的ILoadBalancerDemo.java,我们来看下这个接口的基本用法。这个类是放在4.2部分创建的RabbionBasicDemo项目里,代码如下。
//省略必要的package和import代码 public class ILoadBalancerDemo { public static void main(String[] args){ //创建ILoadBalancer的对象 ILoadBalancer loadBalancer = new BaseLoadBalancer(); //定义一个服务器列表 List<Server> myServers = new ArrayList<Server>(); //创建两个Server对象 Server s1 = new Server("ekserver1",8080); Server s2 = new Server("ekserver2",8080); //两个server对象放入List类型的myServers对象里 myServers.add(s1); myServers.add(s2); //把myServers放入负载均衡器 loadBalancer.addServers(myServers); //在for循环里发起10次调用 for(int i=0;i<10;i++){ //用基于默认的负载均衡规则获得Server类型的对象 Server s = loadBalancer.chooseServer("default"); //输出IP地址和端口号 System.out.println(s.getHost() + ":" + s.getPort()); } } }
在第5行里,我们创建了BaseLoadBalancer类型的loadBalancer对象,而BaseLoadBalancer是负载均衡器ILoadBalancer接口的实现类。
在第6到第13行里,我们创建了两个Server类型的对象,并把它们放入了myServers里,在第15行里,我们把List类型的myServers对象放入了负载均衡器里。
在第17到22行的for循环里,我们通过负载均衡器模拟了10次选择服务器的动作,具体而言,是在第19行里,通过loadBalancer的chooseServer方法以默认的负载均衡规则选择服务器,在第21行里,我们是用“打印”这个动作来模拟实际的“使用Server对象处理请求”的动作。
上述代码的运行结果如下所示,其中我们能看到,loadBalancer这个负载均衡器把10次请求均摊到了2台服务器上,从中确实能看到 “负载均衡”的效果。
第二,IRule,这个接口有多个实现类,比如RandomRule和RoundRobinRule,这些实现类具体地定义了诸如“随机“和”轮询“等的负载均衡策略,我们还能重写该接口里的方法来自定义负载均衡的策略。
在BaseLoadBalancer类里,我们能通过IRule的实现类设置负载均衡的策略,这样该负载均衡器就能据此合理地转发请求。
第三,IPing接口,通过该接口,我们能获取到当前哪些服务器是可用的,我们也能通过重写该接口里的方法来自定义判断服务器是否可用的规则。在BaseLoadBalancer类里,我们同样能通过IPing的实现类设置判断服务器是否可用的策略。
ekserver2:8080 ekserver1:8080 ekserver2:8080 ekserver1:8080 ekserver2:8080 ekserver1:8080 ekserver2:8080 ekserver1:8080 ekserver2:8080 ekserver1:8080
2 IRule:定义负载均衡规则的接口
在Ribbon里,我们可以通过定义IRule接口的实现类来给负载均衡器设置相应的规则。在下表里,我们能看到IRule接口的一些常用的实现类。
实现类的名字 |
负载均衡的规则 |
RandomRule |
采用随机选择的策略 |
RoundRobinRule |
采用轮询策略 |
RetryRule |
采用该策略时,会包含重试动作 |
AvailabilityFilterRule |
会过滤些多次连接失败和请求并发数过高的服务器 |
WeightedResponseTimeRule |
根据平均响应时间为每个服务器设置一个权重,根据该权重值优先选择平均响应时间较小的服务器 |
ZoneAvoidanceRule |
优先把请求分配到和该请求具有相同区域(Zone)的服务器上 |
在下面的IRuleDemo.java的程序里,我们来看下IRule的基本用法。
//省略必要的package和import代码 public class IRuleDemo { public static void main(String[] args){ //请注意这是用到的是BaseLoadBalancer,而不是ILoadBalancer接口 BaseLoadBalancer loadBalancer = new BaseLoadBalancer(); //声明基于轮询的负载均衡策略 IRule rule = new RoundRobinRule(); //在负载均衡器里设置策略 loadBalancer.setRule(rule); //如下定义3个Server,并把它们放入List类型的集合中 List<Server> myServers = new ArrayList<Server>(); Server s1 = new Server("ekserver1",8080); Server s2 = new Server("ekserver2",8080); Server s3 = new Server("ekserver3",8080); myServers.add(s1); myServers.add(s2); myServers.add(s3); //在负载均衡器里设置服务器的List loadBalancer.addServers(myServers); //输出负载均衡的结果 for(int i=0;i<10;i++){ Server s = loadBalancer.chooseServer(null); System.out.println(s.getHost() + ":" + s.getPort()); } } }
这段代码和上文里的ILoadBalancerDemo.java很相似,但有如下的差别点。
1 在第5行里,我们是通过BaseLoadBalancer这个类而不是接口来定义负载均衡器,原因是该类包含setRule方法。
2 在第7行定义了一个基于轮询规则的rule对象,并在第9行里把它设置进负载均衡器。
3 在第19行里,我们是把包含3个Server的List对象放入负载均衡器,而不是之前的两个。由于这里存粹是为了演示效果,所以我们就放入一个根本不存在的“ekserver3”服务器。
运行该程序后,我们可以看到有10次输出,而且确实是按“轮询”的规则有顺序地输出3个服务器的名字。如果我们把第7行的代码改成如下,那么就会看到 “随机”地输出服务器名。
IRule rule = new RandomRule();
3 IPing:判断服务器是否可用的接口
在项目里,我们一般会让ILoadBalancer接口自动地判断服务器是否可用(这些业务都封装在Ribbon的底层代码里),此外,我们还可以用Ribbon组件里的IPing接口来实现这个功能。
在下面的IRuleDemo.java代码里,我们将演示IPing接口的一般用法。
//省略必要的package和import代码 class MyPing implements IPing { public boolean isAlive(Server server) { //如果服务器名是ekserver2,则返回false if (server.getHost().equals("ekserver2")) { return false; } return true; } }
第2行定义的MyPing类实现了IPing接口,并在第3行重写了其中的isAlive方法。
在这个方法里,我们根据服务器名来判断,具体而言,如果名字是ekserver2,则返回false,表示该服务器不可用,否则返回true,表示当前服务器可用。
public class IRuleDemo { public static void main(String[] args) { BaseLoadBalancer loadBalancer = new BaseLoadBalancer(); //定义IPing类型的myPing对象 IPing myPing = new MyPing(); //在负载均衡器里使用myPing对象 loadBalancer.setPing(myPing); //同样是创建三个Server对象并放入负载均衡器 List<Server> myServers = new ArrayList<Server>(); Server s1 = new Server("ekserver1", 8080); Server s2 = new Server("ekserver2", 8080); Server s3 = new Server("ekserver3", 8080); myServers.add(s1); myServers.add(s2); myServers.add(s3); loadBalancer.addServers(myServers); //通过for循环多次请求服务器 for (int i = 0; i < 10; i++) { Server s = loadBalancer.chooseServer(null); System.out.println(s.getHost() + ":" + s.getPort()); } } }
在第12行的main函数里,我们在第15行创建了IPing类型的myPing对象,并在第17行把这个对象放入了负载均衡器。通过第18到第26行的代码,我们创建了三个服务器,并把它们也放入负载均衡器。
在第28行的for循环里,我们依然是请求并输出服务器名。由于这里的负载均衡器loadBalancer中包含了一个IPing类型的对象,所以在根据策略得到服务器后,会根据myPing里的isActive方法来判断该服务器是否可用。
由于在这个方法里,我们定义了ekServer2这台服务器不可用,所以负载均衡器loadBalancer对象始终不会把请求发送到该服务器上,也就是说,在输出结果中,我们不会看到“ekserver2:8080”的输出。
从中我们能看到IPing接口的一般用法,我们可以通过重写其中的isAlive方法来定义“判断服务器是否可用“的逻辑,在实际项目里,判断的依据无非是”服务器响应是否时间过长“或”发往该服务器的请求数是否过多“,而这些判断方法都封装在IRule接口以及它的实现类里,所以在一般的场景中我们用到IPing接口。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持小牛知识库。
点击下方链接观看: https://www.bilibili.com/video/BV1Ji4y1g7pD/
本文向大家介绍详解SpringCloud Ribbon 负载均衡通过服务器名无法连接的神坑,包括了详解SpringCloud Ribbon 负载均衡通过服务器名无法连接的神坑的使用技巧和注意事项,需要的朋友参考一下 一,问题 采取eureka集群、客户端通过Ribbon调用服务,Ribbon端报下列异常 Spring Cloud版本比较乱,版本关联引用更是乱,最终我切换到 <spring-clou
本文向大家介绍详解spring cloud中使用Ribbon实现客户端的软负载均衡,包括了详解spring cloud中使用Ribbon实现客户端的软负载均衡的使用技巧和注意事项,需要的朋友参考一下 开篇 本例是在springboot整合H2内存数据库,实现单元测试与数据库无关性和使用RestTemplate消费spring boot的Restful服务两个示例的基础上改造而来 在使用RestTe
我有一个EC2实例,它托管一个在IIS中运行的网站。我还设置了一个带有HTTPS侦听器的AWS应用程序负载平衡器,并在其中添加了网站的SSL证书(保存在AWS证书管理器中)。HTTPS侦听器将流量重定向到我的目标组,目标组又指向我的EC2实例。EC2实例使用安全组只允许来自负载平衡器的流量。 首先,我是否正确地认为应用程序负载平衡器会解密SSL流量,从而使用HTTP将其转发到我的目标组(换句话说,
本文向大家介绍Spring Cloud Ribbon负载均衡器处理方法,包括了Spring Cloud Ribbon负载均衡器处理方法的使用技巧和注意事项,需要的朋友参考一下 接下来撸一撸负载均衡器的内部,看看是如何获取服务实例,获取以后做了哪些处理,处理后又是如何选取服务实例的。 分成三个部分来撸: 配置 获取服务 选择服务 配置 在上一篇《撸一撸Spring Cloud Ribbon的原理》的
本文向大家介绍SpringCloud 中使用 Ribbon的方法详解,包括了SpringCloud 中使用 Ribbon的方法详解的使用技巧和注意事项,需要的朋友参考一下 在前两章已经给大家讲解了Ribbon负载均衡的规则 以及 如何搭建Ribbon并调用服务,那么在这一章呢 将会给大家说一说如何在SpringCloud中去使用Ribbon。在搭建之前 我们需要做一些准备工作。 1. 搭建Eure