什么是分布式系统?

在《分布式系统原理与范型》一书中有如下定义:“分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统”;

分布式系统是由一组通过网络进行通信、为了完成共同的任务而协调工作的计算机节点组成的系统。分布式系统的出现是为了用廉价的、普通的机器完成单个计算机无法完成的计算、存储任务。其目的是利用更多的机器,处理更多的数据

分布式系统(distributed system)是建立在网络之上的软件系统。

首先需要明确的是,只有当单个节点的处理能力无法满足日益增长的计算、存储任务的时候,且硬件的提升(加内存、加磁盘、使用更好的CPU)高昂到得不偿失的时候,应用程序也不能进一步优化的时候,我们才需要考虑分布式系统。因为,分布式系统要解决的问题本身就是和单机系统一样的,而由于分布式系统多节点、通过网络通信的拓扑结构,会引入很多单机系统没有的问题,为了解决这些问题又会引入更多的机制、协议,带来更多的问题。。。

随着互联网的发展,网站应用的规模不断扩大,常规的垂直应用架构已无法应对,分布式服务架构以及流动计算架构势在必行,急需一个治理系统确保架构有条不紊的演进。

dubbo-architecture-roadmap

单一应用架构

当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。

image-20200415113725084

适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。

缺点:

  1. 性能扩展比较难

  2. 协同开发问题

  3. 不利于升级维护

垂直应用架构

当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。

image-20200415113917150

通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。

缺点:公用模块无法重复利用,开发性的浪费

分布式服务架构

当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。

image-20200415114045222

流动计算架构

当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]是关键。

image-20200415114205352

什么是RPC?

RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。

也就是说两台服务器A,B,一个应用部署在A服务器上,想要调用B服务器上应用提供的函数/方法,由于不在一个内存空间,不能直接调用,需要通过网络来表达调用的语义和传达调用的数据。为什么要用RPC呢?就是无法在一个进程内,甚至一个计算机内通过本地调用的方式完成的需求,比如不同的系统间的通讯,甚至不同的组织间的通讯,由于计算能力需要横向扩展,需要在多台机器组成的集群上部署应用。RPC就是要像调用本地的函数一样去调远程函数

https://www.jianshu.com/p/2accc2840a1b

image-20200415114334913

image-20200415142338994

image-20200415142618401

RPC两个核心模块:通讯,序列化。

Dubbo

Apache Dubbo |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。dubbo官网

img

服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。

服务消费者(Consumer):调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者

监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心

调用关系说明

服务容器负责启动,加载,运行服务提供者。

服务提供者在启动时,向注册中心注册自己提供的服务。

服务消费者在启动时,向注册中心订阅自己所需的服务。

注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。

服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。

点进dubbo官方文档,推荐我们使用Zookeeper注册中心

image-20200415145535263

zookeeper 注册中心

Zookeeper 是 Apacahe Hadoop 的子项目,是一个树型的目录服务,支持变更推送,适合作为 Dubbo 服务的注册中心,工业强度较高,可用于生产环境,并推荐使用

/user-guide/images/zookeeper.jpg

流程说明:

  • 服务提供者启动时: 向 /dubbo/com.foo.BarService/providers 目录下写入自己的 URL 地址
  • 服务消费者启动时: 订阅 /dubbo/com.foo.BarService/providers 目录下的提供者 URL 地址。并向 /dubbo/com.foo.BarService/consumers 目录下写入自己的 URL 地址
  • 监控中心启动时: 订阅 /dubbo/com.foo.BarService 目录下的所有提供者和消费者 URL 地址。

支持以下功能:

  • 当提供者出现断电等异常停机时,注册中心能自动删除提供者信息
  • 当注册中心重启时,能自动恢复注册数据,以及订阅请求
  • 当会话过期时,能自动恢复注册数据,以及订阅请求
  • 当设置 `` 时,记录失败注册和订阅请求,后台定时重试
  • 可通过 `` 设置 zookeeper 登录信息
  • 可通过 `` 设置 zookeeper 的根节点,不配置将使用默认的根节点。
  • 支持 * 号通配符 ``,可订阅服务的所有分组和所有版本的提供者

Window下安装zookeeper

1.下载地址本文3.4.14版,下载解压

2.解压zookeeper,运行/bin/zkServer.cmd ,初次运行会报错,没有zoo.cfg配置文件。每次运行的时候如果出错也是一闪而过。这时候我们以编辑zkServer.cmd文件末尾添加pause 。这样运行出错就不会退出,会提示错误信息,方便找到原因。

image-20200415152719911

image-20200415154620574

报错conf文件夹中没有zoo.cfg配置文件

3.修改zoo.cfg配置文件.将conf文件夹下面的zoo_sample.cfg复制一份改名为zoo.cfg即可。

image-20200415154719588

4.修改完成后再次启动zookeeper.点击运行bin目录下的zkSever.cmd

image-20200415154837173

5.使用zkCli.cmd测试

image-20200415155037663

ls /:列出zookeeper根下保存的所有节点

image-20200415155925955

create -e /kylin 123创建一个kylin节点,值为123

image-20200415160119839

get /kylin 获取/kylin节点的值

image-20200415160216242

在查看一下节点ls /

image-20200415160333771

linux下部署解压后将conf文件夹下面的zoo_sample.cfg复制一份改名为zoo.cfg。运行zkServer.sh,zkCli.sh即可。

window下安装dubbo-admin

dubbo本身并不是一个服务软件。它其实就是一个jar包,能够帮你的java程序连接到zookeeper,并利用zookeeper消费、提供服务。

但是为了让用户更好的管理监控众多的dubbo服务,官方提供了一个可视化的监控程序dubbo-admin,不过这个监控即使不装也不影响使用。

  1. 下载dubbo-admin地址。点击下载即可。下载压缩包则解压

image-20200415160935462

2、解压进入目录修改 dubbo-admin\src\main\resources \application.properties指定zookeeper地址.(这是个SpringBoot项目)

image-20200415161109763

dubbo.registry.address=zookeeper://127.0.0.1:2181

image-20200415161212341

3.在项目目录下通过maven打包dubbo-adminmvn clean package -Dmaven.test.skip=true

image-20200415161547451

image-20200415161927977

image-20200415162001884

打包成功~

4.运行target目录下的dubbo-admin-0.0.1-SNAPSHOT.jar通过java -jar命令:java -jar dubbo-admin-0.0.1-SNAPSHOT.jar意:zookeeper的服务一定要打开!**

image-20200415162238738

image-20200415162341102

5.执行完毕,我们去访问一下 http://localhost:7001/ , 这时候我们需要输入登录账户和密码,我们都是默认的账号:root 密码:root

image-20200415162537287

image-20200415162553923

dubbo-admin已经安装完成~

SpringBoot集成Dubbo + zookeeper

环境搭建

1.启动zookeeper !

2.IDEA创建一个空项目

3.创建一个模块SpringBoot项目,实现服务的提供者——provider-server,选择web依赖即可。

image-20200415163010011

image-20200415163055254

4.项目创建完毕,我们写一个服务,比如卖票的服务

编写接口

1
2
3
4
public interface TicketService {

String getTicket();
}

image-20200415163304497

编写实现类

1
2
3
4
5
6
public class TicketServiceImpl implements TicketService {
@Override
public String getTicket() {
return "大话西游电影票一张";
}
}

image-20200415163546641

5.同理创建一个模块,实现服务消费者:consumer-server , 选择web依赖即可

6.项目创建完毕,我们写一个服务,比如用户的服务。

编写service

1
2
3
public class UserService {

}

image-20200415163738887

现在我们的用户想使用买票的服务,这要怎么弄呢 ?买票方法在另一个项目中~

服务提供者

1.本项目中的服务提供者也就是provider-server将服务提供者注册到注册中心,我们需要整合Dubbo和zookeeper,所以需要导包我们从dubbo官网进入github,看下方的帮助文档,找到dubbo-springboot,找到依赖包

1
2
3
4
5
6
<!-- Dubbo Spring Boot Starter -->
<dependency>
<groupId>org.apache.dubbo</groupId>
<artifactId>dubbo-spring-boot-starter</artifactId>
<version>2.7.3</version>
</dependency>

zookeeper的包我们去maven仓库下载,zkclient

1
2
3
4
5
6
<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
<groupId>com.github.sgroschupf</groupId>
<artifactId>zkclient</artifactId>
<version>0.1</version>
</dependency>

注意:新版zookeeper及其依赖包,解决日志冲突,还需要剔除日志依赖;

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
<!-- 引入zookeeper -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.4.14</version>
<!--排除这个slf4j-log4j12-->
<exclusions>
<exclusion>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
</exclusion>
</exclusions>
</dependency>

image-20200415164334563

image-20200415164411328

2.在springboot配置文件中配置dubbo相关属性.

1
2
3
4
5
6
7
8
server.port=8001

#服务应用的名字
dubbo.application.name=provider-server
#注册中心地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
#哪些服务要被注册
dubbo.scan.base-packages=com.kylin.service

image-20200415164645775

3.在service的实现类中配置服务注解,发布服务!注意导包问题

image-20200415164845893

image-20200415165256424

本图中的@Service注解是Dubbo的注解。是将该服务注册到注册中心并发布出去。@Component是Spring的注解,是注册到Spring容器中。由于Dubbo和Spring都有@Service注解。所以推荐使用了Dubbo后尽量不要使用Spring的@Service注解.。否则可能发导错注解,导致程序异常

逻辑理解 :应用启动起来,dubbo就会扫描指定的包下带有@component注解(注册到Spring中)的服务,将它发布在指定的注册中心中!

服务消费者

1.本项目中的服务消费者是consumer-server。导入dubbo,zookeeper依赖。和之前的依赖一样

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
<!--dubbo-->
<!-- Dubbo Spring Boot Starter -->
<dependency>
<groupId>org.apache.dubbo</groupId>
<artifactId>dubbo-spring-boot-starter</artifactId>
<version>2.7.3</version>
</dependency>
<!--zookeeper-->
<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
<groupId>com.github.sgroschupf</groupId>
<artifactId>zkclient</artifactId>
<version>0.1</version>
</dependency>
<!-- 引入zookeeper -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.4.14</version>
<!--排除这个slf4j-log4j12-->
<exclusions>
<exclusion>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
</exclusion>
</exclusions>
</dependency>

2.配置参数

1
2
3
4
5
server.port=8002
#消费者去哪里拿服务
dubbo.application.name=consumer-server
#注册中心
dubbo.registry.address=zookeeper://127.0.0.1:2181

image-20200415165946158

3.本来正常步骤是需要将服务提供者的接口打包,然后用pom文件导入,我们这里使用简单的方式,直接将服务的接口拿过来,路径必须保证正确,即和服务提供者相同.复制接口。路径相同

image-20200415170125421

4.完善消费者的服务类

1
2
3
4
5
6
7
8
9
10
11
@Service//Spring的@Service
public class UserService {

//想拿到provider-server提供的票.要去注册中心拿到服务
@Reference//引用: Pom坐标,可以定义路径相同的接口名。远程引用指定的服务,他会按照全类名进行匹配,看谁给注册中心注册了这个全类名
TicketService ticketService;
public void buyTicket(){
String ticket = ticketService.getTicket();
System.out.println("在注册中心拿到=>"+ticket);
}
}

image-20200415170356518

测试类编写

1
2
3
4
5
6
7
8
9
10
11
@SpringBootTest
class ConsumerServerApplicationTests {
@Autowired
UserService userService;

@Test
void contextLoads() {
userService.buyTicket();
}

}

image-20200415170522587

分别启动consumer-server,provider-server两个项目(先运行提供者在运行消费者),运行zkServer,和dubbo-admin

image-20200415170822152

运行测试类

image-20200415170900917

登录http://localhoost:7001进入dubbo-admin查看服务

image-20200415171013358

image-20200415171036313

image-20200415171109797

image-20200415171156958

image-20200415171219036

image-20200415171258462

测试成功!