码创造者

这个屌丝很懒，什么也没留下！

热门标签

【ZooKeeper】ZooKeeper快速入门

作者：码创造者 | 2024-08-05 19:17:29

踩

1.ZooKeeper的概念

Zookeeper 是 Apache Hadoop 项目下的一个子项目，是一个树形目录服务。
Zookeeper 翻译过来就是动物园管理员，它是用来管 Hadoop（大象）、Hive（蜜蜂）、Pig（小猪）的管理员。
Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。
Zookeeper 提供的主要功能包括：配置管理、分布式锁、集群管理。

Zookeeper提供的功能

2.ZooKeeper的安装配置

3.ZooKeeper命令操作

3.1 ZooKeeper数据模型

ZooKeeper 是一个树形目录服务，其数据模型和 Unix 的文件系统目录树很类似，拥有一个层次化结构。
每一个节点都被称为： ZNode。
每个节点由三部分组成：节点的数据、节点的子节点、节点的状态信息。
节点可以分为四大类(节点的类型在创建时即被确定且不能修改)：
- PERSISTENT 持久化节点
- EPHEMERAL 临时节点：-e
- PERSISTENT_SEQUENTIAL 持久化顺序节点：-s
- EPHEMERAL_SEQUENTIAL 临时顺序节点：-es
注意：
- 临时结点：客户端和服务端断开连接后，创建的节点自己删除。临时结点不允许拥有子结点。
- 持久化结点：客户端和服务端断开连接后，创建的节点不删除。只有在客户端显式执行删除操作时才被删除。

Zookeeper树型目录

3.2 ZooKeeper服务端常用命令

启动ZooKeeper服务
./zkServer.sh start
停止ZooKeeper服务
./zkServer.sh stop
查看ZooKeeper服务状态
./zkServer.sh status
1
2
3
4
5
6

3.3 ZooKeeper客户端常用命令

在这里插入图片描述

3.3.1 基本的CRUD

连接ZooKeeper服务端

./zkCli.sh -server ip:port
1

断开连接

quit
1

显示指定目录下的节点

ls 目录
1

创建节点

create /节点path value
1

获取节点值

get /节点path # 使用get查看节点的状态信息和数据。
stat /节点path # 使用stat只返回节点的状态信息，没有数据。
1
2

设置节点值

set /节点path value
1

删除单个节点

delete /节点path
1

删除带有子节点的节点

deleteall /节点path
1

3.3.2 监听器

使用此命令注册的监听器能够在节点的数据发生改变的时候，向客户端发出通知。

get /节点path watch
1

使用此命令注册的监听器能够在节点的数据或者状态信息发生改变的时候，向客户端发出通知。

stat /节点path watch
1

能够监听该节点下所有子节点的增加和删除操作

ls/ls2 /节点path watch
1

3.3.3 创建临时顺序节点

创建临时节点

create -e /节点path value
1

创建顺序节点

create -s /节点path value
1

查询节点详细信息

ls -s /节点path
1

节点详细信息介绍

czxid：节点被创建的事务 ID
ctime：创建时间
mzxid：最后一次被更新的事务 ID
mtime：修改时间
pzxid：子节点列表最后一次被更新的事务 ID
cversion：子节点的版本号
dataversion：数据版本号
aclversion：权限版本号
ephemeralOwner：用于临时节点，代表临时节点的事务 ID，如果为持久节点则为 0
dataLength：节点存储的数据的长度
numChildren：当前节点的子节点个数

4.ZooKeeper的ACL权限控制

1.概述

ZooKeeper 类似文件系统，client 可以创建节点、更新节点、删除节点。
ZooKeeper 的 access control list 访问控制列表可以控制节点的权限。
ACL权限控制，使用 scheme：id：permission 来标识，主要涵盖三个方面：
- 权限模式（scheme）：授权的策略
- 授权的对象（id）：授权的对象
- 权限（permission）：授予的权限

2.特性

ZooKeeper 的权限控制是基于每个 ZNode 节点，需要对每个节点设置权限。
子节点不会继承父节点的权限，客户端无权访问某节点，但可能可以访问他的子节点。

3.scheme：权限模式

描述	方案
world	只有一个用户：anyone，代表登录 Zookeeper 的所有人（默认）
ip	对客户端使用 IP 地址认证
auth	使用已添加认证的用户认证
digest	使用用户名 : 密码方式认证

4.id：授权对象

授权对象 id 是指：权限赋予的实体
例如：IP地址或用户

5.permission：授予的权限

权限	ACL 简写	描述
create	c	可以创建子节点
delete	d	可以删除子节点（即下一级节点）
read	r	可以读取节点数据及显示子节点列表
write	w	可以设置节点数据
admin	a	可以设置节点访问控制列表权限

增、删、查、改、管理权限可以简写为 cdrwa
注意：这5中权限中，delete 是指对子节点的删除权限，其他四种权限指对自身节点的操作权限。

6.授权的相关命令

命令	使用方式	描述
getAcl	getAcl	读取ACL权限
setAcl	setAcl	设置ACL权限
addauth	addauth	添加认证用户

7.相关命令
world 授权模式

setAcl <path> world:anyone:<acl>
1

ip 授权模式

setAcl  <path> ip:<ip>:<acl>
1

auth 授权模式

addauth digest <user>:<password> # 添加认证用户
setAcl <path> auth:<user>:<acl> # 授权
1
2

digest 授权模式

setAcl <path> digest:<user>:<password>:<acl>
1

5.ZooKeeper JavaAPI操作

5.1 Curator介绍

Curator 是 Apache ZooKeeper 的 Java 客户端库。
常见的 ZooKeeper Java API ：
- 原生 Java API
- ZkClient
- Curator
Curator 项目的目标是简化 ZooKeeper 客户端的使用。
Curator 最初是 Netfix 研发的,后来捐献了 Apache 基金会,目前是 Apache 的顶级项目。

5.2 使用IDEA创建Maven工程

pom.xml

<!-- curator -->
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-framework</artifactId>
    <version>4.0.0</version>
</dependency>
<dependency>
    <groupId>org.apache.curator</groupId>
    <artifactId>curator-recipes</artifactId>
    <version>4.0.0</version>
</dependency>
1
2
3
4
5
6
7
8
9
10
11

5.3 Curator API的CRUD操作

5.3.1 建立连接

方式一(CuratorTest.java文件)

public class CuratorTest {
    private CuratorFramework client;
    @Test
    public void testConnect() {
        /*
            * @param connectString       连接字符串。zk server 地址和端口 "192.168.2.212:2181,192.168.2.212:2181"
            * @param sessionTimeoutMs    会话超时时间 单位ms
            * @param connectionTimeoutMs 连接超时时间 单位ms
            * @param retryPolicy         重试策略
            */
        // 重试策略
        RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);

        // 创建连接，构造客户端对象_第一种方式
        client = CuratorFrameworkFactory.newClient("192.168.2.212:2181", 60 * 1000,15 * 1000, retryPolicy);

        // 开启连接
        client.start();
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

方式二(CuratorTest.java文件)

public class CuratorTest {
    private CuratorFramework client;
    @Test
    public void testConnect() {
        // 重试策略
        RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);

        // 创建连接构造客户端对象_第二种方式：链式编程的方式
        client = CuratorFrameworkFactory.builder()
                .connectString("192.168.2.212:2181")
                .sessionTimeoutMs(60 * 1000)
                .connectionTimeoutMs(15 * 1000)
                .retryPolicy(retryPolicy)
                .build();

        // 开启连接
        client.start();
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

5.3.2 创建节点

CuratorTest.java文件

public class CuratorTest {
    private CuratorFramework client;

    @Before
    public void testConnect() {
        // 重试策略
        RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);
        
        // 创建连接构造客户端对象_第二种方式：链式编程的方式
        client = CuratorFrameworkFactory.builder()
                .connectString("192.168.2.212:2181")
                .sessionTimeoutMs(60 * 1000)
                .connectionTimeoutMs(15 * 1000)
                .retryPolicy(retryPolicy)
                .build();

        // 开启连接
        client.start();
    }
   
    /* 1.基本创建 */
    @Test
    public void testCreate_1() throws Exception {
        // 如果创建节点，没有指定数据，则默认将当前客户端的ip作为数据存储
        String path = client.create().forPath("/app1");
    }

    /* 2.创建节点，带有数据 */
    @Test
    public void testCreate_2() throws Exception {
        String path = client.create().forPath("/app2", "hehe".getBytes());
    }

    /* 3.设置节点的类型 */
    @Test
    public void testCreate_3() throws Exception {
        // 默认类型：持久化。
        String path = client.create().withMode(CreateMode.EPHEMERAL).forPath("/app3");
    }

    /* 4.创建多级节点 /app1/p1 */
    @Test
    public void testCreate_4() throws Exception {
        // creatingParentsIfNeeded()：如果父节点不存在，则创建父节点
        String path = client.create().creatingParentsIfNeeded().forPath("/app4/p1");
    }

    @After
    public void close() {
        if (client != null) {
            client.close();
        }
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54

5.3.3 查询节点

CuratorTest.java文件

@Test
public void testGet_1() throws Exception {
    //1.查询数据：get
    byte[] data = client.getData().forPath("/app1");
}

@Test
public void testGet_2() throws Exception {
    // 2.查询子节点： ls
    List<String> path = client.getChildren().forPath("/");
}

@Test
public void testGet_3() throws Exception {
    Stat status = new Stat();
    //3.查询节点状态信息：ls -s
    client.getData().storingStatIn(status).forPath("/app1");
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

5.3.4 修改节点

CuratorTest.java文件

/**
    * 修改数据
    * 1. 基本修改数据：setData().forPath()
    * 2. 根据版本修改: setData().withVersion().forPath()
    * * version 是通过查询出来的。目的就是为了让其他客户端或者线程不干扰我。
    */
@Test
public void testSet() throws Exception {
    client.setData().forPath("/app1", "itcast".getBytes());
}

@Test
public void testSetForVersion() throws Exception {
    Stat status = new Stat();

    // 查询节点状态信息：ls -s
    client.getData().storingStatIn(status).forPath("/app1");

    // 查询出来的版本信息
    int version = status.getVersion();
    
    client.setData().withVersion(version).forPath("/app1", "heheda".getBytes());
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

5.3.5 删除节点

CuratorTest.java文件

/**
    * 删除节点
    * 1. 删除单个节点:delete().forPath("/app1");
    * 2. 删除带有子节点的节点:delete().deletingChildrenIfNeeded().forPath("/app1");
    * 3. 必须成功的删除:为了防止网络抖动。本质就是重试。  client.delete().guaranteed().forPath("/app2");
    * 4. 回调：inBackground
    *
    * @throws Exception
    */

@Test
public void testDelete_1() throws Exception {
    // 1.删除单个节点
    client.delete().forPath("/app1");
}

@Test
public void testDelete_2() throws Exception {
    // 2.删除带有子节点的节点
    client.delete().deletingChildrenIfNeeded().forPath("/app4");
}

@Test
public void testDelete_3() throws Exception {
    // 3.必须成功的删除
    client.delete().guaranteed().forPath("/app2");
}

@Test
public void testDelete4() throws Exception {
    // 4.回调
    client.delete().guaranteed().inBackground(new BackgroundCallback() {
        @Override
        public void processResult(CuratorFramework client, CuratorEvent event) throws Exception {
            System.out.println(event);
        }
    }).forPath("/app1");
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38

5.4 Watch事件监听

5.4.1 Watch监听的概念

Watch 事件监听

ZooKeeper 允许用户在指定节点上注册一些 Watcher，并且在一些特定事件触发的时候，ZooKeeper 服务端会将事件通知到感兴趣的客户端上去，该机制是 ZooKeeper 实现分布式协调服务的重要特性。
ZooKeeper 中引入了 Watcher 机制来实现了发布/订阅功能，能够让多个订阅者同时监听某一个对象，当一个对象自身状态变化时，会通知所有订阅者。
Curator 引入了 Cache 来实现对 ZooKeeper 服务端事件的监听。
ZooKeeper 提供了三种 Watcher：
- NodeCache：只是监听某一个特定的节点
- PathChildrenCache：监控—个 ZNode 的子节点.
- TreeCache：可以监控整个树上的所有节点，类似于 PathChildrenCache 和 NodeCache 的组合

5.4.2 NodeCache

CuratorWatcherTest.java

public class CuratorWatcherTest {
    private CuratorFramework client;

    @Before
    public void testConnect() {
        // 重试策略
        RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);

        client = CuratorFrameworkFactory.builder()
                .connectString("192.168.2.212:2181")
                .sessionTimeoutMs(60 * 1000)
                .connectionTimeoutMs(15 * 1000)
                .retryPolicy(retryPolicy)
                .build();

        // 开启连接
        client.start();
    }

    @After
    public void close() {
        if (client != null) {
            // 关闭连接
            client.close();
        }
    }

    /**
        * NodeCache给指定一个节点注册监听器
        */
    @Test
    public void testNodeCache() throws Exception {
        // 1.创建 NodeCache 对象
        final NodeCache nodeCache = new NodeCache(client, "/app1");
        // 2.注册监听
        nodeCache.getListenable().addListener(new NodeCacheListener() {
            @Override
            public void nodeChanged() throws Exception {
                System.out.println("节点变化了~");
                // 获取修改节点后的数据
                byte[] data = nodeCache.getCurrentData().getData();
                System.out.println("新数据：" + new String(data));
            }
        });

        // 3.开启监听
        nodeCache.start(true);
        
        while (true) {

        }
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53

5.4.3 PathChildrenCache

CuratorWatcherTest.java

/**
    * PathChildrenCache监听某个节点的所有子节点
    */

@Test
public void testPathChildrenCache() throws Exception {
    // 1.创建监听对象
    PathChildrenCache pathChildrenCache = new PathChildrenCache(client, "/app2", true);

    // 2. 绑定监听器
    pathChildrenCache.getListenable().addListener(new PathChildrenCacheListener() {
        @Override
        public void childEvent(CuratorFramework client, PathChildrenCacheEvent event) throws Exception {
            System.out.println("子节点变化了~");
            System.out.println(event);
            // 监听子节点的数据变更，并且拿到变更后的数据。
            // 1.获取类型
            PathChildrenCacheEvent.Type type = event.getType();
            // 2.判断类型是否是update
            if (type.equals(PathChildrenCacheEvent.Type.CHILD_UPDATED)) {
                System.out.println("数据变了！！！");
                byte[] data = event.getData().getData();
                System.out.println(new String(data));
            }
        }
    });
    // 3. 开启监听
    pathChildrenCache.start();

    while (true) {

    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33

5.4.4 TreeCache

CuratorWatcherTest.java

/**
    * TreeCache监听某个节点自己和所有子节点
    */

@Test
public void testTreeCache() throws Exception {
    // 1. 创建监听器
    TreeCache treeCache = new TreeCache(client, "/app2");

    // 2. 注册监听
    treeCache.getListenable().addListener(new TreeCacheListener() {
        @Override
        public void childEvent(CuratorFramework client, TreeCacheEvent event) throws Exception {
            System.out.println("节点变化了");
            System.out.println(event);
        }
    });

    // 3. 开启监听
    treeCache.start();

    while (true) {

    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

5.5 分布式锁

分布式锁

在我们进行单机应用开发，涉及并发同步的时候，我们往往采用 synchronized 或者 Lock 的方式来解决多线程间的代码同步问题，这时多线程的运行都是在 同一个JVM 之下，没有任何问题。
但是当我们的应用是分布式集群工作的情况下，属于 多JVM下的工作环境，跨JVM之间已经无法通过多线程的锁解决同步问题。
那么就需要一种更加高级的锁机制，来处理种跨机器的进程之间的数据同步问题——这就是分布式锁。

分布式锁介绍

ZooKeeper分布式锁原理

核心思想：当客户端要获取锁，则创建节点，使用完锁，则删除该节点。
客户端获取锁时，在 lock 节点下创建临时顺序节点。
然后获取 lock 下面的所有子节点，客户端获取到所有的子节点之后，如果发现自己创建的子节点序号最小，那么就认为该客户端获取到了锁。使用完锁后，将该节点删除。
如果发现自己创建的节点并非 lock 所有子节点中最小的，说明自己还没有获取到锁。此时客户端需要找到比自己小的那个节点，同时对其注册事件监听器，监听删除事件。
如果发现比自己小的那个节点被删除，则客户端的 Watcher 会收到相应删除事件通知，此时再次判断自己创建的节点：
- 是否是 lock 子节点中序号最小的，如果是则获取到了锁；
- 如果不是，则重复以上步骤，继续获取到比自己小的一个节点，并注册监听。

分布式锁原理

5.6 案例：模拟12306售票

12306售票

Ticket12306.java

// 以多线程的方式模拟卖票。
public class Ticket12306 implements Runnable{
    private int tickets = 10; // 数据库的票数

    private InterProcessMutex lock ; // 分布式可重入排它锁

    public Ticket12306() {
        RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);

        CuratorFramework client = CuratorFrameworkFactory.builder()
                .connectString("192.168.2.212:2181")
                .sessionTimeoutMs(60 * 1000)
                .connectionTimeoutMs(15 * 1000)
                .retryPolicy(retryPolicy)
                .build();

        client.start();

        // 创建锁对象
        lock = new InterProcessMutex(client,"/lock");
    }

    @Override
    public void run() {
        while(true){
            // 获取锁
            try {
                lock.acquire(3, TimeUnit.SECONDS);
                if(tickets > 0){
                    System.out.println(Thread.currentThread() + ":" + tickets);
                    Thread.sleep(100);
                    tickets--;
                }
            } catch (Exception e) {
                e.printStackTrace();
            }finally {
                // 释放锁
                try {
                    lock.release();
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46

LockTest.java

public class LockTest {
    public static void main(String[] args) {
        Ticket12306 ticket12306 = new Ticket12306();

        // 创建客户端
        Thread t1 = new Thread(ticket12306,"携程");
        Thread t2 = new Thread(ticket12306,"飞猪");

        t1.start();
        t2.start();
    }
}
1
2
3
4
5
6
7
8
9
10
11
12

6.ZooKeeper集群搭建

6.1 Leader选举

Serverid：服务器 ID
- 比如有三台服务器，编号分别是1,2,3。
- 编号越大在选择算法中的权重越大。
Zxid：数据 ID
- 服务器中存放的最大数据 ID。值越大说明数据越新，在选举算法中数据越新权重越大。
注意： 在 Leader选举的过程中，如果某台 ZooKeeper获得了超过半数的选票，则此ZooKeeper就可以成为 Leader 了。

6.2 配置集群

在每个 zookeeper 的 data 目录下创建一个 myid 文件，内容分别是1、2、3 。这个文件就是记录每个服务器的 ID。

echo 1 >/usr/local/zookeeper-cluster/zookeeper-1/data/myid

echo 2 >/usr/local/zookeeper-cluster/zookeeper-2/data/myid

echo 3 >/usr/local/zookeeper-cluster/zookeeper-3/data/myid
在每一个 zookeeper 的 zoo.cfg 配置客户端访问端口（clientPort）和集群服务器 IP 列表

vim /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

集群服务器IP列表如下
```
server.1=192.168.2.212:2881:3881
server.2=192.168.2.212:2882:3882
server.3=192.168.2.212:2883:3883
1
2
3
```
解释：server.服务器ID = 服务器IP地址 : 服务器之间通信端口 : 服务器之间投票选举端口

6.3 模拟集群异常

3个节点的集群，1个从服务器挂掉，集群正常。
3个节点的集群，2个从服务器都挂掉，主服务器也无法运行。因为可运行的机器没有超过集群总数量的半数。
3个节点的集群，当集群中的主服务器挂了，集群中的其他服务器会自动进行选举，然后产生新的 leader。

6.4 ZooKeeper集群角色

ZooKeeper集群中有三个角色
- Leader 领导者：
  - 处理客户端的事务请求(事务请求：增删改请求)
  - 同步数据
- Follower 跟随者：
  - 处理客户端的非事务请求(非事务请求：查询请求)，转发事务请求给 Leader 服务器
  - 参与 Leader 选举投票
- Observer 观察者：
  - 处理客户端的非事务请求(非事务请求：查询请求)，转发事务请求给 Leader 服务器

在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/码创造者/article/detail/933812