ShardingSphere5.2.1生产级分库分表实现~

原创 飘渺Jam JAVA日知录 2024-03-08 08:32 安徽

大家好，我是飘渺。

随着业务的不断发展，DailyMart每天产生的销售订单已经达到了约100万，并且呈持续增长趋势。按照这样的发展速度，每年的数据量将达到约4亿左右。目前，DailyMart采用的是MySQL单表进行存储，但鉴于业务的快速发展，我们迫切需要对其进行分库分表的改造。今天，我们来探讨如何实现分库分表功能，以及相关的步骤和注意事项。

这是本系列文章的第31篇，欢迎持续关注。

对于分库分表的相关知识，我的星球分库分表专栏有详细的介绍说明，强烈推荐大家加入学习。

分库分表的核心在于合理选择分片键以及快速定位非分片键的数据。

分片键的选择

DailyMart作为一个ToC的业务系统，大部分业务访问都是基于用户ID进行的，比如登录用户查看自己的购买记录等。因此，对于订单模块我们决定以用户ID作为分片键。

在订单模块中，订单主表 CUSTOMER_ORDER 和订单明细表 ORDER_ITEM 是最核心的两张表，由于它们经常会一起使用，我们也需要将订单明细表的用户字段 CUSTOMER_ID 作为分片键，以确保基于用户维度的查询在单个分片上完成。下面是一个示例SQL：

SELECT * FROM CUSTOMER_ORDER ORDER
LEFT JOIN ORDER_ITEM ITEM ON ORDER.order_sn = ITEM.order_sn
WHERE ORDER.customer_id = 2846741676215238657
ORDER BY create_time DESC LIMIT 10

非分片键查询

既然确定使用用户ID作为分片键，大部分查询都需要带上CUSTOMER_ID作为查询条件。但在实际使用中，经常会根据订单编号ORDER_SN进行精确查询，比如库存扣减、支付后的反查等。在默认情况下，根据订单编号（非分片键）进行查询将需要在所有分片上进行查询，然后对结果进行聚合，显然这样的查询效率是很低的。

为了解决这个问题，业界一般采用基因法来解决，即将分片键的信息保存在想要查询的列中，这样通过查询的列就能直接知道数据所在的分片信息。

基因法的原理是 对一个数取余2的n次方，那么余数就是这个数的二进制的最后n位数。

以订单表为例，对订单表我们根据CUSOMER_ID将其拆成16张表，采用CUSOMER_ID % 16的方式来进行数据库路由，这里的CUSOMER_ID % 16，其本质是CUSOMER_ID的最后4个bit位 log(16,2) = 4 决定这行数据落在哪个分片上，这4个bit就是分片基因。

基于这一理论，基因法有两种具体的实现：

基因替换法

1. 在生成订单编号ORDER_SN时，先使用一种分布式ID生成算法生成前60bit

2. 计算出分片基因：分库基因是CUSTOMER_ID的最后4个bit，log(16,2) = 4，即1001

3. 将分库基因加入到ORDER_SN的最后4个bit（上图中粉色部分）

4. 拼装成最终的64bit订单ORDER_SN（上图中蓝色部分）

这样保证了同一个用户创建的所有订单都落到了同一个分片上，ORDER_SN的最后4个bit都相同，通过CUSTOMER_ID %16 能够定位到分片，通过ORDER_SN % 16也能定位到分片。

基因替换法可能会导致ORDER_SN重复，以雪花算法为例，假设同一个用户在一毫秒内创建了 2 个订单，这样生产的序列号相差1，替换掉基因后对应的二进制都相同了，导致ORDER_SN也是重复的。但这种情况非常少见，除非是机器人刷单。当然如果要彻底杜绝订单编号重复问题可以使用下面介绍的基因拼接法。

基因拼接法

基因拼接法更简单，就是在构建订单编号时直接将用户基因拼接在生成的ID后面，即：ORDER_SN = string（ORDER_SN + CUSTOMER_ID）

假设开始生成的订单号是3531318506608209922，用户ID为2846741676215238658，那最终生成的编号为35313185066082099222846741676215238658。为了减少长度，我们可以只取用户ID的最后6位进行拼接，生成的编号为3531318506608209922238658，这样可以支持2^6=64个分片。

那么此时如果根据 ORDER_SN 进行查询：

SELECT * FROM CUSTOMER_ORDER
WHERE ORDER_SN = '3531318506608209922238658';

由于字段 ORDER_SN 的设计中直接包含了分片键信息，所以我们可以直接通过分片键部分直接定位到分片上。

基因拼接法的缺点是，对应的键会变大一些，存储也会相应变大，但是却可以大大提升后续的查询效率，这种空间换时间的设计，总体上看是非常值得的。

实际上淘宝的订单号也是这样构建的，如下图所示，订单的最后6位都是607041，所以大概率推测出：

1. 淘宝订单表的分片键是用户 ID；

2. 淘宝订单表，订单表的主键包含用户 ID，也就是分片信息。这样通过订单号进行查询，可以获得分片信息，从而查询 1 个分片就能得到最终的结果。

代码实现

在DailyMart中选择使用shardingsphere实现分库分表功能，不过为了方便演示，我在这里只进行分表操作。

1、首先，将原始订单表和订单明细表分别拆成4个表

2、在订单模块基础设施层中引入shardingsphere，

<dependency>
  <groupId>org.apache.shardingsphere</groupId>
  <artifactId>shardingsphere-jdbc-core-spring-boot-starter</artifactId>
  <version>5.2.1</version>
</dependency>

3、编写复合分片算法，实现基于order_sn和customer_id的查询

public class OrderGenComplexTableAlgorithm implements ComplexKeysShardingAlgorithm<Comparable<?>> {
  ...
    @Override
    public Collection<String> doSharding(Collection<String> availableTargetNames, ComplexKeysShardingValue<Comparable<?>> shardingValue) {
        Map<String, Collection<Comparable<?>>> columnNameAndShardingValuesMap = shardingValue.getColumnNameAndShardingValuesMap();
        Collection<String> result = new LinkedHashSet<>(availableTargetNames.size());
 
        if(MapUtils.isNotEmpty(columnNameAndShardingValuesMap)){
            // 获取用户ID
            Collection<Comparable<?>> userIdCollection = columnNameAndShardingValuesMap.get(USER_ID_COLUMN);
            //用户分片
            if(CollectionUtils.isNotEmpty(userIdCollection)){
                userIdCollection.stream().findFirst().ifPresent(comparable -> {
                    long tableNameSuffix = (Long) comparable % shardingCount;
                    result.add(shardingValue.getLogicTableName() + "_" + tableNameSuffix);
                });
            }else {
                Collection<Comparable<?>> orderSnCollection = columnNameAndShardingValuesMap.get(ORDER_ID_COLUMN);
                orderSnCollection.stream().findFirst().ifPresent(comparable -> {
                    String orderSn = String.valueOf(comparable);
                    //获取用户基因
                    String substring = orderSn.substring(Math.max(0, orderSn.length() - 6));
                    long tableNameSuffix = Long.parseLong(substring) % shardingCount;
                    result.add(shardingValue.getLogicTableName() + "_" + tableNameSuffix);
                });
            }
        }
        return result;
    }
  ...
}

在上述代码中，当通过用户ID进行查询时直接通过分片键取模定位分片，如果是基于订单查询先获取用户基因，再根据用户基因取模定位分片。

4、在application.yaml中配置分库分表

spring:
  shardingsphere:
    datasource:
      names: ds0
      ds0:
        type: com.zaxxer.hikari.HikariDataSource
        driver-class-name: org.mariadb.jdbc.Driver
    rules:
      sharding:
        sharding-algorithms:
          order-gen-complex-sharding:
            type: CLASS_BASED
            props:
              strategy: COMPLEX
              algorithmClassName: com.jianzh5.dailymart.module.order.infrastructure.config.OrderGenComplexTableAlgorithm
              sharding-count: 4
        tables:
          customer_order:
            actual-data-nodes: ds0.customer_order_$->{0..3}
            table-strategy:
              complex:
                sharding-algorithm-name: order-gen-complex-sharding
                sharding-columns: order_sn,customer_id
          order_item:
            actual-data-nodes: ds0.order_item_$->{0..3}
            table-strategy:
              complex:
                sharding-algorithm-name: order-gen-complex-sharding
                sharding-columns: order_sn,customer_id

通过上述步骤，在订单模块中已经集成了分库分表功能，接下来编写两个接口对其进行测试。

测试

在订单模块的接口层我们定义了两个接口用于模拟实际的业务场景：
1、获取指定用户的订单分页列表；
2、根据订单编号获取订单详情。

接口定义如下：

@Operation(summary = "根据用户ID分页查询订单")
@GetMapping("/api/pd/order/page")
public PageResponse<OrderRespDTO> pageQuery(@Valid OrderPageQueryDTO orderPageQueryDTO) {
  return orderService.findListByUserId(orderPageQueryDTO);
}
 
 
@Operation(summary = "根据订单号查询订单详情")
@GetMapping("/api/pd/order/{orderSn}")
public OrderRespDTO getOrderBySn(@PathVariable("orderSn") String orderSn) {
  return orderService.getOrderBySn(orderSn);
}

通过运行结果可知，根据用户订单获取分页列表时直接根据Customer_id取模，只需要一次查询即可定位。

当根据订单号查询订单详情时，根据用户基因取模，同样也只需要一次查询即可定位。

小结

通过以上步骤，我们完成了在DailyMart中集成分库分表功能的实践，大家在实施分库分表过程中一定要结合自己的业务实际选择合理的分片键，分片键的好坏决定了你分库分表架构方案的好坏。限于篇幅原因，本文只是介绍了分表功能的实现，其他功能细节在星球专栏有详细说明。同时，本文涉及的代码都已经上传至Github，感兴趣的可以通过文末方式获取。

- End-

DailyMart是一个基于 DDD 和Spring Cloud Alibaba的微服务商城系统，采用SpringBoot3.x以及JDK17。旨在为开发者提供集成式的学习体验，并将其无缝地应用于实际项目中。该专栏包含领域驱动设计（DDD）、Spring Cloud Alibaba企业级开发实践、设计模式实际应用场景解析、分库分表战术及实用技巧等内容。如果你对这个系列感兴趣，可在本公众号回复关键词 DDD 获取完整文档以及相关源码。