程序员必备的十大技能(进阶版)之高性能数据库实战(三)

简介: 教程来源 http://tmywi.cn/ 本文系统梳理数据库架构演进路径:从单库单表→读写分离→分库分表,并详解ShardingSphere实战——含分片键设计、跨分片分页优化、雪花算法全局ID生成;同时深入剖析MySQL主从复制原理、读写分离配置及主从延迟监控与应对策略。

三、数据库架构演进

3.1 单库单表 → 读写分离 → 分库分表

[第一阶段] 单库单表
    ┌─────────────┐
    │   MySQL主库  │
    │   (垂直拆分) │
    └─────────────┘

[第二阶段] 读写分离
    ┌─────────────┐      ┌─────────────┐
    │   MySQL主库  │ ──→  │  MySQL从库1  │
    │    (写入)    │      └─────────────┘
    └─────────────┘      ┌─────────────┐
              └─────────→│  MySQL从库2  │
                         └─────────────┘

[第三阶段] 分库分表
    ┌─────────────┐  ┌─────────────┐  ┌─────────────┐
    │  DB0(orders)│  │  DB1(orders)│  │  DB2(orders)│
    │  表0~表3    │  │  表4~表7    │  │  表8~表11   │
    └─────────────┘  └─────────────┘  └─────────────┘

3.2 分库分表实战(ShardingSphere)
分片键选择原则
均匀性:数据分布均匀,避免热点

查询友好:80%以上的查询都带分片键

不可变:分片键一旦确定不能修改

水平分表示例:订单表按user_id分片

// ShardingSphere配置(application.yml)
spring:
  shardingsphere:
    datasource:
      names: ds0,ds1
      ds0:
        type: com.zaxxer.hikari.HikariDataSource
        url: jdbc:mysql://localhost:3306/db0
      ds1:
        url: jdbc:mysql://localhost:3306/db1
    sharding:
      tables:
        orders:
          actual-data-nodes: ds$->{0..1}.orders_$->{0..3}  # 2库 × 4表 = 8张表
          table-strategy:
            inline:
              sharding-column: user_id
              algorithm-expression: orders_$->{user_id % 4}
          database-strategy:
            inline:
              sharding-column: user_id
              algorithm-expression: ds$->{user_id % 2}
          key-generator:
            column: id
            type: SNOWFLAKE  # 雪花算法生成全局唯一ID

分页跨分片查询优化

// 问题:跨分片分页(需要从所有分片取数据归并)
// 例如:ORDER BY create_time LIMIT 10 OFFSET 100

// 优化方案1:禁止跨分片分页,强制带分片键查询
@GetMapping("/orders")
public Page<Order> getOrders(@RequestParam Long userId, @RequestParam int page) {
    // 查询必须带userId,可以直接路由到特定分片
    return orderService.findByUserId(userId, page);
}

// 优化方案2:使用Elasticsearch作为二级索引
// 主键查询走MySQL分库分表,复杂查询走ES

全局ID生成器:雪花算法(Snowflake)

public class SnowflakeIdGenerator {
    // 64位ID结构:
    // 1位符号位(0) + 41位时间戳(毫秒) + 10位机器ID + 12位序列号

    private final long twepoch = 1288834974657L;  // 起始时间戳(2020-01-01)
    private final long workerIdBits = 5L;         // 机器ID位数
    private final long datacenterIdBits = 5L;      // 数据中心ID位数
    private final long sequenceBits = 12L;         // 序列号位数

    private final long maxWorkerId = ~(-1L << workerIdBits);  // 31
    private final long maxDatacenterId = ~(-1L << datacenterIdBits); // 31
    private final long sequenceMask = ~(-1L << sequenceBits);  // 4095

    private long workerId;
    private long datacenterId;
    private long sequence = 0L;
    private long lastTimestamp = -1L;

    public SnowflakeIdGenerator(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException("workerId范围: 0~31");
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }

    public synchronized long nextId() {
        long timestamp = timeGen();

        // 时钟回拨处理
        if (timestamp < lastTimestamp) {
            long offset = lastTimestamp - timestamp;
            if (offset <= 5) {
                // 回拨在5ms内,等待
                waitUntil(lastTimestamp);
                timestamp = timeGen();
            } else {
                throw new RuntimeException("时钟回拨超过5ms,拒绝生成ID");
            }
        }

        if (timestamp == lastTimestamp) {
            sequence = (sequence + 1) & sequenceMask;
            if (sequence == 0) {
                // 当前毫秒序列号用完,等待下一毫秒
                timestamp = tilNextMillis(lastTimestamp);
            }
        } else {
            sequence = 0L;
        }

        lastTimestamp = timestamp;

        return ((timestamp - twepoch) << (workerIdBits + datacenterIdBits + sequenceBits))
                | (datacenterId << (workerIdBits + sequenceBits))
                | (workerId << sequenceBits)
                | sequence;
    }

    private void waitUntil(long targetTimestamp) {
        while (timeGen() < targetTimestamp) {
            Thread.yield();
        }
    }
}

四、读写分离与主从复制

4.1 MySQL主从复制原理

主库(Writer)                    从库(Reader)
     │                               │
     │ 1. 写操作写入binlog            │
     ▼                               │
┌─────────┐                          │
│ binlog  │                          │
└────┬────┘                          │
     │ 2. dump线程发送binlog          │ 3. I/O线程接收并写入relay_log
     └──────────────────────────────→┌──────────┐
                                      │ relay_log│
                                      └─────┬────┘
                                            │ 4. SQL线程执行relay_log
                                            ▼
                                      ┌─────────┐
                                      │  从库    │
                                      └─────────┘

4.2 Sharding-JDBC读写分离配置

spring:
  shardingsphere:
    masterslave:
      name: ms
      master-data-source-name: master
      slave-data-source-names: slave1,slave2
      load-balance-algorithm-type: ROUND_ROBIN  # 轮询,可选RANDOM
    props:
      sql-show: true  # 显示SQL路由信息

4.3 主从延迟解决方案
延迟监控

-- 主库上执行
SHOW MASTER STATUS;
-- 记录File和Position

-- 从库上执行
SHOW SLAVE STATUS\G
-- 重点看:
-- Seconds_Behind_Master: 延迟秒数(从库落后主库的时间)
-- Master_Log_File / Read_Master_Log_Pos: 从库IO线程读到的位置
-- Relay_Master_Log_File / Exec_Master_Log_Pos: 从库SQL线程执行的位置

延迟应对策略

// 策略1:强制主库读(写后立即读的场景)
@Hint(name = "master", value = "true")
public Order getLatestOrder(Long userId) {
    // 使用Hint强制路由到主库
    return orderMapper.selectByUserId(userId);
}

// 策略2:业务容忍,降级处理
@Retryable(value = {StaleDataException.class}, maxAttempts = 3)
public Order getOrderWithRetry(Long orderId) {
    Order order = orderMapper.selectFromSlave(orderId);
    if (order == null && isRecentlyWritten(orderId)) {
        // 最近写入的数据从库未同步,稍后重试
        throw new StaleDataException("数据同步中");
    }
    return order;
}

// 策略3:缓存最新数据(写操作后更新缓存)
@CachePut(value = "orders", key = "#order.id")
public Order createOrder(Order order) {
    orderMapper.insert(order);
    return order;
}

来源:
http://yyvgt.cn/

相关文章
|
9天前
|
Shell API 开发工具
Claude Code 快速上手指南(新手友好版)
AI编程工具卷疯啦!Claude Code凭借任务驱动+终端原生的特性,成了开发者的效率搭子。本文从安装、登录、切换国产模型到常用命令,手把手带新手快速上手,全程避坑,30分钟独立用起来。
2794 16
|
6天前
|
人工智能 开发工具 iOS开发
Claude Code 新手完全上手指南:安装、国产模型配置与常用命令全解
Claude Code 是一款运行在终端环境中的 AI 编程助手,能够直接在命令行中完成代码生成、项目分析、文件修改、命令执行、Git 管理等开发全流程工作。它最大的特点是**任务驱动、终端原生、轻量高效、多模型兼容**,无需图形界面、不依赖 IDE 插件,能够深度融入开发者日常工作流。
2383 5
|
21天前
|
人工智能 JSON 供应链
畅用7个月无影 JVS Claw |手把手教你把JVS改造成「科研与产业地理情报可视化大师」
LucianaiB分享零成本畅用JVS Claw教程(学生认证享7个月使用权),并开源GeoMind项目——将JVS改造为科研与产业地理情报可视化AI助手,支持飞书文档解析、地理编码与腾讯地图可视化,助力产业关系图谱构建。
23554 14
畅用7个月无影 JVS Claw |手把手教你把JVS改造成「科研与产业地理情报可视化大师」
|
8天前
|
人工智能 JSON BI
DeepSeek V4-Pro 接入 Claude Code 完全实战:体验、测试与关键避坑指南
Claude Code 作为当前主流的 AI 编程辅助工具,凭借强大的代码理解、工程执行与自动化能力深受开发者喜爱,但原生模型的使用成本相对较高。为了在保持能力的同时进一步降低开销,不少开发者开始寻找兼容度高、价格更友好的替代模型。DeepSeek V4 系列的发布带来了新的选择,该系列包含 V4-Pro 与 V4-Flash 两款模型,并提供了与 Anthropic 完全兼容的 API 接口,理论上只需简单修改配置,即可让 Claude Code 无缝切换为 DeepSeek 引擎。
2086 2
|
2天前
|
人工智能 Linux BI
国内用 Claude Code 终于不用翻墙了:一行命令搞定,自动接 DeepSeek
JeecgBoot AI专题研究 一键脚本:Claude Code + JeecgBoot Skills + DeepSeek 全平台接入 一行命令装好 Claude Code + JeecgBoot Skills + DeepSeek 接入,无需翻墙使用 Claude Code,支持 Wind
1362 1
国内用 Claude Code 终于不用翻墙了:一行命令搞定,自动接 DeepSeek
|
15天前
|
人工智能 缓存 Shell
Claude Code 全攻略:命令大全 + 实战工作流(完整版)
Claude Code 是一款运行在终端环境下的 AI 编码助手,能够直接在项目目录中理解代码结构、编辑文件、执行命令、执行开发计划,并支持持久化记忆、上下文压缩、后台任务、多模型切换等专业能力。对于日常开发、项目维护、快速重构、代码审查等场景,它可以大幅减少手动操作、提升编码效率。本文从常用命令、界面模式、核心指令、记忆机制、图片处理、进阶工作流等维度完整说明,帮助开发者快速上手并稳定使用。
3483 6
|
7天前
|
人工智能 安全 开发工具
Claude Code 官方工作原理与使用指南
Claude Code 不是传统代码补全工具,而是 Anthropic 推出的终端 AI 代理,具备代理循环、双驱动架构(模型+工具)、全局项目感知、6 种权限模式等核心能力,本文基于官方文档系统解析其工作原理与高效使用技巧。
1113 0