当查询的数据来自多个数据源,有哪些好的分页策略?

简介: 当查询的数据来自多个数据源,有哪些好的分页策略?

概述

在业务系统开发中,尤其是后台管理系统,列表页展示的数据来自多个数据源,列表页需要支持分页,怎么解决?

问题

如上图,数据源可能来自不同 DB 数据库,可能来自不同 API 接口,也可能来自 DB 和 API 的组合。

我这也没有太好的解决方案,接到这样的需求,肯定首先和需求方沟通,这样分页是否合理。

无非就两种方案:

  • 数据定期同步,首先将查询的数据汇总到一个地方,然后再进行查询分页。
  • 内存中分页,首先将查询的数据存放到内存中,然后再进行查询分页。

如果以某一数据源进行分页,其他字段去其他数据源获取,这样还好处理一些。

如果以多个数据源融合后再分页的话,就数据定期同步 或 内存中分页吧。

数据定期同步方案可以根据实际情况去设计同步频率,至于同步到 ES/MySQL/MongoDB 内部决定即可。

关于内存中分页方案,下面分享两个小方法,供参考。

PHP 方法


$data = [
    0 => ['name' => "姓名1", 'age' => "年龄1"],
    1 => ['name' => "姓名2", 'age' => "年龄2"],
    2 => ['name' => "姓名3", 'age' => "年龄3"],
    3 => ['name' => "姓名4", 'age' => "年龄4"],
    4 => ['name' => "姓名5", 'age' => "年龄5"],
    5 => ['name' => "姓名6", 'age' => "年龄6"],
    6 => ['name' => "姓名7", 'age' => "年龄7"],
    7 => ['name' => "姓名8", 'age' => "年龄8"],
    8 => ['name' => "姓名9", 'age' => "年龄9"],
    9 => ['name' => "姓名10", 'age' => "年龄10"],
];

/**
 * 数组分页
 * @param array $arrayData 数组数据
 * @param int   $page      第几页
 * @param int   $pageSize  每页展示条数
 * @return array
 */
function arrayToPageData($arrayData = [], $page = 1, $pageSize = 10)
{
    $arrayData = array_values((array)$arrayData);
    $pageData['list'] = array_slice($arrayData, ($page - 1) * $pageSize, $pageSize);
    $pageData['pagination']['total'] = count($arrayData);
    $pageData['pagination']['currentPage'] = $page;
    $pageData['pagination']['prePageCount'] = $pageSize;
    return $pageData;
}

echo json_encode(arrayToPageData($data, 2, 3));

输出:


{
    "list": [
        {
            "name": "姓名4",
            "age": "年龄4"
        },
        {
            "name": "姓名5",
            "age": "年龄5"
        },
        {
            "name": "姓名6",
            "age": "年龄6"
        }
    ],
    "pagination": {
        "total": 10,
        "currentPage": 2,
        "prePageCount": 3
    }

Go 方法


package main

import (
  "encoding/json"
  "fmt"
)

type User []struct {
  Name string `json:"name"`
  Age  string `json:"age"`
}

type Pagination struct {
  Total        int `json:"total"`
  CurrentPage  int `json:"currentPage"`
  PrePageCount int `json:"prePageCount"`
}

type ListPageData struct {
  List       User `json:"list"`
  Pagination Pagination `json:"pagination"`
}

func main() {
  jsonStr := `[{"name": "姓名1","age": "年龄1"},
    {"name": "姓名2","age": "年龄2"},
    {"name": "姓名3","age": "年龄3"},
    {"name": "姓名4","age": "年龄4"},
    {"name": "姓名5","age": "年龄5"},
    {"name": "姓名6","age": "年龄6"},
    {"name": "姓名7","age": "年龄7"},
    {"name": "姓名8","age": "年龄8"},
    {"name": "姓名9","age": "年龄9"},
    {"name": "姓名10","age": "年龄10"}
  ]`

  var user User
  err := json.Unmarshal([]byte(jsonStr), &user)
  if err != nil {
    fmt.Println(err.Error())
  }

  page := 2
  pageSize := 3
  pageData := ArraySlice(user, page, pageSize)

  listPageData := ListPageData{}
  listPageData.List = pageData
  listPageData.Pagination.Total = len(user)
  listPageData.Pagination.CurrentPage = page
  listPageData.Pagination.PrePageCount = pageSize

  jsonData, _ := JsonEncode(listPageData)
  fmt.Println(jsonData)
}

func JsonEncode(v interface{}) (string, error) {
  bytes, err := json.Marshal(v)
  if err != nil {
    return "", err
  }
  return string(bytes), nil
}

func ArraySlice(u User, page int, pageSize int) User {
  offset := (page - 1) * pageSize
  if offset > int(len(u)) {
    panic("offset: the offset is less than the length of s")
  }
  end := offset + pageSize
  if end < int(len(u)) {
    return u[offset:end]
  }
  return u[offset:]

输出:


{
    "list": [
        {
            "name": "姓名4",
            "age": "年龄4"
        },
        {
            "name": "姓名5",
            "age": "年龄5"
        },
        {
            "name": "姓名6",
            "age": "年龄6"
        }
    ],
    "pagination": {
        "total": 10,
        "currentPage": 2,
        "prePageCount": 3
    }

小结

如果你有更好的方案,欢迎留言评论 ~

目录
相关文章
|
7月前
|
人工智能 5G API
别让你的小爱继续“装傻”了!5分钟给它换个“超强AI脑”,好用到全家惊呆!
想让小爱同学从“只会放歌设闹钟”升级为能写代码、做方案、陪聊解压的AI助手?本文提供保姆级教程:仅需5分钟,通过Lerio AI Speaker工具,无需换硬件,接入通义千问等大模型,赋予小爱真正智能!零门槛,全网页操作。
2234 1
|
安全 数据库 数据安全/隐私保护
处理用户输入数据格式验证不通过的情况时,如何给出友好的提示信息?
处理用户输入数据格式验证不通过的情况时,如何给出友好的提示信息?
1345 78
Idea在debug时打上断点没有用 Skipped breakpoint at ... because it happened inside debugger evaluation
Idea在debug时打上断点没有用 Skipped breakpoint at ... because it happened inside debugger evaluation
3668 0
|
Java Linux 开发工具
IDEA中git提交前如何关闭code analysis以及开启格式化代码
【10月更文挑战第12天】本文介绍了在 IntelliJ IDEA 中关闭代码分析和开启代码格式化的步骤。关闭代码分析可通过取消默认启用检查或针对特定规则进行调整实现,同时可通过设置 VCS 静默模式在提交时跳过检查。开启代码格式化则需在 `Settings` 中配置 `Code Style` 规则,并通过创建 Git 钩子实现提交前自动格式化。
6927 3
|
存储 缓存 Apache
Apache Iceberg数据湖高级特性及性能调优
性能调优涵盖索引优化、排序策略与元数据管理。通过布隆过滤器、位图索引等提升查询效率,结合文件内/间排序优化I/O与压缩,辅以Z-Order实现多维数据聚集。同时,合理配置元数据缓存与清单合并,加速查询规划。适用于点查、全表扫描及高并发写入场景,显著提升系统性能与资源利用率。
1223 0
|
存储 缓存 监控
【jvm系列-09】垃圾回收底层原理和算法以及JProfiler的基本使用
【jvm系列-09】垃圾回收底层原理和算法以及JProfiler的基本使用
691 0
|
SQL 数据库
Spring5入门到实战------13、使用JdbcTemplate操作数据库(批量增删改)。具体代码+讲解 【下篇】
这篇文章是Spring5框架的实战教程,深入讲解了如何使用JdbcTemplate进行数据库的批量操作,包括批量添加、批量修改和批量删除的具体代码实现和测试过程,并通过完整的项目案例展示了如何在实际开发中应用这些技术。
Spring5入门到实战------13、使用JdbcTemplate操作数据库(批量增删改)。具体代码+讲解 【下篇】
|
关系型数据库 MySQL 网络安全
宝塔面板忘记账号和密码的解决办法
宝塔面板忘记账号和密码的解决办法
|
消息中间件 监控 搜索推荐
OpenFeign日志组件Logger原理与应用
该文章详细解释了如何在OpenFeign中配置并使用请求和响应的GZIP压缩功能。