App数据持久化管理设计

简介: 合理管理App的持久化数据,防止数据库框架的强依赖

概述

在迭代过程中,我们碰到了不少持久化相关的问题,经历了数据模型逻辑爆炸,数据库API使用混乱,以及业务对数据库框架产生了强依赖。前两者通过不断的抽象整理,收敛的还算可以,但数据库框架的强依赖导致我们在做框架切换时遇到了大麻烦。

为了解决持久化遇到的问题,我在原有架构基础上增加DAO层设计,解耦数据库框架依赖,提升数据库查询与写入性能。

方案设计

持久化方案1.0

持久化方案1.0

Data Observer,基于Realm的数据集合变更通知做的观察器,当数据集合变更时,为UI数据源提供刷新回调,或者触发其他的数据操作。

Data Hander,用于数据入库前的预处理,比如Json String的预解析,或者触发其他的数据操作。

早期选型使用了Realm作为数据库底层,优势是Realm提供的ORM简单易用,支持跨平台方便统一逻辑。同时项目初期,也没有数据模型上的历史包袱。

数据库CRUD API由业务层直接调用,优点是在快速迭代中节约工作量,业务端可以充分使用数据库框架特性。缺点是随着项目体量的上升,五花八门的API用法无法统一管理,对数据库框架产生了强依赖。

随着单表数量不断上升,IO量不断上升,Realm框架逐渐出现瓶颈,也没能找到可行的解决方案,综合考虑后决定引入稳定的Sqlite来替换需要承载高IO的Realm数据库。

简单的提下Realm,Realm支持事务,数据版本管理,数据集合变更通知,表结构半自动迁移等比较方便的特性。

优势:

  1. 数据版本管理,即多个线程中,相同的表数据,Realm内核会帮你做数据同步。类似于Git仓库的逻辑,每个线程都是一个分支,每个分支上会做不同的commit,Realm能帮你把不同的分支最终都合并到mater上,保证数据的一致性。

  2. 数据集合变更通知,Realm支持监听表数据的增删改变化,比如创建一个Person表的Observer对象,当Person表新增了数据时,Observer即可获得到变更的数据集合。或者监听一个Person对象,当数据库中Person的字段发生变化,Observer也能收到具体变更了什么字段。

事与愿违,Realm作为一个较新的数据库框架,在使用过程中也是频频踩坑。

  1. 首先Realm没有索引,在检索大量数据时力不从心,单表数据超过500M的时候,查询性能明显下降。

  2. 同时Realm的数据模型是无法跨线程使用的,线程切换时,需要对数据进行Copy操作,有一定的性能占用。

  3. 多线程频繁写入时,Realm偶尔会出现数据库文件写坏的情况(Assertion failed: header.m_top_ref[1] == 0 with (header.m_top_ref[1], get_file_path_for_assertions())),提了issues也未能得到解决方案。

  4. 当表数据量过大,频繁写入时,Realm偶尔会出现mmap溢出的问题(Error Domain=io.realm Code=9 "mmap()failed: Cannot allocate memory size:1455652864 offse)。
  5. Realm的数据集合变更通知有概率会丢失,Realm的多线程的数据同步时机不可控。

综上所属,个人认为Realm在重度IO的项目中并不是很适合,首先填坑会占用大量时间,其次Realm相关文档确实少,很多问题再Github的issues上有记录,但官方也不能给出解决方案,最后填坑变挖坑。

持久化方案2.0

持久化方案2.0

抽象数据库协议

抽象数据库协议(Database Protocol)需要包含基本的CRUD API,还需要实现Where,Order By,Limit,Transaction等数据库基本功能。

我们的项目使用Sqlite与Realm两种数据库框架,使用抽象数据库协议可以解决数据库框架的强依赖,业务层只需实现抽象数据库,那么以后不论数据层是数据库框架变更,或者多版本数据库使用,都可以做到无缝切换。

数据持久化管理器

设计数据持久化管理器(Storage Manager)的目的是减少数据库查询的次数,以及减少数据库写入时对业务层造成的逻辑影响(如果业务层直接使用数据库API,则在处理业务逻辑的同时,还需要处理数据库API的各类异常情况)。

简单理解,数据持久化管理器是一个缓存池管理,提供了与数据库相同的CRUD API。其内部实现了将新增缓存数据入库,以及从数据库中获取需要的数据转入缓存等能力。

除去基本的CRUD,还实现了数据预处理插件以及数据变更观察器的能力。

数据预处理插件(Data Handler),当业务层将一个新数据模型写入到持久化管理器后,相关联的预处理插件即会生效。在插件中,可以做一些关联业务处理,比如当用户的名字更新时,同步触发会话名称的更新。

数据变更观察器(Data Observer),当持久化管理器将缓存数据写入到数据库后,将通知数据变更观察器。观察器可以得知当前数据源是发生更新、新增还是删除。同时观察器支持通过Where规则对数据源进行筛选,比如在聊天界面,ViewModel只关心当前会话的消息数据,通过Where规则筛选,当前会话数据发生变更时,ViewModel将收到通知回调,立即刷新消息气泡UI。

缓存模块

用于支撑数据持久化管理器的数据缓存能力(Storage Cache),实现CRUD API。

根据不同的场景,缓存模块分为有序型,无序型。

无序型,提供给对数据排列顺序没有要求的数据源使用。

有序型,提供给对数据排泄顺序有要求的数据源使用,可以指定排序规则,当变更发生时对数据源重新排序。比如会话列表需要根据创建时间倒序排列,群组列表需要根据创建时间升序排列。

缓存还需实现清理策略,避免对内存的不合理占用,比如iOS端收到系统内存预警时,会将缓存进行释放。

数据流向

数据流向

上图举例了网络数据从获取到入库,到UI刷新的整个流程。

  1. 数据请求器接收到IM消息,转换为数据模型,并将数据存入持久化管理器。
  2. 持久化管理器将数据存入持久化缓存,同时触发数据预处理插件(比如更新会话模型的最近聊天记录)。
  3. 持久化管理器通过调用抽象数据库,将IM消息数据入库。
  4. 完成数据存储后,数据变更通知中心将变更通知给观察器(比如播放收到新消息的提示音)。
  5. UI数据源收到数据通知,并将数据模型转换成UI模型,最终刷新UI。

PS:当数据存储到达高IO状态时,UI会由于用了通知刷新的逻辑,也会频繁被触发刷新,要注意对UI刷新的节流。

目录
相关文章
|
6月前
|
监控 安全 数据可视化
java基于微服务的智慧工地管理云平台SaaS源码 数据大屏端 APP移动端
围绕施工现场人、机、料、法、环、各个环节,“智慧工地”将传统建筑施工与大数据物联网无缝结合集成多个智慧应用子系统,施工数据云端整合分析,提供专业、先进、安全的智慧工地解决方案。
165 1
|
6月前
|
传感器 人工智能 监控
Uni-app智慧工地数据大屏可视化监管平台源码带APP
智慧工地的核心是数字化,它通过传感器、监控设备、智能终端等技术手段,实现对工地各个环节的实时数据采集和传输,如环境温度、湿度、噪音等数据信息,将数据汇集到云端进行处理和分析,生成各种报表、图表和预警信息,帮助管理人员了解工地的实时状况,及时做出决策和调整,
183 0
|
6月前
|
存储 JavaScript 小程序
jQuery、vue、小程序、uni-app中的本地存储数据和接受数据是什么?
jQuery、vue、小程序、uni-app中的本地存储数据和接受数据是什么?
74 0
|
1月前
|
JSON API 网络安全
App数据的爬取
App数据的爬取
|
3月前
|
存储 SQL JSON
【Azure Logic App】微软云逻辑应用连接到数据库,执行存储过程并转换执行结果为JSON数据
【Azure Logic App】微软云逻辑应用连接到数据库,执行存储过程并转换执行结果为JSON数据
【Azure Logic App】微软云逻辑应用连接到数据库,执行存储过程并转换执行结果为JSON数据
|
3月前
|
缓存
【Azure Function】Function App代码中使用Managed Identity认证获取Blob数据时遇见400报错
【Azure Function】Function App代码中使用Managed Identity认证获取Blob数据时遇见400报错
【Azure Function】Function App代码中使用Managed Identity认证获取Blob数据时遇见400报错
|
3月前
【Azure 事件中心】在Azure Function App中消费Event Hub数据,时常出现EventReceiveError
【Azure 事件中心】在Azure Function App中消费Event Hub数据,时常出现EventReceiveError
|
4月前
|
JavaScript Java 测试技术
基于SpringBoot+Vue+uniapp的宠物饲养管理APP的详细设计和实现(源码+lw+部署文档+讲解等)
基于SpringBoot+Vue+uniapp的宠物饲养管理APP的详细设计和实现(源码+lw+部署文档+讲解等)
|
4月前
|
JavaScript Java 测试技术
基于springboot+vue.js+uniapp的宠物饲养管理APP附带文章源码部署视频讲解等
基于springboot+vue.js+uniapp的宠物饲养管理APP附带文章源码部署视频讲解等
34 1
|
5月前
|
存储 安全 前端开发
APP管理后台OSS技术改造
旨在记录之前使用的上传文件是放在服务器的现在改成了oss更加高效管理

热门文章

最新文章

下一篇
无影云桌面