SQLite数据库修复方案(For Android App)

简介: 一、前言 SQLite性能好,对SQL支持全面,是久经考验的轻量的关系型数据库。移动开发者对SQLite应该都不陌生了,只是不同的 APP 对数据库的依赖程度不同(有的甚至不需要数据库-_-)。SQLite虽然是可靠性较高的数据库,但是在复杂的使用场景之下,也会不时地出点问题。

一、前言

SQLite性能好,对SQL支持全面,是久经考验的轻量的关系型数据库。
移动开发者对SQLite应该都不陌生了,只是不同的 APP 对数据库的依赖程度不同(有的甚至不需要数据库-_-)。
SQLite虽然是可靠性较高的数据库,但是在复杂的使用场景之下,也会不时地出点问题。
比如说有时候索引损坏,select count() from t_XXX 查询出的结果和select from t_XXX取出得记录数不一样;
有时候甚至存储的记录违反唯一约束,非空约束等等。
一旦出现这些问题,可能会引起数据不正确,或者功能异常。
为了尽量降低数据库不完整所引发的问题,我们需要有一套修复机制。

二、数据修复

一个简单的策略就是:检测-读取-写入-替换。
具体地说,就是先检测数据的完整性,当检测到数据库文件不完整时做修复。
SQLite提供了检测的API,但是没有提供直接修复的API,或许是因为错误的原因有很多,做纠错太困难了吧。
通常大家的做法就是转储数据到一个好的数据库文件中,再替换回去,就好比整理衣物,要先把衣服叠整齐,再放回衣柜。
有一些文章在写转储数据时, 会写dump sql, 然后执行sql,这也是转储的方式之一,但是有更高效的方式。

2.1 检测

SQLite提供了检测数据库完整性的API:

PRAGMA integrity_check

正常情况下执行此语句返回'ok', 而在当数据库不完整时(比如上面描述的一些情景),返回其他结果。

2.2 读取数据表

SQLite有一张内置表, sqlite_master, 此表中存储着数据库中所有表的相关信息,比如表的名称、索引、以及建表SQL等。
我们可以从中读取所有我们创建的表的名称:

    private static List<String> getTables(SQLiteDatabase desDb) {
        String sql = "SELECT name FROM sqlite_master " +
                "WHERE type='table' AND name!='android_metadata'";
        Cursor c = desDb.rawQuery(sql, null);
        try {
            List<String> tables = new ArrayList<>(c.getCount());
            while (c.moveToNext()) {
                tables.add(c.getString(0));
            }
            return tables;
        } finally {
            closeCursor(c);
        }
    }

2.3 读取数据

要读取数据,先要考虑读取出来之后,用什么方式存储。
先定一个数据结构:

public class TableData {
    public int row;
    public int column;
    public Object[] data;
}

然后,读取一张表的所有数据:

private static TableData getData(SQLiteDatabase srcDb, String sql) {
        Cursor c = srcDb.rawQuery(sql, null);
        try {
            int rawCount = c.getCount();
            if (rawCount <= 0) {
                return null;
            }
            int columnCount = c.getColumnCount();
            TableData tableData = new TableData();
            tableData.row = rawCount;
            tableData.column = columnCount;
            tableData.data = new Object[rawCount * columnCount];

            int row = 0;
            if (c instanceof AbstractWindowedCursor) {
                final AbstractWindowedCursor windowedCursor = (AbstractWindowedCursor) c;
                while (windowedCursor.moveToNext()) {
                    for (int i = 0; i < columnCount; i++) {
                        int index = row * columnCount + i;
                        if (windowedCursor.isBlob(i)) {
                            tableData.data[index] = windowedCursor.getBlob(i);
                        } else if (windowedCursor.isFloat(i)) {
                            tableData.data[index] = windowedCursor.getDouble(i);
                        } else if (windowedCursor.isLong(i)) {
                            tableData.data[index] = windowedCursor.getLong(i);
                        } else if (windowedCursor.isNull(i)) {
                            tableData.data[index] = null;
                        } else if (windowedCursor.isString(i)) {
                            tableData.data[index] = windowedCursor.getString(i);
                        } else {
                            tableData.data[index] = windowedCursor.getString(i);
                        }
                    }
                    row++;
                }
            } else {
                while (c.moveToNext()) {
                    for (int i = 0; i < columnCount; i++) {
                        int index = row * columnCount + i;
                        tableData.data[index] = c.getString(i);
                    }
                    row++;
                }
            }

            return tableData;
        } finally {
            closeCursor(c);
        }
    }

这里有一个疑问就是,为什么不读一行写一行?
也是可以的,但是那样的话会有两个坏处:
1、方法职能不单一,可读性低;
2、内存抖动。众所周知,连续读写的IO性能比随机读写要好。

但是读取全表再批量写入也有一个弊端:
如果一张表数据很大,可能会OOM。
当然,如果数据量比较大,我们可以采用分页的方式。

2.4 写入数据

  private static void insertToDb(SQLiteDatabase desDb, 
                                   String sql, 
                                   Object[] values, 
                                   int rows, 
                                   int columns) {
        if (values == null || columns <= 0 || rows <= 0 || values.length < (rows * columns)) {
            return;
        }
        SQLiteStatement statement = desDb.compileStatement(sql);
        try {
            for (int i = 0; i < rows; i++) {
                bindValues(statement, values, i, columns);
                try {
                    statement.executeInsert();
                } catch (SQLiteConstraintException e) {
                    LogUtil.e(TAG, e);
                }
                statement.clearBindings();
            }
        } finally {
            IOUtil.closeQuietly(statement);
        }
    }

   public static void bindValues(SQLiteStatement statement, 
                                  Object[] values, 
                                  int row, 
                                  int columns) {
        for (int j = 0; j < columns; j++) {
            Object value = values[row * columns + j];
            int index = j + 1;
            if (value == null) {
                statement.bindNull(index);
            } else if (value instanceof String) {
                statement.bindString(index, (String) value);
            } else if (value instanceof Number) {
                if (value instanceof Double 
                        || value instanceof Float 
                        || value instanceof BigDecimal) {
                    statement.bindDouble(index, ((Number) value).doubleValue());
                } else {
                    statement.bindLong(index, ((Number) value).longValue());
                }
            } else if (value instanceof byte[]) {
                statement.bindBlob(index, (byte[]) value);
            } else {
                statement.bindString(index, value.toString());
            }
        }
    }

其实很多其他的数据库引擎也提供了参数绑定的API。
这样的方式的好处就是,只用编译一次SQL。
而用SDK的insert方法,则每插入一条记录都需要编译一遍SQL。

需要注意的事,在转储数据时要捕获SQLiteConstraintException,因为在当数据文件不完整时,有的记录可能已经不满足约束(唯一约束,非空约束等)了。

2.5 复制数据

接下来,只需组装前面的方法,逐张表进行复制。

    private static void copyTable(SQLiteDatabase srcDb, SQLiteDatabase desDb,
                                  String table, StringBuilder builder) {
        TableData tableData = getData(srcDb, "SELECT * FROM " + table);
        if (tableData != null) {
            builder.setLength(0);
            builder.append("INSERT INTO ").append(table).append(" VALUES(");
            for (int i = 0; i < tableData.column; i++) {
                builder.append("?,");
            }
            builder.setCharAt(builder.length() - 1, ')');
            insertToDb(desDb, builder.toString(), tableData.data, tableData.row, tableData.column);
        }
    }

    private static void copyDataToNewDb(SQLiteDatabase srcDb, SQLiteDatabase desDb) {
        srcDb.beginTransaction();
        try {
            List<String> tables = getTables(desDb);
            StringBuilder builder = new StringBuilder(128);
            for (String table : tables) {
                desDb.execSQL("DELETE FROM " + table);
                copyTable(srcDb, desDb, table, builder);
            }
        } finally {
            srcDb.endTransaction();
        }
    }

复制完成后,把新数据库文件替换旧数据库文件即可。

三、预防措施

以上是数据库损坏后的对应策略,不一定有效,比如说数据库是彻底损坏(数据无法读取)时。
我们可以从另外两个方面做预防:

  • 1、防止数据库损坏
    比如检查磁盘剩余空间,当剩余空间小于一定大小时提醒用户清理空间;

还有就是注意切勿多进程访问数据库:集成推送,定位等服务,这些服务通常会有自己的进程,
这时候需要小心Application的onCreate方法,因为所有进程都会回调该方法。

  • 2、做备份
    定时做备份,比如每天或者每两天做一次备份,在数据库彻底损坏时至少还可以恢复绝大部分数据。

四、后记

我们的APP重度依赖数据库,数据量不算特别大,但是数据表多,操作路径多,数据库损坏什么的时有发生,对业务影响颇深。
用户数据有问题,有的会反馈,有的可能就卸载APP了。
最初没意识到SQLite完整性的问题,碰到一些奇怪的数据现象,钻进茫茫的业务代码中去查原因,有时候能找到一些可能的原因,但是常常是铩羽而归,最终也只是用一些临时方案使得用户可以恢复使用,治标而不治本。
后来渐渐意识到解决数据库损坏的问题,出了系一列措施之后,此类问题迎刃而解。

五、下载

已上传Demo到github。
地址:https://github.com/No89757/DBTest

相关文章
|
4天前
|
人工智能 小程序 Java
【工具】轻松解锁SQLite数据库,一窥微信聊天记录小秘密
本文介绍了一款名为PyWxDump的开源工具,它可以获取微信账户信息、解密SQLite数据库以查看和备份聊天记录。此工具适用于已登录电脑版微信的用户,通过GitHub下载后简单几步即可操作。适合对数据恢复感兴趣的开发者,但请注意合法合规使用并尊重隐私。
75 2
【工具】轻松解锁SQLite数据库,一窥微信聊天记录小秘密
|
6天前
|
运维 Kubernetes 容器
【Azure K8S】演示修复因AKS密钥过期而导致创建服务不成功的问题(The provided client secret keys for app ****** are expired)
【Azure K8S】演示修复因AKS密钥过期而导致创建服务不成功的问题(The provided client secret keys for app ****** are expired)
【Azure K8S】演示修复因AKS密钥过期而导致创建服务不成功的问题(The provided client secret keys for app ****** are expired)
|
1天前
|
SQL 存储 小程序
【教程】navicat配合HTTP通道远程连接SQLite数据库
本文介绍了如何通过 Navicat Premium 工具配合 n_tunnel_sqlite.php 和 HTTP 通道远程连接服务器上的 SQLite 数据库。SQLite 是一种自给自足的、无服务器的 SQL 数据库引擎,由于其端口未对外开放,直接使用 Navicat 进行远程连接不可行。文章详细记录了使用 HTTP 通道实现远程连接的过程,包括定位本地 `ntunnel_sqlite.php` 文件,将其上传至服务器,并通过 Navicat 配置 HTTP 通道连接 SQLite 数据库的具体步骤。
6 0
【教程】navicat配合HTTP通道远程连接SQLite数据库
|
3天前
|
API Android开发
Android P 性能优化:创建APP进程白名单,杀死白名单之外的进程
本文介绍了在Android P系统中通过创建应用进程白名单并杀死白名单之外的进程来优化性能的方法,包括设置权限、获取运行中的APP列表、配置白名单以及在应用启动时杀死非白名单进程的代码实现。
15 1
|
7天前
|
IDE Java 开发工具
探索安卓开发之旅:打造你的第一款App
【8月更文挑战第24天】在这篇文章中,我们将一起踏上激动人心的安卓开发之旅。不论你是编程新手还是希望扩展技能的老手,本文将为你提供一份详尽指南,帮助你理解安卓开发的基础知识并实现你的第一个应用程序。从搭建开发环境到编写“Hello World”,每一步都将用浅显易懂的语言进行解释。那么,让我们开始吧!
|
9天前
|
Java 数据库连接 数据库
java系列之~如何给sqlite数据库添加表
这篇文章介绍了如何在Java中使用SQLite JDBC驱动来连接SQLite数据库,并提供了示例代码来演示如何创建一个新的数据库表。
|
10天前
|
SQL 存储 数据库
SQLite数据库
【8月更文挑战第21天】SQLite数据库
24 3
|
11天前
|
存储 数据库 数据库管理
SQLite数据库的备份
【8月更文挑战第20天】SQLite数据库的备份
64 1
|
18天前
|
开发工具 Android开发
|
18天前
|
Android开发
将AAB(Android App Bundle)转换为APK
将AAB(Android App Bundle)转换为APK
28 1

热门文章

最新文章

下一篇
云函数