🍃前言
本次开发任务:对硬盘中存储的无用的消息数据进行垃圾回收
🎋准备工作
在书写垃圾回收的正式方法之前,我们希望有一个方法可以来判断当前内存是否需要垃圾回收
根据博主在前面开发垃圾回收的规定,我们规定总消息数达到2000,无效消息数量少于一半,此时我们再进行垃圾回收
代码实现如下:
// 检查当前是否要针对该队列的消息数据文件进行 GC public boolean checkGC(String queueName) { // 判定是否要 GC, 是根据总消息数和有效消息数. 这两个值都是在 消息统计文件 中的. Stat stat = readStat(queueName); if (stat.totalCount > 2000 && (double)stat.validCount / (double)stat.totalCount < 0.5) { return true; } return false; }
除此之外我们使用的是回收算法是复制算法
所以我们再创建一个新的方法,用于创建一个新的File对象,用来存放有效数据
private String getQueueDataNewPath(String queueName) { return getQueueDir(queueName) + "/queue_data_new.txt"; }
🎍具体实现
大致实现思路就为,准备一个行的文件名字就是 queue_data_new.txt
把之前消息数据文件中的有效消息都读出来, 写到新的文件中.
删除旧的文件, 再把新的文件改名回 queue_data.txt
最后更新统计文件即可
🚩创建一个新文件
在创建一个新文件之前,我们还需要做一件事儿
由于我们整个GC的时间可能比较长,所以我们希望在这整个方法刚开始进行记录一下当前时间,方法最后记录一下时间,利用两者差值计算整个GC的时间
接下来我们调用上述方法进行创建新文件
这里我们要进行两个判断
- 判断一:当前创建的File对象是否存在,若存在,说明上次GC失败了,这里我们需要抛出异常
- 判断二:判断文件是否创建成功
🚩读取有效对象
接下来我们从旧的文件读取所有有效对象,这时候我们直接调用我们前面用来写入内存的方法即可
🚩把有效消息写入新文件中
这个逻辑其实前面也有,但是我们这里再重新写一遍即可
对读取有效消息对象链表进行遍历,然后一个个写入文件中
实现如下:
🚩以旧换新
这里需要做的操作就是
删除旧的文件,然后将新文件重命名为旧文件名
这里也做两个判断:
- 判断一:旧的文件是否删除成功
- 判断二:是否重命名成功
🚩更新统计文件
最后不要忘记更新我们的统计文件
并在更新后,记录结束时间,并计算出该操作的具体耗时
🚩特别注意
我们载进行该操作的时候不希望受到其他操作的干扰,所以我们需要将整个操作进行加锁
加锁对象就为当前队列
🚩完整代码
// 通过这个方法, 真正执行消息数据文件的垃圾回收操作. // 使用复制算法来完成. // 创建一个新的文件, 名字就是 queue_data_new.txt // 把之前消息数据文件中的有效消息都读出来, 写到新的文件中. // 删除旧的文件, 再把新的文件改名回 queue_data.txt // 同时要记得更新消息统计文件. public void gc(MSGQueue queue) throws MqException, IOException, ClassNotFoundException { // 进行 gc 的时候, 是针对消息数据文件进行大洗牌. 在这个过程中, 其他线程不能针对该队列的消息文件做任何修改. synchronized (queue) { // 由于 gc 操作可能比较耗时, 此处统计一下执行消耗的时间. long gcBeg = System.currentTimeMillis(); // 1. 创建一个新的文件 File queueDataNewFile = new File(getQueueDataNewPath(queue.getName())); if (queueDataNewFile.exists()) { // 正常情况下, 这个文件不应该存在. 如果存在, 就是意外~~ 说明上次 gc 了一半, 程序意外崩溃了. throw new MqException("[MessageFileManager] gc 时发现该队列的 queue_data_new 已经存在! queueName=" + queue.getName()); } boolean ok = queueDataNewFile.createNewFile(); if (!ok) { throw new MqException("[MessageFileManager] 创建文件失败! queueDataNewFile=" + queueDataNewFile.getAbsolutePath()); } // 2. 从旧的文件中, 读取出所有的有效消息对象了. (这个逻辑直接调用上述方法即可, 不必重新写了) LinkedList<Message> messages = loadAllMessageFromQueue(queue.getName()); // 3. 把有效消息, 写入到新的文件中. try (OutputStream outputStream = new FileOutputStream(queueDataNewFile)) { try (DataOutputStream dataOutputStream = new DataOutputStream(outputStream)) { for (Message message : messages) { byte[] buffer = BinaryTool.toBytes(message); // 先写四个字节消息的长度 dataOutputStream.writeInt(buffer.length); dataOutputStream.write(buffer); } } } // 4. 删除旧的数据文件, 并且把新的文件进行重命名 File queueDataOldFile = new File(getQueueDataPath(queue.getName())); ok = queueDataOldFile.delete(); if (!ok) { throw new MqException("[MessageFileManager] 删除旧的数据文件失败! queueDataOldFile=" + queueDataOldFile.getAbsolutePath()); } // 把 queue_data_new.txt => queue_data.txt ok = queueDataNewFile.renameTo(queueDataOldFile); if (!ok) { throw new MqException("[MessageFileManager] 文件重命名失败! queueDataNewFile=" + queueDataNewFile.getAbsolutePath() + ", queueDataOldFile=" + queueDataOldFile.getAbsolutePath()); } // 5. 更新统计文件 Stat stat = readStat(queue.getName()); stat.totalCount = messages.size(); stat.validCount = messages.size(); writeStat(queue.getName(), stat); long gcEnd = System.currentTimeMillis(); System.out.println("[MessageFileManager] gc 执行完毕! queueName=" + queue.getName() + ", time=" + (gcEnd - gcBeg) + "ms"); } }
⭕总结
关于《【消息队列开发】 实现消息垃圾回收》就讲解到这儿,感谢大家的支持,欢迎各位留言交流以及批评指正,如果文章对您有帮助或者觉得作者写的还不错可以点一下关注,点赞,收藏支持一下