如何将多组日志文件合并成一组 -问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文

如何将多组日志文件合并成一组

蛮大人123 2016-02-27 15:34:42 1379

现在有个需求,将多组日志(每组日志文件包含多个日志,每个日志20M)合并成一个,按照日志内容中的时间戳排序后,生成一组日志文件(每个日志100m)。
原有数据格式为:
URL
我目前的想法有两种,一种是将所有日志都存到内存里 然后排序。另外一种是读一段排一段,咨询了下别人,说有相关的多文件排序算法,所以想请教下。有没有简单的框架或者排序算法。

搜索推荐 数据格式
分享到
取消 提交回答
全部回答(1)
  • 蛮大人123
    2019-07-17 18:48:56

    如果源日志个数不多可以用方法一,简单粗暴有效,还可以用其他工具现成的排序方法。(比如我自己的应用就是1-4个日志文件合并之后展示,我就直接一个一个读出来追加到QT的表里,然后展示的时候按时间列排序)
    如果源文件个数多,而且本身已经是按时间排序的,那就用方法二,归并排序。

    0 0
+ 订阅

大数据计算实践乐园,近距离学习前沿技术

推荐文章
相似问题