python将矩阵存为lmdb文件

简介: python将矩阵存为lmdb文件

由于工作需要,将C++生成的矩阵存入LMDB再用caffe进行处理,输出的矩阵失去了它原本的shape,因此只能记录下来:

矩阵X(n*ell):


-372302407
1319544887
-223830618
-184109131
-328009648
-182855917
749988319
-1387505086
-1967883425
1022949309
1680638116
1541327498


矩阵Y(r*n):


1
0
0
0
11
-34
-280
109
151
-205
-105
156
-152
-151
27
199
-202
-125
-95
# 向lmdb数据库存入两个矩阵X和y,大小分别为n*ell、r*n
import numpy as np
import lmdb
# X:r*n
# Y:n*ell
r = 4
n = 32
ell = 30
X_path = './X.txt'
Y_path = './Y.txt'
def write_lmdb(filename):
    print('Write lmdb')
    lmdb_env = lmdb.open(filename, map_size=int(1e9))
    n_samples= 1
    # 读入X
    with open(X_path, 'r') as f:
        # 读取图像文件的二进制格式数据
        X_temp = f.read()
        X_temp = X_temp.split('\n')
        del (X_temp[-1])
        X = [int(i) for i in X_temp]
        X = np.array(X).astype(np.int64)
        # print(X)
    # 读入Y
    with open(Y_path, 'r') as f:
        # 读取图像文件的二进制格式数据
        Y_temp = f.read()
        Y_temp = Y_temp.split('\n')
        del (Y_temp[-1])
        y = [int(i) for i in Y_temp]
        y = np.array(y).astype(np.int64)
        # print(y)
    # 写入LMDB
    for i in range(n_samples):
        with lmdb_env.begin(write=True) as lmdb_txn:
            lmdb_txn.put(str('X_'+str(i)).encode(), X)
            lmdb_txn.put(str('y_'+str(i)).encode(), y)
            print('X:',X)
            print('y:',y)
def read_lmdb(filename):
    print('Read lmdb')
    lmdb_env = lmdb.open(filename)
    lmdb_txn = lmdb_env.begin()
    lmdb_cursor = lmdb_txn.cursor()
    n_samples=1
    read_array = []
    with lmdb_env.begin() as lmdb_txn:
        with lmdb_txn.cursor() as lmdb_cursor:
            for key, value in lmdb_cursor:
                if('X'.encode() in key):
                    read_temp = np.frombuffer(value, dtype=np.int64)
                    read_array.append(read_temp)
                if('y'.encode() in key):
                    read_temp = np.frombuffer(value, dtype=np.int64)
                    read_array.append(read_temp)
                n_samples = n_samples + 1
    x_read_temp = read_array[0]
    x_read = []
    x_read_line = []
    print("X: ")
    for i in range(x_read_temp.size):
        x_read_line.append(x_read_temp[i])
        if len(x_read_line) == (n+r)*ell: # 列数
            x_read.append(x_read_line.copy())
            x_read_line.clear()
    print(x_read)
    y_read_temp = read_array[1]
    y_read = []
    y_read_line = []
    print("Y: ")
    for i in range(y_read_temp.size):
        y_read_line.append(y_read_temp[i])
        if len(y_read_line) == n+r: # 列数
            y_read.append(y_read_line.copy())
            y_read_line.clear()
    print(y_read)
    print('n_samples',n_samples)
write_lmdb('temp.db')
read_lmdb('temp.db')


输出如下:


Write lmdb
X: [-372302407 1319544887 -223830618 ... 1998175905 -616375716 -132621858]
y: [   1    0    0    0   11  -34 -280  109  151 -205 -105    3  156 -152
 -151   27  199 -202 -125  -95  318  -88 -173  273  262 -127 -152 -322
  -18  198  110   65   14 -310  192  103    0    1    0    0 -215 -217
    0  -65 -123 -110  171   39  -78  -21   24  -61   23  -44  113  184
  169 -240 -157  -16  136  182 -331  156   26  112 -188 -175  244 -195
   30 -228    0    0    1    0  -55  -15  -62  -41  -24 -140  -94  198
 -130   -4  -33 -206  256 -230 -406 -170   84  -45 -283 -136   38  -39
   64  -84   85  -85   41 -241  -42 -107  -19 -135    0    0    0    1
  124    5 -235 -121   49 -115  242  -61 -353  106  353 -210 -194  219
 -228  183  -80  110  218 -243   10 -190 -338  -75   11 -177   31 -208
  176  -66   97 -134]


Read lmdb(由于数据太长,省略了后面的)
X: 
[[-372302407, 1319544887, -223830618, -184109131, ...], ...]
Y: 
[[1, 0, 0, 0, 11, -34, -280, 109, 151, -205, ...], ...]
相关文章
|
5天前
|
机器学习/深度学习 数据可视化 数据挖掘
使用Python实现基于矩阵分解的长期事件(MFLEs)时间序列分析
在现代数据分析中,高维时间序列数据的处理和预测极具挑战性。基于矩阵分解的长期事件(MFLEs)分析技术应运而生,通过降维和时间序列特性结合,有效应对大规模数据。MFLE利用矩阵分解提取潜在特征,降低计算复杂度,过滤噪声,并发现主要模式。相比传统方法如ARIMA和深度学习模型如LSTM,MFLE在多变量处理、计算效率和可解释性上更具优势。通过合理应用MFLE,可在物联网、金融等领域获得良好分析效果。
22 0
使用Python实现基于矩阵分解的长期事件(MFLEs)时间序列分析
|
13天前
|
存储 算法 Serverless
剖析文件共享工具背后的Python哈希表算法奥秘
在数字化时代,文件共享工具不可或缺。哈希表算法通过将文件名或哈希值映射到存储位置,实现快速检索与高效管理。Python中的哈希表可用于创建简易文件索引,支持快速插入和查找文件路径。哈希表不仅提升了文件定位速度,还优化了存储管理和多节点数据一致性,确保文件共享工具高效运行,满足多用户并发需求,推动文件共享领域向更高效、便捷的方向发展。
|
1月前
|
计算机视觉 Python
如何使用Python将TS文件转换为MP4
本文介绍了如何使用Python和FFmpeg将TS文件转换为MP4文件。首先需要安装Python和FFmpeg,然后通过`subprocess`模块调用FFmpeg命令,实现文件格式的转换。代码示例展示了具体的操作步骤,包括检查文件存在性、构建FFmpeg命令和执行转换过程。
52 7
|
3月前
|
安全 Linux 数据安全/隐私保护
python知识点100篇系列(15)-加密python源代码为pyd文件
【10月更文挑战第5天】为了保护Python源码不被查看,可将其编译成二进制文件(Windows下为.pyd,Linux下为.so)。以Python3.8为例,通过Cython工具,先写好Python代码并加入`# cython: language_level=3`指令,安装easycython库后,使用`easycython *.py`命令编译源文件,最终生成.pyd文件供直接导入使用。
120 3
python知识点100篇系列(15)-加密python源代码为pyd文件
|
2月前
|
开发者 Python
Python中__init__.py文件的作用
`__init__.py`文件在Python包管理中扮演着重要角色,通过标识目录为包、初始化包、控制导入行为、支持递归包结构以及定义包的命名空间,`__init__.py`文件为组织和管理Python代码提供了强大支持。理解并正确使用 `__init__.py`文件,可以帮助开发者更好地组织代码,提高代码的可维护性和可读性。
142 2
|
3月前
|
Linux 区块链 Python
Python实用记录(十三):python脚本打包exe文件并运行
这篇文章介绍了如何使用PyInstaller将Python脚本打包成可执行文件(exe),并提供了详细的步骤和注意事项。
147 1
Python实用记录(十三):python脚本打包exe文件并运行
|
2月前
|
中间件 Docker Python
【Azure Function】FTP上传了Python Function文件后,无法在门户页面加载函数的问题
通过FTP上传Python Function至Azure云后,出现函数列表无法加载的问题。经排查,发现是由于`requirements.txt`中的依赖包未被正确安装。解决方法为:在本地安装依赖包到`.python_packages/lib/site-packages`目录,再将该目录内容上传至云上的`wwwroot`目录,并重启应用。最终成功加载函数列表。
|
3月前
|
Java Python
> python知识点100篇系列(19)-使用python下载文件的几种方式
【10月更文挑战第7天】本文介绍了使用Python下载文件的五种方法,包括使用requests、wget、线程池、urllib3和asyncio模块。每种方法适用于不同的场景,如单文件下载、多文件并发下载等,提供了丰富的选择。
|
3月前
|
数据安全/隐私保护 流计算 开发者
python知识点100篇系列(18)-解析m3u8文件的下载视频
【10月更文挑战第6天】m3u8是苹果公司推出的一种视频播放标准,采用UTF-8编码,主要用于记录视频的网络地址。HLS(Http Live Streaming)是苹果公司提出的一种基于HTTP的流媒体传输协议,通过m3u8索引文件按序访问ts文件,实现音视频播放。本文介绍了如何通过浏览器找到m3u8文件,解析m3u8文件获取ts文件地址,下载ts文件并解密(如有必要),最后使用ffmpeg合并ts文件为mp4文件。
|
3月前
|
JSON 数据格式 Python
Python实用记录(十四):python统计某个单词在TXT/JSON文件中出现的次数
这篇文章介绍了一个Python脚本,用于统计TXT或JSON文件中特定单词的出现次数。它包含两个函数,分别处理文本和JSON文件,并通过命令行参数接收文件路径、目标单词和文件格式。文章还提供了代码逻辑的解释和示例用法。
61 0
Python实用记录(十四):python统计某个单词在TXT/JSON文件中出现的次数