Python之joblib:joblib库的简介、安装、使用方法之详细攻略

简介: Python之joblib:joblib库的简介、安装、使用方法之详细攻略

joblib库的简介


       Joblib是一组在Python中提供轻量级管道的工具。特别是:


函数的透明磁盘缓存和延迟重新计算(记忆模式)

简单并行计算

       Joblib经过了优化,特别是在处理大型数据时速度更快、更健壮,并且对numpy数组进行了特定的优化。


文档说明:https://joblib.readthedocs.io

下载地址:https://pypi.python.org/pypi/joblib#downloads

源码地址: https://github.com/joblib/joblib

报告问题:https://github.com/joblib/joblib/issues



joblib库的安装


pip install joblib


image.png





joblib库的使用方法


1、输出值的透明快速磁盘缓存


       Python函数的类似memoize或make的功能,适用于任意Python对象,包括非常大的numpy数组。通过将操作写成一组具有定义良好的输入和输出的步骤,将持久性和流执行逻辑与域逻辑或算法代码分离开来:Python函数。Joblib可以节省他们的计算到磁盘和重新运行,只有在必要时:


>>> from joblib import Memory

>>> cachedir = 'your_cache_dir_goes_here'

>>> mem = Memory(cachedir)

>>> import numpy as np

>>> a = np.vander(np.arange(3)).astype(np.float)

>>> square = mem.cache(np.square)

>>> b = square(a)                                   # doctest: +ELLIPSIS

________________________________________________________________________________

[Memory] Calling square...

square(array([[0., 0., 1.],

      [1., 1., 1.],

      [4., 2., 1.]]))

___________________________________________________________square - 0...s, 0.0min

>>> c = square(a)

>>> # The above call did not trigger an evaluation


2、令人尴尬的并行助手:使它容易编写可读并行代码和调试它迅


>>> from joblib import Parallel, delayed

>>> from math import sqrt

>>> Parallel(n_jobs=1)(delayed(sqrt)(i**2) for i in range(10))

[0.0, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0, 7.0, 8.0, 9.0]


3、快速压缩持久化


       替代pickle,有效地处理包含大数据的Python对象(joblib)。转储& joblib。负载)。










相关文章
|
6天前
|
机器学习/深度学习 Linux 开发者
Python必备工具:pip的安装与管理
Python必备工具:pip的安装与管理
13 0
|
7天前
|
Python
7-14|salt之安装Python模块
7-14|salt之安装Python模块
|
7天前
|
Python
7-9|Python如何安装ruamel.yaml
7-9|Python如何安装ruamel.yaml
|
8天前
|
Python Windows
安装python 以及 安装 pycharm
安装python 以及 安装 pycharm
|
9天前
|
Linux Python
Linux之centos安装clinkhouse以及python如何连接
Linux之centos安装clinkhouse以及python如何连接
|
4月前
|
开发工具 git Python
安装和使用`libnum`是一个用于数字理论函数的Python库
【6月更文挑战第19天】`libnum`是Python的数字理论函数库。安装可通过`git clone`,进入目录后运行`python setup.py install`,也可用`pip install libnum`。示例:使用`int_to_hex`将十进制数42转换为十六进制字符串'2a'。注意,信息可能已过时,应查最新文档以确保准确性。如遇问题,参考GitHub仓库或寻求社区帮助。
88 1
|
3月前
|
Python
确保你已经安装了`python-barcode`库。如果没有,可以通过pip来安装:
确保你已经安装了`python-barcode`库。如果没有,可以通过pip来安装:
|
Linux Python
不可出外网的主机如何快速、方便、优雅的安装Python库?
不可出外网的主机如何快速、方便、优雅的安装Python库?
493 0
不可出外网的主机如何快速、方便、优雅的安装Python库?
|
Linux 计算机视觉 Python
Windows下使用Pycharm安装python GUI库Kivy教程
Windows下使用Pycharm安装python GUI库Kivy教程
710 0
Windows下使用Pycharm安装python GUI库Kivy教程
|
Linux 测试技术 API
树莓派4B:1gRAM安装Python GUI库Kivy教程
树莓派4B:1gRAM安装Python GUI库Kivy教程
546 0
树莓派4B:1gRAM安装Python GUI库Kivy教程
下一篇
无影云桌面