Python之joblib:joblib库的简介、安装、使用方法之详细攻略

简介: Python之joblib:joblib库的简介、安装、使用方法之详细攻略

joblib库的简介


       Joblib是一组在Python中提供轻量级管道的工具。特别是:


函数的透明磁盘缓存和延迟重新计算(记忆模式)

简单并行计算

       Joblib经过了优化,特别是在处理大型数据时速度更快、更健壮,并且对numpy数组进行了特定的优化。


文档说明:https://joblib.readthedocs.io

下载地址:https://pypi.python.org/pypi/joblib#downloads

源码地址: https://github.com/joblib/joblib

报告问题:https://github.com/joblib/joblib/issues



joblib库的安装


pip install joblib


image.png





joblib库的使用方法


1、输出值的透明快速磁盘缓存


       Python函数的类似memoize或make的功能,适用于任意Python对象,包括非常大的numpy数组。通过将操作写成一组具有定义良好的输入和输出的步骤,将持久性和流执行逻辑与域逻辑或算法代码分离开来:Python函数。Joblib可以节省他们的计算到磁盘和重新运行,只有在必要时:


>>> from joblib import Memory

>>> cachedir = 'your_cache_dir_goes_here'

>>> mem = Memory(cachedir)

>>> import numpy as np

>>> a = np.vander(np.arange(3)).astype(np.float)

>>> square = mem.cache(np.square)

>>> b = square(a)                                   # doctest: +ELLIPSIS

________________________________________________________________________________

[Memory] Calling square...

square(array([[0., 0., 1.],

      [1., 1., 1.],

      [4., 2., 1.]]))

___________________________________________________________square - 0...s, 0.0min

>>> c = square(a)

>>> # The above call did not trigger an evaluation


2、令人尴尬的并行助手:使它容易编写可读并行代码和调试它迅


>>> from joblib import Parallel, delayed

>>> from math import sqrt

>>> Parallel(n_jobs=1)(delayed(sqrt)(i**2) for i in range(10))

[0.0, 1.0, 2.0, 3.0, 4.0, 5.0, 6.0, 7.0, 8.0, 9.0]


3、快速压缩持久化


       替代pickle,有效地处理包含大数据的Python对象(joblib)。转储& joblib。负载)。










相关文章
|
监控 数据可视化 数据挖掘
Python Rich库使用指南:打造更美观的命令行应用
Rich库是Python的终端美化利器,支持彩色文本、智能表格、动态进度条和语法高亮,大幅提升命令行应用的可视化效果与用户体验。
1061 0
|
传感器 运维 前端开发
Python离群值检测实战:使用distfit库实现基于分布拟合的异常检测
本文解析异常(anomaly)与新颖性(novelty)检测的本质差异,结合distfit库演示基于概率密度拟合的单变量无监督异常检测方法,涵盖全局、上下文与集体离群值识别,助力构建高可解释性模型。
758 10
Python离群值检测实战:使用distfit库实现基于分布拟合的异常检测
|
12月前
|
数据可视化 关系型数据库 MySQL
【可视化大屏】全流程讲解用python的pyecharts库实现拖拽可视化大屏的背后原理,简单粗暴!
本文详解基于Python的电影TOP250数据可视化大屏开发全流程,涵盖爬虫、数据存储、分析及可视化。使用requests+BeautifulSoup爬取数据,pandas存入MySQL,pyecharts实现柱状图、饼图、词云图、散点图等多种图表,并通过Page组件拖拽布局组合成大屏,支持多种主题切换,附完整源码与视频讲解。
1027 4
【可视化大屏】全流程讲解用python的pyecharts库实现拖拽可视化大屏的背后原理,简单粗暴!
|
Linux 开发工具 C语言
30天python速成-第一天(python简介及下载安装)
30天python速成-第一天(python简介及下载安装)
|
Linux 开发者 iOS开发
|
开发框架 数据可视化 Java
Python Qt GUI设计简介、环境下载和安装(基础篇—1)
Python Qt GUI设计简介、环境下载和安装(基础篇—1)
Python Qt GUI设计简介、环境下载和安装(基础篇—1)
|
SQL Oracle 数据可视化
Indigo | Indigo(Python)简介、安装与入门
Indigo | Indigo(Python)简介、安装与入门
857 0
Indigo | Indigo(Python)简介、安装与入门
|
机器学习/深度学习 SQL 自然语言处理
Python:pmml格式文件的简介、安装、使用方法(利用python将机器学习模型转为Java常用的pmml格式文件)之详细攻略
Python:pmml格式文件的简介、安装、使用方法(利用python将机器学习模型转为Java常用的pmml格式文件)之详细攻略
|
JSON NoSQL 数据挖掘
Python之tushare:tushare库的简介、安装、使用方法之详细攻略
Python之tushare:tushare库的简介、安装、使用方法之详细攻略
Python之tushare:tushare库的简介、安装、使用方法之详细攻略
|
机器学习/深度学习 Python
Python之sklearn2pmml:sklearn2pmml库函数的简介、安装、使用方法之详细攻略daiding
Python之sklearn2pmml:sklearn2pmml库函数的简介、安装、使用方法之详细攻略daiding
Python之sklearn2pmml:sklearn2pmml库函数的简介、安装、使用方法之详细攻略daiding

推荐镜像

更多