NumPy 与 Python 内置列表计算标准差的区别

简介: NumPy 是专门针对数组的操作和运算进行了设计,所以数组的存储效率和输入输出性能远优于Python中的嵌套列表,数组越大,NumPy的优势就越明显。

1 什么是 Numpy

NumPy,是 Numerical Python 的简称,用于高性能科学计算和数据分析的基础包,像数学科学工具(pandas)和框架(Scikit-learn)中都使用到了 NumPy 这个包。

NumPy 中的基本数据结构是 ndarray 或者 N 维数值数组,在形式上来说,它的结构有点像 Python 的基础类型——Python列表。

但本质上,这两者并不同,可以看到一个简单的对比。

我们创建两个列表,当我们创建好了之后,可以使用 + 运算符进行连接:

list1 = [i for i in range(1,11)]
list2 = [i**2 for i in range(1,11)]
print(list1+list2)
# [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 1, 4, 9, 16, 25, 36, 49, 64, 81, 100]

列表中元素的处理感觉像对象,不是很数字,不是吗? 如果这些是数字向量而不是简单的数字列表,您会期望 + 运算符的行为略有不同,并将第一个列表中的数字按元素添加到第二个列表中的相应数字中。

接下来看一下 Nympy 的数组版本:

import numpy as np
arr1 = np.array(list1)
arr2 = np.array(list2)
arr1 + arr2
# array([  2,   6,  12,  20,  30,  42,  56,  72,  90, 110])

通过 numpy 的 np.array 数组方法实现了两个列表内的逐个值进行相加。

我们通过 dir 函数来看两者的区别,先看 Python 内置列表 list1 的内置方法:

网络异常,图片无法展示
|

再用同样的方法看一下 arr1 中的方法:

网络异常,图片无法展示
|

NumPy 数组对象还有更多可用的函数和属性。 特别要注意诸如 meanstdsum 之类的方法,因为它们清楚地表明重点关注使用这种数组对象的数值/统计计算。 而且这些操作也很快。

2 NumPy 数组和 Python 内置计算对比

NumPy 的速度要快得多,因为它的矢量化实现以及它的许多核心例程最初是用 C 语言(基于 CPython 框架)编写的。 NumPy 数组是同构类型的密集排列的数组。 相比之下,Python 列表是指向对象的指针数组,即使它们都属于同一类型。 因此,我们得到了参考局部性的好处。

许多 NumPy 操作是用 C 语言实现的,避免了 Python 中的循环、指针间接和逐元素动态类型检查的一般成本。 特别是,速度的提升取决于您正在执行的操作。 对于数据科学和 ML 任务,这是一个无价的优势,因为它避免了长和多维数组中的循环。

让我们使用 @timing 计时装饰器来说明这一点。 这是一个围绕两个函数 std_devstd_dev_python 包装装饰器的代码,分别使用 NumPy 和内置 Python 代码实现列表/数组的数值标准差计算。

3 函数计算时间装饰器

我们可以使用 Python 装饰器和 functools 模块的 wrapping 来写一个 时间装饰器 timing:

def timing(func):
    @wraps(func)
    def wrap(*args, **kw):
        begin_time = time()
        result = func(*args, **kw)
        end_time = time()
        print(f"Function '{func.__name__}' took {end_time-begin_time} seconds to run")      
        return result
    return wrap

4 标准差计算公式

然后利用这个时间装饰器来看 Numpy 数组和 Python 内置的列表,然后计算他们的标准差,公式如图:

网络异常,图片无法展示
|

  1. 定义 Numpy 计算标准差的函数 std_dev()numpy 模块中内置了标准差公式的函数 a.std(),我们可以直接调用
  2. 列表计算公式方法需要按照公式一步一步计算:
  3. 先求求出宗和 s
  4. 然后求出平均值 average
  5. 计算每个数值与平均值的差的平方,再求和 sumsq
  6. 再求出 sumsq 的平均值 sumsq_average
  7. 得到最终的标准差结果 result

代码如下:

from functools import wraps
from time import time
import numpy as np
from math import sqrt
def timing(func):
    @wraps(func)
    def wrap(*args, **kw):
        begin_time = time()
        result = func(*args, **kw)
        end_time = time()
        # print(f"Function '{func.__name__}' with arguments {args},keywords {kw} took {end_time-begin_time} seconds to run")
        print(f"Function '{func.__name__}' took {end_time-begin_time} seconds to run")      
        return result
    return wrap
@timing
def std_dev(a):
    if isinstance(a, list):
        a = np.array(a)
    s = a.std()
    return s
@timing
def std_dev_python(lst):
    length = len(lst)
    s = sum(lst)
    average = s / length
    sumsq = 0
    for i in lst:
        sumsq += (i-average)**2
    sumsq_average = sumsq/length
    result = sqrt(sumsq_average)
    return result

运行结果,最终可以看到 1000000 个值得标准差的值为 288675.13459,而 Numpy 计算时间为 0.0080 s,而 Python 原生计算方式为 0.2499 s

网络异常,图片无法展示
|

由此可见,Numpy 的方式明显更快。

5 总结

NumPy 是专门针对数组的操作和运算进行了设计,所以数组的存储效率和输入输出性能远优于Python中的嵌套列表,数组越大,NumPy的优势就越明显。

NumPy 还提供了一系列让人眼前一亮的函数,可以用于高级数据科学和机器学习的数值数组和矩阵,今后我们再一一进行探索和学习!

相关文章
|
8月前
|
Python
Python中列表求和的深入理解
Python中列表求和的深入理解
153 0
|
4月前
|
Python
Python 练习实例44 - Python 两个矩阵相加
Python 练习实例44 - Python 两个矩阵相加
|
6月前
|
Python
NumPy 教程 之 NumPy 从数值范围创建数组 1
`numpy.arange` 生成指定范围内的等间距值数组。格式: `arange(start, stop, step, dtype)`。`start`:起始(默认0); `stop`:结束(非包含); `step`:增量(默认1); `dtype`:数据类型(自动推断)。适用于快速构建数值序列。
44 5
|
6月前
|
Python
NumPy 教程 之 NumPy 从数值范围创建数组 4
**NumPy 创建数组教程** - **`numpy.arange`**: 从数值范围生成 `ndarray`. - 格式: `np.arange(start, stop, step, dtype)` - 参数: - `start`: 起始值(默认0) - `stop`: 终止值(不包含) - `step`: 步长(默认1) - `dtype`: 数据类型(自动推断) - 示例: `np.arange(10, 20, 2)` 输出 `[10 12 14 16 18]`. 总计字符数: 236
34 2
|
6月前
|
Python
NumPy 教程 之 NumPy 从数值范围创建数组 2
在 NumPy 教程中,我们学习如何使用 `numpy.arange` 从数值范围创建数组。函数格式为 `numpy.arange(start, stop, step, dtype)`,其中: - `start`: 起始值(默认为 0), - `stop`: 终止值(不包含), - `step`: 步长(默认为 1), - `dtype`: 数据类型(默认使用输入数据类型). 示例代码创建了一个从 0 到 4 的数组: ```python import numpy as np x = np.arange(5) print(x) ``` 输出: `[0 1 2 3 4]`.
32 2
|
7月前
|
Python
NumPy 是 Python 中的一个重要的科学计算包,其核心是一个强大的 N 维数组对象 Ndarray
【6月更文挑战第18天】NumPy的Ndarray是科学计算的核心,具有ndim(维度数)、shape(各维度大小)、size(元素总数)和dtype(数据类型)属性。方法包括T(转置)、ravel()(扁平化)、reshape()(改变形状)、astype()(转换数据类型)、sum()(求和)及mean()(计算平均值)。更多属性和方法如min/max等可在官方文档中探索。
71 5
|
8月前
|
数据挖掘 Python
Python计算平均值
Python计算平均值
|
8月前
|
数据挖掘 Serverless Python
在Python中计算标准差
在Python中计算标准差
978 3
|
8月前
|
Python
在Python中计算一组数值数据的中位数
在Python中计算一组数值数据的中位数
343 2
|
8月前
|
存储 大数据 索引
【Python】NumPy数组和矢量计算
【1月更文挑战第26天】【Python】NumPy数组和矢量计算