算法分析 | 第三套(渐近符号)

简介: 算法分析 | 第三套(渐近符号)

我们已经讨论了渐近分析最差、平均和最佳情况。渐近分析的主要思想是衡量算法的效率,这些算法不依赖于特定于机器的常数,并且不需要实现算法和比较程序所花费的时间。渐近符号是表示渐近分析算法时间复杂度的数学工具。以下3种渐近符号主要用于表示算法的时间复杂度。


image.png

1) Θ 表示法:  theta 表示法从上方和下方界定一个函数,因此它定义了精确的渐近行为。

获得表达式的 Theta 符号的一种简单方法是删除低阶项并忽略前导常量。例如,请考虑以下表达式。

3n 3 + 6n 2 + 6000 = Θ(n 3 ) 

去掉低阶项总是没问题的,因为总会有一个数(n) 之后 Θ(n 3 ) 的值高于 Θ(n 2 ),而不管常数如何涉及。

对于给定的函数 g(n),我们表示 Θ(g(n)) 跟随一组函数。

Θ(g(n)) = {f(n):存在正常数 c1、c2 和 n0,
                 使得 0 <= c1*g(n) <= f(n) <= c2*g(n) 对于所有n >= n0}

上面的定义意味着,如果 f(n) 是 g(n) 的 theta,那么对于较大的 n 值 (n >= n0)。theta 的定义还要求 f(n) 对于大于 n0 的 n 值必须为非负值。

image.png

2) Big O 表示法:  Big O 表示法定义了一个算法的上限,它只从上面限定一个函数。例如,考虑插入排序的情况。在最好的情况下需要线性时间,在最坏的情况下需要二次时间。我们可以有把握地说,插入排序的时间复杂度是 O(n^2)。请注意,O(n^2) 也涵盖线性时间。  如果我们使用 Θ 表示法来表示插入排序的时间复杂度,我们必须对最好和最坏情况使用两个语句:

  1. 插入排序的最坏情况时间复杂度是 Θ(n^2)。
  2. 插入排序的最佳情况时间复杂度是 Θ(n)。

当我们只有算法时间复杂度的上限时,大 O 表示法很有用。很多时候,我们只需查看算法就可以轻松找到上限。  

O(g(n)) = { f(n):存在正常数 c 和
                  n0,使得 0 <= f(n) <= c*g(n) 对于
                  所有 n >= n0}

image.png

3) Ω 表示法: 正如大 O 表示法提供函数的渐近上限一样,Ω 表示法提供渐近下界。

当我们对算法的时间复杂度有下限时,Ω 表示法会很有用。正如在前一篇文章中所讨论的,算法的最佳性能通常是没有用的,Omega 表示法是三者中使用最少的表示法。

对于给定的函数 g(n),我们用 Ω(g(n)) 表示函数集。

Ω (g(n)) = {f(n):存在正常数 c 和
                  n0,使得 0 <= c*g(n) <= f(n) 对于
                  所有 n >= n0}。

让我们在这里考虑相同的插入排序示例。插入排序的时间复杂度可以写成 Ω(n),但这并不是关于插入排序的一个非常有用的信息,因为我们通常对最坏情况感兴趣,有时对平均情况感兴趣。

渐近符号的属性:  在我们已经完成了这三个符号的定义之后,让我们现在讨论这些符号的一些重要属性。 1. 一般属性:

如果 f(n) 是 O(g(n)) 那么 a*f(n) 也是 O(g(n)) ;其中 a 是常数。

示例: f(n) = 2n²+5 是 O(n²)

然后 7*f(n) = 7(2n²+5) = 14n²+35 也是 O(n²) 。

类似地,此属性同时满足 Θ 和 Ω 表示法。

我们可以说 如果 f(n) 是 Θ(g(n)) 那么 a*f(n) 也是 Θ(g(n)) ;其中 a 是常数。

如果 f(n) 是 Ω (g(n)) 那么 a*f(n) 也是 Ω (g(n)) ;其中 a 是常数。

2. 传递属性:

如果 f(n) 是 O(g(n)) 并且 g(n) 是 O(h(n)) 那么 f(n) = O(h(n)) 。

示例:如果 f(n) = n,g(n) = n² 且 h(n)=n³

n 为 O(n²) 且 n² 为 O(n³),

则 n 为 O(n³)类似地,此属性同时满足 Θ 和 Ω 表示法。

我们可以说

如果 f(n) 是 Θ(g(n)) 并且 g(n) 是 Θ(h(n)) 那么 f(n) = Θ(h(n)) 。

如果 f(n) 是 Ω (g(n)) 并且 g(n) 是 Ω (h(n)) 那么 f(n) = Ω (h(n))

3. 反身属性

自反属性在传递之后总是很容易理解的。

如果给定 f(n),则 f(n) 为 O(f(n))。由于*f(n) 的最大值将是 f(n) 本身!*

因此 x = f(n) 和 y = O(f(n) 总是以自反关系联系在一起。

例子:  f(n) = n² ; O(n²) 即 O(f(n))

类似地,此属性同时满足 Θ 和 Ω 表示法。

我们可以说:

如果给定 f(n),则 f(n) 是 Θ(f(n))。

如果给定 f(n),则 f(n) 是 Ω (f(n))。

4. 对称性:

如果 f(n) 是 Θ(g(n)) 则 g(n) 是 Θ(f(n)) 。

示例:f(n) = n² 和 g(n) = n²

然后 f(n) = Θ(n²) 和 g(n) = Θ(n²)

此性质仅满足 Θ 表示法。

5. 转置对称属性:

如果 f(n) 为 O(g(n)),则 g(n) 为 Ω (f(n))。

示例:  f(n) = n , g(n) = n²

然后 n 是 O(n²) 并且 n² 是 Ω (n)

此属性仅满足 O 和 Ω 符号

6. 更多属性:

1.) 如果 f(n) = O(g(n)) 并且 f(n) = Ω(g(n)) 那么 f(n) = Θ(g(n))

2.) 如果 f(n) = O(g(n)) 并且 d(n)=O(e(n))

那么 f(n) + d(n) = O( max( g(n), e (n) ))

例:  f(n) = n 即 O(n)

d(n) = n² 即 O(n²)

然后 f(n) + d(n) = n + n² 即 O(n²)

3.) 如果 f(n)=O(g(n)) 并且 d(n)=O(e(n))

那么 f(n) * d(n) = O( g(n) * e(n) ) )

示例:  f(n) = n 即 O(n)

d(n) = n² 即 O(n²)

然后 f(n) * d(n) = n * n² = n³ 即 O(n³)


目录
相关文章
|
1月前
|
机器学习/深度学习 算法 搜索推荐
从理论到实践,Python算法复杂度分析一站式教程,助你轻松驾驭大数据挑战!
【10月更文挑战第4天】在大数据时代,算法效率至关重要。本文从理论入手,介绍时间复杂度和空间复杂度两个核心概念,并通过冒泡排序和快速排序的Python实现详细分析其复杂度。冒泡排序的时间复杂度为O(n^2),空间复杂度为O(1);快速排序平均时间复杂度为O(n log n),空间复杂度为O(log n)。文章还介绍了算法选择、分而治之及空间换时间等优化策略,帮助你在大数据挑战中游刃有余。
60 4
|
3月前
|
数据采集 机器学习/深度学习 算法
|
3月前
|
人工智能 算法 BI
第一周算法设计与分析 D : 两面包夹芝士
这篇文章介绍了解决算法问题"两面包夹芝士"的方法,通过找出两个数组中的最大最小值,计算这两个值之间的整数个数,包括特判不存在整数的情况。
|
26天前
|
并行计算 算法 IDE
【灵码助力Cuda算法分析】分析共享内存的矩阵乘法优化
本文介绍了如何利用通义灵码在Visual Studio 2022中对基于CUDA的共享内存矩阵乘法优化代码进行深入分析。文章从整体程序结构入手,逐步深入到线程调度、矩阵分块、循环展开等关键细节,最后通过带入具体值的方式进一步解析复杂循环逻辑,展示了通义灵码在辅助理解和优化CUDA编程中的强大功能。
|
1月前
|
算法
PID算法原理分析
【10月更文挑战第12天】PID控制方法从提出至今已有百余年历史,其由于结构简单、易于实现、鲁棒性好、可靠性高等特点,在机电、冶金、机械、化工等行业中应用广泛。
|
2月前
|
算法 搜索推荐 开发者
别再让复杂度拖你后腿!Python 算法设计与分析实战,教你如何精准评估与优化!
在 Python 编程中,算法的性能至关重要。本文将带您深入了解算法复杂度的概念,包括时间复杂度和空间复杂度。通过具体的例子,如冒泡排序算法 (`O(n^2)` 时间复杂度,`O(1)` 空间复杂度),我们将展示如何评估算法的性能。同时,我们还会介绍如何优化算法,例如使用 Python 的内置函数 `max` 来提高查找最大值的效率,或利用哈希表将查找时间从 `O(n)` 降至 `O(1)`。此外,还将介绍使用 `timeit` 模块等工具来评估算法性能的方法。通过不断实践,您将能更高效地优化 Python 程序。
59 4
|
1月前
|
算法
PID算法原理分析及优化
【10月更文挑战第6天】PID控制方法从提出至今已有百余年历史,其由于结构简单、易于实现、鲁棒性好、可靠性高等特点,在机电、冶金、机械、化工等行业中应用广泛。
|
2月前
|
算法 程序员 Python
程序员必看!Python复杂度分析全攻略,让你的算法设计既快又省内存!
在编程领域,Python以简洁的语法和强大的库支持成为众多程序员的首选语言。然而,性能优化仍是挑战。本文将带你深入了解Python算法的复杂度分析,从时间与空间复杂度入手,分享四大最佳实践:选择合适算法、优化实现、利用Python特性减少空间消耗及定期评估调整,助你写出高效且节省内存的代码,轻松应对各种编程挑战。
41 1
|
2月前
|
算法 数据可视化
基于SSA奇异谱分析算法的时间序列趋势线提取matlab仿真
奇异谱分析(SSA)是一种基于奇异值分解(SVD)和轨迹矩阵的非线性、非参数时间序列分析方法,适用于提取趋势、周期性和噪声成分。本项目使用MATLAB 2022a版本实现从强干扰序列中提取趋势线,并通过可视化展示了原时间序列与提取的趋势分量。代码实现了滑动窗口下的奇异值分解和分组重构,适用于非线性和非平稳时间序列分析。此方法在气候变化、金融市场和生物医学信号处理等领域有广泛应用。
127 19
|
3月前
|
算法
算法设计与分析作业
这篇文章是关于算法设计与分析的作业,其中包含了两个算法实现:一个是使用分治算法实现的十进制大整数相乘(包括加法、减法和乘法函数),并进行了正确性和健壮性测试;另一个是使用快速排序思想实现的分治查找第K小元素的程序,并分析了其平均和最坏时间复杂度。
算法设计与分析作业
下一篇
无影云桌面