【数据结构与算法】算法的时间复杂度和空间复杂度

简介: 【数据结构与算法】算法的时间复杂度和空间复杂度

前言


关于时空复杂度的分析,是每一个程序员的必备技能,本文将带你了解什么是时空复杂度?熟知怎样去计算一个算法的时间复杂度空间复杂度


1.算法效率

1.1.如何衡量一个算法的好坏

如何衡量一个算法的好坏呢?我们先看一段代码:


int Fib(int N)
{
    if(N < 3)
        return 1;
    return Fib(N-1) + Fib(N-2);
}


  • 这段代码是计算第N斐波那契数列的数是多少,可以看到,此算法采用的是递归,代码简洁,但简洁一定就好么?那么我们又该如何衡量其好坏呢?
  • 我们可以通过对代码的复杂度进行分析,从而得出其时间效率和空间效率,依此来衡量其好坏。


1.2.算法的复杂度


算法在编写成可执行程序后,运行时需要耗费时间资源和空间(内存)资源 。因此衡量一个算法的好坏,一般是从时间和空间两个维度来衡量的,即时间复杂度和空间复杂度。


时间复杂度主要衡量一个算法的运行快慢,而空间复杂度主要衡量一个算法运行所需要的额外空间。在计算机发展的早期,计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展,计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。


一般的,越复杂的代码,我们越难去计算其时间复杂度和空间复杂度, 这就需要我们长期的练习来增强我们对复杂度的敏感度以及对一个题目如何找出最优解的思想。


可能我们在平时写代码的时候,难以体会到复杂度好坏对程序的影响,但如果是一个大型项目,复杂度的好坏就显得尤为重要,这直接关乎到用户体验感的好坏,因此,一个程序复杂度的好坏是很重要的 。


2.时间复杂度


2.1.时间复杂度的概念


时间复杂度的定义:在计算机科学中,算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。一个算法执行所耗费的时间,从理论上说,是不能算出来的,只有你把你的程序放在机器上跑起来,才能知道。但是我们需要每个算法都上机测试吗?是可以都上机测试,但是这很麻烦,所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例,算法中的基本操作的执行次数,为算法的时间复杂度。


即:找到某条基本语句与问题规模N之间的数学表达式,就是算出了该算法的时间复杂度。


例如

<请计算一下Func1++count语句总共执行了多少次?>

void Func1(int N)
{
  int count = 0;
  for (int i = 0; i < N ; ++ i)
  {
    for (int j = 0; j < N ; ++ j)
    {
      ++count;
    }
  }
  for (int k = 0; k < 2 * N ; ++ k)
  {
    ++count;
  }
  int M = 10;
  while (M--)
  {
    ++count;
  }
  printf("%d\n", count);
}


Func1 执行的基本操作次数 :


7f942cab6cb94336aa98e3ff55d9c8e9.png


N为不同值时,对应的次数:

N = 10    F(N) = 130
N = 100   F(N) = 10210
N = 1000  F(N) = 1002010


但是,实际中我们计算时间复杂度时,我们其实并不一定要计算精确的执行次数,而只需要大概执行次数,那么这里我们使用大O的渐进表示法


2.2.大O的渐进表示法


大O符号(Big O notation):是用于描述函数渐进行为的数学符号。


推导大O阶方法:

  1. 用常数1取代运行时间中的所有加法常数。
  2. 在修改后的运行次数函数中,只保留最高阶项
  1. 如果最高阶项存在且不是1,则去除与这个项目相乘的常数。得到的结果就是大O阶。

使用大O的渐进表示法以后,Func1的时间复杂度为:

N = 10    F(N) = 100
N = 100   F(N) = 10000
N = 1000  F(N) = 1000000


通过上面我们会发现大O的渐进表示法去掉了那些对结果影响不大的项,简洁明了的表示出了执行次数。另外有些算法的时间复杂度存在最好平均最坏情况:

  • 最坏情况:任意输入规模的最大运行次数(上界)
  • 平均情况:任意输入规模的期望运行次数
  • 最好情况:任意输入规模的最小运行次数(下界)


例如:在一个长度为N数组中搜索一个数据x

  1. 最好情况:1次找到
  2. 最坏情况:N次找到
  3. 平均情况:N/2次找到


在实际中一般情况关注的是算法的最坏运行情况,所以数组中搜索数据时间复杂度为O(N)


2.3.常见时间复杂度计算举例


实例1:

void Func2(int N)
{
   int count = 0;
   for (int k = 0; k < 2 * N ; ++ k)
   {
    ++count;
   }
   int M = 10;
   while (M--)
   {
    ++count;
   }
   printf("%d\n", count);
}


2c70a457f4914c599309af4aac4d85a2.png


实例2:

void Func3(int N, int M)
{
   int count = 0;
   for (int k = 0; k < M; ++ k)
   {
    ++count;
   }
   for (int k = 0; k < N ; ++ k)
   {
    ++count;
   }
   printf("%d\n", count);
}


67693eb1562c4497aaeb3f3d05c8614c.png

实例3:

void Func4(int N)
{
   int count = 0;
   for (int k = 0; k < 100; ++ k)
   {
    ++count;
   }
   printf("%d\n", count);
}


这里count只加了100次,对于是常数次的情况,一律为O(1);

实例4:

// 计算strchr的时间复杂度?
const char * strchr ( const char * str, int character );


该例子基本操作执行最好1次,最坏N次,时间复杂度一般看最坏,时间复杂度为 O(N)

实例5:

// 计算BubbleSort的时间复杂度?
void BubbleSort(int* a, int n)
{
   assert(a);
   for (size_t end = n; end > 0; --end)
   {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
      break;
   }
}


实例5基本操作执行最好N次,最坏执行了N*(N+1)/2次,通过推导大O阶方法+时间复杂度一般看最
坏,时间复杂度为 O(N^2)

实例6:

// 计算BinarySearch的时间复杂度?
int BinarySearch(int* a, int n, int x)
{
   assert(a);
   int begin = 0;
   int end = n-1;
   // [begin, end]:begin和end是左闭右闭区间,因此有=号
   while (begin <= end)
   {
    int mid = begin + ((end-begin)>>1);
    if (a[mid] < x)
      begin = mid+1;
    else if (a[mid] > x)
      end = mid-1;
    else
      return mid;
   }
   return -1;
}



该例子基本操作执行最好1次,最坏O(logN)次,时间复杂度为 O(logN)

注意: logN在算法分析中表示是底数为2,对数为N。有些地方会写成lgN。(建议通过折纸查找的方式讲解logN是怎么计算出来的)


此算法为二分查找:通过与目标数的大小的比较,每次将搜索范围除以2,这种算法时间效率非常的高,但前提是,查找的数组是要有序的。也因此该算法很少被用到,因为要将一个数组排序,一般最低的时间效率为O(N*logN)。


实例7:


//计算一个数的阶乘递归写法
int Fac(size_t N)
{
   if(0 == N)
    return 1;
   return Fac(N-1)*N;
}


4b45463ce74848e691f86bdc5b7072b3.png


实例8:

// 计算斐波那契递归Fib的时间复杂度?
int Fib(size_t N)
{
  if(N < 3)
    return 1;
  return Fib(N-1) + Fib(N-2);
}



bbebe9890ac5433e824673b0bfd6da37.png


该例子通过计算分析发现基本操作递归了2^N次,时间复杂度为O(2^N)


2.4.常见时间复杂度


546985fc3ca948d8babc6dcf058bef9f.png


7c386be71da247cb87650474b21ef7d1.png


3.空间复杂度



空间复杂度也是一个数学表达式,是对一个算法在运行过程中临时占用存储空间大小的量度。

空间复杂度不是程序占用了多少bytes的空间,因为这个也没太大意义,所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似,也使用大O渐进表示法。

注意:函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。


示例1:


// 计算BubbleSort的空间复杂度?
void BubbleSort(int* a, int n)
{
   assert(a);
   for (size_t end = n; end > 0; --end)
   {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
      break;
   }
}


721ad9b7731c4091b7a175f7881ae27d.png


示例2:

// 计算Fibonacci的空间复杂度?
// 返回斐波那契数列的前n项
long long* Fibonacci(size_t n)
{
   if(n==0)
    return NULL;
   // 这里开辟了n + 1个空间
   long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
   fibArray[0] = 0;
   fibArray[1] = 1;
   for (int i = 2; i <= n ; ++i)
   {
    fibArray[i] = fibArray[i - 1] + fibArray [i - 2];
   }
   return fibArray;
}


该示例动态开辟了N + 1个空间,空间复杂度为 O(N)

示例3:

// 计算阶乘递归Fac的空间复杂度?
int Fac(size_t N)
{
   if(N == 0)
    return 1;
   return Fac(N-1)*N;
}


该示例递归调用了N次,开辟了N个栈帧,每个栈帧使用了常数个空间。空间复杂度为O(N)


4.复杂度oj练习


Practice.1 消失的数字


相关题目链接:Let’ s go!


这道题如果是暴力解法的话,最坏是O(N^2):将0~n中的每一个数在数组中遍历一次,如果在数组中没有找到与这个数相等的数,那这个数就是消失的数字;

由于只缺失了一个数,所以这里我们可以分别对数组和0~n个数进行求和,相减既是那个消失的数。整个过程,两个for循环,第一个遍历数组为n次,第二个为n + 1次,因此时间复杂度为:O(N), 而这里创建的变量为常数,因此空间复杂度为:O(1)。

int missingNumber(int* nums, int numsSize){
    int sum1 = 0, sum2 = 0;
    for (int i = 0; i < numsSize; i++) sum1 += nums[i];
    for (int i = 0; i <= numsSize; i++) sum2 += i;
    return sum2 - sum1;
}


由题,遍历数组和遍历0~n,其中只有那个消失的数遍历了一次,其它的数都出现了两次,因此我们可以对数组和0~n个数同时 按位异或 (如果两个相同的数异或,结果为0, 任意一个数与0异或结果都是这个数本身)来找出那个消失的数。整个过程很容易看出时间复杂度为:O(N),空间复杂度为:O(1).

int missingNumber(int* nums, int numsSize){
    int ret = 0;
    for (int i = 0; i < numsSize; i++) ret ^= nums[i];
    for (int i = 1; i <= numsSize; i++) ret ^= i;
    return ret;
}


Practice.2 旋转数组


相关题目链接:Let’ s go!


该题如果是依次挪动数据的话,最坏的情况是k = n(数组长度)- 1,此时为(n - 1) * n, 因此时间复杂度为O(N),空间复杂度为:O(1);


比较容易想到的提高时间效率的算法:我们可以使用额外的数组来将每个元素放至正确的位置,要挪动的数依次放入开辟的数组的前面,然后再将前面不旋转的数放置开辟的数组的后面,这样是以空间换时间,所以整体时间复杂度为:O(N),空间复杂度为:O(N)。


难想到的一种算法是:先将前n(为数组长度)-k个数翻转,再将后k个数翻转,最后整体翻转。这样的话,能够将整段代码的效率升至最高,时间复杂度为:O(N),空间复杂度为:O(1).

代码实现:

void reverse(int* a, int l, int r)
{
    assert(a);
    while (l < r)
    {
        int tmp = a[l];
        a[l] = a[r];
        a[r] = tmp;
        l++;
        r--;
    }
}
void rotate(int* nums, int numsSize, int k){
    k %= numsSize;
    reverse(nums, 0, numsSize - k - 1);
    reverse(nums, numsSize - k, numsSize - 1);
    reverse(nums, 0, numsSize - 1);
}


写在最后


对一段代码的时间复杂度和空间复杂度的分析熟练度客观上体现了你的算法水平,因此,我们在学好算法的道路上要一步一个脚印,切不可投机取巧。


感谢阅读本小白的博客,错误的地方请严厉指出噢!

相关文章
|
9天前
|
存储 算法 Java
算法系列之数据结构-二叉树
树是一种重要的非线性数据结构,广泛应用于各种算法和应用中。本文介绍了树的基本概念、常见类型(如二叉树、满二叉树、完全二叉树、平衡二叉树、B树等)及其在Java中的实现。通过递归方法实现了二叉树的前序、中序、后序和层次遍历,并展示了具体的代码示例和运行结果。掌握树结构有助于提高编程能力,优化算法设计。
42 9
 算法系列之数据结构-二叉树
|
6天前
|
算法 Java
算法系列之数据结构-Huffman树
Huffman树(哈夫曼树)又称最优二叉树,是一种带权路径长度最短的二叉树,常用于信息传输、数据压缩等方面。它的构造基于字符出现的频率,通过将频率较低的字符组合在一起,最终形成一棵树。在Huffman树中,每个叶节点代表一个字符,而每个字符的编码则是从根节点到叶节点的路径所对应的二进制序列。
29 3
 算法系列之数据结构-Huffman树
|
8天前
|
算法 Java
算法系列之数据结构-二叉搜索树
二叉查找树(Binary Search Tree,简称BST)是一种常用的数据结构,它能够高效地进行查找、插入和删除操作。二叉查找树的特点是,对于树中的每个节点,其左子树中的所有节点都小于该节点,而右子树中的所有节点都大于该节点。
54 22
|
1月前
|
存储 机器学习/深度学习 算法
C 408—《数据结构》算法题基础篇—链表(下)
408考研——《数据结构》算法题基础篇之链表(下)。
92 29
|
1月前
|
存储 算法 C语言
C 408—《数据结构》算法题基础篇—链表(上)
408考研——《数据结构》算法题基础篇之链表(上)。
106 25
|
1月前
|
存储 人工智能 算法
C 408—《数据结构》算法题基础篇—数组(通俗易懂)
408考研——《数据结构》算法题基础篇之数组。(408算法题的入门)
76 23
|
4月前
|
C语言
【数据结构】栈和队列(c语言实现)(附源码)
本文介绍了栈和队列两种数据结构。栈是一种只能在一端进行插入和删除操作的线性表,遵循“先进后出”原则;队列则在一端插入、另一端删除,遵循“先进先出”原则。文章详细讲解了栈和队列的结构定义、方法声明及实现,并提供了完整的代码示例。栈和队列在实际应用中非常广泛,如二叉树的层序遍历和快速排序的非递归实现等。
399 9
|
4月前
|
存储 算法
非递归实现后序遍历时,如何避免栈溢出?
后序遍历的递归实现和非递归实现各有优缺点,在实际应用中需要根据具体的问题需求、二叉树的特点以及性能和空间的限制等因素来选择合适的实现方式。
66 1
|
2月前
|
存储 C语言 C++
【C++数据结构——栈与队列】顺序栈的基本运算(头歌实践教学平台习题)【合集】
本关任务:编写一个程序实现顺序栈的基本运算。开始你的任务吧,祝你成功!​ 相关知识 初始化栈 销毁栈 判断栈是否为空 进栈 出栈 取栈顶元素 1.初始化栈 概念:初始化栈是为栈的使用做准备,包括分配内存空间(如果是动态分配)和设置栈的初始状态。栈有顺序栈和链式栈两种常见形式。对于顺序栈,通常需要定义一个数组来存储栈元素,并设置一个变量来记录栈顶位置;对于链式栈,需要定义节点结构,包含数据域和指针域,同时初始化栈顶指针。 示例(顺序栈): 以下是一个简单的顺序栈初始化示例,假设用C语言实现,栈中存储
160 77
|
13天前
|
算法 调度 C++
STL——栈和队列和优先队列
通过以上对栈、队列和优先队列的详细解释和示例,希望能帮助读者更好地理解和应用这些重要的数据结构。
26 11

热门文章

最新文章

  • 1
    局域网屏幕监控系统中的Python数据结构与算法实现
    139
  • 2
    2024重生之回溯数据结构与算法系列学习之串(12)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丟脸好嘛?】
    55
  • 3
    2024重生之回溯数据结构与算法系列学习之栈和队列精题汇总(10)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    50
  • 4
    2024重生之回溯数据结构与算法系列学习之单双链表精题详解(9)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    54
  • 5
    2024重生之回溯数据结构与算法系列学习(8)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    69
  • 6
    2024重生之回溯数据结构与算法系列学习之王道第2.3章节之线性表精题汇总二(5)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    43
  • 7
    2024重生之回溯数据结构与算法系列学习之单双链表【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    80
  • 8
    2024重生之回溯数据结构与算法系列学习之顺序表习题精讲【无论是王道考研人还真爱粉都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    44
  • 9
    2024重生之回溯数据结构与算法系列学习之顺序表【无论是王道考研人还真爱粉都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    52
  • 10
    2024重生之回溯数据结构与算法系列学习【无论是王道考研人还真爱粉都能包会的;不然别给我家鸽鸽丢脸好嘛?】
    52