【数据结构与算法】算法的时间复杂度和空间复杂度

简介: 【数据结构与算法】算法的时间复杂度和空间复杂度

前言


关于时空复杂度的分析,是每一个程序员的必备技能,本文将带你了解什么是时空复杂度?熟知怎样去计算一个算法的时间复杂度空间复杂度


1.算法效率

1.1.如何衡量一个算法的好坏

如何衡量一个算法的好坏呢?我们先看一段代码:


int Fib(int N)
{
    if(N < 3)
        return 1;
    return Fib(N-1) + Fib(N-2);
}


  • 这段代码是计算第N斐波那契数列的数是多少,可以看到,此算法采用的是递归,代码简洁,但简洁一定就好么?那么我们又该如何衡量其好坏呢?
  • 我们可以通过对代码的复杂度进行分析,从而得出其时间效率和空间效率,依此来衡量其好坏。


1.2.算法的复杂度


算法在编写成可执行程序后,运行时需要耗费时间资源和空间(内存)资源 。因此衡量一个算法的好坏,一般是从时间和空间两个维度来衡量的,即时间复杂度和空间复杂度。


时间复杂度主要衡量一个算法的运行快慢,而空间复杂度主要衡量一个算法运行所需要的额外空间。在计算机发展的早期,计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展,计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。


一般的,越复杂的代码,我们越难去计算其时间复杂度和空间复杂度, 这就需要我们长期的练习来增强我们对复杂度的敏感度以及对一个题目如何找出最优解的思想。


可能我们在平时写代码的时候,难以体会到复杂度好坏对程序的影响,但如果是一个大型项目,复杂度的好坏就显得尤为重要,这直接关乎到用户体验感的好坏,因此,一个程序复杂度的好坏是很重要的 。


2.时间复杂度


2.1.时间复杂度的概念


时间复杂度的定义:在计算机科学中,算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。一个算法执行所耗费的时间,从理论上说,是不能算出来的,只有你把你的程序放在机器上跑起来,才能知道。但是我们需要每个算法都上机测试吗?是可以都上机测试,但是这很麻烦,所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例,算法中的基本操作的执行次数,为算法的时间复杂度。


即:找到某条基本语句与问题规模N之间的数学表达式,就是算出了该算法的时间复杂度。


例如

<请计算一下Func1++count语句总共执行了多少次?>

void Func1(int N)
{
  int count = 0;
  for (int i = 0; i < N ; ++ i)
  {
    for (int j = 0; j < N ; ++ j)
    {
      ++count;
    }
  }
  for (int k = 0; k < 2 * N ; ++ k)
  {
    ++count;
  }
  int M = 10;
  while (M--)
  {
    ++count;
  }
  printf("%d\n", count);
}


Func1 执行的基本操作次数 :


7f942cab6cb94336aa98e3ff55d9c8e9.png


N为不同值时,对应的次数:

N = 10    F(N) = 130
N = 100   F(N) = 10210
N = 1000  F(N) = 1002010


但是,实际中我们计算时间复杂度时,我们其实并不一定要计算精确的执行次数,而只需要大概执行次数,那么这里我们使用大O的渐进表示法


2.2.大O的渐进表示法


大O符号(Big O notation):是用于描述函数渐进行为的数学符号。


推导大O阶方法:

  1. 用常数1取代运行时间中的所有加法常数。
  2. 在修改后的运行次数函数中,只保留最高阶项
  1. 如果最高阶项存在且不是1,则去除与这个项目相乘的常数。得到的结果就是大O阶。

使用大O的渐进表示法以后,Func1的时间复杂度为:

N = 10    F(N) = 100
N = 100   F(N) = 10000
N = 1000  F(N) = 1000000


通过上面我们会发现大O的渐进表示法去掉了那些对结果影响不大的项,简洁明了的表示出了执行次数。另外有些算法的时间复杂度存在最好平均最坏情况:

  • 最坏情况:任意输入规模的最大运行次数(上界)
  • 平均情况:任意输入规模的期望运行次数
  • 最好情况:任意输入规模的最小运行次数(下界)


例如:在一个长度为N数组中搜索一个数据x

  1. 最好情况:1次找到
  2. 最坏情况:N次找到
  3. 平均情况:N/2次找到


在实际中一般情况关注的是算法的最坏运行情况,所以数组中搜索数据时间复杂度为O(N)


2.3.常见时间复杂度计算举例


实例1:

void Func2(int N)
{
   int count = 0;
   for (int k = 0; k < 2 * N ; ++ k)
   {
    ++count;
   }
   int M = 10;
   while (M--)
   {
    ++count;
   }
   printf("%d\n", count);
}


2c70a457f4914c599309af4aac4d85a2.png


实例2:

void Func3(int N, int M)
{
   int count = 0;
   for (int k = 0; k < M; ++ k)
   {
    ++count;
   }
   for (int k = 0; k < N ; ++ k)
   {
    ++count;
   }
   printf("%d\n", count);
}


67693eb1562c4497aaeb3f3d05c8614c.png

实例3:

void Func4(int N)
{
   int count = 0;
   for (int k = 0; k < 100; ++ k)
   {
    ++count;
   }
   printf("%d\n", count);
}


这里count只加了100次,对于是常数次的情况,一律为O(1);

实例4:

// 计算strchr的时间复杂度?
const char * strchr ( const char * str, int character );


该例子基本操作执行最好1次,最坏N次,时间复杂度一般看最坏,时间复杂度为 O(N)

实例5:

// 计算BubbleSort的时间复杂度?
void BubbleSort(int* a, int n)
{
   assert(a);
   for (size_t end = n; end > 0; --end)
   {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
      break;
   }
}


实例5基本操作执行最好N次,最坏执行了N*(N+1)/2次,通过推导大O阶方法+时间复杂度一般看最
坏,时间复杂度为 O(N^2)

实例6:

// 计算BinarySearch的时间复杂度?
int BinarySearch(int* a, int n, int x)
{
   assert(a);
   int begin = 0;
   int end = n-1;
   // [begin, end]:begin和end是左闭右闭区间,因此有=号
   while (begin <= end)
   {
    int mid = begin + ((end-begin)>>1);
    if (a[mid] < x)
      begin = mid+1;
    else if (a[mid] > x)
      end = mid-1;
    else
      return mid;
   }
   return -1;
}



该例子基本操作执行最好1次,最坏O(logN)次,时间复杂度为 O(logN)

注意: logN在算法分析中表示是底数为2,对数为N。有些地方会写成lgN。(建议通过折纸查找的方式讲解logN是怎么计算出来的)


此算法为二分查找:通过与目标数的大小的比较,每次将搜索范围除以2,这种算法时间效率非常的高,但前提是,查找的数组是要有序的。也因此该算法很少被用到,因为要将一个数组排序,一般最低的时间效率为O(N*logN)。


实例7:


//计算一个数的阶乘递归写法
int Fac(size_t N)
{
   if(0 == N)
    return 1;
   return Fac(N-1)*N;
}


4b45463ce74848e691f86bdc5b7072b3.png


实例8:

// 计算斐波那契递归Fib的时间复杂度?
int Fib(size_t N)
{
  if(N < 3)
    return 1;
  return Fib(N-1) + Fib(N-2);
}



bbebe9890ac5433e824673b0bfd6da37.png


该例子通过计算分析发现基本操作递归了2^N次,时间复杂度为O(2^N)


2.4.常见时间复杂度


546985fc3ca948d8babc6dcf058bef9f.png


7c386be71da247cb87650474b21ef7d1.png


3.空间复杂度



空间复杂度也是一个数学表达式,是对一个算法在运行过程中临时占用存储空间大小的量度。

空间复杂度不是程序占用了多少bytes的空间,因为这个也没太大意义,所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似,也使用大O渐进表示法。

注意:函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。


示例1:


// 计算BubbleSort的空间复杂度?
void BubbleSort(int* a, int n)
{
   assert(a);
   for (size_t end = n; end > 0; --end)
   {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
      break;
   }
}


721ad9b7731c4091b7a175f7881ae27d.png


示例2:

// 计算Fibonacci的空间复杂度?
// 返回斐波那契数列的前n项
long long* Fibonacci(size_t n)
{
   if(n==0)
    return NULL;
   // 这里开辟了n + 1个空间
   long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
   fibArray[0] = 0;
   fibArray[1] = 1;
   for (int i = 2; i <= n ; ++i)
   {
    fibArray[i] = fibArray[i - 1] + fibArray [i - 2];
   }
   return fibArray;
}


该示例动态开辟了N + 1个空间,空间复杂度为 O(N)

示例3:

// 计算阶乘递归Fac的空间复杂度?
int Fac(size_t N)
{
   if(N == 0)
    return 1;
   return Fac(N-1)*N;
}


该示例递归调用了N次,开辟了N个栈帧,每个栈帧使用了常数个空间。空间复杂度为O(N)


4.复杂度oj练习


Practice.1 消失的数字


相关题目链接:Let’ s go!


这道题如果是暴力解法的话,最坏是O(N^2):将0~n中的每一个数在数组中遍历一次,如果在数组中没有找到与这个数相等的数,那这个数就是消失的数字;

由于只缺失了一个数,所以这里我们可以分别对数组和0~n个数进行求和,相减既是那个消失的数。整个过程,两个for循环,第一个遍历数组为n次,第二个为n + 1次,因此时间复杂度为:O(N), 而这里创建的变量为常数,因此空间复杂度为:O(1)。

int missingNumber(int* nums, int numsSize){
    int sum1 = 0, sum2 = 0;
    for (int i = 0; i < numsSize; i++) sum1 += nums[i];
    for (int i = 0; i <= numsSize; i++) sum2 += i;
    return sum2 - sum1;
}


由题,遍历数组和遍历0~n,其中只有那个消失的数遍历了一次,其它的数都出现了两次,因此我们可以对数组和0~n个数同时 按位异或 (如果两个相同的数异或,结果为0, 任意一个数与0异或结果都是这个数本身)来找出那个消失的数。整个过程很容易看出时间复杂度为:O(N),空间复杂度为:O(1).

int missingNumber(int* nums, int numsSize){
    int ret = 0;
    for (int i = 0; i < numsSize; i++) ret ^= nums[i];
    for (int i = 1; i <= numsSize; i++) ret ^= i;
    return ret;
}


Practice.2 旋转数组


相关题目链接:Let’ s go!


该题如果是依次挪动数据的话,最坏的情况是k = n(数组长度)- 1,此时为(n - 1) * n, 因此时间复杂度为O(N),空间复杂度为:O(1);


比较容易想到的提高时间效率的算法:我们可以使用额外的数组来将每个元素放至正确的位置,要挪动的数依次放入开辟的数组的前面,然后再将前面不旋转的数放置开辟的数组的后面,这样是以空间换时间,所以整体时间复杂度为:O(N),空间复杂度为:O(N)。


难想到的一种算法是:先将前n(为数组长度)-k个数翻转,再将后k个数翻转,最后整体翻转。这样的话,能够将整段代码的效率升至最高,时间复杂度为:O(N),空间复杂度为:O(1).

代码实现:

void reverse(int* a, int l, int r)
{
    assert(a);
    while (l < r)
    {
        int tmp = a[l];
        a[l] = a[r];
        a[r] = tmp;
        l++;
        r--;
    }
}
void rotate(int* nums, int numsSize, int k){
    k %= numsSize;
    reverse(nums, 0, numsSize - k - 1);
    reverse(nums, numsSize - k, numsSize - 1);
    reverse(nums, 0, numsSize - 1);
}


写在最后


对一段代码的时间复杂度和空间复杂度的分析熟练度客观上体现了你的算法水平,因此,我们在学好算法的道路上要一步一个脚印,切不可投机取巧。


感谢阅读本小白的博客,错误的地方请严厉指出噢!

相关文章
|
2天前
|
机器学习/深度学习 存储 算法
数据结构与算法 动态规划(启发式搜索、遗传算法、强化学习待完善)
数据结构与算法 动态规划(启发式搜索、遗传算法、强化学习待完善)
8 1
|
5天前
|
搜索推荐 C语言
【C语言/数据结构】排序(归并排序|计数排序|排序算法复杂度)
【C语言/数据结构】排序(归并排序|计数排序|排序算法复杂度)
11 0
|
5天前
|
存储 算法
Leetcode 30天高效刷数据结构和算法 Day1 两数之和 —— 无序数组
给定一个无序整数数组和目标值,找出数组中和为目标值的两个数的下标。要求不重复且可按任意顺序返回。示例:输入nums = [2,7,11,15], target = 9,输出[0,1]。暴力解法时间复杂度O(n²),优化解法利用哈希表实现,时间复杂度O(n)。
16 0
|
12天前
|
存储 机器学习/深度学习 算法
|
16天前
|
存储 算法 Python
程序设计的艺术:算法与数据结构的魅力
程序设计的艺术:算法与数据结构的魅力
8 0
|
4天前
|
机器学习/深度学习 算法 测试技术
【单调栈】3113. 边界元素是最大值的子数组数目
【单调栈】3113. 边界元素是最大值的子数组数目
|
2天前
栈的基本应用
栈的基本应用
10 3
|
2天前
栈与队列理解
栈与队列理解
8 1
|
2天前
|
存储 算法
数据结构与算法 栈与队列
数据结构与算法 栈与队列
7 0
数据结构与算法 栈与队列
|
2天前
|
C++
数据结构(共享栈
数据结构(共享栈
6 0