数据结构--算法的时间复杂度和空间复杂度

简介: 数据结构--算法的时间复杂度和空间复杂度


算法效率

算法效率是指算法在计算机上运行时所消耗的时间和资源。这是衡量算法执行速度和资源利用情况的重要指标。

例子:

long long Fib(int N)
{
  if(N < 3)
    return 1;
  return Fib(N-1) + Fib(N-2);
}

这是一个斐波那契函数,用的是递归的计算方法,每次创建函数就会在栈区开辟一块空间,递归次数越多,开辟空间越多;

所以,代码的简洁说明不了算法的效率

算法效率的评估主要包括时间复杂度和空间复杂度:

  1. 时间复杂度:时间复杂度描述了算法执行所需的时间随输入规模增加而增长的趋势。常见的时间复杂度包括常数时间O(1)、线性时间O(n)、对数时间O(log n)、平方时间O(n²)等。通过分析算法中关键操作的执行次数来确定时间复杂度,通常使用大O符号表示。
  2. 空间复杂度:空间复杂度描述了算法在执行过程中所需的额外存储空间随输入规模增加而增长的趋势。常见的空间复杂度包括常数空间O(1)、线性空间O(n)、对数空间O(log n)等。通过分析算法中使用的数据结构和辅助空间来确定空间复杂度。

评估算法效率时,我们希望选择具有更低时间复杂度和空间复杂度的算法,以提高程序的执行速度和资源利用率。但需要注意的是,时间复杂度和空间复杂度通常存在着一定的取舍关系,有时需要在时间和空间之间做出权衡。

除了时间复杂度和空间复杂度,还可以考虑一些实际情况下的算法效率问题,如最坏情况、平均情况和最好情况下的执行时间,以及算法在特定硬件环境下的性能等。综合考虑这些因素可以更全面地评估算法的效率。

为了提高算法效率,我们可以采用一些常见的优化方法,如减少循环次数、使用合适的数据结构和算法、剪枝和缓存等。同时,也可以借助工具和框架来提升算法效率,如并行计算、GPU加速、分布式计算等。

时间复杂度

时间复杂度的概念

在计算机科学中,算法的时间复杂度是一个函数,它定量描述了该算法的运行时间。一个算法执行所耗费的时间,从理论上说,是不能算出来的,只有你把你的程序放在机器上跑起来,才能知道。但是我们需要每个算法都上机测试吗?是可以都上机测试,但是这很麻烦,所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例,算法中的基本操作的执行次数,为算法的时间复杂度。

例子:计算Func1中的++count语句执行了多少次?

void Func1(int N)
{
  int count = 0;
  for (int i = 0; i < N ; ++ i)
  {
    for (int j = 0; j < N ; ++ j)
    {
      ++count;
    }
  }
  for (int k = 0; k < 2 * N ; ++ k)
  {
    ++count;
  }
  int M = 10;
  while (M--)
  {
    ++count;
  }
  printf("%d\n", count);
}

两个循环嵌套就是N^2,再一个单独的循环2*N,加上10;

那么

F(N)=N^2+2*N+10;

N=10时,F(N)=130

N=100时,F(N)=10210

N=1000时,F(N)=1002010

会发现N越大,F(N)越接近N^2;

在实际计算时间复杂度中,我们其实不一定要精准的计算出执行的次数,只需要大概的执行次数,那么这里我们使用大O的渐进表示法;

大O的渐进表示法

大O符号(Big O notation):是用于描述函数渐进行为的数学符号。是一种用于衡量算法时间复杂度的渐进表示方法;

推导大O阶方法

1、用常数1取代运行时间中的所有加法常数。
2、在修改后的运行次数函数中,只保留最高阶项。
3、如果最高阶项存在且不是1,则去除与这个项目相乘的常数。得到的结果就是大O阶。

用大O的渐进表示法,Func1的时间复杂度为:O(N^2)

N=10时,F(N)=100

N=100时,F(N)=10000

N=1000时,F(N)=1000000

通过计算我们发现,这样的表示方法去掉那些对结果影响不大的项,简明了洁表示出执行次数;

对于一些算法,会有好坏的情况,对于这种情况我们取最坏的情况

例如:在一个长度为N数组中搜索一个数据x

最好情况:1次找到

最坏情况:N次找到

平均情况:N/2次找到

时间复杂度O(N);

计算实例


void Func2(int N)
{
  int count = 0;
  for (int k = 0; k < 2 * N ; ++ k)
  {
    ++count;
  }
  int M = 10;
  while (M--)
  {
    ++count;
  }
  printf("%d\n", count);
}

在这里M是一个常数项,N是一个未知数,所以我们可以先把常数项略去;然后就只剩下2N,通过计算规则,省去最高项的常数;那么这个函数的时间复杂度为O(N);


void Func3(int N, int M)
{
  int count = 0;
  for (int k = 0; k < M; ++ k)
  {
    ++count;
  }
  for (int k = 0; k < N ; ++ k)
  {
    ++count;
  }
  printf("%d\n", count);
}

在这里,M与N都是未知数,且它们是同阶的,所以对于这种情况就要分类讨论:

M与N差不多大,那么时间复杂度:O(M)或O(N)

M远大于N,时间复杂度:O(M)

N远大于M,时间复杂度:O(N)


void Func4(int N)
{
  int count = 0;
  for (int k = 0; k < 100; ++ k)
  {
    ++count;
  }
  printf("%d\n", count);
}

这里给出了明确的次数,所以时间复杂度为O(1);


const char * strchr ( const char * str, int character );

查找字符串中第一个出现的字符返回指向 C 字符串

str 中第一个出现的字符的指针。

终止空字符被视为 C 字符串的一部分。因此,也可以定位它以检索指向字符串末尾的指针。

这个就是在字符串中寻找一个字符,对于这种就要分好坏情况;

最好1次,最坏N次,时间复杂度一般看最坏,时间复杂度为 O(N)。


void BubbleSort(int* a, int n)
{
  assert(a);
  for (size_t end = n; end > 0; --end)
  {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
    break;
  }
}

这是一个冒泡排序,很明显这个两个循环在嵌套;外循环执行1次,内循环就得执行N次;那么外循环执行N次,总共就执行N^2次

时间复杂度O(N^2);


int BinarySearch(int* a, int n, int x)
{
  assert(a);
  int begin = 0;
  int end = n-1;
  // [begin, end]:begin和end是左闭右闭区间,因此有=号
  while (begin <= end)
  {
    int mid = begin + ((end-begin)>>1);
    if (a[mid] < x)
      begin = mid+1;
    else if (a[mid] > x)
      end = mid-1;
    else
      return mid;
  }
  return -1;
}

这是一个二分查找函数,也叫折半查找;我们以最坏的情况去看,每循环一次这个数组的长度就会减半,假设以N表示数组的长度,我们要在数组中寻找一个数,那么假设寻找了x次,那么通过计算2^x=N;再通过换算就是x=log2 N;2是对数的底数,由于底数不好表示,所以对于这个函数的时间复杂度就是为O(logN);


long long Fac(size_t N)
{
if(0 == N)
return 1;
return Fac(N-1)*N;
}

这是一个阶乘递归函数,每递归一次N减1,直至为0,才返回;

那么时间复杂度为O(N)


long long Fib(size_t N)
{
if(N < 3)
return 1;
return Fib(N-1) + Fib(N-2);
}

这是开头的例子,斐波那契递归函数,每次在函数中就会递归到两个函数中去;

递归到最后,会发现像个金字塔一样,全部加起来F(N)=1+2+4+8+……+2(N-1),由数学的等比求和公式得F(N)=2^N-1;

那么时间复杂度为F(N)=2^N;

时间复杂度

空间复杂度也是一个数学表达式,是对一个算法在运行过程中临时占用存储空间大小的量度 。

空间复杂度不是程序占用了多少bytes的空间,因为这个也没太大意义,所以空间复杂度算的是变量的个数。

空间复杂度计算规则基本跟时间复杂度类似,也使用大O渐进表示法

注意:函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了,因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。

实例


void BubbleSort(int* a, int n)
{
  assert(a);
  for (size_t end = n; end > 0; --end)
  {
    int exchange = 0;
    for (size_t i = 1; i < end; ++i)
    {
      if (a[i-1] > a[i])
      {
        Swap(&a[i-1], &a[i]);
        exchange = 1;
      }
    }
    if (exchange == 0)
    break;
  }
}

在这里函数所开辟的空间都是局部变量在栈区开辟的,是已经确定下来的;

所以,空间复杂度为O(1)


long long* Fibonacci(size_t n)
{
  if(n==0)
  return NULL;
  long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
  fibArray[0] = 0;
  fibArray[1] = 1;
  for (int i = 2; i <= n ; ++i)
  {
    fibArray[i] = fibArray[i - 1] + fibArray [i - 2];
  }
  return fibArray;
}

这里用了malloc函数在堆区开辟了N个额外空间,所以

空间复杂度为O(N)


long long Fac(size_t N)
{
  if(N == 0)
  return 1;
  return Fac(N-1)*N;
}

这里用了递归的方法,每递归一次就会在栈帧中开辟一次空间,总共开辟N次,每次空间内为常数次大,所以

空间复杂度O(N);

常见复杂度对比

例题

这里用三种办法来解答:

第一种

时间复杂度:O(N^2)

空间复杂度:O(1)

这里利用这种方法,就是用两个循环嵌套,最终就得出了复杂度;

第二种

通过开辟额外空间,将对应位置的数字进行放入新数组中,最后再返回到原数组中;

时间复杂度:O(N)

空间复杂度:O(N)

void rotate(int* nums, int numsSize, int k){
  //开辟额外空间
  int* new=(int*)malloc(sizeof(int)*numsSize);
  //当k长度超过数组长度时
  k%=numsSize;
  memcpy(new,nums+numsSize-k,sizeof(int)*k);
  memcpy(new,nums,sizeof(int)*(numsSize-k));
  memcpy(nums,new,sizeof(int)*numsSize);
  free(new);
  
}

第三种

利用倒置再倒置的方法就将数组右旋;

时间复杂度:O(N)

空间复杂度:O(1)

//将数组进行倒置
void reserve(int* sem,int left,int right)
{
    while(left<right)
    {
        int tmp=sem[left];
        sem[left]=sem[right];
        sem[right]=tmp;
        left++;
        right--;
    }
}
void rotate(int* nums, int numsSize, int k){
    
    k%=numsSize;//如果k的长度大于numsize,需要取余
    //利用部分数组倒置,在全数组倒置的方法进行轮转
    reserve(nums,0,numsSize-k-1);
    reserve(nums,numsSize-k,numsSize-1);
    reserve(nums,0,numsSize-1);
    
}


相关文章
|
23天前
|
算法 数据处理 C语言
C语言中的位运算技巧,涵盖基本概念、应用场景、实用技巧及示例代码,并讨论了位运算的性能优势及其与其他数据结构和算法的结合
本文深入解析了C语言中的位运算技巧,涵盖基本概念、应用场景、实用技巧及示例代码,并讨论了位运算的性能优势及其与其他数据结构和算法的结合,旨在帮助读者掌握这一高效的数据处理方法。
34 1
|
26天前
|
机器学习/深度学习 算法 数据挖掘
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构。本文介绍了K-means算法的基本原理,包括初始化、数据点分配与簇中心更新等步骤,以及如何在Python中实现该算法,最后讨论了其优缺点及应用场景。
84 4
|
24天前
|
存储 算法 搜索推荐
Python 中数据结构和算法的关系
数据结构是算法的载体,算法是对数据结构的操作和运用。它们共同构成了计算机程序的核心,对于提高程序的质量和性能具有至关重要的作用
|
24天前
|
数据采集 存储 算法
Python 中的数据结构和算法优化策略
Python中的数据结构和算法如何进行优化?
|
1月前
|
算法
数据结构之路由表查找算法(深度优先搜索和宽度优先搜索)
在网络通信中,路由表用于指导数据包的传输路径。本文介绍了两种常用的路由表查找算法——深度优先算法(DFS)和宽度优先算法(BFS)。DFS使用栈实现,适合路径问题;BFS使用队列,保证找到最短路径。两者均能有效查找路由信息,但适用场景不同,需根据具体需求选择。文中还提供了这两种算法的核心代码及测试结果,验证了算法的有效性。
97 23
|
23天前
|
并行计算 算法 测试技术
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面,旨在通过综合策略提升程序性能,满足实际需求。
54 1
|
18天前
|
算法
基于WOA算法的SVDD参数寻优matlab仿真
该程序利用鲸鱼优化算法(WOA)对支持向量数据描述(SVDD)模型的参数进行优化,以提高数据分类的准确性。通过MATLAB2022A实现,展示了不同信噪比(SNR)下模型的分类误差。WOA通过模拟鲸鱼捕食行为,动态调整SVDD参数,如惩罚因子C和核函数参数γ,以寻找最优参数组合,增强模型的鲁棒性和泛化能力。
|
24天前
|
机器学习/深度学习 算法 Serverless
基于WOA-SVM的乳腺癌数据分类识别算法matlab仿真,对比BP神经网络和SVM
本项目利用鲸鱼优化算法(WOA)优化支持向量机(SVM)参数,针对乳腺癌早期诊断问题,通过MATLAB 2022a实现。核心代码包括参数初始化、目标函数计算、位置更新等步骤,并附有详细中文注释及操作视频。实验结果显示,WOA-SVM在提高分类精度和泛化能力方面表现出色,为乳腺癌的早期诊断提供了有效的技术支持。
|
4天前
|
供应链 算法 调度
排队算法的matlab仿真,带GUI界面
该程序使用MATLAB 2022A版本实现排队算法的仿真,并带有GUI界面。程序支持单队列单服务台、单队列多服务台和多队列多服务台三种排队方式。核心函数`func_mms2`通过模拟到达时间和服务时间,计算阻塞率和利用率。排队论研究系统中顾客和服务台的交互行为,广泛应用于通信网络、生产调度和服务行业等领域,旨在优化系统性能,减少等待时间,提高资源利用率。
|
11天前
|
存储 算法
基于HMM隐马尔可夫模型的金融数据预测算法matlab仿真
本项目基于HMM模型实现金融数据预测,包括模型训练与预测两部分。在MATLAB2022A上运行,通过计算状态转移和观测概率预测未来值,并绘制了预测值、真实值及预测误差的对比图。HMM模型适用于金融市场的时间序列分析,能够有效捕捉隐藏状态及其转换规律,为金融预测提供有力工具。