常见排序算法原理及实现——第二部分(归并排序、快速排序、堆排序)

简介: 常见排序算法原理及实现——第二部分(归并排序、快速排序、堆排序)

引言

排序算法第一部分,我们聊了冒泡排序、插入排序、选择排序这三种排序算法,它们的时间复杂度比较高,都是 O(n2),适合小规模数据的排序。今天,我们来看三种时间复杂度为 O(nlogn) 的排序算法,归并排序、快速排序和堆排序

归并排序和快速排序都用到了“分治”的思想。

一、快速排序(Quick Sort)

快速排序简称为“快排”,思路是:从待排序的数据中,选取一个基准点Pivot,遍历其他元素,将小于基准点的元素放到pivot的左边,将大于基准点的元素放到pivot的右边,将pivot放到中间。经过这一步后,待排序的数据就被分为三个部分:小于pivot的,大于pivot的,中间是pivot。然后,根据同样的思路,递归处理pivot的左右两边的待排数据,直到全部有序。

1.1 完整代码实现:
// 快速排序
int Partion(vector<int>&nums, int start, int end)
{
    int povit = nums[start]; // 这里选取第一个元素为基准点pivot
    while(start < end){
      // 从最后一个元素往前遍历,找到第一个小于等于基准点的元素,注意start < end
        while (start < end && nums[end] > povit) end--;
        nums[start] = nums[end];
    // 从第一个元素往后遍历,找到第一个大于基准点的元素,注意start < end
        while (start < end && nums[start] <= povit) start++;
        nums[end] = nums[start];
    }
    // 将基准点放到合适的位置
    nums[start] = povit; 
    // 返回修正后的基准点的下标位置
    return start;  
}
// @param nums: 待排序原始数据
// @param start:第一个元素的下标
// @param end:  最后一个元素的下标
void QuickSort(vector<int>&nums, int start, int end)
{
    if (start < end){
        int mid = Partion(nums, start, end);
        QuickSort(nums, start, mid-1);  // 递归处理pivot左边
        QuickSort(nums, mid+1, end); // 递归处理pivot左边
    }
    return;
}
int main()
{
    vector<int> nums = {20, 5, 3, 11, 6, 8, 7, 2};
    QuickSort(nums, 0, 7);
    cout << "QuickSort: " << endl;
    for (int i = 0; i < nums.size(); i++){
        cout << nums[i] << " " ;
    }
    cout << endl;
  return 0;
}

运行结果:

小结:快速排序是不稳定的、空间复杂度O(1),时间复杂度为:O(nlogn)的排序算法

1.2 快速排序的应用(获取第K大元素)
void QuickSortGetKth(vector<int>&nums, int start, int end, int k){
    if (start < end){
        int mid = Partion(nums, start, end);
        if (mid == k-1){
            cout << "the k is: " << nums[mid] << endl;
            return ;
        }
        else if(mid > k-1)
        {
            QuickSortGetKth(nums, start, mid-1, k);
        }else
        {
            QuickSortGetKth(nums, mid+1, end, k);
        }
    }
    return;
}

二、归并排序(Merge Sort)

归并排序的思路:将待排序的数据,从中间分为前后两个部分,分别对前后两个部分进行排序,再将排好序的前后两部分进行合并,最终完全有序。

分治一般用递归来实现。递归的要素就是:找到递推公式,找到终止条件,再将递推公式翻译为代码。

递推公式:
MergeSort(start, end) = Merge(MergeSort(start, mid),  MergeSort(mid+1, end));
终止条件:
start >= end 不再继续分解

完整代码实现

// 归并排序
void Merge(vector<int>& nums, int start, int mid, int end) // 合并函数
{
    int i = start, j = mid+1, k = 0;
    vector<int> tmp(end-start+1);  // 开辟临时空间
    while (i <= mid && j <= end)
    {
        if (nums[i] <= nums[j])
        {
            tmp[k++] = nums[i++];
        }
        else{
            tmp[k++] = nums[j++];
        }
    }
    while (i <= mid){
        tmp[k++] = nums[i++];
    }
    while (j <= end){
        tmp[k++] = nums[j++];
    }   
    for (int i = 0; i < end-start+1; i++){
        nums[i+start] = tmp[i];
    }
    return;
}
void MergeSort(vector<int>& nums, int start, int end)
{
    if (start >= end) return;
    int mid = start + ((end - start) >> 1);
    MergeSort(nums, start, mid);  // 继续分解前半部分,直到不满足分解条件
    MergeSort(nums, mid+1, end);
    Merge(nums, start, mid, end);
    return ;
}
int main()
{
    vector<int> nums = {20, 5, 3, 11, 6, 8, 7, 2};
    MergeSort(nums, 0, 7);
    cout << "MergeSort: " << endl;
    for (int i = 0; i < nums.size(); i++){
        cout << nums[i] << " " ;
    }
    cout << endl;
  return 0;
}

运行结果:

代码运行分析:

假设待排序的数据:nums = {11, 8, 3, 9, 7, 1, 2, 5},则:MergeSort(nums,0, 7); start = 0, end=7,mid = 3;

第一次分解:

前半部分:11, 8, 3, 9 ;此时 s = 0,e = 3,mid = 1; 执行 MergeSort(nums,0, 3)

后半部分:7, 1, 2, 5;此时 s = 4,e = 7,mid = 5; 执行 MergeSort(nums,4, 7) ;

前半部分11, 8, 3, 9 继续分解(递归进行)

第二次分解:

子前半部分:11, 8;此时 s = 0, e = 1,mid = 0; 执行 MergeSort(nums,0, 0) 和 MergeSort(nums,1, 1) 。注意

MergeSort(nums,0,0)和 MergeSort(nums,1,1)因为,if (start >= end) return; 本次递归结束,进入到Merge(nums,0,0,1)合并函数。注意,此时,子前半部分只有两个元素:11,8,开辟2个元素大小的临时空间。比较元素大小,按顺序放入临时空间,也就是[8,11] 。然后,返回到上一次递归MergeSort(nums, 0, 3);

子后半部分:3, 9;此时 s = 2, e = 3,mid = 2; 执行 MergeSort(nums,2, 2) 和 MergeSort(nums,3, 3) 。注意

MergeSort(nums,2,2)和 MergeSort(nums,3,3)因为,if (start >= end) return; 本次递归结束,进入到Merge(nums,2,3,3)合并函数。注意,此时,子后半部分只有两个元素:3,9,开辟2个元素大小的临时空间。比较元素大小,按顺序放入临时空间,也就是[3,9] 。然后,也返回到上一次递归MergeSort(nums, 0, 3);

进入到合并函数Merge(nums, 0, 1, 3); 此时,开辟3-0+1 = 4个元素大小的临时空间。比较元素大小,按顺序放入临时空间,也就是[3,8,9,11] 。

后半部分7, 1, 2, 5 继续分解(递归进行),有兴趣的小伙伴可以自己分析以下,思路同上。

最终,前后两部分合并为一个有序数组:[1,2,3,5,7,8,9,11]

小结:归并排序是稳定的,空间复杂度O(n),时间复杂度为O(nlogn)。

三、堆排序

3.1 堆的基础知识

堆一般指的是二叉堆,顾名思义,二叉堆是完全二叉树或者近似完全二叉树。

性质
  1. 是一棵完全二叉树
  2. 每个节点小于其子节点的值称为“小顶堆”,反之称为“大顶堆”
存储

一般用数组来表示堆,下标为i的节点的父节点下标为:(i-1)/2,其左右子几点下标分别为:(2i+1)和(2i+2)。

堆的操作(以大顶堆为例)

堆中定义了以下几种操作:

  1. 创建堆(BuildHeap)
  2. 堆调整(AdjustHeap):将堆的末端子节点作调整,使得子节点永远小于等于父节点
3.2 堆排序分析(图文结合,仔细阅读,一定能掌握堆排序)

实现堆排序思路:

  1. 如何由一个无序序列建成一个堆?
  2. 如何在输出堆顶元素之后,调整剩余元素成为一个新的堆?

假设: nums = {20, 5, 3, 11, 6, 8, 7, 2}, size = 8

创建堆:从第一个非叶子节点(下标为 size/2-1 = 3 的位置)开始调整,直到根节点(下标为0的位置)。

思考:为什么要从第一个非叶子节点开始调整呢?因为默认叶子节点满足大顶堆的性质。

下标为 i = 3 的节点,因为只有左孩子,满足大顶堆性质,且maxIdx == i,本次调整结束如下图:

下标为 i = 2 的节点, 因为左孩子为8,右孩子为7,maxIdx = 5,因为maxIdx != 2,交换并继续调整maxIdx。因为maxIdx的节点不满足调整条件,本次调整结束,如下:

下标为 i = 1的节点,左孩子为11,右孩子为6,最大值为11,则与最大值11交换,最大值的maxIdx = 3,继续进入AdjustHeap函数,此时,maxIdx位置的元素为5,左右节点已经满足大顶堆的性质,本次调整结束,如下:

下标为 i = 0的节点,已满足大顶堆的性质,本次调整结束,如下:

到这一步BuildHeap函数执行结束。此时,堆顶元素就是本次排序中最大的元素。

后面的思路就是,把堆顶元素与数组的最后一个元素进行交换,然后继续调整第一个元素,使之成为次大值,循环往复,直到最后一个元素。注意,每确定一个当前的最大值后,AdjustHeap(nums, maxIdx, size)函数的size需要减1。

3.3 堆排序完整代码实现
// 堆排序
void AdjustHeap(vector<int>&nums, int i, int size){
    int maxIdx = i;
    int lChild = 2*i+1, rChild = 2*i+2;
    if (lChild < size && nums[lChild] > nums[maxIdx]){
        maxIdx = lChild;
    }
    if (rChild < size && nums[rChild] > nums[maxIdx]){
        maxIdx = rChild;
    }
    if (maxIdx != i){
        swap(nums[maxIdx], nums[i]);
        AdjustHeap(nums, maxIdx, size);
    }
    return;
}
void BuildHeap(vector<int>&nums, int size)
{
    for (int i = size/2-1; i >= 0; i--){
        AdjustHeap(nums, i, size);
    }
    return;
}
void HeapSort(vector<int>&nums)
{
    int size = nums.size();
    BuildHeap(nums, size); 
    for (int i = size-1; i >= 0; i--){
        swap(nums[0], nums[i]); // 将堆顶元素与“最后一个元素交换”,继续调整
        AdjustHeap(nums, 0, i); // 注意这里i的变化
    }
    return;
}
int main()
{
    vector<int> nums = {20, 5, 3, 11, 6, 8, 7, 2};
    HeapSort(nums);
    cout << "Heap Sort: " << endl;
    for (int i = 0; i < size; i++){
        cout << nums[i] << " " ;
    }
    cout << endl;
  return 0;
}

运行结果:

小结:堆排序是不稳定的,空间复杂度O(1),时间复杂度为O(nlogn)。

四、总结

归并排序和快速排序是两种稍微复杂的排序算法,它们用的都是分治的思想,代码都通过递归来实现,过程非常相似。理解归并排序的重点是理解递推公式和 Merge合并函数。同理,理解快排的重点也是理解递推公式,还有 partition() 分区函数。

归并排序算法的时间复杂度在任何情况下都比较稳定,缺点是归并排序不是原地排序算法,空间复杂度比较高O(n)。正因为此,它也没有快排应用广泛。快速排序算法虽然最坏情况下的时间复杂度是 O(n2),但是平均情况下时间复杂度都是 O(nlogn)。快速排序时间复杂度退化到 O(n2) 的概率非常小,我们可以通过合理地选择 pivot 来避免这种情况。

堆排序需要好好揣摩创建堆、调整堆的思路,一定能熟练掌握。

文章参考于<零声教育>的C/C++linux服务期高级架构

相关文章
|
1月前
|
搜索推荐 C语言
【排序算法】快速排序升级版--三路快排详解 + 实现(c语言)
本文介绍了快速排序的升级版——三路快排。传统快速排序在处理大量相同元素时效率较低,而三路快排通过将数组分为三部分(小于、等于、大于基准值)来优化这一问题。文章详细讲解了三路快排的实现步骤,并提供了完整的代码示例。
59 4
|
2月前
|
存储 算法 Java
解析HashSet的工作原理,揭示Set如何利用哈希算法和equals()方法确保元素唯一性,并通过示例代码展示了其“无重复”特性的具体应用
在Java中,Set接口以其独特的“无重复”特性脱颖而出。本文通过解析HashSet的工作原理,揭示Set如何利用哈希算法和equals()方法确保元素唯一性,并通过示例代码展示了其“无重复”特性的具体应用。
57 3
|
28天前
|
存储 搜索推荐 Python
用 Python 实现快速排序算法。
快速排序的平均时间复杂度为$O(nlogn)$,空间复杂度为$O(logn)$。它在大多数情况下表现良好,但在某些特殊情况下可能会退化为最坏情况,时间复杂度为$O(n^2)$。你可以根据实际需求对代码进行调整和修改,或者尝试使用其他优化策略来提高快速排序的性能
121 61
|
3天前
|
算法 Java 数据库
理解CAS算法原理
CAS(Compare and Swap,比较并交换)是一种无锁算法,用于实现多线程环境下的原子操作。它通过比较内存中的值与预期值是否相同来决定是否进行更新。JDK 5引入了基于CAS的乐观锁机制,替代了传统的synchronized独占锁,提升了并发性能。然而,CAS存在ABA问题、循环时间长开销大和只能保证单个共享变量原子性等缺点。为解决这些问题,可以使用版本号机制、合并多个变量或引入pause指令优化CPU执行效率。CAS广泛应用于JDK的原子类中,如AtomicInteger.incrementAndGet(),利用底层Unsafe库实现高效的无锁自增操作。
理解CAS算法原理
|
1月前
|
算法 容器
令牌桶算法原理及实现,图文详解
本文介绍令牌桶算法,一种常用的限流策略,通过恒定速率放入令牌,控制高并发场景下的流量,确保系统稳定运行。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
令牌桶算法原理及实现,图文详解
|
24天前
|
存储 人工智能 缓存
【AI系统】布局转换原理与算法
数据布局转换技术通过优化内存中数据的排布,提升程序执行效率,特别是对于缓存性能的影响显著。本文介绍了数据在内存中的排布方式,包括内存对齐、大小端存储等概念,并详细探讨了张量数据在内存中的排布,如行优先与列优先排布,以及在深度学习中常见的NCHW与NHWC两种数据布局方式。这些布局方式的选择直接影响到程序的性能,尤其是在GPU和CPU上的表现。此外,还讨论了连续与非连续张量的概念及其对性能的影响。
46 3
|
29天前
|
机器学习/深度学习 人工智能 算法
探索人工智能中的强化学习:原理、算法与应用
探索人工智能中的强化学习:原理、算法与应用
|
1月前
|
负载均衡 算法 应用服务中间件
5大负载均衡算法及原理,图解易懂!
本文详细介绍负载均衡的5大核心算法:轮询、加权轮询、随机、最少连接和源地址散列,帮助你深入理解分布式架构中的关键技术。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
5大负载均衡算法及原理,图解易懂!
|
1月前
|
缓存 算法 网络协议
OSPF的路由计算算法:原理与应用
OSPF的路由计算算法:原理与应用
50 4
|
1月前
|
存储 算法 网络协议
OSPF的SPF算法介绍:原理、实现与应用
OSPF的SPF算法介绍:原理、实现与应用
84 3

热门文章

最新文章