TOP-K问题
TOP-K问题:即求数据结合中前K个最大的元素或者最小的元素,一般情况下数据量都比较大
比如:专业前10名、世界500强、富豪榜、游戏中前100的活跃玩家等
对于Top-K问题,能想到的最简单直接的方式就是排序,但是:如果数据量非常大,排序就不太可取了(可能数据都不能一下子全部加载到内存中)。
举个例子:
有十亿个整形数据,我们的内存时4G,也就是102410241024*8个字节的空间,十亿个整形数据需要的是40亿个字节的空间,就占了内存的一半空间,这是不可行的
最佳的方式就是用堆来解决,基本思路如下:
- 用数据集合中前K个元素来建堆
前k个最大的元素,则建小堆
前k个最小的元素,则建大堆 - 用剩余的N-K个元素依次与堆顶元素来比较,不满足则替换堆顶元素,将剩余N-K个元素依次与堆顶元素比完之后,堆中剩余的K个元素就是所求的前K个最小或者最大的元素
下面我们进行代码的实现:
首先我们生成1000个随机数,范围再十万以内,放入一个数组中:
srand(time(0)); int* a = (int*)malloc(sizeof(int) * 1000); if (a == NULL) { perror("malloc"); return 0; } for (size_t i = 0; i < 1000; i++) { a[i] = rand() % 100000; }
然后我们随机将数组中的任意k个元素改为超过十万的数字,方便验证:
a[7] = 100000 + 1; a[49] = 100000 + 2; a[123] = 100000 + 3; a[456] = 100000 + 4; a[789] = 100000 + 5;
我们还要用到向下调整算法,以便于建堆:
void swap(int* p1, int* p2) { int temp = *p1; *p1 = *p2; *p2 = temp; } void AdjustDown(int* a, int n, int parent) { int child = (parent * 2) + 1; while (child < n) { if (child + 1 < n && a[child + 1] < a[child]) { child++; } if (a[child] < a[parent]) { swap(&a[child], &a[parent]); parent=child; child = parent * 2 + 1; } else { break; } } }
最后我们将a数组中的前k个元素插入到top_k函数的数组里,然后进行一次向下调整算法,将其调整为大堆,然后再用剩下的n-k个元素与堆顶元素进行比较,如果比他大进替换进堆,然后进行向下调整
void top_k(int* a, int n, int k) { int i = 0; int* top = (int*)malloc(sizeof(int) * k); if (top == NULL) { perror("malloc"); return; } for (i = 0; i < k; i++) { top[i] = a[i]; } for (i = (k - 1 - 1) / 2; i >= 0; i--) { AdjustDown(top, k, i); } for (i = k; i < 1000; i++) { if (a[i] > top[0]) { top[0] = a[i]; AdjustDown(top, k, 0); } }
完整代码如下:
#include<stdio.h> #include<stdlib.h> #include<time.h> #include<assert.h> void swap(int* p1, int* p2) { int temp = *p1; *p1 = *p2; *p2 = temp; } void AdjustDown(int* a, int n, int parent) { int child = (parent * 2) + 1; while (child < n) { if (child + 1 < n && a[child + 1] < a[child]) { child++; } if (a[child] < a[parent]) { swap(&a[child], &a[parent]); parent=child; child = parent * 2 + 1; } else { break; } } } void top_k(int* a, int n, int k) { int i = 0; int* top = (int*)malloc(sizeof(int) * k); if (top == NULL) { perror("malloc"); return; } for (i = 0; i < k; i++) { top[i] = a[i]; } for (i = (k - 1 - 1) / 2; i >= 0; i--) { AdjustDown(top, k, i); } for (i = k; i < 1000; i++) { if (a[i] > top[0]) { top[0] = a[i]; AdjustDown(top, k, 0); } } for (i = 0; i < k; i++) { printf("%d ", top[i]); } free(top); } int main() { srand(time(0)); int* a = (int*)malloc(sizeof(int) * 1000); if (a == NULL) { perror("malloc"); return 0; } for (size_t i = 0; i < 1000; i++) { a[i] = rand() % 100000; } a[7] = 100000 + 1; a[49] = 100000 + 2; a[123] = 100000 + 3; a[456] = 100000 + 4; a[789] = 100000 + 5; int k = 5; top_k(a, 1000, k); }
向上调整算法和向下调整算法的时间复杂度
因为堆是完全二叉树,而满二叉树也是完全二叉树,此处为了简化使用满二叉树来证明(时间复杂度本来看的就是近似值,多几个节点不影响最终结果):
我们令高度为h,节点个数n就等于2^(h)-1个
那么在向上调整算法中:
最坏情况下,最后一层的节点需要向上移动h-1次,依次类推,就得到总次数的表达式,然后再用错位相减法和n和h的关系就能求出时间复杂度f(n)了
在向下调整算法中:
最坏情况下,倒数第二层节点向下只移动一次,第一层最多移动h-1次
总结下来我们就会发现,向上调整算法中是多节点乘多层数的关系,而向下调整算法则是多节点乘少层数的关系,我们进行比较就会发现其实向下调整算法的效率更高,所以在平常的排序和建堆中我们 最常用的还是向下调整算法
向上调整算法的时间复杂度为:
n*log(n)
向下调整算法的时间复杂度为:
log(n)
因此,向下调整算法的效率是远大于向上调整算法的!
好了,今天的分享到这里就结束了,谢谢大家的支持!